嘉義古稱諸羅山，是臺灣最早開發的地區之一。該地原本是平埔族生活的地區，後經荷蘭人、鄭成功等政權屯墾開發，逐漸形成有規模的聚落。日本統治臺灣後，此地成為日本經營臺灣林業的重要據點，開始發展，逐漸形成今日嘉義市的規模。在這樣歷史悠久的產業重鎮，嘉義出現了許多重要的藝術家，其中一位就是在臺展發光發熱，後來在臺灣師大作育英才的林玉山。
林玉山原名英貴，出生於一九○七年，家中從事裱畫店的生意，可謂自小就浸淫在藝術的環境當中。裱畫店不僅提供裱畫服務，也兼販賣字畫，特別是臺灣傳統住家有「公媽廳」，需要懸掛神明畫像，裱畫店往往會聘用畫師以應付顧客的需求，林玉山因家中生意的需求，而習得這類傳統的畫像方式。
後來林玉山經家人引介，向日本南畫畫家伊坂旭江學畫，後又因陳澄波從臺北國語學校畢業回鄉任教，向其學習寫生與水彩，開拓繪畫的眼界。在伊坂旭江與陳澄波的鼓勵下，林玉山在一九二六年到日本求學，先在川端畫學校補習。一開始林玉山學習的是西洋畫，後來改學日本畫。川端畫學校由日本畫畫家川端玉章（一八四二－一九一三）成立，一開始是作為培養日本畫畫家的補習班。川端玉章過世後，由藤島武二（一八六七－一九四三）接任經營，增加西畫部門。由於藤島武二也是東京美術學校的教授，因此川端畫學校成為宛如東京美術學校預校一般的存在，許多知名的畫家都在此接受訓練，繼而考進東京美術學校。林玉山也是依循這樣的途徑，在此磨練畫技，準備東京美術學校的考試。
隔年臺灣美術展覽會首辦，林玉山以《水牛》、《大南門》二畫送件，意外獲得入選，與當時年紀相仿的陳進、郭雪湖，成為當時唯三入選東洋畫部的臺灣人，反而是當時夙有盛名的臺籍畫師紛紛落榜。當時報紙以「三少年」稱此初出茅廬即眾所矚目的新人，從此開啟了林玉山以繪畫為職志的一生道路。
戰後，林玉山先任教於嘉義市立中學，後轉省立嘉義中學。一九五○年受聘至靜修女中任教。他曾在文中回憶這段往事：
「因鑒省會臺北，內地的畫界名家雲集，書畫收藏家亦大有其人，人文薈萃，機會難逢，此時適逢臺北靜修女中擬增設藝術專科，託雲生君向余交涉為該科美術主任，故決意應請，辭省立嘉中教職。」
後因省展審查時認識時任師範大學藝術系系主任的黃君璧，應邀在藝術系兼課，而成為師大美術系教師群之一，直至退休，期間培養眾多藝術人才，深為臺灣畫壇敬重。
林玉山從日治時期的畫壇新秀出發，在戰後執教臺灣培養美術人才最重要的高等學府師大美術系，一直位居畫壇的重要地位，實屬少見。哲嗣林柏亭繼承父志，自師大美術系畢業後，繼續從事美術史研究，後來進入國立故宮博物院，以副院長一職退休，可謂著名的繪畫門第。
