臺灣鐵工所的前身為臺灣製糖株式會社高雄鐵工所，成立背景與日治時代日本在臺灣推行新式糖廠的政策密切關連。1900年以臺灣製糖株式會社為首的新式製糖工廠相繼成立，所需之建廠設備多由國外進口。糖廠竣工後，壓榨過程中使用的滾轆（Roller）及相關附屬設備，當時的日本國內和臺灣尚無能力製造。在此之際，各製糖會社的技術支援和維修需仰仗美國、德國的公司，或仰賴有許多日本移民、擁有日本人商業網絡的夏威夷在地的鐵工所提供服務。
以當時臺灣的工業能力而言，姑且不論製糖機械製作，甚至連糖廠簡單的修理都需仰賴國外；製糖事業因機械故障而中斷，送往糖廠的甘蔗若受到延宕，將影響產糖的品質。臺灣糖業株式會社為解決糖廠修繕的問題，1909年於橋頭工場興建鑄造工場，1915年開始嘗試生產滾轆。在此同時，1916年6月，灣裡工場亦決定鑄造滾轆，但卻因硬度不夠而無法順利生產。同年8月，橋頭工場鑄造滾轆時發現，以25%的軟鋼配合鋼屑能增加滾轆的硬度，因而開始量產。
爾後在1917年9月，橋頭的鑄造工場或許受限於原本的廠房面積較小，於是將廠房搬遷至高雄，並開始生產鐵道貨車的車輛。依據記載，從開始生產滾轆至1919年底，共生產115支，其中的1918-1919年，訂單來自大日本、東洋、明治、鹽水港、帝國製糖等島內各製糖會社。值得注意的是，由於第一次世界大戰爆發，歐美各國的機械業多轉向生產軍需物資，加上日本國內的機械業者也十分繁忙；臺灣各製糖會社在不易從國外和日本國內購買製糖機械的情況下，體認到本地簡易的修理與鑄造工廠無法滿足島內所需，於是決議聯合出資，設立以生產製糖機械為主的鐵工所，並以臺灣製糖株式會社的鑄造工場為主體。
與此同時，鈴木商店神戶製鋼位於臺灣分工廠的臺北鐵工所也預定在臺灣籌設大型造船鐵工所，並先於高雄購買約一萬坪的土地，作為廠房興建使用。另外，大阪田中機械製作所董事長田中岩吉亦計劃在臺灣進行類似投資。
在多方均有投資計畫之際，最終達成合資設立以製造和修繕糖業機械為主之大型鐵工所的共識，並於1919年11月成立臺灣鐵工所，總公司設於高雄。在廠房建置上，初期先以鈴木商店所屬的臺北鐵工所為基礎，並且併購臺灣製糖株式會社附屬高雄鐵工所。臺北工場在1919年12月1日完成經營權轉讓，高雄工場則於1920年1月1日完成買收。
資本額與董監事布局
創立初始，臺灣鐵工所的資本額為200萬圓，當時於每股50圓的面額下，共發行四萬股股票。如表1所示，臺灣鐵工所最初的發起人田中鐵工所和神戶製鋼所鈴木商店共計劃認領15,000股，其餘19,000股由臺灣各糖廠認股，剩餘的6,000股，計劃由日本國內和臺灣關係者認領。也就是說，就公司成立前的認股分配規劃，臺灣糖業界認領的股權，大約接近公司發行股份的一半。
