不過，可別以為他們只是學生隨便組成的組織，由於當時的高雄中學在國民政府來台之前，受到的是日本軍國主義式的教育，因此學校內也有嚴謹的軍事訓練課程，從徒手訓練到拿槍作戰，每個雄中的學生都受過基礎且扎實的軍事訓練。甚至在二戰期間，日本帝國兵員吃緊時，也曾召集部分的學生上戰場，雖然不久日本即投降，但這也使雄中自衛隊裡的部分成員有過戰鬥經驗。
既然是自衛隊，為了維持秩序與保護校園的安全，所以除了要有良好的組織分工外，為了抵抗政府粗暴的行動，有時「武力」更是不可少的。在自衛隊成立之後，由於學校的秩序仍有些混亂，所以李榮河便派人打開軍械庫，拿出日治時期軍訓用的三八式步槍和子彈，開始分派並巡邏校園。不過槍枝及彈藥多分配給高二生使用，高一生多配戴木刀與小刀。另外，他們也將學校第二棟二樓教室及倉庫開設給人民，成為暫時的「民眾保護所」，其中大部分的受保護者有許多都是外省人。
拿著步槍、武士刀，與火力強大的憲兵對戰
3月5日，憲兵佔領了高雄車站，凍結了高雄主要的南北交通樞紐。憲兵隊還在2樓架設機關槍，阻止人民靠近，有奇怪舉動的人當場格殺毋論。這一封鎖使得原本依賴鐵路運輸的糧食無法送往高雄，嚴重影響人民的生計。想出去的出不去，想進來的進不來，高雄地區瞬間被孤立。
雄中自衛隊的李榮河、陳仁悲等人見狀，決定組一支「決死隊」（敢死隊），以李榮河坐鎮校園運籌帷幄，由陳仁悲帶頭，率領決死隊眾人誓死奪回車站。當天早上10點，決死隊成員手持日本刀、手榴彈與步槍，兵分三路前往高雄車站，不過最後只有陳仁悲帶領的那一路有真正跟憲兵打起來。
10點一到，陳仁悲發動攻擊，目標是駐守在火車站旁食堂內的數十名憲兵，不過第一隊隊員因為使用的子彈品質不良，所以子彈根本還沒飛到憲兵前，就已經先落地了。第二隊的學生也許是軍事訓練的經驗不足，所以根本不知道手榴彈在投擲前要拔插銷，結果擲出的手榴彈完全沒有爆炸。
剩下最後由陳仁悲率領的第三隊了，這隊的配置主要以步槍及日本刀為主，陳仁悲下令以正面匍匐進攻。接近中午時，憲兵發現了陳仁悲等人的身影，遂展開一陣強烈掃射。美援的武器十分先進，子彈來得又急又快，瞬間使陳仁悲率領的第三隊陷入混亂，過程中已有一名學生被子彈掃到。
學生與憲兵對峙約5、6小時，接近下午時，因為武器不足，訓練也不精，加上其他兩隊的「無效果攻擊」，李榮河感到大勢已去，所以派人商請與憲兵隊長交好的高雄一中父兄會會長陳啟清出面調停交涉，學生們則趁隙退回校園。最後，整個過程，僅有當時那名中彈的學生在送達前就已經沒了呼吸心跳，其他學生可以說是無人傷亡。事件看似落幕，不過就在決死隊進攻車站時，要塞司令部一接獲消息，一早便迅速重整部隊了，深夜後開始在市區重要地點駐紮。
