ともあれ山脇延吉は、三田―有馬間の鉄道を敷設して大阪から有馬への動線を整備すると、神戸―有馬間の動線整備に取りかかる。これが現在の神戸電鉄の端緒というわけだ。26年に神戸有馬電気鉄道を設立。有馬から当時の神戸市街の中心地だった湊川(現在の湊川公園)までの路線を着工するが、これが難工事をきわめた。
まず標高差。有馬温泉駅の標高が海抜357mと高い。神戸側のターミナルである湊川駅は地下駅で標高0mだ。路線の距離こそ22.5kmと、それほど長い距離ではない。だが、その間にトンネル8カ所、橋梁34カ所、溝橋41カ所。地面に線路を敷くだけの工事と大きく異なり、当時としては高度な土木技術が求められた。
難工事だった湊川―有馬間
それでも工事は起工から1年7カ月で完了。晴れて28年11月28日に湊川―有馬間が開業した。1両編成の車両を10両保有し、運行を開始した。同時に神戸と三田を結ぶ目的で建設した三田線は28年12月18日に営業を開始した。神戸から山陰方面に向かう需要をねらった。

