二十世纪初，各地富商聚集淮南，在倪家圩子等地集资办矿，成立大通煤矿有限公司。起初，挖出的煤炭要经淮河水运至蚌埠，再由津浦线转运到南京和上海等地，费时费力。于是，大通煤矿至田家庵淮河码头间，一条轻便轨道应运而生，这就是淮南历史上第一条非正式铁路。
1931年9月，国民政府建设委员会，修建了淮南第一条由九龙岗通往洛河口的窄轨铁路，这也是淮南铁路史上的第一条正规铁路。
图为修建中的淮南铁路
随着淮南煤矿产量的增长，窄轨铁路已不能满足煤炭外运的需求。1934年6月，淮南铁路正式在淮南煤矿局所在地九龙岗开工建设，1936年6月，淮南铁路全线通车。
图为淮南铁路客车