Первый участок нынешней Северной железной дороги — от станции Новки (ныне Камешковский район Владимирской области) через Шую до Иваново построен в 1868 год обществом Шуйско-Ивановской железной дороги. Участок Александров — Ярославль — Вологда введён в эксплуатацию в 1870—1872 годах обществом Московско-Ярославской железной дороги, тогда же построены линии Рыбинск — Сонково и Иваново — Кинешма.
В 1898 году обществом (тогда сменившим название на общество Московско-Ярославско-Архангельской железной дороги) уже под руководством предпринимателя Саввы Мамонтова, проложен узкоколейный участок Вологда — Архангельск, который впоследствии перешит на широкую колею. В 1900 году все линии общества выкуплены в казну.
В 1905 году вступила в эксплуатацию казённая Петербурго-Вологодская линия Обухово — Череповец — Вологда, в 1906 году — дорога Вологда — Вятка.
1 января 1907 года все линии объединены под управлением Северных железных дорог.
