С ее появлением у жителей Архангельска появилась возможность добраться до городов центральной России, например, до Вологды и Ярославля, за 36-40 часов.
В 1894 году было принято решение о строительстве участка Вологда — Архангельск, в связи с чем Общество Московско-Ярославской железной дороги было переименовано в Общество Московско-Ярославско-Архангельской железной дороги. Применительно к узкоколейной железной дороге использовался термин «Ярославско-Вологодско-Архангельская линия».
Первая дорога была узкоколейной и была проложена за три года на средства известного промышленника и мецената Саввы Мамонтова.
Строительство велось в трудных условиях малонаселённой и заболоченной местности. По состоянию на лето 1897 года, было открыто пассажирское движение на участке Вологда — Коноши (Коноша), протяжённостью 198 вёрст. 17 ноября 1897 года в Архангельске состоялась торжественная церемония открытия железной дороги. Однако к тому времени дорога была непригодна для постоянной эксплуатации. Регулярное движение на участке Вологда — Архангельск было открыто в 1898 году.
Конечным пунктом узкоколейной железной дороги являлась станция Архангельск-Пристань, расположенная на левом берегу реки Северная Двина, напротив города Архангельска. Строительство моста через реку Северная Двина в то время не планировалось — мост появился лишь в 1964 году.
Узкоколейная железная дорога Ярославль — Вологда — Архангельск была одной из крупнейших в истории России узкоколейных железных дорог общего пользования. Протяжённость узкоколейной железной дороги от станции Волга (Ярославль) до станции Архангельск-Пристань составляла 837 километров, ширина колеи — 1067 мм.
С 1 апреля 1900 года Московско-Ярославско-Архангельская железная дорога стала казённой (государственной). Во время Первой Мировой войны узкоколейка была заменена на широкую колею.