Николай Макаров родился 22 мая 1914 года в небольшом городке Сасово под Рязанью. Отцу, Федору Макарову, небольшое жалованье железнодорожного мастера не позволяло прокормить многодетную семью, в которой Николай был четвертым ребенком. Поэтому парня, как самого младшего, было решено отдать на воспитание деду. В деревне, недалеко от Сасово, и прошло его детство.
К родителям он вернулся только в 1927 году, чтобы продолжить учебу в семилетке. Окончив школу, младший Макаров решил идти по стопам отца и поступил учиться в рязанскую железнодорожную школу фабрично-заводского ученичества (ФЗУ). В 1931 году он устроился слесарем по ремонту паровозов в железнодорожное депо станции Сасово, а затем помощником машиниста паровоза.