В июле 1941 года Николай Карлович был призван в армию в Орловский военный округ, где командовал ротой 23 запасного полка связи. Рота занималась налаживанием связи. С ноября 1941 года попал в распоряжение Юго-Западного фронта, был назначен стариной роты 6-го военно-полевого строительного батальона 5-ой Армии. В конце 1943 года в звание старшина служил в составе 1-ого Белорусского фронта, участвовал в освобождении г. Гомеля. Под руководством генерала К. К. Рокоссовского стал участником освободительной операции "Багратион".