В Красной Армии (призван в 1931 году) был замечен сразу же: помощник командира взвода 4-го артиллерийского полка. В октябре переведен на должность помощника командира взвода 1-го автомобильного полка. В мае следующего, 1934 года, состоялся перевод в Сибирский военный округ. В июле 1937-го вместе со своим подразделением и иными частями Красной Армии Пётр Шкляренко оказался на территории Монголии. Служил в ее столице (г. Улан-Батор): командир взвода 52-й мотострелковой дивизии. Принимал участие в боях с японцами на реке Халхин-Гол. Когда положение стабилизировалась, был переведен в Одесский военный округ: помощник начальника технического снабжения 430-го артиллерийского полка. Великую Отечественную войну Пётр Павлович Шкляренко встретил командиром батареи этого же артполка. В августе 1943 года. Направлен в Иран, где находился по апрель 1945-го. После возвращения из Ирана зачислен в резерв Министерства обороны СССР, работал в системе НКВД СССР («Госушосдор»).