在美國(guó)參與第一次世界大戰(zhàn)后不久，杜魯門(mén)加入了密蘇里州國(guó)民警衛(wèi)隊(duì)擔(dān)任軍官，并在法國(guó)帶領(lǐng)一支炮兵部隊(duì)，名為炮兵連D組，隸屬于第35師60旅的129野戰(zhàn)炮隊(duì)。在體能方面，杜魯門(mén)右眼視力為20/50，而左眼是20/40，但由于他在體能測(cè)試前秘密地記誦了視力檢查表，所以他仍可以通過(guò)測(cè)試從征。在前往法國(guó)之前，杜魯門(mén)先在俄克拉何馬州勞頓附近的錫爾堡接受訓(xùn)練。在受訓(xùn)期間，他被指派去打理軍營(yíng)的販賣(mài)部（提供糖果、香煙、鞋帶、梳打水、煙草和撰寫(xiě)發(fā)給士兵的文件），因此營(yíng)中幾乎每位士兵都認(rèn)識(shí)杜魯門(mén)。為了方便打理販賣(mài)部，他征募了曾在堪薩斯城的一家服裝店當(dāng)過(guò)職員的猶太裔朋友愛(ài)德華·雅各布森中士前來(lái)幫忙。

此外，杜魯門(mén)還在軍營(yíng)中認(rèn)識(shí)了堪薩斯城政客湯姆·彭德格斯特的侄兒詹姆士·M·彭德格斯特（James M.Pendergast），而這位政客在戰(zhàn)后對(duì)杜魯門(mén)有一定的幫助。
在法國(guó)，杜魯門(mén)上尉的炮兵連表現(xiàn)十分卓越，他們雖然在孚日山受到攻擊，但他仍能夠作出十分有效的抵抗。杜魯門(mén)日后獲擢升為國(guó)民警衛(wèi)隊(duì)的陸軍中校，而他一直也為自己在軍隊(duì)服役的背景感到相當(dāng)自豪，因?yàn)樵谒膸ьI(lǐng)下，炮兵團(tuán)的炮兵連D組在大戰(zhàn)中沒(méi)有損失過(guò)任何人。