德軍入侵波蘭前夕，波蘭於一九三九年八月開始動員，皮雷茨基所屬的騎兵部隊隸屬於第十九步兵師，該師於九月六日遭德軍擊潰。皮雷茨基於是繼續與其他部隊奮戰到十月十七日，此時蘇聯早已入侵波蘭，華沙陷落，波蘭流亡政府在巴黎成立。他的部隊也就此解散。

一九三九年十一月，皮雷茨基與其他陸軍軍官及幾個平民，一起成立地下軍事反抗組織：波蘭祕密軍（Tajna Armia Polska）。祕密軍的成立原則是愛國主義與基督宗教，沒有特定的政黨屬性，人數成長到八千至一萬兩千人左右。一九四一年年底，祕密軍併入武裝作戰聯盟（Związek Walki Zbrojnej）。一九四二年，武裝作戰聯盟改名為家鄉軍（Armia Krajowa）。

皮雷茨基為了執行波蘭地下組織的祕密任務，自願被德軍逮捕，送進奧許維茲集中營裡。一九四○年九月，他逮到機會，趁德軍在華沙街頭搜捕囚犯時，趁機混到隊伍裡面。

九月二十一日到二十二日夜裡，他抵達奧許維茲，屬於第二批（第一批在八月出發），他還冒用托馬什．塞拉芬斯基（Tomasz Serafiński）這個名字─塞拉芬斯基真有其人，但皮雷茨基不認識他，此人的身分證件遺留在華沙的「安全屋」（safe house）裡。塞拉芬斯基曾待過安全屋，皮雷茨基也使用過這兒。

儘管集中營的處境恐怖，需要持續地警醒求生，但皮雷茨基還是很快找出了被囚的祕密軍成員，做為新組織的核心。

以祕密軍為範例，皮雷茨基在奧許維茲成立的軍事組織聯盟依據的是「小單位」原則，或他自己取的名稱「五人小組」（有時「五人小組」不只五人）。「五人小組」彼此獨立行動，如此當德軍抓住某些成員時，即使遭受拷問，也不可能將整個組織招出來。「小單位」會再招募其他的「五人小組」，而這些「五人小組」又會繼續招募其他的「五人小組」。皮雷茨基在一九四○年十月建立了最早的五人小組，他稱之為「帶頭五人」。