В военное время Аллен работал в швейцарском отделении OSS, как и положено в шпионском деле, с переменным успехом и неудачами. Некоторые разведданные, которые он сообщал, оказывались ложными после сравнения с радиоперехватами противника. После того как он проработал в Берне полгода, один из помощников Донована прислал ему язвительную телеграмму, в которой утверждал, что "все новости из Берна в эти дни на 100% игнорируются военным министерством". Год спустя, весной 1944 г., он сделал два дико ошибочных прогноза: сначала о том, что нацистский режим "близок к краху", а затем о том, что войскам союзников будет легко высадиться во Франции в день "Д". При этом он также руководил сотнями агентов по всей Европе, проникал в правительства и добивался успехов в шпионаже.

Два случая начались с того, что в его дверь постучались незнакомцы. Первым из них был антинацистский австриец, который привел его к документам, указывающим на завод, где нацисты строили ракеты V-1 и V-2, которые они планировали обрушить на Лондон. Информация Аллена, подтвержденная другими источниками, привела к бомбардировке завода союзников в балтийском городе Пеенемюнде. Это на несколько месяцев отсрочило начало лондонской бомбардировки.

Вторая "ходка" Аллена была еще более впечатляющей. Фриц Кольбе, который связался с ним через посредника, а затем во время отключения электричества пришел к черному ходу дома на Herrengasse 23, был дипломатом, работавшим в министерстве иностранных дел Германии в Берлине. По словам Колбе, он имел доступ ко всему входящему и исходящему кабельному трафику министерства и, руководствуясь ненавистью к нацистскому режиму, хотел передать американцам все, что мог. Он передавал Аллену документы сотнями. Среди них были протоколы личных встреч Гитлера, оценки ущерба от бомбардировок союзников, а также сведения, позволившие обнаружить нацистского агента в британском посольстве в Турции.

Когда Аллен вспоминал о своей службе в OSS в более поздние годы, он с особым удовольствием вспоминал о своей роли в двух самых впечатляющих тайных операциях войны.

Первым из них было покушение на Гитлера. Через одного из своих высокопоставленных агентов, антинацистски настроенного немца, проживавшего в Швейцарии, Аллен узнал о заговоре заговорщиков и приблизительной дате, когда они собираются нанести удар. По мере приближения этой даты они послали своего эмиссара, чтобы встретиться с ним в Берне и предложить сделку. По их мнению, если им удастся убить Гитлера, то, возможно, союзники изменят свою политику, требуя от Германии безоговорочной капитуляции, и позволят установить в стране новый режим без оккупации. Посоветовавшись с Вашингтоном, Аллен ответил, как он позже выразился, "безоговорочным "нет". Заговорщики продолжали действовать без него. 12 июля 1944 г. он направил Доновану телеграмму, в которой предупредил его о "возможности драматического события на севере". Восемь дней спустя заговорщики нанесли удар, но заложенная ими бомба успела лишь ранить Гитлера.

В течение нескольких месяцев после этой неудачной попытки стало ясно, что Германия в конечном итоге проиграет войну. Аллен как никогда сосредоточился на задаче, которую считал неотложной: сформировать послевоенную Европу таким образом, чтобы свести к минимуму советскую мощь. Самой дерзкой его идеей было найти нацистских командиров, которые осознали бы тщетность своего дела и хотели, чтобы после окончания войны Германией управляли американцы, а не русские. После того как нацисты были вытеснены из Франции, основным действующим театром военных действий стала Италия. Аллен решил обратиться к нацистским командирам, чтобы выяснить, не проигнорируют ли они приказ "сражаться до смерти" и согласятся ли на быструю капитуляцию.

В конце 1944 г. и в первые месяцы 1945 г. Аллен разработал и организовал операцию "Санрайз" - многоуровневый план, который в конечном итоге привел к капитуляции нацистов в Италии. Одним из его партнеров был генерал Карл Вольф, командующий войсками СС в этой стране. Позднее немецкий суд признает Вольфа виновным в убийстве 300 тыс. евреев, включая ликвидацию Варшавского гетто, но к концу войны он рассорился с Гитлером и был готов иметь дело с американцами. Аллен сбалансировал потребности Вольфа с потребностями различных итальянских эмигрантских и партизанских групп, которые направили ему поток эмиссаров, ищущих американской поддержки для различных заговоров. Среди них были самые разные люди - от будущего премьер-министра Ферруччо Парри до дочери знаменитого дирижера Артуро Тосканини графини Уолли Тосканини Кастельбарко, которую Аллен сразу же соблазнил. Кульминационная секретная встреча с нацистским командованием состоялась на вилле на берегу озера в швейцарском городе Аскона, в нескольких милях от итальянской границы. На ней было достигнуто драматическое соглашение, которое привело к внезапному прекращению войны в Италии, а также в Австрии, над которой нацистское командование в Италии имело власть. 3 мая 1945 года газета Stars and Stripes с ликованием сообщила об этом:

Немецкие армии в Италии и в части Австрии капитулировали - полностью и безоговорочно.... Это означает, что такие жизненно важные города, как Зальцбург и Инсбрук, достались нам без боя. Это означает, что союзные войска займут австрийскую территорию в пределах десяти миль от Берхтесгадена, где Гитлер построил, как он считал, личную крепость в такой глубине Альп, что для подхода к ней потребуются месяцы или годы..... Но прежде всего капитуляция в Италии означает, что доблестным бойцам 5-й и 8-й армий, пробивавшимся через неумолимые Апеннины, не нужно начинать душераздирающую работу по преодолению гор, ведущих к Бреннерскому перевалу и в Австрию. Это означает, что и летчикам средиземноморских ВВС союзников не нужно погружаться в зенитные путы в районе перевала Бреннер или других узких проходов между Альпами.

Когда война закончилась, Аллен пригласил свою жену поехать с ним в Берн. Вскоре после ее приезда он познакомил ее со своей любовницей Мэри Бэнкрофт. Кловер познакомилась с несколькими спутницами Аллена, и у нее возникла удивительно прочная связь с Мэри. "Я вижу, как вы с Алленом заботитесь друг о друге, и я это одобряю", - сказала Кловер Мэри вскоре после их знакомства. Они часто обедали вместе, а Аллена и Фостера стали называть "акулами", потому что, как им казалось, для выживания им необходимо постоянное движение. Мэри также познакомила Кловер с Карлом Густавом Юнгом, к которому она обратилась за помощью в решении проблем своего неспокойного брака; по словам Мэри, он складывался из яростных споров, "которые Аллен неизменно выигрывал благодаря простому приему - зажиманию железного занавеса между ними". Контакт с Юнгом произвел глубокое впечатление на обеих женщин. После войны Мэри помогала редактировать юнгианский журнал в Калифорнии. Кловер пропагандировала работы Юнга в Нью-Йорке, а ее младшая дочь, Джоан, стала юнгианским аналитиком.

Аллен присутствовал в красном