Было близок к оппозиции в вермахте с 1942 года, но активного участия в заговоре не принимал. Его крайняя осторожность в 1944 году во время «заговора 20 июля» во многом привела к провалу «Валькирии». Пытаясь завуалировать свое косвенное участие в мятеже, приказал арестовать и расстрелять участников заговора — Ольбрихта, Штауффенберга и других. Попытка устранить свидетелей ни к чему не привела: Фромм был арестован по приказу рейхсфюрера Гиммлера и затем расстрелян в марте 1945 года при подходе советских войск.