Naslednji dve leti sta bili za Filipa še bolj neugodni. Oton je s pomočjo [[Češka|češkega]] kralja [[Otokar I. Češki|Otokarja I.]] in turinškega deželnega grofa Hermana I. izrinil Filipa iz severne Nemčije. Filip je zato poskušal doseči spravo s papežem, vendar mu to ni uspelo. Prelomnico v njegovi vojni sreči je pomenila pokoritev Hermana Turinškega, kateremu sta kmalu sledila še Adolf Kölnski in brabantski vojvoda Henrik I..
6 januarja 1205 ga je na veliki slavnosti v Aix-la-Chapelleu kölnski nadškof Adolf ponovno kronan za nemškega kralja. V Köln je kjub temu prišel šele leta 1207, s čemerčimer se je vojna praktično končala. Mesec ali dva kasneje je papež preklical njegovo izobčenje in marca 1208 je verjetno sklenil pogodbo, s katero se je papežev nečak poročil z eno od Filipovih hčera in dobil sporno vojvodino Toskano. Filip je zatem nameraval zatreti še zadnje ostanke upora v Braunschweig-Lüneburgu, ko ga je 21. junija 1208 v Bambergu umoril bavarski grof palatin Oton VIII. Wittelsbachski. Oton, ki je bil že prej poznan po svojem nestanovitnem značaju, je pobesnel, ko je izvedel, da je šlezijski vojvoda Henrik I. Bradati, ki je verjetno izvedel za Otonova kruta nagnjenja, preklical zaroko z njegovo hčerko Gertrudo Šlezijsko. Oton je za razdor svoje druge zaroke, prvič je bil zaročen prav s Filipovo hčerko Beatriko, brez razloga obdolžil Filipa in prisegel maščevanje.<ref>Zientara, Benedykt. Henryk Brodaty i jego czasy. Wydawnictwo TRIO, 1997, str. 169-171.</ref> Kmalu po Filipovi smrti je bil marca 1209 ubit tudi Oton Wittelsbachski.
