Kapelu v roku 2001 založili kamaráti Perer Wentz a Joe Trohman. Tí spolu istý čas hrali v jednej kapele, avšak chceli robiť hudbu, ktorá by bola podobnejšia tomu, čo počúvali oni, keď boli v puberte, čiže niečo ako Green Day, Descedents alebo The Smiths. Po tom, čo Joe stretol Patricka Stumpa, rozhodli sa, že ho vezmú do kapely. Avšak v tomto čase bol Patrick bubeník, čiže pôvodne hral na bicie. Akonáhle však chlapci objavili jeho spevácke nadanie, postavili ho za mikrofón. Neskôr si ešte zohnali na pomoc ďalších dvoch hudobníkov (gitaristu a bubeníka) a začali si budovať kariéru. Zo začiatku chalani nemali ani len meno. To im vymyslel až jeden z ich fanúšikov, priamo na ich vystúpení. Názov Fall Out Boy je odvodený od mena Fallout Boy zo seriálu The Simpsons. Fallout boy je pomocník hrdinu Radioactive man-a.
Po vidaní mini LP-čka Fall Out Boy's Evening Out with Your Girlfriend, sa k chalanom pridal Andy Hurley, Patrick vzal do rúk sprievodnú gitaru a dvaja dočasní členovia mohli odísť. Po mnohých menších a väčších odohratých koncertoch sa chalanom podarilo 6. mája 2003 vydať prvý riadny album Take This To Your Grave. Album sa predával veľmi rýchlo a priniesol kapela prvý značný úspech.
3. mája 2004 sa chalanom podaril vydať komerčne megaúspešný album From Under the Cork Tree, z ktorého sa len za prvý týždeň predalo 68 000 nosičov a ktorý sa stal dvojplatinovým vďaka 2,5 miliónom predaných nosičov a to len v USA. Single ako "Sugar We´re Goin´ Down", "Dance Dance" či "Little Less Sixteen Candles, A Little More ´Touch Me´" sa okamžite vyšplhali na púopredné miesta svetových rebríčkov a priniesli chlapcom masy, hlavne mladých, fanúšikov.
Ďalší album "Infinity On High", zatiaľ posledný vydaný, bol ešte úspešnejší ako jeho predchodcovia. Vyšiel 19. decembra 2006 a za prvý týždeň sa z neho predalo 260 000 kópii. Single z tohto albumu sú: "This Ain´t a Scene, It´s An Arms Race", "The Carpal Tunnel of Love", "Thnks Fr Th Mmrs", "The Take Over, the Breaks Over" a "I'm Like a Lawyer with the Way I'm Always Trying to Get You Off (Me + You)".