A marylandi ikerpár, Joel és Benji Madden egy Beastie Boys-koncert hatására határozta el 1996-ban, hogy zenekart alapít. Akkor még egyikük sem játszott semmilyen hangszeren. Ezután Benji gitározni, Joel pedig énekelni tanult. A testvérpárhoz iskolatársak csatlakoztak: Paul Thomas (basszusgitár), Aaron Escolopio (dob), Billy Martin (gitár).
Egy mesekönyv címe alapján találtak nevet maguknak, elkészítették első demófelvételeiket. Csak saját számokat játszottak, mert nem voltak biztosak benne, hogy másokét képesek lennének feldolgozni.
Első lemezük 2000-ben jelent meg, ezután nagy koncertkörútra indultak, amelynek során eljutottak Új-Zélandra is.
Játszani kezdte dalaikat az MTV (Music Television), s Benji és Joel házigazdái voltak a zenecsatorna All Things Rock című programjának. The Young and the Hopeless című lemezük 2002-ben jelent meg, amelyről Lifestyles of the Rich and Famous és az Anthem című dalaik nemzetközileg ismertté tették nevüket. Akkortól Chris Wilson dobolt a zenekarban. Intenzív turnék után 2004-ben megjelent a The Chronicles of Life and Death című lemezük rajta az I Just Wanna Live című slágerükkel.
Chris Wilson egészségügyi problémák miatt később kiszállt a csapatból. Helyére Dean Butterworth került Morrisey kísérőegyütteséből.