Идея основать группу посетила Джерарда Уэя, до этого работавшего аниматором и иллюстратором, примерно через неделю после 11 сентября 2001 года. События 11 сентября настолько потрясли Джерарда, что он написал первую в своей жизни песню “Skylines and Turnstiles”, после чего решил основать собственную музыкальную группу. Его первым партнером стал барабанщик Мэтт Пелисьер. Чуть позже Уэй пригласил в группу своего знакомого гитариста Рэя Торо. Первые записи группы были произведены на чердаке в доме Мэтта, где тогда еще безымянная группа записала три песни. Младший брат Джерарда Уэя Майки настолько впечатлился этой первой демозаписью, что твердо решил выучиться на басиста и присоединиться к коллективу. После его вхождения в состав, группа обрела название и тут же начала активно выступать везде, где только выпадала возможность.

Вскоре My Chemical Romance обзавелись контрактом с небольшим лейблом Eyeball Records и стали записываться в одной студии с такими коллективами, как Thursday и Pensey Prep. После распада последних в 2002 году «Химики» зазвали к себе в группу гитариста Фрэнка Иеро – он влился в коллектив всего за несколько дней до записи дебютного альбома группы. В результате гитара Фрэнка звучит всего в двух композициях первого альбома My Chemical Romance, носящего драматическое название “I Brought You My Bullets, You Brought Me Your Love”. Альбом вышел в 2002 году на Eyeball Records – общая реакция на него была такова, что уже в 2003 году My Chemical Romance подписывали новый контракт, на этот раз с куда более крупной компанией Reprise Records. После турне с группой Avenged Sevenfold парни засели в студию за работу над новой пластинкой. В 2004 году в свет вышел второй альбом “Three Cheers for the Sweet Revenge”. Примерно в это же время в группе произошла замена ударника – место Мэтта Пелисьера занял Боб Брайар. Причиной ухода Мэтта из группы назывались частые скандалы между ним и гитаристом Рэем Торо из-за ошибок Мэтта во время концертов. Два сингла со второй пластинки MCR, “Helena” и “I’m Not Okay (I Promise)”, привлекли к группе немало внимания и стали довольно активно крутиться на радио и на телеканалах.

К 2005 году My Chemical Romance удостоились чести открывать концерты Green Day, а ко второй половине года уже поехали в собственное именное турне, вместе с Alkaline Trio и Reggie and the Full Effect. В том же году MCR объединили усилия с другими популярными героями эмо-панк-рока, группой The Used, и записали вместе с ними кавер-версию классической песни “Under Pressure”, исполняемой в оригинале группой Queen вместе с Дэвидом Боуи. Эта песня была выпущена строго в интернете, и вся прибыль от ее скачивания пошла на благотворительные цели. Популярность группы постепенно и стабильно росла – так, в конце 2005 года читатели популярного музыкального журнала Spin голосованием выбрали MCR на звание лучшей группы года. Группа отблагодарила поклонников в начале следующего года, выпустив сборник “Life on the Murder Scene”, в состав которого вошли целых два DVD (один с клипами и живыми выступлениями, а другой с двухчасовым документальным фильмом о группе) и концертный диск. А в апреле 2006 года MCR уже приступили к работе над новым альбомом, на этот раз при поддержке продюсера Роба Кавалло, записывавшего большую часть пластинок Green Day. В прессе промелькнул вариант названия “The Rise and Fall of My Chemical Romance”, однако позже, в интервью журналу Kerrang!, Уэй пояснил, что этот вариант был всего лишь шуткой.

В августе 2006 года MCR сняли сразу два видеоклипа на песни с нового альбома, “Welcome to the Black Parade” и “Famous Last Words” – режиссером обоих клипов выступил Сэм Байер, снимавший до этого такие клипы, как “Smell Like Teen Spirit” группы Nirvana и “Heart’s Filthy Lesson” Дэвида Боуи. 22 августа группа также отыграла специальный концерт в Лондонском зале Hammersmith Palace, рассчитанный на 1800 мест – все билеты были раскуплены за 15 минут. Именно на этом концерте было официально объявлено название нового альбома “The Black Parade”. Название всячески обыгрывалось в организации концерта, например, до начала выступления вокруг здания торжественно шествовала процессия из человек 20, одетых в черное, а позже и группу объявили, как The Black Parade. На концерте MCR представили на суд публике несколько новых песен.

В сентябре на страничке группы на портале MySpace появился первый сингл с нового альбома - песня “Welcome to the Black Parade”, а вскоре она уже звучала на радио. 15 октября 2006 года “Welcome to the Black Parade” возглавила английский хит-парад, обеспечив таким образом группе их первый хит номер один. На следующей неделе My Chemical Romance также впервые выступили на популярнейшем американском телешоу Saturday Night Live («Субботняя лихорадка»). Альбом “The Black Parade” появился на прилавках магазинов 24 октября – критики сочли этот альбом самой сильной и зрелой работой My Chemical Romance