1945 augusztus 19-én született Londonban a Chiswick Maternity kórházban, skót szülők leszármazottjaként. Az Episode Six énekeseként került a Deep Purple-lel kapcsolatba, majd 1969-ben csatlakozott a zenekarhoz a zenekar basszusgitárosával, Roger Gloverral együtt. Az In Rock című lemezen már hallhatóak a klasszikussá vált sikoltások a Child In Time-ban. Gillan 1974-ig volt a Deep Purple tagja. Ezen idő alatt születtek a rock talán legnagyobb klasszikusai, mint a Smoke On The Water, a Highway Star vagy akár a Strange Kind Of Woman. Ebben az időben a Jézus Krisztus Szupersztárban is hallható volt a hangja.

Blackmore és Gillan között sajnos a Who Do We Think We Are? felvételei idején annyira elmérgesedett a viszony, hogy nem tudták együtt tovább folytatni, ezért Gillant kirúgták. Szólókarriert próbált építeni Gillan majd Ian Gillan név alatt, de nem volt sikeres, alkoholproblémái is voltak. 1983-ban pont jókor jött a Black Sabbath ajánlata az énekesi posztra, amit el is fogadott. A Black Sabbath-hoz képest lágyabb hangzása miatt Purple Sabbath-nak gúnyolt zenekar kiadta a Born Again lemezt, de Gillan többek közt a keveréssel és a lemezborítóval is elégedetlen volt, végül az év végén távozott.

Pletykák szerint Blackmore meg akarta nyerni a BlackSabbath-féle vakvágány előtt a Rainbow énekesének Ronnie James Dio helyett, de ebből végül nem lett semmi.

A szólókarrier kudarca miatt Gillan elkezdte hívogani a régi társakat egy esetleges reunion reményében. 1984-ben végüól ismét együtt volt a Deep Purple klasszikus felállása, amely két lemezt rögzített, de 1989-ben ismét kettéváltak az utak és ismét szólólemezt készített, de a kiadó nomására 1992-ben visszatért és megalkották az utolsó lemezt Blackmore közreműködésével. Ettől a dátumtól kezdve Gillan folyamatosan tagja a Deep Purple-nek.

2006-ban megjelentette a Gillan's Inn című lemezétt, amelyen korábbi dalai hangzanak el újra felvéve. Ezt meg is turnéztatta, amíg a Rapture Of The Deep lemebemutató turnéja szünetelt. Ez bizonyítja, hogy bár fárad a hangja, még mindig van energiája, közel a 62 éves korhoz.