С 1965 по 1969 год Гиллан выступал с группой Episode Six, которая выпустила в Британии несколько синглов, однако не добилась значительного успеха. В этой же группе на бас гитаре играл Роджер Гловер.

Deep Purple, 1969-73

После того, как участники Deep Purple Джон Лорд и Ричи Блэкмор, как раз искавшие замену Роду Эвансу, который не вписывался в выбранный ими новый стиль группы, увидели Гиллана на одном из выступлений Episode Six, они предложили ему присоединиться к их группе, сменив Рода.

Барабанщик Deep Purple Иэн Пэйс впоследствии так высказался о смене вокалиста и басиста группы: Начало цитаты

«Род и Ник достигли предела своих возможностей в группе. Род обладал прекрасным вокалом для баллад, но его ограниченность становилась все более очевидной. Ник был прекрасным басистом, но его взгляды были устремлены в прошлое, а не в будущее».

Так Гиллан летом 1969 года присоединился к Deep Purple, приведя с собой из Episode Six басиста Роджера Гловера. Именно этот состав группы принято считать «классическим», так называемый Deep Purple Mark II. Позже Гиллан вспоминал, что при встрече с Deep Purple его поразила прежде всего интеллигентность Джона Лорда, от которого он ждал худшего. Гловер же, напротив, был напуган мрачностью участников новой группы, которые «… носили чёрное и выглядели очень загадочно».

Первой записью Гиллана в составе новой группы стал сочинённый Джоном Лордом альбом Concerto for Group and Orchestra (в исполнении Deep Purple и Королевского филармонического оркестра), записанный на концерте в Альберт-холле 24 сентября 1969 года. После этого были записаны «классические» альбомы: In Rock (1970), Fireball (1971), Machine Head (1972).

Между записью этих альбомов, а именно в декабре 1970 года, вышла рок-опера, написанная Эндрю Ллойд Уэббером с либретто Тима Райса — «Иисус Христос — суперзвезда», которая стала классикой мировой музыки. Заглавную партию, арию Иисуса Христа, в ней исполнял Иэн Гиллан. В 1973 году на экраны вышел фильм «Иисус Христос — суперзвезда», однако в этой версии произведения, которую от оригинала отличали аранжировки, партию Христа исполнил другой вокалист (Тед Нили, Ted Neeley), так как Гиллан, имевший плотный график гастролей с Deep Purple, поставил слишком большие требования для своего участия.

Последним альбомом Гиллана, записанным в составе Deep Purple в 1970-х годах, стал Who Do We Think We Are, альбом 1973 года, названный так, потому что итальянцы, возмущенные уровнем шума на ферме, где записывался альбом, задавали повторявшийся вопрос: «За кого они вообще сами себя принимают?» («Who do they think they are?»). Однако уже с 1972 года отношения между Гилланом и Блэкмором стали портиться. Позднее они ухудшились настолько, что во время гастролей Гиллан разъезжал отдельно от остальных. Осенью 1972 года Гиллан написал заявление об увольнении из группы, однако менеджеры уговорили его закончить запись уже начатого Who Do We Think We Are. Этот альбом так разочаровал критиков и самих музыкантов, что отношения между ними испортились окончательно, вследствие чего группу покидает Гловер, а вслед за ним и Гиллан.

1973-84

После своего первого ухода из Deep Purple Гиллан на некоторое время отошёл от музыки, занявшись мотоциклетным бизнесом. На сцену он вернулся два года спустя с Ian Gillan Band. Эта группа выпустила 3 студийных альбома, однако музыка группы имела отчётливое джаз-роковое звучание, что оказалось непопулярным, поэтому в 1978 году Гиллан вернулся к хард-роковому звучанию, реорганизовав группу: набрал новых музыкантов и изменил её название на Gillan.