В 1974 году из-за постоянных конфликтов с Кавагоэ Александр Кутиков ушёл в группу «Високосное лето». Через несколько месяцев он вернулся, однако летом 1975 года был приглашён в формировавшийся ВИА при Тульской государственной филармонии и принял приглашение. Одной из причин было то, что Кутиков в этот период официально нигде не работал, и по советским законам ему грозило привлечение к ответственности за тунеядство; переход же давал возможность официально работать музыкантом.

С. Кавагоэ и А. Макаревич нашли гитариста Евгения Маргулиса, обладавшего характерным «блюзовым» голосом. Ему было предложено играть на бас-гитаре, и несмотря на тот факт, что до того Е. Маргулис никогда не держал в руках бас-гитары, он быстро освоил новый для себя инструмент. С этого момента А. Макаревич играл в «Машине времени» исключительно на соло-гитаре. В составе «Машины времени» Е. Маргулис начал писать и исполнять песни с блюзовым уклоном.

На последующие четыре года тройка Макаревич—Кавагоэ—Маргулис стала ядром группы, периодически дополняемым одним-двумя сессионными музыкантами. В 1975 г. Элеонора Беляева пригласила «Машину времени» записать программу на студии ЦТ СССР для телепередачи «Музыкальный киоск». За два дня в профессиональной студии звукооператор Владимир Виноградов записал семь песен, составивших второй — уже русскоязычный — альбом группы. В телеэфир группу в итоге не допустили, однако первая качественная студийная запись песен «Машины времени» тут же была растиражирована и распространилась по стране.

В 1976 г. «Машина времени» стала участником фестиваля «Таллинские песни молодёжи—76» в ЭССР. В этот период группа репетировала в клубе министерства мясной и молочной промышленности СССР, благодаря чему получила официальное направление на фестиваль от этого министерства. В Таллине участники группы узнали, что песни «Машины времени» известны и за пределами Москвы. На фестивале группа получила первый приз. Там же произошло знакомство с Борисом Гребенщиковым, благодаря которому начались периодические самодеятельные гастроли «Машины времени» в Ленинграде. На полгода в группу пришел Юрий Ильченко (ранее — солист ленинградской группы «Мифы»). После его ухода группа вновь играла втроём (Макаревич—Кавагоэ—Маргулис). В 1977 году «Машина времени» снова выступила в Таллине, хотя и с меньшим успехом, чем в первый раз.

В начале 1978 года группа начала эксперименты со звуком: в её состав были приглашены саксофонист Евгений Легусовов и трубач Сергей Велицкий. Позже Велицкого сменил Сергей Кузминок. В марте 1978 года увидел свет магнитоальбом с неофициальным названием «День рождения», скомпилированный и растиражированный Андреем Тропилло из записей, сделанных полуподпольно в ДК Автомобильного техникума. Весной 1978 года Артемий Троицкий привёз «Машину времени» в Свердловск для выступления на фестивале «Весна УПИ». Выступление имело скандальный характер: оно прошло при огромном ажиотаже и переполненном зале (все билеты были проданы, а музыканты большинства групп-участников также потребовали себе места в зале); группа всем своим видом и репертуаром совершенно выбивалась из общего ряда выступавших там «политически благонадёжных» ВИА. После концерта, по настоятельной просьбе организаторов, группа вернулась в Москву, не дожидаясь конца фестиваля.