Первое выступление новой команды состоялось 12 июля 1962 года в лондонском клубе «Marquee» в следующем составе: Джаггер, Ричардс, Джонс, Стюарт, в качестве бас-гитариста выступил Дик Тэйлор (Dick Taylor) (впоследствии участник The Pretty Things) и ударник Тони Чэпмэн (Tony Chapman).

На протяжении 1962—1963 годов Джонс, Джаггер и Ричардс провели большую часть времени в доме (позже Ричардс отзывался о нём как о «красивенькой свалке») в лондонском районе Челси по адресу 102 Edith Grove вместе с будущим фотографом James Phelge. Большую часть времени Джонс и Ричардс проводили за игрой на гитарах и прослушиванием блюзовых записей (в основном Джимми Рида (Jimmy Reed), Мадди Уотерса и Хаулина Вульфа (Howlin' Wolf)), также Джонс давал уроки игры на губной гармошке для Джаггера.

Четвёрка музыкантов продолжала искать постоянных басиста и ударника, и после нескольких прослушиваний они пригласили на бас Билла Уаймана (Bill Wyman) (во многом потому, что у него были два больших усилителя VOX AC30 и сигареты). Отыграв на ударных с Миком Эйвори (Mick Avory, позднее участник Kinks), Тони Чепменом (Tony Chapma Chapman) и Carlo Little, музыканты остановили свой выбор на увлечённом джазом Чарли Уоттсе (Charlie Watts), известном среди лондонской тусовки как один из лучших ударников и сотрудничавшем с группой Алексиса Корнера Blues, Inc..

Уоттс позже описывал это время: «Брайан был чрезвычайно увлечён музыкой в начале. Кит и я смотрели на него как на придурка: для него это было как миссия — выйти на сцену клуба за половину гонорара, чтобы быть объявленным как блюз-бэнд».

Группа играла концерты в небольших блюзовых и джазовых клубах в предместьях Лондона, постепенно обретая поклонников, что не могло понравиться традиционным джазовым музыкантам, опасавшимся растущей популярности The Rolling Stones. В то время как Джаггер был солистом, Джонс был реальным лидером группы: он организовывал промоушн, устраивал концерты и договаривался с хозяевами помещений, а кроме того пел и играл на нескольких музыкальных инструментах (ритм-гитара, слайд-гитара, гармоника).

В течение выступлений этого периода (в особенности в клубе Crawdaddy в Ричмонде) Джонс показал себя более раскованным и привлекательным исполнителем, чем Мик Джаггер. На первых порах Джаггер просто исполнял песни стоя, в основном по необходимости в связи с теснотой помещений.

Будучи менеджером группы, Джонс брал из полученного дохода на пять фунтов больше, чем остальные участники, что всегда вызывало недовольство остальных музыкантов.

Слава и успех

Слава The Rolling Stones росла, и в апреле 1963 года на них обратил внимание Эндрю Олдхэм (Andrew Loog Oldham), который позже встретился с ними и Эриком Истманом (Eric Eastman), работавшим со-менеджером. Олдхэм, немного поработавший публицистом Beatles, был поклонником романа Энтони Бёрджесса «Заводной апельсин» и фильма «Expresso Bongo», описывающих образы безбашенных и временами жестоких банд. Вдохновлённый этими произведениями, он попытался создать блюзовую, грубоватую альтернативу более доброжелательным Beatles. Именно ему приписывается авторство фразы «Вы бы позволили своей дочери выйти замуж за музыканта из The Rolling Stones?».

Участник коллектива клавишник Йен Стюарт (Ian Stewart) был выведен из состава по двум причинам: Олдхэм видел противоречие между имиджем группы и образом Стюарта, представлявшим собой что-то вроде здорового шотландца, к тому же новый менеджер посчитал, что такое количество музыкантов не позволит группе стать приметной. Тем не менее Йен Стюарт оставался в команде в качестве дорожного менеджера и основного клавишника вплоть до своей смерти в 1985 году.