С 1953 года — актёр Театра-студии киноактёра.

Дебют в кино — прошедший почти незамеченным фильм «Команда с нашей улицы», роль Дроздова. По-настоящему его актёрский талант раскрылся у режиссёров А. А. Алова и В. Н. Наумова в картине «Тревожная молодость». Рыбников в этой роли был удивительно сдержан, немногословен, скуп на эмоции. Его работу отметили критики.

В следующей своей роли в фильме М. Швейцера «Чужая родня» он сумел создать абсолютно противоположный образ. Его утверждение на эту роль было трудным. В длинном списке кандидатов на роль сельского механизатора Фёдора фамилия актёра Рыбникова была самой последней.

Слава пришла к артисту после полюбившейся зрителям ленты «Весна на Заречной улице» (1956), поставленной Ф. Е. Миронером и М. М. Хуциевым. Герой Рыбникова — Саша Савченко — обыкновенный парень. По профессии он сталевар, по должности — бригадир, по социальной прописке — исконный житель рабочих окраин. Режиссёр картины М. Хуциев вспоминает, что на главную роль они искали совсем другого исполнителя. И всё же Рыбников получил эту роль, достойную его дарования. Но как доставалась Рыбникову каждая сцена! М. Хуциев писал: «Он способен думать о роли всё время и каждый день приносить новые решения. Он всё время носит в себе образ, над которым трудится. Он не стесняется трудиться».

В фильме «Высота» (1957) режиссёра А. Г. Зархи счастье Николая — в сооружении им огромной домны. Он — хозяин жизни. Таким и видит его задиристая, колючая Катя (одна из лучших ролей И. В. Макаровой) и влюбляется в него безоглядно. Актриса с волнением вспоминала один из эпизодов фильма, когда Рыбников, как и положено по роли, лихо спускается на руках по железному тросу. В этот момент актриса слышит: «Второй дубль!» — и видит окровавленные ладони Рыбникова, который не успел на «первый дубль» надеть рукавицы.

В 1958 году Николай Рыбников снялся в картине Э. А. Рязанова «Девушка без адреса», и хотя публика горячо приняла фильм (он занял в прокате второе место), критика сочла его не слишком удачным. Тем не менее, в 1961 году актёр согласился сниматься в комедии, когда режиссёр Ю. С. Чулюкин пригласил его на главную роль лесоруба Ильи Ковригина в фильме «Девчата». Эта картина имела огромный зрительский успех и по сей день остаётся в числе лучших комедий советского кино.

«Профессионалом он был потрясающим, — отмечала Н. В. Румянцева. Фильм снимали на Северном Урале. Мороз — за 45 градусов. Просыпаешься ночью — все в инее. Потом по этому морозу долго едем в розвальнях на делянку, где снимали многие фрагменты фильма. Операторы держат камеры под полушубками, иначе моторы отказывают. Ждём, когда в термосах привезут обед. Разливаю его в миски, а он тут же превращается в лёд. И вот предлагаю испробовать этот „суп“ Илье (Николаю). Он кладет ложку в рот… а вынуть не может. Отогрел, вытащил её с куском кожи. Потекла кровь. „Ну, — говорим, — всё“. Видим же — распухает щека. А Коля: „Нет. Будем снимать“. И опять суёт ложку в свой больной рот. Сняли! А он потом так тихонечко в сторону отворачивается и… лужица крови. Представляю, какую адскую боль он испытывал…». И Румянцева добавила: «У него был узкий круг знакомых. Он не очень подпускал к себе, не любил, когда, знаете: „О, Рыбников! Коля!“ Нет. Он был очень сдержан».

В дальнейшем Николая Рыбникова много снимали, на его счету такие фильмы, как «Им покоряется небо», «Война и мир», где он исполнил роль Василия Денисова, «Освобождение», «Хоккеисты».

Большой успех выпал на долю картины «Седьмое небо» (1972), в которой Николай Рыбников снялся со своей женой А. Д. Ларионовой.

В конце 1970-х и в 1980-х годах актёра приглашали сниматься всё реже и по большей части в эпизодических ролях. Наиболее яркая роль Рыбникова этого периода — пенсионер-склочник Кондратий Петрович в ленте «Выйти замуж за капитана» (1985).

Рыбников умер от сердечного приступа 22 октября 1990 года. Похоронен в Москве на Троекуровском кладбище (участок № 2).

В 2007 году вышли воспоминания Л. С. Полухиной «Алла Ларионова и Николай Рыбников» о любви двух известных актёров.

Награды и звания

• Заслуженный артист РСФСР ()
• Народный артист РСФСР ()
• По результатам зрительского опроса журнала «Советский экран», назван лучшим исполнителем эпизодической роли в фильме «Выйти замуж за капитана» (1986)

Личная жизнь

• Жена — актриса Алла Ларионова. Поженились 2 января 1957 года.
  • Дочь Алёна (генетически — она дочь актёра И. Ф. Переверзева), с которым Алла жила в фактическом браке до свадьбы с Рыбниковым. Николай Рыбников удочерил девочку и всю жизнь считал родной дочерью. Алена сейчас на пенсии, до этого — работала монтажером на ТВ.
  • Дочь Арина — (род. 19 июня 1961 год). Страдала алкоголизмом. (умерла 17 июня 2004 года).

Внуков нет.