5 марта 1966 года умерла Анна Андреевна Ахматова; эта смерть явилась для Тарковского большим личным горем. 9 марта вместе с В. А. Кавериным Тарковский сопровождал гроб с телом Анны Андреевны в Ленинград, выступал на гражданской панихиде по ней. Памяти Анны Ахматовой поэт позже посвятил цикл стихотворений.

В 1971 году Тарковскому была присуждена Государственная премия Туркменской ССР им. Махтумкули. В 1974 году в издательстве «Художественная литература» вышла книга Тарковского «Стихотворения». В 1977 году, в связи с семидесятилетием Тарковского, советское правительство наградило его орденом Дружбы народов.

В 1978 году в Тбилиси в издательстве «Мерани» вышла книга Тарковского «Волшебные горы», в которую наряду с его оригинальными стихотворениями были включены его переводы грузинских поэтов.

5 октября 1979 года умерла Мария Ивановна Вишнякова, первая жена поэта, мать его детей, Андрея и Марины, женщина, с которой были связаны годы становления Тарковского как поэта и как личности, которая воспитала его детей в духе любви к отцу и к его поэзии. Арсений Александрович присутствовал на её похоронах на Востряковском кладбище.

В начале 1980-х гг. вышли три книги Тарковского: 1980 — «Зимний день» (изд. «Советский писатель»), 1982 — «Избранное» (изд. «Художественная литература»), 1983 — «Стихи разных лет» (изд. «Современник»). Самое значительное из этих изданий — книга «Избранное» (Стихотворения, поэмы, переводы) — наиболее полная книга поэта из числа вышедших при его жизни.

6 марта 1982 года уехал в Италию для работы над фильмом «Ностальгия» Андрея Арсеньевича Тарковского. 10 июля 1984 года на пресс-конференции в Милане Андрей заявил о своем невозвращении в Советский Союз. Это решение сына Тарковский принял, уважая его гражданскую позицию. Однако, в письме к нему Арсений выразил своё убеждение в том, что русский художник должен жить и работать на Родине, вместе со своим народом переносить все тяготы, выпавшие ему на долю. Арсений Александрович тяжело переживал разлуку с сыном. Смерть Андрея 29 декабря 1986 года явилась для отца неожиданным и страшным ударом. Болезнь Арсения Александровича стала стремительно прогрессировать.

Усилиями Секретариата Союза кинематографистов СССР имя Андрея Тарковского начало возвращаться на родину. Это сняло опалу и с отца. В связи с восьмидесятилетием Арсений был награждён в 1987 году орденом Трудового Красного Знамени. В том же году вышли сборники Тарковского, «От юности до старости» (изд. «Советский писатель») и «Быть самим собой» (изд. «Советская Россия»), в подготовке к изданию которых он сам уже не участвовал из-за тяжёлого физического состояния. В эти книги попали стихи, ранее не включённые Тарковским в свои сборники; известно, что он был очень строг к отбору стихотворений для публикаций2009.

Последние годы жизни Арсений Тарковский провёл в Доме ветеранов кино. К ноябрю 1988 года его состояние настолько ухудшилось, что он был направлен на лечение в Центральную клиническую больницу.

Вышедшая в апреле 1989 года книга «Звёзды над Арагацем» (Ереван, изд. «Советакан Грох») была последним прижизненным изданием поэта.

Арсений Александрович скончался в больнице вечером 27 мая 1989 года. Для прощания с поэтом был предоставлен Большой зал Дома Литераторов. Похороны состоялись 1 июня на кладбище в Переделкино после отпевания в храме Преображения Господня.