Академик Гранов родился 21 апреля 1932 года в Донецке (УССР).
В 1956 году окончил Донецкий медицинский институт им. А.М. Горького.
После окончания института работал врачом-хирургом в донецкой клинической больнице, заведующим хирургическим отделением в донецкой областной клинической больнице, ассистентом кафедры Донецкого медицинского института.
После переезда в 1965 году в Ленинград работал в НТТ онкологии им. Н.Н. Петрова, в 1-м Ленинградском медицинском институте им. И.П. Павлова.
В 1980 году начал работать в Центральном научно-исследовательском рентгенорадиологическом институте (нынешнее название — Российский научный центр радиологии и хирургических технологий), в 1993 году стал директором Российского научного центра радиологии и хирургических технологий.
В 2000 году был избран членом-корреспондентом РАМН, в 2002 году — академиком РАМН по специальности "рентгенорадиология", в 2013 году стал академиком РАН.
Специалист в области интервенционной радиологии.
Академик Анатолий Гранов внес огромный вклад в медицинскую науку созданием интервенционной радиологии в онкологии и организацией первых центров транспланталогии. Им выполнены экспериментальные и клинические исследования в области хирургической гепатологии и рентгеноэндоваскулярной хирургии (интервенционной радиологии).
В 1966 году он опубликовал имеющую мировую новизну работу о внутрипортальном введении масляного контрастного вещества для диагностики и лечения заболеваний печени. Исследовал патологическую физиологию кровотока печени, разрабатывал способы лечения злокачественных новообразований печени с помощью введения противоопухолевых препаратов в сосудистое русло этого органа.
Решением Минздрава России в 1994 году возглавил программу трансплантации печени на базе Центра хирургии и радиологии.
В 1998 году в клинике Центра такая операция была успешно проведена, к настоящему времени проведено более сотни подобных операций.
Им был разработан и внедрен новый эффективный метод лечения рака печени — селективная масляная химиоэмболизация печеночных артерий. Для диагностических центров позитронно-эмиссионной томографии создан комплекс аппаратуры и технологий производства радиофармпрепаратов, меченных ультракороткоживущими радионуклидами.
Гранов — автор более 350 научных работ, в том числе семи монографий, им было получено 37 патентов на изобретения (в том числе два патента США).
Являлся вице-президентом Российской ассоциации радиологов.
Был удостоен Государственной премии России, премии правительства Российской Федерации и награжден орденами "За заслуги перед Отечеством" II, III и IV степеней.
В 2011 году Анатолий Гранов был удостоен звания "Почетный гражданин Санкт-Петербурга".
Скончался 12 мая 2017 года.