Получив образование Артиллерийской инженерной дворянской школе, Мусин-Пушкин несколько лет состоял адъютантом при графе Григории Орлове. Выйдя в отставку он три года путешествовал по Европе. Именно тогда у него проснулся интерес к историческим исследованиям. Вернувшись на родину, Мусин-Пушкин получил при дворе почетную должность церемонийместера. Собирая древние экспонаты, он стал владельцем таких редкостей, как монеты князей Владимира и Ярослава, знаменитая Несторова летопись.
Новая должность обер-прокурора Святейшего Синода дала ему возможность черпать материалы из сокровищниц монастырей и епархий. Пользуясь доверием и благосклонностью духовных особ, он получал в дар от них редкие книги и рукописи. У архимандрита Спасо-Ярославского монастыря отца Иоиля Мусин-Пушкин купил несколько редких книг, в том числе и "Слово о полку Игореве". "Чем более встречаю я трудностей в исследовании исторических древностей, - писал Мусин-Пушкин, - тем более усугубляюсь в моем желании найти скрытые оных источники".
По указу императрицы Екатерины II Мусин-Пушкин был назначен на должность президента Императорской академии художеств. На этом посту он проявил себя как талантливый организатор, радеющий за развитие русской художественной школы. После вступления на престол Павла I он оставил Синод и академию. Вокруг Мусина-Пушкина образовался кружок "любителей отечественной истории". Ярким именем среди единомышленников был Николай Карамзин, который много пользовался библиотекой своего друга.
В 1797 году указом императора Мусин-Пушкин был возведен в графское достоинство. Он поселился в Москве, где и хранилась коллекция древних рукописей. В 1800 году он издает "Слово о полку Игореве". Бесценная библиотека погибла в 1812 году в пламени московского пожара.