Михаил Александрович Дмитриев родился 3 июня 1796 года в селе Богородском Симбирской губернии. Рано остался сиротой и воспитывался у родственников в Симбирске.
Год отучился в Московском университетском Благородном пансионе, затем с 1813 по 1815 годы в Московском университете, на словесном факультете. С 1811 года был зачислен в Московский архив Коллегии иностранных дел, где проработал до 1825 года.
Печататься Дмитриев начал еще будучи студентом, в начале это были переводы французских поэтов. Затем - стихи и статьи, которые он публиковал в «Трудах Общества любителей российской словесности», в журналах «Вестник Европы» и «Сын отечества», участвовал в альманахе А.Бестужева и К.Рылеева «Полярная звезда».
Известность Дмитриеву принесли литературно-критические выступления против понимания Вяземским романтизма и народности (1824 год), затем против высокой оценки Н.А. Полевым комедии А.С. Грибоедова «Горе от ума» (1825 год), критический разбор 4-й и 5-й глав романа А.С. Пушкина «Евгений Онегин» (1828 год).
С конца 1820-х годов Михаил Александрович пишет элегии, оды, басни, псалмы, эпиграммы, рецензии и статьи на религиозно-философские темы, которые печатаются в журналах «Московский вестник», «Атеней», позднее с начала 1840-х — в журнале «Москвитянин». Он был литературным противником В.Белинского и объектом критики Н.Добролюбова.
В 1830 году Дмитриев выпустил первый сборник «Стихотворения», в который помимо элегий, басен, переложений псалмов вошли переводы Шиллера, Гёте, Маттиссона.
В 1847 году Дмитриев вышел в отставку и последние двадцать лет жизни полностью посвятил литературе. Он называл себя «антикварием литературных наших дел» и ценность своих литературных работ видел прежде всего в том, что они являются историческими свидетельствами:
Следа я в мире не оставил,
Но мир оставил след во мне!
Что он порочил, что он славил,
То наблюдал я в тишине!
Умер Михаил Александрович Дмитриев после тяжелой и продолжительной болезни (5) 17 сентября 1866 года в Москве, похоронен на кладбище Данилова монастыря.