Александр Яковлевич Михайлов родился в поселке Оловянное Читинской области 5 октября 1944. В 1959-1961 учился в ремесленном училище. В 1961-1963 работал на рыболовецких судах. В 1969, по окончании театрального факультета Дальневосточного института искусств, стал артистом Приморского краевого драматического театра им. Горького, где дебютировал ролью Раскольникова в спектакле «Преступление и наказание».

В 1970-1979 работал в Саратовском академическом театре драмы им. К.Маркса, на сцене которого играл Константина в Детях Ванюшина, князя Мышкина в «Идиоте», Шаманова в спектакле .

На киноэкране дебютировал главной ролью в фильме «Это сильнее меня» (1973, режиссёр - Ф.Филиппов), после чего обаятельного и фактурного актёра стали охотно приглашать в основном на главные и положительные роли в кино и телефильмах. Наиболее заметной из ранних экранных работ Михайлова стал деревенский шофер Федор в фильме «Приезжая»(1977, режиссёр - В.Лонской). Сыграв знаменитого шахматиста Алехина в фильме «Белый снег России» (1980, режиссёр - Ю.Вышинский), Михайлов заявил о себе в кино как серьезный драматический актёр. Расширению его экранного амплуа способствовали отрицательные роли в сериале «Следствие ведут знатоки» и фильме «Белый ворон» (1981, режиссёр - Лонской). В 1981 Михайлов был удостоен премии Ленинского комсомола. Зрительский успех (лучший актёр 1982 года по результатам опроса журнала «Советский экран») и Государственную премию РСФСР им. бр. Васильевых (1983) Михайлову принесла роль Павла Зубова в картине «Мужики!..» (1981, режиссёр - И.Бабич).

В 1973-1985 играл в Московском театре им. Ермоловой, в частности - Астрова в спектакле «Дядя Ваня». Среди киноработ этих лет наиболее заметной стала острохарактерная роль Васи Кузякина в комедии «Любовь и голуби» (1984, режиссёр - В.Меньшов), которую признанный «реалист» Михайлов играл в ранее не свойственной ему условной, почти гротесковой манере. Но зрители продолжали любить героичного и положительного Михайлова, признав его актёром года (1986) за роль Павла Шорохова в остросюжетном фильме «Змеелов» (1985, режиссёр - В.Дербенев). Актер же, естественно, стремился к более сложным образам, таким, как чудаковатый Петя, упорно ищущий снежного человека «Мы веселы, счастливы, талантливы» (1986, режиссёр - А.Сурин), или искушаемый славой и успехом актёр Васнецов из фильма «Мужские портреты» (1987, реж. Лонской).

Одной из самых интересных экранных работ Михайлова стала драматичная, эпическая по масштабу роль Флягина в картине «Очарованный странник» по роману Н.С.Лескова (1990, режиссёр - И.Поплавская).

С 1985 Михайлов - актер Малого театра, где исполнял главные роли в спектаклях «Леший», «И аз воздам», «Царь Иоанн Грозный». Его Грозный по пластическому рисунку напоминал Иоанна в исполнении Н.К.Черкасова в фильме С.М.Эйзенштейна и так же трактован Михайловым с акцентом на драматизм судьбы и личностную значительность этой сложной исторической фигуры. «Проклятая», по театральным преданиям, роль царя Иоанна едва не стоила актёру жизни (играя её, он тяжело заболел, перенес две операции).

В 1992 Михайлов попробовал себя в кинорежиссуре, сняв фильм «Только не уходи...», посвященный теме СПИДа.

В 1997 дебютировал как певец, составив концертную программу из русских и казачьих песен, с которой выступал в филиале Малого театра и гастролировал по стране. Народный артист России (1992).