Родился 19 сентября 1951 года в Ленинграде, в обычной советской семье: отец был рабочим, а мама трудилась в бухгалтерии Кировского завода. Еще школьником Александр увлекался театром, посещал кружок художественной самодеятельности при Доме культуры, принимал участие в различных постановках. Поэтому никто не удивился, когда он поступил на режиссерский факультет Ленинградского института культуры. После первого курса Захаров перевелся на актерское отделение в Ленинградский государственный институт театра, музыки и кинематографии. В 1974 году он был принят в труппу Ленинградского театра имени Ленсовета, в составе которой сыграл Принца в «Снежной королеве», Петю Воронина в пьесе «Пятый десяток». Во время учебы Александр познакомился со своей будущей женой, однокурсницей Татьяной Мчелидзе. У супругов родилась дочь Варвара.
В кино Захаров дебютировал еще в 10 лет: он сыграл эпизодическую роль в знаменитой картине «Человек-амфибия» по одноименному роману Александра Беляева. В 16 лет Александр заявил о себе как о талантливом и перспективном актере в военной драме Виктора Турова «Война под крышами» о белорусских партизанах. В 1969-м вышла вторая часть дилогии под названием «Сыновья уходят в бой». Захаров, блестяще исполнивший роль Толи Корзуна, теперь регулярно получал приглашения в другие проекты. Он снялся в таких фильмах, как «Незнакомый наследник», «День на размышление», «Штормовое предупреждение» (1981), телеспектакле «Самоубийство» (1981). Среди наиболее запоминающихся его киноработ – ленты «Рожденная революцией», «Выгодный контракт», «Пиковая дама». Самый известный телепроект с участием Захарова – многосерийный фильм «Шерлок Холмс и доктор Ватсон» с Василием Ливановым и Виталием Соломиным. Захаров сыграл юношу из высшего общества Рональда Адэра, чью таинственную смерть расследовал великий сыщик.
Захаров также участвовал в постановках литературно-драматической студии при Ленинградском музее-квартире Достоевского, руководителем которого был Владимир Рецептер.
Александр Захаров отличался скромностью, был требователен к себе и к окружающим. Его жизнь оборвалась неожиданно: в метро, возвращаясь поздним вечером домой после репетиций, он потерял сознание и получил травму, которая оказалась смертельной. 26 марта 1982 года актера не стало.
