Гаук родился в Одессе, в семье с немецкими корнями (его оригинальное имя Alexander Wilhelm Haug); там же, в Одессе, получил первые музыкальные впечатления и уроки. «Мечта о дирижировании мною владела с трехлетнего возраста», – писал Гаук на склоне лет в своих воспоминаниях.

Поступив в 1910 на юридический факультет Санкт-Петербургского университета, спустя год юноша сделал окончательный выбор в пользу музыки. С 1911 по 1917 он учился в Санкт-Петербургской консерватории (по композиции у Александра Глазунова, Василия Калафати, Язепа Витолса, Михаила Чернова, по дирижированию у Николая Черепнина, по фортепиано у Феликса Блуменфельда).

14 ноября 1917, через неделю после большевистского переворота, Гаук дебютировал в Петроградском театре музыкальной драмы (дирижировал оперой Чайковского «Черевички»). В 1920–1931 был дирижером петроградского (с 1924 — ленинградского) Государственного академического театра оперы и балета (Мариинского), в основном вел балетный репертуар: «Ночь на Лысой горе» на музыку Мусоргского, «Пульчинелла», «Байка про Лису, Петуха, Кота да Барана» Стравинского, «Щелкунчик» Чайковского, «Времена года» Глазунова, «Красный мак» Глиэра, премьеры – «Красный вихрь» Дешевова, «Золотой век» и «Болт» (1931) Шостаковича. В 1922–1925 заведовал музыкальной частью Александринского театра.

С 1925 дирижировал филармоническими симфоническими концертами. В 1930–1934 главный дирижер и заместитель директора по художественной части Ленинградской филармонии.

С 1933 Гаук работал в Москве: главный дирижер оркестра Всесоюзного радио (до 1936), затем в 1936 по 1941 первый главный дирижер только что созданного Государственного симфонического оркестра СССР. В 1953–1962 вновь возглавлял БСО Всесоюзного радио (ныне БСО имени П.И. Чайковского).

В репертуаре Гаука было более 500 сочинений всех эпох и стилей. Особое внимание он уделял творчеству композиторов-современников. На его счету московская премьера 5-й симфонии Шостаковича, 17-й (посвященной Гауку) и 21-й симфоний Мясковского, Скрипичного концерта Хачатуряна (солист Давид Ойстрах), Концерта для арфы Мосолова, «Торжественной увертюры» Глиэра, исполнения произведений Прокофьева, Шостаковича, Ипполитова-Иванова, Шебалина, Кабалевского, Юровского, Шапорина, Мурадели, Овчинникова и многих других современников, композиторов союзных республик.

«Вспоминаю его за пультом в дневном освещении концертного зала, – писал Ираклий Андронников, – резким, настойчивым или, вернее, наставительным голосом разъясняющего оркестру свои требования. То поучительно. То с поощрением. То с шуткой. Но никогда не теряя ни одной рабочей минуты, не тратя лишних слов, не пытаясь “рассказать музыку”. Все рассчитано, выверено. Гаук всегда точно знал, что он хочет от этого исполнения».

«Для его дирижерского почерка характерны внешняя сдержанность при непрестанном внутреннем горении, максимальная требовательность на репетициях в условиях полной эмоциональной “нагрузки”, – вспоминал ученик Гаука Александр Мелик-Пашаев. – Он вкладывал в подготовку программы всю свою страсть художника, все знания, весь педагогический дар, а на концерте, словно любуясь результатом своих трудов, неустанно поддерживал в артистах оркестра разожженный им огонь исполнительского энтузиазма».

Последний раз Гаук стоял за дирижерским пультом на торжественном концерте к 100-летию Ленинградской консерватории в 1962, исполнив со студенческим симфоническим оркестром «Праздничную увертюру» Шостаковича.

Гаук был выдающимся педагогом. В 1927–1933 и 1946–1948 он преподавал в Ленинградской консерватории, в 1941–1943 в Тбилисской, в 1939–1963 – в Московской. У него учились Евгений Мравинский, Александр Мелик-Пашаев, Константин Симеонов, Эдуард Грикуров, Николай Рабинович, Евгений Светланов, Геннадий Проваторов, Одиссей Димитриади, Илья Мусин, Николай Рабинович, Арий Пазовский, Михаил Тавризиан, Эмин Хачатурян, Максим Шостакович…

Гаук обладал ярким талантом оркестровщика. Цикл «Времена года» Чайковского в его инструментовке (1942) сыграли и записали многие отечественные и зарубежные оркестры. Эта интерпретация – классика жанра; по словам композитора и музыковеда Сергея Абира, авторитетного и искушенного знатока оркестровых стилей, в 2010-х сделавшего новую аранжировку «Времен года», интерпретация Гаука «и сегодня звучит <…> как наиболее достойная внимания и убедительная. <…> Версия Гаука, несомненно, концептуальна. Она верна оригиналу как в базовых элементах фортепианного изложения, так и в мельчайших его деталях» (из интервью «Музыкальному обозрению», 2017, № 1).

Кроме того, Гаук оркестровал «Патриотическую песнь» Глинки, неоконченную оперу Мусоргского «Женитьба». Ему принадлежит главная роль в возрождении Первой симфонии Рахманинова, которая почти полвека не исполнялась после неудачной премьеры, а ее партитура была утеряна. Под руководством Гаука партитура была восстановлена по партиям, обнаруженным в библиотеке Ленинградской консерватории, и сохранившемуся переложению для двух фортепиано, и под его же управлением симфония была исполнена 17 октября Госоркестром СССР 17 октября 1945 в Большом зале Московской консерватории.

Александр Гаук – один из персонажей знаменитого рассказа Ираклия Андроникова «Первый раз на эстраде».

В конце жизни Гаук работал над книгой «По страницам воспоминаний дирижера», но не успел ее завершить. Он умер 30 марта 1963 в Москве.

В 1975 в издательстве «Советский композитор» вышла книга «Александр Васильевич Гаук. Мемуары. Избранные статьи. Воспоминания современников». В ней приведены полные списки сочинений Гаука, его литературных работ и звукозаписей.

Сын А.В. Гаука Павел Гаук (род. 1945) – пианист, выпускник Московской консерватории, а также поэт, прозаик, художник-график. Член Союза писателей Москвы.