Александр Александров родился в селе Плахино Рязанской губернии 13 апреля 1883года. Учился в Петербургской императорской капелле и в Петербургской консерватории у Анатолия Лядова и Александра Глазунова.
С 1925 года – заведующий хоровой кафедрой Московской консерватории. В 1928 году из членов солдатской самодеятельности организовал Ансамбль красноармейской песни и пляски (ныне Академический Ансамбль песни и пляски Российской Армии имени А.В. Александрова). Ансамбль сразу стал широко известен, прежде всего, благодаря музыкальным композициям, прославлявшим героев гражданской войны.
Большую известность получили его произведения "Кантата о Сталине", "Песня о военном комиссаре", "Гимн партии большевиков".
В 1941 году написал музыку к песне "Священная война", которая стала символом борьбы СССР против фашизма. С 1943 года в числе других композиторов работал над музыкой для гимна СССР. Был утвержден вариант Александрова (сейчас это российский гимн).
Народный артист СССР, дважды лауреат Сталинской премии Александр Александров скончался 8 июля 1946 года в Берлине во время гастролей ансамбля.