Filho do deputado estadual e promotor público João Evangelista Barroso e Angelina de Resende. Aos 8 anos, órfão de pai e mãe, Ary foi adotado pela avó materna, Gabriela Augusta de Resende.
Realizou estudos curriculares na Escola Pública Guido Solero, Externato Mineiro do prof. Cícero Galindo, Ginásios: São José, Rio Branco, de Viçosa, de Leopoldina e de Cataguases.
Estudou teoria, solfejo e piano com a tia Ritinha. Com doze anos já trabalhava como pianista auxiliar no Cinema Ideal, em Ubá. Aos treze anos trabalhou como caixeiro da loja "A Brasileira" e com quinze anos fez a primeira composição, um cateretê "De longe".
Em 1920, com o falecimento do tio Sabino Barroso, ex-ministro da Fazenda, recebeu uma herança de 40 contos (milhões de reis). Então, aos 17 anos mudou-se para o Rio de Janeiro para estudar Direito, ali permanecendo sob a tutela do Dr. Carlos Peixoto.
Aprovado no vestibular, ingressa em 1921 na então Faculdade de Direito da Universidade do Rio de Janeiro, atual Faculdade Nacional de Direito da Universidade Federal do Rio de Janeiro (UFRJ). A Faculdade seria importante na consolidação da veia artística, esportiva e política. Quando calouro, foram colegas de Faculdade mais chegados: Luís Galotti (jurista, dirigente esportivo e posteriormente ministro do STF), João Lira Filho (jurista e professor), Gastão Soares de Moura Filho (dirigente esportivo), João Martins de Oliveira, Nonato Cruz, Odilon de Azevedo (ator), Taques Horta e Anésio Frota Aguiar (jurista, político e escritor).
Adepto da boemia, é reprovado na Faculdade, abandonando os estudos no segundo ano. Suas economias exauriram o que o fez empregar-se como pianista no Cinema Íris, no Largo da Carioca e, mais tarde, na sala de espera do Teatro Carlos Gomes com a orquestra do maestro Sebastião Cirino. Tocou ainda em muitas outras orquestras.
Em 1926 retoma os estudos de Direito, sem deixar a atividade de pianista. Dois anos depois é contratado pela orquestra do maestro J. Spina, de São Paulo, para uma temporada em Santos e Poços de Caldas. Nessa época, Ary resolve dedicar-se à composição. Compõe "Amor de mulato", "Cachorro quente" e "Oh! Nina", em parceria com Lamartine Babo, seu contemporâneo na Faculdade de Direito.
Em 1929 obtém, finalmente, o bacharelado em Ciências Jurídicas e Sociais. Seu colega de Faculdade e grande incentivador, Mário Reis, grava "Vou a Penha" e "Vamos deixar de intimidades", que se tornou o primeiro sucesso popular.
Nos anos 1930, escreveu as primeiras composições para o teatro musicado carioca. Aquarela do Brasil teve a primeira audição na voz de Aracy Cortes e regravada diversas vezes no Brasil e no exterior. Recebeu o diploma da Academia de Ciências e Arte Cinematográfica de Hollywood pela trilha sonora do longa-metragem Você já foi à Bahia? (1944), de Walt Disney.
A partir de 1943, manteve durante vários anos o programa A hora do calouro, na Rádio Cruzeiro do Sul do Rio de Janeiro, no qual revelou e incentivou novos talentos musicais. Também trabalhou como locutor esportivo (proporcionando momentos inusitados ao sair para comemorar os gols do seu time o CR Flamengo). Autor de centenas de composições em estilos variados, como choro, xote, marcha, foxtrote e samba. Entre outras canções, compôs No Tabuleiro da Baiana (1936) e Na Baixa do Sapateiro (1938), Os Quindins de Yayá (1941), Boneca de piche e Rio de Janeiro (1945), que lhe rendeu uma indicação ao Oscar de melhor canção original.
Durante os a década de 1940 e a década de 1950 compôs vários dos sucessos consagrados por Carmen Miranda no cinema. Ao compor Aquarela do Brasil inaugurou o gênero samba-exaltação.
No centenário do compositor Ary Barroso (2003), a Rede STV SESC SENAC foi a única a produzir um documentário especial de 60 minutos sobre a vida deste brasileiro único, intitulado "O Brasil Brasileiro de Ary Barroso", com depoimentos de Sérgio Cabral (biógrafo), Dalila Luciano, Carminha Mascarenhas, Carmélia Alves, Roberto Luna, e a filha de Ary Barroso, Mariúza . A direção foi de Dimas Oliveira Junior e produção de WeDo Comunicação.
Ary Barroso também era locutor esportivo. Torcedor confesso do Flamengo, torcia descaradamente a favor do rubro-negro nas transmissões que eram feitas pelo rádio. Quando o Flamengo era atacado, ele dizia mensagens do tipo:"Ih, lá vem os inimigos. Eu não quero nem olhar.", se recusando claramente a narrar o gol do adversário. Quando o embate era realizado entre equipes que não fossem o Flamengo, sempre que saía um gol, primeiro ele narrava, e depois tocava uma gaita.
Morreu no Rio de Janeiro, em 1964, de cirrose hepática decorrente do alcoolismo, e está enterrado no Cemitério de São João Batista.
Ary Barroso foi o artista mais gravado por Carmen Miranda, com 30 músicas. Ao todo são conhecidas cerca de 264 composições de sua autoria. Aquarela do Brasil por exemplo, teve centenas de gravações mundo afora e, até hoje, é uma das músicas que mais produz direitos autorais no exterior. Dentre as homenagens póstumas ao compositor, estão estátuas em sua homenagem na sua cidade natal, Ubá, e no Rio de Janeiro, onde morou boa parte de sua vida. A família de Barroso tenta montar um museu em sua homenagem com seu acervo, dividido entre as duas cidades.
Em 1988, Ary Barroso inspirou o enredo "Aquarilha do Brasil" apresentado pela Escola de Samba União da Ilha do Governador. Em um desfile alegre e muito bonito a escola cantou a história do compositor e de suas paixões.
E sua data natalícia tornou-se o dia oficial do radialista, graças a Lei Nº 11.327, de 24 de julho de 2006, sancionada pelo então presidente Luiz Inácio Lula da Silva, alterando a data de comemoração oficial da categoria, passando para 7 de novembro.
