1869'da Azerbaycan'ın Şişe şehrinde doğmuştur. Babası Mirza Hasan Bey, annesi Sarıca Ali adlı göçebe bir kavimden Taze hanımdır. Amcalarının Rusça, Arapça ve Farsça bilmeleri ve ailenin düzenlediği akşam sohbetlerinde metafizik ve ilmî konuların görüşülmesi Ağaoğlu'nun gelişiminde önemli yer tutar. Öğrenimine mahalle mektebinde başlamış ve babasından gizli Rusça dersleri almıştır. Babasının karşı çıkmasına rağmen dayısının desteğini alarak Rus tali mektebine yazılmıştır. 1884'de buradaki eğitimini tamamlayarak Realne Uçilişe'ye başlamıştır. Reel ilimlerin ağırlıklı olduğu okulu başarı ile tamamlamış, 1887'de yüksek öğrenim için Petersburg'a gitmiş, fakat sağlığı nedeni ile geri dönmüştür. 1888'de Paris'te hukuk mektebine başlamış, doğu kavimleri tarihi, Arapça, Acemce ve Türkçe dil derslerine devam etmiştir. Ağaoğlu 21 yaşında iken yazarlığa, Fransızca bir makale ile başlamıştır. Bir süre Paris'te gazetecilik de yapan Ağaoğlu 1894'de İstanbul'a gelmiştir. 4 ay sonra Tiflis'e gitmiş, Kafkas gazetesinde yazarlık yapmıştır. Bakü'de Rusça "Kaspy" adlı bir gazetede başyazarlık görevini almıştır. Gazete Azerbaycan Türklerinin hukukunu savunan ve çıkarlarına hizmet eden Rusça bir Türk organı haline getirilmiştir.

          "Kaspy" gazetesinin sahibi olan Zeynel Abidin Takiyef Türkçe yayın için uğraşmış ise de 1904 yılında meydana gelen Rus-Japon savaşı sonuna kadar beklemek zorunda kalmıştır. Savaş sonunda çarlığın yenik düşmesi ile tekrar girişimde bulunmuş, bu sefer başarılı olmuştur. Bütün Kafkasya'da ilk kez günlük Türkçe gazete olan "Hayat" çıkmaya başlamıştır. Hüseyinzade Ali Bey de bu gazetede göre almıştır. Bir yıl sonra Ahmet Ağaoğlu "İrşad" adlı yeni bir gazete çıkarmaya başlamıştır. Aynı zaman diliminde Kafkasya'da Ruslar Azerbaycan'a hakim olunca Sünnî-Şiî anlaşmazlığı başlamıştır. Kafkaslardaki Türkleri parçalamayı amaçlayan bu düşünceye karşı mücadele etmiştir. 1905'de Bakü'de "fedai" adında gizli bir cemiyet kurmuş, Ermenilere karşı Türklere yaptıkları zulümleri fiili direnişlerle bir dereceye kadar durdurabilmiştir. 1905'de Çar hükümetinin bir nazırlar komitesi kurması üzerine Kazan'dan giden heyete Yusuf Akçura Kafkasya ahalisini temsil edenler içinde ise Ahmet Ağaoğlu, Hüseyinzade Ali, Topçubaşı Meydan Bey seçilmişlerdir. Azerbaycan halkını bu komitede temsil etmiştir. Petrollü topraklar üzerindeki Türk halkını göç ettirme projesini, otuz beş günlük konuşma sonucu engellemiştir. 1908'de II. Meşrutiyetin ilânı ile İstanbul'a kaçan Ağaoğlu, Türk Ocağının kurucularındandır.