Sultan Abdülaziz Han’ın tahttan indirilip öldürülmesine sebep olan darbecilerden birisidir. Müezzinoğlu Ahmed Bey’in oğlu olan Hüseyin Avni Paşa, 1820 yılında Isparta’nın Gelendost ilçesinde doğdu.
1837 yılında 17 yaşında Harbiye’ye girdi. 1838’de onbaşı, 1839’da çavuş ve başçavuş oldu. 1842’de 22 yaşında teğmen rütbesine terfi etti. 1849 yıIında kurmay yüzbaşı olarak okulu bitirdi. 1852 yılında binbaşı rütbesi ve “bey” ünvanı alarak Harbiye’ye taktik öğretmeni oldu.
12 Haziran 1853 tarihinde yarbay rütbesiyle Şumnu’ya, ardından Sofya’ya gönderildi. Burada gösterdiği başarı üzerine miralaylığa terfi etti. Kars Muharebesi’nden sonra mirlivalığa yükseltildi.
Kaba, görgüsüz ve laubali bir kişiliğe sahip olan Hüseyin Avni Paşa, bir Cuma selamlığı merasimi sırasında Sultan Abdülaziz Han’ın eşlerinden birine sözle sarkıntılık edince, 1865’de vazifeden azledildi.
1868’de Fuad Paşa’nın tavsiyesiyle Alî Paşa tarafından yeniden seraskerliğe getirildi. 1871’de Mahmud Nedim Paşa’nın sadrazamlığı sırasında seraskerlikten azledilerek Isparta’ya sürüldü. 1873 yılında da bahriye nazırı oldu.
13 Şubat 1874 tarihinde sadrazam oldu. 1875 yılında sadrazamlıktan ve seraskerlikten azledilerek Aydın valiliğine gönderildi. Valilikten affını isteyen Hüseyin Avni Paşa, tedavi olunmak bahanesiyle Fransa’ya gitti.
Mütercim Rüşdi Paşa’nın zoruyla meşihat makamına getirilen şeyhülislam Hayrullah Efendi, Hüseyiyserili Ahmed Paşa, askeri şüra reisi müşir Redîf Paşa, askeri mektebler nazırı Süleyman Paşa, donanma kumandanı mirliva Arif Paşa, kazasker Ahmed Hulusî Efendi, ‘’Abdülazîz’in hal’i için çarşaf kadar fetva veririm’’ diyen fetva emini kazasker Filibeli Kara Halil Efendi de Hüseyin Avni Paşa’nın yanında yer aldılar.
30 Mayıs 1876 tarihinde Abdülaziz Han’a karşı hazırladığı darbe planını Midhat ve Mütercim Rüşdi Paşa’ya açtı. Arif Paşa da donanmayı sarayın önüne getirdi. Sultan Abdülaziz Han tahttan indirilerek Veliahd Murad Efendi, Sultan V Murad Han ünvanıyla tahta çıkarıldı.
Abdülaziz Han, Topkapı Sarayı’na nakledildi. 2 Haziran 1876 günü ise Fer’iye Sarayı’na götürüldü. Sonradan gelen doktorlar sultanın cesedini tamamen muayene etmek isteyince de; ‘’Bu cenaze Ahmed Ağa, Mehmed Ağa değildir, bir padişahındır.
Onun her tarafını açıp size gösteremem’’ diyerek muayenenin yapılmasına engel oldu. 5 Haziran günü cenazesi büyük merasimle babası sultan İkinci Mahmud Han’ın Çemberlitaş’taki türbesine defnedildi.
