1872’de, şimdi Kale’nin batısında, “Vakıf İşhanı” olan Kayseri Mevlevihanesinde, Kadriye Emetullah Hanım’dan dünyaya gelmiştir. İlk eğitim/öğretimini Mevlevi şeyhi babasından Mevlevi şeyhi Süleyman Ataullah Efendi (ö:1913) almıştır. Yani Mevlevi terbiyesi içinde doğup büyümüştür.
Kayseri’nin köklü ailelerinden Göncüzade Nuh Efendi’den (ö:1893) –ki eniştesi olur- özel dersler, diplomasını ise Mürid-zade Ali Efendi’den almıştır. Hisarcıklızade Sâlim Efendi, Yazı İşleri Müdürü Sami Efendi, Ahmed Remzi’nin ilk yazdığı şiirleri düzelterek ondaki yeteneğin gelişmesine yardımcı olmuşlardır.
Feyzioğlu ailesine mensup Feyzullah Efendi’nin (ö:1810) kızı Esma Hanım’la evlenmiş, Zehra, Lütfiye, Lebibe adında üç kızı olmuştur.
1892’de İstanbul’a giderek Yenikapı Mevlevihanesi’nde misafir kalmıştır. Bir sene sonra Kayseri’ye gelip din/ahlak ve Farsça hocası olmuştur. Bu sırada “Nazım Paşa” Kayseri valisidir.
Konya ve Kütahya’dan sonra 1909’da Kastamonu Mevlevihanesi şeyhi olmuştur. Vali Süleyman Nazîf, şeyhliğiniz babadan kalma mı? diye sorduğunda “Allah vergisidir; babam Kayseri mevlevîhanesi şeyhi olup hayattadır” cevabını vermiştir.
Halep, Antep, Kilis, Urfa, Şam, Trablus, Kudüs’e gitmiş; 1913’de Halep Mevlevihanesi şeyhi olmuştur. Bu sırada babası rahmetli olmuştur. Mezarı, Seyyid Burhaneddin Türbesi içindedir.
1915 yılında Filistin cephesine gitmiştir. Birkaç sene Şam’da Emevi Camii’nde Mesnevi okutmuştur. Sonra Haleb’e, Haleb’in istilası üzerine İstanbul’a dönmüştür.
1924’da Üsküdar Mevlevihanesi şeyhi olmuştur. Ancak Eylül 1925’de “Tekke ve Zaviyelerin Kapatılması” üzerine Üsküdar Selimağa Kütüphanesi Müdürlüğü’ne getirilmiştir.
Torunu Nuriye’nin dedesi olmasının ötesinde Mevlevi dedesidir. Mevlevî dedeliğini anlatabilmek için özel bir yazı gerekir. Arapça, Farsçayı ana dili gibi bilen Remzi Dede, 1928’deki harf devrimiyle yaşadığı açmazı yine şiirle anlatır.
Akran oldu şimdi gerçek/ Nuri bana ben Nuriye
Yeni harfi öğretecek/ Nuri bana ben Nuriye
Türk harfinin heceleri / Âlim etti niceleri
Ders veriyor geceleri/ Nuri bana ben Nuriye
Müsâvidir bilen ile /Cahil denen kimse bile
Beraberiz şimdi hele / Nuri bana ben Nuriye
Yaşta büyük küçükse de / Emsâl oldu torun dede
Yanlış bulur alfabede/ Nuri bana ben Nuriye
…………………………………………..
Latin harfi diyen mi var /Türklüğüne çıktı karar
Zanneyleme aslın sorar / Nuri bana ben Nuriye
Destan bitti ne dersiniz / Okuyunuz isterseniz
Âferinler vermekteyiz/ Nuri bana ben Nuriye…
1931 yılında, “Saç ve sakalı ağarmış, kısa boylu, zeki bakışlı, sevimli yüzlü bir zat” diye tarif edilmektedir.
1934’de kanun gereği, “Akyürek “ soyadını almıştır.
Ankara’da, kızlarının yanında kalırken, zamanın M. E. Bakanı Hasan Âli Yücel tarafından, Ankara Eski Eserler Kütüphanesi’ne müşavir olması istenmiştir. Hayatının son yıllarını da burada hizmetle geçirmiştir. Çağdaş Prof. Hasibe Mazıoğlu bu sırada öğrencisi olmuştur.
19 adet basılmış, 6 tane basılmamış kitabı bulunmaktadır.
Etkisinde kalarak Müslüman olan kişilerden biri Talaslı Abdulkadir Keçeoğlu/Yaman Dede (ö:1962) dir.
Ölümünden sonra Kayseri’ye gelen Arif Nihat Asya (ö:1975) Bayrak şairi Arif Nihat Asya 1933 yılında Üsküdar Selimağa Kütüphanesinde keşfettiği A. Remzi Dede için; "O benim manevî hocamdır" demiştir. Esasen o muazzam “Naat’ ı yazabilmek için, öyle bir ustadan ders almak gerekir.
Son nefesini baba yurdunda vermek arzusuyla Kayseri’ye dönmüş; 6 Kasım 1944 tarihinde hayata gözlerini yummuştur. Seyyid Burhaneddin Türbesi önüne gömülmüştür.
Abdullah Develioğlu der ki: “O zaman Kayseri müftüsü idim. İftihar vesilesi olan bu hemşerimizin cenazesinde bulundum.”
Bu vesileyle, kendisini rahmetle anıyoruz.