Abu Ismail Abdullah bin Mansur Ansari dilahirkan hari Jumat 2 Shaban 396 Hijriah Syamsiah di Kohandoz, sekitar Tus dan ibunya orang Balkh. Khaja Abdullah Ansari keturunan Abu Ayub Khalid bin Ansari, salah seorang sahabat terkenal Rasulullah Saw.

Abu Ayub adalah tuan rumah ketika Rasulullah Saw dan muhajirin hijrah ke Madinah dari Mekah. Di rumah Ayublah, Rasulullah saw dan rombongan muhajirin dijamu pertama kali datang ke Madinah. Di sebuah riwayat muktabar disebutkan bahwa para pembesar Madinah meminta Rasulullah Saw dan rombongan muhajirin menjadi tamu di rumah mereka. Ketika itu, Nabi Muhammad Saw bersabda, “Saya akan mendatangi tempat di mana unta berhenti,”. Kemudian, unta berhenti di rumah Ayub, dan Rasulullah saw pun memasuki rumahnya.

Ayah Khawaja Abdullah Ansari, Abu Mansur Muhammad bin Ali Ansari adalah pedagang sekaligus sufi yang terkenal dengan ketakwaan dan kezuhudannya. Sejak kecil, Khawaja Abdullah Ansari telah ditinggal ayahnya dan hidup dalam kondisi miskin. Ia menceritakan sendiri kehidupannya, “Aku sering menghadiri pertemuan dengan pakaian yang lusuh dan compang-camping. Makananku kebanyakan hanya daun-daunan, dan kehidupanku begitu sulit. Di seluruh rumah hanya ada tikar dan tembikar...”.

Khawaja Abdullah sejak kecil mencintai ilmu dan memulai pendidikannya sejak dini. Ia belajar ilmu agama seperti ilmu hadis, tafsir dan irfan dari para ahlinya masing-masing. Salah seorang gurunya adalah Yahya bin Omar Shibani yang datang dari Shiraz ke Herat untuk mengajar. Yahya bin Omar Shibani adalah orang yang berupaya mengharmoniskan tradisi irfan dan syariat Islam. Jalan yang ditempuhnya itu dilanjutkan oleh muridnya, termasuk Abdullah Ansari.

Sejarawan mencatat, Abdullah sejak kecil dikenal dengan kecerdasannya, terutama hafalannya yang kuat dan menjadi perhatian para guru. Ia menonjol dalam hafalan surat al-Quran, dan syair berbahasa Arab di kalangan seusianya yang belajar ketika itu.

Abdullah mulai menuntut ilmu sejak usia empat tahun. Di usia sembilan tahun, ia sudah menghafal syair dan berbagai hadis dari para perawi terkenal. Khawaja Abdullah menjelaskan perjuangannya dalam penulisan hadis Rasulullah Saw. Ia sendiri menuturkan, “Apa yang aku alami dalam menyusun hadis Rasulullah saw tidak dialami oleh orang lain. Barang bahwaan dari Nisabur terkena hujan lebat. Ketika itu aku sedang rukuk dan makalah hadis aku sembunyikan di perut supaya tidak basah kuyup,”.

Para guru Khawaja Abdullah adalah penganut mazhab Syafii, tapi kemudian ia sendiri memilih mazhab Hanbali. Khawaja Abdullah berusia 21 tahun di tahun 417 Hq, dan melanjutkan pendidikan menuju Nishabur. Di abad keempat dan kelima Hijriah, Khorasan adalah pusat pendidikan dan ilmu pengetahuan serta tasawuf.

Para sufi besar dari berbagai tempat, termasuk dari Irak dan kawasan Transoxiana berdatangan ke Nishabur yang berkembang pesat sebagai pusat ilmu pengetahuan ketika itu. Mereka juga menghasilkan berbagai karya yang mengisi perpustakaan penting di kota ilmu itu.

Di Khorasan tinggal sufi besar seperti Abu Nasir Siraj (wafat tahun 378 Hq), yang menulis buku “Al-Lam’a fil Tasawuf. Selain itu, sufi besar lain seperti Abu Bakar Muhammad Kolabadi (wafat 380 Hq) penulis buku Al-Ta’rif, Abu Abdul Rahman Sollami (wafat tahun 412 Hq), penulis kitab Tabaqah al-Sufiah, dan Imam Abul Qasim Qaisyari (hidup tahun 376-465 Hq), penulis kitab Risalah Al-Qaisyariah. Para Shaikh Sufi ini dengan karyanya masing-masing memperkaya khazanah tasawuf.

Mazhab tasawuf Khorasan, terutama Nishabur sebagai jantungnya mengedepankan harmonisasi syariat dan thariqat serta menentang penyelewengan dan khurafat. Para arif besar seperti Abu Nasir Siraj dan muridnya Sollami serta Qaisyari mendirikan sebuah sekolah khusus di kota Nishabur.

Tasawuf yang berkembang di Nishabur dikenal sebagai mazhab Khorasan, dengan para sheikh tasawuf terkemuka. Khawaja Abdullah Ansari tumbuh dan berkembang di tempat yang kondusif tersebut. Mazhab Khorasan juga mempengaruhi prinsip tasawuf yang dikembangkan oleh Khawaja Abdullah Ansari.

Salah satu kontribusi besar dari Khawaja Abdullah Ansari terhadap mazhab Irfan Khorasan adalah tahapan dan jalan pesuluk dalam bentuk yang sistematis. Karakteristik  dan kategorisasi yang dilakukannya mengenai maqam irfan. Susunan tahapan irfani ini tidak hanya ditentukan oleh kualitas batin, tapi juga oleh akhlak.Sehingga, setiap orang yang menempuh jalan sufistik tidak meninggalkan kehidupannya dan tetap menjalani kehidupan spiritual, dengan menempuh thariqat bersama syariat.

Kecerdasan yang dimiliki Khawaja Abdullah Ansari membuat dirinya bisa menguasai berbagai ilmu agama dan sastra dalam waktu yang relatif singkat, hingga ia dikenal menjadi seorang ulama sekaligus arif terkemuka di zamannya. Orang-orang berkumpul di sekitarnya dan mengambil berkah dari kehadiran arif besar itu.

Khawaja Abdullah Ansari menggunakan waktu  dari seluruh usianya dengan baik. Ia menggunakan sebagian malam untuk shalat tahajud, membaca al-Quran. Siap hari ia lewatkan dengan ibadah dan memberikan nasehat kepada mayarakat, maupun mendidik murid-murid dan memberikan pelajaran.

Terkait hal ini, ia sendiri mengungkapkan, “Setiap hari aku menulis perjalanan kehidupanku. Tidak ada waktu libur. Dini hari aku menuju atap rumah dan mengaji. Selanjutnya aku sibuk mengajar. Di malam hari aku gunakan untuk menulis hadis. Bahkan waktu untuk makanpun  tidak ada, sehingga ibuku menyuapiku. Di tengah menulis, berkat rahmat ilahi akupun bisa menghafalkan setiap yang kutulis”.

Di tahun 423 Hq, Khawaja Abdullah Ansari mengunjungi Mekah untuk menunaikan ibadah haji. Di tengah perjalanan, ia berhenti di Baghdad untuk menghadiri pelajaran Abu Muhamamd Khalal Baghdadi (wafat tahun 439 Hq). Setelah kembali dari Mekah, ia mengunjungi Bustam dan Kharaghan. Di Kharaghan ia menemui Abul Hassan Kharaghani (wafat 425 Hq). Pertemuan dengan arif besar Kharaghan tersebut memberikan pengaruh besar terhadap dirinya. Ia juga pernah bertemu dengan sufi besar lain seperti Abu Said Abul Khair.

Setelah bertemu dengan para ulama dan sufi besar di zamannya, Khawaja Abdullah Ansari kembali ke tanah kelahirannya dan menetap di sana hingga akhir hayat. Ia sibuk mengajar dan memberikan nasehat kepada masyarakat.

Ketika itu, sekolah Nizamiyah Nishabur mengajarkan pandangan Imam al-Haramain, fiqih syafie dan kalam Asyari. Tapi Khawaja tidak sependapat dengan ilmu kalam, bahkan menentangnya dan ia pun menulis buku tentang masalah tersebut. Akibat penentangan tersebut, ia diancam akan dibunuh oleh penguasa saat itu, Menteri  Sastra dan Kebudayaan dinasti Seljuk, Khawaja Nizamul Mulk. Ia juga diancam akan diasingkan dari Nishabur ke tempat lain, karena dianggap mengancam stabilitas nasional.

Khawaja Abdullah Ansari dipanggil dengan sebutan Sheikhul Islam oleh murid-muridnya. Di akhir usianya ia buta, dan pada Jumat pagi, 22 Dzulhijah 481, beliau Hq wafat di usia 85 tahun. Beliau dimakamkan di Gazarghah, sekitar 10 kilometer dari Herat, Afghanistan. Makamnya hingga kini masih diziarahi oleh para murid dan pengikutnya.