Abu Bakr Shibli dilahirkan di kota Samara tahun 247 Hijriah. Tapi sejarawan meyakini arif besar ini adalah orang Khorasan, tepatnya Shibliyah, yang merupakan salah satu desa di Transoxiana, yang terletak antara Seyhoun dan Samarkand.

Ayahnya adalah seorang pemimpin penasehat spiritual dinasti Abbasiah di era Mu’tasim. Sheikh Abu Bakr Shibli pada awalnya menjadi penasehat spiritual Dinasti Abbasiah.Tapi kemudian Abu Bakr Shilbi menjadi pemimpin Damavand. Ketika itu beliau mulai cenderung terhadap dunia tasawuf.

Suatu hari, Shibli mendapat surat dari Baghdad supaya menemui Khalifah. Akhirnya, Shibli bersama Amir Ray dan rombongan datang ke Baghdad membawa surat undangan tersebut untuk bertemu Khalifah. Lalu, sebagaimana tradisi ketika itu, khalifah memberinya jubah kebesaran. Ketika kembali, Shibli bersin, dan ia membersihkan ingus yang keluar dari hidungnya dengan jubah kebesarannya itu.

Singkat cerita, perbuatan Shibli disampaikan oleh salah seorang dari anggota rombongannya kepada Khalifah. Mendengar cerita itu, Khalifah berang dan meminta kembali jubah kebesaran, dan memukul Shibli. Tidak hanya itu, Shibli juga diberhentikan dari jabatannya dan keluar dari istana. Kejadian ini membuat Shibli merenung, "Jika seseorang menjadikan jubah khalifah sebagai sapu tangan, maka ia layak dihukum dan dipecat. Lalu, bagaimana dengan orang yang menjadikan jubah penguasa alam semesta ini sebagai kain lap, apa yang akan diterimanya?".

Lalu, Shibli berkata, "Wahai Amir, engkau tidak lain dari seorang hamba Tuhan. Engkau tidak menerima ada orang yang melecehkan jubahmu, sebab nilai jubahmu telah diketahui semua orang. Ketahuilah,Tuhan penguasa alam telah menganugerahkan jubah kepadaku karena rahmat serta kasih-Nya, dan aku tidak bisa menerima di jalan pengabdian ada orang yang menjadikannya sebagai kain lap".

Diceritakan, setelah itu Shibli keluar dari istana dan bertemu dengan arif besar Junaid dan menjadi muridnya. Sebagian sejarawan menyebutkan Shibli menjadi murid Junaid selama enam tahun, tapi riwayat lainnya mengisahkan selama 14 tahun. Pada awalnya Junaid tidak menerima Shibli menjadi muridnya.Tapi setelah Shibli menjadi pengemis, dan meminta maaf kepada warga Damavand, akhirnya diterima sebagai murid Junaid.

Attar Nisaburi dalam buku Tazkirah al-Auliya menceritakan pertemuan antara Shibli dan Junaid. Shibli berkata, "[Wahai Sheikh], engkau mengetahui mutiara pengetahuan Tuhan dan rahasia kedekatan dengan-Nya. Hadiahkan padaku atau engkau jual". Junaid menjawab, "Jika kujual engkau tidak akan sanggup membelinya. Tapi jika kauinginkan, maka aku bisa memberikannya. Sebab bisa diraih dengan mudah, tapi engkau tidak mengetahui nilai dan kadarnya.Tidak ada jalan lain, engkau harus sepertiku dimasukkan ke laut supaya sabar dan menanti untuk mendapatkan mutiara itu,".

Kemudian, Shibli menyanggupinya. Lalu Junaid kembali berkata, "Tahap awal engkau harus menjadi pengemis selama setahun dan jangan melakukan pekerjaan lain". Selama setahun Shibli menjadi pengemis di Baghdad. Tidak ada seorangpun yang membantunya. Lalu ia kembali menemui Sheikh Junaid. Ia menjelaskan apa yang dialaminya selama setahun berkelana di Baghdad. Junaid berkata, "Kini engkau tahu dirimu tidak bernilai di hadapan mereka. Ketahuilah kadar dan nilai dirimu sendiri. Jangan menyandarkan hatimu kepada mereka dan jangan hiraukan."

Selanjutnya, Sheikh Junaid menugaskan Shibli meminta maaf kepada warga Damavand satu-persatu, karena ia pernah menjadi Amir wilayah itu. lalu, Shibli mengetuk rumah warga Damavand satu-persatu dan meminta maaf dari mereka. Tinggal satu rumah yang tidak ada penghuninya. Shilbi berniat memberikan seratus ribu dirham kepada orang yang tertindas itu.

Singkat cerita, setelah empat tahun berlalu Shibli menghadap Junaid. Tapi, Junaid melihat tanda-tanda ambisi berkuasa dalam dirinya. Oleh karena itu, Junaid kembali mengirim Shibli menjadi pengemis.Hasil mengemis harian Shibli diserahkan kepada Junaid untuk dibagikan kepada para Darvish. Shibli hidup dalam kondisi kelaparan, dan tidur di malam hari dengan kondisi perut kosong.

Setelah setahun kemudian, Junaid akhirnya memberikan izin bagi Shibli menjadi muridnya. Pertama kali, ia menjadi pelayan para murid Junaid selama setahun. Suatu hari, Junaid menanyakan keadaan diri Shibli. Ia menjawab dirinya sebagai makhluk Allah yang paling kecil. Mendengar itu, Junaid yakin dan menyebut Shibli sebagai mahkota para sufi.

Seorang arif besar bernama Ruzbihan Baqli menjelaskan kehidupan Shibli. Sebagian sejarawan menyebutnya sebagai murid Mansur bin Hallaj. Zerin Koub, salah seorang sejarawan besar kontemporer Iran dalam bukunya "Melacak Tasawuf Iran" berkeyakinan bahwa Shibli dengan Syathiyat-nya belajar dari Hallaj. Shibli dalam karyanya menyinggung pandangan Hallaj bahwa kegilaan diri sebagai sumber keselamatan dan akal Hallaj sebagai penyebab kesyahidannya.

Shibli mendidik banyak murid. Tapi sebagian peneliti termasuk Abdul Rahman Jami penulis kitab "Nafahatul Uns" meyakini murid sejati Shibli adalah Abul Hassan ibn Ibrahim Husri yang meyakini dirinya gila. Attar dalam bukunya Tadzkiratul Auliya menjelaskan metode suluk Shibli dan kehidupannya. Shibli kepada muridnya mengajarkan untuk bertaubat, dan mereka berziarah menuju Kabah tanpa perbekalan. Shibli wafat di usia 87 tahun dan dimakamkan di Khizran, Baghdad pada tahun 334 atau 335 Hijriah.

Shibli tidak menulis karya khusus. Tapi perkataan, munajat dan syair serta hikayatnya dijelaskan dalam berbagai buku. Salah satu referensi terpercaya memuat masalah ini dalam buku Tadzkiratul Auliya yang ditulis Attar Nisaburi, sufi terkemuka Iran abad keenam Hijriah. Dalam karyanya itu, Attar menjelaskan perjalanan hidup dan kedudukan irfani Shibli. Di buku Mantiq al-Tayyar dan Ilahi Nameh, Attar juga menceritakan sejumlah hikayat mengenai Shibli.

Selain Attar, Ibnu Arabi dalam kitab al-Tajaliyat al-Ilahiyah menulis pertemuannya dengan Shibli dalam dua tahap dari tahap tajali. Di buku Futuhat Makiyah, Ibn Arabi juga mengutip perkataan dan hikayat dari Shibli. Kamil Mustafa Shibi mengumpulkan berbagai syair Shibli dalam bentuk buku puisi berjudul "Divan Abu Bakar Shibli".

Para peneliti berkeyakinan bahwa Shibli memiliki empat karakteristik utama dalam sejarah tasawuf Iran. Pertama, Sebagaimana Bayazid Bustami, Shibli sangat menekankan masalah cinta, bahkan ia disebut-sebut sebagai para pemuka tasawuf cinta. Menurut Attar, dari percakapan antara Shibli dengan Junaid dapat diketahui bahwa pencarian Tuhan yaitu daya tarik ilahi lebih utama dari pencarian diri. Tapi Junaid sebaliknya, pencarian diri lebih utama dari pencarian Tuhan.

Kedua, Shibli termasuk arif yang berperilaku tidak biasa. Sebagaimana ditulis bergadai sumber, "Setiap kali kegilaan menderanya, ia dibawa ke rumah sakit jiwa". Ibnu Arabi dalam bukunya Futuhat Makiyah menjelaskan kondisi Shibli seperti Bahlul.

Ketiga, Shibli termasuk arif Shathiyat. Kecintaan yang tinggi kepada Allah swt membuatnya tidak terkendali hingga mengucapkan kata-kata yang rumit untuk dipahami dan akhirnya seringkali disalahpahami. Shathiyat Shibli dijelaskan oleh Abu Nasir Saraj dalam kitab "Al-lama" dan Ruzbihan Baqli dalam kitab "Syarh Syathiyat".

Hajwiri dalam kitab "Kasy al-Mahjub" menyebut keunikan dunia tasawuf Shibli dari Syathiyat dan karyanya. Zerin Koub dalam bukunya "Pelacakan Tasawuf Iran" berkeyakinan bahwa Syathiyat Shibli terkadang lebih angkuh dari Syathiyat Bayazid dan Hallaj. Tapi cara pengungkapannya yang puitis dalam kondisi tanpa syarat dan gila di satu sisi, dan tidak ada hubungannya dengan unsur-unsur Syiah dan tidak menentang pemerintah di sisi lain, menyebabkan ia selamat dari serangan para penentang sehingga nasibnya tidak seperti Hallaj.

Pada akhirnya, karakteristik Shibli bersama dengan para arif lain seperti Rabiah Adawiyah, Dzunun Misri dan lainnya menjadi sarana muncul dan berkembangnya sastra tasawuf yang lebih sistematis.