Syekh al-Hallaj tumbuh dalam abad yang menjadi saksi berdirinya Bayt al- Himmah yang tersohor, sebuah pusat penerjemahan di Baghdad yang bertujuan menyebarluaskan pandangan dan ide-ide Yunani. Pusat ini berada di bawah perlindungan khalifah al-Ma’mun yang anti-tradisionalis dan sedikit berbau Syi’ah.
Keahlian debat Syekh al-Hallaj, baik dalam soal keadilan maupun persoalan yang menyangkut Qur’an, mulai diasah pada periode yang penuh ketegangan ini. Sikapnya yang terbuka terhadap perspektif dan tradisi agama lainnya berasal dari kecenderungannya untuk menentang “ortodoksi” Sunnni di bidang intelektual, politik dan kultural. Ini adalah periode yang membuat karakternya menjadi rawan terhadap bahaya sektarianisme spiritual, sebuah ciri yang telah lama muncul dalam sejarah Islam dan telah diperingatkan sejak dulu oleh Syekh Hasan al-Basri kepada umat; dan bahaya inilah yang ikut serta membawa al-Hallaj kelak menuju kematiannya demi memperjuangkan keadilan dan persatuan seluruh umat. Beliau kemudian umroh dan menetap di Mekah selama setahun. Konon pada masa ini beliau berpuasa terus-menerus untuk mempersiapkan diri menerima panggilan spiritual yang lebih tinggi. Ia memilih berbagai bentuk kewajiban dan anjuran agama yang paling berat bagi nafsunya. Seperti Hasan al-Basri dan Sufi-sufi generasi selanjutnya, Syekh al-Hallaj menganggap bahwa penyucian hati adalah syarat utama untuk merealisasikan panggilan moral dan spiritual atas nama umatnya. Kemungkinan besar pengalaman di masa mudanya inilah yang memperkuat keyakinannya terhadap makna dari sayha bi’l Haqq, seruan untuk menegakkan keadilan sebagai saksi atas Realitas Tuhan dan Kebenaran Keesaan Tuhan yang transendental. Setelah itu beliau tampaknya semakin kuat menentang ekstremisme politik dan tirani jenis apapun. Beliau juga menentang kesufian yang menyendiri dan tenang yang dinisbahkannya kepada para gurunya sendiri, termasuk Syekh al-Junayd. Menurutnya, Syekh al- Junayd merepresentasikan penarikan diri dari aktivitas politik dan hanya menitikberatkan pada ibadah.
Penolakan terhadap corak sufisme yang tenang ini menjadikan Syekh al- Hallaj berseberangan dengan pandangan asketik yang pada mulanya diajarkan Syekh HASAN AL- BASRI yang menganjurkan orang agar bersabar dalam menghadapi tirani dan menanamkan rasa takut dan sedih (al-khauf wa al- huzn).
Kira-kira pada periode inilah Syekh al-Hallaj ikut dalam diskusi yang melibatkan tiga orang sufi terkemuka. Diskusi ini menunjukkan perkembangan pandangannya tentang inspirasi personal dari Tuhan (ilham): di Mekah beliau berdiskusi dengan Syekh Amr Makki; di Kufa dengan Syekh IBRAHIM AL- KHAWAS; dan di Baghdad dengan Syekh al-Junayd.
Dalam catatan biografisnya Hamd menyebutkan sebuah pertemuan antara ayahnya dan Junayd dengan sekelompok sufi (fuqara) di mana saat itu diajukan sebuah pertanyaan yang berhubungan dengan “keinginan untuk mendapatkan misi pribadi (mudda’i).” Syekh Al-Junayd waktu itu memberi nasihat kepada al-Hallaj muda yang masih bersemangat ini agar tenang dan bersabar.
Namun sumber lainnya menyebutkan bahwa pertemuan ini terjadi saat krisis pernikahan dan merupakan satu-satunya pertemuan yang mereka adakan. Yang penting di sini adalah bahwa Syekh al- Hallaj tampak berbeda pandangan dengan aliran Sufi tradisional seperti yang dianut oleh mazhab di Baghdad. Akan tetapi di Basra, tempat Syekh al- Hallaj berkumpul kembali dengan istrinya setelah menyendiri di Mekah, beliau mulai menarik banyak pengikut dan memulai melakukan “misi pribadinya.” Setahun kemudian, Syekh al-Hallaj meninggalkan Basra menuju ke Tustar bersama istrinya dan saudara misannya, seorang anggota keluarga Karba’i yang beraliran Syi’ah.
Di sana beliau mulai berdakwah (baik dalam bahasa Arab maupun Persia) kepada penduduk setempat dan dakwahnya ini mendapat keberhasilan. Tetapi Syekh al-Hallaj masih terus mendapat kecaman dari bekas gurunya, Syekh Amr al-Makki. Serangan- serangan ini menjadi faktor penting dibalik keputusan Syekh al-Hallaj untuk memutuskan ikatannya dengan guru Sufi itu dan menanggalkan jubah Sufinya, meskipun jubah ini kelak menjadi satu-satunya “pakaian” yang dikenakannya selama melakukan perjalanan dan saat kelak berada di penjara.
Di sekitar pusat kota Tustar dan Ahwaz, beliau sering menjadi tamu dikalangan tuan tanah, birokrat kelas atas, orang-orang kaya, kelompok yang lebih dikenal sebagai abna al- dunya. Meskipun Syekh al- Hallaj dikenal sebagai dai yang tersohor, namun gaya bahasanya makin lama semakin abstrak dan dialektis, mengikuti gaya ucap di bidang filsafat (falsafa) kaum Muslim non- tradisionalis (yakni Mu’tazilah dan Syi’ah) di kawasan itu. Sekitar tahun 887, saat usianya 30 tahun, beliau ditangkap oleh agen pemerintah Sunni dan dihukum cambuk di muka umum di Nahiyat al-Jabal, yang terletak di antara Sus di Iran dan Wasit di Irak.
Syekh al-Hallaj dituduh sebagai penghasut politik, dan dituduh menjadi seorang agen gerakan Qarmathian, yakni kaum radikal sayap kiri dari golongan Syi’ah yang berkeinginan untuk menggulingkan pemerintahan Abbasiyah dan para pendukungnya. Dakwah-dakwahnya memang membahayakan di bidang politik, walaupun dalam kenyataannya beliau tak lagi aktif dalam bidang politik setelah pemberontakan Zanj dipadamkan. Selama lima tahun kemudian dia berkeliling menjalankan “misi” ke seluruh pusat-pusat kota yang telah diarabkan (arabicized) di Iran barat, Khurasan dan di sepanjang Sungai Oxus. Pada tahun 893 beliau berkumpul bersama istrinya di Ahwaz. Menjelang akhir tahun ini di sini anak ketiganya lahir, yakni Hamd.
Di sini pula beliau mendapat julukan hallaj al-asrar atau hallaj al- qulub, pemintal atau pembaca rahasia hati terdalam. Mulailah beredar kisah-kisah tentang karamahnya, dan pada saat yang sama beliau berhasil menyangkal tuduhan melakukan praktik perdukunan yang dilancarkan oleh kaum Mu’tzailah dan Syi’ah. Hal ini membuatnya makin terkenal dan mendapat lebih banyak pengikut.
Pada 894 H beliau melakukan perjalanan keduanya ke Mekah melalui Basra dan pusat gerakan Qarmathian di Teluk Persia. Menurut keterangan beliau tiba di Kota Suci Mekah bersama 400 pengikutnya yang berpakaian sederhana dan lusuh dan menjalani kehidupan fakir. Beliau kemudian tinggal di pusat tekstil di Baghdad selama setahun.
Pada masa ini beliau kembali menjalin hubungan dengan para sufi, terutama dengan sufi yang individualistik seperti Syekh Abu Hasan al-Nuri (w. 295/907) dan Syekh ABU BAKAR AL-SHIBLI (w. 334/945).
