Təqribən XI əsrdən etibarən sufi təlimi Azərbaycanın dini-ictimai həyatda rol oynamağa başlayır. O dövrün ən böyük sufilərindən olan Əbu Səid Əbul-xeyrin (967-1049) nəslindən Məhəmməd ibn Münəvvər tərəfindən qələmə alınmış "Əsrar əl-tövhid fi məqamat Şeyx Əbi Səid Əbi-l-xeyr" risaləsində Azərbaycan sufiləri ilə bağlı maraqlı bir məqam vardır. Əbu Səid Əbul-xeyr Nişapurda olarkən Əbu Nəsr Şirvani adlı bir mürid onu tez-tez ziyarət edir və dərvişlərə paylamaq üçün pul gətirirdi. Şeyx Nişapuru tərk edəndə yaşıl rəngli kürkünü Əbu Nəsr Şirvaniyə verib tapşırır ki, öz vətəninə getsin və orada sufiliyi təbliğ etməyə başlasın. Şirvani vətəninə gəlib xanəgah tikir və şeyxin kürkünü də həmin xanəgahda saxlayır. Müəllif yazır ki, hər cümə günü namazdan sonra xanəgahın xidmətçisi kürkü uca bir yerdən asır, hamı gəlib o kürkü ziyarət edir, heç kim kənarda qalmır. Əgər o yerin əhalisinə aclıq, vəba və ya başqa bir bəla üz versə, şeyxin kürkünü götürüb səhraya gedir, orada həmin geyim vasitəsilə təvəssül edib bəlanın uzaqlaşmasını diləyirlər, Allah bəlanı onlardan dəf edir. Müəllif sonda qeyd edir ki, "şeyxin himməti və o camaatın təmiz əqidəsi üzündən" həmin məntəqədə 400-dən artıq xanəgah vardır, dərvişlər orada rahatlıq içindədirlər (Əsrar əl-tövhid, səh.174).

Mənbələrdən məlum olur ki, Azərbaycan ərazisində ilk sufi xanəgahları (təkyələri) daha çox Şirvan bölgəsində, həmçinin, Bakıda mövcud olmuşdur. X-XI əsrlərdə yaşamış məşhur bakılı sufi-şair Baba Kuhi Bakuvi Şirazi (948-1037) bir müddət Azərbaycanın şimalında yerləşən Babadağda inzivaya çəkilmiş (dağ da öz adını ondan almışdır), daha sonralar Bağdad, Nişapur və Şiraza səfər edərək oradakı sufilərlə görüşmüşdü. Onun Əbu Səid Əbül-xeyr, Mühəmməd ibn Xəfif və Qüşeyri ilə ünsiyyət qurması, Şeyx Əbül-Abbas Nəhavəndi ilə elmi mübahisələr aparması (bu mübahisələrin sonunda Nəhavəndi onun üstünlüyünü etiraf etmişdi) məlumdur. Baba Kuhi ömrünün son dövrünü Şiraz yaxınlığındakı bir dağın mağarasında keçirmiş, burada dünyasını dəyişərək dəfn olunmuşdu. Bura irfan əhlinin ziyarət yeri idi. Rəvayətə görə, Hafiz Şirazi gənclik illərində bir gecə Baba Kuhinin məzarının yanında təvəssül edib yatdıqdan sonra ona güclü ilham verilmişdi.

İçərişəhərdə, Qız qalasının şimal tərəfində yerləşən və arxeoloji qazıntılar nəticəsində qalıqları aşkar edilmiş məscid Baba Kuhi Bakuvinin Bakıda yaşadığı zaman ibadət məkanı olmuşdur.

Baba Kuhinin qardaşı Pir Hüseyn Şirvani də görkəmli təsəvvüf xadimi idi. İndiki Hacıqabul rayonu ərazisində yerləşən Pirsaat və ya Pirhüseyn xanəgahı onun adı ilə bağlıdır, sufinin özü də həmin xanəgahda dəfn edilmişdir. Baba Kuhi özündən əvvəlki və müasiri olduğu sufilərin barəsində maraqlı hadisələri toplayıb kitab halına salmışdır; "Əxbar əl-arifin" adlanan bu kitab klassik sufi ədəbiyyatının ən gözəl nümunələrindən sayılır. Əbdürrəhman Cami sufilərin həyatından bəhs edən "Nəfəhat əl-üns" əsərində Xacə Abdullah Ənsarinin (1006-1088) Baba Kuhi haqqında belə dediyini nəql edir: "Çoxlu səfərlər etmiş, dünyanın bütün şeyxlərini görmüşdü və onlardan çoxlu hekayətlər edirdi. Mən onun dilindən otuz min hekayət və üç min hədis seçib yazmışam. O, təsəvvüf bəhanəsi ilə dünyaya gəlmiş mələk idi, bütün elmlərdən xəbərdar idi".

Baba Kuhinin irfani məzmunlu şeir divanı sufilər tərəfindən yüksək dəyərləndirilirdi. Sədi Şirazi "Bustan" əsərinin beşinci dəftərində Baba Kuhinin adını çəkərək, onun kəlamlarına müraciət etmişdir.

XIV əsrdə Bakı ətrafında yaşamış Əbu Səid Abdal Bakuvi adlı səxavətli və kəramətli sufinin xanəgahı xalq içində məşhur idi. Neft quyularından biri ona vəqf edilmişdi, o da quyudan çıxan neftin qazancı ilə dolanır və ehtiyaclılara yardım göstərirdi. "Gülüstani-İrəm" kitabında yazılıb ki, hətta Elxani hökmdarı Sultan Məhəmməd Xudabəndə Ölcaytu onunla görüşmüş, Bakuvinin göndərdiyi hədiyyələrin tam halal olduğuna inandığı üçün onları satıb puluna özündən ötrü kəfən alınmasını tapşırmışdı.

Əbu Səid Bakuvinin məzarı "Xəlifə damı" adı ilə tanınırdı ("xəlifə" sözü canişin mənasını ifadə edir və təsəvvüf kitablarında şeyxlərin məntəqələr üzrə canişinləri və varisləri bu cür adlandırılır). Sonralar Xəlifə damı torpaq altında qalsa da, ərazisi insanlar tərəfindən pir kimi ziyarət edilirdi. XX əsrin əvvəllərində onun yerində Bakının mərkəzi ibadət ocağı sayılan Təzəpir məscidi tikildi. Elə əvvəlki Xəlifə damı pirinin qalıqları üzərində tikildiyinə görə bu məscidə Təzəpir deyilir.