Sivas’ın fiziki ve manevi dokusunda iki mahalle adı, bir cami, bir zaviye, bir mektep ve bir çeşme ile iz bırakan büyük şahsiyetlerden olan Ali Baba büyük bir ihtimalle 1470’li yıllarda doğmuş ve 1574’de bir asırdan fazla sürdüğü rivayet edilen ömrünü tamamlayıp, dar-ı ukbaya hicret etmiştir.

  Büyük Ali Baba ve torunu Küçük Ali Baba büyük kısmı devrin padişahları tarafından, kendilerine mülk olarak tahsis edilen gelir kaynaklarını vakfederek yukarıda sözünü ettiğimiz müesseseleri inşa ettirmişler ve Sivas’lılar ile gelip geçen yolcuların hizmetine sunmuşlardır. 

  Bugünkü konağın girişinin üstündeki köşk kısmı ile konağın önündeki çeşme 1815 yılında Benderli Ali Ağa tarafından yapılmıştır. Konağın diğer kısımlarının bu tarihe yakın bir zamanda yapılmış olduğu söylenebilir .Osmanlı döneminde bilhassa 17. ve 18. Asırlardan konağın müştemilatının daha fazla olduğu bilinmektedir. O dönemlerde yazlık ve kışlık odalar, mutfak, kiler, çardak, yolcular için misafirhane(han), anbar, iki ahır, samanlık, kapıcı odası, fırın ve çeşme ile avlu ve bahçesi bulunuyordu.

  Zamanla fonksiyonunu kaybetmesiyle birlikte bugünkü binanın kaldığı anlaşılmaktadır. Bugün bina 7 ana bölümden müteşekkildir. 1- Giriş kısmının sağ tarafında yaşlılar ve evlilerin oturduğu oda 2- Girişin sol kısmında gençler ve bekarların kaldığı oda 3- Semaha, 4- Semahanenin sağ tarafında çilehane 5- Mutfak 6- Semahanenin ikinci katında kadınlar kısmı 7- İkinci katta misafir köşkü.

  Bu haliyle belediyemiz tarafından restore edilerek eski ihtişamına kavuşturulan konak, Ali Baba ailesinin son sakinlerinden olan Susamışlar’ın (Mehmet Nuri Susamış ve Oğulları) adına izafeten Susamışlar Konağı olarak adlandırıldı.

“XIX. yüzyıl sonlarında inşa edildiği izlenimini veren tekke binası tek katlı ahşap bir yapıdır. Üstte tek hacimli bir köşk odası mevcuttur.

Binaya kuzeybatı yönündeki bir kapı ile girilmektedir. Sağ ve solunda birer misafir odası bulunmakta olup tavan ve tabanı ahşap duvarlar ahşap arası kerpiç dolgudur. Her iki odada önemli bir süsleme elemanı yoktur. Bu iki oda arasındaki koridordan girilerek 12 x12 mİç ölçülerindeki semahane bölümüne geçilmektedir. Semahane’nin tavan ve tabanı ahşap olup dört yönü ahşap mahfillidir. Mahfil korkuluklarının tümüne yakın kısmı kırılmış ve yok olmuştur. Kuzeybatı yönündeki mahfil, haremlik olarak ayrılmış; ahşap çıtalı kafeslerle bölünmüştür. Semahanenin tavan, mahfil ve ahşap kısımlarında önemli bir tezyinat görülmemektedir.

Semahanenin güneyindeki alçı mihrap nişli basit, sade, yarım daire şeklindedir. Üzerine boya ile tekke eşyalarının (şiş) resmi yapılmış, ancak günümüze kadar iyi korunmadığından silik duruma gelmiştir. Mihrabın sağ ve solunda iki küçük mekân çilehane olarak ayrılmış olup bu uygulamanın sonradan yapıldığı, bugünkü durumu ile Rufai tekkesi olduğu izlenimini vermektedir.

İkinci kattaki tek hacimli köşk odası, ahşap tavanlı ve tabanlıdır. Bu köşk odası ve tekkenin üzeri basık, kırma çatı ile örtülü ve oluklu kiremitle kaplıdır. Taşıyıcı öğeler, koruma durumu, dış yapı, üst yapı, içyapı, süsleme elmanı ile bir özelliği yoktur. …

Tekkenin kapatılmasından sonra 1979 yılına kadar ev olarak kullanılmıştır. Bu nedenle zorunlu ihtiyaçlar için Semahanenin kuzeyine mutfak, banyo, tuvalet üniteleri bölünerek eklenmiştir.”