Hicretten otuz yıl kadar önce Musul taraflarında dünyaya gelen Suheyb b. Sinan, aslen Arap olup Nemir b. Kâsıt kabilesine mensuptur [İbn Sa‘d, Tabakât, 3/255]. Henüz küçük yaştayken babasının -Sasânîler tarafından- idareci olarak atandığı Übülle şehri Rumların işgaline uğramış ve Suheyb esir alınmıştır. Yaşanan esaret süresince Rum diyarında büyüyen Suheyb’in dili Arapçaya pek yatkın değildi. Bundan dolayı Rumî lakabıyla anılmıştır. Yahya isminde bir çocuğu olmamasına rağmen Hz. Peygamber (sas) tarafından Ebû Yahya olarak künyelenmiştir. Bununla beraber kızıl olması sebebiyle ona kızıl anlamına gelen Suheyb ismi verilmiştir.
Suheyb-i Rumî henüz genç yaşlardayken Kuzey Arabistan’daki Kelb kabilesinden tüccar bir Arap’a satıldı. Suheyb (ra) bir süre bu tüccarın hizmetinde kaldıktan sonra cömertliği ve yardımseverliğiyle meşhur, hilfu’l-fudûl’un kurulmasına öncülük eden Kureyşli Abdullah b. Cüd’an’a satılmıştır. İbn Cüd’an, Suheyb’i (ra) kölelikten azad etmiş ve halîfi (anlaşmalısı) olarak Mekke’de yaşamasını sağlamıştır. Dolayısıyla Suheyb-i Rumî, İslâm dini gelmeden önce Mekke’ye yerleşmiştir.
Suheyb-i Rumî ilk Müslümanlardandır. Ammar b. Yâsir onun nasıl Müslüman olduğunu şöyle anlatmaktadır: “Allah Resûlü (sas), Erkam’ın evinde iken Suheyb b. Sinân ile o evin kapısında karşılaştım. ‘Ne yapmak istiyorsun?’ dedim. O da bana ‘Sen ne yapmak istiyorsun?’ dedi. Ben ‘Muhammed’in (sas) huzuruna girip onun sözünü dinlemek istiyorum.’ deyince o, ‘Ben de öyle yapmak istiyorum.’ dedi.” Ammar devamla dedi ki: “Bunun üzerine onun (sas) huzuruna girdik. Bize İslâm’ı anlattı ve biz de Müslüman olduk. Sonra o gün bu minval üzere akşamlayıncaya kadar bekledik ve gizlice oradan çıktık.” Allah Resûlü (sas) Suheyb’in (ra) Müslüman oluşunu “Suheyb (fazilet yarışında) Rumların birincisidir.” sözüyle değerlendirmiştir [İbn Sa’d, Tabakât, 3/257].
Suheyb-i Rumî’nin (ra) azatlı bir köle olması ve nüfuzlu bir aileye sahip olmaması durumu, Mekke’de fiziki işkenceye maruz kalmasına sebep olmuştur. Öyle ki müşrikler onu çöl sıcaklarında dövdükten sonra demirden bir zırh giydirip güneşin altında bekletmişlerdir. Kaynaklar, yaşanan bu zor günlere atıfta bulunan pek çok âyetin iniş sebebi olarak Suheyb’i (ra) gösterirler. Örneğin, çekilen eziyetler neticesinde hicret eden ve sonrasında da sabredenlere Allah’ın yardım edeceğini ifade eden âyetin [Nahl 16/110] Suheyb-i Rumî, Bilal-i Habeşî ve Ammar b. Yasir hakkında indiği rivayet edilir. Yine müşriklerin Suheyb, Ammar ve Habbab b. Eret’e alaycı bir üslupla “Muhammed’in arkadaşları bunlar mı? Allah’ın aramızdan seçip kendilerine lütufta bulunduğu kimseler bunlar mı?” demeleri üzerine En’am suresi 53. âyetin nazil olduğu ifade edilmektedir [Efendioğlu, “Suheyb b. Sinan”, DİA, 37/476].