Abdurrahim Karakoç, 7 Nisan 1932 tarihinde Kahramanmaraş’ın Elbistan ilçesine bağlı Cela köyünde dünyaya geldi. Çiftçilikle geçinen ailesinin 5 erkek çocuğundan ikincisiydi. İlkokulu köyünde okudu ve 4 yılda tamamladı.

Dedesi Mehmet Efendi, İstiklal ve Maraş savaşlarına katılan babası Gazi Ümmet Efendi ve abisi Bahaeddin Karakoç şairdi ve o da bu geleneği sürdürerek ilk şiirlerini küçük yaşta kaleme almaya başladı. Okumaya büyük bir iştiyak duysa da imkansızlıklardan ötürü eğitimine devam edemedi ve ilkokuldan sonra çiftçilik ve çobanlık yaptı.

Ağabeyi Bahaettin Karakoç’un “İster bir şiir kitabı ister bir roman ve ister bir kanun kitabı olsun, okuduğunu adeta beynine resmeder, ufak bir ayrıntıyı unutmazdı” diye tarif ettiği Abdurrahim Karakoç’un okuma azmi dillere destan oldu. Ortaokula gidemeyen, köyde babasına yardım eden ama okumayı da hiç bırakmayan Karakoç o günlerden böyle bahsediyordu: “Devamlı okudum. Hiçbir yerde bulunmayan kitapları temin eder okurdum. Babam rahmetlik alırdı, ben alırdım, ağabeyim getirirdi. Derken oku, oku, oku…Ben bir okuma hastası olmuştum.”

Kursa giderek marangozluk öğrendi ve bir süre marangozluk yaptı. Yaşadığı köy Ekinözü adıyla belde olunca yapılan sınavı kazanarak 1958 yılında belediye mesul muhasibi olarak memuriyete girdi. 1981 yılında emekli oluncaya kadar bu görevini sürdürdü.

İlk şiirleri Elbistan’da çıkan Engizek gazetesinde yayınlandı. Askerden bir bavul dolusu şiirle dönse de ilk şiirlerinin çoğunu yaktı. “Şiire nasıl başladınız?” sorusuna “Besmeleyle” cevabını veren Abdurrahim Karakoç, 1958 yılından itibaren yazdıklarını birbirini takip eden 22 şiirden oluşan ‘Hasan’a Mektuplar’ kitabında toplayarak 1964 yılında yayınlandı.

En unutulmaz şiirlerinden biri olan Mihriban’ı 1960 yılında yazan şair, “Yar deyince kalem elden düşüyor / Gözlerim görmüyor aklım şaşıyor / Lambada titreyen alev üşüyor / Aşk kağıda yazılmıyor Mihriban” dörtlüğünün de yer aldığı şiirin belki de en anlamlı mısrasını anlatırken şöyle diyordu: “O zamanlar elektrik yoktu. Lamba ışığı altında yazıyordum. Şiire başladığımda lambadaki alev titremeye başladı. ‘Lambadaki alev üşüyor’ çıktı...”