لما علم أهل الكوفة أن إبراهيم بن محمد قد قتل أراد أبو سلمة الخلال أن يجعل الخلافة في آل علي بن أبي طالب، فتواصل مع جعفر الصادق، وعبد الله بن الحسن المثنى، وعمر الأشرف بن علي زين العابدين، فلم يستجيبوا ويستمعوا له، وغلبه النقباء والأمراء أيضًا، وبعدما غلب الأمراء أبو سلمة الخلال أتوا بأبي العباس السفاح، وسلموا عليه بالخلافة، وكان عمره حينئذ ستة وعشرون عاماً،
ثم صلي بلناس صلاة الجمعه ثم وقف علي المنبر وخطب في الناس وبايعوه كلهم خليفة لهم.
كان السفاح أبيضا جميلاً طويلاً، أقنى الأنف، جعد الشعر، حسن اللحية، حسن الوجه، وفصيح الكلام، حسن الرأي، جيد البديهة
ومن أهم أعماله : أنه استطاع إنهاء الدولة الأموية، وإعلان قيام الدولة العباسية وقد عمل السفاح على إنهاء وجود بني أمية بعد أن بايعه الجميع في الكوفة، فكانت أولى اتجاهاته هي القضاء على الخليفة الأموي الأخير مروان بن محمد، وقد استغرق حوالي ثمانية شهور حتى استطاع القضاء على مروان بن محمد نهائيًا، وقتله في مصر، وبعد أن بويع السفاح أخذ يضع الولاة الجدد على البلدان، وكان معظمهم من أقاربه من إخوته واعمامه وأولادهم .
ماسبب لقبه السفاح :وقد لقب أبو العباس بالسفاح، وذلك لأنه في آخر خطبته في الكوفة قال: «أنا السفاح المبيح، والثائر المنيح»، وقيل لكثرة ما أراقه من دم الأمويين،وقيل أنه لقب بهذا بسبب كرمه وإغداقه في العطاء؛ لأن السفاح تعني المعطاء.
وفاته:
وقد رُوي عن عم السفاح عيسى بن علي أنه وجد في وجهه يوم عيد الأضحى في آخر النهار حبتان صغيرتان ثم كبرتا حتى امتلأ وجهه بالحبوب البيضاء الصغيرة، فعرفوا أنه جدري، وفي اليوم الثاني اشتد المرض به حتى أصبح لا يعرف أي أحد، وفي مساء هذا اليوم انتفخ وجهه حتى أمسى مثل الزق، وتوفي في اليوم الثالث، وقد كانت وفاته في يوم 11 ذو الحجة وقيل 13 ذو الحجة من العام 136 هـ عن عمر ناهز الثلاثة والثلاثين، وقيل اثنان وثلاثون، وقيل ثمانٍ وعشرون عامًا، وصلى عليه عمه عيسى بن علي، ودفنه في الأنبار.
اخر ماقاله السفاح قبل موته :هو: «الملك لله الحي القيوم، ملك الملوك، وجبار الجبابرة»، وكان منقوش على خاتمه (الله ثقة عبد الله)