Succédant à son frère al-Hadi en 786, il délègue les affaires de l'État à un vizir, Yahya, qu'il choisit dans la dynastie des Barmakides persans. Ce dernier exerce ainsi le pouvoir effectif, avec ses deux fils. Mais, en 803, Harun al-Rachid, avec l'appui de ses eunuques et des mawali (musulmans non arabes), se débarrasse des Barmakides. Son règne est d'abord marqué par de nombreux troubles, surtout en Perse, où les rivalités économiques et sociales se cristallisent en une agitation religieuse opposant sunnites et chiites. Mais le calife se rend populaire par la guerre contre les Byzantins, à qui il impose tribut à deux reprises, et par ses nombreux pèlerinages. Il meurt alors qu'il se rendait dans le Khorasan (N.-E. de l'Iran) pour lutter contre un rebelle de Transoxiane.
Héros de nombreux contes des Mille et Une Nuits, le personnage d'Harun al-Rachid a vu son histoire déformée par la légende. Le règne de ce souverain fastueux appartient bien à l'âge d'or de l'islam classique (VIIIe-Xe s.), caractérisé par une grande prospérité commerciale et par un remarquable épanouissement des sciences, des lettres et des arts, dont Bagdad est alors le foyer. Mais l'œuvre du plus célèbre des califes abbassides reste controversée, certains historiens faisant notamment de lui le responsable de la dislocation de l'Empire abbasside, qu'il décide de partager entre trois de ses fils.