在这期间,叛军内部出现了混乱。玄宗逃离长安以后,安禄山派他的大将孙孝哲领兵开进长安,开始了烧杀抢掠,对向他投降的唐朝大臣,都封地封官。一时间,安禄山的气焰十分嚣张,加上在军事上取得的进展,形成了一支强大的割据势力。被胜利冲昏头脑的他开始了穷奢极欲的生活,他的性情越来越暴躁,对伺候他的人稍微感到不合意,就用鞭子抽打或者杀死。
安禄山的大儿子叫安庆绪,照规矩将来应当由他来继承安禄山的“皇位”。可是安禄山嫌他窝囊,想传位给最宠爱的儿子安庆恩。这一来,安庆绪时常害怕安禄山会处死他,但一时又想不出保全自己的办法。
至德二年(757)正月的一个晚上,安庆绪和谋臣严庄合谋,趁安禄山睡觉之时,结束了这个“小丑”的性命。第二天一早,严庄就公开宣布:安禄山暴病身亡,由安庆绪即皇帝位。这一年,唐肃宗任命他的儿子李俶为元帅,郭子仪为副元帅,率领唐军以及从回纥等地借来的军队共15万人,发动反攻,收复了长安,进军到洛阳。安庆绪逃到邺城(今河南安阳)。60万唐军从各路集结,开到邺城附近地区,对邺城形成包围的态势。
安庆绪领兵出战,被郭子仪等连连击败。他只得回城坚守,并派人到范阳向史思明求救。史思明大军抵达邺城,解了安庆绪之围,引狼入室的安庆绪对史思明感激不尽。但没想到史思明趁机杀死了安庆绪和他的几个大将大臣,还把他的土地和军队兼并过来,自称“大燕皇帝”。
史朝义是史思明的大儿子,从小跟随史思明用兵打仗,为人圆滑,善笼络人心,所以得到许多将士的拥护。可是史思明不喜欢他,想立小儿为“太子”,并且常常漏出风声,想杀掉史朝义。史朝义听说以后,时刻提心吊胆,慢慢也就起了谋反之心,觉得还是自己先下手为强。唐上元三年(761),史思明领兵攻占了洛阳。接着他派史朝义做先锋,继续进犯。史朝义在西征中吃了几次败仗,史思明非常生气,恨恨地说:“等攻下了陕州,我一定要杀了这个无能的小子!”一天晚上,史思明驻扎在一个叫轿驿的地方,命心腹曹将军带兵警卫。想不到,史朝义早已买通了曹将军,他们闯进驿馆,将史思明抓起来,随后把他绞死了。史朝义继承了帝位。但他害怕有人不服,就又派亲兵到范阳将史思明的小儿子史朝清和史朝清的几十个亲信都杀了。虽然这样,那些反对史朝义的势力并不肯善罢甘休,他们跟拥护史朝义的势力又打了起来,两派你争我夺,斗了几个月,双方死了几千人。最后史朝义虽然稳定了大局,但经过这段时间的内讧,叛军的实力大大减弱,也越来越不得人心了。