乾元二年（759年）正月，史思明自称大圣燕王。李光弼认为史思明攻占魏州后按兵不动，建议派兵进逼魏州，史思明不敢轻易出战，两军相持下去，邺城城破指日可待。观军容宣慰处置使鱼朝恩不同意。不久，镇西节度使李嗣业攻打邺城战死，二月，邺城在李光弼等九节度使围困下粮食耗尽，安庆绪坚守待援；史思明统兵从魏州向邺城挺进。三月，唐军步骑六十万于安阳河北岸列阵，史思明亲率五万精锐进攻唐军；李光弼、王思礼、许叔冀、鲁炅率部与史思明大战，双方死伤相当；郭子仪率军于后，还未列阵，大风突起，天昏地暗。唐军与敌军大惊，唐将率众向南溃逃，史思明率部向北逃走，士卒沿途劫掠不能制止，只有李光弼部众不散，全军返回太原。战后，观军容使鱼朝恩将战败责任推卸给朔方节度使郭子仪，李光弼代替郭子仪出任朔方节度使，天下兵马副元帅。李光弼统率五百河东骑兵奔赴洛阳，前往朔方军中，为防止敌军偷袭洛阳，率部东出黄河驻守虎牢(今河南荥阳)。下令召集兵马使张用济，因忌惮李光弼治军严谨，与诸将密谋驱逐李光弼。李光弼亲率数千骑兵出汜水，张用济单骑迎接，被其斩杀，以部将辛京杲接替兵马使一职；此举震慑众将，都兵马使仆固怀恩率先赶来。
