史思明露发徒跣，只身一人逃往博陵。至此，河北大半郡县重为唐军所有。
首伐连捷之时，李光弼清醒认识到，范阳是安禄山老窝，应该先予攻克，绝其根本。计划未行，哥舒翰潼关败迅传来，唐玄宗逃往蜀地，一时间军心大骇。唐肃宗李亨即位后，马上派使臣授李光弼为户郎尚书、同中书门下平章事。李光弼临危受命，立即提五千兵马赴太原。
当时，节度使王承业慌于军政，侍御史崔众在太原主持军事，平时根本不拿王承业当回事，参见这位上司时也时常着甲提枪，随便闯入，没有一点上下尊卑规矩。李光弼听说此事后，本来就对崔众很反感。朝廷令下来，依理崔众应把所部兵马全部交予李光弼掌管。赴营参见新上司时，估计是牛逼已成习惯，崔众骑马率兵士与李光弼会面，双方队伍相交，崔众仍旧大大咧咧安坐马上，根本不行参见礼。李光弼大怒，喝令左右当众把崔众拿下，绑缚关押。刚把崔众推走，朝廷中使赶到，说有任命崔众为御史中丞的诏书，又问众人崔众在哪里，要他跪地听封。李光弼答言：“崔众有罪，已经关起来了！”中使连忙拿出朝廷敕旨给李光弼看。
“现在要处斩的，只是侍御史崔众。如果你宣读制命封他为中丞，我就斩中丞崔众。如果朝廷有旨拜他为宰相，我就斩宰相崔众！”李光弼斩钉截铁，掷地有声。“中使惧，遂寝之而还。”兵荒马乱，大将在外，有生杀矛夺之权，这位公公胆小得聪明，赶忙回朝复命。转天，李光弼大树兵仗，在军中当众斩杀崔众，威震三军。这崔众也是倒霉蛋，撞在李光弼刀下，成为李将军树威立势的牺牲品。.
唐肃宗至德二年（公元757年），史思明等人率十万多叛军向驻扎太原的李光弼军发起攻势。当时，唐军的精兵锐卒都被征调到朔方军保卫唐肃宗，李光弼手下士卒连一万都不到。面对十倍于已、来势汹汹的劲敌，众将都建议修城凭固，坚守以待外援。惟独李光弼有自己的见解。“环城四周有四十里，现在派城内兵民大修城池根本就不现实，敌人马上就杀至城外，到时大家筋疲力尽，连御敌的力量都没有。”于是，李光弼亲率士卒百姓，在城外掘壕沟为守，又下令挖堑沟数万，周围将士也不明就里，只能依命而行。
史思明到太原城前信心百倍，对诸贼将说：“李光弼弱兵不过一万，太原可屈指而取，然后我们鼓行而西，直攻河陇、朔方两军，再无后顾之忧！”没想到，刚要攻城，李光弼派人先以二百人才能挽动的巨型抛石车猛砸大石，一顿乱轰，叛军有一、两万人被砸成肉酱。史思明指挥兵士搭建飞楼，用木幔围起，在中间堆土成山，想凭土山临城进攻。李光弼兵士从下面把土挖空，土山轰塌。如此数合，史思明知道确实遇到劲敌，再也不提连战速决的事情。
史思明在城外张灯结彩，大宴兵士，又让戏子在台上扮成逃跑的唐玄宗，一来刺激城内固守唐兵，二来给叛军当“宣传队”，鼓舞士气。戏演到一半，台上的几个戏子忽然不见——李光弼派人从先前挖的堑沟壕洞一直钻到戏台上，掏空地层，戏子们自然就掉了下去。没多大功夫，几个戏子就被推到城头，咔咔几下，涂满化妆油彩的脑袋就被扔了下来。“思明大骇”，把自己的统军牙帐赶忙迁到距城很远的地方。叛军走动时，也个个眼睛紧盯地下，惟恐不小心自己也掉到下面的窟窿里面，脑袋搬家。
相持之中，李光弼派人遍挖城外地下，可以说是中国军事史上第一次大规模的“地道战”——只不过唐兵不是躲在里面放冷枪，而是把叛军营地的地下全部挖空。见时机成熟，李光弼假装城内粮尽，派人向史思明“约降”。“思明兴奋过望”，眼见在约定的时间有唐军将领手执白旗出城，忙下令兵士放仗准备迎降。脸上笑容还没消失，史思明身后军营忽然发出巨响，随即声声惨叫——军士集结后，地面再也承受不住重量，纷纷“塌方”，几千叛兵糊里糊涂全被活埋。再一转头，城上城下唐兵鼓噪大喊，精骑突出，一下子就杀掉近万名叛军。史思明下破了胆，转身就逃。唐军乘胜追击，斩首七万余级，获军资粮草无数。此次大胜后，唐廷迁李光弼为司空，封郑国公。
乾元元年（公元758年），李光弼又代郭子仪为朔方节度使，不久，又为天下兵马副元师。
滑汴节度使许叔冀屡战不利，向史思明投降，唐军形势转恶。有人建议增益陕郡兵力，速保潼关。李光弼不同意，说：“两军相敌，尺寸之地必争。今弃五百里地而退守潼关，贼军益地，威势更强，不如移军河阳，北阻泽、潞，胜则出，败则守，表里相应。”同时，他又做出悉空洛阳城的决定，让全城官吏居民全部出城避寇，派军兵运送守城军备于其中。-
史思明军队到偃师，李光弼全军赶赴河阳。双方在石桥相遇，时值黄昏，李光弼令军士持火炬慢慢行进，坚甲利矛，叛军忌惮李光弼威名，没有人马敢突前进犯。史思明军驻扎于白马寺，南不出百里，西不敢犯宫阙，只敢在河阳南筑月型城，挖战壕与唐军相持。十月，贼军攻城，李光弼指挥得当，斩千余人，生俘五千多人，叛军掉入河中又淹死好多。
南城方面，唐将李抱玉也使“诈降计”，忽然出兵击袭，又杀伤不少贼兵。唐将荔非元礼在羊马坡大破贼军。各路贼军虽溃败，毕竟是燕山锐卒，很快又整合在一起，劲兵三万，全力进攻北城，很有决一死战的气势。唐军城内兵少得可怜，全赖李光弼指挥得当，或给五百兵，或给三百铁骑，或给几十匹战马，又临阵重赏英勇之士，杀掉几个退兵败卒，使得唐军有必死之心，望旗而进，一举斩敌万余，生擒八千，俘获敌军大将三人。
战事正酣其间，还有一个小插曲。李光弼手下大将荔非元礼守羊马城。战事胶着之时，李光弼命令荔非元礼悉兵出战。贼将周挚指挥八道兵马，一边填平壕堑，一面疯狂进攻。荔非元礼乍开城门一冲，敌兵小却。毕竟贼兵人多势众，攻意正盛，荔非元礼认为此时不是派精骑突阵的时机，就摇旗令步兵回阵，示弱诱敌。李光弼大怒，派人召荔非元礼回师营，想当众杀掉以明军法。荔非元礼对传令兵说：“我正在战斗中，来不及见主师，请回禀一声，破贼后我马上去！”在栅后望着贼军越来越近，荔非元礼对手下将士说：“李公刚才派人召我，是以为我们刚才怯战，要斩我以示众。现在应该拼死一奋，战死有名，以免因无功而受戮于军营之内。”说完，荔非元礼下马持刀，身先士卒，瞋目冲前，身后将士感奋，左右砍刺，无不以一当十，斩杀数百敌人，势不可当。贼将周挚见势不妙，慌忙遁走。（荔非元礼的兄弟荔非守瑜也是英雄。安禄山大兵初起，一路锋锐无比，所向皆捷，惟独行至婴子谷，荔非守瑜只身一人，蹲地而射，竟射杀数百贼兵，还有几支箭从安禄山乘坐的大军车窗旁嗖嗖飞过，吓得安禄山率从人绕道而行。荔非守瑜箭尽，又不愿被叛贼生擒，投河而死，十足血性。）
南城的史思明仍不知北城军败，还在指挥叛兵猛攻。李光弼驱赶八千多俘虏临河“展览”，当众杀掉数十人恐吓敌军。剩下的俘虏大惧，纷纷跳入河中往南岸游，唐军刀砍箭射，几乎一个不剩全部报销。见此，史思明又率军败走。
每次大战前，李光弼都插一锋利短刀于靴中，有必死之心，对属下讲：“我位居三公，绝不会活着被贼军俘虏，誓死报效朝廷！”至此，见敌军退败，李光弼西向天子所居方向拜舞，“三军感动”，欢声震地。
唐肃宗上元元年（公元760年），唐廷又加封李光弼太尉、中书令。李光弼率军进围怀州。史思明率兵来救，再三为唐军所败。史思明扬言要渡黄河断绝唐军粮道。李光弼驻军野水度一带平地，四周竖立木栅为营垒。白天时，李光弼率兵巡营。当晚，他卒随从驰还大本营。临行前，他留牙将雍希颢留守，嘱咐说：“贼将高晖、李日越都有万夫不当之勇，今夜史思明一定会派他们来此劫营。你留守此地，切勿与他们交兵。敌人如果投降，就和他们一起来见我。”听此一席话，李光弼属下都摸不着头脑，以为主师操劳过度，语无伦次。
史思明听谍报说李光弼在野水度，忙派人把李日越叫至面前，下死命令说：“李光弼驻守平地，你以五百重甲骑兵今夜进袭把他擒来。否则，别来见我！”
李日越得到命令后，乘夜急驰，进攻唐军营垒之前，他高声喝问：“李太尉在吗？”唐军守兵回答：“已经走了。”又问：“你们有多少兵在营中？”回答：“一千人左右。”又问：“谁为主将？”答：“雍希颢。”李日越顿时来个透心凉，良久，他对属下说：“今夜下死命令派我来擒获李光弼，现在冲进去，最多抓住个雍希颢，回营也会被处死！”于是李日越一箭未发，下马请降。雍希颢喜出望外，忙带领这位勇闻三军的敌将回营，受到李光弼热情接待，朝廷马上授以金吾大将军之职。史思明账下大将高晖得知此讯，也带人归降唐军。
众将佩服之余，也很不解，就问李光弼，“您降附这两个敌军大将怎这么容易？”李光弼说：“史思明屡次攻城失败，就想与我军平地野战。他听说我当天扎营在外，觉得我正中其计，连夜派李日越来袭擒我，肯定下死命令给李日越。雍希颢无名之将，李日越抓他回去肯定不免一死。人情惧死，李日越不得不降；高晖勇斗名声一直在李日越之上，听说李日越获授大将军之号，他怎能不动心来降呢！”