解放战争爆发后，张灵甫的整编第74师首战六合、天长，再战淮阴、淮安，出尽了风头，也使我军吃了不少苦头。两淮是我华中首府，失陷后影响巨大。而敌却猖狂至极，李延年甚至大吹大擂：“国军像整编74师这样的部队不要多，只须10个，就能安邦定国了！”
就在74师得意猖狂之时，粟裕却暗暗地对其动下了杀机。要知道，对于这样一个王牌御林军，这样一个全美式装备的重型部队，这样一个风头正盛的部队，通常来讲，应该是避其锋芒。按照我军通常的先打弱敌，后打强敌的一般作战原则，也应是不与其交锋。但粟裕却敢于说“不”，敢于在“太岁头上动土”，敢于和张灵甫碰硬一较高下，并且先后四动杀机：
首次杀机：1946年10月19日至11月1日，粟裕利用首次涟水保卫战之机，决定对74师予以歼灭性打击。
这次进攻涟水，张灵甫率74师和整编第28师192旅共4个旅3万余人，兵分三路，气势汹汹而来；粟裕决定集中华中野战军主力第1、第6师和第10纵队共23个团的兵力迎敌。
张灵甫乘攻占两淮之威，对涟水城志在必得；粟裕七战七捷，决定对张灵甫予以痛歼。
双方经过14天的激战，我最后歼敌9000余人，其中整编第74师 6000多人，整编第28师192旅3000多人，缴获各种炮15门，各种枪7000多支，击落敌机1架。但我军也付出了伤亡6000多人的代价。特别是第十纵队司令员谢祥军牺牲，是一个重大损失。
这是粟裕和张灵甫首次在战场上真正硬碰硬的较量。双方损失都巨大。但张灵甫是主动进攻一方，其攻占涟水城的战役目的并未达到。战后，张灵甫发电报给整编第11师师长胡琏不无惊叹地说：“匪军无论战略战役战斗皆优于国军，数月来，匪军向东则东，向西则西。本军北调援鲁，南调援两淮，伤亡过半，决战不能。再过年余，死无葬身之地。吾公以为怎么？”……
尽管大量歼敌，74师伤亡惨重，192旅被彻底打残，但我方伤亡也不小。显然，粟裕对这场仗的结果并不满意。于是他开始对74师动下一个杀机。
第二次杀机：1946年12月19日，宿北战役刚刚结束，粟裕得知第74师会同第7军第171师进攻沭阳，决心将其歼灭。
粟裕19日中午获悉：“薛岳令74师及桂系第7军第171师，将自涟水向北进攻，并限该师23日攻占沭阳”。当时，如该敌按此令北进，势必孤军冒进，有利于我就近转用兵力将其在运动中歼灭。
然而，战场形势是变化的。张灵甫很敏感，慑于孤军冒进恐被歼击，“直到23日仍在原地未动，并与第7军、整编第28师相衔接，企图等待欧震兵团到齐后，再继续北犯”。
粟裕见最后歼灭74师战机未现，便报中央军委：“74师迟援，我决放弃歼击”。
第三次杀机：1947年3月28日，粟裕准备集结5个纵队于蒙阴东南、临沂西北地区，“待机歼灭南线之74、 83两师”。
当时74师、83师已占领费县。粟裕决定以“三个纵队伸入郯城、马头、新安镇。到新安镇后向西扩张，占领运河线，造成渡运西进，威胁津浦南段之势，诱顽74、83两师南援”。在此行动中，我主力“5个纵队集结于蒙阴东南、临沂西北地区，待机歼灭南线之74、83两师”。粟裕还决定“于4月1日开始运动，14日左右才能打响”。
后粟裕得知，我军行动与企图，“江日（3日）即为敌发觉，对我军部署敌人均很清楚”。粟裕第三次杀机因“军机泄漏”而放弃。
第四次杀机：也是最终一次，就是众所周知的孟良崮战役了。1947年5月13日至16日，粟裕“百万军中取上将首级”，终将张灵甫和他的74师彻底全歼。
原来上，粟裕5月10日即下达了歼灭第7军和整编第48师作战命令，部队已开始行动。但5月11日，发现74师向我华野指挥部驻地坦埠以南的第9纵队发动进攻。当日晚，又通过技术侦察获悉了敌具体作战部署，并判明敌呈一线密集推进，74师稍形前出。粟裕当机立断，改变原打7军和48师计划，决心集中主力，以反突破、反包围挖歼第74师。
张灵甫自以为建制完整，两翼又有整编25师、83师拱卫，外围又有10个整编师围着华野，想来个“中心开花”，但他错了……因为他遇到的对手是敢打硬仗恶仗险仗的粟裕，遇到的是大杀四方、所向披靡、横扫千军的粟裕。最终，粟裕这一次的杀机奏效，张灵甫和他的74师没有逃脱被全歼的命运。不过，借用那句话：败在粟裕手下，不丢人……
回头再看张灵甫的预言，他说死无葬身之地是准确的，但时间和结果上却还是乐观了。“年余”根本没到，仅过了半年；不仅他死无葬身之地，他的74师也被悉数全歼了。