洪泽湖是全国五大淡水湖之一。沧海桑田，人间变迁，由于黄河夺淮，洪水为患，古淮河的下游水道汇积成洪泽湖。曾几何时，百里草滩、万顷芦荡的洪泽湖，不仅给沿边人民带来过背井离乡的水患，而且带来了暗无天日的匪患。据县志记载，1917年6月20日，湖匪袭击泗洪归仁镇，抢掠财物，杀戮40余人。1926年10月15日，魏友三、刘金然等湖匪千余人，血洗泗洪孙园乡刘大德庄，焚毁房屋400多间，抢粮10多万斤，残杀280余人。1932年8月14日，魏友三率千余人血洗泗洪界集乡吕集村，268人被杀。匪患之害，罄竹难书。
洪泽湖剿匪一役，是中国共产党领导的人民军队战史上第一次较大规模的水上战斗，具有重要的战略意义。1940年11月，日伪军趁八路军第5纵队东进苏北之际，占领了皖东北根据地大部地区。新四军军部重建后，决定由张爱萍任旅长、韦国清任政治委员的第3师9旅恢复皖东北根据地。2月18日，9旅一举攻克青阳镇。连续作战40多天，除洪泽湖地区外，基本上恢复了皖东北根据地中心区。
1941年3月，张爱萍率部进驻洪泽湖西岸的半城镇。他策马来到湖边，举目远望，不停地思考着，洪泽湖进可攻，退可守，要建立巩固的淮北抗日根据地，这是天然的大后方。而肃清匪患是湖区人民的强烈愿望，迫在眉睫，一个大张旗鼓地剿匪念头在他脑海中浮现。
通过广泛细致的侦察，掌握了顽匪的实力和活动特点。湖匪主要分为：一是陈佩华部，有匪徒200多人，土炮3门，轻重机枪3挺，船只近百艘，其中钢板划子（即用钢板围在船的前面，作为掩体）20多艘。二是高铸九部，拥有200余众，民船百余艘，钢板划子15艘，土炮10门，枪200余支。成子湖边的尚嘴、罗嘴、高嘴一带是陈佩华、高铸九的匪窝。三是盘踞在溧河洼一带的魏友三部，拥有百余人，轻机枪2挺，驳壳枪30余支，钢板划子10余艘。四是王乃汉部，拥众200余人，有钢板划子20余艘。五是张文博部，有百余人。还有王乃汉、“刘四乱子”、“刘五练子”等匪帮。几股湖匪合起来共有数百艘船只，钢板划子80余艘，枪炮800余支（门）。湖匪不仅与日伪军有勾结，还打着江苏省政府主席韩德勤的旗号，与中共领导的抗日武装对抗。洪泽湖面积大，湖匪熟识水性。新四军将士大都不识水性，又缺乏船只，对我方作战不利。
9旅决心集中力量剿灭湖匪，恢复水上根据地。总体计划是：政治上分化瓦解，经济上严密封锁，军事上彻底消灭。首先肃清环湖周围的散匪，在老子山、成子湖、临淮头等地实行军事封锁，防止日伪军的增援，并切断韩德勤所部对湖匪的支援。然后进行水上攻坚战，集中力量消灭顽匪。由于洪泽湖面积大，9旅不能全部解决问题，就向军部报告，要求兄弟部队配合。
张爱萍认为，9旅的“战舰”虽然少于湖匪，但只要抓住敌人的弱点，发挥自己的优势，就能取得胜利。他和韦国清政委认真分析了战情，认为有利条件也较多。首先，渔民痛恨土匪，人心向我，有老百姓支援船只和领路；其次，土匪内部矛盾复杂，经常火并，可以各个击破；再次，钢板划子虽然坚固，但可以采取迂回战术，侧面射击；第四，由水性好的渔民做教练，将士们能迅速掌握水上作战的技术等。
由于部队没有在水上打过仗，不少人存在顾虑——怕水。因此，关键是怎样使旱鸭子变成水鸭子，民船变成战船。4月初开始，部队组织游泳和划船训练。张爱萍率25团和旅警卫营分头到临淮头、黄码头、台子口、高嘴等处进行水上练兵。洪泽湖畔，到处响起9旅将士们训练的喊杀声。听说围歼湖匪，不少渔民都积极参加，部队在每条船上都安排了一两个熟悉水性的渔民掌舵。
准备过程中又遇到木船防护问题。通过试验，用土坯把船的内侧垒起来，把船开到离岸100米的地方，组织战士向船开枪射击，发现子弹打进去都出不来，打穿的木板也被水浸湿的土坯堵住了，水也进不去。同时，在船头上垒上沙袋做为掩体，后面掌舵的也用沙袋垒起来。作战部门还将一只大船开到洪泽湖里去，湖匪打了很多子弹，也没被打沉。隐蔽在船上的人，敌人也没打到。接着又带来一个问题，船内用土坯围起来负荷太重，速度减慢了，不利于机动作战。因此，决定营团的迫击炮、重机枪乘大船，战斗连队乘小船，只用小沙袋做掩体。
张爱萍根据水上战术要求和船只特点对部队进行编组。战斗队形按照突击船队、钳制船队和后勤船队的队形组成。由“主力舰”“炮舰”“通讯舰”和“救生舰”组成钳制队，从正面攻击并吸引敌人；由二、三级“主力舰”“驱逐舰”和“通讯舰”组成的突击队从两翼出击；由“救护舰”“运输舰”组成的后勤舰队殿后。指挥所设在钳制船队上。联络信号白天用旗语，夜间用包着红布的手电筒。从而，较好地解决了作战编组、水战队形和重火器在船上射击的稳定性及通讯联络等问题。部队通过训练，提高了战术技术水平，增强了信心，渔民和船只都准备好了。
龟山是盱眙城以北淮河中的一个小岛，东侧水浅，可以徒涉。老子山控制着由洪泽湖进入淮河的河口。4月21日夜，2师10团3营徒涉渡过河汊，对龟山据点发起进攻，全歼守敌。22日夜，10团2营袭击老子山据点，敌闻讯乘船逃入湖中。10团控制该地区约半个月，配合洪泽湖剿匪行动。
4月25日，刘少奇、陈毅电示9旅，皖东北地区狭小，不宜太多部队活动，否则有引起日军“扫荡”之可能。张爱萍、韦国清明白，必须抓住战机速战速决，部队立即进行战斗部署。9旅25团和旅警卫营担任主攻，2师15团在洪泽湖东边，把住蒋坝、高良涧一线的几个口子。4师29团在成子湖东北一线警戒，地方武装在管镇方向警戒。
5月1日，9旅将士整装待发。张爱萍的动员令是：“用洪泽湖战斗的胜利，迎接红5月！”当晚，剿匪部队主力从泗南到临淮头的河里出发，按预定部署分头出击。次日拂晓，我军发起进攻。张爱萍率25团3营和旅警卫营的“主舰队”从老汴河口冲出，向安河口进发。这是顽匪主要防御方向，有30多只匪船担任警戒。10多艘钢板划子一字排开，向剿匪部队开枪开炮，阻挡进攻。
为了使重火力射击时能稳定住，张爱萍指挥部队用四根长竹篙，前后左右将“炮舰”固定起来，用迫击炮、高射机枪向敌钢板划子射击，一时间高射机枪子弹如飞，炮弹在匪船上炸开了花，一下子把湖匪震住了。8连连长齐德宽率突击队分乘2艘大船、6艘小船，在火力掩护下冲到敌船附近，高喊：“不准动，缴枪不杀！”100余个顽匪见势不妙，乖乖举手投降，缴获钢板划子十几艘，西路顽匪被率先击溃。
25团1营从东路黄码头出击，主攻顽匪陈佩华部。湖匪用土炮射击，企图打退我军进攻。1营指战员如虎出山，势不可挡，一面用重机枪扫射，一面破浪前进，很快就突破30余艘钢板划子的封锁，迅速冲到湖中央，顽匪一见遇上了新四军主力部队，调转船头逃跑。
25团政治委员李浩然率2营，从成子湖西岸的高嘴向高铸九匪部进攻。上午10时左右，与敌船队接上了火。湖匪以数十艘大船出兵对抗，远看帆樯林立，想从气势上压倒新四军。2营集中重火器强行进攻，湖匪用钢板划子排开迎战。我高射机枪一阵猛射，几下就把敌人船上的钢板打穿了，不上几个回合，高铸九部被打得七零八落，当场俘获了十几艘钢板划子。
中午12时许，剿匪部队三路合击，在成子湖东南湖面上会师，准备继续追歼残匪，不少渔民也驾船前来助威。湖匪见我军上百条战船，白帆浩荡，知其大势已去，纷纷转舵逃窜。这时，湖面起了大风，浪很高，前面一艘船被打翻，发出警报说“过不去”。我军集结在高嘴附近的水面上，准备第二天再发起攻击。
第二天，张爱萍命令部队乘胜分进合击，不全歼湖匪誓不罢休。陈佩华残部逃至湖东，又被2师15团包围，立即投降了。高铸九残部在成子湖东北岸，遭4师29团伏击被歼。唯高匪只身潜逃，先是投靠日军，后任国民党盱眙县党部研究室主任。1947年2月，被淮河大队神枪手胡冠仁击毙。孙乃香、王乃汉部被全歼。匪首魏友三为人狡诈，潜水逃命，投靠到韩德勤麾下。1943年春，在战斗中被9旅俘获，被当地百姓指认控告，将其就地正法。匪首张文博带少数残匪逃至盱眙，又转道蚌埠投降日军，新中国成立后潜伏于南京，被我公安机关抓获。
5月5日，数百艘船只齐集在湖面上开庆功大会，帆樯林立，鼓乐喧天，十分壮观。军民扬手欢呼，庆祝剿匪胜利。面对此情此景，张爱萍写下了一首诗《平定洪泽湖》：“洪泽水怪乱水天，奋举龙泉捣龙潭。红旗漫展万众勇，白帆云扬千樯舷。塞江倒海斩妖孽，长风劈浪扫敌顽。旸乌红天炀红泊，渔歌满湖鱼满船。”
皖东北虽处战略要冲，但不足之处是纵深太浅。洪泽湖平定后，把皖东北与淮南的路东区、苏北的淮宝区和淮泗区连接起来了，使洪泽湖成为华中抗日根据地的“内海”。我军有了比较稳固的后方，不仅可以避开敌人陆上封锁，使华中各战区间通过水运，实现兵力的快速集中和转移，同时也消除了对西作战的后顾之忧。当年，华中《真理报》登载了张爱萍关于洪泽湖剿匪的文章。
40多年后，张爱萍向他的儿子张胜谈起了当年洪泽湖剿匪之战。张胜在《从战争走来》一书中写道，张爱萍指着一张照片回忆说：“看！我发明的钢板划子，两侧铺上钢板，船头架上高射机枪，这就是我的‘艨艟斗舰’”。“有些老同志回忆说，高射机枪可厉害了，是从鬼子的飞机上拆的，只是子弹不多，张司令舍不得用，每次调上去，非得他亲自批准”，“双方百余条战船，还不把个洪泽湖打得昏天黑地。老爷子惯于用诗记事，在此一年前，他记述的是：‘跃马扬鞭去，随员三五人……我部无大炮，攻坚暂不能。’而今天，他写道：‘神兵夜昏重霄降，分兵扫遍落叶纷。’如秋风扫落叶一般。”
1944年9月，张爱萍再次到洪泽湖时，又写下了一首词《飞舟行·过洪泽湖》：“秋水逐一叶，看白帆雁列；渔歌嘹喨，凫戏水拍，荷红凫乱飞雪。当年平洪湖，红旗卷风烈；千帆破浪，炮轰弹射，蛟蛇蟹鳖一网绝。”
张爱萍对张胜说：“你再看看我写的这首诗里用了：‘蛟蛇蟹鳖一网绝’，这四种东西是什么，知道吗？蛟，大蛇，很凶猛，是指日本鬼子；蛇很滑很毒，是伪军；国民党顽固派是螃蟹，到处横行；鳖藏头藏脑的，专做些龌龊之事，和当地的水匪湖霸一样。”张胜回忆说：“40多年前的事了，他讲到兴起时，把手一挥：‘搅得它昏天黑地，那些乌龟王八蛋被我一网扫尽！’”
值得一提的是，1998年7月16日，88岁高龄的张爱萍将军写了一封长达3900字的信给《新四军战史》编辑组。对《新四军战史》初稿中关于洪泽湖剿匪战斗时写到的：“这次战斗的胜利，使湖区人民得到了解放，打通了淮北、淮南、苏北、苏中的联系。”张爱萍信中提出：“除了这两点外，还应写到：使皖东北有了一个比较可靠的后方，除湖的南部可能行驶日军的汽艇，其余湖边有大片芦苇地，日军汽艇不能进去。情况紧急时，我们的医院、工厂的后方人员就进入湖中，比较安全。”他还指出：“我们是陆军水战，取得水战胜利很不容易，这种精神对后人有一定的教育意义。”