抗战中，由中共领导的新四军，高举抗日民族统一战线的大旗，在南京失陷后不久，就深入苏南敌后，活跃在金陵城下，打击日本侵略者，为在南京大屠杀中死难的同胞复仇。
一、初战南京城郊
1938年4月28日，由新四军第一、第二、第三支队抽调的部分干部、战士组成的新四军先遣支队，在第二支队副司令员粟裕的率领下，从皖南岩寺出发，越过宣(城)姥(湖)公路封锁线，向苏南敌后挺进，实施战略侦察。5月4日，毛泽东致电新四军副军长项英，指出：在侦察部队出去若干天之后，主力就可准备跟行，在广德、苏州、镇江、南京、芜湖'五区之间广大地区创造根据地，发动民众的抗日斗争，组织民众武装，发展新的游击队，是完全有希望的。
先遣支队在越过日军封锁线后，沿裘公渡、黄池镇、青山街、当涂一线，向南京近郊秣陵关挺进；5月19日，正式进入苏南敌后战场。随后，第一支队陈毅所部与第二支队张鼎丞所部，亦于六七月间先后抵句容、江宁、溧阳、溧水、当涂地区。
7月10日，第一支队第二团第二营和当地游击队，埋伏于汤山至句容公路的东仙涧桥以东、新塘以西地区。清晨，有日军汽车9辆，共乘坐日军100余人，携带轻重武器，从南京方向开来。当日军汽车全部进入伏击圈以后，指挥员一声令下，战士们突然以步枪、轻机枪和手榴弹向其猛烈袭击，打得日军晕头转向，死伤甚多。此次伏击战中，共炸毁日军汽车2辆，毙伤日伪军40余人。
接着，新四军在南京南郊和雨花台一带，不断袭击日军。7月14日，第一支队第一团以一部分兵力，袭击了西善桥敌据点，经半小时战斗，毙伤日军20名，缴获步枪3支及部分军用品。9月16日，第二支队一部，捣毁了京芜铁路板桥车站，击毙日军30余人，缴枪10余支。20日，新四军侦察人员化装入城，秘密张贴文告，抓捕敌探，使日军大为震惊，慌忙宣布全城特别戒严。11月26日，第二支队侦察连向雨花台守敌发起突袭，激战1小时，毙伤敌伪军25名，余敌向城内逃去。侦察连勇士趁势向中华门城堡猛烈射击，敌不摸虚实，龟缩城内，不敢出城。雨花台山顶上，曾经胜利地插上标有“新四军”字样的红旗，使饱受残害的南京人民，精神为之一振。
12月2日，第二支队第三团袭击了南京至溧水公路上的禄口日军据点。该团三营，趁日军一个中队刚刚来到那里，立足未稳，便将他们一举消灭。据第三团政治处主任钟国楚叙述：
“那时鬼子很麻痹，我们的情报比较灵，我们知道他们第二天就要来，准备给他个下马威。当时副团长(即团政委)邱金声同志和我带领三团三营一下子猛扑过去，差一点就把鬼子全部消灭，杀伤是很大的。他们刚刚到，我们就扑了上去，他也来不及，我们都到了他们的脚下。”
1940年5月14日，新四军第二支队直属队和第四团第三营，由支队副司令员廖海涛率领，在湖熟镇附近的赤山，对日军进行了一次成功的伏击。当敌人进入射击圈时，所有的火器都吼叫起来，堤埂上的日本兵受到突如其来猛烈炮火的袭击，死伤惨重。这次战斗，共消灭日军180人、伪军7人，活捉日军2人，缴获机枪2挺、步枪60余支、掷弹筒2个、日造九二步兵炮1门。
二、威震大江南北
地处南京江北的六合，自1939年秋，即有新四军在当地活动。1941年春，新四军第二师第四旅第十二团，在六合金牛山与日本侵略军进行了一场激烈的战斗。日军扬州警备司令部纠集了仪征、天长和扬州的日伪军700余人，携带大炮3门、掷弹筒10余个、轻重机枪多挺，从扬州出发，偷袭正在金牛山一带休整的新四军第十二团。4月17日，第十二团在第四旅副旅长梁从学的指挥下，第三营经一个多小时浴血奋战，使丁岗高地失而复得，敌军被逐渐压至陆家凹。激战中，新四军的大刀班大显威风。据史料记载：“三连的一个大刀班在手榴弹掩护下，首先冲入敌群，与敌人展开肉搏战，随即一营二、三连和三营指战员跟上，打得敌人晕头转向，死伤百余人。我军大刀班八个战士也在战斗中全部壮烈牺牲。”这次战斗，共毙伤日军200余人、伪军300余人，生俘日军2人、伪军30余人，缴获重机枪4挺、轻机枪5挺、步枪40余支、掷弹简2个，以及大批武器弹药和军用物资；新四军与地方部队也牺牲54人、伤64人。
1941年10月，新四军第四十六团参谋长傅狂波率领一个连，悄悄开进南京南面的龙都地区，驻扎于岗头一带。他们趁一连伪军由汉奸陪同，刚刚到达王家祠堂吃饭的机会，分作两路，一路从东岗头出发，直捣王家祠堂；一路从后面绕道包抄。战斗打响后，伪军凭借一挺机枪，放置于祠堂门口猛烈扫射。短枪班长李秀文，纵身扑向机枪口，用生命为战友开辟了歼敌的通道。这个伪军连队终遭全歼。12月，伪军又开来特工队一个营，由伪营长常海波带领，在龙都东庵庙地带挖壕沟，架铁丝网，筑成一座三层楼的碉堡。新四军第四十六团政委钟国楚、参谋长傅狂波率第二营前来拔除这颗钉子。敌人凭借坚固的碉堡，居高临下，以猛烈的火力，阻挡新四军战士前进。主攻营何营长遂取火攻的办法，以机枪火力掩护数名干部、战士冲至碉堡下，挖一洞穴，放进火油等物，然后燃起熊熊烈火将这座碉堡烧毁，全歼守堡敌军，缴获机枪2挺、步枪70余支；除俘虏外，伪连长及一些伪军都被烧死在碉堡里。
1942年冬，驻板桥附近的新四军，不断向当地日伪军发动袭击，破坏其通讯设备。一次，新四军战士将西善桥、油坊桥、小行一带的电话线全部割断，并将西善桥伪派出所里的4名伪警察捆绑在桌腿上。据当年在这里战斗过的新四军老战士施业隆回忆说：“次日，群众发现日伪警察被绑，打电话报案，电话都不通。昔日不可一世的日伪警察自此泄了气，吓破了胆。”
三、直捣金陵城下
1943年至1944年间，在南郊活动的新四军已经深入到江心洲、沙洲圩一带，打得日伪军坐卧不宁。1943年冬，新四军一支小型的征粮队，在沙洲乡将一名无恶不作、横行乡里的姓王的日伪特务队长捉住，并在他执意反抗的情况下将其击毙。另一次，新四军驻地区长李祥福、侦察班长施业隆，带领4名战士，迫使一名姓刘的日伪特务提供了日伪军的军事情报。由此新四军得知，安德门、东善桥、沙洲圩一带敌人兵力薄弱，便集中兵力，一举攻破这三个据点。1944年8月22日夜，新四军第四十六团第二营，派出一个连队向伪自卫团发动强攻。战斗一直进行到次日凌晨，终将作恶多端的伪自卫团长夏孝义击毙，全歼伪自卫团团丁，缴获各种枪支100余支。
随着抗日战争胜利的临近，活跃在南京近郊的敌后武工队，在打击敌人的斗争中大显神威。由中共浦六工委领导的一支武工队，在1944年至1945年间，曾驰骋六合敌占区，打得日伪军提心吊胆，惶惶不可终日。1944年农历正月十五元宵节，正当伪瓜埠区公所所长陈兆云与伪自卫团200余人大吃大喝、寻欢作乐时，武工队由潜伏在敌人内部的“忠义社”社员带路，悄悄潜入敌据点，不费一枪一弹，全俘伪军200余人，处决作恶多端的陈兆云，缴获步枪200余支和大批弹药。这年5月，武工队唐排长带领15名武工队员，来到北城门口伪警察分队的驻处。他们经过化装，机动灵活，突然出现在敌人面前，顺利地缴获了1挺崭新的轻机枪和10余支步枪，并将敌分队长赵东藩俘获。6月24日，武工队趁县城南面水家湾集期，混于庞杂的人群中，突然袭击伪自卫团团部，缴了30余支枪。1945年初，该武工队已改称方山大队。1月11日夜，他们在娄子庄，利用潜伏在伪军中的“忠义社”社员的关系，疏通了伪班长金必辉，趁伪自卫团长王广元外出赴宴之机，摸进娄子庄据点，将正在熟睡的130余伪军连人带枪全部俘获。
1945年8月，中国人民终于迎来了抗日战争的最后胜利。新四军苏浙军区主力部队和地方武装遵照中共中央和毛泽东同志关于“力争占领小城市及乡村”以及应尽量占领南京、太湖、天目山之间许多县城的指示，全面出击，向周围一切敌占交通要道和县城集镇发起进攻，先后占领溧阳、溧水、句容、高淳等10座县城，以及包括南京近郊湖熟、秣陵关在内的大小集镇100余处。江北方面，新四军第二师与地方武装相配合，也在8月攻克六合，伪警卫第三师3000余人在六合钟家集反正。二师部队还由划子口渡江南下，攻占龙潭、栖霞山，兵临南京城下。
在南京城郊奋战了7年多的新四军，以英勇的气概和辉煌的战绩，为南京大屠杀中遇难的同胞讨还了血债，也为最后击败日本侵略者作出了重要贡献。