抗战时期，新四军除在战场打击敌人，还用散发反战传单、张贴标语、战场上向日军喊话等方法宣传我军主张，揭露日本侵略战争的本质，对敌积极开展心理攻势。这种对敌宣传，很快成为瓦解敌军的利器，被广大抗日根据地军民称为“精神手榴弹”。
不少日军士兵捡到新四军的宣传品后偷藏在身边，有的把标语抄在日记中，有的把传单交给同伴传阅。我军在被俘和投诚的日军中，也发现很多带着新四军颁发的印有“保障诸君生命安全”字样的通行证。一次，苏北日军原定向新四军三师“扫荡”，三师将大批揭露日军及其法西斯盟国在世界各战场惨败的消息翻译成日语，制成传单，贴满日军进攻沿线。日军见到我军的传单后大为恐慌，害怕军心动摇，慌忙取消了这次“扫荡”。新四军五师也以上述方式对日军进行反战瓦解工作。日军某守备部队受新四军“官兵平等”宣传影响，不再忍受长官的打骂，发起集体暴动，抓住并痛打了他们的上司。
在新四军的对敌宣传攻势中，有一种唱日本民歌的方法颇有创意——在战场上，新四军常常会通过投诚过来的日本兵向日军阵地演唱《思乡曲》等日文歌曲。这些歌曲歌调悲伤凄厉，节奏缓慢低沉，整日提心吊胆的日军官兵深感触动，产生厌战情绪。在1945年12月的高邮战役中，我军通过高音喇叭，向守敌持续播放《思乡曲》，极大地触动了日本官兵的思乡之情，给日军心理造成很大打击。有几个日本兵夜间假借出城修铁丝网，趁机跑出来向新四军投降。当新四军突击队发起攻击后，守敌早已无心恋战，一触即溃，大批日伪军举着白旗投降。
新四军瓦解日军的做法，造成日军军心不稳，当他们得知新四军不杀俘虏后，内部对战争绝望的自杀之风，逐渐被逃亡和投诚所代替。新四军对于投诚和俘虏的日军官兵也进行了细致的思想教育工作，使很多日军官兵从思想上清除了被灌输的法西斯军国主义的毒素，从好战的“皇军”变成反战斗士。1939年10月，被俘日军香河正男、滨中政志、田畑作造、后藤勇、横山岩吉等人，经军长叶挺等批准，率先在皖南云岭军部参加了新四军。此举起到了积极的带动作用。据统计，仅在1941年10月前后，就有76名被俘日军宣誓加入新四军。后来，投诚日军官兵在新四军的帮助下，组成“在华日本人反战同盟”、“日本共产主义者同盟”、“日本人民解放联盟”等组织，积极配合新四军进行反战宣传活动。他们会在离日军100米、甚至50米的前沿阵地，大声用喇叭唱反战歌曲，发放传单、喊反战口号；有时甚至把电话机接在日军电话线上，用拉家常的方式进行反战宣传，极大地动摇了日军的战斗意志。