全国抗日战争爆发后，1937年9月张爱萍和红军模范师政治委员彭林等离开延安经西安、南京来到上海时，张爱萍对刘晓说：“毛主席亲自找我谈了话，上海要成立江浙省委，叫我来担任省委军事部长。毛主席说，上海战略地位很重要，上海失守后，就要在郊区和江浙两省广大农村组建游击队，开展游击战争。”
上海八一三抗战开始后，中共上海地下组织各系统，如中央特科留下的干部，1937年8月成立以潘汉年领导的八路军驻沪办事处（简称“八办”），同年11月成立以刘晓为书记的中共江苏省委，还有华东人民武装抗日自卫委员会（简称“武抗”）等，积极举办抗日游击战争训练班，为开展敌后游击战争培训干部，派遣党员干部到郊县和苏浙地区恢复或重建党的组织；宣传党的抗战方针政策，逐步把一些地方武装，改造成党领导下的抗日游击队，开展敌后游击战争；还以难民中的青年、工人、农民为培训对象，开办各种训练班，为抗日武装输送兵员和专业人员。上海成为苏浙地区抗日游击战争最早策源地。在新四军到达苏浙地区之前，就已拉开了敌后游击战争的序幕，为新四军东进敌后起了先导作用，打下了思想基础和群众基础。上海党组织掌握的抗日武装，在新四军进入苏浙地区后，相继编入新四军，充实和加强了新四军的力量。上海党组织派到苏浙地区的干部，后来多成为新四军和抗日根据地的领导干部。这是上海地下党对抗日战争的重要贡献之一。
上海是郊县抗日游击战争的策源地
上海沦陷后，中共江苏省委于1938年初成立以沙文汉为书记的外县工委，以推动上海郊县和沪宁铁路沿线的抗日武装斗争。1938年1月，中共江苏省委决定成立由陈静任书记的浦东工委，组建南汇县保卫团第2中队；8月组建奉贤县人民自卫团；9月组建南汇县保卫团第4中队，1939年6月保卫团第4中队扩编为南汇县抗日自卫总队第2大队。1940年大队长连柏生到“江抗”参观学习时，接受谭震林关于浦东抗日武装要坚持“灰色隐蔽”方针的指示，通过关系于10月取得国民党第3战区淞沪游击队第5支队番号，坚持浦东抗日游击战争。为争取伪军抗日，1940年5月，中共浦东工委成立敌伪军工委，派一批中共党员打入伪军第13师第50团第2营，发展中共党员，建立党支部，开办干部训练班。
1938年底中共江苏省委派顾德欢到青浦组建中共青浦县工委，“武抗”系统在青浦的党员划归青浦工委领导。淞沪游击队第3支队划归青浦工委领导。
1938年7月，八路军驻沪办事处以“武抗”名义派林钧回原籍浦东发展抗日武装，建立了长江边区民众抗日自卫团第四大队（简称“边抗四大”）。
1938年10月，中共江苏省委派人到嘉定县外冈常备队联络，接着又从上海难民收容所派来一批中共党员和知识分子。1939年春外冈游击队发展到400余人。中共江苏省委派干部到该部建立嘉定支部，并由中共青浦县工委领导。同年7月，与“江抗”会师，解决投敌的邓敬烈部，改编为“江抗”3路第3支队，吕炳奎任支队长。8月3日在嘉定八士桥击毙日军8人，打伤日军13人。
日军占领上海后，共产党领导的上海郊县抗日武装，掀起了抗日游击战的群众运动，打击日军分散的小部队、小据点，起到了牵制、消耗日军的作用。经过一年多的艰苦斗争，开辟了浦东、青浦东乡、嘉定西部、崇明中部4个游击区。为迎接“江抗”东进和以后开辟浙东敌后游击战争都起了重要作用。
上海是苏南东路地区抗日游击战争的策源地
中共江苏省委成立后，派李建模任中共常熟县委书记，派王承业任中共无锡县委书记，派林枫任中共京（南京）沪线工委书记。后京沪线工委改为江南特委（又称苏常特委）。1938年7月，派何克希到苏南的江阴、武进一带组织抗日武装，任中共澄锡虞工委书记。8月何克希派张志强到江阴东乡争取朱松寿部，授予“苏浙人民抗日自卫军”番号。何克希争取梅光迪江南游击大队一个连和朱松寿苏浙人民自卫军一个连，又将上海来的一批工人、学生、难民整训编成一个连，将这三股力量组成一支由中共江苏省委领导的抗日游击队。10月，何克希带领这支游击队到茅山接受新四军第1支队整训，被授予江南抗日义勇军（简称“江抗”）第3路番号。何克希任副司令。后来成为新四军第6团团长叶飞率部东进苏南东路地区的重要战斗力量。
1938年7月，江苏省委派人组织了常熟县人民抗日自卫队（简称“民抗”），红军团长赵伯华任司令。1939年8月“民抗”三个连编为江南抗日义勇军第2支队，赵伯华任支队长。1939年7月，中共江南特委出版油印《江南》半月刊，宣传共产党的抗日民族统一战线政策。9月，成立以翁迪民为书记的中共苏州县工委。同月，省委派陈同生到“江抗”总指挥部任秘书长。1940年原奉贤县人民自卫团团长的蔡辉（蔡悲鸿），调任“江抗”司令部财经处处长兼沙洲县县长。
1940年4月，日伪军4000余人合击青东抗日根据地，青东抗日武装遭受重大损失。中共江苏省委决定，将青东部队100多人，转移新“江抗”活动的苏（州）常（熟）太（仓）地区，与东塘市常备队及嘉定游击队的一部分合编为“江抗”第3支队，温玉成任支队长，顾复生、吕炳奎、陶一球任副支队长，周达明任参谋长。
上海是苏中抗日游击战争的策源地
1938年8月，中共江苏省委派唐守愚、陈伟达、吴佐成3人组成中共江北特委，又陆续派钟民、韩念龙、洪泽、周一峰、朱群等一批干部到南通、如皋、海门、启东一带开展抗日兵运工作。1939年5月，派陈国权赴崇明建立中共组织和抗日武装，成立中共崇明县工委，陈国权任书记。1940年7月，由于日伪军重兵“扫荡”，中共崇明县工委奉命率“崇总”转移启东，用通（南通）崇（明）海（门）启（东）人民抗日总队名义，在川港镇、姜灶镇、三星镇一带开展抗日活动。中共江苏省委把崇明工委划归苏北特委领导，与通（南通）如（皋）启（东）海（门）各路抗日武装配合，迎接新四军东进。10月，与新四军苏北指挥部取得联系后，通如启海人民抗日总队与崇明撤退到启东的两个大队合编为崇启海常备旅，成为新四军苏北指挥部的一部分，不久又改编为苏四区游击第3旅。1941年1月，新四军重建军部后，苏北指挥部所属部队改编为第1师，苏四区游击第3旅，编入第1师第3旅，成为新四军主力部队的一部分。
1939年4月，中共江北特委先后派周一峰、钟民、王本英等到江苏常备2团政训处工作，秘密发展中共党员，宣传抗日民族统一战线政策。
中共江北特委派朱群去颜秀五的常备第8团工作，秘密发展姚力、王澄等加入中国共产党，并掌握了部分武装。1940年7月郭村战斗中，在颜秀五部任大队长的王澄和任连长的姚力，率部暴动参加新四军。
江苏省海门县（今海门市）人季方，1938年到上海由受中央特科领导的王绍鏊介绍参加共产党，在华东人民武装抗日自卫委员会活动中，凭借个人的社会关系，回到江苏海门、启东、南通等地，联络杂色武装。1940年10月黄桥战役后，季方以国民党战地党政委员会少将指导员身份，召开国民党党政军联席会议，提出与新四军合作抗日，出任江苏第4专区抗日游击总指挥部总指挥,为新四军进入通如启海地区奠定了基础。
总之，上海地下党建立的中共苏北特委，在发展党组织、建立抗日武装方面取得的成绩，为新四军向北发展，向东作战打了前站，尤其是为新四军进驻通如海启地区开辟了道路，创造了条件，打下了基础。
上海是浙东抗日游击战争的策源地
1941年4月，日军发动宁绍战役，占领杭甬铁路线两侧杭州湾以南整个地区。中共中央根据闽浙沿海的新形势，指示华中局开辟闽浙沿海游击区，创立游击根据地。首先到浙东开辟游击根据地的就是最早由上海地下党组织发展起来的浦东抗日武装。从1941年5月10日，姜文光率30余人到“三北”通过关系取得“宗德公署”指挥部第3大队（简称“宗德三大”）番号。6月16日，蔡群帆、林达率“淞沪五支”134人，用“五支四大”的番号，南渡浙东，与“宗德三大”会合。7月，姚镜人、陆阳率反正的伪第13师第50团附属“守望队”100余人南渡浙东，充实“宗德三大”。8月初，凌汉琪、王荣贵率领“淞沪5支”的第1大队和第3大队的两个中队100余人，南渡浙东，编入“宗德三大”和“五支四大”。9月中旬，朱人俊、方晓、黄明、何亦达率中共控制的伪第13师第50团的300余人及武器，南渡浙东，取得“苏鲁战区暂编第3纵队”的番号。1941年10月，成立中共浙东军政委员会，吕炳奎任书记，统一领导浙东“三北”（余姚、慈溪、镇海三县姚江以北）地区和上海浦东的抗日武装斗争。1942年6月，谭启龙赴浙东时，就是由淞沪五支队支队长连柏生陪同，张席珍率五支一大队护送，经浦东南渡浙东的。1942年8月，朱亚民率淞沪5支队5大队南渡浙东。1941年6月，蔡群帆、林达率领“淞沪五支四大”在姚北登陆后的第三天，就在相公殿伏击日军，毙伤日军各8人，打响了浙东敌后抗日游击战争的第一枪。浦东南渡武装是浙东敌后游击战的开创者，是浙东敌后抗日武装的基础和主力军。浙东游击武装司令员何克希和部队的主要领导干部，最早也是上海党组织派出的。
上海地下党组织在上海沦陷后，最早策划组织抗日武装，开展上海郊县、苏南东路、苏北和浙东地区抗日游击战争，打击和牵制了日军；组织民运工作队，宣传了中国共产党的抗战主张；发动和组织了群众，开办训练班，为抗日战争培训了一批干部；建立了小块游击根据地。有些部队因敌强我弱，受日、顽夹击，存在时间不长，但他们英勇抗战的事迹，永远激励着抗日军民。