1938年春，日军的铁蹄踏进了鲁东南，在沭河西岸的小梁家等村安上了据点。渊子崖西临沭河敌占区，东靠莒南抗日根据地，大部属山地丘陵，处于敌我交错的“拉锯”地带。日伪军经常到河东“扫荡”，残杀百姓，抢掠财物;一些恶霸地主、土匪武装则打着抗日的旗号，到处横行霸道。渊子崖全村老少过着“白天怕见人跑，夜间怕听狗咬”的日子，整天提心吊胆。

1940年1月，八路军山东纵队二旅独立营进驻渊子崖村，营长纪尊平和指战员们对待老百姓和蔼可亲，平易近人;对待日军汉奸，英勇抗击，不怕流血牺牲。村民逐渐意识到“只有八路军，才是真正抗日的队伍”。1940年10月，“抗大”工作团来该村宣传抗日。1940年底，村里建立了民主政权，选举林凡义为村长，并成立了“农救会”“青抗先”“妇救会”等群众抗日组织，不久还建立了村民抗日自卫队。1941年5月中下旬，八路军一一五师战士剧社等8大剧团在渊子崖村公演10日，对于教育和团结人民、打击敌人、增强村民的抗战胜利信心起了很大的作用。

随着抗战形势的发展，日军加紧了对山东等敌后抗日根据地的“扫荡”。中共板泉区委号召群众开展抗粮抗捐，区长冯干三作了动员部署。渊子崖群众个个摩拳擦掌，一致表示：“不交一粒粮，不出一分钱，饿死汉奸，困死日本鬼子!”

渊子崖村这么有“底气”，除了有党的坚强领导，还有一个重要原因，就是“家底儿厚实”：早在20世纪30年代，为躲避匪盗祸乱，渊子崖村就围绕村边筑起了5米多高、1米多厚的土夯围墙，一般的枪弹根本穿不透;墙上有垛口、枪眼，四个角还各建有一座炮台;自卫队手里不仅有从敌人手里夺来和从社会上买来的少量钢枪，还有几十支土枪和9门威力不小的土炮(也叫生铁牛、五子炮)。土炮长约1米左右，重达30公斤，炮口约1寸。子弹是由土灰药和似黄豆大小的铁豆合成，弹道约70厘米，射程达250米，威力极猛。发射时，把土药先装上，再压上小铁豆，点燃炮底下的火眼，“轰隆”一声，数不清的子弹就打出去了。沭河边的人民原是用这种炮来打野禽和野兽的，现在这些土炮有了新用途。另外，该村还有着数百年的尚武传统，多半村民都会几路拳脚，抗日自卫队的成员不仅个个武艺精湛，人人还都配有一把大刀，如果是徒手格斗，三五个人都不是他们一个人的对手。

1941年12月中旬的一天，驻小梁家据点的伪军队长梁化轩派人给渊子崖村送来一张纸条，索要鸡、肉、酒、白面等食品，还要大洋1000元，并说如果不答应，就要血洗渊子崖。村长林凡义给梁化轩回信道：“酒、肉、鸡、面、钱都准备好了，请来拿吧!你们来一个杀一个，来两个就杀一双。”然后，他马上布置全村做好迎击敌人的一切准备。