1933年初，日本侵略者武装占领密山，当地反日会活动遭到镇压，其中，柞木台子、西大林子反日会先后被破坏，反日会活动被迫转入地下。

　　中共密山区委认识到赶走日本帝国主义必须要有自己的武装力量，遂决定建立自己的抗日武装。为了筹集武器弹药，多次组织人员夺取敌人枪支，武装自己，打击敌人。

　　1933年10月，中共密山区委改为密山县委。1934年2月，中共满洲省委指示，为保证吉东反日游击战争的胜利开展，积极创造党独立直接领导之下的赤色游击队，同时提出有利于马上创造赤色游击队的密山等县迅速建队。经过积极准备，3月20日，中共密山县委在哈达河沟里张老呔菜营正式成立“密山抗日游击队”(亦称民众抗日军)，共有队员34人，长短枪34支，手榴弹8枚，哈达河的妇女抗日会员购买了一架望远镜送给游击队。尽管武器装备较差，可这支队伍却以张老呔菜营为根据地，在密山一带点燃起抗日斗争的熊熊烈火。

　　根据中共密山县委从张老呔菜营作出的决定，密山抗日游击队先后伏击了勃利附近的稻田公司自卫团，伏击了哈达河二段伪甲长于守财，智取了哈达岗远近闻名的大地主沈子君的枪支弹药，又三次从敌伪手中智取枪支弹药，在短短半年时间，使密山县委领导的这支武装力量逐渐壮大。

　　然而，密山游击队由于处在白色恐怖之下，不仅面对日伪军的军事压力，也遇到内部动摇分子的叛变，还有山林队的干扰。1934年10月，中共满洲省委巡视员吴平(杨松)来到密山，主持中共密山县委(扩大)会议，在会议上决定密山游击队与东北人民抗日革命军合并，组成东北抗日同盟军第四军，密山抗日游击队改编为抗日同盟军第四军第二团。从此，这支队伍在抗日同盟军第四军的指挥下，转战于虎林、饶河、宝清、勃利、林口、牡丹江一带，继续为打击日本侵略者做出了应有的贡献。