远在新石器时代，这里就有人类活动了，最早的居民是赫哲人。在这片广袤的土地上，自北向南的一条河汇入穆棱河，人们称之“沙鸥云集之所”，即满语“稀忽林”。这条河发源的山，便从满语转音为七虎林山，河随山名自然就是七虎林河了……

　　此地明朝时称呢吗河(呢吗，满语“山羊”之意，即伊曼河、伊曼河口之来历)。明末，乌苏里江东岸属扎布的领土，西岸属穆位府的领土。1860年签定不平等的《北京条约》，将乌苏里江东岸割让给俄国，西岸归属密山府管辖。清宣统年间在此设分防，称呢吗厅。又怕与俄界呢吗口名称相混，根据吉林巡抚奏请，在七虎林河东南，于1910年5月将呢吗厅改为虎林厅，隶属吉林行省东北路道。

　　1913年改虎林厅为虎林县，属吉林省依兰道管辖，后来成立的东北政务委员会废道制，县归省直接管辖，虎林仍隶属于吉林省，为三等县。

　　伪满初年，1933年日本侵略者侵占虎林，成立伪虎林县公署，1938年8月5日，伪虎林县公署移驻安乐镇(原名东街基，又称黑嘴子)，并将安乐镇改为虎林(今虎林镇)，原县公署驻地改为虎头(今虎头镇)。

　　伪满期间，虎林先后归属吉林省、滨江省、牡丹江省、东安省和东满总省东安区域所辖。东北光复后，1947年6月5日公布东北新省区方案，将伪省合并为九省，虎林划属合江省所辖。

　　全国解放后，划东北三省。1954年8月松、黑两省合并，虎林由黑龙江省直辖。1956年3月，虎林划归新设立的牡丹江专区管辖。1960年1月7日虎林、饶河两县合并为虎饶县，县人民委员会驻虎林镇，隶属牡丹江专区。1962年11月虎林改隶合江专区。1964年10月10日虎、饶两县正式分开，虎林县址设于虎林镇，仍隶于合江专区。1970年4月虎林划归牡丹江地区管辖。1983年9月撤销牡丹江地区，虎林改由牡丹江市领导。

　　1993年8月30日，虎林划归鸡西市领导。