在穆棱河与兴凯湖之间，有一座海拔574米的山峰。昔日那里森林茂密、野蜂成群；山峰上的岩石，流淌着蜂蜜，人们便称其为蜂蜜山。

　　蜂蜜山一带商周属肃慎，西汉至魏晋属挹娄，唐属渤海国东平府，金属上京恤品路，元属辽阳行省开元路，明属奴儿干都司，清为宁古塔副都统管辖。1895年清政府开始放荒招垦，并于1899年设蜂蜜山招垦局，管理今密山、虎林、饶河一带的招垦事宜。1900年沙俄武装入侵，蜂蜜山垦户惨遭杀害，招垦局被迫撤销。1902年清政府复设蜂蜜山招垦机构，隶属穆棱河招垦分局。

　　根据东三省总督徐世昌奏请，清政府决定在吉林边界增设蜜山府，知府衙门设在蜂蜜山招垦局(今知一镇)。然而，在1908年初下发批文后，由于一个太监的失误，制印时错将“蜜”字写成“密”字。于是，密山的名字诞生了。

　　1913年3月2日，密山府改为密山县，隶属吉林行省东北路道。1929年2月，裁撤道区，改由吉林省直辖，时为三等县。多年的发展，县城店铺商号达100多家，分布在1公里的大街两侧，粮米加工、手工业作坊、邮局、学校、私人诊所、戏院子等行业应有尽有，成为当时东北比较繁华的城市之一。

　　中华民国成立后，改密山府为密山县。东北沦陷后，密山县相继隶属吉林省、滨江省和牡丹江省。1939年新设的伪东安省辖密山县，公署驻东安街(今密山镇)。东安街改设东安市后，密山县、东安市先后隶属东满总省和东满省。1945年5月28日，伪满洲国撤销伪东安省，密山县便从密山县城搬到东安街(今密山镇)，原县城(知一镇)改称城关区。

　　1988年11月17日，国务院批准撤销密山县，改设密山市(县级)。由牡丹江市代管。1992年10月5日，省委、省政府决定，将密山市改由鸡西市代管，行政领导体制从1993年1月1日起变更。