八公山地区历史悠久。早在原始社会末期和奴隶社会，淮夷部族就生活在淮河流域，后被夏、商征服。西周时建立州来诸侯国，春秋末期改州来为下蔡。

　　区境在西汉时属淮南国和九江郡，东汉时属九江郡，汉末及魏、晋、隋时属淮南郡，唐时属淮南道，宋时属淮南路，元时属下蔡县，明、清初时属寿州，清雍正十一年后及明国时属凤台县。

　　1949年1月12日，凤台县解放，县政府在淮河南设置八公山区和蔡家岗区。5月，两区划入淮南矿区，合并成立淮南区。11月设置八公山镇。

　　1950年9月，淮南矿区调整农村区划，淮南区改为第三区，1951年11月第三区改为蔡家岗区。

　　1953年5月22日，撤销八公山镇，建立八公山区（科级）。

　　1955年2月，撤销八公山、蔡家岗两个科级区，建立县级建制的八公山区。

　　1961年10月，八公山区划分为八公山和谢家集两个区。

　　1966年9月，八公山区改称红旗区。

　　1980年10月，恢复八公山区人民政府名称。

　　现八公山区辖八公山、山王2个镇，土坝孜、新庄孜、毕家岗3个街道办事处和妙山林厂，有居民委员会48个，村民委员会19个。