潜山历史悠久。东周时属皖国，山称皖山，水称皖水，城称皖城。安徽省简称“皖”即源于此。县城自东汉至南宋先后为州、郡、府治所近800年，王安石、黄庭坚等都曾在此任职为官。现为安徽省历史文化名城。
潜山建县于元至治三年（1323年），其地古为周朝分封的皖伯国。“皖”字古书为“目完”，是明亮、美好的意思，表明此地的山水秀美。春秋时皖国被楚国吞并，成为“楚之东鄙”。秦统一后地属九江郡。汉代在此置皖县。东晋义熙年间（405—418年）分皖县地设怀宁县。元至治三年（1323年），将怀宁县西部清朝、玉照2乡划出，在皖县旧治新置潜山县。但不久即因战乱被废。明洪武元年（1368年）复置潜山县。此后一直沿续至今。潜山之名源于境内之潜岳（即今天柱山），指天柱山在群山之中尖锐突出，并与水相伴，成为皖水之源，而“非有潜伏潜藏之意也”。
潜山在汉皖县时的地域几乎包括今潜山、怀宁、望江、太湖、宿松、岳西6县和安庆市区的一部分。到东晋怀宁县时范围约缩小至今潜山、怀宁、太湖、岳西4县和安庆市区一部分。到元潜山县时只相当于今潜山县加上岳西县的大部。民国25年（1936年），国民政府决定将潜山县衙前、汤池等地1000余平方公里、近10万人口划归岳西县后，潜山县境大体稳定，仅有几次局部调整。
潜山县为“古皖文化”的代表地，文物胜迹众多。有国家级重点文物保护单位2处、省保6处、县保16处。薛家岗出土的距今6000万年的“潜山安徽龟”、“东方晓鼠”化石，被国际动物学家公认为“亚洲哺育类的发源地”， 推翻了西方学者“啮齿类起源于北美”的论断。中科院命名的“薛家岗文化遗址”，代表着长江流域新石器晚期的一种原始文化类型。境内5A级风景区天柱山是首批进入国家级重点风景名胜区的安徽省3大名山之一，以自然风光雄、奇、灵、秀著称于世。西汉元封五年（公元前106年），汉武帝南巡，“望祀虞舜于九疑，登潜天柱山”，封之为“南岳”。直至隋开皇九年（589年）隋文帝改封湖南衡山为南岳后，天柱山仍以“古南岳”而受仰慕。禅宗三祖寺为全国重点开放寺庙。潜山境内还有李白、白居易、苏轼、王安石、黄庭坚等文人墨客在山谷流泉存留的400余方摩崖石刻，著名乐府长诗《孔雀东南飞》故事发生地焦家畈，三国佳丽大乔、小乔梳洗的胭脂井和乔公故址，王安石临湖夜读的舒王台，太平古塔、万涧古戏楼等古迹。县博物馆—皖光苑收藏的各类文物精品达5000件之多。潜山弹腔、民间音乐12月花神、潜山陶艺手工制作技艺和潜山王河舒席手工编织技艺被列入省级非物质文化遗产名录，桑皮纸制作技艺被列入国家级非物质文化遗产名录。金紫山森林公园、板仓自然保护区各有特色。皖山皖水还哺育了王蕃、曹松、程长庚、张恨水、夏菊花、韩再芬等众多文化名人。省级天柱山旅游度假区规划面积16平方公里，已建成国家网球训练基地、天柱第一城和皖镇等超亿元的旅游大项目，中国全力集团投资8亿元的温泉度假中心，雨润集团投资40亿元建设雨润国际商务旅游度假中心项目正在抓紧建设。
潜山系革命老区，1984年被国务院列为国家级贫困县，后又被国务院列为全国首批对外开放县。近年来该县精心构筑园区、小城镇、旅游和环境建设“四大平台”，着力实施骨干企业翻番和园区经济倍增“两个计划”，奋力提升园区经济、工业经济、旅游经济、民营经济、农村特色经济和乡镇经济“六大经济”，着力打造东部沿海发达地区加工制造业转移承接基地、优质农副产品生产加工供应基地、旅游休闲度假基地、劳务输出基地“四大基地”，努力实现“撤县建市”目标，发生了翻天覆地的变化，先后获得全国商品粮基地县、全国产粮大县、全国造林绿化百佳县、全国封山育林示范县、全国农民林业专业合作社示范县、全国扫盲先进县、大别山区扶贫开发先进县、全国乡镇企业东西部合作示范区、国家餐饮服务食品安全示范县、2013年全国县(市)科技进步考核先进县、全省休闲农业和乡村旅游示范县、全省茶产业十强县、全省食品药品安全示范县、全省就业工作先进县、全省发展民营经济先进县等荣誉称号，农田水利基本建设获省十七届“江淮杯”和市首届“皖江杯”金杯奖。是入选住建部编纂的《建设美好城乡、迈向住有所居》的全国唯一县级城市。跻身全省农村综合改革示范试点县，被列为全省首批农村商品流通服务体系建设试点县。
2014年生产总值130.4亿元，增长11%；固定资产投资95.6亿元，增长20.3%；规上工业产值198.5亿元，增长15%；社会消费品零售总额49亿元，增长15%；公共财政预算收入突破10亿元，增长16.3%，“十二五”规划的“十亿财政”目标提前实现。
2014年，潜山县政府工作的总体要求是：认真贯彻党的十八届三中全会精神，围绕“十亿财政、撤县建市”目标，坚持稳中求进、改革创新，加大统筹加快发展和科学发展的力度，毫不动摇地推进工业强县、旅游兴县、生态立县和城镇化四大战略，进一步调结构、转方式、增活力，促进经济较快发展、民生持续改善，奋力打造实力潜山、活力潜山、魅力潜山、和谐潜山，保持经济持续健康发展和社会和谐稳定。
