醫院始建于1952年，前身為安徽省第六康復醫院(俗稱三康醫院)。1954年5月正式收治病員，收治對象為志愿軍、解放軍。當時醫院有工作人員297人，設有門診部及內、外、五官、口腔、助產、針灸、理療X光室等科室。 　　1956年8月更名為安徽省慢性病醫院。 　　1957年12月成立安徽省立第三醫院。 　　1958年8月，省衛生廳決定將省立第三醫院下放巢縣，正式更名為“巢縣人民醫院”。 　　1984年1月，縣級巢湖市成立，更名為“巢湖市人民醫院”。 　　1995年3月，被安徽省衛生廳授予“二級甲等綜合性醫院”。 　　1999年7月，巢湖撤地設市，醫院整體上劃，更名為“巢湖市第二人民醫院(正縣級)”。 　　2011年8月，隨著行政區劃調整，醫院為合肥市衛生局所屬巢湖第二人民醫院。 　　2013年醫院參加合肥市二級甲等醫院復核評審工作，2014年4月16日接到合肥市衛生局通知，經市級專家組評審并經省衛生廳核準，醫院順利通過二級甲等醫院復審考核。 　　醫院位于巢湖市中心區，全院占地面積5萬平方米，建筑面積4萬平方米，現有床位編制786張，設有門診部和住院部兩大區域。設有15個病區，32個臨床一、二級學科，10個醫技科室，擁有德國西門子1.5T磁共振(含類PET功能)、64層螺旋CT機、DR、DSA、數字平板胃腸機、美國GE全身彩超(含心臟專用彩超)、數字乳腺鉬靶、肺功能、腦電、肌電、動態心電、血壓，血透機(含CRRT)，快速冰凍切片機，腹腔鏡、膽道鏡、前列腺汽化電切鏡等系列腔鏡，羅氏化學發光儀、全自動酶免分析系統、全自動微生物培養鑒定系統等高新進口醫療設備。4870平方米門診樓和16500平方米的現代化住院大樓，聳立在城中央并成為標志建筑。正在裝潢的總建筑面積16406㎡的醫技樓計劃年內投入使用。 　　醫院現有在職人員893人，具有高級職稱68人，中級職稱265人，碩士研究生18人，在職碩士研究生48人、博士研究生2人。巢湖中青年學科帶頭人2名，省專科護士10人。 　　成功開展了心臟病介入診療(冠狀動脈造影、永久起搏器安裝)、鼻竇鏡、纖維咽喉鏡、腹腔鏡、ERCP、輸尿管鏡、氣壓彈道碎石、經皮腎鏡、前列腺氣化電切、宮腔鏡、陰道鏡和關節鏡等系列微創手術。 　　以人為本、科技領先、用心服務、追求卓越是我們的辦院方針;成為特色鮮明的省內知名醫院;成為群眾首選的最值得信賴的醫院是我們的愿景;團結、奉獻、創新、攀登是我們的院訓;內強素質、外塑形象、誠信服務、質量取勝是我們的競爭理念;認真去做只能合格、用心去做才能優秀;思路決定出路、細節決定成敗是我們的工作理念;以病人需求為中心，救死扶傷，盡職盡責是我們的服務宗旨。 　　醫院現為安徽醫科大學、皖南醫學院、安徽中醫藥大學、合肥職業技術學院教學醫院，巢湖市醫療保險定點單位，設有120急救分中心、中國初級衛生保健基金會健康扶貧工程“宮頸癌篩查基地”。與南京鼓樓醫院建立了醫療技術協作體和技術管理培訓基地，并加入安徽省立醫院網絡醫院。 　　醫院長期堅持科教興院、人才強院的發展戰略，經過不斷發展，醫院在兒科、神經內科等一批重點學科的基礎上，心內科、普外腔鏡手術、泌尿外科、新生兒科、ICU、麻醉科、婦產科等發展迅速，成為本院特色及當地有影響力的學科，2013年9月我院心血管內科被評為合肥市重點特色專科。 　　醫院曾先后獲得安徽省文明醫院、安徽省防治“非典”工作先進集體、安徽省衛生先進單位、合肥市文明單位。