1938년(민국 27년, 전면적인 항일전쟁이 발발한 지 2년), 화재와 살상을 피하기 위해 수도 난징이 함락됐다. 일본침략자들이 약탈하자 난징대학의 일부 지식인들이 인근으로 피난하여 한산현에 중화민국정부의 조직으로 치이연중을 설립한 것이 한산중학교의 유래이다. 1942년 국민당 안후이성 교육부는 항일전쟁 당시 설립된 학교들을 통일적으로 계획하고 교명을 안후이성 제13중학교로 바꾸었다. 1945년 항일전쟁이 승리한 후, 정부는 성 제13중학교를 현 관리와 통합할 계획을 세웠으며, 1946년 한산현으로 이전하고 안후이성 한산중학교로 개칭하였다. 1948년 한청이 해방되었다. 1949년 2월, 상사의 지시에 따라 안후이성 한산중학교와 한산현중학교가 한산공립중학교로 통합되었다. 1949년 하반기에 안후이성 북부 차오후 행정구에 있는 한산중학교로 교명을 바꾸었다. 1951년 전반기에 만북구 한산중학교로 교명을 바꾸었다. 1958년 하반기에 성교육부에서 학교명을 안후이한산중학교로 개칭하였다. 이후 문화대혁명 때 한산농업기계공장중학교로 변경한 것을 제외하고는 현재까지 학교명을 사용하고 있다. 2007년에 새 캠퍼스를 짓고 본교의 고등학교 부서가 독립적으로 학교를 떠나 새 캠퍼스로 이전했습니다.