1992年9月，國務(wù)院批復(fù)同意開放黃山航空口岸，并在口岸設(shè)立海關(guān)等機構(gòu)。1993年5月，隨著黃山至香港開通旅游包機，合肥海關(guān)設(shè)立了黃山旅檢科。1995年3月，海關(guān)總署批準設(shè)立黃山海關(guān)，正處級，隸屬合肥海關(guān)領(lǐng)導(dǎo)。同年4月，黃山海關(guān)籌備處成立。1996年11月12日，黃山海關(guān)正式開關(guān)，時任國務(wù)院總理李鵬親手為黃山海關(guān)題寫了關(guān)名。

黃山海關(guān)內(nèi)設(shè)辦公室、綜合業(yè)務(wù)一科、綜合業(yè)務(wù)二科、監(jiān)管科、旅檢科5個科室。同時受托管理茶檢中心、海風樓招待所、茗苑賓館。

業(yè)務(wù)轄區(qū)為黃山市三區(qū)四縣，業(yè)務(wù)范疇為通關(guān)、稅收征管、進出口商品檢驗監(jiān)管、進出口動植物檢疫監(jiān)管、企業(yè)管理等，同時負責黃山航空口岸出入境運輸工具、人員、行李物品、免稅店、水果口岸的監(jiān)管和衛(wèi)生檢疫。

近年來，黃山海關(guān)獲得第六屆全國文明單位稱號、第十二屆安徽省文明單位稱號，黃山海關(guān)團支部榮獲2019年度安徽省五四紅旗團支部，第二黨支部榮獲2019年度全國海關(guān)基層黨建示范品牌。