黄岛区因地处黄岛而得名。据《胶澳志》载，黄岛亦名“齐伯山”，“齐伯山岛”。春秋战国时期属齐国，为齐国某一侯之封地。又据《增修胶志》载：“黄岛在黄庵北，有岛之名，实为平冈。潮来则四面皆水，潮落则徒步可入。其北可暂尔避风，不可久泊《卫志》称间汛。”“渭子口之北为少海，海中有岛为黄岛。”“潮汐薄岸，地极泻卤。”可知，黄岛之所以得名，一是位于黄岛庵山之北，一是因为四面环海，土层薄而含卤高，土石皆呈黄色，以颜色命名，以别于东岸之青岛。
清光绪二十四年（1898年），清政府被迫与德国签订丧权辱国的《胶澳租界条约》，黄岛和薛家岛两地始从胶州析出，划为胶澳商埠一起沦为德国租界地。而辛安和薛家岛西部5村仍属胶州，为胶州之沾化乡。宣统三年（1911年）春，胶州变6乡制为13区制，改沾化乡为朱仲区。1929年4月，黄岛和薛家岛两地属青岛特别市海西区。1930年，胶县朱仲区改为胶县第五区。1942年12月，黄岛和薛家岛两地划归为青岛特别市胶州区，薛家岛为胶州区直属镇，黄岛归胶州区第五区。1944年，黄岛和薛家岛两地再次从胶州区析出划归伪青岛特别市海西区。1945年8月，日本帝国主义无条件投降，黄岛、薛家岛、辛安全境解放。同时成立珠山县民主政府，亦即诸胶县民主政府。黄岛、薛家岛、辛安全部划属珠山县。11月，珠山县撤销归并胶县。1946年9月，再次从胶县析出，划属新成立的胶南县。先辖于滨北专员公署，1950年又辖于胶州专员公署。1956年7月撤胶州专员公署，改辖于昌潍专员公署。1958年10月辖于青岛市。1961年复归昌潍专员公署。
1973年6月，国务院决定，西起胜利油田孤岛，东至昌潍地区胶南县的黄岛，铺设原油管线一条。并在黄岛建设末站原油储存库一处和年吞吐量1000万吨的原油输出码头一座。原昌潍地区革命委员会组建了昌潍地区黄岛建港指挥部，负责建港事宜。该数项国家重点建设工程于1976年6月相继建成投产使用。1976年10月，山东省革命委员会决定，将黄岛、薛家岛、辛安3处公社从胶南县划出，组建黄岛革命委员会，为县级建制。同时，中共昌潍地区委员会亦建立中共昌潍地区黄岛工作委员会。1979年1月，又经国务院批准，将黄岛革命委员会从昌潍地区分出，归属青岛市，为青岛市黄岛区，县级市区建置。
1984年10月20日，国务院批准在黄岛地域设立青岛经济技术开发区，为首批14个国家级经济技术开发区之一；1985年3月28日正式动工兴建。地处胶洲湾西岸，东经120°13′，北纬36°02′，面积约15平方千米。1986年3月成立青岛市经济技术开发区管理委员会。1992年，青岛经济技术开发区辖域扩大到黄岛全区，两区体制合一。1997年，面积扩展到181平方千米。
