淳熙三年春，黄榦拜朱熹为师，在崇安五夫里随朱熹苦读，常通宵达旦。他与朱熹高徒蔡元定、朱熹学友吕祖谦论学，以“所闻与朱熹相质证”，不久即成为朱熹高徒。朱熹对他寄予厚望。淳熙九年朱熹以仲女嫁黄榦。宁宗即位，朱熹遣榦奉表行在，补将仕郎。不久母死，回梓守孝，墓庐讲学，从者甚多。绍熙三年(1192)朱熹卜居建阳考亭，黄榦也在附近结庐居住。朱熹在建阳筑“竹林精舍”(书院)讲学，与书有：“他时便可请直卿，代即讲席”之语。朱熹编《礼书》，其中丧、祭二篇由黄编成，朱熹对此十分满意。庆元二年(1196)朱熹提倡的道学被朝廷斥为“伪学”，但黄仍坚持讲学，同年在建阳潭溪建草堂讲道著书。庆元六年朱熹病重，将所著书托付给黄榦。朱熹死后，黄榦持心丧3年。调监嘉兴府石门酒库。黄榦步入仕途后，面对外族入侵，国弱腐败的社会现实，主战反和，致力于社会改革，力图“壮国势而消外侮”。嘉定元年(1208)，黄榦任江西临川县令，力主弛沿河场务之费，以抑制坐蠹之害和盗粜之弊。嘉定五年，改任临江军新淦县令，着力整顿吏治，揭露该县胥吏勾结豪民，将职田作官田变卖。任安徽安丰军通判时，亦不断整顿腐败的吏治。八年，知湖北汉阳军。汉阳军地处军事要冲，却无城郭，黄榦日以乞筑汉阳城为急，但朝廷不从。黄榦视事后即整顿郡兵，安抚百姓。时值大旱，而监司却不过问。黄榦力筹赈荒米7万余石，粜给灾民，还收留外地流民2700余人，发仓予以赈济，民深感其德。十年，知安徽安庆。安庆乃抗金前线，黄榦到任后奏请修郡城，并亲自督修，每日五鼓坐堂，安排工程进度，修好郡城。两年后金兵南下，安庆城在抵御金兵入侵中起了重大作用，百姓深感黄榦修城之德。十一年，辞安庆职，入庐山访其友李燔、陈宓，并在白鹿洞书院讲学。不久改知和州，黄榦以衰病辞。九月，命知广东潮州，辞。十二月，主管亳州明道宫。十二年四月回建阳，十月回福州专事讲学。十四年三月卒。