黄由父亲黄云，字景祥，曾经是淮西总所酒官。黄由自幼好学，年方十二、三岁便教授群童读书，二十岁时考入太学。 南宋孝宗淳熙八年（1181）三月辛丑科状元及第。吴地自开科以来，从黄由开始才多出状元和名士，人们以他为荣，郡守并为他立下状元坊。其后，授南安军签判，任满后任绍兴府通判，刚好遇上大旱，其赈灾时颇有成绩。又迁著作佐郎，后来奉命出使金国，回国后迁任将作监嘉王府赞读。淳熙十五年（1188）十月为正字。淳熙十六年（1189）七月为秘书郎，兼日历所编类圣政检讨官，十一月为著作佐郎。绍熙二年（1191）夏四月帘试，黄由当时为考功郎官，建议说现在已经增加了律义，可以取消帘试。大臣上奏说帘试用来改革代笔的弊端，应当更加严厉，不能废止。十一月为著作郎。绍熙四年（1193）八月以军器少监兼实录院检讨官，十二月为将作监。绍熙五年（1194）五月，光宗得重病，而皇子嘉王（宁宗）不能亲往探病，大臣都很担忧。其时，在嘉王府任赞读的黄由，恳请嘉王到重华宫探病。到辛巳日，还没成行，于是讲官彭龟年、沈有开又请求上重华宫，内侍都监王徳谦坚持再报告，被嘉王驳斥。于是，嘉王在甲申日到重华宫探病，光宗非常感动。同年七月，辛未日，封黄由为起居郎、秘书省著作郎。辛巳日，赵汝愚力极力辞去右丞相一职，被封为枢密使。翰林学士李巘、草麻有“太尉本兵柄”之类的话，赵汝愚认为是在侮辱自己，很是不高兴。不久，巘转任承旨。黄由当时以左史兼中书舍人身份驳斥赵汝愚，于是被除去寳文阁学士衔，任婺州知州。七月为起居郎并兼实录院检讨官，九月以中书舍人兼实录院同修撰。在宁宗即位后，黄由因功受封为权礼部尚书兼吏部侍郎。庆元三年（1197）三月以吏部侍郎兼实录院同修撰。绵州知州王沇，请求处置受所谓“伪学”影响的人，并登记姓名，因此而获罪的人有五十九人之多，黄由也在其中。事情已经开始，当时黄由任礼部尚书兼吏部侍郎，向宁宗建议不要认为天下人都结党，不要记录成档案，以显示不会牵涉太广。在这件事上，黄由有违宁宗的意思，被贬为成都知府。其后，殿中侍御史张岩，上奏说黄由阿谀奉承权臣、结交党羽，于是黄由被降为杂学士奉祠。庆元四年（1198）十一月为权礼部尚书仍兼实录院同修撰。嘉泰元年（1201）闰十二月初八日，黄由以宝谟阁学士、通奉大夫、兼沿海制置使职，到任四明郡守。四年（1204）二月初一日，奉诏调离，十二月，再任知州。嘉泰三年（1203）十一月，朝庭选拔人才，东南应格的只有木升等四人，川路应格的只有蹇似之等二人。第二年，有议论说用人太滥。黄由当时兼任尚书，一进上奏，请求上两三次录用的人要通过十二考，只用常员、举主二员，如果是和举主有关系的，再减一员。嘉定元年（1208）九月二十一日，黄由以宝谟阁学士、正议大夫职，知绍兴府浙东安抚使。他改籴米为发米，赈济灾民五万石米。昔日嵊县有虎患，人们以讹传论，传说老虎有神通，变化莫测，行踪不定。黄由先祭祀神灵，然后用厚赏募人捕虎，以后再无虎患。嘉定三年（1210）四月十六日，任刑部尚书兼直学士院，官至正奉大夫。卒后赠少师，墓在邓尉山，妻胡夫人。

黄由夫人胡氏，号惠斋，是平江胡元功之女。胡元功也曾任尚书，胡氏家世显贵，以礼自持，擅长笔札，诗文也不错，兼通书画。不论是琴、棋都非常精致，画竹清雅，当时人们把她比作李清照。传世的画有：折枝梅花图二幅、折枝风竹图二幅、寒梅雪意图一幅、石竹水仙图二幅、墨竹图五幅。在黄由被贬成都知府时，胡氏同行，经过黄州的雪堂，胡氏用行书在墙上写下赤壁赋。吴地人相传，胡氏曾因为桌上有积尘，戏画梅一支，在上面题写了百字令一首：“小斋幽僻，久无人到此。满地狼籍，几案尘生多少憾。把玉指亲传踪迹，画出南枝。正开侧面，花惢俱端的。可怜风韵，故人难寄消息。非共雪月交光，者般造化，岂费东君力？只欠清香来扑鼻，亦有天然标格。不上寒窓，不随流水，应不钿宫额。不愁三弄，只恐罗袖轻拂”。

【还吴江】归来三阅月，无事一关心。刈草寻花径，开池漾柳阴。江边问明月，天际数归禽。幸有高宾至，相逢似竹林。【泽卿兰亭考用工深矣携攻愧大参诗见访次韵并】字入照陵不可摹，后来仅及晋之余。识真盍向龟堂问，敢谓牵联亦得书。【盘墅】才到松陵即是家，休论恬淡与荣华。古来颜跖俱尘土，自有时贤定等差。才到松陵即是家，参天桧柏古槎牙。杖藜终日频来往，不羡堤边呼筑沙。才到松陵即是家，仙翁诗句发天葩。钝才不及赓余韵，留取时时罩碧纱。才到松陵即是家，故园喜听雀喳喳。上人只为贪风月，蛮触交争笑尔蜗。才到松陵即是家，民间何处不桑麻。欣欣老稚迎门笑，斗酒相欢亦孔嘉。才到松陵即是家，满堂佳客满园花。看花揖客须清赏，休向人间俗子夸。才到松陵即是家，便须洗盏泛流霞。软红尘里风波恶，不似江舻与海槎。才到松陵即是家，三清阁下寂无哗。小臣愧乏丝毫报，深炷炉香静点茶。才到松陵即是家，楼高不管绿杨遮。有书万卷时翻弄，千古兴亡几叹嗟。才到松陵即是家，擎空皎月莹无瑕。自须台上分明看，拟欲呼仙泛海槎。