李迪生于宋太祖开宝四年（971年），其家族先世居赵郡，后移居幽州。曾祖父李在钦，为躲避五代战乱，又移住濮州（山东鄄城）。李迪深厚稳重有才学，曾携带自己所作的文章拜见柳开，柳开认为他是一个奇才，并说：“是公辅之才。”宋真宗景德二年（1005年），李迪中进士甲科，状元及第。考中状元后，李迪被授职将作监丞，历任徐州、兖州通判。后改任秘书省著作郎、直史馆，任三司盐铁判官。大中祥符元年（1008年），真宗进行泰山封禅时，李迪又任兖州通判，因解送开封府进士失当，被贬为海州监税。又改任右司谏，起任郓州知州，又获召入朝，奉命纠察刑狱案件。升任起居舍人，安抚江州、淮州，以尚书吏部员外郎之职任三司盐铁副使，升任知制诰。真宗素闻亳州盗贼横行，遂命李迪知亳州。任上，李迪明察暗访，很快平息盗贼。进右谏议大夫，集贤院学士，知永兴军。边帅曹玮上疏请求增兵固防，真宗以为懦怯，欲斩首。李迪力陈曹玮有勇有谋，乃忠臣良将，他日定能边关奏捷，后果如其言。仁宗立为皇太子后，寇准被奸臣丁渭诬陷罢相，真宗欲以李迪为相，李迪坚辞不受。真宗任命李迪为吏部侍郎兼太子少傅，同中书门下平章事。丁渭专权，排除异已，李迪被罢相，知郓州，几被迫害至死。史称此时“朝中正人为之一空”。民间流传：“欲得天下宁，当拔眼中钉；欲得天下好，莫如召寇老。”丁渭垮台，王曾为相，李迪起为秘书监，知舒州。太后病故，朝廷重召李迪为资政殿学士，判尚书都省。不久，复拜同中书门下平章事、集贤殿大学士。景佑中，李迪被吕夷简排挤陷害，罢为刑部尚书，知亳州。元昊攻延州，宋军损失惨重，李迪自请戍边，仁宗不许，命李迪为彰信军节度使，知天雄军，调知青州。次年，驻守本镇，请求告老回乡，以太子太傅致仕，归濮州。后来李迪之子李柬之为侍御史知杂事，侍奉李迪来到京师。仁宗多次派使者前来慰问，并想召见他，李迪以身体有病而辞谢。庆历七年十月十日（1047年11月1日），病逝于家中，享年七十七岁。仁宗追赠李迪为司空、侍中，谥号“文定”，并亲自题其墓碑为“遗直之碑”，又改其所葬的邓侯乡为“遗直乡”。