当时有个叫祖秀才的人，在亭中给刺史写信，长时间写不成，刘卞教了他几句，便超然出众。祖秀才对县令说：“刘卞，是公府属员中的精干者，你怎么让他去做亭子？”县令就召他为门下史，办理各种事都疏略，不能周密。县令问刘卞：“能学习吗？”回答说：“愿意学。”就让他去学习。没多久，刘卞的兄长任太子长兵，去世后，按兵例必须有人替代，功曹请求让刘卞代兄服役。县令说：“祖秀才有话。”于是不听。刘卞后来跟着县令到洛阳，得以进入太学，通过《经》的考试任台四品官。访问让他写一鹿车黄纸，刘卞说：“刘卞不是给人家写黄纸的人。”访问知道后发怒，对中正说，降为尚书令史。有人对刘卞说：“你的才能简略，适合于大任而不适合小事，不如做守舍人。”刘卞听从了他的话。刘卞后来任吏部令史，改任齐王司马攸司空主簿，转任太常丞、司徒左西曹掾、尚书郎，在所任的位置上都称职。逐渐升任散骑侍郎，做并州刺史。入朝任左卫率，知道贾后废太子的阴谋，很忧虑。为张华出计谋而不被采用，更觉不平。贾后的亲信党羽暗中监视外界，对刘卞的言论有所耳闻，于是改任刘卞为轻车将军、雍州刺史。刘卞知道言辞泄露，怕被贾后杀害，便喝药而死。当初，刘卞去并州，过去同时在须昌做小官的十多人为他饯行，其中一人轻视刘卞，刘卞派人把他扶出屋外，人们因此轻视刘卞。