王允一家被李傕等杀害后，王凌与其兄王晨逃出长安，跑回太原。后来举孝廉，先后任发干长及中山太守，有治绩，后来得到受曹操赏识，当丞相掾属。

曹丕称帝后，任散骑常侍，出任兖州刺史，曾参与222年的洞口之战，因功封为宜城亭侯加建武将军。来任青州刺史时又整理法度，重建当地战乱后的秩序，得到百姓称颂。后来在夹石之战率兵勇战，令曹休得以撤退。后先后任扬州和豫州刺史，甚得军民欢心。正治初年，任征东将军，假节都督扬州诸军事。正始二年（241年），在芍陂大战击败吴将全琮，全琮撤退。进封南乡侯，迁车骑将军，仪同三司。又于正始九年（248年）升任司空。

嘉平元年（249年），高平陵事件发生，大将军曹爽被司马懿诛杀，司马氏掌握魏国大权。王凌则升任太尉，假节钺。当时兖州刺史令狐愚是王凌的外甥，二人都掌兵。二人合谋要推举楚王曹彪为帝，推翻司马氏，令狐愚更派部将张式联络曹彪，但同年令狐愚就病死。次年夜观星象，认为有祥瑞的兆头，决定待机会实行计划。嘉平三年（251年），趁著吴军在涂水有军事行动，王凌决定借此机会行动，上表要求讨伐吴国，但未有回音，王凌于是派将军杨弘将计划通知兖州刺史黄华，但他们却报告给司马懿。司马懿于是讨伐王凌，但先下令赦免王凌罪行。王凌自知不敌，于是投降，司马懿纳降，并派兵送王凌回洛阳。王凌害怕事情不如就此完结，向司马懿取棺材钉以知其心意，但司马懿还是命人送他一颗；王凌知道自己必定会被杀，到项时饮毒药自杀。后来司马懿到寿春，张式将王凌的计划供出，相关的人包括王凌及令狐愚等都被诛灭三族，王凌和令狐愚更被开棺暴尸三日。