太康十年(289年),受封西阳县公,拜散骑常侍。其父司马亮被杀时,因年幼幸免。
元康元年(291年),进为西阳王,历任步兵校尉、
侍中、抚军将军、
镇军将军等职。
永嘉初年(307年),随从东海王司马越南渡江南,支持琅琊王司马睿称帝,受到司马睿父子尊崇,官拜太宰、录尚书事。晋明帝司马绍病重,选为顾命大臣。晋成帝司马衍即位,倍加宠信,一如司马孚故事。旋即受到四弟南顿王司马宗谋反案牵连,免官降爵。咸和二年(327年),苏峻之乱爆发。司马羕支持苏峻对抗庾亮,坐罪赐死,时年四十五。咸康初年,晋成帝下诏恢复其宗籍。