王仁恭虽然年轻时弓马娴熟，武勇过人，但毕竟是个快六十岁的人了。而刘武周正是壮年，很快王仁恭便敌不住，被夺了利刃。
刘武周此时也愤怒上头，照着王仁恭的身子便狠狠地扎去，连扎十多刀，直到将王仁恭活活捅死。
等到王仁恭死了，这刘武周才冷静下来，只是看着王仁恭的尸体，终于反应过来自己做了什么，自己竟然杀了太守。
刘武周带着沮氏，连夜逃出了太守府，去投奔妹夫苑君璋。
苑君璋也是马邑豪族，其父苑侃曾任代州长史。听闻刘武周杀了王仁恭，他便劝王仁恭趁机起事，全取马邑。
刘武周本就天生反骨，放荡任侠，听得妹夫的劝动，便有心造反。
于是刘武周便连夜联络自己在城中的好友杨伏念、黄子英、郭子威、张万岁、寻相等人。刘武周虽然官职不高，但威望很高，又是本地大族，很快便占领全城，夺取了政权。
于是刘武周自称马邑郡太守，开仓赈贫，驰檄境内，得兵万余人，并向南侵略雁门、楼烦、太原等地。