A morte do profeta provocou uma crise. Ele morreu sem deixar descendente masculino e sem sucessor claramente designado. Como diz Philip Hitti: "O califado (cargo de califa) é, pois, o mais antigo problema que o islamismo teve de enfrentar. Foi nomeado (8 de junho de 632) sucessor de Mohammad por meio de um tipo de eleição em que participaram os líderes presentes na capital, al-Madinhah." - (História dos Árabes).

O sucessor do profeta seria um governante, um khalifah, ou califa. Contudo, a questão concernente a quem eram os verdadeiros sucessores do profeta virou motivo de divisões nas fileiras do islamismo. Os muçulmanos sunitas aceitavam o princípio de cargo eletivo, em vez de a descendência sanguínea do Profeta. Assim eles crêem que os três primeiros califas, Abu-Bekr (sogro de Mohamed), Omar (conselheiro do Profeta) e Otmã (genro do profeta), eram os sucessos legítimos.

Essa afirmação é contestada pelos  xiitas, que dizem que a verdadeira liderança vem da linhagem sanguínea do profeta e por meio de seu primo e genro, Ali ibn Abi Talib, o primeiro imane (líder e sucessor), que se casou com a filha predileta do profeta, Fátima. Seu casamento produziu os netos, Hasã e Husain. Os xiitas afirmam também "que desde o início Allah e Seu Profeta haviam claramente nomeado Ali como único legítimo sucessor, mas que os três primeiros califas usurparam seu cargo de direito". (História dos Árabes) Naturalmente, o conceito dos muçulmanos sunitas é outro.

Durante o domínio de Ali como quarto califa (656-661), surgiu uma rixa a respeito de liderança entre ele e o governador da Síria, Moávia. Envolveram-se entre ele e o governador da Síria, Moávia. Envolveram-se em batalha, mas, daí, para evitar mais derramamento de sangue muçulmano, eles submeteram a sua disputa ao arbítrio. Ter Ali aceitado o arbítrio enfraqueceu a sua causa e alienou muitos de seus seguidores, incluindo os Caridjitas (dissidentes), que se tornaram seus inimigos mortais. No ano 661, Ali foi assassinado por um caridjita fanático, com um sabre envenenado. Os dois grupos (sunitas e xiitas) estavam em forte desacordo. Daí, o ramo sunita do islamismo escolheu um líder dentre os omíadas, ricos chefes de Meca, que não eram da família do profeta.

Para os xiitas, o primogênito de Ali, Hasã, neto do profeta, era o verdadeiro sucessor. Contudo, ele renunciou e foi assassinado. Seu irmão Husain tornou-se o novo imane, mas também foi morto, por tropas omíadas, em 10 de outtubro de 680. A sua morte, ou martírio, como os xiitas a encaram, teve um significativo efeito sobre o Shiat Ali, o partido de Ali, efeito que perdura até os dias de hoje. Eles crêem que Ali era o verdadeiro sucessor do Profeta e o primeiro "imane (líder) divinamente protegido contra o erro e o pecado”.O maior segmento dos xiitas crê que houve apenas 12 verdadeiros imanes, e que o último destes, Mohammad al-Muntazar, desapareceu (em 878) "na gruta da grande mesquita de Samarra, sem deixar descendência". Assim, "ele se tornou o imane oculto (mustatir) ou esperado (muntazar)... No devido tempo ele aparecerá como o Madi (o divinamente guiado) para restaurar o verdadeiro islamismo, conquistar o mundo inteiro e introduzir um breve milênio antes do fim de todas as coisas". - História dos Árabes.

Anualmente, os xiitas comemoram o martírio do Imame Husain. Fazem procissões em que alguns se cortam com facas e espadas e de outras formas se autoflagelam. Em tempos mais recentes, os muçulmanos xiitas têm estado freqüentemente nas notícias devido ao seu zelo pelas causas islâmicas. Contudo, eles representam apenas uns 20 por cento dos muçulmanos do mundo, a maioria dos quais são muçulmanos sunitas.