De acordo com a tradição, a família Umayyad (também conhecida como Banu Abd-Shams) e o Profeta Islâmico Muhammad têm um ancestral em comum, Abd Manaf ibn Qusai. Muhammad descendeu de Abd Munaf através de seu filho Hashim, os Umayyads descenderam de Abd Munaf através de um filho diferente, Abd-Shams. As duas famílias são, portanto, consideradas clãs diferentes (aqueles de Hashim e de Umayya, respectivamente) da mesma tribo árabe (a dos Quraish).
Os Umayyads e os Hashimitas eram rivais amargos. A rivalidade veio da oposição inicial de Abu Sufyan ibn Harb, neto de Umayya, a Muhammad e ao Islã. Ele tentou se livrar da nova religião, travando uma série de batalhas. Mas acabou aceitando o Islã, assim como seu filho (o futuro califa Muawiyah I), e os dois proporcionaram habilidades políticas e diplomáticas muito necessárias para a administração do império islâmico em rápida expansão.
As origens do governo de Umayyad remontam ao assassinato de Uthman em 656. Nessa época Ali, um membro do clã Hashim e primo do Profeta Maomé, tornou-se o califa. Ele logo encontrou a resistência de várias facções e mudou sua capital de Medina para Kufa. O conflito resultante, que durou de 656 a 661, é conhecido como o Primeiro Fitna ("tempo de julgamento").
Ali foi primeiramente oposto por uma aliança liderada por Aisha, a viúva de Muhammad, e Talhah e Al-Zubayr, dois dos Companheiros do Profeta. Os dois lados se enfrentaram na Batalha do Camelo em 656, onde Ali conquistou uma vitória decisiva.
Quando Ali foi assassinado em 661, Muawiyah marchou até Kufa. Lá, ele persuadiu vários apoiadores de Ali a aceitá-lo como califa em vez do filho de Ali, Hasan. Então ele transferiu a capital do califado para Damasco. A Síria permaneceria como a base do poder de Umayyad até o fim da dinastia.