Тогда, в знак своего несогласия с действиями Али, большая часть его войск (около 12000 чел.) покинула его. Они заявили, что не признают решение третейского суда в связи с тем, что «судить вправе только Бог» (ла тах- ким илла лиллахи). Вначале они обосновались у населенного пункта Харура. Поэтому первоначально их называли харуритами.
Почти сразу секта хариджитов превратилась в мощную политическую силу, и на протяжении последующих десятилетий была главным дестабилизирующим фактором в Халифате. В борьбе со своими противниками хариджи- ты использовали любые средства, включая и политический террор.
Хариджиты сразу объявили своими врагами, как Али, так и Муавию, начали против них активные диверсионные и военные действия. В 36/658 году халиф Али повел свои войска против них и разгромил их в сражении у На- хравана. Но жизнь этого выдающегося человека трагически оборвалась в 39/661 году. Он стал жертвой заговора хариджитов, которые приговорили
его к смерти. Убийцей Али был Ибн Мулджам. Хариджиты отправили убийцу и для ликвидации Муавии, но тот заговор оказался раскрытым, и Муавия не пострадал.
В последующие годы хариджиты вели вооруженную борьбу с халифом Муавией и его наследниками, к которым перешел Халифат после смерти Али. В ходе боевых действий у них сформировался культ мучеников, к отмщению которых они призывали. В повстанческой деятельности они использовали методы партизанской войны, совершая стремительные налеты, и, в случае подхода халифских войск, сразу отходили в безопасные места. Основным местом их базирования была болотистая и труднопроходимая местность аль-Батаих неподалеку от Басры (Южный Ирак). От их рук пали многие тысячи мусульман.