Что же касается иудеев, то они не признали Мухаммада в качестве Божьего посланника. Поэтому с ними был заключен взаимовыгодный мирный договор, в соответствии с которым они являлись равноправными гражданами города и сохраняли за собой свое положение. Однако, несмотря на это, иудеи не желали усиления арабских племен и начали враждовать с мусульманами. Они пытались осуществить покушение на пророка Мухаммада, заключали союзы с язычниками против мусульман. Все эти действия привели к конфронтации этих иудейских племен города с мусульманами. В ходе многолетнего противостояния иудеи потерпели поражение, и ушли из города.
Сразу после хиджры, пророк Мухаммад распорядился построить в Медине мечеть (Масджид ан-Набави), которая стала не только местом для совершения мусульманами пятикратной молитвы, но и центром политической жизни государства. Отсюда совершалось его управление, решались социальные и военные проблемы. Кроме того, в этой мечети велось обучение основам религии, здесь останавливались путники. По своему значению, мединская мечеть является третьей, после Каабы и Аль-Аксы, святыней Ислама.
Война между мусульманами и язычниками Мекки, проходившая вначале с переменным успехом, окончилась полным поражением мекканцев. За все это время Ислам распространился по всему Аравийскому полуострову, и Медина не только сумела преодолеть междоусобные раздоры, но и стала столицей сильного мусульманского государства, возглавляемого пророком Мухаммадом. Все это произошло всего за 11 лет. При Праведных халифах Абу Бакре, Омаре, Османе (11/632-35/656) Медина стала столицей Халифата, власть которого распространилась на больших территориях Азии и Африки. При халифе Али (35/656-40/661) столица Халифата была перенесена в Куфу. А после этого, при Омейядах, столицей стал Дамаск.