По причине того, что от Сары у Ибрахима не рождалось детей, он по ее разрешению, женился на Хаджар, которая родила ему сына Исмаила. Он стал родоначальником арабов и прямым предком пророка Мухаммада. Но, после этого, по причине ревности Сары, Аллах повелел Ибрахиму увезти Хаджар с ее младенцем Исмаилом в безводную пустыню, и оставить их там в районе современной Мекки. Ибрахим выполнил Божественное повеление и затем вернулся в Сирию. Хаджар (Агарь) же оказавшись одна с ребенком в безводной пустыне, начала искать воду между холмами Сафа и Марва.
Вдруг она увидела ангела Джибрила (Г авриила), который ударил своей ступней (или крылом) по земле и там чудесным образом образовался источник, названный Замзамом. После этого они поселились здесь, а позднее туда прибыли и другие племена и эта местность стала населенной.
Еще до рождения Исмаила, Ибрахим поклялся Аллаху о том, что если Он дарует ему сына, то по достижении им совершеннолетия принесет его в жертву. Когда Измаил достиг совершеннолетия, Ибрахим в очередной раз приехал к нему в Мекку. В это время Аллах решил испытать его. Ибрахим стал видеть сны о том, что он приносит своего единственного сына в жертву. Тогда Ибрахим решил исполнить свой обет. Но, в тот момент, когда он занес над Исмаилом нож, к нему явился ангел, который обрадовал его вестью о том, что это было всего лишь испытанием. Взамен Исмаила Аллах передал Ибрахиму через этого ангела агнца, который и был принесен в жертву (подробнее см. Исмаил).
Спустя много лет Аллах даровал Ибрахиму еще одного сына, которого родила ему Сара. Его назвали Исхаком и он стал родоначальником израильтян.
Пророк Ибрахим часто приезжал к своей жене и сыну в Мекку. Там они вместе с Исмаилом построили Каабу на том же месте, где она стояла во времена Адама. Черный камень (См. Хаджар аль-Асвад), который был взят ангелом Джибрилом из рая и передан Ибрахиму, был установлен ими в одной из стен Каабы. После окончания строительства, Ибрахим научил Исмаила обрядам хаджа и сделал его хранителем Каабы. Исмаил же стал совершать хадж вместе с людьми из племени Джурхум, которые пришли и проживали в Мекке. Перед отъездом в Сирию, Ибрахим взошел на холм Арафат и возвел Аллаху мольбу об Исмаиле. Через год, в сезон хаджа Ибрахим снова приехал в Мекку, на этот раз вместе со своей женой Сарой и сыном Исхаком. Все они совершили обряд хаджа и вернулись в Сирию.