После начала гонений на мусульман в Мекке, пророк Мухаммад решил отправить Абу Бакра в Эфиопию, куда отправилась значительная часть мусульман. Он выехал в путь, но по дороге встретил одного из влиятельных племенных лидеров Ибн Дукунну, который взял его под свое покровительство и они вместе вернулись в Мекку. Вернувшись в город, Абу Бакр отказался исповедовать веру втайне и продолжил свою активную деятельность, чем вызвал неодобрение Ибн Дукунны. Поэтому он отказался от его покровительства.
Спустя 13 лет после начала пророческой деятельности Мухаммада началась знаменитая хиджра (переселение) мусульман из Мекки в Медину. Одним из последних Мекку покинул пророк Мухаммад, который выехал в направлении Медины вместе с Абу Бакром. Они вместе находились в пещере Саур, где укрылись от преследовавших их язычников. Этот эпизод жизни Абу Бакра нашел отражение в аяте Корана: «Вот они оба были в пещере, вот говорит он своему спутнику: “Не печалься, ведь Аллах с нами”» (9: 40).
После прибытия в Медину, пророк Мухаммад породнился с Абу Бакром, женившись на его дочери Аише. В этом городе Абу Бакр продолжил свою активную деятельность и участвовал во всех важных делах общины. Он, вместе с пророком и другими мусульманами, закладывал основы первой в истории мусульманской государственности. Абу Бакр принял участие в битвах при Бадре, Ухуде, Хандаке, Хайбаре, Хунайне и других сражениях. Абу Бакр был настолько предан идеалам Ислама, что в битве при Бадре бился со
своим родным сыном Абд ар-Рахманом, который остался язычником и выступил против мусульман.
В конце жизни, пророк Мухаммад, по состоянию здоровья, не мог возглавлять коллективные молитвы. Поэтому он поручил их проведение Абу Бакру. Именно это обстоятельство стало одним из решающих при выборе Абу Бакра первым Праведным халифом, так как руководство в Божественном деле (молитве), которое было передано ему пророком, означало руководство и земными делами.