Muhammad SAW. Tetapi usaha mereka gagal dan mereka diusir keluar dari kota Madinah, lalu mereka menggabungkan diri dengan kaum Quraisy membentuk pasukan untuk menggempur kaum Pengikut Nabi Muhammad di Madinah.

Pada bulan Syawal tahun 5 Hijrah berkumpullah laskar Al Ahzaab (persekutuan golongan-golongan) yang terdiri dari kaum Quraisy, Gathfaan, Bani Salim, Bani Asad, Bani Murrah, Bani Asya, dan orang-orang Yahudi Bani Nadhir. Persekutuan golongan-golongan ini dapat menghimpun sekitar 10.000 orang yang memanggul senjata menyerbu kota Madinah. Perang ini dinamakan "Perang Al Ahzaab". Dalam peperangan ini posisi kaum Muslimin adalah mempertahankan dan membela diri. Ketika pasukan Al Ahzaab tiba dipinggir kota Madinah, mereka tidak dapat menyeberangi parit karena selalu dihujani anak panah oleh kaum Pengikut Nabi Muhammad. Oleh sebab itu perang itu juga dinamakan "Perang Khandaq" (Perang Parit). Pihak penyerang berusaha menembus garis-garis pertahanan lainnya, tetapi selalu dapat digagalkan. Lebih dari dua puluh hari lamanya mereka mengepung kota Madinah sehingga kaum Pengikut Nabi Muhammad menderita kekurangan makanan. Pada waktu yang kritis ini turunlah hujan yang lebat di malam hari dan angin kencang yang menyapu bersih semua kemah-kemah dan semua perbekalan pasukan Al Ahzaab, sehingga mereka menjadi kucar kacir. Dan keadaan demikian akhirnya masing-masing golongan dari pihak penyerang pulang ke negerinya masing- masing tanpa membawa hasil apa-apa.

Sesudah peperangan ini, maka dua orang pemimpin yang sangat berpengaruh dan gagah perwira dari kaum Quraisy yaitu Amr bin Ash Asahmi dan Khalid bin Wahid Al Makhsuum menjadi orang-orang Muslim (berarti orang yang berserah diri kepada Allah). Peristiwa ini menjadi pertanda bahwa perang akan berakhir antara kaum Pengikut Nabi Muhammad dan kaum Quraisy. Karena setelah ini tidak lagi terjadi peperangan antara kedua belah pihak. Keadaan ini dilanjuti dengan diadakannya persetujuan damai antara kaum Pengikut Nabi Muhammad dan kaum Quraisy yang berlaku untuk sepuluh tahun.

Tetapi pada tahun 8 Hijrah, orang Quraisy menyerang bani Khuza'ah di Makkah yang merupakan sekutu kaum Pengikut Nabi Muhammad. Menurut perjanjian antara kedua belah pihak tidak boleh ada penyerangan termasuk penyerangan terhadap sekutu masing-masing. Maka tindakan orang-orang Quraisy yang menyerang kaum Bani Khuza'ah tersebut adalah pelanggaran dan pembatalan terhadap perjanjian yang telah disepakati oleh kedua belah pihak. Memerangi sekutu kaum Pengikut Nabi Muhammad sendiri sama dengan memerangi kaum Pengikut Nabi Muhammad sendiri.

Oleh sebab itu pada tanggal 10 bulan Ramadhan tahun 8 Hijrah berangkatlah Nabi Muhammad SAW dengan 10.000 orang laki-laki menuju Makkah. Orang Quraisy mendengar Nabi Muhammad SAW dengan 10.000 orang pasukannya menuju Makkah menjadi gemetar dan putus asa. Akhirnya Abu Sofyan pemimpin kaum Quraisy pergi menemui Nabi Muhammad SAW di luar kota Makkah untuk menyerahkan diri. Setelah itu Nabi Muhammad SAW memerintahkan pasukannya untuk memasuki kota Makkahdari empat jurusan. Dengan demikian Makkah jatuh ke dalam kekuasaan kaum Pengikut Nabi Muhammad tanpa perlawanan sama sekali. Semua patung-patung dan berhala-berhala yang terletak di Ka'bah dihancurkan oleh kaum Pengikut Nabi Muhammad kecuali hanya tersisa sebuah batu berhala hitam yang ditinggalkan di Ka'bah yang disebut Al Hajarul Aswad, orang- orang Quraisy yang dahulu menjadi musuh dan membenci serta menyakiti Nabi Muhammad SAW dan sahabat-sahabatnya sekarang berkerumun di sekeliling beliau laksana sekumpulan tawanan yang sedang menunggu putusan terakhir. Berkatalah Nabi Muhammad SAW kepada bekas musuh-musuhnya itu: "Tindakan apakah menurut perkiraanmu yang akan kuambil terhadap kamu sekalian?" Mereka menjawab: "Engkau, wahai Muhammad, adalah saudara kami yang mulia, dan putra dari saudara kami yang mulia."
Nabi Muhammad menyahut: "Ya, pergilah! Sekarang kalian bebas semuanya." Dengan demikian padamlah api permusuhan selama bertahun-tahun antara kaum Quraisy dan kaum Pengikut Nabi Muhammad.