Masjid ini disebut-sebut dalam Al Qur’an sebagai mesjid yang dibangun di atas dasar takwa (Surat At Taubah:108): “Sesungguhnya masjid itu yang didirikan atas dasar takwa (Masjid Quba) sejak hari pertama adalah lebih patut bagimu (Hai Muhammad) bersembahyang di dalamnya. Di dalamnya terdapat orang-orang yang ingin membersihkan diri.......(At Taubah, 108).”

Di Madinah ada banyak tempat bersejarah yang penting untuk diziarahi. Salah satunya Masjid Quba. Inilah masjid yang batu batanya dipikul Nabi Muhammad SAW sendiri. Masjid Quba terletak di perkampungan Quba, kira-kira 3 kilometer dari arah selatan Bandara Amir Muhammad Bin Abdul Aziz (AMAA). Mengunjungi masjid ini, dari kejauhan akan terlihat empat menara putih tinggi menjulang. Setelah dekat terlihat pohon kurma mengelilingi masjid.

Masjid Quba adalah masjid yang pertama kali dibangun oleh Rasulullah ketika beliau hampir sampai di yastrib (nama kota Madinah sebelum di ubah) dalam perjalanan hijrahnya, masjid ini terletak 5 KM tenggara dari kota madinah. Masjid Quba dibangun nabi pada hari senen tanggal 12 Rabi’ul Awal tahun pertama hijrah atau 13 tahun dari kenabian Rasulullah (20 September 622M), kala melaksanakan perjalanan hijrah bersama sahabat Abu Bakar, setibanya di Quba beliau disambut dengan meriah oleh penduduk Quba,. kemudian beliau tinggal dirumah Kalsum bin hadam dari kabila Aamir bn Auf, Di lahan kalsum inilah Rasulullah membangun masjid yang peletakan batu pertamanya dilakukan Rasulullah sendiri dan dilanjutkan oleh sahabat-sahabatnya. Dizaman Rasulullah, masjid ini mengalami dua kali perbaikan.