মুসলমানদের কিবলা ও পৃথিবীর প্রাচীনতম ইবাদতখানা কাবা শরিফ প্রথম কে নির্মাণ করেছিলেন? এ নিয়ে বেশ কিছু মতামত রয়েছে। অনেকের ধারণা, হজরত আদম (আ.) কাবা নির্মাণ করেছিলেন এবং পরে হজরত ইবরাহিম (আ.) তা পুনর্র্নিমাণ করেন। 
কাবা হলো মানবজাতির জন্য নির্মিত প্রথম ও সবচেয়ে প্রাচীন ইবাদতগৃহ। এটি একমাত্র আল্লাহর ইবাদতের জন্য নির্ধারিত। মুসলমানরা নামাজে কাবার দিকে মুখ করে দাঁড়িয়ে মূলত এক আল্লাহর অধীনে মানবজাতির ঐক্য ও জীবনের কেন্দ্রবিন্দু হিসেবে আল্লাহর সার্বভৌমত্বকে স্মরণ করে।
কোরআন ও হাদিস থেকে জানা যায়, কাবাই ছিল মানুষের জন্য স্থাপিত প্রথম ঘর, যেখানে আল্লাহর ইবাদত করা হয়। কোরআনের সুরা আলে ইমরানের ৯৬ নম্বর আয়াতে বলা হয়েছে, মক্কায় অবস্থিত এই ঘরই মানবজাতির জন্য প্রথম নির্ধারিত ইবাদতগৃহ, যা বরকতময় এবং সারা বিশ্বের মানুষের জন্য পথনির্দেশনা।
তবে কোরআনের কোনো আয়াত বা সহিহ হাদিসে সরাসরি উল্লেখ নেই যে কাবা হজরত আদম (আ.) নির্মাণ করেছিলেন। কিছু তাফসিরকার মনে করেন, এটি প্রথমে আদম (আ.) নির্মাণ করেছিলেন, আবার কেউ কেউ বলেন, ফেরেশতারা পৃথিবীতে প্রথম কাবা নির্মাণ করেন।
ইসলামী ধারণা অনুয়ায়ী হজরত আদম (আ.)-এর সৃষ্টির ২ হাজার বছর আগে পৃথিবীর প্রথম ঘর কাবা নির্মাণ করা হয়। আল্লাহর নির্দেশে কাবাঘরের ভিত্তিপ্রস্তর স্থাপন করেন ফেরেশতারা।  আদম (আ.) পৃথিবীতে আসার পর আল্লাহ তায়ালার হুকুমে আবার কাবাগৃহ নির্মাণ করেন এবং কাবাকেন্দ্রিক বিভিন্ন ইবাদত-বন্দেগির নির্দেশ পান। 
হজরত নূহ (আ.)-এর যুগে মহাপ্লাবনে এ ঘর নিশ্চিহ্ন হয়ে গেলে আল্লাহ তায়ালার নির্দেশে কাবাঘর পুনর্র্নিমাণ করেন হজরত ইবরাহিম (আ.) ও তার ছেলে হজরত ইসমাইল (আ.)। 
হজরত ইবরাহিম (আ.) যখন কাবার স্থানে পৌঁছান, তখন সেখানে কোনো স্থাপনা ছিল না। এমনকি মক্কা নগরীতেও তখন কোনো বসতি ছিল না। আল্লাহ তায়ালা তাকে কাবার স্থান দেখিয়ে দেন এবং এরপর তিনি তার পুত্র হজরত ইসমাইল (আ.)-এর সঙ্গে মিলিতভাবে ভিত্তি উঁচু করে কাবা নির্মাণ করেন। এ বিষয়ে কোরআনের সুরা হজ ও সুরা বাকারাতে স্পষ্ট ইঙ্গিত রয়েছে।
নির্মাণের পর আল্লাহ তায়ালা হজরত ইবরাহিম (আ.)-কে বিশ্ববাসীকে এ ঘর জিয়ারতের আহ্বান জানানোর নির্দেশ দেন। আল্লাহতায়ালা বলেন, ‘মানুষের মধ্যে হজের ঘোষণা দাও। তারা দূরদূরান্ত থেকে হেঁটে এবং সব ধরনের কৃশকায় উটে সওয়ার হয়ে তোমার কাছে আসবে।’ (সুরা হজ, আয়াত : ২৭)।
হজরত ইবরাহিম (আ.)-এর পরও কাবা বিদ্যমান ছিল। সময়ের পরিক্রমায় কখনো প্রাকৃতিক দুর্যোগ, কখনো কাঠামোগত ক্ষতির কারণে এতে সংস্কারকাজ করা হয়। নবী মুহাম্মদ (সা.) নবুওয়াতপ্রাপ্তির আগে প্রায় ৩৫ বছর বয়সে কুরাইশরা একটি বড় বন্যার পর কাবা পুনর্র্নিমাণ করে।
বর্তমানে যে কাবা শরিফ দেখা যায়, তা হজরত ইবরাহিম ও হজরত ইসমাইল (আ.) যে ভিত্তির ওপর নির্মাণ করেছিলেন, সেই ভিত্তির ওপরই স্থাপিত।