في ربيع الأول عام 14 هـ / مايس 635 م ، اختطه نافع بن الحارث أو محجن بن الادرع السلمي بأمر عتبة بن غزوان الصحابي ( مؤسس البصرة ) فبناه بالقصب لأنها مرحلة تثبت الإسلام في الأراضي المفتوحة والسعي لزيادة رقعة الفتوح .
عام 17هـ / 638 م عندما قدم الصحابي أبو موسى الأشعري والياً على البصرة وقد اتسعت المدينة اتساعاً هائلاً ، فبناه بلبن وطين وسقفه بالعشب كما زاد فيه الوالي عبد الله بن عامر عام 22هـ كما قام الإمام علي ( عليه السلام ) بتصحيح اتجاه قبلته لأنها كانت منحرفة وذلك عام 36 هـ / 656 م .
عام 45 هـ / 656 مقام والي البصرة زياد بن عبيد ببنائه بناءا محكماً بالأجر والجص وسقفه بالساج وقطع سواريه من جبل قيقعان في الأهواز وبنى له مجنبات كما أدخلت عليه توسعات في ولاية عبيد الله بن زياد عام 54 هـ / 673 م .
عام 161 هـ عندما ولي محمد بن سيلمان بن علي فرأى زيادة عدد المصلين الذين بلغ عددهم أكثر من عشرين ألف مصل حسب إحصائيته فوسعه بشراء الدور المحيطة به وفي ولاية عيسى بن جعفر العباسي عام 185 هـ / 801 م أدخلت دار الإمارة بالمسجد كما تم تسقيفه بعد أن ترك مساحة صغيرة في الوسط كانت تظلل بالأقمشة الفاخرة .
عام 624 هـ / 1226 م في خلافة المستنصر بالله وأثناء ولاية شمس الدين باتكين الرومي على البصرة وبعد احتراقه بناه بالطابق المزخرف وقطع سواريه من جبال الأهواز وجلب له الأخشاب من الهند وانشأ رباطاً للصوفية بجانبه ومكتبة كبيرة وبنى له سبع مآذن والأثر المتبقي والذي يمثل الركن الشمالي الغربي هو يمثل العمارة الأخيرة هذه .
وقد تمت عام 2000 م وهو البناء الجديد وهو لا يتناسب مع مكانة المسجد وأهميته فالبناء الحالي وأهميته فالبناء الحالي هو خارج موقع المسجد القديم الذي حددت مقاييسه البالغة ( 195 م X 135 م ) عندما أجرت المديرية العامة للآثار برئاسة الدكتور عبد العزيز حميد عام 1964 م تنقيباتها فيه . لقد ذهب المسجد ضحية الخلاف بين المديرية العامة للآثار التي ارتأت أن يتم البناء وفق المقاييس والأبعاد القديمة ، وبين وزارة الأوقاف التي وضعت تصميماً مصغراً للمسجد أفلا يستحق هذا المسجد العظيم أن يعاد بناؤه على أسسه القديمة مع إبقاء الركن الأثري ضمن البناء الجديد والاحتفاظ ببقايا سواريه للذكرى ؟ إنها دعوى مخلصة لإعادة الاعتبار للمدرسة الفكرية الأولى ومنبت العلوم والثقافة والتراث الخالد ومفخرة البصريين ، إن المصادر القديمة الأدبية والتاريخية خلفت لنا وصفاً متكاملاً لمسجد البصرة الكبير مسجد الإمام علي بن أبي طالب ( عليه السلام ) تعيننا على وضع تصميم له نبصره فنتخيل أجدادنا العظام وعلماءنا الكرام الأعلام وهم يمارسون طقوسهم العلمية والدينية . . . .
يرتفع الجامع القديم ارتفاعاً هائلاً قدره الرحالة ناصر خسرو عام 447 هـ / 1055 م بثلاثين ذراعا وأبن بطوطة في رحلته عام 727 هـ / 1326 إذ وصفه بالصحن لارتفاعه فقال : « وكنت قد رأيت عند قدومي عليها على نحو ميلين منها بناءاً عالياً مثل الصحن فسألت عنه فقيل هو مسجد علي بن أبي طالب ( عليه السلام ) وكانت له سبع مآذن ومفروش بالحصباء الملونة » . كان للمسجد ثمانية عشر باباً وكل باب له درجة خارجية وله اسمه الخاص مثل باب بني تميم وباب بني سليم وباب الرحبة وباب الاصفهاني وباب عثمان وكان ينار ليلاً بالقناديل المربوطة بالسلاسل والمسترة بالزجاج وأغطية الخشب ، وله قيم خاص لإشعالها وتصليحها ومن المرافق الأخرى ( المقصورة ) وهي غرفة لصلاة الوالي ( والمنبر ) وصهاريج الوضوء المعروفة ( بطست الجامع ) الواقعة خارجه ومطلية بالقار .
كما تثبت بالجدران الخارجية آلاف الحلقات التي تستخدم كمرابط للخيل وبعد خراب البصرة وانتقال سكانها بدت حالته مؤلمة أذ بنيت بيوت البصرة ومدينة الزبير بطابوق المسجد والبيوت المهجورة وقعت سوارية لاستخدامات أخرى حتى لم يبقى منه سوى جدران وأعمدة قائمة حفظتها لنا ريشة احد الرحالة في القرن العاشر الهجري وقد رآها نيبور عام 1170هـ / 1765 م ولم يبق الآن سوى الركن الشمالي الغربي منه. وقد سمته ( الليدي دراور ) عام 1919 م ( بجامع علي ذي المنارات السبع ) وأطلقت على الأثر المتبقي اسم ( برج السندباد ) فقالت: « لم يتبق من جامع علي ذي المنارات السبع واكبر جامع بني في الإسلام أي اثر كما لم يبق اثر أيضاً للبنايات العباسية التي بنيت بالآجر اللطيف .
وهناك برج يسمى محلياً ( برج السندباد ) ويقع في منتصف الطريق بين البصرة والزبير » .