English College ditubuhkan pada 21 Mac 1914. Pelajar pertamanya terdiri dari 21 pelajar terpilih dari Sekolah Bukit Zahrah. Lokasi pertama sekolah ini pada mulanya ditempatkan berdekatan dengan Istana Sungai Chat dan berhadapan dengan Pantai Lido. Bekas tapak sekolah ini masih boleh diperhatikan sehingga sekarang. Seramai 21 orang pelajar ditempatkan di EC dibawah tunjuk ajar dua orang guru yang dibawa khas dari England, iaitu Mr. Morrison and Mr. Holman. 21 orang pelajar ini boleh dianggap sebagai pengasas atau permulaaan untuk EC berkembang menjadi institusi pendidikan Inggeris di Johor Bahru.Sistem pendidikan yang dibawa oleh EC adalah berdasarkan kepada sukatan mata pelajaran yang diamalkan oleh pihak British. EC menjadi model dan medium kepada beberapa sekolah Inggeris selepas itu di sekitar Johor. Sekolah itu pada permulaannya membawa guru-guru import daripada Eropah dengan jumlah yang tidak ramai. Kemudian pentadbiran EC membawa masuk dan melatih guru-guru tempatan untuk mengajar beberapa subjek yang berkaitan dengan adat istiadat orang Melayu.
Selepas tamat Perang Dunia Pertama pada tahun 1918, EC buat pertama kali mengadakan peperiksaan Junior Cambridge. Selepas itu diikuti pula oleh peperiksaan Senior Cambridge. Bagaimana pun disebabkan kurangnya galakan daripada pihak British dan beberapa masalah teknikal yang lain, EC gagal mencapai sasaran dalam kedua-dua peperiksaan tersebut di mana pelajar-pelajarnya mendapat markah yang amat rendah.
Disebabkan masalah ini, sekolah ini ditutup buat sementara waktu pada tahun 1928. EC kemudiannyan dibuka semula kepada umum pada bulan Mei tahun yang sama, selepas beberapa tindakan susulan yang dibuat oleh pihak pentadbiran sekolah. Pada akhir tahun 1928, EC berjaya mencapai sasarannya apabila 143 pelajarnya terpilih dalam pengkhususan dalam mata pelajaran Matematik, Sains, dan Bahasa Inggeris. Pada 1928 juga, En. T. Drury yang telah menyertai Perkhidmatan Pendidikan Malaya semenjak daripada tahun 1921, dilantik sebagai Pengetua EC yang pertama.
Pada akhir tahun 1930, lokasi sekolah ini berpindah ke lokasi yang ada sekarang. Tapak sekolah yang asal hanya meninggalkan batu-batu blok dan sebuah tangga untuk pergi ke batu-batu blok tersebut, dan kesannya boleh dilihat sehingga sekarang. EC yang baru secara rasminya dibuka pada tahun awal tahun 1931. Selepas itu, EC dilihat sebagai sebuah sekolah yang berjaya melahirkan pelajar-pelajar yang cemerlang untuk beberapa tahun. Kebanyakan pelajar-pelajarnya selepas itu memberi banyak sumbangan kepada pembangunan negeri Johor dan usaha untuk membebaskan Tanah Melayu dari penjajahan British. Dua daripada pelajarnya yang termasyhur ialah Tun Hussein Onn, bekas Perdana Menteri Malaysia, dan Tan Sri Musa Hitam, bekas Timbalan Perdana Menteri Malaysia.
Penjajahan Jepun dari tahun 1941 hingga ke 1945 melihatkan EC bertukar wajah dari sebuah sekolah menjadi markas tentera, kilang senjata, hospital tentera dan tempat tahanan Jepun. Pada awal tahun 1946, sekolah ini dibuka semula selepas tamatnya penjajahan Jepun di Tanah Melayu. Perlantikan Mr. H. L. Hill, sebagai Guru Besar EC, membawa harapan kepada sekolah tersebut dan di bawah pimpinannya, EC berjaya kembali ke landasannya menjadi sebuah sekolah terkenal semula. Tahun 1949 menyaksikan kemasukan kumpulan pelajar perempuan yang pertama ke EC.
Pada tahun 1960, nama EC ditukar selepas tamatnya pemerintahan British di Tanah Melayu kepada Maktab Sultan Abu Bakar (MSAB) sempena mengambil nama Bapa Pembangunan Negeri Johor, iaitu Sultan Abu Bakar Daeng Ibrahim yang memodenisasikan pentadbiran kerajaan negeri Johor. MSAB Mengambil lebih banyak guru-guru tempatan untuk mengajar di sekolah tersebut. Pada tahun 1961, lencana dan pakaian seragam sekolah telah diperkenalkan pada kali pertama. Ini diikuti pula dengan lagu sekolah yang liriknya ditulis oleh En. Yusof Bin Karto dan muziknya dicipta oleh En. Lim Teck Siang.
Tiga dekad selepas itu memperlihatkan kawasan sekolah diperbesarkan. Dana sekolah yang dilancarkan pada tahun 1973 memperlihatkan pembinaan bangunan kompleks sukan dan perpustakaan. MSAB meraikan Jubli Intan pada tahun 1974 dan telah menjemput Tun Hussein Onn iaitu Perdana Menteri Malaysia yang ketiga yang juga bekas pelajar EC untuk merayakan Jubli Intan.Pada tahun 1980-an dan 1990-an sekolah ini masih diperbesarkan dan menambah kemudahan-kemudahannya bagi kegunaan pelajar-pelajarnya sesuai dengan kehendak Kementerian Pelajaran Malaysia ketika itu unutk menambah kemudahan-kemudahan serta pengenalan Kurikulum Bersepadu Sekolah Menengah (KBSM).