Pada awal berdirinya, MTs Negeri 2 Kota Makassar merupakan kelas filial atau kelas pisah dari MTs Negeri Gunung Sari Ujung Pandang. Madrasah ini mulai beroperasi pada Tahun Ajaran 1990/1991 tepatnya tanggal 1 Juli 1990, dengan siswa yang pertama kali mengikuti Ujian EBTANAS pada Tahun Pelajaran 1992/1993.
Berdasarkan Surat Keputusan Menteri Agama Republik Indonesia Nomor 515A Tahun 1995 tanggal 27 November 1995, madrasah filial tersebut resmi dipisahkan dari induknya dan dinegerikan dengan nama MTs Negeri Biringkanaya Ujung Pandang.
Seiring perubahan nama kota, pada tahun 1999 terbit SK Gubernur Sulawesi Selatan tentang perubahan nama Ujung Pandang menjadi Kota Makassar. Perubahan ini berdampak pada penyesuaian nama madrasah, sehingga pada tahun 2000 madrasah berganti nama menjadi MTs Negeri Biringkanaya Kota Makassar. Selanjutnya, pada tahun 2017, nama madrasah resmi berubah menjadi MTs Negeri 2 Kota Makassar dan digunakan hingga saat ini.
Sejak berdiri hingga sekarang, MTs Negeri 2 Kota Makassar telah dipimpin oleh sembilan kepala madrasah yang berperan besar dalam perkembangan dan kemajuan institusi, yaitu:
Drs. Muchtar
(01 Juli 1990 – 01 Maret 1996)Drs. Amirullah Husein
(01 April 1996 – 31 Maret 2001)Drs. Muh. Jafar
(01 April 2001 – 28 Februari 2007)Drs. Ahmad Hasan
(01 Maret 2007 – 30 Mei 2007)Syarifuddin, S.Ag
(01 Juni 2007 – 30 Juli 2009)Drs. H. Abdul Rafik, M.Pd
(01 Agustus 2009 – 31 Maret 2013)Luqman MD, S.Ag, SE, MM
(01 April 2013 – 30 April 2018)Dra. Hj. Andi Idah, MM
(11 April 2018 – 28 Februari 2021)Kamaluddin, S.Ag
(16 Juli 2021 – sekarang)
Dengan perjalanan sejarah yang panjang serta dukungan kepemimpinan yang berkesinambungan, MTs Negeri 2 Kota Makassar terus berkembang menjadi lembaga pendidikan yang unggul dalam pembinaan akademik, karakter, dan spiritual peserta didik, serta berkomitmen mencetak generasi berprestasi yang berakhlak mulia.