Το σημερινό 2ο Γυμνάσιο πριν χρόνια αποτελούσε μέρος της Λεονταριδείου σχολής και βρισκότανε στον αύλειο χώρο του Αγίου Νικολάου. Εκεί φοιτούσανε μόνο κορίτσια. Αργότερα μετακόμισε στο σημερινό 3ο ΓΕΛ με την ονομασία Γυμνάσιο Θηλέων.
Το σχολικό έτος 1979-80, με απόφαση του υπουργείου παιδείας μετονομάστηκε σε «2ο Γυμνάσιο». Λίγα χρόνια αργότερα με την ίδρυση του Πολυκλαδικού Λυκείου μεταφέρθηκε στο χώρο του 3ου Γυμνασίου και τα δύο σχολεία συνεργάστηκαν. Τα μαθήματα γίνονταν σε διπλή βάρδια (πρωί- απόγευμα). Μετά από κάποια χρόνια το σχολείο μας μετακόμισε στα Π.Ε.Κ. και τα μαθήματα έγιναν πάλι πρωινά.
Το 1997 ολοκληρώνεται η ανέγερση του νέου διδακτηρίου στην περιοχή του Αγίου Βασιλείου και έτσι το 2ο Γυμνάσιο αποκτά τον δικό του χώρο.