Στην ευρύτερη περιοχή  του Σχολείου μας κατά την αρχαιότητα βρισκόταν ένα από τα τρία μεγαλύτερα και σημαντικότερα Γυμνάσια της Αθήνας,το Κυνόσαργες. Εκτιμάται ότι βρισκόταν εκτός των τειχών της πόλης, νότια του Ναού του Ολυμπίου Διός, στην αριστερή όχθη του Ιλισού ποταμού. Εκεί γυμναζόταν ο Θεμιστοκλής  και αργότερα ο μαθητής του Σωκράτη, ο Αντισθέ­νης, που υπήρξε ιδρυτής της Φιλοσοφικής Σχολής των Κυνικών. Φημισμένο ήταν και το Άλσος που περιέβαλε το Γυμνάσιο αυτό. Ευρήματα που ενισχύουν την ύπαρξη του Κυνοσάργους στο σημερινό Νέο Κόσμο βρέθηκαν κατά τη διάρκεια εργασιών σε οικόπεδο πίσω από τον Άγιο Παντελεήμονα Ιλισού.

   Το 6ο (πρώην ΣΤ΄) Γυμνάσιο Αθηνών, ιδρύθηκε στις αρχές του 20ου αιώνα. Τα παλαιότερα αρχεία του χρονολογούνται από το 1908! Τότε το σχολείο στεγαζόταν σε κτήριο επί της οδού Φαλήρου, κοντά στη λεωφόρο Συγγρού. Μετά τη Μικρασιατική Κατα­στρο­φή δημιουργήθηκε από Έλληνες της προσφυγιάς η γειτονιά του Νέου Κόσμου, αυξήθηκε ο πληθυσμός της περιοχής και επομένως η ανάγκη για ένα νέο σχολείο. Στη μέχρι τότε πορεία του το ΣΤ ΄ Γυμνάσιο στεγαζόταν σε ακατάλληλα ιδιωτικά κτήρια με πολλές ελλείψεις (στις 22/01/1949 σε επιστολή προς το Υπουργείο Παιδείας γίνεται λόγος για 1000 (!!!) μαθητές  που έκαναν μάθημα σε δυο παλιά κτήρια, το ένα 55 ετών και το άλλο 35 ετών, τα αποία δεν πληρούσαν συνθήκες καταλληλότητας και δεν είχαν ούτε αυλή).

   Τελικά σε χώρο που είχε παραχωρηθεί από το Δήμο Αθηναίων, και συγκεκριμένα στην παλιά Πυριτιδαποθήκη (σημερινός λόφος Λαμπράκη), θεμελιώνεται τη Δευτέρα 28 Ιουνίου 1954, το νέο διδακτήριο. Όπως αναφέρεται στην εφημερίδα “ΕΘΝΟΣ” της επο­μένης ημέρας, ο θεμέλιος λίθος τέθηκε παρουσία του Υπουργού Παιδείας, του Δημάρχου Αθηναίων και του Μητροπολίτη Αργυρο­κάστρου. Σημαντική ήταν η συμβολή και του Συλλόγου Φίλων του ΣΤ΄ Γυμνασίου «δι΄ εράνων, εορτών, εκθέσεων, λαχειοφόρων αγορών, θεατρικών και κινηματογραφικών παραστάσεων, ομιλιών ως και δια παντός άλλου μέσου, όπερ ήθελε κριθεί πρόσφορον» στην όσο το δυνατόν ταχύτερη ανέγερση του διδακτηρίου.

   Το Σεπτέμβρη του 1962, ξεκινά η λειτουργία του νέου διδακτηρίου που στεγάζει το ΣΤ΄ Γυμνάσιο Αρρένων αλλά και το νεοϊδρυθέν ΙΒ΄ Γυμνάσιο Θηλέων. Τα δυο σχολεία λειτουργούν παράλληλα σε δυο βάρδιες, πρωί και απόγευμα.

   Το 1976 δημοσιεύεται ο Νόμος 309, σύμφωνα με τον οποίο δημιουργούνται τα Γυμνάσια και τα Λύκεια, τα οποία διακρίνονται σε ημερήσια και νυχτερινά. Τον Αύγουστο του 1979 δημοσιεύεται στην Εφημερίδα της Κυβέρνησης η μετατροπή σε μικτά των σχολείων πρώην “Αρρένων” και “Θηλέων”. Το ΣΤ΄ Γυμνάσιο Αρρένων μετονομάζεται σε 6ο Γυμνάσιο Αθηνών, ενώ το ΙΒ΄ Γυμνάσιο Θηλέων σε 36ο Γυμνάσιο Αθηνών. Το ίδιο συμβαίνει και με τα αντίστοιχα Λύκεια. Την ίδια εποχή οι εγκαταστάσεις του διδακτηρίου επεκτείνονται με την κατασκευή νέου κτηρίου στο μέρος του προαυλίου παράλληλα της οδού Πυθέου.  

   Τα σχολεία λειτουργούν συνεχώς σε τρεις βάρδιες (μαζί με το 4ο Νυκτερινό Γυμνάσιο και  Λύκειο) μέχρι τις αρχές του 2003, οπότε στα υπάρχοντα διδακτήρια προστίθεται ένα ακόμη διώροφο κτήριο που χρησιμοποιείται από το 36ο Γυμνάσιο.

   Τελικά στο πλαίσιο των συγχωνεύσεων Σχολικών Μονάδων και σύμφωνα με την απόφαση 71336/Δ4/27-6-2011 (ΦΕΚ 1575) το 36ο Γυμνάσιο ενσωματώθηκε στο 6ο Γυμνάσιο Αθηνών. Το ίδιο έγινε και με τα αντίστοιχα Λύκεια.

   Σήμερα το 6ο Γυμνάσιο Αθηνών συναυλίζεται με το 6ο Γενικό Λύκειο Αθηνών το οποίο συστεγάζεται με το 4o Eσπερινό Λύκειο Αθηνών.