Η αρχαία παράδοση έλεγε ότι πριν από τη Μάχη του Μαραθώνα οι Πέρσες έφεραν ένα μεγάλο κομμάτι μαρμάρου για να φτιάξουν το τρόπαιο της νίκης τους που τη θεωρούσαν βέβαιη. Η θεία Δίκη όμως, η Νέμεση το θέλησε διαφορετικά. Στην περίφημη μάχη του 490 π.Χ. νίκησαν οι Έλληνες και από το μάρμαρο αυτό ο Αγοράκριτος, μαθητής του Φειδία, λάξευσε το άγαλμα της ίδιας τις Νέμεσης, που στήθηκε στο Ραμνούντα.
Ο δήμος του Ραμνούντα πήρε το όνομά ίου από τους ράμνους, ένα είδος θάμνου που υπήρχε άφθονο στην περιοχή. Ο οικισμός περιλάμβανε το φρούριο, τα δημόσια κτίρια, τα ιερά, τα σπίτια και τους περιβόλους. Στο Ραμνούντα έμενε μόνιμα αθηναϊκή φρουρά στις εγκαταστάσεις του μικρού περιβόλου της κορυφής και έλεγχε τη δίοδο ίων πλοίων. Η επέκταση της οχύρωσης χαμηλότερα περιέλαβε μέσα το μικρό θέατρο, το γυμνάσιο, ένα μικρό ιερό του Διονύσου, κάποια άλλα δημόσια κτίρια και οικίες. Ο αρχαίος δρόμος περνούσε ανάμεσα από μνημειώδη ταφικά μνημεία και κατέληγε στην πύλη του οχυρού. Στα νότια ιδρύθηκε στις αρχές του 5ου αιώνα π.Χ. το ιερό της Νέμεσης. Ο μεγάλος ναός του 5ου αιώνα π.Χ. ήταν δωρικός εξάστυλος. Στο εσωτερικό του υπήρχε στημένο σε βάση με ανάγλυφες παραστάσεις το άγαλμά της Νέμεσης και μπροστά του η ιερή τράπεζα.
Δίπλα λαξεύτηκε σε ένα μικρό ναό και η Θέμιδα, η προσωποποίηση του Δικαίου. Το άγαλμά της έργο του Ραμνουσίου γλύπτη Χαιρέστρατου σώθηκε ακέραιο. Ένα ακόμη μικρότερο ιερό ήταν αφιερωμένο αρχικά στον τοπικό ήρωα γιατρό Αριστόμαχο που βαθμιαία υποσκελίστηκε στον 4ο αιώνα π.Χ. από το διασημότερο ήρωα Αμφιάραο που λατρευόταν στον Ωρωπό και είχε τις ίδιες ιδιότητες.
Με την επικράτηση του χριστιανισμού διατάχθηκε το 399 μ. Χ. η κατεδάφιση του ναού. Τα λείψανα όμως τόσο του ιερού όσο και του φρουρίου δεν σκεπάστηκαν ποτέ εντελώς από χώμα και ήταν ανέκαθεν ορατά στους περιηγητές και στους περίοικους.
