Το 1929, ξεκίνησαν τα έργα και τελειώσαν το 1932.
Από την ιδέα μέχρι την υλοποίηση, διαμεσολάβησαν έξι χρόνια συζητήσεων και διαφωνιών μεταξύ των πολιτικών, καλλιτεχνών, επιστημόνων και ολόκληρης της αθηναϊκής κοινωνίας.
Αρχικά, διαφωνούσαν για την τοποθεσία του μνημείου.
Τελικά επιλέχτηκε ο χώρος ανάμεσα στη Βουλή και την Πλατεία Συντάγματος και η απόφαση επικυρώθηκε απ” τον Ελευθέριο Βενιζέλου.
Την ίδια περίοδο πραγματοποιούταν η μετατροπή των Παλαιών Ανακτόρων στη Βουλή και η τοποθέτηση του μνημείου δεν είναι καθόλου τυχαία: η σύγχρονη δημοκρατία έχει ως βάση της τις θυσίες των Ελλήνων στρατιωτών.
Η επόμενη διαφωνία ήταν μεταξύ του αρχιτέκτονα Εμμανουήλ Λαζαρίδη και του γλύπτη Θωμόπουλου, για τη μορφή του γλυπτού.
Τα αρχικά σχέδια προέβλεπαν αναπαράσταση της γιγαντομαχίας και ένα γλυπτό Αγγέλου, που συμβολικά φροντίζει τον πεσμένο έλληνα στρατιώτη.
Ο Θωμόπουλος αντικαταστάθηκε από τον Φωκίωνα Ροκ, ο οποίος ακολούθησε απλή, λιτή, καθαρή γραμμή. Το έργο του απεικονίζει έναν νεκρό οπλίτη που φορά κράνος και στα χέρια του κρατά ασπίδα.
Οι πρώτες αντιδράσεις του κόσμου δεν ήταν οι καλύτερες.
Το Σωματείο Ελλήνων Γλυπτών αποκάλεσε το έργο “ανοσιούργημα εις βάρος της ελληνικής τέχνης” και η εφημερίδα τα “Αθηναϊκά Νέα”, έγραφε στο πρωτοσέλιδο: “Ο Άγνωστος Στρατιώτης. Πώς εγεννήθη το τέρας”.
Ορισμένοι αναγνώστες της εφημερίδες πρότειναν την ανατίναξη του μνημείου.
Οι προτάσεις τους δεν εισακούστηκαν.
Τα αποκαλυπτήρια έγιναν την 25η Μαρτίου του 1932. Διοργανώθηκε μεγαλοπρεπής παρέλαση, κατάθεση στεφάνων και ακούστηκαν 21ας κανονιοβολισμοί απ” τον Λυκαβηττό.
Οι εκδηλώσεις συνεχίστηκαν μέχρι το βράδυ με λαμπαδηφορία χιλιάδων οπλιτών και τη φωταγώγηση των σημαντικότερων αρχαίων μνημείων της πόλης.
Την παραμονή των αποκαλυπτηρίων, ο Ριζοσπάστης έγραφε ότι η “κεφαλαικρατία” τιμά τη μνήμη των αδικοσκοτωμένων παιδιών του λαού”, για τους θανάτους των οποίων ήταν υπεύθυνη.
Την ίδια μέρα, το ΚΚΕ επιχείρησε να οργανώσει αντι-πολεμική διαμαρτυρία, αλλά οι προσπάθειες ανεκόπηκαν απότομα και συνελήφθησαν “προληπτικά” 75 άτομα.