La Acrópolis fue habitada desde el año 7.000 antes de Cristo. A lo largo de la civilización micénica se construyeron unos muros alrededor de la Acrópolis, y se ha demostrado que también hubo un palacio micénico allí. La tumba de Cécrope está en la Acrópolis, y los atenienses habrían mantenido una serpiente allí, simbolizando a su primer rey. Había también otras tumbas y templos, todos ellos relacionados con los reyes, héroes y dioses que tenían que ver con Atenas.
En el siglo sexto antes de Cristo, la Acrópolis cambió su función. Ya no era un lugar de palacios, sino un santuario. Cada año, una gran procesión se llevaba a cabo en la Acrópolis, y la estatua de madera de Atenea era vestida y se sacrificaba. Los juegos panatenienses también fueron muy importantes. Los juegos incluían actividades deportivas y musicales, y el ganador recibía un ánfora llena de aceite de oliva (del árbol sagrado de Atenea).
Durante las guerras persas del siglo quinto, los atenienses comenzaron a construir el Partenón, pero los persas quemaron la Acrópolis y toda la atención se centró en la lucha. Fue durante la época de Pericles, la llamada Edad de Oro, cuando la Acrópolis adquirió la estructura que hoy en día conocemos. A partir de mediados del siglo quinto, el Partenón, los Propileos y una enorme estatua de bronce de Atenea se construyeron.
Se dice que Pericles contrató a atenienses sin trabajo para su construcción, y que gracias a esta iniciativa, cada ateniense tenía comida en su mesa.