Dabartinė Austrijos teritorija civilizacijos prasme turi tūkstančius metų. Priešistoriniais laikais Austrija Juose gyveno įvairios keltų kilmės gentys, pirmiausia vadinamieji ilyrai, o paskui keltų gentys iš šiaurės. Ilyrai iš Epiro atkeliavo į Baltijos jūros krantą, nuo dabartinės Šveicarijos iki Lenkijos. Nors jie vaikščiojo daugelyje vietų, daugiausia jie išsivystė Aukštutinėje Austrijoje, tarp bronzos amžiaus pabaigos ir pirmosios geležies amžiaus pusės. Jie užsiėmė piratavimu, romėnai su jais kovojo ir juos nugalėjo.
Romėnai pretendavo į Keltų karalystę noricum paverčiant ją provincija nuo 15 m. pr. Kr. Yra teorija, kad romėnai lotyniškai vadino senovinį keltų vardą „Noricum“ - „Norig“ (ne kaip „rytietiškas“) ir kad būtent iš čia kilęs dabartinis pavadinimas „Austria / Osterreich“. Kai Romos imperija ėmė nykti, barbarų, gotų, hunų, vandalų ir lombardų gentys pradėjo kirsti sienas, o galutinai nukritus, vietovė buvo užpildyta avarais, slavais ir bavarais.
Amžiams bėgant bavarai pradėjo leistis žemyn Dunojumi ir Alpėmis, būtent šiame procese Austrija tapo vokiškai kalbančia žeme. Karolingai dominavo jose ir sudarė kunigaikštystę Šventoji Romos Vokietijos imperija ir viduramžiais regioną okupavo Karolingų imperija. Pirmiausia valdžią perėmė Babenbergai, o paskui - Habsburgasarba kad jie su juo išbuvo ilgus šimtmečius, iki Pirmojo pasaulinio karo pabaigos.