Папа римский передал вакантный трон герцогства маркграфу Герману Баденскому (правил в 1247–1250). Однако австрийские епископы и феодальная знать избрали герцогом чешского короля Пржемысла II (Отакара) (1230–1278), который подкрепил свои права на австрийский трон женитьбой на сестре последнего Бабенберга. Пржемысл захватил Штирию и получил по брачному контракту Каринтию и часть Крайны. Пржемысл добивался короны Священной Римской империи, но 29 сентября 1273 королем был избран граф Рудольф Габсбургский (1218–1291), уважаемый как за свое политическое благоразумие, так и за способность избегать споров с папством. Пржемысл отказался признать его избрание, поэтому Рудольф прибег к силе и разгромил соперника. В 1282 – одна из ключевых дат в австрийской истории – Рудольф объявил принадлежавшие ему земли Австрии наследственным владением дома Габсбургов.
С самого начала Габсбурги считали свои земли частным владением. Несмотря на борьбу за корону Священной Римской империи и семейные раздоры, герцоги из дома Габсбургов продолжали расширять границы своих владений. Уже ранее была предпринята попытка присоединить к нему землю Форарльберг на юго-западе, но это удалось завершить только к 1523. Тироль был присоединен к владениям Габсбургов в 1363, в результате чего Австрийское герцогство вплотную придвинулось к Апеннинскому полуострову. В 1374 была присоединена часть Истрии, выходящая к северной оконечности Адриатического моря, а через 8 лет порт Триест добровольно присоединился к Австрии, чтобы освободиться от господства венецианцев. Были созданы представительные (сословные) ассамблеи, состоявшие из дворян, духовенства и горожан.
Герцог Рудольф IV (правил в 1358–1365) строил планы присоединения к своим владениям королевства Чехии и Венгрии и мечтал добиться полной независимости от Священной Римской империи. Рудольф основал Венский университет (1365), финансировал расширение собора св. Стефана и поддерживал торговлю и ремесла. Он скончался скоропостижно, так и не реализовав своих честолюбивых планов. При Рудольфе IV Габсбурги стали носить титул эрцгерцогов (1359).