중세~19세기 초까지 두 나라는 신성로마제국의 연합체이며, 핵심 구성원입니다. 19세기 중반, 독일 통일을 둘러싸고 소독일주의의 프로이센과 대독일주의의 오스트리아의 경쟁이 심화되었습니다.
결국 1866년 프로이센-오스트리아 전쟁이 발발하였고, 이 전쟁 이후 오스트리아는 독일 통일에서 배제되어 별도의 국가로 분리되었습니다. 이후에도 두 국가는 독일어권이라는 정체성을 공유하며 동맹 등으로 정치, 군사적으로 긴밀히 협력하기도 했습니다.
두 나라는 독일어를 공용어로 사용하며, 문화적으로 다양한 분야에서 상호 영향을 주고받았습니다. 정치, 군사적으로도 19세기 동맹국으로 협력하였습니다. 20세기 초 오스트리아-헝가리 제국 해체 후 오스트리아는 독일과의 합병을 시도했으나, 국제사회(특히 프랑스·영국)의 반대로 무산되었습니다. 1938년 나치 독일에 강제 합병(안슐루스)되었다가 2차 세계대전 후 다시 독립국이 되었습니다.