Trvalo 12 rokov, kým Viedeň vôbec uznala Izrael ako štát a v roku 1960 s ním nadviazala diplomatické vzťahy. V nasledujúcich dvoch desaťročiach sa cez Viedeň zo Sovietskeho zväzu vysťahovalo 270-tisíc židov.
Vzájomným vzťahom neprospela politika kancelára Bruna Kreiského na Blízkom východe. V roku 1980 uznalo Rakúsko ako prvý zo Západu Arafatovu Organizáciu pre oslobodenie Palestíny. Kreisky tiež označil metódy lovcu nacistov Simona Wiesenthala za "politický mafiánizmus".
Najhoršie obdobie však prišlo po zvolení Kurta Waldheima za rakúskeho prezidenta v roku 1986. Za jeho nacistickú minulosť ho ignoroval svet a Izrael zvlášť. Na protest obmedzil diplomatické vzťahy. Až po odchode Waldheima poslal Izrael do Viedne opäť veľvyslanca.
Zmenu priniesol prejav kancelára Franza Vranitzkého na pôde Hebrejskej univerzity v Jeruzaleme, ktorý ako prvý našiel v roku 1993 odvahu priznať spoluzodpovednosť jeho krajiny za zločiny nacizmu.
Novú éru narušil vstup krajne pravicových Slobodných do vlády v roku 2000. Doviedol ich tam Jörg Haider smutne známy svojimi výrokmi o "vzornej politike zamestnanosti v tretej ríši" či o "čestných mužoch" medzi rakúskymi príslušníkmi nacistických jednotiek SS. Jediné, čo Izrael v posledných rokoch nahlas ocenil, bolo úsilie kancelára Wolfganga Schüssela, ktoré v roku 2001 viedlo k dohode o odškodnení obetí nacizmu.
