Thomas Klestil sa narodil 4. novembra 1932 vo Viedni v rodine železničiara, vyštudoval viedenskú Hospodársku fakultu a v roku 1957 získal titul doktora. Potom pracoval dva roky v oddelení pre hospodársku spoluprácu v úrade spolkového kancelára. V rokoch 1959-1962 bol členom rakúskej delegácie v Organizácii pre hospodársku spoluprácu a rozvoj (OECD) v Paríži. Klestilova diplomatická kariéra sa začala v roku 1962. Najprv pracoval štyri roky na veľvyslanectve vo Washingtone, potom pôsobil do roku 1969 ako tajomník spolkového kancelára. V rokoch 1969-1974 bol generálnym konzulom v Los Angeles v Kalifornii. V roku 1978 sa stal stálym zástupcom Rakúska v OSN. Túto funkciu vykonával do roku 1982, keď bol vymenovaný za veľvyslanca v USA. Z postu veľvyslanca prešiel v roku 1987 do funkcie generálneho tajomníka ministerstva zahraničných vecí. V roku 1992 ako kandidát ľudovcov porazil sociálnodemokratického súpera Rudolfa Streichera a po prvý raz víťazne vstúpil do viedenského Hofburgu.
Klestilovi sa v prvom funkčnom období podarilo obnoviť reputáciu prezidentskej funkcie v zahraničí, ktorú pošramotil jeho predchodca a niekdajší generálny tajomník OSN Kurt Waldheim. Waldheima obvinil Svetový židovský kongres z aktívneho pôsobenia v nacistickom wehrmachte, aktívne sa mal podieľať aj na deportáciách a popravách na Balkáne. Aj keď rakúska vláda toto obvinenie nikdy oficiálne neuznala, väčšina amerických politikov a európskych štátnikov sa odmietala s Waldheimom stretávať.
