Het is voorjaar 1947. De privé-speurder Bernie Gunther, nu oostfront-veteraan, heeft in het door corruptie, zwarte handel en verkrachtende Russen vergeven Berlijn zijn oude professie weer opgevat. Als hij voor een opdracht wordt benaderd door Porosjin, een kolonel van de Russische geheime dienst MVD, voelt hij zich echter weinig op zijn gemak.
Pas als hij onder druk wordt gezet, stemt hij toe en neemt zodoende de taak op zich te proberen de onschuld te bewijzen van de zwarthandelaar Emil Becker, die in Wenen is gearresteerd voor de moord op een Amerikaanse legerkapitein.
In het Wenen van de vier bezettingsmachten, waar sir Carol Reed op dat moment begint met de opnamen van The Third Man, stuit de privé-speurder al gauw op een muur van raadsels, wantrouwen en intriges. Geen van de betrokkenen - noch Becker zelf, noch de Amerikaanse kapitein Belinsky, die Gunther zijn hulp aanbiedt bij het onderzoek - is bereid het achterste van zijn tong te laten zien.
Welke rol spelen zij? En, zeker niet in de laatste plaats, welke rol speelt Porosjin? Geobsedeerd door deze en andere vragen, zet Gunther door en nadert langzaam maar onstuitbaar het ogenblik van de waarheid, waarbij de vraag is wie in feite de grootste misdadigers zijn, de vertegnwoordigers van de bezettende machten of...