Seeing Is No Longer Believing. Now What?
The 2056 and 2076 scenes are imagined futures. Official and research source links appear below.
Imagine opening your phone on the evening before an election.
A candidate appears on screen, accepting a bribe. The voice sounds familiar. The face looks convincing. Someone you trust has already shared it.
By breakfast, the recording has travelled further than any correction is likely to reach.
This is an imagined example, not a report of a particular incident. But it captures a problem that belongs to every democracy, including those in Europe: what happens when a persuasive recording is no longer persuasive evidence?
We will need better technology. We will also need something less fashionable: the patience to ask where a story came from.
The fake that helps the real liar
A deepfake uses AI to generate or manipulate someone’s apparent appearance or voice. It can make a person seem to say or do something they never said or did.
The first danger is obvious: we believe a fabrication.
The second is more disturbing: we stop believing genuine evidence.
A politician confronted with an authentic recording can say, “That is AI.” The existence of convincing fakes supplies an excuse. Scholars Bobby Chesney and Danielle Citron described this problem as the “liar’s dividend”. 1
Democracy suffers both when invented wrongdoing is believed and when real wrongdoing becomes impossible to establish in public.
Not every misleading clip even needs AI. An old recording with a false date, a dishonest translation or a sentence cut in half can do considerable damage.
We need to investigate the claim, not merely the pixels.
Your eyes are useful. They are not a laboratory.
Strange shadows, mismatched speech and an unnatural face may raise questions. Their absence does not establish authenticity.
Automated detectors can help specialists, but their performance varies across generators and conditions. Compression and unfamiliar manipulation can make the job harder. NIST describes detection as an evolving contest rather than a settled solution. A detector’s score is evidence to assess, not a verdict to obey. 2
A convincing face can tell a lie. A poorly recorded video can show the truth.
So what would a sensible defence look like?
The accompanying documentary proposes five layers. They deserve attention, provided we also examine who controls them.
One: verify official speakers without identifying every citizen
An official election announcement should be easy to trace to the electoral authority. A party’s authorised statement should be distinguishable from an impersonation.
Digital signatures and independently checkable official channels can help establish who authorised a message. That is a different question from whether its political claims are correct.
The practical design matters. Who issues credentials? What happens if an account or signing key is stolen? How quickly can a compromised credential be withdrawn?
This should not become a requirement to show a passport before expressing an opinion.
Citizens, whistleblowers and people living under repression may have good reasons to remain anonymous. A system that authenticates an official role while minimising personal disclosure is a useful goal. A universal register of everyone who speaks is not.
Two: give recordings a checkable history
Content Credentials, based on the C2PA standard, can attach a digitally signed record of a file’s origin and editing history. Compatible tools can check the connection between that record and the media, and whether it has been tampered with. 3
Think of a history label, rather than a certificate of truth.
It may help answer how a recording was made. It cannot prove that a filmed scene was not staged, that a speaker was honest or that the caption supplies the right context.
Credentials can be absent or removed. Missing credentials do not automatically mean a video is fake. 3
There is also a useful caution from the Content Authenticity Initiative: a compatible camera photographing an AI image can certify that a photograph was taken, without recognising that the subject was synthetic. 4
A signed photograph of a lie remains a photograph of a lie.
Three: make platforms answer for amplification
A suspicious clip can reach people through recommendations, paid promotion and coordinated accounts, not just a friend pressing Share.
Platforms should explain how political content gains reach and how urgent authenticity concerns are handled. That is a proposal for accountability, not a claim that every unverified recording should be removed.
Possible measures include prompts before forwarding, visible source information and temporary limits on paid promotion or algorithmic amplification while a serious impersonation allegation is checked.
But slowing a genuine last-minute investigation could itself affect an election.
Any intervention needs clear criteria, a short review period, recorded reasons and a rapid appeal. Political disagreement must not become grounds for a “fake” label.
“Origin not verified” and “proven fabrication” are very different statements.
Four: teach a habit that survives the next software update
Media education should include grandparents, journalists, politicians and the rest of us—not only schoolchildren.
A practical routine is more durable than a list of today’s visual glitches:
Pause before sharing a recording designed to make you furious or frightened.
Find the original publication and, when possible, the complete recording. Check its date, location and translation.
Look for independent reporting. Ten accounts repeating one anonymous upload are not ten independent sources.
Check election procedures directly with the relevant electoral authority. A viral voice message should not decide where or when you vote.
Treat detector results and Content Credentials as supporting information. If the origin remains unclear, say so. Avoid uploading private recordings to unfamiliar checking services.
You do not need to solve a forensic puzzle before breakfast.
You can simply decide not to distribute evidence you have not checked.
Five: build oversight that can itself be challenged
Someone will make mistakes: platforms, governments, fact-checkers and AI systems included.
We need independent scrutiny, accessible appeals and public explanations. Researchers should be able to examine how systems perform, including across languages and political viewpoints.
Satire, fiction, political criticism and misleading impersonation are not interchangeable. A clearly labelled parody is different from secretly fabricating evidence against a candidate.
No government should be able to settle a dispute by declaring its critics technologically invalid.
Europe’s contribution should be to combine verification with rights: open standards, plural sources of scrutiny, protection for confidential sources and a meaningful route to challenge restrictions.
A Ministry of Truth would be a remarkably poor way to protect democracy from deception.
2056: the video that came with questions
The following is an imagined future, not a forecast of technology that will definitely exist.
It is 2056. A woman in Belgium receives a clip apparently showing her mayor promising a public contract to a friend.
Her personal assistant does not announce “TRUE” in enormous green letters.
Instead, it displays three separate findings: the original recording’s signature checks out; the circulating clip has been shortened; the full recording contains a condition omitted from the viral caption.
She can inspect the source, the edits and independent reports herself. The assistant explains which checks were possible and which were not.
A different clip has no surviving credentials. Its status remains “origin unknown”. Journalists investigate witnesses and compare other recordings rather than dismissing it.
In this hopeful 2056, recognising deepfakes means combining several kinds of evidence: capture history where available, editing records, forensic analysis and corroboration.
Privacy-preserving systems might allow a witness to establish a relevant role without publishing their identity to everyone. Such designs would need strong safeguards against misuse.
The mayor remains free to argue about policy.
He is less free to pretend that an authenticated recording never existed. Even then, authentication does not settle what his words meant or whether the alleged favour actually happened.
2076: excellent fakes, better evidence
Now imagine 2076.
Perhaps a fabricated face and voice are indistinguishable from a real recording by sight and hearing alone. We should not promise that a future detector will always win.
The stronger defence may be a widely available evidence system, rather than sharper eyes.
Official communications could have verifiable authorisation. Recording devices could preserve checkable capture records. Independent archives could help establish when a clip appeared and how versions differ. Security methods would need renewal as attacks and computing capabilities change.
But even this system could have stolen keys, dishonest participants and missing records. Refilming a fake screen, staging a real event or quoting a genuine statement misleadingly would still require investigation.
For recordings without a reliable history, specialists might reach only a qualified judgment. Sometimes “we cannot establish this” would remain the honest answer.
In the hopeful version, readers can choose different verification services and see why they disagree. A dissident does not have to enrol with an authoritarian government to be heard. Courts and independent journalists can examine evidence rather than treating a platform badge as final authority.
In the darker version, one gatekeeper controls the credentials, the verification tools and the audience. Unapproved evidence disappears, even when it is genuine.
Both are imaginable. Neither is inevitable.
Democracy needs more than a detection button
Deepfakes may become easier to create. Defences can improve too. How much protection they provide will depend on adoption, independence, security and public habits.
The aim is not to make everybody suspicious of everything. That would hand the liar another victory.
The aim is to make important claims easier to check, mistakes easier to correct and decisions easier to challenge.
We can demand stronger evidence without demanding permission to have an opinion.
Check the source.
Keep your voice.
Lees deze column in het Nederlands +
Zien is niet langer geloven. Wat nu?
Stel je voor dat je op de avond voor de verkiezingen je telefoon opent.
Een kandidaat verschijnt in beeld en neemt smeergeld aan. De stem klinkt bekend. Het gezicht ziet er overtuigend uit. Iemand die je vertrouwt heeft het filmpje al gedeeld.
Bij het ontbijt heeft de opname zich verder verspreid dan een correctie waarschijnlijk ooit zal komen.
Dit is een verzonnen voorbeeld, geen beschrijving van een bepaald incident. Maar het laat een probleem zien dat iedere democratie raakt, ook in Europa: wat gebeurt er als een overtuigende opname geen overtuigend bewijs meer is?
We hebben betere technologie nodig. En ook iets minder modieus: het geduld om te vragen waar een verhaal vandaan komt.
De vervalsing die de echte leugenaar helpt
Een deepfake gebruikt AI om iemands schijnbare uiterlijk of stem te maken of te veranderen. Daardoor lijkt iemand iets te zeggen of te doen wat die persoon nooit heeft gezegd of gedaan.
Het eerste gevaar is duidelijk: we geloven een verzinsel.
Het tweede is verontrustender: we geloven echt bewijs niet meer.
Een politicus die wordt geconfronteerd met een authentieke opname kan zeggen: ‘Dat is AI.’ Het bestaan van overtuigende vervalsingen levert een excuus. Wetenschappers Bobby Chesney en Danielle Citron beschreven dit als het ‘liar’s dividend’: het voordeel voor de leugenaar. 1
De democratie lijdt wanneer verzonnen misstanden worden geloofd, maar ook wanneer echte misstanden in het publieke debat niet meer aantoonbaar lijken.
Niet ieder misleidend filmpje heeft trouwens AI nodig. Een oude opname met een verkeerde datum, een oneerlijke vertaling of een doormidden geknipte zin kan veel schade aanrichten.
We moeten de bewering onderzoeken, niet alleen de pixels.
Je ogen zijn nuttig. Ze zijn geen laboratorium.
Vreemde schaduwen, slecht aansluitende spraak en een onnatuurlijk gezicht kunnen vragen oproepen. Dat ze ontbreken, bewijst geen authenticiteit.
Automatische detectoren kunnen specialisten helpen, maar hun prestaties verschillen per generator en omstandigheid. Compressie en onbekende manipulatie kunnen onderzoek moeilijker maken. NIST beschrijft detectie als een voortdurende wedloop, niet als een opgelost probleem. Een detectorscore is te beoordelen informatie, geen vonnis. 2
Een overtuigend gezicht kan liegen. Een slecht opgenomen filmpje kan de waarheid tonen.
Hoe ziet een verstandige verdediging er dan uit?
De bijgevoegde documentaire stelt vijf verdedigingslagen voor. Die verdienen aandacht, mits we ook onderzoeken wie erover beslist.
Eén: controleer officiële sprekers zonder iedere burger te identificeren
Een officiële verkiezingsmededeling moet gemakkelijk naar de kiesautoriteit te herleiden zijn. Een bevoegde partijverklaring moet van een imitatie te onderscheiden zijn.
Digitale handtekeningen en onafhankelijk controleerbare officiële kanalen kunnen helpen vaststellen wie een bericht heeft goedgekeurd. Dat is een andere vraag dan of de politieke beweringen kloppen.
Het praktische ontwerp is belangrijk. Wie verstrekt de bewijzen? Wat gebeurt er als een account of ondertekeningssleutel wordt gestolen? Hoe snel kan een aangetast bewijs worden ingetrokken?
Dit mag geen verplichting worden om een paspoort te tonen voordat je een mening uit.
Burgers, klokkenluiders en mensen onder onderdrukking kunnen goede redenen hebben om anoniem te blijven. Een systeem dat een officiële rol bevestigt met zo min mogelijk persoonlijke gegevens is een nuttig doel. Een algemeen register van iedereen die spreekt is dat niet.
Twee: geef opnamen een controleerbare geschiedenis
Content Credentials kunnen volgens de C2PA-standaard een digitaal ondertekend overzicht van de oorsprong en bewerkingen aan een bestand koppelen. Geschikte hulpmiddelen controleren de verbinding tussen dat overzicht en de media, en of ermee is geknoeid. 3
Denk aan een herkomstetiket, niet aan een waarheidsbewijs.
Het kan helpen verklaren hoe een opname tot stand kwam. Het bewijst niet dat de scène niet geënsceneerd was, dat de spreker eerlijk was of dat het onderschrift de juiste context geeft.
Herkomstgegevens kunnen ontbreken of worden verwijderd. Ontbrekende gegevens betekenen niet automatisch dat een video vals is. 3
De Content Authenticity Initiative geeft nog een nuttige waarschuwing: een geschikte camera die een AI-afbeelding fotografeert kan bevestigen dat een foto is gemaakt, zonder te herkennen dat het onderwerp kunstmatig was. 4
Een ondertekende foto van een leugen blijft een foto van een leugen.
Drie: laat platforms verantwoording afleggen over verspreiding
Een verdacht filmpje kan mensen bereiken via aanbevelingen, betaalde promotie en gecoördineerde accounts, niet alleen doordat een vriend op Delen drukt.
Platforms moeten uitleggen hoe politieke inhoud bereik krijgt en hoe dringende twijfels over authenticiteit worden behandeld. Dat is een voorstel voor verantwoording, geen pleidooi om elke ongecontroleerde opname te verwijderen.
Mogelijke maatregelen zijn een vraag vóór het doorsturen, zichtbare broninformatie en tijdelijke beperkingen op betaalde promotie of algoritmische versterking terwijl een ernstige beschuldiging van persoonsimitatie wordt onderzocht.
Maar een echt journalistiek onderzoek vlak voor verkiezingen afremmen kan de verkiezingen ook beïnvloeden.
Elke ingreep vereist duidelijke criteria, een korte beoordelingstermijn, vastgelegde redenen en een snelle beroepsmogelijkheid. Politiek meningsverschil mag geen reden worden voor het etiket ‘vals’.
‘Herkomst niet gecontroleerd’ en ‘bewezen vervalsing’ zijn heel verschillende uitspraken.
Vier: leer een gewoonte die de volgende softwareversie overleeft
Mediaonderwijs is ook bedoeld voor grootouders, journalisten, politici en de rest van ons, niet alleen voor schoolkinderen.
Een praktische routine gaat langer mee dan een lijst met de huidige beeldfoutjes:
Wacht voordat je een opname deelt die bedoeld lijkt om je woedend of bang te maken.
Zoek de oorspronkelijke publicatie en zo mogelijk de volledige opname. Controleer datum, plaats en vertaling.
Zoek onafhankelijke berichtgeving. Tien accounts die dezelfde anonieme upload herhalen zijn geen tien onafhankelijke bronnen.
Controleer verkiezingsprocedures rechtstreeks bij de bevoegde kiesautoriteit. Een viraal gesproken bericht mag niet bepalen waar of wanneer je stemt.
Behandel detectorscores en Content Credentials als aanvullende informatie. Blijft de herkomst onduidelijk, zeg dat dan. Upload geen privéopnamen naar onbekende controlediensten.
Je hoeft voor het ontbijt geen forensische puzzel op te lossen.
Je kunt gewoon besluiten geen ongecontroleerd bewijs te verspreiden.
Vijf: zorg voor toezicht dat zelf kan worden aangevochten
Iedereen zal fouten maken: platforms, overheden, feitencontroleurs en AI-systemen inbegrepen.
We hebben onafhankelijk toezicht, toegankelijk beroep en openbare uitleg nodig. Onderzoekers moeten kunnen nagaan hoe systemen presteren, ook tussen verschillende talen en politieke standpunten.
Satire, fictie, politieke kritiek en misleidende persoonsimitatie zijn niet hetzelfde. Een duidelijk gemarkeerde parodie verschilt van heimelijk verzonnen bewijs tegen een kandidaat.
Geen overheid mag een geschil kunnen beëindigen door haar critici technologisch ongeldig te verklaren.
Europa moet controle combineren met rechten: open standaarden, meerdere onafhankelijke controleurs, bescherming van vertrouwelijke bronnen en een echte mogelijkheid om beperkingen aan te vechten.
Een ministerie van Waarheid zou een bijzonder slechte manier zijn om de democratie tegen misleiding te beschermen.
2056: het filmpje dat vragen meebracht
Wat volgt is een verzonnen toekomstbeeld, geen voorspelling van technologie die beslist zal bestaan.
Het is 2056. Een vrouw in België ontvangt een filmpje waarop haar burgemeester een overheidsopdracht aan een vriend lijkt te beloven.
Haar persoonlijke assistent roept niet in enorme groene letters: ‘WAAR’.
Hij toont drie afzonderlijke bevindingen: de handtekening van de oorspronkelijke opname klopt; het rondgaande filmpje is ingekort; de volledige opname bevat een voorwaarde die in het virale onderschrift ontbreekt.
Ze kan zelf de bron, de bewerkingen en onafhankelijke berichtgeving bekijken. De assistent legt uit welke controles mogelijk waren en welke niet.
Een ander filmpje heeft geen bewaarde herkomstgegevens. De status blijft ‘herkomst onbekend’. Journalisten onderzoeken getuigen en vergelijken andere opnamen in plaats van het meteen af te wijzen.
In dit hoopvolle 2056 betekent deepfakes herkennen dat je soorten bewijs combineert: waar mogelijk opnamegeschiedenis, bewerkingsgegevens, forensisch onderzoek en onafhankelijke bevestiging.
Privacybeschermende systemen kunnen een getuige misschien een relevante rol laten aantonen zonder de identiteit aan iedereen bekend te maken. Zulke ontwerpen vereisen sterke bescherming tegen misbruik.
De burgemeester blijft vrij om over beleid te discussiëren.
Hij kan minder gemakkelijk doen alsof een authentiek bevonden opname nooit heeft bestaan. Maar ook dan staat nog niet vast wat zijn woorden betekenden of dat de vermeende bevoordeling werkelijk plaatsvond.
2076: uitstekende vervalsingen, beter bewijs
Stel je nu 2076 voor.
Misschien zijn een kunstmatig gezicht en een nagemaakte stem met ogen en oren alleen niet van een echte opname te onderscheiden. We moeten niet beloven dat een toekomstige detector altijd wint.
Een breed beschikbaar bewijssysteem kan een sterkere verdediging zijn dan scherpere ogen.
Officiële mededelingen kunnen een controleerbare goedkeuring hebben. Opnameapparaten kunnen controleerbare opnamegegevens bewaren. Onafhankelijke archieven kunnen helpen vaststellen wanneer een filmpje verscheen en hoe versies verschillen. Beveiligingsmethoden moeten worden vernieuwd wanneer aanvallen en rekenkracht veranderen.
Maar ook zo’n systeem kan gestolen sleutels, oneerlijke deelnemers en ontbrekende gegevens hebben. Een vals scherm opnieuw filmen, een echte gebeurtenis ensceneren of een authentieke uitspraak misleidend citeren blijft onderzoek vergen.
Voor opnamen zonder betrouwbare geschiedenis komen specialisten misschien slechts tot een voorzichtige beoordeling. Soms blijft ‘we kunnen dit niet vaststellen’ het eerlijke antwoord.
In de hoopvolle versie kunnen lezers verschillende controlediensten kiezen en zien waarom die van mening verschillen. Een dissident hoeft zich niet bij een autoritaire overheid te registreren om gehoord te worden. Rechters en onafhankelijke journalisten kunnen bewijs onderzoeken in plaats van een platformicoontje als hoogste gezag te behandelen.
In de donkere versie beheerst één poortwachter de bewijzen, de controlehulpmiddelen en het publiek. Niet-goedgekeurd bewijs verdwijnt, zelfs als het echt is.
Beide zijn denkbaar. Geen van beide is onvermijdelijk.
Democratie heeft meer nodig dan een detectieknop
Deepfakes maken kan gemakkelijker worden. Verdedigingsmiddelen kunnen ook verbeteren. Hoeveel bescherming zij bieden, hangt af van gebruik, onafhankelijkheid, beveiliging en onze gewoonten.
Het doel is niet dat iedereen alles wantrouwt. Dat zou de leugenaar opnieuw laten winnen.
Het doel is dat belangrijke beweringen beter te controleren zijn, fouten gemakkelijker te herstellen en besluiten beter aan te vechten.
We kunnen sterker bewijs eisen zonder toestemming te eisen voor een mening.
Controleer de bron.
Behoud je stem.
Read It. Hear It. Wear It.
Check the source. Keep your voice.
Can Democracy Survive AI Deepfakes?
Watch the accompanying English-language documentary. Duration: approximately eight minutes. It explores emerging technology, democratic institutions and possible futures. Illustrative scenes should not be treated as recordings of actual events.