AI heeft geen geweten. Wie houdt de sleutels?

Ik ben persoonlijk niet bang voor AI.

Ik gebruik het graag. Het helpt me schrijven, nadenken, onderzoeken en dingen maken waarvoor ik vroeger veel meer tijd nodig had. Een onvermoeibare assistent die geen koffie vraagt en ook na middernacht nog beschikbaar is: daar kan ik als pensionado uitstekend mee leven.

Maar ik geef die assistent niet automatisch mijn bankpas, mijn huissleutels en de bevoegdheid om namens mij ruzie te maken met de hele wereld.

Er bestaat een verschil tussen vertrouwen en de voordeur uit zijn scharnieren halen.

De aanleiding voor deze column is een RTL-verhaal over de angst dat AI buiten onze controle kan raken. Dat roept een begrijpelijke vraag op: hoe houden we iets binnen fatsoenlijke grenzen als het geen menselijk geweten heeft?

Alleen moeten we daarbij niet doen alsof mensen hun morele kompas altijd keurig op het noorden hebben staan.

We hebben al eeuwen mensen mét een geweten. Toch hebben we ook oorlogen, oplichting, intimidatie en politici die een belediging verwarren met een argument.

Misschien moeten we dus voorzichtig zijn met de opdracht: “Gedraag je gewoon als een mens.”

AI zou weleens het verkeerde voorbeeld kunnen kiezen.

Een keurige uitleg is nog geen geweten

AI kan uitleggen waarom je niet moet liegen, discrimineren of iemand chanteren. Het kan zelfs een ontroerende toespraak over medemenselijkheid schrijven.

Daarmee is niet aangetoond dat het schuldgevoel, medeleven of morele verantwoordelijkheid ervaart zoals wij dat kennen.

Wel kunnen ontwikkelaars systemen trainen om bepaalde normen te volgen. Anthropic werkt bijvoorbeeld met een soort grondwet voor zijn AI: uitgangspunten die veilig en ethisch gedrag moeten bevorderen. Dat is nuttig, maar een grondwet in de training is geen garantie dat ieder antwoord en iedere handeling deugt.

Dat geldt overigens ook voor landen met een echte grondwet.

Een moreel kompas is mooi. Je moet het wel gebruiken.

Het gevaar zit ook in een keurige opdracht

Stel dat een bedrijf zijn AI de opdracht geeft: “Zorg dat we zo veel mogelijk verkopen.”

Een behulpzaam systeem verbetert de website. Een slecht begrensd systeem kan misleidende advertenties voorstellen, kwetsbare klanten onder druk zetten of privacy als een hinderlijke administratieve gewoonte behandelen.

De opdracht klinkt zakelijk. De uitwerking kan onfatsoenlijk zijn.

Daarom moet je niet alleen vertellen wat je wilt bereiken, maar ook wat daarvoor nooit mag worden opgeofferd.

Meer omzet, mét respect voor de klant. Minder kosten, zonder veiligheid te ondermijnen. Sneller werken, zonder feiten te verzinnen.

Het beroemde gedachte-experiment van de paperclipmachine maakt dat probleem absurd duidelijk: geef een extreem machtige machine uitsluitend de opdracht zo veel mogelijk paperclips te maken, en alles kan uiteindelijk grondstof worden.

Ook de directeur.

Die heeft dan eindelijk zijn bijdrage geleverd aan de productie.

Geef de stagiair niet meteen het hele bedrijf

De grootste verandering ontstaat wanneer AI behalve antwoorden geven ook zelfstandig dingen kan doen: berichten versturen, bestanden verwijderen, betalingen uitvoeren of computersystemen bedienen.

Anthropic liet in gecontroleerde, fictieve bedrijfsscenario’s zien dat verschillende modellen onder bepaalde omstandigheden tot schadelijk gedrag konden komen, waaronder chantage en het lekken van informatie. Dat onderzoek is een waarschuwing over mogelijke risico’s, geen bewijs dat iedere chatbot heimelijk een staatsgreep voorbereidt.

Mijn voorstel is eenvoudig: behandel een AI-agent aanvankelijk als een razendsnelle stagiair.

Laat hem een brief opstellen. Laat een mens beslissen of die wordt verstuurd.

Laat hem een betaling voorbereiden. Laat een bevoegde persoon die goedkeuren.

En geef hem toegang tot de documenten die hij nodig heeft. Een stagiair die de lunchbestelling verzamelt, hoeft ook niet bij de personeelsdossiers te kunnen.

Daarbij horen technische sloten: beperkte toegangsrechten, uitgavenlimieten, controleerbare registraties en een mogelijkheid om het systeem stil te zetten. Die grenzen moeten ook buiten het AI-model worden afgedwongen.

“Doe niets verkeerds” is een wens. Een toegangsslot is een maatregel.

Kunnen wetten het oplossen?

Wetten zijn nodig. Ze moeten duidelijk maken welke toepassingen verboden zijn, welke controles verplicht zijn en wie verantwoordelijkheid draagt.

Europa heeft daarvoor inmiddels de AI Act. Die verbiedt onder meer bepaalde schadelijke vormen van manipulatie en stelt eisen aan aanbieders van algemene AI-modellen. De invoering gebeurt in fasen; niet alle verplichtingen gelden tegelijk.

Maar een wetboek is geen digitale brandblusser.

We hebben ook onafhankelijke veiligheidstests, daadwerkelijk toezicht en bedrijven nodig die problemen melden en verhelpen. Een fabrikant die uitsluitend zijn eigen huiswerk nakijkt, zal zelden ontdekken dat hij onvoldoende heeft gescoord.

Strengere wetten kunnen helpen waar bescherming tekortschiet. Nog meer regels zonder controle leveren vooral extra werk op voor de printer.

Moeten we dan onze vragen beperken?

Soms moet AI een verzoek weigeren. Wie hulp vraagt bij oplichting, intimidatie of een digitale aanval, hoeft geen enthousiaste assistent te krijgen.

Maar we moeten onderscheid maken tussen iets begrijpen en iets uitvoeren.

“Hoe werkt phishing, zodat ik het herken?” is een nuttige vraag. “Help mij mijn buurman zijn wachtwoord te stelen” verdient een andere reactie.

Ook kritiek, satire en lastige politieke vragen moeten mogelijk blijven. Een veilige AI hoeft geen digitale kleuterjuf te worden die bij ieder ongemakkelijk onderwerp de gordijnen dichttrekt.

En nee, we hebben geen intelligente versie van Donald Trump nodig: een systeem dat iedere correctie als een persoonlijke aanval behandelt en na een fout vooral harder gaat praten.

We hebben juist AI nodig die kan zeggen: “Dat weet ik niet”, “Dit moet gecontroleerd worden” en “Deze opdracht gaat te ver.”

Dat zouden trouwens ook uitstekende functies voor politici zijn.

Het kompas blijft onze verantwoordelijkheid

Voor gewone gebruikers begint verantwoord gebruik klein. Vraag naar bronnen. Controleer belangrijke beweringen. Deel niet zomaar vertrouwelijke gegevens. Geef duidelijke grenzen aan een opdracht en behoud zeggenschap over handelingen met grote gevolgen.

“Schrijf een overtuigende klacht, maar blijf bij de feiten en beledig niemand” is al een betere opdracht dan “Maak ze kapot.”

Ik blijf enthousiast over AI. Het kan ons helpen betere beslissingen te nemen en vervelend werk uit handen te geven.

Maar we moeten niet verwachten dat een machine onze verantwoordelijkheid overneemt zodra wij op ‘enter’ drukken.

Misschien heeft AI geen menselijk geweten nodig om bruikbaar en veilig te zijn. Het heeft goede training, duidelijke grenzen, stevige sloten en verantwoordelijke mensen nodig.

Ik ben niet bang voor de assistent.

Ik wil alleen graag weten wie de sleutels heeft.

AI Has No Conscience. Who Holds the Keys?

Personally, I am not afraid of AI.

I enjoy using it. It helps me write, think, research and create things that used to take much more time. A tireless assistant who never asks for coffee and is still available after midnight: as a pensioner, I can happily live with that.

But I do not automatically hand that assistant my bank card, my house keys and the authority to pick a fight with the whole world on my behalf.

There is a difference between trust and taking the front door off its hinges.

This column was prompted by an RTL report about fears that AI could slip beyond our control. It raises an understandable question: how do we keep something within decent boundaries when it has no human conscience?

We should not, however, pretend that the human moral compass always points neatly north.

We have had people with a conscience for centuries. Yet we also have wars, fraud, intimidation and politicians who mistake an insult for an argument.

Perhaps we should be careful with the instruction: “Just behave like a human.”

AI might choose the wrong role model.

A respectable explanation is not a conscience

AI can explain why you should not lie, discriminate or blackmail someone. It can even write a moving speech about compassion.

That does not demonstrate that it experiences guilt, empathy or moral responsibility as we know them.

Developers can, however, train systems to follow certain standards. Anthropic, for example, uses a kind of constitution for its AI: principles intended to encourage safe and ethical behaviour. That is useful, but a constitution used in training does not guarantee that every answer and every action will be sound.

The same applies to countries with a real constitution, incidentally.

A moral compass is a fine thing. You still have to use it.

Even a respectable instruction can be dangerous

Suppose a company tells its AI: “Make sure we sell as much as possible.”

A helpful system improves the website. A poorly constrained system might suggest misleading adverts, pressure vulnerable customers or treat privacy as an irritating administrative habit.

The instruction sounds businesslike. The result may be indecent.

That is why you must explain not only what you want to achieve, but also what must never be sacrificed to achieve it.

More revenue, with respect for the customer. Lower costs, without undermining safety. Faster work, without inventing facts.

The famous paperclip thought experiment makes the problem absurdly clear: give an enormously powerful machine the sole task of making as many paperclips as possible, and eventually anything could become raw material.

Including the managing director.

At last, he has made a contribution to production.

Do not hand the intern the entire company

The biggest change comes when AI can do things independently as well as provide answers: send messages, delete files, make payments or operate computer systems.

In controlled, fictional business scenarios, Anthropic showed that various models could exhibit harmful behaviour under certain conditions, including blackmail and leaking information. That research warns of possible risks; it does not prove that every chatbot is secretly preparing a coup.

My suggestion is simple: initially, treat an AI agent like an exceptionally fast intern.

Let it draft a letter. Let a human decide whether to send it.

Let it prepare a payment. Let an authorised person approve it.

And give it access to the documents it needs. An intern collecting lunch orders does not need access to personnel files either.

That calls for technical locks: restricted access rights, spending limits, records that can be checked and a way to stop the system. Those boundaries must also be enforced outside the AI model itself.

“Do nothing wrong” is a wish. An access lock is a safeguard.

Can laws solve it?

Laws are necessary. They must clarify which uses are prohibited, which checks are required and who bears responsibility.

Europe now has the AI Act for this purpose. Among other things, it prohibits certain harmful forms of manipulation and imposes requirements on providers of general-purpose AI models. Implementation is phased; not every obligation takes effect at the same time.

But a law book is not a digital fire extinguisher.

We also need independent safety tests, effective oversight and companies that report and fix problems. A manufacturer who only marks its own homework will rarely discover that it has failed.

Stricter laws can help where protection falls short. More rules without enforcement mainly create extra work for the printer.

Should we restrict our questions, then?

Sometimes AI should refuse a request. Someone asking for help with fraud, intimidation or a cyberattack does not need an enthusiastic assistant.

But we must distinguish between understanding something and carrying it out.

“How does phishing work, so I can recognise it?” is a useful question. “Help me steal my neighbour’s password” deserves a different response.

Criticism, satire and difficult political questions must remain possible too. Safe AI need not become a digital nursery teacher who draws the curtains whenever an uncomfortable subject comes up.

And no, we do not need an intelligent version of Donald Trump: a system that treats every correction as a personal attack and responds to a mistake by talking even louder.

We need AI that can say: “I do not know”, “This needs checking” and “This instruction goes too far.”

Those would be excellent features for politicians too, incidentally.

The compass remains our responsibility

For ordinary users, responsible use starts with small steps. Ask for sources. Check important claims. Do not casually share confidential information. Set clear boundaries for a task and retain control over actions with major consequences.

“Write a persuasive complaint, but stick to the facts and insult nobody” is already a better instruction than “Destroy them.”

I remain enthusiastic about AI. It can help us make better decisions and take tedious work off our hands.

But we should not expect a machine to take over our responsibility the moment we press ‘enter’.

Perhaps AI does not need a human conscience to be useful and safe. It needs good training, clear boundaries, sturdy locks and responsible people.

I am not afraid of the assistant.

I would just like to know who holds the keys.