What happens when AI becomes smarter than humans?
Watch the film ↓ · 9 min 31 sec
At seven in the morning in 2076, Mara receives a message from her doctor. A treatment has been found for the illness that has been slowly damaging her kidneys.
The news reaches her while a delivery robot leaves vegetables outside her door. A desalination plant supplies the town’s drinking water. Her grandson is helping repair a school with building components produced by automated factories.
Mara remembers when each of those things was expensive, difficult or impossible. She also remembers the argument that followed the first announcements. If machines could produce so much, who would be able to afford what they made?
This is one possible future inspired by the accompanying film. Its technologies arrive at different speeds, and some may never arrive at all. Let us imagine what could happen if several of them begin to work together.
A million scientists who never need to sleep
Artificial superintelligence would mean AI that exceeds human abilities across a broad range of demanding intellectual tasks. We do not know when, or whether, such a system will be built.
Imagine asking it to investigate a disease. It could compare research, propose explanations and design experiments. Many digital research teams could explore different approaches at once, sharing their results.
But a convincing answer on a screen still needs testing. A proposed medicine must survive laboratory work, manufacturing checks and clinical trials. Biology can surprise even a brilliant researcher. The potential is to shorten the search and improve experiments while keeping careful checks on what reaches patients.
When discoveries become things we can use
A discovery has little value to Mara until someone can turn it into treatment she can receive.
Robots might help produce medicines, harvest crops, assemble equipment and construct homes. Software that understands a task must still work through machines that handle fragile objects, uneven ground and unexpected people. Making a robot reliable outside a demonstration remains a challenge.
If production becomes cheaper, families could gain more food, better housing and time for other things. A worker whose income disappears needs a way to share in that gain. Cheaper products offer little comfort if the rent is due and the wages have stopped.
In Mara’s town, public purchasing agreements helped fund the machines. In return, residents receive essential services and a share of the income. That arrangement is part of our imagined future. Other communities could make very different choices.
Electricity changes the possibilities
The film imagines fusion energy helping power this world. Fusion joins light atomic nuclei and releases energy. A useful power station would have to deliver electricity reliably and economically, with components that survive demanding conditions.
Even very capable AI cannot make the engineering problems disappear. It might help researchers find better materials, designs and control systems. Commercial success still has to be demonstrated.
If clean electricity becomes abundant and affordable, desalination and recycling could become easier to expand. Water still needs pipes and maintenance. Desalination also needs responsible management of its concentrated salty discharge. Every new capability brings practical work with it.
More healthy years
Mara hopes to attend her grandson’s graduation. Her wish gives a purpose to all those calculations in the research centre.
Biotechnology might eventually help repair damaged tissue and slow some processes involved in ageing. Progress against one disease would not establish a cure for ageing. Treatments would need evidence of safety and meaningful improvements in people’s lives.
Brain-computer interfaces might offer other ways to communicate or operate equipment. An intimate connection to a machine would also raise questions about consent, privacy and the ability to disconnect. A person’s thoughts deserve protection even when sharing a signal could help them.
Who can stop the machine?
Some futurists call a period of technological change that accelerates beyond our ability to predict it the technological singularity. The phrase gives no timetable and settles none of the decisions.
Who may connect an advanced AI to a laboratory, a power station or a fleet of robots? Who checks its work? What happens if its operators lose control, or use it to pursue power at everyone else’s expense?
Systems with greater capabilities need stronger independent evaluation, clear responsibility and limits on the actions they can take. Decisions affecting whole communities need public scrutiny. Ownership of the computers must not become the only qualification for deciding everyone’s future.
The question at the kitchen table
Mara’s treatment is ready. Then she opens the second message.
It tells her the price.
At that moment, the future depends on an ordinary decision about access. Will her public health service cover the treatment? Does a patent owner decide what her remaining healthy years are worth? Can another clinic make it?
We may one day become extraordinarily good at producing medicines, food and electricity. Sharing those gains will still require institutions, agreements and people willing to uphold them.
Perhaps the most hopeful future is one in which a message from your doctor brings relief all the way to the end.
The question I would ask of superintelligent AI is whether we are building the arrangements that could make that possible for everyone.
Lees deze column in het Nederlands +
Wat gebeurt er als AI slimmer wordt dan mensen?
Bekijk de film ↓ · 9 min 31 sec
Om zeven uur ’s ochtends in 2076 krijgt Mara een bericht van haar arts. Er is een behandeling gevonden voor de ziekte die langzaam haar nieren aantast.
Het nieuws bereikt haar terwijl een bezorgrobot groenten voor de deur neerzet. Een ontziltingsinstallatie levert het drinkwater voor de stad. Haar kleinzoon helpt een school te herstellen met bouwonderdelen uit geautomatiseerde fabrieken.
Mara herinnert zich dat elk van die dingen duur, moeilijk of onmogelijk was. Ze herinnert zich ook de discussie na de eerste aankondigingen. Als machines zoveel konden produceren, wie zou zich hun producten dan kunnen veroorloven?
Dit is één mogelijke toekomst, geïnspireerd op de bijbehorende film. De technologieën ontwikkelen zich in verschillend tempo en sommige zullen misschien nooit werkelijkheid worden. Laten we ons voorstellen wat er gebeurt als verschillende ontwikkelingen elkaar versterken.
Een miljoen onderzoekers die nooit hoeven te slapen
Kunstmatige superintelligentie zou betekenen dat AI mensen overtreft in een breed scala aan moeilijke intellectuele taken. We weten niet wanneer, en zelfs niet of, zo’n systeem zal worden gebouwd.
Stel dat we het vragen een ziekte te onderzoeken. Het kan onderzoek vergelijken, verklaringen voorstellen en experimenten ontwerpen. Veel digitale onderzoeksteams zouden tegelijk verschillende wegen kunnen verkennen en resultaten delen.
Maar een overtuigend antwoord op een scherm moet nog worden getoetst. Een voorgesteld medicijn moet door laboratoriumonderzoek, productiecontroles en onderzoek met patiënten. Biologie kan ook een briljante onderzoeker verrassen. De mogelijkheid ligt in sneller zoeken en betere experimenten, met zorgvuldige controles op wat de patiënt bereikt.
Wanneer ontdekkingen bruikbaar worden
Een ontdekking heeft weinig waarde voor Mara totdat iemand er een behandeling van maakt die zij kan krijgen.
Robots kunnen misschien medicijnen produceren, gewassen oogsten, apparatuur assembleren en huizen bouwen. Software die een taak begrijpt, moet nog steeds samenwerken met machines die kwetsbare voorwerpen, ongelijke grond en onverwachte bezoekers aankunnen. Een robot buiten een demonstratie betrouwbaar laten werken blijft moeilijk.
Als productie goedkoper wordt, kunnen gezinnen meer voedsel, betere woningen en tijd voor andere dingen krijgen. Een werknemer wiens inkomen verdwijnt, moet ook in die vooruitgang kunnen delen. Goedkopere producten bieden weinig troost als de huur betaald moet worden en het loon wegvalt.
In Mara’s stad hebben publieke aankoopafspraken geholpen de machines te financieren. In ruil krijgen inwoners basisvoorzieningen en een aandeel in de inkomsten. Die afspraak hoort bij onze denkbeeldige toekomst. Andere gemeenschappen kunnen heel andere keuzes maken.
Elektriciteit verandert de mogelijkheden
De film stelt zich voor dat kernfusie deze wereld helpt aandrijven. Bij fusie worden lichte atoomkernen samengevoegd en komt energie vrij. Een bruikbare centrale moet betrouwbaar en betaalbaar elektriciteit leveren, met onderdelen die zware omstandigheden doorstaan.
Ook zeer bekwame AI laat de technische problemen niet verdwijnen. Het kan onderzoekers helpen betere materialen, ontwerpen en regelsystemen te vinden. Commercieel succes moet nog worden aangetoond.
Als schone elektriciteit ruim beschikbaar en betaalbaar wordt, kunnen ontzilting en recycling makkelijker groeien. Water heeft nog steeds leidingen en onderhoud nodig. Ontzilting vraagt ook om zorgvuldig beheer van de geconcentreerde zoute reststroom. Elke nieuwe mogelijkheid brengt praktisch werk mee.
Meer gezonde jaren
Mara hoopt het afstuderen van haar kleinzoon mee te maken. Haar wens geeft al die berekeningen in het onderzoekscentrum een doel.
Biotechnologie kan misschien ooit beschadigd weefsel herstellen en sommige processen van veroudering vertragen. Vooruitgang tegen één ziekte bewijst nog geen behandeling voor veroudering. Behandelingen moeten aantoonbaar veilig zijn en het leven van mensen werkelijk verbeteren.
Verbindingen tussen hersenen en computers kunnen andere manieren bieden om te communiceren of apparatuur te bedienen. Zo’n intieme koppeling roept ook vragen op over toestemming, privacy en de mogelijkheid om de verbinding te verbreken. Gedachten verdienen bescherming, ook als het delen van een signaal iemand kan helpen.
Wie kan de machine stoppen?
Sommige toekomstdenkers noemen een periode waarin technologische verandering sneller gaat dan wij kunnen voorspellen de technologische singulariteit. Die term geeft geen tijdschema en neemt geen enkele beslissing voor ons.
Wie mag geavanceerde AI aansluiten op een laboratorium, een centrale of een vloot robots? Wie controleert het werk? Wat gebeurt er als de beheerders de controle verliezen of de technologie gebruiken om ten koste van anderen macht te krijgen?
Krachtiger systemen vragen om strengere onafhankelijke beoordeling, duidelijke verantwoordelijkheid en grenzen aan hun handelingsmogelijkheden. Beslissingen die hele gemeenschappen raken, vragen om publieke controle. Het bezit van de computers mag niet de enige kwalificatie worden om over ieders toekomst te beslissen.
De vraag aan de keukentafel
Mara’s behandeling is klaar. Dan opent ze het tweede bericht.
Daarin staat de prijs.
Op dat moment hangt de toekomst af van een gewone beslissing over toegang. Vergoedt haar publieke gezondheidszorg de behandeling? Bepaalt een patenthouder wat haar resterende gezonde jaren waard zijn? Kan een andere kliniek de behandeling maken?
Misschien worden we ooit buitengewoon goed in het produceren van medicijnen, voedsel en elektriciteit. Om die voordelen te delen blijven instellingen, afspraken en mensen nodig die zich daarvoor inzetten.
Misschien is de meest hoopvolle toekomst er een waarin een bericht van je arts tot en met de laatste regel opluchting brengt.
Mijn vraag bij superintelligente AI is of we nu de afspraken maken die dat voor iedereen mogelijk kunnen maken.
Sources / Bronnen
Free full-size images

Download JPG

Download JPG

Download JPG