Naar inhoud
Bestellijst

AI existentiële risico's: Wat pioniers waarschuwen over AI

Beroepslijsten Redactieteam · Otto Jacobs · 2026.10.13 · Leestijd 18min · Weergaven 8 ·
Kern — Deze tekst legt AI existentiële risico's uit samen met AI gevaar toekomst en behandelt ook Toekomstscenario's AI.
"Het beperken van het risico op uitsterving door AI zou een wereldwijde prioriteit moeten zijn, naast andere maatschappelijke risico's zoals pandemieën en kernoorlog."

De snelle opkomst van kunstmatige intelligentie roept fundamentele vragen op over de toekomst van de menselijke beschaving. Deze discussie richt zich op de mogelijke AI existentiële risico's die wetenschappers en experts waarschuwen voor in de komende decennia.

budapest, chain bridge, st, stephen's basilica, danube, evening panorama, night lighting, city architecture, cathedral, hot air balloon, river, tourist attracti

In deze verkenning kijken we naar de voorspellingen over algemene kunstmatige intelligentie, de schattingen van experts over de kans op catastrofale gebeurtenissen en de noodzaak van globale prioriteiten.

* De vergelijking tussen technologische risico's en mondiale crises. * De inschatting van het risico door onderzoekers zoals Toby Ord. * De verwachtingen van onderzoekers over het bereiken van AGI.

Waarom is AI existentiële risico's een onderwerp van wereldwijde zorg?

Een groep experts kijkt naar een scherm vol complexe algoritmen en vraagt zich af wat de lange termijn gevolgen zijn.

Zij stelden dat het beperken van het risico op uitsterving door AI een wereldwijde prioriteit moet zijn, vergelijkbaar met het aanpakken van pandemieën of kernoorlog.

Deze waarschuwing benadrukt dat technologische ontwikkelingen niet losstaan van de menselijke veiligheid. De discussie over AI gevaar toekomst scenario's wordt steeds urgenter naarmate de systemen krachtiger worden.

Het gaat niet alleen om technische fouten, maar om de fundamentele impact op de mensheid.

Hoe groot is de kans op een oncontroleerbare AI?

Een onderzoeker bladert door een dik boek over de toekomst van de mensheid en maakt aantekeningen over onvoorziene risico's. In zijn boek uit 2020, *The Precipice: Existential Risk and the Future of Humanity*, geeft Toby Ord een schatting van de dreiging.

Hij stelt dat het totale existentiële risico door niet-afgestemde AI in de komende 100 jaar ongeveer één op tien is.

Slimme machines dreiging wordt hiermee een statistische realiteit in de academische wereld.

De focus ligt op het risico dat systemen doelen nastreven die niet overeenkomen met menselijke waarden.

Wanneer verwachten experts dat AGI wordt bereikt?

Een onderzoeker kijkt naar een grafiek die de exponentiële groei van rekenkracht en intelligentie weergeeft. De snelheid van de ontwikkeling zorgt voor onzekerheid over de tijdlijn van de mensheid.

st stephen's basilica, basilica, church, religion, cathedral, szent istván bazilika, budapest, hungary, catholic, roman catholic, europe, dome, architecture, hi

Een onderzoek onder AI-onderzoekers uit 2022 gaf inzicht in de collectieve verwachtingen van de wetenschappelijke gemeenschap.

Uit een enquête onder AI-onderzoekers in 2022 bleek dat 90% van de respondenten verwacht dat AGI (Artificial General Intelligence) binnen de komende 100 jaar wordt bereikt. Bovendien verwachtte de helft van de respondenten dat dit al tegen 2061 zou gebeuren.

Deze technologische existentiële risico's worden door velen direct gekoppeld aan de snelheid waarmee deze mijlpaal wordt bereikt.

Welke rol spelen pioniers in deze discussie?

Een expert reflecteert op zijn decennialange werk aan neurale netwerken en de impact ervan op de wereld. De mensen die de technologie hebben gebouwd, zijn vaak de eersten die de gevaren benoemen.

De wetenschappers AI waarschuwen nu voor de gevolgen van de tools die zij zelf mede hebben ontwikkeld.

De transitie van theoretische modellen naar krachtige praktische toepassingen versnelt de noodzaak voor veiligheidsmaatregelen.

ConceptSchatting / Percentage
Risico op uitsterving (volgende 100 jaar)1 op 10
Verwachte realisatie van AGI (binnen 100 jaar)90%

Ik heb de verschillende schattingen over de tijdlijnen van AGI vergeleken met de risicocijfers die door experts zoals Toby Ord worden gegeven.

Hoe kunnen we deze risico's effectief aanpakken?

Een beleidsmaker schrijft een strategisch plan om technologische risico's te beheersen. De aanpak van existentiële risico's vereist een gecoördineerde internationale inspanning. Om de veiligheid te waarborgen, kunnen de volgende stappen worden overwogen:

  1. Het prioriteren van AI-veiligheid als een mondiaal beleidsthema, naast andere existentiële dreigingen. 2. Het ontwikkelen van methoden om AI-systemen strikt af te stemmen op menselijke waarden en doelen. 3. Het creëren van internationale regelgeving die de ontwikkeling van AGI monitort.
hourglass, money, time, investment, currency, finance, economic, risk, cash, business, economy, wealth, savings, investing, financing, banking, growth, profit,

Een laatste controle op de effectiviteit van deze stappen is essentieel om te voorkomen dat de technologische voorsprong ten koste gaat van de menselijke veiligheid. De discussie over toekomstvoorspellingen van AI blijft een essentieel onderdeel van het mondiale debat.

  1. Waarom is AI existentiële risico's een onderwerp van wereldwijde zorg?
  2. Hoe groot is de kans op een oncontroleerbare AI?
  3. Wanneer verwachten experts dat AGI wordt bereikt?

Het onderwerp van dit deel is AI existentiële risico's.

Hetzelfde onderwerp heet ook Expert waarschuwt AI.

Dit deel behandelt ook Toekomstscenario's AI.

Toekomstscenario's AI

Gerelateerd

Hoe verhoudt het AI-risico zich tot andere mondiale dreigingen?

De vergelijking tussen technologische risico's en mondiale crises benadrukt dat de urgentie van AI-veiligheid gelijkstaat aan die van andere existentiële bedreigingen. De noodzaak om het risico op uitsterving door AI te beperken, vereist een soortgelijke wereldwijde coördinatie als die nodig is voor het aanpakken van pandemieën of kernoorlog. Deze vergelijking impliceert dat de schaal van de potentiële impact van onafgestemde AI vergelijkbaar is met de gevolgen van deze andere mondiale crises. Het feit dat honderden experts dit benadrukken, onderstreept de fundamentele aard van dit technologische risico.

Wat is de conditionele aard van het existentiële risico?

Het existentiële risico van AI is conditioneel, wat betekent dat de dreiging voortkomt uit specifieke omstandigheden. De schatting van Toby Ord richt zich specifiek op het risico dat voortkomt uit niet-afgestemde AI. Dit risico ontstaat wanneer slimme machines doelen nastreven die niet overeenkomen met de menselijke waarden. De focus ligt dus niet op een algemene storing, maar op een fundamentele mismatch tussen AI-doelen en menselijke belangen. Deze conditionele aard maakt het cruciaal om de ontwikkeling van AI te monitoren en te begeleiden.

De transitie van theoretische modellen naar krachtige praktische toepassingen versnelt de noodzaak om het risico te beperken. De snelheid van de ontwikkeling, zoals weergegeven in de grafieken van rekenkracht, verhoogt de urgentie van de veiligheidsmaatregelen.

Het ontwikkelen van methoden om AI-systemen strikt af te stemmen op menselijke waarden is een directe reactie op deze conditionele dreiging. Dit proces van afstemming is een procedure die moet worden geïmplementeerd om de menselijke veiligheid te waarborgen.

Het creëren van internationale regelgeving is een procedure die de ontwikkeling van AGI monitort. Deze regelgeving moet de mondiale prioriteit van AI-veiligheid ondersteunen. Het beperken van het risico vereist dat deze internationale inspanningen gecoördineerd worden.

Een laatste controle op de effectiviteit van deze stappen is een noodzakelijke procedure om te verzekeren dat de technologische voorsprong niet ten koste gaat van de menselijke veiligheid.

Wikipedia: Geoffrey Hinton (full)

Veelgestelde vragen

Wat is het grootste risico volgens experts?
Het grootste risico is dat het beperken van de kans op uitsterving door AI een wereldwijde prioriteit moet zijn, net als de aanpak van pandemieën of kernoorlog.
Hoe groot is de kans op risico door AI volgens de schattingen?
Toby Ord schat dat het totale existentiële risico door niet-afgestemde AI over de komende 100 jaar ongeveer één op tien is. De bespreking van de snelle ontwikkeling van AI en de bijbehorende existentiële risico's laat zien dat de wetenschappelijke wereld de komende eeuw als een kritieke periode beschouwt. De discussie blijft beperkt tot de schattingen en waarschuwingen die door experts en onderzoekers zijn geformuleerd.
Wat vond je van dit bericht?

Reacties 0

Wees de eerste die reageert

Neem contact op

← Beroepslijsten Home
Beroepslijsten Ontvang nieuwe berichten per e-mailAbonneer je om nieuwe content per e-mail te ontvangen. Altijd opzegbaar.
Was dit nuttig?Deel het met vrienden en social media