116 CEO’s waarschuwen VN voor kunstmatige intelligentie

Meer dan honderd ondernemers uit de tech-wereld hebben een open brief aan de Verenigde Naties getekend. Volgens hen is het goed mogelijk dat er in de toekomst een bewapend conflict met en tegen kunstmatige intelligenties (KI) plaatsvindt. De VN moet iets doen, vinden zij.

kunstmatige intelligentie

Waarschuwing van Elon Musk

Het is nog niet zo lang geleden dat Tesla-baas Elon Musk tegen zijn tech-collega Mark Zuckerberg van Facebook zei dat zijn kennis over KI ‘beperkt’ zou zijn. De reden: Musk waarschuwt al een tijdje voor de gevaren van een niet gecontroleerde kunstmatige intelligentie. Want niemand weet wat zo’n intelligent systeem allemaal zou kunnen doen. Vooral als het slimmer wordt dan de mens. Volgens Musk is het ‘de grootste bedreiging voor onze samenleving’. Zuckerberg antwoordde toen: "Ik ben optimist en ik begrijp de nee-zeggers en de mensen die dergelijke Apocalyps-scenario’s bedenken niet."

Open brief aan de VN

Met zijn optimisme staat Zuckerberg inmiddels vrij alleen. Er werd een open brief naar de VN gestuurd, ondertekend door 116 bekende tech-bazen over de hele wereld. Naast Elon Musk (Tesla, SpaceX) tekenden ook Mustafa Suleyman (van Deep Mind, onderdeel van Alphabet) en de Nederlanders Koen Hindriks en Joachim de Greeff van Interactive Robotics. Alle deze bedrijven hebben gemeen dat ze zich bezighouden met de ontwikkeling van robots en kunstmatige intelligentie.

Killer-robots

"Als bedrijven die technologie voor kunstmatige intelligentie en robots ontwikkelen, die mogelijk in autonome wapensystemen gebruikt kunnen worden, voelen we ons verplicht om deze waarschuwing uit te spreken."

Zo luidt de inleiding van de brief van auteurs uit de VS, China, India, Zwitserland, Australië, Frankrijk en andere landen. "Dodelijke autonome wapens dreigen de derde revolutie in de oorlogsvoering te worden", voorspellen de tech-experts. "Eenmaal uitgevonden, maken ze bewapende conflicten van ongekende proporties mogelijk, sneller dan mensen kunnen begrijpen. Bovendien zouden dictatoren en terroristen de wapens tegen onschuldigen kunnen inzetten. Ook kan een KI gehackt worden."

Mening van wetenschappers

Zelfs wetenschappers geven toe dat de gebruikelijke technieken voor KI’s een soort ‘black box’ zijn. Ze bedoelen hiermee machine learning en neuronale netwerken. Deze processen, waarbij een KI ‘leert’, zijn erg moeilijk of zelfs helemaal niet te begrijpen. In een notendop: zelfs de wetenschapper die een KI geprogrammeerd en ingeschakeld heeft, kan niet zeggen wat deze op het moment ‘denkt’. Net zo min zijn de resultaten te voorspellen.

Voordelen van KI

De mensen die de open brief ondertekend hebben, kennen natuurlijk ook de voordelen en mogelijkheden van KI’s. Deze maken het verkeer veiliger, ontwikkelen medicijnen en therapieën voor ziektes en vechten tegen spam en haat op het internet. Maar dit mag dus niet helemaal uit onze controle glijden. Daarom eisen de tech-bazen strenge regels om horrorscenario’s te voorkomen die we uit de biscoop kennen.

BTG: Verbinding, verbreding en verdieping

Branchevereniging ICT en Telecommunicatie Grootgebruikers (BTG) behartigt de belangen van Nederlandse bedrijven en instellingen door kennis over te dragen en ervaringen uit te wisselen o.a. tijdens events

BTG in beeld en geluid

Expertsessies

Magazine

BTG in Business - Voorjaar 2022
Lees de laatste editie

Meld je aan voor onze nieuwsbrief!

Op de hoogte blijven van evenementen en het laatste nieuws? Schrijf je dan nu in voor onze nieuwsbrief.
  • Dit veld is bedoeld voor validatiedoeleinden en moet niet worden gewijzigd.