Nederlanders maken zich over het algemeen zorgen over de risico’s van geautomatiseerde besluitvorming, maar hebben verdeelde meningen over hoe eerlijk en nuttig ADM voor de samenleving kan zijn. Dit blijkt uit onderzoek door wetenschappers van de Universiteit van Amsterdam naar het vertrouwen van Nederlanders in nieuwe technologieën zoals AI en geautomatiseerde besluitvorming (ADM). Gevraagd naar de toepassing in specifieke sectoren, staat ADM echter op gelijke voet met of wordt beter beoordeeld dan menselijke experts.
Ook in Nederland wordt besluitvorming steeds meer geregeld via geautomatiseerde processen. Dit kan door de grote hoeveelheden data die beschikbaar is en dankzij de technische ontwikkeling van AI. Technologieën als big data, machine learning en AI doorlopen volgens de UvA vaak een ’traject van angst naar hype’. Tegelijkertijd worden ze als onpartijdig en objectief neergezet in hun gebruik in het dagelijks leven. Dit kan leiden tot allerlei verwachtingen over de objectiviteit en eerlijkheid van een machine. Eerdere studies tonen aan dat mensen de neiging hebben om een expertsysteem als objectiever en rationeler te zien dan een menselijke adviseur. Dit is vaak gebaseerd op de veronderstelling dat voor bepaalde taken statistische methoden het menselijke oordeel overtreffen.
Wetenschappers van de UvA onderzochten hoe de Nederlandse bevolking denkt over AI en geautomatiseerde besluitvorming en hoe dit samenhangt met persoonlijke kenmerken zoals opleiding en leeftijd. Ze keken naar ons algemene beeld over ADM, maar vroegen ook naar de mening over de toepassing van ADM in specifieke maatschappelijke sectoren waar dit al vaak gebeurt zoals de (nieuws)media, de zorg en justitie.
Deze perceptie van ADM staat in contrast met de vaak kritische en pessimistische toon in mediaberichten en academische literatuur, schrijft het nieuwsbericht over het onderzoek. Daarin overheersen volgens de UvA-onderzoekers eerder de angst voor vooringenomenheid, verlies van menselijke waardigheid en autonomie en algemene zorgen over ‘AI-overname’ ter vervanging van menselijke experts.
De onderzoekers zien een spagaat. “Het is belangrijk te benadrukken dat publieke opvattingen over het potentiële nut en rechtvaardigheid van ADM niet hetzelfde zijn als maatschappelijke en individuele acceptatie van daadwerkelijk geautomatiseerde beslissingen”, aldus het onderzoek. “We moeten nog beter te weten komen of en onder welke voorwaarden mensen ADM-beslissingen niet alleen eerlijker ervaren, maar ook bereid zijn een geautomatiseerde beslissing te accepteren.”
UvA-wetenschappers hebben onder bijna 1.000 Nederlanders een representatieve steekproef uitgevoerd over het nut, de rechtvaardigheid en het risico van geautomatiseerde besluitvorming door AI. De onderzoekers stelden daarbij verschillende scenario’s voor: van een lage impact zoals het geven van nieuws of fitnessaanbevelingen, tot een hoge impact zoals strafrechtelijke veroordeling of het nemen van beslissingen rond behandelingen van ziektes.
De respondenten zijn verdeeld in hun beeld over ADM als algemene maatschappelijke ontwikkeling. Maar over specifieke toepassingen van ADM zitten ze bij de scenario’s met een hoge impact, zoals rechtspraak, op één lijn. En die is niet per se ten gunste van de menselijke experts. Voor de scenario’s met een lage impact, zoals nieuwsaanbevelingen, zagen de onderzoekers geen deze significante verschillen.
Volgens de onderzoekers verklaren persoonlijke kenmerken (deels) de verdeeldheid bij het algemene beeld over ADM, waaronder: