Een raamwerk voor het evalueren van zich snel ontwikkelende digitale en aanverwante technologieën: AI, grote taalmodellen en meer

• Introductie 
• Achtergrond 
• De ontwikkeling van een analytisch raamwerk 
• Gebruik maken van het analytisch raamwerk 
• Dimensies waarmee rekening moet worden gehouden bij het evalueren van een nieuwe technologie 
• Een weg vooruit 
• Danksagung

Snel opkomende technologieën brengen uitdagende problemen met zich mee als het gaat om hun bestuur en potentiële regulering. Het beleid en de publieke debatten over kunstmatige intelligentie (AI) en het gebruik ervan hebben deze kwesties scherp onder de aandacht gebracht. Hoewel er brede principes voor AI zijn afgekondigd door de UNESCO, de OESO en anderen, en er opkomende discussies zijn over mondiale of jurisdictieregulering van de technologie, bestaat er een ontologische kloof tussen de ontwikkeling van principes op hoog niveau en de integratie ervan in regelgeving, beleid, governance- en rentmeesterschapsbenaderingen. Dit is waar de niet-gouvernementele wetenschappelijke gemeenschap een bijzondere rol zou kunnen spelen. 

Een aantal academici en beleidsexperts hebben voorgesteld dat de International Science Council (ISC) – met zijn pluralistische lidmaatschap van de sociale en natuurwetenschappen – een proces zou opzetten om een ​​geannoteerd raamwerk/checklist te produceren en te onderhouden van de risico’s, voordelen, bedreigingen en kansen die gepaard gaan met snel veranderende digitale technologieën, waaronder – maar niet beperkt tot – AI. Het doel van de checklist zou zijn om alle belanghebbenden – inclusief overheden, handelsonderhandelaars, toezichthouders, het maatschappelijk middenveld en de industrie – te informeren over mogelijke toekomstscenario’s, en om een ​​kader te geven voor de manier waarop zij de kansen, voordelen, risico’s en andere kwesties zouden kunnen overwegen. 

De uitkomsten zouden niet fungeren als een beoordelingsorgaan, maar als een adaptief en zich ontwikkelend analytisch raamwerk dat de basis zou kunnen vormen voor alle beoordelings- en regelgevingsprocessen die door belanghebbenden, waaronder overheden en het multilaterale systeem, zouden kunnen worden ontwikkeld. Elk analytisch raamwerk zou idealiter onafhankelijk van de beweringen van de overheid en de industrie moeten worden ontwikkeld, gezien hun begrijpelijke belangen. Het moet ook maximaal pluralistisch zijn in zijn perspectieven, en dus alle aspecten van de technologie en de implicaties ervan omvatten. 

Dit discussiestuk biedt de schets van een eerste raamwerk ter informatie van de vele mondiale en nationale discussies die plaatsvinden met betrekking tot AI. 

De snelle opkomst van een technologie met de complexiteit en implicaties van AI zorgt voor veel claims over grote voordelen. Het roept echter ook angst op voor aanzienlijke risico's, van individueel tot geostrategisch niveau. Een groot deel van de discussie vindt plaats aan de uiterste uiteinden van het spectrum van opvattingen, en er is een meer pragmatische aanpak nodig. AI-technologie zal zich blijven ontwikkelen en de geschiedenis leert dat vrijwel elke technologie zowel nuttige als schadelijke toepassingen heeft. De vraag is daarom: hoe kunnen we gunstige resultaten bereiken met deze technologie, terwijl we tegelijkertijd het risico op schadelijke gevolgen verminderen, waarvan sommige existentieel van omvang zouden kunnen zijn? 

De toekomst is altijd onzeker, maar er zijn voldoende geloofwaardige en deskundige stemmen op het gebied van AI en generatieve AI om een ​​relatief voorzorgsaanpak aan te moedigen. Daarnaast is een systeembenadering nodig, omdat AI een klasse technologieën is met een breed gebruik en toepassing door meerdere soorten gebruikers. Dit betekent dat er rekening moet worden gehouden met de volledige context bij het overwegen van de implicaties van AI voor individuen, het sociale leven, het maatschappelijk leven, het maatschappelijke leven en in de mondiale context. 

In tegenstelling tot de meeste technologieën uit het verleden hebben digitale en aanverwante technologieën een zeer korte periode van ontwikkeling tot release, grotendeels gedreven door de belangen van de productiebedrijven of agentschappen. AI is snel alomtegenwoordig; sommige eigenschappen worden mogelijk pas duidelijk na de release, en de technologie kan zowel kwaadaardige als welwillende toepassingen hebben. Belangrijke waardendimensies zullen van invloed zijn op de manier waarop elk gebruik wordt waargenomen. Bovendien kunnen er geostrategische belangen in het spel zijn. 

Tot nu toe werd de regulering van een virtuele technologie grotendeels gezien door de lens van ‘principes’ en vrijwillige naleving. Meer recentelijk heeft de discussie zich echter gericht op kwesties van nationaal en multilateraal bestuur, inclusief het gebruik van regelgevings- en andere beleidsinstrumenten. De beweringen voor of tegen AI zijn vaak hyperbolisch en – gezien de aard van de technologie – moeilijk te beoordelen. Het opzetten van een effectief mondiaal of nationaal technologiereguleringssysteem zal een uitdaging zijn, en er zullen meerdere lagen van risico-geïnformeerde besluitvorming nodig zijn langs de keten, van uitvinder tot producent, tot gebruiker, tot overheid en tot het multilaterale systeem. 

Hoewel principes op hoog niveau zijn afgekondigd door onder meer de UNESCO, de OESO en de Europese Commissie, en er verschillende discussies op hoog niveau gaande zijn over kwesties van mogelijke regulering, bestaat er een grote ontologische kloof tussen dergelijke principes en een bestuurs- of regelgevingskader. Wat is de taxonomie van overwegingen waarmee een toezichthouder rekening moet houden? Een enge focus zou onverstandig zijn, gezien de brede implicaties van deze technologieën. Dit potentieel is het onderwerp geweest van veel commentaar, zowel positief als negatief.

Het ISC is de belangrijkste mondiale NGO die natuur- en sociale wetenschappen integreert. Haar mondiale en disciplinaire reikwijdte betekent dat zij in een goede positie verkeert om onafhankelijk en mondiaal relevant advies te genereren ter onderbouwing van de complexe keuzes die voor ons liggen, vooral omdat de huidige stemmen in deze arena grotendeels uit de industrie of uit de grote technologische machten komen. Na uitgebreide discussies in de afgelopen maanden, waaronder de overweging van een niet-gouvernementeel beoordelingsproces, kwam de ISC tot de conclusie dat zijn nuttigste bijdrage zou zijn het produceren en onderhouden van een adaptief analytisch raamwerk dat kan worden gebruikt als basis voor discours en besluitvorming door alle belanghebbenden, ook tijdens elk formeel beoordelingsproces dat zich voordoet. 

Dit raamwerk zou de vorm aannemen van een overkoepelende checklist die door zowel overheids- als niet-gouvernementele instellingen zou kunnen worden gebruikt. Het raamwerk identificeert en onderzoekt het potentieel van een technologie zoals AI en zijn derivaten door een brede lens die het menselijk en maatschappelijk welzijn omvat, evenals externe factoren, zoals economie, politiek, het milieu en veiligheid. Sommige aspecten van de checklist kunnen relevanter zijn dan andere, afhankelijk van de context, maar betere beslissingen zijn waarschijnlijker als alle domeinen in overweging worden genomen. Dit is de inherente waarde van een checklistbenadering. 

Het voorgestelde raamwerk is afgeleid van eerder werk en denken, waaronder het digitale welzijnsrapport van het International Network for Governmental Science Advice (INGSA).¹ en het AI-classificatieraamwerk van de OESO² om het geheel van de potentiële kansen, risico’s en effecten van AI te presenteren. Omdat deze eerdere producten qua opzet beperkter waren gezien hun tijd en context, is er behoefte aan een overkoepelend raamwerk dat het volledige scala aan problemen presenteert, zowel op de korte als op de langere termijn. 

Hoewel dit analytische raamwerk is ontwikkeld voor de overweging van AI, zou het kunnen worden toegepast op elke snel opkomende technologie. De problemen zijn grofweg gegroepeerd in de volgende categorieën voor verder onderzoek: 

• Welzijn (inclusief dat van individuen of zichzelf, de samenleving en het sociale leven, en het burgerleven) 
• Handel en economie 
• Mileu 
• Geostrategisch en geopolitiek 
• Technologisch (systeemeigenschappen, ontwerp en gebruik) 

Voor elk van de bovenstaande categorieën is een lijst met overwegingen opgenomen, samen met hun respectievelijke kansen en gevolgen. Sommige zijn relevant voor specifieke gevallen of toepassingen van AI, terwijl andere generiek zijn en agnostisch zijn wat betreft platform of gebruik. Geen enkele overweging die hier is opgenomen, mag als prioriteit worden behandeld en moet als zodanig allemaal worden onderzocht. 

Dit raamwerk kan op de volgende manieren worden gebruikt, maar is niet beperkt tot: 

• Het overbruggen van de kloof tussen principes en beoordeling door het vaststellen van een gevalideerde gemeenschappelijke taxonomie van de reeks overwegingen die door relevante belanghebbenden zou kunnen worden gebruikt als basis om verder denken te informeren en vorm te geven, inclusief elk beoordelingskader dat door autoriteiten zou kunnen worden ontwikkeld. 

• Om effectbeoordelingen te informeren. De EU AI Act vereist dat organisaties die AI-instrumenten leveren of AI in hun processen gebruiken, een effectbeoordeling uitvoeren om de risico’s van hun initiatieven in kaart te brengen en een passende risicobeheeraanpak toe te passen. Het hier gepresenteerde raamwerk kan hiervoor als basis worden gebruikt. 

• Het verbeteren van de ethische principes die nodig zijn om het gebruik van AI te begeleiden en te besturen. Het raamwerk kan dit doen door een flexibele basis te bieden waarop betrouwbare systemen kunnen worden ontwikkeld en door het wettige, ethische, robuuste en verantwoorde gebruik van de technologie te garanderen. Deze principes zouden kunnen worden getoetst aan het volledige scala aan effecten dat in dit raamwerk wordt gepresenteerd. 
• Het vergemakkelijken van de inventarisatie van bestaande maatregelen (dwz regelgevende, wetgevende, beleidsmatige maatregelen) en het identificeren van eventuele lacunes die verder moeten worden overwogen. 

• Het raamwerk is agnostisch ten opzichte van de technologie en het gebruik ervan. Het zou daarom kunnen worden gebruikt op heel specifieke gebieden, zoals de synthetische biologie. 

De volgende tabel is een vroege vormgeving van de dimensies van een analytisch raamwerk. Afhankelijk van de technologie en het gebruik ervan zullen sommige componenten relevanter zijn dan andere. De voorbeelden worden gegeven om te illustreren waarom elk domein ertoe kan doen; in context zou het raamwerk contextueel relevante uitbreiding vereisen. Ook is het van belang onderscheid te maken tussen platformontwikkelingen en de generieke vraagstukken die bij specifieke toepassingen naar voren kunnen komen.  

Sleutel tot bronnen van de descriptoren

Platte tekst:
Gluckman, P. en Allen, K. 2018. Welzijn begrijpen in de context van snelle digitale en daarmee samenhangende transformaties. INGSA. https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf 

Vetgedrukte tekst:
OESO. 2022. OESO-kader voor de classificatie van AI-systemen. OECD Digital Economy Papers, nr. 323, OECD Publishing, Parijs. https://oecd.ai/en/classification 

cursieve tekst:
Nieuwe descriptoren (uit meerdere bronnen) 

Afhankelijk van de reactie op dit discussiedocument zou door het ISC een werkgroep van deskundigen worden gevormd om het bovengenoemde analytische raamwerk verder te ontwikkelen of aan te passen, waarmee belanghebbenden uitgebreid kunnen kijken naar alle belangrijke ontwikkelingen op het gebied van platforms of gebruiksdimensies. De werkgroep zou disciplinair, geografisch en demografisch divers zijn, met expertise die zich uitstrekt van technologiebeoordeling tot openbaar beleid, van menselijke ontwikkeling tot sociologie en toekomst- en technologiestudies. 

Ga naar om deel te nemen aan dit discussiestuk council.science/publications/framework-digital-technologieën 

Bij de ontwikkeling van dit document, dat is opgesteld door Sir Peter Gluckman, President, ISC en Hema Sridhar, voormalig hoofdwetenschapper, Ministerie van Defensie, en nu senior onderzoeker, Universiteit van Auckland, Nieuw-Zeeland. 

In het bijzonder danken wij Lord Martin Rees, voormalig president van de Royal Society en medeoprichter van het Centre for the Study of Existential Risks, Universiteit van Cambridge; Professor Shivaji Sondhi, hoogleraar natuurkunde, Universiteit van Oxford; Professor K Vijay Raghavan, voormalig wetenschappelijk hoofdadviseur van de regering van India; Amandeep Singh Gill, gezant voor technologie van de secretaris-generaal van de VN; Dr. Seán Óh Éigeartaigh, uitvoerend directeur, Centrum voor de Studie van Existentiële Risico's, Universiteit van Cambridge; Amanda-June Brawner, senior beleidsadviseur en Ian Wiggins, directeur internationale zaken, Royal Society UK; Dr. Jerome Duberry, Dr. Marie-Laure Salles, directeur, Geneva Graduate Institute; de heer Chor Pharn Lee, Centrum voor Strategische Toekomsten, kabinet van de premier, Singapore; Barend Mons en dr. Simon Hodson, de Commissie Gegevens (CoDATA); prof. Yuko Harayama, Japan; Professor Rémi Quirion, voorzitter, INSA; Dr. Claire Craig, Universiteit van Oxford en voormalig hoofd Foresight, Government Office of Science; en prof. Yoshua Bengio, de Wetenschappelijke Adviesraad van de secretaris-generaal van de VN en aan de Université de Montréal. De checklistbenadering werd algemeen onderschreven en de tijdigheid van elke actie van de ISC werd benadrukt.