In ramt foar it evaluearjen fan rap ûntwikkeljende digitale en besibbe technologyen: AI, grutte taalmodellen en fierder

• Ynlieding 
• Eftergrûn 
• De ûntwikkeling fan in analytysk ramt 
• It brûken fan it analytysk ramt 
• Ofmjittings om te beskôgjen by it evaluearjen fan in nije technology 
• In wei foarút 
• Acknowledgements

Snel opkommende technologyen presintearje útdaagjende problemen as it giet om har bestjoer en potinsjele regeljouwing. It belied en publike debatten oer keunstmjittige yntelliginsje (AI) en it gebrûk dêrfan hawwe dizze problemen yn akute fokus brocht. Wylst brede prinsipes foar AI binne promulgearre troch UNESCO, OECD en oaren, en d'r begjinnende diskusjes binne oangeande globale of jurisdiksjonele regeljouwing fan 'e technology, is d'r in ontologyske gat tusken de ûntwikkeling fan prinsipes op hege nivo en har ynkorporaasje yn regeljouwing, belied, oanpak fan bestjoer en stewardship. Dit is wêr't de net-regearingswittenskiplike mienskip in bepaalde rol kin hawwe. 

It is foarsteld troch in oantal akademisy en beliedssaakkundigen dat de International Science Council (ISC) - mei syn pluralistyske lidmaatskip fan 'e sosjale en natuerwittenskippen - in proses fêstigje om in annotearre ramt / checklist te produsearjen en te ûnderhâlden fan 'e risiko's, foardielen, bedrigingen en kânsen ferbûn mei rap bewegende digitale technologyen, ynklusyf - mar net beheind ta - AI. It doel fan 'e checklist soe wêze om alle belanghawwenden te ynformearjen - ynklusyf oerheden, hannelsûnderhannelers, tafersjochhâlders, boargerlike maatskippij en yndustry - fan mooglike takomstsenario's, en soe frame hoe't se de kânsen, foardielen, risiko's en oare problemen kinne beskôgje. 

De útgongen soene net fungearje as in beoardielingsorgaan, mar as in oanpasber en evoluearjend analytysk ramt dat alle beoardielings- en regeljouwingsprosessen dy't kinne wurde ûntwikkele troch belanghawwenden, ynklusyf oerheden en it multilaterale systeem, kinne stypje. Elk analytysk ramt moat ideaal ûntwikkele wurde ûnôfhinklik fan oanspraken fan oerheid en yndustry, sjoen har begryplike belangen. It moat ek maksimaal pluralistysk wêze yn syn perspektiven, sadat alle aspekten fan 'e technology en har gefolgen omfetsje. 

Dit diskusjepapier jout de skets fan in earste ramt om de meardere globale en nasjonale diskusjes te ynformearjen dy't plakfine yn ferbân mei AI. 

It rappe ûntstean fan in technology mei de kompleksiteit en gefolgen fan AI driuwt in protte oanspraken op grutte foardielen. It provosearret lykwols ek eangsten foar wichtige risiko's, fan yndividueel oant geostrategysk nivo. In protte fan 'e diskusje hat de neiging om plak te nimmen oan' e uterste úteinen fan it spektrum fan opfettings, en in mear pragmatyske oanpak is nedich. AI-technology sil trochgean te evoluearjen en skiednis lit sjen dat praktysk elke technology sawol foardielich as skealik gebrûk hat. De fraach is dus: hoe kinne wy ​​​​geunstige resultaten fan dizze technology berikke, wylst wy it risiko fan skealike gefolgen ferminderje, wêrfan guon eksistinsjele yn omfang kinne wêze? 

De takomst is altyd ûnwis, mar d'r binne genôch leauwende en saakkundige stimmen oangeande AI en generative AI om in relatyf foarsoarchsoanpak oan te moedigjen. Derneist is in systeemoanpak nedich, om't AI in klasse fan technologyen is mei breed gebrûk en tapassing troch meardere soarten brûkers. Dit betsjut dat de folsleine kontekst yn rekken brocht wurde moat by it beskôgjen fan de gefolgen fan AI foar yndividuen, sosjaal libben, boargerlik libben, maatskiplik libben en yn 'e wrâldwide kontekst. 

Oars as de measte ferline technologyen, hawwe digitale en relatearre technologyen in heul koarte tiid fan ûntwikkeling oant frijlitting, foar in grut part dreaun troch de belangen fan 'e produksjebedriuwen of ynstânsjes. AI is fluch pervasive; guon eigenskippen meie pas bliken nei frijlitting, en de technology koe hawwe sawol kwea-aardich en woldiedige applikaasjes. Wichtige wearden dimensjes sille beynfloedzje hoe't elk gebrûk wurdt waarnommen. Fierders kinne der geo-strategyske belangen oan it spul wêze. 

Oant no ta is de regeling fan in firtuele technology foar in grut part sjoen troch de lens fan "prinsipes" en frijwillige neilibjen. Mear resint, lykwols, de diskusje draaide om saken fan nasjonaal en multylaterale bestjoer, ynklusyf it brûken fan regeljouwing en oare belied ark. De oanspraken foar of tsjin AI binne faak hyperbolysk en - sjoen de aard fan 'e technology - lestich te beoardieljen. It oprjochtsjen fan in effektyf wrâldwide as nasjonaal regelingsysteem foar technology sil útdaagjend wêze, en meardere lagen fan risiko-ynformeare beslútfoarming sille nedich wêze lâns de keten, fan útfiner oant produsint, oant brûker, nei regearing en nei it multilaterale systeem. 

Wylst prinsipes op heech nivo binne promulgearre troch ûnder oaren UNESCO, OECD en de Jeropeeske Kommisje, en ferskate diskusjes op heech nivo binne oan 'e gong oer kwestjes fan mooglike regeljouwing, is der in grutte ontologyske kloof tusken sokke prinsipes en in bestjoer of regeljouwingskader. Wat is de taksonomy fan oerwagings dy't in regulator miskien moatte beskôgje? In smel rjochte framing soe ûnferstannich wêze, sjoen de brede gefolgen fan dizze technologyen. Dit potensjeel is it ûnderwerp fan in protte kommentaar west, sawol posityf as negatyf.

De ISC is de primêre globale NGO dy't natuerlike en sosjale wittenskippen yntegreart. It wrâldwide en dissiplinêre berik betsjut dat it goed pleatst is om ûnôfhinklik en wrâldwiid relevant advys te generearjen om de komplekse karren foarút te ynformearjen, benammen om't de hjoeddeistige stimmen yn dizze arena foar in grut part út 'e yndustry of fan' e grutte technologyske machten binne. Nei wiidweidige diskusje yn 'e ôfrûne moannen, ynklusyf it beskôgjen fan in net-regearingsbeoardielingsproses, konkludearre de ISC dat syn meast brûkbere bydrage soe wêze om in adaptyf analytysk ramt te produsearjen en te ûnderhâlden dat kin wurde brûkt as basis foar diskusje en beslútfoarming troch alle belanghawwenden, ynklusyf by alle formeel beoardielingsproses dat nei foaren komt. 

Dit ramt soe de foarm oannimme fan in oerkoepeljende checklist dy't brûkt wurde kin troch sawol oerheid as net-regearingsynstellingen. It ramt identifisearret en ûndersiket it potensjeel fan in technology lykas AI en syn derivaten troch in brede lens dy't minsklik en maatskiplik wolwêzen omfettet, lykas ek eksterne faktoaren, lykas ekonomy, polityk, it miljeu en feiligens. Guon aspekten fan 'e checklist kinne relevanter wêze as oaren, ôfhinklik fan 'e kontekst, mar bettere besluten binne wierskynliker as alle domeinen wurde beskôge. Dit is de ynherinte wearde fan in oanpak fan checklist. 

It foarstelde ramt is ôflaat fan earder wurk en tinken, ynklusyf it digitale wolwêzenrapport fan it International Network for Governmental Science Advice (INGSA)¹ en it OECD AI Classification Framework² om it totaal fan 'e potensjele kânsen, risiko's en gefolgen fan AI te presintearjen. Dizze eardere produkten wiene mear beheind yn har bedoeling sjoen har tiid en kontekst, d'r is ferlet fan in oerkoepeljend ramt dat it folsleine oanbod fan problemen presintearret sawol op koarte as langere termyn. 

Hoewol ûntwikkele foar it beskôgjen fan AI, koe dit analytyske ramt tapast wurde op elke rap opkommende technology. De problemen wurde yn 't algemien groepearre yn' e folgjende kategoryen foar fierder ûndersyk: 

• Wolwêzen (ynklusyf dat fan yndividuen as sels, maatskippij en sosjaal libben, en boargerlik libben) 
• Hannel en ekonomy 
• miljeu 
• Geo-strategysk en geo-polityk 
• Technologysk (systeemeigenskippen, ûntwerp en gebrûk) 

In list mei oerwagings foar elk fan 'e boppesteande kategoryen is opnommen tegearre mei har respektive kânsen en gefolgen. Guon binne relevant foar spesifike gefallen of tapassingen fan AI, wylst oaren generyk en agnostyk binne fan platfoarm of gebrûk. Gjin inkelde oerweging dy't hjir opnommen is, moat as prioriteit behannele wurde en as sadanich moatte allegear ûndersocht wurde. 

Dit ramt koe wurde brûkt op, mar net beheind ta, de folgjende manieren: 

• De kloof tusken prinsipes en beoardieling oerbrêgje troch in validearre mienskiplike taksonomy op te stellen fan it berik fan oerwagings dy't brûkt wurde kinne troch relevante belanghawwenden as basis om fierder tinken te ynformearjen en te foarmjen, ynklusyf elk beoardielingskader dat kin wurde ûntwikkele troch autoriteiten. 

• Om ynfloed beoardielingen te ynformearjen. De EU AI-wet fereasket organisaasjes dy't AI-ark leverje of AI yn har prosessen oannimme om in ynfloedbeoardieling út te fieren om it risiko fan har inisjativen te identifisearjen en in passende oanpak foar risikobehear te passen. It hjir presintearre ramt soe dêr as basis foar brûkt wurde kinne. 

• Om de etyske prinsipes te ferbetterjen dy't nedich binne om it gebrûk fan AI te begelieden en te regeljen. It ramt kin dit dwaan troch in fleksibele basis te leverjen wêrop betroubere systemen kinne wurde ûntwikkele en it wetlik, etysk, robúst en ferantwurde gebrûk fan 'e technology te garandearjen. Dizze prinsipes kinne wurde hifke tsjin it folsleine oanbod fan effekten presintearre yn dit ramt. 
• Om in ynventarisaasje fan besteande maatregels te fasilitearjen (dws regeljouwing, wetjouwing, belied) en identifisearje alle gatten dy't fierdere oerweging nedich binne. 

• It ramt is agnostysk foar de technology en har gebrûk. It koe dêrom brûkt wurde yn frij ûnderskate gebieten lykas syntetyske biology. 

De folgjende tabel is in betide foarmjouwing fan 'e dimensjes fan in analytysk ramt. Ofhinklik fan 'e technology en it gebrûk dêrfan, sille guon komponinten relevanter wêze as oaren. De foarbylden wurde foarsjoen om te yllustrearjen wêrom elk domein kin saak; yn kontekst, it ramt soe fereaskje kontekstueel relevante útwreiding. It is ek wichtich om te ûnderskieden tusken platfoarmûntwikkelingen en de generike problemen dy't by spesifike applikaasjes opkomme kinne.  

Kaai foar boarnen fan de beskriuwers

Plain tekst:
Gluckman, P. en Allen, K. 2018. Begryp fan wolwêzen yn 'e kontekst fan rappe digitale en byhearrende transformaasjes. INGSA. https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf 

Bold tekst:
OECD. 2022. OECD-ramt foar de klassifikaasje fan AI-systemen. OECD Digital Economy Papers, No.. 323, OECD Publishing, Parys. https://oecd.ai/en/classification 

Kursus tekst:
Nije beskriuwers (út meardere boarnen) 

Ofhinklik fan 'e reaksje op dit diskusjepapier, soe in saakkundige wurkgroep wurde foarme troch de ISC om it boppesteande analytyske ramt fierder te ûntwikkeljen of te wizigjen wêrmei belanghawwenden wiidweidich kinne sjen nei alle wichtige ûntjouwings fan platfoarms of gebrûksdimensjes. De wurkgroep soe dissiplinêr, geografysk en demografysk ferskaat wêze, mei ekspertize dy't spant fan technologybeoardieling oant iepenbier belied, fan minsklike ûntwikkeling oant sosjology en takomst en technologystúdzjes. 

Om mei te dwaan oan dit diskusjepapier, besykje asjebleaft Council.science/publications/framework-digital-technologies 

In protte minsken binne rieplachte by de ûntwikkeling fan dit papier, dat opsteld is troch Sir Peter Gluckman, presidint, ISC en Hema Sridhar, eardere haadwittenskipper, Ministearje fan Definsje, en no senior ûndersyksgenoat, Universiteit fan Auckland, Nij-Seelân. 

Benammen wy tankje Lord Martin Rees, eardere presidint fan 'e Royal Society en mei-oprjochter fan it Sintrum foar de stúdzje fan eksistinsjele risiko's, Universiteit fan Cambridge; Professor Shivaji Sondhi, heechlearaar natuerkunde, Universiteit fan Oxford; Professor K Vijay Raghavan, eardere wichtichste wittenskiplike adviseur foar it regear fan Yndia; Amandeep Singh Gill, gesant fan UN-sekretaris-generaal oer technology; Dr Seán Óh Éigeartaigh, Executive Director, Center for the Study of Existential Risks, University of Cambridge; Amanda-June Brawner, senior beliedsadviseur en Ian Wiggins, direkteur fan ynternasjonale saken, Royal Society UK; Dr Jerome Duberry, Dr Marie-Laure Salles, direkteur, Geneva Graduate Institute; Mr Chor Pharn Lee, Sintrum foar Strategyske Futures, Premier Minister syn Office, Singapore; Barend Mons en Dr Simon Hodson, de Komitee foar Gegevens (CoDATA); prof Yuko Harayama, Japan; Professor Rémi Quirion, presidint, INGSA; Dr Claire Craig, Universiteit fan Oxford en eardere haad fan foresight, Government Office of Science; en prof Yoshua Bengio, de wittenskiplike advysried fan 'e sekretaris-generaal fan' e FN en oan 'e Université de Montréal. De oanpak fan 'e checklist waard oer it algemien ûnderskreaun en de aktualiteit fan elke aksje troch de ISC waard beklamme.