De hantlieding fan 'e ISC biedt in wiidweidich ramt ûntworpen om de kloof te brêgen tusken prinsipes op heech nivo en praktysk, aksjeber belied. It reagearret op 'e driuwende needsaak foar in mienskiplik begryp fan sawol de kânsen as risiko's presintearre troch opkommende technologyen. Dit is in essinsjeel dokumint foar dyjingen dy't wurkje oan 'e beliedsnexus yn ús rap feroarjende digitale tiidrek.
It ramt ûndersiket it potensjeel fan AI en syn derivaten troch in wiidweidige lens, omfettet minsklik en maatskiplik wolwêzen tegearre mei eksterne faktoaren lykas ekonomy, polityk, it miljeu en feiligens. Guon aspekten fan 'e checklist kinne relevanter wêze as oaren, ôfhinklik fan 'e kontekst, mar bettere besluten lykje wierskynliker as alle domeinen wurde beskôge, sels as guon yn bepaalde gefallen fluch identifisearre wurde as irrelevant. Dit is de ynherinte wearde fan in checklist-oanpak.
"Yn in tiidrek markearre troch rappe technologyske ynnovaasje en komplekse wrâldwide útdagings, stelt it ramt fan 'e ISC foar wiidweidige en multydinsjonele analyze fan' e potinsjele gefolgen lieders yn steat om ynformeare, ferantwurde besluten te nimmen. It soarget derfoar dat wy, wylst wy technologysk foarútgeane, dat dogge mei in soarchfâldige ôfwaging fan 'e etyske, sosjale en ekonomyske gefolgen.
Peter Gluckman, ISC-foarsitter
Wylst prinsipes op heech nivo binne promulgearre troch ûnder oaren UNESCO, de OECD, de Jeropeeske Kommisje en de UN, en ferskate diskusjes trochgeane oangeande problemen fan mooglik bestjoer, regeljouwing, etyk en feiligens, is d'r in grutte kloof tusken sokke prinsipes en in bestjoer of regeljouwingskader. De ISC pakt dizze need oan mei har nije gids foar beliedsmakkers.
Dizze hantlieding foar beliedsmakkers is net bedoeld om in regeljouwingsrezjym te ferbieden, mar leaver om in oanpasber en evoluearjend analytysk ramt foar te stellen dat alle beoardielings- en regeljouwingsprosessen dy't kinne wurde ûntwikkele troch belanghawwenden, ynklusyf oerheden en it multilaterale systeem, kinne stypje.
"It ramt is in krityske stap yn it wrâldwide petear oer AI, om't it in basis biedt wêrfan wy konsensus kinne bouwe oer de gefolgen fan 'e technology foar sawol no as yn 'e takomst."
Hema Sridhar, eardere haadwittenskiplik adviseur, Ministearje fan Definsje, Nij-Seelân en no senior ûndersyksadviseur Fellow, Universiteit fan Auckland, Nij-Seelân.
Sûnt oktober 2023 hawwe d'r ferskate wichtige nasjonale en multilaterale inisjativen west mei fierdere oerweging fan 'e etyk en feiligens fan AI. De gefolgen fan AI op 'e yntegriteit fan guon fan ús krityske systemen, ynklusyf finansjeel, regearing, juridysk en ûnderwiis, lykas ferskate kennissystemen (ynklusyf wittenskiplike en lânseigen kennis), binne fan tanimmende soarch. It ramt wjerspegelet dizze aspekten fierder.
De feedback dy't oant no ta ûntfongen is fan ISC-leden en de ynternasjonale beliedsmienskiplike mienskip wurdt wjerspegele yn 'e feroare ferzje fan it analytyske ramt, dat no wurdt útbrocht as in gids foar beliedsmakkers.
In hantlieding foar beliedsmakkers: Evaluearje fan rap ûntwikkeljende technologyen ynklusyf AI, grutte taalmodellen en fierder
Dit diskusjepapier jout de skets fan in earste ramt om de meardere globale en nasjonale diskusjes te ynformearjen dy't plakfine yn ferbân mei AI.
Download it ramt foar gebrûk yn jo organisaasje
Hjir jouwe wy it ramtwurkark as in bewurkber Excel-blêd foar gebrûk yn jo organisaasje. As jo leaver in iepen boarne formaat, nim dan kontakt op [e-post beskerme].
Ynlieding
Snel opkommende technologyen presintearje útdaagjende problemen as it giet om har gebrûk, bestjoer en potinsjele regeljouwing. It oanhâldende belied en iepenbiere debatten oer keunstmjittige yntelliginsje (AI) en it gebrûk dêrfan hawwe dizze problemen yn akute fokus brocht. Brede prinsipes foar AI binne oankundige troch UNESCO, de OECD, de UN en oaren, ynklusyf de Bletchley-ferklearring fan it Feriene Keninkryk, en d'r binne opkommende jurisdiksjepogingen ta regeling fan aspekten fan 'e technology fia bygelyks de Jeropeeske Uny (EU) AI Act of de resinte Feriene Steaten AI Executive Order.
Wylst it gebrûk fan AI lang besprutsen wurdt yn dizze en oare fora, oer geopolitike skiedingen en yn lannen op alle ynkommensnivo's, bliuwt d'r in ontologyske gat tusken de ûntwikkeling fan prinsipes op hege nivo en har ynkorporaasje yn 'e praktyk troch regeljouwing, belied, bestjoer of stewardship benaderjen. It paad fan prinsipe nei praktyk is min definiearre, mar sjoen de aard en kadens fan AI-ûntwikkeling en tapassing, it ferskaat oan belangen belutsen en it oanbod fan mooglike tapassingen, kin elke oanpak net te generyk of preskriptyf wêze.
Om dizze redenen bliuwt de net-regearingswittenskiplike mienskip in bepaalde rol spylje. De International Science Council (ISC) - mei syn pluralistyske lidmaatskip fan 'e sosjale en natuerwittenskippen - publisearre yn oktober 2023 in diskusjepapier dat in foarriedich analytysk ramt presinteart dat de risiko's, foardielen, bedrigingen en kânsen beskôge as ferbûn mei rap bewegende digitale technology. Wylst it waard ûntwikkele om AI te beskôgjen, is it ynherint technologyagnostyk en kin wurde tapast op in ferskaat oan opkommende en disruptive technologyen, lykas syntetyske biology en kwantum. Dat diskusjepapier frege feedback fan akademisy en beliedsmakkers. De oerweldige feedback makke it útfieren fan sa'n analyse needsaaklik en stie as in weardefolle oanpak om opkommende technologyen lykas AI oan te pakken.
It doel fan it ramt is om in ark te leverjen om alle belanghawwenden te ynformearjen - ynklusyf oerheden, hannelsûnderhannelers, regulators, boargerlike maatskippij en yndustry - fan 'e evolúsje fan dizze technologyen om har te helpen om te bepalen hoe't se de gefolgen, posityf as negatyf, kinne beskôgje fan de technology sels, en mear spesifyk har bysûndere tapassing. Dit analytysk ramt is ûntwikkele ûnôfhinklik fan oerheid en yndustry belangen. It is maksimaal pluralistysk yn har perspektiven, omfiemet alle aspekten fan 'e technology en syn gefolgen basearre op wiidweidich oerlis en feedback.
Dit diskusjepapier foar beliedsmakkers is net bedoeld om in regeljouwingsrezjym te ferbieden, mar leaver om in oanpasber en evoluearjend analytysk ramt foar te stellen dat alle beoardielings- en regeljouwingsprosessen dy't ûntwikkele wurde kinne troch belanghawwenden, ynklusyf oerheden en it multylaterale systeem, stypje kinne.
Om't beslútmakkers wrâldwiid en nasjonaal passende beliedsynstellingen en hefbomen beskôgje om de risiko's en beleanningen fan in nije technology lykas AI te balansearjen, is it analytyske ramt bedoeld as in komplemintêr ark om te soargjen dat de folsleine suite fan potensjele gefolgen adekwaat wjerspegele wurdt.
Eftergrûn: wêrom in analytysk ramt?
De rappe opkomst fan technologyen mei de kompleksiteit en gefolgen fan AI driuwt in protte oanspraken fan grut foardiel. It provosearret lykwols ek eangsten foar wichtige risiko's, fan yndividueel oant geostrategysk nivo.1 In protte fan 'e diskusje oant no ta is beskôge yn in binêre sin, om't iepenbier útdrukte opfettingen de neiging hawwe om plak te nimmen oan' e ekstreme úteinen fan it spektrum. De oanspraken foar of tsjin AI binne faak hyperbolysk en - sjoen de aard fan 'e technology - lestich te beoardieljen.
In mear pragmatyske oanpak is nedich dêr't hyperbool wurdt ferfongen troch kalibrearre en mear korrelige evaluaasjes. AI-technology sil trochgean te evoluearjen, en skiednis lit sjen dat praktysk elke technology sawol foardielich as skealik gebrûk hat. De fraach is dêrom: hoe kinne wy de foardielige útkomsten fan dizze technology berikke, wylst wy it risiko fan skealike gefolgen ferminderje, wêrfan guon eksistinsjele yn omfang kinne wêze?
De takomst is altyd ûnwis, mar d'r binne genôch leauwende en saakkundige stimmen oangeande AI en generative AI om in relatyf foarsoarchsoanpak oan te moedigjen. Derneist is in systeemoanpak needsaaklik, om't AI in klasse fan technologyen is mei breed gebrûk en tapassing troch meardere soarten brûkers. Dit betsjut dat de folsleine kontekst moat wurde beskôge by it beskôgjen fan de gefolgen fan in elk AI-gebrûk foar yndividuen, sosjaal libben, boargerlik libben, maatskiplik libben en yn 'e wrâldwide kontekst.
Oars as de measte oare technologyen, foar digitale en relatearre technologyen, is de tiid tusken ûntwikkeling, frijlitting en tapassing ekstreem koart, foar in grut part dreaun troch de belangen fan 'e produksjebedriuwen of ynstânsjes. Troch har aard - en jûn dat it basearre is op 'e digitale rêchbonke - sil AI applikaasjes hawwe dy't rap pervasyf binne, lykas al sjoen mei de ûntwikkeling fan grutte taalmodellen. As gefolch, guon eigenskippen meie pas bliken nei frijlitting, wat betsjut dat der it risiko fan ûnfoarsjoene gefolgen, sawol kwea-aardich as goedwillich.
Wichtige dimensjes fan maatskiplike wearden, benammen oer ferskate regio's en kultueren, sille beynfloedzje hoe't elk gebrûk wurdt waarnommen en akseptearre. Fierder dominearje geostrategyske belangen de diskusje al, mei't soevereine en multylaterale belangen kontinu krúst en sadwaande konkurrinsje en ferdieling driuwe.
Oant no ta is in protte fan 'e regeljouwing fan in firtuele technology foar in grut part sjoen troch de lens fan 'prinsipes' en frijwillige neilibjen, hoewol mei de EU AI Act2 en ferlykber sjogge wy in ferskowing nei mear te hanthavenjen, mar wat smelle regeljouwing. It oprjochtsjen fan in effektyf wrâldwide as nasjonaal technologybestjoer en/of regeljouwingsysteem bliuwt útdaagjend en d'r is gjin foar de hân lizzende oplossing. Meardere lagen fan risiko-ynformearre beslútfoarming sille nedich wêze lâns de keten, fan útfiner oant produsint, oant brûker, nei oerheid en nei it multilaterale systeem.
Wylst prinsipes op heech nivo binne promulgearre troch UNESCO, de OECD, de Jeropeeske Kommisje en de UN, ûnder oaren, en ferskate diskusjes op heech nivo trochgeane oer kwestjes fan mooglike bestjoer, regeljouwing, etyk en feiligens, is d'r in grut gat tusken sokke prinsipes en in bestjoer of regeljouwingskader. Dit moat oanpakt wurde.
As útgongspunt beskôget de ISC it ûntwikkeljen fan in taksonomy fan ôfwagings dy't elke ûntwikkelder, tafersjochhâlder, beliedsadviseur, konsumint of beslútfoarmer ferwize kin. Sjoen de brede gefolgen fan dizze technologyen, moat sa'n taksonomy it totaal fan gefolgen beskôgje ynstee fan in smel rjochte framing. Globale fragmintaasje nimt ta troch de ynfloed fan geostrategyske belangen op beslútfoarming, en sjoen de urginsje fan dizze technology, is it essinsjeel foar ûnôfhinklike en neutrale stimmen om oanhâldend in unifoarme en ynklusive oanpak te stride.
1) Hindustan Times. 2023. G20 moat opsette in ynternasjonaal paniel op technologyske feroaring.
https://www.hindustantimes.com/opinion/g20-must-set-up-an-international-panel-on-technological-change-101679237287848.html
2) De EU Artificial Intelligence Act. 2023. https://artificialintelligenceact.eu
De ûntwikkeling fan in analytysk ramt
De ISC is de primêre wrâldwide net-regearingsorganisaasje dy't natuerlike en sosjale wittenskippen yntegrearret. It wrâldwide en dissiplinêre berik betsjut dat it goed pleatst is om ûnôfhinklik en wrâldwiid relevant advys te generearjen om de komplekse karren foarút te ynformearjen, benammen om't de hjoeddeistige stimmen yn dizze arena foar in grut part binne fan 'e yndustry as fan' e belieds- en politike mienskippen fan 'e grutte technologyske machten.
Nei in perioade fan wiidweidige diskusje, dy't it beskôgjen fan in net-regearingsbeoardielingsproses omfette, konkludearre de ISC dat syn meast nuttige bydrage soe wêze om in adaptyf analytysk ramt te meitsjen dat kin wurde brûkt as basis foar diskusje en beslútfoarming troch alle belanghawwenden, ynklusyf by alle formele beoardielingsprosessen dy't ûntsteane.
It foarriedige analytyske ramt, dat waard frijjûn foar diskusje en feedback yn oktober 2023, naam de foarm oan fan in oerkoepeljende checklist ûntworpen foar gebrûk troch sawol oerheid as net-regearingsynstellingen. It ramt identifisearre en ûndersocht it potensjeel fan in technology lykas AI en syn derivaten troch in brede lens dy't minsklik en maatskiplik wolwêzen omfettet, lykas ek eksterne faktoaren lykas ekonomy, polityk, it miljeu en feiligens. Guon aspekten fan 'e checklist kinne relevanter wêze as oaren, ôfhinklik fan 'e kontekst, mar bettere besluten lykje wierskynliker as alle domeinen wurde beskôge, sels as guon yn bepaalde gefallen fluch identifisearre wurde as irrelevant. Dit is de ynherinte wearde fan in checklist-oanpak.
It foarriedige ramt is ôflaat fan earder wurk en tinken, ynklusyf it rapport fan it International Network for Governmental Science Advice (INGSA) oer digitaal wolwêzen3 en it OECD Framework for the Classification of AI Systems,4 om it totaal fan 'e potinsjele kânsen, risiko's en gefolgen te presintearjen. fan AI. Dizze eardere produkten wiene mear beheind yn har yntinsje sjoen har tiid en kontekst; der is ferlet fan in oerkoepeljend ramt dat it folsleine oanbod fan saken op koarte en langere termyn presintearret.
Sûnt syn frijlitting hat it diskusjepapier wichtige stipe krigen fan in protte saakkundigen en beliedsmakkers. In protte hawwe de oanbefelling spesifyk ûnderskreaun om in oanpasber ramt te ûntwikkeljen dat it bewuste en proaktyf beskôgjen fan 'e risiko's en gefolgen fan' e technology mooglik makket, en dêrby altyd de totaliteit fan dimensjes fan it yndividu nei de maatskippij en systemen beskôget.
Ien wichtige observaasje makke troch de feedback wie de erkenning dat ferskate fan 'e gefolgen dy't yn it ramt beskôge wurde, ynherint mannichfâldich binne en útwreidzje oer meardere kategoryen. Bygelyks, disinformaasje koe wurde beskôge fan sawol de yndividuele en geostrategyske lens; sadwaande soene de gefolgen breed wêze.
De opsje om case studies of foarbylden op te nimmen om it ramt te testen waard ek suggerearre. Dit kin brûkt wurde om rjochtlinen te ûntwikkeljen om te demonstrearjen hoe't it yn 'e praktyk yn ferskate konteksten brûkt wurde koe. Dit soe lykwols in wichtige ûndernimming wêze en kin beheine hoe't ferskate groepen it gebrûk fan dit ramt waarnimme. It wurdt it bêste dien troch beliedsmakkers dy't wurkje mei saakkundigen yn spesifike jurisdiksjes of konteksten.
Sûnt oktober 2023 hawwe d'r ferskate wichtige nasjonale en multilaterale inisjativen west mei fierdere oerweging fan 'e etyk en feiligens fan AI. De gefolgen fan AI op 'e yntegriteit fan guon fan ús krityske systemen, ynklusyf finansjeel, regearing, juridysk en ûnderwiis, lykas ferskate kennissystemen (ynklusyf wittenskiplike en lânseigen kennis), binne fan tanimmende soarch. It herziene ramt wjerspegelet dizze aspekten fierder.
De feedback dy't oant no ta ûntfongen is, wurdt wjerspegele yn 'e feroare ferzje fan it analytysk ramt, dat no wurdt útbrocht as in gids foar beliedsmakkers.
Wylst it ramt wurdt presintearre yn 'e kontekst fan AI en relatearre technologyen, is it fuortendaliks oerdraachber nei de oerwagings fan oare rap opkommende technologyen lykas kwantum- en syntetyske biology.
3) Gluckman, P. en Allen, K. 2018. Begryp fan wolwêzen yn 'e kontekst fan rappe digitale en assosjearre transformaasjes. INGSA.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
4) OECD. 2022. OECD-ramt foar de klassifikaasje fan AI-systemen. OECD Digital Economy Papers, No.. 323, #. Parys, OECD Publishing.
https://oecd.ai/en/classificatio
It Kader
De folgjende tabel presintearret de dimensjes fan in putatyf analytysk ramt. Foarbylden wurde jûn om te yllustrearjen wêrom't elk domein fan belang kin; yn kontekst, it ramt soe fereaskje kontekstueel relevante útwreiding. It is ek wichtich om te ûnderskieden tusken de generike problemen dy't ûntsteane tidens platfoarmûntwikkelingen en dyjingen dy't kinne ûntsteane tidens spesifike applikaasjes. Gjin inkelde oerweging dy't hjir opnommen is, moat as prioriteit behannele wurde en as sadanich moatte allegear ûndersocht wurde.
De problemen binne breed groepearre yn 'e folgjende kategoryen lykas hjirûnder sketst:
De tabel beskriuwt ôfmjittings dy't miskien moatte wurde beskôge by it evaluearjen fan in nije technology.
– INGSA. 2018. Wolwêzen begripe yn 'e kontekst fan rappe digitale en assosjearre transformaasjes.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
– Nije deskriptoren (oantroffen troch de wiidweidige oerlis en feedback en literatuerbeoardieling)
– OECD-raamwurk foar de klassifikaasje fan KI-systemen: in ark foar effektyf KI-belied.
https://oecd.ai/en/classification
| Kriteria | Foarbylden fan hoe't dit kin wurde wjerspegele yn analyse |
| AI-kompetinsje fan brûkers | Hoe kompetint en bewust fan 'e eigenskippen fan it systeem binne de wierskynlike brûkers dy't sille ynteraksje mei it systeem? Hoe sille se de relevante brûkersynformaasje en warskôgings krije? |
| Betroffen belanghawwenden | Wa binne de primêre belanghawwenden dy't beynfloede wurde troch it systeem (persoanen, mienskippen, kwetsbere, sektorale arbeiders, bern, beliedsmakkers, professionals ensfh.)? |
| Opsjonaliteit | Krij brûkers de kâns om út it systeem te kiezen of krije se kânsen om de útfier út te daagjen of te korrigearjen? |
| Risiko's foar minskerjochten en demokratyske wearden | Hat it systeem grûnslach ynfloed op minskerjochten, ynklusyf mar net beheind ta privacy, frijheid fan mieningsutering, earlikens, net-diskriminearjend ensfh. |
| Potinsjele effekten op it wolwêzen fan minsken | Binne de ynfloedgebieten fan it systeem relatearre oan it wolwêzen fan 'e yndividuele brûker (wurkkwaliteit, ûnderwiis, sosjale ynteraksjes, mentale sûnens, identiteit, omjouwing ensfh.)? |
| Potinsjeel foar minsklike arbeidsferpleatsing | Is d'r in potinsjeel foar it systeem om taken of funksjes te automatisearjen dy't waarden útfierd troch minsken? As dat sa is, wat binne de streamôfwerts gefolgen? |
| Potinsjeel foar identiteit, wearden of kennismanipulaasje | Is it systeem ûntwurpen of mooglik by steat om te manipulearje de brûker syn identiteit of wearden ynsteld, of disinformaasje ferspriede? |
| Kânsen foar selsútdrukking en selsaktualisaasje | Is d'r in potinsjeel foar keunstmjittigens en selstwifel? Is der in potinsjeel foar falske of unverifiable oanspraken fan saakkundigens? |
| Maatregels fan eigenwearde | Is d'r druk om idealisearre sels te skilderjen? Koe automatisearring ferfange in sin fan persoanlike ferfolling? Is der druk om te konkurrearjen mei it systeem yn 'e wurkplak? Is yndividuele reputaasje dreger te beskermjen tsjin disinformaasje? |
| privacy | Binne d'r diffuse ferantwurdlikheden foar it beskermjen fan privacy en binne d'r ien oannames wurde makke oer hoe't persoanlike gegevens wurde brûkt? |
| Autonomy | Koe it AI-systeem beynfloedzje minsklike autonomy troch te generearjen oerbetrouwen troch ein brûkers? |
| Minsklike ûntwikkeling | Is d'r in ynfloed op it oernimmen fan kaaifeardigens foar minsklike ûntwikkeling, lykas útfierende funksjes of ynterpersoanlike feardichheden, of feroarings yn oandacht tiid beynfloedzje learen, persoanlikheid ûntwikkeling, mentale sûnens soargen ensfh? |
| Persoanlike sûnenssoarch | Binne d'r oanspraken fan selsdiagnoaze of personaliseare oplossingen foar sûnenssoarch? As dat sa is, binne se falidearre oan regeljouwing noarmen? |
| Geastlike sûnens | Is der in risiko fan ferhege eangst, iensumens of oare geastlike sûnens problemen, of kin de technology sokke effekten ferbetterje? |
| Human evolúsje | Koe grutte taal modellen en keunstmjittige algemiene yntelliginsje feroarje de rin fan minsklike evolúsje? |
| Minske-masine ynteraksje | Koe it gebrûk liede ta de-feardigens en ôfhinklikens oer tiid foar yndividuen? Binne d'r ynfloed op minsklike ynteraksje? |
| Kriteria | Foarbylden fan hoe't dit kin wurde wjerspegele yn analyse |
| Maatskiplike wearden | Feroaret it systeem de aard fan 'e maatskippij yn essinsje, makket it normalisearjen fan ideeën dy't earder as anty-sosjaal beskôge wurde mooglik, of skeint de maatskiplike wearden fan 'e kultuer wêryn it wurdt tapast? |
| Sosjale ynteraksjes | Is der in effekt op sinfol minsklik kontakt, ynklusyf emosjonele relaasjes? |
| Befolkingssûnens | Is d'r in potinsjeel foar it systeem om de bedoelingen fan 'e befolkingssûnens te befoarderjen of te ûndergraven? |
| Kulturele útdrukking | Is in tanimming fan kulturele taeigening of diskriminaasje wierskynlik of dreger om oan te pakken? Sleat it fertrouwen op it systeem foar beslútfoarming út of marginalisearret kultureel relevante ôfdielingsferbannen fan 'e maatskippij? |
| Iepenbiere oplieding | Is d'r in effekt op learaarrollen of ûnderwiisynstellingen? Beklammet of ferminderje it systeem de digitale skieding en ûngelikens tusken studinten? Is de yntrinsike wearde fan kennis of kritysk begryp avansearre of ûndermine? |
| Ferfoarme realiteiten | Binne de metoaden dy't brûkt wurde om te ûnderskieden wat wier is noch fan tapassing? Is de waarnimming fan 'e realiteit kompromittearre? |
| Kriteria | Foarbylden fan hoe't dit kin wurde wjerspegele yn analyse |
| Yndustriële sektor | Yn hokker yndustrysektor wurdt it systeem ynset (finânsjes, lânbou, sûnenssoarch, ûnderwiis, definsje ensfh.)? |
| Bedriuwsmodel | Yn hokker saaklike funksje wurdt it systeem brûkt en yn hokker kapasiteit? Wêr wurdt it systeem brûkt (privee, iepenbier, non-profit)? |
| Ynfloeden op krityske aktiviteiten | Soe in fersteuring fan 'e funksje of aktiviteit fan it systeem essensjele tsjinsten as krityske ynfrastruktuer beynfloedzje? |
| Breedte fan ynset | Hoe wurdt it systeem ynset (smel gebrûk binnen ienheid vs. wiidferspraat nasjonaal / ynternasjonaal)? |
| Technyske folwoeksenheid | Hoe technysk folwoeksen is it systeem? |
| ynteroperabiliteit | Binne d'r wierskynlik silo's, lanlik as wrâldwiid, dy't frije hannel remme en ynfloed hawwe op gearwurking mei partners? |
| Technologyske soevereiniteit | Is in winsk foar technologyske soevereiniteit driuwend gedrach, ynklusyf kontrôle oer de heule AI-oanbodketen? |
| Ynkommen werferdieling en nasjonale fiskale levers | Koe de kearnrollen fan 'e soevereine steat kompromittearre wurde (bygelyks reservebanken)? Sil it fermogen fan 'e steat om te foldwaan oan' e ferwachtingen en gefolgen fan 'e boargers (sosjaal, ekonomysk, politike ensfh.) wurde avansearre of fermindere? |
| Digitale kloof (KI-kloof) | Binne besteande digitale ûngelikens fergrutte of nije ûntstien? |
| Kriteria | Foarbylden fan hoe't dit kin wurde wjerspegele yn analyse |
| Bestjoer en publike tsjinst | Kinne de bestjoersmeganismen en it globale bestjoerssysteem posityf as negatyf beynfloede wurde? |
| Nijs media | Is it iepenbier diskusje wierskynlik polarisearre en ferankere op in befolkingsnivo? Sil d'r in effekt wêze op 'e nivo's fan fertrouwen yn' e fjirde lângoed? Sille konvinsjonele etyk en yntegriteitsnormen foar sjoernalisten fierder beynfloede wurde? |
| Regeljouwing | Sil d'r in effekt wêze op 'e mooglikheid om yndividuen of organisaasjes te identifisearjen om ferantwurding te hâlden (bygelyks hokker soarte fan ferantwurding te jaan oan in algoritme foar neidielige útkomsten)? Is der in ferlies oan soevereiniteit ûntstien (miljeu, fiskaal, sosjaal belied, etyk ensfh.)? |
| Polityk en sosjale gearhing | Is d'r in mooglikheid fan mear ferankere politike opfettingen en minder kâns foar konsensusbou? Is d'r de mooglikheid om groepen fierder te marginalisearjen? Binne tsjinstridige stilen fan polityk mear of minder wierskynlik makke? |
| Sosjaal lisinsje | Binne d'r soargen oer privacy, fertrouwensproblemen en morele soargen dy't moatte wurde beskôge foar akseptaasje fan belanghawwenden fan it gebrûk? |
| Ynheemse kennis | Koe ynheemse kennis en gegevens beskeadige of ferkeard wurde? Binne der adekwate maatregels om te beskermjen tsjin ferkearde foarstelling, ferkearde ynformaasje en eksploitaasje? |
| Wittenskiplik systeem | Is akademyske en ûndersyksintegriteit kompromittearre? Is d'r in ferlies fan fertrouwen yn 'e wittenskip? Binne der mooglikheden foar misbrûk, oerbrûk of misbrûk? Wat is it gefolch fan 'e praktyk fan 'e wittenskip? |
| Kriteria | Foarbylden fan hoe't dit kin wurde wjerspegele yn analyse |
| Precision tafersjoch | Binne de systemen oplaat op yndividuele gedrachs- en biologyske gegevens en kinne se brûkt wurde om yndividuen of groepen te eksploitearjen? |
| Digitale kompetysje | Kinne steats- as net-steatsakteurs (bgl. grutte technologybedriuwen) systemen en gegevens brûke om de populaasjes en ekosystemen fan oare lannen te begripen en te kontrolearjen, of jurisdiksjekontrôle te ûndergraven? |
| Geopolityske konkurrinsje | Koe it systeem konkurrinsje tusken folken stimulearje oer it benutten fan yndividuele en groepgegevens foar ekonomyske, medyske en feiligensbelangen? |
| Feroaring yn globale machten | Is de status fan nasjonale steaten as de primêre geopolitike akteurs fan 'e wrâld bedrige? Hawwe technologybedriuwen macht ienris reservearre foar naasjesteaten en binne se ûnôfhinklike, soevereine akteurs wurden (opkommende technopolêre wrâldoarder)? |
| Disinformation | Soe it systeem de produksje en fersprieding fan disinformaasje troch steat en net-steat akteurs fasilitearje mei in ynfloed op sosjale gearhing, fertrouwen en demokrasy? |
| Applikaasjes foar dûbel gebrûk | Is d'r in mooglikheid foar sawol militêre tapassing as sivile gebrûk? |
| Fragmentaasje fan wrâldoarder | Kinne silo's of klusters fan regeljouwing en neilibjen ûntwikkelje dy't gearwurking hinderje, liede ta inkonsistinsjes yn tapassing en romte meitsje foar konflikt? |
| Kriteria | Foarbylden fan hoe't dit kin wurde wjerspegele yn analyse |
| Enerzjy- en boarneferbrûk (carbon footprint) | Ferheegje it systeem en easken de opname fan enerzjy en boarneferbrûk boppe de effisjinsjewinsten dy't troch de applikaasje krigen wurde? |
| Enerzjyboarne | Wêr komt de enerzjy wei foar it systeem (duorsume tsjin fossile brânstoffen ensfh.)? |
| Kriteria | Foarbylden fan hoe't dit kin wurde wjerspegele yn analyse |
| Rjochting en kolleksje | Binne de gegevens en ynfier sammele troch minsken, automatisearre sensoren of beide? |
| Herkomst fan de gegevens | Binne de gegevens en ynput fan saakkundigen levere, waarnommen, syntetysk of ôflaat? Binne d'r wettermerkbeskermings om herkomst te befestigjen? |
| Dynamyske aard fan de gegevens | Binne de gegevens dynamysk, statysk, dynamysk bywurke fan tiid ta tiid as real-time? |
| Rjochten | Binne de gegevens proprietêr, iepenbier of persoanlik (relatearre oan identifisearbere persoanen)? |
| Identifikaasje en persoanlike gegevens | As persoanlik, binne de gegevens anonymisearre of pseudonymisearre? |
| Struktuer fan de gegevens | Binne de gegevens strukturearre, semy-strukturearre, komplekse strukturearre of net-strukturearre? |
| Opmaak fan de gegevens | Is it formaat fan 'e gegevens en metadata standerdisearre as net-standerdisearre? |
| Skaal fan de gegevens | Wat is de skaal fan de dataset? |
| Geskiktheid en kwaliteit fan de gegevens | Is de dataset geskikt foar doel? Is de stekproefgrutte adekwaat? Is it represintatyf en folslein genôch? Hoe lûd binne de gegevens? Is it gefoelich foar flaters? |
| Kriteria | Foarbylden fan hoe't dit kin wurde wjerspegele yn analyse |
| Ynformaasje beskikberens | Is der ynformaasje beskikber oer it model fan it systeem? |
| Soart AI-model | Is it model symboalysk (minsklike generearre regels), statistysk (brûkt gegevens) of hybride? |
| Rjochten ferbûn mei model | Is it model iepen-boarne of proprietêr, sels- as tredde partij beheard? |
| Ien fan meardere modellen | Is it systeem gearstald út ien model of meardere keppele modellen? |
| Generatyf of diskriminearjend | Is it model generatyf, diskriminatyf of beide? |
| Model gebou | Leart it systeem basearre op troch de minske skreaune regels, fan gegevens, troch begeliede learen of troch fersterking learen? |
| Model evolúsje (AI drift) | Evoluearret it model en / of krijt kapasiteiten út ynteraksje mei gegevens op it fjild? |
| Federearre of sintraal learen | Is it model sintraal of yn ferskate lokale servers of 'edge'-apparaten trainearre? |
| Untwikkeling/ûnderhâld | Is it model universeel, oanpasber of ôfstimd op de gegevens fan 'e AI-akteur? |
| Deterministysk of probabilistysk | Is it model brûkt op in deterministyske of probabilistyske manier? |
| Model transparânsje | Is ynformaasje beskikber foar brûkers om har modelútgongen en beheiningen te begripen of beheiningen te brûken? |
| Computational beheining | Binne d'r berekkeningsbeheiningen foar it systeem? Is it mooglik om kapasiteitssprongen of skaalwetten te foarsizzen? |
| Kriteria | Foarbylden fan hoe't dit kin wurde wjerspegele yn analyse |
| Taak(en) útfierd troch systeem | Hokker taken docht it systeem (erkenning, evenemintdeteksje, foarsizzing ensfh.)? |
| It kombinearjen fan taken en aksjes | Kombinearret it systeem ferskate taken en aksjes (ynhâldgeneraasjesystemen, autonome systemen, kontrôlesystemen ensfh.)? |
| It nivo fan autonomy fan it systeem | Hoe autonoom binne de aksjes fan it systeem en hokker rol spylje minsken? |
| Mjitte fan minsklike belutsenens | Is d'r wat minsklike belutsenens om tafersjoch te hâlden op de algemiene aktiviteit fan it AI-systeem en de mooglikheid om te besluten wannear en hoe it AI-systeem yn elke situaasje te brûken? |
| Core applikaasje | Hâldt it systeem ta in kearnapplikaasjegebiet lykas minsklike taaltechnologyen, kompjûterfisy, automatisearring en/of optimalisaasje of robotika? |
| evaluaasje | Binne noarmen of metoaden beskikber foar it evaluearjen fan systeemútfier? |
Hoe koe dit ramt brûkt wurde?
Dit ramt koe op in protte manieren brûkt wurde, ynklusyf:
In wei foarút
Gearfetsjend, it analytyske ramt wurdt levere as basis fan in toolkit dy't koe wurde brûkt troch belanghawwenden om wiidweidich te sjen nei de wichtige ûntjouwings fan platfoarms of fan gebrûk op in konsekwinte en systematyske manier. De dimensjes presintearre yn dit ramt hawwe relevânsje fan technologybeoardieling oant iepenbier belied, fan minsklike ûntwikkeling oant sosjology, en takomst- en technologystúdzjes. Hoewol ûntwikkele foar AI, hat dit analytyske ramt folle bredere tapassing foar elke oare opkommende technology.
Acknowledgements
In protte minsken binne rieplachte en hawwe feedback jûn by de ûntwikkeling fan sawol it earste diskusjedokumint as feedback nei de publikaasje. Beide dokuminten waarden opsteld troch Sir Peter Gluckman, presidint, de ISC en Hema Sridhar, eardere haadwittenskiplik adviseur, Ministearje fan Definsje, Nij-Seelân en no Senior Research Fellow, Universiteit fan Auckland, Nij-Seelân.
Benammen de ISC Lord Martin Rees, eardere presidint fan 'e Royal Society en mei-oprjochter fan it Sintrum foar de stúdzje fan eksistinsjele risiko's, Universiteit fan Cambridge; Professor Shivaji Sondhi, heechlearaar natuerkunde, Universiteit fan Oxford; Professor K Vijay Raghavan, eardere haadwittenskiplike adviseur foar it regear fan Yndia; Amandeep Singh Gill, de gesant fan 'e UN-sekretaris-generaal oer technology; Seán Ó hÉigeartaigh, Executive Director, Center for the Study of Existential Risks, University of Cambridge; Sir David Spiegelhalter, Winton heechlearaar fan it iepenbier begryp fan risiko, Universiteit
fan Cambridge; Amanda-June Brawner, senior beliedsadviseur en Ian Wiggins, direkteur fan ynternasjonale saken, Royal Society, Feriene Keninkryk; Dr Jerome Duberry, Managing Director en Dr Marie-Laure Salles, Direkteur, Geneva Graduate Institute; Chor Pharn Lee, Sintrum foar Strategyske Futures, minister-presidint, Singapore; Barend Mons en Dr Simon Hodson, de Komitee foar Gegevens (CoDATA); Professor Yuko Harayama, eardere direkteur, RIKEN; Professor
Rémi Quirion, presidint, INGSA; Dr Claire Craig, Universiteit fan Oxford en eardere haad fan foresight, Government Office of Science; Prof Yoshua Bengio, de Wittenskiplike Advysried fan 'e sekretaris-generaal fan' e FN en oan 'e Université de Montréal; en de protte oaren dy't feedback levere oan 'e ISC oer it earste diskusjepapier.
Tarieding fan nasjonale ûndersyksekosystemen foar AI: Strategyen en foarútgong yn 2024
Dit wurkpapier fan 'e tinktank fan' e ISC, it Centre for Science Futures, leveret fûnemintele ynformaasje en tagong ta boarnen út lannen út alle dielen fan 'e wrâld, yn ferskate stadia fan yntegraasje fan AI yn har ûndersyksekosystemen.
It bouwen fan takomstklear wittenskiplike systemen yn it Globale Súd
Opkommende technologyen feroarje de manier wêrop wittenskip wurdt útfierd en biede in wichtige mooglikheid om wittenskiplike systemen yn it Globale Súd te fersterkjen - as har oannimmen laat wurdt troch ynklusive, goed ûnderboude en kontekstgefoelige oanpakken. Hoe't derfoar soarge wurde kin dat dizze technologyen bydrage oan rjochtfeardiger en fearkrêftiger wittenskiplike systemen, ynstee fan besteande ferskillen te fersterkjen, wie de sintrale fokus fan dizze resinte strategyske retreat.
Lês mear oer AI-iepenbiering yn ûndersyk: nei in wrâldwide rapportaazjestandert 
Lês mear oer Nei gelikense rjochten foar manlju en froulju yn wittenskiplike organisaasjes: beoardieling en oanbefellings 
Lês mear oer de wrâldwide kennisdialooch fan Muscat 