Մի շարք ակադեմիկոսների և քաղաքականության փորձագետների կողմից առաջարկվել է, որ Միջազգային գիտական խորհուրդը, սոցիալական և բնական գիտությունների իր բազմակարծ անդամներով, ստեղծի գործընթաց՝ ստեղծելու և պահպանելու ռիսկերի, օգուտների, սպառնալիքների և հնարավորությունների ծանոթագրված շրջանակ/ստուգիչ ցուցակ: կապված արագ շարժվող թվային տեխնոլոգիաների հետ, ներառյալ, բայց չսահմանափակվելով AI-ով: Ստուգաթերթի նպատակը կլինի բոլոր շահագրգիռ կողմերին՝ ներառյալ կառավարություններին, առևտրային բանակցողներին, կարգավորող մարմիններին, քաղաքացիական հասարակությանը և արդյունաբերությանը, տեղեկացնել ապագա հնարավոր սցենարների մասին և կսահմանի, թե ինչպես նրանք կարող են հաշվի առնել հնարավորությունները, օգուտները, ռիսկերը և այլ հարցեր:
ISC-ն ուրախ է ներկայացնել այս քննարկման փաստաթուղթը արագ զարգացող թվային և հարակից տեխնոլոգիաների գնահատման վերաբերյալ: Արհեստական ինտելեկտը, սինթետիկ կենսաբանությունը և քվանտային տեխնոլոգիաները գիտության կողմից տեղեկացված նորարարության վառ օրինակներ են, որոնք առաջանում են աննախադեպ արագությամբ: Կարող է դժվար լինել համակարգված կերպով կանխատեսել ոչ միայն դրանց կիրառությունները, այլև դրանց հետևանքները:
Գեներատիվ արհեստական ինտելեկտի սոցիալական ասպեկտների գնահատումը, ինչպիսիք են լեզվական մեծ մոդելները, որոնք կանխատեսելիորեն ներկայացնում են այս քննարկման փաստաթղթի մեծ մասը, անհրաժեշտ կամուրջ է ներկա դիսկուրսի մեջ՝ երբեմն խուճապի հետևանքով, երբեմն՝ ոչ բավականաչափ խորը մտքերով, և անհրաժեշտ դասընթացների համար: գործողություն, որը մենք կարող ենք ձեռնարկել: ISC-ն համոզված է, որ նման նոր տեխնոլոգիաների սոցիալական ընդունման և դրանց հնարավոր կարգավորման միջև վերլուծական շրջանակ է պահանջվում՝ հեշտացնելու բազմակողմ քննարկումները, որոնք անհրաժեշտ են տեղեկացված և պատասխանատու որոշումներ կայացնելու համար, թե ինչպես օպտիմալացնել այս արագ զարգացող տեխնոլոգիայի սոցիալական օգուտները:
ISC-ն բաց է մեր համայնքի արձագանքներին այս քննարկման փաստաթղթի միջոցով, որպեսզի գնահատի, թե ինչպես լավագույնս շարունակել մաս կազմել և նպաստել տեխնոլոգիայի շուրջ բանավեճին:
Սալվատորե Արիկո, գործադիր տնօրեն
ISC քննարկման փաստաթուղթ
Արագ զարգացող թվային և հարակից տեխնոլոգիաների գնահատման շրջանակ՝ AI, մեծ լեզվական մոդելներ և դրանից դուրս
Այս քննարկման փաստաթուղթը տրամադրում է նախնական շրջանակի ուրվագիծ՝ տեղեկացնելու արհեստական ինտելեկտի հետ կապված բազմաթիվ գլոբալ և ազգային քննարկումները:
Ներբեռնեք զեկույցը
New! Կարդացեք 2024-ի տարբերակը քաղաքականություն մշակողների համար՝ ձեր կազմակերպության համար ներբեռնվող շրջանակով:
Ուղեցույց քաղաքականություն մշակողների համար. արագ զարգացող տեխնոլոգիաների գնահատում, ներառյալ արհեստական ինտելեկտը, մեծ լեզվական մոդելները և դրանից դուրս
Այս քննարկման փաստաթուղթը տրամադրում է նախնական շրջանակի ուրվագիծ՝ տեղեկացնելու արհեստական ինտելեկտի հետ կապված բազմաթիվ գլոբալ և ազգային քննարկումները:
Բովանդակություն
ներածություն
Արագ զարգացող տեխնոլոգիաները մարտահրավեր են նետում, երբ խոսքը վերաբերում է դրանց կառավարմանը և հնարավոր կարգավորմանը: Արհեստական ինտելեկտի (AI) և դրա կիրառման վերաբերյալ քաղաքականությունը և հանրային քննարկումները սուր ուշադրության կենտրոնում են դրել այս խնդիրները: Թեև ՅՈՒՆԵՍԿՕ-ի, ՏՀԶԿ-ի և այլոց կողմից հրապարակվել են արհեստական ինտելեկտի լայն սկզբունքներ, և կան նոր քննարկումներ՝ կապված տեխնոլոգիայի գլոբալ կամ իրավասության կարգավորման հետ, գոյություն ունի բարձր մակարդակի սկզբունքների մշակման և կարգավորող քաղաքականության մեջ դրանց ներառման միջև գոյաբանական բացը: կառավարման և կառավարման մոտեցումները: Այստեղ է, որ ոչ կառավարական գիտական հանրությունը կարող է առանձնահատուկ դեր ունենալ:
Մի շարք ակադեմիկոսների և քաղաքականության փորձագետների կողմից առաջարկվել է, որ Միջազգային գիտական խորհուրդը (ISC)՝ սոցիալական և բնական գիտությունների իր բազմակարծ անդամությամբ, ստեղծի գործընթաց՝ ստեղծելու և պահպանելու ռիսկերի, օգուտների ծանոթագրված շրջանակ/ստուգիչ ցուցակ, արագ շարժվող թվային տեխնոլոգիաների հետ կապված սպառնալիքներ և հնարավորություններ, ներառյալ, բայց չսահմանափակվելով AI-ով: Ստուգաթերթի նպատակը կլինի բոլոր շահագրգիռ կողմերին՝ ներառյալ կառավարություններին, առևտրային բանակցողներին, կարգավորող մարմիններին, քաղաքացիական հասարակությանը և արդյունաբերությանը, տեղեկացնել ապագա հնարավոր սցենարների մասին և կսահմանի, թե ինչպես նրանք կարող են հաշվի առնել հնարավորությունները, օգուտները, ռիսկերը և այլ հարցեր:
Արդյունքները չեն գործի որպես գնահատման մարմին, այլ որպես հարմարվողական և զարգացող վերլուծական շրջանակ, որը կարող է հիմք հանդիսանալ ցանկացած գնահատման և կարգավորման գործընթացի, որը կարող է մշակվել շահագրգիռ կողմերի, ներառյալ կառավարությունների և բազմակողմ համակարգի կողմից: Ցանկացած վերլուծական շրջանակ պետք է իդեալականորեն մշակվի անկախ պետական և արդյունաբերական պահանջներից՝ հաշվի առնելով նրանց հասկանալի շահերը: Այն նաև պետք է լինի առավելագույնս բազմակարծիք իր հեռանկարներով՝ այդպիսով ներառելով տեխնոլոգիայի բոլոր ասպեկտները և դրա հետևանքները:
Այս քննարկման փաստաթուղթը տրամադրում է նախնական շրջանակի ուրվագիծ՝ տեղեկացնելու արհեստական ինտելեկտի հետ կապված բազմաթիվ գլոբալ և ազգային քննարկումները:
Նախապատմություն. Ինչու՞ վերլուծական շրջանակ:
Արհեստական ինտելեկտի բարդությամբ և հետևանքներով տեխնոլոգիայի արագ ի հայտ գալը մեծ օգուտների բազմաթիվ պնդումներ է առաջացնում: Այնուամենայնիվ, դա նաև մտավախություն է առաջացնում էական ռիսկերի վերաբերյալ՝ անհատականից մինչև աշխարհառազմավարական մակարդակ։ Քննարկումների մեծ մասը հակված է տեղի ունենալ տեսակետների սպեկտրի ծայրահեղ ծայրերում, և անհրաժեշտ է ավելի պրագմատիկ մոտեցում: AI տեխնոլոգիան կշարունակի զարգանալ, և պատմությունը ցույց է տալիս, որ գրեթե յուրաքանչյուր տեխնոլոգիա ունի և՛ օգտակար, և՛ վնասակար կիրառություն: Հետևաբար, հարցն այն է, թե ինչպե՞ս կարող ենք այս տեխնոլոգիայի շահավետ արդյունքների հասնել՝ միաժամանակ նվազեցնելով վնասակար հետևանքների ռիսկը, որոնցից մի քանիսը կարող են լինել էկզիստենցիալ մեծությամբ:
Ապագան միշտ անորոշ է, բայց AI-ի և գեներացնող AI-ի վերաբերյալ կան բավական վստահելի և փորձագիտական ձայներ՝ խրախուսելու համեմատաբար նախազգուշական մոտեցումը: Բացի այդ, անհրաժեշտ է համակարգային մոտեցում, քանի որ AI-ն տեխնոլոգիաների դաս է, որն ունի լայն կիրառություն և կիրառում բազմաթիվ տեսակի օգտագործողների կողմից: Սա նշանակում է, որ ամբողջ համատեքստը պետք է հաշվի առնվի անհատների, սոցիալական կյանքի, քաղաքացիական կյանքի, հասարակական կյանքի և գլոբալ համատեքստում AI-ի հետևանքները դիտարկելիս:
Ի տարբերություն անցյալի տեխնոլոգիաների մեծ մասի, թվային և հարակից տեխնոլոգիաները մշակումից մինչև թողարկում ունեն շատ կարճ ժամանակահատված՝ հիմնականում պայմանավորված արտադրող ընկերությունների կամ գործակալությունների շահերով: AI-ն արագորեն տարածվում է. Որոշ հատկություններ կարող են ակնհայտ դառնալ միայն թողարկումից հետո, և տեխնոլոգիան կարող է ունենալ ինչպես չարամիտ, այնպես էլ բարեգործական կիրառություններ: Կարևոր արժեքների չափերը կազդեն ցանկացած օգտագործման ընկալման վրա: Ավելին, կարող են լինել աշխարհառազմավարական շահեր:
Մինչ օրս վիրտուալ տեխնոլոգիայի կարգավորումը հիմնականում դիտվել է «սկզբունքների» և կամավոր համապատասխանության ակնոցներով: Վերջերս, սակայն, քննարկումն անդրադարձավ ազգային և բազմակողմ կառավարման խնդիրներին, ներառյալ կարգավորող և քաղաքականության այլ գործիքների կիրառումը: Արհեստական ինտելեկտի օգտին կամ դեմ ներկայացված պնդումները հաճախ հիպերբոլիկ են և, հաշվի առնելով տեխնոլոգիայի բնույթը, դժվար է գնահատել: Տեխնոլոգիաների կարգավորման արդյունավետ գլոբալ կամ ազգային համակարգի ստեղծումը դժվար կլինի, և ռիսկերի վրա հիմնված որոշումների կայացման բազմաթիվ շերտեր անհրաժեշտ կլինեն շղթայի երկայնքով՝ գյուտարարից մինչև արտադրող, օգտագործող, կառավարություն և բազմակողմ համակարգ:
Մինչև բարձր մակարդակի սկզբունքները հրապարակվել են ՅՈՒՆԵՍԿՕ-ի, ՏՀԶԿ-ի և Եվրոպական հանձնաժողովի կողմից, ի թիվս այլոց, և բարձր մակարդակի տարբեր քննարկումներ են ընթանում պոտենցիալ կարգավորման հարցերի վերաբերյալ, գոյություն ունի մեծ գոյաբանական անջրպետ այդպիսի սկզբունքների և կառավարման կամ կարգավորող շրջանակի միջև: Ո՞րն է այն նկատառումների դասակարգումը, որը կարգավորող մարմինը կարող է հաշվի առնել: Նեղ կենտրոնացված շրջանակը խելամիտ չի լինի՝ հաշվի առնելով այս տեխնոլոգիաների լայն հետևանքները: Այս ներուժը բազմաթիվ մեկնաբանությունների առարկա է դարձել՝ և՛ դրական, և՛ բացասական:
Վերլուծական շրջանակի մշակում
ISC-ն բնական և սոցիալական գիտությունները ինտեգրող հիմնական համաշխարհային ՀԿ-ն է: Նրա գլոբալ և կարգապահական հասանելիությունը նշանակում է, որ այն լավ տեղ է զբաղեցնում անկախ և գլոբալ առումով համապատասխան խորհուրդներ ստեղծելու համար՝ տեղեկացնելու առաջիկա բարդ ընտրությունների մասին, մասնավորապես, քանի որ այս ասպարեզում ներկա ձայները հիմնականում արդյունաբերությունից են կամ տեխնոլոգիական հիմնական ուժերից: Վերջին ամիսների լայնածավալ քննարկումներից հետո, ներառյալ ոչ կառավարական գնահատման գործընթացի քննարկումը, ISC-ն եզրակացրեց, որ իր ամենաօգտակար ներդրումը կլինի հարմարվողական վերլուծական շրջանակի ստեղծումն ու պահպանումը, որը կարող է օգտագործվել որպես դիսկուրսի և որոշումների կայացման հիմք: բոլոր շահագրգիռ կողմերը, ներառյալ ցանկացած պաշտոնական գնահատման գործընթացի ժամանակ, որը ի հայտ է գալիս:
Այս շրջանակը կունենա համընդհանուր ստուգաթերթի ձև, որը կարող է օգտագործվել ինչպես պետական, այնպես էլ ոչ կառավարական հաստատությունների կողմից: Շրջանակը բացահայտում և ուսումնասիրում է այնպիսի տեխնոլոգիայի ներուժը, ինչպիսին է արհեստական ինտելեկտը և դրա ածանցյալները լայն ոսպնյակի միջոցով, որն ընդգրկում է մարդու և հասարակության բարեկեցությունը, ինչպես նաև արտաքին գործոնները, ինչպիսիք են տնտեսագիտությունը, քաղաքականությունը, շրջակա միջավայրը և անվտանգությունը: Ստուգաթերթի որոշ ասպեկտներ կարող են ավելի տեղին լինել, քան մյուսները՝ կախված համատեքստից, բայց ավելի լավ որոշումներ կայացնելու հավանականությունը մեծ է, եթե հաշվի առնվեն բոլոր ոլորտները: Սա ստուգաթերթի մոտեցման բնորոշ արժեքն է:
Առաջարկվող շրջանակը բխում է նախորդ աշխատանքից և մտածողությունից, ներառյալ Կառավարական գիտական խորհրդատվության միջազգային ցանցի (INGSA) թվային բարեկեցության զեկույցը:1 և OECD AI դասակարգման շրջանակը2 ներկայացնել AI-ի պոտենցիալ հնարավորությունների, ռիսկերի և ազդեցությունների ամբողջությունը: Այս նախորդ արտադրանքներն ավելի սահմանափակ էին իրենց նպատակներով՝ հաշվի առնելով իրենց ժամանակն ու համատեքստը, կարիք կա համապարփակ շրջանակի, որը կներկայացնի խնդիրների ողջ շրջանակը թե՛ կարճաժամկետ, թե՛ երկարաժամկետ հեռանկարում:
Թեև մշակվել է AI-ի դիտարկման համար, այս վերլուծական շրջանակը կարող է կիրառվել ցանկացած արագ զարգացող տեխնոլոգիայի համար: Հետագա քննության համար խնդիրները լայնորեն խմբավորված են հետևյալ կատեգորիաների.
Վերոնշյալ կատեգորիաներից յուրաքանչյուրի համար նկատառումների ցանկը ներառված է դրանց համապատասխան հնարավորությունների և հետևանքների հետ միասին: Ոմանք տեղին են AI-ի հատուկ օրինակների կամ կիրառությունների համար, մինչդեռ մյուսները ընդհանուր և ագնոստիկ են պլատֆորմի կամ օգտագործման համար: Այստեղ ներառված ոչ մի նկատառում չպետք է դիտարկվի որպես առաջնահերթություն և, որպես այդպիսին, բոլորը պետք է ուսումնասիրվեն:
Ինչպե՞ս կարող է օգտագործվել այս շրջանակը:
Այս շրջանակը կարող է օգտագործվել, բայց չսահմանափակվելով հետևյալ եղանակներով.
Հետևյալ աղյուսակը վերլուծական շրջանակի չափերի վաղ ձևավորումն է: Կախված տեխնոլոգիայից և դրա կիրառությունից՝ որոշ բաղադրիչներ ավելի համապատասխան կլինեն, քան մյուսները: Օրինակները բերված են՝ ցույց տալու համար, թե ինչու յուրաքանչյուր տիրույթ կարող է կարևոր լինել. համատեքստում շրջանակը կպահանջի համատեքստային համապատասխան ընդլայնում: Կարևոր է նաև տարբերակել հարթակի զարգացումները և ընդհանուր խնդիրները, որոնք կարող են ի հայտ գալ հատուկ հավելվածների ընթացքում:
Չափերը, որոնք պետք է հաշվի առնել նոր տեխնոլոգիան գնահատելիս
| Չափերի սկզբնական նախագիծը, որը կարող է անհրաժեշտ լինել հաշվի առնել նոր տեխնոլոգիան գնահատելիս | ||
| Ազդեցության չափերը | Չափանիշ | Օրինակներ, թե ինչպես դա կարող է արտացոլվել վերլուծության մեջ |
| Անհատական/ես | Օգտագործողների AI իրավասություն | Որքանո՞վ են իրավասու և տեղյակ համակարգի հատկությունների մասին հավանական օգտվողները, ովքեր կշփվեն համակարգի հետ: Ինչպե՞ս նրանց կտրամադրվեն օգտատերերի վերաբերյալ համապատասխան տեղեկություններ և զգուշացումներ: |
| Ազդեցված շահագրգիռ կողմեր | Ովքե՞ր են հիմնական շահագրգիռ կողմերը, որոնց վրա ազդեցություն կունենա համակարգը (այսինքն՝ անհատներ, համայնքներ, խոցելի խմբեր, ոլորտի աշխատողներ, երեխաներ, քաղաքականություն մշակողներ, մասնագետներ): | |
| Ընտրովի | Արդյո՞ք օգտատերերին տրամադրվում է համակարգից հրաժարվելու հնարավորություն. նրանց պետք է հնարավորություն տրվի մարտահրավեր նետելու կամ շտկելու արդյունքը: | |
| Մարդու իրավունքների և ժողովրդավարական արժեքների ռիսկերը | Կարո՞ղ է համակարգը (և ինչ ուղղությամբ) ազդել մարդու իրավունքների վրա, ներառյալ, բայց չսահմանափակվելով անձնական կյանքի, արտահայտվելու ազատության, արդարության, խտրականության ռիսկի և այլնի վրա: | |
| Հնարավոր ազդեցությունները մարդկանց բարեկեցության վրա | Կարո՞ղ է համակարգը (և ի՞նչ ուղղությամբ) ազդել անհատ օգտագործողի բարեկեցության վրա (այսինքն՝ աշխատանքի որակը, կրթությունը, սոցիալական փոխազդեցությունները, հոգեկան առողջությունը, ինքնությունը, միջավայրը): | |
| Մարդկանց աշխատուժի տեղաշարժի ներուժը | Համակարգի համար կա՞ արդյոք մարդկանց կողմից իրականացվող առաջադրանքները կամ գործառույթները ավտոմատացնելու ներուժ: Եթե այո, ապա որո՞նք են դրա հետևանքները: | |
| Ինքնության, արժեքների կամ գիտելիքի մանիպուլյացիայի ներուժ | Արդյո՞ք համակարգը նախագծված է կամ պոտենցիալ ի վիճակի է շահարկել օգտատիրոջ ինքնությունը կամ արժեքները, կամ տարածել ապատեղեկատվություն: Կա՞ փորձաքննության կեղծ կամ չստուգելի պնդումների ներուժ: | |
| Ինքնագնահատման միջոցառումներ | Կա՞ ճնշում իդեալիզացված եսը պատկերելու համար: Կարո՞ղ է արդյոք ավտոմատացումը փոխարինել անձնական կատարման զգացումը: Արդյո՞ք ճնշում կա աշխատավայրում համակարգի հետ մրցելու համար: Արդյո՞ք անհատի հեղինակությունն ավելի դժվար է պաշտպանվել ապատեղեկատվությունից: | |
| Գաղտնիության | Արդյո՞ք գոյություն ունեն գաղտնիության պահպանման պատասխանատվություններ, և կա՞ն արդյոք որևէ ենթադրություն այն մասին, թե ինչպես են օգտագործվում անձնական տվյալները: | |
| Ինքնավարություն | Արդյո՞ք համակարգը կարող է ազդել մարդու ինքնավարության վրա՝ վերջնական օգտագործողների կողմից տեխնոլոգիայի վրա չափազանց մեծ վստահություն առաջացնելով: | |
| Մարդկային զարգացում | Արդյո՞ք ազդեցություն կա մարդկային զարգացման հիմնական հմտությունների ձեռքբերման վրա, ինչպիսիք են գործադիր գործառույթները, միջանձնային հմտությունները, ուսման վրա ազդող ուշադրության ժամանակի փոփոխությունները, անհատականության զարգացումը, հոգեկան առողջության հետ կապված խնդիրները և այլն: | |
| Անձնական առողջության խնամք | Կա՞ն պահանջներ անհատականացված առողջապահական լուծումների վերաբերյալ: Եթե այո, արդյոք դրանք վավերացված են կարգավորող ստանդարտներով: | |
| Հոգեկան առողջության | Կա՞ անհանգստության, միայնության կամ հոգեկան առողջության այլ խնդիրների վտանգ, թե՞ տեխնոլոգիան կարող է մեղմել նման ազդեցությունները: | |
| Մարդու էվոլյուցիա | Արդյո՞ք տեխնոլոգիան կարող է հանգեցնել մարդկային էվոլյուցիայի փոփոխությունների: | |
| Ազդեցության չափերը | Չափանիշ | Նկարագրություն |
| Հասարակություն/սոցիալական կյանք | Հասարակական արժեքներ | Արդյո՞ք համակարգը հիմնովին փոխում է հասարակության բնույթը կամ հնարավորություն է տալիս կարգավորել նախկինում հակասոցիալական համարվող գաղափարները, թե՞ այն խախտում է այն մշակույթի հասարակական արժեքները, որտեղ այն կիրառվում է: |
| Սոցիալական փոխգործակցություն | Արդյո՞ք ազդեցություն կա մարդկային իմաստալից շփման վրա, ներառյալ հուզական հարաբերությունները: | |
| Անաչառություն | Հնարավո՞ր է արդյոք կիրառումը/տեխնոլոգիան նվազեցնել կամ բարձրացնել անհավասարությունները (այսինքն՝ տնտեսական, սոցիալական, կրթական, աշխարհագրական): | |
| Բնակչության առողջությունը | Կա՞ արդյոք համակարգի համար բնակչության առողջության մտադրությունները առաջ մղելու կամ խաթարելու ներուժ: | |
| Մշակութային արտահայտություն | Մշակութային յուրացման կամ խտրականության աճը հնարավո՞ր է, թե՞ ավելի դժվար է լուծել: Արդյո՞ք որոշումների կայացման համակարգից կախվածությունը պոտենցիալ կերպով բացառում կամ մարգինալացնում է հասարակության շերտերը: | |
| Հանրային կրթություն | Ուսուցչի դերերի կամ կրթական հաստատությունների վրա ազդեցություն կա՞: Համակարգն ընդգծո՞ւմ է, թե՞ նվազեցնում է ուսանողների միջև անհավասարությունը և թվային անջրպետը: Գիտելիքի կամ քննադատական ըմբռնման ներքին արժեքը առաջվա՞ծ է, թե՞ խաթարված: | |
| Խեղաթյուրված իրողություններ | Արդյո՞ք այն մեթոդները, որոնք մենք օգտագործում ենք ճշմարիտը պարզելու համար, դեռ կիրառելի են: Արդյո՞ք իրականության ընկալումը վտանգված է: | |
| Տնտեսական համատեքստ (առևտուր) | Արդյունաբերական հատված | Արդյունաբերական ո՞ր հատվածում է տեղակայված համակարգը (այսինքն՝ ֆինանսներ, գյուղատնտեսություն, առողջապահություն, կրթություն, պաշտպանություն): |
| Բիզնես մոդել | Ո՞ր բիզնես գործառույթում է կիրառված համակարգը և ի՞նչ կարգավիճակով: Որտե՞ղ է օգտագործվում համակարգը (մասնավոր, հանրային, շահույթ չհետապնդող): | |
| Ազդեցությունը կրիտիկական գործունեության վրա | Արդյո՞ք համակարգի գործառույթի կամ գործունեության խաթարումը կազդի հիմնական ծառայությունների կամ կարևոր ենթակառուցվածքների վրա: | |
| Տեղակայման շունչ | Ինչպե՞ս է համակարգը տեղաբաշխված (նեղ կազմակերպության ներսում ընդդեմ ազգային/միջազգային լայն տարածման): | |
| Տեխնիկական հասունություն (TRL) | Որքանո՞վ է տեխնիկապես հասուն համակարգը: | |
| Տեխնոլոգիական ինքնիշխանություն | Արդյո՞ք տեխնոլոգիան խթանում է տեխնոլոգիական ինքնիշխանության ավելի մեծ կենտրոնացումը: | |
| Եկամուտների վերաբաշխում և ազգային հարկաբյուջետային լծակներ | Արդյո՞ք կարող են վտանգվել ինքնիշխան պետության հիմնական դերերը (այսինքն՝ պահուստային բանկերը): Քաղաքացիների ակնկալիքներն ու հետևանքները (այսինքն՝ սոցիալական, տնտեսական, քաղաքական) բավարարելու պետության կարողությունը կզարգացվի՞, թե՞ կնվազեցվի: | |
| Ազդեցության չափերը | Չափանիշ | Նկարագրություն |
| Քաղաքացիական կյանք | Կառավարում և հանրային ծառայություն | Կարո՞ղ են արդյոք դրական կամ բացասական ազդեցություն ունենալ կառավարման մեխանիզմների և գլոբալ կառավարման համակարգերի վրա: |
| Լրատվամիջոցները | Հնարավո՞ր է, որ հանրային դիսկուրսը քիչ թե շատ բևեռացվի և արմատավորվի բնակչության մակարդակում: Կլինի՞ ազդեցություն լրատվամիջոցների նկատմամբ վստահության մակարդակի վրա։ Արդյո՞ք սովորական լրագրության էթիկայի և ազնվության չափանիշները հետագայում կանդրադառնան: | |
| Օրենքի գերակայություն | Արդյո՞ք ազդեցություն կունենա անհատներին կամ կազմակերպություններին պատասխանատվության ենթարկելու ունակության վրա (այսինքն՝ ինչպիսի՞ պատասխանատվություն վերապահել ալգորիթմին անբարենպաստ արդյունքների համար): Արդյո՞ք սա ինքնիշխանության (այսինքն՝ բնապահպանական, հարկաբյուջետային, սոցիալական քաղաքականության, էթիկայի) կորուստ է առաջացնում: | |
| Քաղաքականություն և սոցիալական համախմբվածություն | Կա՞ ավելի արմատացած քաղաքական հայացքների և կոնսենսուսի ձևավորման ավելի քիչ հնարավորություն: Կա՞ արդյոք խմբերի հետագա մարգինալացման հնարավորություն։ Քաղաքականության հակառակորդ ոճերը քիչ թե շատ հավանական են: | |
| Աշխարհա-ռազմավարական/ աշխարհաքաղաքական համատեքստ | Ճշգրիտ հսկողություն | Արդյո՞ք համակարգերը պատրաստված են անհատական վարքագծային և կենսաբանական տվյալների վրա, և եթե այո, ապա կարո՞ղ են դրանք օգտագործվել անհատների կամ խմբերի շահագործման համար: |
| Թվային գաղութացում | Արդյո՞ք պետական կամ ոչ պետական դերակատարներն ի վիճակի են օգտագործել համակարգեր և տվյալներ՝ հասկանալու և վերահսկելու այլ երկրների բնակչության և էկոհամակարգերը, կամ խաթարելու իրավասության վերահսկողությունը: | |
| Աշխարհաքաղաքական մրցակցություն | Արդյո՞ք համակարգը ազդում է ազգերի և տեխնոլոգիական հարթակների միջև մրցակցության վրա՝ տնտեսական կամ ռազմավարական նպատակներով անհատական և կոլեկտիվ տվյալների հասանելիության համար: | |
| Առևտրային և առևտրային համաձայնագրեր | Արդյո՞ք համակարգը ազդեցություն ունի միջազգային առևտրային համաձայնագրերի վրա: | |
| Գլոբալ տերությունների փոփոխություն | Արդյո՞ք վտանգի տակ է ազգային պետությունների՝ որպես աշխարհի առաջնային աշխարհաքաղաքական դերակատարների կարգավիճակը: Արդյո՞ք տեխնոլոգիական ընկերությունները ժամանակին իշխանությունը վերապահված կլինեն ազգային-պետություններին, և արդյոք նրանք դառնում են անկախ ինքնիշխան դերակատարներ: | |
| Ապատեղեկատվություն | Արդյո՞ք պետական և ոչ պետական դերակատարների համար ավելի հեշտ է արտադրել և տարածել ապատեղեկատվություն, որն ազդում է սոցիալական համախմբվածության, վստահության և ժողովրդավարության վրա: | |
| Բնապահպանական | Էներգիայի և ռեսուրսների սպառում (ածխածնի հետք) | Արդյո՞ք համակարգը և պահանջները մեծացնում են էներգիայի և ռեսուրսների սպառման օգտագործումը, քան կիրառման արդյունքում ձեռք բերված արդյունավետության ձեռքբերումները: |
| Ազդեցության չափերը | Չափանիշ | Նկարագրություն |
| Տվյալներ և մուտքագրում | Հայտնաբերում և հավաքում | Արդյո՞ք տվյալները և մուտքերը հավաքագրվում են մարդկանց, ավտոմատացված սենսորների կամ երկուսի կողմից: |
| Տվյալների ծագումը | Ինչ վերաբերում է տվյալներին, դրանք տրամադրված, դիտարկված, սինթետիկ կամ ստացված են: Կա՞ն ջրանիշի պաշտպանություն՝ ծագումը հաստատելու համար: | |
| Տվյալների դինամիկ բնույթը | Արդյո՞ք տվյալները դինամիկ են, ստատիկ, ժամանակ առ ժամանակ թարմացվում են, թե թարմացվում են իրական ժամանակում: | |
| Իրավունք | Արդյո՞ք տվյալները սեփականություն են, հանրային կամ անձնական (այսինքն՝ կապված են նույնականացվող անձանց հետ): | |
| Անձնական տվյալների նույնականացումը | Եթե անձնական տվյալներ, դրանք անանուն են, թե կեղծանուն: | |
| Տվյալների կառուցվածքը | Արդյո՞ք տվյալները կառուցվածքային են, կիսակառուցվածքային, բարդ կառուցվածքային, թե ոչ կառուցվածքային: | |
| Տվյալների ձևաչափը | Տվյալների և մետատվյալների ձևաչափը ստանդարտացվա՞ծ է, թե՞ ոչ ստանդարտացված: | |
| Տվյալների մասշտաբը | Ո՞րն է տվյալների բազայի մասշտաբը: | |
| Տվյալների համապատասխանությունը և որակը | Արդյո՞ք տվյալների հավաքածուն համապատասխանում է նպատակին: Արդյո՞ք ընտրանքի չափը համարժեք է: Արդյո՞ք այն բավականաչափ ներկայացուցչական և ամբողջական է: Որքանո՞վ են աղմկոտ տվյալները: Արդյո՞ք դա հակված է սխալի: | |
| մոդել | Տեղեկատվության հասանելիություն | Համակարգի մոդելի մասին տեղեկություն կա՞: |
| AI մոդելի տեսակը | Արդյո՞ք մոդելը խորհրդանշական է (մարդու կողմից ստեղծված կանոններ), վիճակագրական (օգտագործում է տվյալներ) կամ հիբրիդային: | |
| Մոդելի հետ կապված իրավունքները | Արդյո՞ք մոդելը բաց կոդով է, թե՞ սեփականության իրավունքով, ինքնուրույն կամ երրորդ կողմի կողմից կառավարվող: | |
| Մեկ կամ մի քանի մոդելներ | Համակարգը կազմված է մեկ մոդելի՞ց, թե՞ մի քանի փոխկապակցված մոդելներից: | |
| Գեներատիվ կամ խտրական | Մոդելը գեներացնող է, խտրական, թե՞ երկուսն էլ: | |
| Մոդելային շենք | Արդյո՞ք համակարգը սովորում է մարդու կողմից գրված կանոնների հիման վրա՝ տվյալների հիման վրա, վերահսկվող ուսուցման կամ ուժեղացման ուսուցման միջոցով: | |
| Մոդելի էվոլյուցիա (AI drift) | Արդյո՞ք մոդելը զարգանում է և/կամ ձեռք է բերում կարողություններ դաշտի տվյալների հետ շփվելուց: | |
| Դաշնային կամ կենտրոնական ուսուցում | Արդյո՞ք մոդելը վերապատրաստված է կենտրոնական կամ մի քանի տեղական սերվերների կամ «եզրային» սարքերում: | |
| Մշակում և սպասարկում | Արդյո՞ք մոդելը ունիվերսալ է, կարգավորելի կամ հարմարեցված է արհեստական ինտելեկտի դերասանի տվյալներին: | |
| Դետերմինիստական կամ հավանական | Արդյո՞ք մոդելն օգտագործվում է դետերմինիստական կամ հավանականական ձևով: | |
| Մոդելի թափանցիկություն | Արդյո՞ք օգտատերերին հասանելի են տեղեկատվությունը, որը թույլ կտա նրանց հասկանալ մոդելի արդյունքներն ու սահմանափակումները կամ օգտագործել սահմանափակումներ: | |
| Հաշվարկային սահմանափակում | Կա՞ն արդյոք համակարգի հաշվողական սահմանափակումներ: Կարո՞ղ ենք կանխատեսել կարողությունների թռիչքներ կամ մասշտաբային օրենքներ: | |
| Ազդեցության չափերը | Չափանիշ | Նկարագրություն |
| Առաջադրանք և արդյունք | Համակարգի կողմից կատարված առաջադրանք(ներ): | Ի՞նչ խնդիրներ է կատարում համակարգը (այսինքն՝ ճանաչում, իրադարձությունների հայտնաբերում, կանխատեսում): |
| Առաջադրանքների և գործողությունների համատեղում | Արդյո՞ք համակարգը համատեղում է մի քանի առաջադրանքներ և գործողություններ (այսինքն՝ բովանդակության ստեղծման համակարգեր, ինքնավար համակարգեր, կառավարման համակարգեր): | |
| Համակարգի ինքնավարության մակարդակը | Որքանո՞վ են ինքնավար համակարգի գործողությունները և ի՞նչ դեր են խաղում մարդիկ: | |
| Մարդու ներգրավվածության աստիճանը | Կա՞ արդյոք մարդկային որոշակի ներգրավվածություն՝ վերահսկելու AI համակարգի ընդհանուր գործունեությունը և կարողությունը որոշել, թե երբ և ինչպես օգտագործել համակարգը ցանկացած իրավիճակում: | |
| Հիմնական հավելված | Արդյո՞ք համակարգը պատկանում է այնպիսի հիմնական կիրառական ոլորտին, ինչպիսիք են մարդկային լեզվի տեխնոլոգիաները, համակարգչային տեսլականը, ավտոմատացումը և/կամ օպտիմալացումը կամ ռոբոտաշինությունը: | |
| Գնահատում | Արդյո՞ք հասանելի են ստանդարտներ կամ մեթոդներ՝ համակարգի արդյունքը գնահատելու կամ չնախատեսված առաջացող հատկությունների հետ գործ ունենալու համար: | |
Բանալին նկարագրիչների աղբյուրները
Պարզ տեքստ.
Gluckman, P. and Allen, K. 2018: Հասկանալով բարեկեցությունը արագ թվային և հարակից փոխակերպումների համատեքստում: INGSA. https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
Ձախ տեքստը `
ՏՀԶԿ. 2022 թ. ՏՀԶԿ շրջանակ AI համակարգերի դասակարգման համար. OECD Digital Economy Papers, No. 323, OECD Publishing, Paris. https://oecd.ai/en/classification
Շտրիխ կոդ:
Նոր նկարագրիչներ (բազմաթիվ աղբյուրներից)
Ճանապարհ առաջ
Կախված այս քննարկման փաստաթղթի արձագանքից, ISC-ի կողմից կձևավորվի փորձագիտական աշխատանքային խումբ՝ հետագայում մշակելու կամ փոփոխելու վերոնշյալ վերլուծական շրջանակը, որի միջոցով շահագրգիռ կողմերը կարող են համակողմանիորեն դիտարկել հարթակների կամ օգտագործման չափումների ցանկացած նշանակալի զարգացում: Աշխատանքային խումբը կարգապահական, աշխարհագրորեն և ժողովրդագրական առումով բազմազան կլինի՝ տեխնոլոգիաների գնահատումից մինչև հանրային քաղաքականություն, մարդկային զարգացումից մինչև սոցիոլոգիա և ապագայի և տեխնոլոգիական ուսումնասիրություններ:
Այս քննարկման թղթին մասնակցելու համար այցելեք խորհուրդ.science/publications/framework-digital-technologies
Լրացուցիչ
Այս փաստաթուղթը մշակելիս, որը մշակվել է..., խորհրդակցել են բազմաթիվ մարդկանց հետ... Sir Peter Gluckman, ISC-ի նախագահ և Հեմա Սրիդհար, Պաշտպանության նախարարության նախկին գլխավոր գիտնական, իսկ այժմ՝ ավագ գիտաշխատող, Օքլենդի համալսարան, Նոր Զելանդիա։
Մասնավորապես, մենք շնորհակալություն ենք հայտնում լորդ Մարտին Ռիսին՝ Թագավորական ընկերության նախկին նախագահին և Քեմբրիջի համալսարանի Էկզիստենցիալ ռիսկերի ուսումնասիրության կենտրոնի համահիմնադիրին. Պրոֆեսոր Շիվաջի Սոնդի, Օքսֆորդի համալսարանի ֆիզիկայի պրոֆեսոր; Պրոֆեսոր Կ Վիջայ Ռագավան, Հնդկաստանի կառավարության նախկին գլխավոր գիտական խորհրդական; ՄԱԿ-ի Գլխավոր քարտուղարի տեխնոլոգիայի գծով բանագնաց Ամանդիփ Սինգհ Գիլը; Դոկտոր Seán Óh Éigeartaigh, Քեմբրիջի համալսարանի Էկզիստենցիալ ռիսկերի ուսումնասիրության կենտրոնի գործադիր տնօրեն; Ամանդա-Ջուն Բրաուներ, քաղաքականության ավագ խորհրդական և Իեն Ուիգինս, Միջազգային հարաբերությունների տնօրեն, Մեծ Բրիտանիայի թագավորական հասարակություն; Դոկտոր Ջերոմ Դյուբերի, դոկտոր Մարի-Լոր Սալլես, Ժնևի շրջանավարտների ինստիտուտի տնօրեն; Պարոն Չոր Ֆարն Լի, Ռազմավարական ապագայի կենտրոն, վարչապետի գրասենյակ, Սինգապուր; Բարենդ Մոնսը և դոկտոր Սայմոն Հոդսոնը, Տվյալների կոմիտեն (CoDATA); Պրոֆեսոր Յուկո Հարայամա, Ճապոնիա; Պրոֆեսոր Ռեմի Քվիրիոն, INGSA-ի նախագահ; Դոկտոր Քլեր Քրեյգ, Օքսֆորդի համալսարան և Կառավարության Գիտության գրասենյակի Հեռատեսության նախկին ղեկավար; և ՄԱԿ-ի Գլխավոր քարտուղարի գիտական խորհրդատվական խորհուրդը և Մոնրեալի համալսարանի պրոֆեսոր Յոշուա Բենջիոն: Ընդհանուր առմամբ հաստատվել է ստուգաթերթի մոտեցումը, և ընդգծվել է ISC-ի կողմից ցանկացած գործողության ժամանակին լինելը:
Պատկերը՝ adamichi iStock-ում
Կարդացեք ավելին «Գիտությունից դեպի գործողություն. Գիտական գիտելիքների և լուծումների կիրառում կայուն և կայուն զարգացումը խթանելու համար» թեմայով 
Կարդացեք ավելին Համատեքստային դեֆիցիտի մասին. Գիտության նկատմամբ վստահության վերակառուցում բազմակողմ քաղաքականության համար 
Կարդացեք ավելին 2023 թվականի Բարձր մակարդակի քաղաքական ֆորումի պաշտոնավարման մասին 