Արհեստական բանականությունն այլևս միայն ծրագիր չէ

Մի քանի տարի արհեստական բանականության մասին խոսում էինք որպես էկրանի վրա աշխատող խելացի գործիքի մասին։ Այն կարող էր գրել տեքստ, դասավորել պատկերներ, պատասխանել հարցերին, ամփոփել փաստաթղթեր կամ օգնել ծրագրավորողին։ 2026 թվականին այդ նկարագրությունը արդեն նեղ է։ Արհեստական բանականությունը դառնում է ենթակառուցվածք։ Այն մտնում է պետական կառավարում, ընկերություններ, լաբորատորիաներ, հիվանդանոցներ, բանկեր, դպրոցներ, դատարաններ և օրենսդրական աշխատանք։

Սա փոխում է իրավունքի ծանրության կենտրոնը։ Հարցը միայն այն չէ, թե գործիքը սխալվել է, թե ոչ։ Կարևոր է, թե ով է ընտրել համակարգը, ինչ տվյալներ են օգտագործվել, եղել է արդյոք մարդկային վերահսկում, պահպանվել են արդյոք գրառումներ, տեղեկացվել է արդյոք անձը և կարող է արդյոք վիճարկել իրեն վերաբերող որոշումը։ Տեխնոլոգիան դառնում է կառավարման, ապացույցի, պատասխանատվության և ինստիտուցիոնալ վստահության հարց։

Հունաստանը այս քննարկման մաս է Եվրոպական Միության իրավական դաշտի միջոցով։ AI Act-ը, GDPR-ը, կիբերանվտանգության կանոնները, հանրային գնումները և թվային ծառայությունների պահանջները գործելու են միասին։ Գործնական դասը պարզ է. եթե կազմակերպությունը AI է օգտագործում լուրջ որոշման մեջ, պետք է կարողանա բացատրել ընթացքը, ոչ միայն արդյունքը։

Եվրոպական իրավական ժամանակացույցը

Կենտրոնական տեքստը Կանոնակարգ (ԵՄ) 2024/1689-ն է, որը հայտնի է որպես AI Act։ Այն հիմնված է ռիսկի վրա։ Սպամի ֆիլտրը նույնը չէ, ինչ համակարգը, որը ազդում է աշխատանքի ընդունման, կրթության, հանրային նպաստի, առողջապահության, իրավապահ գործունեության կամ արդարադատության վրա։ Որքան մեծ է ազդեցությունը մարդու վրա, այնքան ավելի ուժեղ են փաստաթղթավորման, վերահսկման և հաշվետվողականության պարտականությունները։

AI Act-ը ուժի մեջ է մտել 2024 թվականի օգոստոսի 1-ին։ Արգելված պրակտիկաները և AI գրագիտության պարտականությունները կիրառվում են 2025 թվականի փետրվարի 2-ից։ Կառավարման կանոնները և ընդհանուր նշանակության մոդելների պարտականությունները կիրառվում են 2025 թվականի օգոստոսի 2-ից։ Կանոնակարգը լայնորեն կիրառելի է դառնում 2026 թվականի օգոստոսի 2-ին, իսկ որոշ բարձր ռիսկային համակարգերի համար, որոնք ներկառուցված են կարգավորվող արտադրանքներում, անցումային շրջանը երկարաձգվում է մինչև 2028 թվականի օգոստոսի 2-ը պարզեցման վերաբերյալ քաղաքական համաձայնությունից հետո։

Գործնականում AI-ն ունի իրավական օրացույց։ Կազմակերպություններին պետք է համակարգերի հաշվառում, ռիսկի դասակարգում, մատակարարի և կիրառողի դերերի պարզեցում, տեխնիկական փաստաթղթեր, գրանցումներ, մարդկային վերահսկում և տեղեկացում այն մարդկանց համար, որոնց վրա ազդում են AI-ի մասնակցությամբ որոշումները։

Ինչպես կփոխվեն պետությունները

Պետությունները ազդվում են երեք դերերով։ Նախ՝ որպես կարգավորողներ, նրանք պետք է ստեղծեն իրավասու մարմիններ, վերահսկման ընթացակարգեր, տուգանքներ, փորձարկման միջավայրեր և ուղեցույցներ։ Երկրորդ՝ որպես տեխնոլոգիա գնողներ, հանրային գնումներում պետք է պահանջեն փաստաթղթեր, ստուգման իրավունք, տվյալների անվտանգություն, բացատրելիություն և մատակարարի հստակ պատասխանատվություն։ Երրորդ՝ որպես օգտագործողներ, հանրային ծառայությունները պետք է պահեն որոշման հետքը, երբ ալգորիթմը օգնում է առաջնահերթություն տալ գործերին, հայտնաբերել խարդախություն կամ առաջարկել վարչական գործողություն։

Պետական հատվածը չի կարող թաքնվել համակարգի բարդության հետևում։ Եթե քաղաքացին բացատրություն է պահանջում, պատասխանը չի կարող լինել, որ այդպես ասաց մոդելը։ Պետք են ընթացակարգ, գործ, պատասխանատու անձ, չափանիշներ, ուղղման հնարավորություն և մարդկային դատողություն այնտեղ, որտեղ ազդվում են իրավունքները։

AI-ն դառնում է նաև պետական կարողության գործոն։ Այն երկրները, որոնք ունեն հաշվարկային ենթակառուցվածք, որակյալ տվյալներ, մասնագետներ և իրավական հստակություն, կարող են մատուցել ավելի լավ ծառայություններ և ներգրավել ներդրումներ։ Այդ պատճառով եվրոպական քննարկումը կապում է կարգավորումը AI Factories-ի, տվյալների տարածքների, հմտությունների և հաշվարկային հզորության հետ։

Նոր տեխնոլոգիաներ և նոր իրավական հարցեր

Բազմամոդալ մոդելները աշխատում են ոչ միայն տեքստի հետ։ Դրանք միասին վերլուծում են պատկերներ, ձայն, տեսանյութ, աղյուսակներ, կոդ և փաստաթղթեր։ Սա ազդում է ապացույցների, հեղինակային իրավունքի, անձնական տվյալների պաշտպանության և թվային նյութերի իսկության վրա։ Լուսանկարը, ձայնագրությունը կամ սկանավորված փաստաթուղթը ավելի հաճախ կպահանջեն տեխնիկական ստուգում։

AI գործակալները գնում են ավելի հեռու։ Դրանք պարզապես չեն պատասխանում հարցին։ Կարող են կատարել քայլեր, կանչել գործիքներ, լրացնել ձևաթղթեր, որոնել տեղեկություններ, պատրաստել փաստաթղթեր և առաջարկել գործողություններ։ Իրավական առումով սա մեծացնում է հանձնարարության, հաստատման, audit trail-ի և ավտոմատացման սահմանների նշանակությունը։

Սինթետիկ տվյալները կարող են օգնել հետազոտությանը և մշակմանը առանց անձնական տվյալների ուղղակի բացահայտման, բայց դա կախարդական լուծում չէ։ Վերանույնականացման ռիսկը, կողմնակալությունը և որակը դեռ պետք է գնահատվեն։ Սարքերում, մեքենաներում և սենսորներում գործող AI-ն նույնպես առաջացնում է գործնական հարցեր. ով է թարմացնում համակարգը, ով է ապահովում անվտանգությունը և ով է պատասխանատու իրական ժամանակում սխալի դեպքում։

Գիտությունն արագանում է, բայց չի պարզանում

Կենսաբանությունը ցույց է տալիս փոփոխության չափը։ AlphaFold-ը սպիտակուցների կառուցվածքի կանխատեսումը դարձրեց գործնական գիտական գործիք, իսկ նոր համակարգերը տարածում են մոտեցումը մոլեկուլային փոխազդեցությունների վրա։ Սա ազդում է դեղերի, պատվաստանյութերի, նյութերի, գյուղատնտեսության և շրջակա միջավայրի հետազոտության վրա։ Միաժամանակ առաջանում են ստուգման, պատասխանատվության, հասանելիության և գիտելիքի առևտրային վերահսկման հարցեր։

Բժշկության մեջ AI-ն կարող է օգնել ախտորոշմանը, պատկերների վերլուծությանը, դեղերի հայտնաբերմանը և անհատականացված բուժմանը։ Որքան մոտ է համակարգը հիվանդի մասին որոշմանը, այնքան ուժեղ պետք են կլինիկական ապացույցներ, տեղեկացված համաձայնություն, մասնագիտական պատասխանատվություն և զգայուն տվյալների պաշտպանություն։

Կլիմայական գիտության և էներգետիկայի մեջ մոդելները կարող են բարելավել կանխատեսումները և ցանցերի պլանավորումը։ Կրթության մեջ կարող են անհատականացնել ուսուցումը, բայց նաև ուժեղացնել վերահսկումը կամ անարդար գնահատումը։ Սոցիալական գիտություններում կարող են վերլուծել մեծ տվյալներ, սակայն կարող են կրկնել այն սխալներն ու կողմնակալությունները, որոնց վրա սովորել են։

Ինչ է փոխվում իրավաբանական աշխատանքի համար

Իրավունքը չի փոխարինվի մեկ կոճակով։ Բայց աշխատանքը կփոխվի։ Իրավաբանը պետք է հասկանա, երբ գործիքը միայն աջակցություն է և երբ ազդում է էական դատողության վրա։ Պայմանագրերում պետք է ստուգվեն տեխնիկական փաստաթղթերը, պատասխանատվության դրույթները, գաղտնիությունը, մոդելների ուսուցման պայմանները, audit rights-ը, կիբերանվտանգությունը և մարդկային հաստատումը մինչև կարևոր գործողություն։

Դատարանները կբախվեն ապացույցների նոր հարցերի։ Ինչպես ապացուցել, որ փաստաթուղթը, պատկերը կամ ձայնագրությունը իսկական է։ Ինչպես գնահատել ալգորիթմական արդյունքը։ Երբ է պետք փորձաքննություն։ Ինչպես կանխել, որ տեխնիկական արդյունքը ընդունվի որպես անքննելի ճշմարտություն։

Պայմանագրերում ավելի հաճախ կլինեն AI դրույթներ՝ ստեղծված նյութի իրավունքներ, մտավոր սեփականություն, գաղտնի տվյալներով մոդելի ուսուցման արգելք, գրանցումներ, մոդելի փոփոխություններ, սխալ կամ համոզիչ բայց սխալ պատասխանների ռիսկ, պահպանման կանոններ և ստուգման իրավունք։ Համապատասխանությունը սկսվում է պարզ հարցերից. ինչ AI գործիքներ են օգտագործվում, ում կողմից, ինչ տվյալներով, ինչ նպատակով և ում պատասխանատվությամբ։

Գործնական առաջին քայլեր

Բիզնեսը և մասնագետները պետք է սկսեն հաշվառումից։ Շատերը կտեսնեն, որ աշխատողները արդեն օգտագործում են AI ոչ պաշտոնապես՝ մինչ քաղաքականության ստեղծումը։ Հաջորդ քայլը ռիսկի դասակարգումն է։ Մարքեթինգի օգնությունը նույնը չէ, ինչ համակարգը, որը վերաբերում է աշխատողներին, հաճախորդներին, վարկին, առողջությանը, կրթությանը, հանրային ծառայությանը կամ իրավական եզրակացությանը։

Մարդկային վերահսկումը պետք է իրական լինի։ Բավարար չէ ստորագրել արդյունք, որը ոչ ոք չի ստուգել։ Վերահսկող անձը պետք է ունենա ժամանակ, գիտելիք և լիազորություն՝ արդյունքը շտկելու կամ մերժելու համար։ Մատակարարի պայմանագիրը նույնպես պետք է ստուգվի տվյալների օգտագործման, գաղտնիության, ենթակատարողների, գրանցումների, ջնջման, մոդելի փոփոխությունների և պատասխանատվության մասով։

Քաղաքացու համար ճիշտ մոտեցումը ոչ վախն է, ոչ կույր ոգևորությունը։ AI-ն կարող է բարելավել ծառայությունները և գիտությունը, բայց երբ ազդում է իրավունքների վրա, պետք է մնա բացատրելի, վիճարկելի և հաշվետու։ Հաջորդ մեծ հմտությունը պարզապես AI օգտագործելը չէ։ Դա իմանալն է՝ երբ վստահել, երբ ստուգել և երբ կանգնեցնել։

Աղբյուրներ

Այս հոդվածը տեղեկատվական է և չի փոխարինում անհատական իրավաբանական խորհրդատվությանը կոնկրետ գործի, պայմանագրի կամ համակարգի համար։