AI-ը սխալվել և վնաս է պատճառել. ո՞վ կարող է պատասխանատու լինել և ի՞նչ պետք է ապացուցել

Արհեստական բանականության համակարգը սխալ դեղամիջոց է առաջարկում, մերժում է թեկնածուին, սխալ է հաշվարկում որևէ պարտավորություն, տալիս է վտանգավոր տեխնիկական ցուցում կամ ստեղծում է ոչ ճշգրիտ տեղեկություն, որն օգտագործվում է մասնագիտական որոշում կայացնելիս։ Առաջին հարցը սովորաբար սա է. «Ո՞վ է մեղավոր, արհեստական բանականությո՞ւնը»։ Սակայն իրավական առումով արհեստական բանականությունը ինքնուրույն սուբյեկտ չէ, որը փոխհատուցում է վճարում։ Պետք է գնահատվեն այն մարդկանց և կազմակերպությունների գործողությունները, որոնք համակարգը նախագծել, տրամադրել, ներդրել կամ ընտրել են և օգտագործել դրա արդյունքը։

Բացի այդ, սխալն ինքնաբերաբար չի նշանակում փոխհատուցման ենթակա վնաս։ Անհրաժեշտ են կոնկրետ վնաս, պատասխանատվության իրավական հիմք և պատճառահետևանքային կապ։ Նույն արդյունքը մի դեպքում կարող է պարզապես անհարմարություն պատճառել, իսկ մեկ այլ դեպքում վճռորոշ լինել, երբ այն ազդում է առողջության, գույքի, աշխատանքի, վարկավորման կամ իրավունքների վրա։

1. Նախ տարբերակեք սխալը իրավաբանորեն ճանաչվող վնասից

Չաթբոթը կարող է ոչ ճշգրիտ պատասխան տալ՝ առանց վնաս պատճառելու։ Եթե օգտատերը նկատում է սխալը և դրա հիման վրա չի գործում, ծառայությունը կարող է անորակ լինել, սակայն փոխհատուցման ենթակա հետևանք չառաջանալ։ Իսկ եթե նույն պատասխանը ողջամիտ օգտագործման արդյունքում հանգեցնում է ֆինանսական կորստի, մարմնական վնասվածքի, տվյալների ոչնչացման, խտրականության կամ անձնական ոչ գույքային իրավունքների խախտման, իրավական գնահատականը փոխվում է։

Չորս հարցի պետք է առանձին պատասխանել.

1. կոնկրետ որ տեղեկությունը կամ գործառույթն էր սխալ կամ թերի,
2. ով ուներ նախագծելու, ստուգելու, թարմացնելու կամ վերահսկելու պարտականություն,
3. ինչ կոնկրետ վնաս է առաջացել և ինչպես է այն գնահատվում,
4. արդյոք վնասը կառաջանար առանց վիճարկվող արդյունքի կամ համակարգի խափանման։

Տհաճ փորձառությունը, ընդհանուր անվստահությունը կամ կանոնի պարզապես խախտումն ինքնին դրամական պահանջի չեն վերածվում։ Նույն կերպ, «համակարգը կարող է սխալվել» պայմանն ինքնաբերաբար չի բացառում ցանկացած պատասխանատվություն, երբ արտադրանքը կամ ծառայությունն օգտագործվում է կանխատեսելի ձևով։

2. Ովքեր կարող են ներգրավված լինել շղթայում

Օգտատիրոջը տեսանելի հավելվածը միշտ չէ, որ միակ հնարավոր պատասխանատուն է։ Համակարգը կարող է օգտագործել երրորդ կողմի մոդել, այլ մատակարարի տվյալներ, լրացուցիչ ծրագրային ապահովում և այն կազմակերպության սահմանած կանոնները, որը կայացրել է վերջնական որոշումը։

1. Մոդելի մատակարար կամ արտադրող. մշակում կամ տրամադրում է հիմքում ընկած համակարգը և դրա տեխնիկական հնարավորությունները։
2. Հավելվածի մատակարար. ներդնում է մոդելը, նախագծում միջերեսը, նախազգուշացումները և օգտագործման ընթացակարգերը։
3. Համակարգն օգտագործող կազմակերպություն կամ պետական մարմին. որոշում է նպատակը, տվյալները, սահմանափակումները և մարդկային վերահսկողությունը։
4. Մասնագետ. բժիշկ, ինժեներ, փաստաբան, հաշվապահ կամ այլ մասնագետ, որն արդյունքն օգտագործում է պատշաճ ջանասիրության իր սեփական պարտականության շրջանակում։
5. Բաշխող, ներմուծող կամ լիազորված ներկայացուցիչ. արտադրանքի վերաբերյալ կանոններով կարող է ունենալ հատուկ դեր։
6. Վերջնական օգտատեր. կարող էր անտեսել հստակ սահմանափակումները, սխալ տվյալներ մուտքագրել կամ գործիքն օգտագործել չնախատեսված նպատակի համար։

Պատասխանատվությունը մեխանիկորեն չի բաժանվում բոլորի միջև։ Գնահատվում է, թե յուրաքանչյուր մասնակից ինչ էր վերահսկում, ինչ էր խոստացել, ինչ գիտեր կամ պարտավոր էր իմանալ, և որ գործողությունն է նպաստել վնասին։

3. Ինչ է անում և ինչ չի անում AI Act-ը

Արհեստական բանականության մասին ԵՄ 2024/1689 կանոնակարգը պարտականություններ է սահմանում՝ կախված մասնակցի դերից և համակարգի ռիսկից։ Որոշակի կատեգորիաների համար այն ներառում է ռիսկերի կառավարման, տվյալների, տեխնիկական փաստաթղթերի, գրանցամատյանների, թափանցիկության, մարդկային վերահսկողության և մշտադիտարկման կանոններ։

AI Act-ը ավտոմատ փոխհատուցում նախատեսող ընդհանուր օրենք չէ։ 85-րդ հոդվածը հնարավորություն է տալիս բողոք ներկայացնել շուկայի վերահսկողության մարմնին։ 86-րդ հոդվածը որոշակի պայմաններով իրավունք է տալիս ստանալ հստակ և բովանդակալից բացատրություն բարձր ռիսկայնության համակարգի դերի մասին այն որոշ դեպքերում, երբ որոշումն իրավական հետևանքներ է առաջացնում կամ էականորեն ազդում է անձի վրա։ Այս ընթացակարգերը կարող են նպաստել ստուգմանը, սակայն ինքնին փոխհատուցում չեն տրամադրում։

Կանոնակարգը կիրառվում է փուլերով։ Յուրաքանչյուր համակարգին վերաբերող պարտականությունը պարզելու համար պետք է ստուգել կիրառման եվրոպական պաշտոնական ժամանակացույցը։ Ճիշտ չէ ենթադրել, որ բոլոր դրույթները սկսել են կիրառվել նույն օրը կամ որ արհեստական բանականության յուրաքանչյուր հավելված «բարձր ռիսկայնության» է։

4. Երբ խնդիրը ծագում է պայմանագրից կամ թվային ծառայությունից

Եթե վճարել եք արհեստական բանականություն ներառող հավելվածի, մասնագիտական հարթակի կամ ծառայության համար, պետք է ուսումնասիրել նկարագրությունը, համաձայնեցված գործառույթները, երաշխիքները, սահմանափակումները, թարմացումները և աջակցությունը։ Կոնկրետ մասնագիտական նպատակի համար վաճառված գործիքը գնահատվում է այլ կերպ, քան անվճար ընդհանուր նշանակության չաթբոթը, որը զգուշացնում է, որ մասնագիտական խորհրդատվություն չի տրամադրում։

Կարևոր ապացույցներ են գնման պահին գործող պայմանների տարբերակը, գովազդը, հաշիվը, տեխնիկական փաստաթղթերը, սպասարկման մակարդակը, սխալի մասին հաղորդումները և աջակցության պատասխանները։ Ավելի ուշ ընդունված պայմանները չպետք է աննկատ փոխարինեն դեպքի պահին գործող պայմաններին։

Սպառողական պայմանագրերի նկատմամբ կիրառվում են թվային բովանդակության և թվային ծառայությունների, անարդար պայմանների և մոլորեցնող գործելակերպի կանոնները։ Սպառողների պաշտպանության ազգային պաշտոնական օրենսդրության ժողովածուն ներառում է թիվ 2251/1994 օրենքը և դրա համապատասխան փոփոխությունները։ Փաստական հանգամանքներից կախված՝ պաշտպանության միջոցը կարող է լինել համապատասխանության ապահովումը, գնի նվազեցումը, պայմանագրի լուծումը կամ փոխհատուցումը։

5. Արտապայմանագրային պատասխանատվությունը և արդյունքն օգտագործած մասնագետի պատասխանատվությունը

Ընդհանուր քաղաքացիական պատասխանատվության դեպքում գնահատվում են հակաիրավական և մեղավոր վարքը, վնասը և պատճառահետևանքային կապը։ Երբ մասնագետն օգտագործում է արհեստական բանականություն, գործիքը չի վերացնում պատշաճ ջանասիրության նրա սեփական պարտականությունը։ Կարևոր է պարզել՝ արդյոք արդյունքը պետք էր ստուգել, այն օգտագործվել է համապատասխան ոլորտում, և էական սահմանափակումների մասին տեղեկացվել է։

Բոլոր կիրառությունների համար ստուգման միասնական աստիճան գոյություն չունի։ Ձևակերպման առաջարկը մի բան է, իսկ ախտորոշումը, շինարարական կոնստրուկցիայի հաշվարկը, իրավական ժամկետը կամ աշխատանքի ընդունման որոշումը՝ մեկ այլ բան։ Որքան մեծ է կանխատեսելի ռիսկը և որքան դժվար է հետ շրջել որոշումը, այնքան ավելի կարևոր է դառնում իրական մարդկային ստուգումը։

Մասնագետն ինքնաբերաբար պատասխանատու չէ մատակարարի յուրաքանչյուր տեխնիկական սխալի համար։ Միաժամանակ նա չի ազատվում պատասխանատվությունից այն պատճառաբանությամբ, որ «այդպես է ասել ալգորիթմը»։ Պետք է պարզել, թե ով ուներ տեղեկությունների հասանելիություն, ով կարող էր հայտնաբերել խնդիրը, և մարդկային որոշումն ընդհատե՞լ, թե՞ ամրապնդել է պատճառական շղթան։

6. Երբ ծրագրային ապահովումը կարող է դիտարկվել որպես թերի արտադրանք

Արտադրանքի համար պատասխանատվությունը չի նույնանում պայմանագրային կամ արտապայմանագրային պատասխանատվության հետ։ Գնահատվում է, թե արդյոք արտադրանքն ապահովել է այն անվտանգությունը, որը հանրությունն իրավունք ունի ակնկալել՝ հաշվի առնելով դրա ներկայացումը, ողջամտորեն կանխատեսելի օգտագործումը, շուկա հանելու ժամանակը և այլ հանգամանքներ։ Ոչ ճշգրիտ արդյունքն ինքնին թերության ապացույց չէ։

Թերի արտադրանքի համար պատասխանատվության մասին նոր ԵՄ 2024/2853 հրահանգը ծրագրային ապահովումը և արհեստական բանականության համակարգերը բացահայտորեն ներառում է արտադրանքի սահմանման մեջ։ Այն թվային արտադրանքների, թարմացումների, կիբեռանվտանգության, ապացույցների բացահայտման և որոշ կանխավարկածների համար հարմարեցված կանոններ է նախատեսում։

Սա չի նշանակում, որ նոր Հրահանգն արդեն ամբողջությամբ կիրառելի հունական կանոնն է ներկայում տեղի ունեցող յուրաքանչյուր դեպքի համար։ Այն պետք է ազգային իրավունք փոխադրվի մինչև 2026 թվականի դեկտեմբերի 9-ը, իսկ Հունաստանի փոխադրման ակտը պետք է ստուգվի հրապարակվելուց հետո։

7. Նոր Հրահանգի կարևոր անցումային ամսաթիվը

2026 թվականի մայիսի 7-ին հրապարակված ուղղումից հետո նոր Հրահանգը կիրառվում է 2026 թվականի դեկտեմբերի 8-ից հետո շուկայում շրջանառության մեջ դրված կամ շահագործման հանձնված արտադրանքների նկատմամբ։ Ավելի վաղ արտադրանքների և դեպքերի համար պետք է ուսումնասիրել նախորդ իրավակարգավորումը և պատասխանատվության մյուս հասանելի հիմքերը։

Այս տարբերակումը կարևոր է շարունակաբար թարմացվող հավելվածների համար։ Անհրաժեշտ է արձանագրել, թե որ տարբերակն է օգտագործվել, ով է տրամադրել գործառույթը և երբ։ Կիրառելի օրենսդրությունը միայն այն ամսաթվով ընտրելը, երբ օգտատերը նկատել է սխալը, հուսալի մոտեցում չէ։

Արհեստական բանականության համար պատասխանատվությանը հատուկ նվիրված եվրոպական Հրահանգի COM(2022)496 առաջարկը հետ է կանչվել 2025 թվականի հոկտեմբերի 6-ին։ Դրանով առաջարկված կանխավարկածները և տեղեկությունների բացահայտման կանոնները գործող իրավունք չեն։ Հետկանչը գրանցված է պաշտոնական օրենսդրական ընթացակարգում։

8. Ինչ վնաս պետք է ապացուցվի

Պահանջը պետք է նկարագրի իրական հետևանք, ոչ միայն ծրագրային սխալի կամ խախտման առկայությունը։ Իրավական հիմքից կախված՝ այն կարող է վերաբերել մարմնական վնասվածքի, գույքային վնասի, տվյալների ոչնչացման կամ աղավաղման, եկամտի կորստի, լրացուցիչ ծախսերի, անձնական ոչ գույքային իրավունքների խախտման կամ ճանաչվող այլ վնասի։

Զուտ տնտեսական յուրաքանչյուր կորուստ նույն կերպ չի փոխհատուցվում։ Արտադրանքի համար պատասխանատվության նոր Հրահանգն ունի ընդգրկվող վնասի սեփական սահմանումը, իսկ պայմանագրային, արտապայմանագրային և սպառողական իրավունքը տարբեր պայմաններ են սահմանում։ Արձանագրեք.

1. դեպքից առաջ եղած սկզբնական գումարը կամ գույքային ակտիվը,
2. առաջացած կոնկրետ փոփոխությունը,
3. հաշիվները, բժշկական փաստաթղթերը, տեխնիկական եզրակացությունները կամ կորցրած եկամուտը,
4. վնասը սահմանափակելու համար ձեռնարկված ողջամիտ քայլերը,
5. այլ պատճառները, որոնք կարող էին նպաստել վնասին։

Չափազանցված ձևակերպումը թուլացնում է գործը։ Փաստաթղթավորված ժամանակագրական և ֆինանսական պատկերը շատ ավելի օգտակար է, քան ընդհանուր պնդումը, թե «արհեստական բանականությունն ամեն ինչ ոչնչացրեց»։

9. Պատճառահետևանքային կապը և մարդկային որոշումը

Արհեստական բանականության կիրառություններում հաճախ մի քանի միջանկյալ փուլ կա։ Արդյունքը ցուցադրվում է աշխատակցին, նա ստուգում է այն կամ չի ստուգում, կազմակերպությունը կիրառում է կանոն, ապա առաջանում է հետևանքը։ Ուսումնասիրությունը պետք է ցույց տա, թե որ փուլն է եղել որոշիչ։

Մարդու մասնակցությունը միշտ չէ, որ մատակարարին ազատում է պատասխանատվությունից, և միշտ չէ, որ ամբողջ պատասխանատվությունը փոխանցում է համակարգը գործարկողին։ Մարդը կարող է ունենալ միայն հաստատման ձևական կոճակ՝ առանց ժամանակի, տեղեկության կամ առաջարկությունից իրականում շեղվելու հնարավորության։ Հակառակ դեպքում, անկախ մասնագիտական դատողությունը կարող է լինել էական միջանկյալ գործոն։

Անհրաժեշտ են գրանցամատյաններ, որոնք ցույց են տալիս մուտքային տվյալը, արդյունքը, վստահության գնահատականը կամ առկա այլ ցուցանիշները, նախազգուշացումները, օգտատիրոջ միջամտությունը, վերջնական որոշումը և ժամանակը։ Եթե կարևոր տեղեկությունները պահում է մատակարարը, դրանց պահպանման վաղաժամ պահանջը կարող է անհրաժեշտ լինել մինչև պայմանագրային պահպանման ժամկետի ավարտը։

10. Ինչպես պահպանել վստահելի թվային ապացույցը

Էկրանակադրը ցույց է տալիս միայն այն, ինչ տեսանելի է եղել մեկ էկրանին։ Այն միշտ չէ, որ ապացուցում է, թե որ տարբերակն է ստեղծել արդյունքը, արդյոք դրան նախորդել են այլ հաղորդագրություններ, ֆայլը փոփոխվել է, թե ոչ, կամ որ հաշիվն է օգտագործվել։ Պահպանեք ամբողջական արտահանումը, եթե այն հասանելի է, և չփոփոխված բնօրինակ ֆայլը։

1. արտահանեք ամբողջ զրույցը կամ հաշվետվությունը, ոչ միայն վիճարկվող հատվածը,
2. պահպանեք URLs, IDs, վերնագրերը, ժամանակային դրոշմները և գործարքների հաստատումները,
3. արձանագրեք մոդելը, հավելվածի տարբերակը, կարգավորումները և միացված աղբյուրները,
4. պահպանեք սկզբնական մուտքային տվյալը, կցորդները և ցուցադրված նախազգուշացումները,
5. ստեղծեք ֆայլի թվային մատնահետք, եթե դրա ամբողջականությունը կարող է վիճարկվել,
6. մի «մաքրեք» կամ արհեստական բանականությամբ մի վերաստեղծեք ապացույցները՝ առանց բնօրինակը պահպանելու։

Մետատվյալները և հեշերն ինքնին չեն ապացուցում բովանդակության ճշմարտացիությունը, սակայն օգնում են ստուգել՝ արդյոք կոնկրետ ֆայլը փոխվել է։ Լուրջ գործով կարող են անհրաժեշտ լինել տեխնիկական փորձաքննություն և երրորդ անձանց մոտ պահվող տեղեկություններն ստանալու օրինական ընթացակարգ։

11. Ինչ ընթացակարգով գործել

Սկսեք անմիջական դեր ունեցած կազմակերպությանը կամ մասնագետին գրավոր ծանուցում ուղարկելուց։ Նկարագրեք դեպքը, վնասը, ապացույցները, պահպանման պահանջը և պաշտպանության կոնկրետ միջոցը։ Անորոշ սպառնալիքներ մի ուղարկեք բոլոր հնարավոր մասնակիցներին. դրանք դժվարացնում են հանգամանքների պարզաբանումը։

1. Պայմանագիր կամ սպառողական ծառայություն. պայմանագրային մյուս կողմից պահանջեք համապատասխանության ապահովում, գումարի վերադարձ, ուղղում կամ փոխհատուցում։
2. Անձնական տվյալներ. իրացրեք հասանելիության, առարկության կամ այլ համապատասխան իրավունքը և անհրաժեշտության դեպքում բողոք ներկայացրեք իրավասու մարմնին։
3. AI Act. Կանոնակարգի կանոնների խախտման դեպքում օգտվեք իրավասու վերահսկող մարմնին բողոք ներկայացնելու ընթացակարգից։
4. Մասնագիտական ծառայություն. ուսումնասիրեք պայմանագիրը, պատշաճ ջանասիրության կանոնները, պատասխանատվության ապահովագրությունը և հնարավոր կարգապահական վարույթը։
5. Թերի արտադրանք կամ ծրագրային ապահովում. պարզեք արտադրողին, տարբերակը, տրամադրման ժամանակը և կիրառելի անցումային իրավակարգավորումը։
6. Անմիջական վտանգ կամ հանցագործություն. առաջնահերթ են անձանց, համակարգերի և ապացույցների պաշտպանությունն ու իրավասու պետական մարմնին դիմելը։

Այս ընթացակարգերը կարող են զուգահեռ կիրառվել։ Վարչական քննությունը կարող է օգտակար նյութ տրամադրել, սակայն այդ ընթացքում չպետք է բաց թողնել հայցային վաղեմության, պայմանագրային ժամկետը կամ ապահովագրողին ծանուցելու հնարավորությունը։

12. Ինչ հիշել նախքան գործելը

Մի փորձեք ապացուցել, որ «արհեստական բանականությունն ընդհանուր առմամբ անվստահելի է»։ Ապացուցեք, թե որ համակարգը, որ տարբերակը, որ մուտքային տվյալը, որ արդյունքը և մարդու կողմից որ կիրառությունն են կապված ձեր վնասի հետ։ Քարտեզագրեք բոլոր մասնակիցներին և ընտրեք հարաբերությանը և վնասի տեսակին համապատասխան իրավական հիմքը։

AI Act-ը ավելացնում է պարտականություններ և վերահսկողական ընթացակարգեր, իսկ արտադրանքի համար պատասխանատվության նոր եվրոպական Հրահանգն արդիականացնում է ծրագրային ապահովման համար պատասխանատվությունը։ Դրանցից ոչ մեկը չի վերացնում պայմանագրի, պատշաճ ջանասիրության, իրական վնասի և պատճառահետևանքային կապի անհրաժեշտությունը։ Թվային ապացույցների շղթայի ժամանակին պահպանումը սովորաբար այն քայլն է, որը հետագայում հնարավոր չէ վերականգնել։