I. Ievads
Pagājušajā gadā stājās spēkā Mākslīgā intelekta akts (MI akts). Minētais akts jāpiemēro no 2026.gada 2.augusta, tomēr, ievērojot, ka MI aktā noteikti dažādi laika posmi, kad konkrētās šī akta daļas jāsāk piemērot, uzsverams, ka jau no 2025.gada 2.februāra jāpiemēro MI akta I nodaļa „Vispārīgi noteikumi” un II nodaļa „Aizliegta MI prakse”. Bet no 2025.gada 2.augusta, izņemot MI akta 101.pantu „Vispārīga lietojuma MI modeļu nodrošinātājiem piemērojami naudas sodi”, jāpiemēro MI akta III nodaļas 4.iedaļa „Paziņojošās iestādes un paziņotās struktūras”, V nodaļa „Vispārīga lietojuma MI modeļi”, VII nodaļa „Pārvaldība”, XII nodaļa „Sodi” un 78.pants „Konfidencialitāte”. Savukārt MI akta 6.panta 1.punkts „Noteikumi klasificēšanai par augsta riska MI sistēmām” jāpiemēro no 2027.gada 2.augusta. Tāpat norādāms, ka Eiropas Komisija ir publicējusi vadlīnijas saistībā ar aizliegto MI praksi, tādējādi sniedzot detalizētu skaidrojumu saistībā ar diskusiju raisošiem jautājumiem.
Tomēr, kādēļ ir būtiski zināt par MI aktu? Atbilde ir pavisam vienkārša – jānodrošina MI pratība. Norādītais uzsvērts MI akta 4.pantā, t.i., MI sistēmu nodrošinātājiem un uzturētājiem jāveic pasākumi, ar ko cik iespējams labi jānodrošina pietiekamu MI pratības līmeni savam personālam un citām personām, kuras to vārdā iesaistītas MI sistēmu darbībā un izmantošanā, ņemot vērā viņu tehniskās zināšanas, pieredzi, izglītību un apmācību un MI sistēmu izmantošanai paredzēto kontekstu, kā arī ņemot vērā personas vai personu grupas, attiecībā uz ko MI sistēmas paredzēts lietot.
Tāpat MI akts ir regula, kas ir tieši piemērojams Eiropas Savienības tiesību akts, un tas ir saistošs iestādēm, uzņēmumiem, kā arī privātpersonām. Tādēļ, ievērojot, ka MI sistēmas arvien vairāk kļūst par ikvienas personas ikdienu, piemēram, situācijā, kad darba devējs izvēlas lietot MI sistēmu fizisku personu pieņemšanai darbā, darbinieku atlasei, jo īpaši, lai izvietotu mērķtiecīgus darba sludinājumus, analizētu un atsijātu darba pieteikumus un izvērtētu kandidātus, vai lai pieņemtu lēmumus, kas skar cita starpā darbinieka paaugstināšanu amatā vai arī uzdevumu sadali, pamatojoties uz individuālo uzvedību vai personības iezīmēm vai īpašībām, vai lai pārraudzītu un izvērtētu darba līgumattiecībās esošo personu sniegumu un uzvedību, jāņem vērā, ka darba devējam būs jāievēro prasības, kas saistītas ar augsta riska MI sistēmām (MI akta III.pielikuma 4.punkts).
Turklāt, kas ir ne mazāk svarīgi, šādā situācijā jāapzinās, vai darba devējs ir MI sistēmu uzturētājs vai arī nodrošinātājs, jo tiesību un pienākumu apjoms minētajiem subjektiem MI aktā ir atšķirīgs. Norādītais izpaužas, piemēram, tādējādi, ka augsta riska MI sistēmu nodrošinātājiem jāpievieno lietošanas instrukcija, kurai jābūt saprotamai uzturētājiem (MI akta 13.pants). Tas tā ir, jo augsta riska MI sistēmu uzturētājiem jāveic pienācīgus tehniskos un organizatoriskos pasākumus, lai nodrošinātu, ka viņi MI sistēmas lieto saskaņā ar MI sistēmai pievienoto lietošanas instrukciju (MI akta 26.pants). Tas attiecīgi nozīmē, ka uzturētājiem jālieto MI sistēma atbilstoši instrukcijai, jo pretējā gadījumā, ja iestāsies nelabvēlīgas sekas personai, lietojot MI sistēmu, atbildīgs būs uzturētājs, nevis nodrošinātājs. Vienlaikus paturams prātā, ka uzturētājiem, kas attiecīgi ir darba devēji, pirms augsta riska MI sistēmas lietošanas darbavietā jāinformē darba ņēmēji, ka uz viņiem attieksies augsta riska MI sistēmas lietošana (MI akta 26.panta 7.pants).
Savukārt cits piemērs, kas saistīts ar aizliegto MI praksi, būtu tad, ja darba devējs izvēlētos lietot tādu MI sistēmu, kas izsecinātu darbinieku emocijas darba vietā (MI akta 5.panta 1.punkta f) apakšpunkts). Šāda MI sistēmas izmantošana ir aizliegta, tomēr jāņem vērā, ka MI aktā ietverti arī izņēmumi. Konkrētā piemēra kontekstā norādāms, ka MI akta 5.panta 1.punkta f) apakšpunktā iekļauts izņēmums, t.i., minētajam aizliegumam nebūtu jāattiecas uz MI sistēmām, kas laistas tirgū medicīnisku vai drošības iemeslu dēļ. Tas nozīmē, ka šāds aizliegums neattieksies, piemēram, uz MI sistēmām, kas paredzētas lietošanai terapeitiskos nolūkos (MI akta preambulas 44.apsvērums).
Tādējādi arī šādā gadījumā jānošķir mērķis konkrētai MI sistēmai, kā arī veids, kādā tā tiek lietota. Līdz ar to šī raksta ietvaros tiks, pirmkārt, skaidrota terminoloģija, otrkārt, tiks aplūkotas MI sistēmu kategorijas, treškārt, prasības un pienākumi, ceturtkārt, nosacījumi saistībā ar pamattiesību aizsardzību.
II. Terminoloģija
Iesākumā būtiski pievērst uzmanību MI aktā lietotai terminoloģijai, lai nošķirtu, kurā brīdī subjekts ir, piemēram, uzturētājs jeb subjekts, kas lieto MI sistēmu, vai nodrošinātājs jeb subjekts, kas izstrādā MI sistēmu. Respektīvi, par uzturētāju tiek uzskatīta fiziska vai juridiska persona, publiskā sektora iestāde, aģentūra vai cita struktūra, kura lieto MI sistēmu, kas ir tās pārziņā, izņemot gadījumus, kad MI sistēmu lieto personiskas neprofesionālas darbības veikšanai (MI akta 3.panta 4.punkts). Savukārt par nodrošinātāju tiek uzskatīta fiziska vai juridiska persona, publiska iestāde, aģentūra vai cita struktūra, kura par samaksu vai par brīvu izstrādā MI sistēmu vai vispārīga lietojuma MI modeli vai kura liek izstrādāt MI sistēmu vai vispārīga lietojuma MI modeli un laiž to tirgū vai nodod MI sistēmu ekspluatācijā ar savu nosaukumu/vārdu vai preču zīmi (MI akta 3.panta 3.punkts).
Tāpat jāņem vērā, ka MI aktā netiek lietots jēdziens mākslīgais intelekts, bet gan jēdziens MI sistēma, kas attiecīgi nozīmē, ka, iekams kādu sistēmu nosaukt par MI sistēmu, tai jāatbilst MI aktā sniegtajai MI sistēmas definīcijai. Respektīvi, ar MI sistēmu jāsaprot mašinizēta sistēma, kura projektēta darboties ar dažādiem autonomijas līmeņiem, kura var pēc ieviešanas būt adaptīva un kura eksplicītiem vai implicītiem mērķiem secina no informācijas, ko tā saņem, kā ģenerēt iznākumus, piemēram, prognozes, saturu, ieteikumus vai lēmumus, kas var ietekmēt fizisko vai virtuālo vidi (MI akta 3.panta 1.punkts).
Pieminams, ka MI aktā paredzēti arī izņēmumi. Piemēram, kad MI sistēma tiek lietota personiskas neprofesionālas darbības veikšanai, uz subjektu netiks attiecinātas uzturētājam izvirzītās prasības (MI akta 2.panta 10.punkts). Tāpat no MI akta darbības jomas izslēgtas arī MI sistēmas vai MI modeļi, tostarp to radītais iznākums, kas konkrēti izstrādāts un nodots ekspluatācijā vienīgi zinātniskās pētniecības un izstrādes nolūkā (MI akta 2.panta 6.punkts). Kā tas paskaidrots MI akta preambulas 25.apsvērumā, šai regulai jāatbalsta inovācija un jāievēro zinātnes brīvība un tai nav jākavē pētniecības un izstrādes darbība. Tomēr detalizētāk izņēmumi no MI akta piemērošanas jomas aplūkojami šīs regulas 2.pantā.
III. MI sistēmu kategorijas un vispārīga lietojuma MI modeļi
MI akts izdala dažādas MI sistēmu kategorijas, kā arī vispārīga lietojuma MI modeļus. Atkarībā no tā, kāda MI sistēmu kategorija tiek izmantota, MI akts attiecīgi nodala arī pienākumus un atbildību nodrošinātājiem un uzturētājiem. Tādēļ turpmāk tiks aplūkots, kas ietilpst aizliegtā MI praksē (MI akta 5.pants), kāda veida MI sistēmas uzskatāmas par augsta riska (MI akta III nodaļa), kā arī ko būtu jāuzskata pa ierobežota riska MI sistēmām. Vienlaikus uzsverams, ka pašā MI aktā nav atsevišķi izdalītas šādas ierobežota riska MI sistēmas, bet gan norādīts uz dažu MI sistēmu nodrošinātāju un uzturētāju pienākumiem attiecībā uz pārredzamības nodrošināšanu (MI akta 50.pants).
3.1. Aizliegtā MI prakse – MI akta II nodaļa, kas piemērojama no 2025.gada 2.februāra
MI aktā norādīts, ka aizliegta tādas MI sistēmas laišana tirgū, nodošana ekspluatācijā vai arī lietošana:
1. kas izmanto cilvēka neapzinātus subliminālus paņēmienus vai tīši manipulatīvus vai maldinošus paņēmienus, kuru mērķis ir būtiski iespaidot personas vai personu grupas uzvedību vai kuriem ir tādas sekas, kas ievērojami pasliktina viņu spēju pieņemt informētu lēmumu, tādējādi liekot tām pieņemt lēmumu, ko tās citādi nebūtu pieņēmušas, tādā veidā, kas šai personai, citai personai vai personu grupai rada vai pamatoti ticami radīs būtisku kaitējumu (MI akta 5.panta 1.punkta a) apakšpunkts);
2. kura izmanto kādu no kādas fiziskas personas vai konkrētas personu grupas neaizsargātības iezīmēm viņu vecuma, invaliditātes vai konkrētas sociālās vai ekonomiskās situācijas dēļ un kuras mērķis vai sekas ir minētās personas vai minētajai grupai piederīgas personas uzvedības būtiska iespaidošana tādā veidā, kas attiecīgajai personai vai citai personai rada vai radīs būtisku kaitējumu (MI akta 5.panta 1.punkta b) apakšpunkts);
3. nolūkā izvērtēt vai klasificēt fiziskas personas vai personu grupas noteiktā laikposmā, pamatojoties uz viņu sociālo uzvedību vai zināmām, izsecinātām vai prognozētām personas vai personības īpašībām, ja šāds sociālais novērtējums ved pie viena vai abiem šādiem iznākumiem (MI akta 5.panta 1.punkta c) apakšpunkts):
a) kaitējoša vai nelabvēlīga attieksme pret dažām fiziskām personām vai personu grupām sociālos kontekstos, kas nav saistīti ar kontekstiem, kuros dati tika sākotnēji ģenerēti vai arī savākti;
b) kaitējoša vai nelabvēlīga attieksme pret dažām fiziskām personām vai personu grupām, kas nav pamatota vai arī nav samērīga ar viņu sociālo uzvedību vai tās smagumu;
4. fizisku personu radītā riska novērtējuma veikšanai, lai tādējādi novērtētu vai prognozētu risku, ka fiziska persona varētu izdarīt noziedzīgu nodarījumu, kura balstās vienīgi uz fiziskas personas profilēšanu vai uz tās personisko īpašību un rakstura iezīmju novērtēšanu. Tomēr šo aizliegumu nepiemēro MI sistēmām, kuras izmanto, lai atbalstītu cilvēka veiktu novērtējumu par personas iesaistīšanos noziedzīgā darbībā, kurš jau ir balstīts uz objektīviem un pārbaudāmiem faktiem, kas ir tieši saistīti ar noziedzīgu darbību (MI akta 5.panta 1.punkta d) apakšpunkts);
5. kuras izveido vai paplašina sejas atpazīšanas datubāzes, nemērķorientēti rasmojot sejas attēlus no interneta vai videonovērošanas sistēmu video (MI akta 5.panta 1.punkta e) apakšpunkts).
Tāpat aizliegtajā MI praksē ietilpst arī:
1. tādu biometriskās kategorizācijas sistēmu laišana tirgū vai nodošana ekspluatācijā, vai lietošana, kuras individuāli kategorizē fiziskas personas, pamatojoties uz viņu biometriskajiem datiem, lai atvedinātu vai izsecinātu viņu rasi, politiskos uzskatus, dalību arodbiedrībās, reliģiskos vai filozofiskos uzskatus, dzimumdzīvi vai seksuālo orientāciju. Uzsverams, ka šis aizliegums neattiecas uz likumīgi iegūtu biometrisko datu kopu, piemēram, attēlu filtrēšanu, pamatojoties uz biometriskajiem datiem, vai biometrisko datu kategorizēšanu tiesībaizsardzības jomā (MI akta 5.panta 1.punkta g) apakšpunkts);
2. reāllaika biometriskās tālidentifikācijas sistēmu izmantošana publiski piekļūstamās vietās tiesībaizsardzības nolūkos, izņemot, ja – un tiktāl, cik – tāda izmantošana ir absolūti nepieciešama (MI akta 5.panta 1.punkta h) apakšpunkts):
a. konkrētu nolaupīšanas, cilvēku tirdzniecības vai cilvēku seksuālas izmantošanas upuru mērķtiecīgai meklēšanai, kā arī bezvēsts pazudušu personu meklēšanai;
b. konkrēta, būtiska un nenovēršama apdraudējuma fizisku personu dzīvībai, drošībai vai reālu un pašreizēju, kā arī paredzamu teroristu uzbrukuma draudu novēršanai;
c. par noziedzīga nodarījuma izdarīšanu aizdomās turētas personas atrašanās vietas noteikšanu vai personas identificēšanu nolūkā veikt kriminālizmeklēšanu/kriminālvajāšanu/kriminālsoda izpildi par II pielikumā minētajiem nodarījumiem, par kuriem attiecīgajā ES dalībvalstī var piemērot brīvības atņemšanas sodu vai ar brīvības atņemšanu saistītu drošības līdzekli, kura maksimālais ilgums ir vismaz četri gadi.
Tajā pašā laikā uzsverams, ka atbilstoši MI akta 5.panta 2.punktam reāllaika biometriskās tālidentifikācijas sistēmu lietošanu publiski piekļūstamās vietās tiesībaizsardzības nolūkos var ieviest, lai apstiprinātu konkrētas personas identitāti, tomēr jāvērtē un jāņem vērā:
a. tās situācijas raksturs, kuras dēļ var notikt tāda lietošana, jo īpaši tā kaitējuma smagums, iespējamība un apmērs, kas tiktu radīts, ja sistēma netiktu lietota;
b. sistēmas lietošanas sekas attiecībā uz visu attiecīgo personu tiesībām un brīvībām, jo īpaši minēto seku smagums, iespējamība un apmērs.
Vienlaikus katrai reāllaika biometriskās tālidentifikācijas sistēmas lietošanai tiesībaizsardzības nolūkos publiski piekļūstamās vietās nepieciešama iepriekšēja atļauja, kuru jāizsniedz tiesai vai neatkarīgai administratīvai iestādei, un detalizētāk saistībā ar to, kas jāņem vērā šādas atļaujas sniegšanas gadījumā, norādīts MI akta 5.panta 3.punktā.
3.2. Augsta riska MI sistēmas
MI akta 6.pantā ietverti noteikumi MI sistēmas klasificēšanai par augsta riska MI sistēmu. Respektīvi, MI sistēmu uzskata par augsta riska sistēmu, ja vienlaikus izpildās šādi nosacījumi:
a. MI sistēmu paredzēts izmantot kā produkta drošības sastāvdaļu vai MI sistēma pati par sevi ir produkts, uz kuru attiecas ES saskaņošanas tiesību akti, kas uzskaitīti MI akta I pielikumā;
b. produktam, kura drošības sastāvdaļa ir MI sistēma, vai pašai MI sistēmai kā produktam ir vajadzīgs trešās personas veikts atbilstības novērtējums, lai to varētu laist tirgū vai nodot ekspluatācijā saskaņā ar ES saskaņošanas tiesību aktiem, kas uzskaitīti MI akta I pielikumā.
Papildus par augsta riska sistēmām uzskatāmas MI akta III pielikumā norādītās MI sistēmas, kas sadalītas pa attiecīgajām jomām. Respektīvi:
1. Biometrija:
a. biometriskās tālidentifikācijas sistēmas; vienlaikus uzsverams, ka norādītais neietver MI sistēmas, ko paredzēts izmantot biometriskai verifikācijai, kuras vienīgais nolūks ir apstiprināt, ka konkrēta fiziska persona ir persona, par kuru tā uzdodas;
b. MI sistēmas, ko paredzēts izmantot emociju atpazīšanai.
2. Kritiskā infrastruktūra: MI sistēmas, ko paredzēts izmantot kā drošības sastāvdaļas kritiskās digitālās infrastruktūras pārvaldībā un darbībā, ceļu satiksmē vai ūdens, gāzes vai elektroapgādē vai apkures nodrošināšanā.
3. Nodarbinātība, darba ņēmēju pārvaldība un piekļuve pašnodarbinātībai:
a. fizisku personu pieņemšanai darbā vai darbinieku atlasei, jo īpaši lai izvietotu mērķtiecīgus darba sludinājumus, analizētu un atsijātu darba pieteikumus un izvērtētu kandidātus;
b. lai pieņemtu lēmumus, kas skar darba attiecību, paaugstināšanas amatā vai darba līgumattiecību izbeigšanas kārtību, sadalītu uzdevumus, pamatojoties uz individuālo uzvedību vai personības iezīmēm vai īpašībām, vai lai pārraudzītu un izvērtētu darba līgumattiecībās esošo personu sniegumu un uzvedību.
4. Piekļuve privātiem pamatpakalpojumiem, sabiedriskajiem pamatpakalpojumiem un pabalstiem, kā arī to izmantošana:
a. lai izvērtētu fizisku personu tiesības saņemt pamata sociālās palīdzības pabalstus un pakalpojumus, tostarp veselības aprūpes pakalpojumus, kā arī lai piešķirtu, samazinātu, atsauktu vai atgūtu šādus pabalstus un pakalpojumus;
b. fizisku personu kredītspējas izvērtēšanai vai to kredītnovērtējuma noteikšanai, izņemot tādas MI sistēmas, kuras izmanto krāpšanas atklāšanai finanšu jomā;
c. riska novērtēšanai un cenu noteikšanai attiecībā uz fiziskām personām dzīvības un veselības apdrošināšanas gadījumā;
d. lai izvērtētu un klasificētu fizisku personu ārkārtas palīdzības izsaukumus vai ārkārtas pirmās reaģēšanas dienestu, tostarp policijas, ugunsdzēsēju un medicīniskās palīdzības sniedzēju, nosūtīšanai vai nosūtīšanas prioritāšu noteikšanai, kā arī neatliekamās medicīniskās aprūpes pacientu triāžas sistēmām.
5. Tiesībaizsardzība:
a. lai novērtētu risku, ka fiziska persona varētu kļūt par cietušo personu noziedzīgos nodarījumos;
b. melu detektoros un līdzīgos rīkos;
c. pierādījumu uzticamības izvērtēšanai noziedzīgu nodarījumu izmeklēšanas vai kriminālvajāšanas gaitā;
d. lai novērtētu risku, ka fiziska persona varētu izdarīt vai atkārtoti izdarīt nodarījumu.
6. Tiesvedība un demokrātijas procesi:
a. lai palīdzētu tiesu iestādei izpētīt un interpretēt faktus vai tiesību normas un piemērot tiesību normas konkrētam faktu kopumam vai izmantot līdzīgā veidā strīdu alternatīvā izšķiršanā;
b. lai ietekmētu vēlēšanu vai referenduma rezultātus vai fizisku personu uzvedību balsošanā, kad tās balso vēlēšanās vai referendumos. Tas neattiecas uz MI sistēmām, kuru rezultātam fiziskas personas nav tieši pakļautas, piemēram, rīkiem, ko izmanto, lai organizētu, optimizētu vai strukturētu politiskas kampaņas no administratīvā vai loģistikas viedokļa.
7. Migrācijas, patvēruma un robežkontroles pārvaldība:
a. kā melu detektorus vai līdzīgus rīkus;
b. lai novērtētu risku, tostarp drošības risku, neatbilstīgas migrācijas risku vai veselības risku, ko rada fiziska persona, kas vēlas ieceļot vai ir ieceļojusi ES dalībvalsts teritorijā;
c. lai palīdzētu kompetentām publiskajām iestādēm izskatīt patvēruma, vīzu vai uzturēšanās atļauju pieteikumus, kā arī saistītās sūdzības, nosakot, vai fiziskās personas atbilst kritērijiem, tostarp veicot saistītu pierādījumu patiesuma novērtēšanu;
d. saistībā ar migrācijas, patvēruma vai robežkontroles pārvaldību nolūkā atklāt, atpazīt vai identificēt fiziskas personas, izņemot ceļošanas dokumentu verifikāciju.
Tādējādi, piemēram, ja saistībā ar tiesvedību tiek izmantota MI sistēma, tā būtu jāuzskata par augsta riska sistēmu, ja tā cita starpā palīdz izpētīt un interpretēt faktus vai tiesību normas un piemērot tiesību normas konkrētam faktu kopumam. Tomēr, ja izmantotā MI sistēma neveic uzskaitītās funkcijas, tad tā automātiski nevar tikt pieskaitīta pie šādas augsta riska MI sistēmas, jo jāvērtē, kādā veidā attiecīgā MI sistēma tiek izmantota un kā tā darbojas.
3.3. Vispārīga lietojuma MI modeļi
Vispārīga lietojuma MI modeļi jānošķir no MI sistēmām, lai tādējādi nodrošinātu juridisko noteiktību. Lai gan MI modeļi ir būtiskas MI sistēmu sastāvdaļas, tie paši par sevi nav MI sistēmas. Lai MI modeļi kļūtu par MI sistēmām, tiem jāpievieno vēl citas sastāvdaļas, piemēram, lietotāja saskarne. MI modeļi parasti ir integrēti MI sistēmās un ir to daļa (MI akta preambulas 97.apsvērums).
Vienlaikus, lai arī vispārīga lietojuma modeļi, jo īpaši lieli ģeneratīvi modeļi, kas spēj ģenerēt tekstu, attēlus un citu saturu, sniedz unikālas inovācijas iespējas, tomēr tie arī rada izaicinājumus māksliniekiem, autoriem un citiem satura veidotājiem un tam, kā tiek radīts, izplatīts, lietots un patērēts radošais saturs.
Norādīto MI modeļu izstrādei un apmācībai ir vajadzīga piekļuve lielam teksta, attēlu, video un citu datu apjomam. Tekstizraces un datizraces metodes šajā kontekstā var plaši izmantot, lai izgūtu un analizētu saturu, ko var aizsargāt autortiesības un blakustiesības. Jebkādai ar autortiesībām aizsargāta satura izmantošanai ir vajadzīga attiecīgā tiesību subjekta atļauja, ja vien netiek piemēroti attiecīgie autortiesību izņēmumi un ierobežojumi. Tāpat uzsverams, ka ar Direktīvu (ES) 2019/790 ieviesti izņēmumi un ierobežojumi, kas pieļauj – ar konkrētiem nosacījumiem – reproducēšanu un ekstrahēšanu attiecībā uz darbiem vai citiem blakustiesību objektiem tekstizraces un datizraces nolūkā (MI akta preambulas 105.apsvērums).
Tāpat jāņem vērā, ka vispārīga lietojuma MI modelis var būt ar sistēmisku risku (MI akta 51.pants). Vispārīga lietojuma MI modeļi var radīt sistēmiskus riskus, kas cita starpā ietver jebkādu faktisku vai pamatoti paredzamu negatīvu ietekmi saistībā ar kritisko nozaru darbības traucējumiem un nopietnām sekām sabiedrības veselībai un drošībai, jebkādu faktisku vai pamatoti paredzamu negatīvu ietekmi uz demokrātiskajiem procesiem, sabiedrības un ekonomikas drošību, nelikumīgu, nepatiesu vai diskriminējoša satura izplatīšanu. Sistēmiskie riski jāsaprot kā tādi, kas palielinās līdz ar MI modeļa spējām un modeļa tvērumu un var rasties visā modeļa dzīves ciklā, un ko ietekmē ļaunprātīgas izmantošanas apstākļi, modeļa drošība, autonomijas pakāpe, tā piekļuve aizsargmehānismu likvidēšanas potenciāls utt. (MI akta preambulas 110.apsvērums).
Minētais attiecīgi nozīmē, ka, vērtējot MI sistēmu, jāspēj nošķirt, vai tā satur vispārīga lietojuma modeli un vai šādam modelim piemīt sistēmisks risks.
IV. Augsta riska MI sistēmu, kā arī vispārīga lietojuma MI modeļu nodrošinātāju pienākumi
Augsta riska MI sistēmām MI akts izvirza vairākas vispārīgas prasības, kas atrodamas MI akta 9., 10., 11., 12., 13. un 14.pantā. Tomēr papildus tām augsta riska MI sistēmu nodrošinātāju pienākumi izklāstīti arī MI akta 16.pantā un turpmākos MI akta pantos. Tā saskaņā ar MI akta 17.pantu augsta riska MI sistēmu nodrošinātājiem ir pienākums izveidot kvalitātes vadības sistēmu, t.i., attiecībā uz kvalitātes vadības sistēmu MI akts uzliek pienākumu izveidot sistēmu, kurā notiek sistemātiska un pienācīga dokumentācija rakstisku nostādņu, procedūru un instrukciju veidā. Tomēr šo pienākumu īstenošanai jābūt proporcionālai augsta riska MI sistēmas nodrošinātāja iestādes vai uzņēmuma lielumam.
Tāpat augsta riska MI sistēmu nodrošinātājiem uz laikposmu, kas beidzas 10 gadus pēc augsta riska MI sistēmas laišanas tirgū vai nodošanas ekspluatācijā, jāglabā dokumentāciju (MI akta 18.pants), kas ietver cita starpā tehnisko dokumentāciju (MI akta 11.pants), dokumentāciju par kvalitātes vadības sistēmu (MI akta 17.pants), atbilstības deklarāciju, kas minēta MI akta 47.pantā.
Vienlaikus augsta riska MI sistēmu nodrošinātājiem jānodrošina automātiski ģenerētas žurnāldatnes (MI akta 18.pants), kā arī augsta riska MI sistēmu nodrošinātājiem jānodrošina korektīvās darbības un informēšanas pienākuma izpilde (MI akta 20.pants), kas izpaužas tādējādi, ka augsta riska MI sistēmu nodrošinātāji, kas uzskata vai kam ir iemesls uzskatīt, ka augsta riska MI sistēma, kuru tie laiduši tirgū vai nodevuši ekspluatācijā, neatbilst MI aktam, nekavējoties veic nepieciešamās korektīvās darbības, kas vajadzīgas, lai panāktu sistēmas atbilstību vai to izņemtu, atspējotu vai atsauktu. Par to viņi informē attiecīgās augsta riska MI sistēmas izplatītājus un attiecīgā gadījumā – uzturētājus, pilnvaroto pārstāvi un importētājus.
Ne mazāk svarīgi, ka augsta riska MI sistēmu nodrošinātājiem jānodrošina arī sadarbība ar kompetentajām iestādēm (MI akta 21.pants). Minētais nozīmē, ka augsta riska MI sistēmu nodrošinātājiem pēc kompetentas iestādes pamatota pieprasījuma jāsniedz minētajai iestādei visa informācija un dokumentācija, kas vajadzīga, lai apliecinātu augsta riska MI sistēmas atbilstību MI akta 2.iedaļā noteiktajām prasībām, noformējot to iestādei viegli saprotami kādā no Eiropas Savienības iestāžu oficiālajām valodām.
Savukārt saistībā ar vispārīga lietojuma MI modeļiem norādāms, ka MI akts izvirza nodrošinātājiem pienākumus gan saistībā ar vispārīga lietojuma MI modeļiem, gan vispārīga lietojuma MI modeļiem ar sistēmisku risku (MI akta 53. un 55.panti). Uzsverams, ka uz abiem veidiem attiecināmas MI akta 53.panta prasības, savukārt uz vispārīga lietojuma MI modeļiem papildus jāattiecina arī MI akta 55.pantā noteiktais.
V. Augsta riska MI sistēmu uzturētāju pienākumi
Augsta riska MI sistēmu uzturētājiem MI akts izvirza mazāk pienākumu salīdzinājumā ar nodrošinātājiem (MI akta 26.pants). Respektīvi, augsta riska MI sistēmu uzturētājiem:
a. jāveic pienācīgi tehniskie un organizatoriskie pasākumi, lai nodrošinātu, ka viņi šādas sistēmas lieto saskaņā ar sistēmām pievienoto lietošanas instrukciju;
b. jāuztic cilvēka virsvadība fiziskām personām, kurām piemīt nepieciešamā kompetence, apmācība un pilnvaras;
c. ciktāl uzturētājs īsteno kontroli pār ievaddatiem, minētajam uzturētājam jānodrošina, ka ievaddati ir attiecīgi un pietiekami reprezentatīvi, ņemot vērā augsta riska MI sistēmai paredzēto nolūku;
d. jāpārrauga augsta riska MI sistēmas darbība, pamatojoties uz lietošanas instrukciju, un attiecīgā gadījumā jāinformē nodrošinātājus;
e. pirms augsta riska MI sistēmas nodošanas ekspluatācijā vai lietošanas darbavietā uzturētājiem, kas ir darba devēji, jāinformē darba ņēmēju pārstāvji un skartie darba ņēmēji par to, ka uz viņiem attieksies augsta riska MI sistēmas lietošana.
Būtiski uzsvērt, ka augsta riska MI sistēmu uzturētājiem jāveic ietekmes uz pamattiesībām novērtējums, kas nozīmē, ka, iekams augsta riska MI sistēma tiek lietota, uzturētājam jāveic novērtējums par ietekmi uz pamattiesībām, kādu var radīt šādas sistēmas lietošana. Norādītais jo īpaši attiecas uz uzturētājiem, kas ir publisko tiesību subjekti vai privātas vienības, kas sniedz sabiedriskos pakalpojumus (MI akta 27.pants).
VI. Pamattiesību aizsardzība
Papildus saistībā ar pamattiesībām norādāms, ka MI aktā paredzētas tiesības iesniegt sūdzību tirgus uzraudzības iestādē (MI akta 85.pants), t.i., jebkura fiziska vai juridiska persona, kurai ir pamats uzskatīt, ka ir pārkāpti MI akta noteikumi, var iesniegt sūdzības attiecīgajai tirgus uzraudzības iestādei. Tāpat MI aktā nostiprinātas tiesības saņemt skaidrojumu par individuālu lēmumu pieņemšanu (MI akta 86.pants). Respektīvi, jebkurai skartajai personai, uz kuru attiecas lēmums, ko uzturētājs pieņēmis, pamatojoties uz MI akta III pielikumā uzskaitītas augsta riska MI sistēmas iznākumu, izņemot tā MI akta III pielikuma 2.punktā uzskaitītās sistēmas, un kas rada juridiskas sekas vai līdzīgā veidā būtiski ietekmē minēto personu tādā veidā, ka tā uzskata, ka tas nelabvēlīgi ietekmē tās veselību, drošību vai pamattiesības, ir tiesības saņemt no uzturētāja skaidrus un jēgpilnus paskaidrojumus par MI sistēmas lomu lēmumu pieņemšanas procedūrā un pieņemtā lēmuma galvenajiem elementiem.
VII. MI sistēmu nodrošinātāju un uzturētāju pienākums nodrošināt pārredzamību
Kā tas izriet no MI akta 50.panta, dažu MI sistēmu nodrošinātājiem un uzturētājiem ir pienākums nodrošināt pārredzamību saistībā ar MI sistēmām. Minētais attiecināms uz MI sistēmām, kas paredzētas tiešai mijiedarbībai ar fiziskām personām, t.i., šādas MI sistēmas jāprojektē un jāizstrādā tā, lai fiziskās personas tiktu informētas par to, ka tās mijiedarbojas ar MI sistēmu, ja vien tas nav pašsaprotams no tādas fiziskas personas viedokļa, kura ir samērā labi informēta, vērīga un apdomīga, ņemot vērā apstākļus un lietošanas kontekstu.
Tāpat būtiski, ka nodrošinātājiem saistībā ar MI sistēmu, kuras ģenerē sintētisku audio, attēla, video vai teksta saturu, jānodrošina, ka MI sistēmas iznākumi ir mašīnlasāmā formātā, kā arī ir iespējams atklāt, ka tie ir mākslīgi ģenerēti vai manipulēti. Tomēr šo pienākumu nepiemēro, ciktāl MI sistēma pilda tikai palīgfunkciju standarta rediģēšanai vai būtiski nemaina uzturētāja sniegtos ievaddatus vai to semantiku.
Savukārt MI sistēmas uzturētājiem, kas ģenerē vai manipulē attēla, audio vai video saturu, kas ir dziļviltojums, jāizpauž, ka saturs ir mākslīgi ģenerēts vai manipulēts. Šo pienākumu nepiemēro, ja lietošana ir likumiski atļauta noziedzīga nodarījuma atklāšanai, novēršanai, izmeklēšanai vai kriminālvajāšanai. Tāpat, ja saturs ir daļa no acīmredzami mākslinieciska, radoša, satīriska, fikcionāla vai analoga darba vai programmas, paredzētie pārredzamības pienākumi ietver vienīgi šāda ģenerēta vai manipulēta satura esamības izpaušanu piemērotā veidā, kas netraucē izrādīt vai baudīt darbu. Bet tādas MI sistēmas uzturētāji, kura ģenerē vai manipulē tekstu, ko publicē nolūkā informēt sabiedrību par sabiedrības interešu jautājumiem, izpauž, ka teksts ir mākslīgi ģenerēts vai manipulēts.
QR
