Komerctiesības un mākslīgais intelekts: Quo vadis?
Diskusija Tieslietu ministrijas organizētā konferencē Latvijas Universitātē 2017.gada 24.novembrī
Ievads
Sāksim ar jēdzieniem. Mēs mākslīgo intelektu neesam redzējuši. Tas, kas šobrīd ir redzams, tā ir datu savākšana un apstrāde. Tā pieaug apjomā un ātrumā, un šiem datiem tiek pievienoti sensori – valodas uztveršana, vizuālā uztveršana, sejas atpazīšana, valodas konvertācija, tulkošana, šie sensori jau var noteikt arī smaržas. Tiktāl tas ir.
Bet kamēr aparāta darbību nosaka algoritms, ko izstrādā un ievieto cilvēks, tikmēr tur nekāda intelekta nav. Tas ir vienkārši tāds modes trakums šobrīd visu saukt par mākslīgo intelektu. Pirms 30 gadiem par mākslīgo intelektu droši vien dēvēja kalkulatorus. Jaunākā paaudze neatceras, ka vēl pirms kalkulatoriem bija tādas ierīces kā aritmometri, kur uzliek cipariņus, griež rokturi un izlec rezultāts. Tas nav intelekts. Intelekts pirmām kārtām ir sevis apzināšana, spēja uztvert, spēja analizēt un spēja rast risinājumus patstāvīgi. Galvenā spēja ir spēja mainīt algoritmu. Pašam, nevis gaidīt, ka atnāks inženieris un nomainīs. Tā ir spēja nestandarta situācijās pašam to algoritmu nomainīt. Tas šobrīd vēl nebūt nav panākts. Līdz ar to aizmirstiet par mākslīgo intelektu, bet runājiet par datu apstrādi. Nenoliedzu, ir daudz sasniegts, datu apjoms un ātrums ir milzīgs palīgs mums, bet tas nav mākslīgais intelekts.
Otrām kārtām, ja runājam par datu apstrādi, atbildot uz domu, vai cilvēks būs vajadzīgs vai nē, teikšu tā – kad nonāksim tiktāl, ka robots sāks mainīt algoritmu vai kad mans „inteliģentais” putekļusūcējs vai ledusskapis uzdos man jautājumu „Kas es esmu?”, tad sākšu par to domāt. Pagaidām nē.
Mani kā juristu šajā tēmā galvenokārt interesē viens jautājums – centrālais jautājums, manuprāt, ir – atbildība. Kurš atbildēs, ja kaut kas tiek salaists grīstē?
Jau pagājušā gadsimta 80.gadu vidū šis jautājums nonāca tiesās, bija juridiski strīdi. Bija uztaisīts tiem laikiem ļoti moderns aparāts, kas apstaroja audzējus. Pirms tam tas bija manuāli vadāms un nekādu problēmu nebija. Tad aparātu automatizēja, tajā bija programmatūra un operators, kurš to vadīja nosacīti – tikai nospieda pareizās pogas, tālāk aparāts pats visu darīja. Un tad pēkšņi kaut kas nojuka, un aparāts sāka ar 100 – 200 reizes lielāku radiācijas līmeni dedzināt cilvēkus. Bija seši šādi gadījumi, 3 vai 4 no tiem letāli. Radās jautājums – kurš par to atbildēs? Līdz pat šai dienai notiek strīdi par to, un nav viennozīmīgas atbildes, kam būtu jāatbild – ražotājam, operatoram, programmas radītājam vai dizaineram.
Nesenajā „Jurista Vārda” konferencē tika minēts piemērs par bezpilota automašīnu. Tajā viss ir ieprogrammēts. Notiek avārijas situācija, un, lai no tās izvairītos, ir divi varianti – vai nu automašīna ietriecas pretīmbraucošajā autobusā vai smagajā mašīnā, vai otrs variants – tā ietriecas pieturā, kurā stāv desmit cilvēki. Jautājums – kurš no šiem diviem variantiem ir ētiski un juridiski piemērotāks? Trešās alternatīvas nav. Šobrīd, ja rodas šāda situācija, par jebkuru opciju atbildēs automašīnas vadītājs – vai viņš pieļāvis neuzmanības kļūdu, vai tīši ko darījis. Ja šo risinājumu piedāvās algoritms, tas no racionālā jeb „robotiskā” viedokļa visdrīzāk izvēlēsies to vienu šoferi padzīt zem kravas automašīnas – lai bojā iet viņš viens, ne desmit cilvēki autobusa pieturā. Bet ko šis algoritms nozīmē man kā šoferim? Es kā potenciālais vadītājs nopērku automašīnu ar tajā ieprogrammētu manis apdraudējumu. Kas ir izdevīgāk ražotājam? Droši vien arī ir izdevīgāk, lai bojā aizeju es, tad es ar viņu netiesāšos.
Šie atbildības jautājumi vienmēr paliek centrā. Un vienmēr būs cilvēka izvēle. Piemēram, vecvecais jautājums, par ko joprojām strīdas – krāpniecisks darījums ar nekustamo īpašumu. Bija mums par to Civillietu departamenta spriedums paplašinātā sastāvā. Kāds ar viltotu pilnvaru vai kā citādi izkrāpis nekustamo īpašumu un pārdod to pirmajam pircējam, tas pirmais tālāk pārdod otrajam, otrais trešajam un tā tālāk. Pa ceļam šis nelabticīgais ieguvējs pazūd, un nu ir pēdējais it kā labticīgais ieguvējs. Ko darīt? Ir divi varianti – aizstāvam apkrāpto vai labticīgo ieguvēju. Argumentus varam atrast gan vienam, gan otram. Ētiski un juridiski pamatotas atbildes būs gan vienam, gan otram. Jautājums par izvēli ir cilvēcisks, un to nevar atbildēt robots. Tas ir lielā mērā arī ētikas jautājums.
Pagājušā gadsimta 40.–50.gados Aizeks Azimovs sarakstīja stāstu sēriju par robotiem, es to lasīju, kad biju pusaudzis. Azimovs formulēja trīs ļoti vienkāršus un skaidrus robotikas likumus, uz ko balstās robotu ražošana:
- pirmais: robots nekad nedrīkst kaitēt cilvēkam vai ar savu bezdarbību pieļaut kaitējumu cilvēkam;
- otrais: robotam vienmēr ir jāklausa cilvēkam, izņemot, ja tas ir pretrunā ar pirmo likumu. Tātad viens cilvēks nevar uzdot robotam, lai tas kaitē citam cilvēkam;
- trešais: robotam ir jārūpējas par savu saglabāšanu, ciktāl tas nav pretrunā ar pirmo un otro likumu.
Tas ir viss – trīs likumi, kuri jāieprogrammē katram robotam. Loģika neapgāžama, ložu droša. Tomēr katrs no šiem stāstiem ir par situāciju, kurā ik pa brīdim parādās kāds „caurums” šajos ložu drošajos likumos. Robots nojūk un sāk kaitēt cilvēkam, jo neviens likums nestrādā perfekti.
Neviens siloģisms nav perfekts. Ir formālā loģika un ir modālā loģika, un bez tām ir vēl divi un trīs loģiku veidi, kur doma tiek formēta citādi nekā strikti formālajā loģikā. Un pat formālajā loģikā ir „caurumi” – sofismi.
Vēl viens jautājums, kas mani uztrauc, ir šāds. Ja visu datu meklēšanu, apstrādi un sistematizāciju atdosim robotam – kā izaugs nākamie augsti kvalificētie juristi, ja mēs to juristu junioru izmetam ārā no darba lauka? Kā viņš nonāks līdz augsti kvalificēta jurista līmenim, ja nepratīs strādāt ar dokumentiem, tekstiem, valodu?
Par mākslīgā intelekta kvalitāti
Mans pirmais dators bija, šķiet, 1991.gadā, esmu izmēģinājis visdažādākos „gadžetus”, un, lūk, atceros, ka parādījās pirmās tulkošanas programmas. Izmēģinot ievadīju tulkotājā latīņu teicienu „Mens sana in corpore sano” (Veselā miesā vesels gars). Programma to latviski iztulkoja: „veselā gaļā vesels spirts”. Tas bija toreiz. Pirms konferences domāju paskatīt, kā ir tagad, un ieliku to Google tulkotājā. Spirta tur vairs nebija, bet nekas labs arī tur nebija. Īsti nestrādā tā sistēma arī šodien. Un kā šādam „intelektam”, kas gaļu un spirtu sajauc kopā, uzticēt cilvēku likteņus?
Uzņēmumu reģistrā bija problēmas ar uzņēmumu valdes locekļiem. Tātad ir paņemts cilvēks no ielas vai tirgus, apģērbts un saposts, atvests uz reģistru un tiek reģistrēts kā uzņēmuma valdes loceklis. Nezinu, cik aktuāla šī problēma šodien, bet teorētiski šo reģistrēšanas funkciju Uzņēmumu reģistrā varētu veikt mākslīgais intelekts – tas varētu atpazīt cilvēku pēc vizuālā izskata, balss tembra, dators var pateikt, vai cilvēks melo vai nē, galu galā nu jau arī pēc smaržas tas var cilvēku atpazīt. Lai robotos ieprogrammēti sensori atlasa „zicpriekšsēdētājus”. Bet jautājums, protams, cik ētiski un juridiski atbilstoši tas būtu.
Par procesu detalizētu regulāciju
Kad rakstījām Komerclikumu, jau no paša sākuma bija viedoklis, ka vajag detalizētu regulāciju. Jo citādi cilvēki nezinās, ko darīt, ja kāds process nebūs noregulēts likumā. Tāpēc, daži teica, likumam jābūt kā grāmatai, kā instrukcijai. Šodien dzirdējām – cik labi, ka no likuma izņemts noteikums, ka jāpārvēl visa kapitālsabiedrības padome. Piekrītu! Bet šāds priekšlikums, ar kuru ieviesa visas padomes pārvēlēšanu, nāca no 2000.gadu sākuma, no Ārvalstu investoru padomes idejas, komplektā ar priekšlikumu par padomes kumulatīvajām vēlēšanām. Likumā radījām vienu, lai gan pēc tā nebija nepieciešamības, bet tagad ejam atpakaļ. Tas nav vienīgais gadījums.
Ar to gribu teikt – ja mums nebūs dabiskā intelekta, mākslīgais mums nepalīdzēs. Ir tomēr jāpārzina, kā strādā tiesības, kā tās darbojas praktiski, nevis jāprasa, lai visas iespējamās darbības būtu ieliktas likumā vai algoritmā.