Vai mākslīgais intelekts spēj mīlēt un nīst? Profesora Auziņa zinātnes sleja

Katram, kurš mīl lasīt zinātniskās fantastikas grāmatas, ātri vien nāk prātā kāds romāns vai stāsts, kur roboti, kam piemīt mākslīgais intelekts, ir mēģinājuši pakļaut sev cilvēkus un sākt dominēt pasaulē. Lai iezīmētu šā raksta kontekstu, es atcerēšos tikai divas šādas literāras epizodes, kas man pašam īpaši palikušas prātā.

Profesora Auziņa zinātnes sleja

Mārcis Auziņš: "Kādēļ lasīt manus tekstus? Man šķiet, ka dabaszinātnes mēs bieži mēdzam "ignorēt", sakot, ka tās ir formālas, sausas un neinteresantas. Gribētos ļaut lasītājam ieraudzīt, ka tās ir daļa no mūsu dzīves – krāsainas un interesantas."

Biogrāfijas pieturzīmes:

  • Pēc profesijas fiziķis, šobrīd Latvijas Universitātes profesors, Eksperimentālās fizikas katedras un Lāzeru centra vadītājs.
  • No 2007. gada līdz 2015. bijis Latvijas Universitātes rektors.
  • Strādā kvantu fizikas jomā un ir vairāk nekā simts zinātnisko rakstu, kas publicēti pasaules vadošajos fizikas žurnālos, un vairāku simtu konferenču ziņojumu autors.
  • Kopā ar kolēģiem no Rīgas un Bērklijas uzrakstījis divas monogrāfijas, kas izdotas "Cambridge University Press" un "Oxford University Press" izdevniecībās un abas ir piedzīvojušas atkārtotus izdevumus.
  • Karjeras laikā dzīvojis un strādājis dažādās valstīs – Ķīnā un Taivānā, Amerikas Savienotajās Valstīs, Kanādā, Anglijā, Izraēlā un Vācijā.
Viens ir paranoiskais robots Mervins angļu rakstnieka Duglasa Adamsa fantastikas romānu sērijā "Galaktiskais ceļvedis stopotājiem". Mervins katru sarunu ar cilvēkiem vienmēr iesāka ar paziņojumu: "Jums būtu jāzina, ka es šobrīd esmu ļoti sliktā garastāvoklī…" Kad kāds no kosmosa kuģa apkalpes locekļiem lūdz Mervinam pagatavot viņam tēju, tad Mervins nīgri atrūc: "Labi jau labi, būs tev tēja, bet atceries, ka tu lūdz tev pakalpot kādu, kura intelekta līmenis ir nesalīdzināmi augstāks par tavējo."

Un otrs notikums ir galvenā sižeta līnija no amerikāņu rakstnieka Dena Brauna šobrīd jaunākā romāna "Sākums". Šajā romānā tā varoņa multimiljonāra un datorzinātnieka Edmonda Kirša virtuālais asistents nolemj savu saimnieku nogalināt, izplānojot un realizējot ļoti izsmalcinātu atentāta plānu.

Abas šajās un vēl daudzās citās zinātnisko romānu epizodēs ļoti tipiski šā žanra romāniem mākslīgā intelekta īpašniekiem cilvēciski piemīt emocijas, vēlmes un nolūki – brīžiem komiski un labsirdīgi draudzīgi, bet brīžiem arī naidīgi un cilvēku apdraudoši. Pie tām vēl atgriezīšos, bet kā ar mākslīgo intelektu pašlaik?

Datorprogramma, kas spēlē šahu, neko nezina par cilvēces vēsturi

Šobrīd mēs ļoti bieži vairs nevis fantastikas romānos, bet ikdienā sastopamies ar mākslīgā intelekta darbību. Visbiežāk tas ir saistīts ar valodas atpazīšanu, mašīntulkošanu (kurš gan nav izmantojis "Tildes" vai "Google" tulkošanas programmas), attēlu pazīšanu vai intelektuālām spēlēm. Visi esam dzirdējuši, kā datorprogrammas viegli uzvar pasaules čempionus tādās prāta spēlēs kā šahs vai go. Nezinu, kā jums, bet man šahs kā prāta darbības zināma kvintesence zaudējis daļu savas pievilcības brīdī, kad kļuva skaidrs, ka

samērā vienkārša programma, ko var darbināt kaut vai no mobilā telefona, mūsdienās viegli pārspēj vadošos pasaules šahistus.

Tas radījis arī tīri praktiskas problēmas, un skandāli, kas saistīti ar to, ka šahisti sacensībās mēģina izmantot neatļautus palīglīdzekļus, diemžēl kļūst aizvien biežāki un skaļāki.

Kas cilvēci sagaida, mākslīgajam intelektam kļūstot par mūsu dzīves sastāvdaļu? Cik daudz jāsāk priecāties un cik – satraukties par mākslīgā intelekta ienākšanu mūsu dzīvē? Viedokļi arī speciālistu vidū ne vienmēr sakrīt, taču dažas lietas tos tomēr vieno.

Viens ir skaidrs, mākslīgā intelekta ienākšana mūsu dzīvē ir tikai pašos pirmsākumos, bet tomēr jau tagad ar lielu varbūtību varam apgalvot, ka tas būs viens no sabiedrību vistransformējošākajiem notikumiem cilvēces vēsturē. Bet tas pilnā mērā būs sajūtams tikai tad, kad būs iespēja domāt par vispārēja pielietojuma mākslīgo intelektu. Ko ar to saprast?

Viens un tas pats cilvēks spēj atpazīt citus cilvēkus pēc to sejas vaibstiem un ķermeņa uzbūves, spēj runāt, klausīties, tulkot tekstus, atcerēties daudzus faktus, spēlēt dažādas prāta spēles un darīt vēl daudzas citas lietas. Šobrīd eksistējošie mākslīgā intelekta realizācijas piemēri spēj risināt tikai samērā šaurus konkrētus uzdevumus. Atšķirībā no cilvēka datorprogramma, kas spēlē šahu, neko nezina par cilvēces vēsturi un nemāk ne atpazīt balsi, ne lasīt, nemaz nerunājot par spēju tulkot.

Labie nodomi var aizvest nezin kur

Slejā vēl vari lasīt:

Speciālisti uzskata, ka ceļš līdz šādam vispārēja pielietojuma mākslīgajam intelektam vēl ir ļoti garš un pat saprātīgas prognozes par to, kad tas varētu parādīties, šobrīd izteikt ir pāragri.

Taču tagad atgriezīsimies pie raksta sākumā pieminētā Brauna romāna varoņa Edmonda Kirša, kura virtuālā asistenta mērķis bija nogalināt savu saimnieku. Šeit iezīmējas ļoti interesants jautājums, kas romānā tiek labi atklāts. Kā šis ļaunais mērķis radās virtuālā asistenta "prātā"? Vai virtuālajam asistentam var piemist prāts? Šā brīža atbilde ir samērā skaidra. Mākslīgajam intelektam, kas ir datorprogramma, nav un nevar būt savu mērķu. Mērķus mākslīgajam intelektam nosaka tā radītāji.

Bet Edmonds Kiršs taču savam asistentam neuzdeva vērpt atentātu pret sevi? Protams, ne. Taču šis romāns ļoti precīzi iezīmē problēmu.

Cik precīzi cilvēki spēj noteikt, pie kādām sekām novedīs mūsu uzdevumi, mūsu vēlmes, kuru piepildīšanai izmantojam mākslīgo intelektu?

Dena Brauna romānā Edmonds Kiršs uzdod savam virtuālajam asistentam veidot maksimāli efektīvu (un efektīgu) reklāmas kampaņu un maksimāli padarīt pamanāmu savas dzīves lielāko projektu, kas, pēc viņa domām, novedīs pie reliģijas beigām un zinātnes laikmeta sākuma. Taču projekta rezultātu izziņošanas pasākumā Edmonds Kiršs tiek noslepkavots. Romāna gaitā mēs uzzinām, ka tā varonis Kiršs ir neglābjami slims un viņam atlicis dzīvot tikai pavisam nedaudz. Tas ir noslēpums, kuru zina pavisam nedaudzi, to vidū arī viņa virtuālais asistents, par kura lojalitāti un diskrētumu šaubīties nav pamata. Un tad mākslīgā intelekta datorprogramma, rēķinot visus par un pret, nonāk pie formāli ļoti loģiska lēmuma – organizēt sava saimnieka nogalināšanu galvenajā publiskajā pasākumā. Kur loģika? Pirmkārt, saimniekam atlicis dzīvot vien dažas nedēļas. Tādēļ asistenta novērtētais ieguvums viņa dzīves galvenā projekta publicitātei – viņa slepkavība pasākuma laikā – būs stipri lielāks nekā zaudējums, saīsinot Kirša dzīvi vien par dažām "nieka nedēļām".

Tas nozīmē, ka, formulējot uzdevumus tik jaudīgam instrumentam kā mākslīgā intelekta programma, ir jābūt ļoti uzmanīgam. Pat vislabākie nodomi pēkšņi var novest pie katastrofālām sekām ne tikai cilvēkam, bet arī cilvēcei kopumā.

Kā apturēt mākslīgo intelektu?

Kā reiz kādā publiskā lekcijā teica viens no šā brīža vadošajiem mākslīgā intelekta pētniekiem Kalifornijas Universitātē Bērklijā profesors Stjuarts Rasels: "Visas pasakas par zelta zivtiņu, kas piepilda trīs vēlēšanās, parasti beidzas vienādi. Pēc pirmajām divām vēlēšanām seko trešā. Mīļā zelta zivtiņa, lūdzu, izdari tā, lai pirmās divas vēlēšanās nebūtu bijušas, jo to sekas ir izrādījušās pavisam citādas, nekā vēlēšanās izteicējs bija iecerējis."

Tas nozīmē tikai vienu, kā pauž sakāmvārds: "Ceļš uz elli parasti ir bruģēts ar labiem nodomiem". Stāsta par mākslīgo intelektu kontekstā tas nozīmētu, ka uzdevumi mākslīgajam intelektam, īpaši, kad tas iegūs spēju būt universāls un darboties daudzos virzienos vienlaikus, jāformulē ļoti, ļoti uzmanīgi. Jābūt arī stingrai norādei katru jaunu veidu, ko mākslīgais intelekts rada, lai sasniegu mērķi, apspriest ar uzdevuma devēju – cilvēku. Bet otra lieta – vienmēr ir jābūt stopkrānam jeb slēdzim, kā mākslīgo intelektu apturēt, ja tā darbība mums vairs nešķiet laba.

Taču gan pa jokam, gan nopietni jāpatur prātā, ka mākslīgais intelekts, godprātīgi pildot tam doto uzdevumu, viņa "izslēgšanu" arī var iekalkulēt savā darbībā kā vienu no apstākļiem, kas neļauj realizēt cilvēka doto mērķi, un veikt pasākumus, neļaujot ierīci, kurā darbojas mākslīgā intelekta programma, izslēgt.

Tātad nekādu ļaunu nolūku, nekādu emociju, bet tomēr riski līdzās milzīgiem ieguvumiem, pie kā ved mākslīgais intelekts, ir lieli un ar tiem jārēķinās.

Protams, esam runājuši tikai par cēlu mērķu vadītiem uzdevumiem mākslīgajam intelektam. Taču mūsdienās jau šīs šauriem uzdevumiem radītās mākslīgā intelekta programmas tiek izmantotas arī ne tik cēliem mērķiem, piemēram, kaujas laukā izvēloties mērķus, kam uzbrukt ar ļoti bīstamiem ieročiem. Tas ir gan ētiskas dabas, gan starptautiskās likumdošanas jautājums.

Un arī citās situācijās mākslīgais intelekts var saskarties ar grūti risināmām ētiskām problēmām, uz kurām cilvēkam nav vienkāršu atbilžu.

Dators mani nemīl un nemīlēs

Piemēram, kā mākslīgais intelekts risinātu psiholoģijā labi zināmo dilemmu, analizējot cilvēka rīcību. Pa dzelzceļa sliedēm virzās vilciens. Jūs redzat, ka uz sliedēm spēlējas divi mazi bērni, kurus vilciens, turpinot kustību, noteikti nogalinās. Jūs pamanāt pārmijas, ar kurām vilcienu varat novirzīt uz citām sliedēm. Taču tur uz sliedēm ir padzīvojis kungs. Ko darīsiet un ko iesakāt darīt mākslīgajam intelektam? Pārslēgt pārmijas vai ne?

Otra ikdienas problēma ir saistīta ar to, ka laba mākslīgā intelekta sistēma mācās, analizējot daudzus piemērus no dzīves. Tulkošanas programmas analizē tekstus, šaha programmas – izspēlētas spēles. Tā tās kļūst aizvien labākas savu mērķu sasniegšanai.

Taču jau šobrīd mākslīgā intelekta programmas tiek izmantotas arī personāla atlasē. Tās mācās no reālām iepriekš notikušām personāla atlases situācijām. Un ir reāli piemēri, kā arī pārmetumi, ka

programmas ir "samācījušās" visus cilvēku aizspriedumus, kas saistīti ar pretendentu vecumu, dzimumu, ādas krāsu un tā joprojām.

Kā izvairīties no šādiem gadījumiem? Šķiet, ka arī šeit vienkāršu atbilžu nav.

Nobeigumā nedaudz par emocijām un mākslīgo intelektu. Atcerieties – sākumā robots Mervins nepārtraukti bija sliktā garastāvoklī, tāds hipohondriķis. Lai cilvēks būtu laimīgs, būtu labā vai kādreiz arī sliktā garastāvoklī, viņam jāpiemīt apziņai. Kā jau daudziem komplicētiem jēdzieniem, arī jēdzienam "apziņa" ir daudzi aspekti. Taču viens no tiem saka, ka apziņa nozīmē spēju apzināties savu esamību. Spēju veidot emocionālas attiecības ar pasauli un cilvēkiem, spēju gūt emocionālu prieku no saskarsmes ar dabu, cilvēkiem, no mākslas notikumiem.

Vai šobrīd ir pamats domāt, ka mākslīgais intelekts jebkad varēs emocionāli gūt baudu un prieku, klausoties Bēthovena sonāti?

Mums ir ļoti aptuveni priekšstati par to, kā cilvēka smadzeņu darbības ietekmē rodas emocijas un pašapziņa, tāpēc domāt, vai emocijas jebkad piemitīs mākslīgajam intelektam, ir divtik sarežģīti. Lai arī sadzīvē mēdzam teikt, ka šodien man ir sajūta, ka mans dators mani nemīl un visādi mēģina man ieriebt, tomēr nav ne vismazāko pazīmju, ka mākslīgajam intelektam šobrīd vai pat tālākā nākotnē varētu piemist emocijas vai jūtas un varētu rasties viņa paša veidoti emocijās balstīti nolūki darīt cilvēkiem kaut ko labu vai tieši otrādi – kaitēt mums.

Kļūda rakstā?

Iezīmējiet tekstu un spiediet Ctrl+Enter, lai nosūtītu labojamo teksta fragmentu redaktoram!

Iezīmējiet tekstu un spiediet uz Ziņot par kļūdu pogas, lai nosūtītu labojamo teksta fragmentu redaktoram!

Vairāk

Svarīgākais šobrīd

Vairāk

Interesanti