Совместимость: Как контролировать искусственный интеллект

Masu apziņā pārsnieguma mākslīgais intelekts — tehnoloģiskais cunami, kas apdraud ne tikai ekonomiku un cilvēku attiecības, bet arī pašu civilizāciju. Konflikts starp cilvēkiem un mašīnām tiek uzskatīts par neizbēgamu, un tā iznākums ir iepriekš noteikts. Izcils AI pētnieks Stjuarts Rasels apgalvo, ka šo scenāriju var izvairīties. Savas novatoriskās grāmatas autors stāsta, kā cilvēki jau ir iemācījušies izmantot AI, no nāvējošiem autonomiem ieročiem līdz manipulācijām ar mūsu izvēlēm, un ko vēl viņi varētu to iemācīt. Ja tas notiks un parādīsies pārsnieguma AI, mēs saskarsimies ar būtni, kas ir daudz spēcīgāka par mums pašiem. Kā garantēt, ka cilvēks neiekļūs pārsnieguma intelekta pakļautībā? Lai to panāktu, Rasels uzskata, ka mākslīgajam intelektam jābūt veidotam uz jauniem principiem. Mašīnām jābūt pieticīgām un altruistiskām un jārisina mūsu uzdevumi, nevis savi paši. Par to, kādi ir šie principi un kā tos īstenot, lasītājs uzzinās no šīs grāmatas, kuru visautoritatīvākie izdevumi pasaulē nosaukuši par galveno grāmatu par mākslīgo intelektu. Viss, ko civilizācija var piedāvāt, ir mūsu intelekta produkts; piekļuve būtiski pārspējošām intelektuālām spējām kļūtu par lielāko notikumu vēsturē. Šīs grāmatas mērķis ir izskaidrot, kāpēc tas var kļūt par pēdējo civilizācijas notikumu un kā mums izslēgt šādu iznākumu. Jēdziena lietderības — neredzamā īpašuma — ieviešana cilvēku uzvedības izskaidrošanai, izmantojot matemātisko teoriju, bija pārsteidzoša sava laika kontekstā. Jo īpaši tāpēc, ka, atšķirībā no naudas summām, dažādu likmju un balvu vērtība no lietderības viedokļa nav tieši novērojama. Pirmie, kas patiešām gūs labumu no robotu parādīšanās mājās, būs vecāka gadagājuma un nespējīgi cilvēki, kuriem noderīgs robots var nodrošināt noteiktu neatkarības pakāpi, ko citādi ir grūti sasniegt. Pat ja robots veic ierobežotu uzdevumu loku un tam ir tikai sākotnēja izpratne par notiekošo, tas var būt ļoti noderīgs. Acīmredzot lojālo mašīnu darbībām jābūt ierobežotām ar noteikumiem un aizliegumiem, tāpat kā cilvēku darbības ir ierobežotas ar likumiem un sociālajām normām. Daži speciālisti piedāvā kā risinājumu beznosacījumu atbildību. Grāmata pieejamā veidā stāsta par problēmām, kas saistītas ar mākslīgā intelekta attīstību.