Suderinamumas: Kaip kontroliuoti dirbtinį intelektą

Masinėje sąmonėje superžmogiškas dirbtinis intelektas — technologinė cunamis, kelianti grėsmę ne tik ekonomikai ir žmogaus santykiams, bet ir pačiai civilizacijai. Konfliktas tarp žmonių ir mašinų atrodo neišvengiamas, o jo rezultatas — numatytas. Išskirtinis DI tyrėjas Stiuartas Raselas tvirtina, kad šio scenarijaus galima išvengti. Savo novatoriškoje knygoje autorius pasakoja, kaip žmonės jau išmoko naudotis DI, nuo mirtino autonominio ginklo iki mūsų pageidavimų manipuliavimo, ir kuo dar galės jį išmokyti. Jei tai atsitiks ir atsiras superžmogiškas DI, mes susidursime su esybe, kuri yra daug galingesnė nei mes patys. Kaip užtikrinti, kad žmogus nepatektų po superintelekto kontrole? Pagal Raselą, dirbtinis intelektas turi būti kuriamas pagal naujus principus. Mašinos turi būti kuklios ir altruistinės, ir spręsti mūsų problemas, o ne savo pačių. Apie tai, kokie tai principai ir kaip juos įgyvendinti, skaitytojas sužinos šioje knygoje, kurią autoritetingiausi leidiniai pasaulyje pavadino pagrindine knyga apie dirbtinį intelektą. Viskas, ką civilizacija gali pasiūlyti, yra mūsų intelekto produktas; prieiga prie žymiai pranašesnių intelektinių galimybių taptų didžiausiu įvykiu istorijoje. Šios knygos tikslas — paaiškinti, kodėl tai gali tapti paskutiniu civilizacijos įvykiu ir kaip mums išvengti tokio išdava. Naudingumo sąvokos — nematomo właściwości — įvedimas, siekiant paaiškinti žmonių elgesį per matematinę teoriją, buvo nepaprastas savo laikui. Juolab kad, skirtingai nei pinigų sumos, įvairių statymų ir prizų vertė iš naudingumo perspektyvos nėra tiesiogiai stebima. Pirmieji, kurie iš tikrųjų laimės iš robotų atsiradimo namuose, bus senyvi ir silpni, kuriems naudingas robotas gali užtikrinti tam tikrą nepriklausomybės laipsnį, nepasiekiamą kitais būdais. Net jei robotas atlieka ribotą užduočių ratą ir turi tik pradines įžvalgas, jis gali būti labai naudingas. Akivaizdu, kad lojalių mašinų veikla turėtų būti ribojama taisyklėmis ir draudimais, kaip žmonių veiksmai yra ribojami įstatymais ir socialinėmis normomis. Kai kurie specialistai siūlo neatidėliotiną atsakomybę kaip sprendimą. Knyga prieinama forma pasakoja apie problemas, susijusias su dirbtinio intelekto plėtra.