W powszechnej świadomości superludzka sztuczna inteligencja — technologiczne tsunami, które zagraża nie tylko gospodarce i relacjom międzyludzkim, ale także samej cywilizacji. Konflikt między ludźmi a maszynami wydaje się nieunikniony, a jego wynik przesądzony. Wybitny badacz AI Stuart Russell twierdzi, że ten scenariusz można uniknąć. W swojej nowatorskiej książce autor opisuje, w jaki sposób ludzie już nauczyli się wykorzystywać AI, od śmiercionośnej broni autonomicznej po manipulacje naszymi preferencjami, oraz czego jeszcze będą mogli go nauczyć. Jeśli to się zdarzy i pojawi się superludzka AI, staniemy w obliczu istoty znacznie potężniejszej od nas samych. Jak zapewnić, że człowiek nie stanie się poddany superinteligencji? Zdaniem Russella sztuczna inteligencja musi być budowana na nowych zasadach. Maszyny powinny być skromne i altruistyczne, rozwiązując nasze zadania, a nie swoje własne. Czym są te zasady i jak je wdrożyć, czytelnik dowie się z tej książki, którą najbardziej autorytatywne wydania na świecie nazwały główną książką o sztucznej inteligencji. Wszystko, co może zaoferować cywilizacja, jest produktem naszego intelektu; uzyskanie dostępu do znacznie przewyższających możliwości intelektualnych stałoby się najważniejszym wydarzeniem w historii. Celem tej książki jest wyjaśnienie, dlaczego może to być ostatnie wydarzenie cywilizacji i jak możemy wykluczyć taki wynik. Wprowadzenie pojęcia użyteczności — niewidocznej cechy — do wyjaśnienia ludzkiego zachowania za pomocą matematycznej teorii było zdumiewające jak na swoje czasy. Zwłaszcza że, w przeciwieństwie do kwot pieniężnych, wartość różnych stawek i nagród z punktu widzenia użyteczności jest niedostępna dla bezpośredniej obserwacji. Pierwszymi, którzy naprawdę skorzystają na pojawieniu się robotów w domu, będą osoby starsze i niepełnosprawne, dla których pomocny robot może zapewnić pewien stopień niezależności, nieosiągalny innymi środkami. Nawet jeśli robot wykonuje ograniczoną gamę zadań i ma tylko wstępne pojęcie o tym, co się dzieje, może być bardzo przydatny. Oczywiste, że działania lojalnych maszyn muszą być ograniczone regułami i zakazami, tak jak działania ludzi są ograniczone prawem i normami społecznymi. Niektórzy specjaliści proponują jako rozwiązanie bezwarunkową odpowiedzialność. Książka w przystępny sposób porusza problemy związane z rozwojem sztucznej inteligencji.
