Im kollektiven Bewusstsein ist übermenschliche künstliche Intelligenz – ein technologischer Tsunami, der nicht nur der Wirtschaft und den humanen Beziehungen, sondern der gesamten Zivilisation bedroht. Der Konflikt zwischen Mensch und Maschine erscheint als unausweichlich, sein Ausgang scheint vorbestimmt. Der herausragende KI-Forscher Stuart Russell behauptet, dass dieses Szenario vermieden werden kann. In seinem bahnbrechenden Buch erklärt der Autor, wie Menschen bereits gelernt haben, KI zu nutzen, von tödlichen autonomen Waffen bis hin zu Manipulationen unserer Präferenzen, und was sie ihr noch beibringen können. Wenn dies geschieht und übermenschliche KI entsteht, werden wir es mit einer Wesenheit zu tun haben, die weit mächtiger ist als wir selbst. Wie kann man garantieren, dass der Mensch nicht der Überintelligenz unterworfen wird? Russell ist der Meinung, dass künstliche Intelligenz auf neuen Prinzipien basieren muss. Maschinen sollten bescheiden und altruistisch sein und unsere Aufgaben lösen, nicht ihre eigenen. Was das für Prinzipien sind und wie man sie umsetzt, erfahren die Leser in diesem Buch, das von den angesehensten Publikationen der Welt als das wichtigste Buch über künstliche Intelligenz bezeichnet wurde. Alles, was die Zivilisation bieten kann, ist ein Produkt unseres Intellekts; der Zugang zu wesentlich überlegenen intellektuellen Fähigkeiten wäre das bedeutendste Ereignis in der Geschichte. Das Ziel dieses Buches ist es zu erklären, warum es das letzte Ereignis der Zivilisation werden könnte und wie wir einen solchen Ausgang ausschließen können. Die Einführung des Begriffs des Nutzens – einer unsichtbaren Eigenschaft – zur Erklärung menschlichen Verhaltens mittels mathematischer Theorie war zu seiner Zeit bahnbrechend. Zumal, im Gegensatz zu Geldbeträgen, der Wert verschiedener Einsätze und Preise aus der Sicht des Nutzens nicht direkt beobachtbar ist. Die ersten, die tatsächlich von der Einführung von Robotern im Haushalt profitieren werden, sind ältere und gebrechliche Menschen, denen ein nützlicher Roboter einen gewissen Grad an Unabhängigkeit bieten kann, die mit anderen Mitteln nicht erreichbar ist. Selbst wenn der Roboter einen begrenzten Aufgabenbereich hat und nur ein embryonales Verständnis der Vorgänge hat, kann er sehr nützlich sein. Offensichtlich müssen die Handlungen loyaler Maschinen durch Regeln und Verbote eingeschränkt werden, so wie die Handlungen von Menschen durch Gesetze und soziale Normen eingeschränkt sind. Einige Experten schlagen als Lösung die bedingungslose Verantwortung vor. Das Buch thematisiert in verständlicher Form die Probleme, die mit der Entwicklung künstlicher Intelligenz verbunden sind.
