Wenn jemand es erschafft, werden alle zugrunde gehen

Im Mittelpunkt des Buches steht die Idee, dass der Übergang von modernen KI-Systemen zu einem Superintelligenz in einer Katastrophe für die Menschheit enden kann. Die Autoren untersuchen, warum die bloße Tatsache, dass eine Maschine über hohe Intelligenz verfügt, nicht bedeutet, dass sie beherrschbar ist, und warum ein Fehler in der Phase der Schaffung irreversible Folgen haben kann. Im Inneren finden sich Überlegungen zur unkontrollierbaren Entwicklung von KI, zur Problematik der Zielabstimmung und dazu, wie die Menschheit an eine gefährliche Grenze gelangen kann, ohne sich rechtzeitig vorzubereiten. Der Text ist als Warnung aufgebaut: Der Leser erwartet eine schlüssige Analyse der Bedrohungen, die mit der technologischen Beschleunigung verbunden sind, und eine harte Auseinandersetzung mit dem gewohnten Glauben, dass jede neue Technik später einfach „eingerichtet“ werden kann.