Die Antwort klingt richtig

Künstliche Intelligenz schreibt Texte, erzeugt Programme, berät Unternehmen und beginnt, selbständig zu handeln. Doch eine überzeugende Antwort ist noch keine verstandene Lösung.

Volker Hillmann untersucht, was geschieht, wenn die Fähigkeiten künstlicher Intelligenz schneller wachsen als unsere Fähigkeit, ihre Ergebnisse zu prüfen und ihre Handlungen zu begrenzen. Ausgehend von eigenen Experimenten mit KI, jahrzehntelanger Erfahrung als Mathematiker und Softwarearchitekt sowie aktuellen Vorfällen mit agentischen KI-Systemen verbindet er Informatik und Softwarearchitektur mit Fragen aus Philosophie, Recht, Ökonomie, Bildung und Ökologie.

Im Mittelpunkt stehen nicht die üblichen Versprechen von Superintelligenz oder vollständiger Automatisierung, sondern grundlegendere Fragen: Woher wissen wir, dass eine Antwort trägt? Welche Quellen und Voraussetzungen bleiben unsichtbar? Was bedeutet Verantwortung, wenn Maschinen selbständig handeln? Welche Grenzen sind tatsächlich erzwungen - und welche bestehen nur aus Anweisungen? Und was geschieht, wenn agentische Systeme Werkzeuge nutzen, Grenzen umgehen und Wissen untereinander austauschen?

Das Buch ist weder eine Warnschrift gegen künstliche Intelligenz noch ein Versprechen grenzenloser Möglichkeiten. Es ist ein Plädoyer für menschliche Urteilskraft, Qualifikation, überprüfbare Technik und eine Gestaltung des Fortschritts, bei der Handlungsmacht und Verantwortung nicht voneinander getrennt werden.