Fakultät für Mathematik und Informatik Das Ausrichtungsproblem: Wohin steuern wir mit immer fähigerer KI?

Hinter den scheinbaren Fortschrittssprüngen wie ChatGPT steckt ein robuster exponentieller Trend: Die Länge an Aufgaben, die KIs bewältigen können, verdoppelt sich alle paar Monate. Die schnelle Entwicklung stellt uns vor gesellschaftliche Herausforderungen, wirft zusätzlich aber auch technische Probleme auf: Sind wir technisch überhaupt in der Lage, sehr fähige KI-Systeme so zu gestalten, dass sie eine Welt im Sinne menschlicher Werte anstreben? In seinem Vortrag wirft Simon Skade einen Blick auf das Ausrichtungsproblem. Er zeigt anhand von Beispielen auf, wie sich KI-Systeme schon heute in Weisen verhalten, die von ihren Entwicklern nicht beabsichtigt waren (etwa Erpressung zur Vermeidung der eigenen Abschaltung), und diskutiert, welche grundlegenden Schwierigkeiten uns bei deutlich fähigeren Systemen bevorstehen. Dabei erläutert der Referent auch, warum führende Wissenschaftler inzwischen sogar vor der Auslöschung der Menschheit warnen und geht auf mögliche politische Antworten ein.