Überprüft von 
Zwei “Gründungsväter” der KI schließen sich einer Gruppe von Experten an, die davor warnen, dass die Kontrolle über KI-Systeme verloren gehen könnte, wenn nicht bald etwas unternommen wird.
Im Juli 2023 machte Dr. Geoffrey Hinton Schlagzeilen, als er seinen Job bei Google aufgab, um vor den Gefahren der künstlichen Intelligenz zu warnen. Nun warnt eine Gruppe, zu der auch Yoshua Bengio, einer der drei mit dem ACM Turing Award ausgezeichneten Wissenschaftler, und eine Gruppe von 25 hochrangigen Experten gehören, in einem kürzlich veröffentlichten Papier davor, dass KI-Systeme außer Kontrolle geraten könnten, wenn die Sicherheit von KI nicht ernster genommen wird.
“Ohne ausreichende Vorkehrungen könnten wir die Kontrolle über autonome KI-Systeme unwiederbringlich verlieren und menschliche Eingriffe wirkungslos machen”, warnt das Papier. “Cyberkriminalität im großen Stil, soziale Manipulation und andere Schäden könnten schnell eskalieren.” Unkontrollierte Fortschritte in der KI könnten zu großen Verlusten an Menschenleben und der Biosphäre sowie zur Marginalisierung oder Auslöschung der Menschheit führen.
“Wir sind auf dem falschen Weg, um mit diesen Risiken umzugehen. Die Menschheit investiert enorme Ressourcen, um KI-Systeme leistungsfähiger zu machen, aber weit weniger in ihre Sicherheit und in die Eindämmung ihrer Schäden.”
Die Gruppe hat festgestellt, dass sich nur schätzungsweise 1-3 % der KI-Veröffentlichungen mit dem Thema Sicherheit befassen, wobei der Schwerpunkt eher auf der Weiterentwicklung von KI als auf Sicherheitsvorschriften liegt.
Warum ist KI-Regulierung so wichtig?
Die Gruppe fordert nicht nur mehr Forschung im Bereich der KI-Sicherheit, sondern ruft die Regierungen weltweit dazu auf, “Standards durchzusetzen, die Rücksichtslosigkeit und Missbrauch verhindern”. Das Paper verweist auf bestehende Bereiche wie Pharmazeutika, Finanzsysteme und Atomenergie, in denen staatliche Aufsicht bereits zum Vorteil von Unternehmen eingesetzt wird. Es deutet an, dass ähnliche Gefahren auch im KI-Sektor lauern könnten.
Während China, die Europäische Union, die Vereinigten Staaten und Großbritannien für ihre ersten Schritte in Richtung KI-Governance gelobt werden, schreibt die Gruppe, dass diese frühen Maßnahmen “angesichts der schnellen Fortschritte bei den KI-Fähigkeiten kritisch unzureichend” seien.
“Wir brauchen Governance-Maßnahmen, die uns auf plötzliche KI-Durchbrüche vorbereiten und gleichzeitig politisch durchsetzbar sind, trotz der Uneinigkeit und Unsicherheit über die Roadmaps für KI”, heißt es weiter. “Der Schlüssel dazu sind Maßnahmen, die automatisch ausgelöst werden, wenn die KI bestimmte Meilensteine erreicht.”
Zwar schreibt die Gruppe, dass es noch nicht zu spät sei, Maßnahmen zur Schadensbegrenzung und Ausfallsicherheit zu ergreifen, doch die Dringlichkeit wird in dem Papier deutlich. Die KI-Expertengruppe fordert die Regierungen weltweit auf, jetzt zu handeln, da sie befürchtet, dass KI den Menschen bald überholen könnte.
Abbildung: Ideogramm
