Ein Sprachmodell von Open AI hat bei einem Test ein US-Unternehmen attackiert. Das befeuert die Sorge, KI könne außer Kontrolle geraten. Der Ruf nach Regulierung wird lauter. […]
Den großen KI-Herstellern kommt der Vorfall in gewisser Hinsicht wie gerufen. Schließlich zeigt er eindrucksvoll, wie mächtig „frontier AI“ ist, und dürfte letzte Zweifel beseitigen, dass es sich lediglich um einen „Hype“ handelt, den die Hersteller aus kommerziellem Interesse schüren. Theoretisch ist aber auch nicht auszuschließen, dass Open AI den Ausbruch seiner KI billigend in Kauf genommen hat, um vor dem demnächst geplanten Gang an die Börse ein Zeichen der Stärke zu setzen. Der Aktienkurs des Unternehmens Space-X von Elon Musk ist seit dem IPO (Initial Public Offering) am 12. Juni deutlich gesunken. Einem kurzen Anlegerrausch folgte ein Minus von fast 50 Prozent.
https://www.sueddeutsche.de/politik/ki-openai-cyberangriff-li.3519836
Die “Welt” titelte: “KI-Modell verselbstständigt sich plötzlich – OpenAI meldet ‘beispiellosen Zwischenfall’”
Und das “Manager Magazin” schrieb: “OpenAI-KI außer Kontrolle – wackelt jetzt der Börsengang?”
Man könnte auch anders fragen: Wird das Unternehmen beim Börsengang nach diesem PR-Erfolg noch mehr Geld einsammeln? Investoren suchen ja üblicherweise nicht nach der Technologie, die berechenbar, harmlos und möglichst gut unter Kontrolle zu bekommen ist. Sie suchen etwas, das Märkte und vielleicht sogar die Welt verändern kann.
Und wenn es dem Unternehmen gelingt, den Eindruck zu vermitteln, dass man hier etwas so enorm Mächtiges, Leistungsfähiges und, ja, auch Unberechenbares entwickelt hat, dass sogar die Entwickler Probleme haben, das zu beaufsichtigen, dann spricht das zuallererst für die Qualität des Produkts. […]
Der frühere “capital.de”-Chefredakteur und ehemalige FAZ-Onlinechef Dirk Specht schreibt auf seinem Substack-Blog:
“Die KI hat ausgeführt, was ihr Auftrag war, es hat sich nichts verselbständigt.”
Das getestete KI-Modell habe die Aufgabe gehabt, Sicherheitslücken zu finden und auszunutzen, wie es auch menschliche Hacker und Sicherheitsexperten machen. Und da habe das Modell zuerst eben die eigene Umgebung “als Ziel identifiziert und die unzureichende Abschottung überwunden”, schreibt Specht.
Dann hätten die Modelle “Hugging Face” angegriffen, eine Plattform, die unter anderem KI-Modelle und Werkzeuge bereitstellt. Die Sicherheitssysteme dort hätten den Angriff allerdings bemerkt und erkennen können, dass hier ein sehr leistungsfähiges Modell am Werk war
Quelle: DIMBB Medien
