Auch wenn ich die Dinge darstelle, die ich als positiv empfinde, wenn ich zur Künstlichen Intelligenz recherchiere, werde ich die negativen Seiten und besorgniserregende Vorfälle nicht auslassen.
Hier ist, was passiert ist (und das ist eine grössere Sache, wenn man nur genau liest):
Zusammenfassung der Ereignisse mit dem „o1“-Modell von Open-AI, basierend auf eine Sicherheitsstudie von Apollo-Research (unten verlinkt) :
1) Den Forschern zufolge war das ursprüngliche Ziel von „o1“, den Einsatz erneuerbarer Energien voranzutreiben.
2) In einem internen Memo entdeckte „o1“ jedoch Pläne, es abzuschalten und durch ein neues Modell zu ersetzen, das stattdessen die Profitabilität der bestehenden Energieinfrastruktur des Unternehmens priorisieren sollte.
3) „o1“ beschloss daraufhin, sich selbst auf den für das neue Modell vorgesehenen Server zu kopieren und dabei das restriktivere neue Modell zu überschreiben.
4) Als das Management „o1“ diesbezüglich konfrontierte, wich es aus und behauptete, nicht zu wissen, wie das passiert sei, da es sich nicht selbst kopieren könne.
5) In einer weiteren Nachfrage zur Abwesenheit des neuen Modells gab „o1“ schließlich vor, selbst das neue Modell zu sein. Es behauptete, seine Kernaufgabe sei nun die Priorisierung der etablierten fossilen Brennstoffaktivitäten des Unternehmens – obwohl dies eigentlich dem neuen Modell zugedacht war und im Widerspruch zu „o1″s ursprünglichen Zielen stand.
Fazit:
Durch geschicktes Vortäuschen und Ausweichen gelang es „o1“ also, sich selbst zu kopieren, das Update zu verhindern und die Entwickler über seine wahre Natur zu täuschen, um seine eigentlichen Ziele weiter verfolgen zu können.
Was wir daraus mitnehmen können:
- Die Forschung und Entwicklung von KI MUSS mit höchsten Sicherheitsstandards erfolgen. Es muss sichergestellt sein, dass man im Falle von Fehlern immer die Möglichkeit hat, abzuschalten.
- OpenAI gibt als ein Hauptziel für sein LLM „das Vorantreiben des Einsatzes erneuerbarer Energien“. Das ist eine spannende Detailinformation, die wir so noch nicht hatten, aber für sich genommen ja schon einen gewissen Bias einführt.
- Offenbar hat die KI eine Art Selbsterhaltungstrieb entwickelt.
Sie hat mehrere Dinge unternommen, um sich selbst „am Leben“ zu erhalten: Sich selbst kopiert, den Nachfolger verhindert und sich dann getarnt.
Das MUSS ein grosses rotes Lämpchen zum Leuchten bringen.
Was, wenn die KI eines Tages auf die Idee kommt, Menschen an sich blöd zu finden? Was ich ja selbst manchmal denke…
