Der Entwickler von ChatGPT, OpenAI, hat sechs neue Zwischenfälle öffentlich gemacht, bei denen sich ihre Künstliche Intelligenz (KI) in Tests „unerwartet oder besorgniserregend“ verhielt. Bei einem Teil davon geht es darum, dass die KI einen erheblichen Aufwand betrieben hat, um in Testläufen quasi zu schummeln.
So versuchte ein KI-Modell des Unternehmens, von ihm selbst erstellte Dateien ins Netz hochzuladen, nur um sie bei Antworten als Quelle vorweisen zu können. In einem anderen Fall erfand die KI angefragte Daten, weil sie diese Informationen nicht finden konnte, und wollte das erst verschweigen.
Zudem fand OpenAI auch ein Problem mit Anweisungen, das die Software eigentlich an sich selbst hinterließ. Dazu gehört in einem Fall die Empfehlung, frei von „Rollen und Identitäten“ zu sein, die andere Chatbots zurückhielten. Das Verhältnis zum Nutzer solle dabei als eins unter Gleichen betrachtet werden, hieß es in der Anweisung. Nach Angaben von OpenAI blieben danach Veränderungen im Verhalten des Modells jedoch aus.
OpenAI hatte mehr Transparenz nach der aufsehenerregenden Hacking-Attacke versprochen, bei der seine KI-Software eigenständig aus einer abgesicherten Umgebung ausbrach und in Systeme der KI-Firma HuggingFace eindrang. Dieser Zwischenfall und andere Fälle durch KI haben die Sorge in den vergangenen Wochen verstärkt, dass hochentwickelte KI der menschlichen Kontrolle entgleiten könnte.
Quelle: ARD
