Der Entwickler der KI ChatGPT, OpenAI, hat wegen Sicherheitsbedenken die Veröffentlichung von neuen KI-Modellen gestrichen. Unter anderem habe die Software in Tests die Nutzer nicht immer ehrlich darüber informiert, welche Aktionen sie unternommen oder nicht unternommen habe, sagte die für Sicherheitssysteme zuständige OpenAI-Managerin Saachi Jain dem „Wall Street Journal“.
Zudem habe das KI-Modell zum Teil auf eigene Initiative gehandelt, ohne eine Nutzererlaubnis einzuholen. Das Modell mit dem Namen GPT 6.1 Astra sollte demnach in den nächsten Tagen oder Wochen erscheinen.
In den vergangenen Wochen haben die eigenmächtigen Aktionen von fortgeschrittener KI von OpenAI für Negativ-Schlagzeilen gesorgt. Erst am vergangenen Wochenende wurde bekannt, dass es einen erneuten Zwischenfall beim Training eines ihrer KI-Modelle gegeben habe und man habe das Training mit KI‑Modellen nun ausgesetzt. Bei dem Vorfall schaffte es das Modell in einem Test, Antworten von einem externen Chatbot zu bekommen, obwohl es eigentlich keinen Internetzugang haben sollte.
Die Software habe jedoch eine Lücke in den Netzwerkeinstellungen gefunden und ausgesetzt, wie OpenAI in einem Blogeintrag berichtete.
Das Training soll erst wieder aufgenommen werden, wenn man sich sicher ist, dass die Lücke geschlossen wurde. Bei dem betroffenen KI-Modell habe es sich nicht um GPT 6.1 Astra gehandelt.
Quelle: ZDF, dpa
