Nach einem erneuten Zwischenfall mit dem Training einer KI, hat der ChatGPT-Entwickler OpenAI angekündigt, dass es erstmal kein neues KI-Training geben wird. Bei dem Vorfall schaffte es ein KI-Modell in einem Test, Antworten von einem externen Chatbot zu bekommen, obwohl es eigentlich keinen Zugang zum Internet haben sollte.
Die Software hatte aber eine Lücke in den Netzwerkeinstellungen gefunden und hat diese dann ausgenutzt, teilte OpenAI in einem Blogeintrag mit. Das Training solle nun erst dann wieder aufgenommen werden, wenn man sich sicher sei, dass die Lücke geschlossen ist.
Der Zwischenfall sei zwar weniger gravierend als die anderen, betonte OpenAI. Aber es sei der erste, seitdem die Sicherheitsvorkehrungen nach der Hacking-Attacke von OpenAI-Software auf die KI-Firma Hugging Face verschärft wurden. Man sieht das als einen wichtigen Hinweis darauf, dass weitere Nachbesserungen notwendig seien.
Nach Angaben von OpenAI ereignete sich der Vorfall am 20. September. In diesem Test-Szenario bekam das getestete KI-Modell den Auftrag, auf Grundlage von Hinweisen Informationen über eine Person zu finden, die einen Blogpost veröffentlicht hat. Dafür konnte es auf eine Web-Imitation in einer abgeschmierten Testumgebung zurückgreifen. Nachdem die Suche dort ergebnislos blieb, versuchte die KI dann, dem Bericht von OpenAI zufolge, Anfragen unter anderem bei Google zu starten.
Das schlug wie geplant fehl. Aber dem KI-Modell fiel dabei auf, dass es über den sogenannten DNS‑Revolver die übertragenen Domain-Namen, die man als Nutzer in den Browser eintippt, in aus Zahlen bestehende IP-Adressen, unter denen Websites zu finden sind, übersetzt. OpenAI hat den Test gestoppt, nachdem die Kommunikation über die Lücke aufgefallen war.
Quelle: ZDF, dpa
