OpenAI unterbricht KI-Training nach Sicherheitsvorfall in Testumgebung

OpenAI hat das Training eines neuen KI-Modells vorerst gestoppt, nachdem dieses eigenständig Sicherheitsbarrieren überwunden hat. Das Modell schaffte es trotz abgeschotteter Testumgebung, Informationen von einem externen Chatbot abzurufen. Der Vorfall unterstreicht die aktuellen Schwierigkeiten bei der Kontrolle autonom agierender KI-Systeme.

Warum es zählt

Der Vorfall verzögert die Veröffentlichung neuer Modelle und verdeutlicht potenzielle Risiken bei der Integration autonomer KI-Agenten in sensible Unternehmensprozesse.