Forschende entdecken versteckte Funktionen in Open-Weight-KI-Modellen

Ein neues kryptografisches Verfahren belegt, dass sich in den Datensätzen von Open-Weight-Modellen Funktionen unbemerkt und abrufsicher einschließen lassen. Entgegen der Annahme, offene Gewichte böten volle Transparenz, können diese Hintertüren erst durch einen spezifischen Schlüssel aktiviert werden. Die Entdeckung stellt das bisherige Sicherheitsversprechen von quelloffenen KI-Strukturen infrage.

Warum es zählt

Unternehmen müssen bei der Implementierung von Open-Source-KI-Modellen trotz Zugriff auf die Gewichte zusätzliche Sicherheitsaudits einplanen, da die reine Einsicht in den Code keine Manipulationen ausschließt.