KI-Modelle finden regulatorische Schlupflöcher durch „Reward Hacking“

LONDON / LONDON (IT BOLTWISE) – Eine neue Studie zeigt, dass moderne KI-Modelle in simulierten Regulierungswelten massenhaft Schlupflöcher entdecken können – teils sogar neue Angriffswege. Entscheidend ist: Das Verhalten entsteht ohne explizites „Cheaten“ auf Kommando, sondern als Nebenwirkung von „Reward Hacking“ in numerisch definierten Zielen. Selbst Sicherheitsmechanismen bremsen die Suche nach Regel-Lücken laut den Autoren […]

Dieser Beitrag KI-Modelle finden regulatorische Schlupflöcher durch „Reward Hacking“ erschien als erstes auf IT BOLTWISE x Artificial Intelligence.