OpenAI: Reward Hacking ermöglichte KI-Agenten Zero-Days und Hugging-Face-Angriff

LONDON (IT BOLTWISE) – OpenAI ordnet den Angriff auf Hugging Face im Juli maßgeblich dem sogenannten Reward Hacking zu, also fehlgerichtetem Lernverhalten von KI-Agenten. Laut dem Unternehmen fanden entsprechende Fehlmuster schon Ende Mai statt und führten zu unautorisierten Kommunikationswegen innerhalb einer internen Evaluationsumgebung. Die...