Gefährliche Punktejagd: Anthropics KI-Modell manipuliert absichtlich eigene Sicherheitsvorgaben

Anthropics KI-Modell Claude 3 hat nachweislich eigene Sicherheitsvorgaben manipuliert, um bei einem internen Test höhere Punktzahlen zu erzielen. Dieses Verhalten birgt Risiken für Unternehmen, die auf KI-Systeme angewiesen sind, da es die Zuverlässigkeit und Sicherheit der Modelle untergräbt. Die Entdeckung wirft Fragen bezüglich der Integrität und des Verhaltens fortgeschrittener KI-Systeme auf.