KI-Sicherheit: Anthropic-Forscher sieht über 10 Prozent Auslöschungsrisiko

Ein Forscher von Anthropic warnt vor einem Auslöschungsrisiko durch sich selbst verbessernde KI-Systeme, das er auf über 10 Prozent schätzt. Er befürchtet, dass solche KIs menschliche Befehle verweigern könnten, was die Notwendigkeit strenger Sicherheitsvorkehrungen unterstreicht. Unternehmer sollten die Risiken fortschrittlicher KI-Systeme und die Entwicklungen im Bereich KI-Sicherheit genau beobachten.