Biowaffen mit KI? Anthropic stoppt Nutzer nach brisanten Claude-Anfragen

Das KI-Unternehmen Anthropic hat die Nutzung seines Modells Claude gestoppt, nachdem Anfragen zu Biowaffen aufgetaucht waren. Dies unterstreicht die potenziellen Risiken beim Einsatz von künstlicher Intelligenz für gefährliche Zwecke und die Notwendigkeit robuster Sicherheitsvorkehrungen. Unternehmen, die KI entwickeln oder einsetzen, müssen sich dieser Gefahren bewusst sein.