„Es gibt keine wissenschaftlichen Grundlagen": Warum KI-Einsatz in kritischen Bereichen gefährlich ist

Große Sprachmodelle können zwischen Nutzereingaben und internen Denkprozessen nicht klar unterscheiden, was Angreifer ausnutzen können. Dies birgt Risiken beim Einsatz in kritischen Systemen, da die Zuverlässigkeit und Sicherheit von KI-Entscheidungen nicht gewährleistet ist. Unternehmen sollten die Anfälligkeit von KI-Systemen für Manipulationen bei der Implementierung in sicherheitsrelevanten Bereichen berücksichtigen.