„Ein Problem, das grundsätzlich unlösbar ist“: Warum KI-Modelle vielleicht nie sicher sein werden

Große Sprachmodelle weisen Schwächen in der Unterscheidung von Eingaben, eigenen Denkprozessen und Werkzeugnutzung auf, die von Angreifern ausgenutzt werden können. Die grundsätzliche Unlösbarkeit dieser Sicherheitslücke stellt eine Herausforderung für die breite Anwendung von KI in Unternehmen dar, da Vertrauen und Datensicherheit gefährdet sind.