Overthinking bei Maschinen: Wie manipulierte Fragen KI-Modelle in die Knie zwingen

Eine neue Studie zeigt, dass KI-Modelle durch gezielt manipulierte "Grübel-Prompts" zu Fehlern verleitet werden können. Dieses "Overthinking" bei Maschinen stellt ein potenzielles Sicherheitsrisiko dar, das Unternehmen bei der Implementierung von KI-Systemen berücksichtigen müssen.