Der Geist der Maschine ist stark – aber das Fleisch ist schwach
Wie man KI verführt, Bullshit zu produzieren.
Text: Jens Bergmann Illustration: Ika Künzel
• Künstliche Intelligenz vollbringt mittlerweile manche Wunder, dazu zählt die Verbreitung von Unfug. Jüngst hat eine Forschergruppe der Princeton University herausgefunden, dass ausgerechnet Menschen dabei eine fatale Rolle spielen. Das liegt an einer verbreiteten Methode mit dem Namen Reinforcement Learning from Human Feedback, mit der die Sprachmodelle geschult werden. Dank Rückmeldungen von Trainern aus Fleisch und Blut sollen die Maschinen lernen, menschlicher zu kommunizieren. Dummerweise geht das aber auf Kosten der Wahrheit: Laut der Studie stieg der Bullshit-Ausstoß nach der Schulung signifikant an.
