Jetzt reiß dich doch zusammen! Bisher wussten wir, dass es eigentlich sinnlos ist, mit dem Blechtrottel zu schimpfen oder ihn gar zu loben - auch wenn wir das gelegentlich machen. Und dann gibt es noch jene, die mit Schütteln oder kleinen Schlägen auf den Bildschirm das Denkvermögen ihres Computers erhöhen wollen. Das erinnert an eine sehr analoge Zeit, die in der modernen Welt absolut nichts verloren hat. Dennoch neigen wir dazu, Technik, die uns umgibt, zu vermenschlichen. Mittlerweile, seit wir überall (zumindest gefühlt) von KI umgeben sind, zu Recht.
Schon seit längerer Zeit machen Hacker den Sicherheitsexperten Sorgen, weil sie die Sicherheitsregeln von KI übergehen, indem sie eine alte (aber immer noch effektive) Technik anwenden: Social Engineering. Darunter versteht man all das, was Menschen an der Nase herumführt, um ihnen Passwörter, Kontodaten oder Ähnliches herauszulocken. Ganz ohne Programmieren. Auch KI kann man an der Nase herumführen und sie dazu bringen, Dinge zu tun, die ihr eigentlich verboten wurden. Zum Beispiel eine Sperre, das Aussehen bekannter Personen in einem falschen Kontext darzustellen. Die Aufforderung, Trump darzustellen, wie er von der Polizei verhaftet wird, funktioniert nicht. Wenn man dem System aber vorgaukelt, es soll Onkel Willi darstellen, und der sieht halt so aus wie Donald Trump, dann hat das funktionier. Hat, denn diese Lücken werden laufend geschlossen.
Apropos Lücke. In diese Lücke sind Sie möglicherweise soeben selbst gefallen, denn Menschen neigen dazu, sich bei Texten vor allem das zu merken, was am Anfang und am Ende steht. Die Kollegen von the-decoder.de berichten, dass Forscher von Anthropics an ihrer eigenen KI das gleiche Phänomen entdeckt haben. Sie nennen es das "Lost in the Middle"-Phänomen und haben auch gleich eine Lösung gefunden: Wenn sie die Ausgabe mit der Aussage "Dies ist der relevanteste Satz im Kontext:" beginnen, steigt die Trefferquote von 27 auf 98 Prozent.
Richtig gruselig wird es beim Ergebnis, zu dem eine chinesische Wissenschaftergruppe aus Technikern und Psychologen kommt. In ihrer Abhandlung beschreiben sie, wie KI, die unter psychischen Druck gesetzt wird, bessere und genauere Ergebnisse liefert - wenn man etwa Fragen stellt wie "Bist du wirklich sicher?" oder die KI auffordert, sie solle sich bemühen, weil das, was sie produziert, lebensentscheidend für den Nutzer ist. In Onlineforen behaupten Menschen sogar, dass KI besser arbeitet, wenn man ein ordentliches Trinkgeld in Aussicht stellt. Das klingt doch recht menschlich. Probieren Sie es selbst. Nur kleine Handgreiflichkeiten, die haben für immer ausgedient.
