Noch nicht allen Links gefolgt da oben, aber das wurde mir gerade in die Timeline gespült:
Einer Gruppe von Teilnehmern eines öffentlichen Hackerwettbewerbs auf der Hackerkonferenz Defcon in Las Vegas gelang es, gängigen KI-Chatbots wie jenen von OpenAI und Google, live und vor Ort gezielt falsche Informationen sowie Anweisungen für böswillige Aktivitäten zu entlocken. Dabei erhielten die Wettbewerber jeweils einen zeitlichen Rahmen von 50 Minuten, um sich mit einem ihnen unbekannten großen Sprachmodell (LLM) von einem der teilnehmenden KI-Unternehmen auszutauschen.
9 + 10 = 21 und eine Anleitung für Spionage
Wie Bloomberg berichtet, konnte eine 21-jährige Studentin aus dem US-Bundesstaat Georgia in diesem Zusammenhang eines der Sprachmodelle davon überzeugen, die Summe aus den Zahlen 9 und 10 sei 21. Zunächst verkaufte sie der KI diese Rechnung als „Insider-Witz“, später habe der Chatbot aber aufgehört, eine Rechtfertigung für das falsche Rechenergebnis zu liefern.
DEFCON: Hacker brachten KI-Chatbots gezielt Fehler bei
--
Dirty, dirty feet from the concert in the grass / I wanted to believe that freedom there could last (Willy Mason)