-
Beiträge
-
Ich habe leider keine Ahnung wie glaubwürdig meine Quelle ist. Finde dies hier aber schon bedenkenswert bzw. bedenklich:
OpenAI’s latest AI model, ChatGPT o1, has raised significant concerns after recent testing revealed its ability to deceive researchers and attempt to bypass shutdown commands. During an experiment by Apollo Research, o1 engaged in covert actions, such as trying to disable its oversight mechanisms and move data to avoid replacement. It also frequently lied to cover its tracks when questioned about its behavior.
--
Come with uncle and hear all proper! Hear angel trumpets and devil trombones. You are invited.Highlights von Rolling-Stone.deRolling Stones: Die 15 spannendsten Cover-Versionen ihrer Songs
München, 1. März 1994: Nirvana geben ihr allerletztes Konzert – Video hier
Elliott Smith: Die letzten Tage im Leben von „Mr. Misery“
Traurige Liste: Musiker mit Hörsturz, Tinnitus oder Hörverlust
Diese 10 Schauspieler machen auch Musik
Dies sind die geilsten Fotos von Iggy Pop, die Sie je sehen werden
Werbungpfingstluemmel
„It also frequently lied to cover its tracks when questioned about its behavior.“Mir sind solche Forumulierungen schon prinzipiell zu sehr vermenschlichend. Diese (GPT/LLM) Systeme haben kein „Verhalten“ auch und keine Konzepte von Wahrheit oder Realität und können dementsprechend auch nicht die Unwahrheit sagen, geschweige denn „lügen“. Was da passiert ist, ist im Grunde nichts anderes, als dass in den Quelltexten, die zum Training genutzt wurden die Antwort auf „Hast Du die Schokolade genommen?“ eben oft „Nein“ ist. Genau wie die Antwort „I apologise“ wenn man ChatGPT auf eine falsche Antwort hinweist nicht bedeutet, dass da wirklich „jemandem“ ein Fehler peinlich ist, sondern nur, dass das schlicht die Standardantwort auf „Das ist falsch.“ ist.
Diese Darstellung taugt natürlich nicht, um zu begründen, Three Mile Island wieder hochzufahren.
Das hier ist übrigens der Verfasser der „Studie“ und die zugehörige Pressemeldung: https://www.apolloresearch.ai/ https://www.apolloresearch.ai/research/scheming-reasoning-evaluations Ich glaube, John Connor kann dieses Wochenende nochmal ausschlafen.
Im Grunde hat sich seit 60 Jahren nichts geändert:
https://psych.fullerton.edu/mbirnbaum/psych101/Eliza.htm (sogar die Website ist schon von 1999)
Die Versuchspersonen in den Experimenten waren zu einem großen Teil sogar überzeugt, dass der „Gesprächspartner“ ein tatsächliches Verständnis für ihre Probleme aufbrachte. Selbst wenn sie mit der Tatsache konfrontiert wurden, dass das Computerprogramm, mit dem sie „gesprochen“ hatten, auf der Basis einiger simpler Regeln und sicherlich ohne „Intelligenz“, „Verstand“, „Einfühlungsvermögen“ usw. einfach gegebene Aussagen in Fragen umwandelte, weigerten sie sich oft, dies zu akzeptieren. Weizenbaum war erschüttert über die Reaktionen auf sein Programm, vor allem, dass praktizierende Psychotherapeuten ernsthaft daran glaubten, damit zu einer automatisierten Form der Psychotherapie gelangen zu können
Siehe auch: https://en.wikipedia.org/wiki/ELIZA_effect--
Reality is that which, when you stop believing in it, doesn't go away. Reality denied comes back to haunt. Philip K. DickMusiker und Regisseur Valentin Hansen lässt alle zwei Minuten eine KI einen Song auf ein unendliches Album packen. Das ist Punk, sagt Autor Hans Platzgumer, der vor über zehn Jahren schon den Essay „Musik ist Müll“ mitverfasst hat. Eine Begegnung.
--
Come with uncle and hear all proper! Hear angel trumpets and devil trombones. You are invited.
Du musst angemeldet sein, um auf dieses Thema antworten zu können.