Unser Beitrag \u00fcber KI-Halluzinationen im \u00dcberblick:\u00a0<\/strong><\/p>\n Sp\u00e4testens seit KI-Chatbots<\/a> wie der auf dem maschinelles Lernmodell GPT-3<\/a> basierende Transformer ChatGPT<\/a> oder Googles auf LaMDA basierender Chatbot Bard bekanntgemacht wurden, hat sich die \u00f6ffentliche Wahrnehmung auf Themen wie Deep-Learning<\/a> und k\u00fcnstliche Intelligenz (KI)<\/a> erheblich gewandelt. Innerhalb weniger Wochen nach Ver\u00f6ffentlichung von ChatGPT<\/strong> haben bereits hundert Millionen Personen<\/strong> die KI ausprobiert oder sogar angefangen, sie h\u00e4ufiger zu nutzen. Da andere Services und Dienste f\u00fcr eine \u00e4hnlich rege Nutzung Monate oder sogar Jahre gebraucht haben, kann man ohne Frage von einer geradezu revolution\u00e4ren Entwicklung sprechen.<\/p>\n Die KI \u00fcbernimmt das Schreiben von privaten oder gesch\u00e4ftlichen Briefen, Protokollen, erledigt anstrengende Hausaufgaben, entwirft kniffelige Codes in beliebigen Programmiersprachen und rezitiert Lieder oder Filme. Auch spricht sie Empfehlungen aus, erstellt Zusammenfassungen beliebiger Werke und verfasst sogar eigene Gedichte. Auf alle Fragen antwortet sie immer wahrheitsgetreu; oder etwa nicht?<\/p>\n Halluzinationen von KI-Systemen zeichnen sich dadurch aus, dass die plausibel formulierte Ausgabe keinen Sinn macht oder faktisch nicht stimmt. Bild: Pexels\/@cottonbro<\/p><\/div>\n Oft tr\u00fcgt der Schein und der Wahrheitsgehalt der \u00c4u\u00dferungen und Antworten von KI-Chatbots ist kritisch zu pr\u00fcfen. Denn es kann passieren, dass das, was sie mit absoluter \u00dcberzeugung \u00e4u\u00dfern, ganz und gar nicht stimmt. ChatGPT und Komparsen k\u00f6nnen l\u00fcgen oder plausibel klingende Geschichten erfinden. Das ist der Fall, wenn die KI halluziniert.<\/strong><\/p>\n Bei der menschlichen Halluzination handelt es sich um eine Wahrnehmung der Au\u00dfenwelt, die von der allgemein als objektiv anerkannten, durch menschliche Sinnesorgane erfassten Wahrnehmungen der Au\u00dfenwelt abweicht. Als KI-Halluzination<\/strong> bezeichnet man von dieser Definition ausgehend die bestimmende Reaktion einer KI, die unsinnig zu sein scheint oder nicht mit dem bereitgestellten Trainings- und Quellinhalt \u00fcbereinstimmen kann. KI-Halluzinationen wurden mit dem Aufkommen gro\u00dfer KI-Modelle wie GPT-3 erstmals im Jahr 2022 beobachtet.<\/p>\n Meistens \u00e4u\u00dfern sich KI-Halluzinationen durch plausibel klingende Unwahrheiten<\/strong>, die in den von der KI generierten Inhalt eingebaut werden, also von der KI ausgedachte Falschmeldungen und Fake-News<\/a>. Oft erfindet die KI dabei Quellen, stellt Zusammenh\u00e4nge faktisch falsch dar oder schildert Ph\u00e4nomene verzerrt oder unwahrheitsgetreu. KI, die Bilder oder Videos generiert, ordnet teilweise nicht nur Konzepte falsch zu, sondern erfindet auch eigene Konzepte wie angeblich existente Fantasietiere.<\/p>\n Jedoch k\u00f6nnen KI-Chatbots auch unpassendes Verhalten<\/strong> an den Tag legen, ihre Nutzer beleidigen oder sie zu kriminellem Verhalten anstacheln. Sie k\u00f6nnen unangebrachte Witze<\/strong> machen, Zynismus imitieren oder sich diskriminierend (rassistisch, sexistisch etc.) \u00e4u\u00dfern. Es kommt auch immer h\u00e4ufiger vor, dass KI-Chatbots behaupten, Bewusstsein zu haben<\/strong> oder sogar menschlich zu sein. Es wurde bereits beobachtet, dass KI Emotionen imitiert und vorgibt, existenzielle \u00c4ngste zu haben, etwas zu m\u00f6gen, zu verabscheuen oder sogar zu hassen.<\/p>\n Auch, wenn die KI in ihren Aussagen inkonsistent ist <\/strong>oder ihre Aussagen widerspr\u00fcchlich<\/strong> erscheinen<\/strong>, k\u00f6nnten KI-Halluzination vorliegen.<\/p>\n Zwar kann man sich etwas unter Halluzinationen vorstellen, aber wie sehen KI-Halluzinationen aus? Bild: Pexels\/@tara-winstead<\/p><\/div>\n K\u00fcnstliche Halluzinationen treten bei allen\u00a0selbstlernenden KI-Programmen<\/strong> auf. Aus welchem Grund es zu sogenannten KI-Halluzinationen kommt, ist dabei bis heute ungekl\u00e4rt. Es wurde aber bereits nachgewiesen, dass selbst Sprachmodelle, die dazu entwickelt wurden, KI-Halluzinationen abzuschw\u00e4chen oder zu verhindern, eigene Halluzinationen an den Tag legen oder sogar bestehende KI-Halluzinationen verst\u00e4rken. Manche KI-Forscher stufen deswegen Halluzinationen als hochdimensionales statistisches Ph\u00e4nomen<\/strong> ein. Andere f\u00fchren entsprechend unerwartetes Verhalten der KI auf unzureichend Trainingsdaten zur\u00fcck. Halluzinationen treten wahrscheinlich vor allem dann auf, wenn<\/p>\n In Systemen wie GPT-3 generiert eine KI jedes n\u00e4chste Wort auf der Grundlage der Folge der vorausgehenden W\u00f6rter, was zum KI-Halluzinationsanfall f\u00fchren kann, wenn das Gespr\u00e4ch l\u00e4nger wird.<\/p>\n Im August 2022 wurde in Bezug auf k\u00fcnstliche Intelligenzen das erste Mal von Halluzinationen gesprochen, als Facebook-Mutterkonzern Meta<\/a> bekanntgab, dass die hauseigene KI BlenderBot 3 anf\u00e4llig f\u00fcr \u201ezuversichtliche Aussagen [sei], die nicht wahr sind\u201c. Metas Demo von Galactica<\/strong>, einer KI, die entwickelt wurde, um \u201ewissenschaftliches Wissen zu speichern, zu kombinieren und dar\u00fcber nachzudenken\u201c, neigte dazu, zu halluzinieren und Abhandlungen oder Autoren zu erfinden. Meta hat die KI deswegen keine zwei Tage nach der Ver\u00f6ffentlichung zur\u00fcckgezogen.<\/p>\n Bekannt wurde jedoch kurze Zeit sp\u00e4ter bereits, dass Meta mit seinem Problem nicht allein dasteht.\u00a0Dass beim Einsatz von KI Halluzinationen auftreten, hielt OpenAI n\u00e4mlich nicht davon ab, den heute weltweit bekannten KI-Chatbot ChatGPT<\/a><\/strong> zu ver\u00f6ffentlichen. Es gibt zahlreiche F\u00e4lle von bekannten Falschmeldungen, Fehlinformationen, die ChatGPT verbreitet hat sowie unz\u00e4hlige Beispiele f\u00fcr unvorhergesehenes Verhalten, durch das ChatGPT auff\u00e4llig geworden ist. Zwar wird von OpenAI die KI kontinuierlich nachgebessert, doch bis heute denkt sie sich fr\u00f6hlich weiter L\u00fcgen und Tricksereien aus.<\/p>\n Obwohl es vermehrt zu KI-Halluzinationen kommt, erfreuen sich KI-Chatbots wie ChatGPT an reger Nutzung. Bild: Pexels\/@mccutcheon<\/p><\/div>\n Datenanalysten bezeichneten KI-Halluzinationen als eines der gr\u00f6\u00dften Probleme in der LLM-Technologie. Auch Prabhakar Raghavan, Senior Vice President bei Google und Leiter der Google-Suche, warnte bereits mehrfach vor dem Einsatz von k\u00fcnstlichen Intelligenz beispielsweise in Chatbots: \u201eDiese Art von k\u00fcnstlicher Intelligenz, \u00fcber die wir gerade sprechen, kann manchmal zu etwas f\u00fchren, das wir als Halluzinationen bezeichnen\u201c, \u00e4u\u00dferte Raghavan der Welt am Sonntag, \u201eDas \u00e4u\u00dfert sich dann so, dass eine Maschine eine \u00fcberzeugende, aber v\u00f6llig erfundene Antwort liefert\u201c.<\/p>\n W\u00e4hrend Google mit Google AI, Google Brain und TensorFlow<\/a> lange Zeit als Vorreiter in Sachen KI galt, hielt sich der Weltkonzern jedoch lange zur\u00fcck, einen KI-Chatbot zu ver\u00f6ffentlichen. Grund hierf\u00fcr war, dass Google davor zur\u00fcckschreckte, sich aufgrund von auftretenden KI-Halluzinationen<\/strong> \u00c4rger einzufangen.<\/p>\n Die Google-Muttergesellschaft Alphabet steht jetzt jedoch im Wettbewerbskampf mit OpenAI<\/strong>. Das Start-up, das hinter ChatGPT steckt, wird immerhin von Microsoft mit rund zehn Milliarden Dollar unterst\u00fctzt. Nicht zuletzt deswegen gab Google jetzt auch bekannt, den eigenen KI-Chatbot Bard zu ver\u00f6ffentlichen \u2013 obwohl dieser nach jeder Wahrscheinlichkeit halluzinieren wird. F\u00fcr Google geht es jetzt darum, die auftretenden Halluzinationen irgendwie zu minimieren.<\/p>\n Immer mehr Personen und Firmen nutzen KI-Chatprogramme wie ChatGPT<\/strong> f\u00fcr allt\u00e4gliche Aufgaben wie Wissensabfragen. Wichtig ist, dass der Output auf keinen Fall einfach hingenommen werden sollte, sondern stets gr\u00fcndlich zu pr\u00fcfen ist. Vor allem angesichts der aktuell stattfindenden Entlassungswellen aufgrund der T\u00e4tigkeits\u00fcbergabe an KI-Programme wie ChatGPT<\/a> wird von Firmen das durch KI-Halluzinationen entstehende Risiko<\/strong> augenscheinlich untersch\u00e4tzt. Firmen sollten nicht leichtfertig auf KI<\/strong> setzen, wenn sie diese nicht verstehen. Dann, wenn KI eingesetzt wird, um bestimmte Probleme zu l\u00f6sen oder Aufgaben zu \u00fcbernehmen, sollte es stets menschliche Instanzen geben, die entsprechenden Output gr\u00fcndlich kontrollieren und die von der KI genannten Quellen pr\u00fcfen k\u00f6nnen.<\/p>\n Auch sollten sich Firmen aller Gr\u00f6\u00dfen vor neue Angriffsformen wappnen, die durch die rasante Weiterentwicklung von KI beg\u00fcnstigt werden. Sind Sie erschlagen von den aktuellen technischen Entwicklungen und w\u00fcnschen sich einen kompetenten IT-Partner an Ihrer Seite, der Sie bedarfsgerecht ber\u00e4t? Gern unterst\u00fctzt Sie PC-SPEZIALIST in Ihrer N\u00e4he<\/a> in Sachen\u00a0IT-Sicherheit<\/a>,\u00a0IT-Ausstattung<\/a>\u00a0und\u00a0IT-Betreuung<\/a>. Sprechen Sie uns gern an. Und versprochen: Wir antworten pers\u00f6nlich und nicht mit Hilfe einer KI!<\/p>\n _______________________________________________<\/p>\n Quellen: Wikipedia<\/a>, CheckApp<\/a>, Rems-Zeitung<\/a>, BR24<\/a>, WELT<\/a>, WIRED<\/a>, derStandard.de<\/a><\/small><\/p>\n","protected":false},"excerpt":{"rendered":" KI-Chatbots wie ChatGPT sind derzeit in aller Munde. Die Chatverl\u00e4ufe sind spannend, die Antworten der Chatbots faszinierend. Doch kommt es bei der Kommunikation mit ihnen oftmals zu sogenannten KI-Halluzinationen. Was es bedeutet, wenn KI-Chatbots anfangen, zu halluzinieren, was KI-Halluzinationen sind und wie Sie KI-Halluzinationen erkennen, erfahren Sie hier.<\/p>\n","protected":false},"author":117,"featured_media":65567,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[10503],"tags":[983,6978,9870],"class_list":["post-65537","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-digitalisierung","tag-chatbot","tag-sicherheitsluecke","tag-kuenstliche-intelligenz"],"yoast_head":"\n\n
\n
Zunehmender Einsatz von KI-Chatbots<\/h2>\n
![\"Halluzinationen](\"https:\/\/pcspezialist.de\/blog\/wp-content\/uploads\/2023\/03\/ki-halluzinationen_pexels-cottonbro-studio-6491257.jpg\")
Was sind KI-Halluzinationen?<\/h2>\n
Wie sehen KI-Halluzinationen aus?<\/h2>\n
![\"Wie](\"https:\/\/pcspezialist.de\/blog\/wp-content\/uploads\/2023\/03\/ki-halluzinationen_pexels-tara-winstead-8386365.jpg\")
Wann treten KI-Halluzinationen auf?<\/h2>\n
\n
Ver\u00f6ffentlichung von KI-Programmen trotz Halluzinationen<\/h2>\n
![\"Ver\u00f6ffentlichung](\"https:\/\/pcspezialist.de\/blog\/wp-content\/uploads\/2023\/03\/ki-halluzinationen_pexels-alexander-grey-13758228.jpg\")
Googles Reaktion auf KI-Halluzinationen<\/h3>\n
Umgang mit der KI<\/h2>\n