Wenn KI-Software aber erfundene Fakten präsentiert, nennen wir das eine „Halluzination“. Tech-Firmen wie Meta und Google haben diese Bezeichnung während des KI-Booms der vergangenen Jahre popularisiert.
(Quelle)
Ein neue erschienenes Paper warnt davor von „Halluzinationen“ zu reden. Das schafft ein falsches Bild der KI-Chatbots. Denn das suggeriert das die Systeme überhaupt Fakten wahrnehmen könnten, diese aber manchmal falsch interpretierten. **Aber die KIs nehmen nicht wahr sondern simulieren nur Sprache. Sie haben keinen Begriff von „Wirklichkeit“. Ihr von den Entwiklern designtes Ziel ist überzeugend zu klingen. Mehr können Large Language Modelle, welche die Grundlage des aktuellen KI-Booms sind, auch nicht leisten.
Nach dem Philosophen Harry G. Frankfurt der den Begriff „Bullshit“ als eine Ausprägung der Lüge geprägt hat, ist die Gleichgültigkeit gegenüber der Wahrheit gerade die Definition von Bullshit.
Statt von „Halluzinationen“ was letztlich ein Marketingbegriff der Hersteller ist, von Bullshit zu sprechen ist wichtig. Denn wie wir über Dinge sprechen beeinflusst auch unsere Wahrnehmung. PolitikerInnen, InvestorInnen und die Öffentlichkeit beurteilen den Einsatz der neuen Technologie nicht mit sachkundigem Verständnis der Programme. Der Begriff der „Halluzination“ erzeugt dabei ein Bild von KI, welches das Tor zu Missverständnissen weit aufstößt.
Übrigens: „Bullshit“ ist für alles was eine KI erzeugt der richtige Begriff. denn auch wenn die Aussagen war sind: Einem menschlichen Bullshiter ist die Wahrheit seines Bullshits schlicht egal.
Und das trifft auf KIs genauso zu wie auf sagen wir Donald Trump.
Das ist richtig bezogen auf eine bestimmte Klasse von KI-Anwendungen. Aber bitte aufpassen, die Begriffe KI und Large Language Models (LLM) sind nicht synonym. KI ist ein alter Begriff, der nicht exakt definiert ist. Letztlich ist auch ein Taschenrechner KI (aus der Perspektive von vor 150 Jahren).
Momentan basieren die erfolgreichsten KI-System auf „lernenden“ Algorithmen (machine learning, neural networks), die mit großen Datenmengen trainiert werden. So entstehen auch die LLMs. Sie sind überaus nützlich, z.B. zur Übersetzung natürlicher Sprachen (Transformer) und produzieren dabei keinen oder wenig Bullshit.
Die Halluzination (oder Bullshit, je nach Belieben) entstehen, wenn die LLMs nicht zu Übersetzung sondern zur freien Generation von Texten konfiguriert werden (generative Transforrmer).
Daneben gibt es auch noch ganz andere KI-Systeme die nicht auf LLMs basieren, z.B. zur Mustererkennung (Handschriften, Sprache, Gesichter), Krebserkennung, Proteinfaltung, DNA-Analyse, autonomes Fahren und vieles mehr. Alles kein Bullshit.
Ach @kalo, das weis ich alles. Aber Danke das du alle Unwissenden in diesem Forum erhellst.
Der aktuelle Hype dreht sich aber allein um die LLMs. Und allein darüber sollten wir hier diskutieren, bitte. Denn Menschen die nicht vom Fach sind, laufen extrem Gefahr diese Systeme zu überschätzen, da Sie ja so gut reden können.
Das ist übrigens eine weitere Eigenschaft die LLM-KIs mit Donald Trump gemeinsam haben.
Es ist schon sehr Deutsch (um mal dieses Klischee zu verwenden), dass mehr über die Risiken als über die Chancen nachgedacht wird. Dann brauchen wir uns nicht zu wundern, wenn wir abgehängt werden.
Es wird nicht nur über die Risiken nachgedacht. Ich bin gerade dabei zu klären, ob wir das KI-Plugin von Discourse hier installieren können, um automatische Zusammenfassungen von Themen zu erzeugen.
Ich finde das ist einen Versuch wert. Wenn der Output sich wirklich nur auf den Text des Themas beschränkt und nicht alles mögliche aus dem Internet enthält wäre das ja ein total sinnvolle Funktion!
PS: Wie nennt sich nochmal die Taktik von Kritik abzulenken in dem man dem Kritiker unterstellt: Er würde immer alles nur kritisieren?
