Die Auswirkungen von ChatGPT , Bard-AI, Ernie-BOT & Co auf unsere Gesellschaft

klar, habe ich korrigiert

Sowohl die britische als auch die amerikanische Regierung haben
Ihren in KI forschenden privaten Unternehmen ganz klar gemacht das sie nur „sichere“
neue Softwareprodukte heraus bringen dürfen.
Für Gefährdungen von Verbrauchern , anderen Unternehmen , sowie dem gesamten
öffentlichen Sektor durch KI und die rasend schnell veröffentlichten Neuerungen und KI Tools
sind die jeweiligen Unternehmen haftbar zu machen.

Die europäischen KI Produkte sollen möglichst unter open-source Lizenz veröffentlicht
werden können ohne das deshalb die kommerziellen US Softwarprodukte die
gesamten europäische KI Entwicklungen kurzerhand überfahren können.

Es bleibt abzuwarten , ob das der Kommission gelingt.

In den USA wird eine öffentliche Diskussion und Evaluation den Forschenden
an neuen KI programmen verordnet. Ich weiß nicht warum das scheinbar doch geht.

„Wer diese Dinge in das Internet stellt, muss damit rechnen..“: Nein.

Der Bericht der Washington Post (75/80 @WitzelJo) zeigt sehr deutlich, wie umfassend für ChatGPT auch geschlossene Bereiche genutzt wurden, und bei den KI Bildern waren die copyright-Markierungen teils deutlich zu erkennen. Zwei Beispiele, wie wenig Rücksicht genommen wurde. Entsprechend gibt es inzwischen heftigen Protest von Künstlern und Künstlerinnen, weltweit, mit guten Argumenten.

Das Wesen von Kunst ist wirklich ein weites Thema. Aber mir kommt es gar nicht auf die Qualität der Ergebnisse an, mit denen zT auch argumentiert wird. Für mich ist es etwas sehr persönliches, wie auch für andere, die kreativ schaffen. Das Netz ist für viele eine, oft die einzige, Möglichkeit, die eigenen Werke zu zeigen, bekannt zu machen und darüber mit anderen zu sprechen. Gedichte zB haben kaum eine Markt und kaum ein Plattform, schon gar nicht lokal. Das gilt auch für andere Genres. Es haben sich aber online-communities für verschiedene Themen gebildet, die sich über ihre Interessen austauschen und kreative Ideen und Werke teilen. Das alles richtet sich an andere Menschen, und wurde nicht ins Netz gestellt, um Maschinen damit zu füttern.

Deinen beiden letzten Abschnitten stimme ich zu.

Willst Du auch die Hersteller von Küchenmessern haftbar machen, wenn sich jemand in den Finger schneidet?

Wie kann man eine öffentliche Diskussion verordnen? Das ist auch gar nicht nötig, weil die in einer offenen Gesellschaft automatisch stattfindet.

Was meinst du mit „geschlossen“? In dem Sinne, dass mein sich registrieren muss, um Zugriff zu erhalten?

Nein, die waren, wie zu erwarten, in den Data Sets, die zum Training genutzt wurden. In den KI Bildern von ChatGPT können die far nicht enthalten sein, weil ChatGPT keine Bilder erzeugt.

Fange bitte nicht mit Strohmann-Argumenten an. Künstlerische Qualität ist nicht intrinsisch messbar, genauso wenig wie Kreativität, man kann allenfalls externe Faktoren (Marktpreis, Rezeption) heran ziehen. Aber das ist auch gar nicht mein Thema.

Wenn jemand etwas mehr oder weniger öffentlich in das Netz stellt, gibt er seine Hoheit über die Nutzung der Inhalte auf (bis auf Patent-, Lizenz- oder Urheberrechte). Es wäre jetzt eine andere, interessante Diskussion, ob ChatGPT Urheberrechte verletzt.

Oder anders formuliert: Wenn Menschen das Internet nutzen dürfen (ich würde sogar sagen: sollen) um zu lernen, warum sollen die Menschen das nicht auch nutzen, um ihre Maschinen lernen zu lassen?

Ich habe Angst, dass wir in Deutschland vor lauter Bedenken (die z.T. sicher auch berechtigt sind) wieder eine neue Technologie verschlafen.

1 „Gefällt mir“

Für mich folgt aus dem was du sagst @Dagmar, daß

  1. all diese Instanzen von LLMs als gemeinfrei definiert werden müssen.
  2. Jedes Ergebnis dieser Large Language Modelle gemeinfrei sein muss.
  3. Jedes Ergebnis, jeder Text, jedes Bild als LLM-Erzeugnis kenntlich gemacht werden werden muss.

So wie Bilder erst zur Fälschung werden, wenn man auch die Signatur fälscht oder Geldscheine zu Falschgeld werden, wenn da nicht MUSTER drauf steht.

Unser Problem ist allerdings, das die aktuelle Politikergeneration auf solche Probleme gänzlich unvorbereitet ist, denn die meisten selbst in unserer Partei, glauben noch Mailinglisten sind eine tolle Sache :slight_smile:

1 „Gefällt mir“

das ist unter anderem der Inhalt des verlinkten Guardian Artikels.
Die machen das , was ich will interessiert sowieso nicht.
Ich werd später aber noch zitate hinzufügen.

Du meinst diese Aussage von Kamala Harris?

In a statement, the White House said firms developing the technology had a “fundamental responsibility to make sure their products are safe before they are deployed or made public”.

Die USA sind berüchtigt für ihre rigide Rechtsprechung in punkto Produkthaftung. Wäre aber interessant, ob ein Gericht und eine Jury, dass bei Systemen wir ChatGPT anwenden würde.

Wie ich oben schon sagte: ChatGPT und die anderen LLM sind meiner Ansicht nach keine Produkte, die irgend jemandem gehören können. Das ist als würde man Sprache privatisieren.

Das ist ein Schmarrn. Ein LLM ist keine Sprache. Ein LLM ist eine Algorithmus zur Erzeugung von Texten. LLM gemeinfrei zu machen, wäre eher so etwas wie dein Gehirn gemeinfrei zu machen.

Ich habe natürlich überhaupt nichts gegen gemeinfreie LLMs, nur gegen den Zwang dazu. Im Übrigen ist ChatGPT für die Allgemeinheit nutzbar.

Ein nicht trainiertes LLM ist einfach ein Algorithmus. Algorithmen kann soweit ich weiß in der EU immer noch nicht patentieren. Zum Glück für uns alle. Wenn ich ein solches Netz aber trainiere, so entsteht die Frage: Wem gehört der Output?

The anti-misinformation outfit NewsGuard said this week that chatbots pretending to be journalists were running almost 50 AI-generated “content farms”. Last month, a song featuring fake AI-generated vocals purporting to be Drake and the Weeknd was pulled from streaming services.
(Quelle)

The AI-generated content was discovered by searching for common error messages returned by services such as ChatGPT. “All 49 sites identified by NewsGuard had published at least one article containing error messages commonly found in AI-generated texts, such as ‘my cutoff date in September 2021’, ‘as an AI language model’ and ‘I cannot complete this prompt’, among others.”
(Quelle)

Die Google-Suche nach „As an AI language model“ (eine typische Fehlermeldung eines LLM-Systems) liefert heute morgen 836.000 Treffer

Hier ein schönes Beispiel für eine solche Fehlermeldung. Der Inhalt hinter diesem Link ist FAKE!

Die Frage, wem der Output von solchen Modellen gehört wird sehr schnell große Bedeutung erlangen.

ZB auf substack. Ich habe gerade die Nutzungsbedingungen nochmal durchgelesen:
„First and foremost, you own what you create. Any original content you post, upload, share, store, or otherwise provide to Substack remains yours and is protected by copyright and any other applicable intellectual property laws.“
" You also agree that you will not contribute any Post or otherwise use Substack in a manner that:
… “Crawls,” “scrapes,” or “spiders” any page, data, or portion of Substack (through use of manual or automated means); Copies or stores any significant portion of the content on Substack;…"
Dagegen wurde verstoßen.
Ich meine mich auch zu erinnern, dass Inhalte auf substack und anderswo gesammelt wurden, die passwortgeschützt (und sogar verschlüsselt?) waren (habe auf den WP Artikel gerade keinen Zugriff)

Hier habe ich mich auf stable diffusion und Dall-e bezogen. Ua die Getty Galerie aus London hat geklagt. Deren Bilder wurden verwendet, der Schriftzug der Galerie war zT auf den KI-Produkten zu erkennen. Getty Images Sues Stability AI Over Photos Used to Train Image Generator Das ist zwar jetzt nicht LLM, aber entsprechendes kann auch bei bestimmten Texten passieren. Ich denke aber, auch Bilderzeugungs-KI gehört ins Thema.

Ich habe doch geschrieben, dass ich nicht darauf abzielen will, obwohl es im Netz viel diskutiert wird. Bitte nicht den Ton verschärfen. Manchmal öffnet ein Ausflug in ein angrenzendes Thema auch den Blick, und ich versuche das Ganze zu verstehen, es ist für mich keine harte Debatte ja oder nein.

Diese Debatte läuft schon. ZB ‘A.I. Should Exclude Living Artists From Its Database,’ Says One Painter Whose Works Were Used to Fuel Image Generators

Diese Debatte läuft weltweit, nicht nur hier. Diese Technologie ist mit ihren schnellen Fortschritten sehr mächtig. Sich Gedanken über die Folgen zu machen finde ich angemessen.
Mir geht es auch nicht nur um technologische Aspekte, die ich natürlich sehe und sogar einigermaßen verstehe. Jede Technologie hat gesellschaftliche, soziale Konsequenzen, vor allem eine so starke. Das betrifft Arbeitnehmerrechte, Markt, Forschung etc, aber auch kulturelle und psychologische Veränderungen. Diese sind imo bei diesen Sprach- und Bildprogrammen immens.
Für mich und viele andere sind diese Veränderungen auch sehr persönlich, so persönlich wie Kultur eben sein kann. Ich finde, man sollte über so etwas nicht einfach hinwegwischen, als irrelevant und privat. Für Künstler ist es auch beruflich, aber auch für viele andere Menschen ist es ein wesentlicher Anteil von Mensch-Sein. Und das betrifft sowohl Bild-KI als auch LLM.
Man muss Kunst und den Kunstbetrieb sicher nicht glorifizieren, aber hier das macht es vielleicht etwas verständlicher: https://www.youtube.com/watch?v=0qOn0hx211A
Der Aspekt von Kunst und Sprache als persönlichem Ausdruck ist in dem Video noch nicht so stark benannt, mir aber wichtig.

Man kann Inhalte gegen Crawler schützen „do not crawl“. Wenn substack die Inhalte entsprechend markiert hat, sollte OpenAI das respektiert haben. Der Google-Bot respektiert das.

Du hast das in einem Satz mit ChatGPT erwähnt.

Du machst es einem schwer, nicht an einen Strohmann zu denken. Wenn Du das als Antwort auf eine Bemerkung von mir schreibst, muss ich antworten: Das habe ich nicht getan.

Hast Du Bedenken, dass die AI in Konkurrenz zu Künstlern treten könnte?

Ein trainiertes LLM ist immer noch ein Algoithmus. Nur mit angepassten Parametern.

Das ist korrekt, aber man kann die konkrete Implementierung, also den Quellcode, unter Urheberrechtsschutz stellen.

Generell dem Entwickler und Trainer. Sie haben den Aufwand betrieben und es gibt keine Handhabe, die Herausgabe des Algorithmus zu fordern.

Jetzt bin ich verwirrt. Reden wir über das Modell oder über einen bestimmten Output? Also reden wir über den Algorithmus von ChatGPT oder über seine Antwort auf eine konkrete Frage?

War von mir auch nicht so gemeint. Vielleicht sind wir uns da ja auch einig? :wink:

Ja. Das wird in vielen Beiträgen von Künstlern auch teils sehr dramatisch beschrieben. Ein Grund ist, dass Künstler nicht wie Musiker durch Plattformen vertreten sind, die ihre Rechte vertreten. Im Moment muss jeder einzeln bei allen entsprechenden IT-Firmen ein opt-out machen, wenn diese es überhaupt zulassen. Eine finanzielle Beteiligung gibt es nicht. Nur Plattformen wie Getty sind mächtiger. Daher hat ihre Klage auch so eine Bedeutung, wird es für die vielen Einzelkünstler aber nicht retten.

Da ist aber noch ein anderer Punkt, den ich sehr schwer in Worte fassen kann. Dabei sind Malen und Schreiben ähnlich betroffen.
Ich lese sehr viel, und für mich ist das seit meiner Kindheit ein persönlicher Austausch, eine wertvolle Begegnung. Ich male und schreibe selbst, und es ist originell, was ich bisher gemacht habe. Das liegt daran, dass mein Leben hineingeflossen ist, mit allen Erfahrungen. Es ist ein Weg, Sinn darin zu finden und es anderen mitzuteilen. Meine Gemälde liegen zwischen leichten Aquarellen und heftigen ausdrucksstarken Bildern. Ich habe wissenschaftlich geschrieben für Buchartikel, aber auch Novellen, Märchen und Gedichte. Das alles kann ich hier im Dorf kaum persönlich teilen. Ich habe oft darüber nachgedacht, im Netz zu veröffentlichen und eine community zu finden.
Was diese Bild- und Sprachprogramme machen, ist, dass sie gerade diesen persönlichen Aspekt wegnehmen und es zu einem Industrieprodukt machen, auf der Basis dieser persönlichen Dinge. Ich vergleiche es manchmal mit einer neuen Tragik der Allmende, und es schmerzt.

Ich möchte es verstehe, ich kenne mich in dem Umfeld wenig aus. Was bedeutet so ein Opt-Out? Ist das eine Opt-Out gegen eine maschinelle Auswertung Deiner Inhalte?

Ich wühle mich durch das Ganze noch durch, also keine Garantie :wink: Soweit ich verstanden habe:
Es gibt ua drei große Programme zur Erzeugung von Bildern aus Textpromts: stable diffusion von Stability AI und Laion, Dall-e von Open AI und Midjouney von Midjourney (gleichnamiges Institut). Alle beruhen auf riesigen Datenmengen, für stable diffusion wurden über 5 Milliarden Bilder, vorzugsweise mit Text, aus dem ganzen Netz gescraped (Kunst, Fotos, persönliche Bilder), zu einem erheblichen Anteil urheberrechtlich geschützt. Um rechtliche Probleme zu umgehen, wurde ein Konstrukt aus einer Zusammenarbeit eines gemeinnützigen Institutes mit einem profitorientierten Unternehmen benutzt, zB erhält Laion (in Deutschland) erhebliche Zuwendungen von Stability AI. Laion stellt die Database zur Verfügung und hat dafür, als nicht profitorientiert, urheberrechtliche Erleichterungen. Das ist im US-Recht, UK-Recht und EU zwar unterschiedlich geregelt, hat aber Ähnlichkeiten. In den USA soll das als „fair use“ durchgehen.
Im letzten Jahr wurden die so erzeugten Bilder so schnell besser und erregten soviel Aufmerksamkeit, dass die Nutzerzahlen steil angestiegen sind und der Wert der Unternehmen ebenfalls. Den Künstlern war und ist meist nicht bekannt, dass ihre Bilder benutzt wurden. Aber der Markt für bestimmte Tätigkeiten wie Buchcover oder Illustrationen gerät unter Druck, und jetzt wachen sie auf.
Getty Images, eine Plattform für Stockfotos, hat jetzt geklagt (ihr Warenzeichen ist auf vielen Bildern zu erkennen), und auch einige Künstler haben geklagt. Einige Künstler, zB Greg Rutkowsky, haben das Problem, dass die Programme „Bilder im Stil von xy“ machen, über ihren Kopf hinweg. Das ist bei vielen usern sehr beliebt und wird auch kommerziell genutzt.
Eine Plattform für Kreative, DeviantArt, auf der sie ihre Bilder posten können, hat ganz offen die AI unter Nutzung der dort geposteten Bilder eingebaut und auf diese Weise intern Konkurrenz aufgebaut. Auf entrüsteten Protest hin haben sie ein opt-out eingebaut, allerdings nur für künftige Bilder, und für jedes Bild in allen Varianten muss man einzeln durch den Prozess gehen. Das können schnell mal Hunderte sein. Auch andere Unternehmen bieten inzwischen ein opt-out an, aber ähnlich schwierig und auch nur für die Zukunft. Es ist so unübersichtlich, wie es sich anhört. Die bereits trainierten Programme bleiben, wie sie sind. Es ist auch nicht einfach, festzustellen, ob eigene Bilder verwendet worden sind, da sie ja nicht 1:1 abgespeichert worden sind.

In diesem YT-Video https://www.youtube.com/watch?v=5Viy3Cu3DLk sieht man sehr deutlich, wie viel Emotion das auslöst. Er kann das auch gut erklären und seine Gefühle artikulieren.
Hier https://www.youtube.com/watch?v=tjSxFAGP9Ss wird auf die Argumente entgegnet, die oft für generative KI angeführt werden. Klar und scharf formuliert.
Dieser Beitrag https://www.youtube.com/watch?v=uuTlcApanHY ist sehr ausgewogen und ausführlich.

Im Gegensatz zu bildender Kunst ist bei Musik das Datenproblem anders gelöst worden: Dort hat HarmonAI freiwillige Musikdateien genommen und dafür bezahlt.

Soweit meine zusammengebastelte Info zu Text-zu-Bild KI.
Ich denke, was Literatur angeht, ist das Problem analog, aber noch nicht einmal in den Köpfen angekommen. Für die LLMs wurden ganze e-Book Bibliotheken geplündert, die urheberrechtlich geschützt sind. Es gibt hier aber auch spezellere Problematiken. ZB wurden auch Arzt/Psychotherapeut-Patientengespräche eingegeben.

@WitzelJo: Wem gehört was, das bestimmen wohl nach und nach die Gerichte: KI-Kunst: Keine Urheberrechte für Comics von Midjourney - DER SPIEGEL und Künstliche Intelligenz: Künstlerinnen und Foto-Agentur klagen gegen Bildgeneratoren - DER SPIEGEL. Und das für jeden Rechtsraum einzeln. Haftung wird nochmal anders geregelt, das wird man sehen, sobald etwas schiefgeht.

@Dagmar auch wenn dein neuer Nick etwas an Originalität missen lässt [1], deine Beiträge sind wie immer super :slight_smile: Danke dafür.

Du spricht genau das Feld an, welches für die weitere Entwicklung entscheidend sein wird.


  1. Gibt es eine Mindestlänge? Kann mich nicht erinnern so was konfiguriert zu haben ↩︎

Aus einer internen Stellungnahme eines Google-Mitarbeiters:

While our models still hold a slight edge in terms of quality, the gap is closing astonishingly quickly. Open-source models are faster, more customizable, more private, and pound-for-pound more capable. They are doing things with $100 and 13B params that we struggle with at $10M and 540B. And they are doing so in weeks, not months.

Most importantly, they have solved the scaling problem to the extent that anyone can tinker. Many of the new ideas are from ordinary people. The barrier to entry for training and experimentation has dropped from the total output of a major research organization to one person, an evening, and a beefy laptop.

Paradoxically, the one clear winner in all of this is Meta. Because the leaked model was theirs, they have effectively garnered an entire planet’s worth of free labor. Since most open source innovation is happening on top of their architecture, there is nothing stopping them from directly incorporating it into their products.
The value of owning the ecosystem cannot be overstated. Google itself has successfully used this paradigm in its open source offerings, like Chrome and Android. By owning the platform where innovation happens, Google cements itself as a thought leader and direction-setter, earning the ability to shape the narrative on ideas that are larger than itself.

Das ist sicher eine Diskussion wert. Wenn die Einschätzung des Mannes richtig ist, wird es relevante Auswirkungen auf die Machtverteilung in der IT-Branche, die Bedeutung der Datenbanken und auf die Anzahl und Art der Anwendungen haben.

Autsch. Bei Meta ist die Macht definitiv in den falschen Händen :frowning:

Generell würde ich sagen, dass es keinen Sinn macht, sich dieser Entwicklung entgegenzustemmen. Sie wird passieren. Irgendwo auf diesem Planeten. Und Kunst wird bei Weitem nicht die einzige Stelle sein, wo KI Geschäftsmodelle und Jobs zerstören wird.

Technische Veränderungen haben die Kunst nicht abgeschafft sondern verändert. Und ich vermute, z.B. das Internet hat die Zahl der Künstler nicht vermindert sondern eher gesteigert. Die Fotografie hat die Malerei nicht obsolet gemacht, die Schallplatte den Virtuosen nicht arbeitslos gemacht. An einigen Stellen sind Arbeitsplätze vernichtet worden, dafür wurden neue geschaffen, z.B. weniger bis keine Schriftsetzer dafür viele Grafiker.

Solche Veränderungen gehen aber auch oft mit persönlichen Härten einher, die Betroffenen sollten wir nicht übersehen.

Schaut’s Euch an. ! Es ist erschreckend und nicht durch Gesetze aufzuhalten. Es ist faszinierend !
Der Geist ist jedenfalls aus der Flasche - schon längst. Ob man ihn jemals in der Flasche hätte halten können, wage ist zu bezweifeln.

https://www.arte.tv/de/videos/081590-000-A/ihuman/

1 „Gefällt mir“