Anwendung von KI? Für Pornos natürlich!

Medien, Internet, Digitales
,
1

Es gibt immer mehr gute unabhängige journalistische Webseiten. Eine davon ist 404 Media, deren Newsletter ich aktuell abonniert habe.

Heute berichten Sie über Face-Swapping Apps deren Geschäftsmodell es ist, mit Hilfe eines einzigen Fotos das Gesicht einer Person in ein „beliebiges“ Video zu integrieren, welche man bequem von einer Webseite eigener Wahl downloaden kann. Die Apps kosten allerdings 20 Dollar pro Monat.

Wer sind wohl die Kunden von solchen Apps?

I tested the app and found that, for users willing to pay a subscription fee of $20 a month, it makes it incredibly easy to generate nonconsensual deepfake porn of anyone. All I had to do was provide one image of the person I wanted to deepfake, and use an in-app internet browser to navigate to the video I wanted them to appear in. As the ad I saw on Reddit suggested, when I navigated to a specific Pornhub video, the app automatically pulled the video and created deepfake porn of the person in the image I provided. The entire process, from the moment I saw the ad on one of the most popular websites in the world to the completed deepfake video, took about five minutes, and created a highly convincing result.

Earlier this week I reported that a recent survey found that one in 10 minors ages 9 to 17 say that their friends or classmates have used AI tools to generate nudes of other minors. The report goes into some detail about what internet platforms minors are using, where they are sharing nudes, and where they say the are most likely to encounter child sexual abuse images, but it neglects to mention that the high rate of minors who create AI-generated nude images of their peers is not originating on the dark corners of the internet. They are getting served ads on the most popular internet platforms in the world—Instagram, Reddit, TikTok—which are directing them to the most popular app store in the world for the stated purpose of creating NCII. As Jason and I reported in February, the students who rocked a Washington State high school by creating nude images of their classmates and teachers found the app on TikTok.

KI ist toll oder? Und an jedem Abbo für solche Apps verdienen Apple und Google natürlich mit.

2

Ich habe mal gelesen, dass man für pädophile Menschen Pornos komplett mit AI kreiert. Das scheint mir eine sehr sinnvolle Anwendung, weil das viele Jugendliche schützt.

1 „Gefällt mir“
3

War auch mein erster Gedanke, aber ich habe gelesen (wo, müsste ich erst recherchieren), dass solche Videos diese Phantasien noch verfestigen und dazu führen können, dass eine Übersetzung in die Realität wahrscheinlicher wird.
Es gibt auch verschiedene Typen von Pädophilen.
Diejenigen, die sehr gewaltsam viele Kinder aus einem Machtmotiv heraus missbrauchen, könnte es zusätzlich anturnen.
Bei anderen ist es eine Sache innerhalb der Familie oder sonst bei Nähe. Wie das bei denen wirken würde, das würde ich auch als Risiko sehen.

4

Das mit dem Thema Pädophile führt etwas vom eigentlichen Problem weg.
Ich finde diese Feststellung problematisch:
one in 10 minors ages 9 to 17 say that their friends or classmates have used AI tools to generate nudes of other minors

In den USA gibt es ca. 81,4 Millionen Kinder. Aus der Umfrage kann man schlecht ermitteln, wie viele jugendliche Täter es gibt. Zumindest wohl zig Tausende.

Da gibt es keine einfache Lösung. Soll man jetzt diese Täter-Kinder alle in den Knast stecken mit einer Verurteilung als pädophil? Aber ignorieren kann man das schließlich auch nicht. Wenn ich mir vorstelle es hätte früher schon solche Bilder von meinen Klassenkameradinnen gegeben? Das ist ziemlich übel.

Und nicht zu vergessen: 20 Dollar pro Monat für so eine App ist gutes Geld, das sich App-Hersteller und Apple/Google teilen. Ich kann mir praktisch niemanden vorstellen, der so viel für eine App zahlt und das nur für ein paar witzige Bilder von Mama und Papa mit vertauschen Gesichtern nutzt.

5

Lass dir deine Hausarbeit in nur 2 Minuten erstellen!

Du benötigst lediglich ein Thema. Erhalte deine Hausarbeit vollautomatisiert in kürzester Zeit.

Unser KI-Technologie analysiert pro Hausarbeit bis zu 20.000 Seiten an wissenschaftlichen Texten und erstellt eine individuelle Hausarbeit mit echten Quellenangaben und Literaturverzeichnis.

https://www.intellischreiber.de/landing?utm_source=[Intellischreiber]+V1+Organic+All+Placements&utm_medium=Facebook_Mobile_Feed&utm_campaign=[Intellischreiber]+V1+Organic+All+Placements&utm_content=[Intellischreiber]+V1+Organic+All+Placements&fbclid=IwZXh0bgNhZW0BMAABHd4VS-pvhjipwqF3CAWcMQIrFHbUx8hKJtlV4kE9ZgNKYtgbOaCXWkkAAw_aem_EwmGY2DSK4ufIZGCgqknPQ

Ich weiß nicht, für die Schule und dem Studium muss man sich gar nicht mehr groß anstrengen, macht alles die KI.

Werden dies unsere zukünftigen Akademiker?

1 „Gefällt mir“
6

Nutzen deine Schüler oder Studenten KI um ihre Hausarbeiten zu Schreiben?

Prüfe in wenigen Minuten jeden Text auf die Verwendung von gängigen KI-Systemen!

https://www.gew.de/aktuelles/detailseite/wie-koennen-lehrkraefte-ki-texte-erkennen

:slight_smile:

3 „Gefällt mir“
7

Ehrlich gesagt, das macht mir irgendwie Angst, weil damit verdammt viel Unfug angerichtet werden kann.

Jede Person kann damit durch einen sogenannten „Avatar“ ersetzt werden.

Wo soll dies enden?

8

Ich könnte mir vorstellen, daß es demnächst Fotoapparate gibt, die jedes Foto bei der Aufnahme mittels eines eingebauten Chips signieren. Inklusive GSP Position, Zeitstempel und Wasserzeichen der individuellen Kamera. Damit hätte man Fotos, welche eindeutig und verifiziert einem Aufnahmeort und einer Aufnahmezeit zuzuordnen sind.

Sobald der Bedarf an verzierten Originalaufnahmen steigt, wird es so etwas geben.

So ein Foto könnte man dann jederzeit auf der Webseite des Kameraherstellers verifiziern.

1 „Gefällt mir“
9

Genau das gibt es doch schon. Zumindest Metadaten schreiben die meisten Kameras ganz automatisch in die Bilddatei. Signatur unterstützen auch mache. Aber die Bilder die wir über Medien (egal ob Tagesschau oder TikTok) zu sehen bekommen sind allesamt bearbeitet - sei es nur zurecht geschnitten, aufgehellt, nachgeschärft, markiert … damit ist es mit der Authentizität dahin (und eine Signatur ungültig). Den Unterschied zwischen redaktioneller Bildbearbeitung und manipulativer Bildbearbeitung zu definieren und zu detektieren ist praktisch unmöglich.

10

Wer eine kritische Perspektive auf KI sucht (und des englischen mächtig ist), denen sei der Podcast „Mystery AI Hype Theater 3000“ ans Ohr gelegt: The Mystery AI Hype Theater 3000 Podcast | DAIR
Podcast Beschreibung: „Künstliche Intelligenz hat zu viel Hype. In diesem Podcast brechen Linguistin Prof. Emily M. Bender und Soziologe Dr. Alex Hanna den KI-Hype auf, trennen Fakten von Fiktion und Wissenschaft von Gefasel.“

2 „Gefällt mir“
11

Es wäre nett, wenn Du den Inhalt kurz zusammenfassen könntest. Nicht jeder hat Zeit und Lust, sich 39 Podcast-Folgen reinzuziehen.

Aber ansonsten, danke für den Link.

12

Sorry, ich dachte, die Beschreibung wäre aussagekräftig genug.
Die Information war aber auch eher gedacht für Menschen, die in dem Thema kontinuierlich auf dem Laufenden bleiben wollen und die mal etwas anderes als Werbeblasen von openAI, Microsoft oder Google hören möchten.
Die aktuelle Folge befasst sich z.B. damit, dass Zeitungen wie die Washington Post nunmehr verstärkt auf „KI“ (gemeint sind große Sprachmodelle, sog. LLM) setzen wollen, weil ihr ursprüngliches Kerngeschäft (kompetente Journalist*innen schreiben Artikel, die so gut sind, dass Menschen die WaPo lesen wollen und ertragen, dass sie Anzeigen enthält) nicht mehr ausreichend rentabel ist. Die Folge davor befasst sich u.a. mit der abstrusen Idee des Zoom CEOs, dass es in Zukunft Avatar von uns geben wird, die dann an unserer Stelle an Online-Meetings teilnehmen können. Was diese Avatar dann aber genau machen sollen, sagt er nicht.
Ich gebe zu, es ist was für Nerds und solche, die es werden wollen.
Es ist m.E. dennoch wichtig zu wissen, dass es kompetente und durchaus digital-affine Menschen gibt (ähnlich wie hier in DE der CCC), die nicht alles unkritisch schlucken, was die Tech-Branche so absondert. Schaut Euch mal in grünen Programmen an, wie häufig da – fast immer ohne weitere Einordnung – „Digitalisierung“ eingesprenkelt wird. Als jemand der seit 20+ Jahren an der Grenzfläche von Naturwissenschaften/Ökologie, Statistik und IT mit dem Management und der Analyse großer Datenbestände sein Geld verdient, kann ich über die dort zutage tretende naive Technikgläubigkeit nur staunen (und manchmal schier verzweifeln).

1 „Gefällt mir“
13

Willst Du sagen, dass die WaPo Artikel von KI schreiben lassen will? Das kann ich nicht glauben.

Bitte nicht alles durcheinander werfen. Digitalisierung ist nicht notwendigerweise KI. Es geht z.B. darum, dass Behördengänge online ereldigt werden können. Das gibt es leider erst teilweise.

Ode die e-ID, die wie die Gesundheitskarte über Jahrzehnte hinweg, nicht in die Puschen kommt.

Dabei mehr Digitalisierung zu fordern, ist sehr berechtigt.

P.S. Dass KI zur Zeit etwas zu sehr gehyped wird, ist unbestritten. Dass KI eine große Zukunft hat, aber auch.

14

Schau z.B. hier:

„ Already facing scandal, the Washington Post 's new-ish CEO and publisher, Will Lewis, has announced that the newspaper will be pivoting to artificial intelligence to turn around its dismal financial situation.“

Und natürlich in dem von mir erwähnten Podcast.

1 „Gefällt mir“
15

Naja, das ist alles noch sehr vage.

Es ist eigentlich klar, dass die generativen Modelle a la GPT keine zuverlässigen, faktenbasierte Texte generieren. Es sind - momentan noch - reine Sprachmodelle, keine Modelle der Realität. Sie sind darauf trainiert, sprachlich korrekte Sätze zu bilden, sonst nichts. Nach meinem Wissensstand

1 „Gefällt mir“
16

Meta hatte angekündigt, ab dem 27. Mai in seinen Diensten Facebook und Instagram öffentliche Beiträge erwachsener Nutzerinnen und Nutzer für KI-Trainingszwecke zu verwenden. «Wir tun dies auf Grund eines berechtigten Interesses, um KI bei Meta zu entwickeln und weiter zu verbessern», hatte der Konzern seinen Nutzern mitgeteilt. Die Daten können verwendet werden, wenn die Kunden nicht aktiv widersprechen.

Das Oberlandesgericht Köln hat in einem Eilverfahren entschieden, dass der Facebook-Konzern Meta Nutzerbeiträge aus Facebook und Instagram für das Training seiner KI-Software Meta AI verwenden darf. Meta will am kommenden Dienstag damit beginnen.

Geklagt hatte die Verbraucherzentrale Nordrhein-Westfalen. Sie hatte ihren Antrag auf Erlass einer einstweiligen Anordnung unter anderem mit einem Verstoß gegen europäisches Datenschutzrecht begründet.

https://www.upday.com/de/gericht-erlaubt-meta-nutzung-von-daten-fuer-ki-training?utm_source=upday&utm_medium=referral

Der Widerspruch ist nur noch bis Montag, den 26.05.2025 möglich.

Ich habe übrigens bereits Widerspruch eingelegt.

Allerdings ist diese Möglichkeit für manche Nutzer*innen ziemlich versteckt und das Ganze ist nicht gerade nutzerfreundlich.
Deshalb befürchte ich, dass viele Nutzer*innen diese Möglichkeit nicht annehmen werden.

Facebook:

  1. Die eigene Profilseite öffnen. Am PC auf das Profilfoto oben rechts klicken, in der App auf die drei Striche.
  2. „Einstellungen und Privatsphäre“ auswählen und dann „Einstellungen“.
  3. Im unteren Bereich auf „Datenschutzrichtlinie“ tippen.
  4. Über die Lupe (App) oder die Tastenkombination Strg+F (Browser) „Wider“ eintippen und auf „Widerspruchsrecht“ tippen.
  5. Auf den Link „zu widersprechen“ tippen.
  6. Die Frage „Bezieht sich deine Anfrage auf KI bei Meta?“ mit „ja“ beantworten.
  7. E-Mail-Adresse angeben und auf „senden“ tippen - eine Begründung ist nicht notwendig.

Instagram:

  1. Die Seite des eigenen Profils ansteuern und dort die Einstellungen öffnen.
  2. Im unteren Bereich auf „Info“ tippen.
  3. Anschließend auf „Datenschutzrichtlinie“ gehen.
  4. Über die Lupe (App) oder die Tastenkombination Strg+F (Browser) „Wider“ eintippen und auf „Widerspruchsrecht“ tippen.
  5. Auf den Link „zu widersprechen“ tippen.
  6. Die Frage „Bezieht sich deine Anfrage auf KI bei Meta?“ mit „ja“ beantworten.
  7. E-Mail-Adresse angeben und auf „senden“ tippen - eine Begründung ist nicht notwendig.

Sowohl bei Facebook als auch bei Instagram sollte anschließend eine Nachricht erscheinen, dass Ihr Einspruch anerkannt wird. Darüber hinaus sendet Meta eine Mail mit Einzelheiten.

E-Mail erhalten:

Hallo,

Wir werden deinen Widerspruch berücksichtigen, und zwar in Bezug auf deine öffentlichen Informationen, wie öffentliche Beiträge und Kommentare, und in Bezug auf deine Interaktionen mit Features von KI bei Meta. Das bedeutet, dass wir deine öffentlichen Informationen aus Meta-Produkten bzw. deine Interaktionen mit Features von KI bei Meta nicht für die zukünftige Entwicklung und Verbesserung generativer KI-Modelle für KI bei Meta verwenden werden.

Darüber hinaus werden wir deinen Widerspruch auch für alle weiteren Konten berücksichtigen, die sich in derselben Kontenübersicht befinden wie dieses Konto. Wenn du weitere Konten hast, die sich nicht in derselben Kontenübersicht befinden wie dieses Konto, musst du für jedes dieser Konten einen neuen Antrag einreichen.

Im Privacy Center findest du weitere Informationen über generative KI und unsere Datenschutzbemühungen in diesem neuen Gebiet.

facebook.com/privacy/genai

Über dieses Postfach können keine Nachrichten empfangen werden. Auch Antworten auf diese Nachricht werden nicht an uns zugestellt.

Viele Grüße
Das Meta Privacy-Team

1 „Gefällt mir“
17

ob das, Großkonzerne davon abhalten würde, Daten zu verwenden, wäre anzuzweifeln

18

Wäre das nicht eigentlich was Gutes für dich?

Die KI würde dann argumentieren wie du.

19

Ach ja, und wo und ohne meine Kenntnis?

Ich bin immer noch ich!

20

Stimmt, ohne deine Kenntnis wäre es blöd.