Dieses 15-jährige Deepfake-Opfer will den US-Kongress zum Handeln zwingen
Francesca Mani setzt sich für bessere KI-Regulierung ein, nachdem sie selbst Opfer eines Deepfake-Pornos wurde.
Deep Fake (Illustration).
(Bild: MDV Edwards)
- Tate Ryan-Mosley
Eine junge Frau und ihre Mutter spielen derzeit eine wichtige Rolle in der amerikanischen KI-Politik: Vom Opfer wurde sie zur Aktivistin – die womöglich wichtige Veränderungen durchsetzen kann. Im Oktober war Francesca Mani eines von wohl mehr als 30 Mädchen an der Westfield High School in New Jersey, die Opfer von Deepfake-Pornos wurden. Jungen an der Schule hatten Fotos von Francesca und ihren Mitschülerinnen gemacht und sie dann mit KI-Software manipuliert, um ohne ihre Zustimmung sexuell eindeutige Bilder von ihnen zu erstellen. (Die Schule selbst nimmt gegenüber der Presse hierzu nicht Stellung, behauptet aber, dass "weit weniger" als 30 Schüler betroffen waren.)
Diese Praxis ist tatsächlich leider erstaunlich alltäglich, aber man hört nur selten von solchen Geschichten – einer der Gründe ist, dass viele Opfer von sexueller Belästigung verständlicherweise nicht öffentlich über Taten sprechen wollen, die derart in die Privatsphäre eingreifen. Doch schon einen Tag, nachdem sie von dem KI-Übergriff erfahren hatte, den sie als "schockierend" bezeichnet, begann die 15-jährige Francesca, sich öffentlich zu äußern und die US-Regierung aufzufordern, etwas gegen das Problem zu unternehmen. Ihre Bemühungen beginnen sich inzwischen bereits auszuzahlen, denn es gibt neue Impulse für Gesetzesvorschläge auf Landes- und Bundesebene. Dazu gehört ein Gesetzentwurf, der von den Senatoren des Bundesstaates New Jersey, Jon Bramnick und Kristin Corrado, mitgetragen wird und der zivil- und strafrechtliche Sanktionen für die unbefugte Herstellung und Weitergabe von Deepfake-Pornografie vorsieht.
Francesca und ihre Mutter Dorota sagen, dass sie mit ihrem Aktivismus vor allem Frauen und Mädchen unterstützen wollen, die nicht in der Lage sind, selbst etwas zu verändern. MIT Technology Review konnte mit den Manis sprechen, um besser zu verstehen, wie es zu dem Vorfall kam und was dagegen getan werden kann.
Können Sie uns erzählen, was genau passiert ist und wie es herausgefunden wurde?
Francesca: Jedes einzelne Mädchen machte sich am 20. Oktober Sorgen. Gerüchte machten die Runde und alle Mädchen dachten, sie würden eines der KI-Opfer sein. Und am Ende des Tages wurde von der Verwaltung bestätigt, dass ich eines von vielen war, von denen Deepfakes erstellt wurden. Natürlich war ich schockiert, weil die anderen Mädchen und ich von unseren Mitschülern derart missachtet wurden. Wir hätten nicht gedacht, dass unsere eigenen Mitschüler uns das antun würden.
Es ist mutig, sich nun zu Wort zu melden und mit all diesen Menschen über diese Erfahrungen zu sprechen. Was hat Sie dazu bewogen, aktiv zu werden?
Francesca: Bis ich eines der Opfer war, wusste ich nicht wirklich, wie komplex und beängstigend diese KI-Technik sein kann. Dadurch habe ich verstanden, wie wichtig es ist, sich selbst darüber zu informieren, denn die KI ist gekommen, um zu bleiben – und wir müssen lernen, mit ihr zu leben, ohne uns selbst und andere zu verletzen. Angesichts dessen habe ich eine Website mit dem Namen AI Heeelp eingerichtet, die zur Aufklärung und zum Schutz vor solchen Systemen beitragen soll. Darüber werden wir Ressourcen bereitstellen, die KI-Opfern helfen, sich selbst zu verteidigen. Ich möchte auch dafür sorgen, dass wir auf Landes- und Bundesebene Gesetze haben, die uns – Kinder und Frauen – vor Deepfakes schützen.
Was sind Ihrer Meinung nach einige der wichtigsten Punkte, die andere Mädchen und Frauen über die Risiken von künstlicher Intelligenz wissen sollten?
Francesca: Es ist wichtig zu wissen, dass es jeden treffen kann – und jeder kann es tun. Es könnten zum Beispiel deine Klassenkameraden sein. Das ist mir ja passiert. Die Leute sollten sich darüber im Klaren sein, dass es auch ihnen passieren kann, wenn sie anfangen, etwas auf Instagram oder in anderen sozialen Medien zu posten. Schützen Sie Ihr Bild, machen Sie Ihr Konto privat und haben Sie nur bestimmte Follower, beispielsweise Leute, die Sie kennen – anstatt ein öffentliches Konto.
Können Sie mir von den Gesprächen berichten, die Sie mit Politikern über dieses Thema geführt haben?
Francesca: Ich habe mit Senator Bramnick gesprochen – er kommt aus Westfield –, damit er mich dabei zu unterstützt, neue KI-Gesetze auf den Tisch zu bringen. Er hat mir versprochen, dass er alles in seiner Macht Stehende tun wird, um unser Land vor Deepfakes zu schützen. Er hat auch sofort den Gesetzentwurf von Senator Corrado mitunterstützt. Und wenn alles gut läuft, werden wir in New Jersey bis Januar 2024 mit einem Gesetzentwurf gegen solche Dinge vorgehen können. Und es macht mich glücklich, zu wissen, dass mein eigener Senator sich genügend dafür interessiert, um für diese wichtige Sache zu kämpfen. Der Kongressabgeordnete [Joe] Morelle [aus New York] hat uns auch nach Washington eingeladen, um sich mit anderen Kongressabgeordneten beider Parteien zu treffen.
Dorota: Wir hoffen, dass wir nach unserem Besuch in Washington noch mehr Unterstützung bekommen und sicherstellen können, dass es endlich losgeht. Dann können wir es immer noch besser machen.
Was haben Sie bei Ihrem Aktivismus über Politik oder die Arbeitsweise der amerikanischen Regierung gelernt?
Francesca: Ich war sehr froh zu wissen, dass mir die Politik als 14-Jährige – ich bin gerade 15 geworden – zugehört hat und mit helfen will. Sie waren bereit, mich und andere Mädchen zu schützen. Was ich daraus gelernt habe, ist, meine Meinung zu sagen und keine Angst zu haben.
Es ist bekannt, dass Sie Anzeige bei der Polizei erstattet haben. Welche rechtlichen Schritte erhoffen Sie sich?
Francesca: Ich würde mir wirklich wünschen, dass derjenige, der das getan hat, suspendiert oder von der Schule verwiesen wird, denn ich denke, es ist wichtig, dass sich jeder wohl fühlt, wenn es jemand von deiner Schule ist. Und ich hätte auch gerne eine Entschuldigung. Ich würde dieser Person verzeihen, aber ich würde es nie vergessen.
Dorota, Sie haben erwähnt, dass Sie mit der Reaktion der Schule nicht zufrieden waren. Gibt es irgendetwas, was die Schulen Ihrer Meinung nach anders machen sollten, um auf solche Situationen zu reagieren oder sie von vornherein zu verhindern?
Dorota: Ich denke, dass Bildung in dieser Angelegenheit sehr wichtig ist – unsere Kinder zu erziehen, uns selbst zu erziehen und dann Verantwortung zu übernehmen. Ich denke, wir sollten diese Gelegenheit nutzen, um unseren Mädchen beizubringen, dass sie einen Wert haben. Auch wenn sie zu Opfern geworden sind, heißt das nicht, dass sie sich schämen müssen und dass sie die Dinge so akzeptieren sollten, wie sie sind – und hoffen, dass sie einfach vorübergehen. Wir haben hier einen wunderbaren Schulbezirk. Unsere Lehrer sind fantastisch. Francesca wäre ohne die Unterstützung ihrer Lehrer nicht in der Lage gewesen, diese ganze Situation durchzustehen. Ich kann nicht genug Gutes über sie sagen.
Aber die Verwaltung hofft auch einfach, dass sich die Lage beruhigt. Ich habe keinen offiziellen Bericht dazu. Es gibt keine Konsequenzen, keine Rechenschaft, keine Entschuldigung. Ich bin selbst Pädagogin. Ich habe eine Privatschule in Jersey City. Und ich denke, als Mutter und als Frau setze ich mich für andere ein. Ich unterstütze meine Tochter, aber als Pädagogin will ich auch einen sicheren Ort für unsere Kinder zu schaffen, denn so etwas kann jedem passieren. Es muss nicht unbedingt eine weibliche Person sein, die zum Opfer wird – und ich denke, wir sollten eine klare Botschaft aussenden, dass dies nicht akzeptabel ist.
[In einer Erklärung an MIT Technology Review teilte der Superintendent der Schule, Raymond González mit: "Der Westfield Public School District hat Sicherheitsvorkehrungen getroffen, um zu verhindern, dass dies in unserem Netzwerk und auf den von der Schule ausgegebenen Geräten passieren kann. Wir werden unsere Bemühungen weiter verstärken, indem wir unsere Schüler über diese Dinge aufklären und klare Richtlinien aufstellen, um sicherzustellen, dass diese neuen technischen Verfahren in unseren Schulen und darüber hinaus verantwortungsvoll genutzt werden." Die Schule sagte auch, dass sie eine sofortige Untersuchung durchgeführt habe und mit der Polizei zusammenarbeitet.]
Sind Sie der Meinung, dass mehr Bildung eine Rolle spielen sollte, die den Kindern beibringt, was angemessen und was unangemessen ist, und wie sie sich vor solchen Gefahren schützen können?
Dorota: Sicher, auf jeden Fall. Ich denke, in vielen Fällen wird [digitale Bildung] beispielsweise von einem Sportlehrer übernommen, der die Gefahren von KI vermittelt. Seien wir ehrlich zueinander: Das ist eine so komplexe und hochentwickelte Technologie, die sich ständig verändert. Wir sollten dafür sorgen, dass ein Spezialist diese Klasse unterrichtet, und zwar nicht nur zu Beginn des Schuljahres. Er sollte mindestens zwei- oder dreimal stattfinden, und er sollte auf sinnvolle Weise unterrichtet werden. So etwas hat echte Auswirkungen auf das Leben der Menschen.
Francesca hat so eine starke Persönlichkeit. Sie war schon immer eine Kämpfernatur. Und ich applaudiere ihr dafür, dass sie für sich selbst spricht. Am Anfang, als sie mir sagte: "Mama, ich will kämpfen", sagte ich: "Francesca, ich möchte, dass du weißt, dass das so oder so ausgehen kann. Du wirst Leute hören, die glücklich über Deine Arbeit sind, und du wirst Leute hören, die wirklich gegen dich sind, und darauf musst du vorbereitet sein." Ihre Antwort war: "Ich bin kein Kind. Ich kann die Meinungen der Leute ertragen und ich möchte meine Meinung sagen." Aber nicht jeder hat den gleichen Charakter wie Francesca. Nicht jeder wird zu Hause die gleiche Unterstützung haben wie sie. Und es wird Mädchen und Jungen geben, die das Licht am Ende des Tunnels einfach nicht sehen und sich dann selbst verletzten oder gar umbringen. Und ich glaube nicht, dass wir darauf warten sollten. Eine sinnvolle Bildung ist das Wichtigste.
Francesca: Ich möchte auch alle Schulbezirke auffordern, ihre Richtlinien zum Thema Cyber-Bullying zu aktualisieren, um eine Definition von KI hinzuzufügen und Konsequenzen für den Fall festzulegen, dass Deepfakes von einem Schüler erstellt werden. Die Verabschiedung von Gesetzen kann einige Zeit in Anspruch nehmen, aber die Schulrichtlinien können und sollten sofort aktualisiert werden.
Ich habe den Eindruck, dass Sie wirklich viel Schwung in die Sache gebracht haben. Haben Sie irgendwelche negativen Reaktionen erhalten?
Francesca: Nein, eigentlich nicht. Es ist cool zu wissen, dass ich eine tolle Community und Unterstützung von meinen Freunden und Lehrern habe. Ich möchte ihnen einfach danken. Ich bin auch stolz darauf, eine Amerikanerin zu sein. Ich lebe in einem Land, in dem die Stimme eines heute 15-jährigen Mädchens eine positive Veränderung bewirken kann.
(jle)