Metaverse: Facebook und Instagram liefern Daten für KI-Training

13.06.2024

Metaverse: Facebook und Instagram liefern Daten für KI-Training

Von Kristin Benedikt

Mark Zuckerberg ist davon überzeugt, dass KI derart bedeutsam ist und eine so große Chance bietet, dass sie jedermann zur Verfügung stehen sollte. Meta plant daher nicht nur erhebliche Investitionen in seine KI-Infrastruktur, sondern trainiert KI- Modelle, die künftig – wie bereits die Sprachmodelle Llama 2 und 3 – frei verfügbar sein sollen. Für das Training eigener generativer KI-Modelle nutzt Meta schon jetzt öffentlich zugängliche Informationen. Doch das genügt Metas datenhungriger KI nicht mehr. Meta kündigte an, ab Ende Juni 2024 seine KI-Modelle mit Nutzerdaten von Facebook, Instagram und Threads zu trainieren. Künftig sollen Beiträge, Bildunterschriften und Fotos der Nutzer einfließen. Nicht davon umfasst sind Privatnachrichten.

Datenverarbeitung im Fokus der Behörden

Nutzer werden nicht nach ihrer Einwilligung gefragt, denn Meta ist der Überzeugung,
dass die Datenverarbeitung für Trainingszwecke der KI auf berechtigte Interessen gestützt werden kann. Aus der Perspektive von Meta überrascht diese Einschätzung nicht. Die europäischen Datenschutzaufsichtsbehörden dürfte das jedoch nicht überzeugen. Seit mehreren Jahren ist die Datenverarbeitung auf Facebook und Instagram Gegenstand von behördlichen Verfahren. Die Aufsichtsbehörden sind überwiegend der Auffassung, dass die Datenverarbeitung von Meta für Zwecke der Werbung oder der Produktentwicklung, insbesondere die Verknüpfung von Daten aus unterschiedlichen Quellen und Diensten des Konzerns, nur aufgrund einer Einwilligung zulässig ist. Dies gilt auch dann, wenn Nutzer persönliche Informationen im Internet veröffentlichen.

Haftungsregelungen bei fehlerhaften KI-Entscheidungen

Der EuGH bestätigte die Rechtsauffassung der Behörden in dem Verfahren Meta gegen das Bundeskartellamt (C-252/21) und führte aus, dass die Datenverarbeitung aufgrund berechtigter Interessen auf das absolut notwendige Maß zu beschränken sei und nur zulässig sei, wenn die Interessen oder Grundrechte der Nutzer nicht überwiegen. In einem weiteren Verfahren (C-446/21) wird der EuGH noch darüber entscheiden, ob öffentlich zugängliche Nutzerdaten für andere Zwecke, wie zum Beispiel für Werbung ohne Einwilligung der Nutzer verarbeitet werden dürfen. Das Urteil des EuGH wird auch für die Datenverarbeitung im Metaverse richtungsweisend sein. Für Zuckerberg ist der Einsatz von KI mit dem Metaverse eng verknüpft. Sollte sich die Datenverarbeitung zum Trainieren der KI als rechtswidrig erweisen, dürfte das den Hype um das Metaverse ausbremsen. Egal, ob künstlich geschaffene Welten, Avatare, die ihren Nutzern verblüffend ähnlich sehen oder smarte Gadgets wie Brillen und Handschuhe, die die Emotionen des Nutzers auf den Avatar übertragen – um das Metaverse zu verbessern, ist der Einsatz von KI unerlässlich. Aus diesem Grund dienen die Trainingsdaten nicht nur KI gestützten Features wie etwa Bildbearbeitungsfunktionen auf Instagram, sondern allen KI-Modellen von Meta.

Widerspruch möglich, aber nur mit Begründung

Nutzer, die nicht wollen, dass ihre personenbezogenen Daten für das Training der KI bei Meta verwendet werden, können der Datenverarbeitung widersprechen. Meta stellt hierfür ein Online-Formular zur Verfügung, in dem der Nutzer verpflichtend
angeben muss „wie sich diese Verarbeitung auf [ihn] auswirkt“. Der Tech-Gigant versichert, den Widerspruch der Nutzer nach den geltenden Datenschutzgesetzen zu prüfen und künftig zu berücksichtigen, wenn dem Widerspruch stattgegeben wird. Die DSGVO regelt zwar in Artikel 21, dass die betroffene Person das Recht hat, aus persönlichen Gründen, der Verarbeitung zu widersprechen. Allerdings dürften die wenigsten Nutzer eine Vorstellung davon haben, welche Folgen für ihre Privatsphäre zu befürchten sind, wenn die KI mit Urlaubs- oder Partyfotos trainiert wird und schließlich als Open Source allen zur Verfügung steht. Damit ist die nächste Auseinandersetzung mit den Datenschutzaufsichtsbehörden vorprogrammiert.


Kristin Benedikt ist Richterin am Verwaltungsgericht und Datenschutzbeauftragte. Von 2015 bis 2020 leitete sie den Bereich Internet beim Bayerischen Landesamt für Datenschutzaufsicht. Darüber hinaus ist sie Referentin und Autorin zur DS-GVO und zum ePrivacy-Recht. Zudem ist Kristin Benedikt ausgebildete Wirtschaftsmediatorin und Lehrbeauftragte an der TH Köln sowie der Hochschule für den öffentlichen Dienst in Bayern. Sie ist Mitautorin des im Nomos Verlag in 2023 erschienenen Handbuchs „METAVERSE“.


NomosWebinar

Nach intensiven rechtspolitischen Diskussionen ist der AI Act nun beschlossene Sache. Sein horizontaler und risikobasierter Regulierungsansatz löst vor allem für Anbieter und Betreiber von KI-Systemen umfangreiche Compliance-Pflichten aus. Der AI Act legt zudem die Grundlage für ein neues Aufsichtsregime und harmonisierte Standards. Dadurch entsteht ein komplexes Regelsystem, das sich in nahezu allen Wirtschaftssektoren und Gesellschaftsbereichen auswirkt.