![\"\"](\"https:\/\/www.ubiscore.com\/wp-content\/uploads\/2023\/03\/open-ai-s-gpt-4-improved-performance-same-privacy-issues-300x158.png\")
<\/p>\n<\/p>\n
Die Ver\u00f6ffentlichung von OpenAIs GPT-4 am 14. M\u00e4rz wurde mit einem beispiellosen Hype begr\u00fc\u00dft. Das Unternehmen behauptet, das Modell sei genauer, besser bei der Probleml\u00f6sung und leistungsf\u00e4higer als das Vorg\u00e4ngermodell von OpenAI, GPT-3.<\/span> <\/span><\/p>\n Aber hat OpenAI mit GPT-4 die mit GPT-3 verbundenen Risiken f\u00fcr die Privatsph\u00e4re und den Datenschutz gel\u00f6st?<\/span><\/b> K\u00f6nnen gro\u00dfe Sprachmodelle (LLMs) mit strengen Datenschutzgesetzen wie der EU-Datenschutzgrundverordnung (GDPR) koexistieren?<\/span> <\/span><\/p>\n Dieser Artikel befasst sich mit den Risiken f\u00fcr den Schutz der Privatsph\u00e4re und des Datenschutzes, die durch LLMs entstehen, und bezieht sich dabei speziell auf das GPT-4 und die Politik von OpenAI.<\/span> <\/span><\/p>\n Risiken f\u00fcr die Privatsph\u00e4re f\u00fchren nicht immer zu materiellem Schaden oder Leid f\u00fcr den Einzelnen. Das Eindringen in die Privatsph\u00e4re kann zu weiterreichenden gesellschaftlichen Sch\u00e4den f\u00fchren. <\/span>KI-Systeme wie GPT-4 bergen jedoch einige individuelle Risiken f\u00fcr die Privatsph\u00e4re.<\/span><\/b> <\/span><\/p>\n Sehen wir uns zwei „Angriffe auf die Privatsph\u00e4re“ an, die bei KI-Systemen auftreten k\u00f6nnen.<\/span> <\/span><\/p>\n Ein Risiko f\u00fcr die Privatsph\u00e4re besteht darin, dass ein b\u00f6swilliger Akteur ein KI-System dazu veranlassen k\u00f6nnte, Ergebnisse zu erzeugen, die pers\u00f6nliche Daten aus dem Trainingssatz offenlegen. <\/span>Dies wird manchmal als „Angriff auf die Mitgliedschaft“ bezeichnet.<\/span><\/b> <\/span><\/p>\n F\u00fcr \u00f6ffentliche LLMs wie ChatGPT d\u00fcrften die Folgen eines solchen Angriffs gering sein. Das Modell wird mit \u00f6ffentlich zug\u00e4nglichen Daten trainiert, so dass das Wissen, dass die Daten einer Person im Trainingssatz enthalten sind, nicht viel \u00fcber diese Person aussagt.<\/span> <\/span><\/p>\n In anderen Zusammenh\u00e4ngen ist die Gefahr jedoch gr\u00f6\u00dfer, etwa wenn GPT-4 in ein privates KI-System integriert wird, das f\u00fcr besonders sensible Zwecke eingesetzt wird. <\/span> <\/span><\/p>\n Wenn beispielsweise ein KI-System in einem klinischen Umfeld eingesetzt wird, besteht ein Risiko, wenn offengelegt wird, wessen Daten in das Training des Systems eingeflossen sind.<\/span> <\/span><\/p>\n GPT-4 kann verwendet werden, um die Informationen, die ein Nutzer bereits \u00fcber eine Person hat, zu erweitern. <\/span>Dies wird manchmal als „Modellinversionsangriff“ bezeichnet.<\/span><\/b> <\/span><\/p>\n OpenAIs <\/span> Anders als bei fr\u00fcheren KI-Modellen, <\/span> KI-Systeme bergen nicht nur Risiken f\u00fcr den Schutz der Privatsph\u00e4re, sondern auch f\u00fcr die Einhaltung der Datenschutzbestimmungen.<\/span> <\/span><\/p>\n Die „Grunds\u00e4tze der Datenverarbeitung“ der DSGVO verlangen von Organisationen, personenbezogene Daten auf verantwortungsvolle Weise zu sammeln und zu nutzen. Aber diese Grunds\u00e4tze stehen wohl im Widerspruch zu der massiven Datenerhebung, die f\u00fcr die Ausbildung eines LLM erforderlich ist.<\/span> <\/span><\/p>\n Alle Grunds\u00e4tze der DSGVO sind f\u00fcr KI relevant. Hier sind einige Beispiele daf\u00fcr, wie die Grunds\u00e4tze der Datenschutz-Grundverordnung mit der Entwicklung und Verwendung von LLM wie GPT-4 in Konflikt geraten k\u00f6nnten.<\/span> <\/span><\/p>\n Nach dem Grundsatz „Rechtm\u00e4\u00dfigkeit, Fairness und Transparenz“ m\u00fcssen Organisationen personenbezogene Daten auf eine Weise verwenden, die:<\/span> <\/span><\/p>\n Aufgrund der Art und Weise, wie personenbezogene Daten f\u00fcr die Ausbildung von LLM wie GPT-4 erhoben werden, ist es wohl fast unm\u00f6glich, die Transparenzverpflichtungen der DSGVO zu erf\u00fcllen. <\/span><\/b> <\/span><\/p>\n Es gibt Ausnahmen von den Meldepflichten der Datenschutz-Grundverordnung – aber es ist schwer zu sagen, ob die Aktivit\u00e4ten von OpenAI unter eine dieser Ausnahmen fallen w\u00fcrden.<\/span> <\/span><\/p>\n Organisationen m\u00fcssen eine von sechs Rechtsgrundlagen f\u00fcr die Verarbeitung personenbezogener Daten haben. Dies ist der Fall, wenn eine Person ihre Einwilligung gegeben hat, wenn eine gesetzliche Verpflichtung besteht oder wenn die Verarbeitung im „berechtigten Interesse“ der Organisation erfolgt.<\/span> <\/span><\/p>\n Daher k\u00f6nnen wir nur spekulieren, welche Rechtsgrundlage f\u00fcr die KI-Trainingsaktivit\u00e4ten von OpenAI gelten k\u00f6nnte.<\/span> <\/span><\/p>\n Der Grundsatz der „Zweckbindung“ verpflichtet Organisationen, personenbezogene Daten nur f\u00fcr „festgelegte, eindeutige und rechtm\u00e4\u00dfige Zwecke“ zu erfassen. Der Grundsatz schr\u00e4nkt auch die Verarbeitung personenbezogener Daten durch Organisationen f\u00fcr nicht damit zusammenh\u00e4ngende weitere Zwecke ein.<\/span> <\/span><\/p>\n Die Zweckbindung ist ein Eckpfeiler des Datenschutzes. <\/span> Es gibt Ausnahmen von der allgemeinen Regel der „Zweckbindung“. So k\u00f6nnen Organisationen personenbezogene Daten zu Forschungszwecken oder f\u00fcr andere Zwecke im \u00f6ffentlichen Interesse erheben, auch wenn die Daten urspr\u00fcnglich f\u00fcr einen anderen Zweck bereitgestellt wurden.<\/span> <\/span><\/p>\n Aber auch wenn eine Ausnahme gilt, m\u00fcssen Organisationen alle m\u00f6glichen Datenschutz- und Sicherheitsvorkehrungen treffen.<\/span> <\/span><\/p>\n OpenAI k\u00f6nnte argumentieren, dass eine der Ausnahmen der DSGVO zur „Zweckbindung“ auf die Ausbildung des GPT-4 Anwendung findet. Andere, einschlie\u00dflich der Datenschutzbeh\u00f6rden, k\u00f6nnten anderer Meinung sein.<\/span> <\/span><\/p>\n Nach dem Grundsatz der Datenminimierung d\u00fcrfen Organisationen nicht mehr personenbezogene Daten verwenden, als f\u00fcr einen bestimmten Zweck erforderlich sind.<\/span> <\/span><\/p>\n F\u00fcr die Ausbildung eines LLM werden gro\u00dfe Mengen an Daten ben\u00f6tigt, darunter auch personenbezogene Daten. Wir wissen nicht, wie viele Daten f\u00fcr das Training von GPT-4 gesammelt wurden. Wir wissen jedoch viel mehr \u00fcber den Vorg\u00e4nger von GTP-4, GPT-3. <\/span> <\/span><\/p>\n GPT-3 wurde auf rund 45 Terabyte Daten trainiert, die aus B\u00fcchern, Wikipedia-Artikeln und – vor allem – Daten aus dem offenen Internet bestehen.<\/span><\/b> Wir k\u00f6nnen davon ausgehen, dass f\u00fcr das Training von GPT-4 noch mehr Daten ben\u00f6tigt wurden als f\u00fcr GPT-3.<\/span> <\/span><\/p>\n Es ist schwer zu sagen, inwieweit die Ausbildungsdaten des GPT-4 „pers\u00f6nliche Daten“ sind. Aber nat\u00fcrlich wird ein gro\u00dfer Teil dieser Informationen aus pers\u00f6nlichen Daten bestehen. Es ist m\u00f6glich, dass diese Daten nicht nach dem Grundsatz der Datenminimierung“ erhoben wurden.<\/span> <\/span><\/p>\n Der Grundsatz der „Richtigkeit“ verlangt, dass personenbezogene Daten richtig und aktuell sind. Ungenaue personenbezogene Daten sollten so schnell wie m\u00f6glich berichtigt werden. Die Genauigkeit ist ein wichtiges Thema f\u00fcr Texterstellungsmaschinen wie GPT-4.<\/span> <\/span><\/p>\n LLMs neigen dazu, zu „halluzinieren“ (ungenaue Ergebnisse zu erzeugen). Manche Menschen <\/span>Sch\u00e4tzung<\/span><\/a> dass bis zu 20 % der Ausgaben von GPT-3 Halluzinationen waren. GPT-4 kann diese Zahl verbessern, beseitigt aber nicht die Halluzinationen.<\/span> <\/span><\/p>\n Wenn ein <\/span> Die Ergebnisse des GPT-4 werden wahrscheinlich \u00e4hnlich ungenaue personenbezogene Daten enthalten.<\/span><\/b> Es gibt keine klare M\u00f6glichkeit f\u00fcr Einzelpersonen, auf diese Weise entstandene unrichtige personenbezogene Daten zu berichtigen,<\/span> <\/span><\/p>\n Nach dem Grundsatz der „Speicherbegrenzung“ d\u00fcrfen Organisationen personenbezogene Daten nur so lange aufbewahren, wie sie f\u00fcr einen bestimmten Zweck ben\u00f6tigt werden. <\/span> <\/span><\/p>\n Die begrenzte Speicherkapazit\u00e4t kann bei KI-Systemen ein Problem darstellen, da personenbezogene Daten, die in den Trainingss\u00e4tzen enthalten sind, auf unbestimmte Zeit bestehen bleiben k\u00f6nnen.<\/span><\/b> <\/span><\/p>\nKI-Systeme und „Angriffe auf die Privatsph\u00e4re<\/span> <\/span><\/h2>\n
Identifizierung von Einzelpersonen<\/span> <\/span><\/h3>\n
Model Inversion Attack<\/span> <\/span><\/h3>\n
\n GPT-4 Technischer Bericht<\/span>
\n<\/a> stellt fest, dass „GPT-4 das Potenzial hat, zur Identifizierung von Personen verwendet zu werden, wenn es mit externen Daten erg\u00e4nzt wird“. Das Unternehmen sagt jedoch, dass es mehrere Schritte unternommen hat, um dieses Risiko zu mindern, unter anderem:<\/span> <\/span><\/p>\n\n
\n
\n gibt OpenAI nur sehr wenige Informationen \u00fcber GPT-4 heraus. <\/span>
\n<\/b> Das Unternehmen begr\u00fcndet diese \u00c4nderung der Politik mit dem „Wettbewerb“ und Sicherheitsbedenken. Daher ist es schwer zu sagen, wie wirksam diese Abhilfema\u00dfnahmen sein werden.<\/span> <\/span><\/p>\nGro\u00dfe Sprachmodelle und die GDPR: Eine Verbindung, die in der H\u00f6lle gemacht wurde?<\/span> <\/span><\/h2>\n
Rechtm\u00e4\u00dfigkeit, Fairness und Transparenz<\/span> <\/span><\/h3>\n
\n
Der Grundsatz der Rechtm\u00e4\u00dfigkeit, Fairness und Transparenz bezieht sich auf die in der Datenschutz-Grundverordnung festgelegten Informationspflichten. <\/span> <\/span><\/h3>\n
\n
Der Grundsatz der „Rechtm\u00e4\u00dfigkeit, Fairness und Transparenz“ steht auch im Zusammenhang mit den Bestimmungen der Datenschutz-Grundverordnung zur „Rechtsgrundlage“. <\/span> <\/span><\/h3>\n
\n Die Datenschutzrichtlinie von OpenAI<\/span>
\n<\/a> listet mehrere Rechtsgrundlagen f\u00fcr die Verarbeitung in verschiedenen Kontexten auf. <\/span>
\n Die Rechtsgrundlage von OpenAI f\u00fcr die Verwendung von Terabytes personenbezogener Daten zum Trainieren seiner KI-Modelle wird in der Richtlinie jedoch nicht genannt<\/span>
\n<\/b>.<\/span> <\/span><\/p>\nZweck Einschr\u00e4nkung<\/span> <\/span><\/h3>\n
\n Menschen stellen personenbezogene Daten in einem bestimmten Kontext zur Verf\u00fcgung <\/span>
\n<\/b>(zum Beispiel beim Posten auf Reddit)<\/span>
\n in der begr\u00fcndeten Erwartung, dass diese personenbezogenen Daten nicht f\u00fcr andere Zwecke verwendet werden<\/span>
\n<\/b> (z. B. f\u00fcr das Training eines KI-Systems).<\/span> <\/span><\/p>\nMinimierung von Daten<\/span> <\/span><\/h3>\n
Genauigkeit<\/span> <\/span><\/h3>\n
\n KI-Forscher<\/span>
\n<\/a> im vergangenen Jahr GPT-3 nach ihrer Person befragte, gab das Modell zahlreiche falsche Antworten, unter anderem, dass sie ein Model und eine Eishockeyspielerin sei.<\/span> <\/span><\/p>\nBegrenzung der Speicherung<\/span> <\/span><\/h3>\n