Wenn sich Datenschützer vermehrt mit Künstlicher Intelligenz (KI) befassen, hat das einen guten Grund: KI hält Einzug in Beruf und Privatleben. Doch die KI ist oftmals nicht einfach zu erkennen, ebenso wenig die damit verbundenen Datenrisiken.
KI nicht nur in der IT-Abteilung
Eine aktuelle Studie des Dienstleisters Robert Half zeigt: Künstliche Intelligenz wird immer mehr zur Top-Priorität. Fast die Hälfte der deutschen IT-Entscheider (45 %) möchte in den nächsten beiden Jahren in Projekte zu KI investieren und damit die IT-Strategie im Unternehmen unterstützen.
Offensichtlich hat KI eine große Zukunft in der Unternehmens-IT. Doch es wäre weit gefehlt, zu glauben, KI sei nur ein Zukunftsthema. Bestimmte Formen von KI sind bereits jetzt im Einsatz, sowohl in Firmen als auch in Privathaushalten.
Verbraucher sehen KI eher positiv
Eine Studie von Adesso zeigt: Sprachassistenten in Smartphones, Navigationssysteme in Autos oder die Gesichtserkennung von Foto- und Video-Apps – immer mehr Menschen nutzen bereits KI, ohne sich groß darüber den Kopf zu zerbrechen. Für 83 % steht fest, dass KI in Zukunft viele lästige Aufgaben übernehmen und das Leben erleichtern kann. 61 % glauben, dass KI ihnen künftig Vorteile bringen wird. Nur eine Minderheit von 29 % hat bei dem Thema Bedenken.
Für einen intelligenten Supermarkt können sich in der Umfrage 57 % begeistern. Jeden Artikel, den der Verbraucher in seinen Einkaufskorb legt, erkennt ein im Supermarkt installiertes Kamerasystem dank KI-gestützter Bilderkennungssoftware. Der Kunde kann den Laden mit seinen Waren ohne Kassenvorgang verlassen. Die Bezahlung erfolgt automatisch durch Belastung des Kundenkontos mit dem Rechnungsbetrag, den Kassenzettel gibt es digital per App.
Datenschützer nehmen KI in den Fokus
Künstliche Intelligenz wird Teil des Alltags und bringt dabei neue Risiken für den Datenschutz mit sich. Datenschützer haben deshalb die sogenannte Hambacher Erklärung zur Künstlichen Intelligenz veröffentlicht. In der Erklärung nennen die Aufsichtsbehörden für den Datenschutz beispielhaft den Einsatz von KI-Systemen in der Medizin, insbesondere in der Diagnose, in der Sprachassistenz und bei der Bewertung von Bewerbungsunterlagen in der Bewerberauswahl.
Für ihre Entwicklung, also für das maschinelle Lernen, benötigen KI-Systeme große Datenmengen. Dabei verarbeiten sie häufig auch personenbezogene Daten. Dadurch ist das Recht des Einzelnen auf Datenschutz und Privatsphäre berührt, so die Datenschützer. Oftmals wissen die betroffenen Nutzer aber gar nicht, dass eine KI ihre Daten verarbeitet.
Beispiel: KI in einem Online-Shop
Wer zum Beispiel einen Webshop nutzt, kann bereits mit einer KI in Kontakt kommen. Eine intelligente Suche muss in der Lage sein, die Absicht des Nutzers zu erkennen und so passende Produktvorschläge zu ermitteln, auch wenn der Nutzer sie in der Suche nicht klar benennen kann. Die KI kann dabei die Suche des Nutzers untersuchen. Mittels der erweiterten Suchanfrage und anhand ähnlicher Anfragen, die die KI schon untersucht hat, kann der Online-Shop dem Nutzer eine individuelle Liste an Artikeln und zudem weiterführende Informationen anzeigen.
Dazu verarbeitet die KI allerdings Daten des Nutzers, ohne dass der betroffene Nutzer darüber informiert wäre oder zugestimmt hätte. Ein Beispiel von vielen, in denen KI personenbezogene Daten auswertet, schon jetzt und in Zukunft noch wesentlich stärker.
Es sollen weiterhin Menschen über Menschen entscheiden
Die Datenschutzaufsichtsbehörden wollen den Fortgang von KI begleiten und fordern Wissenschaft, Politik und Anwender auf, die Entwicklung von KI im Sinne des Datenschutzes zu steuern. Im Kern geht es darum, dass am Ende Menschen und nicht Maschinen über Menschen entscheiden.
Erkennen Sie den Einsatz einer KI? Machen Sie den Test!
Frage: Wenn ein Online-Shop eine KI verwendet, um Nutzerdaten auszuwerten, informiert der Betreiber entsprechend. Stimmt das?
Nein, leider fehlen oft die Hinweise auf die KI-Nutzung und die Datenschutz-Folgen.
Ja, man findet Hinweise auf eine KI grundsätzlich in der Datenschutzerklärung des Webshops.
Lösung: Die Antwort a. ist richtig. Denn bisher findet man in einer Datenschutzerklärung kaum einen Hinweis darauf, dass eine KI verwendet wird, um Nutzerdaten zu bestimmten Zwecken zu analysieren. Die Nutzer haben auch kaum eine Möglichkeit, die Datenverarbeitung durch die KI abzulehnen.
Frage: Verarbeitet KI personenbezogene Daten, erfolgt dies sicher, transparent und datensparsam. Stimmt das?
Ja, denn KI-Systeme werden genauso entwickelt.
Nein, die Datenschützer fordern dies, aber bisher kann man leider nicht einfach davon ausgehen.
Lösung: Die Antwort b. ist richtig. In der Hambacher Erklärung haben die Aufsichtsbehörden für den Datenschutz unter anderem klargestellt, dass sich aus dem geltenden Datenschutzrecht Anforderungen ableiten lassen, die KI bereits heute einhalten muss. So muss der Einsatz von KI-Systemen nachvollziehbar und erklärbar sein, den Grundsatz der Datenminimierung enthalten, Diskriminierungen vermeiden sowie technische und organisatorische Standards beachten.