KI vs. Datenschutz: Herausforderungen bei der Verarbeitung personenbezogener Daten

KI bietet viele Vorteile, bringt aber auch Herausforderungen für den Datenschutz mit sich. KI beruht nämlich häufig auf der Verarbeitung personenbezogener Daten, d. h. auf Informationen über bestimmte oder bestimmbare Personen. Diese Daten können sensible Informationen über die Persönlichkeit, die Vorlieben, die Gesundheit oder das Verhalten der betroffenen Personen enthalten. Daher ist es wichtig, dass diese Daten geschützt und verantwortungsvoll verwendet werden.

Herausforderungen & Risiken

Bei der Nutzung von Künstlicher Intelligenz können sich für den Datenschutz herausfordernde und risikobehaftete Szenarien ergeben, die es zu bewältigen gilt.
Einige davon haben wir für Sie näher betrachtet:

• Mangelnde Transparenz und Nachvollziehbarkeit: KI-Systeme können sehr komplex und undurchsichtig sein, insbesondere wenn sie auf maschinellem Lernen basieren. Dies bedeutet, dass es oft schwierig oder unmöglich ist, nachzuvollziehen, wie KI-Systeme zu ihren Ergebnissen oder Entscheidungen gelangen. Dies kann zu Problemen führen, wenn es um die Rechenschaftspflicht oder die Überprüfbarkeit von KI-Anwendungen geht. Beispielsweise kann es schwierig sein, Fehler oder Verzerrungen in KI-Systemen zu erkennen oder zu korrigieren. Oder es kann unklar sein, wer für die Folgen von KI-Entscheidungen verantwortlich oder haftbar ist.
• Verletzung der Privatsphäre und der informationellen Selbstbestimmung: KI-Systeme können große Mengen personenbezogener Daten sammeln, analysieren und verknüpfen, um Muster oder Profile von Personen zu erstellen. Dies kann dazu führen, dass Personen mehr Informationen über sich preisgeben, als sie beabsichtigen oder wünschen. Beispielsweise kann KI eingesetzt werden, um das Verhalten oder die Emotionen von Personen zu überwachen oder vorherzusagen. Oder KI kann eingesetzt werden, um Personen anhand ihrer biometrischen Merkmale wie Gesicht oder Stimme zu identifizieren oder zu verfolgen. Dies kann die Privatsphäre oder die informationelle Selbstbestimmung von Personen beeinträchtigen oder untergraben.
• Diskriminierung und Ungleichheit: KI-Systeme können auch negative Auswirkungen auf die Rechte und Freiheiten von Personen haben, wenn sie diskriminierend oder unfair sind. Beispielsweise können KI-Systeme Vorurteile oder Stereotype verstärken oder reproduzieren, wenn sie auf verzerrten oder nicht repräsentativen Daten beruhen. Oder KI-Systeme können Menschen benachteiligen oder ausschließen, wenn sie nicht angemessen getestet oder überprüft werden. Dies kann zu Diskriminierung oder Ungleichbehandlung führen, z. B. bei der Einstellung von Personal, der Vergabe von Krediten oder der Erbringung von Dienstleistungen.

Der Schutz von personenbezogenen Daten hat oberste Priorität

Um diesen Herausforderungen und Risiken zu begegnen, bedarf es geeigneter Lösungsansätze und Empfehlungen für die Gewährleistung des Datenschutzes.

Einige der Lösungsansätze und Empfehlungen sind:

• Rechtskonforme Datenverarbeitung: Unternehmen sollten sicherstellen, dass sie bei der Verarbeitung personenbezogener Daten für KI-Zwecke das geltende Datenschutzrecht, insbesondere die Datenschutz-Grundverordnung (DSGVO), einhalten. Dazu gehört beispielsweise, dass sie über eine Rechtsgrundlage für die Datenverarbeitung verfügen, die betroffenen Personen über die Datenverarbeitung informieren und ihre Rechte gewährleisten, geeignete technische und organisatorische Maßnahmen zum Schutz der Daten ergreifen und gegebenenfalls eine Datenschutz-Folgenabschätzung durchführen.
• Verantwortungsvolle Gestaltung von KI: Unternehmen sollten sicherstellen, dass sie KI-Systeme so gestalten, dass sie die ethischen Grundsätze und Werte der Gesellschaft respektieren und fördern. Dazu gehört beispielsweise, dass sie KI-Systeme transparent und nachvollziehbar gestalten, Fehler oder Verzerrungen vermeiden oder minimieren, Diskriminierung oder Ungleichheiten verhindern oder reduzieren und die Autonomie und Würde des Menschen respektieren. Dabei können sie sich an bestehenden Standards oder Leitlinien orientieren, wie zum Beispiel den Leitlinien für vertrauenswürdige KI der EU-Kommission oder dem Algo.Rules-Leitfaden des Fraunhofer-Instituts.
• Sensibilisierung und Befähigung der Mitarbeiter: Unternehmen sollten sicherstellen, dass ihre Mitarbeiter und ggfs. Kunden über den Einsatz von KI informiert und sensibilisiert sind. Dazu gehört beispielsweise, dass sie ihnen erklären, wie KI funktioniert, welche Vorteile und Risiken sie mit sich bringt, welche Rechte und Pflichten sie haben und wie sie sich bei Fragen oder Beschwerden an die zuständigen Stellen wenden können. Dazu können sie verschiedene Kommunikationskanäle oder -formate nutzen, z. B. Websites, Broschüren, Videos oder Workshops.

Fazit und Ausblick

Unsere zentrale Botschaft ist, dass KI eine große Chance für Gesellschaft und Wirtschaft darstellt, aber auch eine große Verantwortung mit sich bringt. Um das Potenzial von KI zu nutzen und gleichzeitig die Rechte und Freiheiten der Menschen zu schützen, bedarf es eines verantwortungsvollen Umgangs mit KI. Dazu gehört, dass Unternehmen die rechtlichen, ethischen und technischen Aspekte des Datenschutzes berücksichtigen und transparent und nachvollziehbar kommunizieren.

Die Zukunft der KI ist noch offen und hängt von vielen Faktoren ab. Wenn Sie sich für das Thema Datenschutz im Zeitalter der Künstlichen Intelligenz interessieren und mehr darüber erfahren möchten, können Sie sich ab sofort für die TÜV Rheinland Datenschutzkonferenz, die am 26. und 27. Oktober stattfinden wird, anmelden.

5. TÜV Rheinland Datenschutzkonferenz

Die Konferenz findet hybrid statt, das heißt, Sie können entweder vor Ort in Hamburg oder online teilnehmen. Die Konferenz bietet Ihnen ein vielfältigen Programm aus Vorträgen, Diskussionen und Networking-Möglichkeiten.

Bei einer Anmeldung in der Zeit vom 20.06.-31.07.2023 erhalten Sie zudem einen Nachlass von 100,00 € auf den regulären Konferenzpreis – zzgl. MwSt.. Geben Sie bei der Buchung den Code #Summerspecial23 an und sichern Sie sich Ihren Platz! Für weitere Informationen und zur Anmeldung besuchen Sie bitte die folgende Website: https://akademie.tuv.com/weiterbildungen/tuev-rheinland-datenschutzkonferenz-hybrid-14433571