Datenschutz und Ethik

Künstliche Intelligenz und Datenschutz

Bei der Entwicklung digitaler Anwendungen sind die datenschutzrechtlichen Aspekte von Beginn an zu bedenken. Einerseits, da Art. 25 DSGVO Datenschutz durch Technikgestaltung anordnet. Andererseits aufgrund von ökonomischen Gründen, da eine spätere Anpassung von fertigen Anwendungen an datenschutzrechtliche Vorgaben regelmäßig einen erheblichen, ressourcenbindenden Aufwand bedeutet. So erarbeitet das Fachgebiet Öffentliches Recht, IT-Recht und Umweltrecht (Prof. Dr. Gerrit Hornung, LL.M.) der Universität Kassel im Rahmen des rechtswissenschaftlichen Teilvorhabens Vorschläge für eine datenschutzkonforme Gestaltung der verwendeten Systeme, die von Beginn an in die Systementwicklung einfließen. Neben allgemeingeltenden Anforderungen aus der DSGVO werden insbesondere die Vorgaben des hessischen Hochschulrechts sowie Vorgaben der Universität Kassel (E-Learning Satzung der Universität Kassel) bezüglich der Verarbeitung von Studierendendaten berücksichtigt. Dies mündet in technischen und organisatorischen Maßnahmen, die von den Projektpartnern der jeweiligen Teilprojekte berücksichtigt werden.

Mit der Erstellung datenschutzrechtlicher Anforderungen geht ebenso eine praktische, datenschutzrechtliche Begleitung einher. Es werden Verarbeitungsverzeichnisse sowie Datenschutzerklärungen erarbeitet sowie datenschutzrechtliche Genehmigungsverfahren der Universitäten zum Einsatz der KI-Anwendungen betreut.

Ebenso wird herausgearbeitet, welche Anforderungen sich aus der DSGVO in Bezug auf den Einsatz von Anwendungen unter der Verwendung von Künstlicher Intelligenz ergeben. Um auch hier die Gesetzeskonformität von Beginn an sicherzustellen, wird bereits das Training von Machine-Learning-Algorithmen mit personenbezogenen Daten begleitet. Dabei werden insbesondere die Herausforderungen der DSGVO-Grundsätze der Zweckbindung sowie der Datenminimierung adressiert.

Vorgaben der KI-Verordnung

Im Zuge ihrer Digitalstrategie erarbeitet die EU-Kommission diverse Rechtsakte um die technischen Innovationen zu regulieren. Das Teilprojekt Datenschutz und Ethik beschäftigt sich dabei insbesondere mit der KI-VO, die sich noch im Entwurfsstadium befindet, für das Projekt Komp-HI allerdings relevant werden dürfte. Herausgearbeitet wird, welche Anforderungen die KI-VO an die jeweiligen KI-Anwendungen der Teilprojekte stellen wird. Dabei steht die Umsetzung der Transparenzpflicht aus Art. 52 DSGVO an, die für KI-Anwendungen gilt, die mit Menschen interagieren werden.

Unterstützung des LegalWriters

Aufgrund fachlicher Nähe sowie größter Überzeugung von dem Teilprojekt „Juristische Argumentation im Gutachtenstil“ bietet sich im Projektrahmen ebenso eine Unterstützung bei der Pilotierung des LegalWriters an. So wird der Einsatz der Anwendung in der Rechtswissenschaftliche Fakultät der Universität Hamburg seit dem Wintersemester 2022/23 durch das Erstellen von Übungsfällen sowie durch Auswertung der Argumentation von Studierenden im Gutachtenstil unterstützt.   

Veröffentlichungen

Rossek, C., Link, H.: EU-Kommission: Entwurf einer überarbeiteten Produkthaftungs-RL – Relevanz hinsichtlich der Haftung für KI, ZD Aktuell 2023, 01105.

Link, H.: EU-Kommission: Entwurf einer Richtlinie zur KI-Haftung, ZD-Aktuell 2022, 01372.

Link, H.: Komp HI: Lernsysteme unter Anwendung Künstlicher Intelligenz für die Hochschulbildung, ZD-Aktuell 2022, 01114