KI und Recht – was muss ich tun? Der Versuch einer Einordnung
- Details
- Erstellt: Freitag, 26. Juli 2024 09:07
Künstliche Intelligenz (KI) oder Artificial Intelligence (AI) ist aktuell in aller Munde. Innovative Technologie, die sich in rasender Geschwindigkeit entwickelt. Erfunden hat den Begriff „Künstliche Intelligenz“ im Jahr 1956 vom amerikanischen Informatiker John McCarthy. Er beschrieb KI als ein Teilgebiet der Informatik, welches sich mit der Erforschung von Mechanismen des intelligenten menschlichen Verhaltens befasst. McCarthy hatte seinerzeit als Anwendungsmöglichkeit etwa die Simulation von Spielsituationen mit Hilfe von Computerprogrammen auf einer Rechenmaschine im Auge. Aktuell verbinden wir mit KI-Technologie eher das Internet der Dinge, autonomes Fahren, maschinelles Lernen und/oder die Erstellung von Inhalten (Texten, Bildern, Konzepten). KI-Systeme versuchen die kognitiven Fähigkeiten des Menschen durch Algorithmen - mathematische Handlungsanweisungen (Steuerungsbefehle), die dafür sorgen, dass ein Daten-Input in einen Daten-Output transformiert wird - nachzubilden. KI-Inhalte sind schnell erstellt – sollten aber nicht unbedacht verwendet werden.
Das wirft aus rechtlicher Sicht eine Vielzahl an Fragen in den verschiedensten Rechtsgebieten auf, die beantwortet werden wollen.
Mit der europäischen „Verordnung zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz“ (KI-Verordnung /EU AI Act) vom 13. Juni 2024, die am 12. Juli im Amtsblatt der EU veröffentlicht wurde und am 1. August 2024 in Kraft tritt, hat die EU-Kommission bereits für eine Vielzahl an Bereichen, die aus rechtlicher Sicht beurteilt werden sollten, eine Regulierung eingeführt, die in Deutschland unmittelbar anwendbar ist. Ziel ist es, die Entwicklung und Nutzung von KI in der Europäischen Union weiter zu fördern und gleichzeitig einen sicheren und vertrauensvollen Einsatz von KI zu gewährleisten. Das Mittel: die Festlegung von „Best Practices“ sowie das Verbot einer Nutzung von KI-Systemen mit unannehmbaren Risiken, etwa biometrische Erkennung durch KI oder das sog. „Social Scoring“. Dazu eine abgestufte Regulierung mittels definierter Risikoklassen und unterschiedlichen Anforderungen an die jeweiligen Systeme, sodass Hochrisiko-KI-Systeme umfassenderen und strengen Anforderungen unterliegen als weniger risikoreiche, für die dann lediglich spezifische Transparenzverpflichtungen gelten.
Der Einsatz von KI
Wer also KI-Technologie in seinem Unternehmen einsetzt, kommt nicht umhin, sich nun ganz aktiv mit den Inhalten und praktischen Folgen dieses komplexen Regelungswerks auseinanderzusetzen. Die EU-Verordnung aber ist mit 113 Artikeln und 180 Erwägungsgründen keine leichte Lektüre.
Fragen wie
- Fallen wir in den Anwendungsbereich der Vorschriften?
- Welche KI-Anwendung, die wir nutzen, fällt in welche Risikoklasse?
- Ist die Nutzung einer speziellen KI-Anwendung ggf. sogar verboten?
- Welche Verpflichtungen muss ich erfüllen?
müssen beantwortet werden.
Dabei kann man etwa auf die Veröffentlichung „Künstliche Intelligenz – Fragen und Antworten*“ „der Europäischen Kommission zurückgreifen, leicht aber finden sich die Antworten gleichwohl nicht.
Der Ritt durch die Rechtsgebiete
Versuchen wir aber eine Einordnung der Fragen in Rechtsgebiete, um den Überblick zu erleichtern.
Im Zusammenhang mit dem Einsatz von KI-Anwendungen werden Rechtsfragen in den verschiedensten Rechtsgebieten aufgeworfen, etwa im Urheber- und Arbeitsrecht sowie insbesondere im Datenschutz, die beantwortet werden wollen. Einen Überblick kann man sich etwa anhand des Ergebnispapier „Künstliche Intelligenz und Recht im Kontext von Industrie 4.0" des Bundesministeriums für Wirtschaft und Energie (BMWi) verschaffen. Damit allein aber ist es nicht getan.
Urheberrecht
Wird KI genutzt, um etwa Texte, Präsentationen, Bilder und Videos zu erstellen, muss darauf geachtet werden, die Vorgaben der EU-Verordnung zu beachten und gleichzeitig – etwa beim „Füttern“ (Training) der KI nicht das Urheberrecht zu verletzen. Und dann: was sagt das Urheberrecht zu den Ergebnissen der KI? Hier bestehen erheblich Haftungsrisiken, die wohl im Blick behalten werden wollen.
Datenschutz
Im Bereich des Datenschutzes gilt, dass Unternehmen auch beim Einsatz von KI-Technologien wie ChatGPT sicherstellen müssen, dass die damit verbundene Datenverarbeitung rechtskonform ist. Die Einhaltung der Datenschutzgesetze wie der EU-Datenschutzgrundverordnung (DSGVO) oder des Gesetzes über den Datenschutz und den Schutz der Privatsphäre in der Telekommunikation und bei digitalen Diensten (TDDDG) ist Pflicht, um nicht Abmahnungen oder behördliche Bußgeldverfahren zu riskieren.
Wie man dem als Unternehmen angemessen und vollständig nachkommen kann und damit KI-Systeme rechtskonform schaffen oder einsetzen kann, hat nun die Datenschutzkonferenz (DSK) in ihrer gemeinsamen Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ dargelegt.
Arbeitsrecht
Auch aus arbeitsrechtlicher Sicht muss der Einsatz von KI-Technologie genau betrachtet werden. KI kann dazu führen, dass Mitarbeiter algorithmischen Entscheidungen unterworfen werden. Daraus resultiert ggf. eine unzulässige Diskriminierung des Arbeitnehmers, was einen Verstoß gegen das Allgemeine Gleichbehandlungsgesetz (AGG) darstellt. Andererseits aber lassen sich durch den Einsatz von KI faktenbasierte Entscheidungen treffen, die menschliche Vor- und Fehlurteile ausschließen. KI-Systeme können Mitarbeiter in die Abhängigkeit von algorithmischen Entscheidungen führen und überwachen, gleichzeitig aber auch als Werkzeug zur Verbesserung der Arbeitsergebnisse, der Entlastung des Mitarbeiters sowie zu einer Arbeitszeitreduktion dienen.
Eine recht spannende rechtliche Auseinandersetzung mit diesen Fragen liefert etwa der Beitrag von Bernd Waas „Künstliche Intelligenz und Arbeitsrecht“ in der HSi-Schriftenreihe.
KI und IT-Sicherheit
In Bezug auf Fragen aus dem Bereich IT-Sicherheit müssen sich Anwender aktuell vor allem fragen, wie es um die Sicherheit der Systeme gegen Angriffe von außen bestellt ist, welche Verteidigungsmöglichkeiten es gegen Angriffe gibt und welche Angriffsmöglichkeiten aus den KI-Systemen selbst möglich sind.
Hilfreich sind bei der Beantwortung der vorgenannten Fragestellungen die Studien des Bundesamts für Sicherheit in der Informationstechnik(BSI) zur IT-Sicherheit von KI-Systemen.
Fazit
Letztendlich ist das Unternehmen, dass KI-Modelle schafft, KI-Technologie einsetzt oder KI-Inhalte nutzt, dafür verantwortlich, dass dies rechtskonform geschieht. Wer sich dabei absichern will, sollte qualifizierte Hilfe in Anspruch nehmen und genau prüfen lassen, wie KI erfolgreich und zugleich rechtskonform im Unternehmen zum Einsatz kommen kann.