Der Einsatz von KI: Was wir juristisch wissen und was nicht

1. Datenschutz

Die Verwendung von KI-Tools muss im Einklang mit dem seit 1. September 2023 geltenden Datenschutzgesetz (DSG) stehen. Bei der Verarbeitung von Personendaten besteht eine Informationspflicht, bei der Bearbeitung von besonders schützenswerten Personendaten eine Pflicht zur Einholung einer vorherigen Einwilligung. Risiken bestehen insbesondere, wenn Personendaten in KI-Tools eingespeist werden, von der KI später als Trainingsdaten weiterverwendet und ins Ausland (die USA haben kein angemessenes Datenschutzniveau) übertragen werden. Ob und in welchen Fällen eine Datenschutz-Folgenabschätzung (DSFA) zu erstellen ist, ist noch nicht abschliessend geklärt.

2. Haftung

Neben der datenschutzrechtlichen Busse bei Verletzung von DSG-Pflichten ist auch bei der Einschaltung von Hilfsmitteln wie KI-Software eine ordnungsgemässe Leistungserfüllung geschuldet. Bisher ist noch nicht entschieden, ob eine Verpflichtung zur Offenlegung des Einsatzes von KI-Software besteht. Zumindest wenn eine höchstpersönliche Leistung zu erbringen ist, könnte diese menschlich zu erbringen sein. Für das Bundesgericht (BGer 4A_305/2021) ist der Einsatz von Computern mit entsprechender Software (z.B. für automatisiertes Market Making) keine unzulässige Substituierung im Sinne des Art. 398 Abs. 3 OR, da diesem Hilfsmittel keine Rechtspersönlichkeit zukommt.

3. Geistiges Eigentum

Das Urheberrecht ist eines der am meisten diskutierten Themen bei der Anwendung von KI-Tools. Bei Verwendung von Input-Daten ist das Urheberrecht Dritter zu beachten. Der KI-Output hat nach allgemeiner Auffassung keinen Urheberechtsschutz, da es sich um keine menschliche Schöpfung handelt und zudem in vielen Fällen die Schöpfungshöhe fraglich sein dürfte. Etwas anderes kann sich nach meiner Auffassung ergeben, wenn ein Mensch einen kreativen Input (Prompt) vornimmt und damit das KI-Ergebnis überhaupt erst erzielt werden kann. Nach Auffassung des Bundesgerichts geniesst das Foto des Sängers Bob Marley urheberrechtlichen Schutz (BGE 130 III 168 E. 5.2.). Im richtigen Moment auf den Auslöser einer Kamera drücken (Bob Marley) ist ebenso schöpferisch wie eine kreative Eingabe bei einem KI-Tool.

4. Berufsgeheimnis

Nutzen Berufsgeheimnisträger wie Ärzte oder Rechtsanwältinnen KI, sind die einschlägigen Vorschriften zur Berufsverschwiegenheit zu beachten.

5. Arbeitsrecht

Der Einsatz von KI-Systemen in arbeitsrechtlichen Zusammenhängen stellt nicht nur bei der Bewerberauswahl im Hinblick auf diskriminierungsfreie Entscheidungen besondere Herausforderungen, sondern auch im Arbeitsverhältnis wie beispielsweise bei der Leistungsüberwachung.

6. Beachtung öffentlichen Rechts/Beschaffungsrecht

Aus den Vorgaben der Bundesverfassung, dem in Art. 29 Abs. 2 BV verankerten Anspruch auf rechtliches Gehör, kann sich die Notwendigkeit ergeben, dass behördliche Entscheidungen durch Menschen getroffen werden, da nach Art. 29 Abs. 2 BV die Parteien Anspruch auf rechtliches Gehör haben. Dies könnte fraglich sein, wenn eine KI-Maschine anstelle eines Menschen die Entscheidung trifft. Grundsätzlich dürfen Verwaltung und Behörden aber im Rahmen der Bedarfsverwaltung KI-Anwendungen beschaffen, wenn sich die generelle Ermächtigung aus den Sachgesetzen regelt. Für das Verfahren der Beschaffung gilt das öffentliche Beschaffungs- und Vergaberecht.

Ob in der Welt der KI oder im richtigen Leben schlussendlich gilt: Drum prüfe, wer sich (ewig) bindet. Wir Juristen haben noch nicht auf alle Fragen eine finale Antwort, können aber eine rechtliche Einschätzung geben. Innerhalb der Rechtskommission diskutieren wir rechtliche Fragen zu KI, so auch beim «KI-Bier» Ende März.