Nur für Neukunden: Bis zu 50% Rabatt* auf ausgewählte Produkte!

Wenn Selbstständige generative KI nutzen: rechtliche Fragen zu ChatGPT und anderen AI-Tools

Die neue KI-Realität

Ob man von Künstlicher Intelligenz, Artificial Intelligence, Deep Learning, Machine Learning oder Large Language Models spricht: KI beginnt längst, einen festen Platz im Geschäftsalltag zu erobern. Unternehmen und Selbstständige nutzen Content-Generatoren auf KI-Basis, um Inhalte aller Art zu gestalten. Generative KI verfasst Texte, erstellt Grafiken, produziert Videos, entwirft Pläne und Diagramme, schreibt Computer-Code, komponiert Songs, erteilt Auskunft und übersetzt von einer Sprache in die andere. Damit werden diese Werkzeuge automatisch zu einer Option für Freelancer und Selbstständige, die die entsprechenden Dienstleistungen anbieten.

Gleichzeitig stellt sich die Frage, welche rechtlichen Folgen die Nutzung generativer KI für geschäftliche Zwecke hat. Müssen sich Selbstständige auf juristischen Ärger einstellen, wenn sie mit ChatGPT Marketing-Texte erstellen oder mit Adobe Firefly Illustrationen zaubern?

Generative KI: In diesem Beitrag geht es um generative KI. Das sind Algorithmen, die mit Methoden künstlicher Intelligenz neue Inhalte wie Töne, Worte, Bilder, Pläne oder Computer-Code erzeugen. Andere Einsatzszenarien von KI wie etwa zur Gesichts- oder Stimmerkennung, zur Emotionswahrnehmung oder zur Sprachanalyse werfen eigene Probleme auf. Darum geht es hier nicht.

Vieles ist unklar – dass es Rechtsrisiken gibt, steht fest

Viele juristische Fragen rund um den Einsatz generativer KI für geschäftliche Zwecke sind weiterhin offen. Einschlägige Rechtsvorschriften entstehen erst oder sind ganz neu. Das „Gesetz über künstliche Intelligenz“ (AI Act) der EU wurde am 21. Mai 2024 final verabschiedet und wird in großen Teilen erst ab 2026 gelten. Rechtsprechung zur KI-Nutzung und zur Anwendung bestehender Regelungen auf KI-Anwendungen gibt es noch kaum.

Das bedeutet nicht, dass sich gar nichts zum Thema sagen lässt. Dass der Einsatz von KI-Applikationen zu rechtlichem Ärger führen kann, ist unbestritten.

Ganz allgemein: ungeklärte Haftungsfragen

Generative KI produziert regelmäßig Fehler und Unsinn. Vor kurzem sorgte ein schlecht mit KI retuschiertes Foto der britischen Royals für Schlagzeilen. Dann geriet Google ins Kreuzfeuer, weil  von ihm zur Ergänzung der Websuche präsentierte, KI-generierte Antworten reihenweise Absurdes produzierten. Das sind nur zwei Beispiele aus einer langen Reihe unpassender, falscher, lächerlicher oder sogar unzulässiger Ergebnisse generativer KI.

Fest steht: Wer KI-Anwendungen nutzt und das Resultat nicht sehr genau kontrolliert, muss damit rechnen, dem Kunden ein mangelhaftes, vielleicht sogar unzulässiges Produkt zu liefern. Mängel führen automatisch zur Frage nach der Haftung. Angenommen, die vom freiberuflichen Ingenieur mit Hilfe eines KI-Generators erstellte Gebrauchsanweisung für das neue Produkt zur Maschinenpflege enthält einen fatalen Fehler. Die Folge sind Maschinenschäden bei den Kunden des Unternehmens, das den Ingenieur beauftragt hat. Wer haftet, wer bezahlt die Schadenersatzforderungen?

In aller Regel liegt die Haftung in einem solchen Fall beim Dienstleister. Das Gleiche wird für Bugs im von ChatGPT erstellen Software-Code gelten, für mit einem Image Generator erstellte Grafiken, die die Markenrechte eines großen Unternehmens verletzen oder für Website-Texte zum Online-Shop, die von der Software erstellte, juristisch unzulässige Aussagen oder falsche Angaben enthalten.

Die Anbieter der KI sichern sich durch rigide Nutzungsbedingungen, Haftungseinschränkungen und Disclaimer vor Ansprüchen wegen solcher Fehler ab. Damit bleibt die Haftung dort, wo sie ohnehin lag: bei der selbstständigen Dienstleisterin oder dem Dienstleister. Das wird zum Problem, wenn der KI-Einsatz für mit Fehlern durchsetze Texte, Bilder oder Codes sorgt.

Das Problem der Vertraulichkeit

Für selbstständige Dienstleister ist es selbstverständlich, Informationen des Auftraggebers vertraulich zu behandeln. Das kann aufgrund einer ausdrücklichen Vereinbarung oder als vertragliche Nebenpflicht verbindlich sein. In jedem Fall ist es Teil der seriösen Berufsauffassung.

Diese Vertraulichkeit ist bei der Nutzung von KI-Generatoren nicht gewährleistet. Wer die Details zum geplanten neuen Produkt seines Kunden als Prompt in ein KI-Sprachmodell tippt, gibt diese Informationen aus der Hand. Im schlimmsten Fall tauchen die Informationen in verzerrter Form bei anderen Nutzern wieder auf. Inwieweit diese Gefahr besteht, hängt von der Anwendung und dem Nutzungslevel ab. Bewusst sein sollte man sich dieser Gefahr in jedem Fall.

Rechtsgebiete, auf denen KI zu Problemen führen kann

Fallstricke drohen auf verschiedenen Rechtsgebieten. Die nächsten Abschnitte beleuchten einige davon. Ihnen gemeinsam ist, dass Fehler zu Abmahnungen und Schadenersatzklagen führen können.

Urheberrecht

Eine Designerin, die mit konventionellen Mitteln eine Grafik gestaltet, hat darauf einen Urheberrechtsanspruch. Bei einer per Grafik-Generator erstellten Bild gilt das nicht. Viele der Unternehmen, die die Generatoren bereitstellen, behalten sich zudem alle Rechte am damit erstellten Material vor. Das hat in mehrfacher Hinsicht Folgen Zum einen kann die Designerin für den KI-generierten Anteil am Ergebnis dem Kunden wohl keine Nutzungsrechte oder Verbreitungsrechte einräumen. Das ist aber Teil der typischen Auftragsgestaltung bei kreativen Freelancern. Der Kunde wiederum kann keine exklusive Nutzung beanspruchen. Ein Vorgehen gegen Dritte, die die Grafik einfach übernehmen, ist nicht möglich, denn er hat keine exklusiven Rechte erworben.

Das ist auch für die Designerin ein Problem. Wenn das Unternehmen die Grafik nur für eine einmalige Nutzung bestellt hat, etwa im Rahmen einer Produktpräsentation, dann aber über einen langen Zeitraum und auf allen Kanälen einsetzt, ist das kein Urheberrechtsverstoß. Die Designerin kann keine zusätzliche Zahlung fordern.

Dagegen kann ein Urheber der Designerin oder ihrem Kunden Probleme bereiten, wenn dessen geschütztes Foto offensichtlich Grundlage für den KI-Output war. Wer vom Generator erzeugte, sehr ähnliche Kopien geschützter Werke veröffentlicht, begeht wohl einen Urheberrechtsverstoß – und zwar auch dann, wenn ihm das nicht klar war.

Selbst wenn das KI-Modell mit geschütztem Content trainiert wurde, kann das bereits ein Urheberrechtsverstoß sein, durch den auch seine späteren Produkte problematisch werden. Data Mining zum Training von KI ist in Deutschland gemäß Urheberrechtsgesetz (§ 44b UrhG) zwar grundsätzlich erlaubt. Rechteinhaber können es jedoch untersagen. In den USA ist die Frage nicht endgültig geklärt.

Die geschilderten Probleme bestehen nicht nur bei Grafiken, sondern auch bei anderen Inhalten, für die Urheberrechtsschutz möglich ist, wie Texte, Videos oder Software-Code. Das Problem ist keineswegs theoretisch: die New York Times hat bereits OpenAI (die Firma hinter ChatGPT) und Microsoft verklagt, weil sie die Texte der Zeitung für die Training ihrer LLM genutzt haben. Aus dem gleichen Grund gehen auch eine ganze Gruppe prominenter US-Autoren, darunter John Grisham und George R. R. Martin, gegen das Unternehmen vor.

Datenschutzrecht

Wer personenbezogene Daten als Teil eines Prompts in einen KI-Generator füttert, sorgt damit für eine „Verarbeitung“. In die wird der oder die Betreffende kaum eingewilligt haben. Damit liegt ein DSGVO-Verstoß vor. Dazu kommt, dass die Daten in vielen Fällen nicht in der EU oder einem Land mit vergleichbarem Datenschutzniveau verarbeitet und gespeichert werden, sondern zum Beispiel in den USA. Auch das ist ein DSGVO-Verstoß, zumal kein Auftragsverarbeitungsvertrag abgeschlossen wurde.

Praktisch bedeutet das: wenn der Kunde auf einer Unterseite der neuen Website sein Team vorstellt, und die Texterin die Profiltexte zu den Personen mit KI erstellt und dazu die Anwendung mit Namen, Fotos und personenbezogenen Daten füttert, dann steht bereits ein DSGVO-Verstoß im Raum.

Eine weitere Möglichkeit ergibt sich erneut aus der Tatsache, dass KI zu Trainingszwecken mit einer Unmenge an Material gefüttert wird. Das enthält personenbezogene Daten. Sollten diese unverhofft bei einem vom Generator produzierten Werk wieder auftauchen, kann der oder die Betroffene rechtliche Schritte einleiten. Das wäre der Fall, wenn das Large Language Model einen fiktiven typischen Nutzer beschreiben soll und dazu auf reale Personendaten zurückgreift.

Persönlichkeitsrecht

Ein ähnlich gelagertes Problem kann sich in Bezug auf das Persönlichkeitsrecht ergeben. Wenn die KI-Anwendung Gesichter oder Stimmen produziert, die denen echter Personen zum Verwechseln ähneln, droht Ärger. Bei Verletzung des Persönlichkeitsrechts sind Unterlassungs- und Schadenersatzklagen möglich.

Dazu kommen neue Rechtsfragen, die bisher unbeantwortet sind: Welche Seite ist in der Beweispflicht und muss zeigen, dass die KI-generierte Darstellung (nicht) von Fotos oder Audio-Aufnahmen der Person übernommen wurde? Nach welchen Kriterien wird entschieden? Auch zu diesem Problem gibt es bereits einen konkreten Fall: die Diskussion um die Stimme einer OpenAI-Anwendung, die der von Hollywood-Star Scarlett Johansson stark ähnelt.

Eindeutige Verletzungen des Persönlichkeitsrechts stellen Tools dar, die KI-basierte Pornografie ohne Einwilligung der Personen erstellen, die der Algorithmus darstellt. Die Kunden solcher illegaler Angebote müssen dazu nur das Foto von jemandem bereitstellen.

Markenrecht und andere gewerbliche Schutzrechte

Ein weiteres Problem für die Designerin in unserem Beispiel: Tauchen in der per KI generierten Illustration fremde Markennamen oder geschützte Designs auf, ist das ein abmahnfähiger Rechtsverstoß.

Angenommen, sie erstellt Grafiken für den Online-Shop und die Social-Media-Feeds eines Kunden. Der verkauft Accessoires, Kosmetik und Schmuck. Dummerweise bettet der Grafik-Generator in einem der Bilder ein Element ein, das stark an das Logo einer bekannten Luxus-Marke erinnert. Wenn das niemand auffällt, kann dem Kunden der Designerin bald eine Abmahnung ins Haus flattern.

Ein paar Grundregeln für mehr Rechtssicherheit

In vielen Punkten ist die Rechtslage bei der geschäftlichen Nutzung generativer KI noch unklar. Trotzdem lässt sich das Risiko für Selbstständige deutlich senken, wenn einige Regeln beherzigt werden:

  • Die Ergebnisse sehr genau kontrollieren und gegebenenfalls überarbeiten: Die wenigsten Selbstständigen werden ihre Aufträge komplett von generativer KI erledigen lassen. Als Werkzeug für Vorarbeiten oder als virtueller Zuarbeiter kann ein Generator dagegen sinnvoll und nützlich sein. Trotzdem gilt es, die virtuellen Erzeugnisse sehr genau auf Fehler oder mögliche Rechtsverstöße zu kontrollieren und alles, was zweifelhaft erscheint, zu überarbeiten oder zu ändern.
  • Mit offenen Karten spielen: Freiberufler, die die Erstellung eines Texts, Designs, einer Grafik oder Software als Auftrag übernehmen und dafür KI einsetzen, sollten das dem Auftraggeber gegenüber offenlegen. Das kann bei späteren Haftungsstreitigkeiten und Mängelrügen entscheidend werden. Es ist auch wichtig, weil per KI erzeugter, scheinbar authentischer Content in der EU ab 2026 gekennzeichnet werden muss.
  • Die Nutzungsbedingungen des Anbieters lesen: Die Versuchung, Nutzungsbedingungen zu ignorieren, ist groß, schon, weil sie oft in englischer Juristensprache abgefasst sind und die Lektüre harte Kost darstellt. Trotzdem ist es wichtig, sich zu informieren. Sonst entgehen einem die Haftungsausschlüsse und andere Regeln, die sich direkt auf die eigene Situation auswirken. Das kann zum Beispiel die beliebte Klausel sein, wonach das mit dem Generator erzeugte Material vom Anbieter zu Schulungszwecken genutzt werden darf.

Die Kennzeichnungspflicht für generative KI ist beschlossen

Das von der EU verabschiedete „Gesetz über künstliche Intelligenz“ (auch Artificial Intelligence Act, AI Act) gilt nicht nur für Hersteller und Anbieter von AI-Anwendungen, sondern auch für deren geschäftliche oder private Nutzer. Es teilt Künstliche Intelligenz in verschiedene Risikogruppen ein: je höher das mit dem Tool verbundene Risiko, desto strenger die Regeln.

Eine der wichtigsten Vorschriften für die Nutzung generativer KI findet sich in Artikel 52 Abs. 3 AIA: stellen die Ergebnisse scheinbar echte Personen, Orte oder Ereignisse dar, muss klargestellt werden, dass die Inhalte mit KI generiert wurden.

Wörtlich lautet die Vorschrift: „Nutzer eines KI-Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die wirklichen Personen, Gegenständen, Orten oder anderen Einrichtungen oder Ereignissen merklich ähneln und einer Person fälschlicherweise als echt oder wahrhaftig erscheinen würden („Deepfake“), müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.“

Zum Weiterlesen: nützliche Informationen zu generativer KI

  • Der Bitkom-Leitfaden Generative KI im Unternehmen (PDF, 63 Seiten) konzentriert sich auf Rechtsfragen.
  • Ein weiterer Praxisleitfaden mit dem Titel KI in Unternehmen (PDF, 84 Seiten) stammt von der Bertelsmann-Stiftung.
  • Von Datenschutz-Generator.de gibt es eine Checkliste zum Datenschutz bei KI-Einsatz.

Diesen Beitrag teilen

Artikel zu ähnlichen Themen

10.06.2024

Steuernummern – Welche ist wofür gedacht?

Die neue KI-Realität Ob man von Künstlicher Intelligenz, Artificial Intelligence, Deep Learning, Machine Learning oder Large Language ...
13.05.2024

Digitale Schnittstellen der Finanzverwaltung: bei Daten im falschen Format droht die Schätzung

Die neue KI-Realität Ob man von Künstlicher Intelligenz, Artificial Intelligence, Deep Learning, Machine Learning oder Large Language ...
13.05.2024

Reverse Charge bei der Umsatzsteuer – aber die USt-IdNr. des Kunden fehlt?

Die neue KI-Realität Ob man von Künstlicher Intelligenz, Artificial Intelligence, Deep Learning, Machine Learning oder Large Language ...

Newsletter abonnieren

Gerne informieren wir Sie regelmäßig per E-Mail über spannende Themen und Neuigkeiten für Ihre Selbstständigkeit.
WISO MeinBüro Web
  • Im Browser und per App arbeiten
  • Vorlagen für Dokumente
  • Vorbereitende Buchhaltung
  • Dokumentenverwaltung
  • Lagerbestandsführung
Jetzt kostenlos testen

Testphase endet automatisch - keine Kündigung nötig.

WISO MeinBüro Desktop
  • Lokal unter Windows arbeiten
  • Dokumente frei gestaltbar
  • Buchhaltung und Steuern per ELSTER
  • Dokumentenablage
  • Warenwirtschaft inkl. Inventur
Jetzt kostenlos herunterladen & testen

Testphase endet automatisch - keine Kündigung nötig.

Noch unentschlossen? Jetzt beide Produkte vergleichen

Beide Produkte sind nicht miteinander kompatibel.