Mängelrechte bei KI-Systemen

Fehler im System

Bei physischen Produkten sind Mängel in der Regel schnell festzustellen, oft reicht schon ein Blick. Anders sieht es bei KI-Systemen aus. Wie bei diesen Systemen ein Mangel aussehen kann und wie Unternehmen möglichen Mängeln vorbeugen können, berichtet Rechtsanwalt Kay Diedrich.

(Bild: ©Sarah Holmlund/stock.adobe.com)

Es liegt in der Natur eines KI-Systems, sich auch beim Nutzer noch weiter zu entwickeln. Die Aufgabe von künstlicher Intelligenz besteht schließlich darin, durch Analyse zu lernen und besser zu werden. Damit stellen sich auch neue Rechtsfragen, beispielsweise wann etwas fehlerhaft ist, das dazu gedacht ist, aus seinen Fehlern zu lernen oder nach welchen Kriterien sich Mängel eines KI-Systems bestimmen und vermeiden lassen – mit den üblichen Folgen wie Rücktritt, Minderung, Schadensersatz.

Verkauf oder Mietmodell

Von der Art der Überlassung eines KI-Systems an den Abnehmer hängt die Kategorie der anzuwendenden Regeln ab: Für die verschiedenen Vertragstypen gelten jeweils spezifische Regeln bei Mängeln. Für vermarktete KI-Systeme ist regelmäßig an Kauf, Miete, Dienst- oder Werkvertrag zu denken. Oft enthält der Vertrag auch eine Mischung dieser Vertragstypen. Entscheidend für die Anwendbarkeit eines bestimmten Vertragstyps ist nicht, welche Überschriften oder Begriffe im Vertrag genannt werden, sondern welche Rechte und Pflichten die Vertragsparteien bei vernünftiger Auslegung mit dem Vertrag bewirken wollten. Ist das KI-System beispielsweise Teil einer zeitweise über ein Datennetzwerk nutzbaren Software (Software as a Service, SaaS), gelten mietvertragliche Regeln. Häufig werden KI-Systeme auch gegen einmalige Vergütung unbefristet überlassen, wodurch Kaufrecht gilt.

Die Sollbeschaffenheit

Wann aber ist ein verkauftes KI-System mangelhaft? Im Grundkonzept muss das dem Käufer überlassene System dem verkauften System entsprechen (Sollbeschaffenheit). Entscheidender Zeitpunkt ist der Gefahrübergang und damit in aller Regel die Überlassung des KI-Systems an den Käufer. Die Sollbeschaffenheit ergibt sich insbesondere aus den Vereinbarungen zwischen Käufer und Verkäufer, beispielsweise über die anfängliche Leistungsfähigkeit des KI-Systems oder dessen Lernfähigkeit. Diese können sich aus Ausschreibungsunterlagen und Katalogangaben ergeben. Die Vereinbarungen der Parteien sind danach auszulegen, was die beteiligten Personen vernünftigerweise gewollt haben. Das gilt für die Vertragstexte, aber auch für damit verbundene Aussagen und sonstiges Verhalten der beteiligten Personen. Die Kernfrage lautet: Was durfte der Käufer berechtigterweise von der Kaufsache erwarten? Klare Aussagen begrenzen dabei die Risiken: So kann es beispielsweise von den Vertragsparteien gewollt sein, dass ein KI-System von Beginn an eine bestimmte Steigerung der Produktivität herbeiführt. Das System kann etwa unter Verweis auf die Mehrwerte für Produktivität und Nutzbarkeit im Vergleich zu anderen Systemen vermarktet worden sein. Dann muss das System entsprechend liefern. Andernfalls liegt eine Abweichung von der vereinbarten Beschaffenheit und damit ein Mangel vor.

ANZEIGE

Intelligente Bestellprozesse

Die innovativen Retarus Cloud Services für Integration und Automatisierung machen Prozesskommunikation agiler, sicherer und zuverlässiger.‣ weiterlesen

Wenn das System noch lernt

Es kann aber auch vereinbart sein, dass das KI-System bestimmte Leistungen nach Gefahrübergang erst noch erlernt. Denn Beschaffenheit kann grundsätzlich jeder tatsächliche, wirtschaftliche oder rechtliche Umstand im Zusammenhang mit der Kaufsache sein. Dann hätten die Parteien also die Beschaffenheit ‚lernend‘ vereinbart. Die Kaufsache muss diese Lernfähigkeit bei Lieferung aufweisen. Das KI-System ist jedoch mangelhaft, wenn es nicht, falsch oder zu langsam lernt. Wichtig sind in diesem Zusammenhang auch die vom Käufer zu erfüllenden Anforderungen für Training, Pflege und Nutzung des KI-Systems. Soweit der erfolgreiche Einsatz bestimmtes Verhalten des Nutzers erfordert, muss das im Kaufvertrag festgelegt werden.

Überleistung kann Mangel sein

Die Notwendigkeit bewusst gesteuerter Vereinbarungen zeigt auch folgendes Beispiel kurioser Rechtsanwendung: Ein KI-System kann sogar dann mangelhaft sein, wenn die Leistungen das Vereinbarte übertreffen. Über übliche Vorsicht bei Angaben zur Leistungsfähigkeit hinaus ist also gerade bei KI-Systemen besondere Aufmerksamkeit für die Leistungsbeschreibung gefordert.

Ohne Vereinbarung

Wurde keine Beschaffenheit vereinbart, liegt ein Mangel vor, wenn die Kaufsache sich nicht für die nach dem Vertrag vorausgesetzte Verwendung eignet. Dieser Verwendungszweck muss für den Verkäufer bei Vertragsschluss erkennbar sein. Auch hier gelten die zuvor genannten Regeln der Auslegung. Ohne konkrete Vereinbarungen oder erkennbaren Verwendungszweck ist die verkaufte Sache nur dann mangelfrei, wenn sie

ANZEIGE

Wie Sie smarter automatisieren

Prozesse optimieren und Kosten senken? Bildanalysen mit KI können dabei wertvolle Hilfe bieten. Auf der automatica in München stellt IDS neue Produkte und Möglichkeiten vor. Erhalten Sie hier einen Einblick, was das Unternehmen an Stand B5.203 zeigen wird.‣ weiterlesen

• • sich für die gewöhnliche Verwendung eignet,
• • eine Beschaffenheit aufweist, die bei Sachen der gleichen Art üblich ist und
• • die der Käufer nach der Art der Sache erwarten kann.

In diesem Sinne gehören auch Eigenschaften zur Beschaffenheit, die der Käufer aufgrund öffentlicher Äußerungen des Verkäufers oder Herstellers erwarten kann. Im Kern geht es um die berechtigte Erwartungshaltung im Vergleich zu Sachen gleicher Art, was gerade bei neuartigen Sachen wie einem KI-System zu Unklarheiten führen kann. Als Maßstab muss ein Markt für rechtlich vergleichbare Systeme bestimmt werden. Für die Vergleichbarkeit sind unterschiedliche, noch nicht genau geklärte Faktoren wesentlich, z.B. die jeweils gewählten technischen Ansätze. Auch hier können durch bewusste Vertragsgestaltung wesentliche Weichen gestellt werden. Für den jeweiligen Vergleichsmarkt ist zu bestimmen, welche Beschaffenheit ein Käufer von einem KI-System erwarten kann – daran ist das verkaufte KI-System zu messen. Bei Abweichungen drohen Mängelansprüche.

Erwartungen bewusst steuern, Verträge bewusst gestalten

Verkäufer eines KI-Systems – inklusive Maschinen und Anwendungen, die die Technologie verwenden – sollten bei der Vermarktung die Erwartungen und Vereinbarungen bewusst steuern. Sonst drohen gerade bei den noch neuartigen Anwendungen Risiken wegen Mangelansprüchen. Käufern bieten die Unklarheiten die Chance, den Verkäufer über das sonst übliche Maß hinaus in Anspruch zu nehmen. Durch bewusste Vertragsgestaltung kann der Käufer seine Rechte sogar noch erheblich ausweiten.

Mängelrechte bei KI-Systemen

Fehler im System

Bei physischen Produkten sind Mängel in der Regel schnell festzustellen, oft reicht schon ein Blick. Anders sieht es bei KI-Systemen aus. Wie bei diesen Systemen ein Mangel aussehen kann und wie Unternehmen möglichen Mängeln vorbeugen können, berichtet Rechtsanwalt Kay Diedrich. (mehr …)

Das könnte Sie auch interessieren:

Additive Fertigung und Produktionstechnik
Sprecher für Formnext-Rahmenprogramm gesucht

Für die 3D-Druckmesse Formnext im November 2023 sucht Veranstalterin Mesago noch Sprecher. Anwender können sich bis Ende Juni mit ihren Beiträgen vorstellen. Hintergrund ist das überarbeitete Messekonzept, in dem drei Vortragsbühnen für intensiveren Austausch zwischen Anbietern und Anwendern sorgen sollen.‣ weiterlesen

Umfrage ‚IT & Sustainability – Reifegradindex 2023‘
Nachhaltigkeit ist wichtig, gehandelt wird später

Neun von zehn Firmen halten CO2-Neutralität zwar für wichtig. Doch über 50 Prozent der befragten Unternehmen verschiebt dafür nötige Investitionen ins nächste Jahrzehnt, haben die Marktforscher von PAC in einer Umfrage unter 150 Entscheidern in Fertigung und Logistik ermittelt. ‣ weiterlesen

Laser World of Photonics und World of Quantum
Photonik und Quantentechnologien im Fokus

Zeitgleich zur Automatica vom 27. bis 30 Juni trifft sich auch die internationale Photonikbranche in München, wo die Laser World of Photonics stattfindet. Die Messe informiert mit ihrem Rahmenprogramm über aktuelle Trends der Branche, vermittelt Wissen, bietet jungen Talenten eine Bühne und lässt Raum für den persönlichen Austausch mit Experten. ‣ weiterlesen

VDMA zum Auftragseingang im April
Maschinen- und Anlagenbau startet schwach ins Frühjahr

Die Bestellungen im Maschinen- und Anlagenbau gingen im April um 20 Prozent gegenüber Vorjahr zurück, meldet der VDMA. Schon im März lag der Wert sechs Prozent im Minus‣ weiterlesen

Anwendungen für Ressourceneffizienz
Nachhaltiger wirtschaften mit IoT

Nicht nur EU und Bundesregierung erwarten von der Wirtschaft, auch die Verbraucher fordern einen bewussteren Umgang mit Ressourcen. Mit einer Internet of Things-Applikation lässt sich an den Stellschrauben dazu drehen, meldete das IT-Infrastruktur- und Dienstleistungsunternehmen NTT kürzlich.‣ weiterlesen

Maintenance in Dortmund
Viele Besucher und positives Feedback

Am 24. und 25. Mai stand Dortmund im Zeichen der industriellen Instandhaltung. Mehr als 4.000 Besucher und rund 200 Aussteller zählte der Veranstalter Easyfairs am Ende der diesjährigen Maintenance.‣ weiterlesen

Konjunkturbarometer Einkaufsmanagerindex
Weniger Exporte im Mai

Die Geschäftsbedingungen in der deutschen Industrie wurden im Mai schlechter, meldet das BME im Einkaufsmanagerindex EMI. Vor allem im Ausland ging die Nachfrage kräftiger zurück, teilt der US-amerikanische Finanzdienstleister S&P Global mit, der hinter der Analyse steht.‣ weiterlesen

Unternehmensjubiläum
GFOS wird 35

Die GFOS blickt auf 35 Jahre Unternehmensgeschichte zurück und blickt in diesem Zuge auch in die Zukunft. So will der Softwareanbieter seine Geschäftsaktivitäten international erweitern.‣ weiterlesen

Digitaler Zwilling
Mitsubishi Electric tritt IDTA bei

Die 2020 gegründete IDTA wächst und begrüßt mit Mitsubishi Electric Europe ihr 100. Mitglied.‣ weiterlesen

Wechsel an der Fraunhofer-Spitze
Holger Hanselka wird Präsident der Fraunhofer-Gesellschaft

Prof. Dr.-Ing. Holger Hanselka, Präsident des Karlsruher Instituts für Technologie (KIT) wird der 11. Präsident der Fraunhofer-Gesellschaft und löst Prof. Dr.-Ing. Reimund Neugebauer nach fast elf Jahren ab.‣ weiterlesen

Neuer Vorstand
Wechsel an der Spitze bei DMG Mori

Christian Thönes, Vorstandsvorsitzender bei DMG Mori, hat am Donnerstag sein Amt niedergelegt. Sein Vertrag wurde im Rahmen einer Aufsichtsratssitzung einvernehmlich beendet. Alfred Geißler wurde vom Aufsichtsrat zum Nachfolger bestellt.‣ weiterlesen