Newsletter September 2018 – Wieviel Verantwortung können Roboter übernehmen?

Teilen:

Teilen:

KI und Compliance

Wieviel Verantwortung können Roboter übernehmen?

KI_BUJ_Newsletter_Aug

Vor kurzem in Amerika geschehen: Mitte Juli ließ der oberste Jurist des Tech-Konzerns Microsoft aufhorchen, als er den amerikanischen Kongress per Blog-Beitrag aufrief, den Einsatz von Gesichtserkennungssoftware zu regulieren und damit ein Produkt, das Microsoft selbst herstellt. Die Technologie werfe Fragen auf, die den Schutz grundlegender Menschenrechte wie Privatsphäre und freie Meinungsäußerung berührten.

Regeln auch in Deutschland nötig

Auch in Deutschland gibt es Reformbedarf: „Der aktuelle Rechtsrahmen reicht in der Regel aus für intelligente Software, die Unternehmen derzeit zur Automatisierung von Prozessen nutzen, zur Diagnostik in der Medizin oder Prognosen im Handel. Regelungslücken bestehen vor allem im Hinblick auf KI, die sich selbst weiterentwickelt und etwa beim vollautonomen Fahren vollkommen eigenständig entscheidet“, erklärt Dr. Carsten Schulz, Partner bei Taylor Wessing in Hamburg.

Wer ist verantwortlich für selbständige Systeme?

Die Frage der Verantwortung stellt sich neu infolge fehlender Vorhersehbarkeit der Systeme
Ein Beispiel aus dem Internet der Dinge: In Produktionsmaschinen oder Lagersystemen kommen Cyber-Physical Systems (CPS) zum Einsatz, die Daten erfassen, verarbeiten und sich untereinander mit anderen Planungs- und Steuerungssystemen austauschen. Dank intelligenter Software lernen sie dabei voneinander und können so Transportwege optimieren. Allerdings lässt sich das Verhalten dieser Systeme weder genau vorhersagen noch nachvollziehen, sondern nur noch mit einer gewissen Wahrscheinlichkeit.

Haftung für Fehlbestellungen

Experten untersuchen im Rahmen der Plattform Industrie 4.0, inwieweit die Verantwortlichkeit für diese Systeme neu zu justieren ist. Beispielsweise ergeben sich Fragen hinsichtlich rechtsgeschäftlicher Erklärungen der CPS: „In Zukunft können Maschinen völlig autonom ohne Einbindung eines Menschen Ersatz für abgenutzte Stanzwerkzeuge bestellen, während heutzutage auf Kundenseite noch ein Mensch einen QR-Code einscannt, um zu ordern“, berichtet Christian Greger, Mitglied der Plattform Industrie 4.0 und Leiter Recht bei der TRUMPF GmbH & Co. KG bei Stuttgart, die intelligente Werkzeugmaschinen und Laser für die industrielle Fertigung produziert.

Anforderungen an Unternehmen steigen

Drei Schritte weiter gedacht könne KI Willenserklärungen abgeben, die nicht eins zu eins von demjenigen vorhersehbar waren, der die Software geschrieben hat. „Dann wird es schwieriger, eine menschliche Willenserklärung anzunehmen“, so Greger.

Welche Vorschläge in der Diskussion sind, welche Rolle Versicherer künftig haben und welche Anforderungen auf Unternehmen zukommen, das fasst Franziska Jandl in ihrem Beitrag „Wieviel Verantwortung können Roboter übernehmen?“ in Unternehmensjurist 5/18 ab S. 42 zusammen.

Folgen Sie uns: 

© Bundesverband der Unternehmensjuristen e. V.

Friedrichstr. 2
60323 Frankfurt
Telefon: +49 69 247 5463-0
Telefax: +49 69 247 5463-65
E-Mail: info@buj.net



X