Rechtliche Rahmenbedingungen – Roboter als „elektronische Personen“

Die Aussicht, dass KI mehr und mehr auch in sensiblen Anwendungen Einsatz finden wird, wirft neben der Frage der Kontrolle auch die nach einem adäquaten rechtlichen Rahmen auf. Die Interpretation und Anwendung des bestehenden Rechts auf solche Sachverhalte geht oft mit Unsicherheit einher. Eine Rechtsprechung, auf die Bezug genommen werden könnte, ist kaum vorhanden. Rechtliche Begriffe wie z. B. Rechtspersönlichkeit, Verantwortlichkeit und Haftung scheinen hier nicht mehr zu passen.1

Bereits in seiner Entschließung „Zivilrechtliche Regelungen im Bereich Robotik“ hatte sich das Europäische Parlament mit der Frage der Rechtsnatur zunehmend autonomer agierender Roboter beschäftigt. Es for­derte die Kommission auf, die Auswirkungen der Schaffung eines speziellen rechtlichen Status für Roboter als „elektronische Person“ zu prüfen, auch für Roboter, die eigenständig Entscheidungen treffen oder anderweitig auf unabhängige Weise mit Dritten interagieren.2

Wenn es in diesem Sinn eine elektronische Person gäbe, stellt sich die Frage, wer für ihr Handeln verantwortlich ist und wer haftet, wenn sie Schäden verursacht. Das Europäische Parlament hatte in seiner Entschließung „Eine Umfassende europäische Industriepolitik in Bezug auf Künstliche Intelligenz und Robotik“ die Kommission aufgefordert, die Fortschritte bei der Anwendung von KI zu beobachten. Falls erforderlich, sollen Änderungen in den rechtlichen Rahmenbedingungen vorgeschlagen werden, um die Aufteilung der Haftung zu klären zwischen denen, die Roboter/KI-Systeme nutzen (zum Beispiel Arzt/Ärztin), denen, die sie herstellen, und der medizinischen Einrichtung, die die Behandlung durchführt.3 Dem lag die Besorgnis zugrunde, dass sich Nutzer, ohne die eigene fachliche Beurteilung zu beachten, lediglich deshalb z. B. mit der Diagnose oder dem Behandlungsvorschlag einer KI einverstanden erklären könnten, weil sie andernfalls haftungsrechtliche Folgen befürchten.

Als einen Lösungsweg sieht das Europäische Parlament die Einrichtung eines obligatorischen Versicherungssystems. Hersteller oder Eigentümer von Robotern würden – ähnlich dem System für Kraftfahrzeuge – verpflichtet, Versicherungen für Schäden abzuschließen, die von ihren Robotern verursacht werden können. Begleitet werden könnte dies von einem Entschädigungsfonds für die von einem Roboter verursachten, aber nicht durch eine Versicherung abgedeckten Schäden. Denkbar wäre auch ein System der Beschränkung der Haftung des Herstellers, des Programmierers, des Eigentümers oder des Nutzers bei Einzahlung in diesen Fonds.4

Ob weitere Anpassungen in den geltenden Rechtsvorschriften notwendig sind, z. B. im Bereich des Datenschutzes, der an dieser Stelle nicht erörtert werden soll, möchte die Europäische Kommission prüfen und hierzu bis Mitte des Jahres einen Bericht vor­legen.5