Low Code Reinforcement Learning Bibliothek

Use Case Beschreibung

Das betrachtete System ist eine Plattform / Software-Bibliothek für Reinforcement Learning, die sowohl Unternehmen als auch Einzelpersonen ohne tiefgehendes Fachwissen nutzen können. Der Open-Source-Algorithmus bietet als Low-Code-Lösung die Möglichkeit, Simulationen zu erstellen, die optimale Entscheidungen für den konkreten Anwendungsfall ableiten.

Ein typisches Szenario ist die Optimierung von Heiz- und Kühlsystemen in Gebäuden, um Energie zu sparen und eine angenehme Temperatur zu gewährleisten. Weitere Einsatzmöglichkeiten sind die Verbesserung von Produktionsprozessen, Lieferketten und Finanzportfolios. Da die Bibliothek auch dazu verwendet werden kann, Hochrisiko-KI-Systeme zu entwickeln, stellt sich in diesem Anwendungsfall die Frage, welche Verantwortlichkeiten die Entwickler der Bibliothek tragen und welche den Endnutzern obliegen.

Rechtliche Einordnung

• Bereits die Einstufung als KI-System nach dem AI Act stellt sich bei der Software-Bibliothek als schwierig heraus, da sie als bloßes „Werkzeug“ verstanden werden kann. 
• Geht man vom „Worst-Case“ aus, nämlich dass die Bibliothek als KI-System einzustufen ist, ist sie kein GPAI-Modell oder Hochrisiko-System. Diese Einschätzung gilt auch dann, wenn sie von Nutzern in verschiedenen Anwendungsbereichen eingesetzt wird oder Nutzer sie sogar dazu verwenden, um Hochrisiko-KI zu entwickeln.
• Das System muss keine besonderen Pflichten nach dem AI Act erfüllen.

Besondere Herausforderungen

• Die rechtliche Einschätzung bezieht sich nur auf die Plattform selbst. Unberührt bleiben die Pflichten, die Endnutzer treffen können. Sofern ein Endnutzer die Plattform etwa dazu verwendet ein hochriskantes KI-System zu entwickeln, so treffen diesen Endnutzer die Hochrisiko-Pflichten nach dem AI Act.
• Je nach Anwendungsfall der Endnutzer, können sich weitere Anforderungen ergeben, zum Beispiel durch die MVO.