Low Code Reinforcement Learning Bibliothek

Use Case Beschreibung

Das betrachtete KI-System ist eine Plattform / Software-Bibliothek für Reinforcement Learning, die sowohl Unternehmen als auch Einzelpersonen ohne tiefgehendes Fachwissen nutzen können. Der Open-Source-Algorithmus bietet als Low-Code-Lösung die Möglichkeit, Simulationen zu erstellen, die optimale Entscheidungen für den konkreten Anwendungsfall ableiten.

Ein typisches Szenario ist die Optimierung von Heiz- und Kühlsystemen in Gebäuden, um Energie zu sparen und eine angenehme Temperatur zu gewährleisten. Weitere Einsatzmöglichkeiten sind die Verbesserung von Produktionsprozessen, Lieferketten und Finanzportfolios. Da die Bibliothek auch dazu verwendet werden kann, Hochrisiko-KI-Systeme zu entwickeln, stellt sich in diesem Anwendungsfall die Frage, welche Verantwortlichkeiten die Entwickler der Bibliothek tragen und welche den Endnutzern obliegen.

Rechtliche Einordnung

• KI-System nach AI Act
• Die Bibliothek ist kein GPAI-Modell oder Hochrisiko-System. Diese Einschätzung gilt auch dann, wenn sie von Nutzern in verschiedenen Anwendungsbereichen eingesetzt wird oder Nutzer sie sogar dazu verwenden, um Hochrisiko-KI zu entwickeln.
• Da das System ein KI-System ohne besonderes Risiko ist, müssen auch keine besonderen Pflichten nach dem AI Act erfüllt werden.

Besondere Herausforderungen

• Bereits die Einstufung als KI-System nach dem AI Act stellt sich bei der Software-Bibliothek als schwierig heraus, da sie auch als bloßes „Werkzeug“ verstanden werden kann. Für die technische Prüfung gehen wir aber vom „Worst-Case“ aus, nämlich dass die Bibliothek als KI-System einzustufen ist.
• Die rechtliche Einschätzung bezieht sich nur auf die KI-Lösung selbst. Unberührt bleiben die Pflichten, die Endnutzer treffen können. Sofern ein Endnutzer die Plattform etwa dazu verwendet ein hochriskantes KI-System zu entwickeln, so treffen diese Endnutzer die Hochrisiko-Pflichten nach dem AI Act.
• Je nach Anwendungsfall der Endnutzer, können sich weitere Anforderungen ergeben, zum Beispiel durch die MVO.