KIDOU Sprachverarbeitung

Use Case Beschreibung

KIDOU ist eine Bibliothek, die es beliebigen Anwendungen erlaubt Sprachverarbeitung zu integrieren. Die beiden wichtigsten Komponenten sind Speech-to-Text und Intent-Interpretation. Beide Komponenten können hochspezialisiert auf die Domäne onDevice, onPrem oder in der Cloud betrieben werden. Im Rahmen des Projekts wurde KIDOU in der Anwendung Cassandra (Einsatzszenario „Dokumentation von Operationen“) betrachtet und hinsichtlich der Konformität mit dem AI Act geprüft.  Cassandra hört Ärzten und Ärztinnen zu und erkennt relevante, dokumentationspflichtige Aktionen oder Feststellungen. Danach werden die dokumentationsrelevanten Informationen an das Klinik-Informationssystem übergeben, wo verantwortliche Mediziner / verantwortliche Medizinerinnen diese prüfen, ergänzen, korrigieren und freigeben können.

Rechtliche Einordnung

• Die KIDOU Library selbst ist kein KI-System, sondern ein KI-Modell (vgl. Erwägungsgrund 97 der KI-VO).
• KIDOU ist ein „KI-Modell mit allgemeinem Verwendungszweck (GPAI-Modell)“ (Art. 3 Nr. 63) aber kein GPAI-Modell, von dem ein systemisches Risiko (i.S.v. Art. 51 KI-VO) ausgeht.
• Wenn KIDOU als GPAI-Modell vertrieben wird, müssen die GPAI-Anbieterpflichten erfüllt werden (Art. 53 ff. KI-VO).
• Die nachgelagerte Anwendungen Cassandra ist ein KI-System (Art. 3 Nr. 1) aber kein Hochrisiko-KI-System (i.S.d. Art. 6 Abs.1 KI-VO).
• Cassandra muss Transparenzpflichten nach Art. 50 Abs. 1 und Abs. 2 KI-VO erfüllen.

Besondere Herausforderungen

• Die Regelungen für GPAI-Modell treten zum 2. August 2025 in Kraft.
• Ausnahme: Anbieter, die ihr GPAI-Modell bereits vor diesem Stichtag in Verkehr gebracht haben. Diese müssen die sie treffenden Pflichten bis zum 2. August 2027 erfüllen (Art. 111 Abs. 3 KI-VO).