Virtueller Experte für Produktionsanlagen

Use Case Beschreibung

Das Wissen des virtuellen Experten für Produktionsanlagen basiert auf der Kundendokumentation und Expertenwissen, die in ein RAG-System überführt werden. Für jeden Kunden wird passend zur individuellen Anlage eine Dokumentation aus einem Datenstamm aus Text und Bildern erstellt und umfasst für eine ganze Produktionsanlage bis zu 1500 Dokumente. Für den Use-Case wurde eine optimierte Nutzeroberfläche für den Betreiber der Anlage erstellt, über die er Fragen in natürlicher Sprache zu seiner Anlage stellen kann und mit Hilfe von generativer KI Antworten auf Grundlage seiner Datenbasis erhält, z.B. um die Anlage zu warten, Komponenten zu tauschen oder ordnungsgemäß zu reinigen.  Die Quelle, aus der die Antwort generiert wurde, wird über einen Link zur Verfügung gestellt.

Die KI übernimmt die Aufgabe die Vektorsuche nach geeigneten Dokumenten sowie die Generierung der Antwort. Die KI nimmt keinen direkten Eingriff in die Anlage sondern schlägt Wartungsarbeiten und Anleitung dafür vor.

Rechtliche Einordnung

• Es handelt sich um ein KI-System i.S.d. Art. 3 Nr. 1 KI-Verordnung.
• Es handelt sich nicht um eine Hochrisiko-KI.
• Das Unternehmen ist Anbieter nach Art. 2 Abs. 1 lit. A.
• Der Anwendung liegt ein GPAI-System, jedoch wird auf einem „fertigen“ GPAI-System aufgebaut. Daher entfallen für das Unternehmen die Pflichten bzgl. GPAI-Systemen.
• Transparenzpflichten für generative und für die Interaktion mit Menschen bestimmte KI-Systeme gem. Art. 50 Abs. 1 und Abs. 2 KI-Verordnung sind durch das Unternehmen umzusetzen.

Besondere Herausforderungen

• Kritisch sind Halluzinationen, besonders bei ungeschultem Personal. Entsprechende Hinweise in der Eingabemaske sind vorzusehen.
• Die Konsistenz von Antworten sollte vorab getestet werden (Antwort von gleicher Qualität bei anders formulierten Fragen).
• Es sollte eine Möglichkeit für Userfeedback vorgesehen werden bei ungeeigneten Antworten.
• Beim Zugriff auf im Hintergrund vorhandene Dokumente sind die Nutzungsrechte zu beachten (z.B. bei Betriebsanlagen für Komponenten von Dritten).