Reallabor für rechtskonforme KI und Robotik
Reallabor für rechtskonforme KI und Robotik

KI-basierte Quittierung von Safety-Einrichtungen

Use Case Beschreibung

Teil- und vollautomatisierte Werkzeugmaschinen produzieren über viele Stunden ohne Bedienereingriffe. Sicherheitsbereiche der Maschine, die für Bediener zugänglich sein müssen und in denen Gefahren für Personen im Betrieb bestehen (z.B. der Bearbeitungsraum oder Bereiche mit automatisierter Be- und Entladung) sind durch ein Safety-System mit Lichtschranken und ggfs. weiteren Schutzeinrichtungen überwacht. Sobald eine Schutzeinrichtung des Safety-Systems ausgelöst hat, wird der Betrieb gestoppt. Die Produktion kann erst fortgesetzt werden, nachdem quittiert wurde, dass sich keine Person im Sicherheitsbereich befindet. Nach dem aktuellen Stand der Technik darf die Quittierung nur von geschulten Personen durchgeführt werden. Sind diese nicht verfügbar kann nicht weiter produziert werden. Im Forschungsprojekt KIbSIS (KI-basierte Sicherheit in industriellen Systemen) soll eine technische Lösung erarbeitet werden, über die die Quittierung unter Zuhilfenahme einer KI durchgeführt wird.

© TRUMPF Werkzeugmaschinen SE + Co. KG

Rechtliche Einordnung

  • „KI-System“ (Art. 3 Nr. 1) aber kein „KI-Modell mit allgemeinem Verwendungszweck“ (GPAI-System, Art.3 Nr. 63 und 66)
  • Das KI-System wurde nicht fertig „eingekauft“ → Unternehmen ist „Anbieter“ (Art. 2 Abs. 1 lit. a)
  • Es handelt sich nicht um ein System mit unannehmbarem Risiko (verbotenes System) i.S.d. Art. 5 KI-VO
  • Es handelt sich um ein Hochrisiko-System gem. Art. 6 Abs. 1 KI-VO i.V.m. Anhang I
  • Das KI-System soll insb. in Verbindung mit Maschinen eingesetzt werden, die der Maschinenverordnung unterfallen (vgl. Art. 3 Nr. 1 Maschinenverordnung)
  • Das System übernimmt eine sicherheitsrelevante Schutzfunktion, sodass es als Sicherheitsbauteil (nach Art. 3 Nr. 14 KI-VO) eingeordnet werden kann, auch wenn es stationär eingesetzt wird und nicht physisch in die Maschine integriert ist
  • Eine Konformitätsbewertung durch Dritte ist verpflichtend nach Art. 25 Abs. 2 i.V.m. Anhang I Teil A Nr. 5 Maschinen-VO

Besondere Herausforderungen

  • Entwicklung einer sicheren Detektion von Menschen, die teilweise verdeckt sind
  • Eingriff in die Maschine von Remote-Arbeitsplatz
  • Umgang mit Input-Fehlern mithilfe von Out-Of-Distribution Szenarien

Partnerunternehmen