Safe AI - Sichere Lösungen, die KI enthalten

In dieser Schulung vermitteln wir die Herausforderungen und Lösungsansätze für die Entwicklung verlässlicher KI-Systeme.

Motivation: Die Autonomie technischer Systeme zu erhöhen ist aktuell ein Megatrend in der Industrie. Künstliche Intelligenz (KI) wird hierbei als ein Schlüsselfaktor angesehen. Da autonome Systeme gewöhnlich Teil eines größeren Ökosystems sind, kann ihr Versagen sowohl die betrieblichen Werte wie auch die Gesundheit der Teilnehmer des Ökosystems gefährden. Daher sind besondere Maßnahmen erforderlich, um die funktionale Sicherheit der Systeme und insbesondere solcher, die KI enthalten, sicherzustellen. Bei Systemen ohne KI-Anteil werden entsprechende Maßnahmen durch spezifische Normen vorgesehen. Solche etablierten Sicherheitsstandards und -verfahren sind auf KI-getriebene Komponenten schwierig anwendbar bzw. unpassend. Als besonders problematisch erweist sich hierbei das häufig fehlende gemeinsame Verständnis an der Schnittstelle zwischen Data Science Expert*innen und Safety Ingenieur*innen.

Ausbildungsziel: In diesem Seminar geben wir einen Überblick über den Stand der Technik im Bereich Safety und Künstliche Intelligenz mit einem besonderen Fokus auf die Schnittstelle zwischen den Bereichen. Wir diskutieren die Herausforderungen, die sich aus dem Einsatz von KI-basierten Komponenten in sicherheitskritischen Lösungen ergeben, und präsentieren, wie diese beispielsweise mittels spezifischer Schritte im Entwicklungsprozess adressiert werden können. Dazu werden Eigenschaften von KI-Ansätzen ausgenutzt. Weiterhin wird das Bewusstsein der Teilnehmenden für die Problematik geschärft.

Zielgruppe: Sie sind Praktiker*in in einer sicherheitskritischen Domäne und interessieren sich für die Anwendung von KI Komponenten oder Verfahren. Insbesondere richtet sich das Seminar dabei an Data Science und Safety Expert*innen, die künftig einander besser verstehen und effektiver zusammenarbeiten möchten.

Voraussetzungen: Sie verfügen über Grundkenntnisse in Statistik und Datenanalyse. Typischerweise haben Sie einen Abschluss in einem MINT-Fach.

 

Inhalte

  • Motivation
  • Stand der Praxis in Funktionale Sicherheit (Safety) und Künstliche Intelligenz (KI)
  • Einfluss von KI auf Safety
  • Lösungsstrategien und beste Praktiken für Safety von KI-Systeme
  • Beispielansätze zu sicheren KI Systemen: Safety Supervisor, Uncertainty Wrapper
  • Zusammenfassung und Ausblick

Rahmen

Dauer: 1 Tag

Termine: Auf Anfrage

Tagungssprache: Deutsch (Unterlagen auf Englisch)

Maximale Teilnehmer*innenzahl: 15
Die Anmeldungen werden in der Reihenfolge des Eingangs berücksichtigt.

Veranstaltungsort:
Fraunhofer-IESE
Fraunhofer-Platz 1
67663 Kaiserslautern

 

Termine und Anmeldung

* Pflichtfelder

Termine
Hinweis: Gemäß Datenschutzgrundverordnung (DSGVO) unterrichten wir Sie über die Speicherung Ihrer Daten. Die Einwilligung zur Speicherung und Nutzung Ihrer Daten erfolgt freiwillig und kann jederzeit widerrufen werden.
Stornogebühren