Innovation Briefing »EU AI Act: Umsetzung der KI-Verordnung«

Mit der Verabschiedung der KI-Verordnung treten wichtige regulatorische Anforderungen für den Einsatz von KI in Kraft. Diese betreffen sowohl eine Vielzahl von KI-Systemen als auch die Organisationen, welche diese entwickeln und einsetzen. Für Unternehmen kommt es nun darauf an, die Übergangsfrist dafür zu nutzen, die regulatorischen Anforderungen effizient und möglichst pragmatisch umzusetzen.

Unser Innovation Briefing zur Operationalisierung des AI Acts gibt einen Überblick zu den Anforderungen und Kernelementen der KI-Verordnung.  Zudem zeigt es auf, wie Sie regulatorische Anforderungen in Unternehmensprozesse übersetzen und in technische Entwicklungsumgebungen implementieren können. Das Ziel dabei ist, eine KI-Governance zu etablieren, die nicht nur ethischen und rechtlichen Anforderungen gerecht wird, sondern insbesondere auch KI-Anwendungen mit hoher Qualität, Zuverlässigkeit und Robustheit hervorbringt. Hierzu vermittelt das Innovation Briefing, wie sich KI-Risiken evaluieren lassen und die Qualität von KI-Systemen systematisch und nachweisbar gesichert wird. Zudem zeigen wir, wie sich die Anforderungen an KI-Qualität und Vertrauenswürdigkeit in das MLOps Vorgehensmodell integrieren lassen, wodurch die Konformität mit den Anforderungen by design skalierbar implementiert werden können.

Hierbei profitieren Sie von dem Know-How einer führenden Forschungsorganisation, welche seit 30 Jahren KI-Systeme nach hohen Qualitätsstandards entwickelt. Zudem haben wir die Operationalisierung von KI-Qualität und Vertrauenswürdigkeit maßgeblich mitgeprägt und bereits zahlreiche Organisationen bei der Entwicklung von vertrauenswürdiger KI unterstützt.

Wir unterstützen Sie mit unserer langjährigen Expertise in diesem Gebiet bei folgenden Fragen:

• Welche Anforderungen aus der KI-Verordnung, Normen & Standards sind für Ihr Unternehmen relevant?
• Wie können diese Anforderungen in Unternehmensprozesse übersetzt werden und welche „Rollen und Verantwortlichkeiten“ ergeben sich daraus?
• Welches Vorgehen eignet sich für die Risikobeurteilung existierender KI-Systeme und neuen KI-Projekten?
• Wie können Tools und Metriken bei einer Automatisierung der Prüfung und des Monitorings von KI-Systemen unterstützen?
• Wie kann eine hohe Qualität, Zuverlässigkeit und Robustheit bei KI-Anwendungen sichergestellt werden, sodass Unternehmensziele erreicht werden?

Anforderungen aus der KI-Verordnung, Normen & Standards

• Überblick zu den Anforderungen der KI-Verordnung
• Erläuterung des risikobasierten Ansatzes und der Risikoklassifizierung von KI-Anwendungsfällen
• Anforderungen an Foundation-Modelle und Anwendungen, die auf Foundation-Modellen beruhen
• Konformitätsvermutung und harmonisierte Standards, sowie Überblick zu den Ergebnissen aus Standardisierungsinitiativen auf nationaler, europäischer und internationaler Ebene

Aufsetzen eines KI-Management Systems

• Zusammenspiel von Governance, Management, Prozessen und Richtlinien
• AI Act Konformitätsprüfung auf Basis des KI-Management Systems und technischer Dokumentation

KI-Compliance & -Assessment

• Inhaltliche Dimensionen einer Vertrauenswürdigen KI
• Risikobewertungsansätze für KI-Anwendungen gemäß nationalen und internationalen Standards
• Operationalisierung und Durchführung von KI-Prüfungen am Beispiel des Fraunhofer Prüfkatalogs

Vertrauenswürdiger KI-Entwicklungsprozess

• Integration von KI-Vertrauenswürdigkeit in MLOps Prozesse
• Etablierung von Qualitätsstandards und regulatorischen Anforderungen des AI Acts bereits in der Entwicklungsphase („by design“)
• Dokumentation, Monitoring und Auditierbarkeit als Bestandteil des KI-Lifecycles

Optional: Tools und Metriken als Grundlage zur Nachvollziehbarkeit und Reproduzierbarkeit

• Technische KI-Prüfung unterstützt durch spezielle Software-Werkzeuge und Metriken
• Einblicke in Testverfahren auf Basis einer Prüfplattform