Stellen Sie sich vor, die Zukunft Ihrer Unternehmensprozesse wird von Künstlicher Intelligenz bestimmt – aber nicht nur von der Technologie selbst, sondern auch von strengen gesetzlichen Vorgaben. Mit dem kommenden AI Act der EU wird genau das Realität. Diese Verordnung bringt nicht nur neue Regeln, sondern auch klare Schulungsanforderungen für Unternehmen, die KI einsetzen. In diesem Beitrag zeigen wir Ihnen, warum gezielte Schulungen der Schlüssel zur Einhaltung dieser Vorschriften sind und wie Sie Ihr Team fit für die KI-Regulierung machen.

Die Schulungsanforderungen sind stärker geregelt und detaillierter, je höher das Risiko des eingesetzten KI-Systems eingestuft wird. Im Rahmen der Risikoklassifizierung des AI Acts (verbotene KI, hochrisiko, begrenztes Risiko, minimales Risiko) variieren die Schulungsanforderungen erheblich.

Hochrisiko-KI-Systeme

Für Unternehmen, die hochrisiko-KI-Systeme verwenden, sind umfassende Schulungen obligatorisch. Diese Systeme betreffen Bereiche wie Gesundheitswesen, Strafverfolgung, kritische Infrastruktur und Bildungswesen und können bei Fehlanwendung erhebliche Auswirkungen auf die Rechte und Freiheiten von Einzelpersonen haben.

Für hochrisiko-KI-Systeme fordert der AI Act:

• Verpflichtende Schulungen für alle Mitarbeiter, die an der Entwicklung, Implementierung oder Überwachung des Systems beteiligt sind. Diese Schulungen müssen sicherstellen, dass die Mitarbeiter die technischen, ethischen und rechtlichen Implikationen des Einsatzes von KI-Systemen verstehen.
• Spezialisierte Schulungen für Personen, die das Risikomanagement überwachen. Dazu gehören technische Schulungen zur Funktionsweise der KI-Systeme, aber auch Schulungen in Bezug auf Compliance, ethische Fragestellungen und rechtliche Verpflichtungen.
• Schulungen zur Datennutzung: Da viele hochriskante KI-Systeme große Mengen an Daten verarbeiten, sind Schulungen über Datenschutz und Datensicherheit notwendig, um sicherzustellen, dass Daten sowohl gesetzeskonform als auch ethisch verwendet werden.

Beispiele für Inhalte der Schulungen bei Hochrisiko-KI-Systemen:

• Grundsätze der KI-Regulierung: Die Mitarbeiter müssen ein Verständnis für die EU-Vorschriften zum Einsatz von KI-Systemen entwickeln.
• Verantwortlichkeit und Transparenz: Schulungen sollten den Mitarbeitern vermitteln, wie Transparenz- und Rechenschaftspflichten in den Arbeitsabläufen verankert werden.
• Bias und Diskriminierung: Die Schulungen müssen auf die Risiken von diskriminierenden Entscheidungen und Verzerrungen in den KI-Modellen aufmerksam machen und Ansätze zur Minimierung von Bias behandeln.

Begrenztes Risiko

Bei KI-Systemen, die in die Kategorie „begrenztes Risiko“ fallen, wie z.B. Chatbots oder Systeme zur Analyse von Kundendaten, gelten geringere Anforderungen an die Schulungen. Dennoch fordert der AI Act in diesen Fällen:

• Grundlagenschulungen für Mitarbeiter, die das KI-System überwachen oder mit dem System interagieren. Diese Schulungen sollten auf die Transparenzanforderungen und die damit verbundenen Pflichten eingehen, etwa dass Nutzer darüber informiert werden müssen, wenn sie mit einer KI interagieren.
• Sensibilisierungsschulungen: Mitarbeiter müssen über mögliche Risiken des Einsatzes der Systeme informiert werden, auch wenn diese begrenzt sind. Dazu gehören Aspekte wie ungewollte Ergebnisse, Datenschutz und ethische Fragen.

Minimales Risiko

Für KI-Systeme mit minimalem Risiko, wie zum Beispiel Anwendungen zur Unterstützung von internen Prozessen (z.B. KI-basierte Schreibassistenten), bestehen keine formalen Schulungsanforderungen nach dem AI Act. Trotzdem empfiehlt es sich für Unternehmen, auch in diesen Fällen allgemeine Schulungen durchzuführen, um das Verständnis der Mitarbeiter für die Funktionsweise und Grenzen der Systeme zu fördern.

Der AI Act gibt klare Hinweise darauf, welche Mitarbeitergruppen geschult werden müssen, abhängig von ihrer Rolle und dem eingesetzten KI-System.

1. Entwickler und Techniker

Mitarbeiter, die an der Entwicklung von KI-Systemen beteiligt sind, müssen eine tiefgehende Schulung in den technischen und ethischen Anforderungen erhalten. Hierzu zählen insbesondere:

• Entwicklerteams: Sie benötigen detaillierte Schulungen über die technischen Anforderungen des AI Acts, einschließlich der Vermeidung von Bias, der Sicherstellung der Datenqualität und der Implementierung von Überwachungs- und Evaluierungsmechanismen.
• Datenwissenschaftler: Diese müssen in Bezug auf die Einhaltung von Datenschutzgesetzen, ethische Datennutzung und die Implementierung transparenter Algorithmen geschult werden.

2. Führungskräfte und Manager

Führungskräfte, die für die Implementierung von hochrisiko-KI-Systemen oder deren strategischen Einsatz verantwortlich sind, müssen sicherstellen, dass die KI-Systeme die regulatorischen Anforderungen erfüllen. Ihre Schulung konzentriert sich auf:

• Compliance und Rechenschaftspflicht: Führungskräfte müssen über die rechtlichen Anforderungen, die Einhaltung des AI Acts und die Haftung im Falle von Verstößen geschult werden.
• Risikomanagement: Diese Schulungen umfassen die Einführung geeigneter Kontrollmechanismen und Maßnahmen zur Minderung von Risiken in der Anwendung von KI-Systemen.

3. Nutzer und Operatoren von KI-Systemen

Personen, die KI-Systeme in ihrer täglichen Arbeit nutzen, sollten grundlegende Schulungen zu den Funktionen und Einschränkungen der Systeme sowie zu ethischen Aspekten erhalten. Diese Schulungen umfassen:

• Verständnis der KI-Funktionalität: Wie das KI-System Entscheidungen trifft und welche Eingaben es benötigt.
• Bewusstsein für mögliche Verzerrungen (Bias): Nutzer sollten verstehen, dass KI-Systeme unter Umständen voreingenommene Entscheidungen treffen können und lernen, wie sie potenzielle Fehler identifizieren können.

4. Datenschutz- und Compliance-Beauftragte

Personen, die für die Einhaltung von Vorschriften verantwortlich sind, wie z.B. Datenschutzbeauftragte, müssen eng mit denjenigen zusammenarbeiten, die für die Implementierung der KI-Systeme verantwortlich sind. Sie benötigen Schulungen in:

• Datenschutzbestimmungen und DSGVO-Konformität: Da viele KI-Systeme große Mengen personenbezogener Daten verarbeiten, ist eine enge Verzahnung zwischen dem AI Act und der DSGVO erforderlich.
• Audits und Zertifizierungen: Diese Mitarbeiter müssen auf die Anforderungen an die Dokumentation und den Prüfprozess vorbereitet sein.

Selbst bei KI-Systemen mit begrenztem Risiko – wie Chatbots – dürfen Unternehmen nicht schludern! Hier gelten zwar weniger strenge Auflagen, aber Schulungen zur Transparenz sind Pflicht. Nutzer müssen wissen, dass sie mit einer KI interagieren.

Für minimales Risiko gibt es keine formalen Schulungsanforderungen, aber es wird empfohlen, allgemeine Schulungen durchzuführen, um das Verständnis für KI-Systeme zu verbessern.

Zusätzlich zu den auf die Risikoklassifizierung bezogenen Schulungen werden allgemeinere Themen behandelt:

• Ethik in der KI: Unternehmen müssen sicherstellen, dass die Mitarbeiter die ethischen Leitlinien der EU für den Einsatz von KI verstehen, insbesondere in Bezug auf Fairness, Diskriminierungsfreiheit und den Schutz der Grundrechte.
• Sicherheitsanforderungen: Insbesondere bei hochriskanten KI-Systemen sind Schulungen zu den Sicherheitsanforderungen wichtig, um den Missbrauch von KI-Systemen zu verhindern (z.B. im Bereich der Cybersicherheit).
• Prozesse zur kontinuierlichen Überwachung und Anpassung: Schulungen sollten sicherstellen, dass Mitarbeiter kontinuierliche Überwachungsprozesse für die verwendeten KI-Systeme kennen und verstehen, wie diese bei Bedarf angepasst werden können.

Die Schulungsanforderungen im Rahmen des AI Acts sind eng an die Risikoklassifizierung des eingesetzten KI-Systems gebunden. Je höher das Risiko, desto umfangreicher und spezifischer müssen die Schulungen sein. Unternehmen müssen sicherstellen, dass sowohl technische Mitarbeiter, Führungskräfte als auch Endnutzer der KI-Systeme ausreichend geschult sind, um die Sicherheit, Fairness und Transparenz der KI-Nutzung zu gewährleisten und den gesetzlichen Vorgaben zu entsprechen.

Jetzt 7 Tage lang E-Learning Kurse rund um den EU AI-Act testen und schon bald in Ihrem Unternehmen einführen!

Zur Demoanfrage