KI-Kompetenz: Pflicht oder Chance für Ihr Unternehmen?

Seit dem 2. Februar 2025 gilt es nun offiziell: Die europäische KI-Verordnung (AI Act) verpflichtet Unternehmen dazu, dafür zu sorgen, dass ihre Mitarbeitenden über ein ausreichendes Maß an KI-Kompetenz verfügen. Doch was bedeutet das konkret – und welche Auswirkungen hat diese Regelung auf Ihr Unternehmen?

Der European AI Act für Unternehmen regelt grundsätzlich, den Umgang mit künstlicher Intelligenz in Europa.

Risikoklassifizierung – KI-Systeme werden in unterschiedliche Risikokategorien eingeteilt

• Unakzeptables Risiko, verbotene KI: Systeme, die als zu gefährlich gelten, werden verboten.
  Beispiel: KI für Massenscreening, Überwachung, Social Scoring
  
• Hochrisiko KI: Systeme, die in sicherheitskritischen Bereichen (z. B. im Gesundheitswesen, in der Strafverfolgung oder im Transport) eingesetzt werden, unterliegen strengen Auflagen.
  Beispiel: Gesundheitssektor, HR-Screening, Bewertungen von Prüfungen
  
• KI mit geringerem oder minimalem Risiko: Hier gelten meist Informations- und Transparenzpflichten.
  Dazu zählen wohl die meisten derzeit in der EU eingesetzten KI-Tools.
  Beispiel: Chatbots, KI-generierte Inhalte (Kennzeichnungspflicht), KI-unterstützte Spam-Filter, Rechtschreib- und Grammatikprüfungen, Übersetzungen

Für Hochrisiko-Systeme gelten strenge Anforderungen:
Unternehmen, die Hochrisiko-KI-Systeme entwickeln, anbieten oder einsetzen, müssen umfangreiche Vorgaben erfüllen, darunter:

• Risikomanagement: Laufende Bewertung und Minimierung potenzieller Risiken.
• Dokumentationspflichten: Detaillierte technische Unterlagen und Protokolle zur Funktionsweise und Entscheidungsfindung der Systeme.
• Transparenz: Klare Informationen darüber, wie und in welchem Umfang die KI Entscheidungen trifft – auch gegenüber den Endnutzern.
• Menschliche Aufsicht: Sicherstellung, dass immer ein menschlicher Eingriff möglich ist, um Fehlentscheidungen der KI zu korrigieren.

Verantwortlichkeit und Sanktionen:

• Compliance-Pflichten: Sowohl Anbieter als auch Nutzer der Systeme müssen sicherstellen, dass alle Vorgaben eingehalten werden.
• Bußgelder: Bei Nichteinhaltung drohen empfindliche Strafen, die unter Umständen bis zu 6 % des globalen Jahresumsatzes betragen können.

Extrateritoriale Wirkung:
Auch Unternehmen außerhalb der EU, die ihre KI-Produkte in den europäischen Markt bringen, müssen sich an die Regelungen halten.

Was bedeutete das für Unternehmen

Es kann zum Verständnis hilfreich sein, Unternehmen in Bezug auf den EU AI Act in zwei Gruppen einzuteilen:

1. Direkte Betroffenheit des Unternehmens

• Entwickler und Anbieter von KI-Systemen:
  Unternehmen, die eigene KI-Lösungen entwickeln oder in Verkehr bringen – vor allem solche, die als Hochrisiko eingestuft werden.

• Unternehmen, die KI in kritischen Prozessen einsetzen:
  Beispielsweise in Bereichen wie Gesundheitswesen, Transport oder Sicherheitsanwendungen, wo Fehlfunktionen gravierende Folgen haben können.

Was heißt das konkret?

• Umfassende Compliance-Prüfung:
  Interne Prozesse und Systeme müssen an die neuen gesetzlichen Anforderungen angepasst werden.
• Risikomanagement & Dokumentation:
  Es ist notwendig, laufende Risikoanalysen durchzuführen, umfassende technische Dokumentationen zu erstellen und sicherzustellen, dass eine menschliche Aufsicht gewährleistet ist.
• Transparenzpflichten:
  Die Funktionsweise der KI muss nachvollziehbar sein – sowohl intern als auch gegenüber Kunden und Behörden.

2. Indirekte Betroffenheit des Unternehmens

• Endnutzer von KI-Systemen:
  Unternehmen, die fertige KI-Lösungen von Anbietern verwenden, ohne sie selbst zu entwickeln.

• Unternehmen in weniger regulierten Bereichen:
  Wenn KI-Anwendungen nicht als Hochrisiko eingestuft sind, sondern eher administrative oder unterstützende Aufgaben übernehmen.

Was heißt das konkret?

• Systemprüfung:
  Auch wenn sie nicht direkt verantwortlich für die Entwicklung sind, müssen Unternehmen sicherstellen, dass die von ihnen genutzten KI-Systeme den Anforderungen des AI Acts entsprechen.
• Verantwortungsbewusste Nutzung:
  Es sollte geprüft werden, ob die eingesetzten Systeme vertrauenswürdig und transparent arbeiten. Dies beinhaltet den Austausch mit den Anbietern über die Konformität und mögliche Risiken der KI-Anwendungen.

Was sollten Unternehmen jetzt tun?

1. Bestandsaufnahme:
   Ermitteln, in welchen Bereichen KI bereits eingesetzt wird oder geplant ist, auch ob Ihre Mitarbeiter ChatGPT nutzen
2. Klassifikation der Anwendungen:
   Prüfen, ob die eingesetzten oder geplanten KI-Systeme als Hochrisiko eingestuft werden und somit direkt unter die strengen Regelungen fallen.
3. Lieferanten und Anbieter prüfen:
   Für indirekte Betroffenheit: Sicherstellen, dass die verwendeten Systeme von den Anbietern als konform deklariert und zertifiziert sind.
4. Compliance-Maßnahmen einleiten:
   Bei direkter Betroffenheit müssen interne Prozesse (z. B. Risikomanagement, Dokumentation und Transparenzmaßnahmen) angepasst werden.
5. Schulung der Mitarbeitenden:
   Mitarbeiter und Verantwortliche sollten über die neuen Anforderungen informiert und geschult werden.

Diese strukturierte Herangehensweise hilft, die Anforderungen des AI Acts zu verstehen und gezielt Maßnahmen zu ergreifen – egal ob das Unternehmen direkt oder indirekt betroffen ist.

Schulung und Weiterbildung der Mitarbeiter im Einsatz von KI – ist unbedingt sinnvoll!!!

Setzen Unternehmen KI-Technologien ein, z. B. im Kundenservice, der Verwaltung, in der Produktion, aber auch bei der einfachen Nutzung von KI-Tools, wie ChatGPT oder Copilot – muss sichergestellt werden, dass betroffene Mitarbeitende die notwendigen Kompetenzen dazu besitzen.
Allerdings gibt es derzeit noch keine eindeutigen Vorgaben, ab wann diese Pflicht als erfüllt gilt, doch sollten sich Unternehmen frühzeitig mit dem Thema auseinandersetzen.

Welche Chancen eröffnet der gezielte Aufbau von KI-Kompetenz?

Unternehmen, die aktiv in die Weiterbildung ihrer Mitarbeitenden investieren, sichern sich einen klaren Wettbewerbsvorteil. Gut geschulte Mitarbeitende können KI-Systeme nicht nur effizienter nutzen, sondern auch Risiken besser einschätzen und innovative Geschäftsmodelle entwickeln.
Ein fundiertes Verständnis von KI ermöglicht es zudem, den Fachkräftemangel mit intelligenten Automatisierungslösungen abzufedern und gleichzeitig die Zufriedenheit von Kunden und Mitarbeitenden zu steigern.

Hinweis -es gibt leider viele unseriöse Angebote!

Gerade diese Informationen über den AI Act und die Diskussion über KI-Kompetenz lassen eine Vielzahl an „KI-Zertifikaten“ wie Pilze auf den Markt entstehen. Anbieter versprechen teure Zertifizierungen, obwohl bislang noch keine offiziellen Standards oder staatlich anerkannte Abschlüsse existieren.
Meine Empfehlung: Seien Sie kritisch und prüfen Sie sorgfältig, welche Fortbildungsangebote wirklich praxisrelevant sind, was brauchen Sie WIRKLICH schon.

Dabei spreche ich nicht von allgemeinen KI-Kompetenzen, um mit Hilfe z. B. von ChatGPT bessere Formulierungen, Zusammenfassungen, Analysen zu erhalten, die gängigsten KI-Tools zu kennen, das sind Kernkompetenzen, die Sie Ihren Mitarbeitenden auf jeden Fall ermöglichen sollten.

Tipp von mir:
Geben Sie klare Richtlinien für die Nutzung von ChatGPT und Co an Ihre Mitarbeiter heraus und fördern Sie das Verständnis der Mitarbeiter in Bezug auf Risiken in der Nutzung von KI-Tools, Kennzeichnungspflichten uvm.

Stärken Sie die KI-Kernkompetenzen Ihrer Mitarbeiter mit einer individuellen KI-Tools-Schulung!

Dabei unterstütze ich Sie sehr gerne mit meiner Expertise als langjährige IT-Trainerin und KI-Fan und Nutzerin seit mehr als 2 Jahren. Für weitere Informationen schreiben Sie mir gerne eine E-Mail und ich melde mich bei Ihnen.

Aktuelle Schulungsangebote finden Sie hier!

---

Wie geht Ihr Unternehmen mit der neuen Pflicht zur KI-Kompetenz um? Investieren Sie bereits gezielt in die Weiterbildung Ihrer Mitarbeitenden? Ich freue mich auf Ihre Kommentare und einen spannenden Austausch!

Weiterführende Links zu diesem Thema:

Europäische Kommission – Künstliche Intelligenz:
Erfahren Sie mehr über den europäischen Ansatz im Bereich KI, Hintergrundinformationen zur KI-Verordnung und weiterführende Initiativen der EU.
Mehr dazu lesen »

Tools für Unternehmen, die Ihnen helfen Ihre Risikoklassifizierung zu prüfen.
Bitte beachten Sie, dass die Links zur Webseite des Future of Life Instituts führen und NICHT direkt offizielle Dokumente der Europäischen Union darstellen. Ich übernehme daher auch keine Verantwortung für die Inhalte. Dennoch sind die Tools hilfreich:
– Der AI Act Explorer
– Der Compliance-Checker