Nun ist es soweit, Artikel 4 des am 1. August 2024 in Kraft getretenen KI-Gesetzes der EU (https://artificialintelligenceact.eu/de/) findet bald Anwendung: 

• Ab dem 2. Februar 2025: Das Verbot bestimmter KI-Systeme und die Anforderungen an die KI-Kompetenz beginnen zu gelten

Schauen wir auf die Inhalte von Artikel 4: Verboten werden bestimmte Anwendungen von künstlicher Intelligenz (KI). Dazu gehören KI-Systeme, die die Entscheidungen von Menschen manipulieren oder ihre Schwachstellen ausnutzen, Systeme, die Menschen auf der Grundlage ihres Sozialverhaltens oder ihrer persönlichen Eigenschaften bewerten oder klassifizieren, sowie Systeme, die das Risiko einer Person, eine Straftat zu begehen, vorhersagen. Das Gesetz verbietet auch KI-Systeme, die Gesichtsbilder aus dem Internet oder aus Videoüberwachungsanlagen auslesen, auf Emotionen am Arbeitsplatz oder in Bildungseinrichtungen schließen und Menschen auf der Grundlage ihrer biometrischen Daten kategorisieren. Ausnahmen gelten für Strafverfolgungszwecke, diese sind aber für die meisten Unternehmen nicht relevant. Weiterhin müssen Firmen, welche KI unternehmensintern einsetzen, eine "ausreichende" KI-Kompetenz ihrer Mitarbeiter nachweisen. Bei Nichtbefolgung drohen Bußgelder.

Was bedeutet das für Ihr Unternehmen? Angenommen Sie setzen Videokameras zur Überwachung eines Lagerhauses, einer Produktionsanlage oder aber auch eines Büros ein, welche technisch in der Lage sind Gesichter und damit ihre Mitarbeiter zu erkennen. Oder Sie verwenden in Ihrem Bewerbungs- bzw. Recruitmentprozess Software, welche eingehende Bewerbungen klassifiziert und aufgrund bestimmter, nicht job-bezogener Merkmale persönlicher Natur (zB. Geschlecht und Geburtsjahr) Kandidaten von vornherein herausfiltert bzw. ablehnt. Solche Anwendungsfälle fallen nun unter das Verbot.

Wichtig - die Artikel des EU-AI-Act sprechen immer von Inbetriebnahme und Verwendung! Das bedeutet für gewöhnlich folgendes: allein die Möglichkeit für Ihre Angestellten über ihren Arbeitsrechner auf einen kommerziellen KI-Dienst wie zB. ChatGPT zugreifen zu können, kann bereits als "Betrieb" ausgelegt werden. Die Verwendung ist selbsterklärend.

Hierbei sorgte die „Verpflichtung zu KI-Kompetenz“ (Artikel 4) im Vorfeld für einige offene Fragen, welche vorsieht das Mitarbeitern von Unternehmen die KI einsetzen, eine entsprechende Kompetenz vorweisen müssen. Da in Deutschland laut einer Studie aktuell 79% der Beschäftigten eine grundlegende KI-Kompetenz fehlt, lässt sich diese wohl nur über entsprechende (Online-)Seminare und Fortbildung schnell nachholen.  Verständniskontrolle (in Form eines Tests) und Teilnahmebestätigung sind nach aktuellem Stand als anerkannte Unterweisungsdokumentation ausreichend.