Social Scoring ist verboten: Das bedeuten die KI-Regeln für Unternehmen
Im Anwaltsverein wird bereits über die Umsetzung der neuen EU-Verordnung diskutiert. Der Regensburger Fachanwalt Klaus-Richard Luckow erklärt den AI Act der Europäischen Union und wieso sich Unternehmen schnell damit befassen sollten.
Künstliche Intelligenz beschäftigt derzeit nicht nur die Medien, Unternehmen und auch die Politik. Juristen durchforsten die mehr als 450 Seiten, die im sogenannten Trilog zwischen EU-Parlament, Rat und Kommission ausgehandelt wurde. Der AI Act ist die weltweit erste Regelung Künstlicher Intelligenz. Welche Auswirkungen der Text hat, der als Verordnung unmittelbar auch ohne nationalstaatliche Regelung in Kraft getreten ist, das versuchen Juristen gerade herauszulesen und abzuleiten.
Der Regensburger Anwalt Klaus-Richard Luckow ist Vorsitzender der Arbeitsgemeinschaft Verwaltungsrecht im Deutschen Anwaltverein (Landesgruppe Bayern). Das Thema Künstliche Intelligenz und die rechtlichen Auswirkungen des AI Acts beschäftigen ihn auch in dieser Funktion derzeit. Luckow warnt: „Unternehmen sollten sich unbedingt schon jetzt mit den Auswirkungen der Verordnung und auch damit beschäftigen, was das für sie bedeutet.“
Hohe Strafen für Verstöße
Denn die EU-Verordnung sieht hohe Strafen für jene vor, die gegen sie verstoßen. Die EU kann Geldbußen von bis zu 35 Millionen Euro oder im Fall von Unternehmen von bis zu sieben Prozent des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres verhängen.
Die Verordnung sieht ein mehrstufiges Risikobewertungsmodell vor. Der AI Act legt fest, welche Praktiken inakzeptabel sind. „Diese sind komplett verboten – allerdings mit einigen wenigen Ausnahmen“, erläutert der Jurist. So hat die EU die militärische Nutzung und unter bestimmten Bedingungen auch die staatliche Verwendung von KI-Systemen etwa für die Terrorbekämpfung ausgenommen. Eine zweite Gruppe sind die KI-Hochrisikosysteme.
Definiert ist das in der Verordnung als Einsatz in Bereichen wie Bildung, Gesundheit, Beschäftigung und Strafverfolgung. Zudem legt die EU auch Transparenzpflichten fest. Und gerade die sind für Unternehmen in Zukunft von zentraler Bedeutung. „Die Verordnung verlangt, transparent zu machen, wenn man mit KI gearbeitet hat“, sagt Luckow. Gerade im Bildungswesen kämen Probleme auf Lehrende und etwa Schüler und Studenten zu. Denn die Verordnung unterscheidet nach rein persönlicher Verwendung Künstlicher Intelligenz einerseits und dem beruflichen Einsatz andererseits.
„Sobald ein Student eine Arbeit abgibt, ist es ein beruflicher Kontext“, sagt Luckow. Damit müsste er den Einsatz von KI auch Kennzeichnen, wenn seine Arbeit mit Hilfe von Anwendungen wie etwa ChatGPT oder Perplexity – eine KI, die auch Quellen angibt – entstanden ist. Den Einsatz von KI-Modellen etwa in der Kommunalpolitik sieht Luckow positiv, etwa wenn Städte und deren Kanalsysteme abgebildet und Schwachstellen mit Hilfe von KI identifiziert werden. Bei der Personalauswahl etwa sieht Luckow allerdings große Probleme auf die Unternehmen zukommen, sollten sie diese einsetzen. „Schon jetzt bieten Jobplattformen im Internet an, die besten Bewerber ausfindig zu machen.“ Fraglich ist, ob das mit KI-Unterstützung geschehen darf, wie z. B. im Fußballsport: „Die Beobachtung eines Spielers am Platz durch den klassischen Spielerscout ist längst ersetzt durch die Erfassung von Leistungsdaten, die ausgewertet werden.“
Wenn Personalabteilungen zur Auswahl der besten Kandidaten für eine Stelle auf Künstliche Intelligenz zurückgreifen würden, sieht Luckow auch ein ethisches Problem. Geregelt ist in der Verordnung jedenfalls, dass solche Anwendungen als hochriskant eingestuft werden. Weitere Bereiche sind neben der Strafverfolgung und der Migrations- und Grenzkontrolle auch das Rechtssystem, demokratische Prozesse wie Wahlen sowie öffentliche und private Dienstleistungen. Setzen Versicherungen oder Kreditinstitute KI ein, muss dies künftig gekennzeichnet sein. Und auch bei Unternehmen, die Personal rekrutieren wollen und bei der Bewertung von Bewerbern KI einsetzen, müssen dies kennzeichnen.
Social Scoring wird verboten
Gänzlich untersagt sind künftig soziale Bewertungen mittels KI, wie sie beispielsweise in China durchaus eingesetzt werden – etwa, wenn von einem Mitarbeiter Emotionen erfasst und ausgewertet werden. Banal ist dieses Beispiel nicht: So bietet etwa Microsoft bereits den Einsatz von Co-Pilot, eine unterstützende KI in Office-Anwendungen an. Beobachtet eine KI in Videokonferenzen Teilnehmer, ist es möglich, dass sie Emotionen wie Wut oder Unlust erfasst – ein Horror-Szenario für Arbeitnehmer. Luckow warnt Unternehmen deshalb: „Auch ein kleines oder mittelständisches Unternehmen muss prüfen, ob es beim Einsatz von KI bereits soziales Verhalten auswertet und damit eine Art von Social Scoring durchführt.“