Was bedeutet der «AI Act» der EU für Ihr Unternehmen?
28.09.2023
Mit dem «AI Act» schlägt die EU ein verbindliches Regelwerk für den Einsatz und die Entwicklung künstlicher Intelligenz vor. Warum braucht es das? Lässt sich KI überhaupt regulieren? Und was macht die Schweiz?
Im April 2021 hat die Europäische Kommission mit dem «AI Act» den weltweit ersten Rechtsrahmen für künstliche Intelligenz (KI) präsentiert. Demnach werden KI-Systeme nach dem Risiko, das sie für die Nutzenden darstellen, analysiert und klassifiziert. Je höher die Risikostufe einer KI, desto stärker soll sie reguliert werden. Zurzeit wird der «AI Act» mit den einzelnen EU-Ländern diskutiert. Bis Ende des Jahres 2023 soll eine finale Version des Gesetzes vorliegen, die Umsetzung wird voraussichtlich nicht vor 2025 kommen. Was genau besagt der «AI Act»? Was bedeutet er für die Schweiz? Und was für Ihr Unternehmen?
Wann ist ein Algorithmus intelligent?
Spätestens seit der Veröffentlichung von ChatGPT Anfang 2023 ist KI in aller Munde. Die einen freuen sich über die neu gewonnenen Möglichkeiten, die anderen fürchten um ihren Job – oder gar um das Ende der Demokratie. Die Realität liegt wahrscheinlich irgendwo dazwischen.
Der Begriff Künstliche Intelligenz ist sehr offen definiert. Ab einer gewissen Komplexität wird jeder Algorithmus für menschliche Betrachter zur Black Box: Wenn der Weg vom Input zum Output nicht mehr nachvollziehbar ist, klassifiziert man den Algorithmus als «intelligent». Ergon setzt sich für die Förderung einer offenen KI mit transparenter Dokumentation von Algorithmen und deren Entscheidungsfindung ein. «Wir verstehen unter KI verschiedene Algorithmen, mit denen Menschen Maschinen intelligent nutzen können», erklärt Wilhelm Kleiminger, Head of Data Science bei Ergon. «Somit ist nicht die Maschine intelligent, sondern ihre Nutzung.» Damit die intelligente Nutzung auch wirklich gelingt, müssen sich Menschen weiterbilden und lernen, die Resultate richtig einzuordnen.
«Ergon versteht unter KI verschiedene Algorithmen, mit denen Menschen Maschinen intelligent nutzen können. Damit ist nicht die Maschine intelligent, sondern ihre Nutzung.»
Chancen und Risiken von KI
Wie jede Technologie können Menschen KI für gute und schlechte Zwecke nutzen. KI begünstigt auf der einen Seite den nachhaltigen Umgang mit Ressourcen. Ein Beispiel ist das Smart Home, mit dem Hausbesitzer:innen dank intelligenter Steuerung von Heizung und Storen Energie sparen. KI-gesteuerte Frühwarnsysteme können Umweltrisiken vorhersagen, intelligente Algorithmen die Medikamentenentwicklung begünstigen.
Auf der anderen Seite steht die Angst vor einer Allgemeinen Künstlichen Intelligenz («Artificial General Intelligence», AGI), die denkt und handelt wie ein Mensch. Diese mag zwar übertrieben sein. Dennoch bringt der Einsatz von KI reale Gefahren. Wenn KI bestehende Berufe obsolet macht und neue Arbeitsfelder schafft, drohen gesellschaftliche Umwälzungen. KI kann auch gezielt dazu eingesetzt werden, Menschen zu manipulieren. Zum Beispiel mit künstlich generierten Fotos oder Videoaufnahmen, die nicht als solche erkenntlich sind. Oder wenn KI Informationen zu unserem Online-Verhalten so nutzt, dass wir keine autonomen rationalen Entscheidungen mehr treffen können. «Bildfälschung und Manipulation für politische oder Marketingzwecke sind an sich nicht neu», so Wilhelm Kleiminger. «Die Gefahr der KI liegt aber in deren Skalierbarkeit und der damit grösseren Reichweite.»
Was tut die EU, wie reagiert die Schweiz?
Der «AI Act» der EU sieht vor, den Einsatz von KI nach Bereich zu regulieren. Das macht Sinn: KI-Systeme, die in kritischen Infrastrukturen, Schulen oder in der Strafverfolgung eingesetzt werden, gelten als KI mit hohem Risiko. Entsprechend haben sie strenge Vorgaben zu erfüllen. Systeme wie KI-gestützte traditionelle Videospiele oder Spamfilter hingegen haben aus Sicht der EU ein minimales Risiko: Hier greift der «AI Act» nicht ein. Aber: Auch hier gibt es einen Graubereich. Sobald die KI zum Optimieren von Pay-to-Win-Spielen genutzt wird, manipuliert sie menschliches Verhalten.
Ähnlich wie schon bei der Einführung des Datenschutzgesetzes DSGVO zeigt sich die Schweiz bezüglich Regulierung eher zurückhaltend. Es ist aber zu erwarten, dass auch hier ein ähnliches Gesetz zur AI-Regulierung in Kraft tritt. «Schweizer Firmen tun also gut daran, sich mit dem Thema schon jetzt auseinander zu setzen», sagt Wilhelm Kleiminger. «Wer Kundschaft in der EU hat, wird sich sowieso an den «AI Act» halten müssen.» Für Schweizer Anbieter, die KI-Systeme in der EU in Verkehr bringen oder in Betrieb nehmen, gilt der «AI Act» – und bei einem Verstoss drohen empfindliche Bussen. Entsprechend werden viele Schweizer KI-Anbieter ihre Produkte schon bei der Entwicklung an die Europäische Gesetzgebung ausrichten. Damit setzen sich die Standards des «AI Acts» auch in der Schweiz automatisch durch.
Sind Sie bereit?
An KI führt in Zukunft kein Weg vorbei. Damit die Mitarbeitenden schon früh damit umgehen lernen, sollten Unternehmen Schulungen und Hands-on Workshops zum Thema anbieten. Diese sollten sowohl das technische Verständnis als auch die Ethik beim Einsatz der Technologien behandeln. Das steigert die Akzeptanz und die Innovationsbereitschaft. Wer ein eigenes Modell entwickelt, schafft mit dem offenen Ansatz maximale Transparenz und unterstützt somit die Akzeptanz des Ansatzes. Bei Use Cases für den Einsatz von KI im eigenen Unternehmen sollte man sich mit Chancen und Risiken des Modells für Mensch und Umwelt auseinandersetzen – so gelingt die intelligente Anwendung dieser neuen Technologien. Und, ganz wichtig: Für die Datenerhebung und -nutzung gelten nach wie vor die Prinzipien «Privacy by Design» und «Informed Consent».
Wenn Sie diese Empfehlungen jetzt schon implementieren, brauchen Sie den «AI Act» nicht zu fürchten. Vielmehr tragen Sie dazu bei, dass KI zur reinen Chance wird, die uns alle weiterbringt.
