Das erste umfassende KI-Gesetz der Welt
Am 9. Dezember 2023 erzielten das Europäische Parlament und der Rat eine politische Einigung über das KI-Gesetz. Das KI-Gesetz tritt 20 Tage nach seiner Veröffentlichung im Amtsblatt in Kraft und wird zwei Jahre später, mit einigen Ausnahmen, in vollem Umfang anwendbar sein. Europa ist damit der erste Kontinent, der die Nutzung von KI reglementiert. Die KI-Regulierung soll sicherstellen, dass Europäer:innen dem vertrauen können, was die KI produziert, und garantiert, dass KI-Systeme den Menschen keinen Schaden zufügen. Die Grundrechte und Werte der Union sollen gewahrt und die Durchsetzung des geltenden Rechts gestärkt werden.
Welche Konsequenzen hat der AI-Act für die Anwendung von Künstlicher Intelligenz?
Gemäss der EU-KI-Verordnung greifen die Anforderungen des EU-KI-Gesetzes, wenn ein KI-System innerhalb der Europäischen Union einem Menschen Schaden zufügen kann. Um dies zu gewährleisten, führt die EU-KI-Verordnung drei Kategorien von Künstlicher Intelligenz ein, die jeweils unterschiedlich reguliert werden sollen: Verbotene KI-Systeme, Hochrisiko KI-Systeme und KI-Systeme mit begrenztem oder minimalem Risiko.
KI-Systeme mit einem als inakzeptabel klassifizierten Risiko werden grundsätzlich verboten. Darunter fällt jegliche Nutzung von KI, die europäischen Grundrechten fundamental widerspricht. Ein Beispiel dafür sind biometrische Identifikationssysteme und deren Nutzbarmachung für sog. Social-Scoring Systeme. Die zweite Kategorie, KI-Systeme mit hohem Risiko, sollen nicht verboten, aber reguliert werden. Sie müssen bestimmten rechtlichen Anforderungen entsprechen und vor der Einführung in den Markt einem Bewertungsverfahren unterzogen werden. Ein wichtiger Aspekt hierbei ist die stetige menschliche Überwachung und Kontrolle solcher Systeme. Die Definition der Hoch-Risiko KI-Systeme ist im Gesetz komplex und weit gefasst. Grundsätzlich umfasst die Definition KI-Systeme, die erhebliche Risiken für die Gesundheit und Sicherheit oder die Grundrechte von Personen bergen. Unter die Kategorie KI-Systeme mit begrenztem Risiko fallen KI-Systeme, die mit Menschen interagieren, wie z.B. Chatbots. Diese sind Transparenzauflagen unterworfen, d.h. den Personen muss mitgeteilt werden, dass sie mit einem KI-System interagieren.
Konkret finden die Bestimmungen des KI-Gesetzes Anwendung, sobald ein KI-System auf dem EU-Markt betrieben, vertrieben oder genutzt wird. Das Gesetz sieht harte Strafen bei Nichteinhaltung vor, wobei Unternehmen mit Geldbussen von bis zu 35 Millionen Euro oder 7% ihres weltweiten Einkommens belegt werden können.
Welche Auswirkungen haben die Regelungen für die Schweiz?
Es ist davon auszugehen, dass der AI-Act der EU auch die Schweizer Politik dazu anregt, ihre eigenen Vorschriften und Strategien im Bereich der KI zu überdenken und anzupassen, um so die Zusammenarbeit mit EU-Mitgliedstaaten zu erleichtern.
Ein Bereich, der betroffen sein wird, ist der Handel und die Marktregulierung. Der AI-Act führt neue Vorschriften und Standards für KI-Anwendungen ein. Wenn die Schweiz die intensiven Handelsbeziehungen mit der EU aufrechterhalten möchte und Dienstleistungen und Produkte im Bereich der KI auf dem EU-Markt absetzen will, wird sie die Anforderungen und Bestimmungen des AI-Act erfüllen müssen. Viele Schweizer Unternehmen, die KI-Technologien entwickeln oder anbieten, könnten deshalb in Zukunft von den Auswirkungen betroffen sein. Auch die Gesetzgebung im Datenschutz wird beeinflusst. Der AI-Act legt Regeln für den Austausch von Daten fest, die für den Betrieb von KI-Systemen verwendet werden. Wenn die Schweiz Daten mit EU-Mitgliedstaaten austauschen möchte, müssen möglicherweise die Datenschutz- und Datensicherheitsanforderungen des AI-Act erfüllt werden. Dies kann Auswirkungen auf Unternehmen und Organisationen haben, die grenzüberschreitend mit Daten arbeiten.
Wir stehen Ihnen für solche und weitere Themen gerne zur Verfügung. (E-Mail/Kontaktformular)