Die Künstliche Intelligenz (KI) hat in den letzten Jahren stark an Bedeutung gewonnen und findet zunehmend Anwendung in verschiedensten Bereichen der Wirtschaft und Gesellschaft. Mit der Verbreitung dieser Technologie steigen jedoch auch die Risiken und Herausforderungen, die mit ihrer Nutzung einhergehen. Um diesen Herausforderungen zu begegnen, hat die Europäische Union die sogenannte „KI-Verordnung“ (KI-VO) verabschiedet. In diesem Artikel geben wir Unternehmen und Institutionen in Mecklenburg-Vorpommern einen Überblick darüber, was die KI-VO regelt, für wen sie gilt, wann sie in Kraft tritt und welche Maßnahmen ergriffen werden müssen.
Was regelt die KI-Verordnung?
Die KI-Verordnung ist die erste umfassende Regelung auf europäischer Ebene, die sich gezielt mit der Nutzung und Entwicklung von Künstlicher Intelligenz auseinandersetzt. Ziel der Verordnung soll es sein, einheitliche Rahmenbedingungen für den Einsatz von KI-Systemen zu schaffen, um sowohl den Schutz der Grundrechte als auch die Innovationskraft in Europa zu gewährleisten. Die Verordnung unterscheidet drei Risikoklassen für KI-Anwendungen und legt spezifische Anforderungen fest:
- Geringeres Risiko: KI-Systeme mit geringem Risiko, wie etwa Chatbots, müssen bestimmte Transparenzpflichten erfüllen, z. B. eine Kennzeichnungspflicht als KI-System.
- Hochriskante KI-Systeme: Hierzu zählen unter anderem KI-Systeme, die zum Beispiel im Bildungswesen zur Leistungsbeurteilung von Schülern oder in der Personalverwaltung zur Personalauswahl eingesetzt werden. Für diese Systeme gelten strenge Anforderungen hinsichtlich Transparenz, Sicherheit, Überwachung und Dokumentation.
- Unzulässige KI-Systeme: Diese Systeme sind aufgrund ihrer Risiken für die Sicherheit, die Rechte von Personen oder die Gesellschaft verboten. Dazu gehören zum Beispiel Systeme, die mit Hilfe von KI Social Menschen nach Scoring Werten klassifizieren.
Risikoeinschätzung in jedem Einzelfall
Eine besondere Herausforderung ergibt sich aus der Tatsache, dass allgemein verfügbare KI-Systeme wie zum Beispiel Chat GPT für unterschiedlichste Zwecke eingesetzt werden können. In der Praxis bedeutet das, dass jeder Nutzer solcher Dienste im Unternehmen die Kompetenz haben muss, bei jeder einzelnen Nutzung einzuschätzen, welches Risiko mit dieser konkreten Verwendung verbunden ist.
Für wen gilt die KI-Verordnung?
Die KI-Verordnung gilt für alle Unternehmen und Institutionen jeder Größenordnung, die KI-Systeme in der Europäischen Union entwickeln, vertreiben oder anwenden. Die Verordnung ist daher auch für kleine und mittelständische Unternehmen, Schulen oder andere Einrichtungen in Mecklenburg-Vorpommern relevant, deren Mitarbeiter KI in irgend einer Form beruflich nutzen.
Ab wann gilt die KI-Verordnung?
Die KI-Verordnung wurde vom Europäischen Parlament und dem Rat der Europäischen Union verabschiedet und tritt voraussichtlich im Jahr 2024 in Kraft. Unternehmen haben nach Inkrafttreten der Verordnung eine Übergangszeit von zwei Jahren, um die neuen Anforderungen umzusetzen. Das bedeutet, dass spätestens ab 2026 alle betroffenen Unternehmen den Regelungen der KI-VO entsprechen müssen.
Brauchen Unternehmen jetzt einen „KI-Beauftragten“?
Die Verordnung sieht vor, dass Unternehmen, die hochriskante KI-Systeme entwickeln oder einsetzen, eine verantwortliche Person benennen müssen, die für die Einhaltung der gesetzlichen Vorgaben zuständig ist. Diese Rolle ähnelt dem bereits bekannten „Datenschutzbeauftragten“, der in Unternehmen für die Einhaltung der Datenschutz-Grundverordnung (DSGVO) verantwortlich ist. Der „KI-Beauftragte“ könnte unter anderem für die Risikoanalyse, die Dokumentation der KI-Systeme und die Kommunikation mit den zuständigen Aufsichtsbehörden zuständig sein.
Zusätzlich dazu müssen alle Personen, die beruflich mit Künstlicher Intelligenz arbeiten, ab Februar 2025 ihre Kompetenz im Umgang mit KI-Systemen nachweisen können. Dies gilt sowohl für Unternehmen als auch für Behörden und andere Einrichutngen. Der Nachweis kann durch spezielle Schulungen, Zertifikate oder einschlägige Berufserfahrung erbracht werden. Diese Anforderung unterstreicht die Bedeutung von Fachkenntnissen im Umgang mit KI, um die Risiken zu minimieren und die Einhaltung der gesetzlichen Bestimmungen sicherzustellen.
Worauf müssen Unternehmen in Mecklenburg-Vorpommern achten?
Als Unternehmen in Mecklenburg-Vorpommern sollten Sie sich frühzeitig mit den Anforderungen der KI-Verordnung auseinandersetzen, insbesondere wenn Sie KI-Systeme in risikoreichen Bereichen einsetzen. Es ist ratsam, eine umfassende Bestandsaufnahme der vorhandenen und geplanten KI-Anwendungen durchzuführen und diese auf ihre Konformität mit der neuen Verordnung zu überprüfen. Sie sollten zudem in Betracht ziehen, interne Prozesse zur Überwachung und Dokumentation von KI-Systemen zu etablieren und gegebenenfalls Expertenrat einholen. Das Team von Datenschutz Nordost ist bei allen Fragen und Zweifelsfällen auch im Bereich des Einsatzes von KI für Sie da.