Das UE AI Act. Wie reguliert Europa den Einsatz künstlicher Intelligenz | KI in der Wirtschaft #68

Was ist das KI-Gesetz und warum ist es für KMU (kleine und mittlere Unternehmen) wichtig?

Das KI-Gesetz ist die erste Verordnung dieser Art weltweit. Der erste, der sich umfassend mit künstlicher Intelligenz befasst und dabei den Menschen in den Mittelpunkt stellt. Ziel ist es sicherzustellen, dass die in Europa eingesetzten KI-Systeme sicher sind und Innovationen anregen und gleichzeitig die Grundrechte respektieren, mit besonderem Schwerpunkt auf:

• Gesundheitswesen – zum Beispiel die Wahrung der Privatsphäre von Patientendaten,
• Bildung – Einhaltung der von der Europäischen Union geförderten Werte und Vermeidung von Diskriminierung,
• Grenzschutz – Sicherheit gewährleisten, ohne die Rechte der Bürger zu verletzen,
• Öffentliche Dienste – Einhaltung bewährter Praktiken im Datenschutz, dem Recht auf Information und klarer Kommunikation.

Für KMU bringt das KI-Gesetz vor allem mehr Rechtssicherheit, da es den Rahmen für Innovation klar definiert: die Grundsätze für die Gestaltung, Entwicklung und Anwendung von KI-Systemen. Dadurch wird es für Unternehmen einfacher, in KI-basierte Lösungen zu investieren, wodurch rechtliche Risiken verringert werden. Darüber hinaus werden in der gesamten Union geltende Vorschriften einer Marktfragmentierung vorbeugen.

Am 9. Dezember 2023 wurden europäische Verordnungen zur künstlichen Intelligenz vom Europäischen Parlament und vom Europarat verabschiedet. Nun müssen sie von beiden Institutionen offiziell akzeptiert werden, um in Kraft zu treten.

Kernaspekte des KI-Gesetzes für Unternehmen

Das EU-KI-Gesetz führt abhängig vom Risikograd eine Reihe von Anforderungen an KI-Systeme ein. Zu diesen Anforderungen gehören unter anderem:

• die Verpflichtung zur Transparenz und Benachrichtigung der Nutzer bei Interaktionen mit Chatbots, biometrischen Systemen oder Technologien zur Emotionserkennung,
• Verbot der Verwendung sensibler Merkmale zur biometrischen Kategorisierung,
• obligatorische Konformitätsbewertung vor Markteintritt für Hochrisikosysteme,
• obligatorische Registrierung in der EU-Datenbank – nach Inkrafttreten des KI-Gesetzes müssen KI-Systeme, die in Schlüsselsektoren wie Bildung, Beschäftigung, Gesundheitswesen und Strafverfolgung eingesetzt werden, registriert werden.

Auch Hersteller und Unternehmen, die KI-Systeme einsetzen, werden verpflichtet, Risiken nach der Markteinführung zu überwachen. Dies wird sich direkt auf Unternehmen auswirken, die KI-Systeme entwerfen und implementieren.

Risikostufen von KI-Systemen gemäß EU-KI-Gesetz

Das KI-Gesetz klassifiziert KI-Systeme basierend auf ihrem Risikograd in vier Kategorien:

1. Inakzeptables Risiko
2. Hohes Risiko
3. Begrenztes Risiko
4. Minimales Risiko

Werfen wir einen genaueren Blick darauf, wie jede Gruppe definiert wird, zusammen mit Beispielen für Systeme und deren Klassifizierungen.

Inakzeptables Risiko

Die Europäische Union verhängt ein vollständiges Verbot der Nutzung von Technologien, die im KI-Gesetz als Systeme mit inakzeptablem Risiko aufgeführt sind. Hierbei handelt es sich vor allem um Systeme, die darauf abzielen, die Anfälligkeit des Einzelnen für Suggestionen zur Manipulation oder Täuschung auszunutzen, um Systeme, die künstlicher Intelligenz die Möglichkeit geben, Entscheidungen in entscheidenden Angelegenheiten zu treffen, und um Systeme, die zu Machtmissbrauch führen könnten. Beispiele für KI mit inakzeptablem Risiko sind:

• autonome Waffen, die ohne menschliche Aufsicht funktionieren,
• Glaubwürdigkeitsbewertungssysteme, die von Strafverfolgungsbehörden verwendet werden,
• automatische Identifikationssysteme von Personen im öffentlichen Raum, beispielsweise auf der Grundlage von Überwachungskameraaufnahmen,
• Systeme der künstlichen Intelligenz, die für Personen mit körperlichen oder geistigen Behinderungen schädlich sein können,
• KI, die mit wenigen Ausnahmen zu Strafverfolgungszwecken eingesetzt wird,
• Künstliche Intelligenzsysteme, die schädliche „unterschwellige“ und manipulative Techniken nutzen.

Für Unternehmen ist die letzte Kategorie besonders wichtig. Aus diesem Grund wird Transparenz beim Betrieb von Systemen, die Vorschläge für Benutzer und Kunden liefern, für die Einhaltung der neuen Rechtsvorschriften der Europäischen Union von entscheidender Bedeutung sein.

Hohes Risiko

Künstliche Intelligenz, die als Hochrisiko-KI-Lösung eingestuft wird, muss strenge Anforderungen erfüllen, bevor sie auf den Markt kommt. Dies erfordert Konformitätsbewertungen und strenge Tests, bevor sie zur Verwendung zugelassen werden. Diese Risikokategorie umfasst acht Bereiche, wie zum Beispiel:

• autonome Fahrzeuge,
• medizinische Diagnosesysteme,
• Vorhersagealgorithmen zur Unterstützung des Justizsystems,
• Migrations- und Asylmanagement, Grenzkontrolle sowie
• Beschäftigungs- und Personalmanagement.

Begrenztes Risiko

Den in der Wirtschaft am häufigsten eingesetzten Systemen mit begrenztem Risiko haben die Gesetzgeber glücklicherweise deutlich weniger Aufmerksamkeit geschenkt. Zu dieser Kategorie gehören:

• KI-Chatbots – werden für den Kundenservice oder die Beantwortung häufig gestellter Fragen in Form frei fließender Gespräche verwendet.
• Emotionserkennungssysteme – werden beispielsweise verwendet, um Daten über Kundenmeinungen über ein Unternehmen zu sammeln,
• biometrische Kategorisierungssysteme – etwa die Beurteilung des Geschlechts oder Alters der Kunden in einem Ladengeschäft,
• B. Bild-, Audio- oder Videoerzeugung – für diesen Bereich gelten trotz der Bedrohung durch Deep Fakes begrenzte Pflichten.

Geringes oder minimales Risiko

Risikoarme KI-Lösungen unterliegen keinen gesetzlichen Regelungen. Im KI-Gesetz wird lediglich erwähnt, dass Entwickler und Benutzer solcher Lösungen freiwillig Nutzungsrichtlinien festlegen sollten. Dies betrifft Lösungen wie:

• Inhaltsempfehlungssysteme in Streaming-Diensten, oder
• Chatbots auf Websites, die auf typische Kundenfragen antworten.

Welche Anforderungen stellt das KI-Gesetz an die in meinem Unternehmen eingesetzten Lösungen?

Um zu überprüfen, ob die von einem Unternehmen eingesetzte künstliche Intelligenz dem KI-Gesetz entspricht, sollten Sie:

• es in eine der vier oben beschriebenen Risikokategorien einordnen,
• Wenn es sich um KI mit hohem Risiko handelt, führen Sie eine Compliance-Bewertung durch.
• Nutzen Sie bewährte Praktiken für risikoarme KI.

Schauen wir uns Beispiele für häufig genutzte KI-Lösungen von Unternehmen an. Welche Anforderungen müssen sie erfüllen?

Ein Kundenservice-Chatbot, der grundlegende Informationen zu Produkten bereitstellt oder typische Kundenfragen beantwortet, wird wahrscheinlich als System mit minimalem Risiko eingestuft. Es muss:

• Benutzer darüber informieren, dass sie mit KI interagieren,
• die Möglichkeit bieten, an einen menschlichen Berater weitergeleitet zu werden,
• Halten Sie sich an allgemeine Anforderungen hinsichtlich Transparenz, Nichtdiskriminierung usw.

Ein Produktempfehlungssystem im E-Commerce wird wahrscheinlich als risikoarmes System angesehen. Es ist notwendig, Kunden darüber zu informieren, dass sie personalisierte Empfehlungen erhalten, und ihnen die Möglichkeit zu geben, diese zu deaktivieren.

Ein System zur automatischen medizinischen Diagnostik wird hingegen als Hochrisikosystem eingestuft. Es muss vor der Markteinführung einer strengen Bewertung unterzogen und von einem Menschen überwacht werden. Darüber hinaus ist eine Überwachung des Betriebs und die Meldung von Vorfällen erforderlich.

Auch das städtische Kriminalpräventionssystem wird als risikoreich eingestuft. Dabei müssen Vorschriften zum Schutz der Privatsphäre und anderer Grundrechte eingehalten werden. Der Betrieb muss unter ständiger menschlicher Aufsicht erfolgen.

Es ist unklar, in welche Kategorie KI-basierte Entscheidungssysteme fallen werden. Es ist wahrscheinlich, dass ein KI-basiertes Rekrutierungssystem, das Einstellungsentscheidungen selbst trifft, als KI-Lösung mit inakzeptablem Risiko angesehen wird. Andererseits würde ein System zur Rekrutierungsunterstützung, das Menschen bei der Ausübung ihrer Arbeit unterstützt, als risikoreiche Lösung angesehen.

Im Interesse des Wohlergehens der Nutzer sowie möglicher Änderungen in den Klassifizierungen ist es sehr wichtig, von Anfang an ethisch und verantwortungsvoll mit dem Aufbau und der Nutzung von KI-Systemen umzugehen.

Welche Konsequenzen hat die Nichteinhaltung des KI-Gesetzes?

Die Nichtbeachtung des KI-Gesetzes könnte zu erheblichen Geldstrafen für Unternehmen führen, die von 35 Millionen Euro oder 7 % des weltweiten Umsatzes für Großunternehmen bis zu 7,5 Millionen Euro oder 1,5 % für KMU reichen. Illegale KI-Systeme könnten vom Markt genommen und ihre Nutzung eingeschränkt werden.

Wie bereitet man sich auf das Inkrafttreten des KI-Gesetzes vor?

Wie bereitet man ein Unternehmen, das künstliche Intelligenz einsetzt, auf das Inkrafttreten des KI-Gesetzes im Jahr 2025 vor? Hier einige Tipps, wie sich KMU und Startups auf diesen Moment vorbereiten können:

• sich über den Fortschritt der Arbeiten und den Zeitplan für die Umsetzung der Vorschriften auf dem Laufenden zu halten,
• bereits im Einsatz befindliche KI-Systeme bewerten und an die neuen Anforderungen anpassen,
• achten Sie bei der Gestaltung von KI besonders auf ethische Aspekte.

Zusammenfassung

Die Einführung des KI-Gesetzes ist eine große Veränderung für das KI-Ökosystem in Europa. Es verspricht jedoch, mit klaren und einheitlichen Regeln eine sichere und ethische Entwicklung dieser Technologie zu gewährleisten, wovon insbesondere KMU und Start-ups profitieren sollen.

Das KI-Gesetz, das 2025 in Kraft tritt, wird erhebliche Änderungen in der Art und Weise mit sich bringen, wie kleine und mittlere Unternehmen (KMU) künstliche Intelligenz nutzen können. Für KMU bedeutet dies vor allem die Notwendigkeit einer sorgfältigen Betrachtung und Analyse der von ihnen eingesetzten KI-Lösungen, sowohl im Hinblick auf die Einhaltung von Vorschriften als auch auf mögliche Auswirkungen auf Kunden und die Gemeinschaft.

Für Kleinunternehmer und Manager ist es wichtig zu verstehen, wie ihre KI-Systeme in Bezug auf das Risiko kategorisiert werden und welche Maßnahmen erforderlich sind, um sie an die kommenden Vorschriften anzupassen. Nehmen wir zum Beispiel KI-Systeme im Kundenmanagement oder Marketing, die bisher recht frei eingesetzt wurden. Jetzt benötigen sie eine gründliche Analyse zur Einhaltung des KI-Gesetzes. Dies könnte neue Möglichkeiten für Kanzleien eröffnen, die sich auf technische Rechtsberatung spezialisiert haben, und KMU bei der Anpassung an diese neuen Anforderungen unterstützen.

Wenn Ihnen unsere Inhalte gefallen, treten Sie unserer fleißigen Bienen-Community auf Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest und TikTok bei.

Autor: Robert Whitney

JavaScript-Experte und Dozent, der IT-Abteilungen coacht. Sein Hauptziel ist es, die Teamproduktivität zu steigern, indem er anderen beibringt, wie sie beim Codieren effektiv zusammenarbeiten können.

Alle Beiträge anzeigen

KI in der Wirtschaft:

1. Bedrohungen und Chancen von KI in der Wirtschaft (Teil 1)
2. Bedrohungen und Chancen von KI in der Wirtschaft (Teil 2)
3. KI-Anwendungen in der Wirtschaft – Überblick
4. KI-gestützte Text-Chatbots
5. Business NLP heute und morgen
6. Die Rolle von KI bei der Geschäftsentscheidung
7. Planen von Social-Media-Beiträgen. Wie kann KI helfen?
8. Automatisierte Social-Media-Beiträge
9. Neue Dienste und Produkte, die mit KI arbeiten
10. Was sind die Schwächen meiner Geschäftsidee? Eine Brainstorming-Sitzung mit ChatGPT
11. Verwendung von ChatGPT im Unternehmen
12. Synthetische Schauspieler. Top 3 KI-Videogeneratoren
13. 3 nützliche KI-Grafikdesign-Tools. Generative KI in der Wirtschaft
14. 3 großartige KI-Autoren, die Sie heute ausprobieren müssen
15. Erkundung der Macht der KI bei der Musikproduktion
16. Erschließen Sie neue Geschäftsmöglichkeiten mit ChatGPT-4
17. KI-Tools für den Manager
18. 6 tolle ChatGTP-Plugins, die Ihnen das Leben erleichtern werden
19. 3 KI-Grafiken. Generierte Intelligenz für Ihr Unternehmen
20. Wie sieht die Zukunft der KI laut McKinsey Global Institute aus?
21. Künstliche Intelligenz in der Wirtschaft – Einführung
22. Was ist NLP oder natürliche Sprachverarbeitung im Geschäftsleben?
23. Automatische Dokumentenverarbeitung
24. Google Translate vs. DeepL. 5 Anwendungen der maschinellen Übersetzung für Unternehmen
25. Der Betrieb und die Geschäftsanwendungen von Voicebots
26. Virtuelle Assistententechnologie oder wie spricht man mit KI?
27. Was ist Business Intelligence?
28. Wird künstliche Intelligenz Business-Analysten ersetzen?
29. Wie kann künstliche Intelligenz bei BPM helfen?
30. KI und soziale Medien – was sagen sie über uns?
31. Künstliche Intelligenz im Content Management
32. Kreative KI von heute und morgen
33. Multimodale KI und ihre Anwendungen in der Wirtschaft
34. Neue Interaktionen. Wie verändert KI die Art und Weise, wie wir Geräte bedienen?
35. RPA und APIs in einem digitalen Unternehmen
36. Der zukünftige Arbeitsmarkt und kommende Berufe
37. KI in EdTech. 3 Beispiele für Unternehmen, die das Potenzial künstlicher Intelligenz genutzt haben
38. Künstliche Intelligenz und die Umwelt. 3 KI-Lösungen, die Ihnen beim Aufbau eines nachhaltigen Unternehmens helfen
39. KI-Inhaltsdetektoren. Sind sie es wert?
40. ChatGPT gegen Bard gegen Bing. Welcher KI-Chatbot führt das Rennen an?
41. Ist Chatbot AI ein Konkurrent der Google-Suche?
42. Effektive ChatGPT-Eingabeaufforderungen für HR und Personalbeschaffung
43. Prompte Technik. Was macht ein Prompt-Ingenieur?
44. AI-Mockup-Generator. Top 4 Werkzeuge
45. KI und was sonst? Top-Technologietrends für Unternehmen im Jahr 2024
46. KI und Wirtschaftsethik. Warum Sie in ethische Lösungen investieren sollten
47. Meta-KI. Was sollten Sie über die KI-gestützten Funktionen von Facebook und Instagram wissen?
48. KI-Regulierung. Was müssen Sie als Unternehmer wissen?
49. 5 neue Einsatzmöglichkeiten von KI in der Wirtschaft
50. KI-Produkte und -Projekte – wie unterscheiden sie sich von anderen?
51. KI-gestützte Prozessautomatisierung. Wo soll man anfangen?
52. Wie passen Sie eine KI-Lösung an ein Geschäftsproblem an?
53. KI als Experte für Ihr Team
54. KI-Team vs. Rollenverteilung
55. Wie wählt man ein Berufsfeld in der KI aus?
56. Lohnt es sich immer, künstliche Intelligenz in den Produktentwicklungsprozess einzubauen?
57. KI im Personalwesen: Wie sich die Automatisierung der Personalbeschaffung auf die Personal- und Teamentwicklung auswirkt
58. Die 6 interessantesten KI-Tools im Jahr 2023
59. Die 6 größten geschäftlichen Pannen, die durch KI verursacht werden
60. Wie sieht die KI-Reifeanalyse des Unternehmens aus?
61. KI für B2B-Personalisierung
62. ChatGPT-Anwendungsfälle. 18 Beispiele, wie Sie Ihr Geschäft mit ChatGPT im Jahr 2024 verbessern können
63. Mikrolernen. Eine schnelle Möglichkeit, neue Fähigkeiten zu erwerben
64. Die interessantesten KI-Implementierungen in Unternehmen im Jahr 2024
65. Was machen Spezialisten für künstliche Intelligenz?
66. Welche Herausforderungen bringt das KI-Projekt mit sich?
67. Die 8 besten KI-Tools für Unternehmen im Jahr 2024
68. KI im CRM. Was verändert KI in CRM-Tools?
69. Das UE AI Act. Wie regelt Europa den Einsatz künstlicher Intelligenz?
70. Sora. Wie werden realistische Videos von OpenAI das Geschäft verändern?