Ustawa UE o sztucznej inteligencji. Jak Europa reguluje wykorzystanie sztucznej inteligencji | Sztuczna inteligencja w biznesie #68

Czym jest ustawa o sztucznej inteligencji i dlaczego jest ważna dla MŚP (małych i średnich przedsiębiorstw)?

Ustawa o AI jest pierwszą tego typu regulacją na świecie. Pierwsza, która kompleksowo zajmuje się sztuczną inteligencją, wychodząc z podejścia skoncentrowanego na człowieku do sztucznej inteligencji. Ma na celu zapewnienie, że systemy sztucznej inteligencji stosowane w Europie są bezpieczne i stymulują innowacje, przy jednoczesnym poszanowaniu praw podstawowych, ze szczególnym uwzględnieniem:

• opieki zdrowotnej – np. poszanowanie prywatności danych pacjentów,
• edukacja – przestrzeganie wartości propagowanych przez Unię Europejską i unikanie dyskryminacji,
• ochrona granic – zapewnienie bezpieczeństwa bez naruszania praw obywateli,
• usługi publiczne – przestrzeganie najlepszych praktyk w zakresie ochrony danych, prawa do informacji i jasnej komunikacji.

Dla MŚP ustawa o sztucznej inteligencji przyniesie przede wszystkim większą pewność prawa, ponieważ jasno określa ramy innowacji: zasady projektowania, rozwijania i stosowania systemów sztucznej inteligencji. Ułatwi firmom inwestowanie w rozwiązania oparte na sztucznej inteligencji, ograniczając ryzyko prawne. Dodatkowo regulacje obowiązujące na terenie całej Unii zapobiegną fragmentacji rynku.

Europejskie regulacje dotyczące sztucznej inteligencji zostały przyjęte przez Parlament Europejski i Radę Europy 9 grudnia 2023 roku. Aby weszły w życie, muszą teraz zostać formalnie zaakceptowane przez obie instytucje.

Kluczowe aspekty ustawy AI dla biznesu

Unijna ustawa o sztucznej inteligencji wprowadza zestaw wymagań dla systemów sztucznej inteligencji, w zależności od poziomu ryzyka. Wymagania te obejmują między innymi:

• obowiązek przejrzystości i powiadamiania użytkowników w przypadku interakcji z chatbotami, systemami biometrycznymi czy technologiami rozpoznawania emocji,
• zakaz wykorzystywania wrażliwych atrybutów do kategoryzacji biometrycznej,
• obowiązkowa ocena zgodności przed wejściem na rynek dla systemów wysokiego ryzyka,
• obowiązkowa rejestracja w unijnej bazie danych – po wejściu w życie ustawy o sztucznej inteligencji systemy AI wykorzystywane w kluczowych sektorach, takich jak edukacja, zatrudnienie, opieka zdrowotna czy egzekwowanie prawa, będą podlegały rejestracji.

Producenci i firmy korzystające z systemów AI będą również zobowiązani do monitorowania zagrożeń po wprowadzeniu ich na rynek. Będzie to miało bezpośredni wpływ na firmy projektujące i wdrażające systemy AI.

Poziomy ryzyka systemów AI zgodnie z unijną ustawą o sztucznej inteligencji

Ustawa o sztucznej inteligencji klasyfikuje systemy sztucznej inteligencji na cztery kategorie w zależności od poziomu ryzyka:

1. Niedopuszczalne ryzyko
2. Wysokie ryzyko
3. Ograniczone ryzyko
4. Minimalne ryzyko

Przyjrzyjmy się bliżej, jak będzie zdefiniowana każda grupa, wraz z przykładami systemów i ich klasyfikacją.

Niedopuszczalne ryzyko

Unia Europejska wprowadza całkowity zakaz stosowania technologii wymienionych w ustawie o sztucznej inteligencji jako systemy o niedopuszczalnym ryzyku. Są to przede wszystkim systemy mające na celu wykorzystanie podatności jednostek na sugestie w celu manipulacji lub oszustwa, systemy dające sztucznej inteligencji możliwość podejmowania decyzji w kluczowych sprawach oraz takie, które mogą prowadzić do nadużycia władzy. Przykłady sztucznej inteligencji o niedopuszczalnym ryzyku obejmują:

• broń autonomiczna działająca bez nadzoru człowieka,
• systemy oceny wiarygodności stosowane przez organy ścigania,
• systemy automatycznej identyfikacji osób w przestrzeni publicznej, m.in. na podstawie materiału z kamer monitoringu,
• systemy sztucznej inteligencji, które mogą być szkodliwe dla osób niepełnosprawnych fizycznie lub psychicznie,
• Sztuczna inteligencja wykorzystywana do celów egzekwowania prawa, z nielicznymi wyjątkami,
• systemy sztucznej inteligencji wykorzystujące szkodliwe techniki „podprogowe” i manipulacyjne.

Dla przedsiębiorstw szczególnie ważna jest ta ostatnia kategoria. Dlatego też przejrzystość działania systemów sugestii dla użytkowników i klientów będzie kluczowa dla zgodności z nowym prawodawstwem Unii Europejskiej.

Wysokie ryzyko

Sztuczna inteligencja sklasyfikowana jako rozwiązanie AI wysokiego ryzyka będzie musiała spełnić rygorystyczne wymagania, zanim wejdzie na rynek. Obejmuje to ocenę zgodności i rygorystyczne testy przed zatwierdzeniem do użytku. Ta kategoria ryzyka obejmuje osiem obszarów, takich jak:

• pojazdy autonomiczne,
• systemy diagnostyki medycznej,
• algorytmy predykcyjne wspierające wymiar sprawiedliwości,
• zarządzanie migracjami i azylem, kontrola graniczna, a także
• zarządzanie zatrudnieniem i personelem.

Ograniczone ryzyko

Systemom ograniczonego ryzyka, najczęściej stosowanym w biznesie, ustawodawcy na szczęście poświęcili znacznie mniej uwagi. Ta kategoria obejmuje:

• Chatboty AI – wykorzystywane do obsługi klienta lub odpowiadania na najczęściej zadawane pytania w formie swobodnej rozmowy,
• systemy rozpoznawania emocji – wykorzystywane np. do zbierania danych o opiniach klientów na temat firmy,
• systemy kategoryzacji biometrycznej – np. ocena płci czy wieku klientów w sklepie stacjonarnym,
• generowanie obrazu, dźwięku czy wideo – pomimo zagrożenia, jakie stwarzają deep fakes, obszar ten będzie podlegał ograniczonemu zestawowi obowiązków.

Ryzyko niskie lub minimalne

Rozwiązania AI niskiego ryzyka nie podlegają regulacjom prawnym. Ustawa o sztucznej inteligencji będzie jedynie wspominać, że twórcy i użytkownicy takich rozwiązań powinni dobrowolnie ustalić zasady użytkowania. Dotyczy to rozwiązań takich jak:

• systemy rekomendacji treści w serwisach streamingowych, lub
• chatboty na stronach internetowych odpowiadające na typowe pytania klientów.

Jakie wymagania ustawa AI nakłada na rozwiązania stosowane w mojej firmie?

Aby sprawdzić, czy sztuczna inteligencja, z której korzysta firma, jest zgodna z ustawą o AI, należy:

• zaklasyfikować go do jednej z czterech opisanych powyżej kategorii ryzyka,
• jeśli jest to sztuczna inteligencja wysokiego ryzyka, przeprowadź ocenę zgodności,
• stosować dobre praktyki w zakresie sztucznej inteligencji niskiego ryzyka.

Przyjrzyjmy się przykładom często wykorzystywanych przez firmy rozwiązań AI. Jakie wymagania będą musieli spełnić?

Chatbot obsługi klienta dostarczający podstawowych informacji o produktach lub odpowiadający na typowe pytania klientów prawdopodobnie zostanie zaklasyfikowany jako system o minimalnym ryzyku. Będzie to konieczne:

• informować użytkowników o interakcji z AI,
• zapewnić możliwość przekierowania do osobistego konsultanta,
• przestrzegać ogólnych wymogów dotyczących przejrzystości, niedyskryminacji itp.

System rekomendacji produktów w handlu elektronicznym prawdopodobnie będzie uważany za system niskiego ryzyka. Konieczne będzie poinformowanie klientów o otrzymywaniu spersonalizowanych rekomendacji i udostępnienie możliwości ich wyłączenia.

Natomiast system automatycznej diagnostyki medycznej będzie klasyfikowany jako system wysokiego ryzyka. Przed wejściem na rynek będzie musiał przejść rygorystyczną ocenę i być nadzorowany przez człowieka. Dodatkowo konieczne będzie monitorowanie jego funkcjonowania i zgłaszanie incydentów.

System zapobiegania przestępczości miejskiej również będzie uważany za system wysokiego ryzyka. Będzie musiała przestrzegać przepisów dotyczących ochrony prywatności i innych praw podstawowych. Jego działanie będzie musiało odbywać się pod stałym nadzorem człowieka.

Nie jest jasne, do której kategorii zaliczają się systemy podejmowania decyzji oparte na sztucznej inteligencji. Jest prawdopodobne, że system rekrutacji oparty na sztucznej inteligencji, który samodzielnie podejmuje decyzje o zatrudnieniu, zostanie uznany za rozwiązanie oparte na sztucznej inteligencji o niedopuszczalnym ryzyku. Z drugiej strony system wsparcia rekrutacji, który pomaga ludziom w wykonywaniu pracy, byłby uważany za rozwiązanie wysokiego ryzyka.

W trosce o dobro użytkowników, a także ewentualne zmiany klasyfikacji, bardzo ważne jest, aby od samego początku do budowy i użytkowania systemów AI podchodzić w sposób etyczny i odpowiedzialny.

Jakie będą konsekwencje niezastosowania się do ustawy o AI?

Nieprzestrzeganie ustawy o sztucznej inteligencji może skutkować nałożeniem na firmy znacznych kar finansowych, sięgających od 35 mln EUR lub 7% światowego obrotu w przypadku dużych przedsiębiorstw do 7,5 mln EUR lub 1,5% w przypadku MŚP. Nielegalne systemy sztucznej inteligencji mogą zostać wycofane z rynku, a ich zastosowanie może zostać ograniczone.

Jak przygotować się na wejście w życie ustawy o AI?

Jak zatem przygotować firmę korzystającą ze sztucznej inteligencji na wejście w życie ustawy AI w 2025 roku? Oto kilka wskazówek, jak MŚP i start-upy mogą przygotować się na tę chwilę:

• na bieżąco śledzić postęp prac i harmonogram wdrożenia regulaminu,
• ocenić już funkcjonujące systemy AI i dostosować je do nowych wymagań,
• przy projektowaniu sztucznej inteligencji zwracają szczególną uwagę na aspekty etyczne.

Streszczenie

Wprowadzenie ustawy o sztucznej inteligencji to duża zmiana dla ekosystemu sztucznej inteligencji w Europie. Jednakże dzięki jasnym i spójnym przepisom obiecuje zapewnić bezpieczny i etyczny rozwój tej technologii, co powinno przynieść korzyści w szczególności MŚP i start-upom.

Ustawa o sztucznej inteligencji, która wejdzie w życie w 2025 r., przyniesie znaczące zmiany w sposobie, w jaki małe i średnie przedsiębiorstwa (MŚP) mogą wykorzystywać sztuczną inteligencję. Dla MŚP oznacza to przede wszystkim konieczność dokładnego rozważenia i analizy wykorzystywanych przez nie rozwiązań AI, zarówno pod kątem zgodności z przepisami, jak i potencjalnego wpływu na klientów i społeczność.

Dla właścicieli i menedżerów małych firm istotne jest zrozumienie, w jaki sposób ich systemy sztucznej inteligencji są kategoryzowane pod względem ryzyka i jakie działania są potrzebne, aby dostosować je do nadchodzących przepisów. Weźmy na przykład systemy AI wykorzystywane w zarządzaniu klientami czy marketingu, z których wcześniej korzystano dość swobodnie. Teraz będą wymagać dokładnej analizy pod kątem zgodności z ustawą o sztucznej inteligencji. Może to stworzyć nowe możliwości dla firm specjalizujących się w technicznym doradztwie prawnym, zapewniając MŚP wsparcie w dostosowaniu się do tych nowych wymagań.

Jeśli podobają Ci się nasze treści, dołącz do naszej społeczności pracowitych pszczół na Facebooku, Twitterze, LinkedIn, Instagramie, YouTube, Pinterest i TikTok.

Autor: Robert Whitney

Ekspert JavaScriptu i instruktor, który szkoli działy IT. Jego głównym celem jest podnoszenie produktywności zespołu poprzez uczenie innych, jak efektywnie współpracować podczas kodowania.

Zobacz wszystkie posty

Sztuczna inteligencja w biznesie:

1. Zagrożenia i szanse AI w biznesie (część 1)
2. Zagrożenia i szanse AI w biznesie (część 2)
3. Zastosowania AI w biznesie – przegląd
4. Chatboty tekstowe wspomagane sztuczną inteligencją
5. Biznesowe NLP dziś i jutro
6. Rola AI w podejmowaniu decyzji biznesowych
7. Planowanie postów w mediach społecznościowych. Jak sztuczna inteligencja może pomóc?
8. Zautomatyzowane posty w mediach społecznościowych
9. Nowe usługi i produkty współpracujące z AI
10. Jakie są słabe strony mojego pomysłu na biznes? Sesja burzy mózgów z ChatGPT
11. Korzystanie z ChatGPT w biznesie
12. Aktorzy syntetyczni. 3 najlepsze generatory wideo AI
13. 3 przydatne narzędzia do projektowania graficznego AI. Generatywna sztuczna inteligencja w biznesie
14. 3 niesamowitych autorów AI, których musisz dziś wypróbować
15. Odkrywanie mocy sztucznej inteligencji w tworzeniu muzyki
16. Poruszanie się po nowych możliwościach biznesowych dzięki ChatGPT-4
17. Narzędzia AI dla menedżera
18. 6 niesamowitych wtyczek ChatGTP, które ułatwią Ci życie
19. 3 grafików AI. Generatywna sztuczna inteligencja dla biznesu
20. Jaka przyszłość czeka sztuczną inteligencję według McKinsey Global Institute?
21. Sztuczna inteligencja w biznesie - Wprowadzenie
22. Czym jest NLP, czyli przetwarzanie języka naturalnego w biznesie
23. Automatyczne przetwarzanie dokumentów
24. Tłumacz Google kontra DeepL. 5 zastosowań tłumaczenia maszynowego w biznesie
25. Działanie i zastosowania biznesowe robotów głosowych
26. Technologia wirtualnego asystenta, czyli jak rozmawiać z AI?
27. Czym jest inteligencja biznesowa?
28. Czy sztuczna inteligencja zastąpi analityków biznesowych?
29. Jak sztuczna inteligencja może pomóc w BPM?
30. AI i media społecznościowe – co o nas mówią?
31. Sztuczna inteligencja w zarządzaniu treścią
32. Kreatywna sztuczna inteligencja dziś i jutro
33. Multimodalna sztuczna inteligencja i jej zastosowania w biznesie
34. Nowe interakcje. Jak sztuczna inteligencja zmienia sposób, w jaki obsługujemy urządzenia?
35. RPA i API w cyfrowej firmie
36. Przyszły rynek pracy i nadchodzące zawody
37. Sztuczna inteligencja w EdTech. 3 przykłady firm, które wykorzystały potencjał sztucznej inteligencji
38. Sztuczna inteligencja i środowisko. 3 rozwiązania AI, które pomogą Ci zbudować zrównoważony biznes
39. Detektory treści AI. Czy są tego warte?
40. ChatGPT kontra Bard kontra Bing. Który chatbot AI prowadzi w wyścigu?
41. Czy sztuczna inteligencja chatbota jest konkurencją dla wyszukiwarki Google?
42. Skuteczne podpowiedzi ChatGPT dla HR i rekrutacji
43. Szybka inżynieria. Co robi szybki inżynier?
44. Generator makiet AI. 4 najlepsze narzędzia
45. AI i co jeszcze? Najważniejsze trendy technologiczne dla biznesu w 2024 roku
46. Sztuczna inteligencja i etyka biznesu. Dlaczego warto inwestować w etyczne rozwiązania
47. Metasztuczna sztuczna inteligencja. Co warto wiedzieć o funkcjach Facebooka i Instagrama wspieranych przez sztuczną inteligencję?
48. Regulacja AI. Co musisz wiedzieć jako przedsiębiorca?
49. 5 nowych zastosowań AI w biznesie
50. Produkty i projekty AI – czym różnią się od innych?
51. Automatyzacja procesów wspomagana sztuczną inteligencją. Gdzie zacząć?
52. Jak dopasować rozwiązanie AI do problemu biznesowego?
53. AI jako ekspert w Twoim zespole
54. Zespół AI a podział ról
55. Jak wybrać kierunek kariery w AI?
56. Czy zawsze warto dodawać sztuczną inteligencję do procesu rozwoju produktu?
57. AI w HR: Jak automatyzacja rekrutacji wpływa na rozwój HR i zespołu
58. 6 najciekawszych narzędzi AI w 2023 roku
59. 6 największych wpadek biznesowych spowodowanych przez sztuczną inteligencję
60. Jaka jest analiza dojrzałości AI firmy?
61. AI do personalizacji B2B
62. Przypadki użycia ChatGPT. 18 przykładów tego, jak ulepszyć swój biznes dzięki ChatGPT w 2024 r
63. Mikrouczenie się. Szybki sposób na zdobycie nowych umiejętności
64. Najciekawsze wdrożenia AI w firmach w 2024 roku
65. Czym zajmują się specjaliści od sztucznej inteligencji?
66. Jakie wyzwania niesie ze sobą projekt AI?
67. 8 najlepszych narzędzi AI dla biznesu w 2024 roku
68. Sztuczna inteligencja w CRM. Co AI zmienia w narzędziach CRM?
69. Ustawa UE o sztucznej inteligencji. W jaki sposób Europa reguluje wykorzystanie sztucznej inteligencji
70. Sora. Jak realistyczne filmy z OpenAI zmienią biznes?