La loi UE sur l’IA. Comment l'Europe réglemente-t-elle l'utilisation de l'intelligence artificielle | L'IA en entreprise #68

Qu'est-ce que la loi sur l'IA et pourquoi est-elle importante pour les PME (petites et moyennes entreprises) ?

L’AI Act est la première réglementation de ce type au monde. Le premier à aborder de manière globale l’intelligence artificielle à partir d’une approche de l’IA centrée sur l’humain. Il vise à garantir que les systèmes d’IA utilisés en Europe sont sûrs et stimulent l’innovation, tout en respectant les droits fondamentaux, avec un accent particulier sur :

• soins de santé – par exemple, en respectant la confidentialité des données des patients,
• l’éducation – adhérer aux valeurs promues par l’Union européenne et éviter la discrimination,
• protection des frontières – assurer la sécurité sans violer les droits des citoyens,
• services publics – en suivant les meilleures pratiques en matière de protection des données, de droit à l’information et de communication claire.

Pour les PME, la loi sur l’IA apportera avant tout une plus grande sécurité juridique car elle définit clairement le cadre de l’innovation : les principes de conception, de développement et d’application des systèmes d’IA. Il sera ainsi plus facile pour les entreprises d’investir dans des solutions basées sur l’IA, réduisant ainsi les risques juridiques. De plus, les réglementations applicables dans l’ensemble de l’Union empêcheront la fragmentation du marché.

La réglementation européenne sur l’intelligence artificielle a été adoptée par le Parlement européen et le Conseil de l’Europe le 9 décembre 2023. Désormais, elle doit être formellement acceptée par les deux institutions pour entrer en vigueur.

Aspects clés de la loi sur l’IA pour les entreprises

La loi européenne sur l’IA introduit un ensemble d’exigences pour les systèmes d’IA, en fonction du niveau de risque. Ces exigences comprennent, entre autres :

• l'obligation de transparence et de notification aux utilisateurs en cas d'interactions avec des chatbots, des systèmes biométriques ou des technologies de reconnaissance d'émotions,
• interdiction d’utiliser des attributs sensibles pour la catégorisation biométrique,
• évaluation de conformité obligatoire avant l'entrée sur le marché pour les systèmes à haut risque,
• enregistrement obligatoire dans la base de données de l’UE – après l’entrée en vigueur de la loi sur l’IA, les systèmes d’IA utilisés dans des secteurs clés tels que l’éducation, l’emploi, les soins de santé et les forces de l’ordre devront être enregistrés.

Les fabricants et les entreprises utilisant des systèmes d’IA seront également tenus de surveiller les risques après leur introduction sur le marché. Cela aura un impact direct sur les entreprises qui conçoivent et mettent en œuvre des systèmes d’IA.

Niveaux de risque des systèmes d'IA selon la loi européenne sur l'IA

L’AI Act classe les systèmes d’IA en quatre catégories en fonction de leur niveau de risque :

1. Risque inacceptable
2. Risque élevé
3. Risque limité
4. Risque minime

Examinons de plus près la façon dont chaque groupe sera défini, ainsi que des exemples de systèmes et leurs classifications.

Risque inacceptable

L'Union européenne impose une interdiction totale de l'utilisation des technologies répertoriées dans la loi sur l'IA comme systèmes présentant un risque inacceptable. Il s'agit principalement de systèmes conçus pour exploiter la susceptibilité des individus à la suggestion de manipulation ou de tromperie, de systèmes donnant à l'intelligence artificielle la capacité de prendre des décisions sur des questions cruciales, et de ceux qui pourraient conduire à un abus de pouvoir. Voici des exemples d’IA présentant un risque inacceptable :

• des armes autonomes fonctionnant sans surveillance humaine,
• les systèmes d'évaluation de la crédibilité utilisés par les forces de l'ordre,
• les systèmes d'identification automatique des individus dans les espaces publics, tels que ceux basés sur les images des caméras de surveillance,
• les systèmes d’intelligence artificielle pouvant être nocifs pour les personnes présentant un handicap physique ou mental,
• L'IA utilisée à des fins d'application de la loi, à quelques exceptions près,
• des systèmes d’intelligence artificielle utilisant des techniques « subliminales » et manipulatrices nuisibles.

Pour les entreprises, cette dernière catégorie est particulièrement importante. C'est pourquoi la transparence dans le fonctionnement des systèmes fournissant des suggestions aux utilisateurs et aux clients sera cruciale pour le respect de la nouvelle législation de l'Union européenne.

Risque élevé

L’intelligence artificielle classée comme solution d’IA à haut risque devra répondre à des exigences rigoureuses avant d’entrer sur le marché. Cela implique des évaluations de conformité et des tests stricts avant d’être approuvé pour utilisation. Cette catégorie de risque comprend huit domaines, tels que :

• véhicules autonomes,
• systèmes de diagnostic médical,
• des algorithmes prédictifs au service du système judiciaire,
• la gestion des migrations et de l’asile, le contrôle des frontières, ainsi que
• gestion de l’emploi et de la main d’œuvre.

Risque limité

Les législateurs ont heureusement accordé beaucoup moins d’attention aux systèmes à risque limité, les plus couramment utilisés dans les entreprises. Cette catégorie comprend :

• Chatbots IA – utilisés pour le service client ou pour répondre aux questions fréquemment posées sous la forme de conversations fluides,
• les systèmes de reconnaissance des émotions – utilisés, par exemple, pour recueillir des données sur les opinions des clients sur une entreprise,
• les systèmes de catégorisation biométrique – comme l’évaluation du sexe ou de l’âge des clients dans un magasin physique,
• génération d’images, de sons ou de vidéos – malgré la menace posée par les deep fakes, ce domaine sera soumis à un ensemble limité d’obligations.

Risque faible ou minime

Les solutions d’IA à faible risque ne sont pas soumises à des réglementations légales. La loi sur l’IA mentionnera seulement que les créateurs et les utilisateurs de telles solutions doivent établir volontairement des politiques d’utilisation. Cela concerne des solutions telles que :

• les systèmes de recommandation de contenu dans les services de streaming, ou
• des chatbots sur des sites Web répondant aux questions typiques des clients.

Quelles exigences l’AI Act impose-t-elle aux solutions utilisées par mon entreprise ?

Pour vérifier si l’intelligence artificielle utilisée par une entreprise est conforme à l’IA Act, vous devez :

• le classer dans l’une des quatre catégories de risques décrites ci-dessus,
• s'il s'agit d'une IA à haut risque, effectuez une évaluation de conformité,
• utiliser les bonnes pratiques en matière d’IA à faible risque.

Examinons des exemples de solutions d'IA fréquemment utilisées par les entreprises. À quelles exigences devront-ils répondre ?

Un chatbot de service client fournissant des informations de base sur les produits ou répondant aux questions typiques des clients sera probablement classé comme un système à risque minimal. Il faudra :

• informer les utilisateurs qu'ils interagissent avec l'IA,
• offrir la possibilité d'être redirigé vers un consultant humain,
• respecter les exigences générales en matière de transparence, de non-discrimination, etc.

Un système de recommandation de produits dans le commerce électronique sera probablement considéré comme un système à faible risque. Il sera nécessaire d'informer les clients qu'ils reçoivent des recommandations personnalisées et de leur offrir la possibilité de les désactiver.

En revanche, un système de diagnostic médical automatique sera classé comme système à haut risque. Il devra subir une évaluation rigoureuse avant son entrée sur le marché et être supervisé par un humain. De plus, il sera nécessaire de surveiller son fonctionnement et de signaler les incidents.

Le système de prévention de la criminalité urbaine sera également considéré comme à haut risque. Il devra se conformer aux réglementations relatives à la protection de la vie privée et aux autres droits fondamentaux. Son fonctionnement devra être sous surveillance humaine constante.

On ne sait pas clairement dans quelle catégorie les systèmes de prise de décision basés sur l’IA entreront. Il est probable qu’un système de recrutement basé sur l’IA qui prend lui-même les décisions d’embauche sera considéré comme une solution d’IA présentant un risque inacceptable. En revanche, un système d’aide au recrutement qui aide les gens à faire leur travail serait considéré comme une solution à haut risque.

Dans l’intérêt du bien-être des utilisateurs, ainsi que d’éventuelles modifications des classifications, il est très important d’aborder dès le départ la construction et l’utilisation des systèmes d’IA de manière éthique et responsable.

Quelles seront les conséquences du non-respect de la loi sur l’IA ?

Le non-respect de la loi sur l'IA pourrait entraîner des amendes importantes pour les entreprises, allant de 35 millions d'euros, soit 7 % du chiffre d'affaires mondial pour les grandes entreprises, à 7,5 millions d'euros, soit 1,5 % pour les PME. Les systèmes d’IA illégaux pourraient être retirés du marché et leur utilisation pourrait être limitée.

Comment se préparer à l’entrée en vigueur de l’AI Act ?

Alors comment préparer une entreprise qui utilise l’intelligence artificielle à l’AI Act qui entrera en vigueur en 2025 ? Voici quelques conseils sur la façon dont les PME et les startups peuvent se préparer à ce moment :

• se tenir au courant de l'avancement des travaux et du calendrier de mise en œuvre de la réglementation,
• évaluer les systèmes d'IA déjà utilisés et les adapter aux nouvelles exigences,
• accorder une attention particulière aux aspects éthiques dans la conception de l’IA.

Résumé

L’introduction de l’AI Act constitue un changement majeur pour l’écosystème de l’IA en Europe. Cependant, avec des règles claires et cohérentes, il promet d’assurer le développement sûr et éthique de cette technologie, ce qui devrait notamment profiter aux PME et aux start-up.

La loi sur l’IA, qui entrera en vigueur en 2025, apportera des changements significatifs dans la manière dont les petites et moyennes entreprises (PME) peuvent tirer parti de l’intelligence artificielle. Pour les PME, cela signifie avant tout la nécessité d’un examen et d’une analyse minutieux des solutions d’IA qu’elles utilisent, tant en termes de conformité aux réglementations que d’impact potentiel sur les clients et la communauté.

Pour les propriétaires et dirigeants de petites entreprises, il est essentiel de comprendre comment leurs systèmes d’IA sont classés en termes de risque et quelles actions sont nécessaires pour les aligner sur les réglementations à venir. Prenons par exemple les systèmes d’IA utilisés dans la gestion des clients ou dans le marketing, qui étaient auparavant utilisés assez librement. Désormais, ils nécessiteront une analyse approfondie pour vérifier leur conformité à la loi sur l’IA. Cela pourrait créer de nouvelles opportunités pour les cabinets spécialisés dans le conseil juridique technologique, aidant ainsi les PME à s’adapter à ces nouvelles exigences.

Si vous aimez notre contenu, rejoignez notre communauté d'abeilles très active sur Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest, TikTok.

Auteur : Robert Whitney

Expert JavaScript et instructeur qui coache les départements informatiques. Son objectif principal est d'améliorer la productivité de l'équipe en apprenant aux autres comment coopérer efficacement lors du codage.

Afficher tous les messages

L'IA en entreprise :

1. Menaces et opportunités de l’IA en entreprise (partie 1)
2. Menaces et opportunités de l’IA en entreprise (partie 2)
3. Applications de l'IA en entreprise - aperçu
4. Chatbots textuels assistés par l'IA
5. La PNL commerciale aujourd'hui et demain
6. Le rôle de l’IA dans la prise de décision en entreprise
7. Planification des publications sur les réseaux sociaux. Comment l’IA peut-elle aider ?
8. Publications automatisées sur les réseaux sociaux
9. Nouveaux services et produits fonctionnant avec l’IA
10. Quelles sont les faiblesses de mon idée d’entreprise ? Une séance de brainstorming avec ChatGPT
11. Utiliser ChatGPT en entreprise
12. Acteurs synthétiques. Top 3 des générateurs vidéo IA
13. 3 outils de conception graphique IA utiles. L'IA générative en entreprise
14. 3 superbes rédacteurs d'IA que vous devez essayer aujourd'hui
15. Explorer la puissance de l'IA dans la création musicale
16. Naviguer dans de nouvelles opportunités commerciales avec ChatGPT-4
17. Outils d'IA pour le manager
18. 6 superbes plugins ChatGTP qui vous faciliteront la vie
19. 3 graphiques AI. Génération d'intelligence pour l'entreprise
20. Quel est l’avenir de l’IA selon McKinsey Global Institute ?
21. L'intelligence artificielle en entreprise - Introduction
22. Qu'est-ce que la PNL, ou traitement du langage naturel en entreprise
23. Traitement automatique des documents
24. Google Traduction contre DeepL. 5 applications de la traduction automatique pour les entreprises
25. Le fonctionnement et les applications métiers des voicebots
26. La technologie des assistants virtuels, ou comment parler à l’IA ?
27. Qu’est-ce que la Business Intelligence ?
28. L’intelligence artificielle va-t-elle remplacer les analystes commerciaux ?
29. Comment l’intelligence artificielle peut-elle aider avec le BPM ?
30. IA et réseaux sociaux : que disent-ils de nous ?
31. L'intelligence artificielle dans la gestion de contenu
32. L'IA créative d'aujourd'hui et de demain
33. L'IA multimodale et ses applications en entreprise
34. De nouvelles interactions. Comment l’IA change-t-elle la façon dont nous utilisons les appareils ?
35. RPA et API dans une entreprise numérique
36. Le futur marché du travail et les métiers à venir
37. L'IA dans l'EdTech. 3 exemples d’entreprises qui ont utilisé le potentiel de l’intelligence artificielle
38. Intelligence artificielle et environnement. 3 solutions d'IA pour vous aider à bâtir une entreprise durable
39. Détecteurs de contenu IA. En valent-ils la peine ?
40. ChatGPT contre Bard contre Bing. Quel chatbot IA mène la course ?
41. L’IA chatbot est-elle un concurrent de la recherche Google ?
42. Invites ChatGPT efficaces pour les ressources humaines et le recrutement
43. Ingénierie rapide. Que fait un ingénieur rapide ?
44. Générateur de maquette IA. Les 4 meilleurs outils
45. L'IA et quoi d'autre ? Principales tendances technologiques pour les entreprises en 2024
46. IA et éthique des affaires. Pourquoi devriez-vous investir dans des solutions éthiques
47. Méta-IA. Que devez-vous savoir sur les fonctionnalités prises en charge par l'IA de Facebook et Instagram ?
48. Réglementation de l'IA. Que faut-il savoir en tant qu’entrepreneur ?
49. 5 nouveaux usages de l'IA en entreprise
50. Produits et projets d'IA : en quoi sont-ils différents des autres ?
51. Automatisation des processus assistée par l'IA. Où commencer?
52. Comment adapter une solution d’IA à un problème métier ?
53. L'IA en tant qu'expert dans votre équipe
54. Équipe IA vs répartition des rôles
55. Comment choisir un domaine de carrière en IA ?
56. Cela vaut-il toujours la peine d’ajouter l’intelligence artificielle au processus de développement de produits ?
57. L'IA dans les RH : comment l'automatisation du recrutement affecte les RH et le développement des équipes
58. 6 outils d'IA les plus intéressants en 2023
59. 6 plus gros incidents commerciaux causés par l’IA
60. Quelle est l’analyse de la maturité IA de l’entreprise ?
61. L'IA pour la personnalisation B2B
62. Cas d'utilisation de ChatGPT. 18 exemples de comment améliorer votre entreprise avec ChatGPT en 2024
63. Microapprentissage. Un moyen rapide d'acquérir de nouvelles compétences
64. Les implémentations d'IA les plus intéressantes en entreprise en 2024
65. Que font les spécialistes de l’intelligence artificielle ?
66. Quels défis le projet IA apporte-t-il ?
67. Top 8 des outils d'IA pour les entreprises en 2024
68. L'IA dans le CRM. Qu’est-ce que l’IA change dans les outils CRM ?
69. La loi UE sur l’IA. Comment l’Europe réglemente-t-elle l’utilisation de l’intelligence artificielle
70. Sora. Comment les vidéos réalistes d’OpenAI vont-elles changer le business ?