Réglementation de l'IA. Que faut-il savoir en tant qu’entrepreneur ? | L'IA en entreprise #47

Comprendre les réglementations sur l'IA. Qu’est-ce que c’est et comment cela change-t-il le business ?

L’intelligence artificielle est un ensemble de technologies et de méthodes permettant aux machines d’imiter les capacités cognitives humaines. Les systèmes d’IA peuvent apprendre et résoudre des problèmes de manière de plus en plus similaire à celle des humains. Un rôle clé est joué par l’apprentissage automatique et l’apprentissage profond, qui permettent aux algorithmes de s’optimiser en fonction des données.

Les applications de l’IA sont presque illimitées :

• générer du contenu – du texte, comme le font ChatGPT et Bard, ou des images dans Midjourney et DALL-E-3,
• traductions – très utile pour les affaires internationales,
• reconnaissance d'images et de sons – utilisée, par exemple, lors de l'inspection de l'environnement de travail avec des caméras ou des enregistrements d'appels de centres d'appels,
• analyse avancée des données provenant de diverses sources – des médias sociaux aux capteurs industriels.

Il s’agit d’une véritable révolution qui change le visage de nombreuses industries. L'IA permet aux entreprises d'automatiser les processus, de mieux comprendre les clients ou de développer de nouveaux produits. Cependant, la technologie comporte également des risques, d’où la nécessité d’une réglementation.

Réglementation sur l'IA : concepts et principes clés

Lors de la mise en œuvre de solutions d'IA dans votre entreprise, vous devez être conscient des réglementations en vigueur liées à l'utilisation de l'intelligence artificielle. Les plus importants d'entre eux sont :

• droits d'auteur,
• loi sur la protection des données,
• lois concernant la responsabilité pour le fonctionnement de l’intelligence artificielle utilisée par les entreprises.

Loi sur le droit d’auteur contre intelligence artificielle

La loi sur le droit d'auteur protège les droits personnels et de propriété des créateurs. Dans de nombreux pays, seules les œuvres créées par l’homme peuvent bénéficier de sa protection. En conséquence, les avocats ont tendance à interpréter que les œuvres créées uniquement par l’IA dans le cadre d’un processus automatisé ne sont pas soumises au droit d’auteur, même si l’intelligence artificielle est généralement incapable de créer du contenu sans la collaboration humaine.

Dans le contexte commercial, les préoccupations réglementaires liées à la paternité sont les suivantes :

• utiliser les œuvres de créateurs vivants pour enseigner l’intelligence artificielle – cela s’applique aux entreprises qui créent leurs modèles ou enseignent ceux qui existent déjà à l’aide de données accessibles au public ; en effet, toutes les œuvres – de la peinture et de la sculpture à l’image de marque en passant par les textes publiés sur des sites Internet – sont soumises au droit d’auteur,
• protection des documents d’entreprise créés avec l’intelligence artificielle – il est ici nécessaire de lire attentivement les règles et réglementations de chaque outil d’IA pour savoir quelles réglementations ils invoquent. Cependant, ils transfèrent généralement les droits sur l'œuvre créée en coopération avec l'IA à la personne qui tape les indices ou les invites pour l'intelligence artificielle, se laissant libre d'utiliser le contenu créé à des fins promotionnelles ou de recherche.

Le 30 octobre 2023 a marqué le premier verdict du célèbre procès pour violation du droit d'auteur intenté par trois artistes américaines Sarah Anderson, Kelly McKernan et Karla Ortiz contre les trois sociétés à l'origine des principaux générateurs d'images Midjourney, Stable Diffusion et Dream Up.

Les artistes ont écrit dans leur procès que des modèles d'intelligence artificielle étaient enseignés sur leurs œuvres sans leur autorisation et pouvaient ainsi générer des œuvres qui copiaient leurs œuvres, violant ainsi leurs droits d'auteur. Cependant, le tribunal a rejeté leurs demandes dans une décision de 28 pages, déclarant, entre autres choses, qu'aux États-Unis, les droits d'auteur doivent être enregistrés pour pouvoir intenter une action en justice pour leur prétendue violation. Les artistes n’ont pas pu identifier lesquelles de leurs œuvres figuraient dans un ensemble de données d’images téléchargées sur Internet et utilisées pour entraîner l’intelligence artificielle.

Loi sur la protection des données personnelles

La loi sur la protection des données (RODO) réglemente le traitement des données personnelles, qui sont au cœur de nombreuses applications d’IA. Les systèmes d’IA collectent et traitent souvent d’énormes quantités de données, ce qui met les entreprises au défi d’assurer leur sécurité. Pour les entrepreneurs, cela signifie non seulement sécuriser les informations acquises, mais également garantir leur traitement transparent et leur responsabilité tout au long du processus. En pratique, cela nécessite la mise en œuvre de mécanismes de sécurité efficaces et de procédures de gestion des données appropriées pour garantir la protection de la vie privée et le respect des droits des utilisateurs.

Responsabilité de l'IA

De nouvelles réglementations sont actuellement en cours d’élaboration pour faciliter les réclamations pour dommages causés par les systèmes d’IA. La question clé ici est la question de la responsabilité civile : le fabricant, l’utilisateur ou le système lui-même est responsable des actions de l’IA. Les réglementations en attente pourraient introduire des solutions telles que :

• assurance obligatoire pour les fabricants d’IA, ou
• fonds spéciaux de compensation.
• Il est donc important que les entrepreneurs suivent de près ces changements et se préparent aux nouvelles exigences et obligations.

Comment l’IA change-t-elle le paysage juridique des petites entreprises ?

La révolution de l’IA est une opportunité pour les petites entreprises : grâce aux nouvelles technologies, elles peuvent rivaliser avec les grands acteurs. Cependant, la mise en œuvre d’outils d’IA avancés implique le respect de normes juridiques strictes. Et cela nécessite des dépenses financières et des connaissances que les petits acteurs ne peuvent pas toujours se permettre.

C'est pourquoi les petits entrepreneurs doivent se familiariser à l'avance avec les réglementations actuelles et prévues – cela leur permettra de minimiser les risques juridiques et de mettre en œuvre l'IA de manière responsable. Il vaut la peine de recourir aux services d’avocats spécialisés dans les nouvelles technologies.

Source : DALL-E 3, invite : Marta M. Kania (https://www.linkedin.com/in/martamatyldakania/)

Exemples d'applications de l'IA en entreprise et leur réglementation légale en matière d'IA

Quels sont les dilemmes juridiques liés à la mise en œuvre pratique de l’IA ? Voici des exemples :

• chatbots – l’utilisation de ChatGPT dans une entreprise sous une licence non-entreprise implique l’acceptation des termes et conditions de participation à une « expérience scientifique » menée par OpenAI ; les conversations menées peuvent être revues et utilisées pour créer des ensembles de données destinés à enseigner la prochaine génération d’intelligence artificielle,
• les voicebots – peuvent collecter des données personnelles à l'insu des appelants, ce qui soulève des problèmes de confidentialité ; car les données concernent non seulement le sujet de la conversation mais aussi, par exemple, un enregistrement de la voix de la personne. Un petit échantillon suffit pour le « cloner », c'est-à-dire créer une copie grâce à l'intelligence artificielle, qui peut créer des enregistrements au son naturel de tout contenu qui ressemblera aux paroles de cette personne,
• personnalisation – les algorithmes qui collectent et catégorisent les données sur les utilisateurs peuvent violer le principe d’égalité de traitement ; il existe également un risque qu'ils soient utilisés à des fins de manipulation, créant des bulles d'information basées sur une personnalisation précise du message ; par conséquent, l’un des principes de base de l’éthique de l’IA, ainsi que des futures réglementations sur l’utilisation de l’intelligence artificielle, sera la transparence dans l’utilisation des données – mais on ne sait pas à quoi cela ressemblera dans la pratique,
• voitures autonomes – nécessitent de nouvelles réglementations sur la sécurité et la responsabilité en cas d’éventuels accidents impliquant des voitures sans conducteur.

Comme vous pouvez le constater, des problèmes techniques apparemment sans rapport impliquent le respect de nombreuses réglementations. Et ce ne sont là que quelques exemples les plus proches de la réalité commerciale actuelle.

Principaux défis juridiques liés à la mise en œuvre de la réglementation sur l’IA dans les petites entreprises

Qu’est-ce qui peut spécifiquement donner aux propriétaires de petites entreprises mettant en œuvre des systèmes d’IA avancés des nuits blanches ? Il s’agit principalement :

• une réglementation complexe et changeante – dans le paysage en rapide évolution des outils d’IA, il est difficile de suivre les innovations technologiques, tandis que les réglementations légales les concernant tardent à émerger, il reste donc à suivre la réglementation des outils utilisés et à consulter un avocat spécialisé dans le droit concerné par le domaine d'activité de l'entreprise,
• responsabilité pour les erreurs d'IA – c'est l'un des principaux problèmes pour les propriétaires d'entreprise dans la mise en œuvre des derniers développements en matière d'intelligence artificielle, la question est de savoir qui sera responsable de tout dommage en cas de violation de la protection des données des clients ou de plagiat commis par un réseau social. générateur de publication multimédia,
• droits sur les œuvres créées par l’IA – comment protéger la propriété intellectuelle si elle est créée en collaboration avec l’intelligence artificielle afin que la protection soit efficace au sein d’un système juridique donné ? Il s'agit d'une question très importante en l'absence de réglementations et de moyens pratiques permettant de faire la distinction entre le contenu généré par l'homme et celui créé par l'homme.
• discrimination involontaire – comment éliminer les biais algorithmiques qui peuvent conduire, par exemple, à la création de segments de clients de « première » et de « deuxième » catégories selon des règles de catégorisation comprises uniquement par l’IA.

Il s’agit de dilemmes fondamentaux auxquels sont confrontées les entreprises mettant en œuvre des solutions avancées basées sur l’intelligence artificielle.

Un guide pour les entrepreneurs : Comment garantir le respect de la réglementation sur l’IA ?

Les lois régissant l’utilisation de l’intelligence artificielle sont encore en cours d’élaboration dans de nombreux pays. Par la force, il ne sera possible d’assurer le respect des réglementations en matière d’IA qu’après leur entrée en vigueur. En octobre 2023, la Maison Blanche a publié le Blueprint for AI Bill of Rights for the United States, qui comprend cinq principes visant à protéger les citoyens contre les dommages causés par l’intelligence artificielle. Les principes portent sur la sécurité et l'efficacité des systèmes, la protection contre la discrimination algorithmique, la confidentialité des données, l'information et les explications, ainsi que les options alternatives. Sa formulation détaillée peut être trouvée ici : https://www.whitehouse.gov/ostp/ai-bill-of-rights/

La réglementation régissant l'intelligence artificielle aux États-Unis établit de nouvelles normes de sécurité et de protection de l'IA visant à protéger la vie privée des Américains, à promouvoir l'innovation et la concurrence, ainsi qu'à renforcer la position des États-Unis en tant que leader dans le développement de l'intelligence artificielle au niveau international. Les actions clés comprennent :

• établir des exigences en matière de tests de sécurité et de partage des résultats par les entreprises développant des systèmes d'IA avancés,
• développer des normes, des outils et des tests de sécurité pour l'IA,
• lutter contre les discriminations causées par les algorithmes,
• protéger les consommateurs, les patients, les employés et les étudiants,
• garantir une utilisation responsable de l’IA par le gouvernement.

L’Union européenne, à son tour, travaille sur l’« AI Act », un ensemble de réglementations couvrant toutes les applications de l’IA dans l’UE. Il vise à couvrir tous les outils et groupes d’intérêt – États, entreprises et particuliers – et à diviser les systèmes d’IA en catégories de risques :

1. Les systèmes qui présentent des risques non autorisés – par exemple, basés sur des techniques subliminales,
2. Les systèmes à haut risque – tels que l’identification biométrique ou la gestion des infrastructures critiques,
3. Systèmes à risque limité.

La responsabilité du bon fonctionnement des systèmes à haut risque incombe principalement à leurs fournisseurs, ce qui peut devenir un fardeau considérable pour les entreprises proposant de telles solutions. Le texte intégral de la « Loi sur l'intelligence artificielle » peut être consulté ici : https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=celex%3A52021PC0206

Alors, comment minimiser les risques juridiques lors de la mise en œuvre de l’IA dans votre entreprise ? Voici quelques conseils pratiques. Premièrement:

• se concentrer sur les impacts anticipés de la mise en œuvre de systèmes d’IA pour détecter les risques potentiels à l’avance,
• dès le début, garder à l’esprit les mécanismes de contrôle et de supervision du fonctionnement des algorithmes, comme par exemple des outils humains ou automatisés qui surveillent leur comportement,
• vérifiez que vous utilisez des fournisseurs de technologie d'IA de confiance, lisez les réglementations et les mises à jour,
• Gardez un œil attentif sur la mise à jour des réglementations en matière d’IA et respectez-les.
• En cas de doute, demandez conseil à des avocats spécialisés dans les nouvelles technologies.

L’avenir de la réglementation de l’IA. À quoi peuvent s’attendre les entrepreneurs ?

La réglementation de l’IA en est encore à ses balbutiements, mais il est déjà évident que nous nous dirigeons vers un contrôle et une surveillance accrus de la technologie. Un exemple est l’« AI Act » de l’UE, qui impose des normes strictes aux systèmes à haut risque.

D’un autre côté, des voix s’élèvent, par exemple au Royaume-Uni, en faveur d’une réglementation plus souple qui n’étouffera pas l’innovation. Peut-être que l’avenir sera un juste milieu ?

Résumé

La révolution de l’intelligence artificielle constitue une énorme opportunité commerciale. Cependant, lors de l’introduction de solutions avancées d’IA dans une petite entreprise, il convient d’être conscient de nombreux pièges juridiques. Les réglementations existantes et prévues peuvent donner mal à la tête à de nombreux propriétaires d’entreprise. Il est donc crucial de comprendre très tôt les aspects juridiques de l’IA, de mener des analyses de risques approfondies et de respecter toutes les exigences. Les entreprises et les clients pourront alors profiter pleinement des avantages de l’intelligence artificielle.

Si vous aimez notre contenu, rejoignez notre communauté d'abeilles très active sur Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest, TikTok.

Auteur : Robert Whitney

Expert JavaScript et instructeur qui coache les départements informatiques. Son objectif principal est d'améliorer la productivité de l'équipe en apprenant aux autres comment coopérer efficacement lors du codage.

Afficher tous les messages

L'IA en entreprise :

1. Menaces et opportunités de l’IA en entreprise (partie 1)
2. Menaces et opportunités de l’IA en entreprise (partie 2)
3. Applications de l'IA en entreprise - aperçu
4. Chatbots textuels assistés par l'IA
5. La PNL commerciale aujourd'hui et demain
6. Le rôle de l’IA dans la prise de décision en entreprise
7. Planification des publications sur les réseaux sociaux. Comment l’IA peut-elle aider ?
8. Publications automatisées sur les réseaux sociaux
9. Nouveaux services et produits fonctionnant avec l’IA
10. Quelles sont les faiblesses de mon idée d’entreprise ? Une séance de brainstorming avec ChatGPT
11. Utiliser ChatGPT en entreprise
12. Acteurs synthétiques. Top 3 des générateurs vidéo IA
13. 3 outils de conception graphique IA utiles. L'IA générative en entreprise
14. 3 superbes rédacteurs d'IA que vous devez essayer aujourd'hui
15. Explorer la puissance de l'IA dans la création musicale
16. Naviguer dans de nouvelles opportunités commerciales avec ChatGPT-4
17. Outils d'IA pour le manager
18. 6 superbes plugins ChatGTP qui vous faciliteront la vie
19. 3 graphiques AI. Génération d'intelligence pour l'entreprise
20. Quel est l’avenir de l’IA selon McKinsey Global Institute ?
21. L'intelligence artificielle en entreprise - Introduction
22. Qu'est-ce que la PNL, ou traitement du langage naturel en entreprise
23. Traitement automatique des documents
24. Google Traduction contre DeepL. 5 applications de la traduction automatique pour les entreprises
25. Le fonctionnement et les applications métiers des voicebots
26. La technologie des assistants virtuels, ou comment parler à l’IA ?
27. Qu’est-ce que la Business Intelligence ?
28. L’intelligence artificielle va-t-elle remplacer les analystes commerciaux ?
29. Comment l’intelligence artificielle peut-elle aider avec le BPM ?
30. IA et réseaux sociaux : que disent-ils de nous ?
31. L'intelligence artificielle dans la gestion de contenu
32. L'IA créative d'aujourd'hui et de demain
33. L'IA multimodale et ses applications en entreprise
34. De nouvelles interactions. Comment l’IA change-t-elle la façon dont nous utilisons les appareils ?
35. RPA et API dans une entreprise numérique
36. Le futur marché du travail et les métiers à venir
37. L'IA dans l'EdTech. 3 exemples d’entreprises qui ont utilisé le potentiel de l’intelligence artificielle
38. Intelligence artificielle et environnement. 3 solutions d'IA pour vous aider à bâtir une entreprise durable
39. Détecteurs de contenu IA. En valent-ils la peine ?
40. ChatGPT contre Bard contre Bing. Quel chatbot IA mène la course ?
41. L’IA du chatbot est-elle un concurrent de la recherche Google ?
42. Invites ChatGPT efficaces pour les ressources humaines et le recrutement
43. Ingénierie rapide. Que fait un ingénieur rapide ?
44. Générateur de maquette IA. Les 4 meilleurs outils
45. L'IA et quoi d'autre ? Principales tendances technologiques pour les entreprises en 2024
46. IA et éthique des affaires. Pourquoi devriez-vous investir dans des solutions éthiques
47. Méta-IA. Que devez-vous savoir sur les fonctionnalités prises en charge par l'IA de Facebook et Instagram ?
48. Réglementation de l'IA. Que faut-il savoir en tant qu’entrepreneur ?