A Lei de IA da UE. Como é que a Europa regula a utilização da inteligência artificial | IA nos negócios #68

O que é a Lei da IA ​​e porque é que é importante para as PME (pequenas e médias empresas)?

A Lei AI é a primeira regulamentação desse tipo no mundo. O primeiro a abordar de forma abrangente a inteligência artificial a partir de uma abordagem centrada no ser humano para a IA. Pretende garantir que os sistemas de IA utilizados na Europa sejam seguros e estimulem a inovação, respeitando simultaneamente os direitos fundamentais, com especial destaque para:

• cuidados de saúde – por exemplo, respeitando a privacidade dos dados dos pacientes,
• educação – aderir aos valores promovidos pela União Europeia e evitar a discriminação,
• proteção das fronteiras – garantindo a segurança sem violar os direitos dos cidadãos,
• serviços públicos – seguindo as melhores práticas em proteção de dados, direito à informação e comunicação clara.

Para as PME, a Lei da IA ​​trará principalmente maior segurança jurídica, uma vez que define claramente o quadro para a inovação: os princípios de concepção, desenvolvimento e aplicação de sistemas de IA. Tornará mais fácil para as empresas investirem em soluções baseadas em IA, reduzindo os riscos jurídicos. Além disso, a regulamentação aplicável em toda a União evitará a fragmentação do mercado.

Os regulamentos europeus sobre inteligência artificial foram adotados pelo Parlamento Europeu e pelo Conselho da Europa em 9 de dezembro de 2023. Agora, devem ser formalmente aceitos por ambas as instituições para entrarem em vigor.

Aspectos principais da Lei de IA para empresas

A Lei da UE sobre IA introduz um conjunto de requisitos para sistemas de IA, dependendo do nível de risco. Esses requisitos incluem, entre outros:

• a obrigação de transparência e de notificação aos utilizadores no caso de interações com chatbots, sistemas biométricos ou tecnologias de reconhecimento de emoções,
• proibição de usar atributos sensíveis para categorização biométrica,
• avaliação obrigatória da conformidade antes da entrada no mercado para sistemas de alto risco,
• registo obrigatório na base de dados da UE — após a entrada em vigor da Lei da IA, os sistemas de IA utilizados em setores-chave como a educação, o emprego, os cuidados de saúde e a aplicação da lei terão de ser registados.

Os fabricantes e empresas que utilizam sistemas de IA também serão obrigados a monitorizar os riscos após a sua introdução no mercado. Isto terá um impacto direto nas empresas que projetam e implementam sistemas de IA.

Níveis de risco dos sistemas de IA de acordo com a Lei de IA da UE

A Lei da IA ​​classifica os sistemas de IA em quatro categorias com base no seu nível de risco:

1. Risco inaceitável
2. Alto risco
3. Risco limitado
4. Risco mínimo

Vejamos mais de perto como cada grupo será definido, juntamente com exemplos de sistemas e suas classificações.

Risco inaceitável

A União Europeia impõe uma proibição total da utilização de tecnologias listadas na Lei da IA ​​como sistemas de risco inaceitável. Trata-se principalmente de sistemas concebidos para explorar a suscetibilidade dos indivíduos à sugestão de manipulação ou engano, sistemas que dão à inteligência artificial a capacidade de tomar decisões em questões cruciais e aqueles que podem levar ao abuso de poder. Exemplos de IA de risco inaceitável incluem:

• armas autônomas operando sem supervisão humana,
• sistemas de avaliação de credibilidade usados ​​pelas agências de aplicação da lei,
• sistemas de identificação automática de indivíduos em espaços públicos, como aqueles baseados em imagens de câmeras de vigilância,
• sistemas de inteligência artificial que podem ser prejudiciais a indivíduos com deficiência física ou mental,
• IA empregada para fins de aplicação da lei, com exceções limitadas,
• sistemas de inteligência artificial que utilizam técnicas prejudiciais “subliminares” e manipulativas.

Para as empresas, a última categoria é particularmente importante. É por isso que a transparência no funcionamento dos sistemas que fornecem sugestões aos utilizadores e clientes será crucial para o cumprimento da nova legislação da União Europeia.

Alto risco

A inteligência artificial classificada como uma solução de IA de alto risco terá de cumprir requisitos rigorosos antes de entrar no mercado. Isto envolve avaliações de conformidade e testes rigorosos antes de ser aprovado para uso. Esta categoria de risco inclui oito áreas, tais como:

• veículos autônomos,
• sistemas de diagnóstico médico,
• algoritmos preditivos que apoiam o sistema de justiça,
• gestão da migração e do asilo, controlo das fronteiras, bem como
• gestão do emprego e da força de trabalho.

Risco limitado

Felizmente, os legisladores prestaram muito menos atenção aos sistemas de risco limitado, mais comummente utilizados nas empresas. Esta categoria inclui:

• Chatbots de IA – usados ​​para atendimento ao cliente ou para responder a perguntas frequentes na forma de conversas fluidas,
• sistemas de reconhecimento de emoções – usados, por exemplo, para coletar dados sobre as opiniões dos clientes sobre uma empresa,
• sistemas de categorização biométrica – como avaliar o sexo ou idade dos clientes em uma loja física,
• geração de imagem, áudio ou vídeo – apesar da ameaça representada pelas falsificações profundas, esta área estará sujeita a um conjunto limitado de obrigações.

Risco baixo ou mínimo

As soluções de IA de baixo risco não estão sujeitas a regulamentações legais. A Lei AI mencionará apenas que os criadores e usuários de tais soluções devem estabelecer voluntariamente políticas de uso. Isso se aplica a soluções como:

• sistemas de recomendação de conteúdo em serviços de streaming, ou
• chatbots em sites respondendo a perguntas típicas de clientes.

Quais requisitos a Lei de IA impõe às soluções utilizadas pela minha empresa?

Para verificar se a inteligência artificial utilizada por uma empresa está em conformidade com a Lei de IA, você deve:

• classificá-lo em uma das quatro categorias de risco descritas acima,
• se for IA de alto risco, realize uma avaliação de conformidade,
• utilizar boas práticas em matéria de IA de baixo risco.

Vejamos exemplos de soluções de IA frequentemente utilizadas pelas empresas. Que requisitos eles terão que atender?

Um chatbot de atendimento ao cliente que fornece informações básicas sobre produtos ou responde a perguntas típicas dos clientes provavelmente será classificado como um sistema de risco mínimo. Será necessário:

• informar aos usuários que eles estão interagindo com IA,
• fornecer a opção de ser redirecionado para um consultor humano,
• aderir aos requisitos gerais em matéria de transparência, não discriminação, etc.

Um sistema de recomendação de produtos no comércio eletrônico provavelmente será considerado um sistema de baixo risco. Será necessário informar aos clientes que estão recebendo recomendações personalizadas e oferecer a opção de desativá-las.

Por outro lado, um sistema de diagnóstico médico automático será classificado como sistema de alto risco. Terá de passar por uma avaliação rigorosa antes de entrar no mercado e ser supervisionado por um ser humano. Além disso, será necessário monitorar seu funcionamento e reportar incidentes.

O sistema de prevenção da criminalidade urbana também será considerado de alto risco. Terá de cumprir os regulamentos relativos à protecção da privacidade e de outros direitos fundamentais. O seu funcionamento deverá estar sob constante supervisão humana.

Não está claro em que categoria os sistemas de tomada de decisão baseados em IA se enquadrarão. É provável que um sistema de recrutamento baseado em IA, que toma decisões de contratação por si próprio, seja considerado uma solução de IA de risco inaceitável. Por outro lado, um sistema de apoio ao recrutamento que ajude as pessoas a realizar o seu trabalho seria considerado uma solução de alto risco.

Para o bem-estar dos utilizadores, bem como para possíveis alterações nas classificações, é muito importante abordar a construção e utilização de sistemas de IA de forma ética e responsável desde o início.

Quais serão as consequências do não cumprimento da Lei de IA?

O não cumprimento da Lei da IA ​​pode levar a multas significativas para as empresas, que variam entre 35 milhões de euros ou 7% do volume de negócios global para grandes empresas e 7,5 milhões de euros ou 1,5% para as PME. Os sistemas ilegais de IA poderão ser retirados do mercado e a sua utilização poderá ser limitada.

Como se preparar para a entrada em vigor da Lei AI?

Então, como você prepara uma empresa que usa inteligência artificial para a Lei de IA que entrará em vigor em 2025? Aqui estão algumas dicas de como PMEs e startups podem se preparar para esse momento:

• manter-se atualizado sobre o andamento dos trabalhos e o cronograma de implementação dos regulamentos,
• avaliar os sistemas de IA já em uso e adaptá-los aos novos requisitos,
• prestar especial atenção aos aspectos éticos na concepção da IA.

Resumo

A introdução da Lei da IA ​​representa uma grande mudança para o ecossistema de IA na Europa. No entanto, com regras claras e consistentes, promete garantir o desenvolvimento seguro e ético desta tecnologia, o que deverá beneficiar em particular as PME e as empresas em fase de arranque.

A Lei da IA, que entrará em vigor em 2025, trará mudanças significativas na forma como as pequenas e médias empresas (PMEs) podem aproveitar a inteligência artificial. Para as PME, isto significa principalmente a necessidade de consideração e análise cuidadosa das soluções de IA que utilizam, tanto em termos de conformidade com os regulamentos como de potencial impacto nos clientes e na comunidade.

Para proprietários e gestores de pequenas empresas, é essencial compreender como os seus sistemas de IA são categorizados em termos de risco e quais ações são necessárias para alinhá-los com as regulamentações futuras. Vejamos, por exemplo, os sistemas de IA utilizados na gestão de clientes ou no marketing, que anteriormente eram utilizados de forma bastante livre. Agora, eles exigirão uma análise completa para conformidade com a Lei de IA. Isto poderia criar novas oportunidades para empresas especializadas em aconselhamento jurídico tecnológico, proporcionando às PME apoio na adaptação a estes novos requisitos.

Se você gosta do nosso conteúdo, junte-se à nossa comunidade de abelhas ocupadas no Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest, TikTok.

Autor: Robert Whitney

Especialista em JavaScript e instrutor que orienta departamentos de TI. Seu principal objetivo é aumentar a produtividade da equipe, ensinando aos outros como cooperar de forma eficaz durante a codificação.

Ver todas as postagens

IA nos negócios:

1. Ameaças e oportunidades da IA ​​nos negócios (parte 1)
2. Ameaças e oportunidades da IA ​​nos negócios (parte 2)
3. Aplicações de IA nos negócios – visão geral
4. Chatbots de texto assistidos por IA
5. PNL empresarial hoje e amanhã
6. O papel da IA ​​na tomada de decisões de negócios
7. Agendamento de postagens nas redes sociais. Como a IA pode ajudar?
8. Postagens automatizadas em mídias sociais
9. Novos serviços e produtos operando com IA
10. Quais são os pontos fracos da minha ideia de negócio? Uma sessão de brainstorming com ChatGPT
11. Usando ChatGPT nos negócios
12. Atores sintéticos. Os 3 principais geradores de vídeo de IA
13. 3 ferramentas úteis de design gráfico de IA. IA generativa nos negócios
14. 3 incríveis escritores de IA que você deve experimentar hoje
15. Explorando o poder da IA ​​na criação musical
16. Navegando em novas oportunidades de negócios com ChatGPT-4
17. Ferramentas de IA para o gestor
18. 6 plugins ChatGTP incríveis que tornarão sua vida mais fácil
19. 3 gráficos AI. Geração de inteligência inteligente para negócios
20. Qual é o futuro da IA ​​de acordo com o McKinsey Global Institute?
21. Inteligência artificial nos negócios - Introdução
22. O que é PNL ou processamento de linguagem natural nos negócios
23. Processamento automático de documentos
24. Google Tradutor x DeepL. 5 aplicações da tradução automática para empresas
25. A operação e aplicações de negócios de voicebots
26. Tecnologia de assistente virtual ou como falar com IA?
27. O que é inteligência de negócios?
28. A inteligência artificial substituirá os analistas de negócios?
29. Como a inteligência artificial pode ajudar no BPM?
30. IA e redes sociais – o que dizem sobre nós?
31. Inteligência artificial no gerenciamento de conteúdo
32. IA criativa de hoje e de amanhã
33. IA multimodal e suas aplicações nos negócios
34. Novas interações. Como a IA está mudando a maneira como operamos os dispositivos?
35. RPA e APIs em uma empresa digital
36. O futuro mercado de trabalho e as próximas profissões
37. IA em EdTech. 3 exemplos de empresas que utilizaram o potencial da inteligência artificial
38. Inteligência artificial e meio ambiente. 3 soluções de IA para ajudá-lo a construir um negócio sustentável
39. Detectores de conteúdo de IA. Eles valem a pena?
40. ChatGPT vs Bardo vs Bing. Qual chatbot de IA está liderando a corrida?
41. O chatbot AI é um concorrente da pesquisa do Google?
42. Solicitações eficazes do ChatGPT para RH e recrutamento
43. Engenharia imediata. O que um engenheiro imediato faz?
44. Gerador de maquete de IA. 4 principais ferramentas
45. IA e o que mais? Principais tendências de tecnologia para negócios em 2024
46. IA e ética empresarial. Por que você deve investir em soluções éticas
47. Meta IA. O que você deve saber sobre os recursos suportados por IA do Facebook e Instagram?
48. Regulamentação de IA. O que você precisa saber como empreendedor?
49. 5 novos usos da IA ​​nos negócios
50. Produtos e projetos de IA – como eles são diferentes dos outros?
51. Automação de processos assistida por IA. Onde começar?
52. Como você combina uma solução de IA com um problema de negócios?
53. IA como especialista em sua equipe
54. Equipe de IA vs. divisão de funções
55. Como escolher uma área de carreira em IA?
56. Sempre vale a pena adicionar inteligência artificial ao processo de desenvolvimento de produtos?
57. IA em RH: como a automação do recrutamento afeta o RH e o desenvolvimento da equipe
58. 6 ferramentas de IA mais interessantes em 2023
59. 6 maiores percalços empresariais causados ​​pela IA
60. Qual é a análise de maturidade de IA da empresa?
61. IA para personalização B2B
62. Casos de uso do ChatGPT. 18 exemplos de como melhorar seu negócio com ChatGPT em 2024
63. Microaprendizagem. Uma maneira rápida de obter novas habilidades
64. As implementações de IA mais interessantes nas empresas em 2024
65. O que os especialistas em inteligência artificial fazem?
66. Que desafios o projeto de IA traz?
67. As 8 principais ferramentas de IA para negócios em 2024
68. IA em CRM. O que a IA muda nas ferramentas de CRM?
69. A Lei de IA da UE. Como a Europa regula o uso de inteligência artificial
70. Sora. Como os vídeos realistas da OpenAI mudarão os negócios?