Закон ЕС об искусственном интеллекте. Как Европа регулирует использование искусственного интеллекта | ИИ в бизнесе №68

Что такое Закон об искусственном интеллекте и почему он важен для МСП (малых и средних предприятий)?

Закон об искусственном интеллекте является первым постановлением такого рода в мире. Первая компания, которая комплексно рассмотрела искусственный интеллект, используя человекоцентричный подход к ИИ. Его цель – обеспечить безопасность систем искусственного интеллекта, используемых в Европе, и стимулировать инновации при соблюдении основных прав, уделяя особое внимание:

• здравоохранение – например, соблюдение конфиденциальности данных пациентов,
• образование – соблюдение ценностей, продвигаемых Европейским Союзом, и избежание дискриминации,
• охрана границ – обеспечение безопасности без нарушения прав граждан,
• государственные услуги – следование передовому опыту в области защиты данных, права на информацию и четкой коммуникации.

Для МСП Закон об искусственном интеллекте в первую очередь принесет большую правовую определенность, поскольку он четко определяет основу для инноваций: принципы проектирования, разработки и применения систем искусственного интеллекта. Компаниям будет проще инвестировать в решения на основе искусственного интеллекта, что снизит юридические риски. Кроме того, правила, применимые на территории всего Союза, предотвратят фрагментацию рынка.

Европейские правила по искусственному интеллекту были приняты Европейским парламентом и Советом Европы 9 декабря 2023 года. Теперь, чтобы они вступили в силу, они должны быть официально приняты обоими институтами.

Ключевые аспекты Закона об искусственном интеллекте для бизнеса

Закон ЕС об искусственном интеллекте вводит набор требований к системам искусственного интеллекта в зависимости от уровня риска. Эти требования включают, среди прочего:

• обязательство прозрачности и уведомления пользователей в случае взаимодействия с чат-ботами, биометрическими системами или технологиями распознавания эмоций,
• запрет на использование конфиденциальных атрибутов для биометрической категоризации,
• обязательная оценка соответствия перед выходом на рынок систем высокого риска,
• обязательная регистрация в базе данных ЕС — после вступления в силу Закона об искусственном интеллекте системы искусственного интеллекта, используемые в ключевых секторах, таких как образование, занятость, здравоохранение и правоохранительная деятельность, должны будут пройти регистрацию.

Производители и компании, использующие системы искусственного интеллекта, также будут обязаны отслеживать риски после их вывода на рынок. Это напрямую повлияет на компании, разрабатывающие и внедряющие системы искусственного интеллекта.

Уровни риска систем искусственного интеллекта в соответствии с Законом ЕС об искусственном интеллекте

Закон об искусственном интеллекте классифицирует системы искусственного интеллекта на четыре категории в зависимости от уровня их риска:

1. Неприемлемый риск
2. Высокий риск
3. Ограниченный риск
4. Минимальный риск

Давайте подробнее рассмотрим, как будет определяться каждая группа, а также примеры систем и их классификаций.

Неприемлемый риск

Евросоюз вводит полный запрет на использование технологий, перечисленных в Законе об искусственном интеллекте как систем неприемлемого риска. В основном это системы, предназначенные для использования восприимчивости людей к внушению для манипулирования или обмана, системы, дающие искусственному интеллекту возможность принимать решения в важных вопросах, а также системы, которые могут привести к злоупотреблению властью. Примеры ИИ неприемлемого риска включают в себя:

• автономное оружие, работающее без присмотра человека,
• системы оценки достоверности, используемые правоохранительными органами,
• автоматические системы идентификации людей в общественных местах, например, на основе записей камер наблюдения,
• системы искусственного интеллекта, которые могут быть вредны для людей с физическими или умственными недостатками,
• ИИ, используемый в правоохранительных целях, за некоторыми исключениями,
• системы искусственного интеллекта, использующие вредные «подсознательные» и манипулятивные методы.

Для бизнеса последняя категория особенно важна. Именно поэтому прозрачность работы систем предоставления предложений пользователям и клиентам будет иметь решающее значение для соблюдения нового законодательства Европейского Союза.

Высокий риск

Искусственный интеллект, классифицируемый как решение искусственного интеллекта с высоким уровнем риска, должен будет соответствовать строгим требованиям, прежде чем выйти на рынок. Это включает в себя оценку соответствия и строгие испытания перед одобрением к использованию. Эта категория риска включает восемь областей, таких как:

• автономные транспортные средства,
• медицинские диагностические системы,
• прогнозирующие алгоритмы, поддерживающие систему правосудия,
• управление миграцией и предоставлением убежища, пограничный контроль, а также
• занятость и управление персоналом.

Ограниченный риск

Системам ограниченного риска, наиболее часто используемым в бизнесе, законодатели, к счастью, уделяют гораздо меньше внимания. В эту категорию входят:

• Чат-боты с искусственным интеллектом — используются для обслуживания клиентов или ответа на часто задаваемые вопросы в форме свободного разговора.
• системы распознавания эмоций – используются, например, для сбора данных о мнении клиентов о компании,
• системы биометрической категоризации , например, для оценки пола или возраста покупателей в физическом магазине,
• создание изображений, аудио или видео – несмотря на угрозу, исходящую от дипфейков, на эту область будет распространяться ограниченный набор обязательств.

Низкий или минимальный риск

Решения искусственного интеллекта с низким уровнем риска не подпадают под действие правового регулирования. В Законе об искусственном интеллекте будет упоминаться лишь то, что создатели и пользователи таких решений должны добровольно устанавливать политику использования. Это касается таких решений, как:

• системы рекомендаций контента в потоковых сервисах или
• чат-боты на сайтах, отвечающие на типичные вопросы клиентов.

Какие требования Закон об искусственном интеллекте предъявляет к решениям, используемым моей компанией?

Чтобы проверить, соответствует ли искусственный интеллект, используемый компанией, Закону об искусственном интеллекте, вам необходимо:

• отнести его к одной из четырех категорий риска, описанных выше,
• если это ИИ высокого риска, проведите оценку соответствия,
• использовать передовой опыт в отношении ИИ с низким уровнем риска.

Давайте рассмотрим примеры часто используемых компаниями ИИ-решений. Каким требованиям они должны будут соответствовать?

Чат-бот службы поддержки клиентов , предоставляющий базовую информацию о продуктах или отвечающий на типичные вопросы клиентов, скорее всего, будет классифицирован как система с минимальным риском. Для этого потребуется:

• информировать пользователей о том, что они взаимодействуют с ИИ,
• предоставить возможность перенаправления к консультанту-человеку,
• придерживаться общих требований относительно прозрачности, недискриминации и т. д.

Система рекомендаций продуктов в электронной коммерции, скорее всего, будет считаться системой с низким уровнем риска. Необходимо будет сообщить клиентам, что они получают персональные рекомендации, и предоставить возможность их отключить.

С другой стороны, система автоматической медицинской диагностики будет отнесена к системе высокого риска. Перед выходом на рынок он должен будет пройти строгую оценку и находиться под наблюдением человека. Кроме того, необходимо будет контролировать его работу и сообщать об инцидентах.

Городская система предотвращения преступности также будет считаться высокорискованной. Ему придется соблюдать правила о защите конфиденциальности и других основных прав. Его работа должна будет находиться под постоянным наблюдением человека.

Пока неясно, к какой категории попадут системы принятия решений на основе искусственного интеллекта. Вполне вероятно, что система подбора персонала на основе ИИ, которая самостоятельно принимает решения о найме, будет считаться ИИ-решением с неприемлемым риском. С другой стороны, система поддержки набора персонала, которая помогает людям выполнять свою работу, будет считаться решением с высоким риском.

Ради благополучия пользователей, а также возможных изменений в классификациях очень важно с самого начала подходить к построению и использованию систем ИИ этически и ответственно.

Каковы будут последствия несоблюдения Закона об искусственном интеллекте?

Несоблюдение Закона об искусственном интеллекте может привести к значительным штрафам для компаний: от 35 миллионов евро или 7% мирового оборота для крупных предприятий до 7,5 миллионов евро или 1,5% для МСП. Незаконные системы искусственного интеллекта могут быть сняты с рынка, а их использование может быть ограничено.

Как подготовиться к вступлению в силу Закона об искусственном интеллекте?

Так как же подготовить компанию, использующую искусственный интеллект, к вступлению в силу Закона об искусственном интеллекте в 2025 году? Вот несколько советов о том, как МСП и стартапы могут подготовиться к этому моменту:

• быть в курсе хода работ и сроков выполнения регламента,
• оценить уже используемые системы искусственного интеллекта и адаптировать их к новым требованиям,
• уделите особое внимание этическим аспектам при разработке ИИ.

Краткое содержание

Введение Закона об искусственном интеллекте — это большое изменение для экосистемы искусственного интеллекта в Европе. Однако благодаря четким и последовательным правилам оно обещает обеспечить безопасное и этичное развитие этой технологии, что должно принести пользу МСП и стартапам, в частности.

Закон об искусственном интеллекте, который вступит в силу в 2025 году, внесет существенные изменения в то, как малые и средние предприятия (МСП) могут использовать искусственный интеллект. Для малого и среднего бизнеса это в первую очередь означает необходимость тщательного рассмотрения и анализа используемых ими решений искусственного интеллекта как с точки зрения соответствия нормативным требованиям, так и с точки зрения потенциального воздействия на клиентов и сообщество.

Владельцам и менеджерам малого бизнеса важно понимать, как их системы ИИ классифицируются с точки зрения риска и какие действия необходимо предпринять, чтобы привести их в соответствие с будущими правилами. Возьмем, к примеру, системы искусственного интеллекта, используемые в управлении клиентами или маркетинге, которые раньше использовались достаточно свободно. Теперь им потребуется тщательный анализ на предмет соответствия Закону об искусственном интеллекте. Это может создать новые возможности для фирм, специализирующихся на юридических консультациях в сфере технологий, предоставляя МСП поддержку в адаптации к этим новым требованиям.

Если вам нравится наш контент, присоединяйтесь к нашему занятому сообществу пчел на Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest, TikTok.

Автор: Роберт Уитни

Эксперт и инструктор JavaScript, тренирующий ИТ-отделы. Его главная цель — повысить продуктивность команды, обучая других эффективному сотрудничеству при кодировании.

Просмотреть все сообщения

ИИ в бизнесе:

1. Угрозы и возможности ИИ в бизнесе (часть 1)
2. Угрозы и возможности ИИ в бизнесе (часть 2)
3. Приложения искусственного интеллекта в бизнесе – обзор
4. Текстовые чат-боты с поддержкой искусственного интеллекта
5. Бизнес НЛП сегодня и завтра
6. Роль ИИ в принятии бизнес-решений
7. Планирование публикаций в социальных сетях. Как ИИ может помочь?
8. Автоматизированные публикации в социальных сетях
9. Новые сервисы и продукты, работающие с ИИ
10. Каковы слабые стороны моей бизнес-идеи? Мозговой штурм с ChatGPT
11. Использование ChatGPT в бизнесе
12. Синтетические актеры. Топ-3 генератора видео с использованием искусственного интеллекта
13. 3 полезных инструмента графического дизайна с использованием искусственного интеллекта. Генеративный ИИ в бизнесе
14. 3 замечательных автора ИИ, которых вы должны попробовать сегодня
15. Исследование возможностей искусственного интеллекта в создании музыки
16. Навигация по новым бизнес-возможностям с помощью ChatGPT-4
17. Инструменты искусственного интеллекта для менеджера
18. 6 потрясающих плагинов ChatGTP, которые сделают вашу жизнь проще
19. 3 графика А.И. Генерация интеллектуальных технологий для бизнеса
20. Каково будущее искусственного интеллекта по мнению Глобального института McKinsey?
21. Искусственный интеллект в бизнесе – Введение
22. Что такое НЛП, или обработка естественного языка в бизнесе
23. Автоматическая обработка документов
24. Google Translate против DeepL. 5 применений машинного перевода для бизнеса
25. Работа и бизнес-приложения голосовых ботов
26. Технология виртуального помощника, или как поговорить с ИИ?
27. Что такое бизнес-аналитика?
28. Сможет ли искусственный интеллект заменить бизнес-аналитиков?
29. Как искусственный интеллект может помочь в BPM?
30. Искусственный интеллект и социальные сети – что они говорят о нас?
31. Искусственный интеллект в управлении контентом
32. Творческий ИИ сегодня и завтра
33. Мультимодальный ИИ и его применение в бизнесе
34. Новые взаимодействия. Как ИИ меняет то, как мы управляем устройствами?
35. RPA и API в цифровой компании
36. Будущий рынок труда и будущие профессии
37. ИИ в EdTech. 3 примера компаний, которые использовали потенциал искусственного интеллекта
38. Искусственный интеллект и окружающая среда. 3 решения искусственного интеллекта, которые помогут вам построить устойчивый бизнес
39. Детекторы контента AI. Стоят ли они того?
40. ChatGPT против Bard против Bing. Какой чат-бот с искусственным интеллектом лидирует в гонке?
41. Является ли искусственный интеллект чат-бота конкурентом поиска Google?
42. Эффективные подсказки ChatGPT для HR и подбора персонала
43. Оперативный инжиниринг. Что делает оперативный инженер?
44. Генератор макетов AI. Топ-4 инструмента
45. ИИ и что еще? Главные технологические тренды для бизнеса в 2024 году
46. ИИ и деловая этика. Почему вам следует инвестировать в этические решения
47. Мета ИИ. Что вам следует знать о функциях Facebook и Instagram, поддерживаемых искусственным интеллектом?
48. Регулирование ИИ. Что нужно знать предпринимателю?
49. 5 новых применений ИИ в бизнесе
50. Продукты и проекты искусственного интеллекта – чем они отличаются от других?
51. Автоматизация процессов с помощью искусственного интеллекта. Когда начать?
52. Как сопоставить решение ИИ с бизнес-проблемой?
53. ИИ как эксперт в вашей команде
54. Команда ИИ против разделения ролей
55. Как выбрать сферу карьеры в AI?
56. Всегда ли стоит добавлять искусственный интеллект в процесс разработки продукта?
57. ИИ в HR: как автоматизация подбора персонала влияет на HR и развитие команды
58. 6 самых интересных инструментов ИИ в 2023 году
59. 6 крупнейших бизнес-провалов, вызванных искусственным интеллектом
60. Каков анализ зрелости ИИ компании?
61. ИИ для персонализации B2B
62. Варианты использования ChatGPT. 18 примеров того, как улучшить свой бизнес с помощью ChatGPT в 2024 году
63. Микрообучение. Быстрый способ получить новые навыки
64. Самые интересные внедрения ИИ в компаниях в 2024 году
65. Чем занимаются специалисты по искусственному интеллекту?
66. Какие проблемы ставит проект ИИ?
67. 8 лучших инструментов искусственного интеллекта для бизнеса в 2024 году
68. ИИ в CRM. Что меняет ИИ в инструментах CRM?
69. Закон ЕС об искусственном интеллекте. Как Европа регулирует использование искусственного интеллекта
70. Сора. Как реалистичные видеоролики от OpenAI изменят бизнес?