Первые в мире правила для искусственного: Европарламент принял AI Act

Европарламент принял закон под названием AI Act, устанавливающий правила и требования для разработчиков моделей искусственного интеллекта. Документ призван обеспечить безопасность, прозрачность, экологичность и этичность использования ИИ в Европе. Об этом пишет noworries.

0

►Читайте страницу «Минфина» в фейсбуке: главные финансовые новости

Новые правила

Правила устанавливают риск-ориентированный подход к ИИ и формулируют обязательства для разработчиков и пользователей ИИ в зависимости от уровня риска, который он может создавать.

Системы ИИ с неприемлемым уровнем риска безопасности людей будут строго запрещены. В эту группу войдут, например, системы, использующие подсознательные или целенаправленные манипулятивные методы, эксплуатирующие уязвимости людей или используемые для социальной оценки (классификация людей на основе их поведения, социально-экономического статуса, личных характеристик).

Парламент также уточнил список практик, запрещенных к искусственному интеллекту. В него вошли:

• удаленная биометрическая идентификация, в том числе в общественных местах в реальном времени, с исключением для правоохранительных органов и только после судебного разрешения;
• биометрическая категоризация с использованием чувствительных характеристик (например пол, раса, этническая принадлежность, гражданство, религия, политическая позиция);
• прогностические полицейские системы (основаны на профилировании, местонахождении или прошлом уголовном поведении);
• распознавание эмоций в правоохранительных органах, пограничных службах, на рабочих местах и в учебных заведениях;
• неизбирательное извлечение биометрических данных из социальных сетей или видеозаписей из камер видеонаблюдения для создания баз данных распознавания лиц (нарушение прав человека и права на неприкосновенность частной жизни).

Читайте: Как вложиться в искусственный интеллект: три стратегии инвестирования

Закон уточняет список АИ-систем «высокого риска». Согласно документу, это системы, которые могут потенциально нанести вред здоровью людей или окружающей среде. Сюда также входят системы искусственного интеллекта, которые используются для воздействия на избирателей в политических кампаниях и алгоритмов рекомендаций соцсетей.

Поставщики и разработчики «высокорискового» ИИ обязаны в соответствии с законом провести оценку риска и соответствия, зарегистрировать свои системы в европейской базе данных ИИ, обеспечить высокое качество данных, используемых для обучения ИИ, обеспечить прозрачность системы и информированность пользователей, а также обязательное наблюдение со стороны человека и возможность вмешательства в работу системы.

Читайте: Уоррен Баффет сравнил искусственный интеллект с атомной бомбой

Что касается «низкорискового» ИИ, такого как чат-боты, его поставщики обязаны информировать пользователей о том, что они взаимодействуют с ИИ, а не с человеком. Для генеративных моделей добавляется еще одно требование — сообщать пользователям, что контент создан нейросетью.

Конференция «Invest Talk Summit» Узнайте, как заработать на инвестициях в 2023—2024 годах! Подробности на сайте.

Промокод на 10% скидку: minfin10.

🕵️ Мы создали небольшой опрос, чтобы узнать больше о наших читателях.

💛💙 Ваши ответы помогут нам стать лучшими, уделять больше внимания темам, которые вам интересны. 🤗 Будем благодарны, если вы найдете минутку, чтобы ответить на наши вопросы .

Источник: МинФин