Европарламент принял в среду, 14 июня, первый законодательный акт, направленный на регулирование искусственного интеллекта (ИИ). Документ был одобрен 499 голосами против 28 при 93 воздержавшихся и послужит отправной точкой для обсуждения окончательной формы закона со странами-членами ЕС. Согласно пресс-релизу Европейского парламента, новые правила гарантируют, что ИИ, разработанный и используемый в Европе, полностью соблюдает права и ценности Европейского Союза, включая наблюдение за людьми, безопасность, конфиденциальность, прозрачность, недискриминацию, социальное и экологическое благополучие.
По данным Европейского парламента, принятие законодательства об ИИ направлено на то, чтобы используемые в ЕС системы искусственного интеллекта были «безопасными, прозрачными, отслеживаемыми, недискриминационными и экологически безопасными. Системы ИИ должны контролироваться людьми, а не автоматизированными процессами, чтобы избежать вредных последствий».
Новые правила устанавливают обязательства для провайдеров и пользователей в зависимости от категории риска используемой системы искусственного интеллекта: неприемлемый, высокий, ограниченный, а также генеративный ИИ.
КАКИЕ КАТЕГОРИИ РИСКА ПРЕДПОЛАГАЮТСЯ
Согласно документу, системы ИИ с неприемлемым уровнем риска для безопасности человека будут запрещены. Они могут включать когнитивно-поведенческие манипуляции с отдельными лицами или определенными уязвимыми группами или системы биометрической идентификации в режиме реального времени и дистанционно, такие как распознавание лиц (с некоторыми исключениями).
Системы высокого риска – это те, которые отрицательно влияют на безопасность или основные права и должны пройти процедуру оценки перед размещением на рынке. К ним относятся: системы искусственного интеллекта, используемые в продуктах, подпадающих под действие законодательства ЕС о безопасности продукции (игрушки, авиация, автомобили, медицинские устройства и лифты); системы биометрической классификации, в которых используются чувствительные характеристики (например, пол, раса, этническая принадлежность, статус гражданства, религия, политическая ориентация); прогностические полицейские системы (на основе профилирования, местоположения или предыдущего преступного поведения); системы распознавания эмоций, используемые на рабочем месте или в учебных заведениях или в сфере охраны правопорядка или пограничного контроля; системы искусственного интеллекта, используемые для влияния на избирателей и результаты выборов, и алгоритмы рекомендаций, используемые платформами социального общения (более 45 миллионов пользователей).
Системы искусственного интеллекта с ограниченным риском должны будут соответствовать минимальным требованиям прозрачности, чтобы пользователи могли принимать обоснованные решения. В частности, после взаимодействия с приложениями пользователь может решить, хочет ли он продолжать их использовать. «Пользователи должны быть проинформированы, когда взаимодействуют с ИИ. Это требование относится к системам искусственного интеллекта, которые генерируют или манипулируют изображениями, аудио- или видеоконтентом, например дипфейками», – поясняют в Европарламенте.
ОБЯЗАННОСТИ ДЛЯ ChatGPT
Согласно документу, системы генеративного ИИ, такие как ChatGPT, должны соответствовать требованиям прозрачности (т. е. раскрывать, когда контент был сгенерирован ИИ, в том числе помогать отличать так называемые «дипфейковые» изображения от реальных) и вводить меры защиты от создания нелегального контента. Кроме того, необходимо сделать общедоступными подробные сводки данных, защищенных авторским правом, которые используются для обучения этих систем.
В этом контексте депутаты Европарламента заявляют, что хотят «консолидировать право граждан подавать жалобы на системы ИИ и получать разъяснения по поводу решений, основанных на системах ИИ с высоким уровнем риска, которые оказывают значительное влияние на их основные права».
«Закон об искусственном интеллекте задаст глобальный тон развитию искусственного интеллекта и управлению им, гарантируя, что эта технология, призванная радикально преобразовать наши общества благодаря огромным преимуществам, которые она может привнести, будет развиваться и использоваться в соответствии с европейскими ценностями демократии, основных прав и верховенства закона», – заявил содокладчик Драгош Тудораке в день голосования по проекту.
Европарламент уточняет, что необходимо начать обсуждение со странами ЕС в Совете относительно окончательной формы закона. Цель состоит в том, чтобы достичь соглашения к концу этого года.
