Со 2 августа в Европейском союзе вступают в силу новые требования, регулирующие использование систем искусственного интеллекта. Как сообщила Европейская комиссия, одним из ключевых нововведений станет обязательная маркировка материалов, которые были полностью созданы или изменены с помощью технологий искусственного интеллекта.
Согласно новым правилам, пользователи должны быть заранее уведомлены, если взаимодействуют с чат-ботом или иной системой искусственного интеллекта, а не с человеком. Кроме того, изображения, видеозаписи и аудиоматериалы, созданные или обработанные с применением искусственного интеллекта, необходимо будет сопровождать соответствующей отметкой. Также такой контент должен содержать машиночитаемые метки, позволяющие его идентифицировать.
В Европейской комиссии отметили, что новые нормы направлены на повышение прозрачности и доверия к технологиям искусственного интеллекта, которые все активнее используются в различных сферах повседневной жизни.
Дополнительные требования вводятся для поставщиков универсальных моделей искусственного интеллекта. Они должны будут оценивать возможные риски, связанные с использованием таких систем, включая угрозы в сфере кибербезопасности, вероятность потери контроля над работой моделей, а также потенциальные последствия, связанные с химическими, биологическими, радиологическими и ядерными инцидентами, киберпреступностью, вредоносными манипуляциями и нарушением основных прав человека.
Помимо этого, разработчиков обяжут подготовить политику в области авторского права и публиковать достаточно подробную информацию о материалах, использованных при обучении моделей искусственного интеллекта.
Законодательство также запрещает применение систем искусственного интеллекта, способных вводить людей в заблуждение, использовать их уязвимость в противоправных целях или осуществлять несправедливую оценку, которая может затронуть их права.
Контроль за соблюдением новых требований распределят между несколькими структурами. Управление по искусственному интеллекту будет следить за соблюдением правил в отношении систем, предлагаемых поставщиками универсальных моделей, включая решения, встроенные в крупнейшие онлайн-платформы и поисковые системы. Национальные органы возьмут под контроль остальные системы, а Европейский надзорный орган по защите данных будет отвечать за применение правил в учреждениях и агентствах ЕС.
Кроме того, физические и юридические лица смогут направлять жалобы на предполагаемые нарушения законодательства в сфере искусственного интеллекта. Такое право также получат сотрудники компаний, разрабатывающих универсальные модели, если им станет известно о возможных нарушениях.