Фото: NurPhoto/Getty Images

Совет Евросоюза 21 мая окончательно утвердил первый в мире закон об искусственном интеллекте. Это прорывные правила, направленные на контроль над ИИ, особенно в отношении генеративного ИИ.

Прорывный закон

"Этот знаковый закон, первый в своем роде в мире, решает глобальную технологическую проблему, которая также создает возможности для наших обществ и экономик", - сказал Матье Мишель, государственный секретарь Бельгии по вопросам цифровизации.

Законом вводится система классификации, определяющая уровень риска, который ИИ может представлять для здоровья, безопасности и основных прав человека. Система включает четыре уровня риска: неприемлемый, высокий, ограниченный и минимальный. В случае нарушений для юридических лиц предлагается ввести штрафы в размере до 35 млн евро ($37,7 млн) или 7% от глобального оборота в зависимости от нарушения и размера компании.

Европейский парламент (ЕП) также предложил создать Управление по искусственному интеллекту, новый орган ЕС, который будет поддерживать гармонизированное применение законодательства по искусственному интеллекту, обеспечивать руководство и координировать совместные трансграничные расследования. Хотя основные положения нового законодательства начнут действовать с 2026 года, ряд ограничений, включая запреты на социальный скоринг, предиктивный полицейский контроль и неразрешенное извлечение биометрических изображений из интернета или видеонаблюдения, будут применяться уже через шесть месяцев после официального введения закона. Требования к моделям искусственного интеллекта общего назначения вступят в силу через 12 месяцев.

Еврокомиссар по вопросам внутреннего рынка Тьерри Бретон отметил: «Закон об искусственном интеллекте был разработан на основе учета рисков данной технологии. У большинства приложений проблем не возникнет, но у некоторых будут ограничения, особенно когда речь идет о пакетах данных, используемых для обучения ИИ. Некоторые приложения, например, в сфере здравоохранения, будут ограничены. А приложения социального скоринга будут запрещены. Это очень строгие и разумные правила.

По оценкам специалистов, Закон ЕС об искусственном интеллекте считается более всеобъемлющим, чем подход, основанный на добровольном соблюдении требований в США или подход, ориентированный на социальную стабильность в Китае. Именно поэтому данный документ может оказать воздействие на весь мир. Как отметил эксперт в сфере права Патрик Ван Эке из юридической фирме Cooley (США), Компании, расположенные за пределами ЕС, но использующие данные клиентов из ЕС, должны будут соблюдать этот Закон. Другие страны и районы могут рассматривать этот Закон как образец для разработки собственных правил регулирования ИИ.

Премьер-министр Южной Кореи Хан Доксу выступает на 2-м саммите по безопасности искусственного интеллекта, состоявшемся 21-22 мая в Сеуле. Фото: Reuters/Kim Soo-hyeon

Безопасность ИИ

17 мая Совет Европы принял первый в истории юридически обязывающий международный договор, направленный на обеспечение соблюдения правовых норм в области прав человека, демократии и верховенства закона при использовании систем искусственного интеллекта.

Договор, который могут подписать и неевропейские страны, устанавливает правовые рамки, применимые на протяжении всего жизненного цикла систем искусственного интеллекта, учитывает риски, которые эти системы могут представлять, и способствует развитию ответственных инноваций", - гласит документ, распространенный пресс-службой организации. Этот договор является результатом двухлетней работы межправительственного органа, объединяющего представителей 46 государств-членов ЕС, Европейского Союза (ЕС) и 11 государств, не являющихся членами Совета Европы, в том числе Америку, Японию, Аргентину, Израиль, Уругвай, а также ученых.

Большой прогресс также был достигнут на 2-м саммите по безопасности искусственного интеллекта, состоявшемся 21-22 мая в Сеуле (Республика Корея) в очном и заочном форматах. Речь идет о том, что 16 ведущих мировых технологических корпораций, в том числе: OpenAI (разработчик ChatGPT), Google DeepMind, Anthropic, Microsoft, Amazon, IBM, Meta, Mistral AI (Франция) и Zhipu.ai (Китай), согласились с новыми обязательствами по безопасности ИИ.

При этом, компании, занимающиеся искусственным интеллектом, будут публично раскрывать информацию о том, как они оценивают риски, связанные с ИИ, включая определение неприемлемых рисков и мер по недопущению, чтобы эти риски превысили допустимый порог.

Премьер-министр Южной Кореи Хан Доксу отметил: «Безопасность ИИ является приоритетом. Она способствует укреплению доверия общественности к этой технологии. Никто не может отрицать, что обеспечение безопасность ИИ является важным фактором, способствующим повышению конкурентоспособности и устойчивости ИИ на мировом рынке.

Ожидается, что правительства и технологические компании предоставят более четкие, конкретные и полные определения «безопасности ИИ» в ближайшем будущем, до того, как в следующем году во Франции состоится очередной саммит по безопасности ИИ.