ЕС хочет запретить использование искусственного интеллекта в некоторых сферах

Европейский союз обсуждает возможность запрета на использование искусственного интеллекта (ИИ) в нескольких сферах, таких как массовое наблюдение и социальные кредитные рейтинги, сообщило издание Politico со ссылкой на разработанный документ. 

Согласно проекту члены ЕС, например, должны будут создать оценочные комиссии для тестирования и проверки систем ИИ с высоким риском. А компании, которые разрабатывают или продают ИИ, подпадающие под ограничения, в том числе из других странах мира, могут быть оштрафованы до 4% их глобального дохода.

Согласно копии проекта, с которой ознакомился The Verge, проект предусматривает:

  • Запрет на ИИ для «неизбирательного наблюдения», включая системы, которые напрямую отслеживают людей в физических средах или собирают данные из других источников;
  • Запрет на ИИ, которые создают социальные кредитные рейтинги, для оценки чьей-либо благонадежности на основе социального поведения или личностных качеств;
  • Специальное разрешение на использование «удаленных систем биометрической идентификации», таких как распознавание лиц в общественных местах.
  • Уведомления о взаимодействии человека с ИИ, если это не «очевидно из обстоятельств и контекста использования».
  • Надзор за ИИ «высокого риска», которые представляют прямую угрозу безопасности. Речь идет о беспилотных автомобилях, и системах, которые могут повлиять на чьи-то средства существования, например для найма на работу и судебных решений.
  • Оценка контролирующими органами систем с высоким уровнем риска до их ввода в эксплуатацию. Обучение таких ИИ должно будет производиться на проверенных «высококачественных» наборах данных.
  • Создание «Европейского совета по искусственному интеллекту», состоящего из представителей всех стран ЕС.

Подписывайтесь на LIGA.Tech в Facebook: главные новости о технологиях

Некоторые пункты правил необходимы в доработке, считают эксперты. «Описания запрещаемых систем искусственного интеллекта расплывчаты и содержат непонятные формулировки, которые могут создать серьезные лазейки», – сказал The Verge Дэниел Леуфер, аналитик европейской политики Access Now. 

Кроме того, эксперты отмечают пробелы в таких пунктах, как социальное кредитование, которые, по их мнению, недостаточно регулируются в новом проекте и считают, что ИИ не должен решать, кто заслуживает доверия, а кто нет.

Другие аналитики отмечают, что власти наоборот лезут туда, куда им не стоило бы. Проект «представляет собой типичный брюссельский подход к новым технологиям и инновациям. Если есть сомнения, регулируйте», – отметил Омер Тене, вице-президент некоммерческой организации IAPP.

Пока остается неизвестно, какие изменения могут быть внесены в этот проект, поскольку власти ЕС готовятся к официальному релизу 21 апреля, после чего документ будет дорабатываться депутатами Европарламента и обсуждаться в каждом отдельном государстве ЕС.

Подписывайтесь на LIGA.Tech в Telegram: только важное

Илья Закорецкий

Если Вы заметили орфографическую ошибку, выделите её мышью и нажмите Ctrl+Enter.

Добавить комментарий