В ЕС составили перечень запретов для искусственного интеллекта

В Европейском парламенте сделали важный шаг к регулированию искусственного интеллекта, определив потенциально вредные последствия этой технологии.

Об этом пишет The New York Times.

Европейский парламент - основная законодательная ветвь власти Европейского Союза, принял законопроект, известный как AI Act, который будет регулировать развитие искусственного интеллекта и определяет перечень запретов для применения этой технологией.

Ожидается, что закон примут до конца года.

"Законопроект стал самой масштабной в мире попыткой решить потенциально вредные последствия искусственного интеллекта. AI Act введет новые ограничения на то, что считается наиболее рискованным при использовании данной технологии", - пишет издание.

Так, если закон вступит в силу в его нынешнем виде, то Европейский Союз запретит использование биометрических систем, работающих в режиме реального времени и удаленно, таких как сканирование для распознавания лиц.

Также будут запрещены устройства, которые демонстрируют когнитивную поведенческую манипуляцию, например, игрушки с голосовым управлением, которые, как считается, поощряют опасное поведение детей.

Кроме того, будут запрещены технологии, которые классифицируют людей на основе их социально-экономического статуса или личных характеристик.

Согласно законодательному акту, технологии, которые считаются "высокорисковыми", должны будут быть зарегистрированы в базе данных ЕС. К ним относятся системы искусственного интеллекта для биометрической идентификации и те, что используются правоохранительными органами.

Другое положение запрещает компаниям собирать биометрические данные из социальных сетей для создания баз данных, практика, которая привлекла внимание после того, как компания по распознаванию лиц Clearview AI использовала ее.

Согласно последней версии европейского законопроекта, технология столкнется с новыми требованиями прозрачности. Это включает использование искусственным интеллектом материалов, защищенных авторским правом.

Производители генеративных систем искусственного интеллекта также должны будут ввести меры предосторожности, чтобы предотвратить генерирование незаконного контента.

Впрочем, насколько эффективным может быть любое регулирование ИИ, неясно. Новые способности технологии появляются быстрее, чем законодатели способны их решить.

Так, например, предыдущие версии закона о ЕС не уделяли много внимания так называемым генеративным системам искусственного интеллекта, таким как ChatGPT, которые могут создавать текст, изображения и видео в ответ на подсказки.

ЕС обсуждает эту тему более двух лет. Вопрос приобрел новую актуальность после прошлогоднего выпуска ChatGPT, который усилил беспокойство по поводу потенциального влияния технологии на занятость и общество.

Представители Европейского парламента, Европейской комиссии и Совета Европейского Союза еще должны согласовать детали для окончательной версии закона. Они могут решить изменить некоторые его аспекты и добавить определенные исключения, например, разрешить использование распознавания лиц в целях национальной безопасности.

"Политики от Вашингтона до Пекина, сейчас пытаются контролировать развивающуюся технологию, которая настораживает даже некоторых ее первых создателей", - пишет издание.

Так, в Соединенных Штатах Белый дом выпустил правила тестирования систем искусственного интеллекта, до того, как они станут общедоступными, и защиту прав на неприкосновенность частной жизни.

В Китае проект правил, обнародованный в апреле, потребует от производителей чат-ботов придерживаться строгих правил цензуры в стране. Пекин также установит больший контроль над тем, как производители систем искусственного интеллекта используют данные.

Напомним:

В ООН обсуждают создание агентства по наблюдению за ИИ, подобного МАГАТЭ.

ИИ стал предметом беспокойства из-за его способности создавать поддельные изображения и другую дезинформацию.

Читайте также: Семь профессий, которые могут исчезнуть из-за искусственного интеллекта