Работники OpenAI и Google DeepMind предупредили о риске "вымирания человечества" из-за ИИ
Группа бывших и нынешних работников компаний, занимающихся искусственным интеллектом (ИИ), включая OpenAI и Google DeepMind, выразила обеспокоенность относительно рисков, связанных с этой технологией, в частности "вымирания человечества".
Об этом сообщает агентство Reuters.
В открытом письме 11 бывших и нынешних сотрудников OpenAI, а также одного бывшего и одного нынешнего сотрудника Google DeepMind указано, что финансовые мотивы компаний, занимающихся ИИ, препятствуют эффективному контролю.
"Мы не верим, что специальные структуры корпоративного управления достаточны для изменения этой ситуации", - говорится в письме.
Авторы письма предупреждают о рисках нерегулируемого ИИ, начиная от распространения дезинформации до потери контроля над независимыми системами ИИ и углубления существующего неравенства, что может привести к "вымиранию человечества".
Исследователи обнаружили примеры генераторов изображений от компаний, включая OpenAI и Microsoft, которые создают фотографии с дезинформацией, связанной с выборами, несмотря на политику против такого контента.
Компании, занимающиеся ИИ, имеют "слабые обязательства" по обмену информацией с правительствами о возможностях и ограничениях своих систем, говорится в письме, добавляя, что на эти фирмы нельзя полагаться, чтобы они добровольно делились этой информацией.
Это открытое письмо является очередным, который вызывает беспокойство относительно безопасности технологии генеративного ИИ, которая может быстро и дешево создавать текст, изображения и аудио, похожие на человеческие.
Группа призвала компании, занимающиеся ИИ, способствовать процессу, при котором нынешние и бывшие сотрудники могут выражать беспокойство относительно рисков, и не применять соглашения о конфиденциальности, которые запрещают критику.
Экономическая правда.