OpenAI співпрацює з конкурентами Anthropic та Google над безпекою ШІ
OpenAI працює над заходами для вирішення питань безпеки штучного інтелекту разом зі своїми головними конкурентами компаніями Anthropic PBC та Google DeepMind, посилюючи зусилля галузі у відповідь на хвилю занепокоєння щодо того, що ця технологія становить загрозу для економіки та безпеки.
Про це повідомляє Bloomberg.
Кріс Лехейн, керівник відділу глобальної політики OpenAI, заявив у вівторок, що співпраця компанії з Anthropic та Google триває вже кілька тижнів.
Він додав, що OpenAI не вбачає необхідності в антимонопольному винятку для того, щоб ці три компанії, що займаються штучним інтелектом, могли координувати свої дії з питань безпеки.
"Краще спробувати працювати разом, щоб надати пріоритет безпеці", – сказав Лехейн на брифінгу у Вашингтоні.
Занепокоєння щодо екзистенційних ризиків штучного інтелекту вийшло на перший план після опублікування есе обсягом 3 800 слів, автором якого став генеральний директор Anthropic Даріо Амодей.
У ньому він закликав обмежити розробку найсучасніших систем, щоб дослідники могли краще зрозуміти потенційні загрози. Звернення Амодея швидко підтримали генеральний директор OpenAI Сем Альтман та керівник SpaceXAI Ілон Маск.
Антимонопольні регулятори США вже висловлюють скептицизм щодо надання компаніям у сфері ШІ винятку для координації дій з питань безпеки. Голова Федеральної комісії з торгівлі Ендрю Фергюсон заявив у вівторок, що ставитиметься до таких запитів із "глибокою підозрою".
Фергюсон додав, що, на його думку, компанії, що займаються штучним інтелектом, "просять про створення бар'єрів для входу на ринок", які захистять їхній бізнес від конкурентів. "Це, безперечно, схоже на риття рову", — додав він.
Під час брифінгу Лехейн зазначив, що робота компаній у сфері штучного інтелекту над питаннями безпеки має чимало прецедентів, і навів як приклад авіаційну галузь. "Протягом часу було багато випадків, коли компанії намагалися допомагати одна одній у питаннях безпеки" ,– сказав він.
Лехейн зазначив, що перебуває у Вашингтоні для зустрічі з американськими законодавцями і що OpenAI підтримає двопартійні пропозиції, спрямовані на усунення потенційних катастрофічних ризиків, пов'язаних із цією технологією.
Серед заходів, які підтримує OpenAI, — концепція федерального регулювання штучного інтелекту, запропонована республіканським конгресменом Джеєм Обернолте та демократкою Лорі Трахан, зазначив Лехейн. Компанія також підтримує пропозицію Сенату, яка зараз формується під керівництвом лідера більшості Джона Тюна, республіканця Теда Круза та демократки Емі Клобучар і спрямована на усунення катастрофічних ризиків.
Нагадаємо:
Компанія Anthropic запобігла спробам використання її моделей Claude для проведення кампанії кібершпигунства проти України, яка, як підозрюється, пов'язана з Росією.
Провідний науковець OpenAI попередив, що штучний інтелект розвивається настільки стрімко, що людям стає дедалі складніше його розуміти та контролювати, і висловив сподівання, що лабораторії, які працюють над ШІ, добровільно уповільнять темпи розвитку з міркувань безпеки.