Техногіганти скорочують етичні команди для ШІ: це викликає побоювання щодо безпеки

Великі технологічні компанії скорочують персонал команд, які займаються оцінкою етичних питань, пов'язаних із впровадженням штучного інтелекту, що призводить до занепокоєння щодо безпеки нової технології, оскільки вона набуває широкого застосування у споживчих товарах.

Про це пише Financial Times.

Microsoft, Meta, Google, Amazon і Twitter є одними з компаній, які скоротили членів своїх "відповідальних команд з питань штучного інтелекту", які консультують з питань безпеки споживчих товарів, що використовують штучний інтелект.

Кількість постраждалих співробітників обчислюється десятками і становить невелику частину від десятків тисяч співробітників, звільнених у відповідь на загальний спад в галузі.

Компанії заявили, що вони залишаються відданими розробці безпечних продуктів штучного інтелекту. Але експерти кажуть, що скорочення викликають занепокоєння, оскільки потенційні зловживання технологією виявляються саме тоді, коли мільйони людей починають експериментувати з інструментами штучного інтелекту.

Їхнє занепокоєння зросло після успіху чат-бота ChatGPT, запущеного компанією OpenAI, яку підтримує Microsoft, що змусило інші технологічні фірми випустити конкурентів, такі як Bard від Google і Claude від Anthropic.

"Шокує те, скільки людей, які займаються відповідальним ШІ, звільняються в той час, коли, можливо, вам потрібно більше таких команд, ніж будь-коли", - сказав Ендрю Стрейт, колишній дослідник з питань етики та політики в компанії DeepMind, що належить Alphabet, і заступник директора дослідницької організації Ada Lovelace Institute.

У січні Microsoft розпустила всю свою команду з питань етики, яка очолювала початкову роботу компанії в цій сфері. Технологічний гігант заявив, що скорочення склало менше 10 посад, і що в офісі відповідального ШІ все ще працюють сотні людей.

"Ми значно розширили наші зусилля у сфері відповідального ШІ і доклали чимало зусиль, щоб інституціоналізувати їх у всій компанії", - сказала керівниця відділу відповідального ШІ в Microsoft Наташа Крамптон.

Twitter скоротив більше половини свого штату під керівництвом нового власника-мільярдера Ілона Маска, включно з невеликою командою з етичного ШІ. Її минула робота включала виправлення упередженості алгоритму Twitter, який надавав перевагу білим обличчям при виборі способу обрізання зображень у соціальній мережі. Twitter не відповів на запит про коментарі.

Минулого тижня Twitch, стрімінгова платформа, що належить Amazon, скоротила свою команду з питань етики ШІ, поклавши на всі команди, що працюють над продуктами ШІ, відповідальність за проблеми, пов'язані з упередженістю, за словами джерела, знайомого з цим рішенням. Twitch відмовився від коментарів.

У вересні Meta розпустила свою відповідальну інноваційну команду з близько 20 інженерів та етиків, які займалися оцінкою дотримання громадянських прав та етики в Instagram і Facebook. Meta не відповіла на запит про коментарі.

Економічна правда