OpenAI запускає інструмент для виявлення діпфейків на тлі скандалів з впливом ШІ-контенту на вибори

OpenAI запускає інструмент, який може розпізнавати зображення, створені генератором зображень DALL-E 3. Сталося це на тлі зростаючого занепокоєння щодо впливу контенту, створеного штучним інтелектом, на цьогорічні світові вибори.

Про це повідомляє агентство Reuters.

Компанія заявила, що під час внутрішнього тестування інструмент правильно ідентифікував зображення, створені DALL-E 3, приблизно в 98% випадків і може обробляти такі поширені модифікації, як стиснення, обрізання і зміна насиченості, з мінімальним впливом.

Розробники ChatGPT також планують додати захищений від несанкціонованого доступу водяний знак для позначення цифрового контенту, такого як фотографії або аудіо, сигналом, який буде важко видалити.

В рамках цих зусиль OpenAI також приєднався до галузевої групи, до якої входять Google, Microsoft і Adobe, і планує створити стандарт, який допоможе відстежити походження різних медіа.

У квітні, під час загальних виборів в Індії, фальшиві відео з двома акторами Боллівуду, які критикують прем'єр-міністра Нарендра Моді, стали вірусними в Інтернеті.

Поширення контенту, створеного штучним інтелектом, і глибокі фейки все частіше використовуються в Індії, а також на виборах в інших країнах світу, зокрема в США, Пакистані та Індонезії.

OpenAI заявила, що приєднується до Microsoft у створенні фонду "суспільної стійкості" у розмірі 2 мільйонів доларів для підтримки освіти в галузі ШІ.

Читайте також: Війна за мільярди: проблема авторського права та ШІ вийшла за рамки звичайного плагіату

Економічна правда.