Хотите испортить будущее ребенка? Публикуйте его фото в соцсетях. Как преступники с помощью ИИ рушат жизни
Уявіть: відкриваєте Instagram і бачите фото сімʼї із трьома дітьми.
На перший погляд, це звичайне сімейне фото, яке опублікував батько. Проте, якщо придивитися, можна поміти: обличчя двох старших дівчат приховані емодзі, а обличчя немовляти – ні.
Для українських звичаїв усе б мало виглядати навпаки. Часто молоді мами приховують обличчя немовлят, щоб ніхто не "зурочив". Однак на фото з-поміж усіх трьох дітей відкрите лише обличчя немовляти.
Описане фото опублікував генеральний директор Meta Марк Цукерберг. Під публікацією 39-річного мільярдера навіть почалася дискусія щодо того, чому Марк приховав обличчя своїх семирічної та девʼятирічної доньок.
Цукерберг як ніхто розуміє наслідки того, як одна необдумана публікація в соцмережах може вплинути на майбутнє дитини. Більшість батьків не задумуються, що, публікуючи фото своїх дітей, вони дають початок їх цифровому сліду.
У середньому п’ятирічна дитина має близько 1 500 фотографій, які були завантажені батьками в інтернет без її згоди. Це означає, що діти ризикують стати об’єктом онлайн-моніторингу, навіть якщо їхні батьки не знають про це.
В епоху активного розвитку технологій штучного інтелекту наслідки необдуманих публікацій можуть бути набагато трагічнішими, ніж звичайне порушення приватності. Діти, чиї зображення опубліковані в інтернеті, можуть стати жертвами зловживання особистими даними, шахрайства і навіть підробками їхніх облич для порноконтенту.
Кожне ваше фото стає спільним
Соцмережі стали невідʼємною частиною життя. Щодня ми заходимо на власні профілі, стежимо за друзями, читаємо новини по дорозі на роботу. Facebook, Instagram, Twitter (X) давно перестали бути місцем тільки для молоді. Для покоління, яке вже має власних дітей чи навіть внуків, соціальні мережі також стали місцем щоденної взаємодії. Часто саме у своїх профілях батьки хочуть поділитися із своїм оточенням знімками власної дитини.
У звіті уповноваженої в справах дітей Англії йдеться, що батьки, діти яких народилися в епоху Facebook та Instagram, завантажують у соціальні мережі в середньому 1 300 фотографій і відео своїх дітей до їх 13-річчя. Разом з публікаціями самих дітей вийде 70 тис постів у соціальних мережах до їхнього повноліття.
Дитина може отримати свій цифровий слід, перебуваючи в утробі матері. Масова публікація фото власних дітей – не нове явище. 13 років тому зʼявилося слово "шеренінг", яке складається з англійських слів sharing та parenting.
Крім очевидних проблем шеренінгу, таких як публікація фото дітей без їхньої згоди, не менш важливо, що батьки не сильно задумуються про конфіденційність власних акаунтів. Близько 25% опитаних батьків у Сполучених Штатах мають загальнодоступні профілі в соціальних мережах, тобто будь-хто може бачити їхні публікації.
Ба більше, лише 22% батьків зустрічали всіх своїх друзів або підписників у соціальних мережах у реальному житті. Також батьки не завжди запитують у дітей згоди перед поширенням інформації про них у соцмережах. Дозволу питають тільки 24% з них. Загалом до 2030 року майже дві третини випадків шахрайства з особистими даними, які стосуються молодого покоління, будуть виникати через інформацію, яку публікують батьки про своїх дітей.
Кожна така публікація – це потенційна загроза для дитини, починаючи від використання цих фото її однолітками для булінгу і закінчуючи шахрайством, дитячою порнографією або навіть жорстоким поводженням з дітьми.
Нові можливості та нові загрози
Усе, що потрапляє до інтернету, залишається там назавжди. Для батьків опубліковані фото чи відео своїх дітей в соціальних мережах – це завжди сентиментальний момент памʼяті, проте для технологій це лише дані. Зловмисники можуть використати таку інформацію в своїх цілях.
За словами співробітника кафедри комп’ютерної та навчальної технологічної освіти Університету Сакар’я Мехмета Баріса Хорзума, коли люди діляться фотографіями дітей на онлайн-платформах, це дає можливість злочинцям використовувати ці фотографії для шахрайства, дитячої порнографії або навіть жорстокого поводження з дітьми.
В умовах, коли технології ШІ переживать активний розвиток, контент з дітьми може використовуватися для створення так званого Deepfake – відео або аудіо, де люди говорять або роблять речі, яких вони ніколи не говорили чи не робили. Це робиться за допомогою алгоритмів машинного навчання, які навчаються на величезній кількості даних.
Використання Deepfake з дитячим контентом найчастіше аморальне. Недавнє розслідування BBC показало, що за допомогою ШІ автори щомісяця можуть створювати тисячі зображень порнографічного характеру з дітьми різного віку.
Розміщують такий контент на іноземних сайтах, серед яких – популярна японська соцмережа Pixiv для любителів манги й аніме. Використання японської платформи дозволяє авторам залишатися поза юрисдикцією більшості країн Заходу, яка забороняє розміщення такого контенту. Ба більше, порнографічний контент з дітьми часто створюється в комерційних цілях. Доступ до таких зображень коштує 3,85-8,5 дол на місяць.
Видання зазначає, що для генерування таких картинок зловмисники найчастіше виористовують програму Stable Diffusion від Stability AI, яка за допомогою підказок користувача може згенерувати будь-яке зображення. Такі зображення не завжди мають обличчя реальних дітей, але ШІ, який їх створив, міг навчатися на їх фото.
На платформі Reddit, де раніше були опубліковані секретні дані про український контрнаступ, Forbes знайшов як мінімум 14 сабреддитів (форумів), де поширювалися порнографічні дипфейки.
Крім генерації візуального контенту, ШІ може імітувати людський голос. Телекомунікаційна компанія Deutsche Telekom запустила соціальну рекламу про розміщення контенту в інтернеті. Ролик розповідає про імітацію голосу дитини.
Злочинці почали використовувати ШІ для телефонного шахрайства, оскільки нова технологія дозволяє робити це більш витонченно. Штучний інтелект за кілька хвилин може вивчити голос людини і почати його відтворювати.
ШІ здатен легко імітувати голоси відомих виконавців і створювати музичні композиції. Для музичної індустрії нові технології стають реальною загрозою в питаннях права власності. Google та найбільший у світі холдинг звукозапису Universal Music ведуть переговори про ліцензування мелодій і голосів виконавців для пісень, згенерованих ШІ.
Відповідно, якщо ШІ може створювати композиції з голосами зірок музичної індустрії, він запросто згенерує панічний голос конкретної дитини. Така ситуація трапилася з американкою Дженніфер ДеСтефано.
Одного дня їй зателефонували з невідомого номера. ДеСтефано почула голос своєї 15-річної доньки Бріанни, яка просила про допомогу. ДеСтефано пригадує, що голос був повністю подібний до голосу її доньки. Після слів Бріанни ДеСтефано почула слова зловмисника, який запевняв її про викрадення і вимагав 1 млн дол. На щастя, через кілька хвилин ДеСтефано почула реальний голос своєї доньки, який запевнив її, що все гаразд.
Для США такий вид телефонного шахрайства стає дедалі частим явищем. За словами агента ФБР Шівона Джонсона, американські сімʼї у кожній фальшивій афері з викраденням втрачають 11 тис дол. За даними Федеральної торгової комісії, у 2022 році громадяни Сполучених Штатів втратили через шахрайство 2,6 млрд дол. У таких ситуаціях нереально перевірити, чи дійсно голос, який звучить під час розмови, належить члену сімʼї.
"Головне – не довіряйте голосу, який чуєте під час дзвінка. Якщо не можете зв’язатися з цією людиною, попросіть зробити це члена сім’ї або друга. Використовуйте кодові слова. Якщо хтось подзвонить і скаже, що викрав вашу дитину, ви можете запитати в дитини це слово", – радять у ФБР.
Шеренінг може стати причиною крадіжки особистих даних дитини. Зловмисники можуть використати їх для шахрайства, обману кредиторів, подання заявки на державні пільги, купівлі авто в кредит, відкриття рахунків або оформлення кредитних карток. Найгірше, що батьки та їх дитина можуть дізнатися про це тільки після її повноліття.
Як не допустити трагічних наслідків
По-перше – просвітництво. Роз’яснення мають бути доступні для всіх, але передусім – для батьків.
По-друге – правове регулювання. Франція хоче стати лідером у боротьбі з безконтрольним поширенням дитячих зображень. Національні збори схвалили законопроєкт, який забороняє батькам публікувати фотографії своїх дітей у соцмережах без їхньої згоди. Зʼявилося нове правове поняття – "приватне життя дитини".
У разі розбіжностей між батьками суд може заборонити одному з них публікувати фото спільної дитини без дозволу іншого. У виняткових випадках батьки можуть втратити право розпоряджатися зображеннями своїх дітей. Цей законопроєкт дозволить краще захищати права дітей в інтернеті і запобігати поширенню дитячих зображень, які можуть бути використані для експлуатації дітей або для порушення їх конфіденційності.
За словами консультантки з питань освіти у сфері медіа в німецькій громадській організації допомоги дітям і підліткам Deutsches Kinderhilfswerk (DKHW) Софі Поле, ідея законопроєкту полягає не в забороні на розміщення дитячих фотографій, а в запобіганні їхньому надмірному використанню в соцмережах. Право на власне зображення означає, що кожен має право вирішувати, які фото- чи відеоматеріали можуть або не можуть бути опубліковані.
Фонд спостереження за інтернетом (IWF) закликав прем’єр-міністра Британії Ріші Сунака розглянути питання генерування зображень з жорстким поводженням щодо дітей, коли Лондон прийматиме глобальний саміт з ШІ восени 2023 року. Як зазначає виконавча директорка фонду Сьюзі Харгрівз, IWF не бачить багато цих зображень, але злочинці можуть створювати безпрецедентну кількість реалістичних зображень сексуального насильства над дітьми.
Важливо, аби батьки, соцмережі та уряди працювали разом заради захисту дітей від поширення їх зображень в інтернеті без їхньої згоди.