Діпфейк є новою і потужною зброєю в арсеналі, що його мають у своєму розпорядженні торговці брехнею.
Наприкінці минулого року Інтернетом стали циркулювати порнографічні відео, основними протагоністами яких були декотрі найвідоміші в наш час акторки і співачки. Природно, ці відео отримали широке розповсюдження і їх побачили мільйони людей в цілому світі. Через кілька днів стало відомо, що Скарлетт Йоганссон, Тейлор Свіфт, Кеті Перрі та інші відомі артистки насправді не були дійовими особами в цих відео, вони стали жертвами нової технології, яка, використовуючи штучний інтелект та інші передові цифрові інструменти, дає змогу вставляти у відео зображення обличчя будь-якої людини.
То був лише початок. Дуже скоро Ангела Меркель, Дональд Трамп і Маурісіо Макрі також стали жертвами того, що відоме під назвою діпфейк, або ж глибока фальсифікація. Барака Обаму без його відома використали, щоби на прикладі показати, наскільки згубним може бути застосування цієї технології. Ми бачимо, як Обама в своїй промові говорить те, що фальсифікатор хотів би, щоб він говорив, і чого колишній президент ніколи не казав. Але результатом є дуже реальне відео.
Маніпулювання зображеннями не є чимось новим. Авторитарні уряди мають довгу історію «зникнення» офіційних фото лідерів, що впали в немилість. А починаючи з 1990 року, фотошоп дозволяє користувачеві видозмінювати цифрові фотографії.
Але діпфейк – це щось інше. І значно небезпечніше. Інше, бо від часу, коли циркулювали фальшиві відео актрис, і до нині ця технологія значно удосконалилася. Зображення тіла і вираз обличчя є напрочуд реальними, а імітації голосу і жестикуляції людини є настільки точними, що неможливо виявити, що це фальсифікація, хіба що у вашому розпорядженні є суперсучасні програми цифрової верифікації. Небезпека діпфейків полягає в тому, що ця технологія доступна будь-кому.
Колишній наречений, озлоблений психопат може створити і анонімно поширити в соціальних мережах відео, яке досконало імітуватиме голос, жести і обличчя жінки, яка його покинула, і на цьому відео вона робитиме чи говоритиме найбезсоромніші бздури. Зображення поліціянтів, що лупцюють бабцю, яка бере участь в антиурядовому протесті, можуть спровокувати жорстокі зіткнення між маніфестантами і агентами поліції. Шанований лідер релігійної чи расової групи може підбурювати своїх послідовників нападати на людей іншої раси чи віросповідання. Деякі студенти можуть створити компрометуюче відео викладача, якого не люблять. Цифрові шантажисти можуть погрожувати компанії, що поширять відео, яке негативно позначиться на її репутації, якщо їм не заплатять того, що вони вимагають.
Можливе використання діпфейків в політиці, економіці чи міжнародних відносинах є так само різноманітним, як і згубним. Оприлюднення напередодні виборів відео, що показує кандидата на президентський пост якоїсь країни, який говорить чи робить щось ганебне, стане найбільш узвичаєним виборчим вивертом. Навіть якщо супротивник цього кандидата не погодиться на використання цього брудного трюку, його найрадикальніші послідовники можуть створити це відео і поширити, ні в кого не питаючи дозволу.
Потенціал фальсифікованих відео зіпсувати стосунки між країнами і загострити міжнародні конфлікти також є велетенським.
І це не гіпотеза; таке вже було. Минулого року емір Катару Тамім бін Хамад Аль Тані з’явився на відео, вихваляючи і підтримуючи Хамас, Хізбулла, братів-мусульман та Іран. Це викликало гнівну реакцію Саудівської Аравії, Об’єднаних Арабських Еміратів та Єгипту, які вже й без того мали сильні тертя з Катаром. Вони заявили, що промова еміра є підтримкою тероризму, і розірвали з Катаром дипломатичні стосунки, закрили кордони і ввели блокаду з повітря, моря і землі. Проте дійсність була такою, що емір Катару ніколи не виголошував цієї промови; відео, яке призвело до ескалації конфлікту, було підробкою. Але бойкот був справжнім, і він триває далі.
Загроза, що її діпфейки становлять для суспільної гармонії, демократії і міжнародної безпеки, є очевидною. Протиотрути супроти цієї загрози є набагато менш очевидними, хоча є певні пропозиції. Треба зобов’язати усі організації, які створюють або поширюють фото чи відео, використовувати технологічні блоки, які унеможливлять вносити зміни в їхній візуальний матеріал. Люди також повинні мати доступ до технологій, які убезпечать їх від того, щоб стати жертвою діпфейків. Законодавство має бути адаптоване до того, щоб ті, хто ганьбить інших чи шкодить їм завдяки використанню цих технологій, мусили відповідати перед законом. Треба зробити важчим анонімне використання мережі. Усе це є необхідним, але недостатнім. Потрібно буде зробити значно більше.
Ми увійшли в епоху, в якій здатність відрізнити правду від брехні, факти від фальшивок потроху щезає. А разом з цим – довіра до інституцій і демократії. Діпфейк є новою і потужною зброєю в арсеналі, що його мають у своєму розпорядженні торговці брехнею. Треба їм протистояти.
Moisés Naím
Todo comenzó con la pornografía
El País, 23.09.2018
Зреферувала Галина Грабовська
27.09.2018