Зображення deepfake творять з допомогою мереж глибинного навчання (deep-learning), і насправді вони можуть легко обманути наївного глядача. Той, хто хоче спробувати, може на сайті whichfaceisreal.com обрати, яке з двох облич справжнє, а яке – створив комп’ютер. Навіть з допомогою програмного забезпечення віднайти відмінність вдається не завжди. Але є надія, що принаймні комп’ютер скоро буде захищений від обману, адже простий математичний аналіз пікселів допомагає розпізнати маніпуляції. На Міжнародній конференції машинного навчання (International Conference on Machine Learning, ICML) команда на чолі з Джелем Франком (Joel Frank) з Рурського університету повідомила: deepfake видає специфічний сітчасний візерунок, коли його зображають спектральним образом сигналу.
Зображення: portishead1 / getty images / istock (фрагмент).
З дискретним перетворенням косинусів зображення постає як сукупність різних косинусних функцій, кажуть учені. Якщо природні картинки здебільшого складаються з низькочастотних функцій, то штучно створені зображення демонструють різні утворення у високочастотному діапазоні.
Здається, що тут йдеться про структурну проблему всіх алгоритмів глибинного навчання, сказав Франк. «Ми припускаємо, що описані в нашому дослідженні утворення завжди виявлятимуть картинку deepfake, яку створили в результаті машинного навчання».
Deepfake здебільшого творять з допомогою двох штучних нейронних мереж, що перебувають у своєрідному змаганні одне з одним. Одна вчить створювати зображення, що виглядають правдоподібно, інша – відрізняти ці картинки від фейкових. У процесі навчальних циклів результати роботи обох мереж стають все кращими.
Техніку називають генеративною змагальною мережею (generative adversarial networks), або GAN, і сьогодні вона творить найкращі імітації реальних зображень.
Учені з Рурського університету завантажили Code der Gruppe на GitHub. Так можна здійснювати самостійно полювання на фейки.
Jan Dönges
Mathematische Analyse soll alle Deep Fakes enttarnen
spektrum.de, 17.07.2020
Зреферувала С.К.
18.07.2020