Чи #10YearChallenge дійсно є безпечним мемом

 

Якщо ви користуєтеся соціальними мережами, то не могли не помітити тренд у фейсбуці, інстаґрамі та твіттері: люди постять свої знимки "тоді і зараз", переважно фото десятирічної давності й цьогорічні.

 

Замість приєднатися, я опублікувала такий напівсаркастичний твіт:

 

10 років тому: я, найімовірніше, граюся з мемом, що гуляє по фейсбуці та інстаґрамі: як я старію на знимці на моєму профілі.

Тепер: я застановляюся, як всі ці дані можуть бути нариті для навчання алгоритмів розпізнавання старіючих облич та розпізнавання віку

 

Мій легковажний твіт почав розкручуватися. Я не збиралася стверджувати, що цей мем в принципі є небезпечним. Але я розуміла, що сценарій розпізнавання обличчя цілком ймовірний, і люди про це мають знати. Варто враховувати глибину і широту персональних даних, якими ми беззастережно ділимося.

 

Багато тих, хто критикували мої тези, стверджували, що знимки вже все одно були доступними. Найбільш поширеним спростуванням було: “Ці дані вже доступні. Facebook вже отримав всі фото профілю”.

 

Звичайно, вони це мають. У різних версіях мема людям пропонували розмістити свою першу фотографію профілю поруч із теперішньою знимкою або фото 10-річної давності поруч з їх поточною знимкою профілю. Так, ці фотографії профілю існують, у них є позначки часу завантаження, у багатьох людей їх багато, і здебільшого вони загальнодоступні.

 

Але давайте розіграємо цю ідею.

 

Уявіть, що ви хочете навчити алгоритм розпізнавання обличчя впізнавати характеристики віку, а конкретніше — старіння (наприклад, як люди будуть виглядати, старіючи). В ідеалі вам потрібен широкий і ретельний набір даних із великою кількістю фотографій людей. Було би помічним, якби ви знали, що вони взяті через фіксовану кількість років одна від одної — скажімо, через 10 років.

 

Звичайно, ви можете майнити фейсбук за фотографіями профілю і дивитися на дати публікацій або дані EXIF (Exchangeable Image File Format). Але весь цей набір фотографій профілю може врешті містити багато непотрібного шуму. Люди не завантажують фотографії точно в хронологічному порядку, і не є рідкістю, що користувачі розміщують на профілі чужі знимки. Побіжний перегляд знимок профілів моїх френдів на фейсбуці показує френдового пса, що тільки-но загинув, кілька мультфільмів, кілька літерних зображень слів, абстрактні візерунки і багато іншого.

 

Іншими словами, було би помічним, якби у вас був чистий, простий, цільово маркований набір фотографій "тоді і зараз".

 

Що більше: для знимок фейсбучного профілю дата публікації фото не відповідає даті фотографування. Навіть метадані EXIF на фотографії не завше будуть надійними для визначення цієї дати.

 

Чому? Люди могли відсканували офлайнові фотографії. Вони могли завантажувати фотографії багато разів протягом багатьох років. Деякі люди вдаються до завантаження скріншотів фотографій, знайдених в інших місцях в інтернеті. Деякі платформи видаляють дані EXIF для забезпечення конфіденційності.

 

Завдяки ж фейсбуковому мему більшість людей люб'язно додають цей контекст минулого ("я в 2008 році і я в 2018 році"), а також у багатьох випадках і додаткову інформацію про те, де і як було зроблене фото ("2008 в Університеті Чогось Там, зроблений Кимось; 2018 при відвідинах Такого-то міста для такої-а-такої  події в цьому році").

 

Іншими словами, завдяки цьому мему тепер є дуже великий набір ретельно відібраних фотографій людей нині і приблизно 10 років тому.

 

Звичайно, не всі зневажливі коментарі до згадок про мене у твіттері були про те, що це вже доступні фотографії; деякі критики відзначили, що було надто багато зіпсутих даних, щоби їх можна було використати. Але дослідники даних і науковці знають, як це пояснити. Як і з вірусними хештеґами, ви можете більше довіряти достовірності даних на початках тренду або кампанії — ще до того, як люди почнуть іронізувати або намагатимуться захопити хештеґ для неналежних цілей.

 

Що стосується фіктивних зображень, то алгоритми розпізнавання зображень достатньо досвідчені, щоби зуміти відібрати людське обличчя. Якщо ви завантажили зображення котика 10 років тому і зараз, як зробив один із моїх друзів, — чудово: цей конкретний зразок буде легко викинути.

 

Зі свого боку, Facebook заперечує будь-яке своє відношення до #10YearChallenge. "Це створений користувачами мем, який став вірусним сам по собі", — відповів представник компанії. "Не Facebook почав цей тренд, і мем використовує фотографії, які вже присутні на фейсбуці. Facebook нічого не дістає від цього мема (крім нагадування нам про сумнівні тенденції моди 2009 року). Нагадуємо, що фейсбук-користувачі можуть у будь-який момент увімкнути або вимкнути розпізнавання осіб".

 

Але навіть якщо цей конкретний мем не є прикладом соціальної інженерії, останні кілька років рясніють прикладами соціальних ігор і мемів з призначенням витягнути і зібрати дані. Тільки згадайте про масове скачування компанією Cambridge Analytica даних більше 70 мільйонів фейсбук-користувачів у США.

 

Чи це зле, що хтось може використовувати ваші фейсбук-фотографії, щоб навчити алгоритм розпізнавати обличчя? Не обов'язково; в певному сенсі це неминуче. Тим не менш, ширший висновок полягає в тому, що нам треба підходити до нашої взаємодії з технологією, пам'ятаючи про дані, які ми генеруємо, і про те, як можна їх масштабно використати. Я запропоную три ймовірні варіанти використання розпізнавання обличчя: один респектабельний, один звичайний і один небезпечний.

 

Доброякісний сценарій: технологія розпізнавання обличчя, особливо зі старінням, може допомогти в пошуку зниклих дітей. Минулого року поліція Нью-Делі повідомила, що всього за чотири дні виявила майже три тисячі зниклих дітей, використовуючи технологію розпізнавання обличчя. Якби діти були відсутні деякий час, то вони, мабуть, виглядали би трохи інакше, ніж на останній відомій фотографії, тому надійний алгоритм старіння міг би бути тут реально корисним.

 

Повсякденний потенціал розпізнавання обличчя: розпізнати вік найбільш корисно, мабуть, для цільової реклами. Рекламні дисплеї, які включають камери або датчики і можуть адаптувати свої повідомлення для демографії різних вікових груп (а також інших візуально відомих характеристик і помітних контекстів), ймовірно, будуть звичайним явищем уже незабаром. Це застосування не надто захоплює, але дозволяє зробити рекламу більш релевантною. Але оскільки ці дані течуть далі й переплітаються з відстеженням наших локацій, нашою реакцією та поведінкою яко покупців та іншими сигналами, то це може призвести до деяких справді жахливих взаємодій.

 

Третій сценарій: як і в більшості нових технологій, тут теж є ризик небезпечних наслідків. Старіння колись може враховуватися при оцінці страхування та медичного обслуговування. Наприклад, якщо виглядає, що ви старієте швидше, ніж ваша когорта, то, ймовірно, ви не надто добрий страховий ризик. Вам можуть запропонувати заплатити більше або можуть відмовити в страхуванні.

 

Після того, як Amazon наприкінці 2016 року ввела послугу розпізнавання обличчя в режимі реального часу, компанія почала продавати цей сервіс правоохоронним органам і урядовим установам — наприклад, поліцейським департаментам в Орландо і в окрузі Вашингтон, Орегон. Але ця технологія викликає серйозні проблеми конфіденційності: поліція може використовувати її не тільки для відстеження людей, яких підозрюють яко злочинців, а і людей, які злочинів не вчиняють — наприклад, учасників протестів чи тих, кого поліція вважає прикрими.

 

Американський союз громадянських свобод попросив Amazon припинити продаж цієї послуги. Про це ж попросила і частина акціонерів та співробітників Amazon, посилаючись на тривогу за оцінку вартості й репутації компанії.

 

В цілому важко переоцінити те, як технології можуть вплинути на людство. У нас є можливість зробити на благо, але для цього ми мусимо виявити, яким чином вони можуть діяти на гірше. Як тільки ми розуміємо проблему, треба зважити все.

 

Тож чи така це суттєва справа? Чи буде зле від того, що ви розмістили деякі вже публічні фотографії профілю на своїй стіні? Чи небезпечно навчати алгоритми розпізнавання обличчя старінню і розпізнаванню віку? Не зовсім.

 

Незалежно від походження або намірів цього мема, ми всі повинні бути більше обізнані про дані, які створюємо і поширюємо, про доступ, який ми надаємо до них, і про наслідки його використання. Якби контекст був грою, в якій явно говорилося, що збираються пари фотографій "тоді і зараз" для дослідження старіння, то ви можете взяти участь у цьому з усвідомленням того, хто має мати доступ до фотографій і з якою метою.

 

Ширший же месидж – якщо відійти від специфіки будь-якого мема або навіть будь-якої соціальної платформи – полягає в тому, що люди є найбагатшим джерелом даних для більшості технологій, що з'являються у світі. Ми повинні це знати і діяти з належною обачністю і мудрістю.

 

Люди є сполучною ланкою між фізичним і цифровим світами. Людські взаємодії – це більшість того, що робить інтернет речей цікавим. Наші дані – це пальне, яке робить бізнес розумнішим і прибутковішим.

 

Ми повинні вимагати, щоб бізнес ставився до наших даних з належною повагою. Але і ми також повинні ставитися до наших власних даних з повагою.

 

 


Kate O'Neill
Facebook's '10 Year Challenge' Is Just A Harmless Meme—Right?

Wired, .15.01.2019
Зреферував О.Д.

22.01.2019