«Старший Брат 2.0»

CОЦІАЛЬНИЙ ЕКСПЕРИМЕНТ

Уявіть собі світ, в якому за вашими щоденними діями постійно спостерігають: що ви купуєте в магазинах і через Інтернет, де ви перебуваєте в певний момент, хто ваші друзі і про що ви з ними спілкуєтесь, що ви переглядаєте в Інтернеті, чи справно сплачуєте рахунки і т. д. Це не так вже й важко уявити. ІТ-корпорації, зокрема Facebook чи Google, гігант роздрібної торгівлі Amazon та багато інших ретельно відстежують активність своїх користувачів. А тепер уявіть, що всю цю інформацію вносять в єдину базу даних, опрацьовують за допомогою спеціальних алгоритмів і ставлять вам позитивну або негативну оцінку, від якої залежить ваше життя. Звучить, наче сюжет з якоїсь похмурої фантастики. А от і ні! Це соціальний експеримент під назвою «Система соціального кредиту», який вже сьогодні активно запроваджують в Китаї, а з 2020 року він має запрацювати по усій Піднебесній (окрім Гонконгу та Макао). Що це? Цифрова диктатура, якої не міг уявити собі навіть Джордж Орвелл? Чи, можливо, неминуча реальність життя в інформаційному суспільстві? Розберімось з тим, що зараз відбувається в Китаї.

14 липня 2014 року уряд КНР опублікував документ під назвою «Основні принципи побудови системи соціального кредиту». Він досить великий та багатослівний. Його формулювання довгі та нечіткі. Але у ньому є одна радикальна ідея. А що якщо запровадити єдиний «індекс довіри» для всіх 1,3 млрд. китайських громадян, а також юридичних осіб, і розраховувати його кількісно? Такий індекс дозволяв би не лише винагороджувати тих, хто має високу довіру, і використовувати санкції проти тих, хто її втратив, а й контролювати поведінку людей та компаній, щоб спонукати їх діяти так, як цього хоче держава. «Ми хочемо, щоб ті, хто має довіру, ходили всюди під небом, а ті, хто її втратив, не змогли ступити жодного кроку», — сказано в документі.

В остаточному варіанті «Система соціального кредиту» має виглядати так. Кожен громадянин отримує однакову суму балів кредиту довіри. Далі, залежно від його поведінки, рейтинг зростає або знижується. Розрізнена інформація від роботодавців, правоохоронних органів, комерційних та муніципальних структур, публічних та власних електронних пристроїв, камер стеження і т. д. надходить в єдину базу даних, в якій її опрацьовують спеціальні алгоритми і переводять в єдиний показник кредиту довіри. Побудова такої системи — це одна з пріоритетних цілей 13-го п’ятирічного плану КПК на 2016-2020. В офіційних документах Комуністичної партії про неї сказано як про «невід’ємну складову майбутнього соціалістичної ринкової економіки».

Що ж залежатиме від цього показника? Він впливатиме на можливість взяти кредит, отримати страховий поліс і багато інших соціальних благ. Роботодавці не братимуть людей з низьким рейтингом на роботу, а також їм буде заборонено працювати в окремих галузях, таких як державна служба, журналістика чи право. Їм не продаватимуть авіаквитків та квитків на швидкісні потяги, їхні діти не зможуть вчитися в престижних державних школах. Такі громадяни ставатимуть соціальними вигнанцями, адже від їхнього рейтингу залежатиме також рейтинг їхніх родичів та друзів. Партія навіть передбачила різні методи публічного приниження «порушників довіри». Їхні прізвища виставлятимуть на загальний огляд, а коли ж ви телефонуватимете комусь з них, сигнал у телефоні перебиватиме повідомлення, що ви дзвоните людині, яка є, наприклад, «злісним боржником». Усе це точно нагадує епізод «Nosedive» з серіалу «Чорне дзеркало», з тією, однак, відмінністю, що громадян оцінює держава, а не вони самі одне одного. Понизити рейтинг може не лише якесь серйозне правопорушення, а й, наприклад, такі дрібниці, як неявка в ресторан без попереднього скасування замовлення, шахраювання в онлайн-іграх, фальшивий відгук на продукт на форумі чи перехід вулиці на заборонений сигнал світлофора.

Єдиної моделі системи соціального кредиту сьогодні ще не існує. Поки що китайська влада застосовує підхід «дивись і вчись». У поєднанні комуністичного нагляду та капіталістичної ініціативи вона дозволила вісьмом приватним компаніям протестувати різні елементи системи з різними алгоритмами та наборами даних. Серед цих компаній основна роль належить двом — соціальному месенджеру WeChat з понад 850 млн активних користувачів та додатку для онлайн-платежів і переказу коштів Alipay, який належить китайському інтернет-гіганту Alibaba. Зокрема, у 26 містах Піднебесної разом з мегаполісами Шеньчженем та Сіанем уряд проводить експеримент, заміняючи державні картки соціального забезпечення акаунтами у WeChat, які тепер використовують для офіційної ідентифікації громадян. На основі інформації у  WeChat у 2015 р. Міністерство громадської безпеки КНР розпочало масштабний проект зі створення бази даних облич усіх 1,3 млрд громадян Китаю та алгоритмів їхнього розпізнавання з 90% точністю. Крім того, закон зобов’язує WeChat та інші сервіси для обміну повідомленнями зберігати записи розмов, які влада може за потреби перевірити.

Втім, основним прототипом «Системи соціального кредиту» є не експерименти з WeChat, a додаток для онлайн-платежів Alipay – китайський варіант PayPal, який створив власну систему рейтингування клієнтів під назвою Sesame Credit. Її принцип нагадує кредитний рейтинг FICO, який на Заході використовують банки для оцінки платоспроможності клієнтів, але враховує набагато ширший спектр показників. Зміст експерименту полягає в максимальному розширенні даних, які збираються, щоб вони містили не лише фінансову історію, а й соціальну поведінку людини, і оцінювали її на шкалі від 350 до 950 балів. Навіть такі, здавалось би, невинні характеристики, як купівельні вподобання, Sesame Credit перетворює на мірило людського характеру. «Хтось, хто грає в відеоігри по десять годин на день, є ледарем. Натомість людина, яка часто купує підгузки, скоріше за все, має дитину і наділена почуттям відповідальності», — пояснює технологічний директор Sesame Лі Їнюнь.

Система не лише досліджує поведінку — вона ще й детермінує її, «підштовхуючи» до тих дій, які бажані для держави. Зокрема, вона створила цілу систему винагород і привілеїв для клієнтів, які підтвердили свою довіру. Досягніть 600 очок — і зможете отримати разовий кредит в розмірі 5.000 юанів на покупку в Alipay; 650 — і зможете взяти напрокат автомобіль без застави. Якщо ваш рейтинг піднімається до 666 і вище, ви можете отримати готівкову позику в сумі до 50.000 юанів. Отримайте 700 — і можете подорожувати в Сінгапур без супровідних документів. А якщо у вас 750, ви без черги зможете отримати шенгенську візу для мандрівки Європою. Sesame Credit винагороджує ще й тим, що профілі її клієнтів з високим рейтингом розміщуються найвище в найпопулярнішому в Китаї сайті знайомств Baihe. За будь-які переступи Sesame Credit знімає бали. Її менеджери, наприклад, зверталися до пекінських університетів, щоб ті надали їм списки студентів, які списують на екзаменах.

Вже сьогодні в Китаї Sesame Credit є не лише засобом отримати блага від Alibaba, а й самоціллю. Високий рейтинг — це ознака престижу, тож громадяни конкурують за те, в кого він вищий. З’являються способи штучного підвищення рейтингу, наприклад, умисна купівля певних товарів. Скоріше за все, у майбутньому люди маніпулюватимуть своїм рейтингом — так само, коли, наприклад, купують лайки у Facebook чи підписників у Twitter. Хакери ж можуть викрадати захищену цифрову інформацію. Можливо, з’явиться навіть новий вид професії — консультант з рейтингу Sesame, за аналогією з теперішніми фінансовими консультантами. В «Чорному дзеркалі» усе це вже є.

«Система соціального кредиту» ґрунтується на багатьох практиках, які вже мають тривалу історію в Китаї. Так, зокрема, ще в III столітті до нашої ери імператор Цінь Ши Хуанді, який вперше об’єднав Китай і увійшов в історію завдяки своїм жорстоким методам правління, поділив усіх своїх підданих на групи по десять осіб і змушував їх стежити одне за одним, доносячи про все підозріле. Ідею збирати всю інформацію про людину в єдиний архів, який по-китайськи називається «данґан», запровадили вже комуністи в роки правління Мао Цзедуна. Ще одне традиційно китайське поняття, яке пов’язане з цим експериментом, – конфуціанська чеснота «гуаньсі», яку можна описати як кредит довіри однієї людини до іншої. Якщо ви робите комусь послугу, ви інвестуєте в своє «гуаньсі»; якщо послугу роблять вам – ви позичаєте з «гуаньсі» іншого й зобов’язані повернути борг.

«Система соціального кредиту», по суті, поєднує в одне ціле та переводить на мову цифр та алгоритмів ці три традиційні китайські практики. Утім, її все-таки не можна вважати суто китайським винаходом. Уряди і корпорації по всьому світу насправді вже давно використовують інструменти стеження та рейтингування громадян.

Зокрема, в Сполучених Штатах Агентство національної безпеки — зовсім не єдине «цифрове око», яке стежить за громадянами. У 2015 році Адміністрація транспортної безпеки запропонувала ідею поширити стандарти безпеки PreCheck також на записи в соціальних мережах. Поки що від ідеї відмовились через значну критику, але це не означає, що вона мертва. Ми вже живемо у світі прогностичних алгоритмів, які розраховують, що вам подобається і що ви, можливо, купите, чи вам можна довіряти, чи ви загрожуєте собі або іншим. «Старший брат» 2.0 пильно стежить за кожним з нас через пошукові системи і соціальні медіа, проте більшість з нас навіть не знає, які саме приватні дані «жертвує» корпораціям, створюючи акаунт в соціальних мережах чи даючи згоду на участь в якомусь «невинному» квесті.

Фейсбук, наприклад, збирає інформацію про те, де ви живете (ваше теперішнє місцезнаходження), вік, стать, освіту, місце і особливості роботи, мову, тип пристрою, який ви використовуєте, рівень доходів, стосунки та їхні особливості, життєві події, політичну участь, споживчу поведінку, тип вашого автомобіля, банк, в якому лежать ваші гроші, ваші теле- та музичні уподобання і багато чого іншого. Корпорація також аналізує те, що ви переглядаєте, зокрема на які сайти ви заходите, коли залоговані у Facebook, і т. д. Усе це використовують для розрахунку вашого характеру, доходу та інтересів. Цікаво, що всі ці дані ви надаєте добровільно, коли клікаєте на кнопку “погоджують” (Agree) під документом під назвою “Умови використання” (Terms of Service). Цей великий та складний для розуміння текст читає, зрозуміло, мізерний відсоток з понад 1,3 млрд користувачів Facebook. Для корпорації ви така собі «інформаційна молекула», яку потрібно вивчати під мікроскопом заради максимізації прибутку. Деякі ліві критики (Крістіан Фукс у статті «Нові медіа, Web 2.0 і спостереження») навіть порівнюють Facebook з рабовласницьким суспільством, в якому діяльність, що приносить прибуток, ніяк не винагороджується (Facebook на нас заробляє, але нам за це не платить), тоді як в капіталізмі вона винагороджується, але сума винагороди не еквівалентна вартості виробленого продукту (марксистське поняття «додаткової вартості»).

Масове збирання інформації разом з технологіями її автоматичного аналізу дозволили окремим теоретикам сформулювати тезу, що ми входимо в нову еру економіки, названу «капіталізмом стеження» (surveillance capitalism). Професор Гарвардської бізнес-школи Шошанна Зубофф, наприклад, стверджує, що онлайн-світ, який спочатку був простором анонімності та свободи, тепер стає світом, в якому інтенсивно розвивається капіталізм, причому шляхом «збирання даних, що породжує інтенсивну концентрацію влади і загрожує базовим цінностям, таким як свобода і приватність» (Zuboff, Shoshana "Google as a Fortune Teller: The Secrets of Surveillance Capitalism"). Вона виокремлює такі характеристики цього нового типу економіки:

1. Рух в напрямку дедалі більшого збирання та аналізу даних;

2. Розвиток нових форм договору на основі комп’ютерного моніторингу;

3. Прагнення персоналізувати товари і послуги, які пропонують користувачам цифрових платформ;

4. Використання технологічної інфраструктури для проведення постійних експериментів над користувачами та споживачами.

В ХVIII столітті британський філософ Джеремі Бентам запропонував концепцію ідеальної в’язниці, яку він назвав паноптикумом (від. грец. pan – усе; opticon – бачити). Вона складається з центральної вежі з наглядачем та камер з в’язнями, які оточують її по колу. Паноптикум влаштований так, що наглядач може постійно спостерігати за кожним з в’язнів, але  при цьому залишатися для них невидимим. Бентам зазначав, що дизайн паноптикуму можна використати не лише для в’язниці, а й для лікарні, школи, фабрики, концтабору і будь-якої будівлі, у якій здійснюється контроль над поведінкою. У ХХ ст. Мішель Фуко запропонував погляд на паноптикум як універсальний механізм «дисциплінарної» влади, яка:

1. встановлює правила;

2. вивчає, чи поведінка індивідів відповідає цим правилам;

3. силоміць розподіляє нагороди і покарання за виконання чи невиконання правил.

На його думку, паноптикум – це технічний принцип влади, яка впливає на свідомість і створює такі умови, за яких індивіди самостійно і добровільно виконують правила, які встановлює влада. Паноптикум був винаходом епохи Просвітництва з її прагненням до раціоналізації людської діяльності, і його можна поставити в один ряд разом з технологічним прогресом, розвитком науки та капіталізму.

Систему соціального кредиту можна було б розглядати як цифровий паноптикум з прозорими стінами та електронними пристроями, які заміняють вежу з наглядачам. Але висновок про те, що світ рухається в бік таких цифрових в’язниць, не є аж таким однозначним. Система соціального кредиту вже дала низку позитивних результатів. Корупція, кумівство, недобросовісний бізнес, забруднення навколишнього середовища є великими проблемами для сьогоднішнього Китаю. Навіть на початковому етапі  серед громадян, які «втратили довіру», були понад 1100 корумпованих чиновників. Недобросовісним фірмам тепер буде набагато важче не виконувати контрактів, забруднювати довкілля, підробляти товари і продукти харчування тощо. Чимало теоретиків стверджують, що збирання даних і створення на їхній основі репутаційної системи є не зловісним «Старшим братом», а неминучою реальністю життя в інформаційному суспільстві. Коли люди жили в невеликих спільнотах, вони чудово знали, кому можна довіряти, а кому ні, кому позичити гроші в борг, а кому не варто. В часи, коли економіка, а також багато інших сфер людського життя переходять в Інтернет, це стає неможливо, цифрові способи визначення довіри і доброчесності можна розглядати як передумову ведення бізнесу і, загалом, життя в «глобальному селі» Інтернету.

Інформаційна епоха стає неминучою. Щоб поступ цифрових технологій не перетворився на «Старшого брата 2.0», потрібно, щоб виконувались хоча б такі умови. По-перше, всі користувачі мережі мають брати участь у виробленні алгоритмів, за якими їх оцінюють. Це те саме, що голосувати за демократичну владу. Потрібно докласти максимум зусиль, щоб ці правила стали універсальними і не увібрали в себе расових, гендерних, релігійних, соціальних та інших стереотипів. По-друге, кожен повинен чітко усвідомлювати, до яких даних надає доступ. Використання непрозорих та маніпулятивних методів здобуття персональних даних без свідомої згоди є неприйнятним. По-третє, потрібні чіткі механізми захисту приватної інформації.

На думку професора філософії та етики Оксфордського університету Лучіано Флоріді, в історії людства було декілька фундаментальних трансформацій, які кардинально змінювали те, як ми усвідомлюємо себе і взаємодіємо з зовнішнім світом. Першою стала геліоцентрична модель Коперника, яка похитнула нашу віру в те, що ми є центром Всесвіту. Другою — теорія природного добору Дарвіна, після якої ми вже не вважаємо, що є чимось принципово окремим від природної еволюції. Третьою — психосексуальна теорія Фройда, що змусила засумніватися в тому, що нашою поведінкою керує винятково розум і етичні стимули. Сьогодні, на думку Флоріді, відбувається четверта трансформація, в якій фізичний світ з’єднується з віртуальним, а життя стає інфосферою — сумішшю фізичного і віртуального досвіду. Нашу фізичну особистість тепер доповнює онлайн-двійник, який може відрізнятися від того, ким ми є в реальному житті. Здається, ми перебуваємо на самому початку усвідомлення того, наскільки грандіозні ці зміни і як радикально вони змінять наші життя.