ВИСТУП НА СВІТОВОМУ ЕКОНОМІЧНОМУ ФОРУМІ В ДАВОСІ
Вламуючись в нашу свідомість, еліти можуть дістати владу перепроектувати саме життя. Це може бути найбільшою революцією не тільки в історії людства, а й за всі чотири мільярди років життя на Землі.
Отож, я хочу з вами поговорити нині про майбутнє нашого виду і реальне майбутнє життя. Цілком ймовірно, що ми є одним з останніх поколінь Homo sapiens. За сто чи двісті років Землю опанують суб'єкти, що будуть відрізнятися від нас більш, ніж ми від неандертальців чи шимпанзе, бо в найближчі покоління ми навчимося перепроектувати наші тіла і розум. Це буде основна продукція економіки XXI століття. Не одяг, не машини чи зброя, а тіло і мозок.
Який вигляд матимуть майбутні господарі планети? Це вирішать ті, хто володіє інформацією. Ті, хто контролює дані, контролює майбутнє не тільки людства, а й майбутнє самого життя — бо сьогодні дані є найважливішим активом на світі. В стародавні часи таким активом була земля. І коли надто багато землі зосередилось в руках занадто малої кількості людей, людство поділилося на аристократів і простолюддя. В часи модерну, в останні два століття, землю як найважливіший актив замінили машини. А коли надто багато машинерії зосередилось в руках занадто малої кількості людей, людство поділилося на класи — капіталістів і пролетаріат.
Тепер машини замінюють даними. І якщо надто багато даних зосередиться в руках занадто малої кількості людей, то людство поділиться вже не на класи, а на види.
Ось чому інформація є так важливою. Важливою, бо ми досягли того рівня, коли можемо гакнути не тільки комп'ютери, а й саму людину чи інші організми.
Тепер багато говорять про гакінґ комп'ютерів та мейлів чи банківських рахунків, але насправді ми дістали можливість гакати, "зламувати" людей.
Що треба, щоб гакнути людей? Дві речі: багато обчислювальної потужності і багато даних, особливо біометричних. Не тих даних, які показують, що я купую і куди йду, а даних про те, що робиться в моєму тілі і свідомості. Донині ніхто не володів відповідною обчислювальною потужністю і даними для реалізації людського гакінґу.
Навіть якби КҐБ чи іспанська інквізиція ходили за людиною 24 години на добу, спостерігаючи за всім, що ви робите, слухаючи все, що ви говорите, то вони не мали обчислювальної потужності і біологічних знань, необхідних для розуміння, що робиться в людському тілі і мозку, вони знали, що ви відчуває, що думаєте і чого хочете.
Але тепер ситуація змінюється завдяки двом паралельним революціям. Поступ комп'ютерних наук, особливо розвиток машинного навчання і штучного інтелекту, дає нам необхідну обчислювальну потужність. Одночасно відкриття в біології, особливо в галузі наук про мозок, дає нам необхідне розуміння його функціонування.
Півтораста років біологічних досліджень від часів Чарльза Дарвіна можна підсумувати в трьох словах: організми є алгоритмами. Найбільшим інсайдом сучасної науки про життя є те, що організми — чи то віруси бананів, чи люди — насправді є лиш біохімічними алгоритмами, і тепер ми вчимося, як розшифрувати ці алгоритми. Тепер, коли ці дві революції зливаються, коли революція в інформаційних технологіях поєднується з біотехнологічною, ми дістаємо можливість гакінґу людської істоти.
І найважливішим винаходом, що дозволяє це злиття інфотехнологій з біотехнологіями, може бути біометричний сенсор, який перетворює дані про біохімічні процеси в тілі і розумі в електронні сигнали, які комп'ютер може громадити і аналізувати. А коли ми матимемо достатню кількість такої біометричної інформації і достатню обчислювальну потужність, то ми зможемо створити алгоритми, які знатимуть мене краще, ніж знаю себе я.
Бо так направду, люди себе зовсім не знають. Наприклад, я лише на 21-му році нарешті зрозумів, що є геєм — після кількох років заперечення цього факту. І я не виняток, чимало геїв живуть з цим запереченням багато років, вони не знають чогось дуже важливого про себе. А тепер уявіть собі ситуацію через 10-20 років, коли алгоритм зможе точно вказати кожному підліткові діапазон на гей-осі, де він або вона перебуває, і навіть наскільки тривкою є ця позиція.
Є алгоритм, що відстежує рух очей, тиск крові, активність мозку і говорить тобі, ким ти є в цей момент. Може, ти сам би не хотів скористатися таким алгоритм, але уявіть себе на якихось нудних уродинах когось з однокласників, і в одного з ваших друзів з'являється чудова ідея, і він каже, що чув про цей крутий новий алгоритм визначення твоєї сексуальної орієнтації, і що було би дуже весело, коли би ми всі по черзі пройшли цей тест. Уявіть собі, як всі інші спостерігають за тестом кожного, коментуючи результати. Що б ти зробив? Чи ти би зміг просто піти? І навіть якщо ти підеш, і навіть якщо ти будеш ховатися від своїх однокласників або від себе самого, ти не зможеш сховатися від Amazon і Alibaba чи від таємної поліції.
Коли ти серфінґуєш в інтернеті, коли дивишся фільм чи переглядаєш соцмережі, алгоритм контролюватиме рух твоїх очей, тиск крові і активність мозку, і вони будуть все знати. І вони зможуть поінформувати Кока-колу, що, коли вона хоче продати твоїй особі солодкий напій з бульбашками, то, скажімо, вона не повинна використовувати рекламу з дівчиною без футболки, а з хлопцем з голим торсом. Ця інформація коштуватиме мільярди.
Коли ми матимемо алгоритми, що розуміє нас краще за нас самих, то вони будуть спроможні передбачити наші бажання, маніпулювати нашими емоціями і навіть приймати за нас рішення. А якщо ми не будемо обережні, можуть з'явитися цифрові диктатури.
В XX столітті демократії в цілому вигравали з диктатурами, бо краще обробляли дані і приймали рішення. Як правило, ми думаємо про них в етичних чи політичних категоріях, але насправді це є два різні методи обробляти інформацію: демократія розподіляє інформацію і владу приймати рішення між багатьма інституціями і особами. Диктатура навпаки — концентрує всю інформацію і владу в одному місці.
Взявши до уваги технологічні умови XX століття, розподілена обробка даних працювала краще, ніж централізована. Це є одна з головних причин, чому демократія ефективніша за диктатуру і чому, наприклад, американська економіка краща за радянську. Але це є справедливим тільки в унікальних технологічних умовах XX століття.
В XXI столітті технологічна революція, особливо штучний інтелект і машинне навчання, може схилити маятник в зворотній бік. Вони можуть зробити централізовану обробку даних значно ефективнішою за розподілену, і якщо демократія не зможе адаптуватися до цих нових умов, то люди будуть жити під владою цифрової диктатури — вже сьогодні ми бачимо щораз витонченіші режими нагляду по всьому світі. І не тільки в авторитарних державах, а й в демократіях: США будують глобальну систему нагляду; Ізраїль, моя рідна країна, намагається вибудувати режим тотального стеження на Західному Березі.
Однак контроль над даними може уможливити людській еліті зробити щось значно радикальніше, ніж просто вибудувати цифрову диктатуру. Через гакінґ організмів, еліти можуть набути владу перепроектовувати саме життя, бо якщо ви можете щось гакнути, то ви, як правило, також можете і сконструювати це.
Якщо нам дійсно вдасться досягти успіху в гакінґу і в конструюванні життя, то це буде не тільки найбільшою революцією в історії людства, це буде також і найбільшою революцією в біології — від самих початків життя 4 млрд років тому. Протягом цих 4 млрд років основні правила гри життя принципово ні в чому не змінились. Динозаври, амеби, помідори, люди були підпорядковані законам природного відбору і законам органічної хімії.
Але це може змінитися. Наука замінює еволюцію шляхом природного відбору на еволюцію шляхом інтелектуального проектування. Проект не якогось бога над хмарами, а конструкція нашого власного розуму та інтелектуальна конструкція наших хмар — хмари IBM у сфері хмарних технологій чи хмари Microsoft — стануть новими рушійніми силами еволюції. Одночасно наука може дати можливість життю, яке 4 млрд років було обмежене сферою органічних сполук, вибитися в неорганіку.
Іншими словами, після 4 млрд років органічного життя, що формувалось природним відбором, ми вступаємо в епоху неорганічного життя, що формується проектом розуму.
Тому право власності на дані є таким важливим. Якщо ми не врегулюємо цього питання, то крихітна еліта зможе взяти під контроль не тільки майбутнє людських суспільств, а й форми життя в майбутньому.
Як регулювати цю власність на дані? Ми маємо десять тисяч років досвіду регулювання права власності на землю, у нас є багатовіковий досвід стосовно регулювання власності на засоби виробництва, але ми не маємо надто багато досвіду регулювання власності на інформацію, що є значно важче, бо, на противагу землі і на противагу машинерії, дані є всюди і ніде водночас. Вони можуть поширюватися зі швидкістю світла, і ви можете створити стільки копій, скільки хочете.
Так от, чи належать мені дані про мою ДНК, про мій мозок, моє тіло? Чи належать якійсь корпорації? Чи уряду? А може, людству?
Корпорації зберігають величезну кількість даних, і людей це починає тривожити. Тиск на уряд, щоб націоналізувати дані, може приборкати владу великих корпорації, але тільки заради того, щоб породити цифрові диктатури.
Політики, принаймні дуже багато політиків, грають як музиканти, а інструментом, на якому вони грають, є людські емоційні та біохімічні структури. Політик виголошує промову – і по всій країні прокочується хвиля страху. Політик твітує – і вибухає гнів і ненависть. Я не думаю, що ми повинні давати цим музикантам витонченіші інструменти. І я, звичайно, не вважаю, що вони готові до того, щоб їм довірити майбутнє життя у всесвіті.
Тим більше, що багато політиків і багато урядів видаються нездатними продукувати змістовні візії майбутнього. Натомість вони продають громадськості ностальгічні фантазії про повернення у минуле.
Як історик, я можу сказати дві речі про минуле: по-перше, воно зовсім не було таким файним, щоб хотіти туди повертатися, а по-друге, воно не повернеться. Ностальгічні фантазії не є рішенням.
То хто ж повинен володіти даними? Чесно кажучи, я не знаю.
Дискусія, думаю, тільки почнеться. Більшість людей, коли чує про контроль за даними, думає про приватність, про покупки, про корпорації, які знають, що ти купуєш. Але це тільки верхівка айсберга, на кін поставлено значно важливіші речі, ця дискусія навіть не почалася, і ми не можем очікувати на швидку відповідь.
Ми повинні закликати наших науковців, філософів, наших правників, поетів — і особливо наших поетів, — щоб вони звернули увагу на це велике питання: як регулювати власність на дані.
Від відповіді може залежати не тільки майбутнє людства, а й самого життя.
Yuval Noah Harari
An Algorithm Will Be Your Best Therapist, But It Can Be Hacked Too.
World Economic Forum, Davos 2018
Переклад О.Д.