Біотехнологія і розвиток штучного інтелекту можуть розділити людство на невеликий клас «надлюдей» і величезний нижчий клас «непотрібних». Як тільки маси втрачають свою економічну і політичну владу, рівень нерівності загрозливо зростає
Нерівність сягає кам'яного віку. 30 тисяч років тому племена мисливців-збирачів на території нинішньої Росії ховали деяких соплемінників в розкішних могилах, переповнених тисячами намистинок мамотнової кістки, браслетів, коштовностей і предметів мистецтва, а іншим доводилося задовольнятися голою дірою в сирій землі.
Однак стародавні групи мисливців-збирачів були ще більш-менш егалітарними порівняно з будь-яким наступним людським суспільством — бо у них було дуже мало власності. Власність є передумовою тривалої нерівності.
Після аграрної революції власності збільшилося, а разом з нею — і нерівності. Коли люди отримали у власність землю, тварин, рослини та знаряддя, виникли жорсткі єрархічні суспільства, в яких нечисленні еліти монополізовували більшу частину багатства і володіли ними з покоління в покоління.
Люди прийняли цей порядок як природний і навіть як встановлений вищою силою. Єрархія була не просто нормою, а й ідеалом. Який може бути порядок без чіткої єрархії між аристократами а простолюдинами, між чоловіками а жінками або між батьками а дітьми?
Священики, філософи і поети у всьому світі наполегливо пояснювали, що як у людському організмі не всі органи рівні — ноги повинні підпорядковуватися голові — так і в людському суспільстві рівність не принесе нічого, крім хаосу.
Однак у пізній модерн рівність швидко стала домінуючою цінністю майже повсюдно в людських суспільствах. Частково це було зумовлено виникненням нових ідеологій, таких як гуманізм, лібералізм і соціалізм. Але також це було пов'язано і з промисловою революцією, яка зробила маси більш важливими, ніж коли-небудь раніше.
Індустріальні економіки спиралися на маси простих робітників, а індустріальні армії покладалися на маси простих солдат. Уряди і демократій, і диктатур вкладали значні кошти в охорону здоров'я, освіту та добробут мас, бо їм потрібні були мільйони здорових робітників для роботи на фабриках і мільйони вірних солдатів для служби в арміях.
Отже, історія 20-го століття значною мірою крутилася навколо зменшення класової, расової та статевої нерівності. Світ 2000 року був значно рівнішим, ніж світ 1900-го. Після закінчення «холодної війни» люди стали оптимістичними, як ніколи, й очікували, що цей процес триватиме і прискориться в XXI столітті.
Зокрема, вони сподівалися, що глобалізація поширить економічне процвітання і демократичні свободи на весь світ, і внаслідок цього люди в Індії та Єгипті нарешті отримають ті ж права, привілеї та можливості, що й люди у Швеції та Канаді. З цією надією виросло ціле покоління.
Тепер виглядає, що ця надія була оманою.
Глобалізація, безумовно, принесла користь значній частині людства, але є ознаки зростаючої нерівності як між суспільствами, так і всередині них. В той час, як деякі групи щораз більше монополізують плоди глобалізації, мільярди інших лишаються позаду.
Що більш зловісно: коли ми входимо в постіндустріальний світ, ці маси стають зайвими. Кращі армії більше не покладаються на мільйони звичайних новобранців, а радше на відносно невелику кількість високопрофесійних солдатів, які використовують дуже високотехнологічне спорядження й автономні дрони, роботи та кібер-черв'яки. Мілітарно вже сьогодні більшість населення є непотрібною.
Те ж саме може статися і в цивільній економіці. Оскільки штучний інтелект перевершує людей у щораз більшій кількості вмінь, він, найімовірніше, замінить їх у щораз більш і більше професіях. Правда, може з'явитися багато нових, але це не конче розв’яже проблему.
Люди переважно мають тільки два види здібностей — фізичні та когнітивні, і якщо комп'ютери перевершать нас в обидвох, то вони зможуть перевершити нас в і нових професіях так само, як і в старих. Отже, мільярди людей можуть стати фактично непрацездатними, і ми побачимо появу величезного нового класу — класу непотрібних.
Це одна з причин, чому людські суспільства у XXI столітті можуть бути найбільш нерівними в історії.
Є й інші причини побоюватися такого майбутнього.
Із швидким прогресом в галузі біотехнології і біоінженерії ми можемо досягти пункту, де, вперше в історії, уможливлюється перехід економічної нерівності в біологічну. Незабаром біотехнологія дозволить проектувати тіло й мозок та модернізувати наші фізичні й когнітивні здібності. Проте такі процедури можуть бути дорогими й доступними лише для вищих верств. Отже, людство може розділитися на біологічні касти.
Протягом всієї історії багаті й аристократи завше уявляли собі, що мають виняткові щодо всіх інших здібності, і саме тому вони керують. Наскільки ми можемо судити, це було неправдою. Пересічний князь не був більш талановитим, ніж пересічний селянин: своєю вищістю він був зобов'язаний лише несправедливій правовій і економічній дискримінації. Але до 2100 року багаті люди можуть бути більш талановитими, творчими і розумними, ніж мешканці бідних нетрів. Коли відкриється справжній розрив у здібностях між багатими а бідними, то закрити його стане майже неможливо.
Разом ці обидва процеси — біоінженерія в поєднанні з розвитком штучного інтелекту — можуть призвести до поділу людства на невеликий клас надлюдей і великий люмпенізований клас «непотрібних».
Ось конкретний приклад: транспортний ринок. Нині у Великій Британії є багато тисяч водіїв вантажівок, таксі й автобусів. Кожен із них має невелику частку на ринку перевезень, і вони від цього дістають політичну владу. Вони можуть об'єднатися в профспілки — і якщо уряд зробить щось таке, що їм не сподобається, почати страйк і зупинити всю транспортну систему.
Тепер перенесімося на 30 років. Всі автівки є самокерованими. Одна корпорація контролює алгоритм, який пильнує за всім ринком перевезень. Вся економічна і політична влада, яка раніше розподілялася між тисячами, тепер опинилася в руках однієї корпорації, якою володіє жменька мільярдерів.
Як тільки маси позбуваються своєї економічної важливості і політичної влади, держава втрачає, принаймні частково, стимул інвестувати в їхнє здоров'я, освіту та добробут. Це дуже небезпечно — бути зайвим. Ваше майбутнє залежить від доброї волі нечисленної еліти. Можливо, протягом декількох десятиліть добрі наміри збережуться. Але під час кризи — як, наприклад, кліматична катастрофа — стає дуже спокусливо і легко викинути вас за борт.
У таких країнах, як Великобританія, з давньою традицією гуманних переконань і практик держави загального добробуту, еліта, можливо, продовжить піклуватися про маси, навіть коли вони їй реально не будуть потрібні. Справжня проблема буде у великих державах, які щойно розвиваються — як-от Індія, Китай, Південна Африка чи Бразилія.
Ці країни нагадують довгий поїзд: еліти в першокласних вагонах користають охороною здоров'я, освітою та рівнем доходів нарівні з найрозвиненішими державами світу. Але сотні мільйонів простих громадян, які тиснуться у вагонах III класу, як і раніше, страждають від поширених хвороб, неуцтва та бідності.
Що преферуватиме індійська, китайська, південноафриканська чи бразилійська еліта в наступному столітті? Інвестувати у розв’язання проблем сотень мільйонів непотрібних бідних — чи в апґрейд кількох мільйонів багатих?
У XX столітті еліти були зацікавлені у вирішенні проблем бідних, бо ті залишалися мілітарно й економічно вкрай важливими. Проте в XXI столітті найбільш ефективною (та безжальною) стратегією може бути відмова від непотрібних вагонів третього класу і рух уперед тільки першим класом. Для того, щоби конкурувати з Південною Кореєю, Бразилії, можливо, значно більша потреба буде в жменьці модернізованих надлюдей, аніж у мільйонах здорових, але непотрібних робітників.
Отже, замість глобалізації, що веде до процвітання і свободи для всіх, вона фактично може призвести до видоутворення: диверґенції людства в різні біологічні касти або навіть на різні види. Глобалізація об'єднуватиме світ по вертикальній осі і скасовуватиме національні відмінності, але вона ж одночасно буде розділяти людство по горизонтальній осі.
З цієї точки зору нинішній популістичний ресентимент «еліти» є обґрунтованим. Якщо ми не будем обережними, то онуки маґнатів Силіконової Долини можуть стати вищою біологічною кастою для онуків селюків із Аппалачів.
Є ще один можливий крок на шляху до раніше немислимої нерівності. В короткостроковій перспективі влада може перейти від мас до нечисленної еліти, яка володіє основними алгоритмами та даними, які вони використовують, і контролює їх. У довгостроковій перспективі, одначе, влада може повністю перейти від людини до алгоритмів. Щойно штучний інтелект стане розумнішим за людську еліту, все людство може стати зайвим.
Що буде після цього? Ми поняття не маємо — дослівно не можемо собі цього уявити. Бо ж як ми можемо уявити? Суперрозумний комп'ютер за визначенням буде мати значно багатшу і творчу уяву, ніж та, яку маємо ми.
Звичайно, технологія ніколи не детермінує. Ми можемо використовувати ті самі технологічні прориви для створення абсолютно різних видів суспільств і ситуацій. Наприклад, у XX столітті люди могли використовувати технології промислової революції — потяги, електрику, радіо, телефон — для створення комуністичних диктатур, фашистських режимів або ліберальних демократій. Подумайте лиш про Північну і Південну Кореї: у них був доступ до докладно таких самих технологій, але вони вирішили використовувати їх по-різному.
У XXI столітті розвиток штучного інтелекту та біотехнологій, безумовно, змінить світ, але це не є карт-бланш на певний детермінований результат. Ми можемо використовувати ці технології для створення абсолютно різних видів суспільств. Як же їх мудро застосовувати — це найважливіше питання, яке стоїть сьогодні перед людством. Якщо вам не подобаються деякі з описаних тут сценаріїв, ви все ще можете щось зробити.
Юваль Ной Гарарі читає лекції в Єврейському університеті в Єрусалимі і є автором Sapiens: A Brief History of Humankind [Sapiens: Коротка історія людства] та Homo Deus: A Brief History of Tomorrow [Homo Deus: Коротка історія завтрашнього дня]. А для BBC він веде дискусію про історію нерівності.
Yuval Noah Harari
Are we about to witness the most unequal societies in history?
The Guardian, 24.05.2017
Зреферував О.Д.