Двадцять п'ять років тому Рей Курцвейл передбачив, що до 2029 року комп'ютери досягнуть рівня людського інтелекту, що дасть змогу розв'язувати найбільші світові проблеми. Нині ми за кілька кроків до досягнення цієї віхи. У 2030-х роках штучний інтелект, значно випередивши людські можливості, стане суперінтелектуальним, що уможливить кардинальні прориви в медицині для подолання старіння. Це не є вторгненням космітів. ШІ розвивають люди, і він відображатиме нашу людяність. До 2045 року ми підключимо наш мозок безпосередньо до хмари, що посилить наш інтелект в мільйон разів і розширить нашу свідомість так, що ми навіть не можемо собі уявити. Це і буде сингулярність.
Інтерв'ю на SXSW Ніколаса Томпсона, гендиректора The Atlantic, з найвідомішим футурологом Реймондом Курцвейлом напередодні червневої прем'єри його книги "The Singularity Is Nearer: When We Merge with AI" ("Сингулярність все ближче: Коли ми зіллємося зі штучним інтелектом").
– Коли вас презентую, то мені найбільше подобається той факт, що ви працюєте в галузі штучного інтелекту довше, ніж будь-яка інша людина. А це означає, що якщо ви житимете вічно (а ми до цього ще дійдемо), то цю особливість матимете завжди.
– Гадаю, що так. Марвін Мінський дійсно був моїм наставником. Якби він жив нині, то працював би в цій галузі понад 61 рік. Але ми його теж повернемо.
– Почну з того, що поставлю вам кілька запитань про те, де ми нині перебуваємо. Потім ми поговоримо про те, що має статися, щоби досягти сингулярності, себто в наступні двадцять років. Далі ми обговоримо, що таке сингулярність, її значення і як вона змінить наше життя. А наприкінці трохи поговоримо про те, що воно означає для нас уже сьогодні, якщо ми віримо в це бачення майбутнього.
Отож, перше запитання. Ви вже давно живете в епоху революції штучного інтелекту. Ви зробили багато прогнозів, багато з яких виявилися надзвичайно точними. Ми всі вже півтора року живемо в епоху дивовижної трансформації – з великими мовними моделями. Що вас здивувало в інноваціях у великих мовних моделях і в тому, що сталося останнім часом?
– Я закінчив свою книгу рік тому, і в ній великі мовні моделі не розглядалися – тому відклав публікацію видання, щоб охопити і їх. Зізнаюсь, очікував, що це станеться через кілька років: у 1999-му я прогнозував, що це станеться до 2029 року, і хоч ми ще не зовсім там, але будемо швидше – виглядає, це станеться на рік чи два раніше, ніж передбачалося. Так що це, мабуть, було трохи несподівано.
– Зачекайте, у 1999 році ви передбачили, що комп'ютер пройде тест Тюрінга у 2029 році. Нині ви прогнозуєте, що це станеться раніше?
– Ні, я все ще кажу про 2029 рік. Поняття "тест Тюрінга" не є чітким. Буде так, що спочатку хтось заявить, ніби тест Тюрінга вже пройдено (вже нині кажуть, що GPT-4 його проходить). Потім мине, скажімо, два-три роки, коли це стверджуватимуть більше людей, далі вони продовжуватимуть це стверджувати, аж поки, зрештою, всі це приймуть. Це не відбувається за один день.
– Але у вас дуже конкретне визначення тесту Тюрінга. Коли, на вашу думку, ми пройдемо тест відповідно до цього визначення?
– Ну, тест Тюрінга насправді не такий і важливий – бо він означає, що комп'ютер зможе бути схожим на людину. Значно важливішим є AGI, загальний штучний інтелект, що передбачає, що комп'ютер може емулювати будь-яку людину. Отже, у вас є комп'ютер (і це теж 2029 рік, усе це відбувається одночасно), який може робити все, що здатна робити будь-яка людина. Хоча насправді нема такої людини, яка може це зробити. Що я маю на увазі? Візьміть нині звичайну велику мовну модель – ви можете запитати її про що завгодно, і вона дасть вам досить переконливу відповідь. Жодна людина на таке не здатна. А мовна модель робить це дуже швидко. Вона напише дуже гарне есе за 15 секунд, а потім ви можете запитати її ще раз, і вона напише ще одне есе – жодна людина не здатна досягти такого рівня.
– Ага, то вам доведеться отупити комп'ютер, щоб отримати переконливий тест Тюрінга.
– Так, щоб мати тест Тюрінга, потрібно понизити рівень комп’ютера.
* * *
– Чи крива Курцвейла все ще точна?
– Так, ось дані впродовж вісімдесяти років. Це експоненціальне зростання, пряма лінія в цих координатах означає експоненціальну криву. Якби вона була майже експоненціальною, але не зовсім, вона би вигнулася. Насправді це пряма лінія. Все розпочалося з комп'ютера, який на один фіксований долар робив 0,0000007 обчислень в секунду. Це лівий нижній кут. У правому верхньому куті – 65 мільярдів обчислень на секунду на ту ж суму. Ось чому великі мовні моделі стали можливими лише два роки тому. До цього в нас уже були великі мовні моделі, але вони не надто добре працювали. Технології рухаються по експоненціальній кривій. Ми бачимо, що, наприклад, відновлювана енергія, яка надходить від сонця та вітру, фактично є прикладом експоненціальної кривої. Вона зросла, вона здешевіла, ми знизили ціну на 99,7% і збільшили кількість енергії, що надходить від сонячної енергії, в мільйон разів. Отже, така крива дійсно визначає всі види технологій. І це є причиною того, що ми досягаємо прогресу. Повторю, ми знали, як створювати великі мовні моделі, ще багато років тому, але ми залежимо від цієї кривої. Просто дивовижно: вона почалася зі збільшення швидкості реле, потім вакуумних ламп, потім інтегральних схем, і щороку вона робить такий самий поступ, практично незважаючи на те, де ви перебуваєте на цій кривій. Останню точку ми додали лише два тижні тому – і знову ж таки, по суті, ми подвоюємо кожні 1,4 року. Переважно процес захоплює комп'ютери, але насправді це впливає на всі види технологій.
– Ви написали книгу про те, як розвивати розум. Ви багато писали про те, як влаштований людський розум. Значна частина поступу в царині систем штучного інтелекту ґрунтується на тому, що ми розуміємо нейронні мережі. Чи дізналися ми щось нове про наш мозок за минулі два роки, спостерігаючи за цими великими мовними моделями? Чи пізнаємо завдяки цьому нутро нашого черепа?
– Це, власне, стосується кількості зв’язків. Мозок насправді організований досить по-різному. Наприклад, те, що біля ока, відповідає за зір. А загалом у нас є різні способи залучати різні частин мозку, які запам'ятовують різні речі. Але тут нам це не потрібно – у великій мовній моделі всі зв'язки є однаковими. Там треба довести кількість зв'язків до певного рівня. Якщо вона приблизно відповідатиме тому, що робить мозок, а це близько трильйона зв'язків, то функціонуватиме так само, як і мозок. Ми вже майже на цьому етапі. GPT-4 – це 400 мільярдів. Наступні матимуть трильйон і більше.
– Тобто конструкція цих моделей є більш ефективною у своїй структурі, ніж наш мозок?
– Ми робимо їх якомога ефективнішими – але насправді не важливо, як саме вони організовані. І ми можемо створити певне програмне забезпечення, яке збільшить кількість зв'язків для того ж обсягу обчислень. Але все залежить від того, за скільки зв’язків відповідають конкретні комп'ютери.
– Отже, наближаючись до AGI, ми не прагнемо зрозуміти, як зробити ці машини більш ефективними? Трансформаторна архітектура, безумовно, була дуже важливою. Тепер ми можемо досягти цього, просто збільшивши обчислювальну потужність.
– Але програмне забезпечення та навчання також важливі. Тобто ви можете мати трильйон зв'язків, але якщо у вас немає на чому вчитися, це буде не дуже ефективно. Тож ми повинні мати можливість збирати всі ці дані. Ми робимо це в інтернеті, тобто збираємо інформацію в інтернеті вже кілька десятиліть – і це саме те, від чого ми залежимо, щоб мати можливість навчати ці великі мовні моделі. Ми не повинні називати їх великими мовними моделями, тому що вони охоплюють значно більше, ніж просто мову. Тобто це мова, але ви можете додати зображення, ви можете додати якісь явища, що впливають на хворобу, які не мають нічого спільного з мовою. Власне зараз ми використовуємо симульовану біологію, щоб мати змогу симулювати різні способи впливу на хвороби. Це не має нічого спільного з мовою – їх насправді варто називати моделями великих подій.
– Як ви гадаєте, чи є щось, що відбувається всередині нашого мозку, чого не можна вловити за допомогою обчислень і математики?
– Ні. У сенсі, що б це могло бути? Не думаю.
– Окей, швидке опитування аудиторії. Підніміть руку, якщо ви вважаєте, що у вашому мозку є щось, що не піддається обчисленням чи математиці, як-от душа. Бачиш ліс рук? Чудово. Тож, Рею, переконайте їх, що вони помиляються.
– Свідомість, думаю, дуже важлива, але наразі це не науково. Я не можу засунути когось всередину, і світло ввімкнеться: о, цей притомний, а ось цей – ні. Це не науково, але це насправді надзвичайно важливо. Тут ще одне питання: чому я – це я? Чому зі мною відбувається те, що відбувається? Я усвідомлюю і водночас не усвідомлюю того, що відбувається з вами. Це глибоко загадкові речі, проте насправді це не усвідомлення. Ось Марвін Мінський, який був моїм наставником протягом п’ятдесяти років, сказав, що це не науково, і тому ми не повинні цим перейматися. І будь-яку дискусію про свідомість він просто відкидав. Але насправді його реакція на людей повністю залежала від того, чи відчував він, що вони свідомі, чи ні. Так що він насправді цим користувався. Але це не є чимось, що ми ігноруємо, бо нема способу сказати, чи є щось свідомим. І це не просто щось, чого ми поки що не знаємо, але з часом відкриємо, що це – насправді не існує жодного способу сказати, є щось свідомим чи ні.
– Що ви маєте на увазі? Ось ця склянка не є свідомою, а ось цей пан є свідомим. Я цілком впевнений у цьому.
– Як ви можете це довести? Тобто ми згодні з тим, що люди є свідомими – деякі, не всі. А як щодо тварин? У нас великі розбіжності. Дехто каже, що тварини не мають свідомості, а інші вважають, що мають. Можливо, деякі тварини мають, а інші ні. Це неможливо довести.
– Добре, я хочу обговорити це питання про свідомість, але перш ніж ми це зробимо, хочу переконатися, що правильно зрозумів вашу попередню відповідь. Отже, відчуття, яке я отримую від закоханості, або будь-яку емоцію, яку я переживаю, можна в кінцевому підсумку представити математично у великій мовній моделі?
– Так, себто поведінка, почуття, які ви відчуваєте, коли ви з кимось, кого любите, – це однозначно залежить від того, що роблять зв'язки. Можна визначити, відбувається це чи ні.
– Окей. Отже, ви не вважаєте, що варто намагатися дати визначення свідомості? Тобто у своїй книзі ви приділяєте чимало уваги різним аргументам щодо того, що означає свідомість – але схоже, що ваш аргумент на цій сцені полягає в тому, що ми не повинні намагатися дати їй визначення?
– Не існує жодного способу фактично це довести. В сенсі, у нас є певні домовленості. Я згоден, що всі ви є свідомими, адже ви прийшли в цю кімнату. Це досить хороша ознака того, що ви свідомі. Проте це не є доказом. І можуть бути люди, які здаються не зовсім притомними в цей момент. Вони свідомі чи ні? А тварини? Себто я думаю, що слони і кити є свідомими, але не всі з цим погоджуються.
– Добре, а коли ми матимемо можливість, по суті, завантажити весь вміст мозку і відтворити його за допомогою якоїсь машини?
– Це насправді важливе питання, оскільки ми будемо говорити про довголіття. Ми збираємось дійти до точки втечі від старості. І це не так вже й далеко: думаю, якщо ви будете сумлінними, то зможете досягти цього до 2029-го – це лише через п'ять чи шість років. І ось зараз ви проживаєте рік, витрачаєте рік тривалості свого життя, але науковий прогрес уже повертає вам чотири місяці. А цей науковий прогрес розвивається по експоненціальній кривій. Він прискорюватиметься з кожним роком. І до 2029 року, якщо ви будете сумлінними, то проживаючи з кожним наступним роком рік тривалості свого життя, ви збільшите тривалість життя на цілий рік. А після 2029 року ви отримаєте додатково більше року його тривалості. Фактично, ви повернетеся назад у часі. Звичайно, це не є гарантією нескінченного життя, бо, скажімо, маючи 10-річну дитину, ви можете обчислити тривалість її життя на багато-багато десятиліть, а вона може померти вже завтра. І що важливо: ми не можемо зафіксувати все, що відбувається у вашому мозку, не можемо зробити це сьогодні і не зможемо через п'ять років. Проте ви зможете це зробити до настання сингулярності, тобто до 2045 року. На той момент ви зможете зайти всередину мозку і зафіксувати все, що там відбувається. Ваше мислення буде комбінацією суми: до вашого власного мислення додасться результат комп'ютерних обчислень. І це автоматично фіксуватиметься. Тобто сьогодні все, що ви маєте в комп'ютері, автоматично фіксується – і те додаткове мислення, яке ми матимемо, доповнивши наш мозок, також буде зафіксоване. Але зв'язки, які ми маємо в мозку, з якими ми починаємо, залишаться. Вони не фіксуються сьогодні, але будуть фіксуватися у 2045 році: ми зможемо зайти всередину мозку і їх також зафіксувати. Отже, ми фактично охопимо весь мозок, який буде мати резервну копію. Тобто навіть якщо ви будете знищені, натрапите на бомбу і вона вибухне, з 2045 року ми зможемо відтворити все, що було у вашому мозку. Це один із наслідків сингулярності. Звичайно, це не є абсолютною гарантією, адже весь світ може вибухнути, і все, що містилось в комп'ютері, може вибухнути, і тоді ви нічого не зможете відтворити. Тобто ми ніколи не зможемо абсолютно гарантувати, що ви житимете вічно. Але більшість речей, які тепер вас можуть засмутити, на той час будуть подолані.
– Тут багато всього. Почнім зі швидкості втечі від смерті. Як ви думаєте, чи доживе хтось із присутніх у цій аудиторії у своєму теперішньому біологічному тілі до 500 років?
– Абсолютно – себто якщо будуть живі через п'ять років (а я гадаю, що всі вони будуть) і якщо будуть сумлінними.
– Ого, зрозуміло. Ми поговоримо про те, що таке сингулярність, що вона означає і на що вона буде схожа. Але я хочу поставити кілька запитань, які приведуть нас до цього. У перспективі штучний інтелект зможе робити, маючи досить складні комп'ютери, все, що може робити людський мозок. А чого вони не зможуть зробити в найближчі десять років?
– Ну, одна з таких речей пов'язана з творчістю. Дехто каже, що штучний інтелект зможе робити все, що може робити людина, але вони не зможуть створювати нові знання. Це насправді не так, бо можна моделювати, наприклад, біологію. Скажімо, з вакциною Moderna це не робили звичайним способом, коли хтось сідає і думає: "Ну, гадаю, це може спрацювати", – а потім випробовує її на практиці. Потрібні роки, щоб випробувати її на багатьох людях, а це лише ідея однієї людини про те, що це може спрацювати. Вони насправді перерахували все, що могло би спрацювати, і фактично існувало кілька мільярдів різних послідовностей мРНК, тож вирішили спробувати їх усі. І вони випробували кожну з них, симулюючи біологію, що зайняло два дні. Отже, за одні вихідні вони випробували кілька мільярдів різних можливостей, а потім вибрали ту, яка виявилася найкращою. Такою, власне, і була на той час вакцина Модерна. І після цього вони протестували її на людях. Ми зможемо подолати і це, тому що також зможемо проводити тестування, використовуючи симульовану біологію. Вони ж вирішили протестувати вакцину, оскільки трохи важко відмовитися від тестування на людях. Але ми це зробимо. Тобто зможемо випробувати кожен із варіантів, вибрати найкращий, а потім випробувати його на мільйоні симульованих людей, і зробити це за кілька днів. І це, власне, майбутнє того, як ми будемо створювати ліки. Вже тепер багато чого робиться для лікування раку й інших хвороб із використанням цього методу. Це абсолютно новий метод, який, фактично, вже нині починається, стартувавши з вакцини Модерна. Створено ще одні ліки – від психічного захворювання, які зараз перебувають на третій стадії випробувань. Саме так ми будемо створювати ліки відтепер.
– Але які межі? Чого ми не можемо зробити?
– Отож, саме в цьому випадку комп'ютери проявляють творчість. І вони не просто пробують щось, що спадає їм на думку, а складають список всього, що є можливим, і пробують саме це все.
– Це творчість чи просто застосування грубої сили з максимальними можливостями?
– Це значно краще, ніж будь-яка інша форма творчості. І так, це творчість – тому що ви випробовуєте кожну можливість, і робите це дуже швидко, і створюєте щось таке, чого раніше не було. Адже що ще може бути творчістю?
– Зрозуміло, ми збираємося перетнути межі творчості. А що ми не перетнемо? Які виклики залишаться невирішеними в наступні десять років?
– Ну, ми не все знаємо, ще не пройшли через цей процес. Потрібен певний творчий підхід, щоб уявити, що може спрацювати. І також треба мати можливість змоделювати це на біохімічному симуляторі. Отже, ми маємо це збагнути, і для цього деякий час будемо використовувати людей. Тобто ми ще не все знаємо: я маю на увазі, вміти робити все, що може робити людина, – це одне, але є так багато речей, яких ми не знаємо і які ми хочемо пізнати. І це вимагає творчості. Це вимагатиме певної людської креативності в роботі з машинами.
– Добре, повернімося до того, що таке станеться, що допровадить нас до сингулярності. У нас є графік потужності обчислень, який ви показували. Він був дуже стабільним, рухався прямо вгору, по прямій лінії в логарифмічному масштабі. Є ще кілька елементів, які, на вашу думку, необхідні для досягнення сингулярності. Перший із них – це розвиток наноботів, а другий – це розвиток нейрокомп'ютерного інтерфейсу. І обидва ці напрямки розвиваються повільніше, ніж штучний інтелект.
– Ну, вони будуть повільними, бо щоразу, коли ви впливаєте на людське тіло, багато людей цим переймаються. Якщо ми робимо щось із комп'ютерами – у нас є новий алгоритм або ж ми збільшуємо швидкість його роботи, – нікого це особливо не турбує. Це можна робити – ніхто не переймається якимись небезпеками, пов'язаними з цим. Така реальність.
– Ну, існують певні небезпеки, що хвилюють людей.
– Так, але штучний інтелект розвивається дуже, дуже швидко – а це одна з причин, чому. Але якщо ви впливаєте на організм, то є побоювання, що це може мати негативний ефект. Тому ми хочемо випробувати на людях.
– Але причина, чому нейрокомп'ютерний інтерфейс не розвивається за експоненціальною кривою, полягає не лише в тому, що багато людей стурбовані ризиками для людини. Адже, як ви пояснюєте в книзі, вони просто не працюють так добре, як могли би.
– Якби ми могли пробувати щось без необхідності тестування, процес пішов би значно швидше. Тобто це і є причина, чому все йде повільно. Тепер є ідеї, як дізнатися, що відбувається в мозку, і щось неінвазійно впроваджувати в мозок: нам не треба чогось на кшталт мозкового зв’язку. Вже існують деякі методи, за допомогою яких ми можемо визначити, що відбувається в мозку, не вводячи нічого в нього. Це може значно прискорити процес.
– Але ваше передбачення щодо сингулярності залежить, якщо я правильно зрозумів, не лише від подальшого експоненціального зростання обчислень, а й від розв’язання цієї конкретної проблеми, чи не так?
– Так, бо ми хочемо збільшити рівень інтелекту, яким може керувати людина. Тому ми повинні мати можливість поєднати найкращі комп'ютери з нашим мозком.
– І чому ми повинні це робити? От тепер, наприклад, у мене є телефон, який певним чином збільшує мій інтелект. Це ж чудово.
– Так, але він дуже повільний. Тобто якщо я ставлю вам запитання, вам доведеться його набирати або промовляти, а це займає певний час – в сенсі, я ставлю запитання, а потім люди вовтузяться зі своїм комп'ютером. Це може тривати 15 секунд або 30 секунд. Не можна сказати, що відповідь одразу потрапляє у ваш мозок. Варто наголосити, що вони є дійсно корисними, це розширювачі мозку. Ще недавно їх у нас не було. Зазвичай під час своїх виступів я запитую людей: "У кого з вас є телефон?" Ставлю на те, що, можливо, знайдеться одна чи дві людини, але телефони є у всіх присутніх. Так не було п'ять, десять років тому. І це дійсно розширювач мозку, але він має певні проблеми зі швидкістю. Отож ми хочемо збільшити цю швидкість. Питання може з'явитися просто під час розмови, і комп'ютер миттєво підкаже вам відповідь, без необхідності возитися з зовнішнім пристроєм – і нині це майже можливо. Щось таке було би корисним для збільшення швидкості.
– Але хіба би ми не отримали багато з того всього корисного, про що ви говорите, якби просто продовжували все як є? Проблема з підключенням нашого мозку до машин полягає в тому, що ви раптом опиняєтеся в цілому світі – в цих складних питаннях конфіденційності, коли щось вводиться в мій мозок, а щось з мого мозку, розумієте, кудись йде. Ви наче відкриваєте цілу низку етичних, моральних, екзистенційних проблем. Невже не можете просто зробити телефони значно кращими?
– В цьому і полягає ідея, що ми можемо зробити це без потреби залазити у ваш мозок, але мати можливість ззовні дізнатися, що в ньому відбувається, за допомогою якогось девайсу.
– Що ж, продовжимо рухатися в майбутнє. Ми маємо експоненціальне зростання комп'ютерів. Ми знаходимо спосіб, в ідеалі, з'ясувати, як спілкуватися безпосередньо з вашим мозком, щоби прискорити роботу. Поясніть, чому наноботи є важливими для вашого бачення майбутнього.
– Ну, якщо ви дійсно хочете дізнатися, що відбувається всередині мозку, ви повинні мати змогу зайти на рівень частинок мозку, щоб ми дійсно могли сказати, що вони роблять і це можливо. Ми ще не можемо цього зробити – але можемо показати, що це можливо. І це одна з можливостей. Насправді ми сподіваємося, що це можна зробити, не впливаючи на мозок взагалі.
– Що ж, рухаємося далі. У нас є наноботи, що бігають всередині нашого мозку. Вони вивчають нашу голову, вони витягують думки, вони вводять думки. Які п'ять основних етичних питань постануть перед нами, коли це станеться?
– Чотирьох достатньо?
– Чотирьох достатньо. Їх могло б бути навіть шість, Рею, але ви можете назвати нам чотири.
– Я маю на увазі, що у нас буде значно більше можливостей, якщо ми зможемо керувати комп'ютерами за допомогою власного мозку. Чи в людей буде занадто багато можливостей? І тепер ми говоримо про те, що кожна людина має певну цінність на основі її таланту. А це дозволить мати талант тим, які інакше його б не мали. І талант вже не буде таким важливим, оскільки можна буде набути талант, приєднавшись до відповідної великої мовної моделі чи чогось у тому роді. Втім, згодіться, давати більше можливостей тому, хто має більше таланту, виглядає дещо безпідставно, адже він не створив цей талант, а просто так сталося, що він у нього є. Але всі кажуть, що ми повинні давати більше можливостей тим, хто має талант у певній галузі. А тут можна було б отримати талант, як у "Матриці". Ви могли би навчитися керувати гелікоптером, просто завантаживши потрібне програмне забезпечення – замість того, щоб витрачати багато часу на навчання. Це справедливо чи несправедливо? Тобто це потрапляє у сферу етичних проблем. І це не є так, що ми дійдемо до якогось кінця і скажемо: "Окей, сингулярність, власне, полягає в тому, що люди можуть робити певні речі, а інші – ні, але це вже кінець розвитку". Ми до цього моменту ніколи не дійдемо – цьому сенсі ця крива буде продовжуватися. І та інша крива теж буде продовжуватися до нескінченності. Вже, фактично, показали, що, наприклад, за допомогою нанотехнологій ми можемо створити комп'ютер, де один кубічний дециметр комп'ютера фактично відповідатиме потужності всіх нинішніх людей. В одному літрі комп'ютера поміщається десь 1010 людей. Чи створює це етичні проблеми? Я хочу сказати, що багато імплікацій суперечать нашим підходам як до людських істот.
– Зачекайте, стосовно питання про таланти, яке є надзвичайно цікавим. Чи вважаєте ви, що коли ми доживемо до 2040 року, всі матимуть рівні здібності?
– Я думаю, що ми будемо більше відрізнятися, тому що у нас будуть різні інтереси: ви, можливо, захопитеся якоюсь фантастичною музикою, а я – можливо, літературою або чимось іншим. Себто в нас будуть різні інтереси – і ми будемо досягати успіху в певних речах залежно від того, які в нас інтереси. Отже, не можна буде сказати, що ми всі маємо однакові здібності, а буде так, що всі матимемо фантастичні здібності порівняно з тим, що мали колись.
– Дозвольте мені поставити вам ще одне етичне питання, раз ми вже про це згадали. Кілька хвилин тому ви згадали про можливість, як ви кажете, реплікувати чийсь мозок і відновити його. Припустімо, що я зроблю це з моїм батьком. Він, на жаль, помер шість років тому. Я відновлю його, зможу створити розум і тіло точнісінько як у мого батька, так? Це точна досконала копія, з усіма його думками. Що ж станеться з усіма рахунками, які він залишив після смерті? Адже це великі гроші, до мене часто дзвонять колектори. Чи муситимемо їх оплачувати?
– О, я зі своєю донькою вже роблю щось подібне, ви про це можете прочитати в її книзі, а також і в моїй. Ми зібрали все, що написав мій батько. Він помер, коли мені було 22 роки, тобто він помер вже більше 50 років тому. Ми помістили це у велику мовну модель і, власне, поставили їй завдання виходити з того, що він коли-небудь написав, що найкраще дає відповідь на наші запитання. А тоді можна запитати про що хочете і поговорити з ним. Ви щось говорите, потім, перебираючи все, що він коли-небудь написав, знаходиться найкраща відповідь, яка дійсно була ним написана на цю тему. Це було дуже схоже на розмову з ним. Ви могли запитати його, що йому подобалося в музиці (він був музикантом) – і йому дійсно насправді найбільше подобався Брамс. Я описав це у своїй книзі, а Емі розповідає у своїй. Власне, Емі запитує себе, чи могла би вона закохатися в цю людину, навіть якби ніколи її не зустрічала? Бо це дуже добре виходить – ви дійсно закохуєтесь в цього створеного персонажа, навіть якщо ніколи не знали його. Отже, ми дійсно можемо за допомогою сьогоднішніх технологій зробити щось таке, що дозволить імітувати когось іншого. І я думаю, що з часом ми зможемо робити це все відповідальніше і все відповідніше до цієї людини, імітуючи її рухи, тон голосу і так далі.
– Знаєте, мій батько теж любив Брамса, особливо його фортепіанні тріо. Отже, якщо ми розв’яжемо проблему з податками, то зможемо запросити ботів мого і вашого батька десь разом зустрітися. Це було б чудово.
– Ну, так, було би класно.
– Ця ваша книга чудова – як, зрештою, і всі ваші книги. Незалежно від того, погоджуєтеся ви з нею чи ні, вона точно змусить замислитися. Одна з речей, якої, на мою думку, немає в цій книзі – це ваш опис того, яким буде день у 2045 році, коли ми всі станемо набагато розумнішими. Отже, зараз 2045 рік, ми всі в мільйон разів розумніші. Прокинувшись, я снідаю чи не снідаю?
– Ну, відповідь приблизно така ж, як і зараз. Але насамперед треба пояснити, чому це називається сингулярністю, бо ми не до кінця розуміємо це поняття. Поняття сингулярності запозичене з фізики, де сингулярність – це коли у вас є чорна діра, з якої не може вирватися світло. Тобто ви не можете сказати, що відбувається всередині чорної діри. Це ми називаємо фізичною сингулярністю. А тут історична сингулярність, але так само, як і при фізичній сингулярності, ми реально не можемо відповісти на питання "що станеться, якщо ми збільшимо наш інтелект у мільйон разів?" Це те саме, що запитати мишу: "Що би було, якби в тебе було стільки ж інтелекту, як у цієї людини?" Миша навіть не зрозуміє питання. У неї є інтелект, досить багато інтелекту, але вона не змогла би зрозуміти це питання. Вона б не змогла сформулювати відповідь. Це, власне, дещо схоже на те, що буде, як ми зробимо наступний крок у розвитку інтелекту, доповнивши його всім тим інтелектом, який надасть нам сингулярність. Але одну відповідь я дам. Як я вже казав, якщо ви будете сумлінними, то осягнете втечу від старості за п'ять чи шість років. І якщо ми хочемо насправді імітувати все, що відбувається всередині мозку, то перенесімося ще на кілька років уперед. Скажімо, 2040-й, 2045-й. Отже, ви розмовляєте з людиною, у неї є всі нейронні зв'язки, які вона мала спочатку, а також всі ці додаткові зв'язки, які ми додаємо, надаючи їй доступ до комп'ютерів, що стає частиною її мислення. От уявіть собі, що ця людина підірветься або щось інше станеться з її розумом. Ви точно зможете відтворити все, що має комп'ютерне походження. Бо ми це робимо тепер – кожного разу, коли створюємо щось на комп'ютері, ми робимо резервну копію. І якщо комп'ютер не працює, у вас є резервна копія, і ви можете її відтворити. Хтось скаже: "Добре, а як же власне мислення, власний звичайний мозок, що не працює за допомогою комп'ютера?" У нас немає способів створити резервну копію цього мозку. Коли ми дійдемо до сингулярності у 2045 році, то зможемо зробити подібну резервну копію, тому що ми зможемо з'ясувати – у нас будуть певні способи – механіку мозку. Тобто зможемо створити резервну копію як звичайного мозку, так і комп'ютерної версії. І я вірю, що це стане здійсненним до 2045 року. Це, звичайно, не дає жодних гарантій, адже весь світ може вибухнути, і ви втратите всі центри обробки даних. Тобто це не абсолютна гарантія.
– Було би прикро. Але я не розумію: чи будемо ми дійсно різними людьми, якщо поширюватимемо наші спогади, завантажуватимемо наш мозок у хмару, і вся ця інформація буде повертатися безпосередньо в наш неокортекс?
– Так, але ми також можемо знайти нові способи комунікації. Так, комп'ютери, які розширюють мій мозок, взаємодіють з комп'ютерами, які розширюють ваш мозок. Ми можемо створити щось на кшталт гібриду, і це буде залежати від нашого власного рішення, робити так чи інакше.
– Дозвольте ще одне питання: коли я читав книгу, то постійно застрягав на ньому. Ви надзвичайно оптимістично налаштовані, ви оптимістично оцінюєте нинішню ситуацію. Ви оптимістичні, що технології є величезною потугою на благо і що вони й надалі залишатимуться нею. Але ж у майбутньому, яке ви описуєте, є багато невизначеності.
– Ну, по-перше, я не обов'язково оптимістично налаштований – щось може піти не так. У нас були речі, які могли піти не так, ще до появи комп'ютерів. Коли я був дитиною, була створена атомна зброя, і всі дуже боялися атомної війни. Ми навіть залазили під стіл і клали руки за голову, щоб захиститися від атомної війни. І це, здається, спрацювало: ми все ще тут. У нас було дві бомби, якими ми протягом тижня люто вбили багато людей. І якби ви тоді запитали людей про ймовірність того, чи проживемо ми ще 80 років і що це ніколи не повториться – ніхто би не сказав, що це можливо. Але це сталося. Звичайно, це не означає, що це не станеться наступного тижня, в будь-якому разі це велика небезпека. І я думаю, що це значно більша небезпека, ніж комп'ютери. Так, існують загрози – але комп'ютери також стануть більш розумними, щоб їх уникати. Так, у світі є погані люди – але повернімося на 80–90 років назад: у світі було 100 мільйонів людей, які загинули в Азії та Європі від Другої світової війни. У нас більше немає таких воєн. Могли би бути – і в нас, звісно, є атомна зброя, щоб це зробити. Можна також уявити, що до цього можуть бути залучені комп'ютери. Але якщо ви дійсно подивитеся, то побачите, що це стосується як війни, так і миру. Гляньте на мою лінійку комп'ютерів, яка пройшла шлях від крихітної частки однієї обчислювальної машини до 65 мільярдів – це зростання у 20 квадрильйонів разів, якого ми досягли за 80 років. І зауважте: середній особистий дохід у США, обчислений в постійних доларах (тобто це не має нічого спільного з інфляцією) збільшився приблизно в сто разів, і ми живемо значно успішніше. Якщо люди кажуть, мовляв, сто років тому все було чудово, то насправді це не так: ви можете подивитися на цю діаграму, як і на багато інших – у мене є 50 діаграм у книзі, які показують, якого прогресу ми досягли. Кількість людей, які живуть у крайній бідності, різко зменшилася. Хоча коли ми провели опитування, в якому запитали людей, які живуть у бідності, зросла кількість бідних чи зменшилася, 80% відповіли, що зросла. Однак реальність така, що за минулі 20 років рівень бідності знизився на 50%. Отже, те, що ми думаємо про минуле, насправді протилежне тому, що було. Все стало значно краще, ніж було, і комп'ютери зроблять життя ще кращим. Як, скажімо, можливостей великої мовної моделі ще два роки тому не існувало.
– Якщо комп'ютери працюють краще, то чи переймалися ви коли-небудь тим, що сприймаєте як даність те, що особистий дохід продовжуватиме зростати? Чи вас не турбує, що це відбувається занадто швидко, і чи не би було краще, якби нахил кривої Курцвейла був трохи менш крутим?
– В минулому вже були великі суперечки про це. Який ефект був від залізниці? Було втрачено багато робочих місць. Або навіть ця коттон-джинні, бавовняна машина, що з'явилася 200 років тому: люди були задоволені тим, що заробляли гроші на очищенні бавовни – і раптово це зникло, бо роботу почали виконувати машини. Нині люди кажуть: "Зачекайте, коли все це почнеться, всі робочі місця будуть втрачені", – а власне так само говорили в той час. Але насправді доходи зростали, і працювали все більше і більше людей. І якби ви тоді запитали "що ж вони будуть робити?", то не могли би відповісти на це питання – бо виникли галузі, про які ніхто й гадки не мав. Наприклад, електроніка. Іншими словами: ситуація покращується, навіть якщо втрачаються якісь робочі місця. Звичайно, ви можете навести приклади, наприклад, комп'ютерного програмування. У Google працює, не знаю, 60 тисяч людей, які програмують комп'ютери, як і в багатьох інших компаніях. В якийсь момент це буде непотрібною роботою. Великі мовні моделі вже вміють кодувати, вже можуть писати код майже так, як це може робити досвідчений програміст. Коли це настане? Час вимірюється роками, а не десятиліттями. Але я вірю, що ситуація покращиться, тому що ми ліквідовуємо одні робочі місця, але водночас створюємо інші способи заробітку. Візьмім, для прикладу, створення машини, яка може мити начиння: у вас просто є купа посуду, і вона вибере той, який потрібно покласти в посудомийну машину – а решту прибере і помиє його замість вас. Чи хотіли б ми, щоб цього не було? Чи сказали б ми, що це нас дещо бентежить, тож позбудьмося цього? Ніхто так не скаже, ніхто не буде проти цього виступати. Отже, ми придумаємо, що робити. У нас будуть інші методи розподілу грошей, і це буде продовженням тих кривих, які ми вже бачили.
– Це трохи дивно, що у нас з'явилися великі мовні моделі раніше, ніж роботизовані посудомийні машини. Але наступне питання: як би ви порадили молоді – а у вас є онуки – якнайкраще підготуватися до майбутнього, яке, за вашими словами, буде надзвичайно інакшим?
– Я би менше переймався зароблянням грошей, а більше тим, що їх захоплює. Вони, скажімо, люблять відеоігри – тож вони мають більше взнавати про них. Вони повинні читати літературу, яка їх цікавить (частина цієї літератури в майбутньому буде створена комп'ютерами), вони мають знати, що у світі позитивно впливатиме на їхню психіку.
– Якщо ви знаєте, що хтось, згідно з вашими прогнозами, проживе сотні років, то як це впливає на спосіб життя? Звичайно, це означає, що вони не повинні виходити на пенсію в 65 років – але що ще міняється в тому, як вони мають ставитися до свого життя?
– Що ж, я розмовляю з людьми, і вони кажуть: "Ну, я не хотів би жити після ста років". Але якщо дійсно глянути, коли люди вирішують, що з них досить, що вони не хочуть більше жити – то виявиться, що ніколи. Такий момент ніколи не настає – хіба коли люди відчувають якийсь страшенний біль, фізичний, чи емоційний, чи духовний, чи будь-який інший, і вони просто не можуть більше жити. Крім цих випадків, ніхто сам не забирає собі життя. І якщо ми зможемо подолати багато видів фізичних проблем, буде знищено рак і тому подібне (а я сподіваюся, що це станеться) – люди будуть жити значно щасливіше, вони схочуть продовжувати жити завтра, а завтрашній день буде все кращим і кращим. Цей прогрес нікуди не дінеться. Отже, люди захочуть жити, якщо тільки їм не буде страшенно боляче. Але це вже питання медичної сфери, яка буде суттєво посилена завтрашніми комп'ютерами.
– Штучний інтелект – це чорний ящик, ніхто не знає, як він був побудований. Як ви переконаєте, що штучний інтелект вартий довіри користувачів, які хочуть йому довіряти, адоптувати його й акцептувати? Особливо, якщо збираються завантажити його прямо у свій мозок.
– Ну, це неправда, що ніхто не розуміє, як вони працюють.
– Це правда. Більшість користувачів великої мовної моделі не знають, які сенси з її даних увійшли в неї. Це речі, що відбуваються на рівні шару трансформації, яких навіть архітектори не розуміють.
– Погоджуюсь, але ми будемо дізнаватися про це все більше і більше. І насправді вміння працювати з комп'ютерами, я думаю, буде дуже поширеним типом таланту, який люди хотітимуть здобути. І врешті ми будемо більше довіряти комп'ютерам. Тобто великі мовні моделі не є досконалими: ви можете поставити їм запитання, а вони можуть видати вам щось неправильне – ми таке бачили зовсім недавно. Причина, чому комп'ютери видають хибну інформацію, полягає в тому, що вони не володіють інформацією з самого початку – і вони просто не знають, що чогось не знають. І це саме те, над чим зараз працюють, – щоб вони знали "я не знаю". Буде дуже добре, якщо вони зможуть так сказати. Бо тепер вони знайдуть найкраще з того, що знають. І якщо вони ніколи не тренувалися на такій інформації, і там немає нічого, що б вам допомогло – комп'ютер просто дасть вам найкращу здогадку, яка може бути дуже неправильною. Ми, власне, вчимося визначати, коли він знає, а коли не знає. Але з часом будемо досить впевнено визначати, коли він знає, а коли не знає. І зможемо покладатися на те, що він каже.
– Отже, ваша відповідь на це питання така: (a) ми будемо більше розуміти, і (b) вони стануть достовірнішими, так що буде не так ризиковано їх не розуміти?
– Саме так.
– Окей. Ви провели своє життя, роблячи прогнози, деякі з яких, як і тест Тюрінга, виявилися надзвичайно точними. Тепер, коли ви перетворилися з безмежного оптиміста на трохи песиміста, який ваш прогноз?
– Ну, в моїх книгах завжди був розділ про те, як усе може піти не так.
– Назвіть мені прогноз, який ви зараз обмірковуєте, але не впевнені, чи хочете його здійснення.
– Існують добре відомі небезпеки в нанотехнологіях: якщо, скажімо, хтось створить нанотехнологію, яка реплікує добре відомі речі, і вона зреплікує все у всім відомі канцелярські скріпки: перетворить весь світ на скріпки. Це не було б позитивом.
– Не було б. Хіба би хтось був скріпкозшивачем.
– А це цілком реально. Для цього потрібен хтось трохи зварйований – але, можливо, й у нас буде щось, що дозволить уникнути цього. Тобто ми матимемо таке, що може виявити, що щось дійсно перетворює все на скріпки, і знищити його до того, як це буде реалізовано. В моїй новій книзі "Сингулярність все ближче" є розділ, в якому я розповідаю про те, що може статися.
– О, найцікавіша частина цієї книги полягає в точних математичних розрахунках кількості часу, що знадобиться нанороботам, щоб перетворити світ на сіру масу, і скільки часу знадобиться блакитній масі, щоб зупинити сіру масу – це просто дивовижно. Але, можливо, тут є відповідь на питання, про що повинна думати і над чим працювати молодь: ви сказали, що про свої інтереси і про те, що їх захоплює. Але чи не повинні вони думати про те, як розробити та спроєктувати ці майбутні системи так, щоб вони з меншою ймовірністю перетворили нас на сіру масу або скріпки до паперу?
– Так, це теж входить до списку.
– Але тоді виникає інше питання: якою буде роль людей у розв’язанні цієї проблеми, коли вони будуть лише на мільйонну, мільярдну чи трильйонну частку такі ж розумні, як і машини?
– Передусім я бачу їх як продовження людини. І їх би не було, якби не було людей. А люди мають мозок, який може все це обдумувати. Й у нас є великий палець – він не дуже цінується, але, скажімо, кити та слони мають мозок більший за наш, і вони, ймовірно, можуть мислити глибше, але у них немає великого пальця. Тому вони не створюють технології. Мавпа може створити, у неї є великий палець – але він на дюйм нижчий, і тому вона не може дуже добре хапати. Отже, вона може створити трохи технології, але технологія, яку вона створила, не може створити іншу технологію. Той факт, що у нас є великий палець, означає, що ми можемо створювати інтегральні схеми, які можуть стати великою мовною моделлю, що походить з людського мозку. І вона фактично навчена всьому, про що ми коли-небудь думали. Все, про що думали люди, що було задокументовано і що може перейти в ці великі мовні моделі. І кожен може їх використовувати. Неправда, що тільки певні заможні люди матимуть це. Ну, на серіо: скільки людей тут мають телефони? Якщо не 100%, то 99,9%. І не обов'язково належати до заможних груп. Тобто я бачу бездомних людей, які мають власний телефон. Він не такий вже й дорогий. Отже, це відображає саме такий розподіл можливостей: ви не повинні бути казково багатими, щоб дозволити собі це.
– Отже, ви вважаєте, що ми прямуємо до майбутнього, де будемо жити набагато довше і станемо більш рівними?
– Так, безумовно. І ми це вже бачили.
– Гаразд. Що ж, ми зараз в даному моменті, але з Реєм повернемося в 2124, 2224 і 2324 роках. Він – американський скарб. Дякую, Рею Курцвейле.
16.04.2024