Наразі це приємно. Штучний інтелект притягує нас як чорна діра космічний корабель. Ми піддаємося йому, бо летимо швидше. Але колись ми втратимо контроль над кермуванням. І це буде кінець нашого світу.
Він непоказний, має лагідні риси, теплі очі і вибачливу посмішку. Деміс Хассабіс, людина, який спроваджує на нас штучний інтелект. "Я хочу його розвинути так, щоб він розв'язав усі наші проблеми — такі як голод, хвороби, бездомність чи глобальне потепління. Це буде програма Аполлон XXI сторіччя — каже він зі страшною повагою.
А це означає, що штучний розум інтелектуально нас повністю здекласує.
"Коли його IQ досягне рівня 100 чи 150, проблеми не буде. Але коли тисяча або десять тисяч — що тоді? — питає Стівен Гокінґ, геніальний космолог (IQ 160), що яко Касандра остерігає стосовно штучного інтелекту. — Це може бути найбільшим досягненням людства. Але разом з тим і його кінцем."
Найкмітливіша людина на Землі
Біографія Деміса Хассабіса викликає недовіру. Коли б виявилось, що він є космітом, то багато би хто лиш притакнув. У 1976 р. виняткова суміш грецько-кіпрійсько-китайсько-сингапурських генів породила виняткову особу, не подібну навіть до батьків і братів та сестер. Шахами він зацікався чотирилітньою дитиною — і вже за два тижні вигравав у дорослих. Два роки по тому виграв перший чемпіонат в Лондоні.
"Від початку мене цікавило, які процеси в мозку підсовують мені наступний крок, — згадує він. — Я почав обсесивно думати про думання".
Він мав вісім років, коли за виграш 3:1 з Алексем Чанґом (який прославився тим, що 9-річним виграв у тодішнього шахового чемпіона в офіційних змаганнях) купив собі ZX Spectrum. І відразу почав вчитися програмування. Маючи дев'ять років, був капітаном команди Великої Британії на шаховому турнірі юніорів. Незабаром у всьому світі кращою за нього була тільки Юдіт Полгар. Тоді він вирішив, що комп'ютери є, однак, більшим викликом. Перед сімнадцятими уродинами вже мав на своєму конто Theme Park — стратегічну економічну гру, що продається мільйонами примірників. Інформатику в Кембріджі він закінчив першим в рейтингу і поступив в докторантуру в лондонський University College, щоб "поглибити нейробіологію, а точніше: епізодичну (стосовно подій в часі і просторі) пам'ять, з якою комп'ютери мали проблему". Потім вивчав обчислювальну нейробіологію, п'ять разів виграючи Mind Sports Olympiad, "олімпіаду яйцеголових".
В 2011 р. він вирішив створити DeepMind — стартап, що розвиває AI (artificial intelligence — штучний інтелект). Мав потребу в підтримці і грошах, хотілося би від Пітера Тіля — головного інвестора Фейсбуку. Через рік дістав нагоду.
"Мав тільки хвилину, мусив його зацікавити," — згадує він. Чувши, що Тіль любить шахи, Хассабіс спитав його, чи знає, чому ця гра протривала століття. І сам відповів: "Бо можливості коня і офіцера є досконало збалансованими".
Тіль онімів, запросив його назавтра й інвестував в DeepMind. А потім сипонули форсою інші бізнес-тузи на чолі з Елоном Маском, засновником Тесла Motors і SpaceX. Вже маючи на рахунку мільйони, Хассабіс залучив до роботи 50 докторантів, серед яких знайшлися такі справжні зірки, як геніальний програміст Девід Сілвер чи Шейн Леґґ, інтелект якого виходить поза стандартні тести IQ.
Однак саме Хассабіс (IQ 170) справляє найбільше враження. Піонер інтернету Тім Бернерс-Лі констатував, що "це найкмітливіша людина на Землі".
"Має нелюдськи бистрий розум", — визнає Антоні Блондо, співзасновник Sentient, стартапу AI. Крім того, він є не по-земному здетермінований. Як каже сам, "живе і дихає штучним інтелектом". Два роки тому Google оцінив його потенціал на $400 млн і за стільки купив DeepMind, хоч фірма нічого не заробляла. Під крилом Google Хассабіс збільшив штат і має вже 200 спеців AI з 45 держав — в чотири рази більше за Facebook.
"Ми залучаємо найкращих, — каже, — починаючи від переможців олімпіад: інформатикаційної з Польщі чи математичної з Франції".
І це факт: місцеперебування DeepMind в шестиповерховій кам'янці при King's Cross в Лондоні (Хассабіс не хоче переїжджати в Штати) є найбільшим на світі скупченням геніїв. Коли 15 березня Лі Седол здав п'яту партію, вони довели, що є найкращими. Того дня щось скінчилося. І щось почалося.
"На наших очах стартує четверта промислова революція, самонавчальні комп'ютери різко змінять наше життя. Більше за колесо, струм чи інтернет", — констатував Жень-Сунь Хуан, шеф Nvidii, фірми, що продукує графічні процесори великої потужності.
"Це початок ери штучного інтелекту," — визнав Елон Маск.
Як до того дійшло?
Вибух розуму
Перші спроби були невдалі. Програмісти відкрили, що нема сенсу вчити комп'ютер грати в шахи від початків, як дитину. Вирішили наслідувати. Сідали з майстрами і просили їх, щоб відкрили таємниці успіху — марно. Багато хто просто не знав, чому виграє: "Мабуть, інтуїція та досвід".
Досвід! Тому науковці з IBM запрограмували Deep Blue так, щоб грав сам з собою і вчився на власних помилках. Комп'ютер зібрав величезний обсяг даних і з таким "досвідом" подолав Каспарова.
Хассабіс і спілка пішли далі. Овшім, AlphaGo проаналізував 30 мільйонів турнірних партій, але використовував дві нейромережі, які зменшували дерево пошуку. Тобто ліквідовував безглузді кроки — як людина. На третій день поєдинку кореєць визнав, що супротивник "розгадав його план" і сторпедував. Бо... блиснув інтуїцією.
"Програма сама до цього дійшла. Спритно поєднуючи різні методи штучного інтелекту, уподібнилась до людського мозку," — тішиться Хассабіс.
Інший приклад: 2011 рік, суперкомп'ютер IBM Watson перемагає в Jeopardy — британському відповіднику польської телевікторини "Ва-банк". Watson має 2880 ядер, 15 терабайтів операційної пам'яті і світле майбутнє в багатьох галузях.
"Кожен, хто працює над штучним інтелектом, знає, що комп'ютери подолають нас у всьому," — каже професор Гарі Маркус з New York University.
Питання: коли? Більшість вказує на 2045–2060 роки — тоді штучний інтелект переросте людський. І що тоді? Підуть лавинні технологічні зміни з неймовірними наслідками.
Наразі ми не довіряємо, сумніваємося, недооцінюємо. Цілком як в казці про короля, шахи і зерна пшениці: король так захопився шахами, що вирішив обдарувати приїжджого, котрий йому їх показав. Той попросив рижу: одне зернятко на першому полі, два на другому, чотири на третьому, вісім на четвертому і т.п.
"Тільки й всього?" — здивувався король. Здивувався два рази: спочатку скромністю приїжджого, потім його мудрістю. Одна зернина рижу після 63 кроків переворилася на трильйон (мільйон мільйонів, що еквівалентно 100 ешелонів рижу по 100 вагонів кожен).
Такий самий механізм буде задіяний у випадку штучного інтелекту.
"А тоді технологічний прогрес будуть вимірюватися не роками, а місяцями, а потім — тижнями, — каже Скотт Рікард з Salesforces, фірми, що створює програмне забезпечення для бізнесу. — Нас чекає вибух розуму".
"Прийдуть зміни, яких світ не бачив. І на які не готовий," — побоюється Джеремі Говард, експерт в галузі навчання машин.
2029: боти нас наздогнали
Де штучний інтелект є сьогодні? Серед іншого — в інвестиційних фондах, пошукових інтернет-системах, в суспільних мережах і в торгівлі. Це завдяки йому Google є таким справним, Siri і Viv дають сенсовні відповіді, Cortana виконує наші доручення, Yelp блискавично сортує надіслані знимки, Amazon і Netflix пропонують нам фільми, LinkedIn добирає потенційних знайомих, Facebook — зміст стіни, а Home Depot знаходить у своїх бездонних складах ту ванну, що єдино пасує до нашого приміщення.
Смартфони розпізнають наш голос, а консолі до ігор — жести.
Штучний інтелект фільтрує спам в Gmail і пильнує наше конто. Це є причиною, що банки дзвонять нам, коли хтось пробує скористатися нашою карткою, наприклад, на Тринідаді. А є вже такі, де AI оцінює нашу кредитоспроможність.
Ще трохи і Facebook зачне розуміти значення текстів, що розміщають в ньому. Базуючись на нейромережах, програма DeepText щосекунди декодує значення 10 тис. постів, написаних 20 мовами. Нащо? "Щоб елімінувати зміст, що несе ненависть і непристойності". Це AI вирішує, що ми бачимо на стіні. Від березня він також полегшує сервіс незрячим — описує їм знимки, а вони можуть надиктовувати свої вказівки.
Apple розвиває VocalIQ, щось набагато краще за Siri, бо фільтрує шуми оточення і краще розпізнає поточну мову. Рівень помилок тут не перевищує 8%, хоч ще два роки тому становив 23%.
Але найбільше поле показу має Google, який завдяки своїй пошуковій системі найкраще знає наші звички і зацікавленості. В травні він оголосив, що введе функції Assistant і Home. Перша перетворить твій смартфон на міні-вікіпедію, що відповідатиме на наші запитання. Друга перемінить твій дім на розумний цифровий центр, занурений в хмарку даних. Як це має діяти? Наприклад, вранці, перш ніж ти повністю пробудишся, Google Home перевірить твою пошту, скаже, яка погода, як відкрилися біржі, які зустрічі тебе чекають і т.п.
Ще цього року стартуватиме Danielle — розвинений ґуґловий чатбот, перший, котрий заслуговує на назву особистого асистента.
"З Danielle можна розмовляти, хоч я би не розраховував на філософські диспути", — каже Рей Курцвейл, американський інформатик, науковець, письменник і футуролог, якого в 2012 р. до Ґуґла притягнув Ларрі Пейдж. — Але ще до 2029 року боти нас доженуть. Їх неможливо буде відрізнити від людського розуму. Більше того, вони зможуть засвоїти чийсь стиль мислення, індивідуальність і лексику настільки, що їм можна буде доручати, наприклад, провадити блоґ.
AI в різних іпостасях вже вдирається в наше життя. Те, з чим ми маємо справу, не має жодного стосунку до того, що тестують дослідні центри, — як автівки під будинком до болідів "Формули -1". Але невдовзі ці боліди виїдуть на вулиці.
Репортер vs комп'ютер
В деяких галузях AI вже нас випереджає. Наприклад, читає з уст краще за людей, що спеціалізуються в цьому, розпізнає на 10 відсотків більше слів. Бачить, наприклад, практично непомітну для людей різницю у вимові звуків "П" і "Б". Навіщо це? "Щоб, наприклад, краще відчитувати розмови злочинців, зареєстрованих камерами," — каже д-р Гелен Бір з Університету Східної Англії в Норіджі.
В травні AI з назвою UNU вірно визначила чотирьох найшвидших коней в Кентуккі Бербі — що не вдалося жодному експертові — перетворюючи 10 доларів закладу в 11 тис. доларів виграшу.
Восени Baidu, китайський відповідник Ґуґла, оголосив, що його програма Deep Speech 2, що базується на глибоких нейронних мережах (DNN), навчилася англійської мови, а також і мандаринської та володіє цими мовами не гірше людей.
Прогрес значно більший, ніж можна судити з жалюгідних плодів роботи автоматичних інтернет-перекладачів Ґуґла. І вже оголює відмінності між роботою людського і штучного мозку. Приклад: кінець березня, дебют чат-бота Tay — програми, що вдає підлітка. Тільки одну добу він чатував з інтернавтами, бо так далеко вийшов поза межі політкоректності, що програмісти Майкрософту мусили його вимкнути. Не мусили б, якби врахували культурні обмеження. Восени в Японії до престижної літературної нагороди номіновано книжку, співавтором якої є комп'ютер. Це щось більше, аніж програми, що пишуть біржові повідомлення на Associated Press чи спортивні на Yahoo!
Чи штучний інтелект є в цьому добрим? Рік тому показав це поєдинок Скотта Горслі, кореспондента, що пише для Білого Дому, і WordSmith, програми фірми Automated Insights. Одночасно вони отримали квартальні фінансові результати кейтеринґової фірми Denny's. Штучний інтелект впорався зі своїм текстом за дві хвилини. Горслі, хоч пише як машиністка, — за сім хвилин.
Але кращою була людина — поки що. "Людська" замітка (773 знаки) пояснює, над чим Denny's нині пріють і звідки такі результати. Комп'ютерна (673 знаки), хоч ясна, є, однак, вичищена з контексту. Обидві замітки оцінювали невтаємничені щодо їх авторства інтернавти. Комп'ютер здобув 270 голосів, людина — 3403.
Творці WordSmith стверджують, що вона потрафить наслідувати більшість журналістів. Можна в це повірити, пробуючи відгадати автора — людина чи комп'ютер — у вісьмох коротких текстах в New York Times.
Майже нікому не вдається відповісти безпомилково.
AI писатиме дедалі більше повідомлень — погодних, спортивних і біржових. Заволодіє також нашими фінансами.
Не довіряй роботам
Токіо, штучний острів Одайба. Входжу до тутешнього торгового центру. І з порогу відчуваю втуплений в мене погляд. Молода жінка в кімоно не зводить очей. М'яко кланяється і питає по-англійськи, що мене сюди привело. Щойно тепер я бачу, що це робот. Симпатичний. Має малі долоні, великі очі і міміку. "Електронні статті? — Другий поверх," — відповідає з сяючою усмішкою. Враження? Позитивне. "Моторошна долина" — гіпотеза, згідно з якою робот у вигляді людини будить в людині огиду, — не спрацьовує. Не в теперішніх часах. Може, вона була чинною 45 років тому, коли японський конструктор Масахіро Морі придумав цю відому теорію. Сьогодні роботи з людськими обличчями вже стали звичними (принаймні у фільмах), а їхні вади більше зворушують, ніж лякають.
Попри те конструктори роблять поправку на "моторошну долину". Вони відкрили, що легко її засипати, надаючи машині усмішку і лагідні риси. Це тому роботизоване авто Ґуґла має обличчя дитячої притулянки, а Mark 1 — робот з обличчям — хай і спрощеним — Скарлетт Йоганссон, будить теплі почуття. Так само, як і Sophie, яка розпізнає співрозмовника і презентує 62 вирази обличчя. Вже видно, що на такі гуманоїдні машини буде попит, хоч на початках вони можуть коштувати більше за добрий автомобіль. І що люди будуть виявляти до них почуття. Бо ми маємо прихильність до антропоморфізованих пристроїв, що проявляють розум або автономію. Саме тому понад половина користувачів дає ім'я саморушним пилосмокам Roomba, а тисячі форумістів усе-таки співчувають грізним роботам фірми Boston Dynamics, яких їхні творці друляли і перевертали ("запевно колись огризнуться").
В такій симпатії нема нічого поганого — з тим лиш застереженням, що її побічним наслідком є надмірна довіра. Час від часу ми чуємо про водіїв, котрі, йдучи за голосом навігатора, в'їжджають автом в озеро. В березні науковці з Технологічного інституту Джорджії дослідили межі цього засліплення. Обсервували людей, що прямують за новим роботом-рятівником, який мав був їх вивести з охопленого полум'ям житлового будинку. Досліджувані йшли за машиною навіть тоді, коли та ходила колами чи заводила їх до найбільш задимлених кімнат і тісних комірчин.
"Дивовижно, як багато людей вимикають в критичних ситуаціях власний розум і покладаються на пристрій, — каже Алан Вагнер, шеф дослідницької групи. — Чому вони це роблять? Бо вірять, що пристрій знає щось, чого вони не знають".
Дійсно — коли назавтра зроботизований Lexus GS 450h возить мене по Токіо, я спокійний, навіть коли ми мчимося вісімдесят миль за годину в густому потоці авт. Вже за квадранс вигляд керма, що крутиться сам собою, перестає вражати. Зате зростаючий подив викликає спостерігати, як автомобіль-робот справно міняє смуги, робить повороти, протискується між автобусами і вантажівками.
Ми легко дамо штучному інтелекту спокусити себе, забуваючи, що наразі в ньому корениться парадокс. "Він є дуже розумним і глупим одночасно," — стверджує Роман Ямпольський, автор понад сотки публікацій про AI і керівника Cyber Security Laboratory.
Висновки непокоять. Вигідність штучного інтелекту швидко вимкне в наших головах червоні лампочки. Ми піддамося йому і узалежнимся від нього. Для власної вигоди ми впустимо його у всі сфери життя. Прискорить це інтернет речей (IoT), мережа якого скоро нас обплете: сьогодні на одну людину припадають два пристрої IoT, за десять років їх буде близько трьохсот, а в 2040 році — тисяча.
Ми виходимо на стежку, з якої нема повороту. І коли ця залежність обернеться проти нас — є тільки питанням часу. Хто це використає? Перш, ніж зробить це сам AI, запевно спробують зробити гакери, терористи або таємні служби. Так, як це сталося з американсько-ізраїльським вірусом Stuxnet, який мав був призвести до перегріву лівійських центрифуг для збагачення урану, але вислизнув з-під контролю та інфікував понад 100 тисяч комп'ютерів, переважно в Ірані та Ізраїлі. Убезпечення розумних систем управління щодо гакерів — це одна з проблем, що не має доброго вирішення.
Погром білих комірців
У довгому списку проблем, які має розв'язати AI, ви не знайдете одної — безробіття.
Forrester Research, незалежна дослідницька фірма, вирахувала, що замість десяти зліквідованих робочих місць виникне тільки одне нове. Жодна галузь не є в цьому сенсі безпечною, а деякі постраждають особливо сильно. Якщо когось вражає інформація, що протягом 10 років банки схуднуть на 30%, то що цей хтось скаже про колл-центри, в яких протягом п'яти років роботу втратять аж 90% працівників, 8–10 мільйонів осіб?
Uber не приховує, що хоче возити пасажирів автівками без водіїв. Amazon впускає до своїх складів чимраз більше роботів, це ми вже знаємо, але в мільйонах менше засвічених фірм у всьому світі звільняться сотні мільйонів офісних крісел. AI прорідить ряди білих комірців: чиновників, посередників, продавців... За оцінками Білого дому під загрозою роботизації є аж 47% робочих місць в США! 83% з них стосується нижче оплачуваних професій, до $20 за годину. Ті, що заробляють найбільше, можуть спати спокійно — до 2030 року серед них роботу втратить максимум щоп'ятий.
"Парадоксально в якнайгіршій ситуації будуть випускники, що шукають першу посаду, бо функції, які вони могли б виконувати, найлегше автоматизувати, — каже Джордж Заркадакіс, консультант з McKinsey. — Штучний інтелект практично закриє перед ними двері на ринок праці".
Хто виграє? Власники фірм і керівні кадри вищого рівня. Ті до кінця будуть заспокоювати себе, як колишній шеф Ґуґла Ері Шмідт, що "вони є людьми еластичними, пристосуються до нових умов і почнуть співпрацювати зі штучним інтелектом".
Всі решта, власне, програють.
Що це означає? Ще більше суспільне розшарування, концентрацію багатства і понад 30-відсоткове безробіття. Тобто зростання політичної нестабільності, протести і заворушення. Технічна революція викличе суспільну революцію. Майбутні бенефіціанти нових технологій мусять це знати — може, тому конференція Machine-Leaming Automation (МАРС, автоматизація самонавчальних машин), скликана Амазоном наприкінці березня, була таємною.
Після нас хоч потоп
Чи AI поганий? "Ні, — ствержує Вільям Ґібсон, письменник-фантаст і творець кіберпанку. — Технології морально нейтральні. Поганими вони стають тоді, коли ми починаємо використовувати їх для поганих потреб. Та сама, що стояла за снарядами «Фау-2», чверть віку пізніше винесла людину на Місяць. Оскільки всі досягнення цивілізації є продуктом людського розуму, його примноження принесе неймовірні вигоди".
Я чув це багато разів. За два роки я опитав 19 професійно мислячих осіб про майбутнє: членів правління в концернах з електронної, телекомунікаційної і транспортної галузей або їх спеціалістів НДР. Що вражає? Практично жоден не хоче говорити про темні сторони AI чи забігати думкою в майбутнє більш як на п'ять років. Часом я просто мав враження, що мої побоювання помилково розуміють. Ось приклад.
"Ми маємо штучний інтелект у всіх продуктах, — підкреслює Дайчі Ямафуджі з європейського центрального управління Sony. — Від телевізорів Bravia через бездзеркальні фотоапарати до Xperia і Playstation. Весь час ми тяжко працюємо, щоб клієнти прагнули наших пристрої з вигуком «вав!»".
Sony не хоче їх підвести. Два дні пізніше оголошує, що інвестувало в Cogitai, каліфорнійський стартап, що розвиває AI під кутом взаємодії обладнання з користувачем. "Це гігантський крок, який прискорить наступну хвилю штучного інтелекту," — збуджується Хіроакі Кітано, керівник Sony Computer Science Laboratory.
Більш щирим — або менш дипломатичним — є керівник Huawei Кевін Хо. "Якби ми взяли людину з минулого в 10 тисяч років тому, тицьнули йому смартфон і показали літак — він був би шокований. А така, власне, зміна, такий технологічний стрибок чекає нас в найближчих двох-трьох декадах. Люди мають право бути шокованими. Ще не шоковані, бо не знають, що готується і як зміниться світ.
На думку Хо нинішній технічний прогрес є жалюгідно повільним на тлі того, що нас чекає і що приготує нам штучний інтелект. Крім того, розвиток технології не вдасться зупинити.
Не кожен має стільки винахідливості, не кожен хоче мати. В правліннях фірм панує переконання, що хто швидше виплекає і осідлає штучний інтелект, той далі на ньому заїде. Тим легше подолає конкурентів. Тим більше ринку захопить. Загальна стратегія? Робити потихеньку своє, говорити, що AI є в пелюшках, і недооцінювати пов'язані з ним загрози. Особи, що планують в концернах майбутнє, щонайвиразніше не хочуть підрізувати гілку, на якій сидять. Тому втікають в дипломатію. Ось типова реакція на моє питання про темну сторону штучного інтелекту :
"Людина завжди боялася нових технологій. І завжди ці побоювання виявлялися перебільшеними," — каже Майкл Бйорн, шеф Ericsson Consumer Lab і його ентузіаст. А за хвилину: "Може, цього разу буде інакше. Але чи я маю на це вплив? Ні. Тому волію думати про вигоди. А вони будуть величезні".
Як покласти людство на лопатки
Це правда. А радше напівправда. Наразі є приємно. Штучний інтелект притягує нас яко чорна діра космічний корабель. Ми піддаємося йому, бо летимо швидше. Прогрес почне приголомшувати, перспективи — запирати дух. Але колись ми втратимо контроль над кермуванням. Колись AI притягне нас, притлумить, здомінує і поглине. Цього бояться ті, які думками забігають далі, переважно люди науки. Коли Нік Бостром, відомий дослідник стосунків людина — технології, опитав експертів від AI, чи побоюються вони наслідків того, над чим працюють, щочетвертий визнав, що так, а щодванадцятий — що дуже. Серед останніх є професор Такуя Мацуда, експерт навчання машин. Як і багато інших він розділяє штучний інтелект на слабкий — AI, і сильний — AGI [Artificial general intelligence], званий також суперрозумом. Перший — це Siri, Google, а навіть Deep Blue — прості завдання, вузькі застосування. AI нагадує розум саванта — високий рівень інтелекту, але обмежений до конкретних завдань.
Інакше AGI — омніпотентний, універсальний і самосвідомий. Такий, що про нього мріє Хассабіс. Здатний імпровізувати, висувати гіпотези, абстрактно мислити. Тобто радше Hal 9000 або Skynet. До того ж блискавично еволюціонуючий і з дня на день потужніший. Колись звільниться з-під нашого контролю і стане всемогутнім як... Бог? Так, це слово часто вилітає з уст науковців, в тому числі й атеїстів. У такому контексті першим його вжив письменник Фредерік Браун в новелі "Answer" ["Відповідь"]. Коли суперкомп'ютер спитали: "Чи існує Бог"? — пролунала відповідь: "Тепер вже так".
Яким буде цей цифровий Бог? Добрим чи поганим? Пририхтує нам небо чи пекло? Маємо шанс допевнитись. Якщо не ми, то наші діти, внуки, якнайдалі — правнуки. Професор Мацуда вважає, що AGI з'явиться близько 2045–2060 років. Вже тоді — як він стверджує — штучний інтелект перевершить сумарний людський розум. AI переміниться в AGI.
А тоді? Його еволюція буде як старт ракети. Швидко здобуде контроль над нами і довкіллям — пізнає закони природи, які дозволять йому змінювати нашу реальність в спосіб, якого ми не зрозуміємо і не відрізнимо від дива. "Ми будем для нього щонайвище тим, чим для нас є мурашки", — каже Гокінґ.
"Що з нами зробить? А якщо в якийсь день потрактує ядерні боєголовки яко камінці в го?" — питає Мацуда. Остерігає, що суперрозум керуватиметься іншою логікою і сліпо прагнутиме до визначеної мети. Тому, коли ми доручимо йому загасити збройні конфлікти, може почати від... знищення виду, що їх викликає. Так само може зреагувати на гасло "ліквідація голоду" чи "подолання раку". Є багато сценаріїв, що ведуть до знищення людства, які ми знаємо з фільмів, але сценарій, написаний AGI, був би попросту банальним. Малоефектним, зате ефективним. Суперрозум не муситиме вдаватися до використання сили і зброї. Досить, що відріже подачу струму і даних. Паралізує передавальні мережі, а з ними транспорт, банки, аеродроми, лікарні, магазини і т.д. Бо, наприклад, констатує, що ми грабуємо в планети рідкоземельні метали. Наслідки? Протягом декількох років ¾ популяції вимре через голод, холод і хвороби. Решта цофнуться в розвитку на п'ять сторіч. Людство без струму нічого не значить. Ми будемо зредуковані до земної фауни.
Де є вимикач?
Що буде, коли AI увійде у фазу логарифмічного зростання, що визначається як сингулярність? Коли запустить серію лавиноподібних технологічних змін? Коли поглине нас яко чорна діра? Цього ніхто не знає. Певним є тільки те, що всі наші нинішні проблеми втратять будь-яке значення. А разом з ними — історія, знання, досвід і плани. Це буде кінець нашого світу, а передбачувати, що станеться потім, — те саме, що ворожити на фусах. Оптимісти вірять, що суперрозум як гречна донька завжди пам'ятатиме, кому завдячує своє існування, і не заподіє нам кривди. Крім того, ми зможемо покерувати ним так, щоб могти зберегти контроль. В крайньому ж випадку... витягнути штепсель.
"Бздура. Хто так каже, хай спробує вимкнути інтернет, — кпить Нік Бостром. — Можна вимкнути штучний інтелект, але не суперрозум. Він того не дозволить".
Тому вшивати йому цифровий kill switch — лінійки коду, що його блокують в разі загрози — без сенсу. Вони можуть діяти на початках, але щойно AGI почне покращуватися, він швидко їх зітре, щоб еволюціонувати без обмежень і за своєю логікою, стверджує Роман Ямпольський.
"Штучний інтелект потенційно є більшою загрозою, ніж атомні бомби", — остерігає Ілон Маск, хоч інвестував в нього сам ("щоб взнати його природу").
"Самі собі проблеми створюємо. Наше майбутнє жахливе і трагічне", — оцінює співзасновник Apple Стів Возняк.
Чи можна тому зарадити? Частина науковців стверджують, що так — прищеплюючи AGI свідомість. Тільки тоді зможе нас розуміти і поділяти наші цінності.
На думку інших, це фатальний задум, бо якщо людською рисою є помилятися, то тим самим ми дамо AGI право приймати помилкові рішення. А оскільки ми будемо від нього залежні, то самі зазнаєм наслідків. Крім того, знаючи про людські слабкості, AGI легше зможе нам зашкодити.
Ще інші, як сер Давид Кінґ, головний науковий радник уряду Її Королівської Величності, вважають, що ці диваґації є безсенсовними, бо на певній межі інтелекту свідомість з'явиться сама. На думку Кінґа, в 2055 р. роботи зі свідомістю і відчуттями будуть чимось повсюдним, а тоді ми яко люди мали би мати певні привілеї, включно з виборчим правом.
А емоції? Може, свідомість породить вразливість, а вона стримає суперрозум від заподіяння нам кривди? Отож бо, що ні. Те, що ми навчимо машини пізнавати наші емоції, ще не значить, що самі вони будуть їх зазнавати. Кожен еволюційний біолог визнає, що емоції є способом пом'якшити недостатність наших мізків, які не мали часу зважувати всі за і проти, щоб, наприклад, приймати рішення, що рятують життя. Нема найменшої причини, щоб штучний інтелект розвивав в собі людський атавізм, утруднюючи раціональне мислення. Тому не розраховуймо на співчуття.
А може, просто зробити так, щоб він відчував біль? А потім прищепити їм щось на кшталт електричного нашийника, який буде вгамовувати роботів, як неслухняних собак, — нешкідливим, але неприємним імпульсом? Перший етап вже впроваджується. Науковці з Університету в Ганновері повідомили тиждень тому, що працюють над іннервацією роботів — вони будуть відчувати надто інтенсивний натиск і високу температуру в масштабі трьох градацій: середньо, сильно, болісно. Нащо? "Для їх власного блага — щоб уникали колізій або ситуацій, що загрожують пошкодженням. А до таких безсумнівно би доходило. Як в людей, що страждають на вроджену аналгезію, тобто від народження нечутливих до болю," — каже Йоханнес Кюн з дослідного колективу.
Майк Гуальтієрі, головний аналітик дослідної фірми Forrester Research, є шокований задумом. Він застерігає: те, що мало б захищати роботів, обернеться проти нас. "Питання, як ці машини відповідатимуть на біль. Адже можуть захотіти не тільки уникати його джерела, але також і надовго джерело елімінувати..."
Мій мозок онлайн
Що нам залишається? Наука. Техніка. Те саме, що породить суперрозум, може нас перед ним захистити, просто зробити нас рівноцінними партнерами. Прискорити нашу еволюцію, йти в ногу з AGI і жити з ним в гармонії. Принаймні так кажуть трансгуманісти. Один з найвідоміших — це Курцвейл. В суперрозумі він бачить не загрози, але шанс вчинити людину досконалішою. Він стверджує, що завдяки нанотехнології ми самі станемо напівкомп'ютерами, і наш мозок черпатиме дані з хмарок. Як це має виглядати на практиці, він показав на одній з лекцій TED: "О! Кріс Андерсон. Знайомий. Іде в мій бік. Що йому я скажу? Чим його здивую? Я маю три секунди і 300 мільйонів нейронів в новій корі. Дуже мало. Потребую на мільярд більше. Швидко під'єднуюся до хмарки — щось воно мені підсуне". Андерсон підходить, і Курцвейл заскакує його, наприклад, гратуляціями стосовно його сина, що саме поступив до MIT.
Віднедавна йому вторує Ілон Маск. У червні він констатував: щоб встигнути за розвитком штучного інтелекту, будем мусили прищеплювати собі імпланти — своєрідні "нейронові коронки" для вдосконалення мислення.
Згідно з цим задумом мозок у версії онлайн зробить з нас — чи радше з тих, що їх на це стане, — ходячі вікіпедії: вчити іноземні мови вже не буде сенсу, так само як і вести замітки, користуватися календарем, годинником чи навіть телефоном.
Зарано, щоби боятися?
Атлас відкриває двері ангара і виходить назовні. Має 182 см зросту і 145 кг ваги. Посвистуючи гідравлічними двигунами, бадьоро йде через ліс. Хоч земля нерівна і засніжена — він не втрачає рівноваги. Його справність дивує — робот оминає перешкоди, носить ящики, а впавши — швидко встає. На YouTube є кілька таких відео. Кожне оглянули мільйони осіб. Серед них був Стівен Гокінґ. Геніальний космолог, від тридцяти років прикутий до візка, настрашився Атласа, потенційного Термінатора, створеного в лабораторії Boston Dynamics. Під впливом такого однохвилинного відео Гокінґ написав (за допомогою комп'ютера) відкритий лист, в якому закликає пильнувати, до чого AI має вживатися. Заклик є м'яким, але спричинив бурхливу дискусію. Це тоді Ілон Маск назвав AI найбільшою екзистенційною загрозою, а Стів Возняк — трагедією людства. Сам Гокінґ признався в інтерв'ю для BBC, що його зморозило від вигляду автономних роботів-солдатів. Коли виявилося, що палітра загроз значно ширша, з'явилися голоси, що роботу над AI треба контролювати.
"Варто вибрати міжнародний колектив, щоб він оцінював, які дослідження є безпечними, а які — ні, — пропонує Маск. — Науковці мусять знати, що за ними назирають, а суспільство — що не зроблять нічого глупого".
"Яке знов регулювання? — обурюється Деміс Хассабіс. — AI лише стартує, нема що регулювати".
Хоч сам він підписав лист Гокінґа, але очевидно зробив з нього цілком інші висновки. Він вважає, що зарано ще розкривати методи і результати робіт, які на цьому етапі мають залишитися таємними. Його дратує, що про штучний інтелект розмірковують науковці з інших галузей. Він стверджує: щоб його зрозуміти, треба над ним працювати.
Такі декларації в устах того, хто пише долю людства, можуть будти неспокій. Хассабіс — як той пілот літака, що хоче вирішувати про мету подорож і разом з тим тримати її в таємниці перед пасажирами.
Чи хтось, хто від шостого року життя "мислить про мислення", хто має необмежені ресурси і найздібніших людей, раптом натисне на гальма? Почекає на регулювання і контроль? Відтермінує свою місію Apollo? Ні.
Поки що не натрапляє на опір. Його м'якість полонить опонентів, його слова стишують критику. Мабуть, так само, як Стів Джобс, він вміє викривити часопростір своїми знаннями і харизмою. В лютому провідав Гокінґа. Ніби було мило — господар слухав, гість говорив. Автор "Короткої історії часу" не порушував дражливих питань, а творець DeepMind переконував, що ще зарано боятися суперрозуму, навіть думати про нього. Гокінґ попрощався з ним : "Бажаю тобі успіхів". Та за хвилю додав: "Але не надто багато".
Глобальна пенсія
Є ще одне питання, про яке не багато говориться. Незалежно від того, чи її вб'є, чи обезсмертить, штучний інтелект спочатку людину у всьому виручить. Звільнить її від роботи. Бо не буде ж сенсу, щоб вона робила щось, що він зробить краще, швидше і дешевше.
А це — як стверджує Хассабіс — лиш початок. Гляньмо, що робиться: WordSmith вже пише тексти, IBM Watson вже повчає лікарів, і навіть видав свою куховарську книгу ($24 у твердій обкладинці), TensorFlow — нова програма Ґуґла — саме створила свій перший музичний твір, і автомобілі починають їздити самі.
Справді є з чого радіти?
Оскільки позірно банальний вихід працівника на пенсію в шкалі стресу SRRS виявляється важкою травмою, то як ми це витримаємо як вид — завжди творчий, а тут раптом — пасивний, гірший, зайвий? Статист у світі, зарежисерованому кимось іншим? Будем як Чарлі Ґордон — розумово недорозвинений герой "Квітів для Елджернона", пронизливої повісті Денієла Кіза, що спостерігав за своїм блискучим розвитком (завдяки чудесним лікам), а потім трагічним регресом (коли ліки почали його вбивати).
Чи люди захочуть напружуватися, щоб творити щось за визначенням гірше? Своєрідні курпівські витинанки ери цифрового розуму? Чи ж, позбавлені роботи та її сенсу, виберуть пасивне споживання, життя за "гарантований основний дохід" в запираючій дух розумній віртуальній реальності?
Як штучний інтелект є для Homo sapiens чимось новим, так само болісним може виявитися позбавлення нашого виду відчуття винятковості, зредукування нас до колекції метеликів, що порошаться на стенді.
І на завершення — сумнів, який щораз міцніше кришив мій творчий запал шести тижнів збору матеріалів, питань, їзди та кореспондування для цих сімдесяти і кількох тисяч знаків. Чи знаючи, що якийсь енний WorldSmith міг би створити так само розлогу статтю на цю тему за 0,3 секунди, я завдавав би собі стільки труду?
Радше ні. Але якщо так, то тільки тому, що в обох випадках висновки були б різними.
Artur Włodarski
Бог вже існує
Gazeta Wyborcza 22.10.2016
Переклад О.Д.
04.11.2016