Великі чемпіони знають, як закінчити кар'єру на піку свого успіху. В DeepMind, лабораторії штучного інтелекту Alphabet, вирішили, що їх комп'ютерна програма, AlphaGo, більше не буде фокусуватися на перемогах у го. Замість цього, як написав у блозі Деміс Хассабіс, виконавчий директор DeepMind, фокус буде на "розробці вдосконалених загальних алгоритмів, котрі одного дня зможуть допомогти вченим розв’язати деякі з найскладніших проблем — як-от пошук нових ліків".
Ці амбіції цілком виправдані. Штучний інтелект може призвести до значних проривів, особливо в руках людей мислячих. Колись ці захоплюючі розробки можна буде легко втілити, якщо усунути певне неправильне розуміння.
Декому, виглядає, уявляється, що штучний інтелект — це схрещування в нових програмах штучних агентів і розумної поведінки. Насправді ж більш сенсовним є цілком протилежне: йдеться про "розхрещування" успішного вирішення завдань від необхідності бути розумним. Успіх приходить, коли досягнуто саме це.
Найкраще визначення штучного інтелекту написав в 1955 році американський комп'ютерний науковець Джон Маккарті зі своїми колегами — до класичного вже Дартмутського семінару з питань штучного інтелекту, що, власне, заснував цю ділянку науки. Проблема, писали вони, "полягає в тому, щоби спосіб продукованої машиною поведінки можна назвати розумним тоді, якщо людина в цій ситуації мала таку ж поведінку."
Зверніть увагу на контрфактичність: якщо людина мала поведінку в такий спосіб, то ми можемо назвати таку поведінку розумною. Визначення не стверджує, що штучний агент розумний, а каже, що людина мала би досягти тієї ж мети. Інакша інтерпретація — це омана, що пахне ідоловірством. Це якби сказати, що річка, щоби досягти моря, біжить найкращим із можливих шляхів, усуваючи перешкоди на своєму шляху; але ж якби це робила людина, то вважалобися, що така поведінка є розумною; таким чином можна сказати, що поведінка річки є розумною.
Весь і єдиний сенс у тому, щоби виконати завдання так, аби результат був таким же добрим — або й кращим — коли б його досяг людський розум. Не питання "як" — тільки результат. Ось чому штучний інтелект — це не про репродукування, а про заміну людського розуму. Посудомийна машина не миє начиння, як це роблю я. Але в підсумку її чисте начиння нічим не різниться від мого — а може, й чистіше. Так само і AlphaGo не грає в го так, як Ке Цзе, перший номер у світі, але все одно виграє.
Штучний інтелект — це продовження розуму іншими засобами. Отож, автономним автомобілем не керує гуманоїд, що сидить за кермом; технологія в цілому переосмислює автомобіль і його середовище.
Саме завдяки цьому "розхрещенню" штучний інтелект може освоювати завдання щоразу, коли це може бути досягнуто — без розуміння, усвідомлення, чутливості, інтуїції, досвіду чи навіть мудрості. Коротше кажучи, саме тоді, коли ми перестаємо намагатися відтворити людський розум, ми можемо успішно його замінити. Інакше AlphaGo ніколи не став би настільки кращим за кожного, хто грає в го.
Маккарті знав це дуже добре. Тому він нарікав, щоби не розглядати шахи як аргументацію на користь штучного інтелекту. Він мав рацію. Не аргументація. Але він помилявся в думці, що з цієї причини це не є його доброю можливістю. Так само і з AlphaGo. Якщо це нерозуміння усунути, то перед нами три очевидні розвитки.
По-перше, штучний інтелект має перестати тільки вигравати в іграх, а має використовуватись для "ігрофікації" таким чином, щоби принести щось, що може бути перетворене у гру на міру його можливостей. На місці DeepMind я найняв би команду ґеймдизайнерів.
По-друге, в контексті ігрофікації штучний інтелект буде грати тільки з штучним інтелектом — а їх внутрішні взаємодії можуть стати занадто складні, щоби бути цілком зрозумілими зовнішнім шанувальникам. Ми можемо насолоджуватися переглядом гри штучних інтелектів так, як ми насолоджуємося грою Баха.
І насамкінець, варто сподіватися, що там, де штучний інтелект є кращим гравцем, людський розум відіграватиме іншу роль. Він буде менше розв'язувати проблеми, а більше вирішувати, які проблеми розв'язувати і чому.
Автор є директором Лабораторії цифрової етики Оксфордського університету
Luciano Floridi
A fallacy that slows the artfcial intelligence race
The Financial Times, 1.06.2017
Зреферував О.Д.