Війна з саламандрами

«Війна з саламандрами» Карела Чапека залишалася однією з улюблених книжок мого дитинства просто тому, що це був один з небагатьох доступних мені романів, який із саркастичною точністю демонстрував, як посилюється тоталітаризм і якими наївними й безпомічними є люди у своєму нерозумінні небезпеки та недооцінці її наслідків. Чапек був «дозволеним» і відносно нецензурованим письменником насамперед тому, що після війни його Батьківщина, Чехословаччина, потрапила у радянську «сферу впливу», а до літератур так званих країн «народної демократії» партійні комісари ставилися із більшою поблажливістю, ніж до письменників Заходу – тим було краще бути комуністами, друзями Радянського Союзу чи хоча б борцями із буржуазією. І в тому, що я вільно міг читати Чапека, є своя іронія долі. Мої можливості були обумовлені історичною поразкою Чапека, щирого патріота і громадянина, автора блискучих діалогів із першим чехословацьким президентом Томашем Масариком (ну, їх я прочитав, звісно, вже після краху Радянського Союзу та його цензури). «Саламандри» прийшли й сплюндрували цілий світ – світ Чапека, світ таких, як Чапек. Це я розумів, розумів, про кого я читаю, розумів, що це книжка на всі часи.

І от тепер із здивуванням побачив, що тижневик «Economist» звертається до роману Чапека як до сумного передбачення співіснування людства зі штучним інтелектом. Колеги сприймають чапеківську «епоху саламандр» саме як час, який ми переживаємо сьогодні. Адже саламандри Чапека спочатку викликали щирий захват своєю здатністю вивільнити ресурси й дозволити людям відмовитися назавжди від тяжкої фізичної праці. А коли стали очевидними наслідки цієї співпраці, було вже пізно…

Але ні, Чапек писав не про компʼютери – він писав про людей! Йому, винахідникові слова «робот», була добре відома відмінність мислячої істоти від машини – саме тому в його романі саламандри виглядають як політична сила, що захоплює владу й території.

Але відмовлятися від передбачень Чапека у їхній новітній інтерпретації я також не став би. Тому що насправді ми існуємо не просто у новій епосі саламандр. Ми існуємо у часі саламандр, озброєних штучним інтелектом. І це виглядає найбільшою небезпекою.

Бо саламандри, на відміну від нас, не знають етичних проблем і не мають «червоних ліній». Вони готові використати будь-що для посилення своїх можливостей, Чапек це дуже добре показав. І, звичайно, штучний інтелект стане їхньою новою потужною зброєю. В той час як цивілізований світ буде створювати обмеження й ухвалювати закони, вони шукатимуть можливостей ці обмеження обійти.

Ми наближаємося до моменту, коли співіснування демократій і диктатур вже не виглядає реалістичним. Саме новітні технології можуть поставити питання щодо можливостей такого співіснування. Ядерну зброю до цього часу не застосували тільки тому, що диктатори завжди боялися удару у відповідь. Якби вони були переконані, що такого удару не відбудеться, то вже давно перетворили б зброю стримування на зброю нападу. А якою може бути відповідальність за несанкціоноване використання штучного інтелекту?

Для того, щоб вижити, нам потрібно позбавити людей влади саламандр. Нам потрібно перестати вірити, що із саламандрами можна про щось домовитись і що еволюція перетворить саламандр на людей. Не перетворить. Не можна сподіватися на виживання у світі протилежних цінностей за умови, що обидві частини цього світу будуть використовувати розвинутий мозок машини. Бездушної машини, нагадаю вам.

Коли Головний Саламандр приїхав до аеропорту, щоб обійняти звільненого його зусиллями вбивцю, я знову побачив усю глибину провалля між світом, у якому люди цінують життя, і світом, у якому тритони прославляють смерть. І якщо ми від цих саламандр не відібʼємося і не зупинимо їх, то ризикуємо всі разом потонути у їхньому кривавому океані.