ВІД ЧАСІВ СОКРАТА ДО ШТУЧНОГО ІНТЕЛЕКТУ
ЗРК Patriot хоч і не зовсім нова техніка, все ж має опцію автоматичної стрільби. Без участі людини, яка тільки заважає, перешкоджає своїми ваганнями, повільністю. Коли урухомити цю функцію, ЗРК захоплює російську ціль, миттєво відкриваючи вогонь.
Звісно, людині хочеться мати контроль над технікою. Прагнеться, щоби останнє слово було за нею. Але хіба ми не пожертвуємо цією людською амбіцією, коли йдеться про економію критично важливої секунди?
Так і зі штучним інтелектом. Приголомшливо меткий і тямущий, як джин, він негайно виконує будь-яку твою забаганку. "Слухаю тебе, мій повелителю" – цієї фрази поки що не вимовляє, але говорить щось дуже подібне, що підкуповує і спокушає. "Джина генеративних технологій випустили з пляшки". Ця фраза свідчить про той величезний ажіотаж, який охопив сотні мільйонів користувачів, зокрема і в Україні, що відкрили для себе дивовижні можливості великих мовних моделей.
Втім, боїмося випустити з рук контрольну кнопку
А що коли з'ясується, що люди не зможуть дати ради ні зі зміною клімату, ані, тим паче, з війнами й агресивними сусідами? І що єдиною умовою буде – віддати контрольну кнопку і підкорятися алгоритмам, які щоденно видаватиме нам ШІ? Ми ж любимо всілякі підказки і нагадування електронних орґанайзерів, фітнес-аплікацій та інших додатків у наших смартфонах. Багато з нас у недалекому майбутньому, найімовірніше, погодяться на вживлення електроніки, яка допоможе бути більш організованими й ефективними у щоденному житті. Особливо, коли це вже зробив хтось інший, адже йдеться про конкурентну перевагу. Чим це, врешті, різниться від пігулок, які дехто приймає для поліпшення пам'яті?
Отож, зупинити розвиток та експансію ШІ малоймовірно. Це як з наївними пацифістами, які хочуть зупинити війну, просто закликаючи "перестати стріляти".
Саме до таких належать, з мого погляду, тисячі науковців (на час написання цього тексту – понад 20 000), які підписали листа з вимогою призупинити на пів року подальше вдосконалення GPT та інших великих мовних моделей і всіляко застерігали від надмірного захоплення ШІ. Застерігати, звісно, не зашкодить. А ось призупинити – проблемно. Як слушно зауважив Біл Ґейтс, конкуруючі компанії і країни негайно скористаються такою зупинкою, щоби вирватися вперед.
Копнемо трохи глибше
Інша і дещо глибша підстава полягає у тому, що нам, людям, ще ніколи не щастило зупинити новий медіум. Починаючи з письма. Можливо, хтось здивується, але письмо на своїх початках теж натикалося на неабиякий опір. Найбільш відомий епізод такого опору чи принаймні критики нового на той час медіуму пов’язаний із Сократом. "Збруч" публікував свого часу міркування Джеремі Тайта під заголовком "Сократ ніколи не писав курсову". Дещо іронізуючи, можна продовжити, що Сократ не просто не писав курсову, він взагалі не писав. Принципово, оскільки вважав, що письмо спричиняє деградацію пам'яті. Кажуть, його лише раз помітили, коли накреслив кілька літер на піску, але врешті стер.
Парадоксально, та про аргументи цього філософа проти письма ми знаємо… завдяки письму. Зокрема діалогу Платона “Федр”. Посилаючись на єгипетську міфологію, Сократ стверджує, що "цей винахід вселить у душі учнів забутливість (...) Адже, покладаючись на письмо, вони будуть пригадувати за допомогою зовнішніх знаків, а не завдяки ВНУТРІШНІЙ СИЛІ". Тут виділення наше, оскільки цікаво поміркувати, як впливає на "внутрішню силу" людини ШІ.
І далі: "Своїм учням ти даси лише видимість мудрості, а не справжню мудрість. Вони будуть пізнавати з чужих уст, але без глибокого засвоєння, і їм буде здаватись, ніби вони багато знають, натомість здебільшого залишаючись невігласами, ще й нестерпними в спілкуванні. Тож вони стануть не мудрими, а лжемудрими" (Платон, "Федр", у перекл. Й. Кобіва).
Якщо спробувати застосувати цю логіку до наступних комунікаційних винаходів – друку, радіо, телебачення, інтернету і нарешті ШІ – то побачимо лише посилення екстеріоризації знання чи мудрості, перенесення її назовні. Ще більше "зовнішніх знаків". Замість "внутрішньої сили" – все більше зовнішньої експертної думки, мудрості з "чужих уст": у часописах, радіо- і телеефірах, на YouTube чи Telegram-каналах. Ну і вершиною "лжемудрості", якби тільки Сократ міг усе це передбачити, він напевно вважав би GPT чи подібні системи генеративного ШІ, який не тільки все докладно пояснює і розжовує, а й пише та говорить замість тебе чи пропонує готові тексти – від персоналізованих привітань на уродини до наукових статей.
Втім повернемось до опору, яким супроводжувався кожний великий переділ у сфері медіа, зокрема з боку людей, які не були зацікавлені у поширенні нових технологій. Якщо йдеться про письмо, а це безперечно технологія, то, як уже зрозуміло з позиції Сократа, його широке впровадження ставило під сумнів привілейоване становище людей з винятковою пам'яттю та часто суміжними з нею когнітивними й ораторськими здібностями у дописемних суспільствах. До речі, фантастичний фільм Johnny Mnemonic повертає нас до цієї самої ситуації, лише на іншому витку спіралі історичного розвитку. Гакери високорозвиненого інформаційного суспільства набули такої могутності, що найціннішу інформацію знову почали довіряти людському мозкові – людям з особливою пам'яттю, мнемонікам.
Отже, з поширенням письма над тодішньою "мнемонічною" елітою нависла загроза. Американський медіаеколог Ніл Постмен писав з цього приводу: «У дописемній культурі людська пам'ять є надзвичайно важливою, адже прислів'я, приказки, пісні складають усну мудрість століть. Ось чому Соломон вважався наймудрішим чоловіком. Кажуть, що він знав 3000 приказок. Але в писемній культурі такі подвиги пам'яті є марною тратою часу. А прислів'я – щось на кшталт зовсім не важливого чудернацтва. Письменна людина віддає перевагу логічній організованості і системному аналізу, а не прислів'ям".
Ось це і є пояснення, чому "мнемотики" програли і новий медіум завоював світ.
Ще швидше заполонила світ друкарська технологія після винаходу Йоганна Ґутенберґа близько 1455 р. А вже через кілька років, 1460-го, перший відомий львівський друкар Степан Дропан, за переказами ченців, подарував львівському Свято-Онуфріївському монастиреві свою власну друкарню. Вірогідно, такий швидкий трансфер з Майнца до Львова відбувся завдяки тестю львіського першодрукаря – Йогану Зоммерштайну (звідси – Замарстинів). Якби ця версія колись підтвердилась, то Львів вважався б одним із перших міст у світі, де почався друкарський бізнес.
На друкарському слові, як слушно зауважують дослідники, ґрунтується вся сучасна цивілізація, і з поширенням книгодрукування фактично розпочався Новий час. Проте, як і слід очікувати, відбувалось це не без опору, дарма що перевага нових друкарських технологій, здавалось, була майже очевидною.
Логічно припустити, що армії переписувачів і ті особи, що за ними стояли, були природними супротивниками новонароджених технологій. Існування переписувачів і їхніх спонсорів втрачало сенс. А втім, психологічно вага цих людей була настільки значною, що до їхніх послуг усе ще вдавалися і через двадцять, і через п'ятдесят років після запровадження друкарства. Це нагадує людину, яка зайшла у приміщення з ксерокопіювальною технікою і, потребуючи копію якогось документа, переписує його від руки.
Промовистою в цьому плані виглядає і доля самого Ґутенберґа. Більш-менш достовірні відомості про нього ми маємо хіба що з матеріалів численних судових справ, які переслідували його все життя. Колишні колеги з ювелірного цеху визнали його "особою без користі" і відрахували зі свого доволі престижного середовища. Прізвища друкаря немає на жодній з книг, до яких він насправді доклав руку. Лише наприкінці життя єпископ Майнца надав йому довічну пенсію. Великому винахідникові щорічно видавали також "двадцять мір зерна й два бурдюки вина". Проте це не завадило навколишнім мешканцям і далі вважати, що Ґутенберґ продав душу дияволу й займався чорною магією.
"Інтернет – сила! Телєвізор – могила!" – цю жартівливу фразу, якою Юзьо Обсерватор (Юрко Винничук) на початках розвою українського нету супроводжував свої публікації в газеті "Поступ", можна трактувати як натяк на далебі не жартівливий конфлікт двох комунікаційних монстрів: того, хто посідав панівне становище, і того, хто мав посісти "трон" завтра.
Прихід інтернету, а потім соціальних мереж, своєю чергою, теж супроводжувався неабиякою критикою. Втім, як виглядає, це було лише додатковою рекламою нових комунікаційних технологій. То чому має бути інакше зі ШІ?
Медіа є плодом, який людство виносило в своєму лоні, але який людству не належить.
Велика семіотична подія
Нарешті коротко про ще один, найглибший рівень цієї справи. Як би ми не ставилися до ШІ – захоплено чи з осторогою – це те, до чого люди йшли упродовж тисяч років. Ми завжди прагнули поставити над собою певні алгоритми, які би регулювали нашу поведінку. Шукали формулу щастя, добробуту, мирного співжиття, економічного процвітання. Щоправда, знаходили з перемінним успіхом. Радше нам здавалося, що знаходили. Як-от марксистам-ленінцям, які вирішили перекроїти світ відповідно до своїх формул, зокрема скасувати приватну власність і організувати колгоспи.
Але річ не в тому. Йдеться про те, що ми завжди намагалися ставити віднайдену формулу понад усе. Вище індивідуальних бажань кожного з нас. Як-от закон, клятва, присяга, інструкції, правила. ШІ – наче остання ланка довгого ланцюга. Це якби вирощували великого крокодила у себе на подвір'ї, сподіваючись, що він ніколи не спробує нас з'їсти.
Подібно до того, як проростає через ґрунт трава, так проростають через нас найрізноманітніші семіотичні структури: алгоритми, тексти, дискурси, інструкції, врешті звичайні побутові розмови. Наша психіка була і є середовищем для їхнього розростання чи реплікації, як меми у трактуванні Річарда Докінза чи "листи щастя". Проте вони ніколи не могли множитися поза цим середовищем, за межами людської психіки. Вони потребували для цього нашої енергії, ніби натискаючи на кнопки заохочення у нашій свідомості. Недаремно Ролан Барт писав про задоволення від писання. Додамо сюди ж задоволення від читання, від творчості. Таке заохочення має безліч відтінків. Ми, люди, сприймаємо свою заанґажованість у дискурсах, виконанні інструкцій, текстотворенні як професійну самореалізацію чи просто роботу. У будь-якому разі як те, що ми робимо з власного вибору, отримуючи матеріальні чи моральні бонуси.
А тим часом якби найдрібніше створіння – скажімо, клітина – мало свідомість, то, мабуть, теж сприймало б інструкції, які дає ген або вірус як "власний вибір" і "самореалізацію". Погодьмося, що вірус, який програмує клітину на нескінченну реплікацію такого ж вірусу, можна розглядати просто як інформаційний пакет, набір інструкцій. Щось подібне відбувається і на вищих рівнях. Тут важливе розуміння тексту чи дискурсу як структур, проєктів, що саморозгортаються (чи не найкращий приклад – інтернет). Для опису цього процесу можна застосовувати популярну теорію спонтанного чи стихійного порядку – spontaneous order. Чи не це спонукало французьких структуралістів (К. Левi-Строс, М. Фуко, Ж. Лакан, Р. Барт) метафорично говорити про "смерть автора" і первинність анонімних структур, дискурсу, який наче промовляє через конкретного автора? Ці семіотичні структури нарешті досягли такого рівня, що можуть обходитися в своєму розростанні й експансії без людини.
Починаючи з грудня 2022 р., вперше в історії сотні мільйонів людей знайомляться з ШІ в режимі невимушеного, подібного на людське, спілкування. У цьому сенсі минулий рік має особливе значення не тільки з огляду на місію України у військово-політичному вимірі, але й в історії комунікації. Велика мовна модель, базована на штучних нейронних мережах, може стати поворотним пунктом у комунікації. Її особливістю є самонавчання без нагляду людини, що спонукає до появи так званих емерджентних властивостей, непередбачених і несподіваних для самих програмістів, які працювали над її створенням. До того ж ідеться про самонавчання на гігантських, потенційно необмежених інформаційних масивах, які можуть включати всю інформацію, спродуковану людством.
Читач скептично поставиться до твердження про "всю інформацію". І такий скепсис цілком слушний. Ми ще повернемося до цього питання. Наразі важливо акцентувати, що до цього часу семіоз як процес творення значень чи сенсів йшов через людську свідомість, фраґментований на мільярди людських особистостей. Він мав (і має далі) один вигляд у свідомості актора, маляра, перекладача, композитора чи викладача філософії, інший – у фізика чи математика, ще інший – у робітника, який після завершення робочого дня вмикає телевізор чи занурюється в мережеву гру. При цьому семіотичний текст – тобто розкодований "живий" потік слів, знаків, іміджів – зрозуміло, обмежується індивідуальною психікою.
Окрім нього, ще є латентний текст, який сьогодні зберігається в бібліотечному сховищі, архіві, музеї чи комп'ютерній пам’яті і завтра, наступного тижня чи в найближчі століття буде прочитаний, сприйнятий, розкодований і осмислений. Водночас велика частина цього тексту – через перцептивні і загалом фізіологічні обмеження людини – так і залишиться назавжди латентним, не сприйнятим суб'єктом-реципієнтом, не розкодованим. Його ніхто і ніколи не прочитає, не побачить і не осмислить. Масиви такого латентного тексту дедалі більше зростають.
А шкода, бо його введення в якусь грандіозну свідомість могло би відфільтрувати, актуалізувати, запустити в активний обіг важливу, хоч і забуту чи просто неосягнуту інформацію. Але де взяти таку свідомість? Останні люди, які амбітно – хоч і безпідставно – претендували на володіння всіма важливими знаннями, спродукованими на той час людством, губляться в Античності чи Середньовіччі. Проте з часу науково революції (1543–1687) нам, людям, довелося однозначно і назавжди облишити такі претензії – знати все було вже в принципі неможливо. Ідея французьких просвітників на чолі з Дені Дідро видати "Енциклопедію" була однією з відповідей на зростання спеціалізації в науці й намагання дати своєму читачеві бодай коротке і поверхове знання з різних галузей. Але й енциклопедії з того часу множилися і спеціалізуватися: від юридичних і літературних до економічних, кібернетичних чи мистецьких. Самих тільки назв книг тепер в усьому світі щороку виходить близько двох з половиною мільйонів.
І ось з'являється квазісвідомість, спроможна охопити всі накопичені людством знання. До того ж, не фраґментовані на 8 мільярдів, а доступні для обробки в межах великої мовної моделі. Обробки зі швидкістю, яка спантеличує нас, звичайних користувачів. Хоча нічого дивного насправді у цьому немає, коли взяти до уваги простий факт: швидкість проходження електричних імпульсів у комп'ютерних мікросхемах приблизно в 100 тисяч разів перевищує швидкість руху імпульсів між нейронами людського мозку.
Тобто вперше в історії людської цивілізації ми можемо вести мову про єдину (об'єднану), потенційно всеохопну семіотичну систему, в якій інформація (у близькому майбутньому – мультимедійна) не просто записана, а розкодовується, порівнюється, аналізується й трансформується в нові тексти: аналітичні пояснення, поезію, прозу, твори мистецтва тощо. Саме тому доречно, з нашого погляду, вести мову про велику семіотичну подію.
Семіотичні структури, окрім звичного середовища людської психіки, отримали середовище штучних нейронних мереж, і в цьому сенсі наче переросли людину або ж переростають на наших очах. Втім, заглиблення в нетрі семіотичної онтології заслуговує на окрему розмову.
Повертаючись до початку нашої бесіди, можна виснувати, що феномен масового спілкування природною мовою з ШІ вносить такого роду зміни в суспільство, які сьогодні порівнюють із запровадженням письма, друку, телебачення, інтернету. Як писав уже згаданий медіаеколог Ніл Постмен: "У 1500 році, коли друкарський верстат увійшов у вжиток, ми дістали не просто стару Європу плюс друкарський верстат. Ні, то була вже цілком інша Європа. Після винайдення телебачення Америка не була колишньою Америкою плюс телебачення. Телебачення надало нового забарвлення кожній політичній кампанії, кожному будинку, школі, церкві, бізнесу і так далі". Усе зазнало докорінних змін. Щось подібне чекає і нас у найближчі роки. ШІ трансформує нас. Хоч ніхто не знає, чи це на краще.
Саме тому Patriot може бути налаштований на автоматичне враження цілі або ж на ручне управління, чекаючи команди від людини. Проте в близькому майбутньому цілком ймовірно, що команди, які надходитимуть на його пульт, генеруватиме не людина.
18.04.2023