Якою мовою спілкується штучний інтелект?

 

Новина про те, що боти в Лабораторії дослідження штучного інтелекту компанії Facebook створили свою штучну мову, збурила мережу. Дослідники, які хотіли навчити роботів вести переговори, помітили, що, полишені самі на себе, вони створили власну, незрозумілу людям мову.

 

Як наслідок, експеримент довелося призупинити й перелаштувати моделі, щоб вони спілкувалися таки англійською (власне, це і є мета дослідження — створити ботів, які могли б комунікувати з користувачами мережі Facebook). На цю новину медіа відреагували з сумішшю здивування і страху. Адже машини, які вигадують свою мову, — це щось не менш страшне, як і дивовижне.

 

Отже, якою, власне, є ця мова? Ось зразок діалогу двох ботів:

 

Bob: i can i i everything else . . . . . . . . . . . . . .


Alice: balls have zero to me to me to me to me to me to me to me to me to


Bob: you i everything else . . . . . . . . . . . . . .


Alice: balls have a ball to me to me to me to me to me to me to me


Bob: i i can i i i everything else . . . . . . . . . . . . . .


Alice: balls have a ball to me to me to me to me to me to me to me


Bob: i . . . . . . . . . . . . . . . . . . .


Alice: balls have zero to me to me to me to me to me to me to me to me to


Bob: you i i i i i everything else . . . . . . . . . . . . . .


Alice: balls have 0 to me to me to me to me to me to me to me to me to


Bob: you i i i everything else . . . . . . . . . . . . . .


Alice: balls have zero to me to me to me to me to me to me to me to me to

 

Цей діалог видається нісенітницею. Але важливо й те, що боти так і не досягнули жодного результату в переговорах. Еліс так і не відійшла від своєї початкової позиції. Як свідчать дані Facebook, інколи такі перемовини все-таки закінчуються успішно й боти доходять до потрібних результатів, — повідомляють в лабораторії вивчення ШІ. Інколи дослідники погано налаштовують свої моделі — і боти обирають неправильні стратегії ведення переговорів, хоча й спілкуються зрозуміло за людськими стандартами.

 

Один зі способів думати про це подає явище криптофазії, коли діти-близнюки спілкуються власною, тільки їм зрозумілою мовою. На популярному відео 2011 року двоє близнюків весело теревенять між собою, а їхня розмова нагадує плинний, але незрозумілий діалог.

 

Лінгвісти вже десятиліттями дебатують про те, чи криптофазія — це власне мова чи лише радісне белькотання, яке її імітує. Малюки соціалізуються, наслідуючи мову, але, мабуть, не повідомляють одне одному нічого змістовного.

 

У випадку з Facebook це, однак, більше нагадує саме мову, — стверджують експерти компанії. В минулому дослідники ШІ вже спостерігали за тим, як машини створювали власні мови з когерентною структурою, визначеним словником і синтаксисом, хоча й не завжди зрозумілі за людськими стандартами.

 

У статті, опублікованій на початку року на сервері препринтів arXiv, дослідники з неприбуткової організації OpenAI описали, як боти навчились спілкуватися абстрактною мовою і як вони звернулися до невербальної комунікації, еквівалентної жестам та вказівкам, коли мовне спілкування стало недоступним (ботам не потрібна тілесна форма, щоб спілкуватися невербально, — вони використовують для цього механізм візуальної сенсорної модальності). В іншій недавній статті описаний експеримент, в якому два боти винайшли власні комунікаційні протоколи, обговорюючи кольори та форми. За їхніми словами, вони спостерегли "автоматичну появу ґрунтової мови та комунікацій... без нагляду людей".

 

Від таких експериментів голова йде обертом. Адже вони не лише демонструють, як ШІ створює свої мови, а й проливають світло на те, як синтаксис і композиційна структура могли з’явитися серед людей.

 

Однак чи справді те, що виникло між ботами, можна назвати мовою? Як стверджує професор лінгвістики з Університету Пенсильванії Марк Ліберман, "в цьому випадку не лінгвістам вирішувати, як можна використовувати слово “мова”, хоча лінгвісти й мають свою думку і аргументи про природу і межі людських мов".

 

Тож питання про те, чи боти з Facebook справді створили свою мову, залежить від того, що ми маємо на увазі під словом "мова". Наприклад, лінгвісти сходяться на думці, що знакова мова — це окремий тип мови, а не лише наближення розмовної мови, а комп’ютерні мови, такі як Python та JavaScript, насправді не є мовами, хоча ми їх так називаємо.

 

Натомість Ліберман поставив питання по-іншому: Чи може ботів Facebook (або "Facebotlish", як він її називає) сигналізувати появу нового типу мови?

 

"Мабуть, що ні, хоча ще бракує інформації, щоб сказати напевне, — каже він. — Насамперед ця мова повністю базується на текстах, тоді як людські мови є власне розмовними або жестикульованими, а текст — це штучна надбудова".

 

Але дуже важливо й те, що ці боти і близько не такі розумні, щоб проводити паралелі між ними та людським інтелектом (саме тому й термін "штучний інтелект" може вводити в оману).

 

"Стиль “експертних систем” штучного інтелекту 1970-х сьогодні нагадує історичний курйоз, так само як і механічні автомати XVII століття. Ми можемо бути впевнені, що сьогоднішній ШІ, що використовує машинне навчання, також поблідне порівняно з тим, що появиться через кілька десятиліть", — вважає Ліберман.

 

"Сьогодні вже реально створити штучні світи, заселені містичними алгоритмічними істотами з комунікаційними процедурами, які розвиваються через комбінацію випадкових збігів, соціальних рушіїв та оптимального відбору. Це так само просто, як створити заводну фігурку, що грає на фортепіано".

 


Adrienne Lafrance
What an AI's Non-Human Language Actually Looks Like
The Atlantic, 20.07.2017
Зреферував Євген Ланюк

 

 

02.08.2017