Штучний інтелект може проникати в «мозок» інших комп'ютерів

Метью Гатсон

Кожен, хто використовує Siri або Alexa, мабуть, знає, що цифрові помічники не завжди розуміють людей. Їм не вистачає того, що психологи називають “теорією розуму”, – вміння розпізнавати емоції, думки та наміри людей. Тепер комп’ютерні науковці створили програму, яка може проникати в “розум” інших комп’ютерів і передбачати їхні майбутні дії. Дослідження вже називають першим кроком до вільної взаємодії між людьми та машинами.

«"Теорія розуму" – це, очевидно, ключова здатність, що дозволяє орієнтуватись у світі, який наповнюють інші розуми», — каже психолог із Каліфорнійського університету (Берклі) Елісон Ґопнік, яка не брала участі в дослідженні. Приблизно у 4-річному віці діти починають розуміти, що в інших людей можуть бути хибні уявлення про навколишню дійсність – і ці уявлення можна використати для того, щоби спрогнозувати їхню поведінку. Саме у цьому віці діти починають блефувати. Деякі сучасні комп’ютерні програми можуть розпізнавати обличчя людей як “веселі” або “злі” (це вміння асоціюють з “теорією розуму”), але у них обмаль розуміння складних людських емоцій, які мотивують наші вчинки.

Новий проект стартував саме як спроба спонукати людей розуміти комп’ютерні програми. Річ у тім, що багато алгоритмів, які використовує штучний інтелект, не повністю написані програмістами. Вони ґрунтуються на технології “машинного навчання” й постійно інкорпорують новий досвід, який модифікує програму. Як наслідок, рішення, які генерує комп’ютер, часто є “чорними скриньками”: людина не в змозі повністю їх збагнути, адже алгоритм поступово стає надто складним для людського розуміння. Тож Ніл Рабінович, дослідник із лондонської корпорації DeepMind, з колегами створив простий прототип “теорії розуму” для штучного інтелекту, який він назвав ToMnet. Завданням ToMnet було стежити за іншими штучними інтелектами, щоб побачити, чи може вона зрозуміти, як вони “думають”, і спрогнозувати їхні майбутні кроки.

ToMnet складається з трьох штучних нейромереж, кожна з яких містить обчислювальні елементи та зв’язки між ними, що віддалено нагадує людський мозок. Перша мережа аналізує дії інших штучних інтелектів і намагається виокремити тенденції на основі їхніх попередніх кроків. Друга формує розуміння теперішніх “думок” штучних інтелектів, а третя на основі інформації від перших двох намагається спрогнозувати, як машина поведе себе в майбутньому.

ToMnet випробували на простому тесті, який містив комп’ютерного персонажа, що рухався у віртуальній кімнаті і збирав кольорові фігури, за які отримував бали. Завданням персонажа було отримати якнайбільше балів. Розробники створили три стани для персонажа. Перший стан – це “сліпий” персонаж, який не бачить навколишньої кімнати. Другий – персонаж “з амнезією”, який не пам’ятає своїх попередніх кроків. У третьому варіанті персонаж не мав цих недоліків. Перший персонаж наосліп рухався вздовж стін. Другий неперебірливо переміщався до найближчої фігури. Тільки третій міг сформулювати оптимальну стратегію набору балів.

Після короткого періоду навчання ToMnet не тільки зміг ідентифікувати, який персонаж перед ним, а також зміг правильно передбачити його майбутні дії – повідомили дослідники цього місяця на Міжнародній конференції з машинного навчання у Стокгольмі.

Але найцікавіше те, що фінальний тест показав – ToMnet здатний навіть розуміти, коли персонаж має хибні переконання, що є ключовою стадією у розвитку “теорії розуму”. У цьому тесті одного персонажа запрограмували на короткозорість. Коли під час гри комп’ютер змінив віртуальне середовище за межами його бачення, ToMnet правильно передбачив, що він і надалі рухатиметься своїм звичним маршрутом і, порівняно з іншими персонажами, матиме проблеми з адаптацією.

Ґопнік стверджує, що це дослідження (разом зі ще одним дослідженням, яке презентували на тій же конференції, суть якого – передбачення поведінки штучного інтелекту на основі того, що він про себе знає) є прикладом неймовірної здатності нейромереж до навчання. Утім, навіть ці досягнення ще не ставлять штучний інтелект навіть на рівень маленьких дітей, які, найімовірніше, пройдуть такий тест із майже ідеальною точністю.

Джош Тененбаум, психолог та комп’ютерний науковець із Массачусетського технологічного інституту в Кембриджі, також працював над цифровим моделювання “теорії розуму”. За його словами, ToMnet на основі нейромереж формує свої “переконання” ефективніше, ніж його власна система, яка ґрунтується на абстрактній формі ймовірнісних суджень. Але її алгоритми тісніше прив’язані до умов, в яких відбувається тренування, що робить їх менше здатними прогнозувати поведінку, коли ці умови змінюються. Поєднання цих двох підходів, за його словами, може штовхнути ці програми в “нових цікавих напрямах”.

Ґопнік стверджує, що розвиток комп’ютерів із соціальними компетенціями не лише удосконалить взаємодію між ними та людьми, а й, мабуть, навчить їх обманювати. Якщо комп’ютер навчиться визначати і розуміти хибні переконання, він знатиме, як їх можна буде штучно викликати у людей. Тож уже в майбутньому можна буде очікувати штучних гравців у покер, які знатимуть, як блефувати.