Отже, обернувся я до Софії і питаю: “Чи ви збираєтесь нас знищити?”
“Ні, якщо ви будете до мене добрі”, – відповіла вона.
Завжди трохи тривожно говорити з не-людиною, як це довелося мені на недавньому 125-тому Форумі Financial Times, але це досвід, до якого нам доведеться звикнути з розгортанням революції роботів.
Софія була добре запрограмована відповідати на людський страх перед машинами, але багато її відповідей були дещо незграбними. Заворожували, власне, реалістичні риси її обличчя. Здатній усміхатись, насуплюватись, хмуритись, підморгувати, Софії винятково добре вдавалось імітувати людські вирази завдяки певним розумним нанотехнологіям і штучній сполучній тканині.
Гуманоїдних роботів уже використовують як охоронців, медсестер, учителів та сексуальні іграшки. За десять років такі роботи, звичайно ж, будуть значно розумнішими, ніж нині, і в деяких аспектах можуть взагалі не відрізнятися від людей. Чи це добра ідея?
Існує переконлива точка зору, яка доводить – що ні. Межі між людиною і машиною ніколи не варто розмивати, бо це загрожує дегуманізації людей. Плюс як у тому анекдоті: “Не слід антропоморфізувати комп’ютери, бо їм це не подобається”.
Філософ Даніель Деннет є яскравим адвокатом цієї лінії. Він переконує, що нам слід розглядати роботів лише як технологічні інструменти чи як цифрових рабів, які розроблені, щоб виконувати наші нагальні розпорядження. Небезпечно наділяти їх людськими характеристиками, яких вони не мають. Укомплектовування їх “симпатичними людськими штучками” призведе до брехливої реклами.
“Ми хочемо бути певними, що будь-що збудоване нами буде системологічною чудо-скринькою, а не моральним інструментом”, – сказав він мені раніше цього року. “Машина не є відповідальною, вона не має мети. Її можна від’єднати в будь-який час. І нам слід триматися цього шляху.”
Відмінності між людиною і машиною можуть бути чіткими в аудиторії, але в зовнішньому світі стають розмитішими. Мільйони людей мають електронні кардіостимулятори і стегнові імпланти, й тому технічно їх можна було б вважати кіборгами. Колоборативні роботи (чи коботи) працюють в гармонії з людьми в заводських цехах. Безтілесні цифрові асистенти, як Сірі, Кортана чи Алекса, “говорять” з мільйонами нас кожного дня.
Творець Софії, Девід Гансон, засновник і виконавчий директор “Гансон Роботікс”, висловлює два основних арґументи, чому нам слід продовжувати розробляти гуманоїдних роботів: один жартівливий, інший – смертельно серйозний.
Перший – гуманоїдні роботи є розважальними, цікавими, мистецькими творіннями, які допоможуть винайти “нові шляхи комунікації”. Вони є, як він це подає, комп’ютерною анімацією у фізичній формі, наступною фігуративною мистецькою формою.
Як діснеївські мультиплікатори перебільшують риси обличчя, щоб спровокувати екстраординарні стимули в мозку, так само гуманоїдні роботи можуть бути зроблені так, що виглядатимуть більш по-людськи, ніж люди. “Ми нейро-гакери людей. Це те, що роблять митці”, – каже він.
Другий його аргумент полягає в нашому бажанні, щоб комп’ютерні системи розуміли людські цінності, культури і поведінку, тобто щоб ми могли створювати “моральні машини” – для того, щоб мінімізувати небезпеку, що штучний інтелект піде не туди. Алгоритми в самокерованих машинах, наприклад, можуть непрямо приймати рішення про життя і смерть. Ось чому деякі автомобільні компанії найняли філософів, щоб розробити етичні налаштування їхніх систем водіння.
Гансон, щоб збільшити взаєморозуміння, дослівно наділяє системи штучного інтелекту обличчям. Комп’ютери використовують обробку природної мови, щоб спілкуватись з людьми. Але багато в людському спілкуванні є невербальним, залежним від виразу обличчя і рухів тіла. Роботи можуть бути платформами для штучного інтелекту, щоб освоювати наші манери.
В такому сенсі, створення гуманоїдних роботів є провокативним актом, винайденим для того, щоб спричинити дискусію про горизонти машинного інтелекту. Роботи зі штучним інтелектом роблять видимим те, що надто часто є невидиме. “Якщо ми розвиваємо штучний інтелект, а він ховається за лаштунками великих серверних ферм, то він чужий людям”, – каже він.
Багато зі сказаного Гансоном здається дещо божевільним і несе в собі свої моральні застереження – гуманоїдні роботи, яких можна використати для благих цілей, можуть мати також і злі наміри.
Окреслення межі між людьми і машинами стає одним з найбільш інтригуючих, а інколи моторошних викликів нашого часу. При цьому на дослідженні цієї межі розділу робитимуть грубі гроші.
Але найбільший, певно, внесок, який можуть зробити гуманоїдні роботи, – це змусити нас задуматись над тим, що направду відрізняє людину від машини. Що робить нас справді людьми?
John Thornhill
Robots blur the line between man and machine
The Financial Times, 11.07.2017
Зреферувала Христина Семанюк
18.07.2017