Технології перевершують людей, особливо коли ті хворі або стомлені, пише Девід Сіґел
Більшість з нас любить робити власний вибір в питаннях життя, смерті чи грошей, і коли ми не можемо вирішити самі за себе, ми радше звернемося за консультацією до людини-експерта, ніж до безликої програми.
Вважається, що професіонали з плоті та крові мають здорове почуття відповідальності і, потрапивши в темний кут, часто можуть освітити вихід із ситуації креативним вогником. Те, що наша доля одного дня може бути ввіреною детермінованому алгоритму, для багатьох людей є застрашливо безпросвітною візією. Це упередженість, яку нам пасувало би перебороти. У світі, вщерть заповненому цифровою інформацією, алгоритми краще, ніж люди, дають раду з аналізом комплексних взаємодій. Те, чого їм бракує в креативності, вони з лишком надолужують системністю і швидкістю.
Розгляньте авіацію, де помилки часто є смертоносними. У 1960-х роках інженери знайшли спосіб упоратися з надзвичайно поширеним і катастрофічним типом помилок летунів. Сидячи в кабінах механічно справних літаків і летячи на правильній швидкості й тримаючи все під повним контролем, вони могли врізатися в гірський схил чи морську поверхню, здавалося б, не помічаючи, що щось пішло не так.
Такі катастрофи, результатом яких часто є загибель усіх, хто був на борту, відтоді були практично ліквідовані. Система попередження про небезпечну близькість землі, якою тепер оснащені комерційні повітряні судна, може бачити перешкоди, яких не бачить пілот: завдяки докладним картам місцевості та сенсорам, які працюють навіть у темряві й за поганої погоди. Що важливо, вони стежать за місцем перебування літака і розраховують його шлях, тому їхню пильність не можуть приспати небезпеки, які тяжко виявити, як-от рельєф, що здіймається швидше, ніж літак, який починає свій злет. І на відміну від пілотів, їх ніколи не відволікають інші нагальні питання, як-от двигун, який відмовляє, чи інструкції від авіадиспетчерської служби.
У таких широкомасштабних сферах, як медична діагностика, метеорологія і фінанси, десятки досліджень виявили, що алгоритми щонайменше є рівносильними суб’єктивному людському аналізу, а зазвичай перевершують його. Дослідники розробили алгоритми, які оцінюють ймовірність подій, як-от повернення поодинокого арештанта до вчинення злочинів після того, як його звільнять з-під варти, чи банкрутство поодинокого нового підприємства. Коли вони протиставляють прогнозувальну здатність цих програм супроти людей-спостерігачів, то виявляють, що люди дають собі раду гірше.
І це, можливо, добре. Крім того, що допускаються систематичних помилок, люди хворіють, стомлюються, відволікаються і нудяться. Ми виходимо з рівноваги. Ми можемо запам'ятати і згадати обмежену кількість інформації за найкращих обставин. Більшість її ми зберігаємо у пам'яті, але коли зростає кількість доменів, нам більше не треба толерувати обмеження, які вона передбачає. Ми також не багато виграємо, роблячи це. Однак ми непохитні у тому, щоби прощати «людську помилку», вимагаючи, однак, непомильності від алгоритмів.
Доказом є заламування рук через безпеку використання безпілотних автомобілів, навіть попри те, що Національне управління з безпеки руху автотранспорту вважає, що людська помилка — а не механічна несправність — є «визначальним фактором» майже усіх аварій, які стаються в США кожного року. Здається, люди воліють покладатися радше на інших людей — чия логіка і поведінка, як вони знають, не є бездоганною, — аніж на програмно-технічні засоби, які працюють безпристрасно.
Ця пристрасність, звісно, є ще одним випадком логічної помилки, якої людям нелегко уникнути. Для цього навіть існує назва: «відраза до алгоритмів», термін, вигаданий трьома дослідниками університету Пенсильванії в дослідженні 2014 р. Навіть побачивши, що алгоритми роблять більш точні розрахунки, ніж люди, коли використовують ідентичні дані, ті, як показало дослідження, швидше втрачають віру в програми, ніж в прогнозистів-людей. Логічно, що правдою мало би бути протилежне. Очевидно, ми більше бажаємо жити з власними передбачуваними помилками, ніж довіряти явно кращому методу.
Люди мають тривалий досвід неприйняття нових обставин як зміну парадигми у незручний спосіб. Ймовірно, зовсім не допомагає те, що ми виросли на антиутопічній науковій фантастиці, чи те, що публічні інтелектуали й далі запевняють, що штучний інтелект може спричинити загибель людської раси.
Що раніше ми навчимося довіряти алгоритмам виконання завдань, в яких вони нас явно перевершують, то краще для нас, людей, буде. Якщо страх перед невідомим справді призводить до ірраціонального упередження скептиків супроти алгоритмів, тоді завданням практиків, які розуміють їхню силу (і недоліки), є зробити обґрунтування на їхню користь.
David Siegel
Human error is unforgivable when we shun infallible algorithms
The Financial Times, 5.06.15
Зреферувала Галина Грабовська