Кого повинна принести в жертву автономна машина у випадку неминучої аварії? Це складне етичне запитання науковці поставили учасникам глобального опитування – дотепер наймасштабнішого на цю тему. Результати доводять, що існують універсальні тенденції: наприклад, в усьому світі вважають, що врятувати групу людей важливіше, ніж одну особу. Проте в опитуванні проявилися й суттєві культурні відмінності, розповіли вчені в журналі «Nature».
Кого принести в жертву повинна безпілотна машина в такій ситуації? Зображення: MIT.
У майбутньому автономні машини здійснять революцію в галузі транспорту. Прототипи вже можна викликати лише натиском кнопки, вони мають гарантувати високий рівень безпеки, розпізнаючи пішоходів, порушників правил і затори.
Але в випадку цілком автоматичної машини виникають етичні дилеми. За умови непередбачуваного випадку авто мусить самотужки давати відповідь на питання життя і смерті: наприклад, захистити водія чи за всяку ціну вберегти неуважного пішохода? В своїх правилах для безпілотних машин, опублікованих у червні 2017 року, німецька Комісія з питань етики наголошує: за умови неминучої аварії автоматичне керування неможливо запрограмувати так, щоб це не викликатиме сумнівів з етичного погляду. Проте чи існує суспільний консенсус про те, як повинна повестися безпілотна система в такій ситуації?
Власне це питання детальніше дослідили вчені на чолі з Едмондом Еведом (Edmond Awad) з Массачусетського технологічного інституту в Кембриджі. Для цього вчені зосередилися на так званій «Moral Machine» – онлайн-грі, у якій користувачі опиняються в різних транспортних ситуаціях і мають визначити, як поведуться. Конкретно сценарій передбачає, що за будь-якого рішення хтось постраждає. Хто, це вирішували учасники: чи поранити п’ять пішоходів, чи трьох пасажирів? Завдати шкоди жінці з двома дітьми чи трьом пенсіонерам? Зберегти життя злочинцеві чи лікарю? Вибірка становила понад два мільйони людей з 233 країн, що дало змогу вченим оцінити майже 40 мільйонів відповідей на такі дилеми.
Вималювалася чітка схема: у всьому світі більшість учасників схильні ставити людське життя над життям тварини. Крім того, частіше рятують групу людей, а не одну особу, а дитину – частіше, ніж старого, повідомили Евед з колегами. Тим не менше, в дослідженні проявилися й суттєві культурні відмінності. Так, тенденція врятувати молодших людей в азійських країнах була менш вираженою, – ймовірно, через те, що тут панує особливо сильна повага до старших членів суспільства. Учасники з Центральної та Південної Америки виявилися такими, що в середньому частіше врятують жінок і спортивних осіб. А в країнах, де існує значний розрив у доходах громадян, при прийнятті рішення часто зважали на соціальний статус особи.
Ці результати – не репрезентативні. Проте вони демонструють, що чимало людей має сформовані моральні уявлення про те, як поводитися за умови дилеми – і ці уявлення залежать від соціальних і культурних чинників. «Питанням залишається, наскільки сильно ці преференції впливатимуть на те, чи в майбутньому громадськість прийме такі безпілотні машини та їхнє програмне забезпечення», – сказав Евед.
Теоретично, вважають науковці, переконання населення можна брати до уваги при розробці програмного забезпечення для автономних машин. Суттєве питання: чи це взагалі бажано. Комісія з питань етики стверджує: «За умови неминучої аварії всяка кваліфікація на підставі особистісних ознак (віку, статі, фізичної чи моральної конституції) строго заборонені».
Правозахисник та юрист-міжнародник Сілія Венекей (Silja Vönekey) з Фрайбурзького університету зазначає: «Нам не варто думати, що потрібно заново віднаходити та змінювати всі норми й принципи лише тому, що йдеться про нову техніку. В правах людини вже передбачені зобов’язувальні принципи, що захищають основні універсальні цінності, зокрема йдеться про право на життя та заборону дискримінації. Якщо переглядати етичні принципи, то починати потрібно з основи прав людини».
Wie sollen autonome Autos entscheiden?
Nature Press/ Massachusetts Institute of Technology/ CNRS, 26.10.2018
Зреферувала С. К.
26.10.2018