Зараз дуже стрімко розвивається технологія – штучний інтелект, програмування, робототехніка. Але найважливіше те, що в критичних ситуаціях, якщо аварія з людськими жертвами неминуча, машина прийматиме рішення щодо того, хто загине. Тобто машина розпоряджатиметься людськими життями. Коли ми даємо можливість алгоритму вирішувати, чиє життя варте більше, а чиє менше, ми відкриваємо двері для цього питання – що алгоритми в принципі можуть нас знищити.
Я хочу поставити дуже важливе питання.
Зараз дуже стрімко розвивається технологія – штучний інтелект, програмування, робототехніка. Безпілотні авто – питання найближчих 10-20 років. Уже сьогодні прототипи їздять по Каліфорнії. Чому це важливо? Тому що для машини доволі складна задача швидко реагувати на зміну ситуації на трасі. Але найважливіше те, що в критичних ситуаціях, якщо аварія з людськими жертвами неминуча, машина прийматиме рішення щодо того, хто загине. Тобто машина розпоряджатиметься людськими життями.
Сьогодні це питання вирішено на рівні стандартів якості автомобілів. Наприклад, у США автобуси сконструйовані таким чином, що якщо автобус потрапляє у ДТП з легковим авто – автобус не постраждає. І це не завжди оптимальне рішення, бо автобус може бути порожній, а в авто буде кілька людей. В принципі, це рішення приймається на законодавчому рівні і щодо цього є постійні дискусії. Рішення не приймаються в умовах конкретної ситуації. Тобто вони є неефективними, але вони зрозумілі, і це ціна, яку ми платимо. Можливо, можна було б зробити так, щоб гинуло менше людей на дорогах, щоб автобуси мали системи, які в залежності від того, скільки людей в автобусі, дозволяли б загинути людям в автобусі, якщо він в’їжджає в авто, заповнене людьми.
В майбутньому будуть машини, які прийматимуть рішення у критичній ситуації. Сьогодні такі алгоритми будуються.
Наприклад, є Uber. По суті, це алгоритм зв’язки клієнта з постачальником (matching market). Це дуже простий алгоритм: з одного боку є водій, а з іншого – клієнт, які за допомогою системи укладають разовий контракт зі зрозумілими умовами. І система відстежує, був контракт виконаний, чи ні.
Ви можете собі уявити Uber в медицині. У вас є певна кількість хірургів, які на даний момент доступні, працюють у лікарнях Києва. У разі критичної ситуації, ви викликаєте швидку чи, можливо, просто діагностуєте себе за допомогою телефону (що цілком можливо у майбутньому). Сьогодні в нас є браслети, які контролюють тиск, пульс, температуру. Для людей з діабетом є пристрої для моніторингу рівня цукру в крові. Потрібен лише один крок, щоб з’єднати ці системи зі службами невідкладної допомоги, які будуть приїжджати і намагатися вас урятувати. Сьогодні не є проблемою поставити кожному такий годинник. Це коштувало б 50-100 доларів. Технології, що можуть вам викликати швидку, коли у вас є ризик серцевого нападу, дешеві. Але хто буде вирішувати, яка швидка до вас приїжджає? Хто саме буде вирішувати, до якого лікаря чи до якої лікарні ця швидка вас привезе?
Сьогодні це вирішується на рівні медиків. Є люди, які приймають виклик: «Ми вас за протоколом маємо везти в таку-то лікарню, але в цьому випадку веземо в іншу, тому що ви там застраховані».
Такий «ручний» розподіл не є ефективним. Бо ми не на всю потужність використовуємо наші ресурси , щоб лікувати, рятувати людей.
Уявіть собі медичний Uber, який автоматично розподілятиме пацієнтів за лікарями та лікарнями, відповідно до захворювань та навантаження. Цей алгоритм буде вирішувати долю людей. Але хто буде контролювати такий алгоритм? Звісно, можна створити спеціальну раду, яка його перевірятиме. Але хто перевірить компетенції цієї ради?
Технологія змінюється дуже швидко. Уже зараз існує т.зв. машинне навчання (machine learning) – коли ми навчаємо алгоритми. Наступний етап (це перспектива 40-50 років) – це виникнення алгоритмів, що адаптуються, тобто навчаються самі. Виникнення штучного інтелекту. Цей штучний інтелект не зможе створювати нові речі. Сьогодні він має це вчитися розв’язувати сам структуровані задачі. Але людина відрізняється від алгоритмів тим, що людина може неструктуровану задачу структурувати, зрозуміти, записати, закодувати – наприклад, у вигляді закону. Чи у вигляді алгоритму виконання дій. Сьогодні штучний інтелект не вміє розв’язувати неструктуровані задачі. Всі нові ідеї стосовно штучного інтелекту – це людина, яка зрозуміла, як структурувати задачу, наприклад, розпізнавання обличчя, і потім закодувала. Зазвичай, це робить велика група людей, яка шляхом спроб і помилок винаходить найкращий алгоритм.
Отже, еволюція алгоритмів сьогодні відбувається не на рівні самих алгоритмів, а на рівні груп розробників цих алгоритмів. Наприклад, Google проти Microsoft. Вони намагаються конкурувати своїми продуктами. Але можливо, що за 50, 100 чи 150 років ця конкуренція відбуватиметься на рівні алгоритмів, що алгоритми самі почнуть навчатися, розв’язувати нестандартні задачі й конкурувати між собою.
Питання, яке я хочу обговорити, – це питання Філіпа Кіршера – економіста, з яким ми разом навчалися та працювали в університеті Пенсильванії. І він поставив це питання у приватній розмові зі мною три роки тому, і я подумав, що він не сповна розуму. Але, як бачите, минуло три роки, і я серйозно про це говорю – настільки швидко розвивається наука на Заході. Речі, які ще вчора здавалися фантастичними, сьогодні виглядають цілком реально.
Питання таке: «Що людська раса може зробити сьогодні, щоб не допустити нашого знищення за 100 років?» Яким чином ми маємо кодувати ці алгоритми, щоб вони підтримували людину, а не намагалися її знищити?
У мене немає відповіді на це питання. У мене є декілька варіантів, які не спрацюють. Наприклад, ми можемо записати, що алгоритми мають поважати й любити людину. Але це все одно що написати у Конституції України, що не можна вбивати людей – від цього вбивства не зникнуть. У самих алгоритмів має бути зацікавленість виконувати ту Конституцію, яку ми для них напишемо. Питання написання Конституції для алгоритмів – не за горами. Але важливіше та складніше питання – як побудувати роботу з алгоритмами так, щоб вони її виконували.
З людьми легше. Люди писали Конституцію для себе, й існує достатньо людей, готових цю Конституцію захищати. Якщо ми дамо можливість алгоритмам написати Конституцію для себе, неочевидно, що вона буде сприятливою для людей. Тобто потрібно побудувати систему взає’мовідносин між алгоритмами та людьми таким чином, щоб вони від нас залежали. Щоб у людини була така вартість, яку не зможе реплікувати алгоритм. Тоді буде можливо побудувати стосунки з алгоритмами таким чином, щоб ця вартість людини для них була важливою. Тобто вже сьогодні нам потрібно думати про контрактні взаємовигідні відносини з алгоритмами.
Зараз питання не в тому, відбудеться це чи ні, а в тому, як до цього підготуватися. Щоб довести цю позицію, я почав з розмову з того, що вже сьогодні пишуться алгоритми, які будуть вирішувати, яка людина буде виживати, а яка буде помирати у ДТП.
Коли ми даємо можливість алгоритму вирішувати, чиє життя варте більше, а чиє менше, ми відкриваємо двері для цього питання – що алгоритми в принципі можуть нас знищити.
Застереження
Автор не є співробітником, не консультує, не володіє акціями та не отримує фінансування від жодної компанії чи організації, яка б мала користь від цієї статті, а також жодним чином з ними не пов’язаний
