Сотрудничество с искусственным интеллектом. Вопрос без ответа

Лекция Тимофея Милованова на семинаре «Сила знаний» 28-29 ноября 2016 года

maximsamos/depositphotos

Автор:

Сейчас очень стремительно развивается технология — искусственный интеллект, программирование, робототехника. Но самое важное то, что в критических ситуациях, если авария с человеческими жертвами неизбежна, машина будет принимать решение о том, кто погибнет. То есть машина будет распоряжаться человеческими жизнями. Когда мы даем алгоритму возможность решать, чья жизнь стоит больше, а чья меньше, мы открываем двери для этого вопроса — что алгоритмы в принципе могут нас уничтожить.


Я хочу поставить очень важный вопрос.

Сейчас очень стремительно развивается технология — искусственный интеллект, программирование, робототехника. Беспилотные авто — вопрос ближайших 10-20 лет. Уже сегодня прототипы ездят по Калифорнии. Почему это важно? Потому что для машины довольно сложная задача быстро реагировать на изменение ситуации на трассе. Но самое важное то, что в критических ситуациях, если авария с человеческими жертвами неизбежна, машина будет принимать решение о том, кто погибнет. То есть машина будет распоряжаться человеческими жизнями.

Сегодня этот вопрос решен на уровне стандартов качества автомобилей. Например, в США автобусы сконструированы таким образом, что если автобус попадает в ДТП с легковым авто — автобус не пострадает. И это не всегда оптимальное решение, потому что автобус может быть пустой, а в авто будет несколько человек. В принципе, это решение принимается на законодательном уровне и относительно этого есть постоянные дискуссии. Решения не принимаются в условиях конкретной ситуации. То есть они неэффективны, но они понятны, и это цена, которую мы платим. Вероятно, можно было бы сделать так, чтобы погибало меньше людей на дорогах, чтобы автобусы имели системы, которые в зависимости от того, сколько людей в автобусе, позволяли бы погибнуть людям в автобусе, если он въезжает в авто, заполненное людьми.

В будущем будут машины, которые будут принимать решение в критической ситуации. Сегодня такие алгоритмы строятся.

Например, есть Uber. По сути, это алгоритм связи клиента с поставщиком (matching market). Это очень простой алгоритм: с одной стороны есть водитель, а с другой — клиент, которые с помощью системы заключают разовый контракт с понятными условиями. И система отслеживает, был контракт выполнен, или нет.

Вы можете себе представить Uber в медицине. У вас есть определенное количество хирургов, которые на данный момент доступны, работают в больницах Киева. В случае критической ситуации, вы вызываете скорую или, возможно, просто диагностируете себя с помощью телефона (что вполне возможно в будущем). Сегодня у нас есть браслеты, которые контролируют давление, пульс, температуру. Для людей с диабетом есть устройства для мониторинга уровня сахара в крови. Нужен только один шаг, чтобы соединить эти системы со службами неотложной помощи, которые будут приезжать и пытаться вас спасти. Сегодня не проблема поставить каждому такие часы. Это стоило бы 50-100 долларов. Технологии, которые могут вам вызвать скорую, когда у вас есть риск сердечного приступа, дешевые. Но кто будет решать, какая скорая к вам приезжает? Кто именно будет решать, к какому врачу или в какую больницу эта скорая вас привезет?

Сегодня это решается на уровне медиков. Есть люди, которые принимают вызов: «Мы вас по протоколу должны везти в такую-то больницу, но в этом случае везем в другую, потому что вы там застрахованы».

Такое «ручное» распределение не является эффективным. Потому что мы не на всю мощность используем наши ресурсы, чтобы лечить, спасать людей.

Представьте себе медицинский Uber, который автоматически будет распределять пациентов за врачами и больницами, согласно заболеваниям и нагрузке. Этот алгоритм будет решать судьбу людей. Но кто будет контролировать такой алгоритм? Конечно, можно создать специальный совет, его проверять. Но кто проверит компетенции этого совета?

Технология меняется очень быстро. Уже сейчас существует т.н. машинное обучение (machine learning) — когда мы обучаем алгоритмы. Следующий этап (это перспектива 40-50 лет) — это возникновение адаптирующихся алгоритмов, которые обучаются сами. Возникновение искусственного интеллекта. Этот искусственный интеллект не сможет создавать новые вещи. Сегодня он еще учится решать сам структурированные задачи. Но человек отличается от алгоритмов тем, что человек может неструктурированную задачу структурировать, понять, записать, закодировать — например, в виде закона. Или в виде алгоритма выполнения действий. Сегодня искусственный интеллект не умеет решать неструктурированные задачи. Все новые идеи относительно искусственного интеллекта — это человек, который понял, как структурировать задачу, например, распознавание лица, и затем закодировал. Как правило, это делает группа людей, которая путем проб и ошибок изобретает лучший алгоритм.

Итак, эволюция алгоритмов сегодня происходит не на уровне самых алгоритмов, а на уровне групп разработчиков этих алгоритмов. Например, Google против Microsoft. Они пытаются конкурировать своими продуктами. Но возможно, что за 50, 100 или 150 лет эта конкуренция будет происходить на уровне алгоритмов, алгоритмы сами начнут учиться, решать нестандартные задачи и конкурировать между собой.

Вопрос, который я хочу обсудить, — это вопрос Филиппа Киршера — экономиста, с которым мы вместе учились и работали в университете Пенсильвании. И он задал этот вопрос в частном разговоре со мной три года назад, и я подумал, что он не в своем уме. Но, как видите, прошло три года, и я серьезно об этом говорю — настолько быстро развивается наука на Западе. Вещи, которые еще вчера казались фантастическими, сегодня выглядят вполне реально.

Вопрос такой: «Что человеческая раса может сделать сегодня, чтобы не допустить нашего уничтожения за 100 лет?» Каким образом мы должны кодировать эти алгоритмы, чтобы они поддерживали человека, а не пытались его уничтожить?

У меня нет ответа на этот вопрос. У меня есть несколько вариантов, которые не сработают. Например, мы можем записать, что алгоритмы должны уважать и любить человека. Но это все равно что написать в Конституции Украины, что нельзя убивать людей — от этого убийства не исчезнут. У самих алгоритмов должна быть заинтересованность выполнять ту Конституцию, которую мы для них напишем. Вопрос написания Конституции для алгоритмов — не за горами. Но важнее и сложнее вопрос — как построить работу с алгоритмами так, чтобы они ее выполняли.

С людьми легче. Люди писали Конституцию для себя, и существует достаточно людей, готовых эту Конституцию защищать. Если мы дадим возможность алгоритмам написать Конституцию для себя, неочевидно, что она будет благоприятной для людей. То есть нужно построить систему взаимоотношений между алгоритмами и людьми таким образом, чтобы они от нас зависели. Чтобы у человека была такая стоимость, которую не сможет реплицировать алгоритм. Тогда будет возможно построить отношения с алгоритмами таким образом, чтобы эта стоимость человека для них была важна. То есть уже сегодня нам нужно думать о контрактных взаимовыгодных отношениях с алгоритмами.

Сейчас вопрос не в том, произойдет это или нет, а в том, как к этому подготовиться. Чтобы доказать эту позицию, я начал с разговор с того, что уже сегодня пишутся алгоритмы, которые будут решать, какой человек будет выживать, а какой будет умирать в ДТП.

Когда мы даем возможность алгоритма решать, чья жизнь стоит больше, а чья меньше, мы открываем двери для этого вопроса — что алгоритмы в принципе могут нас уничтожить.


Внимание

Автор не является сотрудником, не консультирует, не владеет акциями и не получает финансирования ни от одной компании или организации, которая имела бы пользу от этой статьи, а также никак с ними не связан.