Этический вопрос ИИ о том, должны ли беспилотные автомобили быть добрым самаритянином, и предупреждать, когда автомобили, управляемые людьми, врежутся друг в друга

Занимайтесь своим делом.

Это распространенный рефрен о том, чтобы не совать свой нос в дела других.

Протяните руку помощи.

Это также распространенный рефрен, который относится к понятию помощи другим, даже если они могут быть совершенно незнакомыми людьми, и вы их вообще не знаете.

Какую из этих двух крылатых фраз или слов мудрости вы бы выбрали?

Вероятно, вы ежедневно принимаете решения об этих двух возможностях. Есть ситуации и настройки, в которых вы предпочитаете заниматься своими делами. Иногда может быть весьма заманчиво вступить в середину чего-то, но вы взвешиваете все за и против, а затем иногда идете вперед и не ввязываетесь в драку. С другой стороны, бывают моменты, когда вы решаете, что лучше всего прыгнуть в бассейн, так сказать, и обручиться.

Давайте превратим это несколько концептуальное или философское обсуждение во что-то очень обоснованное и реальное.

На днях я ехал на своей машине и подъехал к перекрестку, чтобы повернуть налево. Левый поворот контролировался светофором. Светофор был красным. Я подошел к правильной и безопасной остановке на этой полосе или кармане для левого поворота и терпеливо ждал, пока светофор укажет мне зеленую стрелку, чтобы я мог продолжить поворот.

Что вы делаете во время ожидания в таких обстоятельствах?

Некоторые люди, кажется, смотрят на свои смартфоны. Это не очень хорошая идея. Вы должны все время держать глаза и внимание на проезжей части. Я понимаю, что вы могли бы возразить, что, поскольку транспортное средство остановлено в нужном месте и ждет, когда загорится зеленый свет, нет ничего особенно зловещего или неправильного в том, чтобы смотреть на мобильный телефон. Вы все равно никуда не пойдете, по-видимому.

Беспокойство о том, что вы смотрите на свой смартфон сверху вниз, заключается в том, что вы можете отвлечься. Ваше внимание больше не сосредоточено на сцене вождения.

Вы, несомненно, видели других, которые смотрели в свои мобильные телефоны, а затем загорался зеленый свет. На данный момент они все еще не продвигаются вперед, хотя должны были это сделать. Автомобили, ожидающие позади этого водителя, часто раздражаются из-за задержки, иногда сигналя. Это может легко и, к сожалению, перерасти во вспышку гнева на дорогах, что плохо для всех, кто находится рядом.

Другой результат может заключаться в том, что когда загорается зеленый свет и вы начинаете движение вперед, у вас появляется устаревшее представление об окружающей среде. Предположим, пешеход вышел на пешеходный переход и теперь приближается к передней части вашего автомобиля. Пешехода там быть не должно, потому что он неправильно переходит дорогу, когда у вас горит зеленый. Тем не менее, они есть.

Поскольку вы смотрели на свой смартфон, вы не видели пешехода, который постепенно входил и шел по пешеходному переходу. Ваша мысленная модель сцены вождения заключалась в том, что пешеходный переход все еще свободен, и как только вы увидите зеленую стрелку, вы можете нажать на газ и тронуться с места.

К сожалению, вы решили нажать на газ, прежде чем пересмотреть уличную сцену. Ваш автомобиль начинает двигаться вперед, и вдруг, теперь, когда ваши глаза снова смотрят на проезжую часть, вы видите, что пешеход «волшебным образом» появился перед вашим автомобилем.

Как, черт возьми, этот человек появился из ниоткуда?

Ну, это был не воздух, а то, что у вас был ментальный образ или убеждение, основанное на том, что вы видели несколькими секундами ранее. Вы не ожидали, что пешеход будет переходить дорогу. По идее, пешеходный переход должен был быть совершенно пустым. Взглянув вверх, ваше внимание стало двигаться вперед, почти по привычке и предположению, что путь вперед должен быть готов для вашего использования. Эта ментальная модель пошатнулась, когда вы в последний момент заметили пешехода.

Я не хочу углубляться в эту тему и просто указываю на то, что сцена вождения постоянно меняется, и ожидается, что водители всегда будут оставаться внимательными к проезжей части. Глядя на смартфон или настраивая радио, или, возможно, протягивая руку, чтобы взять гамбургер и картошку фри, которые вы купили несколькими минутами ранее, все эти действия могут отвлечь ваши глаза и лишить вас интереса к делу. дата понимания сцены вождения.

Хорошо, давайте предположим, что вы собираетесь удерживать свое внимание прикованным к проезжей части. Большинство из нас этого не делает, и это совершенно человеческое, что мы этого не делаем. К сожалению, значительная часть из 40,000 2.3 ежегодных смертельных случаев в результате автомобильных аварий в США и примерно XNUMX миллиона травм приходится на отвлеченных водителей. Вот почему вы видите так много рекламных щитов и дорожных знаков, которые умоляют вас не отрывать глаз от дороги, надеясь, что количество смертей и травм сократится.

Что вы можете сделать, если ваши глаза действительно смотрят на проезжую часть?

Некоторые говорят, что смотреть на проезжую часть скучно.

Большую часть времени, например, когда вы сидите и ждете поворота налево, в сцене вождения не происходит ничего примечательного. Другие машины будут приходить и уходить. Пешеходы будут приходить и уходить. Большинство из них не окажет никакого влияния на ваши усилия по повороту налево. Возникает скука.

Можно сказать, что эта скука — хорошая вещь. Это означает, что в сцене вождения явно не происходит ничего, что имело бы отношение к вашим действиям за рулем. Вы можете расслабиться на мгновение и оставаться спокойным за рулем.

Только если вы вдруг увидите что-то неблагоприятное, что может угрожать вашему транспортному средству, вы внезапно вспыхнете в состоянии повышенного сознания. Представьте, что рядом с вами проезжает другая машина и, кажется, поворачивает к вам. Это поднимет волосы на затылке. Слава богу, ты смотрел на проезжую часть. Увидев это потенциальное бедствие, вы можете предпринять действия по уклонению.

Представьте, однако, что вы не были в какой-либо опасности, и все же вы видели назревающую опасную ситуацию, которая может навредить другим.

Это случилось со мной, когда я сидел в полосе левого поворота на красной стрелке.

Я мог легко видеть, что машины двигались в противоположном направлении по другим полосам слева от меня на другой стороне разделенной улицы. На дальнем углу этого перекрестка к перекрестку подъезжали машины и хотели повернуть направо. Они столкнулись с красным светом и должны были остановиться, прежде чем продолжить движение.

Автомобиль, ранее повернувший направо, остановился сразу за углом и кого-то высадил. Возможно, это был сервис совместного использования, и пассажир хотел выйти в этом месте. Плохая новость заключалась в том, что это был оживленный угол, и этот угол был полностью закрыт кучей деревьев, росших вдоль края тротуара.

Короче говоря, машина, которая собиралась повернуть направо, быстро приближалась, чтобы сделать это, и не могла видеть за углом, следовательно, не могла понять, что машина остановилась прямо там. Если бы водитель, поворачивающий направо, сделал это, не полностью останавливаясь и осторожно ползя вперед, он, скорее всего, проехал бы поворот на высокой скорости и неожиданно обнаружил бы, что вот-вот врежется в другую машину (та, которая стояла неподвижно или полуприпаркована рядом с автомобилем). угол).

Позвольте мне уточнить, что все это не имело для меня прямого отношения, по крайней мере, в отношении моей машины и моей безопасности. Я мог видеть, как это происходит, как если бы это происходило на сцене, и это были актеры в пьесе. Если бы машина, которая поворачивала, врезалась в другую машину, которая была наполовину припаркована, это не имело бы ни малейшего значения для моей ситуации. Я был свободен и свободен от любой возможной причастности к бедствию, которое вот-вот должно было возникнуть. Все это было просто в рамках моей сцены вождения в целом, и я мог видеть, что, вероятно, должно было произойти.

И это возвращает нас к моему первоначальному вступительному слову.

Представьте, что вы были погружены в эту ситуацию вождения и были водителем моей машины. Это вы могли видеть, что должно было произойти. Вместо того, чтобы смотреть на свой смартфон, чтобы проверить свои текстовые сообщения или посмотреть видео с котом, вы обращали внимание на трафик. Как часть этой внимательности, вы могли ясно видеть ужасное затруднительное положение, которое возникало прямо перед вашими глазами.

Вы занимаетесь своими делами?

Или вы протягиваете руку помощи?

Довольно загадка, это чертовски точно.

Можно подумать, что эти другие водители должны сами о себе позаботиться. Человек, который решил частично припарковать свою машину в опасном месте, заслужил, что бы ни случилось. Человек, делающий правильный поворот, также получит все, что он заслуживает. Если водитель, поворачивающий направо, осторожен, он сможет заметить полуприпаркованную машину и остановиться, прежде чем столкнуться с ней, или, возможно, широко развернуться, чтобы объехать ее.

В общем, это не ваше дело, мир такой, какой он есть.

Подождите секунду, предположим, вы вмешались. Возможно, вы могли бы спасти этих людей от попадания в автокатастрофу. Это могут быть серьезные травмы, которые вы могли бы предотвратить. Только представьте, как бы вы себя чувствовали на следующий день, если бы ничего не сделали, а эти люди пострадали. Конечно, это была не ваша вина, но в то же время вы могли сделать что-то, почти что угодно, из-за чего могло бы не произойти столкновение автомобиля.

Что вы могли бы сделать, предполагая, что вы считаете, что нужно что-то делать, чтобы помочь?

Вы могли бы попробовать включить и выключить фары, помигав ими на машине, которая приближалась, чтобы повернуть направо. Это может напугать водителя и заставить его снизить скорость и стать более осторожным.

Вы можете посигналить клаксоном своей машины. Водитель полуприпаркованного автомобиля может услышать его и понять, что это предупреждение. Или машина, поворачивающая направо, может услышать звуковой сигнал и решить полностью остановиться.

Предполагается, что вы можете попытаться двигаться вперед и начать движение на перекрестке, что может привлечь внимание водителя, поворачивающего направо. Это также начинает ставить вас в опасное положение. Вы делаете что-то якобы незаконное, что может показаться «разумным» как попытка предотвратить автомобильную аварию.

Конечно, ваши действия могут быть ни за что. Водители этих других автомобилей могут не услышать ваш сигнал или счесть его не относящимся к их вождению. Мигание фар может быть не замечено водителем автомобиля, поворачивающего направо. И так далее. По крайней мере, вы бы попытались помочь. У вас было бы утешение, что вы сделали все возможное в данных обстоятельствах. Вы не просто тупо смотрели, как дела пошли наперекосяк. Вы предприняли открытые действия, которые можно было бы ожидать от любого благоразумного и заботливого человека.

Добавим изюминку.

Предположим, ваши попытки уговорить этих водителей избежать столкновения приводят к непреднамеренным и совершенно неожиданным неблагоприятным последствиям. Может быть, мигание ваших фар отвлекает совершенно другого водителя, и он врезается в машину впереди себя. Позже они утверждают, что их смертельная авария произошла только потому, что они были заняты надежная мигающие фары.

Фу, это удручает, и это показывает, что иногда самые лучшие намерения могут привести к плачевным результатам.

Можно сказать, что-то выиграть, что-то проиграть.

Вы должны рискнуть и быть добрым самаритянином, когда можете, может быть одна точка зрения.

Во многих юрисдикциях существуют законы, поощряющие представление о том, что нужно быть добрым самаритянином. Идея состоит в том, что это побудит людей помогать своим собратьям и делать это без чрезмерных сомнений по поводу того, что они могут попасть в аварию и пострадать от юридических последствий. Идя еще дальше, иногда существуют законы об обязанности помогать или спасать, в соответствии с которыми человек, который может помочь, должен помочь, если он может это сделать разумно.

Держу пари, что вы проезжали мимо и сталкивались с примерами такого общего характера. Вы случайно заметили автомобильную аварию или автомобильную аварию, которая была неизбежна, и вам нужно было решить, что с этим делать. Предстоящая автомобильная авария не представляла для вас опасности. Если вы ничего не делали, вы были в полном порядке. Если вы что-то сделали, вы также можете быть в полном порядке. Вы не были напрямую заинтересованы в исходе, кроме того факта, что вы что-то видели и могли предотвратить инцидент, хотя даже это понятие вероятности, так что ваши действия могут иметь значение, а могут и нет.

Можно предположить, что бездействие должно вести к угрызениям совести. Может быть. Для некоторых это может быть преследующей ситуацией на всю оставшуюся жизнь. Что касается других, то они могут утверждать, что никакие действия, которые они бы сделали, не привели бы к иному результату. Судьба уже решила, что должно произойти. То, что они наблюдали за открытием издалека, тоже было причудой судьбы.

Добро пожаловать в беды человечества.

Говоря о человечестве, вождение автомобилей постепенно перейдет на использование систем искусственного интеллекта (ИИ), которые будут управлять автомобилями вместо нас. Они считаются беспилотными автомобилями (мои обширные обзоры беспилотных автомобилей и AV см. здесь).

Возникает интригующий вопрос: Будет ли появление настоящих беспилотных автомобилей на основе ИИ включать в себя ИИ, обнаруживающий появление неизбежных автомобильных аварий с участием находящихся поблизости автомобилей, управляемых людьми, и если да, то что должен делать с этим беспилотный автомобиль?

Об этом мало кто задумывается, главным образом потому, что у нас пока нет широко распространенных беспилотных автомобилей. Как только мы это сделаем, этот вопрос, скорее всего, выйдет на первый план. С тем же успехом мы могли бы попытаться обсудить эту тему сейчас, заранее, и посмотреть, что мы можем придумать. Добро пожаловать в расширяющееся царство этического ИИ.

Прежде чем перейти к деталям, я хотел бы пояснить, что имеется в виду, когда речь идет о беспилотных автомобилях.

Понимание уровней самоуправляемых автомобилей

В качестве пояснения, настоящие беспилотные автомобили - это автомобили, в которых ИИ управляет автомобилем полностью самостоятельно, и во время вождения не требуется никакой помощи человека.

Эти беспилотные автомобили считаются Уровнем 4 и Уровнем 5 (см. Мое объяснение по этой ссылке здесь), в то время как автомобиль, которому требуется, чтобы водитель-человек участвовал в совместных усилиях, обычно считается Уровнем 2 или Уровнем 3. Автомобили, которые совместно управляют автомобилем. Совместное использование задач вождения описываются как полуавтономные и обычно содержат множество автоматизированных надстроек, которые называются ADAS (Advanced Driver-Assistance Systems).

На 5-м уровне еще нет настоящей машины для самостоятельного вождения, о которой мы еще даже не знаем, удастся ли этого достичь, и сколько времени потребуется, чтобы туда добраться.

Между тем, усилия уровня 4 постепенно пытаются получить некоторую поддержку, проходя очень узкие и избирательные испытания на дорогах общего пользования, хотя есть разногласия по поводу того, следует ли разрешать это испытание как таковое (мы все - подопытные кролики жизни и смерти в эксперименте. происходит на наших шоссе и переулках, некоторые утверждают, что см. мои репортажи по этой ссылке здесь).

Поскольку полуавтономным автомобилям требуется водитель-человек, принятие этих типов автомобилей не будет заметно отличаться от вождения обычных транспортных средств, поэтому по сути их не так много, чтобы рассказать о них по этой теме (хотя, как вы увидите, в следующий момент, пункты, сделанные ниже, обычно применимы).

Для полуавтономных автомобилей важно, чтобы общественность была предупреждена о тревожном аспекте, который возник в последнее время, а именно о том, что, несмотря на то, что водители-люди, которые продолжают публиковать видео, засыпают за рулем автомобиля уровня 2 или уровня 3 Мы все должны избегать заблуждения, полагая, что водитель может отвлечь их внимание от задачи вождения во время вождения полуавтономного автомобиля.

Вы несете ответственность за действия по вождению транспортного средства, независимо от того, сколько автоматизации может быть добавлено на уровень 2 или уровень 3.

Самоуправляемые автомобили и быть добрым самаритянином

Для 4-го и 5-го уровня настоящих автомобилей с автоматическим управлением, в управлении автомобилем не будет водителя-человека.

Все пассажиры будут пассажирами.

ИИ делает вождение.

Один аспект, который следует немедленно обсудить, заключается в том, что ИИ, задействованный в сегодняшних системах управления ИИ, неразумен. Другими словами, ИИ - это совокупность компьютерных программ и алгоритмов, и совершенно очевидно, что они не способны рассуждать так же, как люди.

Почему это дополнительный акцент на том, что ИИ не является разумным?

Потому что я хочу подчеркнуть, что, обсуждая роль управляющей системы ИИ, я не приписываю ИИ человеческие качества. Имейте в виду, что в наши дни существует постоянная и опасная тенденция к антропоморфизации ИИ. По сути, люди придают человеческий разум сегодняшнему ИИ, несмотря на тот неоспоримый и бесспорный факт, что такого ИИ еще не существует.

С этим пояснением вы можете представить себе, что система вождения AI изначально не «знает» о аспектах вождения. Вождение и все, что с ним связано, необходимо будет программировать как часть аппаратного и программного обеспечения беспилотного автомобиля.

Давайте погрузимся в бесчисленное множество аспектов, связанных с этой темой.

Во-первых, давайте развеем миф о том, что на наших дорогах будут исключительно беспилотные автомобили, и каким-то образом избавимся от всех машин, управляемых людьми. Некоторые ученые мужи увещевают, что это то, что мы должны делать. Мы должны избавиться от всего человеческого вождения. Поступая так, мы спасем жизни от тех слабостей, которые есть у людей в качестве водителей.

Это видение мира грез довольно растянуто. Количество беспилотных автомобилей будет увеличиваться со временем медленно, постепенно и постепенно, и они не смогут чудесным образом обогнать все автомобили, управляемые людьми, одним волшебным махом. Люди по-прежнему будут водить автомобили, по крайней мере, в течение многих десятилетий.

Имейте также в виду, что есть настойчивые водители, которые восклицают, что вы никогда не отнимете у них вождение, никогда-никогда, до того дня, пока вы не оторвете их холодные мертвые руки от руля их машины.

Хорошо, я думаю, это достаточно проясняет, что будет смесь беспилотных автомобилей и автомобилей, управляемых людьми, и что у беспилотных автомобилей есть возможность косвенно помочь водителям-людям.

Как я знаю?

Точно так же, как и в моем предыдущем обсуждении обнаружения надвигающейся или неизбежной автомобильной аварии, система вождения с искусственным интеллектом может обнаруживать подобные возникающие дилеммы. Представьте, что вместо меня, сидящего в своей машине в качестве водителя на этом левом повороте, в том же положении находился беспилотный автомобиль. Система вождения с искусственным интеллектом может обнаружить вероятность того, что эти две машины через дорогу движутся к вероятному столкновению.

Что бы вы хотели, чтобы система искусственного вождения беспилотного автомобиля делала по этому поводу?

Ага, это возвращает нас к всеобъемлющей теме, а именно к тому, должен ли ИИ заниматься своими делами (я не имею в виду это в антропоморфном смысле, вместо этого какое программирование системы ИИ мы должны ожидать от разработчиков) , или он должен попытаться помочь. Вы также можете найти интересным тот факт, что такого рода открытые проблемы социального характера аналогичным образом характеризуются знаменитой или, скажем так, печально известной проблемой вагонетки (см. мой анализ по этой ссылке здесь).

Ответ большинства существующих тестируемых автомобилей с автоматическим управлением заключается в том, что попытка выяснить неизбежные опасности, с которыми сталкиваются другие автомобили, не соответствует уровню оплаты текущих систем вождения с искусственным интеллектом. Это немного иронично, но это показывает, что существующие усилия по программированию систем управления ИИ в значительной степени сосредоточены на том, что произойдет с самоуправляемым автомобилем, то есть с самим беспилотным автомобилем.

Еще многое предстоит сделать, чтобы выполнить все программы для этого фокуса. Нам нужны беспилотные автомобили, которые могут безопасно добраться из точки А в точку Б, и внимание дизайнеров и разработчиков сосредоточено на этой цели. Если ИИ выходит за рамки того, что имеет отношение к беспилотному автомобилю, это будет считаться проблемой, выходящей за рамки допустимого.

При таком мышлении эта идея о заблаговременном обнаружении потенциальных автомобильных аварий, которые не имеют ничего общего с беспилотным автомобилем, в лучшем случае будет находиться в так называемом краеугольном списке того, что нужно сделать. В этом списке будут различные элементы, которые когда-нибудь появятся. Вы можете поспорить, что идея программирования ИИ для обнаружения опасностей для других автомобилей и пешеходов находится довольно далеко в списке, особенно когда то же самое для ситуаций, связанных с беспилотным автомобилем, очевидно, является главным и первостепенным.

Может быть, как только мы закончим работу с эгоистичными транспортными средствами, тогда внимание может быть обращено на рассматриваемое «периферийное» действие по оказанию помощи другим водителям.

Проблема также заключается в дьявольских подробностях того, что мы все равно хотим, чтобы система вождения ИИ делала. Обратите внимание, что мы уже рассмотрели страх и агонию того, что человек-водитель должен или должен делать, и не пришли к окончательному консенсусу относительно того, что необходимо предпринять. Это оставляет открытым вопрос о том, что мы хотим от систем управления ИИ.

Один из аргументов заключается в том, что система управления ИИ может использовать драгоценные циклы компьютерной обработки, выходя за рамки своей основной области. Можно сказать, что вычислительные усилия по изучению сцены вождения и поиску случаев потенциальных столкновений, которые не имеют ничего общего с беспилотным автомобилем, отвлекают ресурсы бортового компьютера.

Как говорится, следите за мячом.

Однако у нас могут быть умные юристы, которые утверждают, что беспилотный автомобиль мог обнаружить неизбежную опасность, но ничего с этим не сделал. Возвращаясь к примеру с моей посадкой на левом повороте, беспилотник в том же месте имел бы возможность обнаружить возникшую проблему на дальнем углу перекрестка. Это может быть сделано для того, чтобы самому беспилотному автомобилю не угрожала опасность, тем временем обнаружение имело место.

Если люди в том дальнем углу пострадали, и если беспилотный автомобиль мог обнаружить возможную ситуацию и не предпринял никаких действий, это можно было бы считать ошибкой со стороны беспилотного автомобиля. Некоторые считают, что мы возложим ответственность за свои действия на беспилотные автомобили, как будто они эквивалентны разумным существам. Это кажется весьма сомнительным, и, конечно, не в современной сфере.

Кого вы, по-видимому, можете привлечь к ответственности, так это тех людей, которые разработали беспилотный автомобиль, и людей, которые создали беспилотный автомобиль. Представьте себе судебный процесс против автопроизводителя или оператора автопарка, который не смог установить в своих беспилотных автомобилях возможность определять неизбежные автомобильные аварии или, возможно, имел такую ​​функцию, но не использовал ее для помощи другим путешественникам.

Это несколько новая идея, и нам нужно посмотреть, как все сложится. Понимая, что автопроизводители и операторы автопарков, вероятно, получат большие деньги, как только беспилотные автомобили станут доступны, вы можете ожидать, что такого рода проблемы с юридическими спорами, несомненно, возникнут.

Заключение

На эту тему можно еще многое рассказать.

Возьмем, к примеру, этот головорез.

Есть предположение, что беспилотные автомобили, скорее всего, будут использовать электронную связь V2V (автомобиль-автомобиль). Беспилотный автомобиль может обнаружить мусор на проезжей части и отправить электронное сообщение, чтобы предупредить ближайшие беспилотные автомобили, чтобы избежать блокировки. Это удобно.

Если бы беспилотный автомобиль мог предупредить другие автомобили с автоматическим управлением о том, что они могут попасть в неминуемую опасность, но не делал таких же предупреждений для автомобилей, управляемых людьми, это могло бы вызвать довольно вонь. Создается впечатление, что системы управления ИИ объединяются и помогают друг другу, но не помогают водителям-людям на дорогах.

Вы можете просто увидеть всплеск. ИИ делает жизнь ИИ лучше, но избегает помогать людям.

Возможно, ИИ будет жаловаться, ну, думаю, вы не можете победить их всех.