Этика искусственного интеллекта и знаменитая сверхъестественная долина искусственного интеллекта, которая также пугает беспилотные автомобили на основе искусственного интеллекта

Иногда происходят странные вещи, которые привлекают ваше внимание и заставляют вас задуматься, что что-то не так. Странность не является вопиющей и вовсе не бросается вам в глаза. Возможно, вы даже не сможете сразу понять, в чем заключается несоответствие или почему ваше пресловутое паучье чутье покалывает.

Возможно, улавливаются тонкие контрольные подсказки. Возможно, вы нутром осознаете, что существует диссонанс. Я думаю, вы могли бы сказать, что есть лишь малейший намек на преуменьшенную жуткость, и ваш тонкий человеческий радар улавливает, казалось бы, скрытые сигналы.

Добро пожаловать в зловещую долину.

Если вы никогда не слышали о «зловещей долине», теме, относительно популярной в области искусственного интеллекта и особенно робототехники, вас ждет небольшое удовольствие, поскольку именно эту тему я собираюсь подробно обсуждать и анализировать здесь.

Это всеобъемлющее понятие может применяться ко многим вещам, с которыми мы сталкиваемся в жизни, хотя ключевые принципы и исходное определение подразумевают системы искусственного интеллекта и роботов. Сначала мы исследуем происхождение и первоначальное значение понятия «зловещая долина», а затем продолжим его расширение, чтобы увидеть, как это явление может быть применимо в более широких контекстах.

Я мог бы также добавить, что мы подумаем, существует ли вообще «зловещая долина».

Видите ли, некоторые скептики и циники утверждают, что весь этот вопрос является своего рода махинацией и не выдерживает никакой критики. Будьте осторожны, поднимая эту тему перед знающими людьми. Некоторые радостно улыбнутся и похлопают вас по спине, говоря, что вы прекрасно знакомы со зловещей долиной, в то время как другие будут резко читать вам нотации, что это шведский стол из всякой ерунды и вам нужно быстро прочистить свой разум пенистым куском мыла для умственного очищения. .

Хорошая новость заключается в том, что вы сами решаете, реальна ли «зловещая долина» или нет, а также имеет ли она смысл для осознанного применения или вместо этого ее следует бесцеремонно выбросить на свалку техноидей. В этом смысле вы находитесь на месте водителя.

Все это также тесно связано с растущей областью этического ИИ и растущим осознанием того, что общество должно серьезно и трезво обращать внимание на этику ИИ. Мы установим эту связь на мгновение.

Лучше всего начать с прямой цитаты профессора, который придумал концепцию «зловещей долины» и прямо назвал это провозглашенное явление. В 1970 году профессор Масахиро Мори из Токийского технологического института опубликовал довольно миниатюрную статью в менее известном журнале под названием Энергия (не является рассадником искусственного интеллекта и робототехники как таковой) и сказал следующее:

«Я заметил, что по мере продвижения к цели сделать роботов похожими на людей, наша привязанность к ним возрастает, пока мы не приходим к долине, которую я называю зловещей долиной».

Обратите внимание, что приведенная выше формулировка представлена ​​на английском языке, хотя исходный документ был на японском языке. Английская переведенная версия была проверена автором и позже опубликована в журнале IEEE Spectrum в 2012 году, автором считается Масахиро Мори. Вы можете прочитать статью самостоятельно, поскольку она находится в открытом и бесплатном доступе в Интернете. Это явно быстрое чтение, минут десять или около того, и оно не содержит какой-либо сложной технической терминологии.

При этом интересно и в некоторой степени удивительно, что такая оживленная статья, опубликованная в 1970 году, в конечном итоге открыла целую арену исследований и положила начало множеству связанных исследований, проектов, исследований, а иногда и бури споров о том, является ли введенное Концепция «зловещей долины» действительно существует. Полагаю, это демонстрирует, что интригующие и порой меняющие точку зрения идеи не обязательно должны быть сильно запутанными или перенасыщенными жаргоном и возвышенностью. Краткая идея может оказаться даже не более мощной, чем может показаться на первый взгляд.

Я надеюсь, что это побудит вас попытаться развивать свои новые идеи, делая это с осознанием того, что милое и простое может быть столь же великолепным, а иногда и более великолепным, чем запутанным и сложным.

Давайте вернемся к сбору информации о сверхъестественной долине.

Вы сталкиваетесь с роботизированной системой, лицо которой похоже на человеческое. Представьте, что это роботизированное лицо было создано в результате многочисленных итераций. Разработчики искусственного интеллекта, собирающие голову робота, постепенно стремились к тому, чтобы роботизированная лицевая часть все больше и больше походила на настоящее человеческое лицо.

Их первая попытка была чрезвычайно примитивной. Лицо робота выглядело так же, как в научно-фантастических фильмах: оно было полностью металлическим и демонстрировало шестеренки и провода. Когда вы смотрите на это изобретение, вы сразу понимаете, что это робот. У вас нет никаких сомнений по этому поводу.

Следующая попытка разработчиков ИИ заключалась в том, чтобы обернуть металлические детали пластиковыми материалами. Хотя это выглядит несколько более дружелюбно, вы все равно сразу поймете, что это голова и лицо робота. Опять же, легко обнаружить.

Эти разработчики ИИ полны решимости продолжать это делать. Они лепят пластик и придают ему телесные оттенки. Они добавляют черты, которые кажутся очень похожими на человеческое лицо, например родинки, волосы, пятна и тому подобное.

На первый взгляд может показаться, что это человеческое лицо. Если была сделана фотография роботизированного лица и вас попросили определить, изображен ли на фотографии человек, а не роботизированное лицо, вы можете быть не в состоянии сразу сказать, что это было. С другой стороны, если бы вы стояли рядом с устройством, вы, вероятно, при внимательном рассмотрении смогли бы различить, что это не человек, а роботизированное изобретение.

Дело в том, что до того, как у вас появилась возможность внимательно рассмотреть его крупным планом, в лице было что-то такое, что, казалось, не совсем сходилось. Это действительно было похоже на человеческое лицо. Но что-то было не так. Приходилось пристально смотреть снова и снова, чтобы указать, что выглядит не совсем правильно. Возможно, это настоящее лицо. Опять же, возможно, это не так. Соответственно, ваш разум трясется.

В ваш разум приходит подобие жуткого.

Когда вы видели две предыдущие версии, у вас не было того же подобия жуткости. Вы могли бы без паузы и колебания обнаружить, что робот — это робот. Только ребенок может обмануться, полагая, что любая из этих версий относится к реальному человеку.

Однако эта последняя версия была другой. Оно еще не было доведено до совершенства, чтобы выглядеть как человеческое лицо. И при этом оно было не настолько далеко от реальности, чтобы было очевидно, что это, должно быть, робот. Была достигнута какая-то запутанная почва.

Предположим, что разработчики продвинулись дальше в своих исследованиях и привели все в порядок так, что лицо робота стало почти неотличимо от человеческого лица. Сколько бы вы ни смотрели на это существо, вы не уверены, человек это или не человек. Когда вам сообщат, что это лицо робота, вы опешите. Черт возьми, они проделали огромную работу, чтобы это выглядело реалистично.

Обратите внимание: до сих пор вы рассматривали только аспекты робототехники, основываясь только на их внешнем виде.

Мы могли бы добавить в уравнение движение. Это добавляет вам дополнительное измерение, позволяющее понять, является ли робот роботом или человеком. Я не хочу полностью рассматривать это как многомерную проблему в этом обсуждении, поскольку это усложняет объяснение этой темы (хотя многие измерения неизбежно переплетаются). В любом случае представьте, что вы не только видели роботизированное лицо, но и могли наблюдать, как робот перемещает черты лица, такие как рот, глаза, нос и т. д. Очевидно, это тоже может быть подсказкой о том, является ли это робот или человек.

Одним из жизненно важных аспектов, которые следует держать в центре внимания в «зловещей долине», является то, что первоначальная концепция подчеркивает акт человеческого родства. Заявленный феномен заключается в том, что ваша близость возрастает по мере того, как вы видите постепенно улучшающиеся лица роботов, пока не возникнет сверхъестественный вариант. Говорят, что в этот момент ваше чувство близости резко падает, погружаясь в пропасть или долину близости.

Ваша близость к той конкретной версии, которая заставила вас заподозрить неладное, якобы радикально упала. Более того, согласно теории, ваша близость может резко возрасти, как только вы столкнетесь с более продвинутой версией, почти идентичной истинно человеческой форме.

Вот еще о том, что сказал автор о нашей нормальной склонности предполагать, что аспекты жизни плавно возрастают: «Математический термин монотонно возрастающая функция описывает связь, в которой функция y = ƒ(x) непрерывно возрастает с изменением переменной x. Например, как усилие x растет, доход y увеличивается, или при нажатии на педаль газа автомобиль движется быстрее. Этот вид отношений повсеместен и его очень легко понять. Фактически, поскольку такие монотонно возрастающие функции охватывают большинство явлений повседневной жизни, у людей может возникнуть иллюзия, что они представляют все отношения. Об этом ложном впечатлении также свидетельствует тот факт, что многие люди борются по жизни, упорно добиваясь успеха, не понимая эффективности отступления. Вот почему люди обычно приходят в недоумение, сталкиваясь с каким-то явлением, которое эта функция не может отразить». Это цитируется по IEEE Spectrum переведенная статья.

Это почти универсальное предположение о постоянном росте может быть опровергнуто, если мы столкнемся с чем-то неладным. Теория гласит, что жуткость и подозрительность приведут к относительно резкому и драматическому падению аффинити, как, например, в случае с роботизированной рукой, которую вы решили пожать и не смогли почувствовать костлявые характеристики человеческой руки: «Когда это происходит, мы теряем чувство близости, и рука становится жуткой. В математических терминах это может быть представлено отрицательным значением».

Если вы согласны с тем, что существует такой феномен, как «зловещая долина», я уверен, вы задаетесь вопросом, какая польза вам от знания того, что «зловещая долина» очевидно существует.

Это классика на все времена: «Ну и что?» тест на практичность.

Оказывается, многие люди придумали множество интерпретаций того, что мы должны или можем делать со зловещей долиной. Есть масса мнений. Я расскажу о некоторых из них в ближайшее время.

Между тем, вот что предложил Масахиро Мори: «Мы надеемся спроектировать и построить роботов и протезы рук, которые не попадут в жуткую долину. Таким образом, из-за риска, связанного с попытками увеличить степень человеческого подобия для масштабирования второго пика, я рекомендую дизайнерам вместо этого принять в качестве цели первый пик, что приводит к умеренной степени человеческого подобия и значительному чувству близости. . Фактически, я предсказываю, что можно создать безопасный уровень близости, сознательно следуя нечеловеческому замыслу. Я прошу дизайнеров задуматься над этим».

Краткое изложение с моей стороны двенадцати удобных простых правил о том, что делать в «зловещей долине», особенно касается разработчиков ИИ:

1) Помните о «зловещей долине» и будьте начеку соответственно.

2) Вы, вероятно, хотите максимально приблизить свой ИИ к человеческому родству.

3) Будьте готовы к потере человеческого сходства, если ваш ИИ попадет в «зловещую долину».

4) Старайтесь избегать «зловещей долины», разрабатывая свой ИИ таким образом.

5) Достойно иметь цель, далекую от Зловещей долины.

6) Подойдите к краю зловещей долины, но не упадите со скалы.

7) Не зацикливайтесь на желании выйти за пределы зловещей долины.

8) Есть шанс, что вы сможете перепрыгнуть через зловещую долину.

9) Не зацикливайтесь на прыжке, так как все равно можете упасть в долину.

10) Максимальное человеческое родство, по общему признанию, будет достигнуто, если пройти через зловещую долину.

11) Тем не менее, существует адекватная и подходящая близость, обнаруженная до появления «зловещей долины».

12) Постоянно помните о зловещей долине и не позволяйте ей ускользнуть из вашей памяти.

Все эти дюжины являются общими заповедями, которые можно рассматривать как краеугольный камень или опорные точки знания о сверхъестественной долине. Сразу признаю, что есть и другие моменты, не вошедшие в эту скудную дюжину, которые можно назвать не менее важными. Я также с готовностью признаю, что по каждому из выявленных пунктов обязательно возникнут разногласия, и по каждому из высказанных пунктов могут последовать длительные горячие дебаты.

Более того, некоторые скажут, что двенадцать пунктов — это вообще чушь, потому что они изначально основаны на лжи. Они утверждали, что не существует такой вещи, как «зловещая долина». Все это просто уловка и выдуманная выдумка, которая, к сожалению, апеллирует исключительно к слабым умам (ой, это очень больно!). Любое внимание к «зловещей долине» — это пустая трата воздуха, и кто-то должен прийти и вонзить острый деревянный теоретический кол в суть дела (некоторые исследователи пытались это сделать).

Для обсуждения давайте плывем по течению и предположим, что существует «зловещая долина» и что она в целом соответствует тому, что я указал до сих пор. Те, кто не согласен с концептуализацией сверхъестественной долины, могут отключиться или продолжить чтение, стиснув зубы, и их интеллектуальный гнев назревает и кипит (извините за это).

Вот как этический ИИ и фокус разработки и внедрения этического ИИ становятся актуальными. Кстати, мои постоянные и глубокие исследования этики ИИ можно найти в моем обсуждении на сайте эта ссылка здесь и эта ссылка здесь, Просто назвать несколько.

Зловещая долина — это явное дело любви и ненависти для тех, кто увлекается этическим ИИ.

Во-первых, необходимая предыстория. Одна из самых неприятных этических проблем, связанных с ИИ, заключается в том, что людей можно обмануть, заставив поверить в то, что система ИИ разумна. Пожалуйста, имейте в виду, что сегодня не существует искусственного интеллекта, который хотя бы отдаленно приблизился бы к разуму. В настоящее время этого просто не происходит. Мое якобы «наглое» утверждение сделано, несмотря на непрекращающиеся и громкие заголовки, которые заявляют об этом ИИ или о том, что ИИ либо разумен, либо достаточно близок к нему, чтобы его можно было рассматривать как таковой. Маларки. Мы не на уровне ИИ.

Мы не знаем, как туда добраться. Мы не знаем, произойдет ли это. Разум ИИ — это достойная мечта и стремление, однако не стоит торопиться и думать, что мы находимся на пороге ее достижения.

Конечно, многие горячо предупреждают, что если нам каким-то образом удастся реализовать разум ИИ, сделаем ли мы это намеренно или по чистой случайности, мы столкнемся с экзистенциальным риском. При таком подходе, возможно, поиск разума ИИ не так уж и целесообразен. Риск заключается в том, что этот разумный ИИ может решить, что людей не стоит иметь рядом. Нас могут раздавить, как жуков. Или стать порабощенным ИИ. Это может произойти из-за того, что ИИ открыто решит это сделать, или же ИИ может в конечном итоге стать нашей собственной машиной судного дня, которая уничтожает нас из-за нашей собственной некомпетентности. Мое освещение тревожных последствий разума или сингулярности ИИ см. ссылка здесь.

Важнейшая проблема этического ИИ заключается в том, что разработчики ИИ и те, кто занимается ИИ, порой вводят людей в заблуждение, заставляя их думать, что ИИ разумен. То, как ИИ проявляет себя, например, посредством роботизированной формулировки или его диалоговой интерактивности, может коварно подтолкнуть людей к предположению, что ИИ разумен. Это, в свою очередь, приведет вас к потенциально опасному пути примулы.

Если вы попадете в ментальную ловушку, думая, что система ИИ разумна, вы, скорее всего, будете полагаться на нее, чтобы делать то, что сделали бы разумные существа. Однако ни в одном из сегодняшних ИИ пока еще нет здравого смысла человеческих качеств. ИИ, с которым мы сталкиваемся в настоящее время, чрезвычайно хрупкий и поверхностный, когда дело касается человеческих способностей. Вы можете попасть в неприятную и опасную ситуацию, полагая, что система ИИ разумна.

Как это связано со зловещей долиной?

Вот сделка.

Напомним, что «зловещая долина», похоже, говорит нам о том, что человеческая близость будет постепенно возрастать по мере того, как система искусственного интеллекта или робот будут все ближе и ближе приближаться к формулировке, подобной человеку. В тот момент, когда система искусственного интеллекта приближается к точке, но все же не совсем там, у нас возникает жуткое ощущение, что что-то не так. До этого мы знали, что ИИ не был человеком. Теперь мы не уверены. Наша человеческая близость падает. Только после того, как ИИ или робот станут совершенно убедительными в своих способностях, подобных человеческим, мы вновь обретем подобие близости к устройству.

Разработчики ИИ, которые прониклись этим сердцем, по-видимому, намеренно стремятся не допустить попадания своего ИИ в «зловещую долину», стремясь остановиться с точки зрения особенностей ИИ непосредственно перед падением в «жуткую пропасть» (напомним, это также подчеркивал Масахиро Мори). Разработчики, очевидно, сделали бы это, убедившись, что все еще существует множество контрольных подсказок, чтобы было достаточно ясно, что ИИ - это менее чем разумный ИИ и, следовательно, не человек или в равной степени человек.

Специалисты по этике ИИ в целом приветствовали бы такие искренние усилия.

Аргументация проста. Те, кто настолько информирован и поддерживает разработчиков ИИ, стараются убедиться, что система ИИ не вводит людей в заблуждение, ошибочно приписывая ИИ возможности, подобные человеческим. Это, безусловно, хорошая новость. Разработчики намеренно создадут ИИ, чтобы предотвратить погружение в зловещую долину. Люди с готовностью поймут, что ИИ не разумен.

Попытаться убедить разработчиков ИИ принять такой подход непросто. Действительно, это может противоречить их обычным инстинктам и амбициям.

Многие утверждают, что разработчики ИИ и технические специалисты в целом поглощены целями. Они видят цель и часто слепо преследуют ее с большим удовольствием. Нет времени останавливаться и нюхать розы. Мы отправляемся на гонки. В области ИИ нормативной целью был бы идеализированный ИИ, неотличимый от человека в том смысле, что ИИ мог бы быть разумно равным по паритету. Но мы еще не там. Таким образом, «зловещая долина» обеспечивает второстепенную цель, приземляющуюся перед «зловещей долиной», которая в противном случае создавала бы плотины, и, тем не менее, становится целью, которая, тем не менее, приемлема. Конечно, это не золотой призовой перстень, но идея в том, что этот «второстепенный» приз — это нормально, большое спасибо, и им можно гордиться.

Мы изменили разрушительные амбиции, связанные с поиском целей, и превратили их в логично звучащую аргументированную основу для того, чтобы поступать правильно.

Ура!

Одержите победу за этику ИИ.

Но подождите секунду, предупреждение о спойлере, есть еще кое-что, что нам нужно принять во внимание.

Теперь, когда эти опытные разработчики ИИ знают о зловещей долине, они могут обратить свой ум и техническое мастерство на намеренный прыжок через пропасть, но при этом делать это с видимостью обмана. Сделайте так, чтобы ИИ выглядел полностью похожим на человека, хотя разработчики знают, что это неправда.

Мошенническое мышление выглядит следующим образом. Не позволяйте вашей системе искусственного интеллекта снять шляпу и заставить людей ощутить неуловимое ощущение жуткости. Удалите те аспекты, которые могут дать какой-либо намек или подсказку о том, что ИИ не обладает человеческими способностями. Делайте это, тайно осознавая и непростительно зная, что ИИ не обладает человеческими возможностями, и все дело в сокрытии этой правды от тех, кто взаимодействует с ИИ или зависит от него.

Какие дьявольские планы.

По иронии судьбы, «зловещая долина» может стать своего рода тревожным звонком для разработчиков ИИ: если они хотят по-настоящему обмануть людей, они должны быть достаточно умны, чтобы избежать пропасти. Они делают это не путем создания полноценного ИИ, а вместо этого возводят дым и зеркала, чтобы ИИ выглядел обманчивым, как будто он человек. Если бы разработчики ИИ не осознали, что эта жуткая долина существует, они бы, по большому счету, угодили в нее. Это хорошо для человечества, потому что люди, следовательно, потеряют свою близость к ИИ, если не будут чрезмерно полагаться на сегодняшнее качество ИИ.

К сожалению, зная, что ловушка существует, разработчики ИИ, желающие обойти ее, найдут пагубно умные способы сделать это.

Нарушьте заповеди этического ИИ.

Видите ли вы, как это создает отношения любви и ненависти у специалистов по этике ИИ в отношении Зловещей долины?

Черт, если да, черт возьми, если нет.

Я понимаю, что это был своего рода поверхностный обзор зловещей долины, и вам, возможно, захочется привести несколько примеров из повседневной жизни. Есть особый и, несомненно, популярный набор примеров, которые близки моему сердцу. Видите ли, в качестве эксперта по ИИ, включая этические и юридические последствия, меня часто просят привести реалистичные примеры, демонстрирующие дилеммы этики ИИ, чтобы можно было легче понять несколько теоретический характер этой темы. Одной из наиболее запоминающихся областей, которая ярко демонстрирует этическое затруднительное положение ИИ, является появление настоящих беспилотных автомобилей на основе ИИ. Это послужит удобным примером использования или примером для широкого обсуждения этой темы.

Вот тогда примечательный вопрос, над которым стоит задуматься: Проясняет ли появление настоящих беспилотных автомобилей на базе искусственного интеллекта что-нибудь о зловещей долине, и если да, то что это побуждает нас делать?

Позвольте мне немного раскрыть вопрос.

Во-первых, обратите внимание, что в настоящей самоуправляемой машине нет водителя-человека. Имейте в виду, что настоящие беспилотные автомобили управляются с помощью системы вождения с искусственным интеллектом. Нет необходимости в водителе-человеке за рулем, и при этом не предусмотрено, чтобы человек управлял транспортным средством. Мой обширный и постоянный обзор автономных транспортных средств (AV) и особенно беспилотных автомобилей см. ссылка здесь.

Я хотел бы дополнительно прояснить, что имеется в виду, когда я говорю об истинных беспилотных автомобилях.

Понимание уровней самоуправляемых автомобилей

В качестве пояснения, настоящие беспилотные автомобили - это автомобили, в которых ИИ управляет автомобилем полностью самостоятельно, и во время вождения не требуется никакой помощи человека.

Эти беспилотные автомобили относятся к Уровню 4 и Уровню 5 (см. Мое объяснение на эта ссылка здесь), в то время как автомобиль, который требует, чтобы водитель-человек совместно управлял процессом, обычно считается уровнем 2 или уровнем 3. Автомобили, которые совместно выполняют задачу вождения, описываются как полуавтономные и обычно содержат множество автоматизированные надстройки, которые называются ADAS (Advanced Driver-Assistance Systems).

На 5-м уровне еще нет настоящей машины для самостоятельного вождения, о которой мы еще даже не знаем, удастся ли этого достичь, и сколько времени потребуется, чтобы туда добраться.

Между тем, усилия Уровня 4 постепенно пытаются набрать обороты, проходя очень узкие и избирательные испытания на дорогах общего пользования, хотя есть разногласия по поводу того, следует ли разрешать это испытание как таковое (мы все - подопытные кролики на жизнь или смерть в эксперименте. происходит на наших автомагистралях и переулках, некоторые утверждают, что см. мои статьи на эта ссылка здесь).

Поскольку полуавтономным автомобилям требуется водитель-человек, принятие этих типов автомобилей не будет заметно отличаться от вождения обычных транспортных средств, поэтому по сути их не так много, чтобы рассказать о них по этой теме (хотя, как вы увидите, в следующий момент, пункты, сделанные ниже, обычно применимы).

Для полуавтономных автомобилей важно, чтобы общественность была предупреждена о тревожном аспекте, который возник в последнее время, а именно о том, что, несмотря на то, что водители-люди, которые продолжают публиковать видео, засыпают за рулем автомобиля уровня 2 или уровня 3 Мы все должны избегать заблуждения, полагая, что водитель может отвлечь их внимание от задачи вождения во время вождения полуавтономного автомобиля.

Вы несете ответственность за действия по вождению транспортного средства, независимо от того, сколько автоматизации может быть добавлено на уровень 2 или уровень 3.

Беспилотные автомобили и Зловещая долина

Для 4-го и 5-го уровня настоящих автомобилей с автоматическим управлением, в управлении автомобилем не будет водителя-человека.

Все пассажиры будут пассажирами.

ИИ делает вождение.

Один аспект, который следует немедленно обсудить, заключается в том, что ИИ, задействованный в сегодняшних системах управления ИИ, неразумен. Другими словами, ИИ - это совокупность компьютерных программ и алгоритмов, и совершенно очевидно, что они не способны рассуждать так же, как люди.

Почему этот дополнительный акцент делается на том, что ИИ не чувствителен?

Потому что я хочу подчеркнуть, что, обсуждая роль управляющей системы ИИ, я не приписываю ИИ человеческие качества. Имейте в виду, что в наши дни существует постоянная и опасная тенденция к антропоморфизации ИИ. По сути, люди придают человеческий разум сегодняшнему ИИ, несмотря на тот неоспоримый и бесспорный факт, что такого ИИ еще не существует.

С этим пояснением вы можете представить себе, что система вождения AI изначально не «знает» о аспектах вождения. Вождение и все, что с ним связано, необходимо будет программировать как часть аппаратного и программного обеспечения беспилотного автомобиля.

Давайте погрузимся в бесчисленное множество аспектов, связанных с этой темой.

Во-первых, важно понимать, что не все автомобили с искусственным интеллектом одинаковы. Каждый автопроизводитель и технологическая фирма, занимающаяся беспилотным вождением, использует свой подход к разработке беспилотных автомобилей. Таким образом, трудно делать опрометчивые заявления о том, что будут делать или не делать системы управления ИИ.

Более того, всякий раз, когда утверждается, что система управления ИИ не выполняет каких-либо конкретных действий, позже это может быть опровергнуто разработчиками, которые фактически программируют компьютер именно на это. Шаг за шагом системы управления искусственным интеллектом постепенно улучшаются и расширяются. Существующее сегодня ограничение может больше не существовать в будущей итерации или версии системы.

Я верю, что это дает достаточный перечень предостережений, чтобы обосновать то, что я собираюсь рассказать.

Сейчас мы готовы глубоко погрузиться в беспилотные автомобили и этические вопросы искусственного интеллекта, ведущие к зловещей долине.

Здесь будут рассмотрены четыре аспекта этого вопроса:

1. Общий вид беспилотных автомобилей

2. Вопрос, куда «смотрят» беспилотные автомобили

3. ИИ управляет беспилотными автомобилями

4. Роботы, которые ездят, как средство создания беспилотных автомобилей

Дополнительные аспекты также целесообразно охватить, но из-за нехватки места этих четырех тем будет достаточно, чтобы пролить свет на зловещую долину, связанную с беспилотными автомобилями на основе искусственного интеллекта.

1. Общий вид беспилотных автомобилей

Могу поспорить, что вы видели фотографии или видео сегодняшних испытаний беспилотных автомобилей. Таким образом, вы могли заметить, что большинство транспортных средств представляют собой автомобили обычного вида, оснащенные дополнительным специализированным оборудованием. Например, на крыше может быть багажник с множеством электронных датчиков. Датчики иногда включают в себя видеокамеры, радары, лидарные устройства, ультразвуковые датчики и т.п.

Футуристические проекты, как правило, предполагают, что мы могли бы отказаться от традиционного внешнего вида автомобиля и вместо этого перепроектировать автомобили как внутри, так и снаружи, чтобы они стали более привлекательными автономными транспортными средствами. На данный момент общее мнение таково, что проще использовать обычные автомобили и не тратить энергию, пытаясь растянуть усилия, одновременно возясь с автомобилями, выглядящими нетрадиционно (есть некоторые исключения из этой общей точки зрения, см. ссылка здесь).

Суть сейчас в том, что если вы едете по дороге и встречаете поблизости беспилотный автомобиль, вы почти всегда можете сразу определить, что это, вероятно, беспилотный автомобиль, просто заметив небольшое количество датчиков, установленных на беспилотном транспортном средстве. Это быстрая визуальная раздача. Конечно, вы не знаете наверняка, что это беспилотное вождение само по себе, поскольку на этом этапе органы управления движением обычно все еще не повреждены, а за рулем может находиться резервный водитель-человек.

С одной стороны, вы можете предположить, что особенно полезно, чтобы беспилотные автомобили физически выделялись и были легко визуально обнаружены водителями-людьми в близлежащих машинах, управляемых людьми, а также пешеходами поблизости. Осознание того, что поблизости бродит беспилотный автомобиль, может быть полезным подсказкой, которая поможет вам быть настороже и побудит вас быть бдительными и помнить о том, что ИИ управляет или может управлять транспортным средством.

Предположим, беспилотные автомобили выглядят идентично обычному автомобилю, управляемому человеком. Это реально осуществимо как минимум двумя способами. Во-первых, датчики потенциально могут быть скрыты или иметь такую ​​форму, чтобы они были не так заметны для случайного визуального осмотра. Во-вторых, возможно, что все автомобили, включая обычные автомобили, управляемые человеком, постепенно будут оснащаться подобными датчиками, даже если транспортное средство, тем не менее, останется преимущественно автомобилем, управляемым человеком. См. мое дальнейшее освещение на эта ссылка здесь.

Если вы внимательно поразмыслите над вопросом о том, могут ли или должны ли беспилотные автомобили быть идентичными по внешнему виду обычным автомобилям, управляемым человеком, вы можете прийти к мысли, что в этом рагу может скрываться жуткая долина.

Видите ли, автомобили, которые явно выглядят как беспилотные автомобили, можно охарактеризовать как находящиеся на перепутье, которое находится недалеко от зловещей долины. По сути, вы «знаете», что это робот или роботизированная система. Это суждение, к которому вы можете почти сразу же прийти.

Когда беспилотные автомобили выглядят так же, как автомобили, управляемые человеком, возможно, это говорит о том, что автономные транспортные средства преодолели жуткую долину в своем роботоподобном внешнем виде. Есть ли золотая середина между этими двумя физическими проявлениями, которая приводит нас в жуткую долину?

Возможно, вы заметили беспилотный автомобиль, едущий по улице, и вам кажется, что это, вероятно, беспилотный автомобиль, с другой стороны, его внешний вид не выглядит ни строго автономным, ни строго управляемым человеком. Вы можете возразить, что беспилотный автомобиль сейчас выглядит жутко и тревожно.

Беспилотный автомобиль якобы погрузился в жуткую долину.

При этом не все согласятся с такой категоризацией. Некоторые утверждают, что внешний вид не имеет ничего общего со зловещей долиной. Некоторые, конечно, также утверждают, что на самом деле не существует ничего, известного как «зловещая долина».

Как упоминалось ранее, вы можете принять собственное решение по этому поводу.

2. Вопрос о том, куда смотрят беспилотные автомобили

Надвигающееся беспокойство, которое многие испытывают по поводу беспилотных автомобилей, заключается в том, что в них обычно нет человека-водителя на водительском сиденье, и поэтому трудно понять, куда «водитель» смотрит во время вождения автомобиля.

Обычно вы смотрите на водителей-людей, чтобы подсмотреть, куда они смотрят. Например, вы можете быть пешеходом на пешеходном переходе, и к переходу приближается машина. Вы пристально смотрите на человека, сидящего на водительском сиденье, и пытаетесь различить, куда повернута его голова и куда смотрят глаза. Если вы считаете, что водитель-человек вас заметил, возможно, вам будет удобнее перейти улицу. Напротив, если водитель-человек, похоже, вас не заметил, вы справедливо беспокоитесь о переходе границы.

В некоторых городах по этим аспектам существует своего рода игра в кошки-мышки. Особой культурной нормой в конкретном городе может быть то, что если вы смотрите в глаза водителю, водитель «побеждает», и он имеет кажущееся право продолжить движение, независимо от законности ситуации вождения. В других городах ситуация может быть совершенно противоположной, а именно: культурная норма заключается в том, что при зрительном контакте пешеход «побеждает», а водитель-человек должен подчиняться действиям пешехода.

Кажется, мы усвоили этот обычай за относительно долгое время, когда автомобили находились в центре наших городов и населенных пунктов. Проблема с появлением беспилотных автомобилей заключается в том, что на водительском сиденье нет человека-водителя, и, следовательно, любой пешеход или находящийся рядом водитель-человек, который обычно использует голову и глаза водителей автомобилей в качестве культурного индикатора намерения вождения, теперь повезло.

Автопроизводители и разработчики беспилотных автомобилей хорошо осведомлены об этой новой проблеме. Одно из предлагаемых решений состоит в том, что беспилотный автомобиль моргает фарами автономного транспортного средства или, возможно, подает звуковой сигнал. Другая идея заключается в том, что беспилотный автомобиль может иметь вариант громкоговорителя, который сообщит окружающим, каковы «намерения» системы вождения с искусственным интеллектом. Каждая из этих идей имеет существенные недостатки.

Однако другое предложение предполагает сделать что-то, что на первый взгляд может показаться смешным. Предложение состоит в размещении сфер, похожих на глазные яблоки, на внешней стороне автономного транспортного средства. Эти шары будут очень похожи на человеческие глаза, поскольку смогут поворачиваться вперед и назад, давая вам немедленный сигнал о том, что ИИ «видел вас» (вы можете интерпретировать это по глазным яблокам, смотрящим в вашем конкретном направлении). Я проанализировал этот подход на ссылка здесь.

Как бы вы отреагировали, увидев беспилотный автомобиль, едущий по дороге, и на капоте или крыше которого были установлены эти огромные странные шары, похожие на глазные яблоки?

Полагаю, вы можете подумать, что это жутко, а может быть, и жутковато.

Некоторые предполагают, что жуткость возникает из-за того, что оснащенный беспилотный автомобиль находится в зловещей долине. Другие будут яростно утверждать, что это не имеет ничего общего со зловещей долиной. Некоторые из таких ученых мужей сказали бы, что существует жутковатость, которая может быть жуткой без необходимости укореняться в жуткой долине (т. е. жуткая долина, по-видимому, всегда производит жуткое, но не вся жуткая создается исключительно через сверхъестественную долину). Другая точка зрения заключается в том, что шары, предположительно, могут быть спроектированы так, чтобы они меньше выглядели глазными яблоками и выглядели более роботизированными, или что мы все неизбежно примем внешний вид этих шаров, и первоначальная поразительная реакция утихнет.

3. ИИ управляет действиями беспилотных автомобилей

Многие из сегодняшних испытаний беспилотных автомобилей продемонстрировали, что существующие системы вождения с искусственным интеллектом, как правило, запрограммированы на довольно умеренное и в некоторой степени строгое соблюдение закона способы вождения. Система вождения с искусственным интеллектом обычно полностью останавливает беспилотный автомобиль на знаках «Стоп». Система вождения с искусственным интеллектом не совершает смелых поездок на перекрестках, когда сигнал светофора неизбежно станет красным. Эти своенравные методы вождения являются прерогативой водителей-людей.

В каком-то смысле, по стилю вождения, который он демонстрирует, можно почти догадаться, что беспилотный автомобиль — это беспилотный автомобиль. Даже если визуально беспилотное транспортное средство выглядит как обычный автомобиль, управляемый человеком, вы можете наблюдать за его действиями и, возможно, логически сделать вывод, что им, вероятно, управляет система искусственного интеллекта.

Некоторые считают, что нам нужно будет сделать системы вождения на базе искусственного интеллекта более похожими на выходки водителей-людей, чтобы они эффективно вписывались в нормативные подходы к вождению. Полагаю, вы могли бы истолковать это как борьбу с огнем огнем.

Имеет ли смысл это делать?

Имейте в виду, что откровенные скептики и критики отвергают эту идею. Они будут настойчиво утверждать, что мы хотим, чтобы системы вождения ИИ работали правильно и осторожно. Добавление на дороги потенциально миллионов беспилотных автомобилей, которые запрограммированы на поведение заблудших водителей-людей, могло бы показаться колоссальным кошмаром. Я обсуждал это спорное предложение на ссылка здесь.

Давайте переосмыслим дилемму, воспользовавшись «зловещей долиной».

Когда система вождения ИИ является строго законной в своих действиях по вождению, это, возможно, является явным признаком того, что это, скорее всего, роботизированная система (несмотря на то, что водители-люди, по общему признанию, делают это, хотя в современном мире они кажутся очень редкими). Если системы вождения на базе искусственного интеллекта должны управлять автомобилем так же причудливо, как водители-люди, то перепрыгнет ли это через жуткую долину или упадет в жуткую долину?

Обдумай это.

4. Роботы, которые ездят как средство создания беспилотных автомобилей

Этот последний пункт освещения является самым поразительным из этих четырех.

Вы можете совершенно не знать, что некоторые разработчики ИИ пытаются создать роботов, которые будут управлять автомобилями. Робот будет выглядеть как человек во многих отношениях, имея роботизированные ноги и роботизированные руки в качестве конечностей. Если вы хотите, чтобы любой обычный автомобиль, управляемый человеком, был беспилотным, вы просто помещаете этого специализированного робота с искусственным интеллектом на водительское сиденье вашего автомобиля. См. мой анализ этого понятия на ссылка здесь.

Зачем нам нужны водители-роботы?

Прелесть такого робота в том, что все современные автомобили, управляемые человеком, практически в мгновение ока могут стать беспилотными автомобилями. Вы просто покупаете, арендуете или каким-то образом приобретаете себе робота-водителя. Вы помещаете робота на сиденье водителя, отправляясь в путешествие. Робот доставит вас к месту назначения. Если вы хотите переключиться на вождение человеком, вы снимаете робота с автомобиля и, возможно, убираете его в багажник для дальнейшего использования.

Сегодня в Соединенных Штатах насчитывается около 250 миллионов обычных автомобилей. Некоторые полагают, что в конечном итоге от них выкинут, когда появятся беспилотные автомобили. Вместо того, чтобы выбрасывать эти обычные автомобили, возможно, мы могли бы попытаться переоборудовать их в беспилотные автомобили, хотя это, возможно, довольно дорогостоящая идея. Казалось бы, более разумным подходом было бы сделать доступными роботы-водители.

Если бы вы увидели обычный на вид автомобиль, едущий по улице вашего района, и за рулем которого сидел бы робот, какова была бы ваша реакция?

Вероятно жутковатость.

Одно, по общему признанию, спорное утверждение заключается в том, что эта жуткая ситуация связана с тем, что робот, управляющий обычным автомобилем, погружается в знаменитую или печально известную зловещую долину.

Заключение

С точки зрения этического ИИ, зловещая долина представляет собой интригующую загадку.

В ИИ есть те, кто полностью верит в Зловещую долину, а есть и те, кто нет. Но независимо от того, верите ли вы в сверхъестественную долину или нет, тем не менее, сама тема обсуждается. Вы не можете спрятать голову и сделать вид, что конструкции как таковой не существует. Конструкт как идея живет и в некотором смысле обладает вирусной силой. Нравится вам это или нравится, но эта проклятая или, может быть, возвышенная тема сохраняется.

Согласно моему предыдущему рассуждению о достоинствах «зловещей долины» с точки зрения этики ИИ, в ней существует дуэль между любовью и ненавистью. Должны ли те, кто занимается этической сферой ИИ, принять «зловещую долину» или полностью отвергнуть «зловещую долину», или же оставаться несколько нейтральными в отношении правдивости и вместо этого сосредоточиться на влиянии, которое возникает из-за продолжающихся расхождений во мнениях о ней.

Эта задача привела к появлению выдающегося экономиста Адама Смита, который однажды сказал (перефразируя), что на пути из Города Скептицизма вам придется пройти через Долину Неопределенности.