Этика ИИ Страстно борется за ваше законное право быть исключением

Говорят, что из каждого правила есть исключение.

Проблема, однако, заключается в том, что часто преобладает постоянное правило, и мало или вообще не допускается признание или развлечение исключения. Средний случай используется, несмотря на явную вероятность того, что на переднем плане стоит исключение. Исключение не получает эфирного времени. У него нет шансов быть должным образом рассмотренным.

Я уверен, вы должны знать, о чем я говорю.

Вы когда-нибудь пытались добиться индивидуального обслуживания клиентов, при котором с вами обращались бездумно, без каких-либо различий в вашем конкретном случае и ваших конкретных потребностях?

Это, несомненно, случалось с вами, вероятно, бессчетное количество раз.

Я собираюсь познакомить вас с тревожной тенденцией, которая возникает в связи с тем, что искусственный интеллект (ИИ) неустанно разрабатывается, чтобы заставить все подходить под единую парадигму.

Исключения либо не обнаруживаются, либо выбираются для искажения формы, как если бы они вообще не были исключениями. Основа для этого частично связана с появлением машинного обучения (ML) и глубокого обучения (DL). Как вы скоро увидите, ML/DL — это форма сопоставления вычислительных шаблонов, подобные которой «легче» разрабатывать и развертывать, если вы готовы игнорировать или обходить исключения. Это очень проблематично и вызывает серьезные опасения по поводу этики ИИ. Мой общий постоянный и обширный обзор этики ИИ и этического ИИ см. ссылка здесь и ссылка здесь, Просто назвать несколько.

Так не должно быть, и, пожалуйста, знайте, что это поощряется теми, кто создает и внедряет ИИ, решив игнорировать или преуменьшать обработку исключений в своих изобретениях ИИ.

Когда правила исключений

Давайте сначала раскроем природу среднего случая по сравнению с реализацией исключений.

Мой любимый пример такого нагромождения или близоруко-среднестатистического подхода без исключений ярко иллюстрирует почти любой эпизод нашумевшего и до сих пор чрезвычайно популярного телесериала, известного как Дом, MD (обычно просто выражается как Вилла / Бунгало, который проходил с 2004 по 2012 год и сегодня его можно посмотреть в социальных сетях и других СМИ). В шоу участвовал вымышленный персонаж по имени доктор Грегори Хаус, который был грубым, невыносимым и совершенно нетрадиционным, но при этом изображался гением медицины, способным выявлять самые малоизвестные болезни и недомогания. Другим врачам и даже пациентам он мог не понравиться, но свою работу он выполнил.

Вот как разыгрывался типичный эпизод (общий спойлер!).

Пациент появляется в больнице, где работает доктор Хаус. Сначала у пациента проявляются несколько общие симптомы, и другие врачи по очереди пытаются поставить диагноз и вылечить пациента. Странно то, что попытки помочь пациенту либо не улучшают неблагоприятные условия, либо, что еще хуже, имеют тенденцию иметь неприятные последствия. Больному становится все хуже и хуже.

Поскольку пациент теперь рассматривается как своего рода медицинская диковинка, и поскольку никто другой не может понять, от чего страдает пациент, к делу привлекается доктор Хаус. Иногда это делается намеренно, чтобы задействовать его медицинское мастерство, в то время как в других случаях он узнает о случае, и его врожденные инстинкты влекут его к необычным обстоятельствам.

Постепенно выясняется, что у больного какое-то чрезвычайно редкое заболевание. Только доктор Хаус и его команда врачей-интернов могут это понять.

Теперь, когда я поделился с вами основной сюжетной линией эпизодов, давайте углубимся в извлеченные уроки, которые иллюстрируют природу среднего случая по сравнению с исключениями.

Выдуманные истории призваны продемонстрировать, как нестандартное мышление иногда может промахнуться. Все остальные врачи, которые сначала пытаются помочь пациенту, затуманены в своих мыслительных процессах. Они хотят превратить симптомы и представленные аспекты в обычный медицинский диагноз. Пациент — всего лишь один из многих, которых они предположительно видели раньше. Обследуйте пациента, а затем назначьте те же методы лечения и медицинские решения, которые он неоднократно использовал на протяжении всей своей медицинской карьеры.

Смыть, прополоскать, повторить.

В каком-то смысле вы можете оправдать такой подход. Скорее всего, у большинства пациентов будут наиболее распространенные заболевания. День за днем ​​эти врачи сталкиваются с одними и теми же проблемами со здоровьем. Можно предположить, что пациенты, поступающие в больницу, действительно находятся на медицинском конвейере. Каждый из них работает по стандартизированным больничным протоколам, как если бы они были частью производственного предприятия или сборочного цеха.

Преобладает средний случай. Это не только удобно в целом, но и позволяет больнице и медицинскому персоналу соответствующим образом оптимизировать свои медицинские услуги. Затраты могут быть снижены, если вы разработаете медицинские процессы для лечения среднего случая. Существует довольно известный совет, который часто вдалбливается в головы студентов-медиков, а именно: если вы слышите звук копыт, доносящийся с улицы, скорее всего, вы думаете о лошади, а не о зебре.

Эффективно, продуктивно, результативно.

Пока исключение не пробирается в самую гущу.

Может быть, зебра из зоопарка сбежала и забрела на вашу улицу.

Означает ли это, что исключения должны быть правилом и что мы должны отказаться от правила среднего случая вместо того, чтобы сосредоточиться исключительно на исключениях?

Вам было бы трудно утверждать, что все наши повседневные встречи и услуги должны быть сосредоточены на исключениях, а не на среднем случае.

Заметьте, я не делаю такого предложения. Я утверждаю, что мы должны гарантировать, что исключения разрешены, и что мы должны распознавать, когда возникают исключения. Я упоминаю об этом, потому что некоторые ученые мужи склонны громко заявлять, что если вы сторонник признания исключений, вы, следовательно, должны быть против разработки для среднего случая.

Это ложная дихотомия.

Не поддавайтесь на это.

Мы можем получить наш торт и съесть его тоже.

Обоснование права быть исключением

Далее я, возможно, приведу небольшой шок, связанный с растущим использованием ИИ.

Системы искусственного интеллекта все больше разрабатываются так, чтобы концентрироваться на среднем случае, часто в ущерб или в ущерб распознаванию исключений.

Вы можете быть удивлены, узнав, что это происходит. Большинство из нас предположило бы, что, поскольку ИИ — это форма компьютерной автоматизации, прелесть автоматизации заключается в том, что вы обычно можете включать исключения. Обычно это можно сделать с меньшими затратами, чем если бы вы использовали человеческий труд для выполнения аналогичной услуги. Применительно к человеческому труду может быть дорого или непозволительно иметь все виды труда, которые могут работать с исключениями. Вещами намного легче управлять и ставить на место, если вы можете предположить, что все ваши клиенты или клиенты среднего калибра. Но предполагается, что использование компьютеризированных систем легко допускает исключения. С таким мышлением мы должны бурно приветствовать выход на передний план большего числа компьютеризированных возможностей.

Считайте это головоломной головоломкой и найдите минутку, чтобы подумать над этим неприятным вопросом: Как может ИИ, который в противном случае считается лучшим из автоматов, казалось бы, неумолимо идти по рутинному и без исключений пути, который, по иронии судьбы или неожиданно, как мы представляли, будет идти в прямо противоположном направлении?

Ответ: Однако машинное обучение и глубокое обучение ведут нас к идеальному существованию. не потому что мы вынуждены идти по этому пути (мы можем сделать лучше).

Распаковываем это.

Предположим, мы решили использовать машинное обучение для разработки ИИ, который будет использоваться для постановки медицинских диагнозов. Мы собираем кучу исторических данных о пациентах и ​​их медицинских обстоятельствах. ML/DL, который мы настроили, пытается провести сопоставление вычислительных шаблонов, которое исследует симптомы пациентов и отображает ожидаемое заболевание, связанное с этими симптомами.

Основываясь на введенных данных, ML/DL математически устанавливает, что такие симптомы, как насморк, боль в горле, головные боли и болезненность, тесно связаны с простудой. Больница предпочитает использовать этот ИИ для предварительного скрининга пациентов. Разумеется, у пациентов, сообщающих об этих симптомах при первом поступлении в больницу, «диагностируется» обычная простуда.

Переключим передачу, давайте добавим ко всему этому изюминку в духе доктора Хауса.

Пациент приходит в больницу, и ИИ ставит ему диагноз. ИИ указывает на то, что у пациента обычная простуда, основываясь на симптомах насморка, боли в горле и головных болях. Пациенту даются, казалось бы, подходящие рецепты и медицинские советы по борьбе с простудой. Все это неотъемлемая часть подхода среднего случая, используемого при разработке ИИ.

Оказывается, у пациента эти симптомы сохраняются в течение нескольких месяцев. Специалист по редким заболеваниям и диетам понимает, что эти же симптомы могут свидетельствовать об утечке спинномозговой жидкости (ЦСЖ). Специалист лечит пациента различными хирургическими процедурами, связанными с такими утечками. Больной выздоравливает (кстати, эта замечательная история о пациенте с ликвореей, которому изначально был поставлен диагноз «обычная простуда», во многом основана на реальном медицинском случае).

Теперь мы проследим наши шаги в этой медицинской саге.

Почему ИИ, проводивший предварительный скрининг приема, не смог оценить, что у пациента может быть это редкое заболевание?

Один из ответов заключается в том, что если бы обучающие данные, используемые для создания ML/DL, не содержали таких экземпляров, в них не было бы ничего, с чем можно было бы сопоставить сопоставление вычислительного шаблона. При отсутствии данных, касающихся исключений из правила, само общее правило или средний случай будет считаться безупречным и применяться без каких-либо колебаний.

Другая возможность заключается в том, что, скажем, в исторических данных был случай этой редкой утечки CSF, но это был только один конкретный случай и в этом смысле выброс. Все остальные данные были математически близки к установленному среднему случаю. Тогда возникает вопрос, что делать с так называемым выбросом.

Имейте в виду, что работа с этими выбросами — это вопрос, который сильно отличается от того, как разработчики ИИ могут решить бороться с появлением чего-то, выходящего за рамки определенного среднего случая. Нет обязательного подхода, который разработчики ИИ вынуждены использовать. Это что-то вроде Дикого Запада в отношении того, что может сделать любой конкретный разработчик ИИ в любом отдельно взятом экземпляре своих усилий по разработке ML/DL.

Вот мой список способов, которыми эти исключения часто ненадо обработано:

• Исключение считается ошибкой
• Исключение считается недостойным
• Исключение считается регулируемым в «норму»
• Исключение вообще не замечено
• Исключение замечено, но в целом проигнорировано
• Исключение заметили, а потом забыли
• Исключение замечено и скрыто от просмотра
• И т.д.

Разработчик ИИ может решить, что редкость — не более чем ошибка в данных. Может показаться странным, что кто-то может так думать, особенно если вы попытаетесь очеловечить это, например, вообразив, что пациент с утечкой спинномозговой жидкости является одним из таких случаев. Однако существует сильное искушение, что если все ваши вырванные из контекста данные говорят в основном об одном, возможно, состоящие из тысяч и тысяч записей, и все они сходятся к среднему случаю, появление одного странного фрагмента данных может легко (лениво!) истолковать как прямую ошибку. Затем «ошибка» может быть отброшена разработчиком ИИ и не будет рассматриваться в рамках того, чему обучается ML/DL.

Другим способом справиться с исключением было бы решение, что это недостойное дело. Зачем возиться с одной редкостью, если вы, возможно, спешите запустить ML / DL? Выбросьте лишнее и идите дальше. Ни одна мысль не обязательно направлена ​​на последствия в будущем.

Еще один подход предполагает включение исключения в остальную среду среднего случая. Разработчик ИИ изменяет данные, чтобы они соответствовали остальным нормам. Также существует вероятность того, что разработчик ИИ может не заметить, что исключение существует.

ML/DL может сообщить, что исключение было обнаружено, после чего разработчик ИИ должен указать ML/DL о том, как следует обрабатывать выбросы математически. Разработчик ИИ может внести это в список дел, а позже забыть о том, чтобы справиться с этим, или просто решить проигнорировать это, и так далее.

В общем, обнаружение и устранение исключений, когда речь идет об ИИ, не требует какого-либо специально оговоренного или убедительно взвешенного и аргументированного подхода как такового. С исключениями часто обращаются как с недостойными изгоями, а средний случай оказывается в выигрыше. Работа с исключениями сложна, может занять много времени, требует некоторого подобия ловких навыков разработки ИИ, и в остальном это хлопотно по сравнению с изящной бабочкой универсального пакета.

В какой-то степени именно поэтому этика ИИ и этический ИИ являются такой важной темой. Предписания этики ИИ заставляют нас сохранять бдительность. Технологи ИИ могут время от времени увлекаться технологиями, особенно оптимизацией высоких технологий. Они не обязательно учитывают более крупные социальные последствия.

Помимо использования принципов этики ИИ в целом, возникает соответствующий вопрос о том, должны ли мы иметь законы, регулирующие различные виды использования ИИ. На федеральном уровне, уровне штатов и на местном уровне обсуждаются новые законы, касающиеся диапазона и характера разработки ИИ. Усилия по разработке и принятию таких законов носят постепенный характер.

В этой конкретной дискуссии о роли исключений возникает провокационная точка зрения, что, возможно, должно существовать юридическое право, связанное с тем, чтобы быть исключением. Возможно, единственный действенный способ получить добросовестное признание для кого-то, возможно, являющегося исключением, влечет за собой использование длинной руки закона.

Внедрить новый вид прав человека.

Право считаться исключением.

Рассмотрим это предложение: «Право быть исключением не означает, что каждый человек is исключение, но что, когда решение может причинить вред субъекту решения, лицо, принимающее решение, должно рассмотреть возможность того, что субъект май быть исключением. Право на исключение включает в себя три компонента: вред, индивидуализациякачества неопределенность. Лицо, принимающее решение, должно выбрать причинение вреда только тогда, когда оно рассмотрело, является ли решение надлежащим образом индивидуальным и, что особенно важно, неопределенность, которая сопровождает компонент решения, основанный на данных. Чем больше риск причинения вреда, тем серьезнее рассмотрение» (Сара Сен, в исследовательской статье, озаглавленной Право быть исключением в принятии решений на основе данных, Массачусетский технологический институт, 12 апреля 2022 г.).

У вас может возникнуть соблазн предположить, что у нас уже есть такое право.

Не обязательно. Согласно исследовательскому документу, наиболее близким международно признанным правом человека может быть право на личное достоинство. Теоретически представление о том, что должно существовать признание достоинства, при котором человек и его конкретная уникальность должны быть охвачены, действительно ставит вас в рамки потенциального права человека на исключение. Одна из сомнений заключается в том, что существующие законы, регулирующие сферу достоинства, считаются несколько расплывчатыми и чрезмерно гибкими, поэтому они плохо приспособлены к конкретной правовой конструкции права исключения.

Сторонники нового права, состоящего из права человека быть исключением, утверждают, что:

• Такое право в значительной степени юридически заставит разработчиков ИИ явно справляться с исключениями.
• Фирмы, занимающиеся созданием ИИ, будут более юридически на крючке, если не будут иметь дело с исключениями.
• ИИ, вероятно, будет лучше сбалансирован и более надежен в целом.
• Тем, кто использует ИИ или подвергается ИИ, будет лучше
• Когда ИИ не допускает исключений, можно легко обратиться в суд.
• Создателям ИИ тоже будет лучше (их ИИ будет охватывать более широкий круг пользователей).
• И т.д.

Те, кто выступает против нового права, именуемого правом человека быть исключением, как правило, говорят:

• Существующие права человека и юридические права в достаточной степени охватывают это, и нет необходимости усложнять вопросы.
• На плечи производителей искусственного интеллекта ляжет чрезмерное бремя
• Усилия по созданию ИИ станут более дорогостоящими и, как правило, замедлят прогресс ИИ.
• Возникнут ложные ожидания, что все будут требовать, чтобы они были исключением.
• Само право, несомненно, будет предметом различных толкований.
• Те, кто выиграет больше всего, получат юристы, когда судебные дела взлетят до небес.
• И т.д.

Короче говоря, оппозиция такому новому праву обычно утверждает, что это игра с нулевой суммой и что законное право быть исключением будет стоить больше, чем оно принесет пользу. Те, кто считает, что такое новое право необходимо, склонны подчеркивать, что это не игра с нулевой суммой и что в конечном итоге выигрывают все, включая тех, кто создает ИИ, и тех, кто использует ИИ.

Вы можете быть уверены, что эти дебаты, охватывающие юридические, этические и социальные последствия, связанные с ИИ и исключениями, будут громкими и настойчивыми.

Беспилотные автомобили и важность исключений

Рассмотрим, как это применимо в контексте автономных систем, таких как автономные транспортные средства и беспилотные автомобили. Уже высказывались различные критические замечания по поводу среднего подхода к разработке ИИ для беспилотных автомобилей и автономных транспортных средств.

Например, поначалу очень немногие конструкции беспилотных автомобилей подходили для людей с физическими недостатками или нарушениями. О том, чтобы более широко охватить весь спектр потребностей гонщиков, особо не задумывались. В целом, это осознание возросло, хотя по-прежнему высказываются опасения по поводу того, достаточно ли далеко это продвинулось и насколько широко оно охвачено, как должно быть.

Другой пример сравнения среднего случая с исключением связан с чем-то, что может застать вас врасплох.

Готовы ли вы?

Дизайн и развертывание многих современных систем вождения с искусственным интеллектом и беспилотных автомобилей, как правило, делают молчаливое или негласное предположение, что взрослые будут ездить на беспилотных автомобилях. Мы знаем, что когда водитель-человек находится за рулем, в автомобиле, конечно же, находится взрослый человек, поскольку обычно получение водительских прав основано на том, что он взрослый (ну, или почти взрослый). Для беспилотных автомобилей, в которых ИИ выполняет все функции вождения, присутствие взрослого не требуется.

Дело в том, что дети могут ездить в автомобилях без присутствия взрослых, по крайней мере, это возможно в случае полностью автономных беспилотных автомобилей с искусственным интеллектом. Вы можете отправить своих детей в школу утром, воспользовавшись беспилотным автомобилем. Вместо того, чтобы подвозить детей или пользоваться услугами водителя-человека, вы можете просто сесть в беспилотный автомобиль и отвезти их в школу.

Все не так радужно, когда речь идет о том, чтобы дети сами ездили на беспилотных автомобилях.

Поскольку больше нет необходимости в присутствии взрослого в автомобиле, это означает, что дети также больше не будут чувствовать влияние или, скажем так, контроль со стороны присутствия взрослого. Не сойдут ли дети с ума и разорвут салон беспилотных автомобилей? Будут ли дети пытаться залезть или дотянуться до окон беспилотного автомобиля? Какие еще выходки они могут совершить, что может привести к травмам и серьезному вреду?

Я освещал жаркие дебаты об идее о том, чтобы дети ездили в одиночку на беспилотных автомобилях, см. ссылка здесь. Некоторые говорят, что этого никогда нельзя допускать. Некоторые говорят, что это неизбежно, и нам нужно выяснить, как лучше всего заставить это работать.

Заключение

Давайте вернемся к всеобъемлющей теме среднего случая по сравнению с исключением.

Мы все, кажется, согласны с тем, что всегда будет какое-то исключение из правил. Как только правило сформировано или определено, мы должны искать исключения. Когда мы сталкиваемся с исключениями, мы должны думать о том, к какому правилу, скорее всего, относится это исключение.

Многие из разрабатываемых сегодня ИИ строятся вокруг формулирования правил, в то время как проблемы, связанные с исключениями, как правило, игнорируются и игнорируются.

Для тех, кто любит хитрить и говорить, что нет исключений из правила, что всегда есть исключения из правила, я должен признать, что эта острота кажется умственной загадкой. А именно, как мы можем иметь правило, что всегда есть исключения, но тогда это самое правило, кажется, не применимо к правилу, что всегда есть исключения из правила?

Голова кружится.

К счастью, нет необходимости чрезмерно усложнять эти отрезвляющие вопросы. Мы надеемся, что сможем жить с удобным и жизненно важным эмпирическим правилом, которое мы должны искать и приспосабливать исключения к каждому правилу.

На этом все улажено, так что теперь давайте приступим к делу.