Meta AI представляет дипломатическое очарование, наполненное искусственным интеллектом, которое превращает этику и закон искусственного интеллекта в нескромную ссору

Можем ли мы заставить ИИ наполнить дипломатию наравне с человечеством? Разработчики ИИ стремятся сделать это.

Гетти

Уважаемый мир обаяния и дипломатии часто омрачен грубостью и грубостью.

Уилл Роджерс, великий юморист и общественный обозреватель, однажды сказал, что дипломатия — это искусство говорить «хорошая собачка», пока не найдешь камень.

Очевидным следствием этого является то, что вам иногда приходится резко сдерживать любые надвигающиеся и угрожающие силы, пока вы не найдете подходящее решение, которое можно было бы защитить. Делайте то, что вам нужно делать, когда вы в отчаянном положении. Умышленно и целенаправленно умиротворяйте тех, кто подвергает вас опасности, используя успокаивающие и обворожительные слова, выиграв драгоценное время, чтобы вооружиться более практичной и откровенно осязаемой позицией.

Некоторые утверждают, что война неизбежно является результатом неудачной дипломатии. С этой взвешенной точки зрения постоянный барабанный бой дипломатии предотвратит войну. Продолжайте говорить, и бой не начнется. Другие горячо не согласны с таким спорным мнением. Возможно, говорят, дипломатия и есть то, что толкает нас на войны. Вдобавок ко всему, может случиться так, что дипломатия растягивает войны и поддерживает бесконечные боевые действия.

Мы дадим Уиллу Роджерсу еще один шанс немного пошутить над вопросом о том, хороша или плоха дипломатия в отношении начала или продолжения войны: «Уберите дипломатию из войны, и через неделю все пойдет наперекосяк» (он якобы объявлено).

Общее определение дипломатии подчеркивает отношения между странами. Дипломаты представляют определенные нации или национальные государства и проявляют дипломатию при выполнении своих священных обязанностей. Мы ожидаем, что наши дипломаты будут проводить свою внешнеполитическую трансляцию, используя апломб. Посланник не должен разжигать враждебность, вместо этого это может сделать само сообщение. Предположительно безупречное дипломатическое изображение даже самых вопиющих сообщений может явно смягчить удар, вызванный вредным требованием или угрозой.

Конечно, дипломатия не ограничивается исключительно высокой работой формализованных дипломатов. Осмелюсь сказать, что в нашей повседневной жизни всем нам приходится проявлять некоторое подобие дипломатии. Когда вы хотите, чтобы друг присматривал за вашей любимой собакой, пока вы в командировке, вы наверняка дипломатично сформулируете просьбу позаботиться о собаке. Прямые требования сделать это, скорее всего, приземлятся с глухим стуком.

Вероятно, будучи больше искусством, чем наукой, дипломатия — это то, что люди используют, чтобы смазывать полозья, поддерживать свет и не давать обществу впасть в полное бешенство. Переговоры приходят в игру. Возможно, потребуется умиротворение. Иногда вы используете пряник, иногда вы используете кнут. Если вам нужно это сделать, вы можете попробовать так называемую дипломатию канонерок, с помощью которой вы пытаетесь запугать окружающих. Или вместо применения силы вы можете пойти по более мягкому пути посредничества и гуманитарной помощи. Все это зависит.

Итак, мы склонны все разумно согласиться с тем, что дипломатия является жизненно важной формой общения между людьми. Он состоит из практики или сценического мастерства, связанного с использованием такта, посредничества, переговоров, примирения и множества социально ловких политических действий.

Добавим к этому уравнению еще кое-что.

Готовы ли вы?

Мы собираемся добавить кое-что еще, что вы, возможно, уже рассматривали.

Искусственный интеллект (ИИ).

Да, ИИ вступает в дипломатический гамбит. Это кажется вполне разумным. Если мы хотим, чтобы ИИ был погружен во все аспекты нашей жизни, в конечном итоге дипломатия должна была получить свою очередь. Можно ожидать, что ИИ сможет выполнять любые обязанности, используя соответствующие слова и дипломатические манеры.

ИИ как автономный или полуавтономный дипломат.

Я понимаю, что это может показаться довольно сложным и в целом пугающим. Я не думаю, что кто-то из нас готов к тому, чтобы ИИ стал представителем наших стран. Представьте себе, что ИИ служит от нашего имени, чтобы вести переговоры о наших международных позициях и подтверждать нашу глобальную политическую позицию. Ой! Это материал из тех апокалиптических научно-фантастических историй.

Что ж, вздохните на мгновение с облегчением, так как это пока не в картах.

Вместо этого подумайте об ИИ, который вы используете для ведения банковских операций или который помогает вам купить дом. Сегодняшний ИИ, который взаимодействует с людьми, обычно довольно прост. Приступайте к фактам, только к фактам. Некоторый ИИ был покрыт жеманными формулировками, чтобы вы думали, что он дружелюбный или приятель, хотя это быстро видно. Просто потому, что система ИИ обращается к вам по имени или произносит слова вроде «привет» вместо «привет», большинство из нас сразу понимает, что это фарс.

Следующим шагом, за которым активно следят разработчики ИИ, является попытка привнести дипломатические характеристики в наш повседневный ИИ. Основная цель состоит в том, чтобы включить программные аспекты, которые заставят ИИ продемонстрировать дипломатию и поведение, подобное дипломатии. Используя различные алгоритмы и особенно последние достижения в области генеративного ИИ или больших языковых моделей (LLM), на этом фронте наблюдается заметный прогресс.

Мы рассмотрим один такой пример, CICERO, новую систему искусственного интеллекта, выпущенную командой Meta AI.

Если вы были в отпуске и не следили за последними новостями об ИИ, недавнее объявление и открытие системы ИИ, придуманной как CICERO, предлагают важный указатель того, где сегодня находится арена дипломатии с ИИ. Вдумчиво и к их чести, команда Meta AI открыто предоставила разработанную ими систему CICERO AI. Вы можете прочитать технические подробности в опубликованном исследовательском документе на НаукаСм. ссылка здесь. Вы можете посетить веб-сайт, который они создали, чтобы мягко передать общие нюансы CICERO с короткими видеоклипами, иллюстрирующими, что он делает (см. ссылка здесь). Для тех из вас, кто ищет актуальный программный код и программное обеспечение, вы можете найти исходный код на GitHub по адресу ссылка здесь.

Я хочу быстро прояснить один аспект, который может показаться запутанным, если вы решите углубиться в этот вопрос.

Конкретная система искусственного интеллекта, разработанная Meta AI, в настоящее время настроена для игры в довольно популярную игру, известную как Дипломатия (возможно, вы видели настольную игру от Hasbro и других производителей игр). Я упоминаю об этом, потому что слово «дипломатия» в данном случае будет иметь двойное значение. С одной стороны, разработанный ИИ пытается передать характеристики предприятия и отобразить дипломатия как таковой. Между тем, обстановка, в которой действует эта конкретная система ИИ, - это игра конкретно и только (прямо сейчас) в знаменитую настольную игру, известную как Дипломатия.

Вы понимаете, как это потенциально сбивает с толку некоторых людей?

Если кто-то скажет вам, что этот конкретный ИИ действительно хорошо справляется с «дипломатией», вы можете быть не уверены, имеет ли он в виду представление о том, что ИИ довольно хорошо играет в настольную игру, известную как Дипломатия или, возможно, вместо этого они предполагают, что ИИ воплощает в себе основную сущность, связанную с дипломатическим актом человечества. Кроме того, может случиться так, что оба аспекта подразумеваются одновременно (а именно, ИИ хорошо играет Дипломатия и одновременно преуспевает в способности проявлять или демонстрировать дипломатию как навык или действие).

Здесь я попытаюсь исправить это, сделав первую букву заглавной и показав курсивом название настольной игры, Дипломатия. В остальное время я буду использовать не выделенную курсивом формулировку «дипломатия» как указание на общую концепцию дипломатичности или проявления дипломатии (видите, я только что сделал это прямо здесь).

Возвращаясь к обсуждаемому вопросу, вы могли бы на мгновение задуматься, является ли ИИ, проявляющий дипломатию, тем, чего мы должны желать или вместо этого избегать.

Есть много положительных аспектов в использовании ИИ для демонстрации дипломатии. Вы бы жили в неглубоком пузыре, если бы предположили, что ИИ, проводящий дипломатию, будет полностью и исключительно хорошим делом. ИИ, который, кажется, обладает дипломатическими навыками и может заставить нас поверить в то, что у него есть дипломатия, также изобилует тревожными проблемами, которые нам нужно вынести на первый план. По сути, ИИ, используемый таким образом, поднимает массу вопросов об этике ИИ и законах об ИИ. Те из вас, кто интересуется этикой ИИ и законом об ИИ, могут ознакомиться с моим обширным и постоянным освещением этического ИИ и закона об ИИ на ссылка здесь и ссылка здесь, Просто назвать несколько.

Прежде чем перейти к ИИ как воплощению некоторой формы дипломатии, я хотел бы сначала заложить некоторые важные основы об ИИ и, в частности, об этике ИИ и законах об ИИ, сделав это, чтобы убедиться, что обсуждение будет контекстуально разумным.

Растущее осознание этического ИИ, а также закона об ИИ

Недавняя эра ИИ изначально рассматривалась как AI для хорошего, а это означает, что мы могли бы использовать ИИ для улучшения человечества. По пятам AI для хорошего пришло осознание того, что мы тоже погружены в AI для плохих. Это включает в себя ИИ, который разработан или самоизменен, чтобы быть дискриминационным, и делает вычислительный выбор, наполняющий неправомерными предубеждениями. Иногда ИИ устроен таким образом, а в других случаях он сворачивает на эту неблагоприятную территорию.

Я хочу полностью убедиться, что мы на одной волне в отношении природы современного ИИ.

Сегодня нет разумного ИИ. У нас этого нет. Мы не знаем, возможен ли разумный ИИ. Никто не может точно предсказать, достигнем ли мы разумного ИИ, и не возникнет ли разумный ИИ каким-то чудесным образом спонтанно в форме вычислительной когнитивной сверхновой (обычно называемой сингулярностью, см. мое освещение на ссылка здесь).

Тип ИИ, на котором я сосредоточен, состоит из неразумного ИИ, который мы имеем сегодня. Если бы мы хотели порассуждать о разумном ИИ, эта дискуссия могла бы пойти в совершенно другом направлении. Предполагалось, что разумный ИИ будет человеческого качества. Вам нужно будет учитывать, что разумный ИИ является когнитивным эквивалентом человека. Более того, поскольку некоторые предполагают, что у нас может быть сверхинтеллектуальный ИИ, вполне возможно, что такой ИИ может оказаться умнее людей (о моем исследовании сверхразумного ИИ как возможности см. покрытие здесь).

Я бы настоятельно рекомендовал, чтобы мы не придавали значения вещам и рассматривали сегодняшний вычислительный неразумный ИИ.

Поймите, что сегодняшний ИИ не способен «думать» никоим образом наравне с человеческим мышлением. Когда вы взаимодействуете с Alexa или Siri, разговорные способности могут показаться человеческими, но реальность такова, что они вычислительные и лишены человеческого познания. В новейшей эре искусственного интеллекта широко используются машинное обучение (ML) и глубокое обучение (DL), которые используют сопоставление вычислительных шаблонов. Это привело к системам искусственного интеллекта, которые имеют сходство с человеческими наклонностями. Между тем, сегодня нет ни одного ИИ, который обладал бы хотя бы подобием здравого смысла и не обладал бы когнитивным чудом крепкого человеческого мышления.

Будьте очень осторожны с антропоморфизацией современного ИИ.

ML/DL — это форма сопоставления вычислительных шаблонов. Обычный подход заключается в том, что вы собираете данные о задаче принятия решения. Вы вводите данные в компьютерные модели ML/DL. Эти модели стремятся найти математические закономерности. После обнаружения таких шаблонов, если они будут обнаружены, система ИИ будет использовать эти шаблоны при обнаружении новых данных. При представлении новых данных шаблоны, основанные на «старых» или исторических данных, применяются для вынесения текущего решения.

Я думаю, вы можете догадаться, куда это направляется. Если люди, которые принимали решения по образцу, вносили неблагоприятные предубеждения, велика вероятность того, что данные отражают это неуловимым, но существенным образом. Сопоставление вычислительных шаблонов машинного обучения или глубокого обучения просто попытается математически имитировать данные соответствующим образом. Нет никакого подобия здравого смысла или других разумных аспектов моделирования, созданного ИИ, как такового.

Более того, разработчики ИИ тоже могут не понимать, что происходит. Загадочная математика в ML/DL может затруднить выявление скрытых предубеждений. Вы справедливо надеетесь и ожидаете, что разработчики ИИ проведут проверку на наличие потенциально скрытых предубеждений, хотя это сложнее, чем может показаться. Существует большая вероятность того, что даже при относительно обширном тестировании в моделях сопоставления с образцом ML/DL все еще будут предубеждения.

Вы могли бы в некоторой степени использовать известную или печально известную поговорку о мусоре в мусоре. Дело в том, что это больше похоже на предубеждения, которые коварно внедряются, когда предубеждения погружаются в ИИ. Алгоритм принятия решений (ADM) ИИ аксиоматически становится нагруженным неравенствами.

Нехорошо.

Все это имеет особенно важные последствия для этики ИИ и предлагает удобное окно для извлеченных уроков (даже до того, как все уроки произойдут), когда дело доходит до попытки законодательно закрепить ИИ.

Помимо использования принципов этики ИИ в целом, возникает соответствующий вопрос о том, должны ли мы иметь законы, регулирующие различные виды использования ИИ. На федеральном уровне, уровне штатов и на местном уровне обсуждаются новые законы, касающиеся диапазона и характера разработки ИИ. Усилия по разработке и принятию таких законов носят постепенный характер. Этика ИИ служит, по крайней мере, временной мерой и почти наверняка в какой-то степени будет непосредственно включена в эти новые законы.

Имейте в виду, что некоторые категорически утверждают, что нам не нужны новые законы, касающиеся ИИ, и что наших существующих законов достаточно. Они предупреждают, что если мы примем некоторые из этих законов об ИИ, мы убьем золотого гуся, пресекая достижения в области ИИ, которые предлагают огромные социальные преимущества.

В предыдущих колонках я рассказывал о различных национальных и международных усилиях по разработке и принятию законов, регулирующих ИИ, см. ссылка здесь, Например. Я также рассмотрел различные принципы и руководства по этике ИИ, которые были определены и приняты различными странами, включая, например, усилия Организации Объединенных Наций, такие как свод этических норм ИИ ЮНЕСКО, принятый почти в 200 странах, см. ссылка здесь.

Вот полезный краеугольный список критериев или характеристик этического ИИ, касающихся систем ИИ, которые я ранее внимательно изучал:

Прозрачность
Справедливость и справедливость
Безвредность
Ответственность
Политика
благодеяние
Свобода и автономия
Доверие
Стабильность
чувство собственного достоинства
солидарность

Предполагается, что эти принципы этики ИИ должны серьезно использоваться разработчиками ИИ, а также теми, кто управляет усилиями по разработке ИИ, и даже теми, кто в конечном итоге устанавливает и обслуживает системы ИИ.

Все заинтересованные стороны на протяжении всего жизненного цикла разработки и использования ИИ рассматриваются в рамках соблюдения установленных норм этического ИИ. Это важный момент, поскольку обычно предполагается, что «только программисты» или те, кто программирует ИИ, должны придерживаться понятий этики ИИ. Как уже подчеркивалось здесь, для разработки и внедрения ИИ требуется целая деревня, и для этого вся деревня должна быть осведомлена и соблюдать этические предписания ИИ.

Я тоже недавно осматривал ИИ Билль о правах таково официальное название официального документа правительства США под названием «План Билля о правах ИИ: заставить автоматизированные системы работать на благо американского народа», который стал результатом многолетних усилий Управления научно-технической политики (OSTP). ). OSTP — это федеральная организация, которая консультирует американского президента и администрацию США по различным технологическим, научным и инженерным аспектам государственной важности. В этом смысле можно сказать, что этот Билль о правах ИИ является документом, одобренным и одобренным существующим Белым домом США.

В Билле о правах ИИ есть пять ключевых категорий:

Безопасные и эффективные системы
Алгоритмическая защита от дискриминации
Конфиденциальность данных
Уведомление и объяснение
Человеческие альтернативы, рассмотрение и отступление

Я внимательно изучил эти заповеди, см. ссылка здесь.

Теперь, когда я заложил полезную основу для этих связанных тем, связанных с этикой ИИ и законом об ИИ, мы готовы перейти к опрометчивой теме машинной дипломатии, основанной на ИИ.

Дипломатия ИИ во всей своей красе, а также потенциальный крах

Во-первых, давайте установим, что тип ИИ, рассматриваемый здесь, является неразумным ИИ.

Я говорю это, потому что если, или некоторые говорят когда мы достигнем разумного ИИ, вся тема, скорее всего, будет полностью перевернута. Представьте себе потенциальный хаос и общественное замешательство из-за того, что вы каким-то образом попали в невиданное ранее бесспорно проверенное место. искусственный интеллект, который воплощает разум (мой анализ известного теста ИИ, известного как тест Тьюринга, см. ссылка здесь). Можно сделать обоснованную ставку на то, что многие существующие у нас культурные, правовые и бытовые нормы будут потрясены до основания.

Возможно, разумный ИИ станет нашим другом, а может быть, разумный ИИ станет нашим злейшим врагом. Как мы сможем сказать, куда пойдет ИИ?

У вас может возникнуть соблазн предположить, что мы, предположительно, сможем поговорить с ИИ и выяснить по тому, что он говорит, какие у него намерения. Ага, вы попали в запутанную ловушку. Предположим, ИИ особенно хорошо наделен некоторыми дипломатическими возможностями ИИ. Когда вы попытаетесь поговорить с ИИ, он, возможно, будет говорить в самых очаровательных и красноречивых выражениях. Это может быть очень успокаивающим для человечества.

Но действительно ли это то, что ИИ «имеет в виду» в отношении своих вычислительных намерений на основе ИИ?

ИИ может наносить классический дипломатический удар раз-два. Поговорите о хорошей игре и заставьте нас поверить, что ИИ — наш лучший друг. Это может дать ИИ время для накопления ресурсов, чтобы обогнать человечество, или, возможно, усердно работать за кулисами, чтобы подорвать все остальное, что мы используем для поддержания человечества. После этой умной дипломатической паузы, бац, ИИ вырубает нас всех.

Помните, что сказал Уилл Роджерс, что в данном случае может означать, что ИИ говорит нам «Хорошая собачка», и мы даем ИИ достаточную передышку, чтобы затем стереть нас с лица земли. Эта концепция ИИ как экзистенциального риска уже давно обсуждается. Некоторые считают, что, разработав ИИ с пронизанной дипломатией, мы будем обмануты. ИИ проницательно будет использовать все дипломатические штучки, которым мы помогли обучить ИИ, и, в конце концов, мы будем слепо обмануты, заставив ИИ стать нашим повелителем.

Позор нам.

Для тех из вас, кто еще больше интересуется этой в высшей степени спекулятивной территорией футуристического ИИ, см. мое освещение взглядов на ИИ как на экзистенциальную угрозу на ссылка здесь.

Возвращаясь на землю, я впредь буду подчеркивать здесь путь дипломатии, наполненной ИИ, в нашем существующем неразумном ИИ.

Давайте немного проследим историю.

Попытки разработать ИИ, который каким-то образом воплощает в себе вычислительный оттенок дипломатии и дипломатического поведения, предпринимаются с первых дней существования ИИ. Вы можете легко вернуться в 1950-е, 1960-е и 1970-е годы и найти фундаментальные исследования, которые стремились применить ИИ в этой области. Некоторые думали, что теория игр была ключом. Другие сосредоточились на психологии и связанных с ней когнитивных элементах. Другие пытались использовать экономику, исследования операций и множество, казалось бы, подходящих областей деятельности.

Первоначальный расцвет позже пришелся на 1980-е годы. В то время один из доминирующих подходов заключался в использовании экспертных систем (ES) или систем, основанных на знаниях (KBS), для создания систем искусственного интеллекта, связанных с дипломатией. Результат был довольно неестественным и, как правило, демонстрировал, насколько сложной будет эта задача.

Одной из грызущих загадок на протяжении всей эпохи первоначальных исследований была потребность в устойчивой платформе, на которой или внутри которой можно было бы должным образом протестировать и изучить ИИ, который предположительно был способен выполнять некоторые связанные с дипломатией действия. Эта необходимость, пожалуй, очевидна. Если кто-то хочет понять, может ли человек или ИИ заниматься дипломатией, необходимо создать среду, способствующую этому поиску.

На этой картинке изображена настольная игра Дипломатия.

Я понимаю, что настольная игра Дипломатия не так хорошо известен, как Монополия, Снижениеили Stratego (вы, вероятно, слышали об этих играх). Тем не менее, существует стратегическая настольная игра, известная как Дипломатия который был впервые разработан в 1954 году и выпущен в продажу в 1959 году. Дипломатия в игру часто играли по обычной почте. Вы записывали свои ходы на листе бумаги и отправляли лист тем, против кого играли. Как-то безумно представить в наши дни. Позже использовалась электронная почта. В конце концов, игра стала доступна онлайн и позволяла игрокам участвовать друг с другом в режиме реального времени.

На Дипломатия Когда игра стала доступна на микрокомпьютерах, специалисты по искусственному интеллекту начали использовать ее в качестве удобного средства проверки своих дипломатических изобретений с использованием искусственного интеллекта. Дипломатия игра была доступна в виде приложения, работающего на ПК, так что человек мог играть против машины (т. е. разработанного ИИ). ИИ 1990-х годов, созданный для игры Дипломатия был заведомо медленным, загадочным, и его легко обыграл практически любой минимально подкованный в играх человек.

Вот обзор 1999 г. Дипломатия как было опубликовано на Yahoo, в котором ярко описывалось печальное состояние дипломатических способностей, наполненных ИИ, в качестве противника игрока-человека:

"Тем не мение, ДипломатияСамая вопиющая проблема заключается в том, что искусственный интеллект в игре совершенно ужасен. Геймеры любого уровня подготовки без труда справятся с игрой на компьютере даже на самой высокой сложности. Победа — это просто вопрос времени и терпения с интерфейсом. Дело не в том, что компьютер не строит планы за вашей спиной — он это делает, и он часто объединяется с союзниками, чтобы отобрать у вас территорию или две — но такие схемы появляются урывками, а не как непрерывный или конкретный процесс. вызывающая угроза».

Одной особенно досадной слабостью дизайна ИИ было то, что ему, казалось, не хватало способности просчитывать сразу несколько ходов или стратегий: «И на более базовом уровне компьютер кажется неспособным управлять несколькими стратегическими ходами. В то время как игрок-человек может атаковать Грецию и Бельгию одновременно, компьютер, кажется, всегда сосредотачивается только на чем-то одном. По этой причине компьютер просто не может конкурировать с игроком-человеком» (там же).

Я еще не объяснил вам, что такое Дипломатия состоит из настольной игры, так что давайте на минутку установим основные правила.

Есть удобный исследовательский документ об искусственном интеллекте и играх Дипломатия который лаконично описывает характер игры: «Действие игры происходит на карте Европы 1901 года, которая разделена на 75 провинций. Каждый игрок играет за одну из семи великих держав того времени: Австрию (AUS), Англию (ENG), Францию (FRA), Германию (GER), Италию (ITA), Россию (RUS) и Турцию (TUR), и каждый игрок начинается с трех или четырех юнитов (армий или флотов), которые размещаются на фиксированных начальных позициях на карте. В каждом раунде игры каждый игрок должен «отдать приказ» для каждого из своих юнитов, который сообщает этим юнитам, как передвигаться по карте, и позволяет им завоевывать провинции на карте» (Дэйв де Йонге, Тим Баарслаг, Рейхан Айдоган , Католийн Йонкер, Кацухидэ Фудзита и Такаюки Ито, «Вызов переговоров в игре дипломатии», Технологии соглашения: 6-я международная конференция, В 2018 г.)

Вам также необходимо знать о способах победы и способах проигрыша в игре: «Некоторые из провинций так называемые Центры снабжения и цель игроков - завоевать эти центры снабжения. Игрок выбывает, когда он или она теряет все свои центры снабжения, и игрок выигрывает игру, когда он или она захватывает 18 или более из 34 центров снабжения (одиночная победа). Однако игра может закончиться и тогда, когда все оставшиеся в живых игроки согласятся на ничью» (там же).

Я верю, что ты это видишь Дипломатия — это простая игра, в которой участвуют до семи игроков, которые пытаются стратегически перехитрить друг друга. Во время этого маневра игроки могут совещаться друг с другом, делая это так, чтобы другие игроки не знали, что они замышляют. Акт дипломатии выходит на первый план, когда вы можете заставить других игроков согласиться с вашими планами. Вы можете раскрыть свои истинные планы, а можете и нет. Вы можете предлагать ложные планы. Вы можете вести переговоры с другими игроками. Вы можете обмануть других игроков. Вы можете заключать союзы с другими игроками. И т.п.

Как говорится, все прекрасно в любви и на войне.

Я выбрал именно эту исследовательскую работу, потому что она сыграла важную роль в создании варианта компьютеризированной версии Дипломатия называется ДипИгра служить передовой платформой для тестирования дипломатических возможностей с использованием ИИ: «Существует хроническая нехватка общих доменов приложений для тестирования передовых исследовательских моделей и архитектур согласования агентов в многоагентных системах. В этой статье мы представляем удобный испытательный стенд для этой цели. Испытательный стенд основан на Дипломатическая игра где переговоры и отношения между игроками играют существенную роль» (там же). Этот и многие другие варианты Дипломатия были созданы и доступны для исследования и игры.

Исследователи объяснили, почему они считают, что Дипломатия такая полезная игра, помогающая ИИ в его стремлении к дипломатии с использованием ИИ: «Игра в Дипломатия представляет собой отличный тестовый пример для такого типа сложных переговоров, поскольку это игра, в которой есть много трудностей, с которыми вам также придется столкнуться в реальных переговорах. Это включает удовлетворение ограничений, формирование коалиции, теорию игр, доверие и даже психологию. Теперь, когда современные компьютеры для игры в шахматы и го уже намного превосходят любого игрока-человека, мы ожидаем, что Дипломатия начнет привлекать больше внимания как следующий большой вызов информатике» (там же).

Вкратце о настольной игре Дипломатия предоставляет уже известное и несколько популярное средство заставить людей действовать различными дипломатическими способами. Обычно люди играют против других людей (в данном случае до семи человек). Мы можем разработать ИИ, который попытается взять на себя роль игрока в игре. Таким образом, у вас может быть шесть игроков-людей и один игрок с искусственным интеллектом.

Представьте себе игру Дипломатия онлайн.

Если мы не скажем игрокам-людям, что среди них есть ИИ, они, естественно, могут предположить, что седьмой игрок — просто еще один игрок-человек. Чтобы попытаться помешать любому игроку-человеку догадаться, что играет ИИ, мы можем ограничить игровые аспекты требованием, чтобы все игроки отправляли текстовые сообщения друг другу. Вы не можете напрямую видеть других игроков.

Вы можете подумать, что это не особо отличается от игры в онлайн-шахматы. Почему такая шумиха вокруг Дипломатия как игра?

Напомним, что мы сосредоточены на взаимодействии между игроками. Предпосылка этой игры заключается в том, что игроки используют дипломатию по отношению друг к другу. Это не похоже на обычные шахматы. Если бы я разработал приложение для игры в шахматы на основе ИИ, оно обычно играло бы против одного человека. Между ИИ, играющим в шахматы, и игроком-человеком нет никаких переговоров или дискуссий. Они просто делают шахматные ходы и пытаются превзойти друг друга. Обычно это делается в полной тишине.

Дипломатия позволяет нам проявлять откровенную компьютерную и человеческую дипломатию (возможно, делая это в письменной форме, а не произнося ее вслух): «Основное различие между Дипломатия и других детерминированных игр, таких как шахматы и го, заключается в том, что в дипломатии игрокам разрешается вести переговоры друг с другом и формировать коалиции. В каждом раунде, прежде чем игроки отправят свои заказы, игрокам дается время, чтобы договориться друг с другом и договориться о заказах, которые они будут отправлять. Переговоры проходят в частном порядке, и каждое достигнутое соглашение известно только участникам, участвующим в этом соглашении» (там же).

Не могли бы вы придумать какую-нибудь другую игру, в которой использовалась бы интерактивная дипломатия, а не игра? Дипломатия?

Абсолютно.

Есть разные такие игры.

Однако удобство выбора одной конкретной версии игры заключается в том, что тогда разработчики ИИ могут сосредоточить свое внимание на этой конкретной игре. Вы можете сплотиться вокруг разработки ИИ, который выполняет дипломатию в этом определенном контексте. Вы можете поделиться подходами и противопоставить их. Вы можете оценивать различные экземпляры ИИ на основе показателей, связанных с этой игрой. И так далее.

При этом контраргумент или выраженное беспокойство заключается в том, что это все равно, что сложить все яйца в одну корзину. Некоторые опасаются, что если многие разработчики ИИ будут заняты одной конкретной платформой или средой, как в этом случае, Дипломатия, они будут стремиться оптимизировать ИИ для этой конкретной арены. Обратным следствием является то, что ИИ не будет обобщен. Мы не добьемся такого же прогресса в расширении возможностей дипломатии с искусственным интеллектом.

Это как не видеть леса за деревьями, если хотите.

Другая часто выражаемая озабоченность заключается в том, что такие игры, как Дипломатия являются просто играми.

Возникает сложный вопрос: делают ли люди, играя в игру, то же самое, что и в реальной дипломатии. Возможно, вы поступаете по-другому, когда на кону не стоит национальная гордость или национальные интересы. Конечно, вы можете беспокоиться о своей личной гордости, когда играете в игру, или, возможно, пытаетесь стать лучшим бомбардиром, или, может быть, даже выигрываете призовые, но все же равносильно ли это переговорам о мире во всем мире в Организации Объединенных Наций или торгу по поводу того, какие страны иметь или не иметь ядерное оружие.

Некоторые считают, что эти дипломатические игры являются подходящими микрокосмами реального мира. Другие сетуют на то, что игры полезны, но не дотягивают до пресловутой дипломатии «резина встречает дорогу» международного масштаба. Возможно, игровые версии дипломатии с искусственным интеллектом окажутся не чем иным, как простым игровым успехом. Черт возьми, разработанный ИИ может побеждать или преуспевать в игре, связанной с дипломатией, хотя оказывается, что использование того же ИИ в настоящих дипломатических условиях крайне затруднено и дает сбои или терпит неудачу.

Предположим на мгновение, что ИИ создается для игр, таких как Дипломатия действительно стоит. Вы можете разумно возразить, что независимо от того, подходит ли она только для игры или для реальных действий, идея влечет за собой расширение границ ИИ и продвижение ИИ, которое может способствовать дипломатии или может иметь другие выгодные прорывы в создании ИИ.

Поддержите смайлик на данный момент.

Далее мы рассмотрим, как Мета ИИ решил создать дипломата с искусственным интеллектом, который может действовать в игре Дипломатия.

Держитесь за шляпы.

Мета-ИИ и дипломатия Игра в машинного дипломата Цицерона

Как упоминалось ранее, есть исследовательская работа, опубликованная в Наука в котором описывается недавно анонсированное и публично выпущенное приложение Meta AI, придуманное как Cicero (в этом обсуждении я буду попеременно называть его «Cicero», а также прозвище «CICERO», написанное заглавными буквами):

«Мы представляем Цицерона, агента ИИ, который достиг производительности на уровне человека в стратегической игре. Дипломатия. В Дипломатия, семь игроков ведут частные переговоры на естественном языке, чтобы координировать свои действия, чтобы сотрудничать и конкурировать друг с другом. Напротив, предыдущие крупные успехи многоагентного ИИ были достигнуты в чисто состязательных средах, таких как шахматы, го и покер, где общение не имеет значения. По этим причинам, Дипломатия послужила сложным эталоном для многоагентного обучения» (Meta Fundamental AI Research Diplomacy Team, «Игра на человеческом уровне в игре дипломатии путем объединения языковых моделей со стратегическим мышлением», Наука22 ноября 2022 г.)

Я буду цитировать из статьи, а затем предлагать различные идеи, которые, надеюсь, будут вам интересны.

Учитывая, что ИИ только что стал доступен, я, вероятно, проведу последующий анализ после того, как у меня будет возможность провести глубокую практическую оценку кода, а также проведу некоторые экспериментальные игры, чтобы оценить возможности ИИ (такие как основные сильные и слабые стороны).

Следите за этой публикацией позже!

В любом случае, я надеюсь, вы заметили в отрывке, который я только что процитировал, фразу, в которой говорится, что ИИ «достиг производительности человеческого уровня в стратегической игре». Дипломатия".

Обдумай это.

Во-первых, безусловно, похвально, что удалось разработать ИИ, который играет Дипломатия игра на предполагаемом уровне производительности, близком к человеческому. Это чрезвычайно важно.

У нас много Дипломатия играя с ИИ, который не соответствует уровню людей, которые играют в Дипломатия игра. Больше, чем вы можете потрясти палкой. Это обнадеживает и волнует двигаться вверх к ИИ, который может намного лучше играть в игру. Тем не менее, нам нужно быть осторожными в поспешных выводах по этому поводу.

Например, предположим, что я разработал ИИ, чтобы играть Дипломатия и я противопоставил его игрокам-людям, которые никогда раньше не играли в эту игру. Если мой ИИ превзойдет их, будет преувеличением сказать, что мой ИИ работает на уровне человеческого уровня. Тот факт, что это было сделано с людьми, которые не были знакомы с игрой, несколько удивляет и вызывает сомнения.

Я говорю об этом, чтобы предупредить вас, чтобы вы всегда внимательно проверяли любые, казалось бы, преувеличенные утверждения об ИИ. Предыдущее обсуждение этики и закона об ИИ, возможно, откроет вам глаза на возможность ложных утверждений об ИИ. Есть откровенно ложные утверждения, а есть коварные частично верные и частично вводящие в заблуждение утверждения, которые особенно запутаны. Ключ в том, чтобы спросить, почему те, кто заявляет об их ИИ, делают это.

Где мясо?

Вот что команда Meta AI должна была сказать об основании их заявлений о производительности на уровне человека (дополнительную информацию см. В документе):

«Цицерон анонимно участвовал в 40 играх «Дипломатии» в лиге «блиц» на webDiplomacy.net с 19 августа по 13 октября 2022 года. Эта лига играла с пятиминутными ходами переговоров; этот контроль времени позволял завершить игру в течение двух часов. Цицерон вошел в 10% лучших участников, сыгравших более одной игры, и на 2-м месте из 19 участников лиги, сыгравших 5 или более игр. Во всех 40 играх средний результат Цицерона составил 25.8%, что более чем вдвое превышает средний результат 12.4% его 82 противников. В рамках лиги Цицерон участвовал в турнире из 8 игр с участием 21 участника, 6 из которых сыграли не менее 5 игр. Участники могли сыграть не более 6 игр, а их рейтинг определялся средним значением трех лучших игр. Цицерон занял в этом турнире 3-е место» (там же).

Это большое облегчение видеть, что они искренне пытались поддержать свои заявления об ИИ в этом случае (имейте в виду, что не все в ИИ делают это).

Можно предположить, что они провели эксперимент. Эксперимент состоит из людей-игроков, которые, по-видимому, не знали, что играют с игроком с ИИ среди них (в документе обсуждается, почему это казалось правдоподобным выводом, а именно, что люди не осознавали открыто, что один из игроков был ИИ, хотя интересный побочный эффект влечет за собой историю одного игрока, который стал немного подозрительным, но не особенно). Эти люди-игроки были предварительно отобраны в соответствии с характером экспериментального дизайна, так что они были игроками лиги Дипломатия и мы можем разумно заключить, что они хорошо знали, как играть в эту игру. Они не были новичками.

Согласно опубликованной статистике, которую мы будем принимать за чистую монету как прежнюю, должным образом собранную и сообщенную (различные данные и коды представлены в дополнительных материалах), ИИ, похоже, достаточно сыграл в игру, чтобы сделать правдоподобный, хотя и ограниченный вывод. что он достиг человеческого уровня производительности для этого варианта Дипломатия игра и, как в контексте заявленной игры лиги против людей, которые, казалось бы, были опытными игроками.

Я уверен, что некоторые из вас, возможно, захотят поспорить с количеством экземпляров игры, возможно, аргументируя это тем, что оно слишком мало, чтобы делать смелые заявления. Еще одним замечанием может быть то, что быть в числе 10% лучших участников недостаточно, так что пока, возможно, не будет достигнут 1% лучших, не следует хвастаться производительностью ИИ.

Эти придирки кажутся немного резкими.

Я говорю это, потому что, к счастью, не было заявлено, что я «сверхчеловек». Читатели, несомненно, знают о моем суровом и кислом взгляде на тех, кто занимается ИИ, которые продолжают делать громкие заявления о том, что их ИИ достиг сверхчеловеческого статуса. Я не буду вдаваться в мои жалобы на сверхчеловеческие заявления здесь, пожалуйста, см. ссылка здесь за мои взгляды.

Моя точка зрения в данном случае заключается в том, что я считаю, что указание производительности на человеческом уровне, вероятно, в целом допустимо, при условии, что каждый помнит, что это находится в чрезвычайно узком контексте, и что мы не пытаемся превратить это в так называемое сверхчеловеческий. Я также снова и снова повторяю ограниченный контекст по причине, которую объясню позже.

Я могу только представить, что некоторые социальные сети или наивные (возможно, с сомнительной репутацией) репортеры полностью вырвут из контекста концепцию производительности на уровне человека.

Вот чего я боюсь.

Задержи дыхание.

Некоторые утверждают, что ИИ освоил дипломатию. Да, исследование разработанной системы ИИ для дипломатии без тени сомнения доказало, что ИИ может и теперь способен делать все то, что люди делают для дипломатии.

Отправьте домой иностранных дипломатов. Мы можем заменить их ИИ.

Мир, каким мы его знаем, изменился. Мы создали ИИ, который полностью равен людям в дипломатии, и мы можем сделать мысленный «логический» скачок к идее, что теперь ИИ может делать то же, что и люди. Вуаля, теперь мы доказали, что ИИ не уступает людям. По-видимому, это исследование дает четкие доказательства существования разумного ИИ.

Помяните мои слова, это определенно будет странным, безответственным и надоедливым подходом некоторых писателей.

Я не буду останавливаться на этом. Мы движемся вперед.

Как работает ИИ?

Вот краткое изложение статьи: «Цицерон сочетает управляемый диалоговый модуль со стратегическим механизмом рассуждений. В каждый момент игры Цицерон моделирует действия других игроков, основываясь на состоянии игры и их разговорах. Затем он планирует, как игроки могут координировать свои действия для взаимной выгоды, и отображает эти планы в сообщениях на естественном языке» (там же).

В этом кратком изложении есть полный рот.

Позвольте мне сделать некоторые распаковки.

Человек-игрок, который играет Дипломатия должен предвидеть, что собираются делать другие игроки-люди. Вы хотите попытаться договориться с другими игроками и заставить их согласиться с вашими планами. Они попытаются сделать то же самое с вами. Они могут лгать вам. Вы можете лгать им. Вам предстоит сразиться с шестью другими игроками, у каждого из которых есть свое подобие планов и подходов.

Многоагентные аспекты этой игры жизненно важны для уровня сложности разработки ИИ для игры. ИИ должен следить за тем, что каждый человек может захотеть сделать, а также за тем, что, по их словам, он хочет сделать, а также за тем, какие уловки они делают с другими игроками. Это нужно сопоставлять с тем, что они говорят вам, что собираются делать, а также с тем, что вы говорите им, что будете делать.

Головокружительно, но обычно достаточно легко для людей.

На языке области ИИ мы называем это теорией разума (ToM). Учтите, что вы, как человек, склонны теоретизировать о том, что думают другие люди. Вы не можете взломать чью-то голову и увидеть их мысли. Вы должны угадать их мысли. Вы можете спросить их, но то, что они вам скажут, может быть их мыслями или скрытой версией их мыслей.

Вдобавок к сложностям теории разума нам нужно добавить в эту мутную смесь человеческий язык.

Когда человек общается с вами на своем естественном языке, скажем, на английском, есть много места для ошибок и недопонимания. Я говорю вам, что собираюсь захватить страну X, но по ошибке говорю Y. Oopsie. Или я сказал страну X, но вы ошибочно подумали, что я сказал страну Y. Если вы думаете, что такая путаница не может произойти, если все используют текстовые сообщения, вы глубоко ошибаетесь. Я могу напечатать сообщение, в котором говорится, что я собираюсь напасть на страну, но я не упоминаю, какую именно. Возможно, подразумевается, на кого я бы «очевидно» напал. Игрок, получивший мое сообщение, может предположить, что я косвенно имею в виду страну X, но, возможно, я хотел, чтобы они так думали.

Это продолжается и продолжается.

Суть в том, что наши последние достижения в области ИИ в области обработки естественного языка (NLP), и особенно последние достижения в области генеративного ИИ и больших языковых моделей (LLM), делают такую ситуацию с естественным языком почти выполнимой. В прошлом НЛП обычно не было достаточно хорошим, и точно так же LLM еще не зарекомендовали себя более хорошо.

В прошлом ИИ отправлял сообщения, которые вы почти наверняка сразу распознавали бы как написанные системой ИИ со сценарием. Формулировка не была беглой. Он был шаблонным. Это было очевидным доказательством того, что ИИ был ИИ. В настоящее время гораздо труднее понять, что ИИ не является человеком в этих контекстах.

Как упоминалось в приведенной выше цитате, этот конкретный ИИ был разработан, чтобы содержать «управляемый диалоговый модуль с механизмом стратегического мышления» (там же). Диалог происходит через это: «Цицерон генерирует диалог, используя предварительно обученную языковую модель, которая была дополнительно обучена на данных диалога из человеческих игр. Дипломатия. Важно отметить, что в дополнение к тому, что модель диалога основывается как на истории диалога, так и на состоянии игры, модель диалога была обучена управляться с помощью намерений, которые мы здесь определяем как набор запланированных действий для агента и его говорящего партнера».

Обратите внимание, что настройка домена имеет решающее значение. Если бы вы тренировались только на диалогах обычного характера в Интернете, это не обязательно подходило бы для Дипломатия игровой контекст. Те, кто играет в эту игру, привыкли к условному способу обсуждения игры и предлагаемых ходов. Вы хотите, чтобы ИИ поступал так же. Таким образом, обучение языковой модели на данных диалога, специфичных для предметной области, является заслуживающим внимания подходом.

Вот что они говорят о заявленном механизме стратегического мышления: «Цицерон использует модуль стратегического мышления для разумного выбора намерений и действий. Этот модуль запускает алгоритм планирования, который прогнозирует политику всех других игроков на основе текущего состояния игры и диалогов, учитывая как силу различных действий, так и их вероятность в играх с людьми, и выбирает оптимальное действие для Цицерона на основе этих прогнозов. . Планирование опирается на функцию ценности и политики, обученную с помощью самостоятельной игры RL, которая наказывает агента за слишком большое отклонение от человеческого поведения, чтобы поддерживать совместимую с человеком политику» (там же; обратите внимание, что RL — это аббревиатура для обучения с подкреплением).

Во время игры все игроки пересчитывают свои позиции после каждого хода. Вы не можете войти в эту игру с предопределенной фиксированной стратегией, которая является негибкой и высеченной в камне. Вы должны изменить свои действия в зависимости от того, что делают другие игроки. ИИ должен быть запрограммирован на то же самое. Статической стратегии как таковой нет. Вместо этого продолжайте анализировать ситуацию шаг за шагом, выясняя, какие следующие шаги следует предпринять.

Технологическая основа ИИ была разработана следующим образом: «Мы получили набор данных из 125,261 XNUMX игр Дипломатия играли онлайн на webDiplomacy.net. Из них 40,408 12,901,662 игр содержали диалоги, в которых игроки обменялись XNUMX XNUMX XNUMX сообщениями. Учетные записи игроков были деидентифицированы, а веб-дипломатия выполнила автоматическое редактирование личной информации (PII). В дальнейшем мы будем называть этот набор данных веб-дипломатией» (там же).

Подобно тому, как вы можете обучить ИИ играть в шахматы, в результате чего вы захватываете миллионы шахматных партий и заставляете ИИ сопоставлять шаблоны того, как проходили игры, ИИ для этого Дипломатия игры были сравнительно установлены.

Тем из вас, кто разбирается в искусственном интеллекте, может быть любопытно, какие базовые модели они использовали, вот вам: «Мы взяли R2C2 (22) в качестве нашей базовой модели — модель кодера-декодера на основе трансформатора с параметрами 2.7 байта, предварительно обученная на текст из Интернета с использованием цели шумоподавления BART. Затем базовая предварительно обученная модель была дополнительно обучена на WebDiplocacy с помощью стандартной оценки максимального правдоподобия» (там же).

Кроме того, они применили несколько необычный и интригующий подход к моделированию других игроков в отношении их вмененной политики: «Популярный подход в кооперативных играх заключается в моделировании политики других игроков посредством контролируемого обучения на человеческих данных, что обычно называется поведенческим клонированием (BC). Однако чистый BC хрупок, особенно потому, что модель под наблюдением может научиться ложным корреляциям между диалогом и действиями. Чтобы решить эту проблему, Цицерон использовал варианты piKL (26) для моделирования политики игроков. piKL — это итеративный алгоритм, предсказывающий политику, предполагая, что каждый игрок i стремится как максимизировать ожидаемое значение своей политики πi, так и минимизировать расхождение KL между πi и политикой BC, которую мы называем политикой привязки τi (там же).

Я думаю, что это охватывает основные аспекты и дает вам правильное представление о том, что делает ИИ и как он выполняет поставленную задачу.

Заключение

Я хотел бы упомянуть гораздо больше, но я слишком долго веду эту дискуссию и постараюсь охватить лишь несколько ключевых аспектов. Я постараюсь рассказать больше в следующей публикации.

Вы когда-нибудь слышали о дилемме заключенного?

Это классическая проблема, связанная с принятием решений.

Дилемма заключенного предполагает, что вы должны решить, будете ли вы сдавать или сплетничать о сокамернике. Другой заключенный также может сдать вас. Существует функция вознаграждения, так что если вы сдадите другого заключенного, а они не сдадут вас, это своего рода победа для вас. Если они сдадут вас, а вы не сдадите их, это своего рода победа для них и проигрыш для вас. Если вы оба сдадите друг друга, вы оба, по сути, проиграете. Смотрите мое освещение в деталях на ссылка здесь.

Какую стратегию вы бы придумали, столкнувшись с дилеммой заключенного?

Если бы это была разовая сделка, вы могли бы почти подбросить монетку. Если ситуация повторялась снова и снова, и вы имели дело с одним и тем же другим заключенным, вы могли бы обнаружить закономерность, которая могла бы проявиться. Один из самых популярных и часто рекомендуемых шаблонов известен как око за око. Что бы ни делал другой заключенный, вы делаете то же самое своим следующим ходом. Если они не сдадут тебя, ты не сдашь их. Если они сдадут вас, вы сдадите их на следующем ходу.

Вы можете быть озадачены тем, какое отношение все это имеет к дипломатии с искусственным интеллектом во время игры. Дипломатия.

Вот сделка.

В переговорах с другими вам часто приходится решать, говорить ли им правду или лгать им. Проблема с ложью заключается в том, что если вас поймают на лжи, другой человек, вероятно, с этого момента не будет вам доверять. Возможно, они не полностью доверяли вам с самого начала, но теперь, когда вы показали свою руку, что вы действительно лжете, они наверняка решат, что вы лжец.

Некоторые игроки из Дипломатия врать постоянно. Они считают, что это лучшая стратегия. Ложь, ложь и еще раз ложь. Другие игроки идут полной противоположностью. Они утверждают, что вы хотите воздерживаться от лжи, если можете это сделать. Используйте ложь только в самых необходимых ситуациях. Избегая лжи, вы можете завоевать доверие других игроков. Как только вы пойдете по пути лжи и будете обнаружены, никто не поверит ни одному вашему слову.

В документе, описывающем Цицерона, упоминается это соображение: «Наконец, Дипломатия — особенно сложная область, потому что успех требует установления доверия с другими в среде, которая побуждает игроков никому не доверять. Действия каждого хода происходят одновременно после ни к чему не обязывающих частных переговоров. Чтобы добиться успеха, агент должен учитывать риск того, что игроки могут не сдержать свое слово или что другие игроки могут сами усомниться в честности агента» (там же).

Согласно статье и коротким видеороликам, исследователи в конечном итоге обнаружили, что ИИ должен говорить как можно больше правды, что, по-видимому, является лучшей общей стратегией. В каком-то смысле это можно сравнить с дилеммой заключенного «око за око». Начните с того, что говорите правду. Если ваш оппонент говорит правду, вы продолжаете говорить правду. Если они начинают лгать, вам нужно решить, продолжать ли говорить правду или переключиться на ложь.

Можно предположить, что это трогательное открытие.

Имейте в виду, что сложная и интригующая часть Дипломатия заключается в том, что вы делаете это в отношении шести других игроков (известная как проблема с несколькими агентами). Вы могли бы быть откровенно правдивы со всеми ними. Или, может быть, правдиво для некоторых, но не для других. Существует также аспект, что, как только вы солжете и будете пойманы на лжи одному другому игроку, это может быть потенциально замечено или выведено другими игроками. Следовательно, известно, что вы лжете, или предполагается, что вы лжете, даже если вы не лгали конкретному игроку, который, как вы надеетесь, думает, что вы говорите правду, и по отношению к которому вы пытаетесь быть правдивым.

Люди склонны выяснять и развивать свои подходы к лжи и правде, когда осуществляют дипломатию. Ситуационные зависимости могут быть огромным фактором. Ставки на линии имеют решающее значение для рассмотрения. Множество факторов вступают в игру.

Было бы интересно иметь систему с искусственным интеллектом. Дипломатия компьютерный игрок играет в очень большое количество игр, чтобы увидеть, что могут предложить результаты в основном.

Мы также можем сравнить ИИ с менее чем шестью другими игроками, чтобы увидеть, как это изменит ситуацию. Мы также могли бы добавить в смесь ИИ как более чем одного игрока. Например, предположим, что у нас есть пять игроков-людей и два игрока с искусственным интеллектом (мы настроим игроков с искусственным интеллектом как отдельные экземпляры, чтобы они не были одним и тем же в вычислительном отношении). А как насчет четырех человек и трех ИИ? Как насчет шести ИИ и одного человека?

Другой путь — противопоставить ИИ исключительно ИИ. Таким образом, мы могли быстро запустить бессчетное количество игр. Настройка семи различных экземпляров ИИ. Каждый — это отдельный игрок. Поскольку все это находится внутри компьютера, мы можем запускать их без остановок и создавать тысячи или миллионы экземпляров игр.

Конечно, проблема с AI-versus-AI заключается в том, что мы удалили игроков-людей. Мы не знаем, отражает ли ИИ-против-ИИ то, что сделали бы игроки-люди. В любом случае, некоторые интересные результаты могут быть обнаружены.

Я уже говорил ранее, что одним из ограничений ИИ такого рода является то, что он обычно узконаправлен. Мы не можем сразу знать, что ИИ, который играет Дипломатия будут применимы в реальной дипломатии. Кроме того, возможно, ИИ, который хорошо работает для Дипломатия не будет особенно хорош в других онлайн-играх, ориентированных на дипломатию. Он может не портироваться, а быть своего рода пони с одним трюком.

Как указано в исследовании о формулировке ДипИгра:

«Мы утверждаем, что в реальных переговорах важно иметь знание предметной области и уметь об этом рассуждать. Нельзя, например, рассчитывать на выгодные сделки в антикварном бизнесе, не имея каких-либо знаний об антиквариате, независимо от того, насколько хорошо человек умеет торговаться. Более того, хороший переговорщик также должен уметь рассуждать о желаниях своих противников. Хороший продавец автомобилей, например, попытается выяснить, какой тип автомобиля лучше всего соответствует потребностям его клиента, чтобы увеличить шансы на заключение выгодной сделки» (цитируется ранее: Анджела Фабрег и Карлес Сьерра, «DipGame: сложные переговоры». Стенд», Инженерные приложения искусственного интеллекта, октябрь 2011 г.).

Однажды овладев искусственным интеллектом в Дипломатия происходит, все внимание должно быть обращено на использование или повторное использование ИИ для решения других игр, связанных с дипломатией. Кроме того, следует изучить возможности использования ИИ в реальных условиях дипломатии.

Я пока закончу на некоторых этических соображениях ИИ.

Во-первых, было приятно отметить, что команда мета-ИИ осознала, что их работа включает в себя разветвления этики ИИ. Возникают отрезвляющие вопросы. Правильно ли «обманывать» людей, заставляя их играть против ИИ, не сообщая им об этом? Может ли естественный язык, сгенерированный ИИ, непреднамеренно содержать оскорбительные формулировки, которые передаются игрокам-людям? И так далее.

Обязательно ознакомьтесь с тем, как они справились с этими насущными проблемами этического ИИ, в дополнительных материалах (SM) своей статьи: «Мы обсуждаем этические соображения для этого исследования далее в SM, включая соображения конфиденциальности при использовании данных (SM, § A.1), потенциальный вред в результате создания токсичного или предвзятого языка (SM, §A.2), возможности для неправильного использования технологии целенаправленного диалога (SM, §A.3) и раскрытие агента ИИ игрокам-людям (SM , §A.4)» (там же).

Нам нужно, чтобы больше разработчиков ИИ и их руководство знали об этичности ИИ и предпринимали осознанные шаги, чтобы быть осторожными и рассудительными в работе с ИИ, которую они выполняют. Кроме того, они должны убедиться, что они прозрачны в отношении того, какие этические действия ИИ они предприняли и какие предположения они сделали.

Мой последний пункт на данный момент влечет за собой общий трепет антропоморфизация AI.

Если мы улучшим ИИ, чтобы он казался остро дипломатичным, не заставит ли это людей в заблуждение предположить или поверить в то, что ИИ находится на одном уровне с людьми во всех отношениях?

Это легкий скользкий путь. Неуклюжий ИИ, с которым вы взаимодействуете, дает явный намек на то, что это, вероятно, ИИ, а не человек. Плавно повторяющийся ИИ, который выглядит как высшая дипломатическая уравновешенность, скорее всего, заставит людей без колебаний попасть в ловушку, что ИИ — это человек, в том числе, как если бы он обладал человеческим здравым смыслом и всеми способностями к пониманию людей.

Кроме того, поймите также, как это может быть использовано во время Дипломатия игра. Игрок-человек, который видит почти поэтические кажущиеся сообщения от другого игрока, может понять, что это должен быть ИИ (теперь далеко за пределами прежнего неуклюжего ИИ), тогда как другие люди не смогли бы так четко составить сообщения. Конечно, если ИИ продолжит приспосабливаться, он может изменить поэтическую формулировку, чтобы она более точно отражала краткую и расплывчатую формулировку реальных игроков-людей. В свою очередь, игроки-люди могут переключиться на поэтический язык, пытаясь выдать себя за людей. Идея состоит в том, что, возможно, другие игроки-люди захотят объединиться с другими людьми через ИИ.

Следующее, что вы знаете, игра начинает превращаться в попытку выяснить, кто человек, а кто ИИ. Если вы сможете понять, что есть что, возможно, это даст вам преимущество. С другой стороны, может быть, это и не так. ИИ может оказаться таким же подкованным в игре, как и люди. Ваши догадки о том, что есть что, не приносят вам много пользы. Это может отвлекать от простой концентрации на попытке выиграть игру, независимо от того, есть ли под рукой игроки с искусственным интеллектом или игроки-люди.

Для исследователей, желающих провести некоторые исследования человеческого фактора в отношении такой умопомрачительной концепции, вы могли бы рассмотреть возможность использования искусственного интеллекта. Дипломатия игрока и искать желающих Дипломатия турниры лиги для изучения возникающих стратегий идентификации человека и ИИ и поведенческой адаптации.

Давайте завернем это.

Марк Твен сказал о дипломатии: «Принцип давать и брать — это принцип дипломатии: дай один и возьми десять». Является ли это честной оценкой того, как люди функционируют, или это просто насмешливый юмор, который цинично, но неверно оценивает состояние человека?

Поразмышляйте над этими дополнительными вопросами:

Если мы сможем внедрить дипломатию в ИИ, научит ли это нас тому, как люди реализуют дипломатию, и, возможно, позволит человечеству улучшить искусство дипломатии?
Создадим ли мы фальшивый ИИ, который кажется разумным, когда в нем нет ничего подобного, и все из-за вычислительного вытаскивания кролика из шляпы, чтобы, казалось бы, продемонстрировать человеческую дипломатию?
Можно ли найти баланс между тем, чтобы ИИ был пропитан дипломатией, чтобы в то же время мы были предупреждены о том, что это все еще просто повседневный ИИ и поэтому не должны его антропоморфизировать?

Говорят, что дипломатия — это искусство позволять кому-то идти своим путем. Давайте убедимся, что наш путь — это человеческий путь, а не путь ИИ. Хотя, чтобы быть дипломатичным, теперь, когда я тщательно обдумал это, и в случае, если мы закончим с повелителями ИИ, возможно, нам следует позволить нашему пути быть путем ИИ, который, надеюсь, согласуется с подходящим человеческим путем.

Просто пытаюсь проявить капельку искусной дипломатии.

Источник: https://www.forbes.com/sites/lanceeliot/2022/11/23/meta-ai-unveils-ai-infused-diplomatic-charmer-what-stirs-ai-ethics-and-ai-law- в-неделикатный-tiff/