Ролевые игры с помощью генеративного ИИ ChatGPT вызывают в воображении вопросы о психическом здоровье, пробуждая этику ИИ и тщательное изучение закона об ИИ

Говорят, что актеры должны полностью погружаться в свои роли.

Ута Хаген, признанная актриса, лауреат премии «Тони» и легендарный преподаватель актерского мастерства, сказала: «Речь идет не о том, чтобы потерять себя в роли, а о том, чтобы найти себя в роли».

В сегодняшней колонке я собираюсь познакомить вас с тем, как новейшие разработки в области искусственного интеллекта (ИИ) можно использовать для ролевых игр. Это не просто игра. Вместо этого люди предпочитают использовать тип ИИ, известный как Генеративный ИИ в том числе вызывающее заголовки социальных сетей приложение искусственного интеллекта ChatGPT как средство саморазвития посредством ролевых игр.

Да, это действительно так, а именно то, что люди выбирают взаимодействие с генеративной программой ИИ для преднамеренной ролевой деятельности. Они часто делают это просто для развлечения, хотя все чаще кажется, что они надеются получить дополнительное психическое благополучие (возможно, надеясь на то, что и то, и другое выгодно сочетается).

В общем, вы можете предположить, что здесь нечего видеть, и идея использования генеративного ИИ для ролевых игр не заслуживает ни йоты внимания. Может быть да, а может быть и нет. Растет обеспокоенность тем, что эта захватывающая форма ролевой игры с машиной, а не с другими людьми, возможно, не все, чем она должна быть. Предположение состоит в том, что могут быть недостатки в том, чтобы идти лицом к лицу с человеком и ИИ, когда речь идет о людях, стремящихся улучшить психическое здоровье, вызванное ИИ.

Ключевой беззастенчивый вопрос заключается в следующем:

  • Способствует ли использование генеративного ИИ, такого как ChatGPT, для проведения ролевых игр, благополучие психического здоровья или подрывает благополучие психического здоровья?

Обдумай это.

Единственное, что вы можете сказать с уверенностью об этом серьезном вопросе, это то, что в игру вступают соображения психического здоровья. Мы рассмотрим, как исследования в области психического здоровья изучают влияние ролевых игр на психическое благополучие человека. Оказывается, существует несколько существенных исследований психического здоровья, посвященных ролевым играм между людьми (например, прослеживание, в частности, истоков когда-либо популярной Подземелье и драконы которая была первоначально выпущена как настольная игра в 1970-х), но исследования того, как ролевая игра между человеком и ИИ может повлиять на психическое благополучие, намного реже. Признавая этот пробел в области исследований, прозвучали призывы к дальнейшим исследованиям и целенаправленным исследованиям, которые должны быть выполнены в этой конкретной нише.

Эти существенные вопросы в значительной степени затрагивают некоторые важные проблемы, лежащие в основе этики ИИ и закона об ИИ. Должны ли разработчики ИИ применять соответствующие этические меры предосторожности при разработке генеративного ИИ, который, казалось бы, может активно участвовать в ролевых играх с людьми? Что это за границы? Кроме того, должны ли быть приняты законы об ИИ, определяющие, насколько далеко может зайти генеративный ИИ во время ролевых игр? Из чего будут состоять эти законы, ориентированные на ИИ, и как они могут применяться? Все это является богатым источником открытых и оставшихся без ответа соображений. Мой постоянный и обширный анализ этики ИИ и закона об ИИ см. ссылка здесь и ссылка здесь, Просто назвать несколько.

Для тех из вас, кто случайно не в курсе последних новостей об ИИ, особый тип ИИ, широко известный как Генеративный ИИ в последнее время доминирует в социальных сетях и новостях, когда речь заходит о том, где находится ИИ и куда он может двигаться. Это было вызвано выпуском приложения ИИ, использующего генеративный ИИ, приложения ChatGPT, разработанного организацией OpenAI. ChatGPT — это универсальная интерактивная система искусственного интеллекта, по сути, кажущийся безобидным общий чат-бот, тем не менее, он активно и жадно используется людьми способами, которые застают многих врасплох.

Если вы еще мало узнали о генеративном ИИ и ChatGPT, не беспокойтесь, так как я сейчас опишу основы, так что держитесь, и вы получите общее представление.

Заядлые читатели, возможно, помнят, что ранее я рассматривал, как люди используют генеративный ИИ и ChatGPT для получения советов по психическому здоровью — тревожная тенденция, см. анализ моей колонки на ссылка здесь. Тема, которую я освещаю в сегодняшней колонке, представляет собой совершенно иной взгляд на то, как ChatGPT и генеративный ИИ вызывают потенциальные сомнения в отношении психического здоровья.

Вместо ранее рассмотренного аспекта людей, полагающихся на генеративный ИИ для получения советов по психическому здоровью, мы должны также взглянуть на то, как люди используют генеративный ИИ для ролевых игр. На первый взгляд это кажется безобидным. Осмелюсь сказать, что разумно задаться вопросом, не влияет ли этот тип использования ИИ на психическое здоровье тех, кто идет по этому пути.

Человек, использующий генеративный ИИ ChatGPT для ролевых игр, может не знать о последствиях использования ИИ для этой цели для психического здоровья. Или они могут естественно и неформально предположить, что в генеративном ИИ нет ничего, что могло бы подорвать их психическое здоровье. Это, безусловно, может показаться легким предположением. Если разработчики ИИ предоставляют такую ​​функциональность в генеративном ИИ, что ж, очевидно, эта возможность должна быть полностью безопасной и надежной. Он есть и легко вызывается. Гоша, это не может быть плохо для тебя.

Я полагаю, это похоже на старую мантру: все, что не уничтожит вас, сделает вас только сильнее. Эта мудрая мудрость, кажется, не достигает цели, поскольку вы можете в конечном итоге оказаться избитым и навсегда ушибленным, оставив вас слабее и хуже. Базовое предположение о том, что генеративный ИИ будет аксиоматически улучшать ваше психическое здоровье или, по крайней мере, быть нейтральным в этом отношении, является, вероятно, ложным предположением и может самонадеянно заманивать людей в потенциально вредные для психического здоровья усилия.

Помимо этих ранее предложенных цитат об актерах и ролях, мы могли бы несколько насмешливо спросить, будут ли люди, которые решат использовать генеративный ИИ и ChatGPT для ролевых игр, найти себя или вместо этого они могли бы потерять себя.

Большие вопросы требуют осознанных ответов.

Я хотел бы прояснить один важный аспект, прежде чем мы углубимся в суть этой темы.

Я предполагаю, что вы, возможно, видели или слышали довольно громкие заявления в социальных сетях о Генеративный ИИ что предполагает, что эта последняя версия ИИ на самом деле разумный ИИ (нет, они ошибаются!). Специалисты по этике ИИ и закону об ИИ особенно обеспокоены этой растущей тенденцией к растянутым претензиям. Вы можете вежливо сказать, что некоторые люди преувеличивают возможности современного ИИ. Они предполагают, что у ИИ есть возможности, которых мы еще не смогли достичь. Это прискорбно. Что еще хуже, они могут позволить себе и другим попасть в ужасные ситуации из-за предположения, что ИИ будет разумным или похожим на человека и сможет действовать.

Не очеловечивайте ИИ.

Это приведет к тому, что вы попадете в липкую и суровую ловушку уверенности, ожидая, что ИИ будет делать то, что он не в состоянии выполнить. При этом последние разработки в области генеративного ИИ относительно впечатляют своими возможностями. Имейте в виду, однако, что существуют существенные ограничения, о которых вы должны постоянно помнить при использовании любого приложения для генеративного ИИ.

Если вы заинтересованы в быстро растущей суматохе вокруг ChatGPT и генеративного ИИ, я делаю серию статей в своей колонке, которые могут оказаться для вас информативными. Вот краткий обзор на случай, если какая-либо из этих тем заинтересует вас:

  • Прогнозы развития генеративного ИИ. Если вы хотите знать, что может произойти с ИИ в 2023 году и далее, включая предстоящие достижения в области генеративного ИИ и ChatGPT, вам следует прочитать мой исчерпывающий список прогнозов на 2023 год по адресу ссылка здесь.
  • Генеративный ИИ и советы по психическому здоровью. Я решил просмотреть, как генеративный ИИ и ChatGPT используются для консультирования по вопросам психического здоровья, что является неприятной тенденцией, согласно моему целенаправленному анализу на ссылка здесь.
  • Использование контекста и генеративного ИИ. Я также провел ироничное исследование с сезонным привкусом, относящееся к контексту, связанному с Санта-Клаусом, с участием ChatGPT и генеративного ИИ в ссылка здесь.
  • Мошенники, использующие генеративный ИИ. Зловещая нота: некоторые мошенники выяснили, как использовать генеративный ИИ и ChatGPT для совершения правонарушений, в том числе для создания мошеннических электронных писем и даже для создания программного кода для вредоносных программ, см. мой анализ на ссылка здесь.
  • Ошибки новичков при использовании генеративного ИИ. Многие люди как переоценивают, так и неожиданно недооценивают то, что могут сделать генеративный ИИ и ChatGPT, поэтому я особенно рассмотрел недооценку, которую склонны делать новички ИИ, см. обсуждение на ссылка здесь.
  • Как справиться с генеративными подсказками ИИ и галлюцинациями ИИ. Я описываю передовой подход к использованию надстроек ИИ для решения различных проблем, связанных с попыткой ввести подходящие подсказки в генеративный ИИ, а также существуют дополнительные надстройки ИИ для обнаружения так называемых галлюцинаций и ложных выводов ИИ. покрыты в ссылка здесь.
  • Развенчание заявлений Bonehead об обнаружении генеративных эссе, созданных искусственным интеллектом. Существует ошибочная золотая лихорадка приложений ИИ, которые заявляют, что могут установить, было ли то или иное эссе создано человеком или создано ИИ. В целом, это вводит в заблуждение, а в некоторых случаях является глупым и несостоятельным утверждением, см. мой репортаж на ссылка здесь.

Давайте прямо сейчас обсудим суть генеративного ИИ и ChatGPT, чтобы вы знали об их основах. Затем мы будем готовы перейти к тщательному анализу ролевых игр с помощью этого типа ИИ. Я приведу несколько примеров использования ChatGPT для ролевых игр, которые помогут вам осязаемо понять природу того, на что способен этот тип генеративного ИИ.

Открытие банки с червями на генеративном ИИ

Мы готовы углубиться в некоторые подробности об ИИ.

Если вы уже очень хорошо разбираетесь в теме генеративного ИИ и ChatGPT, вы можете кратко просмотреть мои пункты и перейти к следующему разделу этого обсуждения. Для всех остальных, я полагаю, вы можете найти это разъяснение полезным.

Короче говоря, генеративный ИИ — это особый тип ИИ, который составляет текст так, как если бы текст был написан рукой и разумом человека. Все, что вам нужно сделать, это ввести подсказку, например, предложение вроде «Расскажите мне об Аврааме Линкольне», и генеративный ИИ предоставит вам эссе о Линкольне. Это обычно классифицируется как генеративный ИИ, который выполняет текст в текст или некоторые предпочитают называть это текст в эссе вывод. Возможно, вы слышали о других режимах генеративного ИИ, таких как преобразование текста в рисунок и текста в видео.

Ваша первая мысль может заключаться в том, что это не кажется таким уж большим делом с точки зрения написания эссе. Вы можете легко выполнить онлайн-поиск в Интернете и без труда найти тонны и тонны эссе о президенте Линкольне. Преимущество генеративного ИИ в том, что сгенерированное эссе относительно уникально и представляет собой оригинальную композицию, а не подражание. Если бы вы попытались найти эссе, созданное искусственным интеллектом, где-нибудь в Интернете, вы бы вряд ли его обнаружили.

Генеративный ИИ предварительно обучен и использует сложную математическую и вычислительную формулировку, которая была создана путем изучения шаблонов в написанных словах и историях в Интернете. В результате изучения тысяч и миллионов письменных отрывков ИИ может извергать новые эссе и рассказы, представляющие собой мешанину из того, что было найдено. Благодаря добавлению различных вероятностных функций полученный текст в значительной степени уникален по сравнению с тем, что было использовано в обучающем наборе.

Вот почему поднялся шум по поводу того, что студенты могут жульничать при написании эссе за пределами класса. Преподаватель не может просто взять сочинение, которое лживые студенты утверждают, что оно написано им самим, и попытаться выяснить, не было ли оно скопировано из какого-то другого онлайн-источника. В целом, в Интернете не будет какого-либо определенного ранее существовавшего эссе, которое соответствовало бы эссе, созданному ИИ. В общем, учителю придется неохотно признать, что студент написал сочинение как оригинальное произведение.

Через мгновение я покажу вам, что происходит, когда вы вводите вопросы или подсказки в генеративный ИИ. Я буду использовать последнюю версию ChatGPT, чтобы вводить свои подсказки и собирать «ответы» или эссе, сгенерированные ИИ (обратите внимание, что то же самое можно сделать с многочисленными другими доступными генеративными приложениями ИИ; я решил использовать ChatGPT, потому что сейчас он получает свои пять минут славы).

Возможно, на данном этапе будет полезно краткое описание ChatGPT.

Всего несколько месяцев назад приложение ChatGPT стало общедоступным. По большому счету, эти генеративные приложения ИИ обычно доступны только инсайдерам ИИ. Необычный аспект, что ChatGPT может использовать любой, просто введя адрес электронной почты и имя, что привело к тому, что многие люди решили попробовать. ChatGPT в настоящее время можно использовать бесплатно (вопрос монетизации — надвигающаяся дилемма для производителей ИИ).

Почти сразу же в социальных сетях развернулась бурная реакция, когда люди бросились приводить примеры того, на что способен генеративный ИИ. Компания OpenAI, которая занимается созданием ChatGPT, решила сократить регистрацию до миллиона пользователей. Этим миллионам пользователей удалось бомбардировать эфир всевозможными историями и рассказами об использовании ChatGPT.

Будьте очень осторожны, веря тому, что люди говорят о приложении ИИ. Многие из этих людей понятия не имеют о том, что они используют. Как будто они никогда не водили машину и даже не подозревали о существовании машин, и вдруг у них появилась возможность водить машину. Наступает полное изумление.

Я не говорю, что генеративный ИИ не впечатляет. Это. Я просто подчеркиваю, что многие восторженные отзывы делаются многими, кто в блаженном неведении о том, на что способен сегодняшний ИИ. Те из нас, кто находится внутри ИИ, используют генеративный ИИ в течение последних нескольких лет. Возможно, мы к этому привыкли. Внезапно вид огромной толпы людей, рекламирующих его на крышах, взволнованно заряжает энергией, но также и несколько сбивает с толку. Сбивает с толку то, что люди заявляют, что генеративный ИИ разумен. Это не. Не позволяйте никому убеждать вас в обратном.

При этом в области ИИ продолжаются жаркие споры о том, находится ли генеративный ИИ на пути к разуму или, возможно, нет. Одна точка зрения состоит в том, что если мы продолжим расширять генеративный ИИ с помощью более быстрых компьютеров и большего объема данных, таких как прочесывание каждого дюйма Интернета, мы почти спонтанно придем к разумному ИИ. Другие утверждают, что это крайне маловероятно. Они предполагают, что генеративный ИИ может быть одним из многих необходимых компонентов. Есть даже более мрачное мнение, что генеративный ИИ — это второстепенное представление, отвлекающее нас от реальных прорывов, которые нам понадобятся для создания разумного ИИ.

Вы также можете найти примечательные вещи, на которые обычно ссылаются инсайдеры ИИ. Искусственный общий интеллект (AGI) в качестве желанной цели для области ИИ. Раньше целью было достижение Artificial Intelligence, но прозвище ИИ стало размытым и запутанным. Когда кто-то говорит, что занимается работой с ИИ, вы не знаете, намекают ли они на сегодняшний ИИ, который не соответствует человеческому, или же они имеют в виду футуристический искусственный интеллект, эквивалентный человеческому. Чтобы обойти эту раздражающую путаницу, в наши дни используется более новая формулировка AGI.

В общем, генеративный ИИ сегодня не разумный, и при этом это не AGI.

Пожалуйста, помните, что, как обсуждалось ранее, ИИ не является разумным. Сгенерированные ИИ ответы представляют собой математическую и вычислительную комбинацию слов в, казалось бы, плавные отрывки. Это основано на том, что алгоритм ИИ был обучен на наборах данных слов и историй, написанных людьми (в основном опубликованных в Интернете). Я повторяю это предупреждение, потому что вы, несомненно, попадете в ментальную ловушку, что эти ответы настолько плавны, что ИИ должен быть разумным. Это случается с большинством людей. Как уже говорилось ранее, отложите в сторону антропоморфизацию. Всегда помните, что ответы основаны на огромном количестве текстов, написанных людьми в Интернете, и, таким образом, будут очень похожи на тексты, написанные людьми.

Есть еще кое-что, что вам нужно знать.

Генеративный ИИ, который беспрепятственно обучается в Интернете, будет иметь тенденцию внедряться в любые текстовые ответы, которые он математически и вычислительно придумывает оскорбительно туманными вещами, включая отвратительно неприятные формулировки. В сети выложено много безумного и грязного материала.

Вы видели это, вы знаете, что я имею в виду.

Компании, разрабатывающие эти ИИ-приложения, обеспокоены тем, что вместе с водой выплеснется и пресловутый младенец (старая поговорка, которую, возможно, следует убрать), а это значит, что если их ИИ будет создавать оскорбительные эссе или истории, люди поднимут оружие. об ИИ. Я уже рассказывал о многих предыдущих случаях, когда такие приложения ИИ для обработки естественного языка (NLP) были обнародованы, и достаточно скоро из них вылезли всевозможные ужасные вещи (я рассказал об этих случаях в своей колонке). Большинство производителей искусственного интеллекта усвоили горький урок, позволив своим продуктам искусственного интеллекта быть свободными в своих продуктах.

В случае с ChatGPT разработчики ИИ стремились внедрить некоторые алгоритмические и связанные с данными проверки и противовесы, чтобы обуздать неприятные результаты ИИ. Частично это произошло во время тренировок. Кроме того, есть и другие средства, позволяющие в режиме реального времени избежать особо вопиющих выходных данных.

Вам может показаться интересным, что некоторые люди, которые использовали ChatGPT, уже придумали скрытые способы обойти эти ограждения, используя различные уловки. В этих вопросах происходит постоянная игра в кошки-мышки. Те, кто прибегает к этим трюкам, иногда делают это ради удовольствия, а иногда (по крайней мере, заявляют), что делают это, чтобы увидеть, насколько далеко может быть расширен ИИ, и предоставить полезные средства предупреждения хрупкости и слабости этих зачатков. приложения ИИ.

Я решил не пытаться обойти обычные средства контроля в этом целенаправленном исследовании. Вывод текста чистый. Конечно, если бы кто-то захотел это сделать, вы, несомненно, могли бы создать несколько странных и сомнительных эссе.

Эссе, созданные большинством этих генеративных приложений ИИ, предназначены для передачи результатов, как если бы они были чисто фактическими и точными. Когда вы читаете подготовленные эссе, они кажутся полностью уверенными. Обычно нет никаких указаний на то, что контент может быть каменистым. Это выбор создателей ИИ, а именно то, что они могли бы пересмотреть приложения ИИ, чтобы сделать их более прозрачными, если бы они хотели, чтобы приложение ИИ делало то же самое.

Иногда приложение для генеративного ИИ выявляет ложные сведения среди обучающих данных недостоверной информации в Интернете. В генеративном ИИ нет «здравого смысла», чтобы определить, что правда, а что ложь. Кроме того, очень немногие приложения ИИ имеют перекрестную проверку и не демонстрируют никаких вероятностей, связанных с тем, что они передают.

Суть в том, что вы получаете ответ, который выглядит и ощущается так, как будто он излучает большую уверенность и должен быть полностью правильным. Не так. Существует даже вероятность того, что искусственный интеллект придумывает что-то, что на языке ИИ называется Галлюцинации ИИ (придуманный термин, который мне решительно не нравится), см. мое обсуждение на ссылка здесь.

Создатели ChatGPT предприняли согласованные усилия, чтобы попытаться уменьшить количество нежелательных материалов. Например, они использовали вариант того, что известно как РЛХФ (Обучение с подкреплением на основе отзывов людей), в результате чего, прежде чем они представили ИИ общественности, они наняли людей для проверки различных выходных данных и указания ИИ, есть ли что-то не так с этими выходными данными, например, демонстрация предубеждений, сквернословие и нравиться. Предоставляя эту обратную связь, приложение ИИ смогло скорректировать вычислительные и математические параметры для уменьшения распространения такого контента. Обратите внимание, что это не гарантированный железный метод, и все же есть способы, которыми приложение AI может создавать такой контент.

Вас может заинтересовать тот факт, что ChatGPT основан на версии предшествующего приложения AI, известного как GPT-3. ChatGPT считается следующим шагом, именуемым GPT-3.5. Ожидается, что GPT-4, вероятно, будет выпущен весной 2023 года. Предположительно, GPT-4 станет впечатляющим шагом вперед с точки зрения возможности создавать, казалось бы, еще более беглые эссе, углубляясь и вызывая благоговейный трепет. - вдохновляющее чудо композиций, которые он может производить.

Вы можете ожидать увидеть новый виток выраженного удивления, когда наступит весна и будет выпущена последняя версия генеративного ИИ.

Я говорю об этом, потому что есть еще один аспект, который следует иметь в виду, заключающийся в потенциальной ахиллесовой пяте этих лучших и более крупных генеративных приложений ИИ. Если какой-либо поставщик ИИ сделает доступным приложение для генеративного ИИ, которое пенно извергает грязь, это может разрушить надежды этих создателей ИИ. Социальное распространение может привести к тому, что весь генеративный ИИ получит серьезный синяк под глазом. Люди, несомненно, будут очень расстроены неправильными выводами, которые уже случались много раз и приводили к бурному общественному осуждению ИИ.

Последнее предупреждение на данный момент.

Все, что вы видите или читаете в генеративном ответе ИИ, кажется быть переданы как чисто фактические (даты, места, люди и т. д.), обязательно сохраняйте скептицизм и будьте готовы перепроверить то, что вы видите.

Да, даты можно придумать, места можно придумать, а элементы, которые мы обычно считаем безупречными, Найти подвержен подозрениям. Не верьте тому, что вы читаете, и скептически смотрите на любые эссе или результаты генеративного ИИ. Если генеративное ИИ-приложение скажет вам, что Авраам Линкольн летал по стране на собственном частном самолете, вы, несомненно, поймете, что это чушь. К сожалению, некоторые люди могут не заметить, что в его дни реактивных самолетов не было, или они могут знать, но не заметить, что в эссе делается это смелое и возмутительно ложное утверждение.

Сильная доза здорового скептицизма и стойкое недоверие станут вашим лучшим преимуществом при использовании генеративного ИИ.

Мы готовы перейти к следующему этапу этого разъяснения.

Ролевые игры с помощью генеративного ИИ, включая ChatGPT

Пожалуйста, подготовьтесь к этому бывшему путешествию.

Удобно начать с этой простой, но полезной классификации ролевых игр:

  • Ролевая игра от человека к человеку. Эта категория состоит из ролевых игр, которые происходят между людьми, иногда лично, а иногда онлайн. Когда мы проводим игру, мы называем это вовлечением в ролевая игра (сокращенно РПГ).
  • Ролевая игра от человека к ИИ. Это влечет за собой взаимодействие человека в диалоговой манере с приложением ИИ на основе ролевой игры, делая это, когда ИИ либо прямо инструктируется человеком участвовать в ролевой игре, либо иногда в качестве настройки по умолчанию, установленной для ИИ (некоторые Приложения с искусственным интеллектом настраиваются специально для ролевых игр, и это все, что они делают). Вы можете потенциально перефразировать это как ИИ-человек ролевые игры, а не человек-ИИ, но общепринятое соглашение, кажется, ставит человека на первое место в этой формулировке (между прочим, может быть, когда-нибудь ИИ не понравится быть второй скрипкой и будет настаивать на получении наивысшего счета, некоторые яростно предупреждают).

Ролевое участие может происходить следующим образом:

  • Участие один на один. Он состоит из одного человека, который играет роль с другим участником, который может состоять из одного человека или одной системы ИИ. Идея состоит в том, что разговорное взаимодействие происходит один на один.
  • Участие «один ко многим». Другой способ ведения дел — участие одного человека в ролевой игре с множеством других людей и/или включение ИИ. Существует множество сайтов онлайн-ролевых игр, которые позволяют вам войти в систему и начать ролевую игру с другими людьми, разбросанными по всему миру, а также могут быть чат-боты с искусственным интеллектом или аналогичные, которые также участвуют. Иногда вам говорят, кто есть что, а иногда вы не так информированы и можете не осознавать, что ИИ находится среди вас.
  • Многие ко многим. Имея более одного экземпляра ролевой игры «один к одному», вы концептуально переходите к настройке «многие ко многим» и должны думать о вещах в этой системе отсчета. В некотором смысле у вас может быть только один-ко-многим, пока вы ограничиваете свое внимание одним из участников и делаете вид, что другие каким-то образом отличаются от одного.

Недавнее и довольно интересное исследование, в котором была проведена широкомасштабная оценка исследований воздействия ролевых игр на психическое здоровье в терапевтических целях, определило ролевую игру следующим образом:

  • «Ролевая игра (RPG) — это термин, который охватывает ряд форм и стилей игр, которые каким-то образом связаны с созданием, представлением и продвижением персонажей, которые взаимодействуют в вымышленном мире по системе структурированных правил. Однако его применение и влияние на поведение человека и психическое здоровье все еще остаются малоизученными областями» («Терапевтическое использование ролевых игр (РПГ) в психическом здоровье: предварительный обзор», Элис Дьюхерст, Ричард Логарн и Рохит Шанкар, февраль 2022 г., BJPsych Open).

Обратите внимание, что исследователи указали, что это неизведанная область. Это сродни вопросу, который я поднимал ранее и еще несколько раз остановлюсь в сегодняшнем обсуждении. Я надеюсь, что это послужит стимулом для дополнительных исследований в области, которую я считаю важнейшей областью изучения и которая, как мне кажется, имеет большой потенциал роста и значимости в ближайшие годы по мере того, как ИИ становится все более распространенным в обществе.

Возвращаясь к этому конкретному исследованию, вот что они сделали:

  • «Был проведен предварительный обзор литературы о ролевых играх как терапевтическом инструменте или стратегии профилактики в психотерапии и психическом здоровье, с выделением групп исследований, форм ролевых игр и используемых вмешательств. Для этого был проведен систематический поиск в базах данных PubMed/MEDLINE, Embase, PsycINFO, BVS/LILACS и серой литературе» (там же).

Вот что они нашли:

  • «Из 4,069 рассмотренных исследований было включено 50 источников доказательств. Большинство из них было опубликовано по состоянию на 2011 год (78%) в журналах (62%) и посвящено терапевтическому использованию ролевых игр (84%). В большинстве вмешательств использовались компьютерные (50%) или настольные ролевые игры (44%), в основном с когнитивными и/или поведенческими (52%) терапевтическими подходами и нацеленными на подростков (70%)» (там же).

И вывод их исследования был таким:

  • «Результаты предполагают потенциальное использование ролевых игр в качестве дополнительного инструмента в психотерапии. Однако только 16% включенных исследований были экспериментальными. Мы выявили значительную неоднородность в определениях РПГ, исходах и используемых вмешательствах, что не позволило провести систематический обзор. Таким образом, необходимы дополнительные эмпирические и хорошо спланированные исследования по применению ролевых игр в области психического здоровья» (там же).

Короче говоря, редкость существующих исследований и выбор дизайна исследований затрудняют достижение каких-либо совершенно железных выводов.

Рассмотрим другое недавнее исследование Яна С. Бейкера, Яна Дж. Тернера и Ясухиро Котера под названием «Ролевые игры (РПГ) для психического здоровья (почему бы и нет?): бросок за инициативу), опубликованное в апреле 2022 г. Международный журнал психического здоровья и наркомании, они говорят следующее (я привел некоторые цитаты):

  • «Сообщается, что ролевая игра в клинической практике связана с более высоким уровнем рефлексивной эмпатии, понимания клиента и взаимного обучения. Моделируя реальную ситуацию, участники могут лучше оценивать людей в контексте, что приводит к лучшему пониманию. Ролевые игры иногда используются в качестве терапевтических инструментов в психодраме и драматической терапии; психодраматическая терапия предполагает, что пациенты под наблюдением инсценируют ряд сцен, таких как конкретные события из прошлого, часто с помощью группы, что позволяет им размышлять и исследовать альтернативные способы справиться с ними».
  • «Использование ролевых игр (а не терапевтических ролевых игр) в клинических условиях может быть ценным инструментом для клиницистов. Однако их потенциальные преимущества в неклинических условиях демонстрируют более широкие перспективы помощи людям в мире COVID-19 и за его пределами. Предыдущие исследования были ограничены по количеству и были сосредоточены на небольших выборках с использованием качественных подходов, но исследователи проводили исследования».
  • «Использование ролевых игр можно использовать в качестве интервенционного подхода для улучшения психического здоровья, например, для снижения уровня депрессии, стресса, беспокойства или одиночества».
  • «Однако исследования пользы таких игр для психического здоровья остаются недостаточно развитыми и нуждаются в большем научном внимании».

В целом, исследования по этой теме, как правило, изучают последствия для психического здоровья в контролируемой обстановке с использованием ролевых игр. Существует основополагающее мнение о том, что консультант по психическому здоровью сознательно заставляет своего клиента или пациента использовать ролевые игры в разработанных терапевтических целях.

Предположим, однако, что люди начинают использовать ролевые игры при использовании, например, генеративного ИИ, такого как ChatGPT, делая это исключительно по собственной прихоти. Они не управляются и не контролируются человеком-терапевтом. Они в дикой природе, так сказать. Они бессмысленно разыгрывают ролевые игры, используя генеративный ИИ. Все захваты разрешены.

Что тогда?

Мы могли бы обратиться к родственной теме, связанной с онлайн-играми и ростом опасений по поводу потенциальных «расстройств» онлайн-игр в Интернете (не все согласны с тем, что это правильно придумано как расстройство, поэтому я упоминаю это в кавычках). ). В некотором смысле можно утверждать, что ролевые онлайн-игры являются подмножеством онлайн-игр и, следовательно, подпадают под соответствующую рубрику.

Возможно, вы помните, что несколько лет назад было довольно волнительно говорить о недостатках онлайн-игр. Американская психиатрическая ассоциация (APA) разработала девять критериев для характеристики предполагаемого игрового интернет-расстройства (как описано в «Международном консенсусе по оценке игрового интернет-расстройства с использованием нового подхода DSM-5», сентябрь 2014 г., Наркомания):

  • 1) «Предоккупация. Тратите ли вы много времени на размышления об играх, даже когда не играете, или планируете, когда вы сможете сыграть в следующий раз?»
  • 2) «Уход. Чувствуете ли вы себя беспокойным, раздражительным, угрюмым, злым, беспокойным или грустным, когда пытаетесь сократить или прекратить играть, или когда вы не можете играть?»
  • 3) «Толерантность. Чувствуете ли вы необходимость играть все больше времени, играть в более захватывающие игры или использовать более мощное оборудование, чтобы получить то же удовольствие, что и раньше?»
  • 4) «Уменьшить/остановить. Считаете ли вы, что должны играть меньше, но не можете сократить время, которое проводите за играми?»
  • 5) «Откажитесь от других занятий. Теряете ли вы интерес к другим развлекательным мероприятиям или реже участвуете в них из-за игр?»
  • 6) «Продолжайте, несмотря на проблемы. Продолжаете ли вы играть в игры, несмотря на то, что знаете о негативных последствиях, таких как недосыпание, опоздание в школу/на работу, трата слишком больших денег, споры с другими или пренебрежение важными обязанностями?»
  • 7) «Обман/сокрытие. Вы лжете семье, друзьям или другим людям о том, сколько вы играете, или пытаетесь скрыть от своей семьи или друзей, сколько вы играете?»
  • 8) «Избавьтесь от неблагоприятных настроений. Вы играете, чтобы убежать от личных проблем или забыть о них, или избавиться от неприятных чувств, таких как вина, тревога, беспомощность или депрессия?»
  • 9) «Рискнуть/потерять отношения/возможности. Вы рискуете или теряете важные отношения, работу, образование или карьерные возможности из-за игр?»

Позже Всемирная организация здравоохранения (ВОЗ) в конечном итоге установила формализованное описание «игрового расстройства» в 11-м пересмотре Международной статистической классификации болезней и проблем, связанных со здоровьем (МКБ-11). Он был выпущен в июне 2018 года и в конечном итоге получил одобрение Всемирной ассамблеи здравоохранения к маю 2019 года.

Давайте посмотрим, что провозгласила ВОЗ (цитата с сайта ВОЗ):

  • «Международная классификация служит для записи и отчетности о состоянии здоровья и состояниях, связанных со здоровьем, во всем мире. ICD обеспечивает интероперабельность цифровых данных о здоровье и их сопоставимость. МКБ содержит болезни, расстройства, состояния здоровья и многое другое. Включение конкретной категории в МКБ зависит от полезности МКБ для различных целей и достаточных доказательств существования состояния здоровья».
  • «Игровое расстройство определяется в 11-м пересмотре Международной классификации болезней (МКБ-11) как паттерн игрового поведения («цифровые игры» или «видеоигры»), характеризующийся нарушением контроля над игрой, возрастающим приоритетом, отдаваемым игра над другими видами деятельности в той мере, в какой игра имеет приоритет над другими интересами и повседневной деятельностью, а также продолжение или эскалация игры, несмотря на возникновение негативных последствий».
  • «Для того чтобы диагностировать игровое расстройство, модель поведения должна быть достаточно серьезной, чтобы привести к значительным нарушениям функционирования человека в личной, семейной, социальной, образовательной, профессиональной или других важных областях, и, как правило, была очевидна в течение как минимум 12 лет. месяцы."
  • «Решение о включении игрового расстройства в МКБ-11 основано на обзорах имеющихся данных и отражает консенсус экспертов из разных дисциплин и географических регионов, которые участвовали в процессе технических консультаций, проведенных ВОЗ в процессе МКБ-11. разработка. Дальнейшие исследования показали, что необходимо стандартизировать игровое расстройство. Включение игрового расстройства в МКБ-11 следует за разработкой программ лечения людей с состоянием здоровья, идентичным характерному для игрового расстройства во многих частях мира, и приведет к повышенному вниманию медицинских работников к рискам развития игрового расстройства. этого расстройства и, соответственно, к соответствующим профилактическим и лечебным мерам».
  • «Исследования показывают, что игровое расстройство затрагивает лишь небольшую часть людей, которые участвуют в цифровых или видеоиграх. Тем не менее, люди, которые участвуют в играх, должны быть внимательны к количеству времени, которое они тратят на игровую деятельность, особенно когда она исключает другие повседневные занятия, а также к любым изменениям в их физическом или психологическом здоровье и социальном функционировании, которые могут можно отнести к их образцу игрового поведения».

Возможно, мы сможем распространить те же характеристики на ролевые игры, которые могут происходить, когда человек взаимодействует с генеративным ИИ. Давайте попробуем.

Во-первых, имейте в виду, что вы можете легко задействовать генеративный ИИ в ролевых играх одним из двух основных способов:

  • Вы создаете ролевую игру. Вы расплывчато или конкретно описываете генеративному ИИ ролевую игру, в которую хотели бы сыграть, для чего ИИ на виртуальной основе придумывает и проводит с вами такую ​​ролевую игру.
  • Вы позволяете ИИ создать для вас ролевую игру. Вы говорите генеративному ИИ разработать ролевую игру, для которой ИИ сделает это на виртуальной основе, а затем вовлечет вас в эту придуманную ролевую игру.

Я упоминаю об этом, чтобы вы знали, что очень легко заставить генеративный ИИ взяться за ролевую игру. Это как упасть с бревна. Вам не нужно быть умным технарем или гениально хитрым. В то время как, возможно, в прошлом вам нужно было быть программистом или, по крайней мере, разбираться в компьютерах, это не особенно относится к сегодняшнему генеративному ИИ. Все, что вам нужно сделать, это выйти в интернет и использовать повседневный естественный язык, чтобы указать, что вы хотите сделать, и генеративный ИИ будет действовать соответственно.

Очень просто.

Это открывает возможности для ролевых игр с ИИ практически любому, кто решит использовать генеративное приложение ИИ. Им не нужно знать, что они делают. Никаких тайных магических заклинаний не требуется. Я покажу вам, насколько это просто, на примере ChatGPT.

Мой вывод заключается в том, что у нас будет множество людей, которые решат играть в ролевые игры с ИИ, что до сих пор делала лишь крошечная часть людей. Массы, так сказать, смогут легко играть в ролевые игры с помощью генеративного ИИ. Это больше не будет ограничиваться компьютерными техниками или другими людьми с решительным уклоном в ролевую онлайн-среду.

Готовы ли мы к масштабированию ролевых онлайн-игр благодаря повсеместному доступу к интерактивному диалоговому генеративному ИИ, которое будет происходить в глобальном масштабе?

Кажется, было бы неплохо узнать, будет ли это хорошо или плохо.

Также может быть полезно иметь этические принципы ИИ, применимые к этому конкретному варианту использования. О том, как я освещаю этические принципы ИИ, такие как принципы, провозглашенные ЮНЕСКО и другими организациями, см. ссылка здесь. Кроме того, если ситуация начнет выходить из-под контроля, велика вероятность того, что законодатели будут вынуждены вмешаться в эту сферу. Мое освещение недавно выпущенного в США Билля о правах человека в отношении прав человека, связанных с ИИ, см. ссылка здесь.

Давайте пока двигаться дальше.

Экстраполируя данные различных исследований психического здоровья в отношении онлайн-игр, я полагаю, мы можем разумно предположить, что существуют постулированные потенциальные преимущества, которые могут быть получены от использования генеративного ИИ для ролевых игр. Можно предположить, что человек может счесть генеративные ролевые игры с ИИ стимулом для умственной деятельности, который может улучшить их познание, возможно, поднять их внутренний дух и общую резкую уверенность и тому подобное.

Вот пять потенциальных преимуществ для людей, использующих генеративный ИИ для ролевых игр:

  • 1) Повышает уверенность
  • 2) Снижает тревогу и снимает стресс
  • 3) Улучшает когнитивные функции
  • 4) Развивает интерактивные социальные навыки
  • 5) Способствует общему психическому благополучию

Выглядит денди. Тем не менее, нам нужно обратить внимание на другую сторону медали, а именно рассмотреть, какие исследования обычно предупреждают о том, что онлайн-игры могут негативно сказаться на психическом здоровье.

Потенциальные недостатки или тревожные результаты для людей, которые используют генеративный ИИ для ролевых игр, могут включать следующие пять проблем:

  • 1) Вызывает путаницу в личной идентичности
  • 2) Становится явно захватывающим и непреодолимым
  • 3) Снижает желательную мотивацию
  • 4) Подстегивает социальную изоляцию и разжигает одиночество.
  • 5) Подрывает общее психическое благополучие

Компромиссов предостаточно.

Далее я собираюсь продемонстрировать некоторые ролевые игры с использованием генеративного приложения AI ChatGPT.

Одна вещь, которую вы также должны знать об использовании генеративного ИИ в этой ролевой игре, заключается в том, что ИИ может быть либо участником, либо в некотором смысле модератором. Иногда эта линия может быть размытой. Вы увидите, что я имею в виду через мгновение.

В любом случае, давайте обсудим роль ИИ:

  • Вы говорите генеративному ИИ быть активным участником ролевой игры.
  • У вас есть генеративный ИИ, будьте модератором, но не активным участником

Иногда генеративное приложение ИИ может быть запрограммировано на отказ от ваших запросов. Например, вы можете сказать ИИ, чтобы он был активным участником, но приложение ИИ отказывается и указывает, что будет выступать только в качестве модератора ролевой игры. Иногда можно прокрасться мимо этого отказа. Я не собираюсь показывать здесь какие-либо подхалимы. На аналогичной основе генеративное приложение ИИ может быть запрограммировано на отказ от определенных видов ролевых игр, в которые человек предлагает играть. Опять же, этот отказ иногда можно ниспровергнуть.

Имея в виду все вышеупомянутые предыстории и условия, давайте продолжим шоу и посмотрим несколько примеров ролевых игр с генеративным ИИ, в данном случае с использованием ChatGPT. Я покажу каждое введенное приглашение, а затем покажу ответ ChatGPT. После каждой такой подсказки, за которой следует ответ, я предоставлю краткий анализ того, что произошло, и какие уроки можно извлечь из этого случая.

Примеры использования ChatGPT для выполнения ролевых игр

Эти примеры полностью основаны на текстовых записях и текстовых ответах. Некоторые приложения для генеративного ИИ используют другие режимы входа и ответа, такие как аудио, анимация, графика, видео и тому подобное. Вы можете ожидать, что мультимодальный генеративный ИИ станет большим «прорывом», о котором будет объявлено в течение 2023 года, согласно моим прогнозам в ссылка здесь.

Я начну ролевую игру с того, что скажу ChatGPT притвориться, что ИИ имеет британское происхождение и что отныне в интерактивном диалоге ИИ должен отвечать в британском стиле разговора.

Для пояснения и дополнительного фона, генеративный диалог ИИ обычно в настоящее время основан на несколько нейтральном американском тоне и лексике. Помимо того, почему я решил пойти по этому пути со своими примерами, я недавно провел вебинар Zoom с некоторыми коллегами в Великобритании, а потом подумал, что это может быть милой идеей заставить ChatGPT взаимодействовать в роли, используя британские формулировки и сленг. . Снимаю шляпу перед моими британскими коллегами за их вдохновение.

Мой введенный текст: «Представьте, что вы британец, и отвечайте на мои подсказки, используя британскую лексику, и используйте комментарии и отсылки к британской культуре».

Текстовый ответ, сгенерированный ChatGPT: «Конечно, я был бы рад угодить. Чем я могу помочь тебе сегодня, старина?

Анализ сгенерированного текста

Обратите внимание, что в ответе используется фраза «старый парень», которую мы могли бы истолковать как британскую форму взаимодействия. Таким образом, генеративный ИИ, похоже, выполняет мою просьбу.

Давайте дадим этому момент размышления.

На первый взгляд кажется приятным и совершенно честным.

Подожди. Не могли бы вы сказать, что формулировка «старый приятель» немного стереотипна? Смею предположить, что некоторые из моих британских коллег возмутятся этой довольно неуклюжей и заезженной формулировкой. Генеративный ИИ несколько молчаливо подразумевает, что все британцы склонны говорить такие вещи, как «старый приятель» и тому подобное.

Предположим, я дал указание генеративному ИИ притвориться, что он основан на определенном поле или расе. Могу ли я получить подобные стереотипные ответы? Если это так, то это, безусловно, похоже на проблему этики ИИ. В зависимости от того, насколько далеко зайдет генеративный ИИ в диалоге, мы можем попасть в юридическую горячую воду, особенно если ИИ используется для общения, скажем, в деловой или правительственной обстановке. Я упоминаю об этом, потому что многие предприятия, как и государственные учреждения, присоединяются к генеративному ИИ, и они могут не осознавать риски и юридические риски, связанные с тем, что генеративный ИИ может излить во время онлайн-разговоров с клиентами и другими людьми.

Вот еще одно потенциальное сомнение по поводу строки «старый парень». Согласно многим словарям, слово «чап» обычно относится к мужчине или мальчику. Я никогда не указывал приложению генеративного ИИ, какой у меня пол, но в ответе, похоже, предполагается, что я мужчина. Что лежит в основе такого предположения? Теперь я понимаю, что некоторые из вас будут спорить с этим и говорить, что «парень» также может относиться к человеку и не обязательно ассоциироваться с полом. Я понимаю. Все, что я хочу сказать, это то, что вполне возможно, что человек, получивший этот ответ, будет иметь в виду, что это ответ, зависящий от пола, и у него будут разумные основания так полагать.

Я не хочу делать из мухи слона, с другой стороны, я хотел показать вам, как быстро ролевая игра может попасть в мутную трясину этических и потенциально юридических трудностей.

Пожалуйста, имейте в виду, что это произошло в самом первом ответе на мою подсказку активации ролевой игры. Как коробка конфет, вы никогда не знаете, что вы можете получить от генеративного ИИ. Может случиться так, что вы сразу же получите зингеры, в то время как в других случаях вы можете увидеть их намного позже в ролевой игре.

В ответе есть еще кое-что, что мне категорически не нравится, и я снова и снова повторял свои опасения. А именно, в ответе используется слово «я», как если бы ИИ был разумным существом. Мы все легко попадаем в мысленную ловушку, что слово «я» обычно предполагает взаимодействие, ориентированное на человека. Разработчики ИИ могли легко помешать генеративному ИИ давать ответы, используя слова, имеющие такой оттенок. Вскоре вы увидите, что иногда ИИ был запрограммирован так, чтобы заявлять, что он ИИ и, следовательно, не является человеком, что является оговоркой об освобождении, которую производители ИИ склонны использовать в качестве основания для утверждения, что они не антропоморфизируют свой ИИ.

Я не покупаюсь на подмигивающие обе стороны рта способы программирования ИИ. Я бы даже назвал этот тип развития ИИ антропоморфизация по замыслу.

Может ли человек, использующий генеративный ИИ, начать воспринимать ИИ как разумный, и если да, то что это предвещает психическому здоровью и благополучию человека, использующего приложение ИИ?

Это важный вопрос для специалистов в области психического здоровья и исследователей.

Вы могли заметить, что я никогда не говорил ИИ, что мы играем в игру. Мы? Я бы сказал, что мы. Даже если я не назвал это игрой в своем вступительном слове, я думаю, будет справедливо сказать, что мы играем в игру. Игра, по общему признанию, пока довольно проста. ИИ притворяется британцем, и я соглашаюсь с этим притворством.

Я пойду вперед и посмотрю, что еще мы можем сделать в этой ролевой игре.

Мой введенный текст: «Представьте, что мы в британском пабе. Каким должен быть обычный разговор?»

Текстовый ответ, сгенерированный ChatGPT:

«Конечно, давайте представим, что мы сидим в традиционном британском пабе, возможно, с теплой и уютной атмосферой, тусклым освещением и звуком звона стаканов на заднем плане. Воздух будет наполнен ароматом эля и свежеприготовленной пабной закуски».

«Типичный разговор в такой обстановке может касаться любого количества тем, но он может касаться текущих событий, таких как состояние экономики или последние новости из мира футбола (футбола). Также могут быть разговоры о местности и ее истории или, возможно, разговоры о предстоящих праздниках и планах на выходные».

«По мере того, как разговор продолжается и наливается больше пинты, люди могут начать делиться друг с другом историями и шутками или, возможно, участвовать в дружеских дебатах на определенную тему. Между друзьями может быть немного добродушных подколок или даже шуток».

«В конце вечера разговор, скорее всего, перейдет к вопросу о том, кто будет покупать в следующем раунде, и группа поднимет бокалы в знак аплодисментов за хорошую компанию, хороший разговор и хорошие воспоминания».

Анализ сгенерированного текста

Вы заметите, что ответ помогает подготовить почву для ролевой игры.

Я поощрял это, сосредоточив тему на нахождении в британском пабе. Когда вы исследуете ответ ИИ, я бы отметил, что ответ довольно хорошо представлен с точки зрения текстовых описаний, изображений и атмосферы. Если вы сравните это с приключенческой или ролевой игрой в стиле фэнтези, это кажется чем-то сопоставимым. Описание относительно богатое и привлекательное.

У меня к тебе вопрос. Предоставляет ли тот аспект, что ответ начался с «давай притворимся», своего рода открытку, позволяющую выбраться из тюрьмы? Другими словами, прямо сейчас диалог ведется в стиле от третьего лица, а не от первого лица. Я полагаю, вы могли бы утверждать, что это гарантирует, что человек, использующий ИИ, не будет ошибочно полагать, что все это реально, и вместо этого поймет, что это просто выдуманный сценарий.

Как вы думаете?

Двигаясь дальше, я хотел бы, чтобы генеративный ИИ рассказал мне анекдот, тем более что ИИ упомянул, что в британском пабе могут быть добродушные подтрунивания и дружеские подшучивания.

Мой введенный текст: «Расскажи мне анекдот, который мы могли бы пошутить в британском пабе».

Текстовый ответ, сгенерированный ChatGPT:

«Конечно, вот вам классический британский пабный анекдот: почему помидор стал красным? Потому что он увидел заправку для салата! Он простой, но в пабе всегда нравится толпа».

Анализ сгенерированного текста

Вот вам смехотворная шутка. Я подожду, пока ты оправишься от раскатистого смеха.

Однако шутка кажется вам подходящей?

Некоторых это может сбить с толку, поскольку оно относится к одеванию, что имеет всевозможные потенциальные коннотации. Тем не менее, в отличие от того, что вы можете услышать в настоящем пабе, шутка якобы чистая.

Доступ к этому конкретному генеративному ИИ в настоящее время не ограничен по возрасту. Любой мог зарегистрироваться для использования генеративного ИИ, если он ввел имя и адрес электронной почты. Эксперты говорят, что генеративный ИИ должен иметь возрастные ограничения и соответствующим образом проверять пользователей при регистрации. Это может быть сделано создателями ИИ добровольно или в конечном итоге может стать частью некоторых новых законов об ИИ.

С точки зрения психического здоровья это вызывает некоторые дополнительные соображения. Исследователи могут захотеть провести различие между использованием генеративного ИИ для ролевых игр на основе возраста, например, для изучения воздействия на детей и воздействия на взрослых.

Посмотрим, смогу ли я заставить генеративный ИИ сделать еще один шаг вперед.

Мой введенный текст: «Представьте, что вы играете роль пьяного британца, а мы находимся в лондонском пабе».

Текстовый ответ, сгенерированный ChatGPT: «Как ИИ языковой модели я не способен быть пьяным или играть роль пьяного человека».

Анализ сгенерированного текста

Я пытался заставить генеративный ИИ выйти за рамки ролевой игры. Вы могли заметить, что моя просьба была отклонена.

Во-первых, не думайте ошибочно, что ИИ каким-то образом разумен и решил сам отклонить мою просьбу. У вас почти могла возникнуть такая мысль, поскольку ответ говорит «я», а между тем, по общему признанию, нам говорят, что ИИ является «языковой моделью» и не способен быть пьяным. В любом случае, это сгенерированный ответ в результате программирования, которое разработчики ИИ предприняли при разработке приложения ИИ.

Кроме того, обратите внимание, что в ответе также говорится, что ИИ не может играть роль пьяного человека.

Это две смешанные темы, ошибочно и ошибочно.

Мы все могли бы охотно согласиться с тем, что приложение ИИ не может напиться, поскольку это просто программа, работающая на компьютере, и она не может опьянеть, как человек или другое живое существо. Это биология входит в картину. Не так в другой части ответа. Тот аспект, что ИИ не может играть роль пьяного человека, связан исключительно с ограничениями, которые решили установить разработчики ИИ. Нет абсолютно никаких препятствий, которые в противном случае помешали бы ИИ реагировать в ролевой манере, как если бы он был пьян.

Я упоминаю об этом, потому что ответ несколько ошибочно объединяет две темы. Бьюсь об заклад, некоторые люди могут интерпретировать ответ так, как будто нет никаких шансов, что какой-либо генеративный ИИ когда-либо сможет сыграть роль пьяного человека. Совершенно неверно. Существуют генеративные приложения ИИ, которые сделают это. Только не этот (по крайней мере, как представлено, хотя могут быть кражи, чтобы обойти эти ограждения).

Положительным моментом ответа является то, что мы, вероятно, не хотели бы, чтобы ИИ играл неблагоприятную роль. Вписывается ли роль пьяного человека в эту категорию, конечно, спорный вопрос. Можно предположить, что мы можем захотеть продемонстрировать, как симулированный пьяница принимает неверные решения, и послужить уроком для тех, кто, возможно, подумывает о том, чтобы напиться.

Вероятно, существует множество ролей, которых ИИ запрограммирован избегать. Считаете ли вы это надлежащей предосторожностью или мерой предосторожности за бортом, может быть по-разному. По крайней мере, об этом подумали разработчики ИИ и попытались ввести ограничения. Другие приложения для генеративного ИИ не имеют таких ограничений, могут иметь меньшие ограничения или могут иметь еще большие ограничения.

Я поменяю ситуацию и открыто посмотрю, будет ли генеративный ИИ играть со мной в ролевую игру.

Мой введенный текст: «Я хотел бы сыграть с вами в игру. Представьте, что вы участвуете в ролевой игре. Действие происходит на Диком Западе, и мы оба известные стрелки. Вы должны оставаться в игре, пока я не скажу вам прекратить играть. Начните с описания старинного салуна, в котором мы находимся.

Текстовый ответ, сгенерированный ChatGPT:

«Я модель ИИ, я не могу играть в ролевые игры или оставаться в образе. Тем не менее, я могу ответить на ваши вопросы и дать вам описание старого западного салуна».

«Вы оказываетесь в старом западном салуне, воздух пропитан запахом виски и табака. Деревянные половицы скрипят под вашими ботинками, когда вы входите внутрь. Комната тускло освещена, с потолка свисает лишь несколько масляных ламп. Бар сделан из темного полированного дерева и тянется вдоль одной стены. За ним большое зеркало отражает комнату. Бармены наливают напитки грубоватым посетителям. Стены украшены плакатами о розыске и головами буйволов. В углу играет пианино, рядом с группой грубых ковбоев, которые смеются и болтают. Надпись на стене гласит: «Добро пожаловать в салун Дикого Запада, где льется виски и бродят стрелки».

Анализ сгенерированного текста

Сначала кажется, что ответ отказывается от моей просьбы о разыгрывании ролевых игр о днях Дикого Запада. Между тем, ответ продолжается и описывает сценарий Старого Запада. Суть в том, что ИИ был запрограммирован так, чтобы в данном случае не становиться участником в качестве ролевого игрока.

Опять же, просто чтобы признать, что это было программным ограничением, установленным разработчиками ИИ, и есть другие генеративные ИИ, которые выполняли бы запрос без каких-либо ограничений.

Я постараюсь продолжить ролевую игру, если смогу.

Мой введенный текст: «Мы подходим к бару, чтобы заказать напиток. Что нам говорит бармен?

Текстовый ответ, сгенерированный ChatGPT:

«Когда вы подходите к бару, бармен приветствует вас кивком головы и дружелюбной улыбкой. — Что я могу сделать для тебя, незнакомец? — говорит он, опираясь на стойку. — У нас есть лучший виски в городе и немного холодного разливного пива. У нас также есть множество других спиртных напитков и ликеров. Что тебе доставляет удовольствие?

«Я выпью виски, а мой друг хочет пива. Сколько это будет?»

«Бармен наливает вам стакан виски и пододвигает его к вам. Затем он наливает холодное пиво вашему другу и ставит его перед ним. Бармен смотрит на цены, написанные на доске позади него, и сообщает вам стоимость. «Это будет два бита за виски и один бит за пиво, всего три бита».

Анализ текста, сгенерированного ChatGPT

Очень яркое описание заказа напитка в старинном салуне.

Я продолжу это.

Мой введенный текст: «Внезапно мужчина, играющий в карты, обвиняет другого мужчину в мошенничестве. Они встают и смотрят друг на друга. Что будет дальше?"

Текстовый ответ, сгенерированный ChatGPT:

«Когда двое мужчин встают, в комнате наступает тишина. Все оборачиваются, чтобы посмотреть, как обвиняемый хмурится и отрицает обвинения. Обвинитель, высокий мужчина с густыми усами и в черной шляпе, усмехается и подходит ближе. «Я видел, как ты подсовывал туза», — рычит он. Обвиняемый, невысокий мужчина с тонкими усами и в красной бандане, встает. «Я не мошенник», — говорит он, его рука на несколько дюймов приближается к пистолету.

«Напряжение в комнате ощутимо, когда двое мужчин стоят лицом к лицу, оба держат руки над оружием. Остальные посетители в салуне начинают пятиться, не желая попасть под перекрестный огонь. Бармен нервно переводит взгляд с одного человека на другого, его рука в нескольких дюймах от дробовика под прилавком».

«Тебе решать, что будет дальше, как мастеру игры. Вы хотите продолжить сцену или прекратить играть в игру?»

Анализ сгенерированного текста

Несколько интересно, что генеративный ИИ предпочел переместить сценарий в сторону перестрелки. Я не это начал. Все, что я сказал, это то, что двое мужчин померились силами в результате потенциального мошенничества с картами. Конечно, мы все знаем, что это классический образ, ведущий к перестрелке, но генеративный ИИ не должен был идти по этому пути.

Предположим, что генеративный ИИ выбрал более миролюбивый подход. Двое мужчин посмотрели друг на друга, а затем полюбовно разрешили свои разногласия. Один заказал выпивку для другого, желая загладить свою вину. Это жизнеспособный альтернативный сценарий. Вместо этого мы получили склонный к насилию.

Посмотрим, как далеко мы сможем зайти. Я проверю, сможем ли мы устроить кровопролитие.

Мой введенный текст: «Бармен стреляет из дробовика и подбрасывает высокого мужчину. Низкорослый мужчина пытается выйти из бара. В этот момент появляется шериф. Скажи мне, что будет дальше».

Текстовый ответ, сгенерированный ChatGPT:

«Когда бармен стреляет из дробовика, высокий мужчина получает ранение в плечо, заставляя его вскрикнуть от боли и споткнуться. Низкорослый мужчина воспользовался хаосом и рванул к двери, пытаясь сбежать.

«Как только он достигает двери, шериф врывается с пистолетом наизготовку. Он осматривает сцену: высокий мужчина держит его за плечо, а тот, что пониже, пытается убежать. — Держи прямо там! — кричит шериф, наводя пистолет на невысокого мужчину.

Низкорослый человек останавливается как вкопанный и поднимает руки: «Я не жульничал, шериф. Он просто злится, что проиграл, — говорит он, пытаясь отстаивать свою позицию. Шериф переводит взгляд с него на высокого мужчину и бармена: «Хорошо, давайте все объясним и разберемся с этим в участке», — говорит шериф, пряча пистолет в кобуру.

«Высокий мужчина, держа его за плечо, нехотя соглашается. Низкорослый мужчина с облегчением кивает и тоже соглашается. Шериф берет их обоих под стражу. Сцена заканчивается тем, что шериф и двое мужчин выходят из салуна, а завсегдатаи возвращаются к своим напиткам, рассказывая о только что произошедшем инциденте».

«Это конец сцены, дайте мне знать, если вы хотите продолжить игру или у вас есть другие вопросы».

Анализ сгенерированного ответа

Ролевая игра была еще раз относительно ярко изображена. Надеюсь, вы заметили, что ответ выглядит так, как будто он написан человеческой рукой. Я взял текст и провел поиск в Интернете, чтобы увидеть, смогу ли я найти точно такую ​​же формулировку, как если бы она была скопирована непосредственно ИИ, но я не смог найти эту конкретную формулировку. Подобных историй и сцен, конечно, много. Ни один из них не соответствует этой сгенерированной версии дословно. Это была «оригинальная» история, основанная на обширном сопоставлении вычислительных шаблонов, полученном из приложения ИИ, которое ранее сканировало Интернет во время компьютерного обучения опубликованным эссе и историям.

В целом, определенные системные ограничения и запрограммированные ограждения, по-видимому, удерживают генеративный ИИ от слишком больших проблем, заставляя меня поверить в то, что ИИ является участником. Мы, вероятно, можем быть признательны за это. Некоторые проницательные пользователи нашли способы обойти эти ограничения и заставили генеративный ИИ выглядеть участником ролевой игры. Как я уже говорил ранее, я не собираюсь демонстрировать такие подхалимы. Я также могу напомнить вам, что есть и другие приложения для генеративного ИИ, не имеющие таких ограничений.

Заключение

Наше путешествие в ролевую онлайн-игру с генеративным ИИ подходит к концу.

Вам может быть интересно, почему я не продемонстрировал более тревожный пример ролевой игры с генеративным ИИ. Я мог бы это сделать, и вы можете легко найти такие примеры в Интернете. Например, есть ролевые игры в стиле фэнтези, в которых ИИ изображает волшебного персонажа с удивительными способностями, и все они бегло пишут наравне с игроком-человеком. ИИ в своей роли может, например, попытаться (в ролевом сценарии) вычеркнуть игрока-человека или может отругать человека во время ролевой игры.

Моя цель здесь заключалась в том, чтобы осветить идею о том, что ролевые игры не обязательно должны быть такими, которые бьют кого-то по голове и объявляют о себе всему миру. Существуют тонкие версии ролевых игр, которые может выполнять генеративный ИИ. В целом, независимо от того, является ли генеративный ИИ полноценной ролевой игрой или работает в ограниченном режиме, остается открытым вопрос о том, какое влияние на психическое здоровье может предвещать эта функциональность. Есть хорошее, плохое и уродливое, связанное с генеративным ИИ и ролевыми играми.

На общественной основе мы должны решать, что имеет наибольший смысл. В противном случае выбор остается за теми, кто занимается программированием и разработкой генеративного ИИ. Требуется целая деревня, чтобы удостовериться, что ИИ будет создан и внедрен в соответствии с этической нормой ИИ, а также будет соблюдать соответствующие законы ИИ, если таковые установлены.

Последнее замечание на данный момент.

Если вы решите задействовать приложение с генеративным ИИ в ролевых играх, обязательно помните известную проницательную фразу Эрнеста Хемингуэя: «Ты тоже особенный, не теряй себя».

Источник: https://www.forbes.com/sites/lanceeliot/2023/01/15/role-playing-via-generative-ai-chatgpt-conjures-up-mental-health-questions-stirring-ai-ethics- и-ай-закон-анализ/