Генеративный ИИ ChatGPT может сожрать ваши личные и конфиденциальные данные, предупреждает об этике и законах об ИИ

Теперь вы видите свои данные, теперь нет.

Тем временем ваши драгоценные данные стали как бы частью коллектива.

Я имею в виду аспект, который может удивить тех из вас, кто активно и серьезно использует последние достижения в области искусственного интеллекта (ИИ). Данные, которые вы вводите в приложение ИИ, потенциально не являются полностью конфиденциальными для вас и только для вас. Может случиться так, что ваши данные будут использоваться производителем ИИ, предположительно, для улучшения своих услуг ИИ или могут использоваться ими и / или даже их союзными партнерами для различных целей.

Теперь вы предупреждены.

Эта передача ваших данных происходит самым безобидным образом и потенциально тысячами или порядка миллионов людей. Как так? Существует тип ИИ, известный как генеративный ИИ, который недавно привлек большие заголовки и пристальное внимание широкой общественности. Наиболее заметным из существующих приложений для генеративного ИИ является ChatGPT, разработанное фирмой OpenAI.

Предположительно, в ChatGPT зарегистрировано около миллиона пользователей. Многие из этих пользователей, похоже, с удовольствием пробуют это самое популярное и новейшее приложение для генеративного ИИ. Процесс необычайно прост. Вы вводите некоторый текст в качестве подсказки, и вуаля, приложение ChatGPT генерирует текстовый вывод, который обычно имеет форму эссе. Некоторые называют это преобразованием текста в текст, хотя я предпочитаю называть его преобразованием текста в эссе, поскольку такое словоблудие имеет более повседневный смысл.

Сначала пользователь-новичок, скорее всего, введет что-то веселое и беззаботное. Расскажите мне о жизни и временах Джорджа Вашингтона, может кто-нибудь вступит в качестве подсказки. Затем ChatGPT готовил эссе о нашем легендарном первом президенте. Эссе было бы совершенно беглым, и вам было бы трудно понять, что оно было создано приложением ИИ. Захватывающая вещь, чтобы увидеть, как это происходит.

Скорее всего, поиграв какое-то время, часть пользователей-новичков насытится и, возможно, решит перестать играть с ChatGPT. Теперь они преодолели свой FOMO (страх пропустить), сделав это после экспериментов с приложением ИИ, о котором, кажется, болтают практически все. Дело сделано.

Однако некоторые начнут думать о других, более серьезных способах использования генеративного ИИ.

Может быть, используйте ChatGPT, чтобы написать записку, которую ваш босс уговаривал вас написать. Все, что вам нужно сделать, это предоставить подсказку с пунктами списка, которые вы имеете в виду, и следующее, что вы знаете, ChatGPT создал целую записку, которая заставит вашего босса гордиться вами. Вы копируете полученное эссе из ChatGPT, вставляете его в официальный шаблон компании в своем пакете обработки текстов и отправляете классный меморандум своему менеджеру по электронной почте. Ты стоишь миллион баксов. И вы использовали свой мозг, чтобы найти удобный инструмент, который сделает за вас тяжелую работу. Похлопайте себя по спине.

Это не все.

Да, есть еще.

Имейте в виду, что генеративный ИИ может выполнять множество других задач, связанных с письмом.

Например, предположим, что вы написали какое-то повествование для ценного клиента и очень хотите, чтобы материал был проанализирован до того, как он выйдет за дверь.

Очень просто.

Вы вставляете текст своего повествования в приглашение ChatGPT, а затем даете ChatGPT указание проанализировать написанный вами текст. Полученное эссе может глубоко вникнуть в вашу формулировку и, к вашему приятному удивлению, попытается, казалось бы, проверить значение того, что вы сказали (выходя далеко за рамки проверки орфографии или грамматического анализатора). Приложение AI может обнаруживать ошибки в логике вашего повествования или может обнаруживать противоречия, о которых вы не подозревали, в вашем собственном письме. Это похоже на то, как если бы вы наняли искусного редактора-человека, чтобы он просмотрел ваш черновик и предоставил список полезных предложений и отмеченных проблем (ну, я хочу категорически заявить, что я не пытаюсь антропоморфизировать приложение ИИ, в частности, что редактор-человек человек, а приложение ИИ — это просто компьютерная программа).

Слава богу, что вы использовали генеративное приложение искусственного интеллекта, чтобы тщательно изучить свое драгоценное письменное повествование. Вы, несомненно, предпочли бы, чтобы ИИ нашел эти тревожные письменные вопросы, а не после отправки документа вашему ценному клиенту. Представьте, что вы написали рассказ для кого-то, кто нанял вас для создания весьма живого изображения. Если бы вы предоставили исходную версию клиенту до того, как сделать обзор приложения ИИ, вы могли бы столкнуться с большим смущением. Клиент почти наверняка будет сомневаться в ваших способностях выполнить запрошенную работу.

Поднимем ставку.

Рассмотрим создание юридических документов. Это, очевидно, особенно серьезное дело. Слова и то, как они составлены, могут означать энергичную юридическую защиту или мрачное юридическое бедствие.

В ходе моих текущих исследований и консультаций я регулярно взаимодействую со многими адвокатами, которые очень заинтересованы в использовании ИИ в области права. Различные программы LegalTech подключаются к возможностям ИИ. Юрист может использовать генеративный ИИ для составления проекта контракта или других юридических документов. Кроме того, если адвокат сам сделал первоначальный черновик, он может передать текст в приложение для генеративного искусственного интеллекта, такое как ChatGPT, чтобы посмотреть, какие дыры или пробелы могут быть обнаружены. Чтобы узнать больше о том, как адвокаты и юристы предпочитают использовать ИИ, см. мое обсуждение на ссылка здесь.

Мы готовы, хотя для руб на этом.

Адвокат берет составленный договор и копирует текст в подсказку для ChatGPT. Приложение AI производит обзор для адвоката. Оказывается, ChatGPT обнаружил несколько ошибок. Адвокат пересматривает договор. Они также могут попросить ChatGPT предложить им переформулировать или переделать написанный текст. Затем генеративное приложение ИИ создает новую и улучшенную версию контракта. Юрист берет полученный текст и загружает его в текстовый редактор. Послание отправляется их клиенту. Миссия выполнена.

Можете ли вы догадаться, что только что произошло?

За кулисами и под колпаком контракт мог быть проглочен, как рыба в пасти кита. Хотя этот адвокат, использующий ИИ, может этого не осознавать, текст контракта, размещенный в качестве подсказки в ChatGPT, потенциально может быть поглощен приложением ИИ. Теперь это корм для сопоставления с образцом и других вычислительных тонкостей приложения ИИ. Это, в свою очередь, может быть использовано различными способами. Если в черновике есть конфиденциальные данные, это также потенциально находится в пределах ChatGPT. Ваша подсказка, предоставленная приложению AI, теперь якобы так или иначе является частью коллектива.

Кроме того, выведенное эссе также считается частью коллектива. Если вы попросили ChatGPT изменить проект для вас и представить новую версию контракта, это будет истолковано как выведенное эссе. Выходные данные ChatGPT также являются типом контента, который может быть сохранен или иным образом преобразован с помощью приложения ИИ.

Да, возможно, вы невинно раздали личную или конфиденциальную информацию. Нехорошо. Кроме того, вы бы даже не знали, что сделали это. Флаги не поднимались. Рог не прозвучал. Никакие мигающие огни не погасли, чтобы шокировать вас в реальности.

Мы могли бы предположить, что не юристы могут легко совершить такую ​​ошибку, но для опытного адвоката, чтобы сделать ту же ошибку новичка почти невообразимо. Тем не менее, вполне вероятно, что прямо сейчас есть профессиональные юристы, совершающие ту же потенциальную ошибку. Они рискуют нарушить важный элемент конфиденциальности адвоката и клиента и, возможно, нарушить Типовые правила профессионального поведения (MRPC) Американской ассоциации юристов (ABA). В частности: «Адвокат не должен раскрывать информацию, относящуюся к представительству клиента, за исключением случаев, когда клиент дает информированное согласие, раскрытие подразумевается санкционированием для осуществления представительства или раскрытие разрешено пунктом (b)» (цитируется по MRPC, и для которого исключения, связанные с подразделом b, по-видимому, не охватывают использование генеративного приложения ИИ небезопасным способом).

Некоторые адвокаты могут попытаться оправдать свой проступок, заявив, что они не технические волшебники и что у них не было готовых способов узнать, что их ввод конфиденциальной информации в генеративное приложение ИИ может каким-то образом быть своего рода нарушением. ABA ясно дал понять, что обязанность юристов заключается в том, чтобы быть в курсе ИИ и технологий с юридической точки зрения: «Чтобы поддерживать необходимые знания и навыки, юрист должен быть в курсе изменений в законе и его практике, в том числе преимущества и риски, связанные с соответствующей технологией, участвовать в непрерывном обучении и обучении и соблюдать все требования к непрерывному юридическому образованию, которым подчиняется юрист» (согласно MRPC).

В это подобие юридической обязанности входит несколько положений, включая сохранение конфиденциальной информации клиента (Правило 1.6), защиту собственности клиента, такой как данные (Правило 1.15), надлежащее общение с клиентом (Правило 1.4), получение информированного согласия клиента (Правило 1.6), и обеспечение компетентного представительства от имени клиента (Правило 1.1). А также малоизвестная, но очень известная резолюция, посвященная ИИ, принятая ABA: «Американская ассоциация юристов призывает суды и юристов решать возникающие этические и юридические вопросы, связанные с использованием искусственного интеллекта («ИИ»). в юридической практике, включая: (1) предвзятость, объяснимость и прозрачность автоматизированных решений, принимаемых ИИ; (2) этичное и выгодное использование ИИ; и (3) контроль и надзор за ИИ и поставщиками, которые предоставляют ИИ».

Слова к мудрым для моих юридических друзей и коллег.

Суть дела в том, что почти каждый может попасть в затруднительное положение при использовании генеративного ИИ. Неюристы могут сделать это из-за предполагаемого отсутствия юридической сообразительности. Юристы тоже могут это сделать, возможно, в восторге от ИИ или не делая глубоких вдохов и не размышляя о том, какие юридические последствия могут возникнуть при использовании генеративного ИИ.

Мы все потенциально в одной лодке.

Вы также должны понимать, что ChatGPT — не единственное приложение с генеративным искусственным интеллектом. Есть и другие приложения для генеративного ИИ, которые вы можете использовать. Они тоже, скорее всего, сделаны из одной ткани, а именно: входные данные, которые вы вводите в качестве подсказок, и выходные данные, которые вы получаете в виде сгенерированных выходных эссе, считаются частью коллектива и могут использоваться создателем ИИ.

В сегодняшней колонке я собираюсь раскрыть природу того, как данные, которые вы вводите, и данные, которые вы получаете от генеративного ИИ, могут быть потенциально скомпрометированы в отношении конфиденциальности и конфиденциальности. Создатели ИИ сообщают о своих лицензионных требованиях, и было бы разумно ознакомиться с этими жизненно важными положениями, прежде чем вы начнете активно использовать приложение ИИ с каким-либо подобием реальных данных. Я покажу вам пример такого лицензирования для приложения ChatGPT AI.

Ко всему этому относится множество соображений по этике и закону об ИИ.

Имейте в виду, что предпринимаются постоянные усилия по внедрению этических принципов ИИ в разработку и внедрение приложений ИИ. Растущий контингент заинтересованных и бывших специалистов по этике ИИ пытается обеспечить, чтобы усилия по разработке и внедрению ИИ учитывали точку зрения AI для хорошего и предотвращение AI для плохих. Точно так же предлагаются новые законы об ИИ, которые распространяются как потенциальные решения, чтобы удержать усилия ИИ от нарушения прав человека и тому подобного. Мой постоянный и обширный обзор этики ИИ и закона об ИИ см. ссылка здесь и ссылка здесь, Просто назвать несколько.

Существуют важные нюансы и положения этического ИИ, связанные с тем, как производители ИИ могут или должны обращаться с данными или информацией, которые кажутся их пользователям частными или конфиденциальными. Вы, вероятно, также знаете, что куча существующих законов наносит удар по сути того, как данные должны обрабатываться технологическими объектами. Также велика вероятность, что недавно предложенные законы об искусственном интеллекте коснутся той же территории. См., например, мое освещение ИИ Билль о правах и другие юридические споры, связанные с ИИ, в ссылка здесь.

Вот ключевой вывод из всего этого обсуждения:

• Будьте очень, очень, очень осторожны с тем, какие данные или информацию вы решите поместить в свои подсказки при использовании генеративного ИИ, и точно так же будьте чрезвычайно осторожны и предугадывайте, какие выходные эссе вы можете получить, поскольку выходные данные также могут быть поглощены.

Означает ли это, что вы не должны использовать генеративный ИИ?

Нет, это совсем не то, что я говорю.

Используйте генеративный ИИ в свое удовольствие. Суть в том, что вы должны помнить о том, как вы его используете. Узнайте, какие лицензионные условия связаны с использованием. Решите, сможете ли вы жить с этими условиями. Если есть возможность сообщить производителю ИИ о том, что вы хотите использовать определенные виды дополнительной защиты или разрешений, обязательно сделайте это.

Я также упомяну еще об одном аспекте, который, как я понимаю, может привести некоторых людей в бешенство. Вот оно. Какими бы ни были лицензионные условия, вы также должны предположить, что существует вероятность того, что эти требования не будут полностью соблюдены. Все может пойти наперекосяк. Вещи могут проскользнуть между щелями. В конце концов, конечно, у вас может быть судебное дело против производителя ИИ за несоблюдение их условий, но это уже после того, как лошадь уже вышла из сарая.

Потенциально очень безопасный способ продолжить работу — настроить свой собственный экземпляр в своих собственных системах, будь то в облаке или внутри компании (и, при условии, что вы соблюдаете надлежащие меры предосторожности в области кибербезопасности, которые, по общему признанию, некоторые не делают, и они хуже в собственном облаке, чем в облаке поставщика программного обеспечения). Однако небольшая проблема заключается в том, что немногие из крупномасштабных приложений генеративного ИИ позволяют это прямо сейчас. Все они в значительной степени работают только в нашем облаке. Немногие предоставили возможность создать целый экземпляр специально для вас. Я предсказывал, что постепенно мы увидим этот вариант, хотя поначалу он будет довольно затратным и несколько сложным, см. мои прогнозы на ссылка здесь.

Как особенно способные и особенно проницательные люди попадают в трясину эрозии конфиденциальности данных или информации?

Привлекательность этих приложений для генеративного ИИ становится весьма притягательной, как только вы начинаете их использовать. Шаг за шагом вы оказываетесь загипнотизированы и все больше и больше погружаетесь в воды генеративного ИИ. Следующее, что вы знаете, вы с готовностью передаете проприетарный контент, который должен храниться в тайне и конфиденциальности, в генеративное приложение ИИ.

Не поддавайтесь искушению и, пожалуйста, воздержитесь от постепенного попадания в неприятную ловушку.

Для бизнес-лидеров и руководителей высшего звена то же самое предупреждение касается вас и всех людей в вашей компании. Старшие руководители также увлечены и удивлены использованием генеративного ИИ. Они могут действительно напортачить и потенциально ввести секретную информацию верхнего уровня в приложение ИИ.

Вдобавок к этому, у них могут быть широкие лиги своих сотрудников, которые также играют с генеративным ИИ. Многие из этих в остальном внимательных сотрудников бездумно и блаженно вводят личную и конфиденциальную информацию компании в эти приложения искусственного интеллекта. Согласно недавним новостным сообщениям, Amazon, по-видимому, обнаружил, что некоторые сотрудники вводят в ChatGPT различную конфиденциальную информацию. Сообщается, что внутри компании было отправлено юридическое предупреждение, чтобы быть осторожным при использовании неотразимого приложения AI.

В целом, есть доля иронии в растущих явлениях, когда сотрудники волей-неволей вводят конфиденциальные данные в ChatGPT и другие генеративные ИИ. Позвольте мне уточнить. Современные современные компании обычно имеют строгие политики кибербезопасности, которые они тщательно разработали и внедрили. Существует множество технологических защит. Надежда состоит в том, чтобы предотвратить случайный выпуск важных вещей. Постоянный барабанный бой — будьте осторожны при посещении веб-сайтов, будьте осторожны при использовании любых неутвержденных приложений и так далее.

Появляются приложения для генеративного ИИ, такие как ChatGPT. Новости о приложении ИИ зашкаливают и привлекают всеобщее внимание. Возникает бешенство. Люди в этих компаниях, у которых есть все эти средства защиты от кибербезопасности, предпочитают использовать генеративное приложение искусственного интеллекта. Сначала они лениво играют с ним. Затем они начинают вводить данные компании. Бац, теперь они потенциально раскрыли информацию, которую не следовало разглашать.

Блестящая новая игрушка, которая волшебным образом обходит миллионы долларов, потраченных на средства защиты от кибербезопасности и постоянное обучение тому, чего не следует делать. Но, эй, интересно использовать генеративный ИИ и быть частью толпы. Вот что важно, видимо.

Я надеюсь, что вы поняли мою мысль о том, что нужно проявлять особую осторожность.

Теперь давайте подробно рассмотрим, как генеративный ИИ технически обрабатывает текст подсказок и выводимые эссе. Мы также рассмотрим некоторые положения лицензирования на примере ChatGPT. Пожалуйста, поймите, что я не собираюсь описывать весь спектр этих элементов лицензирования. Не забудьте привлечь своего юрисконсульта для любых приложений генеративного ИИ, которые вы решите использовать. Кроме того, лицензирование отличается от производителя ИИ к производителю ИИ, плюс конкретный производитель ИИ может изменить свое лицензирование, поэтому обязательно сохраняйте бдительность в отношении того, что предусматривает последняя версия лицензирования.

У нас есть несколько захватывающих распаковок по этой опрометчивой теме.

Во-первых, мы должны убедиться, что мы все на одной странице о том, из чего состоит Генеративный ИИ, а также о том, что такое ChatGPT. Как только мы рассмотрим этот фундаментальный аспект, мы сможем провести убедительную оценку метафоры зеркала, связанной с этим типом ИИ.

Если вы уже хорошо знакомы с Генеративным ИИ и ChatGPT, возможно, вы можете просмотреть следующий раздел и перейти к следующему разделу. Я полагаю, что все остальные найдут поучительным важные подробности по этим вопросам, если внимательно прочитают этот раздел и будут в курсе.

Краткое введение в генеративный ИИ и ChatGPT

ChatGPT — это универсальная интерактивная система ИИ, ориентированная на общение, по сути, кажущийся безобидным обычный чат-бот, тем не менее, он активно и жадно используется людьми способами, которые застают многих врасплох, о чем я расскажу позже. Это приложение ИИ использует технику и технологию в области ИИ, которые часто называют Генеративный ИИ. ИИ генерирует выходные данные, такие как текст, что и делает ChatGPT. Другие приложения на основе генеративного искусственного интеллекта создают изображения, такие как изображения или иллюстрации, в то время как другие создают аудиофайлы или видео.

В этом обсуждении я сосредоточусь на текстовых приложениях для генеративного ИИ, поскольку это то, что делает ChatGPT.

Приложения для генеративного ИИ чрезвычайно просты в использовании.

Все, что вам нужно сделать, это ввести приглашение, и приложение AI создаст для вас эссе, которое попытается ответить на ваше приглашение. Сочиненный текст будет казаться, будто сочинение написано рукой и умом человека. Если вы введете запрос «Расскажите мне об Аврааме Линкольне», генеративный ИИ предоставит вам эссе о Линкольне. Это обычно классифицируется как генеративный ИИ, который выполняет текст в текст или некоторые предпочитают называть это текст в эссе вывод. Как уже упоминалось, существуют и другие режимы генеративного ИИ, такие как преобразование текста в искусство и преобразование текста в видео.

Ваша первая мысль может заключаться в том, что эта генеративная способность не кажется такой уж большой проблемой с точки зрения написания эссе. Вы можете легко выполнить онлайн-поиск в Интернете и без труда найти тонны и тонны эссе о президенте Линкольне. Преимущество генеративного ИИ в том, что сгенерированное эссе относительно уникально и представляет собой оригинальную композицию, а не подражание. Если бы вы попытались найти эссе, созданное искусственным интеллектом, где-нибудь в Интернете, вы бы вряд ли его обнаружили.

Генеративный ИИ предварительно обучен и использует сложную математическую и вычислительную формулировку, которая была создана путем изучения шаблонов в написанных словах и историях в Интернете. В результате изучения тысяч и миллионов письменных отрывков ИИ может извергать новые эссе и рассказы, представляющие собой мешанину из того, что было найдено. Благодаря добавлению различных вероятностных функций полученный текст в значительной степени уникален по сравнению с тем, что было использовано в обучающем наборе.

Вот почему поднялся шум по поводу того, что студенты могут жульничать при написании эссе за пределами класса. Преподаватель не может просто взять сочинение, которое лживые студенты утверждают, что оно написано им самим, и попытаться выяснить, не было ли оно скопировано из какого-то другого онлайн-источника. В целом, в Интернете не будет какого-либо определенного ранее существовавшего эссе, которое соответствовало бы эссе, созданному ИИ. В общем, учителю придется неохотно признать, что студент написал сочинение как оригинальное произведение.

Есть дополнительные опасения по поводу генеративного ИИ.

Одним из существенных недостатков является то, что эссе, созданные генеративным ИИ-приложением, могут содержать различную ложь, в том числе заведомо ложные факты, факты, вводящие в заблуждение, и очевидные факты, которые полностью сфабрикованы. Эти сфабрикованные аспекты часто называют формой Галлюцинации ИИ, крылатая фраза, которую я не одобряю, но, к сожалению, кажется, в любом случае набирает популярность (моё подробное объяснение того, почему это паршивая и неподходящая терминология, см. ссылка здесь).

Я хотел бы прояснить один важный аспект, прежде чем мы углубимся в суть этой темы.

В соцсетях появилось несколько абсурдных громких заявлений о Генеративный ИИ утверждая, что эта последняя версия ИИ на самом деле разумный ИИ (нет, они ошибаются!). Специалисты по этике ИИ и закону об ИИ особенно обеспокоены этой растущей тенденцией к растянутым претензиям. Вы можете вежливо сказать, что некоторые люди преувеличивают возможности современного ИИ. Они предполагают, что у ИИ есть возможности, которых мы еще не смогли достичь. Это прискорбно. Что еще хуже, они могут позволить себе и другим попасть в ужасные ситуации из-за предположения, что ИИ будет разумным или похожим на человека и сможет действовать.

Не очеловечивайте ИИ.

Это приведет к тому, что вы попадете в липкую и суровую ловушку уверенности, ожидая, что ИИ будет делать то, что он не в состоянии выполнить. При этом последние разработки в области генеративного ИИ относительно впечатляют своими возможностями. Имейте в виду, однако, что существуют существенные ограничения, о которых вы должны постоянно помнить при использовании любого приложения для генеративного ИИ.

Если вам интересен быстро растущий ажиотаж вокруг ChatGPT и генеративного ИИ, я сделал серию статей в своей колонке, которые могут оказаться для вас информативными. Вот краткий обзор на случай, если какая-либо из этих тем заинтересует вас:

• 1) Прогнозы развития генеративного ИИ. Если вы хотите знать, что может произойти с ИИ в 2023 году и далее, включая предстоящие достижения в области генеративного ИИ и ChatGPT, вам следует прочитать мой исчерпывающий список прогнозов на 2023 год по адресу ссылка здесь.
• 2) Генеративный ИИ и советы по психическому здоровью. Я решил просмотреть, как генеративный ИИ и ChatGPT используются для консультирования по вопросам психического здоровья, что является неприятной тенденцией, согласно моему целенаправленному анализу на ссылка здесь.
• 3) Основы генеративного ИИ и ChatGPT. В этой статье рассматриваются ключевые элементы того, как работает генеративный ИИ, и, в частности, подробно рассматривается приложение ChatGPT, включая анализ шумихи и фанфар на ссылка здесь.
• 4) Напряжение между учителями и учениками из-за генеративного ИИ и ChatGPT. Вот способы, которыми учащиеся будут хитроумно использовать генеративный ИИ и ChatGPT. Кроме того, у учителей есть несколько способов бороться с этой приливной волной. Видеть ссылка здесь.
• 5) Использование контекста и генеративного ИИ. Я также провел ироничное исследование с сезонным привкусом о контексте, связанном с Санта-Клаусом, с участием ChatGPT и генеративного ИИ в ссылка здесь.
• 6) Мошенники, использующие генеративный ИИ. Зловещая нота: некоторые мошенники выяснили, как использовать генеративный ИИ и ChatGPT для совершения правонарушений, в том числе для создания мошеннических электронных писем и даже для создания программного кода для вредоносных программ, см. мой анализ на ссылка здесь.
• 7) Ошибки новичков при использовании генеративного ИИ. Многие люди как переоценивают, так и неожиданно недооценивают то, что могут сделать генеративный ИИ и ChatGPT, поэтому я особенно рассмотрел недооценку, которую склонны делать новички ИИ, см. обсуждение на ссылка здесь.
• 8) Как справиться с генеративными подсказками ИИ и галлюцинациями ИИ. Я описываю передовой подход к использованию надстроек ИИ для решения различных проблем, связанных с попыткой ввести подходящие подсказки в генеративный ИИ, а также существуют дополнительные надстройки ИИ для обнаружения так называемых галлюцинаций и ложных выводов ИИ. покрыты в ссылка здесь.
• 9) Развенчание заявлений Болвана об обнаружении генеративных эссе, созданных искусственным интеллектом. Существует ошибочная золотая лихорадка приложений ИИ, которые заявляют, что могут установить, было ли то или иное эссе создано человеком или создано ИИ. В целом, это вводит в заблуждение, а в некоторых случаях является глупым и несостоятельным утверждением, см. мой репортаж на ссылка здесь.
• 10) Ролевые игры с помощью генеративного ИИ могут предвещать проблемы с психическим здоровьем. Некоторые используют генеративный ИИ, такой как ChatGPT, для ролевых игр, в которых приложение ИИ реагирует на человека так, как будто он существует в мире фантазий или в другом выдуманном окружении. Это может иметь последствия для психического здоровья, см. ссылка здесь.
• 11) Разоблачение ряда выводимых ошибок и неправд. Различные собранные списки составляются вместе, чтобы попытаться продемонстрировать характер ошибок и ложных сведений, создаваемых ChatGPT. Некоторые считают, что это необходимо, а другие говорят, что это бесполезно, см. мой анализ на ссылка здесь.
• 12) Школы, запрещающие генеративный ИИ ChatGPT, промахнулись. Возможно, вы знаете, что различные школы, такие как Департамент образования Нью-Йорка (NYC), объявили о запрете на использование ChatGPT в своей сети и на связанных устройствах. Хотя это может показаться полезной предосторожностью, это не сдвинет стрелку и, к сожалению, полностью упустит лодку, см. мой репортаж на ссылка здесь.
• 13) Генеративный AI ChatGPT будет везде благодаря предстоящему API. В использовании ChatGPT возникает важный поворот, а именно то, что благодаря использованию портала API в этом конкретном приложении AI другие программы смогут вызывать и использовать ChatGPT. Это значительно расширит использование генеративного ИИ и будет иметь заметные последствия, см. мою разработку на ссылка здесь.
• 14) Способы, которыми ChatGPT может выйти из строя или растаять. Перед ChatGPT стоит несколько потенциальных досадных проблем с точки зрения подрыва огромной похвалы, которую он получил до сих пор. В этом анализе подробно рассматриваются восемь возможных проблем, которые могут привести к тому, что ChatGPT потеряет свою привлекательность и даже окажется в немилости, см. ссылка здесь.

Вас может заинтересовать тот факт, что ChatGPT основан на версии предшествующего приложения AI, известного как GPT-3. ChatGPT считается следующим шагом, именуемым GPT-3.5. Ожидается, что GPT-4, вероятно, будет выпущен весной 2023 года. Предположительно, GPT-4 станет впечатляющим шагом вперед с точки зрения возможности создавать, казалось бы, еще более беглые эссе, углубляясь и вызывая благоговейный трепет. - вдохновляющее чудо композиций, которые он может производить.

Вы можете ожидать увидеть новый виток выраженного удивления, когда наступит весна и будет выпущена последняя версия генеративного ИИ.

Я говорю об этом, потому что есть еще один аспект, который следует иметь в виду, заключающийся в потенциальной ахиллесовой пяте этих лучших и более крупных генеративных приложений ИИ. Если какой-либо поставщик ИИ сделает доступным приложение для генеративного ИИ, которое пенно извергает грязь, это может разрушить надежды этих создателей ИИ. Социальное распространение может привести к тому, что весь генеративный ИИ получит серьезный синяк под глазом. Люди, несомненно, будут очень расстроены неправильными выводами, которые уже случались много раз и приводили к бурному общественному осуждению ИИ.

Последнее предупреждение на данный момент.

Все, что вы видите или читаете в генеративном ответе ИИ, кажется быть переданы как чисто фактические (даты, места, люди и т. д.), обязательно сохраняйте скептицизм и будьте готовы перепроверить то, что вы видите.

Да, даты можно придумать, места можно придумать, а элементы, которые мы обычно считаем безупречными, Найти подвержен подозрениям. Не верьте тому, что вы читаете, и скептически смотрите на любые эссе или результаты генеративного ИИ. Если генеративное ИИ-приложение скажет вам, что Авраам Линкольн летал по стране на собственном частном самолете, вы, несомненно, поймете, что это чушь. К сожалению, некоторые люди могут не осознавать, что в его дни реактивных самолетов не было, или они могут знать, но не замечать, что в эссе делается это наглое и возмутительно ложное утверждение.

Сильная доза здорового скептицизма и стойкое недоверие станут вашим лучшим преимуществом при использовании генеративного ИИ.

Мы готовы перейти к следующему этапу этого разъяснения.

Зная, что, черт возьми, произойдет с этим текстом

Теперь, когда мы установили основы, мы можем погрузиться в данные и информацию при использовании генеративного ИИ.

Во-первых, давайте кратко рассмотрим, что происходит, когда вы вводите какой-либо текст в приглашение для ChatGPT. Мы точно не знаем, что происходит внутри ChatGPT, так как программа считается проприетарной. Некоторые отмечают, что это подрывает ощущение прозрачности приложения ИИ. Несколько ехидное замечание состоит в том, что для компании под названием OpenAI их ИИ фактически закрыт для публичного доступа и недоступен в виде открытого исходного кода.

Давайте обсудим токенизацию.

Когда вы вводите обычный текст в подсказку и нажимаете «Ввод», предположительно происходит преобразование, которое происходит сразу же. Текст преобразуется в формат, состоящий из токенов. Токены являются составными частями слов. Например, слово «гамбургер» обычно делится на три лексемы, состоящие из части «ветчина», «бур» и «гер». Эмпирическое правило заключается в том, что токены, как правило, представляют около четырех символов или считаются примерно 75% обычного английского слова.

Затем каждый токен переформулируется как число. Различные внутренние таблицы определяют, какой токен назначается какому конкретному номеру. Понимание этого заключается в том, что текст, который вы ввели, теперь полностью представляет собой набор чисел. Эти числа используются для вычислительного анализа подсказки. Кроме того, сеть сопоставления с образцом, о которой я упоминал ранее, также основана на токенизированных значениях. В конечном счете, при составлении или создании выходного эссе эти числовые токены сначала используются, а затем перед отображением токены снова преобразуются в наборы букв и слов.

Подумайте об этом на мгновение.

Когда я говорю людям, что именно так работает механика обработки, они часто бывают ошеломлены. Они предположили, что генеративное приложение ИИ, такое как ChatGPT, должно использовать полностью интегративные слова. Мы логически предполагаем, что слова действуют как краеугольный камень для статистической идентификации отношений в письменных нарративах и композициях. Оказывается, обработка на самом деле имеет тенденцию использовать токены. Возможно, это усиливает изумление по поводу того, насколько убедительно вычислительный процесс имитирует человеческий язык.

Я провел вас через этот процесс из-за одного распространенного заблуждения, которое, кажется, распространяется вокруг. Некоторые люди, кажется, считают, что, поскольку ваш текст подсказки преобразуется в числовые токены, вы в целости и сохранности, что во внутренних компонентах приложения ИИ каким-то образом больше нет вашего первоначально введенного текста. Таким образом, утверждается, что даже если вы ввели конфиденциальную информацию в своем приглашении, вам не о чем беспокоиться, поскольку все это, по-видимому, токенизировано.

Это заблуждение. Я только что указал, что числовые лексемы можно легко вернуть в текстовый формат букв и слов. То же самое можно сделать с преобразованным приглашением, которое было токенизировано. В токенизации нет ничего магически защитного. При этом после преобразования в токены, если есть дополнительный процесс, который решает выбросить токены, перемещать их и иным образом перемешивать или измельчать вещи, в этом случае действительно существует вероятность того, что некоторые части оригинала приглашение больше не является неповрежденным (и при условии, что исходная копия не сохраняется или не хранится где-то внутри).

Далее я хотел бы взглянуть на различные уведомления и условия лицензирования ChatGPT.

Когда вы входите в ChatGPT, отображается ряд предупреждений и информационных комментариев.

Вот они:

• «Иногда может генерировать неверную информацию».
• «Может иногда создавать вредные инструкции или предвзятый контент».
• «Обучен отклонять неуместные запросы».
• «Наша цель — получить отзывы извне, чтобы улучшить наши системы и сделать их более безопасными».
• «Хотя у нас есть меры безопасности, система может время от времени генерировать неверную или вводящую в заблуждение информацию и создавать оскорбительный или предвзятый контент. Он не предназначен для того, чтобы давать советы».
• «Беседы могут быть просмотрены нашими инструкторами по ИИ для улучшения наших систем».
• «Пожалуйста, не делитесь конфиденциальной информацией в своих разговорах».
• «Эта система оптимизирована для диалога. Сообщите нам, был ли тот или иной ответ хорошим или бесполезным».
• «Ограниченное знание мира и событий после 2021 года».

Два из этих заявленных предостережений особенно актуальны для этой дискуссии. Посмотрите на шестой маркированный пункт и седьмой маркированный пункт.

Давайте распакуем эти два:

«Беседы могут быть просмотрены нашими инструкторами по ИИ для улучшения наших систем».

Этот шестой маркированный пункт объясняет, что текстовые разговоры при использовании ChatGPT могут быть проверены ChatGPT через его «тренеров AI», что делается для улучшения их систем. Это должно сообщить вам, что для всех и всех ваших введенных текстовых подсказок и соответствующих выходных эссе, все из которых являются частью «разговора», который вы ведете с ChatGPT, они могут быть полностью видны их людям. Предлагаемое обоснование заключается в том, что это делается для улучшения приложения ИИ, и нам также говорят, что это своего рода рабочая задача, которую выполняют их инструкторы по ИИ. Может быть и так, но в итоге они поставили вас в известность, что могут посмотреть ваш текст. Точка, точка.

Если бы они сделали что-то еще с вашим текстом, вы, вероятно, обратились бы за юридической консультацией по поводу того, не вышли ли они вопиющим образом за рамки предложенных ограничений простого просмотра текста в целях улучшения системы (при условии, что вам удалось обнаружить, что они это сделали, какой из сам по себе кажется маловероятным). В любом случае, вы можете себе представить юридические споры, связанные с попыткой прижать их к этому, и их попытки найти способ избежать ареста за то, что они каким-то образом нарушили границы их заявления об отказе от ответственности.

«Пожалуйста, не делитесь конфиденциальной информацией в своих разговорах».

Седьмой маркированный пункт указывает, что вы не должны делиться конфиденциальной информацией в своих разговорах. Это кажется относительно простым. Я полагаю, вы можете спорить о том, из чего состоит определение конфиденциальной информации. Кроме того, маркированный пункт не говорит вам, почему вы не должны делиться какой-либо конфиденциальной информацией. Если вам когда-нибудь придется попытаться и в страшном поту объяснить, почему вы по глупости ввели конфиденциальные данные, вы можете попробовать, приподняв бровь, заявить, что предупреждение было неконкретным, следовательно, вы не поняли его значения. Задержите дыхание на этом.

В целом, я осмелюсь сказать, что большинство людей, которых я видел, использующих ChatGPT, как правило, не читают маркированные пункты или просматривают маркированные меры предосторожности и просто кивают головой, как будто это обычная юридическая тарабарщина, которую вы видите во всех время. Кажется, немногие принимают предупреждения близко к сердцу. Является ли это ошибкой продавца, который не сделал меры предосторожности более четкими? Или мы должны предположить, что пользователи должны нести ответственность и внимательно прочитать, понять и впоследствии действовать разумно на основе предупреждений?

Некоторые даже утверждают, что приложение AI должно неоднократно предупреждать вас. Каждый раз, когда вы вводите приглашение, программное обеспечение должно выводить предупреждение и спрашивать вас, хотите ли вы нажать «возврат». Снова и снова. Хотя это может показаться полезной предосторожностью, по общему признанию, это чертовски раздражает пользователей. Предстоит тернистый компромисс.

Итак, это очевидные предостережения, представленные всем пользователям.

Пользователи, которые могут быть более любознательными, могут выбрать некоторые из подробных условий лицензирования, которые также размещены в Интернете. Сомневаюсь, что многие так делают. Я подозреваю, что немногие серьезно смотрят на маркированные пункты при входе в систему, и еще меньше с огромным отрывом обращают внимание на детали лицензирования. Опять же, мы все несколько оцепенели к таким вещам в наши дни. Я не оправдываю такое поведение, а только отмечаю, почему оно происходит.

Я рассмотрю несколько выдержек из опубликованных условий лицензирования.

Во-первых, вот определение того, что они считают «контентом», связанным с использованием ChatGPT:

• «Ваш Контент. Вы можете вводить данные для Сервисов («Ввод») и получать выходные данные, созданные и возвращенные Сервисами на основе Ввода («Вывод»). Ввод и вывод вместе называются «Контентом». В отношениях между сторонами и в той степени, в которой это разрешено применимым законодательством, вы владеете всеми Входными данными, и при условии соблюдения вами настоящих Условий OpenAI настоящим передает вам все свои права, права собственности и интересы в отношении Выходных данных. OpenAI может использовать Контент по мере необходимости для предоставления и обслуживания Услуг, соблюдения применимого законодательства и обеспечения соблюдения наших политик. Вы несете ответственность за Контент, в том числе за обеспечение того, чтобы он не нарушал какое-либо действующее законодательство или настоящие Условия».

Если вы внимательно изучите это определение, вы заметите, что OpenAI заявляет, что может использовать контент так, как считает необходимым для поддержки своих услуг, включая соблюдение применимых законов и соблюдение своих политик. Это удобная ловушка для них. В следующей одной из своих колонок я буду обсуждать другую, но связанную тему, в частности, о правах на интеллектуальную собственность (ИС), которые у вас есть в отношении введенных текстовых подсказок и выходных эссе (я указываю на это здесь, поскольку определение Содержание соответствует этой теме).

В следующей части терминов, помеченной как раздел c, они упоминают этот аспект: «Одним из основных преимуществ моделей машинного обучения является то, что их можно улучшать с течением времени. Чтобы помочь OpenAI предоставлять и поддерживать Сервисы, вы соглашаетесь и даете указание, что мы можем использовать Контент для разработки и улучшения Сервисов». Это похоже на ранее обсуждавшееся однострочное предупреждение, которое появляется при входе в ChatGPT.

Отдельный документ, который связан с этим, содержит некоторые дополнительные аспекты по этим важным вопросам:

• «В рамках этого постоянного улучшения, когда вы используете модели OpenAI через наш API, мы можем использовать данные, которые вы нам предоставляете, для улучшения наших моделей. Это не только помогает нашим моделям стать более точными и лучше решать вашу конкретную проблему, но также помогает улучшить их общие возможности и безопасность. Мы знаем, что конфиденциальность и безопасность данных имеют решающее значение для наших клиентов. Мы уделяем большое внимание использованию соответствующих технических и технологических средств контроля для защиты ваших данных. Мы удаляем любую личную информацию из данных, которые мы намерены использовать для повышения производительности модели. Мы также используем только небольшую выборку данных для каждого клиента, чтобы улучшить производительность модели. Например, для одной задачи максимальное количество запросов API, которые мы отбираем для одного клиента, ограничено 200 каждые 6 месяцев» (выдержка из документа, озаглавленного «Как ваши данные используются для повышения производительности модели»).

Обратите внимание, что в оговорке указано, что данное положение распространяется на использование API как средство подключения и использования моделей OpenAI. Несколько неясно, относится ли это в равной степени к конечным пользователям, которые напрямую используют ChatGPT.

В еще одном документе, который содержит их список различных часто задаваемых вопросов, они предоставляют ряд вопросов и ответов, два из которых кажутся особенно уместными для этого обсуждения:

• «(5) Кто может просматривать мои разговоры? В рамках нашей приверженности безопасному и ответственному ИИ мы просматриваем разговоры, чтобы улучшить наши системы и убедиться, что контент соответствует нашим политикам и требованиям безопасности».
• «(8) Можете ли вы удалить определенные подсказки? Нет, мы не можем удалить определенные подсказки из вашей истории. Пожалуйста, не делитесь конфиденциальной информацией в своих разговорах».

Существует дополнительный документ, который охватывает их политику конфиденциальности. В нем говорится следующее: «Мы собираем информацию, которая отдельно или в сочетании с другой информацией, которой мы располагаем, может быть использована для вашей идентификации («Личная информация»)», а затем продолжает объяснять, что они могут использовать данные журнала, данные об использовании, информацию о связи, информация об устройстве, файлы cookie, аналитика и другая потенциально собираемая информация о вас. Обязательно прочитайте мелкий шрифт.

Я думаю, что это в значительной степени дает обзор некоторых соображений, лежащих в основе того, как могут использоваться ваши данные. Как я уже упоминал в начале, я не собираюсь кропотливо выполнять все условия лицензирования.

Надеюсь, это поможет вам настроиться на эти вопросы и останется в вашем уме.

Заключение

Я уже говорил это раньше и повторю еще раз: не вводите конфиденциальные или личные данные в эти приложения для генеративного ИИ.

Рассмотрим несколько полезных советов или вариантов этого мудрого совета:

• Подумайте, прежде чем использовать генеративный ИИ
• Удалите вещи заранее
• Маскируйте или подделывайте свой ввод
• Настройте свой собственный экземпляр
• Другие контрактные услуги

Далее я укажу, из чего состоит каждый из них. Настройка собственного экземпляра уже рассматривалась здесь. Использование «другого» в моем списке связано с возможностью других способов справиться с предотвращением включения конфиденциальных данных, о которых я расскажу в следующей публикации.

Давайте рассмотрим их:

• Подумайте, прежде чем использовать генеративный ИИ. Один из подходов заключается в полном отказе от использования генеративного ИИ. Или, по крайней мере, подумайте дважды, прежде чем сделать это. Я полагаю, что самый безопасный путь — не использовать эти приложения ИИ. Но это также кажется довольно серьезным и почти за бортом.
• Удалите вещи заранее. Другой подход состоит в удалении конфиденциальной или частной информации из всего, что вы вводите в качестве подсказки. В этом смысле, если вы не войдете в него, у него не будет шанса проникнуть в Борга. Недостатком является то, что, возможно, удаление конфиденциальной части каким-то образом уменьшает или подрывает то, что вы пытаетесь заставить генеративный ИИ делать для вас.
• Маскируйте или подделывайте свои входные данные. Вы можете изменить предлагаемый текст, изменив информацию, чтобы все, что казалось конфиденциальным или личным, теперь отображалось по-другому. Например, вместо того, чтобы в контракте упоминались Widget Company и Джон Смит, вы меняете текст, чтобы он ссылался на Specious Company и Джейн Капоне. Вопрос здесь в том, проделаете ли вы достаточно исчерпывающую работу, чтобы все конфиденциальные и личные аспекты были полностью изменены или подделаны. Было бы легко пропустить некоторые помутнения и оставить то, чего там быть не должно.

Вот интересный дополнительный поворот, который может заставить вас еще больше проникнуть в эту тему. Если вы можете полностью гарантировать, что ни одно из ваших входных подсказок не содержит никакой конфиденциальной информации, значит ли это, что вам не нужно ни на йоту беспокоиться о выводящихся эссе, также содержащих какую-либо вашу конфиденциальную информацию?

Это казалось бы аксиоматически верным. Нет конфиденциального ввода, нет конфиденциального вывода.

Вот вам и умопомрачительный поворот.

Генеративный ИИ часто настраивается на вычислительное переобучение на основе предоставляемых текстовых подсказок. Точно так же генеративный ИИ часто разрабатывается для вычислительной переобучения на основе полученных эссе. Все это переобучение предназначено для улучшения возможностей генеративного ИИ.

В одной из других своих колонок я описал следующий эксперимент, который я предпринял. Адвокат пытался найти новый способ решения юридического вопроса. После исчерпывающего просмотра юридической литературы показалось, что все уже всплывающие углы найдены. Используя генеративный ИИ, мы получили приложение ИИ для создания новшества в юридическом подходе, который, казалось бы, ранее не был идентифицирован. Считалось, что никто еще не достиг этой правовой позиции. Легальный золотой самородок, так сказать. Это может быть стратегически ценным конкурентным юридическим золотом, которое в нужное время можно использовать и использовать.

Является ли полученное эссе формой конфиденциальной информации, созданной ИИ для этого конкретного человека и содержащей что-то особенное и, казалось бы, уникальное?

Ага, это подводит нас к другой смежной и взаимосвязанной теме о правах собственности и правах интеллектуальной собственности, связанных с генеративным ИИ. Оставайтесь с нами, чтобы увидеть, как это получается.

Последнее замечание на данный момент.

Софокл дал такую ​​мудрость: «Ничего не делай тайно; ибо Время все видит и слышит и все открывает». Я полагаю, вы могли бы осовременить формулировку и утверждать, что генеративный ИИ и те, кто разрабатывает и поддерживает ИИ, тоже способны видеть все.

Это скромный символический совет, достойный того, чтобы его запомнили.