Что вам нужно знать о GPT-4, только что выпущенном преемнике генеративного ИИ ChatGPT, а также соображения об этике ИИ и законах об ИИ

Какова ваша обычная реакция на выпуск продолжения известного блокбастера?

Некоторые идут смотреть сиквел и заявляют, что он не хуже, если не лучше оригинала. У других могут быть необычайно высокие ожидания, и после просмотра более нового фильма они объявляют его достаточно хорошим, хотя и не о чем восторженно кричать. Некоторые, несомненно, будут крайне разочарованы, независимо от того, что включает в себя последний фильм, и вкратце заявят, что первый фильм был беззастенчиво выше сиквела.

Тот же диапазон реакций и эмоций проявился во вчерашнем выпуске GPT-4 производителем искусственного интеллекта OpenAI, который состоится в День числа Пи, а именно 3.14 или 14 марта 2023 года. день еды, презентация GPT-4 действительно привлекла большое внимание прессы и много болтовни в социальных сетях.

Здесь я опишу основные функции и возможности GPT-4, а также проведу сравнения с его предшественником ChatGPT (первоначальным «блокбастером» по моей аналогии). Кроме того, существует множество действительно важных соображений по этике и закону об ИИ, которые сопровождают генеративный ИИ, в том числе и, возможно, особенно в случае GPT-4 и ChatGPT из-за их несомненно широкого использования и вызывающих безумие средств массовой информации и общественного внимания по поводу настоящий и будущий ИИ.

Вкратце, точно так же, как продолжение фильма, GPT-4 в некоторых отношениях лучше, чем ChatGPT, например, он больше, быстрее и, по-видимому, более беглый, в то время как в других отношениях вызывает дополнительные и выраженные сомнения (я расскажу об этих кратко здесь). Немного сумбурная реакция. Продолжение не является слэм-данком, как многие ожидали. Оказывается, дело обстоит более тонко. Похоже, это реальный мир, в котором мы все живем.

Возможно, генеральный директор OpenAI Сэм Альтман лучше всего сказал в своих твитах 14 марта 2023 года о запуске GPT-4:

• «Вот GPT-4, наша самая мощная и согласованная модель. Сегодня он доступен в нашем API (со списком ожидания) и в ChatGPT+».
• «Он по-прежнему несовершенен, по-прежнему ограничен и по-прежнему кажется более впечатляющим при первом использовании, чем после того, как вы проведете с ним больше времени».

Мои предложения о том, что вы могли бы подумать о том, что делать в результате выпуска GPT-4 и в зависимости от вашей текущей ситуации или обстоятельств, состоят из следующих возможных действий:

• Существующие пользователи ChatGPT. Если вы уже используете ChatGPT, вам следует внимательно изучить GPT-4, чтобы понять, хотите ли вы использовать его вместо этого (или вы можете использовать GPT-4 в дополнение к использованию ChatGPT, следовательно, используйте либо ChatGPT, либо GPT). -4, в зависимости от ваших потребностей по мере их возникновения). Вы можете играть с GPT-4, если вы подписаны на ChatGPT Plus, режим подписки за 20 долларов в месяц для использования ChatGPT, в противном случае у вас нет особенно простых средств для доступа к GPT-4 в это время (предупреждение или поворот в том, что Поисковая система Microsoft Bing использует вариант GPT-4, который я обсуждал по ссылке здесь).
• Никогда не использовал генеративный ИИ. Если вы не используете ChatGPT и никогда не использовали какой-либо генеративный ИИ, вы можете сначала начать с ChatGPT, поскольку он доступен бесплатно (или, конечно, рассмотрите возможность использования любого из множества других приложений генеративного ИИ, чтобы начать свое путешествие). в эту область ИИ). В настоящее время GPT-4 не является бесплатным, как упоминалось выше в отношении существующих пользователей ChatGPT. После того, как вы освоитесь с ChatGPT, вы сможете решить, стоит ли подписываться на ChatGPT Plus, чтобы получить дополнительные преимущества, включая доступ к GPT-4.
• Использование другого генеративного ИИ. Если вы используете приложение для генеративного ИИ, отличное от ChatGPT, возможно, вам будет интересен GPT-4, поскольку он имеет улучшения, выходящие за рамки того, что предлагает ChatGPT. Я упоминаю об этом, потому что некоторые опытные пользователи ИИ решили, что ChatGPT не так хорош для них, как другие варианты. Я бы рекомендовал ознакомиться с GPT-4, чтобы решить, является ли ваш существующий выбор лучшим для вас. Может быть. Таким образом, я не ратую за то, чтобы вы обязательно перешли на GPT-4, а лишь говорю, что всегда разумно пинать шины на других доступных автомобилях.
• Другое программное обеспечение, которое обращается к ChatGPT через API. Для тех, кто создает программное обеспечение, которое подключается к ChatGPT через API (интерфейс прикладного программирования), который я обсуждал по ссылке здесь, было бы разумно внимательно изучить использование GPT-4 через его API. Один большой вопрос заключается в том, что стоимость использования API GPT-4 намного выше, чем использование ChatGPT. Вы захотите провести анализ компромисса между дополнительными преимуществами GPT-4 и более дешевой альтернативой использования ChatGPT. Это несколько сложное решение. Делайте это осознанно, а не бездумно.

Одна вещь, которая кажется шокирующей для многих, заключается в том, что информационная ценность не совсем поднялась до уровня, ожидаемого ранее.

Позвольте мне объяснить, почему.

Оригинальный блокбастер и теперь его продолжение

Вы, вероятно, знаете, что приложение для генеративного ИИ, известное как ChatGPT, было выпущено в конце ноября прошлого года.

Это был неожиданный хит.

До этого предыдущие попытки выпуска генеративных приложений ИИ для широкой публики обычно встречались с пренебрежением и возмущением. Основанием для беспокойства было то, что генеративный ИИ может производить выходные данные, содержащие всевозможные нецензурные выражения, включая ненормативную лексику, сомнительные предубеждения, ложь, ошибки и даже выдуманные факты или так называемые Галлюцинации ИИ (Мне не нравится этот термин «галлюцинации», поскольку он имеет тенденцию антропоморфизировать ИИ, см. мое обсуждение по ссылке здесь).

Генеративный ИИ — это тип ИИ, который включает в себя генерацию выходных данных из введенных пользователем текстовых подсказок, например, возможность создавать или генерировать текстовые эссе, создавать изображения или иллюстрации, создавать аудио, создавать видео и т. д. Обычно это называемые преобразованием текста в текст, преобразованием текста в эссе, преобразованием текста в рисунок, преобразованием текста в изображение, преобразованием текста в аудио, преобразованием текста в видео и т.п. Замечательным аспектом генеративного ИИ является то, что сгенерированные работы, по-видимому, не уступают результатам, созданным человеком. Вам было бы трудно отличить генеративный результат ИИ от сопоставимой композиции, созданной исключительно человеческим разумом и человеческой рукой.

Чтобы узнать больше о генеративном ИИ, см. мою текущую серию статей, например, эту ссылку здесь, посвященную основам ChatGPT и генеративного ИИ, а также освещение ChatGPT студентами и проблемы потенциального мошенничества в эссе (используйте ссылку здесь), весьма сомнительное использование ChatGPT для консультирования по вопросам психического здоровья (см. ссылку здесь), обеспокоенность по поводу потенциального плагиата и нарушения авторских прав генеративного ИИ (ссылка здесь) и многие другие важные темы по ссылке здесь.

Отчасти причина того, что ChatGPT, похоже, не получила обычного хлыста, была связана с некоторой закулисной работой производителя ИИ, OpenAI, перед выпуском ChatGPT. Они пытались использовать различные приемы и технологии, чтобы дать отпор особо ненавистным и гнусным эссе. Имейте в виду, что ChatGPT — это исключительно стиль генеративного ИИ, преобразующий текст в текст или текст в эссе. Таким образом, попытки предотвратить диковинные и приводящие в бешенство результаты состоят в том, чтобы иметь дело со словами. Аналогичные проблемы возникают, когда результатом является искусство или изображения, хотя это может быть в равной или большей степени трудно уловить, чтобы предотвратить создание оскорбительных изображений того или иного рода.

Известный метод, который все чаще используется создателями ИИ, состоит в использовании РЛХФ (обучение с подкреплением через обратную связь с человеком). Вот как это обычно работает. После того, как приложение для генеративного ИИ было первоначально обучено данным, например, путем сканирования текста в Интернете, люди-рецензенты используются, чтобы помочь направить или продемонстрировать ИИ, что стоит сказать, а что — возмутительно. Основываясь на этой серии одобрений и неодобрений, генеративный ИИ примерно способен сопоставлять образцы того, что можно излучать, а что кажется недопустимым.

Я хотел бы также отметить еще один чрезвычайно важный момент.

ИИ не разумен.

Что бы ни гласили безумные заголовки, будьте уверены, что сегодняшний ИИ не обладает разумом. Для генеративного ИИ приложение представляет собой обширное вычислительное программное обеспечение для сопоставления с образцом и устройство для моделирования данных. После изучения миллионов и миллионов слов из Интернета выводятся закономерности в отношении слов и их статистических взаимосвязей. Результатом является удивительная форма мимикрии человеческого языка (некоторые инсайдеры ИИ называют это стохастический попугай, что отчасти подтверждает суть, хотя, к сожалению, вносит в дискуссию в остальном разумный элемент).

Вы можете думать о генеративном ИИ как о функции автозаполнения, когда вы используете пакет обработки текстов, хотя это гораздо более всеобъемлющая и продвинутая возможность. Я уверен, что вы начали писать предложение и у вас есть автозаполнение, которое рекомендует формулировку для остальной части предложения. С генеративным ИИ, таким как ChatGPT, вы вводите подсказку, и приложение ИИ попытается не просто завершить ваши слова, но и попытаться ответить на вопросы и составить ответы целиком.

Кроме того, ошибка новичка, которую многие допускают при использовании ChatGPT или любого другого подобного приложения для генеративного ИИ, заключается в неспособности использовать хваленые интерактивные диалоговые возможности. Некоторые люди вводят запрос и ждут ответа. Кажется, они думают, что на этом все. Один и готово. Но здесь отсутствует суть генеративного ИИ. Более полезный подход состоит в выполнении серии подсказок, связанных с диалогом с генеративным ИИ. Вот где действительно сияет генеративный ИИ, смотрите мои примеры по ссылке здесь.

ChatGPT был провозглашен средствами массовой информации и общественностью в целом удивительным прорывом в области искусственного интеллекта.

Реальность такова, что многие другие подобные приложения ИИ были разработаны, часто в исследовательских лабораториях или аналитических центрах, а в некоторых случаях были осторожно сделаны доступными для общественности. Как я уже сказал выше, результат обычно был не очень красивым. Люди подталкивали и тыкали в генеративный ИИ, и им удалось получить эссе ужасного характера, см. мой репортаж по ссылке здесь. Создатели ИИ в таких случаях обычно были вынуждены вывести ИИ с открытого рынка и вернуться к использованию в лаборатории или к тщательно отобранным бета-тестерам и разработчикам ИИ.

Большая часть остальной индустрии ИИ была ошеломлена тем, что ChatGPT удалось пройти по канату, по-прежнему производя грязные результаты, но не до такой степени, чтобы общественное мнение вынудило OpenAI удалить приложение ИИ из общего доступа.

Это был настоящий шок от ChatGPT.

Большинство людей полагали, что шок был связан с конверсивной способностью. Не для тех, кто в ИИ. Сюрприз, который поразил почти всех инсайдеров ИИ, заключался в том, что вы можете выпустить генеративный ИИ, который может изрыгать ненавистные речи, а ответная реакция не будет достаточно яростной, чтобы заставить быстро отступить. Кто знал? Действительно, до выпуска ChatGPT ходили слухи, что в течение нескольких дней или недель, самое большее, OpenAI пожалеет о том, что приложение AI стало доступным для всех желающих. Им придется ограничить доступ или, возможно, пойти домой и перевести дух.

Невероятный успех развертывания ChatGPT осторожно открыл дверь другим приложениям для генеративного ИИ, которые также вышли на улицу. Например, я обсуждал открытие Google Bard и то, как разгораются войны поисковых систем в Интернете из-за желания подключить генеративный ИИ к обычному веб-поиску, см. ссылку здесь.

ChatGPT можно с полным основанием охарактеризовать как блокбастер. Это также тот, который появился из ниоткуда, так сказать. Иногда о блокбастере заранее известно, что он, скорее всего, станет блокбастером после выхода на экраны. В других случаях фильм является спящим, который застает публику врасплох и даже режиссера врасплох. Именно это произошло с ChatGPT и OpenAI.

Итак, у нас есть блокбастер, ChatGPT.

ChatGPT по существу основан на версии GPT, известной как GPT-3.5. Раньше были ГПТ-3, ГПТ-2 и им подобные. Мир ИИ и те, кто имел отношение к ИИ, знали, что OpenAI работает над следующей версией, GPT-4.

GPT-4 будет считаться преемником или продолжением ChatGPT.

Это возвращает нас к моей аналогии с фильмами. ChatGPT, блокбастер-сюрприз, пользовался огромной популярностью. Ожидания о том, какой будет GPT-4 и как отреагирует публика, были полны диких предположений. ГПТ-4 ходил бы по воде! ГПТ-4 будет быстрее летящей пули! GPT-4 станет достижением разумного ИИ или искусственного общего интеллекта (AGI)!

Снова и снова это пошло.

Возможно, вы смутно знаете, что генеральный директор OpenAI Сэм Альтман сказал об этом в интервью, опубликованном на YouTube (от 17 января 2023 г.): «Мельница слухов о GPT-4 — нелепая вещь. Я не знаю, откуда все это взялось. Люди просят разочароваться, и они будут. Ажиотаж такой же, как… У нас нет настоящего ОИИ, а этого от нас и ждут».

Итак, GPT-4 уже здесь.

Фильм вышел.

Мы можем видеть это своими глазами. Больше никаких диких спекуляций. Реальность пришла в себя.

Давайте распакуем новую блестящую игрушку.

Основы GPT-4

Вы, несомненно, хотите знать, что предоставляет GPT-4.

В своем обсуждении я буду ссылаться на различные документы и видео, которые OpenAI сделал доступными о GPT-4, а также делать замечания, основанные на моем использовании GPT-4. Для простоты обсуждения, пожалуйста, знайте, что есть два удобных документа, которые я буду жадно цитировать, один из них озаглавлен «Официальный документ OpenAI». Технический отчет GPT-4 а другой официальный OpenAI Системная карта GPT-4 document (оба доступны на веб-сайте OpenAI). Я буду цитировать их по аббревиатурам TR для Технический отчет GPT-4 и SC для Системная карта GPT-4.

Начнем с самого первого предложения аннотации к ТЗ:

• «Мы сообщаем о разработке GPT-4, крупномасштабной мультимодальной модели, которая может принимать входные изображения и текст и создавать текстовые выходные данные».

Хотите верьте, хотите нет, но в этом предложении слишком много всего.

Присаживайтесь и держите в руке удобный напиток.

Одним из аспектов, который является общепринятым эмпирическим правилом в отношении генеративного ИИ, является то, что чем больше система, тем более вероятными становятся беглость и общие возможности. Это, кажется, относительно хорошо известно благодаря исторически растущим размерам систем генеративного ИИ и их все более замечательной беглости с точки зрения ведения интерактивных разговоров. Не все верят, что это должно быть так, и есть исследователи, активно ищущие установки меньшего размера, которые используют различные оптимизации, чтобы потенциально достичь того же, что и их более крупные собратья.

В процитированном выше предложении о GPT-4 из TR вы могли заметить формулировку, что это «крупномасштабный» генеративный ИИ. Все, вероятно, склонны согласиться с этим, исходя из относительных размеров современных систем генеративного ИИ.

Очевидный вопрос, занимающий умы инсайдеров ИИ, заключается в том, насколько велика крупномасштабный когда речь идет о GPT-4?

Обычно производитель ИИ с гордостью заявляет о различных показателях размера своего генеративного ИИ. Вы можете сделать это, чтобы проинформировать остальной мир ИИ о том, какое значение имеют размер и масштаб. Вы можете сделать это, чтобы похвастаться. Вы можете сделать это просто потому, что это похоже на автомобиль, в котором естественное любопытство состоит в том, насколько большой у него двигатель и как быстро он будет двигаться.

По ТЗ указано вот что:

• «Учитывая как конкурентную среду, так и последствия для безопасности крупномасштабных моделей, таких как GPT-4, этот отчет не содержит дополнительных подробностей об архитектуре (включая размер модели), оборудовании, обучающих вычислениях, построении набора данных, методе обучения и т. п.».

Инсайдеры ИИ склонны находить это заманчивым. С одной стороны, кажется тревожным разрывом с дипломатией не говорить об этих важнейших характеристиках. При этом логика, что это может раскрыть секреты собственности или, возможно, открыть дверь для кибербезопасности, что ж, кажется, тоже имеет смысл.

Должны ли производители ИИ быть вынуждены раскрывать определенные характеристики своего генеративного ИИ, делая это в такой степени и таким образом, чтобы непреднамеренно не выдать какие-либо важные контрольные подсказки?

Я позволю вам надеть шляпу этики ИИ, чтобы обдумать это соображение.

Некоторые считают, что мы также можем в конечном итоге принять новые законы об ИИ, которые потребуют явного раскрытия информации.

Мысль состоит в том, что общественность должна знать, что происходит с ИИ, особенно когда ИИ становится больше и, предположительно, может в конечном итоге свернуть в зону ужасных экзистенциальных рисков, см. мой анализ по ссылке здесь.

Двигаясь дальше, мы также не знаем, какие данные использовались для обучения GPT-4.

Данные создают или разрушают появление генеративного ИИ. Некоторые люди ошибочно полагают, что весь Интернет был просканирован, чтобы разработать эти генеративные возможности ИИ. Неа. На самом деле, как я обсуждаю по ссылке здесь, сканируется лишь крошечная часть Интернета.

Связанный с этим аспект заключается в том, сканирует ли генеративный ИИ Интернет в режиме реального времени и корректирует ли на лету сопоставление вычислительных шаблонов. ChatGPT был ограничен сканированием, имевшим место не позднее 2021 года. Это означает, что при использовании ChatGPT почти нет данных о том, что произошло в 2022 и 2023 годах.

Ходили слухи, что GPT-4 будет содержать актуальное подключение к Интернету в режиме реального времени для настройки на лету.

Вот что говорит ТР:

• «GPT-4, как правило, не знает о событиях, которые произошли после того, как в сентябре 2021 года отключилось подавляющее большинство его данных для предварительной подготовки, и не учится на своем опыте. Иногда он может делать простые логические ошибки, которые, кажется, не соответствуют компетентности во многих областях, или быть слишком легковерным, принимая заведомо ложные утверждения от пользователя».

Возможно, тогда вы поймете, почему некоторые немного разочарованы в GPT-4. Ходили слухи, что он будет работать в режиме реального времени, одновременно подстраиваясь на лету к Интернету. Считающееся большим улучшением по сравнению с ChatGPT. Реальность такова, что GPT-4 по-прежнему работает с устаревшими данными. И нет корректировки в режиме реального времени сопоставления вычислительных шаблонов как таковой на основе обновлений из Интернета.

У меня есть еще новости для вас.

В предложении, которое я приводил ранее о ГПТ-4 как о крупномасштабном, также говорилось, что ОГП-4 является мультимодальный.

Позвольте мне дать некоторые сведения о понятии мультимодальный генеративный ИИ.

В начале этого обсуждения я упоминал, что существуют различные типы генеративного ИИ, такие как преобразование текста в текст или текст в эссе, преобразование текста в рисунок или текст в изображение, преобразование текста в аудио, преобразование текста в текст. -to-video и т. д. Все они считаются единственным способом обработки контента. Например, вы можете ввести текст и получить сгенерированное эссе. Другой пример: вы вводите текст и получаете сгенерированное изображение.

В конце прошлого года я сделал свои ежегодные прогнозы о том, что мы увидим в достижениях ИИ на 2023 год (см. ссылку здесь). Я говорил, что мультимодальный генеративный ИИ будет очень популярен. Идея состоит в том, что вы могли бы, например, ввести текст и изображение (два режима ввода), используя их в качестве подсказки в генеративном ИИ, и вы могли бы получить эссе в качестве вывода вместе с сгенерированным видео и звуковой дорожкой (три режима на входе). выход).

Таким образом, может сосуществовать множество режимов. У вас может быть множество режимов при подсказке или вводе. У вас также может быть множество режимов в сгенерированном ответе или выводе. Вы можете смешать и сопоставить как входы, так и выходы. Вот куда идут дела. Захватывающие возможности того, что можно сделать с помощью генеративного ИИ, открываются безмерно благодаря мультимодальной функциональности.

ChatGPT имеет единственный режим. Вы вводите текст, вы получаете сгенерированный текст в качестве вывода.

Ходили слухи, что GPT-4 как бы преодолеет звуковой барьер и обеспечит полную мультимодальность всего ко всему. Все знали, что текст будет включен. Ожидалось, что будут добавлены изображения или иллюстрации, а также аудио и, возможно, даже видео. Это было бы бесплатно для всех. Любой режим на входе, включая любое количество этих режимов. Плюс любой режим на выходе, включая столько смешанных режимов, сколько вы пожелаете.

Настоящий шведский стол режимов.

Что дает GPT-4?

Вернитесь к этому предложению из TR:

• «Мы сообщаем о разработке GPT-4, крупномасштабной мультимодальной модели, которая может принимать входные изображения и текст и создавать текстовые выходные данные».

Вы можете ввести текст, и вы получите текст на выходе, плюс вы можете ввести изображение на входе.

Демонстрации, демонстрирующие обработку изображения или зрения для введенных изображений, показали, что элементы на картинке, например, могут быть идентифицированы генеративным ИИ, а затем объединены в письменное повествование, объясняющее изображение. Вы можете попросить генеративный ИИ объяснить, что изображено на картинке. В общем, обработка зрения будет заметным дополнением.

Возможности обработки изображений или анализа изображений пока недоступны для публичного использования (согласно блогу веб-сайта OpenAI):

• «Чтобы подготовить возможность ввода изображений для более широкой доступности, мы с самого начала тесно сотрудничаем с одним партнером».

Суть всего этого в том, что приятно осознавать, что GPT-4, по-видимому, действительно имеет возможность вводить и анализировать изображения. Многие с нетерпением ждут публичного релиза этой функции. Престижность OpenAI за продвижение на мультимодальную арену.

Итак, у нас есть текст на входе, плюс изображение на входе (когда оно доступно для общего пользования) и текст на выходе.

Некоторые, тем не менее, заламывали руки в сообществе ИИ, что это едва ли соответствует понятию мультимодальный. Да, есть еще один режим, изображение на вход. Но не изображение в качестве вывода. Казалось бы, нет ни звука на входе, ни звука на выходе. По-видимому, нет ни видео на входе, ни видео на выходе. Те, у кого склонность к льстивости, находят это «мультимодальным» в самом минималистском смысле.

Контраргумент состоит в том, что вы должны ползать, прежде чем идти, и ходить, прежде чем бежать.

Я считаю, что это охватывает первое предложение ТЗ, и мы можем перейти к дополнительным темам.

Дополнительные сведения о GPT-4

Теперь, когда у вас есть дополнительная информация по этому вопросу, я собираюсь ускориться.

Вот что-то важное, как отмечено в сообщении блога OpenAI о GPT-4:

• «За последние два года мы перестроили весь наш стек глубокого обучения и совместно с Azure разработали суперкомпьютер с нуля для нашей рабочей нагрузки».

Два быстрых замечания по этому поводу.

Во-первых, указание на то, что они перестроили весь свой стек глубокого обучения, безусловно, является примечательным замечанием и достижением (это означает, что они переделали вычислительные модели сопоставления с образцом и решили реструктурировать то, как все работает внутри). Хорошо для них. Напрашивающийся вопрос, который некоторые высказывают, заключается в том, что было бы неплохо точно знать, что они сделали в этой перестройке. В ТО и СК в некоторой степени упоминается, что имело место, но не слишком подробно.

Конечно, можно убедительно возразить, что им не следует раскрывать свой секрет. Они не обязаны это делать. Зачем оказывать помощь своим конкурентам без необходимости? Другая сторона медали утверждает, что для улучшения ИИ и общества в целом это, по-видимому, поможет в продвижении генеративного ИИ, который, по-видимому, будет полезен для человечества (есть надежда).

Мы вернулись к этой тонкой разделительной линии между этикой ИИ и законом ИИ.

Во-вторых, процитированное замечание указывает на то, что они разработали суперкомпьютер с нуля. Помимо интереса к тому, что делает этот суперкомпьютер и как он точно работает, некоторые из которых были объяснены, это поднимает совершенно другой вопрос.

Некоторые опасаются, что генеративный ИИ становится игрой с большими деньгами. Только технологические компании с самыми большими деньгами и самыми большими ресурсами смогут разработать и внедрить генеративный ИИ. Причина, по которой это подвергается сомнению, заключается в том, что, возможно, у нас будет генеративный ИИ, который будет жестко контролироваться лишь горсткой технологических фирм. Мы можем стать сильно зависимыми от этих фирм и их товаров.

Нужно ли нам потенциально использовать существующие законы или разрабатывать новые законы ИИ, чтобы предотвратить концентрацию генеративного ИИ, находящегося в узком подчинении лишь нескольких человек?

Есть над чем поразмыслить.

Если вы ждете, когда ботинок упадет с точки зрения какой-то невероятно огромной разницы между ChatGPT и GPT-4, взгляните на это из блога OpenAI о GPT-4:

• «В обычном разговоре разница между GPT-3.5 и GPT-4 может быть едва заметной. Разница проявляется, когда сложность задачи достигает достаточного порога — GPT-4 более надежен, креативен и способен обрабатывать гораздо более тонкие инструкции, чем GPT-3.5».

Я обнаружил, что это отсутствие отличительной разницы в некоторой степени имеет место, а именно, если вы ведете повседневную праздную болтовню с ChatGPT и делаете то же самое с GPT-4, вы можете не особенно понимать, что GPT-4 считается более мощным в целом. .

Один аспект, который кажется выдающимся, состоит в установлении контекста для ваших разговоров с двумя генеративными приложениями ИИ.

Вот что я имею в виду.

Когда вы используете генеративное приложение ИИ, вы иногда просто вступаете в разговор, который вы начинаете и продолжаете вместе с ИИ. В других случаях вы начинаете с того, что сообщаете ИИ контекст разговора. Например, я могу начать с того, что скажу генеративному ИИ, что хочу обсудить с ним автомобильные двигатели и что я хочу, чтобы ИИ притворился автомехаником. Затем это устанавливает сцену или настройку для ИИ, чтобы реагировать соответствующим образом.

Многие люди, использующие ChatGPT, не осознают важность настройки контекста, когда они впервые вступают в диалог с приложением AI. Это может быть огромная разница с точки зрения того, какой ответ вы получите. Я часто обнаруживаю, что ChatGPT сам по себе не очень хорошо подходит для определенных контекстов. Он пытается, но часто терпит неудачу. До сих пор GPT-4, кажется, действительно сиял благодаря использованию контекстного установления.

Если вы собираетесь использовать генеративный ИИ и хотите установить контексты, когда вы это делаете, я бы определенно отдал общее преимущество GPT-4 над ChatGPT.

На связанном элементе есть также аспект, известный как управляемость это вступает в игру.

Некоторые пользователи ChatGPT были удивлены тем, что иногда приложение AI дает ответы, которые кажутся, возможно, чрезмерно юмористическими или чрезмерно краткими. Это может произойти, если генеративный ИИ обнаружит что-то в вашем запросе ввода, что, по-видимому, вызывает такой ответ. Вы можете в шутку спросить о чем-то и не осознавать, что это приведет ChatGPT к шуткам и беззаботному тону.

Согласно сообщению в блоге OpenAI о GPT-4 и управляемости:

• «Вместо классической индивидуальности ChatGPT с фиксированной детализацией, тоном и стилем разработчики (а вскоре и пользователи ChatGPT) теперь могут предписывать стиль и задачи своего ИИ, описывая эти направления в «системном» сообщении. Системные сообщения позволяют пользователям API значительно настраивать работу своих пользователей в определенных пределах».

Опять же, это повысит удобство работы пользователей с генеративными приложениями ИИ. Другие производители генеративного ИИ делают то же самое, и у нас неизбежно будут почти все такие приложения ИИ с той или иной формой управляемости и функциональностью установления контекста.

Трудная дорога еще впереди

Постоянная и тревожная проблема, лежащая в основе генеративного ИИ в целом, заключается в том, что могут быть получены всевозможные неприятные и откровенно тревожные результаты.

В своих сообщениях в колонке я освещал эти различные и отрезвляющие вопросы:

• Ошибки, вызванные генеративным ИИ
• Генеративный ИИ породил ложь
• Встроенные предубеждения генеративного ИИ
• Галлюцинации ИИ
• вторжение в частную жизнь
• Недостатки конфиденциальности данных
• Распространитель дезинформации
• Распространитель дезинформации
• Двойное использование для оружия
• Чрезмерная зависимость от людей
• Экономическое воздействие на человека
• Поддержка киберпреступности
• И т.д.

Ходили слухи, что GPT-4 волшебным образом и чудесным образом очистит и устранит все эти болезни генеративного ИИ.

Никто с надлежащей головой на плечах не думал, что такой слух может выдержать критику. Это очень сложные проблемы с ИИ. Они не решаются легко. Многое еще предстоит сделать, чтобы справиться с этими непрекращающимися и раздражающими трудностями. Скорее всего, потребуется целая деревня, чтобы преодолеть длинный перечень вопросов этики ИИ, запутавшихся в среде генеративного ИИ.

Чтобы отдать должное, OpenAI попытался объяснить, как они решают эти многочисленные разнообразные проблемы. Тем из вас, кто интересуется этикой ИИ, следует внимательно прочитать ТР и КС.

Вот, например, несколько откровенных комментариев о GPT-4, заявленных OpenAI в TR:

• «GPT-4 может генерировать потенциально опасный контент, например советы по планированию атак или разжигание ненависти. Он может отражать различные социальные предубеждения и мировоззрения, которые могут не отражать намерения пользователей или широко распространенные ценности. Он также может генерировать скомпрометированный или уязвимый код. Дополнительные возможности GPT-4 также приводят к появлению новых поверхностей риска».

Более того, в ТР об этом говорится:

• «Благодаря этому анализу мы обнаруживаем, что GPT-4 может использоваться для попытки идентифицировать частных лиц при дополнении внешними данными. Мы также обнаружили, что, хотя возможности кибербезопасности GPT-4 не намного превосходят LLM предыдущих поколений, он продолжает тенденцию к потенциальному снижению стоимости определенных шагов успешной кибератаки, например, с помощью социальной инженерии или путем улучшения существующих инструментов безопасности. . Без мер безопасности GPT-4 также может дать более подробные рекомендации о том, как вести вредную или незаконную деятельность».

У меня нет места в этой колонке, чтобы охватить все многочисленные вопросы, связанные с этими трудностями. Следите за дополнительным освещением в колонке моего текущего анализа генеративного ИИ с точки зрения этики ИИ и закона об ИИ.

Казалось бы, стоит воспользоваться моментом и признать, что OpenAI предоставила информацию о том, как они подходят к этим трудным задачам. Можно сказать, что у них не было причин для этого. Они могли бы просто вести себя так, как будто там не на что смотреть. Или они могли просто махнуть рукой и заявить, что они делают много умных вещей, чтобы решить эти проблемы.

К счастью, они выбрали разумный подход, пытаясь опередить отрицательную реакцию и запугивание, которые обычно сопровождают выпуски генеративного ИИ. Предположительно, они стремятся твердо продемонстрировать свою серьезность и приверженность искоренению этих проблем и стремятся смягчить или решить их.

Я хотел бы добавить еще одну мысль, что все сказанное в области ИИ потерпит суровое поражение, если не будет постоянных и напряженных усилий по решению этих вопросов в прямой и предстоящей манере. Использование скрытого подхода «черного ящика» обязательно вызовет гнев широкой публики. Вы также можете предвидеть, что если компании, занимающиеся ИИ, не попытаются решить эти проблемы, есть вероятность, что законодатели и регулирующие органы будут втянуты в эти вопросы, и цунами новых законов об ИИ обрушится на всех производителей ИИ и тех, кто занимается этим. ИИ.

Некоторые считают, что мы уже находимся на этом этапе.

Они настаивают на том, что, хотя многие производители ИИ, кажется, делятся тем, что они делают, это своего рода скрытая форма правдоподобного отрицания. Короче говоря, продолжайте выпускать ужасный и заведомо неправомерный ИИ, вместо того, чтобы ждать, пока что-то придумают лучше, и предотвратите тех, кто занимается этикой ИИ и законом об ИИ, объявив, что вы делаете все возможное, чтобы исправить ситуацию. Я часто обсуждал это продолжающееся противоречие «подождите, пока не будет готово» в своей колонке.

Согласно ТР:

• «OpenAI перерабатывает GPT-4 и наш план развертывания с начала августа, чтобы подготовиться к более безопасному запуску. Мы считаем, что это уменьшило поверхность риска, хотя и не устранило его полностью. Сегодняшнее развертывание представляет собой баланс между минимизацией риска от развертывания, обеспечением положительных вариантов использования и извлечением уроков из развертывания».

Возвращаясь к обсуждаемому вопросу, я ранее упоминал, что галлюцинации ИИ являются преобладающей проблемой, когда речь идет о генеративном ИИ.

Опять же, мне не нравится крылатая фраза, но, похоже, она прижилась. Основная проблема с галлюцинациями ИИ заключается в том, что они могут создавать на выходе очень сумасшедшие вещи. Вы можете подумать, что пользователь сам должен различать, правильные или неправильные результаты. Проблема здесь в том, что выходные данные могут содержать выдуманные вещи, которые пользователь не может легко определить как выдуманные. Они могут поверить во все, что говорится на выходе.

Существует также тонкая склонность верить в результаты генеративного ИИ. Обычно выходные данные написаны тоном и манерой, создающими впечатление уверенности. Предполагая, что вы регулярно используете генеративный ИИ, легко убаюкаться, видя правдивый материал большую часть времени. Затем вас легко обмануть, когда что-то выдуманное оказывается в середине того, что в противном случае кажется вполне разумным и наполненным фактами сгенерированным эссе.

Вот что говорит ТЗ о GPT-4:

• «GPT-4 имеет тенденцию к «галлюцинациям», т.е. «производству контента, который является бессмысленным или ложным по отношению к определенным источникам». Эта тенденция может быть особенно вредной, поскольку модели становятся все более убедительными и правдоподобными, что приводит к чрезмерному доверию к ним со стороны пользователей. Вопреки интуиции, галлюцинации могут стать более опасными по мере того, как модели становятся более правдивыми, поскольку пользователи доверяют модели, когда она предоставляет правдивую информацию в областях, с которыми они знакомы».

Хорошей новостью является то, что были предприняты и, похоже, продолжаются попытки уменьшить вероятность галлюцинаций ИИ в GPT-4. Кроме того, утверждается, что GPT-4 превосходит GPT-3.5 с точки зрения предотвращения галлюцинаций ИИ, хотя ясно, что они все еще будут возникать.

Вот ТЗ по этому поводу:

• «По внутренним оценкам запуск GPT-4 набирает на 19 процентных пунктов больше, чем наша последняя модель GPT-3.5, избегая галлюцинаций открытого домена, и на 29 процентных пунктов выше, избегая галлюцинаций закрытого домена».

Чтобы закрыть эту часть обсуждения на данный момент, генеративный ИИ всех производителей ИИ сталкивается с этими проблемами. Никто так и не вылечил это. Если вы ищете серьезные проблемы с ИИ, я призываю вас прыгнуть в эти воды и помочь. Предстоит много работы.

Заключение

Когда блокбастер существует какое-то время и перешел из кинотеатров в домашнюю потоковую передачу, довольно много людей, вероятно, видели фильм или знали что-то о нем от других, которые его видели. После этого, когда объявляют о сиквеле и снимают его, ожидание может достигать астрономических уровней.

Джей Джей Абрамс, ставший теперь легендарным режиссером частей «Звездных войн» и перезагрузки «Звездного пути», сказал о сиквелах следующее: «Нет ничего плохого в том, чтобы делать сиквелы, просто их легче продать».

Эдвин Кэтмелл, соучредитель Pixar, подчеркнул это в отношении сиквелов: «Поверьте мне, сиквелы так же сложно снимать, как и оригинальные фильмы».

Если вы заинтересованы в просмотре блокбастера ChatGPT, вы можете легко зарегистрироваться. Получить доступ к сиквелу GPT-4 немного сложнее. Также имейте в виду, что есть много других доступных фильмов, ну, другие доступные приложения для генеративного ИИ, поэтому вы можете убедиться, что ваш опыт просмотра фильмов (также известный как генеративный ИИ) разнообразен и приносит удовлетворение.

Последнее отрезвляющее замечание. Имейте в виду, что контент, с которым вы можете столкнуться, может быть PG13, R или даже NC-17. Запомни.