Генеративный ИИ ChatGPT против этих бесконечных печатных обезьян, нет конкурентов, говорит этика ИИ и закон ИИ

Эти неугомонные обезьяны.

Существует довольно известный мысленный эксперимент, о котором вы, возможно, слышали, с участием обезьян. Весьма интригующее приспособление часто используется теми, кто хочет сделать особенно отточенное замечание.

Вот как развивается сюжет.

Представьте, что обезьяна печатает на пишущей машинке. Если обезьяна продолжает печатать бесконечное количество времени и предполагает, что обезьяна набирает клавиши исключительно случайным образом, велика вероятность того, что все произведения Шекспира будут неизбежно напечатаны.

Суть, по-видимому, состоит в том, что только по случайному стечению обстоятельств иногда можно получить вразумительный ответ. Мы все склонны согласиться с тем, что произведения Шекспира представляют собой потрясающую демонстрацию внятного письма и рассуждений. Таким образом, любое или любое средство создания ценных слов Шекспира казалось бы удивительно впечатляющим, хотя, в то же время, мы были бы резко разочарованы тем, что это было не благодаря разуму как таковому, а просто случайному везению.

Некоторые в настоящее время пытаются сравнить эту обезьянью метафору с последними достижениями в области искусственного интеллекта (ИИ).

Вы, вероятно, знаете, что самая горячая форма ИИ в наши дни — это Генеративный ИИ, примером чего является широкое и очень популярное приложение для искусственного интеллекта, известное как ChatGPT, созданное OpenAI. Чуть позже я расскажу больше о генеративном ИИ и ChatGPT. На данный момент просто знайте, что это приложение искусственного интеллекта для преобразования текста в текст или текста в эссе, которое может создать для вас эссе на основе введенной вами подсказки.

Заявленная связь, относящаяся к легендарной печатающей обезьяне, заключается в том, что предположительно впечатляющие эссе, созданные генеративным ИИ, которые кажутся совершенно беглыми, не более поразительны, чем достижения печатающего примата. Если вы принимаете допущение, что обезьяна, печатающая случайным образом, может генерировать произведения Шекспира, и если вы готовы признать, что ChatGPT и другие генеративные ИИ якобы одинаковы, вы должны, следовательно, заключить, что генеративный ИИ вовсе не заслуживает особого внимания. Это просто случайность обманывает нас.

Что ж, это может показаться убедительным доводом, но нам нужно его раскрыть. Внимательная распаковка покажет, что сравнение между ними вводящий в заблуждение и явно неправильный.

Перестаньте сравнивать. Для тех, кто настаивает на продолжении сравнения, пожалуйста, по крайней мере, делайте это благоразумно и честно.

Те, кто просто бросает сравнение, оказывают медвежью услугу генеративному ИИ. И, что более важно, это вводит в заблуждение общественность и общество в целом. Я полагаю, мы могли бы также добавить, что они также оказывают медвежью услугу трудолюбивым обезьянам или, возможно, подрывают ценность теоремы о бесконечно печатающих обезьянах. Будь честен. Будь добрым. Будьте правдивы.

Прежде чем мы углубимся в это, упомянем инсайдерскую шутку, в которой используется понятие печатной обезьяны. Вам это может понравиться.

Циничный юмор часто прослеживается в личной переписке во время начального расцвета Интернета. Это было время, когда Интернет превратился из мрачной серьезной онлайн-сферы в беспорядочную территорию шумного, шумного и непослушного, поскольку число людей, использующих Интернет, заметно возросло.

Юмористический анекдот гласит, что если обезьяны, печатающие на пишущих машинках, в конечном счете напечатают или, скажем так, воспроизведут все произведения Шекспира, у нас теперь есть доказательство того, что благодаря появлению Интернета это определенно должно произойти. не будь настоящим.

Ты смеешься?

Некоторые считают это чрезвычайно забавным замечанием.

Эта шутка представляет собой издевательство над тем, что Интернет со всеми его бурлящими и изрыгающими сообщениями никак не может подняться до уровня создания Шекспира. Это резкое замечание, подчеркивающее, что Интернет, по-видимому, не возвышает дискурс, а вместо этого очерняет его. Многие полагали, что Интернет станет благом для интеллектуального взаимодействия, позволяя вести наводящие на размышления дискуссии по всему миру. Похоже, мы не обязательно были свидетелями этого в таком большом количестве, как надеялись.

Конечно, было бы ошибкой воспринимать шутку как истинное предвестие того, что сделал Интернет. С Интернетом связано множество замечательных открытий и заслуживающих внимания ценностей. Шутка — это приукрашивание или преувеличение. Тем не менее, хорошо известно, что нам нужно остерегаться коварного и бесполезного контента, стремясь к поиску и популяризации работ, вдохновляющих общество, с помощью Интернета. За мое освещение того, как ИИ может помочь и в то же время двойное назначение мода подрывает общественный дискурс негативными сообщениями в Интернете, см. мою дискуссию на ссылка здесь.

В сегодняшней колонке я расскажу о существенных различиях между генеративным ИИ и классической сказкой о пишущих обезьянах. Я объясню, где сравнение не соответствует действительности. Вы, несомненно, в конечном итоге узнаете больше о теореме о печатных обезьянах, а также более конкретно поймете, как работает генеративный ИИ. Я буду время от времени упоминать ChatGPT, так как это 600-фунтовая горилла генеративного ИИ (каламбур), хотя имейте в виду, что существует множество других приложений генеративного ИИ, и они, как правило, основаны на тех же общих принципах.

Между тем, вам может быть интересно, что же такое на самом деле генеративный ИИ.

Давайте сначала рассмотрим основы генеративного ИИ, а затем мы можем внимательно рассмотреть сравнения теорем о печатающих обезьянах.

Ко всему этому относится множество соображений по этике и закону об ИИ.

Имейте в виду, что предпринимаются постоянные усилия по внедрению этических принципов ИИ в разработку и внедрение приложений ИИ. Растущий контингент заинтересованных и бывших специалистов по этике ИИ пытается обеспечить, чтобы усилия по разработке и внедрению ИИ учитывали точку зрения AI для хорошего и предотвращение AI для плохих. Точно так же предлагаются новые законы об ИИ, которые распространяются как потенциальные решения, чтобы удержать усилия ИИ от нарушения прав человека и тому подобного. Мой постоянный и обширный обзор этики ИИ и закона об ИИ см. ссылка здесь и ссылка здесь, Просто назвать несколько.

Разработка и обнародование этических предписаний ИИ преследуются, чтобы, как мы надеемся, предотвратить попадание общества в множество ловушек, связанных с ИИ. Мое освещение принципов этики ИИ ООН, разработанных и поддерживаемых почти 200 странами благодаря усилиям ЮНЕСКО, см. ссылка здесь. В том же духе изучаются новые законы ИИ, чтобы попытаться удержать ИИ в равновесии. Один из последних дублей состоит из набора предложенных ИИ Билль о правах которые Белый дом США недавно выпустил для определения прав человека в эпоху ИИ, см. ссылка здесь. Требуется целая деревня, чтобы удерживать ИИ и разработчиков ИИ на правильном пути и сдерживать целенаправленные или случайные закулисные усилия, которые могут подорвать общество.

Я включу в это обсуждение соображения, связанные с этикой ИИ и законом об ИИ.

Основы генеративного ИИ

Наиболее широко известный пример генеративного ИИ представлен приложением ИИ под названием ChatGPT. ChatGPT появился в общественном сознании еще в ноябре, когда он был выпущен исследовательской фирмой OpenAI в области искусственного интеллекта. С тех пор, как ChatGPT привлек огромные заголовки и удивительно превзошел отведенные ему пятнадцать минут славы.

Я предполагаю, что вы, вероятно, слышали о ChatGPT или, может быть, даже знаете кого-то, кто его использовал.

ChatGPT считается генеративным ИИ-приложением, потому что оно принимает в качестве входных данных некоторый текст от пользователя, а затем генерирует или производит вывод, который состоит из эссе. ИИ — это генератор преобразования текста в текст, хотя я описываю ИИ как генератор преобразования текста в эссе, поскольку это более ясно объясняет, для чего он обычно используется. Вы можете использовать генеративный ИИ для составления длинных композиций или заставить его предлагать довольно короткие содержательные комментарии. Это все по вашему желанию.

Все, что вам нужно сделать, это ввести приглашение, и приложение AI создаст для вас эссе, которое попытается ответить на ваше приглашение. Сочиненный текст будет казаться, будто сочинение написано рукой и умом человека. Если вы введете запрос «Расскажите мне об Аврааме Линкольне», генеративный ИИ предоставит вам эссе о Линкольне. Существуют и другие режимы генеративного ИИ, такие как преобразование текста в искусство и преобразование текста в видео. Здесь я сосредоточусь на варианте преобразования текста в текст.

Ваша первая мысль может заключаться в том, что эта генеративная способность не кажется такой уж большой проблемой с точки зрения написания эссе. Вы можете легко выполнить онлайн-поиск в Интернете и без труда найти тонны и тонны эссе о президенте Линкольне. Преимущество генеративного ИИ в том, что сгенерированное эссе относительно уникально и представляет собой оригинальную композицию, а не подражание. Если бы вы попытались найти эссе, созданное искусственным интеллектом, где-нибудь в Интернете, вы бы вряд ли его обнаружили.

Генеративный ИИ предварительно обучен и использует сложную математическую и вычислительную формулировку, которая была создана путем изучения шаблонов в написанных словах и историях в Интернете. В результате изучения тысяч и миллионов письменных отрывков ИИ может извергать новые эссе и рассказы, представляющие собой мешанину из того, что было найдено. Благодаря добавлению различных вероятностных функций полученный текст в значительной степени уникален по сравнению с тем, что было использовано в обучающем наборе.

Существует множество опасений по поводу генеративного ИИ.

Одним из существенных недостатков является то, что эссе, созданные генеративным ИИ-приложением, могут содержать различную ложь, в том числе явно ложные факты, факты, которые вводят в заблуждение, и очевидные факты, которые полностью сфабрикованы. Эти сфабрикованные аспекты часто называют формой Галлюцинации ИИ, крылатая фраза, которую я не одобряю, но, к сожалению, кажется, в любом случае набирает популярность (моё подробное объяснение того, почему это паршивая и неподходящая терминология, см. ссылка здесь).

Еще одна проблема заключается в том, что люди могут легко присвоить себе авторство генеративного эссе, созданного ИИ, несмотря на то, что они не написали эссе сами. Возможно, вы слышали, что учителя и школы очень обеспокоены появлением приложений для генеративного ИИ. Студенты потенциально могут использовать генеративный ИИ для написания назначенных им эссе. Если студент утверждает, что эссе было написано его собственной рукой, у учителя мало шансов определить, было ли оно подделано генеративным ИИ. Мой анализ этого аспекта смешения учеников и учителей см. ссылка здесь и ссылка здесь.

В соцсетях появилось несколько абсурдных громких заявлений о Генеративный ИИ утверждая, что эта последняя версия ИИ на самом деле разумный ИИ (нет, они ошибаются!). Специалисты по этике ИИ и закону об ИИ особенно обеспокоены этой растущей тенденцией к растянутым претензиям. Вы можете вежливо сказать, что некоторые люди преувеличивают возможности современного ИИ. Они предполагают, что у ИИ есть возможности, которых мы еще не смогли достичь. Это прискорбно. Что еще хуже, они могут позволить себе и другим попасть в ужасные ситуации из-за предположения, что ИИ будет разумным или похожим на человека и сможет действовать.

Не очеловечивайте ИИ.

Это приведет к тому, что вы попадете в липкую и суровую ловушку уверенности, ожидая, что ИИ будет делать то, что он не в состоянии выполнить. При этом последние разработки в области генеративного ИИ относительно впечатляют своими возможностями. Имейте в виду, однако, что существуют существенные ограничения, о которых вы должны постоянно помнить при использовании любого приложения для генеративного ИИ.

Последнее предупреждение на данный момент.

Все, что вы видите или читаете в генеративном ответе ИИ, кажется быть переданы как чисто фактические (даты, места, люди и т. д.), обязательно сохраняйте скептицизм и будьте готовы перепроверить то, что вы видите.

Да, даты можно придумать, места можно придумать, а элементы, которые мы обычно считаем безупречными, Найти подвержен подозрениям. Не верьте тому, что вы читаете, и скептически смотрите на любые эссе или результаты генеративного ИИ. Если генеративное приложение ИИ скажет вам, что Авраам Линкольн летал по стране на своем частном самолете, вы, несомненно, поймете, что это чушь. К сожалению, некоторые люди могут не осознавать, что в его дни реактивных самолетов не было, или они могут знать, но не замечать, что в эссе делается это наглое и возмутительно ложное утверждение.

Сильная доза здорового скептицизма и стойкое недоверие станут вашим лучшим преимуществом при использовании генеративного ИИ.

Мы готовы перейти к следующему этапу этого разъяснения.

Что происходит с этими печатающими обезьянами

Теперь, когда у вас есть представление о том, что такое генеративный ИИ, мы можем сравнить его с печатающими обезьянами. В некотором смысле я собираюсь шаг за шагом разбирать теорему об обезьяньей типизации. Я делаю это, чтобы осветить основы. Затем мы можем использовать выявленные элементы для сравнения с генеративным ИИ.

Теорема или гипотеза о печатающих обезьянах содержит основной набор элементов:

• а) Кто или что. Идентифицированное существо или актер, печатающий
• б) Количество и продолжительность жизни. Сколько их существует и статус их долговечности
• c) Выводимые символы. Создание букв и известных символов с помощью простейшего устройства.
• г) Время. Продолжительность выполнения задачи
• д) Интеллект. Какую смекалку они привносят в выполнение задачи
• f) Целевой результат. Целевой выпуск того, что мы хотим, чтобы они производили

Давайте сначала рассмотрим печатающих обезьян.

Вы, наверное, помните, что я упомянул в начале этого обсуждения, что мы должны представить себе, что обезьяна печатает на пишущей машинке. Я упомянул об основных понятиях, предполагающих, что этим занимается всего одна обезьяна. Мы можем настроить этот аспект.

Вот способы, которыми ситуация часто изображается:

• Одна одинокая обезьяна повседневного смертного существования
• Тысяча таких обезьян
• Миллион таких обезьян
• Бесконечное количество таких обезьян
• Одинокая обезьяна, которая бессмертна
• Некоторое количество бессмертных обезьян
• И т.д.

Обратите внимание, что вместо того, чтобы иметь только одну обезьяну, мы могли бы изменить мысленный эксперимент и иметь множество обезьян, которые предположительно работают одновременно. Кроме того, еще один регулируемый аспект заключается в том, смертны ли обезьяны или бессмертны. Я углублюсь в это на мгновение.

Нам также необходимо включить фактор времени в качестве решающего компонента.

Обычно фактор времени является одним из следующих двух соображений:

• Конечный период времени
• Бесконечное время

Еще один негласный основной элемент заключается в том, что в данном случае используются обезьяны, потому что мы считаем их относительно неразумными. Они не умеют ни читать, ни писать. Они не способны проявлять интеллект так же, как мы связываем интеллект с человеческими способностями.

Это несколько оскорбительно, если немного подумать. Я думаю, что мы все можем разумно согласиться с тем, что обезьяны удивительно умны, по крайней мере, в том, что они могут делать в пределах своего мышления. Осмелюсь сказать, что мы приписываем обезьянам более развитые мыслительные способности, чем многим другим животным. Было проведено множество тщательных исследовательских экспериментов, чтобы продемонстрировать, насколько сообразительны обезьяны.

В любом случае, в целях метафоры предполагается, что обезьяны не способны мыслить до такой степени, чтобы они могли по собственной воле постигать произведения Шекспира. В то время как классический фильм Планета обезьян пытался предупредить нас, что это может быть ошибочным предположением, мы в любом случае придерживаемся его в сегодняшнем мире.

Если мы заменим обезьян муравьями, метафора несколько рассеется. Мы не полагаем, что муравьи могут печатать на пишущих машинках. Мы могли бы попытаться заменить использование собак или кошек, поскольку они почти могли печатать на пишущей машинке, но, в конце концов, лучше всего использовать обезьян, поскольку они могут печатать так же, как печатают люди. У них есть соответствующие конечности и строение тела для выполнения поставленной задачи. Мысленно они также рассматриваются как способные печатать, хотя мы предполагаем, что они не знают, что печатают.

Кроме того, было проведено множество исследовательских экспериментов с участием обезьян и их распознавания символов. В эти различные исследования были включены установки, в которых обезьяны печатали на пишущих машинках или подобных устройствах. Если все сделано правильно, это может иметь смысл в поисках полезной информации об интеллекте и возникновении разумного поведения.

К сожалению, исследования, связанные с набором текста на пишущих машинках, иногда проводятся не в особо серьезном ключе. Иногда используемый подход был не чем иным, как слабым намеком на знаменитую или печально известную теорему о типизации обезьян, а не на добросовестные фундаментальные исследования. Я не нахожу такие выходки забавными или приличными. Идея заключалась в том, что обезьянам физически давали пишущие машинки и поощряли печатать по их прихоти или иногда для угощений, таких как еда. Если это не сделано в добросовестной надежной экспериментальной манере, это не более чем фасад.

Небольшой поворот, который является более приятным, заключается в создании компьютерных симуляций, которые должны выполнять то, что обезьяны могли бы делать в этих обстоятельствах. Компьютер используется для имитации этих аспектов. Настоящие обезьяны не участвуют. Некоторые даже зашли так далеко, что стали делать так называемые гражданская наука раздав симуляцию любому желающему позволить использовать свой ноутбук или компьютер для этих усилий. Не поддавайтесь на поддельные мошеннические схемы, которые коварно утверждают, что делают это для науки, когда на самом деле они пытаются заразить ваш компьютер компьютерным вирусом. Будьте осторожны.

Вернемся к делу.

Один аспект, который также играет важную роль в этом обстоятельстве, заключается в том, что пишущие машинки используются в этой гипотетической печатной обезьяне.

Почему пишущие машинки?

Потому что именно так мы можем получить производство букв, которые затем могут быть сформированы в слова, из которых затем могут быть сформированы истории. То же самое или похожее представление о создании большого количества букв не обязательно требует, чтобы мы печатали их. Действительно, существуют варианты этой метафоры, восходящие к временам Аристотеля, и, следовательно, тогда не было пишущих машинок.

Мы могли бы изменить метафору и обратиться к современным клавиатурам и компьютерам. Можно сказать, что обезьяны бездельничают на ноутбуке или, может быть, даже на смартфоне. Прелесть обращения к пишущим машинкам заключается в том, что мы ассоциируем пишущие машинки с некомпьютеризированными объектами, и поэтому они не помогают в самом процессе набора текста. Это имеет решающее значение для задействованного устройства.

Наконец, нам обычно представляют аспект, в котором должны быть созданы произведения Шекспира. Мы могли бы легко заменить Шекспира на любого другого известного автора. Возможно, мы хотим знать, могут ли обезьяны создать все произведения Чарльза Диккенса, Джейн Остин, Эрнеста Хемингуэя и так далее. Это не имеет особого значения. Суть в том, что письмо должно быть чем-то, что мы все знаем и что мы признаем выдающимся письмом.

Мы можем легко заменить любое письмо, которое мы хотим установить в качестве цели.

Удобство обращения к Шекспиру состоит в том, что его произведения считаются вершиной или вершиной человеческого письма. Вместо этого мы могли бы найти эссе, написанное первоклассником, и использовать его в качестве цели. Хотите верьте, хотите нет, но действуют те же самые правила. Людей, вероятно, не вдохновит тот факт, что обезьяны смогли воспроизвести почерк ребенка. Чтобы все было интересно, текст должен быть самого высокого качества.

Вариантом целевого вывода может быть ссылка на конкретное произведение Шекспира, а не на все его произведения. Как вы скоро увидите, это мало что меняет в сути дела. Я предполагаю, что многие люди склонны упоминать Гамлет как часть теоремы об обезьяньей печати , возможно, потому, что это его самая длинная игра, размер которой, как сообщается, составляет 29,551 130,000 слово (состоит примерно из XNUMX XNUMX букв).

Достаточно любой его пьесы.

Все изобретение основано на различных законах вероятности. Возможно, вы узнали о нюансах вероятностей на тех изнурительных уроках статистики и математики, которые проходили в школе.

Давайте воспользуемся словом «Гамлет», чтобы увидеть, что нужно для случайного получения этих шести букв в этой конкретной последовательности Гамлета.

Самый простой способ арифметически вычислить это состоит в том, чтобы предположить, что у нас есть простое круглое число доступных клавиш на пишущей машинке. Предположим, у нас есть пишущая машинка с 50 различными одинаково используемыми клавишами. Каждая клавиша представляет определенный символ, такой как символы обычного английского алфавита. Предположим, что клавиши расположены в случайном порядке и что мы не сфальсифицировали ситуацию, поместив отдельные клавиши Гамлета в особое расположение, чтобы стимулировать нажатие этих конкретных клавиш больше, чем любых других клавиш.

Каждая клавиша нажимается совершенно независимо от того, какая клавиша была нажата до нее. Следовательно, из 50 клавиш вероятность нажатия любой клавиши считается шансом 1 из 50. То же самое верно для всех клавиш и на протяжении всего набора текста. Расчет для одной нажатой клавиши — это шанс 1 из 50, или это 1/50.

Тогда шансы напечатать букву «Н» равны 1/50, шансы напечатать букву «а» равны 1/50, шансы напечатать букву «м» равны 1/50 и так далее.

Это:

• Вероятность того, что будет напечатано «Н», составляет 1/50.
• Вероятность того, что будет напечатано «а», равна 1/50.
• Вероятность того, что будет напечатано «m», равна 1/50.
• Вероятность того, что будет напечатано «l», равна 1/50.
• Вероятность того, что будет напечатано «e», равна 1/50.
• Вероятность того, что будет напечатано «t», равна 1/50.

Стандартное правило или закон вероятности гласит, что если два или более события полностью статистически независимы друг от друга, мы можем рассчитать вероятность того, что они оба произойдут, просто умножив их вероятности друг на друга соответственно. Мы можем сделать это в отношении этих шести букв.

У нас есть такой расчет: «H» (1/50) x «a» (1/50) x «m» (1/50) x «l» (1/50) x «e» (1/50) x «т» (1/50)

То есть: (1/50) х (1/50) х (1/50) х (1/50) х (1/50) х (1/50)

Крошечное число составляет 1/15,625,000,000 XNUMX XNUMX XNUMX.

Таким образом, шансы напечатать шестибуквенное слово «Гамлет» составляют примерно один к 15 миллиардам, при прочих равных условиях.

Это пугающие шансы. И это только для ввода конкретного слова из шести букв. Попробуйте применить тот же расчет к 29,551 XNUMX слову всей пьесы «Гамлет». Если вы решите вычислить это, помните также, что необходимо учитывать пробелы между словами.

Чем длиннее целевой вывод, тем больше шансов, что мы не сможем сгенерировать эти точные наборы букв и слов. Шансов становится все меньше и меньше. Шансы настолько малы, что мы бы почти сдались и сказали, что кажется, что это «никогда» не произойдет (будьте осторожны, используя слово «никогда», поскольку это грозное утверждение).

Возьмем, к примеру, смертную обезьяну.

Согласно различным авторитетным онлайн-данным, обычная продолжительность жизни обезьяны в дикой природе составляет около 40 лет или около того. Если вы хотите обсудить эту продолжительность жизни, мы можем просто использовать число 100 и перейти к довольно маловероятной верхней границе. Обезьяна, печатающая на пишущей машинке без остановки, скажем, сто лет, не считая времени на отдых, время на еду и тому подобное, и предполагая, что это все, что обезьяна делала с момента рождения до своего последнего вздоха, все равно выиграла. не поможет уравнять шансы написания Гамлет все сказано (обезьяна, если набирать клавишу каждую секунду без остановок в течение 100 лет, нажала бы около 3,155,673,600 XNUMX XNUMX XNUMX клавиш).

Мы можем с полным основанием сказать, что крайне маловероятно, что смертная обезьяна могла случайно напечатать пьесу. Гамлет.

Вы можете увеличить количество смертных обезьян, но это мало что изменит в том, что подавляющее большинство противников не напечатает Гамлета. Некоторые утверждают, что существует тысяча обезьян. Другой подход говорит, что существует миллион обезьян. Если предположить, что все они дожили до 100 лет и каждый набрал одну случайную клавишу на своей собственной пишущей машинке с непрерывной скоростью одна клавиша в секунду, это все равно не оказывает статистически заметного влияния на набор текста. Гамлет.

Подумайте обо всем этом.

Несколько иронично, но где бы вы разместили миллион обезьян для этой задачи? Представьте себе также, что пишущих машинок должно хватить на сто лет непрерывного использования (можете ли вы найти миллион работающих пишущих машинок, которые никто не хочет и не желает пожертвовать этому бывшему проекту?). Похоже, вам нужно было бы иметь много запасных пишущих машинок наготове. И так далее. Логистика ошеломляет.

Это все тогда кажется мрачным, что смертные обезьяны вряд ли размножатся Гамлет.

Но предположим, мы сделаем их бессмертными. Да, мы даем им какое-то волшебное зелье, которое позволяет им жить вечно. Нам даже не нужно больше одной бессмертной обезьяны. Подойдет только один. Если бы мы утверждали, что у нас есть тысяча или миллион бессмертных обезьян, метафору можно было бы сделать более захватывающей.

Если у нас есть одна обезьяна, которая может жить вечно, мы можем предположить, что это бесконечная обезьяна. Он может бесконечно долго стучать по клавишам пишущей машинки. Эта обезьяна будет продолжать идти и идти. Соответственно, даже при том, что шансы ввести игру Гамлет были чрезвычайно малы, аспект, который обезьяна будет пытаться бесконечно продолжать, наводит на мысль, что в какой-то момент игра Гамлет почти наверняка будут напечатаны.

Эмпирическое правило, так сказать, состоит в том, что последовательность событий, которая имеет ненулевой шанс произойти, хотя шансы чрезвычайно малы, мы разумно согласимся с тем, что она почти почти произойдет, если у нас есть бесконечное время для игры, при прочих равных. Те, кто занимается математикой и статистикой, склонны описывать одно и то же соображение с помощью строк или даже двоичных чисел 0 и 1. Если у вас есть конечный набор символов, а их бесконечная строка, при этом каждый символ имеет были выбраны равномерно случайным образом, там есть конечная строка, появление которой вы почти наверняка ожидаете.

Во всем этом есть большой подвох.

Мы живем в мире конечного. Казалось бы, ни у кого из нас нет бесконечного времени. Для тех из вас, кто говорит, что да, респект. Снимаю шляпу перед вами.

Если вы навяжете конечный мир печатающим обезьянам, вы обнаружите, что упираетесь в довольно жесткую стену. Анализ теоремы о пишущей обезьяне в значительной степени предполагает, что вероятность достижения игры Гамлет достаточно близок к нулю за конечное время, что для любого обоснованного операционного базиса это просто маловероятно. Обычное представление состоит в том, что если вы использовали столько обезьян, сколько существует атомов в известной вселенной, и они продолжали печатать многие миллиарды раз временного промежутка вселенной, вы все еще смотрите на непостижимо малюсенькие непостижимые шансы увидеть играть Гамлет.

Теорема о печатных обезьянах довольно крутая и часто входит в семерку лучших мысленных экспериментов нашего времени. Вы можете дополнительно изучить теорему, так как в Интернете доступно множество аналитических материалов. Это яркий и приятный способ получить представление о вероятности и статистике. Вместо того, чтобы иметь дело исключительно с сухими цифрами, вы можете представить себе этих веселых бесшабашных обезьян и все эти старомодные щелкающие-щелкающие пишущие машинки.

Теперь мы готовы привнести генеративный ИИ в загадку обезьян и пишущих машинок.

Генеративный ИИ раздражает печатающих обезьян

Предпосылкой, которую мы собираемся внимательно изучить, является спорное утверждение о том, что генеративный ИИ, такой как ChatGPT, ничем не отличается от печатающих обезьян. Говорят, что если ChatGPT или любой генеративный ИИ может производить Гамлет или подобные известные произведения, это совершенно случайный результат, который, вероятно, возник таким же образом, как обезьяны могли бы перепечатать эту высоко ценимую и глубоко почитаемую шекспировскую пьесу.

Извините, это ошибочное мышление на эту весомую тему.

Посмотрим почему.

Во-первых, давайте рассмотрим и расширим то, из чего состоит генеративный ИИ.

Напомним, что ранее я указывал, что генеративный ИИ — это программное обеспечение, которое влечет за собой использование алгоритмов для обработки данных на основе текста, существующего в Интернете и других подобных источниках. Широкий спектр сопоставлений с образцом математически и вычислительно идентифицировал закономерности среди миллионов и миллионов повествований и эссе, сочиненных людьми.

Слова сами по себе не имеют особого значения. Думайте о них как об объектах. В компьютере они представлены в виде чисел, которые мы обозначаем как токены. Они используются как удобное средство для связывания других слов или токенов друг с другом, делая это в углубленной и сложной статистической веб-структуре.

Некоторые специалисты в области ИИ обеспокоены тем, что это не более чем то, что называют стохастический попугай.

Видите ли, вместо того, чтобы пытаться связать какое-то подобие «значения» со словами, вместо этого это просто обширная индексация слов, которые, кажется, используются вокруг или рядом с другими словами. Напротив, мы предполагаем, что люди могут «понимать» природу и значение слов.

Рассмотрите свой ежедневный доступ к наличию пословных соответствий. Подобно тому, как вы используете обычную функцию автозаполнения в своем программном обеспечении для обработки текстов, компьютер математически вычисляет, что за конкретным словом обычно следует какое-то другое конкретное слово, за которым, в свою очередь, следует другое конкретное слово и так далее. Таким образом, вы часто можете начать писать предложение, и пакет обработки текстов покажет вам, какие дополнительные слова будут в предложении.

Это предположение, потому что статистически это могут быть обычные слова предложения, но вы можете иметь в виду что-то еще, поэтому прогноз отличается от того, что вы хотели написать. По-видимому, существует достаточно других примеров предложений, в которых используются те слова, которые алгоритм может оценить, и вы, вероятно, захотите закончить предложение предсказанными словами. Это не железно. Кроме того, нет никакого «смысла», связанного с этим вычислительным предположением.

Некоторые исследователи ИИ утверждают, что для достижения настоящего ИИ, часто называемого Общий искусственный интеллект (AGI), нам нужно каким-то образом кодифицировать в компьютерах еще открытую или изобретенную форму «понимания» (см. в моей колонке многочисленные публикации об ОИИ и поиске ОИИ). Они беспокоятся, что мания по поводу генеративного ИИ — не более чем тупик. Мы будем пытаться продвигать генеративный ИИ все дальше и дальше, увеличивая размер вычислительных сетей и задействуя все больше и больше вычислительной мощности компьютеров. Они утверждают, что все это будет бесполезно, когда дело дойдет до AGI.

Дополнительным беспокойством является то, что, возможно, эта погоня за предполагаемым тупиком отвлекает нас от правильного или надлежащего курса действий. Мы потратим огромную энергию и усилия на достижение ошибочного конечного состояния. Конечно, генеративный ИИ может быть ошеломляющим в плане мимикрии, но может случиться так, что это имеет мало или вообще никакого отношения к ОИИ. Мы можем обмануть себя, потратив драгоценное внимание. Мы можем задержаться или, может быть, даже никогда не добраться до ОИИ из-за этого заманчивого отвлечения внимания.

В любом случае, для целей печатающих обезьян, давайте вернемся к общему скандалу.

Мы должны учитывать следующие важные факторы:

• 1) Разумный против неразумного
• 2) Думать против «не думать»
• 3) Ограниченные мыслительные процессы по сравнению с компьютерными алгоритмами и сопоставлением с образцом
• 4) Необученные или неспособные к обучению по сравнению с обученными вычислительными данными

Давайте рассмотрим каждый из этих факторов.

Разумный против неразумного

Я считаю, что мы можем признать, что обезьяны — разумные существа. Независимо от того, насколько умны или лишены ума вы, возможно, захотите утверждать, что они есть; они, несомненно, разумны. Это факт. Никто не может разумно утверждать обратное.

Современный искусственный интеллект не является разумным. Точка, точка.

Более того, я утверждаю, что мы далеки от разума ИИ. Другие, конечно, могут не согласиться. Но любой здравомыслящий человек согласится с тем, что сегодняшний ИИ не обладает разумом. Мой анализ ужасно ошибочной маркировки интеллекта ИИ этим инженером Google в прошлом году см. в моем обсуждении на ссылка здесь.

Итак, одно важное различие между этими охотно печатающими обезьянами и современным генеративным ИИ заключается в том, что обезьяны — разумные существа, а ИИ — нет. Вдобавок ко всему, начинать сравнивать сегодняшний ИИ с чем-либо разумным часто бывает скользкой дорожкой. Существует тенденция к антропоморфизации ИИ. Я настоятельно призываю, чтобы попытаться предотвратить попадание в эту легкую ментальную ловушку, мы избегали любых сравнений между ИИ и разумными существами, если только мы не будем откровенны и четко и явно не идентифицируем и не разграничиваем это различие.

Лишь немногие проводят такое разграничение при сравнении печатающих обезьян и генеративного ИИ. Они предполагают, что вы либо уже осознаете, что есть эта разница, либо им все равно, что есть разница, либо они не подумали об этом и т. д.

Думать против «не думать»

Я бы сказал, что обезьяны могут думать. Они мыслящие существа. Мы можем легко спорить о том, сколько они могут думать. Вы почти наверняка должны согласиться с тем, что обезьяны могут думать.

Сегодняшний ИИ всех видов, включая генеративный ИИ, не достигает того, что я считаю человеческими способностями. мышление.

Я повторю свой только что упомянутый рефрен, относящийся к чувству. Это вводит в заблуждение, и я утверждаю, что неправильно говорить, что сегодняшний ИИ может думать. К сожалению, люди делают это постоянно, в том числе исследователи и разработчики ИИ. Я считаю, что это снова неудачная и опрометчивая антропоморфизация. Вы даете ИИ видимость возможностей или возможностей, которых нет, и это дезинформирует общество в целом по этому вопросу. Прекрати это делать.

Генеративный ИИ представляет собой сложную веб-структуру математических и вычислительных свойств. Это достойно восхищения. То, чего это достигает, просто чушь. Я не верю, что какая-либо разумная интерпретация «мышления» в том виде, в каком мы его понимаем, во всей его красе подходит этому ИИ.

Ограниченные мыслительные процессы против компьютерных алгоритмов и сопоставления с образцом

Обезьяны ограничены в своих мыслительных процессах.

Возможно, вас заинтересует тот факт, что в научной литературе имеется множество сравнений мозга обезьяны с мозгом человека. Например, рассмотрим это исследование: «Человеческий мозг примерно в три раза больше, чем мозг нашего ближайшего живого родственника, шимпанзе. Более того, часть мозга, называемая корой головного мозга, которая играет ключевую роль в памяти, внимании, осознании и мышлении, содержит в два раза больше клеток у человека, чем та же самая область у шимпанзе. Сети мозговых клеток в коре головного мозга также ведут себя по-разному у двух видов» (в статье, опубликованной в eLife, сентябрь 2016 г., под названием «Различия и сходства между нейронными предшественниками человека и шимпанзе в процессе развития коры головного мозга»).

Мы все понимаем, что обезьяны не могут сравниться с человеческим мышлением. Эти чудесные существа могут быть очаровательными и удивительно много думать, в этом нет никаких сомнений. Они просто не поднимаются до уровня человеческого мышления. Я пожалею, что сказал это, как только обезьяны захватят человечество.

Я уже озвучивал минуту назад, что сегодняшний ИИ не мыслит. Я подчеркнул, что то, что делает ИИ, не следует называть «мышлением», поскольку это вводит в заблуждение и сбивает с толку.

Вот где генеративный ИИ действительно затмевает обезьян с точки зрения использования компьютерной обработки, основанной на разработанных людьми алгоритмах и основанной на написанных людьми текстах. Маловероятно, что мыслящая обезьяна сможет воспринять и сопоставить с образцом огромное количество письменных символов, которые придумали люди. Обезьяны не обладают такими способностями к мышлению.

Я не решаюсь предложить такое сравнение, учитывая мои другие сомнения. Но я четко указываю, каковы предположения и как правильно и надлежащим образом провести этот анализ.

Необученные или неспособные к обучению по сравнению с обученными вычислительными данными

Подобно тому, что я только что сказал, вы не сможете обучить мыслящую обезьяну широкому использованию письменных символов человечества. Вы можете делать это в очень ограниченном количестве, и исследования показали, что обезьяны, по-видимому, могут думать о письменных символах. Это гораздо меньше, чем способность запоминать и повторять обширные наборы слов, предложений и целых повествований.

Генеративный ИИ — это компьютерная статистическая имитация, которая может быть обучена вычислительным данным. Если мы продолжим предоставлять больше данных, таких как дополнительные тексты, которые мы собираем или находим, предположение и надежда состоят в том, что найденные закономерности будут становиться все глубже и глубже. Кроме того, использование все более и более быстрых компьютерных чипов и обработки также повысит способность сопоставления с образцом и способность реагировать.

Глядя на практический результат

Если бы генеративный ИИ создавал пьесу Гамлет, что бы это означало?

Во-первых, мы должны рассмотреть, была ли история или игра введена в генеративный ИИ во время обучения данных. Если это так, то нет ничего особенно примечательного или примечательного в том, что генеративный ИИ позже произносит те же самые слова, которые он ранее отсканировал.

Исследователь ИИ может быть немного встревожен, потому что сопоставление с образцом, по-видимому, переборщило, по сути, запомнив слова. Мы обычно называем это в сфере машинного обучения как переобучения к данным, которые использовались во время обучения. Как правило, вы не хотите, чтобы точные слова были шаблонными, вы хотите, чтобы сформировался обобщенный шаблон.

В своих колонках я обсуждал обеспокоенность тем, что иногда мы можем наблюдать вторжение в частную жизнь и раскрытие конфиденциальных данных в случаях, когда генеративный ИИ выполняет точное сопоставление, а не обобщенное сопоставление исходных данных. ссылка здесь.

Во-вторых, предположим, что пьеса Гамлет не был введен в генеративный ИИ. Следующим соображением будет вопрос о том, сканировались ли какие-либо произведения Шекспира во время обучения данных.

Если да, то можно предположить, что пьеса Гамлет могут быть созданы на основе шаблонов, связанных с другими произведениями Шекспира, особенно если есть другие ссылки или упоминания о Гамлет в другом месте обучающего набора данных. Все это потенциально может быть использовано сопоставлением с образцом для формирования стиля Гамлет. Правда, возможность генерировать Гамлет слово в слово было бы протянутым досягаемостью, значительно открывающим глаза и удивительным результатом.

В-третьих, если бы генеративный ИИ производил все Гамлет и никогда заранее ничего о Шекспире не кормили, что ж, это было бы удивительно. Хотя это не обязательно было бы точно таким же, как чисто случайный характер клевания клавиш на пишущей машинке. Мы должны понимать, что слова Шекспира — это слова, поэтому они являются частью совокупности формулировок, встречающихся в огромном количестве текстовых историй и нарративов, загружаемых в генеративный ИИ. Вы повышаете шансы, начиная с краеугольного камня слов и ассоциаций между словами. Тем не менее, шансы на то, что что-то подобное произойдет, довольно малы.

Заключение

Когда дело доходит до создания слов и эссе, генеративный ИИ становится беспрецедентным, поскольку он основан на придуманных людьми словах и эссе (конечно, нам нужно прямо бороться с ошибками, ложью и галлюцинациями ИИ). ИИ не «понимает» испускаемые слова. Нет там, там.

Вам не нужно ждать бесконечный период времени, чтобы увидеть беглые эссе и полностью читаемые результаты. Они происходят ежедневно и одним нажатием кнопки. Они не перемешаны, по крайней мере, не в большинстве случаев, из-за того, что они созданы на основе того, что написали люди. Сопоставление с образцом должно быть дополнительно отрегулировано и в конечном итоге достаточно хорошо, чтобы сократить большую часть странных формулировок, см. мое объяснение того, как это может работать, показанное на ссылка здесь. Эта настройка будет постоянно совершенствоваться, и мы все будем все больше восхищаться тем, что производит генеративный ИИ.

Слова выбраны не случайно. Слова написаны не случайно. Есть некоторые вероятностные аспекты, например, при создании выходного эссе в отношении того, какие слова выбрать. Но это по-прежнему основано на человеческих писаниях и, следовательно, не является чисто случайным. Он основан на случайном выборе из нескольких или некоторого количества вариантов формулировки, которые в противном случае могли бы быть статистически осуществимыми как следующее выбранное слово или набор слов.

Какое место в этом занимают обезьяны?

Эти печатающие обезьяны, безусловно, привлекательны в качестве основы для сравнения с генеративным ИИ. Обезьяны производят Гамлет по сравнению с генеративным ИИ, производящим Гамлет. Это увлекательное соревнование. Можно сказать, что на самом деле никакого конкурса нет. ИИ, созданный человечеством и основанный на писаниях человечества, имеет в этом отношении несправедливое преимущество.

Говоря об обезьянах, в эпизоде Симпсоны, г-н Бернс решает нанять обезьян, чтобы они печатали на пишущих машинках в рамках офисного набора. Он из тех придирчивых боссов, которые с радостью тяготели бы к использованию обезьян в своей необходимой офисной работе, а не к использованию людей, если бы он мог это сделать.

Поклонники шоу, возможно, помнят, что происходит.

Мистер Бернс хватает одну из напечатанных страниц и с жадным нетерпением читает то, что напечатала обезьяна. Он читает страницу вслух и говорит: «Это были лучшие времена, это было расплывчатый раз» (т.е. есть одно слово, которое перепутано, «блурст» или что-то в этом роде). Он приходит в полную ярость и крайне разочаровывается в том, что эти «глупые обезьяны» могут произвести.

Мы знаем, что если бы обезьяна напечатала этот отрывок из «Повести о двух городах» Чарльза Диккена, мы бы пришли в восторг и прыгали от радости. Не так для мистера Бернса.

В качестве последнего комментария к этому обсуждению, возможно, нам следует привести полное предложение, которое написал Чарльз Диккенс: «Это были лучшие времена, это были худшие времена, это был век мудрости, это был век глупости, это был век глупости. Это была эпоха веры, это была эпоха недоверия, это была пора света, это была пора тьмы, это была весна надежды, это была зима отчаяния».

Мы не совсем уверены, куда мы движемся с ИИ. Некоторые говорят, что это будет лучше, чем нарезанный хлеб. Другие предупреждают, что ИИ, который мы создаем, станет экзистенциальным риском для выживания человечества. Это действительно либо лучшие времена, либо худшие времена.

Не удивляйтесь, увидев, что генеративный ИИ выводит именно эти слова. Удивитесь, если вам доведется увидеть в зоопарке обезьян, которые случайно печатают на пишущих машинках и умудряются набирать одни и те же проницательные слова.

Пожалуйста, дайте мне знать, если вы увидите, что это происходит.

Я готов долго ждать, пока это произойдет, но, вероятно, не бесконечно.