Когда он не работает над ускорением стремления человечества к Сингулярности путем создания общего искусственного интеллекта (AGI), Бен Герцель играет в джаз-рок-группе под названием Jam Galaxy, лидером которой является робот по имени Дездемона.
Это один из его многочисленных побочных проектов, который, естественно, побудил его попытаться токенизировать музыкальный бизнес, связавшись с участниками Pearl Jam и Heart. Герцель также работает над исследованием долголетия путем краудсорсинга данных о здоровье человека с вознаграждением в виде токенов через приложение под названием Rejuve.ai. Затем эта информация объединяется с данными исследований животных и насекомых и анализируется с помощью ИИ, чтобы определить, какие части генома могут продлить нам жизнь, а затем стимулируются с помощью генной терапии. «У нас было несколько поразительных открытий прорывного уровня, — говорит он. О, и как раз перед тем, как наше часовое интервью подошло к концу, он мимоходом упоминает, что он также создает стейблкоин для своего децентрализованного рынка ИИ, SingularityNET, который привязан к синтетическому индексу экологического прогресса, потому что привязка его к долларам США была бы "хромой."
«Прогресс в области окружающей среды очень стабилен. Он никуда не денется», — отмечает он.
«И чтобы манипулировать этим, вы должны решить проблему глобального потепления».
Именно такой политический комментарий сочетается с ноу-хау в области высоких технологий, которого можно ожидать от Герцеля, который выглядит и говорит как ученый-хиппи, который наткнулся на машину времени в 1971 году и полностью сформировался в 2023 году. Но не дайте себя одурачить. шляпа с анималистическим принтом, длинные волосы и кислотное протяжное произношение Electric Kool-Aid: он блестящий ученый, предвидящий будущее на несколько световых лет раньше большинства, и который борется с некоторыми из самых больших концепций, которые человечество когда-либо рассматривало. Что такое сознание? Как мы создадим искусственную жизнь и что произойдет, если мы ей не понравимся, она выйдет из-под контроля и всех расстреляет, как в Терминатор 2?
Что такое общий искусственный интеллект?
Герцель популяризировал термин «общий искусственный интеллект» как способ отличить настоящую мыслящую машину, способную выучить практически все, от ИИ, оптимизированного для одной конкретной задачи, вроде компьютера Deep Blue, который, как известно, обыграл чемпиона мира по шахматам Гарри Каспарова. Он открыто признает, что создание машины, способной научиться всему и всему, в том числе тому, как перепрограммировать себя, чтобы стать на порядок умнее любого человека, сопряжено с риском.
«С AGI связан ряд рисков и опасностей, — говорит Герцель во время обеда в индийском ресторане в оживленном торговом центре Сингапура. «Одним из них, который привлек большое внимание средств массовой информации, является то, что ОИИ выйдет из-под контроля, уничтожит человечество и захватит вселенную. Это вполне возможно; этого нельзя исключать», — говорит он.
«Еще один более вероятный риск заключается в том, что противные эгоистичные люди будут использовать ИИ для проявления своей жадности и контроля над другими людьми».
По его мнению, правительства вряд ли добьются прорыва в области ОИИ, поскольку они «слишком консервативны и глупы», хотя он отмечает, что Китай поручает работу над ОИИ таким компаниям, как Tencent и Baidu. Ближе к дому, по его мнению, ИИ-подразделения Google и Facebook тоже не перешагнут черту, поскольку они будут слишком сосредоточены на том, чтобы ИИ достигал определенных показателей, что не способствует творческому мышлению.
«Точно так же, как самые блестящие люди не хотят просто обслуживать чьи-то метрики, я думаю, что общий искусственный интеллект также не обязательно хочет максимизировать клики на чьей-то веб-странице, верно? Это должно быть разрешено для творческой игры».
Сингулярность около 1970 года
Герцель поступил в университет в 15 лет, окончил его в 18, получил докторскую степень в 22 года и создал молодую семью в 23 года. Возможно, это необычно для нашего времени, он был не просто гением математики или техническим гением, который собирал комплекты компьютеров в 70-х. но в равной степени интересовался философией, писательским творчеством и музыкой.
Он провел большую часть своей карьеры, преподавая и исследуя информатику, математику и когнитивные науки в различных университетах по всему миру, работая над технологиями искусственного интеллекта, когда мог. Серийный основатель, который, как правило, опережает всех остальных примерно на десять лет со своими идеями, что в бизнесе классно приравнивается к неправильному — он работал над использованием ИИ для прогнозирования финансовых рынков и долголетия, а также работал главным научным сотрудником Hanson Robotics, где дал роботу Софии ее искусственный мозг.
Герцель думал об экспоненциальном технологическом росте с 1970-х годов, когда он впервые прочитал книгу Джеральда Файнберга. Проект Прометей, который о «машинах, которые могут думать лучше, чем люди… нанотехнологических машинах, которые микроскопически малы, и мы собираемся решить проблему старения». Это хорошо увязывалось с формирующейся концепцией сингулярности, гипотетической точки будущего, когда технологические достижения станут неконтролируемыми и необратимыми, что приведет к массовым изменениям в человеческой цивилизации.
«Значит, люди будут жить вечно, тогда вопрос будет, Для чего мы используем эти технологии, для быстрого бездумного потребительства или для расширения сознания? И он [Файнберг] предложил поставить это на демократическое голосование».
Спустя годы, когда он начал понимать, что ОИИ находится в пределах нашей досягаемости, это «демократическое голосование» послужило вдохновением для использования сначала технологии с открытым исходным кодом, а затем и блокчейна как способа возложить ответственность за технологию на совместное сообщество.
«В какой-то момент я понял, что с ИИ недостаточно иметь открытый код, — говорит он. «Вам действительно нужно тренировать ИИ на куче данных».
«Именно здесь блокчейн появляется как способ сделать обработку и данные, лежащие в основе ИИ, децентрализованными и краудсорсинговыми по своей природе и открытыми для контроля. И это оказывается сложнее, чем просто открыть исходный код».
Герцель основал OpenCog в 2008 году для создания платформы искусственного интеллекта с открытым исходным кодом. Его используют 50 компаний, в том числе Huawei и Cisco, и в скором времени планируется крупное обновление под названием Hyperon, целью которого является ускорение его работы в 200 раз. Альфа-версия выйдет в этом квартале, а бета-версия ожидается в следующем году.
Блокчейн прост, но крут
Для Герцеля технология блокчейна немного примитивна. Он описывает это как примитивные распределенные алгоритмы, добавленные к криптографии, но «крутая комбинация» позволяет системам работать без централизованного управления, что делает ее идеальной для его нужд.
«Если вы собираетесь создать мыслящую машину и собираетесь сделать ее распределенной наноразмерной вычислительной тканью, было бы очень хорошо, если бы она принадлежала всем и никому, а не контролировалась сверху вниз».
Блокчейны слишком медленные, чтобы справляться с требованиями к обработке и огромными объемами данных, поэтому существует своего рода гонка за правильное масштабирование блокчейна, прежде чем будет разработан революционный ОИИ. Герцель говорит, что, хотя масштабируемые решения, такие как сводки с нулевым разглашением, лучше, им все еще не хватает пропускной способности из-за ограничений блокчейна, в который они сообщают о транзакциях.
В 2017 году он стал соучредителем SingularityNET, которая является одновременно децентрализованным рынком услуг и технологий ИИ и методом координации на основе блокчейна для совместной работы исследователей или даже ИИ.
В настоящее время, основываясь на Ethereum, он думает, что продвинулся настолько далеко, насколько это возможно в блокчейне в его нынешнем виде. Поэтому, когда он не работает над прорывом в области искусственного интеллекта (или группы, или роботов, или долголетия), он работает над массовым масштабированием блокчейна, чтобы обеспечить необходимую пропускную способность.
«Если вы не сможете радикально повысить масштабируемость блокчейна, вы не сможете поместить внутреннюю работу ИИ в цепочку».
ИИ ближе, чем вы думаете
2022 год стал своего рода прорывом для рабочих продуктов, основанных на технологии ИИ, включая языковые приложения (GPT-3, ChatGPT), кодирование (GitHub Copilot) и создание изображений (DALL-E и Stable Diffusion). Bing даже планирует взять на себя доминирование в поиске Google в этом году, включив технологию ChatGPT в свою поисковую систему.
Герцель считает, что до ОИИ может пройти всего пять лет, и отмечает, что разработки в этой области, похоже, происходят короткими трех- или четырехлетними всплесками в серии прорывов.
«Computer Vision зародилась в 2014 году, и вдруг, бах, бах, бах, тайна была раскрыта. Обработка естественного языка… после того, как Google придумал модель Берта (в 2018 году), у вас был GPT-3. Вы, вероятно, увидите ту же дугу прогресса в AGI. У вас будет один прорыв, а затем большой прогресс в течение двух лет», — сказал он.
«Разница в том, что прорывной прогресс в этом случае приводит к тому, что машина может продолжать развиваться, переписывая свой собственный код».
Герцель надеется, что проекты и сотрудничество, которые он инициировал, могут стать тем, чем это может быть.
«Если нам повезет, мы добьемся этого прорыва в ближайшие три-пять лет, когда OpenCog Hyperon будет работать на SingularityNET, работающем на Hypercycle», — говорит он. «Но если не у нас окажется секретный соус, это сделает кто-то другой».
Жаль, что Виталик не был компьютерщиком
Решение Герцеля по масштабированию блокчейна довольно радикально и включает в себя турбонаддув боковой цепи или уровня 2 Cardano под названием «HyperCyle».
«Это действительно больше, чем сайдчейн. HyperCycle также будет сотрудничать с Ethereum и другими блокчейнами, но мы собираемся использовать там интерпретатор Plutus, но избавляемся от леджера».
Он описал HyperCycle онлайн как решение «трилеммы блокчейна» «децентрализация, безопасность и производительность», избавившись от бухгалтерской книги и используя более современные/полностью децентрализованные алгоритмы и структуры данных, а также немного систем искусственного интеллекта и репутации».
Реестр лежит в основе технологии блокчейна, но он говорит, что заставить каждый узел в сети реплицировать каждую транзакцию и обрабатывать каждый смарт-контракт смехотворно неэффективно.
«Леджер просто плохой. Если вы подумаете об этом, если вы подумаете об аналогии с вашими контактами в телефонной книге, я имею в виду, что бухгалтерская книга похожа на […] хранение 10,000 10,000 копий «Желтых страниц», и вы обновляете их каждый раз, когда приходит кто-то новый или если кто-то меняет номер телефона. Очень глупо обновлять XNUMX XNUMX экземпляров «Желтых страниц».
Читайте также
В версии аналогии HyperCycle вместо того, чтобы все хранили и обновляли «Желтые страницы», люди в вашей адресной книге хранят копию вашей адресной книги, и наоборот, зашифрованную вашим закрытым ключом.
«Мы выяснили, как заставить блокчейн работать без дублирующего реестра, чтобы полностью раздробить его. Каждый человек, вовлеченный в блокчейн, ведет свою собственную историю транзакций и хранит историю транзакций своих друзей и некоторых друзей своих друзей», — говорит он.
«При полном сегментировании вам не нужна бухгалтерская книга — вам не нужна таблица базы данных. Эти вещи слишком централизованы».
Он говорит, что некоторые экспериментальные узлы HyperCycle уже работают, но полномасштабный запуск состоится только во второй половине 2024 года.
Мы проводим много времени, обсуждая различные достоинства различных подходов к блокчейну, от Интернет-компьютера до Elastos и Celestia, многие из которых выше моей зарплаты и не в состоянии моего записывающего устройства точно зафиксировать в шумном ресторане.
В заключение он сказал: «Итак, я просто чувствую, что ни одна из этих архитектур не является достаточно радикальной. Они все слишком привязаны к Биткойну».
«Пока вы запускаете каждый смарт-контракт на каждом узле, я имею в виду, что это будет безумно медленно. Теперь, в HyperCycle, если вы запускаете смарт-контракт на пяти узлах, по крайней мере, он всего в пять раз медленнее, чем на одной машине, а не в 10,000 XNUMX раз медленнее».
Почему тогда Кардано?
Герцель подружился с основателем Cardano Чарльзом Хоскинсоном, и пара связывает свои проекты в Африке. Он считает, что Хоскинсон «искренне хочет спасти мир. Я имею в виду, что политически он более ярый либертарианец, чем я — я больше анархо-социалист, — но он занимается этим не только для того, чтобы делать деньги или обдирать деньги других людей».
Но реальная привлекательность Cardano заключается в том, что он использует язык программирования Haskell, поклонником которого Герцель является с 1993 года. Ему очень больно, что соучредитель Ethereum Виталик Бутерин выбрал язык программирования смарт-контрактов Гэвина Вуда Solidity.
«Если бы Виталик больше разбирался в информатике, он заставил бы их использовать Haskell, F Sharp или что-то в этом роде, и взломов блокчейна было бы гораздо меньше», — говорит он.
«Если вы собираетесь управлять большей частью мировой экономики, торгуя триллионами долларов в какой-то программной системе, вам лучше построить эту программную систему на языке, который не подвержен ошибкам и где ваши алгоритмы могут быть формально проверяется с помощью математической теории. Это просто правильный способ делать вещи».
Временное решение
Неважно, насколько быстрым станет блокчейн, как только ОИИ станет на порядок умнее и способнее людей, Герцель говорит, что никому не позволит его контролировать.
«Когда ОИИ в 100 раз умнее людей, он не хочет, чтобы мы им управляли, как не стали бы нами управлять шимпанзе или осел, верно?»
«Тогда я бы сказал, что вопрос не в том, что кто-то из нас контролирует его, вопрос в том, хорошо ли он расположен к нам? Позволит ли это людям регулировать свой собственный бизнес и снабжать нас крутыми инструментами и наноассемблером для 3D-печати всего, что мы хотим, и лечения наших болезней?»
«Но переходный период, когда ОИИ примерно того же интеллекта, что и люди, — это когда все становится более обидчивым и интересным. И тогда возникает вопрос: хочет ли ОГИ сотрудничать с людьми? Или он параноик и хочет контролировать людей, прежде чем они его уничтожат?»
Учите своих детей хорошо
По мнению Герцеля, решение состоит в том, чтобы научить ОИИ заботиться о других, а также творчеству и искусству. Вот тут-то и появляются Дездемона, робот в его группе, и ее сестра Грейс, которая предназначена для ухода за пожилыми людьми.
Чтобы избежать превращения ОИИ в Скайнет Терминатора, нужно не строить его таким образом.
«Скайнет, конечно, в фильме был сетью компьютерной безопасности, которая вышла из-под контроля. Он был создан, чтобы защищаться от людей», — говорит он.
«Но если вы создадите первый ОИИ для ухода за пожилыми людьми, творчества и образования по мере того, как он становится умнее, он будет ориентирован на помощь людям и создание крутых вещей. Если вы создадите первый ОИИ, чтобы убивать плохих парней… возможно, он продолжит делать то же самое».
«Итак, полезно это или нет, все зависит от того, какие приложения вы разработали и за что вы их поощряете».
Он считает, что внедрение ИИ в тела роботов полезно, потому что помогает разместить их в реальном мире, а не в какой-то абстрактной математической вселенной.
«ИИ должен узнать о человеческом мире и физическом мире. Быть воплощенным в мире — правильный способ сделать это», — говорит он.
Но когда он представляет робота Софию большой аудитории, визуальные и слуховые датчики могут легко перегрузить, сбивая с толку ИИ в шумной и яркой обстановке. Итак, София скоро будет запущена в метавселенной под названием Софиаверс. Забудьте о скучных текстовых ответах ChatGPT, София воплощена в виртуальном 3D-мире, и она будет учиться, общаясь там с людьми. Однако он предупреждает, что она, вероятно, скажет несколько глупостей.
«У него есть нейронная сеть, похожая на GPT-3 и так далее, которая имеет значительные возможности для ответа на ваши вопросы, но в некоторых отношениях они довольно глупы».
Подписаться
Самые увлекательные чтения в блокчейне. Доставляется раз в
неделю.
Источник: https://cointelegraph.com/magazine/how-to-prevent-ai-from-annihilating-humanity-using-blockchain/