Этика ИИ и геополитическая борьба за то, кто победит в гонке за создание настоящего ИИ

Мир находится в безумной гонке.

Геополитические силы утверждают, что победитель как бы забирает домой все сало.

Какая гонка яростно ведется и упорно преследуется?

Это гонка ИИ.

Возможно, вы могли бы более точно назвать это гонкой за достижение правда Искусственный интеллект (ИИ), в настоящее время более полно именуемый Искусственным общим интеллектом (AGI). Мы хотим каким-то образом достичь, казалось бы, совершенного ИИ или известного как ОИИ, который сравним с человеческим интеллектом. Мы еще не там. Действительно, несмотря на всевозможные дикие и наглые заголовки, мы не знаем, когда и достигнем ли мы этой высокой планки. Сегодняшний ИИ обладает гораздо меньшими возможностями, чем всеохватывающий человеческий интеллект, хотя, безусловно, есть много более узких способов, в которых ИИ совершал впечатляющие набеги, например, он мог играть в первоклассные шахматы мирового класса или выполнять другие относительно ограниченные задачи.

Однако золотое кольцо — это появление ИИ, который демонстрирует человеческий интеллект набожной природы и глубины, сродни человеческому. Это святой Грааль исследователей и практиков ИИ. Время от времени появлялись ложные заявления о том, что они уже пересекли финишную черту гонки ИИ, которые я опровергал в своей колонке на ссылка здесь. Те, кто пытается устроить спор о пересечении финишной черты, сбивают с толку широкую публику и иногда делают это из-за ревностной невиновности, а иногда имеют серьезные сомнительные мотивы. В целом, это поднимает весьма важные и жизненно важные вопросы этики ИИ. Мой постоянный и обширный обзор этики ИИ и этического ИИ см. ссылка здесь и ссылка здесь, Просто назвать несколько.

В любом случае, нет никаких сомнений в том, что глобальная спринтерская гонка ИИ идет полным ходом. Вам было бы трудно утверждать обратное.

Подумайте об этом так. Если бы нам уже удалось создать настоящий ИИ или ОИИ, скорее всего, гонка ИИ была бы формально и глобально объявлена ​​успешно завершенной. Уверяю вас, что внимание всего мира будет приковано к такому оглушительному и ошеломляющему прорыву. Вы бы знали об этом. Мы все хотели бы. Таким образом, безумный рывок ИИ фактически больше не существовал бы, хотя, возможно, могла бы возникнуть вторичная версия, включающая тех, кто не достиг настоящего ИИ, лихорадочно работающего, чтобы наверстать упущенное. Существует также тревожный вопрос о том, как мы в конечном итоге будем контролировать или управлять ОИИ, если или когда мы доберемся до этого.

Ни одно физическое или юридическое лицо или нация пока не могут должным образом претендовать на корону создания настоящего ИИ или ОИИ.

Между тем, происходит огромное и неумолимое количество заламывания рук по поводу того, какая нация (или нации) находится во главе стаи, а кто отстает еще дальше. Предполагается, что если вы не будете первым, вы останетесь в грязи. Вы будете есть объедки, оставшиеся от победителей ИИ. Вы потенциально будете навсегда подчинены нации или нациям, которые совершат провозглашенный прыжок в настоящий ИИ или ОИИ.

В качестве небольшого отступления и для облегчения формулировки этого обсуждения я буду впредь использовать «AGI» всякий раз, когда я хочу вызвать ауру истинного ИИ. Использование несколько более новой фразы «AGI» иногда раздражает тех, кто не привык ее видеть. Мы все знакомы с «ИИ», и вы можете быть обеспокоены, увидев вместо этого аббревиатуру «AGI». Позвольте мне объяснить, почему это постепенно превращается в словоблудие.

Одной из причин того, что AGI поднялся на арене разговорного языка ИИ, является то, что простое упоминание «ИИ» теперь стало, к сожалению, размытой формулировкой. Никто не знает, является ли ИИ, о котором вы говорите, почти ИИ-вариантом или каким-то квази-лучшим вливанием ИИ для достижения прогресса, или он может намекать на когда-нибудь футуристический ИИ, полностью приравненный к человеку. Чтобы справиться с перегрузкой «ИИ» в качестве крылатой фразы, прозвище AGI получает предпочтение теми инсайдерами в области ИИ, которые хотят конкретно и конкретно намекать на настоящий ИИ.

Итак, вкратце, считайте, что мое упоминание об ОИИ равносильно слову «настоящий ИИ» надежного калибра, сродни человеческому интеллекту, спасибо.

Давайте благоразумно сделаем глубокий вдох и осознанно рассмотрим некоторые аспекты гонки за достижением ОИИ. Существует даже мета-аспект, который необходимо сначала изложить. Имейте в виду, что использование аллегории о предполагаемой гонке или каком-либо другом виде гонок в качестве метафоры гонки AGI вызывает некоторую неприятную изжогу. Почему так? Я расскажу вам на мгновение о сложности и сложностях того, почему (некоторые говорят) бег или его эквивалент полностью вводят в заблуждение и представляют собой коварную точку зрения простака.

Вот ключевые моменты, которые я рассмотрю вместе с вами в этой беседе:

• Если это гонка, финишная черта AGI кажется довольно расплывчатой.
• Гонка ОИИ может достаться человеку, организации или нации.
• Метрики и то, как страны сравниваются в гонке AGI
• Геополитическое маневрирование и расклад на гонку ОИИ
• Международные законы об ИИ и этика ИИ в качестве судей в гонке AGI

Возможно, вам захочется пристегнуть ремень безопасности, пока я исследую стремительно продолжающуюся гонку AGI (да, я осмеливаюсь назвать ее гонкой), в которой почти все движутся с головокружительной скоростью и, кажется, стремительно устремляются вперед в этом горящем квесте. Некоторые могут сказать, что это гонка за улучшение человечества, в то время как другие предупреждают, что гонка может означать полную гибель для всех нас.

Время покажет.

Если это гонка, финишная черта AGI кажется довольно расплывчатой

Финишная черта обычно является довольно определенной демаркационной линией. Вы либо дошли до финиша, либо нет. Короткий подход, похоже, не принесет вам много пользы. Представьте себе олимпийский забег на 400 метров и будете ли вы особенно вспоминать или осыпать похвалами бегунов, которые вообще не финишировали в забеге (ни разу не пересекли финишную черту). Вряд ли.

Узнаем ли мы, что достигли ОИИ, когда все согласны с тем, что финишная черта достигнута?

Существуют острые разногласия по поводу демаркации ОГИ.

Например, предположим, что мы разрабатываем искусственный интеллект, который, кажется, полностью способен демонстрировать человеческий интеллект, но в нем нет подобия разума как такового (см. ссылка здесь). ИИ в вычислительном отношении способен имитировать или иным образом действовать так, как это делает человеческий интеллект. Однако нет ни искры жизни или разума, которые мы связываем с людьми и другими живыми существами. Считается ли этот ОИИ достижением цели, о которой мы думали?

Кто-то может возразить, что не имеет значения, если сознание как таковое окажется завернутым в этот ОИИ. Пока он может демонстрировать человеческий интеллект, включение чувств является чем-то из другого разнообразия, которое мы могли бы или не могли бы желать видеть возникновением. Чувствительность в этом смысле является дополнением.

Другие яростно утверждают, что единственным средством достижения человеческого интеллекта в ОИИ будет интегральное воплощение разума. ОИИ и сознание либо считаются одним и тем же, либо представляют собой смесь нередуцируемого неразделимого двойного воплощения. Чтобы получить ОИИ, вы должны обладать разумом, утверждали они.

Оставив в стороне этот аспект дебатов, другая точка зрения заключается в том, что мы могли бы использовать знаменитый тест Тьюринга, чтобы оценить, был ли достигнут ОИИ. Я подробно рассмотрел тест Тьюринга на ссылка здесь. Вкратце, идея состоит в том, чтобы человек задавал вопросы ОИИ, и если человек не может отличить ответы, сгенерированные ОИИ, от ответов человечества, то мы бы объявили ОИИ способным демонстрировать человеческий интеллект.

Есть много проблем или недостатков, часто связанных с тестом Тьюринга.

Предположим, что человек, задающий вопросы, работает паршиво и не задает наводящих вопросов. Одна из проблем заключается в том, что многие из сегодняшних кажущихся мощными больших языковых моделей (LLM) могут как попугай передать человеку содержание, на котором LLM обучался (т. е. текст и цифровые медиафайлы, часто получаемые путем крупномасштабного извлечения данных из Интернета). Таким образом, специально отобранный человек, задающий вопросы обычного типа, на которые уже были даны ответы и которые существуют в сети, потенциально может быть легко «отвечен» LLM, но это спорно не из-за какого-либо воплощения человеческого интеллекта калибра AGI.

Возникает множество других сомнений. Предположим, что человек не в состоянии понять ответы. Или предположим, что человек обманывает себя, полагая, что все ответы являются проявлением человеческого интеллекта. Я даже осветил избитую идею некоторых, что все, что нам нужно сделать, это спросить ИИ, является ли он ОИИ или разумным, что, как я ясно даю понять, не является очень убедительной формой доказательства ОИИ, см. ссылка здесь.

Наконец, добавлена ​​одна мысль: нужно ли нам полностью добраться до финиша, чтобы считать, что AGI достигнут?

Я упоминал ранее, что мы обычно забываем о тех, кто не доходит до финиша. Это не может быть разумным аналогом гонки AGI. Я считаю, что можно привести убедительные доводы в пользу того, что если мы сможем существенно продвинуться к ОИИ, мы уже окажемся в состоянии изумления и либо большой выгоды, либо больших проблем. Видите ли, многие важные и очень полезные результаты могут возникнуть из-за почти полного ОИИ. Не дотянуть до финиша будет не так проблематично, как не закончить 400-метровый забег, тем более что это может стать жизненно важной основой для перехода к более полной версии AGI (возможно, в сравнении с марафоном).

Метафора достижения ОИИ в виде беговой дорожки или ее эквивалента временами неудовлетворительна и неадекватна.

Гонка ОИИ может достаться человеку, организации или нации

Некоторые питают мечтательное представление о том, что ОИИ будет достигнуто каким-то мастером, работающим в гараже в пижаме, и станет результатом безумно изобретательных экспериментов по компьютеризации, над которыми они трудились годами. Это классический высокотехнологичный образ одинокого волка.

Извините, что сообщаю, что это предложение с чрезвычайно низкими шансами.

Более велика вероятность того, что такая организация, как бизнес или исследовательская группа, станет инициатором ОИИ. Сильное и преобладающее убеждение состоит в том, что для достижения AGI потребуется деревня. У одинокого волка не будет ни ресурсов, ни знаний, чтобы достичь ОИИ. Они могут внести свой вклад в поиски. Они могут предоставить необходимые части головоломки. Они не смогут собрать весь комплект и всякую всячину.

Говоря о деревнях, еще одна точка зрения состоит в том, что это будут нации, способные достичь только ОИИ. Через комбинацию людей, предприятий, ученых и всех других форм сущностей в национальном государстве ОИИ возникнет как результат объединенной работы национальной тотальности. Единица внимания для победителя в этой гонке находится на основе национального государства, а не на чем-то более рассеянном, произвольном или индивидуальном.

Короче говоря, если для этого потребуется деревня, деревня будет национального масштаба, поэтому национальное государство будет назначенным бегуном, который пересечет финишную черту в гонке AGI.

Метрики и как страны сравниваются в гонке AGI

Примите как данность, что достижение ОИИ будет основываться на уровне нации-государства.

Повторюсь, мы не знаем этого наверняка, но это кажется обоснованным предположением.

Рассмотрим разветвления основы национального государства. Предположим, что одинокому волку удается первым добраться до ОИИ, и он считает, что его работа выходит за рамки национального государства, членом которого он является. Этот человек заявляет, что он не принадлежит ни к какому национальному государству с точки зрения созданного ОИИ. Будем ли мы по-прежнему отдавать должное этому национальному государству, и будет ли ОИИ находиться под контролем и компетенцией этой нации?

Представьте себе еще одну альтернативу: большой многонациональный конгломерат первым прибудет в AGI. Какая нация может сказать, что ОИИ — это их «вещь» для использования и развертывания (будет ли она рассматриваться как собственность или вместо этого будет являться разновидностью юридического лица)? Возможно, все страны, в которых существует компания, должны получить равное признание. Или, может быть, только там, где географически расположена официальная штаб-квартира. Это может быть сложный раскол настоящего горшка с золотом.

В любом случае, широко распространено мнение, что национальное государство станет решающим фактором достижения ОИИ. Страна, которая поощряет исследования и разработки в области ИИ в рамках своих национальных усилий, по-видимому, доберется до ОИИ раньше, чем другие страны, которые этого не делают.

Существует преобладающее мнение, что гонка ИИ носит национальный характер.

Головокружительный вопрос заключается в том, как определить, опережает ли одна нация другую или отстает от нее в гонке ОИИ.

В обычной беговой дорожке мы могли бы легко определить показатели, которые можно использовать для определения того, какие бегуны работают хорошо, а какие нет. Скорость бегуна легко вычислить. Это не гарантирует, что они финишируют первыми, но, по крайней мере, дает надежду. Физическое расстояние между бегунами и расстояние, оставшееся до финиша, очевидно, являются жизненно важными критериями, которые мы можем легко измерить.

Гонка ОИИ не имеет таких надежных форм метрик или измерений.

Мы используем всевозможные суррогатные меры, поскольку нет никакого определенного способа вычислить, где находится конечная линия и как далеко мы от нее.

Давайте взглянем на традиционно рассматриваемые типы метрик. Особенно удобный источник глобальных измерений, связанных с ИИ, ежегодно собирается и публикуется Стэнфордским институтом искусственного интеллекта, ориентированного на человека (HAI) при Стэнфордском университете. Отчет доступен в Интернете бесплатно, а последний выпуск называется Годовой отчет AI Index 2022 (на основе данных, собранных за 2020-2021 гг.). Я скоро поделюсь с вами некоторыми основными моментами национальных сравнений, упомянутых в их последней подборке.

Показатели, которые используются для оценки национального и международного прогресса в области ИИ, как правило, включают в себя всего понемногу, иногда граничащего с включением настоящей кухонной раковины.

Типы мер, которые обычно рассматриваются, включают:

• Количество статей об исследованиях ИИ, отнесенных к определенной нации
• Количество цитируемых ссылок на статьи ИИ определенной страны
• Количество журналов по искусственному интеллекту в определенной стране
• Количество конференций по ИИ, проводимых в определенной стране
• Количество конференций по ИИ, спонсируемых определенной страной
• Количество патентов, связанных с ИИ, выданных в конкретной стране
• Количество стартапов ИИ-компаний в конкретной стране
• Количество рабочих мест ИИ в определенной стране
• Количество новых рабочих мест или найма ИИ в определенной стране
• Количество законов об искусственном интеллекте или законодательных актов, принятых в конкретной стране
• Количество законов об искусственном интеллекте, принятых или принятых в конкретной стране
• Другие контрактные услуги

Рассмотрим эти современные показания из индекса HAI AI 2022:

• Цитаты из публикаций ИИ: «Что касается цитирований публикаций из репозиториев ИИ, то США возглавляют список с 38.6% от общего числа цитирований в 2021 году, устанавливая доминирующее лидерство над Европейским союзом, а также Великобританией (20.1%) и Китаем (16.4%)».
• Журналы/конференции ИИ: «В 2021 году Китай продолжал лидировать в мире по количеству публикаций в журналах, конференциях и репозиториях по ИИ — на 63.2% больше, чем в США по всем трем типам публикаций вместе взятым. Тем временем Соединенные Штаты лидировали среди крупных ИИ-держав по количеству упоминаний на конференциях и в репозиториях».
• Патенты ИИ: «Китай в настоящее время подает более половины мировых патентов на ИИ, и ему выдается около 6%, примерно столько же, сколько Европейский союз плюс Великобритания. Соединенные Штаты, которые регистрируют почти все патенты в Северной Америке, делают это в три раза быстрее, чем Китай. По сравнению с растущим числом поданных и выданных патентов на ИИ в Китае гораздо больше патентных заявок (87,343 2021 в 1,407 г.), чем выданных (2021 в XNUMX г.)».
• Недавно финансируемые компании искусственного интеллекта: «Инвестиционные данные по количеству недавно профинансированных ИИ-компаний в каждом регионе. В 2021 году США лидировали с 299 компаниями, за ними следуют Китай с 119, Великобритания с 49 и Израиль с 28. Разрыв между ними значителен».
• Скорость найма ИИ: «Новая Зеландия, Гонконг, Ирландия, Люксембург и Швеция — страны или регионы с самым высоким ростом найма ИИ с 2016 по 2021 год».
• Публикации о вакансиях ИИ: «В 2021 году Калифорния, Техас, Нью-Йорк и Вирджиния были штатами с наибольшим количеством объявлений о вакансиях ИИ в Соединенных Штатах, причем в Калифорнии было более чем в 2.35 раза больше объявлений, чем в Техасе, втором по величине. В Вашингтоне, округ Колумбия, был самый высокий уровень объявлений о вакансиях ИИ по сравнению с общим количеством объявлений о вакансиях.
• Законодательные действия ИИ: «Анализ законодательных актов по ИИ в 25 странах, проведенный AI Index, показывает, что количество законопроектов, содержащих «искусственный интеллект», которые были приняты в качестве закона, выросло с 1 в 2016 году до 18 в 2021 году. Испания, Великобритания и США принял наибольшее количество законопроектов, связанных с ИИ, в 2021 году, каждый из которых принял по три».

Мы можем безмерно восхищаться и ценить тяжелую работу, связанную с составлением статистики бегунов по штатам для гонки AGI.

Скептики, тем не менее, спорят об использовании любых типов метрик в гонках AGI.

Сложный вопрос заключается в том, можете ли вы провести какую-либо прямую линию от количества статей об ИИ или конференций по ИИ в конкретной стране до конечного достижения ОИИ. То же самое можно сказать о количестве рабочих мест в сфере ИИ, количестве компаний, занимающихся ИИ, и множестве других показателей. Возможно, эти подсчеты имеют мало общего с достижением AGI. Аргумент состоит в том, что эти меры больше тепла, чем света.

Контраргумент состоит в том, что мы должны попытаться измерить, где мы находимся и куда мы идем. Прятать голову в песок не похоже на то, чтобы оценить, движемся ли мы к ОИИ или, может быть, еще дальше от ОИИ. Есть надежда и обычно предполагается, что чем больше энергии и внимания будет направлено на развитие ИИ, тем ближе мы подойдем к ОИИ. Эти показатели — лучшее, что мы можем сделать, чтобы определить, сколько энергии и внимания выделяется и потребляется в гонке ОИИ.

Круглый и круглый, что идет.

Каждая из метрик сама по себе также может быть побита по голове.

Например, рассмотрим количество законодательных законов или законопроектов об ИИ.

Вы можете утверждать, что если законодатели сосредотачиваются на законах, связанных с ИИ, это хороший признак того, что нация довольно трезво воспринимает важность ИИ и социальные последствия того, куда движется ИИ. Можно сделать вывод, что это демонстрирует, что в этой конкретной стране предпринимаются большие усилия по развитию ИИ. Зачем бы вам утруждать себя принятием законов об ИИ, если бы ИИ не рос и не развивался как демонстративный элемент вашей нации?

Таким образом, те страны, которые обнародуют новые законы об искусственном интеллекте, интерпретируются как контрольный признак или сигнал о том, что прогресс в области искусственного интеллекта идет полным ходом в этой стране.

Некоторые критики утверждают, что предложенные новые законы об ИИ задушат усилия по развитию ИИ в каждой конкретной стране. Законодатели и политические лидеры собираются прострелить себе ноги. Законы преждевременно бросят мрачную тень на усилия по созданию ИИ, предпринимаемые в этой конкретной стране. Кран продвижения ИИ будет забит юридическими засорениями волос, и темпы прогресса ОИИ замедлится до минимума в этой стране, провозглашающей закон об ИИ. Тем временем другие страны, которые не принимают подобные законы об искусственном интеллекте, будут продолжать действовать в прежнем режиме. Это как если бы вы решили поставить свинцовые гири на бегуна, который уже находится на 400-метровой дорожке. Если вы стремились помочь им и ускорить их, вы сделали прямо противоположное.

Ого, — возразил он, — принятие законов об искусственном интеллекте больше похоже на то, чтобы убедиться, что перед бегуном нет ненужных препятствий. Законы обеспечивают руководство теми же средствами, что и линии на беговой дорожке, чтобы бегун плавно двигался в правильном направлении. Без этих нарисованных линий бегуны могут сойти с ума. Новые законы ИИ заставят их двигаться в унисон к желаемому результату. Страны, которые не сделают то же самое с точки зрения новых законов об искусственном интеллекте, обнаружат, что их бегуны движутся в самых диких направлениях, включая, возможно, полное бегство с трассы и причинение вреда тем, кто невиновен за пределами самой гонки AGI.

Существуют также «скрытые» законы, связанные с ИИ, которые некоторые учитывают, а некоторые другие не учитывают как часть этих показателей (создавая путаницу при попытке сравнить подсчеты).

Например, если страна принимает закон об автономных транспортных средствах, таких как беспилотные автомобили, вы считаете это законом об искусственном интеллекте? Чтобы прояснить, что автономное транспортное средство, такое как полностью автономный автомобиль с автоматическим управлением, будет иметь систему вождения с искусственным интеллектом, которая является основой для беспилотных возможностей (см. ссылка здесь). Из-за задействованного ИИ любые законы об автономных транспортных средствах можно разумно рассматривать как законы ИИ. С другой стороны, вы можете убедительно утверждать, что закон касается автономных транспортных средств, а не ИИ как такового, поэтому это не учитывается при подсчете законов, касающихся ИИ.

Это грязно.

Весь этот ужас по поводу метрик может заставить вас пожать плечами на фоне полярно противоположных мнений по этим весомым соображениям. Как может быть очевидно, метрики почти всегда подвержены несопоставимым интерпретациям относительно того, что они означают и как должным образом анализируется статус нации в отношении ОИИ.

Геополитические маневры и согласование для гонки ОИИ

Какие страны лидируют в гонке AGI?

Какие страны отстают?

Вышеупомянутые показатели пытаются показать, где в настоящее время находится каждый из бегунов. Основное предположение заключается в том, что если метрики действительно отображают точное указание на то, что AGI ищет позиционирование, эти различные позиции полюсов могут оставаться неизменными с течением времени. Конечно, реальность такова, что национальный интерес и внимание могут увеличиваться или уменьшаться на тернистом пути к ОИИ. Возможно, вам будет разумнее ожидать изменений в позиционировании.

Одним из важных соображений является то, что страны на самом деле участвуют в этой гонке не сами по себе.

Страны, скорее всего, будут передавать эстафетную палочку друг другу. В гонке ОИИ иногда одна или несколько наций с удовольствием работают рука об руку. Иногда это делается осторожно, а не с дружеским ликованием. В других случаях страны могут воздерживаться друг от друга. В любой момент времени поза гонки может быть совсем другой, чем она была несколько шагов назад, плюс может быть совсем другой на несколько шагов вперед.

Обратите внимание на этот момент, сделанный в отчете HAI AI Index 2022 о сотрудничестве между странами: «Несмотря на растущую геополитическую напряженность, в США и Китае с 2010 по 2021 год было наибольшее количество межстрановых сотрудничества в публикациях ИИ, увеличившееся в пять раз с 2010 года. , Сотрудничество между двумя странами произвело в 2.7 раза больше публикаций, чем между Соединенным Королевством и Китаем — второе место в списке».

Циники сказали бы, что, возможно, использование перекрестного сотрудничества иногда делается как уловка. Нация может открыто заявлять, что они сотрудничают друг с другом, на первый взгляд кажется, что они делают это, в то время как в глубине души они держат свои лучшие достижения в области ОИИ в скрытой национальной тайне. Возможно, это делается для того, чтобы затормозить прогресс нации перекрестного сотрудничества. Возможно, это делается для того, чтобы ненароком не раздали секретный соус. Возможны всевозможные причины.

В сегодняшнем современном цифровом онлайн-мире Интернета попытка держать в секрете идеи AGI может оказаться трудной задачей. Сильное желание раскрыть или изобрести ОИИ — это неотразимая привлекательность, которая может побудить отдельных разработчиков и исследователей ОИИ открыто поделиться своими последними работами. Страны могут обнаружить, что попытка ограничить такой обмен намного сложнее, чем может показаться, и, вероятно, намного сложнее, чем в те дни, когда все было на бумаге и требовалось физически перемещать документы по всему миру.

Движение к открытому исходному коду, безусловно, было современным акцентом для большей части последних исследований ИИ и ОИИ, как упоминается в отчете HAI AI Index 2022: «Каждый год тысячи и тысячи публикаций ИИ выпускаются в открытом исходном коде, будь то в конференциях или на файлообменных сайтах. Исследователи будут открыто делиться своими выводами на конференциях; правительственные учреждения будут финансировать исследования ИИ, которые в конечном итоге станут открытым исходным кодом; а разработчики используют открытые программные библиотеки, находящиеся в свободном доступе, для создания современных приложений ИИ. Эта открытость также способствует глобальной взаимозависимости и взаимосвязанности современных исследований и разработок в области ИИ».

В общем, нации, как правило, делятся друг с другом и, тем не менее, могут показывать только часть своих рук. Другие страны могут не делиться или только делать вид, что делают это. Некоторые нации изо всех сил пытаются оценить, что те, кто находится в их стране, отдают, а что держатся. И так далее.

Я охарактеризовал природу этих национальных движений следующим образом:

• AI Самостоятельная нация (пытается продолжить самостоятельно)
• AI Односторонняя нация (принимает, не выдает)
• Оставшаяся нация ИИ (получает то, что может от других)
• Нация с открытым обменом ИИ (гордится тем, что поделился)
• AI Нация, разделяющая пустоты (ложь в обмене)
• Нация Альянсов ИИ (пытаясь заключить как можно больше союзов)
• AI Неигровая нация (поиск ОИИ не является национальным приоритетом)
• AI мошенническая нация (реверс-инжиниринг или тайное воровство у других стран)
• Другие контрактные услуги

Нация может находиться более чем в одном из этих сегментов одновременно.

Нация может какое-то время находиться в одном из этих ведер, выйти из него и, возможно, позже вернуться обратно.

Желания и внимание национальных государств, связанные с поиском ОИИ, представляют собой динамические приливы и отливы, которые, несомненно, будут продолжаться и будут движущейся мишенью в отношении того, какая нация находится где в гонке, и потребуется постоянный взгляд, чтобы выяснить где находятся все игроки в данный момент времени.

Международные законы об ИИ и этика ИИ в качестве судей в гонке AGI

В предыдущих колонках я рассказывал о различных национальных и международных усилиях по разработке и принятию законов, регулирующих ИИ, см. ссылка здесь и ссылка здесь, Например. Я также рассмотрел различные принципы и руководства по этике ИИ, которые были определены и приняты различными странами, включая, например, усилия Организации Объединенных Наций, такие как свод этических норм ИИ ЮНЕСКО, принятый почти в 200 странах, см. ссылка здесь.

Вот полезный краеугольный список критериев или характеристик этического ИИ, касающихся систем ИИ, которые я ранее внимательно изучал:

• Прозрачность
• Справедливость и справедливость
• Безвредность
• Ответственность
• Политика
• благодеяние
• Свобода и автономия
• Доверие
• Стабильность
• чувство собственного достоинства
• солидарность

Предполагается, что эти принципы этики ИИ должны серьезно использоваться разработчиками ИИ, а также теми, кто управляет усилиями по разработке ИИ, и даже теми, кто в конечном итоге устанавливает и обслуживает системы ИИ.

Все заинтересованные стороны на протяжении всего жизненного цикла разработки и использования ИИ рассматриваются в рамках соблюдения установленных норм этического ИИ. Это важный момент, поскольку обычно предполагается, что «только программисты» или те, кто программирует ИИ, должны придерживаться понятий этики ИИ. Как уже подчеркивалось здесь, для разработки и внедрения ИИ требуется целая деревня, и для этого вся деревня должна быть осведомлена и соблюдать этические предписания ИИ.

Давайте рассмотрим влияние и жизненно важный характер международных законов об ИИ и международных прокламаций этических норм ИИ на гонку ОИИ.

Страны, стремящиеся к ОИИ, могут делать это с полной самоотдачей и обнаруживать, что склоняются к некоторым часто популяризируемым экзистенциальным рискам ОИИ. Есть надежда, что, приняв международные законы об искусственном интеллекте и международные предписания по этике искусственного интеллекта, страны будут руководствоваться AI для хорошего и держаться подальше от AI для плохих.

Согласно нашей аналогии с ипподромом, эти законы ИИ и соображения этики ИИ подобны попыткам удержать бегунов от выхода за пределы трассы. В гонке AGI существует огромное искушение срезать путь. Эти короткие пути могут привести нацию к финишной прямой, казалось бы, раньше, но одновременно подвергая эту нацию и другие нации неоправданному риску. Тонкий, но показательный пример состоит из искусственного интеллекта двойного назначения, который я рассмотрел в ссылка здесь, в результате чего развитие ИИ легко переключается без особых усилий с направленного на добро на то, что оно приводит к катастрофическому злу.

Вы можете утверждать, что международные законы об ИИ и международная этика ИИ подобны судьям или судьям.

Предполагается, что эти разработанные на международном уровне юридические и этические механизмы будут удерживать гонку ОИИ в более спокойном состоянии. Дело в том, что разные страны предпочитают прислушиваться к судьям или судьям. Точно так же возникает неприятный вопрос о том, как эти власти могут налагать штрафы или стимулы, чтобы удерживать бегунов на правильном пути. Скорее всего, страны будут делать то, что они хотят, для чего другим странам, возможно, придется сместить свой вес, чтобы усилить поддержку нестандартного нарушения правил, которое некоторые страны обязаны предпринять.

Заключение

Луи Пастер, легендарный химик и микробиолог, сказал: «Наука не знает страны, потому что знание принадлежит человечеству и является факелом, освещающим мир. Наука является высшим олицетворением нации, потому что та нация останется первой, которая дальше всего продвинет произведения мысли и разума».

Можем ли мы сказать, что достижение ОИИ не знает ни одна страна и что ОИИ будет принадлежать всему человечеству?

Или нация, которая первой придет к ОИИ, будет владеть ею, напившись жалкой власти и сойдя с ума от власти?

Для тех из вас, кому нравится небольшой поворот в этой конкретной головоломке, учтите, что AGI сам по себе может быть типом достижения, которое является общеизвестной змеей в траве. Первооткрыватель змеи может быть первым, кого укусит змея. Быть первым имеет свои риски.

Пересечение финишной черты на AGI не обязательно будет таким праздничным и беззаботным, как некоторые могут подумать. Использование AGI также не обязательно будет легким. Кто-то может возразить, что справиться с ОИИ практически невозможно, поскольку ОИИ, по-видимому, будет обладать такой же хитростью и изобретательностью, как и человечество. Народы должны помнить о том, чего они пытаются достичь и каков будет результат, делать это заранее и не быть застигнутыми врасплох. У них может быть осиное гнездо в сундуке с национальными сокровищами.

Как сказал Пастер: «Фортуна сопутствует подготовленному уму».