Встряска искусственного интеллекта, поскольку выдающийся гуру искусственного интеллекта предлагает умопомрачительные «смертные компьютеры», которые также включают этику и закон об искусственном интеллекте

Вот то, над чем вы, вероятно, еще не задумывались: Смертные компьютеры.

Но, может быть, вы должны быть.

Горячая тема поднялась на недавней и в целом весьма заметной ежегодной конференции по искусственному интеллекту, которая особенно сосредоточена на появлении нейронных сетей и машинного обучения, а именно на конференции по нейронным системам обработки информации (известной инсайдерам как НейриПС). Приглашенный основной докладчик и признанный гуру ИИ Джеффри Хинтон сделал интригующее и, возможно, спорное утверждение, что мы должны думать о компьютерах в контексте смертных и бессмертных.

Я буду обращаться к примечательному утверждению и делать это двумя способами, которые поначалу не обязательно кажутся связанными, хотя после небольшого дополнительного разъяснения они станут более четко связаны друг с другом в отношении споров между смертными и бессмертными.

Две темы:

1) Интегральное связывание аппаратного и программного обеспечения для механизации ИИ, а не использование их как отдельных и отдельных союзников.

2) Перенос или переработка формулировок машинного обучения из одной модели ИИ в другую, что делает это без требования и обязательного желания (или даже возможного в противном случае) прямого полного чистокровного копирования.

Все это имеет большое значение для ИИ и будущего направления развития ИИ.

Кроме того, возникает множество очень острых вопросов, связанных с этикой ИИ и законом об ИИ. Эти типы технологических достижений, предполагаемых ИИ, обычно распространяются на чисто технологической основе задолго до того, как осознается, что они также могут иметь примечательные последствия для этического ИИ и закона об ИИ. В каком-то смысле, как правило, кот уже вынут из мешка или лошадь из амбара, до пробуждения того, что этике ИИ и закону ИИ следует уделить должное внимание.

Что ж, давайте разорвем этот запоздалый цикл запоздалых размышлений и займемся этим на первом этаже.

Для тех из вас, кто в целом интересуется последними идеями, лежащими в основе этики ИИ и закона об ИИ, вы можете найти информативным и вдохновляющим мой постоянный и обширный обзор на ссылка здесь и ссылка здесь, Просто назвать несколько.

Сначала я собираюсь рассказать о вышеупомянутом вопросе о соединении аппаратного и программного обеспечения. Обсуждение и анализ темы будут происходить рука об руку. Далее я коснусь вопроса копирования или, как говорят некоторые, перегонка ключевые элементы системы ИИ машинного обучения от одного ИИ до недавно разработанного ИИ в качестве цели.

Итак, начнем.

Связывание аппаратного и программного обеспечения для ИИ

Вы, наверное, знаете, что по большому счету конструкция компьютеров такова, что есть аппаратная сторона вещей и отдельно есть программная сторона вещей. Когда вы покупаете обычный ноутбук или настольный компьютер, он рассматривается как вычислительное устройство общего назначения. Внутри компьютера есть микропроцессоры, которые затем используются для запуска и выполнения программного обеспечения, которое вы можете приобрести или написать самостоятельно.

Без какого-либо программного обеспечения для вашего компьютера это кусок металла и пластика, который в основном не принесет вам много пользы, кроме как пресс-папье. Кто-то скажет, что программное обеспечение является королем и правит миром. Конечно, если у вас нет аппаратного обеспечения для запуска программного обеспечения, оно не принесет много пользы. Вы можете написать столько строк кода, сколько душе угодно, но до тех пор, пока программное обеспечение не будет использовано на компьютере, сформулированный исходный код будет таким же хрупким и неуправляемым, как прекрасное стихотворение или остросюжетный детективный роман.

Позвольте мне на мгновение переключиться на другой проспект, который может показаться далеким (на самом деле это не так).

Мы часто пытаемся провести аналогию между тем, как работают компьютеры, и тем, как работает человеческий мозг. Эта попытка провести концептуальные параллели удобна. При этом вы должны быть осторожны, чтобы не переборщить с этими аналогиями, поскольку сравнения, как правило, ломаются, когда вы приближаетесь к содержательным деталям.

Во всяком случае, ради обсуждения, здесь часто используется аналогия.

Сам мозг неофициально иногда называют посуда. Это броский способ формулировать вещи. Мы знаем, что компьютеры состоят из аппаратного и программного обеспечения, поэтому было бы разумно использовать часть «изделия» для описания того, что представляет собой мозг. Уютно устроившийся в наших головах, могучий и загадочный мозг плавает вокруг, мысленно просчитывая все наши дела (некоторые из них хорошие, а некоторые из наших мыслей явно не наполнены добром).

При среднем весе около трех фунтов мозг является замечательным органом. Каким-то образом, и мы пока не знаем, как, мозг может использовать порядка 100 миллиардов нейронов и, возможно, где-то от 100 до 1,000 триллионов взаимосвязей или синапсов, чтобы думать за нас. Как биологические и химические свойства мозга приводят к возникновению интеллекта? Никто не может сказать наверняка. Это поиск веков.

Я вас спрашиваю, мозг якобы только аппаратный, или он сочетает в себе и аппаратное, и программное обеспечение?

Лапша на эту головоломку.

У вас может возникнуть соблазн утверждать, что мозг — это просто аппаратное обеспечение (в общем смысле). Это орган тела. Точно так же можно сказать, что сердце — аппаратное, мочевой пузырь — аппаратный и так далее. Все они механизированы, как когда мы говорим об артефактах, которые имеют физическую форму и выполняют физически связанные действия.

Где же тогда программное обеспечение, управляющее людьми?

Я осмелюсь предположить, что мы все в значительной степени согласны с тем, что «программное обеспечение» человечества каким-то образом находится в мозгу. Шаги, необходимые для того, чтобы приготовить яйцо или починить спущенную шину, — это инструкции, воплощенные в нашем мозгу. Используя упомянутую ранее компьютерную аналогию с аппаратным и программным обеспечением, наш мозг является частью аппаратного обеспечения, с помощью которого мы изучаем мир, а инструкции о том, что делать, «запускаются» и «хранятся» в нашем мозгу.

На компьютере мы можем легко указать на аппаратное обеспечение и сказать, что это аппаратное обеспечение. Мы можем получить список исходного кода и указать на него как на программное обеспечение. В настоящее время мы в электронном виде загружаем программное обеспечение и устанавливаем его на наши ноутбуки и смартфоны. В былые времена мы использовали дискеты и перфокарты для хранения нашего программного обеспечения для загрузки на аппаратное обеспечение компьютера.

Я ввожу вас в важную загадку.

После того, как вы чему-то научились и знание присутствует в вашем мозгу, можете ли вы по-прежнему различать «аппаратное обеспечение» вашего мозга и предполагаемое «программное обеспечение» вашего мозга?

Одна аргументированная позиция состоит в том, что знания в вашем мозгу неотделимы от концепций аппаратного и программного обеспечения. Аналогия, таким образом, с природой компьютеров несостоятельна, как горячо утверждают некоторые. Знания в мозгу переплетены с оборудованием вашего мозга и неотделимы от него. Биологические и химические свойства переплетаются со знаниями, которыми вы обладаете мысленно.

Потушите это для небольшого умственного размышления.

Если мы надеемся когда-нибудь изобрести компьютеры, которые будут наравне с человеческим интеллектом или даже превзойдут его, возможно, мы сможем использовать структуры мозга и его внутреннюю работу в качестве руководства к тому, что нам нужно сделать для достижения такой высокой цели. Некоторые специалисты в области ИИ считают, что чем больше мы знаем о том, как работает мозг, тем больше у нас шансов разработать настоящий ИИ, который иногда называют общим искусственным интеллектом (AGI).

Других в области искусственного интеллекта меньше волнует необходимость знать, как работает мозг. Они подчеркивают, что мы можем быстро приступить к созданию ИИ, независимо от того, сможем ли мы раскрыть секреты внутренней работы мозга. Не позволяйте тайнам мозга мешать нашим усилиям по созданию ИИ. Конечно, продолжайте пытаться декодировать и расшифровывать человеческий мозг, но мы не можем сидеть и ждать, пока мозг будет перепроектирован. Если это когда-нибудь выполнимо, это замечательные новости, хотя, возможно, это невозможно или произойдет через эоны лет.

Я готов прямо сейчас поделиться с вами смертным и бессмертным компьютерным спором. Пожалуйста, убедитесь, что вы сидите и готовы к большому открытию.

Компьютер с четким разделением аппаратного и программного обеспечения можно назвать «бессмертным» в том смысле, что аппаратное обеспечение может существовать вечно (в определенных пределах, конечно), а программное обеспечение можно писать и переписывать снова и снова. Вы можете поддерживать обычный компьютер в рабочем состоянии до тех пор, пока вы можете ремонтировать аппаратное обеспечение и поддерживать работоспособность устройства. Сегодня вы все еще можете использовать грубые домашние компьютеры 1970-х годов, которые поставлялись в наборах для сборки, несмотря на то, что им почти пятьдесят лет или около того (долгое время в компьютерные годы).

Предположим, однако, что мы решили создавать компьютеры, в которых аппаратное и программное обеспечение работали нераздельно (я расскажу об этом подробнее в ближайшее время). Подумайте об этом на том же основании, о котором я упоминал ранее, что мозг, возможно, состоит из аппаратного и программного обеспечения. Если бы это было так, можно было бы предположить, что компьютер такого рода больше не был бы бессмертным. Вместо этого это будет истолковано как «смертное».

В соответствии с замечаниями, сделанными на конференции NeurIPS приглашенным основным докладчиком и известным гуру ИИ Джеффри Хинтоном, и как указано в его сопроводительном исследовательском документе:

• «Цифровые компьютеры общего назначения были спроектированы так, чтобы точно следовать инструкциям, поскольку предполагалось, что единственный способ заставить универсальный компьютер выполнять конкретную задачу — это написать программу, которая точно указывала, что делать, в мучительных деталях. Это уже не так, но исследовательское сообщество медленно осознает долгосрочные последствия глубокого обучения для построения компьютеров. В частности, сообщество придерживается идеи, что программное обеспечение должно быть отделено от аппаратного обеспечения, чтобы одна и та же программа или тот же набор весов могли выполняться на другой физической копии аппаратного обеспечения. Это делает знание, содержащееся в программе, или веса бессмертными: знание не умирает, когда умирает аппаратное обеспечение» (содержащееся и цитируемое из его исследовательской статьи «Алгоритм вперед-вперед: некоторые предварительные исследования», препринт доступен в Интернете) .

Обратите внимание, что конкретный тип вычислений, обсуждаемый в этом типе ИИ, использует искусственные нейронные сети (ИНС).

Давайте исправим ситуацию по этому поводу.

В нашем мозгу есть настоящие биологические нейроны. Вы используете их все время. Они биологически и химически взаимосвязаны в сеть в вашей голове. Таким образом, мы можем обозначить это как нейронной сети.

В другом месте есть, скажем так, поддельные «нейроны», которые мы вычислительно представляем в компьютерах для разработки ИИ. Многие люди, занимающиеся ИИ, также называют их нейронными сетями. Я считаю, что это несколько сбивает с толку. Видите ли, я предпочитаю называть их искусственный нейронные сети. Это помогает сразу отличить отсылку к мысленному нейронные сети (как бы настоящие), так и компьютерные (искусственный нейронные сети).

Не все занимают такую ​​позицию. Многие люди в ИИ просто предполагают, что все остальные в ИИ «знают», что, говоря о нейронных сетях, они почти всегда говорят об ИНС — если только не возникает ситуация, когда по какой-то причине они хотят обсуждать настоящие нейроны и настоящие нейронные сети в мозг.

Я верю, что вы поняли мой дрейф. В большинстве случаев люди с искусственным интеллектом будут говорить «нейронные сети», что потенциально двусмысленно, потому что вы не знаете, имеют ли они в виду настоящие сети в наших головах или вычислительные сети, которые мы программируем в компьютерах. Но поскольку специалисты по ИИ в основном имеют дело с компьютерными экземплярами, они по умолчанию предполагают, что вы имеете в виду искусственные нейронные сети. Мне нравится добавлять слово «искусственный» в начале формулировки, чтобы лучше понять намерения.

Двигаясь дальше, вы можете в некоторой степени рассматривать эти вычислительные искусственные нейроны как математическую или вычислительную симуляцию того, что, как мы думаем, делают настоящие биохимические физические нейроны, например, использование числовых значений в качестве весовых коэффициентов, которые в противном случае происходят биохимически в мозгу. Сегодня эти симуляции не так сложны, как настоящие нейроны. Текущие ИНС представляют собой чрезвычайно грубое математическое и вычислительное представление.

Как правило, ANN часто являются основным элементом машинного обучения (ML) и глубокого обучения (DL) — имейте в виду, что в этом есть гораздо больше деталей, и я призываю вас взглянуть на мой обширный обзор ML / DL. в ссылка здесь и ссылка здесь, Например.

Возвращаясь к бессмертным и смертным типам компьютеров, вот еще, о чем исследователь может поразмышлять:

• «Отделение программного обеспечения от аппаратного обеспечения является одной из основ компьютерных наук и имеет много преимуществ. Это позволяет изучать свойства программ, не заботясь об электротехнике. Это дает возможность написать программу один раз и скопировать ее на миллионы компьютеров. Однако если мы готовы отказаться от бессмертия, то можно добиться огромной экономии энергии, необходимой для выполнения вычислений, и стоимости изготовления оборудования, которое выполняет вычисления. Мы можем допустить большие и неизвестные различия в связности и нелинейности различных экземпляров оборудования, которые предназначены для выполнения одной и той же задачи, и полагаться на процедуру обучения для обнаружения значений параметров, которые эффективно используют неизвестные свойства каждого конкретного экземпляра оборудования. оборудование. Эти значения параметров полезны только для этого конкретного экземпляра оборудования, поэтому выполняемые ими вычисления смертельны: они умирают вместе с оборудованием» (там же).

Теперь вы познакомились с тем, как бессмертный и смертный используются в этом контексте.

Позвольте мне уточнить.

Предложение состоит в том, что компьютер, специально созданный на основе ИНС, можно разработать таким образом, чтобы аппаратное и программное обеспечение считались неразделимыми. Как только аппаратное обеспечение когда-нибудь перестанет функционировать (которое, конечно же, мы говорим, неразрывно связано с программным обеспечением), этот тип компьютера, по-видимому, больше не будет полезен и больше не будет функционировать. Говорят, что это смертельно. С таким же успехом вы можете похоронить компьютер на основе ИНС, так как он не принесет вам много пользы впредь, когда неразделимое оборудование и программное обеспечение больше не будут работать как команда.

Если бы вы хотели попытаться связать это с аналогией с человеческим мозгом, вы могли бы представить мрачную ситуацию с человеческим мозгом, который полностью изношен или каким-то образом непоправимо поврежден. Мы принимаем представление о том, что человек смертен и его мозг в конечном итоге неизбежно перестанет работать. Знания, которые они хранили в своем мозгу, больше не доступны. Если им не суждено было попытаться рассказать другим или записать то, что они знали, их знания ушли в мир в целом.

Вы, несомненно, слышали или видели сообщения о попытках сохранить мозг, например, заморозив его, в соответствии с теорией, что, возможно, люди когда-нибудь смогут стать бессмертными или, по крайней мере, продлить свою обычную жизнь. Ваш мозг может жить, даже если не в вашем теле. Многие научно-фантастические фильмы и рассказы спекулируют на таких идеях.

Теперь мы готовы к подробному рассмотрению смертного компьютера и бессмертного компьютера как концепции и того, что она предсказывает.

Внимательное обсуждение и внимательный анализ

Прежде чем погрузиться в суть этого анализа постулируемого подхода, стоит упомянуть несколько важных предостережений и дополнительных моментов.

Исследователь подчеркнул, что придуманная смертные компьютеры не стал бы особо заменять или вытеснять из существования бессмертные компьютеры которые мы сегодня называем обычными цифровыми компьютерами. Было бы сосуществование обоих типов компьютеров. Я говорю это потому, что реакция некоторых заключалась в том, что призыв к порядку был общим заявлением о том, что Найти компьютеры по необходимости движутся или будут приближаться к смертному типу.

Это не было претензией.

Во время своего выступления он упомянул, что эти специализированные нейроморфно-ориентированный компьютеры будут выполнять вычислительную работу, известную как смертные вычисления: «Мы собираемся сделать то, что я называю смертными вычислениями, где знания, которые изучила система, и оборудование неразделимы» (цитируется в статье ZDNET Тирнаном Рэем от 1 декабря 2022 г.).

И особенно: «Он не заменит цифровые компьютеры» (там же).

Кроме того, эти новые типы компьютеров явно не скоро появятся в вашем местном компьютерном магазине или сразу же будут доступны для покупки в Интернете, как было заявлено во время его презентации: «Я думаю, что мы увидим совершенно другой тип компьютеров. компьютер, не в течение нескольких лет, но есть все основания для исследования этого совершенно другого типа компьютера». Варианты использования тоже будут разными: «Это не будет компьютер, который будет управлять вашим банковским счетом и точно знать, сколько у вас денег».

Дополнительный поворот заключается в том, что смертные компьютеры, по-видимому, будут выращиваться, а не изготавливаться, как мы делаем сегодня для производства компьютерных процессоров и вычислительных микросхем.

В процессе роста смертный компьютер будет увеличивать свои возможности в стиле вычислительной зрелости. Таким образом, конкретный смертный компьютер мог начаться практически без каких-либо возможностей и превратиться в то, чем он должен был стать. Например, предположим, что мы хотим создать сотовые телефоны с помощью обычных компьютеров. Вы бы начали с простого варианта смертного компьютера, который изначально был сформирован или засеян для этой цели. Затем он созреет в более продвинутую версию, которую вы искали. Вкратце: «Вы бы заменили это тем, что каждый из этих сотовых телефонов должен был бы начинаться как детский сотовый телефон, и ему нужно было бы научиться быть мобильным телефоном».

На одном из его основополагающих слайдов о смертных вычислениях преимущества были описаны следующим образом: «Если мы откажемся от бессмертия и признаем, что знание неотделимо от точных физических деталей конкретного устройства, мы получим два больших преимущества: (1) Мы можем использовать аналоговые вычисления с очень низким энергопотреблением. (2) Мы можем создавать аппаратное обеспечение, точное подключение и аналоговое поведение которого неизвестны».

Часть того же доклада, а также то, что содержится в его исследовательской работе перед печатью, представляет собой предлагаемую технику улучшения разработки ИНС, которую он называет использованием вперед-вперед сетевой подход. Некоторые из вас, разбирающиеся в ИНС, несомненно, уже хорошо осведомлены об использовании обратного распространения или обратной опоры. Возможно, вы захотите взглянуть на предложенную им технику «вперед-вперед». Я расскажу об этом увлекательном подходе в одной из будущих колонок, так что следите за моим предстоящим освещением этого вопроса.

Переключив передачу, давайте рассмотрим, что говорят в коридорах и закоулках сообщества ИИ об этой дерзости. смертный компьютер махинации.

Мы начнем с того, что некоторые скажут, что это не начало темы, о которой все рассказали.

Готовы ли вы?

Хватит называть это смертный компьютер.

Точно так же перестаньте заявлять, что современные обычные компьютеры бессмертный.

Оба варианта просто неверны и вводят в заблуждение, уверяют скептики.

Обычное словарное определение того, что бессмертно, состоит из чего-то, что не может умереть. Он живет вечно. Чтобы не умереть, надо, видимо, сказать, что сама вещь живая. Вы идете по ложному пути, утверждая, что современные компьютеры живы. Ни один разумный человек не стал бы приписывать современным компьютерам добросовестные «живые» свойства. Они машины. Это вещи. Они не люди, не животные и не живые существа.

Если вы хотите расширить определение бессмертия, чтобы допустить, что мы имеем в виду и неживые существа, в этом случае неживое существо, по-видимому, никогда не должно распадаться и не может неизбежно распасться в прах. Можете ли вы сделать такое заявление о современных компьютерах? Это кажется натянутым (примечание: мы, конечно, могли бы вступить в грандиозную философскую дискуссию о природе материи и существования, но в данном случае давайте не будем этого делать).

Суть в том, что использование или некоторые сказали бы неправильное использование слов «смертный» и «бессмертный» диковинно и неуместно. Взятие общеупотребительного жаргона и его повторное использование для других целей сбивает с толку и приводит к мутной воде. Вы должны быть готовы явно переосмыслить, что означают смертный и бессмертный в этом конкретном контексте. Это становится проблематичным.

Еще больше смущает то, что этот выбор слов имеет тенденцию антропоморфизировать аспекты компьютера.

Проблем, связанных с антропоморфизацией ИИ, уже более чем достаточно, нам, конечно, не нужно придумывать больше таких возможностей. Как я подробно обсуждал в своем обзоре этики ИИ и этического ИИ, люди приписывают разумные способности компьютерам самыми разными способами. В свою очередь, это вводит людей в заблуждение, заставляя их ошибочно полагать, что компьютеры на основе ИИ могут думать и действовать так же, как люди. Это скользкий путь опасности, когда общество убаюкивается, полагая, что сегодняшний ИИ и компьютеры находятся на одном уровне с человеческим интеллектом и здравым смыслом, см., например, мой анализ на ссылка здесь и ссылка здесь.

Хорошо, мы можем отвергнуть или презирать неудобные формулировки, но означает ли это, что мы должны выплеснуть ребенка вместе с водой из ванны (старое выражение, вероятно, приближающееся к пенсии)?

Некоторые утверждают, что, возможно, мы сможем найти лучшую формулировку для этого общего подхода или концепции. Откажитесь от использования слов «смертный» и «бессмертный», чтобы остальные идеи не были испорчены неуместным или неправильным использованием. Между тем, существуют контраргументы в пользу того, что использование этих вариантов слов вполне приемлемо либо потому, что они подходят, либо потому, что мы не должны быть негибкими в отношении того, как мы выбираем повторное использование слов. Роза есть роза под любым другим названием, заявляют они.

Чтобы избежать дальнейших ожесточенных споров, я впредь буду избегать использования слов «смертный» и «бессмертный» и просто заявлю, что у нас есть два основных типа компьютеров, которыми обмениваются: один — обычный цифровой компьютер сегодняшнего дня, а другой — другое предложение нейроморфный компьютер.

Казалось бы, не нужно втягивать в это загадку смертности. Держите небо чистым, чтобы увидеть, что еще мы можем сделать по этому вопросу.

В таком случае кто-то может возразить, что в предлагаемой идее нейроморфного компьютера нет ничего нового.

Вы можете вернуться к более ранним дням ИИ, особенно когда ИНС впервые исследовались, и увидеть, что велись разговоры о разработке специализированных компьютеров для выполнения работы искусственных нейронных сетей. Были предложены всевозможные новые аппаратные средства. Это происходит и по сей день. Конечно, вы могли бы возразить, что большая часть сегодняшних исследований специализированного оборудования для ИНС и машинного обучения по-прежнему основана на традиционном подходе к вычислениям. В этом смысле эта аналоговая неотделимость аппаратного и программного обеспечения несколько расширяет границы, как и предложение «выращивания» компьютера, по крайней мере, в том, что касается выхода за пределы рассматриваемого мейнстрима.

Короче говоря, есть люди, полностью погруженные в эти вопросы, которые удивлены тем, что кто-то еще может быть удивлен выдвигаемыми предложениями. Эти представления либо остаются прежними, либо перекликаются с тем, что уже изучается в различных исследовательских лабораториях.

Не путайте волосы, говорят они.

Это подводит нас к другому аспекту, который беспокоит многих.

Одним словом: Предсказуемость.

Современные компьютеры обычно считаются предсказуемыми. Вы можете взглянуть на аппаратное и программное обеспечение, чтобы понять, что будет делать компьютер. Точно так же вы можете проследить, что уже сделал компьютер, чтобы понять, почему он сделал то, что сделал. Конечно, для этого есть ограничения, поэтому я не хочу преувеличивать предсказуемость, но я думаю, что вы поняли идею в целом.

Возможно, вы знаете, что одна из сложных проблем, с которыми сегодня сталкивается ИИ, заключается в том, что некоторые ИИ созданы для самонастройки. ИИ, созданный разработчиками, может изменяться во время использования. В области этики ИИ существует множество примеров ИИ, которые были введены в действие и которые сначала не имели неправомерных предубеждений или дискриминационных тенденций, которые затем постепенно подвергались вычислительной самомутации в течение того времени, когда ИИ находился в производстве, см. подробные оценки на ссылка здесь.

Беспокоит то, что мы уже вступаем в среду, влекущую за собой ИИ, который не обязательно предсказуем.

Предположим, ИИ для систем вооружения подвергается самонастройке, и в результате ИИ вооружает и запускает смертоносное оружие по целям и в неожиданные моменты времени. Люди могут быть не в курсе, чтобы остановить ИИ. Люди, которые находятся в петле, могут быть не в состоянии реагировать достаточно быстро, чтобы обогнать действия ИИ. Дополнительные пугающие примеры см. в моем анализе на ссылка здесь.

Для нейроморфных компьютеров проблема заключается в том, что мы придаем непредсказуемость стероидам. С самого начала суть нейроморфного компьютера может заключаться в том, что он работает таким образом, который не поддается предсказанию. Мы щеголяем непредсказуемостью. Он становится почетным знаком.

Существуют два лагеря.

Один лагерь говорит, что мы можем жить с неприятными проблемами непредсказуемости, делая это, устанавливая ограждения, чтобы ИИ не заходил слишком далеко. Другой лагерь утверждает, что вы ведете мир по опасному пути. Придет день, когда заявленные ограждения либо выйдут из строя, либо они недостаточно строгие, либо случайно или со злым умыслом ограждения будут сняты или с ними будут возиться.

Должны ли мы отмахнуться от сомнений по поводу нейроморфных компьютеров и предсказуемости?

По замечанию исследователя: «Среди людей, интересующихся аналоговыми вычислениями, до сих пор очень мало тех, кто готов отказаться от бессмертия». Более того: «Если вы хотите, чтобы ваше аналоговое оборудование каждый раз делало одно и то же… У вас есть реальная проблема со всеми этими паразитными электрическими вещами и прочим».

Я ускорю это.

Мрачная и несколько мрачная перспектива состоит в том, что так называемая предсказуемость, связанная с современными цифровыми компьютерами, в любом случае становится непредсказуемой. Как уже упоминалось, это может произойти, в частности, с ИИ, который самонастраивается на обычных компьютерных платформах. Тот факт, что нейроморфные компьютеры могут казаться непредсказуемыми, не является, следовательно, признаком того, что обычные цифровые компьютеры на самом деле предсказуемы.

Каток непредсказуемости надвигается на нас полным ходом, независимо от того, какую вычислительную платформу вы выберете. Для моей оценки последних усилий, направленных на обеспечение безопасности ИИ в этом свете, см. ссылка здесь.

Этот поворот о предсказуемости должен заставить ваш разум задуматься о чем-то вроде неизведанного. Те из вас, кто занимается этикой ИИ и законом об ИИ, могут не рассматривали последствия нейроморфные компьютеры.

Вероятно, вы стремились к обычным цифровым компьютерам с искусственным интеллектом. Что ж, угадайте, что у вас есть совершенно дополнительный и развивающийся сегмент вычислений ИИ, о котором вы теперь можете не спать, беспокоясь по ночам. Да, нейроморфные компьютеры. Внесите это в свой список дел.

Извините, больше бессонных ночей для вас.

Давайте кратко рассмотрим, что этика ИИ и закон об ИИ делают в отношении обычных цифровых вычислений и ИИ.

В предыдущих колонках я рассказывал о различных национальных и международных усилиях по разработке и принятию законов, регулирующих ИИ, см. ссылка здесь, Например. Я также рассмотрел различные принципы и руководства по этике ИИ, которые были определены и приняты различными странами, включая, например, усилия Организации Объединенных Наций, такие как свод этических норм ИИ ЮНЕСКО, принятый почти в 200 странах, см. ссылка здесь.

Вот полезный краеугольный список критериев или характеристик этического ИИ, касающихся систем ИИ, которые я ранее внимательно изучал:

• Прозрачность
• Справедливость и справедливость
• Безвредность
• Ответственность
• Политика
• благодеяние
• Свобода и автономия
• Доверие
• Стабильность
• чувство собственного достоинства
• солидарность

Предполагается, что эти принципы этики ИИ должны серьезно использоваться разработчиками ИИ, а также теми, кто управляет усилиями по разработке ИИ, и даже теми, кто в конечном итоге устанавливает и обслуживает системы ИИ.

Все заинтересованные стороны на протяжении всего жизненного цикла разработки и использования ИИ рассматриваются в рамках соблюдения установленных норм этического ИИ. Это важный момент, поскольку обычно предполагается, что «только программисты» или те, кто программирует ИИ, должны придерживаться понятий этики ИИ. Как уже подчеркивалось здесь, для разработки и внедрения ИИ требуется целая деревня, и для этого вся деревня должна быть осведомлена и соблюдать этические предписания ИИ.

Часть этого, о которой вы, возможно, раньше не задумывались, заключается в том, как те же самые заповеди этики ИИ и растущий список новых законов ИИ будут применяться к нейроморфным компьютерам. Чтобы уточнить, этика ИИ и закон об ИИ действительно должны явно учитывать это. Я указываю, что немногие делают это, и имейте в виду, что существует вероятность того, что появление нейроморфных компьютеров заставит многих запутаться с точки зрения нового измерения в попытках господствовать в ИИ.

Мы должны рассматривать этический ИИ и законы ИИ достаточно широко, чтобы охватить все новые разработки ИИ, включая нейроморфные компьютеры.

Альтернатива с качелями — это классический гамбит в кошки-мышки. Вот как это происходит. Разрабатываются и создаются новые способы создания ИИ. Существующие этика и законы об ИИ застигнуты врасплох и не полностью охватывают последние махинации с ИИ. Предпринимаются поспешные усилия по обновлению этических предписаний ИИ и изменению этих новоиспеченных законов ИИ.

Вспенить, промыть, повторить.

Для всех нас было бы лучше оставаться впереди игры, а не застрять за восьмёркой.

Заключение

Я взял вас в небольшое путешествие.

Вначале я предложил рассмотреть две основные темы:

1) Интегральное связывание аппаратного и программного обеспечения для механизации ИИ, а не использование их как отдельных и отдельных союзников.

2) Перенос или переработка формулировок машинного обучения из одной модели ИИ в другую, что делает это без требования и обязательного желания (или даже возможного в противном случае) прямого полного чистокровного копирования.

Первая тема, связанная с объединением аппаратного и программного обеспечения, была основной частью нашего путешествия. Это привело нас к компьютерной трясине между смертными и бессмертными. Из них были некоторые важные соображения по этике ИИ и закону об ИИ, которые в противном случае обычно не поднимались бы, поскольку этот тип компьютерной темы обычно рассматривается некоторыми как чисто технологический, а не влекущий за собой какие-либо социальные последствия.

Я говорю, что разумнее всего действовать раньше и в большей безопасности, чем позже и в худшем случае, когда дело доходит до этического ИИ и закона об ИИ.

Вторая тема, которую я еще не сформулировал здесь, существенно связана с первой темой.

Вот сделка.

Предположим, у нас есть «смертный компьютер», и мы хотим сохранить его возможности, чтобы мы могли иметь резервную копию или якобы копии того, что содержит ИИ. Мы можем быть обеспокоены тем, что конкретный смертный компьютер подходит к концу. Yikes, мы зависим от него. Что мы собираемся делать? Один из ответов заключается в том, что мы должны копировать чертову вещь.

Но скопировать нейроморфный компьютер в том виде, в котором он был нарисован, будет сложнее, чем может показаться на первый взгляд. Вещи могут стать сложными.

Возможно, нам следует придумать уловку для копирования, которую можно было бы обобщить и применить к обстоятельствам, связанным с машинным обучением и искусственными нейронными сетями. Мы хотим, чтобы это работало на крупномасштабных и чрезвычайно крупномасштабных инстансах. Мы также хотели бы, чтобы копия не была точной копией, а вместо этого могла бы быть по существу эквивалентной или, возможно, даже лучше разработанной в результате действия копирования.

Техника, известная как дистилляция было предложено.

У меня закончилось место для сегодняшней колонки, поэтому я подниму эту вторую тему в следующей колонке. Я полагал, что вы сразу же захотите узнать о взаимосвязи между этой второй темой и первой темой, которая широко освещалась здесь. Думайте об этом как о добавленной заметке, служащей тизером или трейлером того, что будет дальше.

Оставайтесь на краю своего места, так как тема дистилляции довольно привлекательна.

Как говорил Бэтмен, держите свои крылья летучей мыши скрещенными и будьте готовы к тому же времени летучей мыши и каналу летучей мыши, чтобы разгадать насущный вопрос о том, как скопировать ИНС, модель машинного обучения или нейроморфный компьютер в другой.

Последнее замечание на данный момент. В фильме есть известная фраза Темный рыцарь возвращается в которой наш крестоносец в плаще говорит: «Мир имеет смысл только в том случае, если вы принуждаете его к этому». Я постараюсь придерживаться этого идеала, когда буду освещать вторую тему дистилляции, связанной с ИИ.

Оставайтесь с нами для части 2 этого захватывающего и увлекательного двойного заголовка.