Причины для регулирования алгоритмов ИИ проще, чем вы думаете

Вы беспокоитесь, что искусственный интеллект захватит мир? Многие делают. От Илона Маска, беспокоящегося о DeepMind побеждает людей в продвинутой игре Го в 2017 году – членам Конгресса, европейским политикам (см. Европейский подход к искусственному интеллекту) и академиков, есть такое ощущение, что это десятилетие, когда нужно серьезно относиться к ИИ, и оно набирает обороты. Но не по тем причинам, о которых вы могли подумать, и не из-за какой-то существующей угрозы.

Здесь на помощь приходят алгоритмы. Что такое алгоритм, спросите вы? Самый простой способ представить это как набор инструкций, которые машины могут понять и извлечь из них уроки. Мы уже можем поручить машине вычислять, обрабатывать данные и рассуждать структурированным, автоматизированным способом. Однако проблема в том, что после того, как будут даны указанные инструкции, машина будет им следовать. На данный момент это главное. В отличие от людей, машины следуют инструкциям. Они не так хорошо учатся. Но как только они это сделают, они могут вызвать проблемы.

Я не хочу приводить сенсационные аргументы в пользу того, что однажды компьютеры превзойдут человеческий интеллект, более известный как аргумент сингулярности (см. философа Нью-Йоркского университета Дэвида Чалмерса). размышления на тему.) Скорее всего, производство может быть лучшим примером того, почему алгоритмы ИИ начинают иметь большее значение для широкой публики. Есть опасения, что машины значительно увеличат свое мастерство за наш счет. Не обязательно из-за каких-то продвинутых рассуждений, а из-за оптимизации в рамках того, что говорит алгоритм.

Производство — это создание вещей. Но когда машины что-то делают, нам нужно быть внимательными. Даже если то, что делают машины, просто. Я объясню почему.

От резиновых сапог к мобильным телефонам и обратно

Скажем, фабрика производит резиновые сапоги. Я люблю резиновые сапоги, потому что я вырос в районе Норвегии, где много дождей; Я люблю быть снаружи, подчиняясь многим элементам природы. Nokia сделала резиновые сапоги, в которых я вырос. Да, Nokia, которую мы знаем сегодня как компанию по производству электроники, когда-то производила резиновые сапоги. Почему этот ключ? Потому что, когда вы что-то делаете, вам суждено хотеть совершенствоваться. Это имеет смысл. Можно сказать, что это человеческая природа.

То, что случилось с Nokia, хорошо известно и выглядит примерно так: изначально бумажная фабрика, когда я был ребенком, производство резиновых сапог (и шин) было особенно успешным для компании. Однако они увидели дополнительные возможности. Следовательно, в какой-то момент в 1980-х они переключились на электронику и быстро изменили заводы, создав большую структуру местных поставщиков, когда они начали производить сотовые телефоны. Это положило начало революции мобильной связи, которая началась в Скандинавии и распространилась на остальной мир. Понятно, что многие писали историю Nokia в 1990-х годах (см. Секреты финского чуда: подъем Nokia).

Мой пример прост. Пожалуй, слишком просто. Но подумайте об этом так. Если крупная компания сможет быстро перейти от производства бумаги для письма к ботинкам, в которых легче ходить под дождем, и, наконец, к мобильным телефонам, которые изменят способ общения людей: насколько легким будет следующий шаг? Предположим, компания, производящая сотовые телефоны, решает создать нанороботов, и, возможно, через десятилетие они станут популярными, изменяя человечество крохотными машинами, автономно бегущими повсюду, способными пересобирать и изменять человеческий опыт. Что, если это произойдет без учета того, как мы хотим, чтобы это произошло, кого мы хотим возглавить и каковы конечные цели?

Предполагать, что роботы сознательно помогли Nokia решиться производить сотовые телефоны, было бы преувеличением. Но признание того, что технологии сыграли роль в том, что финские сельские районы на ее северном побережье думали, что они могут завоевать мировое господство в новой отрасли, играет значительную роль.

История Nokia не была столь радужной в последнее десятилетие, учитывая, что они не учли появление программных операционных систем iOS и Android. В результате Nokia больше не производит телефоны. Немного истории о возвращении: теперь они производят сетевую и телекоммуникационную инфраструктуру, решения для сетевой безопасности, маршрутизаторы Wi-Fi, интеллектуальное освещение и смарт-телевизоры (см. История возвращения Nokia). Nokia все еще делает вещи, это правда. Единственное замечание, которое следует сделать, заключается в том, что Nokia всегда любит смешивать вещи, которые они производят. Даже производственные решения людей иногда трудно понять.

Производство означает создание вещей, и вещи действительно развиваются. В целом то, что мы делаем сегодня, изменилось всего десять лет назад. 3D-принтеры децентрализовали производство многих передовых продуктов как в промышленности, так и в быту. Изменяющие жизнь последствия 3D-печати еще не наступили. Мы не знаем, продлится ли это долго, но мы знаем, что внимание FDA сосредоточено на регулировании производства продуктов (см. здесь), такие как напечатанные таблетки или медицинские устройства, очевидные проблемы с интеллектуальной собственностью и ответственностью или проблемы, связанные с возможностью печатать огнестрельное оружие. В конечном счете, политических дискуссий о том, какие негативные последствия может иметь 3D-печать помимо этого, не существует, и мало кто из нас удосужился подумать об этом.

Я не утверждаю, что 3D-печать опасна сама по себе. Возможно, это плохой пример. Тем не менее, вещи, которые изначально кажутся обыденными, могут изменить мир. Примеров множество: наконечник стрелы охотника/собирателя, сделанный из металла, который развязывает войны, ритуальные маски, защищающие нас от COVID-19, гвозди, из которых строятся небоскребы, печатные станки с подвижными типами, которые (до сих пор) заполняют наши фабрики печатной бумагой и питают издательский бизнес, лампочки, которые позволяют вам видеть и работать внутри ночью, я мог бы продолжать. Никто из тех, кого я знаю, в конце 1800-х годов не предсказал, что Nokia перенесет свое производство с бумаги на резину, на электронику, а затем и на мобильные телефоны. Возможно, они должны были.

Люди плохо предсказывают ступенчатые изменения, процесс, когда одно изменение приводит к большему изменению, и вдруг все радикально меняется. Мы еще не понимаем этот процесс, потому что у нас мало практических знаний об экспоненциальном изменении; мы не можем представить это, вычислить или понять это. Тем не менее, снова и снова это поражает нас. Пандемии, рост населения, технологические инновации от книгопечатания до робототехники — обычно это поражает нас без предупреждения.

Хитрость футуризма не в том, если ли, а в том, когда. На самом деле можно было бы предсказать изменения, просто выбрав некоторые новые методы производства и заявив, что они станут более распространенными в будущем. Это достаточно просто. Трудная часть состоит в том, чтобы выяснить, когда именно и особенно как.

Скрепки не проблема

Снова вернемся к моему примеру с фабрикой, но на этот раз представьте, что машины отвечают за множество решений, не за все решения, а за производственные решения, такие как оптимизация. В своей книге суперинтеллектГуманист-антиутопист из Оксфордского университета Ник Бостром, как известно, вообразил алгоритм оптимизации ИИ, управляющий фабрикой скрепок. В какой-то момент, говорит он, представьте себе, что машина считает, что научиться отвлекать постоянно растущие ресурсы на задачу рационально, постепенно превращая наш мир в скрепки и сопротивляясь нашим попыткам выключить его.

Несмотря на то, что он умный парень, пример Бострома довольно глупый и вводящий в заблуждение (но запоминающийся). Во-первых, он не учитывает тот факт, что люди и роботы больше не являются отдельными существами. Мы взаимодействуем. Большинство умных роботов эволюционируют в коботов или коллаборативных роботов. У людей будет много шансов исправить машину. Тем не менее, его основная идея остается. В какой-то момент может произойти резкое изменение, и если это изменение произойдет достаточно быстро и без должного контроля, контроль может быть потерян. Но такой крайний результат кажется несколько надуманным. В любом случае, я согласен, нам нужно регулировать людей, которые управляют этими машинами, и требовать, чтобы рабочие всегда были в курсе событий, соответствующим образом обучая их. Такое обучение не идет хорошо. В настоящее время это занимает слишком много времени и требует специальных навыков как для обучения, так и для обучения. Я знаю одну вещь. В будущем самые разные люди будут управлять роботами. Те, кто этого не сделает, будут довольно бессильны.

Дополнение людей лучше, чем бездумная автоматизация, даже если мы никогда полностью не сольемся с машинами. Эти два понятия логически различны. И люди, и роботы могут зацикливаться на автоматизации ради автоматизации. Это нанесло бы большой ущерб производству в будущем. Даже если она не производит роботов-убийц. Я верю, что до слияния еще сотни лет, но дело не в этом. Даже если до этого всего тридцать лет, самоходные машины, работающие по упрощенным алгоритмам, теряют управление, такой сценарий уже происходит в цехах. Некоторым из этих машин тридцать лет, и они работают на старых собственных системах управления. Их главная проблема не в том, что они продвинуты, а в другом. Они слишком упрощены, чтобы быть в состоянии общаться. Это не проблема завтрашнего дня. Это уже существующая проблема. Мы должны открыть на это глаза. Подумайте об этом, когда в следующий раз наденете резиновые сапоги.

У меня до сих пор есть ботинки Nokia 1980-х годов. В них есть дырка, но я храню их, чтобы напоминать себе, откуда я и как далеко я прошел. Дождь тоже продолжает идти, и пока он достаточно чистый, мне не нужно ничего лучше, чем эти ботинки. Опять же, я человек. Вероятно, робот уже двинулся бы дальше. Интересно, а что за AI-версия резиновых сапог? Это не сотовый телефон. Это не датчик дождя. Это сбивает с толку.

Цифровые ботинки сегодня означают, что вы можете персонализировать их, потому что на них есть 3D-принты. Существуют виртуальные туфли, которые существуют только как NFT (невзаимозаменяемые токены), которые можно продавать и обменивать. В наши дни лучшие виртуальные кроссовки стоят 10,000 XNUMX долларов (см. Что такое кроссовки NFT и почему они стоят 10,000 XNUMX долларов?). Я не боюсь их, но должен ли я бояться? Если виртуальный мир станет цениться больше, чем физический мир, возможно, я это сделаю. Или мне следует подождать, чтобы начать беспокоиться, пока собственный аватар ИИ не купит свой собственный ботинок NFT, чтобы справиться с «дождем»? Если мы создадим алгоритмы по своему образу и подобию, более вероятно, что ИИ будет хорош в вещах, в которых мы хотели бы быть хороши, но обычно не умеем, таких как покупка акций, установление верных дружеских отношений (возможно, как с машинами, так и с людьми) и запоминание. вещи. Промышленная метавселенная может быть удивительно сложной — полной цифровых двойников, которые имитируют наш мир и превосходят его во многих отношениях — или она может быть шокирующе простой. Возможно оба. Мы просто еще не знаем.

Нам нужно регулировать алгоритмы ИИ, потому что мы не знаем, что нас ждет за углом. Это достаточная причина, но что касается того, как мы это делаем, это более длинная история. Позвольте мне сделать еще одно небольшое замечание: возможно, все фундаментальные алгоритмы должны быть общедоступны. Причина в том, что если нет, то невозможно узнать, к чему они могут привести. Наиболее известные из них (см. 10 лучших алгоритмов машинного обучения), но нет глобального обзора того, где и как они будут использоваться. Особенно следует внимательно следить за неконтролируемыми алгоритмами (см. Шесть эффективных вариантов использования машинного обучения в производстве), используются ли они для прогнозирования технического обслуживания или качества, для моделирования производственных сред (например, цифровых двойников) или для создания новых конструкций, о которых человек никогда бы не подумал. В сегодняшнем ландшафте эти неконтролируемые алгоритмы обычно представляют собой так называемые искусственные нейронные сети, пытающиеся имитировать человеческий мозг.

Я начал беспокоиться о нейронных сетях только потому, что мне трудно понять их логику. Проблема в том, что большинство экспертов, даже те, кто их внедряет, не понимают, как эти алгоритмы перемещаются от шага к шагу или от слоя к слою. Я не думаю, что часто используемая метафора «скрытых слоев» очень уместна или очень забавна. Для начала не должно быть скрытых слоев в производстве, автоматизированном сборе налогов, решениях о найме или поступлении в колледжи. Может быть, вам тоже стоит задуматься о том, чтобы побеспокоиться? Одно можно сказать наверняка: люди и машины, создающие вещи вместе, изменят мир. Это уже было, и много раз. От бумаги до резиновых сапог и слоев современного искусственного мозга — ничто не должно оставаться неисследованным. Нам не следует прятаться от того простого факта, что из множества мелких изменений может внезапно появиться большее изменение.