Вот почему у компаний бурные отношения любви и ненависти с советами по этике ИИ

Должен ли бизнес создать консультативный совет по этике ИИ?

Вы можете быть удивлены, узнав, что это не простой ответ «да» или «нет».

Прежде чем я перейду к сложностям, лежащим в основе плюсов и минусов создания консультативного совета по этике ИИ, давайте убедимся, что мы все согласны с тем, из чего состоит консультативный совет по этике ИИ и почему он поднялся до уровня заголовков. известность.

Как всем известно, искусственный интеллект (ИИ) и практическое использование ИИ в бизнес-деятельности стали неотъемлемой частью современных компаний. Вам было бы трудно утверждать обратное. В какой-то степени внедрение ИИ сделало продукты и услуги лучше, а иногда привело к снижению затрат, связанных с предоставлением указанных продуктов и услуг. Отличный список повышения эффективности и эффективности потенциально можно отнести к разумному и правильному применению ИИ. Короче говоря, добавление или расширение того, что вы делаете, путем включения ИИ может быть весьма выгодным предложением.

Есть также скажем так большой всплеск это связано с добавлением ИИ в ваши корпоративные усилия.

Компании громко и гордятся тем, что используют ИИ. Если так случится, что ИИ также улучшит ваши товары, это здорово. Между тем, заявления об использовании ИИ достаточно привлекают внимание, так что вы можете делать то же самое, что и раньше, но при этом получать гораздо больше денег или глазных яблок, разбрасывая знамя ИИ как часть вашей бизнес-стратегии и превзойдя его. дверь товар.

Последнее замечание о том, что иногда мы немного умалчиваем о том, действительно ли используется ИИ, выводит нас на арену этики ИИ. Бизнес делает всевозможные откровенно ложные заявления об ИИ. Что еще хуже, возможно, состоит в использовании ИИ, который оказывается так называемым AI для плохих.

Например, вы, несомненно, читали о многих случаях систем ИИ, использующих машинное обучение (ML) или глубокое обучение (DL), которые имеют укоренившиеся расовые предубеждения, гендерные предубеждения и другие неправомерные дискриминационные практики. О моем постоянном и обширном освещении этих вопросов, связанных с неблагоприятным ИИ и появлением громких призывов к этике ИИ и этичному ИИ, см. ссылка здесь и ссылка здесь, Просто назвать несколько.

Итак, у нас есть эти кислые драйверы, скрытые в, казалось бы, совершенно розовом использовании ИИ в бизнесе:

• Пустые заявления об использовании ИИ, когда на самом деле нет ИИ или незначительное вливание ИИ.
• Ложные заявления об использовании ИИ, которые намеренно созданы для того, чтобы ввести в заблуждение
• Непреднамеренное включение ИИ, которое, как оказалось, привносит неправомерные предубеждения и носит дискриминационный характер.
• Целенаправленно сформированный ИИ для пропаганды плохих предубеждений и презренных дискриминационных действий.
• Другие контрактные услуги

Как такие бездумные или постыдные действия возникают в компаниях?

Одним из примечательных кусочков головоломки является отсутствие осведомленности об этике ИИ.

Руководители высшего звена могут не знать о самой идее разработки ИИ, которая соблюдает набор этических принципов ИИ. Разработчики ИИ в такой фирме могут иметь некоторое представление об этом вопросе, хотя, возможно, они знакомы только с теориями этики ИИ и не знают, как заполнить пробел в повседневных усилиях по разработке ИИ. Существует также ситуация, когда разработчики ИИ хотят принять этику ИИ, но затем получают сильный отпор, когда менеджеры и руководители считают, что это замедлит их проекты ИИ и увеличит затраты на разработку ИИ.

Многие топ-менеджеры не осознают, что несоблюдение этики ИИ, вероятно, в конечном итоге приведет к тому, что они и компания окажутся в затруднительном положении после выпуска ИИ, который изобилует острыми и в целом уродливыми проблемами. Фирма может столкнуться с плохим искусственным интеллектом, который затем серьезно подорвет давно сложившуюся репутацию фирмы (репутационный риск). Клиенты могут решить больше не использовать продукты и услуги компании (риск потери клиента). Конкуренты могут извлечь выгоду из этой неудачи (конкурентный риск). И есть много адвокатов, готовых помочь тем, кто нарушил закон, стремясь подать огромные иски против фирм, которые допустили гнилой ИИ в свои товары (юридический риск).

Короче говоря, ROI (окупаемость инвестиций) для надлежащего использования этики ИИ почти наверняка более выгодна, чем по сравнению с последующими затратами, связанными с сидением на вершине зловония плохого ИИ, который не должен был ни разрабатываться, ни выпускаться.

Оказывается, не все получили эту записку, так сказать.

Этика ИИ только постепенно набирает обороты.

Некоторые считают, что неизбежно может понадобиться длинная рука закона, чтобы еще больше вдохновить на принятие этических подходов ИИ.

Помимо использования принципов этики ИИ в целом, возникает соответствующий вопрос о том, должны ли мы иметь особые законы, регулирующие различные разработки и использование ИИ. На международном, федеральном, государственном и местном уровнях действительно обсуждаются новые законы, касающиеся диапазона и характера того, как следует разрабатывать ИИ. Усилия по разработке и принятию таких законов носят взвешенный характер. Этика ИИ служит, по крайней мере, временной мерой и почти наверняка в какой-то степени будет непосредственно включена в эти новые законы.

Имейте в виду, что некоторые категорически утверждают, что нам не нужны новые законы, касающиеся ИИ, и что наших существующих законов достаточно. На самом деле, они предупреждают, что, если мы примем некоторые из этих законов об ИИ, мы убьем золотого гуся, пресекая достижения в области ИИ, которые предлагают огромные социальные преимущества. См., например, мое покрытие на ссылка здесь и ссылка здесь.

Давайте удостоверимся, что мы все согласны с тем, что содержится в основах этики ИИ.

В своей колонке я ранее обсуждал различные коллективные анализы принципов этики ИИ, такие как эта оценка в ссылка здесь, который предлагает полезный краеугольный список критериев или характеристик этического ИИ в отношении систем ИИ:

• Прозрачность
• Справедливость и справедливость
• Безвредность
• Ответственность
• Политика
• благодеяние
• Свобода и автономия
• Доверие
• Стабильность
• чувство собственного достоинства
• солидарность

Предполагается, что эти принципы этики ИИ должны серьезно использоваться разработчиками ИИ, а также теми, кто управляет усилиями по разработке ИИ, и даже теми, кто в конечном итоге устанавливает и обслуживает системы ИИ.

Все заинтересованные стороны на протяжении всего жизненного цикла разработки и использования ИИ рассматриваются в рамках соблюдения установленных норм этического ИИ. Это важный момент, поскольку обычно предполагается, что «только программисты» или те, кто программирует ИИ, должны придерживаться понятий этики ИИ. Чтобы разработать и внедрить ИИ, нужна деревня, а для этого вся деревня должна знать и соблюдать этические предписания ИИ.

Попытка привлечь и поддерживать постоянное внимание к использованию принципов этики ИИ может быть частично предпринята путем создания консультативного совета по этике ИИ.

Далее мы раскроем аспекты консультативного совета по этике ИИ.

Советы по этике ИИ и как сделать их правильно

Компании могут находиться на разных этапах внедрения ИИ, а также на разных этапах применения этики ИИ.

Представьте себе компанию, которая хочет внедрить этику ИИ, но не знает, как это сделать. Другим сценарием может быть фирма, которая уже занималась этикой ИИ, но, похоже, не уверена в том, что нужно сделать для продвижения этих усилий. Третьим сценарием может быть фирма, которая активно разрабатывает и использует ИИ и много сделала внутри для воплощения этики ИИ, хотя они понимают, что есть шанс, что они упускают другие идеи, возможно, из-за внутреннего группового мышления.

Для любого из этих сценариев создание консультативного совета по этике ИИ может оказаться благоразумным.

Понятие довольно простое (ну, чтобы уточнить, общее понятие — это пресловутая верхушка айсберга, а дьявол, безусловно, кроется в деталях, как мы на мгновение рассмотрим).

Консультативный совет по этике ИИ обычно состоит в основном из внешних консультантов, которых просят работать в специальном консультативном совете или комитете фирмы. В правление также могут быть включены некоторые внутренние участники, хотя обычно идея состоит в том, чтобы привлечь консультантов извне фирмы, и это может привнести полунезависимую точку зрения на то, что делает компания.

Я говорю полунезависимый, поскольку, несомненно, будут некоторые потенциальные конфликты независимости, которые могут возникнуть с избранными членами консультативного совета по этике ИИ. Если фирма платит консультантам, возникает очевидный вопрос: чувствуют ли оплачиваемые члены зависимость от фирмы в плане зарплаты или же им может быть неловко критиковать дареного коня, которого они держат в руках? С другой стороны, предприятия привыкли прибегать к услугам сторонних платных консультантов для получения всевозможных обоснованных независимых мнений, так что это в любом случае является обычным и ожидаемым.

Консультативный совет по этике ИИ обычно приглашают на периодические встречи лично или дистанционно. Они используются фирмой в качестве резонансной доски. Также велика вероятность того, что членам предоставляются различные внутренние документы, отчеты и заметки о предпринимаемых усилиях, связанных с ИИ в фирме. Отдельных членов совета консультантов по этике ИИ могут пригласить на внутренние собрания, если это соответствует их конкретному опыту. И т.п.

Консультативный совет по этике ИИ, помимо того, что может видеть, что происходит с ИИ внутри фирмы, и давать свежий взгляд, обычно выполняет двойную роль: быть внешним и внутренним поставщиком последних достижений в области ИИ и этического ИИ. У внутренних ресурсов может не быть времени, чтобы вникнуть в то, что происходит за пределами фирмы, и поэтому члены консультативного совета по этике искусственного интеллекта могут получить четко сфокусированные и адаптированные современные точки зрения.

Есть также внутреннее и внешнее использование консультативного совета по этике ИИ.

Это может быть сложно.

Идея заключается в том, что консультативный совет по этике ИИ используется для того, чтобы информировать внешний мир о том, что делает фирма, когда речь идет об ИИ и этике ИИ. Это может быть удобно как средство укрепления репутации фирмы. Продукты и услуги, основанные на ИИ, могут восприниматься как более надежные из-за золотой печати одобрения консультативного совета по этике ИИ. Кроме того, призывы к тому, чтобы фирма уделяла больше внимания этичному ИИ, можно несколько приглушить, указав, что компания уже использует консультативный совет по этике ИИ.

Вопросы, которые обычно задаются консультативному совету по этике ИИ фирмой, использующей такой механизм, часто включают:

• Следует ли фирме использовать ИИ для определенного продукта или услуги, или это кажется слишком тревожным?
• Учитывает ли фирма весь спектр этических соображений ИИ в своих усилиях по ИИ?
• Фирма впала в групповое мышление и стала нежелающей или неспособной увидеть потенциально тревожные падения этики ИИ, ожидающие этих усилий?
• Какие новейшие подходы к этике ИИ следует использовать фирме?
• Будет ли возможно предложить внешнее признание наших усилий по этике ИИ и приверженности им?
• Другие контрактные услуги

Использование консультативного совета по этике ИИ, безусловно, имеет смысл, и фирмы все чаще идут по этому пути.

Имейте в виду, что у этой медали есть и другая сторона.

С одной стороны медали, консультативные советы по этике ИИ могут быть следующей лучшей вещью после нарезанного хлеба. Не пренебрегайте и другой стороной медали, а именно, они также могут быть монументальной головной болью, и вы можете пожалеть, что свернули на эту рискованную территорию (как вы увидите в этом обсуждении, с недостатками можно справиться, если вы знаете, что вам нужно). делают).

Компании начинают понимать, что могут оказаться в затруднительном положении, решив пойти по пути консультативного совета по этике ИИ. Можно утверждать, что эта махинация чем-то сродни игре с огнем. Видите ли, огонь — это очень мощный элемент, который вы можете использовать для приготовления пищи, защиты от хищников в дикой природе, согревания, освещения и множества полезных и жизненно важных преимуществ.

Огонь также может обжечь вас, если вы не сможете с ним справиться.

В последнее время появились различные заголовки новостей, которые ярко демонстрируют потенциальные опасности наличия консультативного совета по этике ИИ. Если участник вкратце решит, что он больше не верит, что фирма ведет правильную деятельность в области этического ИИ, недовольный участник может уйти в большом раздражении. Если предположить, что этот человек, вероятно, будет широко известен в области ИИ или отрасли, его прыжки с корабля обязательно привлекут широкое внимание средств массовой информации.

Затем фирма должна перейти к защите.

Почему участник ушел?

Что компания гнусно замышляет?

Некоторые фирмы требуют, чтобы члены консультативного совета по этике AI подписали NDA (соглашения о неразглашении), которые, по-видимому, защитят фирму, если член решит пойти «мошенником» и разгромить компанию. Однако проблема заключается в том, что даже если человек хранит относительное молчание, тем не менее существует вероятность того, что он больше не входит в состав консультативного совета по этике ИИ. Это само по себе вызовет множество вопросов, вызывающих удивление.

Кроме того, даже если NDA существует, иногда участник будет пытаться обойти его положения. Это может включать ссылку на неназванные подмигивающие общие «тематические исследования», чтобы выделить аномалии этики ИИ, которые, по их мнению, коварно выполняла фирма.

Упавший участник может быть совершенно наглым и открыто высказывать свои опасения по поводу компании. Является ли это явным нарушением NDA, возможно, несколько менее важно, чем тот факт, что распространяется молва об этических сомнениях в отношении ИИ. Фирма, которая пытается подать в суд на участника за нарушение NDA, может жестоко навлечь на себя горячую воду, привлекая дополнительное внимание к спору и создавая впечатление классической дуэли Давида против Голиафа (фирма является большим «монстром»).

Некоторые топ-менеджеры предполагают, что они могут просто достичь финансового урегулирования с любым членом консультативного совета по этике AI, который считает, что фирма делает неправильные вещи, включая игнорирование или преуменьшение высказанных опасений.

Это может быть не так просто, как предполагается.

Часто участники набожно настроены на этику и не будут с готовностью отступать от того, что они считают этической борьбой между правильным и неправильным. Они также могут быть финансово стабильными и не желать отказываться от своих этических принципов, или у них может быть другая работа, которая останется нетронутой после того, как они покинули консультативный совет по этике ИИ.

Как может быть очевидно, некоторые позже понимают, что консультативный совет по этике ИИ — это палка о двух концах. Такая группа может передать огромную ценность и важное понимание. При этом вы играете с огнем. Может случиться так, что участник или участники решат, что они больше не верят, что фирма выполняет заслуживающую доверия работу по этичному ИИ. В новостях сообщалось о том, что иногда весь консультативный совет по этике ИИ уходил вместе, все сразу, или о том, что некоторые члены объявляли об уходе с некоторым перевесом.

Будьте готовы к добру и проблемам, которые могут возникнуть с консультативными советами по этике ИИ.

Конечно, бывают случаи, когда компании на самом деле не делают правильных вещей, когда речь идет об этике ИИ.

Поэтому мы надеемся и ожидаем, что консультативный совет по этике ИИ в этой фирме сделает все возможное, чтобы сообщить об этом, предположительно, сначала внутри фирмы. Если фирма продолжит идти по предполагаемому дурному пути, ее члены, безусловно, покажутся этически обязанными (возможно, и юридическими) предпринимать другие действия, которые они считают уместными (члены должны консультироваться со своим личным адвокатом для получения любой такой юридической консультации). Возможно, это единственный способ заставить компанию изменить свое поведение. Решительные действия члена или группы членов могут показаться последним средством, которое, как надеются участники, переломит ситуацию. Кроме того, эти участники, вероятно, не хотят быть частью чего-то, что, по их убеждению, отклонилось от этики ИИ.

Полезный способ рассмотреть эти возможности заключается в следующем:

• Фирма сбивается с пути, участник решает выйти из-за предполагаемого несоблюдения фирмой требований
• Фирма не сбивается с пути, но участник считает, что фирма сбилась с пути, и поэтому уходит из-за кажущегося несоблюдения

Внешний мир не обязательно будет знать, есть ли у покидающего членство добросовестное основание для беспокойства о фирме или это может быть какое-то идиосинкразическое или неправильное впечатление со стороны члена. Существует также довольно очевидная возможность того, что участник покинет группу из-за других обязательств или по личным причинам, которые не имеют ничего общего с тем, чем занимается фирма.

Суть в том, что для любой фирмы, создающей консультативный совет по этике ИИ, важно тщательно продумать весь диапазон фаз жизненного цикла, связанных с группой.

Со всеми этими разговорами о проблематичных аспектах я не хочу создавать впечатление, что не хочу иметь консультативный совет по этике ИИ. Это не то сообщение. Суть в том, чтобы создать консультативный совет по этике ИИ и убедиться, что вы делаете это правильно. Сделайте это своей заветной мантрой.

Вот некоторые из часто упоминаемых преимуществ консультативного совета по этике ИИ:

• Имейте под рукой средства, чтобы отталкивать проекты и идеи ИИ от полунезависимой частной группы.
• Используйте опыт в области этики ИИ, полученный за пределами фирмы
• Стремитесь избежать хохота по этике ИИ и прямых катастроф со стороны фирмы.
• Усилить связи с общественностью для фирмы и ее систем искусственного интеллекта.
• Прорыв внутреннего группового мышления в отношении ИИ и этики ИИ
• Получите свежий взгляд на инновации в области искусственного интеллекта и их практичность
• Повысить статус и статус фирмы
• Служите безудержным голосом, когда твердые усилия ИИ не работают
• Другие контрактные услуги

Вот распространенные способы, которыми фирмы нарушают работу своего консультативного совета по этике ИИ (не делайте этого!):

• Дайте расплывчатое и запутанное указание относительно миссии и цели
• Только скупо консультируются и часто несвоевременно после того, как лошадь уже вышла из сарая
• Хранится в темноте
• ФРС тщательно отфильтровала информацию, которая дает вводящее в заблуждение изображение вещей
• Используется исключительно как витрина и ни для какой другой цели создания ценности
• Не разрешается делать какое-либо подобие исследования внутренних дел
• Лишенные достаточных ресурсов для достаточного выполнения своей работы
• Отсутствие явного лидерства в группе
• Отсутствие внимания со стороны руководства фирмы к группе
• Ожидается слепое одобрение всего, что представлено
• Случайно выбранные члены
• Относится с небольшим уважением и, казалось бы, простой галочкой
• Другие контрактные услуги

Другая часто сбивающая с толку проблема связана с характером и поведением различных членов, которые работают в консультативном совете по этике ИИ, что иногда может быть проблематичным в следующих отношениях:

• Некоторые участники могут быть только концептуализаторами этики ИИ, а не разбираться в этике ИИ как практике и, как таковые, предоставлять минималистичные бизнес-подкованные идеи.
• Некоторые могут быть напыщенными, когда дело доходит до этики ИИ, и с ними чрезвычайно трудно иметь дело на протяжении всего их участия.
• Распри могут стать серьезным отвлекающим фактором, часто столкновением большого эго и привести к тому, что группа превратится в дисфункциональную.
• Некоторые из них могут быть слишком заняты и перегружены работой, поэтому они не участвуют в консультативной работе по этике ИИ.
• У некоторых есть глубоко укоренившееся непоколебимое мнение об этике ИИ, которое является негибким и нереалистичным.
• Некоторые склонны к эмоциональным, а не аналитическим и системным соображениям, лежащим в основе этики ИИ.
• Может быть похоже на известную поговорку о стаде кошек, которые не могут сосредоточиться и бесцельно блуждают.
• Другие контрактные услуги

Некоторые фирмы, кажется, просто создают консультативный совет по этике искусственного интеллекта волей-неволей. Мы не думаем об избранных членах. Никто не думает о том, что каждый из них приносит на стол. Никто не думает о частоте встреч и о том, как их проводить. В общем, никто не думает о создании консультативного совета по этике ИИ. И т.п.

В каком-то смысле из-за отсутствия находчивости вы, скорее всего, приводите в движение крушение поезда.

Не делай этого.

Возможно, этот список правильные вещи делать теперь кажется вам очевидным, основываясь на рассуждениях до сих пор, но вы, возможно, были бы шокированы, узнав, что немногие фирмы, кажется, понимают это правильно:

• Четко определите миссию и цель консультативного совета по этике ИИ.
• Убедитесь, что группе будет уделено должное внимание на уровне высшего руководства.
• Определите тип участников, который лучше всего подходит для группы
• Подойдите к желаемым участникам и убедитесь, что они подходят для группы
• Договоритесь с выбранными членами
• Установите логистику встреч, частоту и т. д.
• Определить обязанности членов, объем и глубину
• Предвидеть внутренние ресурсы, необходимые для помощи группе
• Выделите достаточно ресурсов для самой группы
• Держите консультативный совет по этике ИИ активным и зацикленным
• Запланируйте эскалацию на случай возникновения проблем
• Укажите, как будут обрабатываться чрезвычайные или кризисные ситуации.
• Поворачивайте участников наружу или внутрь по мере необходимости, чтобы микс оставался подходящим
• Заранее предусмотрите пути выхода для участников
• Другие контрактные услуги

Заключение

Несколько лет назад многие автопроизводители и технологические фирмы, занимающиеся беспилотным вождением, которые приступают к разработке беспилотных автомобилей на основе ИИ, внезапно были вынуждены принять консультативные советы по этике ИИ. До этого момента мало кто знал о наличии такой группы. Предполагалось, что внутреннего внимания к этичному ИИ будет достаточно.

Я подробно обсуждал в своей колонке различные досадные упущения или упущения в области этики ИИ, которые иногда приводили к проблемам с беспилотными автомобилями, таким как мелкие автомобильные аварии, явные автомобильные столкновения и другие бедствия. ссылка здесь. Важность безопасности ИИ и подобных средств защиты должна быть главным соображением для тех, кто создает автономные транспортные средства. Консультативные советы по этике ИИ в этой нише помогают сохранить безопасность ИИ в качестве жизненно важного приоритета.

Мой любимый способ выразить подобное откровение об этике ИИ — уподобить это землетрясению.

Калифорнийцы время от времени подвержены землетрясениям, иногда весьма сильным. Вы можете подумать, что подготовка к землетрясению будет постоянным соображением. Не так. Цикл работает так. Случается серьезное землетрясение, и людям напоминают о том, что они готовы к землетрясению. На короткое время есть ажиотаж, чтобы предпринять такие приготовления. Через некоторое время внимание к этому ослабевает. Приготовления отходят на второй план или иным образом игнорируются. Бум, грянет очередное землетрясение, и все те, кто должен был быть готов, застигнуты врасплох, как будто они и не подозревали, что когда-нибудь может произойти землетрясение.

Фирмы часто делают то же самое с консультативными советами по этике ИИ.

Они не начинают его, а затем внезапно, после какой-то катастрофы с их ИИ, они реактивно побуждаются к действию. Они неубедительно создают консультативный совет по этике ИИ. У него много проблем, о которых я упоминал ранее. Консультативный совет по этике ИИ распадается. К сожалению, новое бедствие с ИИ в фирме пробуждает потребность в консультативном совете по этике ИИ.

Вымойте, ополосните и повторите.

Компании определенно обнаруживают, что иногда у них отношения любви и ненависти с их усилиями консультативного совета по этике ИИ. Когда дело доходит до того, чтобы делать что-то правильно, в воздухе витает любовь. Когда дело доходит до того, чтобы делать что-то не так, яростно возникает ненависть. Убедитесь, что вы делаете все необходимое, чтобы сохранить любовь и предотвратить ненависть, когда дело доходит до создания и поддержания консультативного совета по этике ИИ.

Давайте превратим это в отношения любви-любви.