Федеральная торговая комиссия стремится обрушить с молотка эти громадные необоснованные заявления о генеративном ИИ ChatGPT и другом ИИ, предупреждает об этике ИИ и законе об ИИ

Опустите молот.

Это то, что Федеральная торговая комиссия (FTC) заявляет, что собирается сделать в отношении продолжающегося и ухудшающегося использования чрезмерно необоснованных заявлений об искусственном интеллекте (ИИ).

В официальном сообщении в блоге от 27 февраля 2023 г., озаглавленном «Держите под контролем свои заявления об ИИ», написанном адвокатом Майклом Атлесоном из отдела рекламной практики Федеральной торговой комиссии США, в некоторых весьма громких словах отмечалось, что ИИ — это не только форма вычислительных высоких технологий, но и это стало маркетинговым джек-потом, временами выходящим за рамки разумного:

  • «А что такое «искусственный интеллект»? Это неоднозначный термин со многими возможными определениями. Это часто относится к множеству технологических инструментов и методов, которые используют вычисления для выполнения таких задач, как предсказания, решения или рекомендации. Но одно можно сказать наверняка: это маркетинговый термин. Сейчас жарко. И мы в FTC знаем о горячих маркетинговых терминах то, что некоторые рекламодатели не смогут удержаться от чрезмерного использования и злоупотребления ими» (сообщение на веб-сайте FTC).

ИИ предлагает большие возможности для маркетологов, которые хотят по-настоящему сойти с ума и раздуть шумиху из-за того, что какой-либо базовый продукт или услуга, дополненная или управляемая ИИ, продается потребителям.

Видите ли, искушение выйти за рамки преувеличения должно быть огромным, особенно когда маркетолог видит, что другие фирмы делают то же самое. Конкурентоспособные соки требуют, чтобы вы сделали классическое чрезмерное, когда ваши конкуренты требуют, чтобы их ИИ ходил по воде. Возможно, ваш ИИ якобы лучше, потому что он летает по воздуху, ускользает от гравитации и при этом умудряется жевать жвачку.

В сумасбродном использовании провозглашенных ИИ умений, которые граничат или прямо граничат с ложью и обманом, вмешивается длинная рука закона, а именно Федеральная торговая комиссия и другие федеральные, государственные и местные агентства (см. регулирующие усилия тоже, на ссылка здесь).

Вы потенциально знаете, что Федеральная торговая комиссия (FTC) как федеральное агентство включает в себя Бюро по защите прав потребителей, уполномоченное защищать потребителей от предполагаемых мошеннических действий или практик в коммерческих условиях. Это часто возникает, когда компании лгут или вводят потребителей в заблуждение относительно продуктов или услуг. Федеральная торговая комиссия может использовать свое могучее правительственное мастерство, чтобы расправиться с такими фирмами-нарушителями.

Сообщение в блоге FTC, которое я цитировал, также содержало несколько пикантное заявление:

  • «Маркетологи должны знать, что — в целях обеспечения соблюдения Федеральной торговой комиссии — ложные или необоснованные заявления об эффективности продукта — это наш хлеб с маслом».

В некотором смысле те, кто настаивает на чрезмерном преувеличении своих утверждений об ИИ, стремятся тост. Федеральная торговая комиссия может попытаться заставить заявителя воздержаться от возражений и, возможно, понести суровые наказания за допущенные нарушения.

Вот некоторые из потенциальных действий, которые может предпринять FTC:

  • «Когда Федеральная торговая комиссия обнаруживает дело о мошенничестве, совершенном в отношении потребителей, агентство подает иск в федеральный окружной суд для немедленного и бессрочного распоряжения о прекращении мошенничества; не допустить мошенничества мошенников в будущем; заморозить свои активы; и получить компенсацию пострадавшим. Когда потребители видят или слышат рекламу, будь то в Интернете, на радио, телевидении или где-либо еще, федеральный закон гласит, что реклама должна быть правдивой, не вводящей в заблуждение и, при необходимости, подкрепленной научными данными. Федеральная торговая комиссия обеспечивает соблюдение этих законов о достоверности рекламы и применяет одни и те же стандарты независимо от того, где появляется реклама — в газетах и ​​журналах, в Интернете, по почте, на рекламных щитах или в автобусах» (веб-сайт FTC, см. раздел, посвященный Правда в рекламе)

Был ряд относительно недавних громких примеров того, как FTC расследовала инциденты с ложной рекламой.

Например, L'Oreal попала в беду из-за рекламы, что их средства по уходу за кожей Paris Youth Code были «клинически доказаны», чтобы заставить людей выглядеть «заметно моложе» и «усилить гены». научные доказательства, и FTC приняла соответствующие меры. Другим ярким примером является реклама Volkswagen о том, что в их дизельных автомобилях используется «чистое дизельное топливо» и, следовательно, предположительно выбрасывается довольно мало загрязняющих веществ. В этом случае тесты на выбросы, которые проводил Volkswagen, были проведены обманным путем, чтобы скрыть их истинные выбросы. Правоприменительные действия FTC привели к соглашению о компенсации пострадавшим потребителям.

Представление о том, что ИИ также должен подвергаться аналогичной проверке в связи с необоснованными или, возможно, полностью мошенническими заявлениями, безусловно, является своевременной и достойной причиной.

Сейчас существует ярко выраженная мания по поводу ИИ, вызванная появлением Генеративный ИИ. Этот особый тип ИИ считается генеративный потому что он способен генерировать результаты, которые кажутся почти изобретенными человеческой рукой, хотя ИИ делает это в вычислительном отношении. Приложение для искусственного интеллекта, известное как ChatGPT от компании OpenAI, привлекло огромное внимание и подняло манию искусственного интеллекта в стратосферу. Через мгновение я объясню, что такое генеративный ИИ, и опишу природу приложения ИИ ChatGPT.

Конечно, ИИ в целом существует уже некоторое время. Был ряд взлетов и падений американских горок, связанных с обещаниями того, чего может достичь ИИ. Можно сказать, что мы находимся на новой вершине. Некоторые считают, что это только отправная точка, и мы идем дальше прямо вверх. Другие горячо не соглашаются и утверждают, что гамбит генеративного ИИ упрется в стену, а именно, он скоро зайдет в тупик, и аттракцион американских горок пойдет вниз.

Время покажет.

FTC ранее призывала к тому, чтобы требования, касающиеся ИИ, были должным образом сбалансированы и разумны. В официальном сообщении в блоге FTC от 19 апреля 2021 года, озаглавленном «Стремление к истине, справедливости и справедливости в использовании ИИ вашей компанией», Элиза Джиллсон отметила несколько способов, которыми правоприменительные действия возникают на законных основаниях, и особо подчеркнула озабоченность по поводу того, что ИИ вызывает неправомерные предубеждения. :

  • «FTC имеет многолетний опыт обеспечения соблюдения трех законов, важных для разработчиков и пользователей ИИ».
  • Раздел 5 Закона о Федеральной торговой комиссии. Закон FTC запрещает недобросовестные или вводящие в заблуждение действия. Это будет включать продажу или использование, например, расово предвзятых алгоритмов».
  • Закон о честной кредитной отчетности. FCRA вступает в игру при определенных обстоятельствах, когда алгоритм используется для отказа людям в трудоустройстве, жилье, кредите, страховке или других льготах».
  • Закон о равных кредитах. ECOA делает незаконным использование компанией предвзятого алгоритма, который приводит к кредитной дискриминации на основе расы, цвета кожи, религии, национального происхождения, пола, семейного положения, возраста или того, что человек получает государственную помощь».

В одном выдающемся замечании в вышеупомянутом сообщении в блоге упоминается это прямое утверждение:

  • «Согласно Закону о Федеральной торговой комиссии, ваши заявления бизнес-клиентам и потребителям должны быть правдивыми, не вводящими в заблуждение и подкрепленными доказательствами» (там же).

Юридический язык раздела 5 Закона о Федеральной торговой комиссии перекликается с этим мнением:

  • «Недобросовестные методы конкуренции в торговле или влияющие на нее, а также недобросовестные или вводящие в заблуждение действия или методы в торговле или влияющие на нее настоящим объявляются незаконными» (источник: раздел 5 Закона о Федеральной торговой комиссии).

Кажется облегчением узнать, что Федеральная торговая комиссия и другие правительственные учреждения держат ухо востро и держат молот над головами любой организации, которая может осмелиться распространять несправедливые или вводящие в заблуждение сообщения об ИИ.

Означает ли все это, что вы можете быть спокойны и предполагать, что эти создатели и сторонники ИИ будут осторожны в своих маркетинговых заявлениях об ИИ и будут помнить о том, чтобы не делать непомерных или возмутительных наставлений?

Черт возьми нет.

Вы можете ожидать, что маркетологи останутся маркетологами. Они будут стремиться делать громкие и необоснованные заявления об ИИ до конца времен. Некоторые будут делать это, слепо не осознавая, что такие заявления могут навлечь на себя и на их компанию неприятности. Другие знают, что претензии могут вызвать проблемы, но считают, что шансы быть пойманными невелики. Есть и те, кто делает ставку на то, что они могут обойти грань вопроса и на законных основаниях заявить, что они не скатились в мутные воды лжи или обмана.

Пусть в этом разберутся юристы, говорят некоторые маркетологи ИИ. А пока полный вперед. Если когда-нибудь FTC или какое-либо другое правительственное агентство постучит в дверь, пусть будет так. Деньги нужно делать сейчас. Возможно, положить часть бывших денег в своего рода трастовый фонд для решения последующих юридических вопросов. На данный момент денежный поезд идет полным ходом, и вы были бы ошеломляюще глупы, если бы упустили легкую подливку.

Существует множество доводов в пользу рекламы ИИ до последней степени:

  • Все делают диковинные заявления об искусственном интеллекте, так что мы могли бы сделать то же самое
  • Никто не может точно сказать, где проходит разделительная линия относительно правды об ИИ.
  • Мы можем формулировать наши заявления о нашем ИИ, чтобы оставаться на дюйм или два в пределах зоны безопасности.
  • Правительство не поймет, что мы делаем, мы маленькая рыбка в большом море
  • Колеса правосудия настолько медленны, что не поспевают за скоростью развития ИИ
  • Если потребители поверят нашим заявлениям об искусственном интеллекте, это будет на них, а не на нас
  • Разработчики ИИ в нашей фирме сказали, что мы можем сказать то же, что и я, в наших маркетинговых заявлениях.
  • Не позволяйте юридическому отделу совать свой нос в эти вещи с ИИ, о которых мы трубим, они просто положат конец нашим колоссальным маркетинговым кампаниям в области ИИ и станут вошедшей в поговорку палкой в ​​​​грязи.
  • Другое

Являются ли эти рационализации рецептом успеха или рецептом катастрофы?

Для создателей ИИ, которые не обращают внимания на эти серьезные и отрезвляющие юридические сомнения, я бы сказал, что они движутся к катастрофе.

Консультируясь со многими ИИ-компаниями на ежедневной и еженедельной основе, я предупреждаю их, что им следует искать убедительную юридическую консультацию, поскольку деньги, которые они зарабатывают сегодня, потенциально могут быть возвращены, и тем более, когда они столкнутся с гражданскими исками потребителей. в сочетании с государственными правоприменительными действиями. В зависимости от того, как далеко зайдут дела, могут быть и уголовные последствия.

В сегодняшней колонке я расскажу о растущих опасениях, что маркетинговая шумиха, лежащая в основе ИИ, все чаще переходит черту, превращаясь в усугубляющиеся сомнительные и вводящие в заблуждение методы. Я рассмотрю основания для этих сомнений. Кроме того, это иногда будет включать ссылку на тех, кто использует и использует приложение ИИ ChatGPT, поскольку это 600-фунтовая горилла генеративного ИИ, хотя имейте в виду, что существует множество других приложений генеративного ИИ, и они, как правило, основаны на одни и те же общие принципы.

Между тем, вам может быть интересно, что же такое на самом деле генеративный ИИ.

Давайте сначала рассмотрим основы генеративного ИИ, а затем мы сможем внимательно рассмотреть насущные вопросы.

Ко всему этому относится множество соображений по этике и закону об ИИ.

Имейте в виду, что предпринимаются постоянные усилия по внедрению этических принципов ИИ в разработку и внедрение приложений ИИ. Растущий контингент заинтересованных и бывших специалистов по этике ИИ пытается обеспечить, чтобы усилия по разработке и внедрению ИИ учитывали точку зрения AI для хорошего и предотвращение AI для плохих. Точно так же предлагаются новые законы об ИИ, которые распространяются как потенциальные решения, чтобы удержать усилия ИИ от нарушения прав человека и тому подобного. Мой постоянный и обширный обзор этики ИИ и закона об ИИ см. ссылка здесь и ссылка здесь, Просто назвать несколько.

Разработка и обнародование этических предписаний ИИ преследуются, чтобы, как мы надеемся, предотвратить попадание общества в множество ловушек, связанных с ИИ. Мое освещение принципов этики ИИ ООН, разработанных и поддерживаемых почти 200 странами благодаря усилиям ЮНЕСКО, см. ссылка здесь. В том же духе изучаются новые законы ИИ, чтобы попытаться удержать ИИ в равновесии. Один из последних дублей состоит из набора предложенных ИИ Билль о правах которые Белый дом США недавно выпустил для определения прав человека в эпоху ИИ, см. ссылка здесь. Требуется целая деревня, чтобы удерживать ИИ и разработчиков ИИ на правильном пути и сдерживать целенаправленные или случайные закулисные усилия, которые могут подорвать общество.

Я включу в это обсуждение соображения, связанные с этикой ИИ и законом об ИИ.

Основы генеративного ИИ

Наиболее широко известный пример генеративного ИИ представлен приложением ИИ под названием ChatGPT. ChatGPT появился в общественном сознании еще в ноябре, когда он был выпущен исследовательской фирмой OpenAI в области искусственного интеллекта. С тех пор, как ChatGPT привлек огромные заголовки и удивительно превзошел отведенные ему пятнадцать минут славы.

Я предполагаю, что вы, вероятно, слышали о ChatGPT или, может быть, даже знаете кого-то, кто его использовал.

ChatGPT считается генеративным ИИ-приложением, потому что оно принимает в качестве входных данных некоторый текст от пользователя, а затем генерирует или производит вывод, который состоит из эссе. ИИ — это генератор преобразования текста в текст, хотя я описываю ИИ как генератор преобразования текста в эссе, поскольку это более ясно объясняет, для чего он обычно используется. Вы можете использовать генеративный ИИ для составления длинных композиций или заставить его предлагать довольно короткие содержательные комментарии. Это все по вашему желанию.

Все, что вам нужно сделать, это ввести приглашение, и приложение AI создаст для вас эссе, которое попытается ответить на ваше приглашение. Сочиненный текст будет казаться, будто сочинение написано рукой и умом человека. Если вы введете запрос «Расскажите мне об Аврааме Линкольне», генеративный ИИ предоставит вам эссе о Линкольне. Существуют и другие режимы генеративного ИИ, такие как преобразование текста в искусство и преобразование текста в видео. Здесь я сосредоточусь на варианте преобразования текста в текст.

Ваша первая мысль может заключаться в том, что эта генеративная способность не кажется такой уж большой проблемой с точки зрения написания эссе. Вы можете легко выполнить онлайн-поиск в Интернете и без труда найти тонны и тонны эссе о президенте Линкольне. Преимущество генеративного ИИ в том, что сгенерированное эссе относительно уникально и представляет собой оригинальную композицию, а не подражание. Если бы вы попытались найти эссе, созданное искусственным интеллектом, где-нибудь в Интернете, вы бы вряд ли его обнаружили.

Генеративный ИИ предварительно обучен и использует сложную математическую и вычислительную формулировку, которая была создана путем изучения шаблонов в написанных словах и историях в Интернете. В результате изучения тысяч и миллионов письменных отрывков ИИ может извергать новые эссе и рассказы, представляющие собой мешанину из того, что было найдено. Благодаря добавлению различных вероятностных функций полученный текст в значительной степени уникален по сравнению с тем, что было использовано в обучающем наборе.

Существует множество опасений по поводу генеративного ИИ.

Одним из существенных недостатков является то, что эссе, созданные генеративным ИИ-приложением, могут содержать различную ложь, в том числе явно ложные факты, факты, которые вводят в заблуждение, и очевидные факты, которые полностью сфабрикованы. Эти сфабрикованные аспекты часто называют формой Галлюцинации ИИ, крылатая фраза, которую я не одобряю, но, к сожалению, кажется, в любом случае набирает популярность (моё подробное объяснение того, почему это паршивая и неподходящая терминология, см. ссылка здесь).

Еще одна проблема заключается в том, что люди могут легко присвоить себе авторство генеративного эссе, созданного ИИ, несмотря на то, что они не написали эссе сами. Возможно, вы слышали, что учителя и школы очень обеспокоены появлением приложений для генеративного ИИ. Студенты потенциально могут использовать генеративный ИИ для написания назначенных им эссе. Если студент утверждает, что эссе было написано его собственной рукой, у учителя мало шансов определить, было ли оно подделано генеративным ИИ. Мой анализ этого аспекта смешения учеников и учителей см. ссылка здесь и ссылка здесь.

В соцсетях появилось несколько абсурдных громких заявлений о Генеративный ИИ утверждая, что эта последняя версия ИИ на самом деле разумный ИИ (нет, они ошибаются!). Специалисты по этике ИИ и закону об ИИ особенно обеспокоены этой растущей тенденцией к растянутым претензиям. Вы можете вежливо сказать, что некоторые люди преувеличивают возможности современного ИИ. Они предполагают, что у ИИ есть возможности, которых мы еще не смогли достичь. Это неудачно. Что еще хуже, они могут позволить себе и другим попасть в ужасные ситуации из-за предположения, что ИИ будет разумным или похожим на человека и сможет действовать.

Не очеловечивайте ИИ.

Это приведет к тому, что вы попадете в липкую и суровую ловушку уверенности, ожидая, что ИИ будет делать то, что он не в состоянии выполнить. При этом последние разработки в области генеративного ИИ относительно впечатляют своими возможностями. Имейте в виду, однако, что существуют существенные ограничения, о которых вы должны постоянно помнить при использовании любого приложения для генеративного ИИ.

Последнее предупреждение на данный момент.

Все, что вы видите или читаете в генеративном ответе ИИ, кажется быть переданы как чисто фактические (даты, места, люди и т. д.), обязательно сохраняйте скептицизм и будьте готовы перепроверить то, что вы видите.

Да, даты можно придумать, места можно придумать, а элементы, которые мы обычно считаем безупречными, все подвержен подозрениям. Не верьте тому, что вы читаете, и скептически смотрите на любые эссе или результаты генеративного ИИ. Если генеративное приложение ИИ скажет вам, что Авраам Линкольн летал по стране на своем частном самолете, вы, несомненно, поймете, что это чушь. К сожалению, некоторые люди могут не осознавать, что в его дни реактивных самолетов не было, или они могут знать, но не замечать, что в эссе делается это наглое и возмутительно ложное утверждение.

Сильная доза здорового скептицизма и стойкое недоверие станут вашим лучшим преимуществом при использовании генеративного ИИ. Кроме того, будьте осторожны с возможным вторжением в частную жизнь и потерей конфиденциальности данных, см. мое обсуждение на ссылка здесь.

Мы готовы перейти к следующему этапу этого разъяснения.

ИИ как величайшая история из когда-либо рассказанных

Давайте теперь углубимся в искажения, которые говорят об ИИ.

Я сосредоточусь на генеративном ИИ. При этом практически любой тип ИИ вызывает одинаковые опасения по поводу недобросовестной или вводящей в заблуждение рекламы. Помните об этом более широком взгляде. Я говорю это тем, кто занимается созданием ИИ любого рода, гарантируя, что они все осведомлены об этих вопросах, а не ограничиваются только теми, кто создает генеративные приложения ИИ.

То же самое относится ко всем потребителям. Независимо от того, какой тип ИИ вы рассматриваете для покупки или использования, опасайтесь ложных или вводящих в заблуждение заявлений об ИИ.

Вот основные темы, которые я хотел бы обсудить с вами сегодня:

  • 1) Кто есть что из потенциальной лжи ИИ
  • 2) Попытки использовать оговорки об освобождении от ответственности ИИ
  • 3) Федеральная торговая комиссия США (FTC) предупреждает о рекламе с использованием ИИ
  • 4) FTC также предупреждает о предубеждениях ИИ
  • 5) Действия, которые необходимо предпринять в отношении ваших рекламных уловок ИИ

Я раскрою каждую из этих важных тем и предложу проницательные соображения, над которыми нам всем следует внимательно подумать. Каждая из этих тем — неотъемлемая часть большой головоломки. Вы не можете смотреть только на одну часть. Вы также не можете смотреть на любую часть в отрыве от других частей.

Это сложная мозаика, и вся головоломка должна быть тщательно продумана.

Кто есть что из потенциальной лжи ИИ

Необходимо сделать важное уточнение в отношении различных действующих лиц или заинтересованных сторон, вовлеченных в эти вопросы.

Есть производители ИИ, которые разрабатывают ядро ​​генеративного ИИ-приложения, а есть и другие, которые надстраивают генеративный ИИ для создания приложения, зависящего от лежащего в основе генеративного ИИ. Я рассказал, как использование API (интерфейсов прикладного программирования) позволяет вам написать приложение, использующее генеративный ИИ. ссылка здесь. Ярким примером является то, что Microsoft добавила возможности генеративного ИИ из OpenAI в свою поисковую систему Bing, о чем я подробно рассказывал в ссылка здесь.

Потенциальными виновниками вводящих в заблуждение или ложных утверждений об ИИ могут быть:

  • Исследователи искусственного интеллекта
  • Разработчики ИИ
  • AI-маркетологи
  • Производители ИИ, разрабатывающие основной ИИ, например генеративный ИИ.
  • Фирмы, которые используют генеративный ИИ в своих предложениях программного обеспечения
  • Фирмы, которые полагаются на использование генеративного ИИ в своих продуктах и ​​услугах.
  • Фирмы, которые полагаются на фирмы, использующие генеративный ИИ в своих продуктах или услугах.
  • И т.д.

Вы можете рассматривать это как цепочку поставок. Любой, кто участвует в ИИ, когда он продвигается по пути или через перчатку ИИ, который разрабатывается и внедряется, может легко предоставить вводящие в заблуждение или мошеннические заявления об ИИ.

Те, кто создал генеративный ИИ, могут быть прямолинейными стрелками, и оказывается, что те другие, которые внедряют генеративный ИИ в свои продукты или услуги, становятся дьявольскими и делают необоснованные заявления. Это одна из возможностей.

Другая возможность состоит в том, что создатели ИИ делают ложные заявления. Другие, которые затем включают генеративный ИИ в свои товары, скорее всего, повторят эти заявления. В какой-то момент может возникнуть юридическая трясина. Сначала может возникнуть юридический скандал, направленный против фирмы, которая повторила претензии, из которых они, в свою очередь, по-видимому, укажут юридическими пальцами на производителя ИИ, который начал лавину претензий. Домино начинает падать.

Дело в том, что фирмы, считающие, что они могут полагаться на ложные утверждения других, обречены на горькое осознание того, что они не обязательно останутся безнаказанными из-за такой уверенности. Они тоже, несомненно, будут держаться за ноги в огне.

Когда дело доходит до драки, все увязают в грязной и уродливой судебной тяжбе.

Попытки использовать оговорки об освобождении от ответственности ИИ

Ранее я упоминал, что Раздел 5 Закона о Федеральной торговой комиссии содержит юридические формулировки о незаконной рекламной практике. Существуют различные юридические лазейки, которые любой проницательный адвокат потенциально использовал бы в интересах своего клиента, по-видимому, справедливо, если бы клиент на самом деле стремился опровергнуть или отклонить то, что он считал ложным обвинением.

Рассмотрим, например, этот пункт Раздела 5:

  • «Комиссия не имеет полномочий в соответствии с настоящим разделом или разделом 57a настоящего раздела объявлять незаконными действие или практику на том основании, что такое действие или практика являются несправедливыми, за исключением случаев, когда действие или практика причиняют или могут причинить существенный ущерб потребителям, который которых сами потребители не могут разумно избежать и которые не перевешиваются компенсационными выгодами для потребителей или конкуренции. При определении того, является ли действие или практика несправедливыми, Комиссия может рассматривать установленную государственную политику в качестве доказательства, которое следует рассматривать вместе со всеми другими доказательствами. Такие соображения государственной политики не могут служить основным основанием для такого определения» (источник: Раздел 5 Закона о Федеральной торговой комиссии).

Некоторые интерпретировали это положение как предположение, что, если, скажем, фирма рекламировала свой ИИ и делала это каким-то иначе, казалось бы, вопиющим образом, возникает вопрос, могла ли реклама, возможно, избежать чистилища, если реклама: (а) не удалась причинять «существенный ущерб потребителям», (b) и в том числе «предотвращаемый самими потребителями» и (c) «не перевешиваемый компенсационными выгодами для потребителей или конкуренции».

Представьте себе этот вариант использования. Фирма решает заявить, что их генеративный ИИ может помочь вашему психическому здоровью. Оказывается, фирма разработала приложение, в котором используется генеративный ИИ популярного производителя ИИ. Получившееся в результате приложение рекламируется как способное «помочь вам достичь душевного спокойствия с помощью ИИ, который взаимодействует с вами и успокаивает вашу страдающую душу».

В качестве примечания я обсудил опасности использования генеративного ИИ в качестве консультанта по психическому здоровью, см. мой анализ на ссылка здесь и ссылка здесь.

Вернемся к сказке. Предположим, что потребитель подписывается на генеративный ИИ, который якобы может помочь его психическому здоровью. Потребитель говорит, что полагался на рекламу фирмы, которая предлагает приложение AI. Но после использования ИИ потребитель считает, что его умственное состояние не лучше, чем было до этого. По их мнению, приложение ИИ использует вводящую в заблуждение и ложную рекламу.

Я не буду углубляться в юридические тонкости и просто использую это как удобный фон (проконсультируйтесь со своим адвокатом для соответствующей юридической консультации). Во-первых, получил ли потребитель «существенный вред» в результате использования приложения ИИ? Один из аргументов состоит в том, что они не понесли «существенного» вреда, а лишь на первый взгляд не получили того, что, как они думали, получат (контраргумент состоит в том, что это представляет собой форму «существенного вреда» и т. д.). Во-вторых, мог ли потребитель разумно избежать такого ущерба, если бы такой ущерб все-таки возник? Предполагаемая защита заключается в том, что потребитель не был каким-то образом вынужден использовать приложение ИИ, а вместо этого добровольно решил это сделать, плюс он мог использовать приложение ИИ ненадлежащим образом и, следовательно, подорвать ожидаемые преимущества и т. д. В-третьих, возможно ли, что приложение ИИ имеют достаточную ценность или выгоду для потребителей, чтобы претензия, сделанная этим потребителем, перевешивала их совокупность?

Можно ожидать, что многие производители ИИ и те, кто расширяет свои продукты и услуги с помощью ИИ, будут утверждать, что независимо от того, что делает их ИИ или предложения, основанные на ИИ, они в конечном итоге приносят чистую пользу обществу, внедряя ИИ. . Логика заключается в том, что если продукт или услуга приносят пользу потребителям, добавление ИИ увеличивает или усиливает эти преимущества. Следовательно, даже если есть некоторые потенциальные недостатки, преимущества перевешивают недостатки (при условии, что недостатки не являются недобросовестными).

Я надеюсь, что вы понимаете, почему юристы так нужны тем, кто использует или использует ИИ.

FTC дает полезные слова предостережения в отношении рекламы с использованием ИИ

Возвращаясь к сообщению в блоге FTC от 27 февраля 2023 года, есть несколько весьма полезных предложений, сделанных по предотвращению загадки рекламных претензий ИИ за пределами допустимого диапазона.

Вот некоторые ключевые моменты или вопросы, поднятые в публикации в блоге:

  • «Вы преувеличиваете, на что способен ваш ИИ-продукт?»
  • «Вы обещаете, что ваш продукт с искусственным интеллектом сделает что-то лучше, чем продукт без искусственного интеллекта?»
  • «Знаете ли вы о рисках?»
  • «Действительно ли продукт вообще использует ИИ?»

Давайте кратко раскроем некоторые из этих острых вопросов.

Рассмотрим второй отмеченный пункт о продуктах ИИ по сравнению с рассматриваемым сопоставимым продуктом без ИИ. Заманчиво рекламировать, что ваш продукт, дополненный ИИ, намного лучше, чем любой другой аналогичный продукт, не связанный с ИИ. Вы можете весь день махать руками, просто расхваливая, что, поскольку ИИ включен в ваш продукт, он должен быть лучше. А именно, все сопоставимое, в котором не используется ИИ, очевидно и по своей сути хуже.

Это вызывает знаменитый легендарный слоган «Где говядина?»

Акцент делается на том, что если у вас нет чего-то осязаемого и существенного в поддержку претензии, вы находитесь на довольно шаткой и юридически опасной почве. Вы находитесь на зыбучих песках. Если потребуется, вам нужно будет продемонстрировать некоторую форму достаточного или адекватного доказательства того, что продукт с добавлением ИИ действительно лучше, чем продукт без ИИ, если вы делаете такое заявление. Это доказательство не должно быть запутанным делом постфактум. Было бы мудрее и безопаснее иметь это в руках заранее, прежде чем делать эти рекламные заявления.

Теоретически вы должны быть в состоянии предоставить некоторое разумное подобие доказательств в поддержку такого утверждения. Например, вы можете провести опрос или тестирование, в котором участвуют те, кто использует ваш продукт с добавлением ИИ, по сравнению с теми, кто использует сопоставимый продукт без ИИ. Это небольшая цена за возможность справиться с надвигающимся штрафом в будущем.

Еще одно предостережение: не подмигивайте, пытаясь поддержать свои рекламные заявления об ИИ. Скорее всего, если вы предложите исследование пользователей ИИ по сравнению с пользователями, не использующими ИИ, оно будет внимательно изучено другими привлеченными экспертами. Например, они могут отметить, что вы, возможно, ставите большой палец на чашу весов в зависимости от того, как вы выбрали те, которые были опрошены или протестированы. Или, может быть, вы хотите платить пользователям, использующим ИИ, чтобы они рекламировали, насколько хорош ваш продукт. Возможны всевозможные уловки. Сомневаюсь, что ты хочешь войти двойные неприятности когда эти хитрые изобретения будут обнаружены.

Переходя к одному из других маркированных пунктов, рассмотрим четвертый пункт, который спрашивает, используется ли ИИ вообще в определенных обстоятельствах.

В наши дни быстрый и грязный подход состоит в том, что оппортунисты предпочитают маркировать любое программное обеспечение как содержащее или состоящее из ИИ. Некоторые говорят, что с таким же успехом можно было бы присоединиться к побеждающей стороне на выборах ИИ. Им это в какой-то мере удается, потому что определение ИИ, как правило, расплывчато и широко варьируется, см. Закон Блумберга на неприятный юридический вопрос о том, что такое ИИ ссылка здесь.

Путаница в отношении того, что такое ИИ, потенциально может стать защитным прикрытием, но она не является непроницаемой.

Вот что упоминается в блоге FTC:

  • «В ходе расследования технологи FTC и другие могут заглянуть под капот и проанализировать другие материалы, чтобы увидеть, соответствует ли то, что внутри, вашим утверждениям».

В этом смысле, независимо от того, используете ли вы «ИИ» для строгого соблюдения принятого определения ИИ, вы, тем не менее, будете следовать заявлениям о том, что программное обеспечение, как было заявлено, может делать.

Я оценил этот добавленный комментарий, который последовал за вышеупомянутым пунктом в блоге FTC:

  • «Прежде чем пометить свой продукт как работающий на основе ИИ, обратите внимание, что простое использование инструмента ИИ в процессе разработки — это не то же самое, что продукт, в котором есть ИИ».

Это тонкий момент, который многие, возможно, иначе не рассмотрели бы. Вот что он предлагает. Иногда вы можете использовать часть программного обеспечения с искусственным интеллектом при разработке приложения. Фактическое целевое приложение не будет содержать ИИ. Вы просто используете ИИ, чтобы помочь вам создать приложение ИИ.

Например, вы можете использовать ChatGPT для создания программного кода. Создаваемый код не обязательно будет содержать какие-либо компоненты ИИ. Ваше приложение не имеет права утверждать, что оно содержит ИИ как таковой (если, конечно, вы не решите включить в него какие-либо методы или технологии ИИ). Вы могли бы сказать, что использовали ИИ для помощи в написании программы. Даже это нужно говорить осознанно и осторожно.

FTC также предупреждает о предвзятости ИИ

Блог FTC, который я упоминал здесь по теме предубеждений ИИ, содержит несколько полезных предупреждений, которые, как мне кажется, стоит иметь в виду (сейчас я перечислю их).

Когда дело доходит до генеративного ИИ, есть четыре основных опасения по поводу подводных камней сегодняшних возможностей:

  • ошибки
  • Ложь
  • Галлюцинации ИИ
  • Искажения

Давайте кратко рассмотрим проблемы, связанные с предвзятостью ИИ.

Вот мой обширный список способов смещения, которые необходимо полностью изучить для любых и всех реализаций генеративного ИИ (подробно обсуждается на ссылка здесь):

  • Предубеждения в исходных данных из Интернета, которые использовались для обучения данных генеративного ИИ.
  • Предубеждения в алгоритмах генеративного ИИ, используемых для сопоставления с образцом исходных данных.
  • Предубеждения в общем дизайне генеративного ИИ и его инфраструктуры
  • Неявные или явные предубеждения разработчиков ИИ в формировании генеративного ИИ
  • Неявные или явные предубеждения тестировщиков ИИ при тестировании генеративного ИИ
  • Предубеждения RLHF (обучение с подкреплением с помощью обратной связи от человека) либо неявно, либо явно из-за назначенных рецензентов-людей, дающих рекомендации по обучению генеративному ИИ.
  • Предвзятость облегчения использования ИИ для оперативного использования генеративного ИИ
  • Предубеждения в любых настройках или инструкциях по умолчанию, установленных для генеративного ИИ при его повседневном использовании.
  • Предубеждения, преднамеренно или непреднамеренно включенные в подсказки, введенные пользователем генеративного ИИ.
  • Предвзятость системного состояния по сравнению со случайным появлением как часть генерации случайных вероятностных результатов генеративным ИИ
  • Предубеждения, возникающие в результате корректировок «на лету» или в реальном времени, или обучения данных, происходящих во время активного использования генеративного ИИ.
  • Предубеждения, введенные или расширенные во время обслуживания ИИ или обслуживания генеративного приложения ИИ и его кодирования с сопоставлением с образцом
  • Другое

Как видите, существует множество способов, которыми неправомерные предубеждения могут проникнуть в разработку и внедрение ИИ. Это не одноразовая забота. Я сравниваю это с ситуацией «ударь крота». Вы должны усердно и постоянно пытаться обнаруживать и устранять или смягчать предубеждения ИИ в ваших приложениях ИИ.

Примите во внимание эти разумные замечания, сделанные в блоге FTC от 19 апреля 2021 г. (все эти пункты по-прежнему актуальны, независимо от того, вековой с точки зрения сроков развития ИИ):

  • «Начните с правильной основы»
  • «Остерегайтесь дискриминационных результатов»
  • «Примите прозрачность и независимость»
  • «Не преувеличивайте возможности вашего алгоритма или его способность давать честные и непредвзятые результаты»
  • «Говорите правду о том, как вы используете данные»
  • «Делай больше добра, чем вреда»
  • «Возьмите на себя ответственность — или будьте готовы к тому, что FTC сделает это за вас»

Один из моих любимых пунктов выше — четвертый из перечисленных, который относится к часто используемому утверждению или мифу о том, что из-за включения ИИ данное приложение должно быть беспристрастным.

Вот как это происходит.

Все мы знаем, что люди предвзяты. Каким-то образом мы попадаем в ментальную ловушку, что машины и ИИ способны быть беспристрастными. Таким образом, если мы находимся в ситуации, когда мы можем выбирать между использованием человека и ИИ при поиске какой-либо формы обслуживания, у нас может возникнуть соблазн использовать ИИ. Есть надежда, что ИИ не будет предвзятым.

Эта надежда или предположение может быть подкреплено, если создатель или разработчик ИИ заявит, что его ИИ бесспорно и бесспорно беспристрастен. Это утешительная вишенка на торте. Мы уже готовы пойти по этому первоцветному пути. Реклама подводит итог.

Проблема в том, что нет особой уверенности в беспристрастности ИИ. Создатель ИИ или полевой игрок ИИ может лгать о предвзятости ИИ. Если это кажется слишком гнусным, давайте учтем, что создатель ИИ или полевой игрок ИИ могут не знать, есть ли у их ИИ предубеждения, но они все равно решают сделать такое заявление. Им это кажется разумным и ожидаемым требованием.

Блог FTC указал на этот показательный пример: «Например, скажем, разработчик ИИ сообщает клиентам, что его продукт обеспечит «100% непредвзятые решения о найме», но алгоритм был построен с данными, в которых отсутствует расовое или гендерное разнообразие. Результатом может быть обман, дискриминация и правоприменительные действия Федеральной торговой комиссии» (там же).

Действия, которые необходимо предпринять в отношении ваших рекламных уловок с использованием ИИ

Компании иногда попадают в потенциально горячую воду, потому что одна рука не знает, что делает другая.

Во многих компаниях, как только приложение ИИ будет готово к выпуску, маркетинговая команда получит скудную информацию о том, что делает приложение ИИ. Классическая линия заключается в том, что детали искусственного интеллекта просто выше их головы, и они недостаточно технически подкованы, чтобы понять это. В этом пробеле появляется потенциал для диковинной рекламы ИИ. Маркетологи делают все, что могут, основываясь на том, чем им делятся.

Я не говорю, что маркетинговая сторона была обманута. Только то, что часто существует разрыв между внутренней стороной разработки ИИ и маркетинговой стороной. Конечно, бывают случаи, когда маркетинговая команда оказывается обманутой. Разработчики ИИ могут хвастаться провозглашенными сверхчеловеческими способностями ИИ, в отношении которых у маркетологов, по-видимому, нет разумного способа опровергнуть или выразить осторожность. Мы можем рассмотреть и другие пагубные перестановки. Возможно, разработчики ИИ заранее знали об ограничениях ИИ, но маркетинговая сторона решила добавить немного сока, преувеличив возможности ИИ. Вы знаете, как это бывает, эти специалисты по искусственному интеллекту просто не понимают, что нужно, чтобы что-то продать.

Кто-то должен быть арбитром и следить за тем, чтобы у двух несколько несопоставимых отделов было надлежащее согласие умов. Задуманная реклама должна быть основана на принципах, которые разработчики ИИ должны предоставить доказательства или доказательства. Кроме того, если разработчики ИИ прониклись мечтами и уже пьют AI Kool-Aid, это необходимо выявить, чтобы маркетинговая команда не была ослеплена чрезмерно оптимистичными и беспочвенными представлениями.

В некоторых фирмах роль Главный специалист по искусственному интеллекту была предложена как возможная связь, чтобы убедиться, что исполнительная команда на самом высоком уровне рассматривает вопрос о том, как ИИ может использоваться внутри фирмы и как часть продуктов и услуг компании. Эта роль также, как мы надеемся, послужит объединению ИИ-стороны дома и маркетинговой стороны дома, общаясь с главой отдела маркетинга или директором по маркетингу (CMO). См. мое обсуждение этой новой роли на ссылка здесь.

Еще одна очень важная роль должна быть включена в эти вопросы.

Юридическая сторона дома не менее важна. Главный юрисконсульт (CLO), главный юрисконсульт или сторонний юрисконсульт должен участвовать в аспектах ИИ на всех этапах разработки, развертывания и маркетинга ИИ. К сожалению, юристы часто последними узнают о таких усилиях ИИ. Фирма, получившая юридическое уведомление в результате судебного процесса или расследования федерального агентства, внезапно поймет, что, возможно, юридические лица должны быть вовлечены в их развертывание ИИ.

Более разумный подход состоит в том, чтобы привлечь команду юристов до того, как лошадь выйдет из конюшни. Задолго до того, как лошадь выйдет из сарая. Гораздо раньше. Мое освещение искусственного интеллекта и юридической практики см. ссылка здесь и ссылка здесь, Например.

Недавняя онлайн-публикация под названием «Риски перепродажи вашего ИИ: за наблюдением FTC» юридической фирмы Debevoise & Plimpton (международно признанная международная юридическая фирма со штаб-квартирой в Нью-Йорке), написанная Ави Гессером, Эрезом Либерманном, Джимом Пасторе, Анна Р. Грессель, Мелисса Мьюз, Пол Д. Рубин, Кристофер С. Форд, Мэнджи Сюй и опубликованная дата 6 марта 2023 г. дают особенно содержательное указание на действия, которые фирмы должны предпринять в отношении своих усилий в области ИИ.

Вот некоторые избранные выдержки из сообщения в блоге (полное сообщение находится по адресу ссылка здесь):

  • «1. Определение ИИ. Рассмотрите возможность создания внутреннего определения того, что можно надлежащим образом охарактеризовать как ИИ, чтобы избежать обвинений в том, что Компания ложно утверждает, что продукт или услуга использует искусственный интеллект, когда он просто использует алгоритм или простую модель без ИИ».
  • «2. Каталог. Рассмотрите возможность создания списка публичных заявлений о продуктах и ​​услугах компании в области искусственного интеллекта».
  • «3. Образование: Расскажите своим командам по соблюдению правил маркетинга руководству FTC и проблемам, связанным с определением ИИ».
  • «4. Обзор: Рассмотрите возможность рассмотрения всех текущих и предлагаемых публичных заявлений о продуктах и ​​услугах ИИ компании, чтобы убедиться, что они точны, могут быть обоснованы, а не преувеличены или чрезмерны».
  • «5. Претензии к поставщику: Для систем ИИ, которые предоставляются компании поставщиком, будьте осторожны, чтобы не просто повторять заявления поставщика о системе ИИ, не гарантируя их точность».
  • «6. Рискованные Оценки: Для приложений ИИ с высоким риском компаниям следует рассмотреть возможность проведения оценки воздействия, чтобы определить предсказуемые риски и способы их снижения, а затем рассмотреть возможность раскрытия этих рисков во внешних заявлениях о приложениях ИИ».

Будучи топ-менеджером и глобальным ИТ-директором/техническим директором, я знаю, насколько важна команда юристов для разработки и развертывания внутренних и внешних систем искусственного интеллекта, в том числе при лицензировании или приобретении сторонних программных пакетов. Особенно с усилиями ИИ. Юридическая команда должна быть внедрена или, по крайней мере, считаться близким и милым союзником технической команды. Существует множество легальных противопехотных мин, связанных с любыми технологиями и особенно с ИИ, которые фирма решает создать или внедрить.

В настоящее время искусственный интеллект находится на вершине списка потенциальных легальных наземных мин.

Объединение специалистов по искусственному интеллекту с гуру маркетинга и юристами — лучший шанс сделать все правильно. Соберите все три вместе, постоянно, а не с опозданием или единожды, чтобы они могли разработать маркетинговую и рекламную стратегию и развертывание, которые получат преимущества от внедрения ИИ. Цель состоит в том, чтобы свести к минимуму призрак длинной руки закона и дорогостоящих и репутационных судебных процессов, а также максимизировать справедливое и сбалансированное признание, которое по существу обеспечивает ИИ.

Принцип Златовласки применим к ИИ. Вы хотите рекламировать, что ИИ может делать великие дела, предполагая, что он может и делает, явно подкрепленный хорошо разработанными доказательствами. Вы не хотите непреднамеренно уклоняться от всего, что ИИ добавляет в качестве ценности. Это подрывает аддитивные свойства ИИ. И, с другой стороны, вы, конечно же, не хотите делать сумасшедшие хвастливые объявления, которые выходят из-под контроля и делают заявления, которые являются гнусными и могут привести к юридическим затруднениям.

Суп должен быть только нужной температуры. Для этого требуются сообразительные и разбирающиеся в искусственном интеллекте повара из технической, маркетинговой и юридической команд.

В недавнем сообщении юридической фирмы Arnold & Porter (известная многонациональная юридическая фирма со штаб-квартирой в Вашингтоне, округ Колумбия) Исаак Э. Чао и Питер Дж. Шильдкраут написали статью под названием «Федеральная торговая комиссия США предупреждает: все, что вам нужно знать о ИИ, которому вы научились в детском саду» (дата публикации 7 марта 2023 г., доступна по адресу ссылка здесь) и сделал важный предостерегающий акцент в отношении юридических обязательств, связанных с использованием ИИ:

  • «Короче говоря, не увлекайтесь магией ИИ настолько, чтобы забыть основы. Вводящая в заблуждение реклама подвергает компанию ответственности в соответствии с федеральными законами и законами штата о защите прав потребителей, многие из которых допускают частные права действий в дополнение к правоприменению со стороны правительства. Введенные в заблуждение клиенты, особенно B2B, также могут требовать возмещения убытков на основании различных договорных и деликтных теорий. И публичные компании должны беспокоиться об утверждениях SEC или акционеров о том, что неподтвержденные претензии были существенными».

Поймите, что даже если ваш ИИ не нацелен на потребителей, вы не застрахованы от потенциальных юридических рисков. Клиенты-предприниматели также могут решить, что ваши утверждения ИИ ложны или, возможно, обманным путем ввели их в заблуждение. Могут возникнуть всевозможные юридические опасности.

Заключение

Многие люди ждут, чтобы увидеть, какой фиаско, связанный с рекламой ИИ, возникнет из существующего и растущего безумия ИИ. Некоторые считают, что нам нужен образец масштаба Volkswagen или архетип масштаба L'Oréal, чтобы все поняли, что случаи возмутительно необоснованных заявлений об ИИ недопустимы.

До тех пор, пока достаточно большая юридическая неразбериха, связанная с рекламой искусственного интеллекта, не привлечет широкое внимание в социальных сетях и ежедневных новостях, беспокоит то, что ИИ, хвастающийся золотом, будет продолжаться. Маркетинг ИИ будет продолжать подниматься по лестнице диковинности. Это идет все выше и выше. Каждый следующий ИИ должен будет превзойти предшествующих.

Мой совет: вы, вероятно, не хотите быть архетипом и попасть в учебники истории из-за того, что ваша рука попалась в банку с печеньем, украшенным искусственным интеллектом. Не хороший вид. Дорого. Возможно, может разрушить бизнес и связанную с ним карьеру.

Вас поймают?

Я призываю вас к тому, чтобы, если вы помните о том, что вы делаете, быть пойманным не было кошмарным беспокойством, поскольку вы проделали должную осмотрительность и можете спокойно спать, положив голову на подушку.

Для тех из вас, кто не желает следовать этому совету, я оставлю последнее слово за этим мягким предупредительным замечанием в блоге FTC от 27 февраля 2023 года: «Независимо от того, что он может или не может сделать, ИИ важен, и таковы претензии, которые вы делаете по этому поводу. Вам не нужна машина, чтобы предсказать, что может сделать Федеральная торговая комиссия, когда эти заявления не подтверждаются».

Что ж, я полагаю, что можно использовать ИИ, чтобы помочь вам избежать незаконной рекламы ИИ, но это повествование для другого дня. Просто имейте в виду, что нужно быть вдумчивым и правдивым в отношении вашего ИИ. Это и убедитесь, что у вас есть лучшие юридические гончие, резко делящиеся своей набожной юридической мудростью по этим вопросам.

Источник: https://www.forbes.com/sites/lanceeliot/2023/03/12/federal-trade-commission-aims-to-bring-down-the-hammer-on-those-outsized-unfounded-claims- about-generative-ai-chatgpt-and-other-ai-warns-ai-ethics-and-ai-law/