В Tesla и других крупных технологических компаниях проблемы вызывают не машины, а предположения, стоящие за ними

Новые технологии всегда вызывают нервозность. В 370 г. до н. э. Платон размышлял в своей книге Федр что усиливающаяся «тенденция» к письму заставит мужчин потерять всю свою сохраненную мудрость. В 1880-х годах опасались, что электрические кнопки, прежде всего, заставят нас всех теряем нашу креативность позволить кнопке сделать задачу для нас. В нашем поколении существует глубокий страх, что любое воздействие видеоигр сгниет. детские мозги. Такие теории часто в конечном итоге оказываются ошибочными. Но иногда то, что, как мы могли надеяться, останется в области научной фантастики, становится реальностью.

За последние несколько месяцев у нас было два очень сильных напоминания об опасностях безудержного внедрения технологий. Сбылись наши самые страшные кошмары, и жизням был нанесен непоправимый вред:

• Через несколько часов после того, как лидер Tesla Илон Маск рекламировал свои беспилотные автомобили в Твиттере, Tesla в режиме самостоятельного вождения решила остановиться на обочине моста через залив, 4-полосной, быстро движущейся магистрали и спровоцировал аварию с участием 8 автомобилей Ранения получили 9 человек, в том числе двухлетний ребенок. Это одна из сотен аварий, произошедших из-за систем автономного вождения Tesla. 19 смертей с 2016 года.
• Рэндалл Рид шел на запоздалый обед в честь Дня Благодарения со своей мамой, когда полиция остановила его и посадила в тюрьму на неделю после программа сопоставления лиц пометила его как подозреваемого в деле о краже роскошного кошелька в Луизиане. Единственная проблема? Он никогда не ступал ногой в штат. Но 28-летний житель Джорджии — афроамериканец, и программное обеспечение для распознавания лиц подвергалось широкой критике за его неспособность точно различать лица чернокожих.

«Они сказали мне, что у меня есть ордер из округа Джефферсон. Я спросил: «Что такое приход Джефферсона?» — Рид. отметил АП. «Я ни дня в жизни не был в Луизиане. Потом мне сказали, что это за кражу. Так что я не только не был в Луизиане, но и не воровал».

Возможно, не в защиту Илона Маска, а в качестве пояснения. он часто отмечал что его альтруистическая цель - в конечном итоге сократить количество дорожно-транспортных происшествий и смертей, сделав автомобили умнее людей. И что для того, чтобы сделать эти автомобили умнее, им, возможно, придется двигаться быстро (буквально) и ломать некоторые вещи (тоже буквально) на настоящих дорогах.

Здесь можно согласиться с его целями — более безопасными дорогами — но оспорить его методы — эксперименты на людях. Мы отказались от испытаний лекарств на людях — без их согласия, в случае нацистская Германия и Tuskegee «исследования» — крысам, которые не могут дать согласие, — таким отраслям, как косметика, которые учатся тестировать продукты без ценовых жизней, человеческих, животных или иных. Можно ли тестировать технологию, не причиняя вреда людям? Именно здесь мы — и государственные регулирующие органы — можем выбирать, каким экспериментам мы готовы подвергнуть наших граждан.

И затем, в случае с искусственным интеллектом, было выражено обоснованное опасение, что в контексте технических команд, которым обычно не хватает разнообразия нашего глобального мира, где более 85% людей живут в Азии, Африке и Латинской Америке, есть возможность значительного вреда, который можно сделать, если технологии не в состоянии включить разнообразие в свои проекты. Такие люди, как Тимнит Гебру с Черный в AI делают тяжелую работу, пытаясь привлечь к ответственности людей, стоящих за машинами, но столкнулся с большим количеством встречных ветров учитывая экономические силы, которые контролируют большую часть этих исследований.

Нам не придется возвращаться к лошадям и багги, если мы откажемся от беспилотных автомобилей. Что мы МОЖЕМ сделать, так это отстаивать новый технический девиз на следующее десятилетие: «Двигайся медленно и меньше ломайся».

Точно так же Hermant Tenaja писал в Harvard Business Review, «минимально жизнеспособные продукты» должны быть заменены «минимально полезными продуктами» — новыми предложениями, которые проверяют влияние на заинтересованные стороны и создают защиту от потенциального вреда». Он предлагает восемь вопросов, которые должны задать современные технологические предприниматели, в том числе:

• Какие системные социальные изменения вы стремитесь создать с помощью своего продукта?
• Как вы будете поддерживать достоинства вашего продукта?
• Какова ваша основа для ответственного использования данных и ИИ?
• Как вы определяете и продвигаете разнообразие в контексте вашего бизнеса?

Предприниматели могут задуматься над этими вопросами для своих продуктов. И тогда для потребителей, прежде чем повернуться лицом к новейшему, лучшему сервису по созданию аватаров, может быть разумно дважды подумать о том, как это может обернуться против вас. Нам не нужно игнорировать технологии, но, возможно, мы можем научиться быть более сознательными потребителями технологий.