Как провалилась крипто-империя Сэма Бэнкмана-Фрида и как это повлияло на ИИ

Anthropic, исследовательская организация в области искусственного интеллекта из Сан-Франциско. поднял $ 580 миллион в апреле за исследование «Безопасность ИИ».

Годовалая лаборатория, которая разрабатывает искусственный интеллект (ИИ) системы, генерирующие язык, были мало известны в Силиконовой долине. Однако сумма денег, обещанная малому бизнесу, затмила сумму, которую венчурные капиталисты инвестировали в другие стартапы в области ИИ, в том числе в те, в которых работали одни из самых знающих исследователей в отрасли.

Сэм Бэнкман-Фрид, основатель и генеральный директор криптовалютной биржи FTX, объявившей о банкротстве в прошлом месяце, стал лидером инвестиционного раунда. Утечка отчета о балансе после Резкий крах FTX выяснилось, что г-н Бэнкман-Фрид и его партнеры вложили в Anthropic не менее 500 миллионов долларов.

Их инвестиции были частью скрытой и тщетной попытки исследовать и противодействовать рискам, связанным с искусственным интеллектом, который, по мнению многих людей в окружении Бэнкмана-Фрида, может в конечном итоге разрушить планету и нанести вред человечеству. Согласно подсчетам The New York Times, 30-летний предприниматель и его коллеги из FTX инвестировали или выделили более 530 миллионов долларов за последние два года более чем 70 предприятиям, связанным с ИИ, академическим лабораториям, аналитическим центрам и независимым проектам. и отдельных исследователей для решения проблем, связанных с технологией.

По словам четырех человек, знакомых с деятельностью ИИ, которые не имели права выступать публично, некоторые из этих групп и лиц теперь обеспокоены тем, могут ли они продолжать тратить эти деньги. Они выразили обеспокоенность тем, что несчастный случай с Бэнкман-Фрид может поставить под сомнение их учебу и нанести ущерб их репутации. Кроме того, они предупредили, что некоторые из стартапов и организаций, занимающихся ИИ, могут позже оказаться вовлеченными в процедуры банкротства FTX, и их гранты будут отозваны в суде.

Обеспокоенность в Индустрия искусственного интеллекта являются непредвиденным результатом провала FTX, демонстрируя, насколько далеко идущими были последствия краха криптовалютной биржи и исчезновения богатства Бэнкмана-Фрида.

По словам Эндрю Берта, приглашенного научного сотрудника Йельской школы права и адвоката, который фокусируется на опасностях искусственного интеллекта.

Некоторых может удивить связь между этими двумя новыми областями технологий.

Однако между ними есть очевидная связь.

Эффективный альтруизм

Из-за своей причастности к «эффективному альтруизму», благотворительному движению, участники которого хотят оптимизировать воздействие своих пожертвований в долгосрочной перспективе, Бэнкман-Фрид (якобы) пытался вдохновлять.

Эффективные филантропы часто беспокоятся о том, что они называют катастрофическими угрозами, такими как пандемии, биологическое оружие и ядерная война. Они проявляют большой интерес к искусственному интеллекту. Многие эффективные альтруисты думают, что все более мощный ИИ может принести пользу миру, но они обеспокоены тем, что, если он не будет разработан безопасным образом, он может нанести значительный вред.

Эффективные альтруисты уже давно утверждают, что такое будущее вполне возможно и что исследователи, бизнес и правительства должны быть к нему готовы. В то время как эксперты по искусственному интеллекту согласны с тем, что любой сценарий конца света еще далеко — если он вообще произойдет — эффективные альтруисты уже давно утверждают, что это не так.

Исследование влияния ИИ

Ведущие исследовательские лаборатории ИИ, такие как DeepMind, принадлежащая материнской компании Google, и OpenAI, созданная Илоном Маском и другими, за последние десять лет наняли множество эффективных альтруистов. Они сыграли важную роль в развитии предмета исследования, известного как «безопасность ИИ», который изучает потенциальный вред, который могут нанести системы ИИ, или возможность непредвиденных сбоев.

Подобные исследования были проведены эффективными альтруистами из вашингтонских аналитических групп, влияющих на политику. Большая часть финансирования Центра безопасности и новых технологий Джорджтаунского университета поступила от Open Philanthropy, эффективной благотворительной благотворительной организации, которую поддерживает Дастин Московиц, соучредитель Facebook. Центр изучает влияние искусственного интеллекта и других новых технологий на национальную безопасность. В этих аналитических центрах эффективные альтруисты также выполняют роль исследователей.

Фонд будущего

С 2014 года Бэнкман-Фрид утверждает, что участвует в эффективном альтруистическом движении. В апрельском интервью New York Times он объяснил, что целенаправленно выбрал успешную работу, чтобы иметь возможность раздавать гораздо большие суммы денег, приняв философию, известную как «зарабатывай, чтобы отдавать».

В феврале он и несколько его коллег из FTX представили Future Fund, который будет обеспечивать финансирование «амбициозных проектов, направленных на улучшение долгосрочных перспектив человечества». Уилл Макаскилл, один из основателей Центра эффективного альтруизма, и другие влиятельные члены движения помогали управлять фондом.

К началу сентября The Future Fund пообещал предоставить гранты на общую сумму 160 миллионов долларов на различные инициативы, включая исследования в области готовности к пандемии и экономического роста. Всего было выделено 30 миллионов долларов на пожертвования различным группам и отдельным лицам, исследующим концепции, связанные с ИИ.

Один грант на искусственный интеллект от Future Fund составил 2 миллиона долларов для Lightcone Infrastructure, малоизвестного бизнеса. Онлайн дискуссионный форум меньше неправильно поддерживается компанией Lightcone, и в середине 2000-х годов она начала углубляться в идею о том, что однажды искусственный интеллект может уничтожить людей.

Центр исследований выравнивания, группа, которая работает над согласованием будущих систем искусственного интеллекта с человеческими интересами, чтобы предотвратить выход технологии из-под контроля, получила 1.25 миллиона долларов от Бэнкмана-Фрида и его коллег. Другие инициативы, направленные на снижение долгосрочных рисков, связанных с ИИ, также получили поддержку. Кроме того, они внесли 1.5 миллиона долларов в Корнельский университет для проведения соответствующих исследований.

Фонд будущего также выделил около 6 миллионов долларов на три инициативы, связанные с «большими языковыми моделями» — типом более мощного ИИ, который может создавать компьютерные программы, твиты, электронные письма и записи в блогах. Средства были предназначены для уменьшения неожиданного и нежелательного поведения этих систем, а также для смягчения последствий использования технологии для распространения ложной информации.

Г-н Макаскилл и другие лица, ответственные за Future Fund, покинули инициативу, когда FTX объявила о банкротстве, выразив «основные вопросы относительно законности и честности коммерческих операций», лежащих в ее основе. Комментариев от г-на Макаскилла не последовало.

Получив финансирование Anthropic в размере 500 миллионов долларов, Бэнкман-Фрид и его партнеры вложили средства непосредственно в стартапы в дополнение к вознаграждениям, предоставленным Future Fund. Группа, в которую входит ряд эффективных альтруистов, дезертировавших из OpenAI, создала корпорацию в 2021 году. Создавая собственные языковые модели, создание которых может стоить десятки миллионов долларов, она пытается сделать ИИ более безопасным.

Деньги от Бэнкмана-Фрида и его сообщников уже переданы нескольким организациям и людям. Остальные получили лишь часть обещанного. По словам четырех человек, знакомых с организациями, некоторые не понимают, нужно ли возвращать гранты кредиторам FTX.

По словам Джейсона Лилиена, партнера юридической фирмы Loeb & Loeb, специализирующейся на некоммерческих организациях, когда вкладчики подают заявление о банкротстве, благотворительные организации могут быть возвращены. Он добавил, что несмотря на то, что они находятся в немного лучшем положении, чем благотворительные организации, предприятия, получающие венчурный капитал от обанкротившихся предприятий, тем не менее, подлежат возврату.

Эффективные альтруисты, по словам Дьюи Мердика, главы Джорджтаунского аналитического центра Центра безопасности и новых технологий, который финансируется Open Philanthropy, внесли значительный вклад в исследования искусственного интеллекта.

Он сослался на тот факт, что ведется больше разговоров о том, как можно разрабатывать системы ИИ с учетом безопасности, как на свидетельство того, что «поскольку они увеличили деньги, это повысило внимание к этим вопросам».

Однако Орен Эциони из Института искусственного интеллекта Аллена, лаборатории искусственного интеллекта в Сиэтле, утверждал, что мнения эффективного альтруистического сообщества иногда были чрезмерными и часто преувеличивали силу или опасность современных технологий.

Он сказал, что в этом году Фонд будущего предложил ему финансирование исследований, которые помогут предсказать приход и опасности «искусственного общего интеллекта», машины, способной выполнять все задачи, на которые способен человеческий мозг. Но поскольку ученые еще не знают, как его построить, Этциони утверждал, что эту идею нельзя точно предсказать.

Похожие страницы:

Торговля Dash 2 — предпродажа с высоким потенциалом

• Активная предпродажа в прямом эфире сейчас – dash2trade.com
• Собственный токен экосистемы криптосигналов
• KYC проверено и проверено