Регулирующие органы OpenAI обеспокоены тем, что компания создает технологическую «ядерную бомбу» и что основатель компании Сэм Альтман действует так быстро, что это может спровоцировать глобальную катастрофу.

Поэтому совет уволил его. Это может оказаться логичным решением.

Но то, как был уволен Альтман – внезапно, незаметно и без предварительного уведомления некоторых крупнейших акционеров и партнеров OpenAI – не поддается логике. И риск этого выше, чем если бы совет директоров не предпринял никаких действий.

Совет директоров компании несет ответственность в первую очередь перед акционерами. Самым крупным акционером OpenAI является Microsoft, которая выделила Альтману и другим 13 миллиардов долларов, чтобы помочь Bing, Office, Windows и Azure превзойти Google и опередить Amazon, IBM и другие выскочки в области искусственного интеллекта.

Однако, по словам корреспондента CNN Кары Свишер, Microsoft не была проинформирована об увольнении Альтмана до тех пор, пока об этом не было «объявлено публично». Акции Microsoft упали после увольнения Альтмана.

Сотрудники не были проинформированы об этой новости заранее. Грег Брокман, соучредитель и бывший президент компании, написал в статье на X, что узнал об увольнении Альтмана всего несколько минут назад. Брокман, ключевой сторонник Альтмана и его стратегического руководства компанией, подал в отставку в пятницу. Другие лояльные сторонники Альтмана также ушли.

Внезапно OpenAI оказался в кризисе. Сообщения предполагают, что Альтман и бывшие сторонники OpenAI собираются запустить собственное предприятие, потенциально сводя на нет все, над чем компания усердно работала за последние несколько лет.

Итак, днем ​​позже правление, как сообщается, потребовало изменения курса и попыталось (пока безуспешно) вернуть Альтмана. Это был шокирующий поворот событий и досадная ошибка для компании, которую многие считают производителем самых многообещающих и захватывающих новых технологий.

Необычная структура платы

Ситуация еще больше усложняется своеобразной структурой совета директоров OpenAI.

Компания является некоммерческой организацией. Но Альтман, Брокман и главный научный сотрудник Илья Суцкевер в 2019 году сформировали акционерную платформу OpenAI LP (с ограниченной ответственностью) — коммерческую организацию, существующую в структуре крупной компании. Коммерческая компания всего за несколько лет подняла OpenAI с бесполезной стоимости до 90 миллиардов долларов, а Альтмана многие считают вдохновителем этого плана и ключом к успеху компании.

Однако крупные инвесторы, такие как Microsoft и венчурная компания Thrive Capital, хотят, чтобы компания расширялась и зарабатывала деньги. Инвесторы хотят быть уверены, что они оправдают свои деньги, и они не известны своим терпением.

Это может побудить Альтмана подтолкнуть коммерческую компанию к более быстрому внедрению инноваций и выпуску продуктов. В соответствии с традицией Кремниевой долины «двигаться быстро и ломать вещи» эти продукты поначалу могут работать не так хорошо.

Если это приложение для знакомств или платформа для социальных сетей, возможно, все в порядке. Но совсем другое дело, если это технология, которая хорошо имитирует человеческий язык и поведение, заставляя людей думать, что ее фальшивые разговоры и изображения реальны.

И именно это, как сообщается, беспокоит совет директоров компании, большая часть которого по-прежнему контролируется некоммерческим подразделением компании. По словам Свишера, недавняя конференция разработчиков OpenAI стала переломным моментом: Альтман объявил, что OpenAI предоставит инструменты, позволяющие каждому создать свою собственную версию ChatGPT.

Для Суцкевера и правления это был слишком большой шаг.

Разумное предупреждение

По словам самого Альтмана, компания играет с огнем.

Когда четыре года назад Альтман сформировал OpenAI LP, новая компания отметила в своем уставе, что по-прежнему «обеспокоена» способностью искусственного интеллекта «вызвать быстрые изменения в человечестве». Это может произойти случайно из-за ошибочного кода, который заставляет технологию выполнять вредоносные задачи, или это может произойти намеренно, когда люди подрывают системы ИИ по гнусным причинам. Таким образом, компания стремится ставить безопасность на первое место, даже если это означает снижение прибыли для ее заинтересованных сторон.

Альтман также призвал регулирующие органы установить ограничения на искусственный интеллект, чтобы такие люди, как он, не причиняли серьезный вред обществу.

"Сможет ли искусственный интеллект, как и книгопечатание, широко распространять знания, власть и исследования, расширяя возможности обычных людей с повседневными способностями, тем самым обеспечивая большее процветание и, в частности, две большие свободы?" - спросил он в мае на слушаниях в подкомитете Сената, призывая к регулированию. . «Или это будет больше похоже на атомную бомбу – огромный технологический прорыв, но с серьезными и ужасающими последствиями, которые до сих пор преследуют нас?»

Сторонники искусственного интеллекта считают, что эта технология способна произвести революцию в промышленности и принести пользу человечеству. У него есть потенциал для улучшения образования, финансов, сельского хозяйства и здравоохранения.

Сторонники искусственного интеллекта считают, что эта технология способна произвести революцию в промышленности и принести пользу человечеству. У него есть потенциал для улучшения образования, финансов, сельского хозяйства и здравоохранения.

Но это также грозит лишить людей рабочих мест: Всемирный экономический форум предупредил в апреле, что в течение следующих пяти лет могут исчезнуть 14 миллионов рабочих мест. ИИ особенно хорош в распространении вредной дезинформации. Некоторые, в том числе бывший член правления OpenAI Илон Маск, обеспокоены тем, что технология искусственного интеллекта превзойдет человека интеллектуально и может уничтожить жизнь на Земле.

Падение в больший неизвестный кризис

Столкнувшись с этими угрозами, реальными или мнимыми, неудивительно, что режиссеры были обеспокоены тем, что Альтман действовал слишком быстро. Возможно, они почувствовали себя обязанными уволить его и заменить кем-то, кого они считали более осторожным в отношении потенциально опасных технологий.

Однако OpenAI не работает в вакууме. У нее есть заинтересованные стороны, некоторые из которых вложили в компанию миллиарды долларов. А так называемые взрослые присутствующие были подобны «клоунской машине, врезавшейся в золотую жилу», как выразился Свишер, цитируя знаменитую цитату генерального директора Meta Марка Цукерберга о Твиттере.

(Источник: Интернет)

Привлечение Microsoft к принятию решений, уведомление сотрудников, работа с Альтманом над разработкой достойного плана выхода... все эти решения обычно принимаются советами директоров компаний такого размера, как OpenAI, и все они потенциально могут привести к лучшим результатам. .

Хотя Microsoft владеет большой долей участия, из-за странной организационной структуры OpenAI Microsoft не имеет места в совете директоров OpenAI. Теперь ситуация может измениться, согласно сообщениям нескольких СМИ, включая The Wall Street Journal и The New York Times. Одним из требований компании, включая возвращение Альтмана, является место в совете директоров.

Благодаря функциональности OpenAI, подобной ChatGPT, встроенной в Bing и другие основные продукты, Microsoft считает, что сделала разумную инвестицию в многообещающую новую технологию будущего. Поэтому, когда генеральный директор Microsoft Сатья Наделла и его команда узнали об увольнении Альтмана в пятницу вечером вместе с людьми по всему миру, они были шокированы.

Совет директоров разозлил могущественного союзника, и компания может навсегда измениться из-за того, как она отреагировала на увольнение Альтмана. В конце концов, Альтман может снова оказаться у руля, коммерческая компания присоединится к совету некоммерческой организации, а культура OpenAI претерпит драматические изменения.

Или она может стать конкурентом Альтмана (теперь присоединившегося к Microsoft), который в конечном итоге может решить создать новую компанию и переманить таланты из OpenAI.

Тем не менее, OpenAI сейчас может оказаться в худшем положении, чем до увольнения Альтмана в пятницу. По иронии судьбы, этой проблемы можно было бы избежать, замедлившись.

Оригинальный текст был написан Дэвидом Голдманом, а контент на китайском языке был составлен командой MetaverseHub. Если вам нужно перепечатать, свяжитесь с нами.