Автор: Чжао Ин

Интерактивный отчет объемом более 50 страниц и более 10 000 слов раскрывает весь процесс эволюции OpenAI от некоммерческой исследовательской лаборатории до коммерческого гиганта.

Недавно две крупные некоммерческие организации по мониторингу технологий, Midas Project и Tech Oversight Project, совместно опубликовали подробный отчет о расследовании под названием «Архивы OpenAI».

Отчет, подготовленный исполнительным директором проекта Midas Тайлером Джонстоном, потребовал почти года сбора публичной информации и месяца интенсивного написания. Отчет называют «самой полной компиляцией задокументированных проблем в отношении практики корпоративного управления OpenAI, честности руководства и организационной культуры на сегодняшний день».

Прочесав большой объем публичной информации, такой как документы по раскрытию информации компании, судебные разбирательства, открытые письма и сообщения СМИ, этот интерактивный отчет объемом более 10 000 слов обнаружил, что OpenAI систематически и преднамеренно завершает фундаментальный переход от «работы на благо человечества» к «работе на прибыль инвесторов». Генеральный директор Альтман имеет давнюю и хорошо документированную модель непоследовательности, манипулирования информацией и уклонения от надзора, а его личные инвестиции тесно связаны с бизнесом компании. OpenAI непоследовательна в своих словах и делах относительно безопасности и прозрачности, а ее публичные обязательства серьезно оторваны от ее внутренних практик.

Отчет разделен на четыре основные темы: реструктуризация, добросовестность генерального директора, прозрачность и безопасность, а также конфликты интересов.

Среди них вызывает беспокойство степень, в которой руководители и члены совета директоров OpenAI напрямую или косвенно выиграли от успеха компании. Это включает анализ инвестиционного портфеля генерального директора Альтмана, который включает Retro Biosciences, Helion Energy, Reddit, Stripe и многие другие компании, имеющие партнерские отношения с OpenAI.

Реорганизация: тщательно спланированное «предательство миссии»

В отчете указывается, что OpenAI систематически и преднамеренно разрушает основные этические и структурные основы своего основания, и его действия серьезно не соответствуют его публичным заявлениям. По сути, это фундаментальный сдвиг от «поиска выгод для человечества» к «поиску прибыли для инвесторов».

Во-первых, в отчете раскрывается одновременный крах двух основных принципов OpenAI: ограничения прибыли и надзора за некоммерческими организациями.

Источник изображения: сайт openaifiles.org/

Отчет далее опровергает официальный аргумент OpenAI о том, что компания отказалась от своих обязательств из-за «интенсивной конкуренции в отрасли». Ссылаясь на ранний устав компании и внутренние электронные письма, отчет доказывает, что OpenAI полностью предвидела и была готова к жесткой конкуренции в отрасли в начале своего создания. Поэтому использование конкуренции в качестве оправдания для нарушения своего обещания является несостоятельной «ревизионистской историей». Реальная мотивация этого заключается именно в том, что инвесторы и руководители компании верят в ее огромный потенциал прибыли, поэтому снятие ограничения становится критически важным.

Честность генерального директора: модели поведения генерального директора, ведущие к кризису доверия

В отчете также говорится, что генеральный директор Альтман имеет давнюю, хорошо документированную тенденцию к несоответствию между словами и делами, манипулированию информацией и избеганию надзора, а также приоритету личных интересов над организационными обязанностями.

В отчете приводятся многочисленные примеры, когда Альтман открыто лгал или вводил в заблуждение по важным вопросам. Например:

В отчете также говорится, что генеральный директор Альтман имеет давнюю, хорошо документированную тенденцию к несоответствию между словами и делами, манипулированию информацией и избеганию надзора, а также приоритету личных интересов над организационными обязанностями.

В отчете приводятся многочисленные примеры, когда Альтман открыто лгал или вводил в заблуждение по важным вопросам. Например:

Что касается соглашений о недопустимости унижения сотрудников, Альтман публично заявил, что не знал о пункте «лишения капитала уходящих сотрудников», но документы показывают, что он прямо одобрил этот пункт. Давая показания под присягой в Сенате, он утверждал, что у него нет капитала OpenAI, но позже признал, что он косвенно владел им через фонд. Он долго скрывал от совета директоров тот факт, что он лично владел венчурным фондом OpenAI.

Бывший член совета директоров Хелен Тонер напрямую обвинила Альтмана в препятствовании выполнению советом своих обязанностей путем «утаивания информации, искажения фактов и даже откровенной лжи». В отчете также показано, что эта модель поведения сохранялась на протяжении всей его карьеры:

За время его работы в Loopt старшие сотрудники дважды пытались добиться от совета директоров увольнения его за «обманчивое и хаотичное» поведение. За время работы в Y Combinator он пренебрегал своими обязанностями из-за сосредоточенности на личных проектах и ​​в конечном итоге был «попрошен уйти» основателем Полом Грэмом. Самым драматичным проявлением стало то, что после увольнения советом директоров OpenAI он использовал свое влияние, чтобы переломить ситуацию, и поставил условием своего возвращения «устранение членов совета директоров, которые его уволили, и назначение своих союзников», успешно добившись «ответной реакции» на систему надзора.

Эксплуатационные риски и риски безопасности: систематическое невыполнение обязательств по безопасности

Отчет показывает, что OpenAI имеет систематическое несоответствие между своими словами и делами в отношении безопасности и прозрачности, а ее публичные обязательства серьезно оторваны от ее внутренних практик. Культура компании демонстрирует тенденцию к «скорости — это все» и систематически ослабляет, обходит и даже наказывает внутренний надзор за безопасностью и инакомыслие в погоне за коммерческими интересами и конкурентными преимуществами.

Отчет раскрывает систематическую непоследовательность OpenAI в вопросах безопасности и прозрачности. Компания обещала выделить 20% своих вычислительных ресурсов «суперсогласованной» команде по безопасности, но, по словам бывшего руководителя Яна Лейке, ресурсы так и не были выделены. При разработке GPT-4o команде по безопасности было предложено «быстро завершить» тестирование до выпуска продукта, и компания запланировала празднование запуска еще до начала оценки.

Хуже того, компания использовала жесткие соглашения об увольнении, чтобы угрожать уволившимся сотрудникам, говоря, что они потеряют миллионы долларов в капитале, если будут критиковать компанию. Сотрудник Леопольд Ашенбреннер был уволен за то, что представил совету директоров меморандум о рисках национальной безопасности, и компания ясно заявила ему, что причиной увольнения стало то, что он «превысил свои полномочия», сообщив о проблемах безопасности.

В отчете также указано, что OpenAI пострадала от серьезного инцидента безопасности в 2023 году, когда хакеры взломали компанию и украли технические детали ИИ, но об этом не сообщалось властям или общественности в течение года. Несколько нынешних и бывших сотрудников обвинили компанию в наличии «культуры безрассудства и секретности» и в том, что она ставит «прибыль и рост» выше своей миссии безопасности.

Риск конфликта интересов: личные инвестиции генерального директора тесно связаны с бизнесом компании.

В отчете подробно описывается, как Альтман создал обширную и переплетенную сеть личных инвестиций, которые находятся в глубоком и прямом конфликте интересов с бизнесом, технологиями и стратегическими партнерствами OpenAI, что в корне бросает вызов заявленной миссии OpenAI — «работать на благо всего человечества».

Вот несколько типичных случаев:

Helion (ядерная термоядерная энергетика): Альтман является председателем и основным инвестором Helion, а также генеральным директором OpenAI. Он лично руководил сделкой OpenAI по покупке большого количества энергии у Helion. Разумно задаться вопросом, не является ли эта сделка в основном защитой его огромных личных инвестиций в Helion. Worldcoin (криптовалютный проект): Альтман является соучредителем Worldcoin. OpenAI установила официальное партнерство с Worldcoin (например, предоставляя бесплатные услуги GPT-4). Люди задаются вопросом, является ли это равноправным деловым сотрудничеством или Альтман использует ресурсы и бренд OpenAI для поддержки и продвижения другого своего собственного высокорискованного проекта. Humane (аппаратное обеспечение ИИ): Альтман является крупнейшим акционером Humane, и продукты Humane в значительной степени зависят от моделей OpenAI. Как генеральный директор OpenAI, он имеет сильную личную финансовую мотивацию, чтобы гарантировать, что Humane получит льготные условия или приоритетную техническую поддержку, что может нанести ущерб интересам других клиентов и справедливости рынка.

Эти сложные интересы серьезно подорвали фидуциарную ответственность Альтмана как генерального директора. Является ли его решение миссией OpenAI или ростом его личного богатства? Картина, которую в конечном итоге рисует отчет, заключается в том, что Альтман больше похож на проницательного оператора капитала. Он искусно помещает OpenAI в центр своей личной бизнес-империи и использует свое положение генерального директора для систематического преобразования технологий, ресурсов и стратегических отношений OpenAI в импульс роста для своего личного инвестиционного портфеля.