15 ноября выгла интересная
Просмотр ссылок доступен только зарегистрированным пользователям в TechCrunch Бурные первые годы OpenAI раскрываются в электронных письмах от Маска, Альтмана и других.
Я попросил ChatGPT перевести статью, но он не смог, так как "TechCrunch защищает свои страницы от автоматического извлечения данных" ботами AI. Что правильно. Я так тоже делаю.
Поэтому обратимся к гуглопереводу.
Имейте в виду, что эти электронные письма были раскрыты в рамках попытки доказать, что OpenAI каким-то образом нарушает антимонопольное законодательство (откровенно неправдоподобное обвинение). Маск также в какой-то степени демонстрирует свое чувство предательства, когда OpenAI отказалась от своего первоначального видения быть некоммерческой организацией с генеральным директором Tesla в качестве ее лидера.
Они не рассказывают всю историю, но сами по себе представляют интерес.
Пожалуй, самым интересным письмом является письмо бывшего главного ученого Ильи Суцкевера, в котором он объясняет сомнения команды в отношении Маска как руководителя компании:
Текущая структура предоставляет вам путь, по которому вы в конечном итоге получаете односторонний абсолютный контроль над AGI [искусственным общим интеллектом]. Вы заявили, что не хотите контролировать конечный AGI, но в ходе этих переговоров вы показали нам, что абсолютный контроль для вас чрезвычайно важен.
В качестве примера вы сказали, что вам нужно стать генеральным директором новой компании, чтобы все знали, что именно вы всем управляете, хотя вы также заявили, что ненавидите быть генеральным директором и предпочли бы не быть им.
Таким образом, мы обеспокоены тем, что, хотя компания и добивается реального прогресса в направлении AGI, вы предпочтете сохранить свой абсолютный контроль над компанией, несмотря на текущие намерения противоположного.
Цель OpenAI — сделать будущее хорошим и избежать диктатуры AGI. Вы обеспокоены тем, что Демис [Хассабис из DeepMind, принадлежащего Google] может создать диктатуру AGI. Мы тоже. Поэтому плохая идея — создавать структуру, в которой вы можете стать диктатором, если захотите, особенно учитывая, что мы можем создать какую-то другую структуру, которая избежит этой возможности.Речь идет не только о корпоративном контроле; Сутскевер обеспокоен тем, что экзистенциальная угроза со стороны ИИ может возникнуть из-за того, что на пути к ней стоит всего один человек.
Суцкевер также выражает обеспокоенность по поводу Альтмана, используя слова, во многом похожие на те, которые позже использовал совет директоров, обвиняя его в том, что он «не всегда откровенен»:
Мы не смогли полностью доверять вашим суждениям на протяжении всего этого процесса, поскольку мы не понимаем вашу функцию затрат.
Мы не понимаем, почему должность генерального директора так важна для вас. Ваши заявленные причины изменились, и трудно понять, что ими движет.
Действительно ли AGI является вашей главной мотивацией? Как это связано с вашими политическими целями?Учитывая развитие событий и то, как Альтман направлял компанию в сторону гораздо более традиционной позиции корпоративного SaaS, похоже, что его целью был скорее бизнес, чем философия.
Интересный факт: еще в 2017 году OpenAI серьезно рассматривала возможность покупки производителя чипов Cerebras или слияния с ним, потенциально используя ресурсы Tesla. Как говорит Сутскевер:
Если мы решим купить Cerebras, я уверен, что это будет сделано через Tesla.В итоге они этого не сделали, хотя причина в этих письмах не указана.
Кстати, это было еще тогда, когда Маск пытался сделать OpenAI лишь одним из своих многочисленных объектов, и лидеры были открыты для такой возможности. Как написал соучредитель OpenAI Андрей Карпати:
Самый многообещающий вариант, который я могу придумать, как я уже упоминал ранее, — это присоединение OpenAI к Tesla в качестве дойной коровы. […] Если мы сделаем это действительно хорошо, транспортная отрасль станет достаточно большой, чтобы мы могли увеличить рыночную капитализацию Tesla до O(~100K) и использовать этот доход для финансирования работы над ИИ в соответствующем масштабе.Опять же, этого не произошло по многим причинам, которые кажутся ясными задним числом. Рыночная капитализация Tesla действительно выросла, но беспилотная сторона вопроса — которую Карпати намеревался ускорить позже, когда устроился на работу в Tesla — оказалась сложнее, чем ожидалось, и пока не внесла существенного вклада в доход Tesla.
Что касается зарабатывания денег, Microsoft была в деле еще с 2016 года, предлагая OpenAI вычисления на Azure на сумму 60 миллионов долларов в обмен, среди прочего, на то, что компании «проповедуют» друг друга. Похоже, никому не нравилось такое корпоративное «чесание спины», и Маск написал, что его это «тошнит».
В конечном итоге они заплатили гораздо больше, но без каких-либо обязательств с обеих сторон. «Это стоило бы гораздо больше, чем 50 миллионов долларов, чтобы не выглядеть маркетинговой сучкой Microsoft», — написал Маск.
Наконец, небольшой факт, упомянутый членом совета директоров Шивон Зилис (которая позже стала матерью троих детей Маска): основатель Valve Гейб Ньюэлл, помимо того, что был спонсором проекта в первые дни, был в «неофициальном консультативном совете» Альтмана и Грега Брокмана. Неясно, какую роль он играл или играет там в повседневной жизни. Я попросил Ньюэлла прокомментировать.
