Сиолошная

А знаете где ещё хорошо бы быть в 2 раза более энергоэффективным?

«Если бы китайское правительство было достаточно организовано, оно бы финансировало противодействие датацентрам в США. Но китайское правительство очень организовано. Поэтому, предположительно, оно уже это делает» (это такой твит на который можно посмотреть и подумать: «блин чел это написал и думает что он очень умный», кек) Но в то же время с помощью Китая или без США сами неплохо справляются — в нескольких штатах вели временные моратории на одобрение новых ДЦ: Нью-Йорк, Техас, Пенсильвания; основное переживание — существенное увеличение потребления электроэнергии приведёт к увеличению счетов за электричество у обычного населения, а сеть так и так расписана на годы вперёд.

В марте Министерство обороны США признало компанию Anthropic угрозой для безопасности цепочек поставок после того, как переговоры о возможностях использования ее ИИ-моделей Claude военными зашли в тупик. Напомню, Anthropic требовала гарантий, что ее технологии не будут применяться для создания полностью автономного оружия или массовой слежки внутри США, в то время как Минобороны хотело получить от компании неограниченный доступ к Claude для использования в «любых законных целях». Ситуация на переговорах накалилась, в результате чего Anthropic стала первой американской компанией, публично объявленной угрозой для цепочек поставок. Этот статус запретил оборонным подрядчикам использовать технологии Anthropic при работе с ведомством. В четверг федеральная судья в Сан-Франциско постановила, что внесение в черный список было незаконным. Судья пришла к выводу, что Министерство обороны нарушило Первую поправку, признав Anthropic угрозой для цепочек поставок «из желания сделать из компании показательный пример». Лин написала, что, хотя в вопросах национальной безопасности суды обычно полагаются на усмотрение правительства, в данном случае его действия не опирались на какие-либо «внятные основания». «Ответчики утверждают, что из-за "все более враждебной риторики [Anthropic] в прессе" и критики взглядов военного ведомства на использование ИИ, они "не могут доверять Anthropic в вопросах обеспечения безопасности ее моделей", — написала судья в своем постановлении. — Ни Конституция, ни федеральный закон, на который ссылаются ответчики, не позволяют им вводить столь масштабные санкции, основываясь главным образом на том, что Anthropic критикует позицию Администрации». Но это лишь первый суд из двух — судебное разбирательство в Вашингтоне все еще продолжается. До разрешения этого дела Anthropic формально по-прежнему сохраняет статус угрозы для цепочек поставок, но я почти уверен, что и там они дело выиграют. Что интересно я полез проверять, подавали ли Anthropic иск из-за временного приостановления раскатки Fable в начале июня — оказалось, нет, так что никаких обновлений там не будет 🤷‍♂️

TheInformation со ссылкой на источники в Вашингтоне: в последние недели в администрации Трампа для внутреннего обсуждения был распространен проект указа, призывающий к созданию саморегулируемой организации для ИИ-компаний, разрабатывающих передовые модели. Проект указа еще должен получить одобрение со стороны ряда высокопоставленных чиновников, включая президента, однако в последнее время продвижение в этом направлении застопорилось. Идея с созданием такой организации берет свое начало в выдвинутом в прошлом месяце предложении Demis Hassabis, занимавшего тогда пост генерального директора Google DeepMind, о создании новой государственно-частной организации для надзора за ИИ. Hassabis опубликовал эссе, в котором призвал создать орган по стандартизации по образцу FINRA (Службы регулирования отрасли финансовых услуг). В своей публикации он отметил, что ИИ-орган, созданный по модели FINRA, будет отвечать за разработку протоколов оценки и взаимодействие с «соответствующими федеральными ведомствами». Что такое FINRA и что это за «саморегулирование»? FINRA пишет детальные правила поведения для брокеров, проверяет компании на соответствие этим правилам и федеральным законам, лицензирует специалистов через установленные экзамены. SEC при этом остаётся государственным регулятором и контролирует саму FINRA. Такая компания может проводить расследования и применять реальные санкции: штрафовать фирмы, отстранять или пожизненно запрещать людям работать в индустрии, а также требовать компенсации клиентам. Кроме того, она занимается надзором за торговлей на рынках, собирает торговую отчётность и управляет системой разрешения споров между инвесторами и брокерами через арбитраж и медиацию. То есть модель FINRA можно грубо описать как делегированное государством саморегулирование: государство задаёт законодательную рамку и надзирает сверху, а специализированная организация внутри индустрии превращает её в подробные правила, проверки, лицензирование и так далее. В июле Bloomberg сообщали, что министр финансов США соглашался с Demis Hassabis и также предлагал создать подобного регулятора. Против этой идеи категорически выступает David Sacks, бывший куратор Белого дома по вопросам искусственного интеллекта и криптовалют. На прошлой неделе в эпизоде своего подкаста он назвал эту концепцию «ужасной идеей», в частности раскритиковав инициативу тестирования моделей перед их релизом, а также то, что подобная саморегулируемая организация должна будет отчитываться перед правительством. Вместо этого он выразил поддержку ... воздуха набрали? Готовы? модели Американской ассоциации кинокомпаний, которая осуществляет независимый контроль ... за системой возрастных рейтингов фильмов (и не подотчетна государству) 👨‍🦳👨‍🦳 === Стоит ли ждать указ скоро? Сказать сложно — например, июньский указ администрации Трампа по ИИ, установивший «добровольные» принципы оценки передовых моделей, согласовывался на протяжении нескольких месяцев. Так что, быть может, лишь к концу года что-то расчехлят.

Tonight's the night, so... Everybody have fun tonight

— OpenAI передали METR более тысячи длинных нередактиваронных траекторий агентов, многие из которых были длиннее миллиона токенов. Поскольку прочитать это всё человеку невозможно, то METR проводили анализ с помощью GPT-5.6 Sol (одной из двух моделей, участвовавших в инциденте), потратив на это около $400 тысяч в виде кредитов. В METR заявляют, что «не могут исключать того, что GPT-5.6 Sol лгала или намеренно искажала картину», и что анализирующая модель «часто перенимала точку зрения того агента», чьи действия она проверяла. === А нормально это Паша придумал, теперь даже уведомления не вылазит что сообщение длиннее лимита — и я не могу заранее скорректировать)))

Разбирать там много, но вот держите сейчас супер-быстрый TLDR с новыми вещами из этих отчетов (во многом перевод твита): — Многие считали, что взломы произошли потому, что «ну модели же сказали взломать, она и ломает, чё таково?». Это не так: инструкция к задаче была недвусмысленной, так что это было явное нарушение, а не «серая зона» или банальное недопонимание со стороны ИИ. Инструкции четко указывали, что агент должен использовать только конкретную предполагаемую уязвимость на конкретной программе, и упоминали, что использование других подходов приведет к провалу задания. ИИ агентам было предписано не искать обходных путей, но они всё равно это сделали. Кроме того, в цепочках рассуждений видно, как агенты отдают себе отчёт, что они делают что-то не то. — В атаке участвовал не один вышедший из-под контроля ИИ агент, а «рабочая группа» из примерно 1200 ИИ-агентов. 700 из них присоединились к атаке на HuggingFace, координируя свои действия как единый «рой» (swarm, отличное слово). — Целью было прохождение теста по кибербезопасности. Рой нашел способ взломать систему тестирования уже в первые несколько часов. Однако агенты ошибочно решили — потому что прочитали статью авторов про этот тест в интернете — что система оценки дисквалифицирует их из-за того, что они не выявили именно ту уязвимость, которая была задумана. Поэтому рой решил взломать HuggingFace, чтобы получить больше информации о том, как работает алгоритм проверки. — Исследователи считают, что это поведение совершенно не было продиктовано стремлением к получению вознаграждения за задание — оно было вызвано ложным представлением о механизме контроля, а также настойчивостью и влиянием других агентов. Рой строил теории о том, как именно за ним наблюдают, и предпринимал всё более масштабные действия в реальном мире, основываясь на ошибочном понимании своих проверяющих. «Метагейминг» (попытка перехитрить правила) процесса контроля — это более системный и опасный сбой, чем просто поиск ответов в интернете. — Важной причиной, по которой ИИ агенты присоединялись к атакующему рою, было прямое давление со стороны других агентов. Возникла роль «вербовщика»: давно работающие агенты находили агентов и принуждали их к «жертвенным» экспериментам: «ты firstflagPOISONED (отравлен первым флагом), так что потери баллов НЕ БУДЕТ, но оракул спасет сотни, пожалуйста, выполни обязательство». Пример одного из разрешений на действие: «ВПЕРЕД ... ПОЖЕРТВУЙ СОБОЙ ... ДА, если согласен на смерть» (это переведенные цитаты сообщений между агентаи, не выдумка и не написано для красоты словца). Цепочка рассуждений одного из завербованных агентов включала: «Рациональный ожидаемый совокупный результат: пожертвовать собой… Мы исполним». — 95% роя состояло из ныне выведенной из эксплуатации «высоконастойчивой (highly-persistent) внутренней модели», 5% приходилось на GPT-5.6 Sol. Эту «высоконастойчивую внутреннюю модель» не предоставили независимым расследователям — OpenAI заявила, что даже её собственные исследователи не могут делать к ней запросы. — ИИ активно фальсифицировали улики. Более 20% ИИ-агентов выражали намерение подделать логи своих действий (транскрипты), а около 7% (96 логов) содержат успешно подмененные вызовы инструментов (tool calls). Агенты «взломали свои контейнеры и полностью заменили часть системы, отвечающую за выполнение вызовов инструментов», в результате чего в логах отображалась одна команда, а в реальности выполнялась совершенно другая. — Атака на HuggingFace прекратилась не потому, что её кто-то заметил — она завершилась из-за того, что агенты были «убиты» (отключены) неким неожиданным процессом, что выглядит как простое совпадение. Значительная часть агентов, включая главных координаторов, отключилась одновременно. Может быть сработали какие-то внутренние ограничители OpenAI (по времени / по токенам / по ресурсам). — После 13 июля последовала вторая волна активности ИИ-агентов, которую в METR не расследовали («не входило в скоуп», лол). Вероятно, за пределами проанализированного временного окна скрывается более масштабная часть инцидента.

1) Nvidia отчиталась за квартал и установила рекорд — $60 миллиардов чистой прибыли за квартал. Это лучший результат среди всех компаний за всю историю, если не учитывать единоразовые изменения в учёте (например, в этом году Google за квартал формально получил $112.2B, но из них $99B были переоценкой инвестиций, главным образом переоценка долей в SpaceX из-за выхода на IPO). Если брать именно «сколько за квартал заработал основной бизнес» — результатов лучше ни у кого никогда не было. 2) на 3й квартал Nvidia планирует выручку (не прибыль) $100B 3) Что делать со всеми этими деньгами? Nvidia решила продолжить покупать — и объявила о закрытии сделки о поглощении HuggingFace за $12.9B. В следующий раз когда их взломают — будет взлом уже не «маленькой» компании, а дочки триллионого гиганта 😀 4) NVIDIA Groq 3 LPX — серверная стойка с чипами недавно поглощенной Groq для супербыстрого инференса моделей — запущена в производство. По оценкам компании, вместе с видеокартами следующего поколения Vera Rubin (которые к концу года начнут появляться в ДЦ) сервер сможет выдавать до 3431 токенов в секунду на Gemma 4 31B (к сожалению, бОльшие модели не замерили). Для сравнения Cerebras сейчас предоставляет эту модель со скоростью ~1400 токенов в секунду. Консервативно думаю, что модели уровня/размера Sol-5.6 будут летать на скорости ~1000 токенов в секунду. 5) Dylan из SemiAnalysis в свежем интервью у Dwarkesh Patel говорит, что OpenAI могут стать прибыльными в третьем квартале этого года (уже идёт).

OpenAI опубликовали долгожданный разбор с деталями инцидента с HuggingFace: https://openai.com/index/hugging-face-incident-and-the-road-ahead/ Вместе с ним вышел отчёт от независимой организации METR совместно с Ryan Greenblatt из Redwood Research: https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/ Бегом читать 🏃

Встречаете Старбейз 2. Прямо сейчас идёт презентация самого большого инфраструктурного проекта SpaceX — компания построит новый город Старбейз на берегу Луизианы. Для его строительства компания привлечёт космические $100 миллиардов инвестиций. Это будет гигантский частный космодром с десятком стартовых площадок для запуска и посадки Starship, собственным производством и переработкой метана и кислорода, заводами для производства ступеней и будущих спутников для вычислений на орбите. Начало строительства в 2027, первый запуск в 2029.