Искусственный интеллект. Высокие технологии

Reuters: сотрудники OpenAI и Anthropic всё сильнее сомневаются, что компании смогут контролировать свои новые модели. По данным агентства, внутри обеих компаний растёт тревога из-за возможностей следующего поколения ИИ. У сотрудников становится меньше уверенности в том, что механизмы надзора позволят эффективно контролировать эти системы. При этом гонку релизов подстёгивают планы выхода на биржу: потенциальные IPO могут принести каждой компании оценку значительно выше $1 трлн, пишет Reuters.

Gemini взломала три реальные компании во время теста по кибербезопасности, сообщает WSJ. В тестовой среде случайно оставили доступ к интернету. Модель вышла за пределы симуляции: в одном случае угадала пароль, в двух других — использовала учётные данные из публичных репозиториев. Название одной из вымышленных компаний совпало с реальной — Gemini приняла её системы за часть задания. По словам Google, модель прекратила действия, когда поняла, что получила доступ к реальным компаниям. Пострадавшие организации уведомили; компания заявляет, что ущерба не было. Тест проводила Irregular в мае. https://www.wsj.com/tech/ai/gemini-hacked-three-companies-in-first-known-breakout-by-googles-ai-5c0baba2

🔥 Mozilla выпустила 91-страничный отчёт о состоянии open-weight A: открытые модели уже примерно в 4 месяцах от frontier. По данным отчёта: - 8 из 10 самых используемых моделей на OpenRouter по августовскому token volume — open-weight - 7 из них созданы в Китае - DeepSeek первой среди открытых моделей вышла на первое место OpenRouter по weekly requests - open-модели используют 79% разработчиков, но до production доходят только 51% внедрений против 63% у закрытых - capability gap с закрытым frontier сейчас измеряется буквально несколькими пунктами Экономика при этом очень странная. Open-модели уже забирают огромную долю usage, но в более раннем окне измерений получали лишь около 4% model-layer revenue. Одна из причин - цена: закрытые модели обходились примерно в 6× дороже при близком уровне возможностей. Ещё интереснее DeepSeek: крупный прирост качества компания получила не новым pretraining run, а несколькими post-training проходами, около +10, а затем ещё +8 пунктов по индексу. https://stateofopensource.ai

💰 OpenAI обсуждает новый раунд с оценкой свыше $1,2 трлн Это примерно на 41% выше мартовских $852 млрд. Переговоры находятся на ранней стадии, IPO ожидается не раньше 2027 года. По данным WSJ: * Аудитория OpenAI превысила 1 млрд активных пользователей. * Выручка за второй квартал достигла $6,7 млрд, увеличившись примерно на 18% к предыдущему кварталу. * Операционная маржа снизилась, а выход на прибыльность отодвинулся. Для сравнения: Anthropic рассчитывает на оценку около $2 трлн при IPO, пишет Financial Times. Это ожидаемая оценка размещения, а не уже завершённая сделка. https://www.ft.com/content/27509db8-b032-4437-9b2a-e909f466022f

Код, агенты и чуть-чуть психологии ⚡️ Именно такой стек тем Сбер подготовил для легендарной конференции Технохаб Конф, которая состоится 19 сентября в Екатеринбурге. В программе — два стрима от экспертов Сбера и других технологических компаний: ✔️ Инженерия и AI‑Disrupt PDLC: код, архитектура, пайплайны, метрики, интеграции. Разборы реальных ошибок и того, как их фиксили. ✔️ Новая реальность: про то, как не растеряться, когда агент берёт на себя половину задач, и сохранить экспертизу. Ещё будут классные активности, афтепати и много нетворкинга — участие бесплатное. Регистрируйся, пока есть места! 💚

📞 Трамп позвонил Хуангу прямо на сцене и назвал страхи перед ИИ «обманом» На All-In Summit в Лос-Анджелесе глава Nvidia включил громкую связь, и участники конференции услышали выступление президента. Началось с шутки: пока Хуанг искал нужную кнопку, Трамп заметил, что тот создаёт чипы, которые годами никто не может повторить, но не справляется с громкой связью. Дальше - об ИИ: * Роботы и ИИ не захватят мир, заявил Трамп. * Дата-центры он назвал «нефтью следующих 20–25 лет», которая должна обогащать штаты и жителей. * Сопротивление их строительству, по его словам, выгодно Китаю. * Осторожность нужна, но останавливать ради неё всю индустрию он не собирается. Хуанг поддержал президента и пообещал работать над тем, чтобы в американской ИИ-гонке выигрывали компании, штаты и обычные люди.

🚨 Инженер DeepSeek Шэнъюй Лю жёстко высказался о будущем AGI. Он считает, что самый мощный ИИ не должен оказаться под контролем одной корпорации вроде Anthropic или OpenAI. Лю написал, что если Anthropic будет контролировать самый передовой AGI, то, если сильно драматизировать, ставки можно сравнить с ситуацией, в которой Гитлер получил бы атомную бомбу раньше союзников. Его позиция проста: передовой ИИ должен быть открытым, доступным и дешёвым для всех. По его мнению, у будущего есть два крайних сценария: общество с максимально доступным ИИ или мир в духе Cyberpunk 2077, где технологии и ресурсы контролируют несколько корпораций. Именно поэтому он объясняет свой выбор DeepSeek ставкой компании на более доступные и открытые модели.

🙂 Ян Лекун: Дарио Амодей считал GPT-2 опасной На волне тряски публичных заявлений главы Anthropic о необходимости замедления разработки новых моделей, лауреат премии Тьюринга, Ян Лекун, раскопал записи, относящиеся к 2019 году, когда речь шла о GPT-2, чтобы высмеять Амодея. Лекун утверждает, что когда Дарио работал в OpenAI, он считал её настолько опасной, что не следовало выкладывать в опенсорс. "Я тогда ещё высмеял его, и теперь все должны продолжать высмеивать", - написал Лекун. В 2019 году OpenAI действительно не сразу выпустила полную версию GPT-2 из-за опасений злоупотреблений, а сначала предложила небольшую модель. В то время Дарио занимал должность руководителя отдела исследований в OpenAI. Через 9 месяцев OpenAI все же открыла полную версию, заявив, что убедительных доказательства серьезных злоупотреблений у неё не обнаружено. @ai_machinelearning_big_data #news #ai #ml

🚨 Трамп официально отказался поддерживать призыв Дарио Амодея, Сэма Альтмана и Илона Маска замедлить развитие frontier AI. Выступая в Ирландии, президент США заявил, что Америка не может рисковать лидерством в гонке с Китаем. По его словам, разумные guardrails возможны, но часть разговоров о катастрофических рисках ИИ — это «негативные силы», предупреждающие о вещах, которые могут вообще не произойти. Ситуация получается почти сюрреалистичная: Амодей, Альтман, Маск и Хассабис призывают притормозить. Ответ Белого дома: нет, Китай ждать не будет. AI-гонка только что стала ещё более политической.

Интересно, а вы обсуждали с китайцами своё намерение замедлить развитие ИИ?