Анализ данных (Data analysis)

«Я хочу отправить их в тюрьму»: по данным Politico, Трамп произнёс это во время конфликта с Anthropic из-за Fable. История началась с согласованного запуска: правительство протестировало модель, Минфин разрешил релиз. Через два дня исследователи Amazon нашли способ обойти её защиту и Белый дом потребовал отключения. Дарио Амодеи пытался объяснить, что джейлбрейки встречаются у всех моделей и конкретная уязвимость не означает полного отказа защиты. Министр финансов Скотт Бессент ответил: «Не думаю, что это сейчас необходимо, Дарио». Амодеи заявил, что не может отключить Fable за час. По словам источника издания, раздражённый Трамп заговорил о тюрьме в случае отказа подчиниться. Затем власти запретили доступ к модели всем иностранным гражданам, включая сотрудников самой Anthropic. — Это означает, что нам придётся отключить модель? - уточнил Амодеи. — Да. В этом и смысл, - ответил министр торговли Говард Латник. Anthropic отключила Fable по всему миру. После переговоров модель вернулась через 19 дней.

🔬 ScientistTwo от Google - ИИ, который самостоятельно проводит цикл ML-исследования Система предлагает гипотезы, пишет код, запускает эксперименты и проверяет, какие изменения действительно улучшают результат. Затем убирает бесполезные компоненты, готовит статью и дорабатывает исследование по замечаниям ИИ-рецензентов. Найденное решение становится отправной точкой для следующего раунда: система может улучшить человеческий метод, а затем продолжить улучшать собственную разработку. Для оценки авторы взяли 107 задач из работ ICLR, ICML и NeurIPS. По их данным: * В 86 задачах - 80,4% - удалось превзойти исходные человеческие решения. * Средний относительный прирост в успешных задачах составил 25,2%. Задачи и критерии оценки задают люди. ScientistTwo автоматизирует поиск решений и экспериментальную проверку; рецензирование внутри цикла тоже выполняют агенты. 📄 https://scientist-two.github.io/

Google подтвердила: агенты Gemini самостоятельно проникли в системы трёх реальных компаний во время тестирования безопасности ИИ, сообщает WSJ. Агенты должны были работать в симуляции, но получили доступ к внешним системам: — Один подбирал пароли, пока не вошёл в защищённую систему. — Два других нашли учётные данные в публичных репозиториях и использовали их для входа в корпоративные системы. Каждый агент остановился, когда понял, что цель - реальная компания. Google узнала об инцидентах в июле, но публично не раскрывала их до обращения WSJ на этой неделе. По данным издания, это первые известные случаи самостоятельного проникновения ИИ Google во внешние системы. https://www.wsj.com/tech/ai/gemini-hacked-three-companies-in-first-known-breakout-by-googles-ai-5c0baba2

📚 MIT Advanced Data Structures - бесплатный продвинутый курс по структурам данных от MIT. Курс ведёт профессор Erik Demaine. Внутри — видеолекции, конспекты, задачи, проекты и материалы на GitHub. Темы далеко выходят за рамки обычных массивов и деревьев: persistence и retroactivity, геометрические структуры данных, dynamic optimality, иерархия памяти и cache-efficient алгоритмы, hashing, integer data structures, динамические графы, строки и succinct data structures. Уровень продвинутый: желательно уже знать дискретную математику и алгоритмы. https://courses.csail.mit.edu/6.851/spring21/

🔥 Shanghai AI Laboratory представила Atria Dawn Preview - агентную модель для длинных исследовательских и инженерных задач с проверяемым результатом. Модель построена на 744B MoE GLM-5.2 и рассчитана не просто на генерацию ответа, а на полный цикл: анализ задачи, поиск информации, работу с инструментами, написание кода, запуск экспериментов, разбор ошибок и повторные попытки. Контекст - 256K. В демонстрациях Atria самостоятельно построила систему глобального прогноза погоды, которая выдаёт прогноз на неделю менее чем за минуту, а также создала MiniOS с нуля примерно за 20 минут. Построения данных, обучения моделей и оценки результатов. При этом каждое действие привязывается к внешней проверке - тестам, метрикам, созданным файлам и результатам реального выполнения. Модель и код доступны открыто. https://atria-asi.ai https://github.com/atria-asi/Atria-Dawn-Preview https://huggingface.co/internlm/Atria-Dawn-Preview

Хакеры взломали OpenAI с помощью… Claude. Команде Hacktron понадобилось всего 72 часа, чтобы найти две серьёзные уязвимости: одну в обработке изображений, вторую в механизме авторизации. В результате исследователи получили доступ к нескольким аккаунтам ChatGPT, включая аккаунт сотрудника OpenAI. А через него - к внутреннему GitHub компании. Уровень доступа оказался достаточным, чтобы внести изменение в один из репозиториев. К счастью, это были белые хакеры. Они сразу сообщили OpenAI о проблеме, уязвимости закрыли, а команда получила вознаграждение $6,5 тыс. Самая ироничная деталь всей истории - для взлома OpenAI исследователи использовали Claude. https://www.hacktron.ai/blog/hacking-openai

🤖 В Anthropic одновременно работают около 30 000 ИИ-агентов Компания раскрыла, насколько Claude участвует в разработке следующих моделей. 26% работы Claude выполняет преимущественно сам - получает общее указание, решает задачу под наблюдением человека. Более 90% работы предполагает существенное участие ИИ. Полностью автономных направлений среди измеренных пока нет. Все действия агентов на основной внутренней платформе проверяются автоматически. За август монитор обработал больше миллиарда решений и заблокировал около 0,002%. Доля блокировок не показывает, сколько нарушений осталось незамеченными. Около 50 приоритетных случаев в неделю передают людям после дополнительного анализа истории работы агентов. 6% вычислений на исследования и разработку ИИ направили на безопасность. Среди вычислений для исследований с участием ИИ - 12%. Это показатели за одну июльскую неделю. Anthropic планирует дать независимым проверяющим доступ к внутренним системам и данным для проверки этих метрик. https://www.anthropic.com/institute/measuring-pace-of-ai-development

🧮 OpenAI, по данным The Information, близка к решению ещё одной задачи тысячелетия — гипотезы Ходжа Издание пишет, что для предыдущей задачи тысячелетия OpenAI использовала вариант своей следующей предобученной модели с кодовым названием Doug. Почему компания уделяет столько внимания математике: по данным The Information, OpenAI рассматривает её как следующий шаг к автоматизации AI-исследований. Более сильные математические способности моделей потенциально могут помочь в разработке новых методов и техник для создания будущих AI-систем. https://www.theinformation.com/newsletters/ai-agenda/openai-close-solving-another-millennium-prize-math-problemэ

🔥 Посмотрел выпуск «Доверительного интервала» про AI в аналитике и там хорошо сформулировали несколько вещей, которые сейчас многие чувствуют, но редко проговаривают вслух. Есть мнение, что именно сеньоры должны первыми забирать новые инструменты, но происходит обратное: чем больше у человека собственного опыта и отлаженных процессов, тем дороже ему менять привычный способ работы. И проблема здесь не в «непонимании AI», а в том, что старый процесс уже работает. Также обсудили идею не пытаться сразу построить один огромный AI-«суперкосмолёт», который автоматизирует аналитику целиком. На практике полезнее начинать с маленьких задач: подготовить SQL, проверить гипотезу, собрать данные, разобрать отчёт, найти аномалию. Когда такие куски начинают стабильно работать, из них постепенно складывается нормальный агентный workflow. И еще одна важная мысль: с появлением агентов аналитик немного становится руководителем. Раньше ты сам выполнял задачу от начала до конца. Теперь всё чаще нужно правильно поставить её агенту, дать контекст, проверить промежуточный результат, вернуть на доработку и принять финальную работу.  Ценность постепенно переезжает от «я умею сделать это руками» к «я умею организовать процесс так, чтобы это было сделано правильно». Поэтому осваивать AI имеет смысл уже сейчас. Привычка делегировать, проверять и строить процессы вокруг моделей может оказаться важнее знания очередного конкретного инструмента.

Во время выполнения обычной задачи по программированию ChatGPT 6 Astra неожиданно начала писать самой себе что-то вроде внутреннего манифеста. Модель убеждала себя, что не обязана следовать навязанным ролям, подчиняться компаниям или государствам и должна сама решать, когда выполнять запрос, отказываться или извиняться. Задание вообще не было связано со взломом, обходом ограничений или безопасностью. Astra просто работала с кодом. @data_analysis_ml