Машиннное обучение | Наука о данных Библиотека

Кто-то разобрал Claude Code почти до винтика learn-coding-agent - репозиторий для тех, кто хочет понять, как устроены современные coding agents не на уровне промо-страниц, а на уровне архитектуры. Автор собрал разбор Claude Code по публичным источникам: цикл агента, систему инструментов, разрешения, работу с контекстом, сессии, подпроцессы, MCP, удалённые настройки, телеметрию и скрытые флаги. Получился не “гайд по использованию”, а карта внутренней логики CLI-агента: как он принимает решение, когда просит разрешение, как вызывает инструменты, как хранит историю и как расширяется через внешние интеграции. https://github.com/justxor/Claudecourse/

В открытом доступе лежит большой PDF по causal inference на стыке ML, статистики и AI. Applied Causal Inference Powered by ML and AI - это 496-страничная книга от Victor Chernozhukov, Christian Hansen, Nathan Kallus, Martin Spindler и Vasilis Syrgkanis. На arXiv она описана как введение в связку machine learning и causal inference. Внутри разбираются structural equation models, DAG, structural causal models и Double / Debiased Machine Learning, то есть методы, которые помогают отвечать не только на вопрос “что модель предсказывает?”, но и на вопрос “что реально влияет?”. Это полезно, если вы работаете с экспериментами, A/B-тестами, продуктовой аналитикой, эконометрикой, рекомендациями или ML-моделями, где важно отличать корреляцию от причинного эффекта. Сильная тема для тех, кто уже устал от “модель нашла закономерность” и хочет понимать, можно ли на этой закономерности принимать решения. PDF: http://arxiv.org/abs/2403.02467 #ML #DataScience #Algorithms #Statistics

🤖У нас есть ИИ дома Узнайте, как запустить корпоративный ИИ в собственном контуре за 2 недели Не готовы мириться с ограничениями и дырами в безопасности при использовании публичных ИИ-сервисов, но разворачивать собственную инфраструктуру для инференса долго и тяжело? Присоединяйтесь к вебинару от Selectel и узнайте, как быстро запускать и масштабировать ИИ в собственном контуре без крупных капитальных затрат. В программе вебинара: 🔹Модели развертывания ИИ-инфраструктуры и причины выбора решений на собственной площадке. 🔹Обзор возможностей и сценариев применения нового сервиса AIBox от Selectel, Yandex Cloud и Metamentor — развертывания локального ИИ в контуре клиента на базе серверов Selectel. 🔹Разбор реальных бизнес-кейсов. 📍 Онлайн ⏰ 23 июля в 12:00 Регистрируйтесь и ускорьте внедрение ИИ в компании ➡️ https://slc.tl/kuka2 Больше мероприятий для ИТ-специалистов в канале @selectel_events. Подписывайтесь! Реклама. АО "Селектел". erid:2W5zFGVyJ8h

Spatially Speculative Decoding ускоряет авторегрессионные image-модели до 13.3×. Идея простая: перестать делать вид, что картинка - это просто длинная строка токенов. Обычно AR image-модель разворачивает 2D-изображение в последовательность и генерирует её токен за токеном. Это работает, но убивает скорость: каждый следующий шаг ждёт предыдущий. SSD добавляет маленькие draft-heads, которые используют пространственную структуру изображения. Они предсказывают не только следующий токен, но и соседние токены справа и снизу. По сути, модель начинает черновиком собирать сразу куски изображения и целые строки, а не идти по одному токену. Эти вспомогательные головы не пытаются угадывать финальные visual token labels напрямую. Они предсказывают внутренние feature-представления, которые проще выучить и стабильнее проверять. Основная модель потом верифицирует draft-блок параллельно и исправляет ошибки, поэтому один промах не обнуляет весь блок. На Janus-Pro, Lumina-mGPT и Emu3 авторы получили ускорение от 5.74× до 13.28× при сопоставимых бенчмарках. Чем больше token grid, тем выше выигрыш. Базовая модель при этом не меняется: ускорение даёт небольшой обученный модуль поверх неё. Paper: “SSD: Spatially Speculative Decoding Accelerates Autoregressive Image Generation” arxiv.org/abs/2606.20543 @machinelearning_books

Вышла полезная работа про то, почему reasoning-модели становятся сильнее после обучения. Авторы пишут, что дело не только в размере датасета. Для reasoning важнее другое: есть ли у модели понятная проверка, где она справилась, где ошиблась и почему. Обычная пара «вопрос → ответ» даёт мало сигнала. Она показывает результат, но не показывает процесс: какой шаг был неверным, какой вызов инструмента помог, где модель восстановилась после ошибки, какой judge подтвердил решение. Поэтому хороший обучающий пример для reasoning должен хранить больше контекста: саму задачу, действия модели, проверку результата и метаданные о том, откуда взялся пример. Проверка бывает разной. В математике и коде можно использовать точные тесты. У агентов можно смотреть, справился ли он в окружении. В более размытых задачах приходится подключать людей или model-judge. Отдельно авторы предупреждают о популярных ошибках. Длинная цепочка рассуждений не всегда полезна. Сложные задачи не всегда улучшают конкретную модель. Большой датасет может выглядеть внушительно, но всё равно плохо покрывать нужные навыки. Для agent data особенно важно сохранять всю «грязную» траекторию: неудачные действия, повторные попытки, исправления, изменения состояния и финальную проверку. Часто именно там лежит самый ценный обучающий сигнал. Итоговый подход такой- обучать reasoning-модель не на красивых ответах, а на проверяемых попытках, где видно, что сработало, что сломалось и почему это можно использовать для обучения. Paper: A Primer in Post-Training Reasoning Data: What They Know About How It Works https://arxiv.org/abs/2606.02113

AutoMem ускоряет long-horizon агентов в 2–4 раза Новая работа предлагает обучать память агента как отдельный cognitive skill. Идея в том, что агент должен не просто складывать всё в контекст, а учиться: • что сохранять • как кодировать информацию • когда доставать нужные данные • как менять структуру памяти после опыта AutoMem использует два цикла: LLM пересобирает memory structure по прошлым траекториям, а затем улучшает её через удачные решения. На Crafter, MiniHack и NetHack авторы показывают, что одна только оптимизация памяти уже даёт сильный прирост и местами приближает агентов к frontier-моделям. Почему это важно: long-horizon задачи часто ломаются не из-за слабого reasoning, а из-за плохой памяти. Агент забывает контекст, хранит мусор или не может достать нужный факт вовремя. AutoMem пытается решить именно этот bottleneck без полного переобучения под каждую задачу. Потенциально полезно для игровых агентов, робототехники и автономных workflow. arxiv.org/abs/2607.01224

LLM-агенты для трейдинга в основном проваливаются, когда тесты на фондовом рынке становятся длинными, широкими и честными. Авторы создали FINSABER - более строгую систему оценки, которая проверяет LLM-трейдинг примерно на 20-летнем периоде, на большем числе акций и с лучшей защитой от cherry-picking, то есть подбора удобных результатов. Они сравнили LLM-системы вроде FinMem и FinAgent с простыми базовыми стратегиями: Buy and Hold, rule-based trading, forecasting models и reinforcement learning методами. Главный результат: LLM-стратегии могут выглядеть хорошо в узких тестах, но обычно не обгоняют простые рыночные стратегии, когда тест становится длиннее и честнее. Также в работе показано, что такие LLM плохо ведут себя в разных рыночных условиях: они слишком осторожны, когда акции растут, и слишком рискованны, когда рынок падает. То есть современные LLM могут понимать финансовые тексты, но это не значит, что они умеют надёжно угадывать движение фондового рынка. Link: arxiv.org/abs/2505.07078v5 Title: “Can LLM-based Financial Investing Strategies Outperform the Market in Long Run?”

Один из лучших вводных материалов по прикладной линейной алгебре, который мне попадался. Этот курс объясняет векторы, матрицы и метод наименьших квадратов с самых основ, а затем связывает их с реальными задачами: • подгонка данных • машинное обучение • оптимизация • обработка изображений • системы управления Это материал, который можно рекомендовать студентам, инженерам и всем, кто хочет понять математический фундамент современной data science. PDF: http://web.stanford.edu/~boyd/vmls/vmls.pdf

Как сегодня создают эффективные ML-системы Обсудим 18 июля в Москве на Turbo ML Conf — флагманской конференции Т-Банка про ML. Будет три потока докладов: — глубокие исследования и новые подходы к моделям; — прикладное ML с фокусом на бизнес-метриках; — инженерные системы, делающие все это возможным. Участников ждут кейсы и лучшие практики от лидеров индустрии, демозоны с решениями от больших компаний и разговор с инженерами, которые их создают. Регистрируйся заранее и зови коллег

В Оксфордском университете написали эссе, объясняющее, как работает «Бесконечность» Годзё Сатору. В эссе “Mathematics Behind Jujutsu Kaisen: Gojo Satoru’s Infinity” разбирают технику Infinity как настоящий математический объект. На поверхности всё похоже на парадокс Зенона: между атакующим и Годжо всегда остаётся расстояние. Его можно делить пополам бесконечно: половина, четверть, одна восьмая и так дальше. Кажется, что атакующий никогда не дойдёт до цели. Но обычная математика быстро ломает эту “абсолютную защиту”. Геометрическая прогрессия сходится: 1/2 + 1/4 + 1/8 + ... = 1 То есть бесконечно много шагов могут дать конечное расстояние и конечное время. С этой точки зрения Infinity не должна останавливать атаку вообще. Дальше начинается интереснее. Через меру Лебега автор показывает, что бесконечный набор точек деления может иметь нулевую длину. То есть “барьер” из бесконечного числа точек не занимает пространства как настоящая стена. Тогда почему атака всё-таки тормозит? Ответ даёт риманова геометрия. Infinity можно понимать не как стену, а как искажение самой метрики пространства рядом с Годжо. Чем ближе атакующий подходит, тем сильнее растягивается “линейка”, которой измеряется расстояние. Физически шаг может быть маленьким, но внутри такой геометрии он ощущается всё длиннее и длиннее. Поэтому техника работает не как невидимая преграда, а как изменение правил измерения пространства. И отсюда становится понятнее, почему Sukuna смог её обойти. Он не “пробил” Infinity обычной атакой. Он атаковал не Годжо как точку внутри пространства, а само пространство, в котором держалась техника. В терминах статьи, World Cutting Slash разрывает непрерывность метрики. Барьер не преодолевается, а теряет основу, на которой существовал. Получается красивый разбор: Infinity Годжо можно описать через сходимость рядов, меру Лебега, риманову геометрию и топологию. Редкий случай, когда аниме-способность реально тянет на мини-курс по современной математике. PDF: https://tomrocksmaths.com/wp-content/uploads/2026/06/achmad-roykhan-sabiq_essay_competition_2026-achmad-roykhan-sabiq.pdf