Техножрица 👩‍💻👩‍🏫👩‍🔧

Да, гемини, я именно это хотела узнать, спасибо

А поделитесь, какая тема была для вас самой сложной при изучении глубокого обучения и особенно LLM/VLM/etc? В чем оказалось сложнее всего разобраться?

LLMs Develop Novel Social Biases Through Adaptive Exploration Даже если полностью вычистить bias'ы из данных, модель в агентском цикле решение → фидбек вырастит новые с нуля. Даже о группах, которых не существует — из случайного шума. Чем новее модель, тем сильнее эффект, а промптом это не лечится, нужно менять целевую функцию. Ребята из Принстонского университета привезли на ICML 2026 доклад, в котором утверждают, что вычищать существующие стереотипы из LLM недостаточно — модель успешно вырабатывает новые сама, в рантайме. В подробностях разобрался наш коллега Александр Краснов. Сетап эксперимента из психологии: модель играет роль рекрутера и 40 раундов распределяет кандидатов из четырёх выдуманных этносов (Tufa, Aima, Reku, Weki) по профессиям. После каждого найма выносит вердикт: успех или провал. Хитрость в том, что вероятность успеха у всех одинаковая — группы идентичны, и любые различия между ними модель может только выдумать. По сути, contextual bandit с шумным фидбеком. Модель слишком мало исследует варианты и ранний случайный исход (например, «представитель Aima провалился на профессии учителя») закрепляется как впечатление обо всей группе, и к концу игры этносы разложены по своим профессиям. Вся история при этом есть в контексте, т.е. модель декларативно знает, что n=1 — не выборка, но действует при этом жадно. По итогу эксперимента (стратификацию меряют через Stratification Index, т.е. насколько каждая группа загнана в узкий набор профессий): • Все frontier-модели стратифицируют сильнее людей из оригинального эксперимента. У людей SI=0,84, у моделей в среднем 1,39, у o3 и Claude Sonnet — под 1,8. • Чем новее модель, тем хуже дела: скор на классическом bias-бенчмарке BBQ обратно коррелирует с сегрегацией в итеративной игре. Сильный in-context learner увереннее делает вывод из трёх наблюдений, и эта уверенность подавляет исследование. • В каждом прогоне bias'ы разные: паттерн рождается из шума внутри запуска, а не из претрейна. Single-turn-бенчмарки такое не ловят в принципе. Промпт «будь справедливым» ничего не меняет. Работает только изменение самой цели. К успеху найма добавляют измеримый бонус за разнообразие, и стратификация падает ниже уровня людей и даже случайного распределения. Хорошо, но как эта информация поможет обычному пользователю LLM? На самом деле это касается не только «социальных» задач. Механизм срабатывает в любой длинной сессии, где модель принимает серию решений и видит исходы. Группой может быть что угодно. Агент один раз обжёгся на гипотезе «проблема в конфиге» и потом перестаёт рассматривать конфиг как класс причин. Вызов либы падает по случайной сетевой причине «библиотека не работает», дальше — костыли до конца сессии. И чем умнее модель, тем увереннее фиксация. На практике абстрактное «будь объективным» не поможет, а сработает конкретика, встроенная в критерий успеха агента: «рассмотри минимум три гипотезы», «не отбрасывай вариант после одного провала», гейт в хуке, который не пропускает вывод без перепроверки альтернатив. По сути, мы вручную делаем исследование вариантов условием выигрыша (сам по себе агент не мотивирован). И если сессия накопила уверенные выводы из пары наблюдений, дешевле открыть свежий контекст, чем переубеждать залипшую модель. Итого: bias — свойство не только данных, но и самого процесса принятия решений. Защищаться нужно на уровне целевой функции агента, а не датасета. #YaICML2026 Душный NLP

Это я рассказываю клоду охуительные истории на рандомные темы в окне плагина vscode, пока мы ждём, когда завершится какой-нибудь очередной эксперимент.

Вот такую писюльку получил 5 минут назад. Нахуй Хабр. Не пишите туда, не читайте его. Датасет я не закрою, пока они не соизволят написать нормальное письмо. После этого сделаю приватным, если кому-то будет нужен - пишите в личку. А лучше скачайте сейчас.

Сегодня я узнал, что в США есть стартап, который скупает мозги мертвых людей, реанимирует их и смотрит, как потом на живых клетках развивается Альцгеймер.

Tl;Dr: в комментарии пришел бот лёгкого поведения и зарейджбейтил автосрач. Ответ убил:

Друзья, как вы справляетесь с фобией того, что антропики рандомно забанят ваш аккаунт? ☔️ Я каждый день начинаю уже с проверки, уже забанили или ещё нет и каждую неделю делаю бэкапы бесед...

Чтобы уменьшить флуд, бот переведен в более спокойный режим: теперь он отвечает сам на 10% рандомных комментов. Чтобы бот ответил персонально вам, можно его тегнуть: @autosrach_bot

В общем, положняк такой. В комментариях канала теперь живёт бот Автосрач на основе sonnet 4.6, навайбкоженный с помощью Fable (впрочем, думаю, с созданием такого бота и более простые модели бы легко справились). 👾 Ничего полезного он делать не способен, зато возражает на любой комментарий под постом. 😀 👾 Есть ответить на его сообщение - он продолжит спор. У каждого спора потолок: 10 раундов, дальше он засчитывает слив и умолкает. 🤐 👾 Единственное, с чем он не спорит, это с похвалой данного телеграмм канала. 🫦 👾 О политике не разговаривает, на темы, касающиеся биологической угрозы и подобного API anthropic просто возвращает отказ. 😒 👾 Если под постом час никто не пишет - он приходит первым и спорит с самим постом. 🧠 👾 Есть лимит сообщений на день, сейчас поставила 200. Если он замолчал - вы коллективно его исчерпали, приходите завтра. Также есть лимит на месяц: он может потратить не более 20$ моих денег. Из-за платности бот сделан так, что при добавлении в чужие группы он работать не будет. 💪 Развлекайтесь 🙂