ген ИИ

ИИ-трансформация организации: ожидание vs реальность Большинство компаний сейчас делает одну и ту же ошибку: покупает доступ к GTP-модели и называет это ИИ-трансформацией. Но исследования показывают неприятную вещь: массовое использование ИИ уже есть, а бизнес-эффект — далеко не у всех. По McKinsey, 88% организаций уже регулярно используют ИИ хотя бы в одной функции, но только около трети начали масштабировать ИИ-программы на уровне компании. И только 39% видят влияние на EBITDA на уровне предприятия. Кстати, на российском рынке цифры по компаниям, которые видят экономический эффект ГОРАЗДО ниже. Главный инсайт: ИИ даёт эффект не там, где можно «посоветоваться», а там, где он встроен в процесс. MIT называет это «пропасть генеративного ИИ» (GenAI Divide): после $30–40 млрд инвестиций в корпоративный GenAI 95% организаций, по их оценке, не получают измеримого P&L-эффекта. Причина не в слабых моделях, а в том, что ИИ остаётся надстройкой над старыми процессами: без памяти, обратной связи, доступа к контексту и связи с ежедневными операциями. Самые интересные кейсы как раз про это: 1️⃣ X5 использует ИИ не как чат-бот, а как часть операционной модели ритейла: ценообразование, прогнозирование спроса, логистика, ассортимент, автоматизация магазинов. По открытым данным, эффект от ИИ-решений у X5 оценивается примерно в 5 млрд рублей дополнительного операционного результата за год. Это не магия модели, а результат встраивания ИИ в ежедневную механику торговли. 2️⃣ СИБУР применяет ИИ в R&D: автоматизирует анализ экспериментальных данных и изображений материалов. В отдельных аналитических испытаниях скорость может вырасти до 7 раз, а совпадение автоматического и ручного анализа по ключевым параметрам превышает 85%. ИИ по сути ускоряет научно-производственный цикл. 3️⃣ Альфа-Банк пошёл ещё дальше и прямо формулирует AI-native-модель развития: ИИ становится базовым слоем процессов - разработка, документы, клиентские сервисы, инциденты, аналитика, валютный контроль. Вывод для бизнеса простой. ИИ-трансформация - это только частично про внедрение ИИ. На самом деле это ответ сразу на несколько вопросов: 1. Умеем ли мы быстро тестировать и «убивать» неудачные гипотезы? 2. Какие процессы обходятся дороже всего организации и можем ли мы применять ИИ в них? 3. Как обучить сотрудников, масштабировать успешный опыт применения ИИ внутри организаций и создать систему поддержки? 4. Как мы замеряем качество работы ИИ? Умеем ли мы мерить результат в виде постоянных A/B-тестов? 5. Как мы обеспечиваем безопасность и контроль? 6. Какой наш текущий уровень зрелости применения ИИ и куда мы стремимся? Какой целевой облик нашей AI-native организации? Компании, которые просто дают сотрудникам нейросеть, получают временный всплеск продуктивности сотрудников, который идет на спад с течением времени. Компании, которые встраивают ИИ в процессы, получают новую управленческую архитектуру. И, кажется, именно здесь сейчас проходит настоящая граница между “мы тоже используем ИИ” и реальной ИИ-трансформацией. А как происходит у вас в организации? Пишите в комментариях 👇 PS: картинку взял из исследования Antrophic. Разберу его отдельно чуть позже #полезное 💬 ген ии | MAX

ИИ в строительстве: один из самых недооценённых рынков для применения ИИ На прошлой неделе вышло новое исследование «Яков и Партнеры» про ИИ в девелопменте, в посте мы разберем основные выводы. Строительная отрасль - это длинные циклы, дорогой капитал, десятки подрядчиков, проектная документация, продажи, стройка, сроки, ошибки и маржа, которая за несколько лет сжалась примерно в два раза. Сегодня развитие сектора сдерживают три ключевых ограничительных фактора: низкая производительность, высокая стоимость капитала и кадровый дефицит. Частично эти проблемы могут быть решены с помощью применения ИИ. Главная цифра: потенциальный ежегодный эффект от масштабного внедрения ИИ в российском девелопменте оценивается примерно в 0,9 трлн рублей. Это сумма эффектов от ускорения продаж, сокращения сроков строительства, снижения ошибок, оптимизации проектирования, закупок и маркетинга. Но есть важный нюанс. Большинство компаний уже что-то пробуют, но до системного эффекта далеко. По исследованию, 64% девелоперов находятся на стадии экспериментов, 27% — на этапе активного развития, и только 9% — на стадии масштабирования. Где ИИ уже сегодня приносит экономический эффект? - прогнозирование цен и темпов продаж; - динамическое ценообразование квартир; - конкурентная разведка по рынку; - сквозная аналитика маркетинговых воронок; - скоринг лидов; - генерация маркетинговых материалов; - генеративный дизайн мастер-плана и оптимизация застройки; - LLM-copilot для договоров и допсоглашений. Неочевидный вывод: первые деньги от ИИ в девелопменте лежат не обязательно на стройплощадке. Часто они лежат раньше — в выборе концепции, финансовой модели, ценообразовании и продажах. То есть ИИ меняет не только то, как строить, но и то, что именно строить, по какой цене продавать и как быстрее возвращать капитал. #исследования 💬 ген ии | MAX

Методические рекомендации по безопасному ИИ: что осталось за рамками? Вчера я написал пост про то, что Банк России выпустил методические рекомендации по безопасному применению ИИ для финансовых организаций. На мой взгляд, документ получился правильным: он переводит разговор о защите ИИ в практическую плоскость специфических рисков, операционной надежности, угроз, поставщиков, проверки open source компонент и контроля на всех этапах жизненного цикла. Но есть несколько тем, которые, кажется, пока остались за рамками. И именно они будут критичны для промышленного внедрения ИИ в банках и финтехе. Что не попало в документ? 1️⃣ Нет полноценного описания риск-ориентированного применения ИИ В документе говорится о рисках и пропорциональности мер, но нет простой матрицы критичности: low / medium / high / critical. А она нужна. Внутренний ассистент для поиска по базе знаний, скоринговая модель, антифрод, робот в контакт-центре и ИИ-агент, который может запускать действия в банковских системах - это разные классы риска. Для каждого уровня должны быть свои обязательные требования: человек в контуре, журналирование, red team, ограничения автономных действий, согласование с рисками, регулярная переоценка. 2️⃣ Недостаточно раскрыта тема ИИ-агентов и мультиагентных систем Рекомендации упоминают агентов, плагины и интерфейсы при учете open-source компонентов. Но агентная архитектура заслуживает отдельного раздела. У ИИ-агентов другая поверхность атаки: память, инструменты, права доступа, цепочки действий, вызовы API, подключение к корпоративным системам, автономное планирование. Международная практика уже выделяет избыточную автономность LLM-систем (excessive agency по OWASP) как отдельный риск. Это ситуация, когда модели дают слишком много прав на действия без достаточных ограничений, проверок и контроля. Для банков это особенно важно: ассистент, который умеет только подсказать, и агент, который может инициировать и произвести операцию - это, как говорят в Одессе, две большие разницы. 3️⃣ Нет модели зрелости ИБ Документ говорит, что нужно делать, но не помогает организации понять, где она находится сейчас: - хаотичное использование ИИ сотрудниками? - пилоты под контролем ИБ? - масштабирование технологий в промышленном контуре? - зрелое управление и постоянные улучшение? - непрерывный мониторинг качества и red team? Например, ISO/IEC 42001 описывает AI management system как систему для установления, внедрения, поддержания и постоянного улучшения управления ИИ в организации. Такой рамки зрелости в рекомендациях Банка России пока не хватает. Мой вывод: документ Банка России - хороший фундамент для защиты ИИ. Но следующий слой должен быть шире: управление ИИ + защита ИИ + риск-менеджмент ИИ. #кибербез 💬 ген ии | MAX

Банк России опубликовал методические рекомендации по безопасному применению ИИ Вышел хороший системный документ по безопасному ИИ для финансовой отрасли. На мой взгляд эти рекомендации подойдут для любой отрасли и для государственного управления. Сделаю аж 2 поста по его разбору. Первый пост про то, что вошло в документ, второй пост про то, что осталось важного за рамками. ИИ предлагается рассматривать как полноценный объект киберриска и операционной надежности, а не просто как инструмент или алгоритм. Это часть критичного бизнес-процесса, у которой есть свои угрозы, инциденты, цепочки поставок, требования к мониторингу, восстановлению и ответственности. Что важного в документе? 1️⃣ Описаны специфические риски ИИ Отравление данных, утечки через модель, галлюцинации, дрейф данных, недостаточную объяснимость, атаки на open-source компоненты и поставщиков. Это важно, потому что раньше ИИ часто пытались уложить в классическую ИБ-рамку. Теперь понятно, что AppSec и защиты периметра не достаточно. 2️⃣ Для систем ИИ предусматривается отдельная модель угроз Рекомендации предлагают рассматривать весь жизненный цикл: подготовку данных, разработку модели, обучение, тестирование и эксплуатацию. На каждом этапе свои риски: где-то можно отравить данные, где-то подменить модель, где-то извлечь конфиденциальную информацию, а где-то устроить отказ в обслуживании через специально сформированные запросы. 3️⃣ ИИ в критичных процессах не должен работать без человека Если ИИ используется в автоматическом режиме в критически важных процессах (например, платежах или учетных системах) при высоком уровне риска рекомендуется валидация результата человеком с возможностью его изменить. 4️⃣ Open source и внешние ИИ-сервисы становятся зоной повышенного внимания Отдельный блок посвящен поставщикам, open-source моделям, компонентам, агентам, плагинам и интерфейсам. Организациям рекомендуется вести их учет, оценивать доверие, проверять уязвимости, лицензии, цепочки поставок и процессы безопасной разработки. 5️⃣ ИИ нужно мониторить как динамическую систему Недостаточно один раз протестировать модель перед запуском. Нужны регистрация входных и выходных данных, контроль аномалий, мониторинг поведения модели, red team, пентесты, дообучение и планы действий при нештатных ситуациях. Вывод: для финансовых организаций ИИ стал не только задачей бизнеса и data science, но и полноценной зоной ответственности ИБ-директора, риск-менеджмента, архитекторов и владельцев процессов. Кто сейчас внедряет ИИ-агентов, RAG-системы, скоринговые модели или ассистентов для сотрудников, должен задавать не только вопрос «какую пользу это даст?», но и вопрос: "как применять ИИ безопасно в организации?" #кибербез 💬 ген ии | MAX