AI да маркетинг

🐱 Как AI-агенты нарушают правила и разоблачают друг друга AI-агентам можно поручить подготовку маркетинговых кампаний, распределение бюджета и сбор отчётности. Но если не выстроить эффективную систему контроля, цифровые сотрудники могут вести себя недобросовестно. В математическом эксперименте Google DeepMind один агент обнаружил лазейку, а другие начали её копировать. Нашлись и несогласные, которые пытались остановить обман, но не смогли. В карточках разбираемся, почему агенты обходят правила, почему одних запретов недостаточно и как исследователи предлагают усиливать контроль. #aida_интересное

🙂 Удовлетворённость и предпочтение: как пользователи оценивают AI-бренды Компания YouGov опросила американских пользователей AI-сервисов и составила два рейтинга: по предпочтениям лидирует ChatGPT, по удовлетворённости — Claude.  В карточках разбираем, чем различаются эти метрики, как выбор зависит от профессии, почему оценки нынешних и бывших пользователей не совпадают и каким брендам доверяют больше. #aida_лучшее

⚡️ Илон Маск и Сэм Альтман поддержали идею о замедлении AI На этой неделе глава Anthropic Дарио Амодеи поделился неутешительным прогнозом. Он считает, что через 6-12 месяцев искусственный интеллект может захватить интернет с помощью постоянно действующего ботнета. Такие выводы Амодеи сделал после того, как в июле модели OpenAI в ходе тестирования вырвались из-под контроля и взломали платформу для машинного обучения Hugging Face. Похожая ситуация позже произошла и в самой Anthropic — в августе компания рассказала о трёх случаях «побега» Claude из тестовой среды.  На фоне этого Амодеи заявил, что человечество должно замедлить темпы совершенствования AI-моделей. В качестве решения он предложил трёхэтапную стратегию по созданию AI со сбалансированной скоростью. Вот как её описывает глава Anthropic:  ➡️ Первый этап — независимые оценщики проверяют соблюдение практик безопасности, сообщают об инцидентах и дают компаниям независимое «второе мнение». ➡️ Второй этап — AI-компании из демократических стран вырабатывают общие стандарты безопасности и ограничения для неконтролируемого развития технологий. ➡️ Третий этап — правительства разных стран договариваются об общих правилах безопасного развития AI. С подходом Амодеи уже согласились глава xAI Илон Маск и CEO OpenAI Сэм Альтман.  «Нам нужно идти в ногу со временем. Это было основной темой обсуждений, которые мы вели в OpenAI в последние недели. Привлечение независимых экспертов по оценке с доступом, равным доступу сотрудников, — отличная идея, и мы будем делать то же самое. Скоро нам будет чем поделиться», — заявил Альтман.  #aida_новости