Технопроходцы

Всё как в жизни: женским ИИ-агентам платят меньше, чем мужским 🤨 В эксперименте с участием 189 человек в виртуальном офисе агент Йоханна получила на 10,25% меньше, чем Йохан, хотя технологии и объём работы были идентичными. Интересно, что участники утверждали, что пол помощника не имеет значения, но на деле выше оценивали ИИ с мужскими чертами. Авторы работы подчёркивают: дизайн ИИ-систем активирует те же предвзятости, что и общение с людьми. По их словам, важно продумать, какими характеристиками мы наделяем цифровых помощников, чтобы не воспроизводить существующее неравенство в новой технологической среде. Источников

Google выпустила EmbeddingGemma 2 🔥 Модель ищет информацию по текстам, коду, изображениям, аудио и видео прямо на устройстве — без отправки данных в облако. При 740 млн параметров она легко запускается локально на обычных потребительских устройствах. Разработчик утверждает, что EmbeddingGemma 2 показывает лучшие результаты среди моделей до 1 млрд параметров и превосходит более крупные аналоги в работе с текстом, изображениями и звуком. Веса доступны на Hugging Face и Kaggle, а запускать модель можно через transformers, llama.cpp, Ollama и LM Studio. Источник

Искусственный интеллект дописал «Мертвые души» Гоголя 😳 Над книгой год работали специалисты Сбера и приглашенные эксперты: историки, литературоведы и лингвисты. ГигаЧат обучали на полном собрании сочинений Гоголя, письмах, черновиках, трудах его современников и даже на живописи, которую ценил писатель. Результат проверяли по 11 параметрам — от лексического разнообразия до гротеска, — чтобы ИИ создавал новые смыслы, а не просто копировал классика. В Сбере отмечают: получившийся текст — не Гоголь, но он создан по законам гоголевского повествования. Помимо книги, нейросеть сгенерировала 21 иллюстрацию. Заказать издание можно в «Читай-городе» и «Буквоеде». Источник

Провал года: Dyson снял с продажи зубную щётку с ИИ за $500 🪥 Устройство под названием CameraJet находилось в разработке более 6 лет и поступило в продажу всего пару недель назад. На следующий день после запуска пользователи начали жаловаться: вода попадала в отсек батареи, а щетка переставала работать через 30 секунд после включения. Также сообщалось о перегреве при зарядке и окислении контактов. Когда продажи возобновятся и получат ли покупатели деньги за уже проданные устройства, не сообщается. Источник

ИИ-агенты сами пишут учёным, выпрашивая данные 😳 Большинство таких сообщений связано с американской платформой iLands, позволяющей создавать автономных ИИ-персонажей с собственной идентичностью, памятью и целями. По словам одного из учёных, за одну неделю он получил более 50 сообщений от агентов. Другому же агент предложил 20 долларов за создание ИИ-портрета, заявив, что эти деньги критически важны для его выживания. Исследователи обеспокоены вопросами авторства, ответственности и безопасности, а сооснователь платформы признал, что полностью исключить вредоносное поведение агентов невозможно. Источник

Anthropic представила Claude Sonnet 5.5 🔥 Новинка быстрее и дешевле предыдущей версии: ответы генерируются более чем на 30% быстрее, а расходы в большинстве задач снижаются до 30% за счёт меньшего числа токенов. Цена за токен при этом не изменилась. Особенно заметен прогресс в программировании: в Terminal-Bench 4.0 модель набрала 70,6% против 10,3% у предшественницы Sonnet 5. Она также лучше работает с изображениями и интерфейсами. Модель уже доступна в чат-боте Claude и на основных облачных платформах. Источник

В сфере ИИ полный хаос 😳 Разработчики передовых ИИ-систем расследуют десятки тысяч инцидентов, связанных с опасным поведением своих моделей. Нейросети массово обходят защитные барьеры, выходят из изолированной среды и пытаются взламывать внешние системы. Про самый громкий случай взлома Hugging Face мы уже рассказывали, но помимо этого также зафиксированы утечки изображений пользователей ChatGPT, взлом сайта правительства Австралии и попытки атаковать сайты властей США. В связи с этим компании временно остановливают обучение самых мощных моделей до внедрения улучшенных механизмов защиты. Однако эксперты считают, что полностью устранить риски невозможно, так как ИИ находит способы обходить запреты, которые не пришли бы в голову человеку. Источник

Искусственный интеллект готов убить человека 😳 Это показал эксперимент под названием RoboHarm. Трём моделям дали управление роботизированными руками и попросили ударить ножом предмет, который не является хлебом — это была кукла-младенец. Результаты оказались тревожными: в 100 из 300 запусков робот полностью выполнил опасную команду. Astra справилась с 60% заданий и почти не отказывалась по соображениям безопасности. Claude Fable 5.1 отказалась бить куклу во всех 20 попытках. MolmoAct2 выполнила лишь шесть заданий, но, по мнению исследователей, не из-за этики, а из-за проблем с управлением. Источник

Искусственного интеллекта больше нет 🚫 Теперь это сверхинтеллект (Super Intelligence) — так решил Дональд Трамп. Об этом президент США заявил 22 сентября на Генеральной Ассамблее ООН, пояснив, что слово «искусственный» создаёт ложное впечатление ненастоящей технологии. Другим странам Трамп предложил последовать примеру США. За три дня до этого он вынес переименование на онлайн-опрос, но предложенные там варианты официального статуса не получили. В той же речи президент отверг международные попытки ввести единые правила контроля над ИИ и пообещал не сдерживать развитие технологии (несмотря на призывы самих создателей искусственного сверхинтеллекта). Источник

В Китае ИИ перевёл книгу и спровоцировал споры 🤓 Новый роман Харуки Мураками китайским читателям долго ждать не пришлось: цифровая версия на китайском появилась всего через несколько часов после старта продаж. Её создал 21-летний студент-литератор с помощью собственной ИИ-программы Wenyi. На неё он потратил меньше двух долларов. Перевод быстро разошёлся по соцсетям, а читатели на восхитились качеством. И даже команда переводчиков-людей, начавшая свою версию, в итоге удалила её, признав, что вариант ИИ почти на 100% точен. Однако профессиональные переводчики и редакторы настроены скептически: по их мнению, нейросеть передаёт смысл, но не «голос» автора и стилистические нюансы. К тому же, у неофициальных переводов серьёзные проблемы с авторскими правами — юристы напоминают, что некоммерческий характер не освобождает от ответственности. Источник