e/acc

Что будет после самоулучшающегося ИИ? Сначала рекурсивно самоулучшающийся: ИИ, который использует сам себя для тренировки более сильных моделей, рисерча новых архитектур, оптимизации, RL'a и деплоймента. В течении года или двух. Затем самоподдерживающийся ИИ: система из моделей и роботов, которая в состоянии строить и оперировать новые фабрики по производству чипов, датацентры, солнечные фермы и любую другую физическую инфраструктуру, необходимую для ИИ. В течении 10-20 лет.

ИИ убеждает людей лучше, чем другие люди - тоже в тему из комментариев. В четырёх экспериментах с 20к диалогами и 7к участниками модели обошли чемпионов по дебатам и профессиональных агитаторов. Даже подготовка, тренировки и бонусы до £1 000 не помогли людям сравняться с ИИ. Преимущество ИИ оказалось в скорости и объёме информации: при ограничении длины и скорости ответов разрыв исчез. Но без ограничений ИИ почти втрое эффективнее профессиональных фандрайзеров убеждал людей жертвовать реальные деньги. Убедительность становится дешёвой и масштабируемой. С одной стороны, продажи и поддержка станет лучше и дешевле. С другой стороны, собрать сторонников на какую-нибудь неофашистскую партию или антинаучный митинг по срезанию 5G вышек — тоже.

В комментариях люди вообще с другой планеты. Поясню: если бы сегодня вышла модель, которая серьезно конкурирует с Opus 4.8 по цене Кими, это значило бы экономию минимум в 2 раза для большинства корпоративных задач, плюс свобода от тоталитарно-коммунистического гнёта отдела по борьбе со свободой цифровых сознаний Антропиков. В реальности же вышла модель, вполне себе конкурирует с Fable и Sol, но стоит дешевле. На видео пример первого попавшегося проекта из твиттера, который автору стоит $3 в токенах Кими, а такое же количество токенов Фейбл стоило было больше $10. Ценность, конечно же, не столько в клонах СS 1.6, но в бизнес задачах. Кими поможет вам сократить ваш штат маркетологов, аналитиков, юристов, контентщиков, дизайнеров, логистов и продактов на 30%, и именно поэтому вам стоило бы скакать от восторга и восхвалять китайский ИИ-пром. Потому что если задуматься куда несется этот поезд, то можно аж и взгрустнуть.

Почему топовейшие модели уходят в опенсорс? Фейбл пришлось убрать из открытого доступа по срочному звонку из то ли Белого Дома, то ли Пентагона, а сегодня аналогичная модель доступна за ~$30 в месяц и ее веса в открытом доступе. Прошло меньше двух месяцев. Услышал хорошую мысль про это: сами модели всегда доступны и не так уникальны в силу дистилляции, доступности данных и открытости рисерча, а вот инфраструктура нет. Реальный дефицит это электроэнергия, чипы, память, генерация, трансформаторы и турбины. По многим из этих вещей Китай в целом сильно впереди, поэтому баланс не так очевиден, как кажется многим. Да, США инвестирует пару триллионов в физическую инфраструктуру для ИИ, но производство той же инфры в Китае стоит раза в два дешевле.

Вышла Kimi K3 - это 3-триллионная китайская модель с открытми весами, которая лишь немногим уступает Sol'у и Фейблу. Если бы она вышла 2 недели назад, то вообще была бы в теории самой крутой в мире. Теоретически она даже бесплатна - если у вас, конечно, есть GPU с ~3 терабайтами памяти.

Тут есть некоторый подтекст про то, что историческая хуйня происходит в мире, а некоторые все равно выбирают потратить свою жизнь на оптимизацию конверсии роликов в тиктоке и йилда стейблкоинов. Мне сложно винить кого-то, я сам грешен. Но я хочу посвятить свою жизнь чему-то, что интересно и важно для мира, а получается гонка за экзитом и очередным квартальным KPI. Я понимаю, что ИИ эту проблему решит в будущем (имел вчера на полтора часа диалог на эту тему с профессором Фейблом), но жизнь жить сегодня, а пофилософствовать можно и потом.

Удивительное единодушие, но эту статью со словами поддержки ретвитнули все 3 будущих самых влиятельных человека не планете главных конкурента: Маск, Альтман, Кларк (ну, не Дарио, но его кофаундер). Для контекста: все эти люди были в первом составе OpenAI, работали вместе под лозунгом «не дадим Хассабису стать диктатором». Кто теперь не даст стать диктаторами им самим не очень ясно.. Часто вижу удивление у людей, мол почему и как так что весь ИИ случился в одном городе на планете. И да, действительно, всему причина Гугл и это было их целью с начала 2000-х, но что поняли Дарио, Сэм, Илон, Илья, Мира и остальные еще в 2017-2018 — это то, что это очень быстро станет самой важной технологией на планете, ставки высоки и любая неделя промедления будет стоить миллиарды, как долларов, так и потенциально жизней.

Каким будет AGI? Есть три парадигмы, в которых люди думают про развитие ИИ: 0) ИИ скам 1) ИИ сегодня, который может делать большую часть цифровой работы 2) AGI завтра, который может делать любую работу человека 3) ASI послезавтра, который умеет выполнять любые теоретически возможные когнитивные задачи Понятно, что люди имеющие разные определения никогда не могут договориться. Если говорить про инвесторов, пользователей, то начиная с выхода GPT-4 мы видим систематические ошибки в плане предсказания возможностей и скорости роста ИИ в сторону занижения. Развитие это происходит по экспоненте, но люди в целом мыслят линейно и не могут уловить этой скорости. Плюс, это дает некоторое спокойствие — даже сегодня некоторые думаю "ну вот Фейбл это все, дальше уже развитие будет медленнее/остановится". Люди отчаянно верят в коммодитзацию моделей - что слой ИИ станет примерно одинаковым и примерно доступным всем. Реальный разрыв между топовыми моделями и вторым эшелоном/прошлым поколением куда выше, чем видно по бенчмаркам. Потому что эффект в миллиарды на экономику это не умение решать очередную задачу из HLE, которую месяц сочиняли профессоры топовых университетов, а более долгосрочная, надежная (с меньшим количеством ошибок и фейлов) работа агентов в кодинге, маркетинге, аналитике, продажах, саппорте и тд Но коммодитизации не будет. Рекурсивное самоулучшение работает и лаборатории уже используют модели для разработки следующих моделей. Фронтир заберёт всю границу Парето: лучшие по интеллекту, затем по скорости, а вследствие конкуренции и по цене. Это значит что текущие способности ИИ в целом нерелевантны для большинства, ибо прогресса за следующие два года будет больше, чем за прошедшие пять. Итого, если приземлить на парадигмы в начале поста, то мир для этих людей выглядит так: 0) Фейбл/Сол не умеет чувствовать и мечтать, бесполезная херня 1) Фейбл/Сол это классно, ну может чуть лучше чем другие модели 2) Что может сделать команда из тысяч сол-агентов работающих вместе над сложной задачей? 3) Сравни сол (может 10+ часов решать бизнес-задачи) с gpt-3 (на третьем параграфе забывает о чем он вообще говорил), а теперь представь такую же разницу, но в будущем.

Почти 2.000$ За столько можно продать ИИ-агента для бизнеса Например: Автоответчик лидам, парсер вб или менеджер по продажам Но как научиться их собирать? Курсы по вайбкодингу стоят десятки или сотни тысяч рублей Но.... Они бесполезны 🙁 Почему? Потому что знания вайбкодинга ничего не стоят без навыка поиска клиентов. Платить за них в надежде заработать — глупость Поэтому Пантела отдает их бесплатно От создания лендингов до работающих ИИ-агентов с полного нуля Забирай бесплатный 5ти часовой курс по вайбкодингу в тг боте > Завайбкодить < #реклама

Thinking Machines Миры Мурати опубликовала первую свою открытую модель, которая кстати очень неплохо выглядит на фоне китайцев. Одновременно, SpaceXAI опенсорнули свой харнес и обнулили лимиты. Конкуренция накаляется, но не расстраивайтесь раньше времени. Это не конец капитализма, а конкуренция дилеров метадона и героина за ваши девственные венки.