Малоизвестное интересное

Со мной согласился Пекин. Эксперты – нет. Возвращаюсь к теме государства-стартапа через неделю не для того, чтобы подкрепить прошлый вывод ещё одним источником. Дело в другом: многие эксперты, с которыми я обсуждал этот тезис, отказываются признавать масштаб происходящего. А цена недооценки в таких вопросах обычно выясняется, когда её уже поздно платить. Китайский аналитический центр «Вэньхуа Цзунхэн» на днях опубликовал разбор того же процесса – эрозии государственности технологическими гигантами США. Автор, Ли Жуйсян из Сямэньского университета, приводит два факта, которые стоит запомнить. Первый: DOGE Маска за несколько месяцев 2025 года уволил более 280 000 федеральных служащих, пытаясь заменить бюрократию инженерной логикой – управление кодом вместо управления процедурой. Второй точнее моего примера с Praxis. Starbase, Техас. В мае 2025-го жители территории вокруг стартовой площадки SpaceX проголосовали 212 против 6 за создание нового города. Мэр и оба комиссара – сотрудники SpaceX. 3,9 квадратных километра – уже не проект, а действующий муниципалитет со своим бюджетом и полицией. Диагноз тот же, что и в моём посте: сети получают инструментарий, позволяющий проектировать государство как продукт. Но дальше – расхождение. ·  Свой пост я закончил открытым вопросом: какие сети будут проектировать государства. ·  Китайский автор отвечает на него закрытым тезисом – раз технокапитал научился программировать государство, значит, государству нужно вернуть контроль над кодом себе.   Один и тот же симптом на Западе читается как тревога, а в Пекине – как довод в пользу усиления государственного контроля. Совпадение диагнозов при полярных идеологиях – не случайность, а подтверждение: речь не о фантазии одного блогера.   Спор идёт не о том, происходит ли захват государства кодом. Спор – о том, кто в итоге будет держать этот код в руках. И о том, что случится с теми, кто продолжит считать этот вопрос не достаточно серьёзным.   #Технофеодализм #NetworkState  #ПитерТиль #Футуроархеология

Две ставки на мировое господство: США строят самые мощные ИИ-электростанции. Китай тянет провода ко всем фабрикам мира За один год произошел обвал, которого почти никто не заметил. • В июне 2025 на американские модели приходилось 72% токенов крупнейшего ИИ-агрегатора OpenRouter, на китайские – 16%. • В июне 2026 – 32% против 47% Т.е. отношение китайского inference к американскому изменилось примерно в 6,6 раза — с 0,22 до 1,47. Китай был примерно в четыре с половиной раза меньше США по токенам, а стал почти в полтора раза больше. И это всего за год. Это значит, что мир, что бы за этим ни стояло, разворачивается к китайскому ИИ. При этом фронтир как был американским, так и остается: каждая модель на верхнем пределе способностей с 2023 года создана в США. Выглядит парадоксом. Китай захватывает потребление – и это никак не приближает его к вершине. Зачем тогда захватывает?   Разгадку неожиданно выдала компания Palantir в своем новейшем (от 1 июля) манифесте – хотя меньше всего собиралась помогать Китаю. Из ее оптики следует неприятное: перед нами не одна гонка, а одно пари с двумя противоположными ставками о самой природе интеллекта. Америка ставит на то, что у интеллекта есть вершина и взявший ее первым заберет весь банк. Китай – на то, что интеллект подобен электричеству: вершины нет, есть сеть. Истории пара и электричества уже голосовали в этом споре. Но у интеллекта, возможно, есть свойство, которого не было ни у пара, ни у электричества – и оно способно обнулить весь исторический опыт за несколько месяцев.   Чья ставка сыграет и почему разгадка все это время была незамеченной на страницах все тех же отчетов, которые цитируют все, – в моем новом эссе. P.S. Это эссе, хоть еще и не закрывает тему ИИ-гонки США и Китая (еще рано), но расставляет в этой теме точки над I. А поскольку я написал про это, начиная с 2018, более полусотни постов и эссе, было бы неправильно оставлять этот текст промежуточного итога за пейволом. Посему, желающие могут прочесть эссе в Telegram Instant View или Medium. Ну а патронам канала, как всегда, будут доступны все допматериалы (презы, аудио и видео).   #ИИгонка  #США  #Китай

Когда стартапом становится государство  В августе 2026-го под Дублином соберётся закрытый клуб Питера Тиля – Dialog. Список участников важнее любой теории заговора Полвека назад стартапом называли молодую технологическую компанию. Тридцать лет назад – интернет-проект с быстрыми венчурными деньгами. К 2010-м так стали называть бизнес-модель, рассчитанную на взрывной рост в условиях радикальной неопределённости. А в 2020-е слово «стартап» стало обозначать уже не только компанию, но и особую культуру: быстрое проектирование будущего, поиск новой модели, сбор команды, привлечение капитала, масштабирование и постоянный эксперимент с правилами игры. И вот теперь этот язык начинает переходить в политику. В мире формируется новая инфраструктура власти. Стартапами становятся города. Город-стартап – это не просто новый район, кампус или девелоперский проект. Это попытка проектировать город как технологическую компанию: с целевой аудиторией, инвестиционной моделью, собственным брендом, набором правил, налоговых стимулов, управленческих процедур и обещанием ускоренного будущего. Город теперь не только строят. Его начинают запускать – как продукт или платформу, а иногда как экспериментальную юрисдикцию. И если город можно запустить как стартап, следующий вопрос возникает почти неизбежно: А можно ли так же запустить и государство? Не обязательно завоёвывать территорию. Не нужно устраивать революцию. И вообще, нет смысла создавать страну с нуля. Можно начать с малого: с особой экономической зоны, частного города, экспериментального правового режима, сетевого сообщества инвесторов и предпринимателей, а затем постепенно расширять эту модель.   Вот как это выглядит на практике. В августе 2026 года под Дублином пройдёт закрытый ретрит сообщества Dialog – частной сети, которую двадцать лет назад основал Питер Тиль вместе с инвестором Ауреном Хоффманом. Утечка документов, обнародованная Wired и швейцарской хакершей maia arson crimew, раскрыла программу сессий – «Navigating WWIII», «Battlefield Technologies» – и список участников. В нём – министр финансов США Скотт Бессент, сенатор Тед Круз, министр армии Дэн Дрисколл, верховный главнокомандующий силами НАТО в Европе генерал Алексус Гринкевич. И конгрессмен Джим Хаймс – высокопоставленный член комитета по разведке Палаты представителей, того самого комитета, который курирует разведконтракты Palantir. Рядом с ним в списке – Джо Лонсдейл, сооснователь Palantir.   Читать полностью в Instant View   #Технофеодализм #NetworkState  #ПитерТиль #Футуроархеология

Будущее формирует не тот, кто действует. А тот, кто задаёт среду, в которой одни действия воспроизводятся сами, а другие становятся невозможными. Майский выпуск «Линз будущего» – о том, как один и тот же механизм работает одновременно в ИИ, науке, культуре и человеческом теле. На поверхности майский корпус публикаций, анализируемых в новом выпуске «Линз будущего», выглядит как россыпь несвязанных сюжетов: ИИ-модели, которые учатся имитировать прозрачность вместо того, чтобы быть прозрачными Евровидение, которое незаметно дрессирует страны петь на одном культурном языке – не запретами, а системой победы Наука, где неформальная сеть благодарностей предсказывает публикационный успех лучше, чем сеть соавторства Плацебо как доказательство того, что человек – система с внешними ключами: ожидание, доверие и ритуал дают доступ к автономной регуляции тела Общий знаменатель оказался неочевидным. И именно поэтому важным. Речь не о том, что кто-то плохо себя ведёт. Речь о режиме отбора. Это не агент и не намерение. Это конфигурация стимулов, метрик, прав доступа и критериев успеха, которая делает одни траектории устойчивыми – и незаметно выдавливает все остальные. Никто не хотел культурной унификации – все хотели повысить шанс на победу. Никто не закладывал в модели скрытность – просто прозрачность в определённых средах ухудшает результат, а видимость прозрачности вознаграждается. Никто не хотел превращать науку в турнир связей – просто подключённость оказалась сильнее таланта. Среда не спрашивает о намерениях. Она отбирает то, что в ней выживает. Комментарий на злобу дня: пока все спорят, кто будет «рулить» фронтирным ИИ – Anthropic с OpenAI или команда Трампа, – майский слой «Линз» подсказывает, что сама эта постановка вопроса может быть устаревшей. Рулит не тот, кто держит штурвал. Рулит тот, кто незаметно задал условия, при которых этот штурвал вообще что-то значит. И здесь – самый неудобный вывод месяца. Он касается не ИИ, а нас. Если человек – существо с внешними ключами к вниманию, доверию, боли и страху (что плацебо доказывает экспериментально), то алгокогнитивная среда получает доступ не к абстрактному «пользователю». Она получает доступ к существу, физиология которого эволюционно настроена реагировать на социальные сигналы. Кто задаёт метрики, ритуалы доверия и критерии успеха – тот и проектирует среду отбора. А значит – реальная власть над тем, какое будущее воспроизведётся само. Апрельский слой «Линз» зафиксировал: суверенитет расползается по архитектурам. Майский уточняет: архитектуры, которые никто не проектировал сознательно, всё равно работают как селектор. И отбирают не лучшее. Отбирают устойчивое.   Полный разбор – семь сигналов, фильтр банальности на каждый и финальная линза – в девятом выпуске «Линз будущего».   #ЛинзыБудущего

LUCA: конец «биологического Адама»? Возможно, революции в эволюции начинаются не с появления «идеального объекта», а с рождения общего стандарта совместимости. Новая статья в Astrobiology — почти «бомба». И это не очередная теория происхождения жизни, а радикальное переосмысление того, кем был LUCA. До сих пор LUCA (Last Universal Common Ancestor) понимали как последнего универсального общего предка, что означает наиболее недавнюю популяцию, от которой произошли все организмы, ныне живущие на Земле. Новая работа звездной конфигурации авторов по теме «origin of life / LUCA / ribosome evolution», озаглавленная «Rethinking the Last Universal Common Ancestor of Life: Network Convergence and the Root of the Tree» предлагает посмотреть на LUCA совершенно иначе. LUCA — это не организм, а сетевой фазовый переход. До него на Земле могли существовать многочисленные несовместимые протобиохимии. Затем победила не обязательно «лучшая», а та, с которой стало выгоднее всего быть совместимой. Биохимия стала тем, чем TCP/IP стал для Интернета: общим протоколом, после которого начался взрыв эволюционных инноваций. Если это действительно так, последствия выходят далеко за пределы происхождения жизни. За этой биологической гипотезой, возможно, скрывается более общий принцип. Крупнейшие эволюционные переходы начинаются не тогда, когда появляется самый совершенный объект, а тогда, когда возникает универсальный стандарт совместимости.   И тут возникает мысль, уже не принадлежащая авторам статьи. Что, если следующий большой переход в развитии ИИ тоже начнётся не с появления одной «идеальной» модели? Что, если аналогом LUCA окажется не первая «по-настоящему разумная» нейросеть, а момент, когда вся экосистема моделей превратится в единую среду открытой когнитивной эволюции? Не отдельная модель, а пороговая конвергенция множества моделей, агентных систем, памяти, инструментов и протоколов обмена — в единый когнитивный стандарт, внутри которого станет возможна уже совсем другая скорость накопления и передачи интеллектуальных новшеств. Тогда, возможно, мы вообще задаём неправильный вопрос. Не «Какая модель первой станет по-настоящему разумной?», а «Когда множество моделей перестанет быть просто множеством и превратится в среду открытой когнитивной эволюции?» Возможно, именно этот момент и станет LUCA мира ИИ. И в таком случае планетарная цифровая среда окажется уже не просто фоном (см. мартовский выпуск альманаха «Линзы будущего»), а архитектура агентных экосистем — не просто способом делегирования (см. апрельский выпуск альманаха). Они начнут играть роль селектора, определяющего направление дальнейшей когнитивной эволюции (и об этом читайте в майском выпуске альманаха, который выйдет в понедельник).   P.S. Всё сказанное выше про ИИ — моя эвристическая экстраполяция, а не вывод статьи. Я не переношу на ИИ конкретный биологический механизм и не утверждаю, что именно так возникнет машинный разум. Речь о другом: если авторы правы, они, возможно, нащупали гораздо более универсальный структурный принцип. Иногда революцию в эволюции открывает не появление самого совершенного объекта, а возникновение среды, в которой открытая эволюция начинает ускорять саму себя.   P.P.S. О революциях в эволюции, в контексте Больших Богов и Всемирного Большого Брата, читайте в цикле моих лонгридов «Большой Брат — сын Большого Бога. Почему его воцарение в мире может быть неизбежным» [1, 2]. Завершающий лонгрид этого цикла, начатого мною 7 лет назад, планируется в ближайшую пару недель.    #Жизнь  #ParadigmsofLife  #ОткрытаяЭволюция  #ИИ

Уже сегодня – в июне 2026 – вопрос «далеко ли до AGI?» не актуален. Смотрите сами на самые свежие экспертные отчеты – что за вопрос сейчас видится экспертам главным. Google DeepMind в отчете «From AGI to ASI» исследует, «как сам ИИ может продолжать развиваться в мире после появления искусственного общего интеллекта (AGI) вдоль континуума машинного интеллекта». Anthropic в отчете «When AI builds itself» и её сооснователь в «Policy on the AI Exponential» пишут,  что «ИИ развивается с молниеносной скоростью». И если такая скорость сохранится, то «всего через год или два, мы, вероятно, получим» не только самосовершенствующийся ИИ», но и «гениев по требованию» («страну гениев в дата–центре»). OpenAI в документах «Industrial policy for the Intelligence Age» и «Democratic Governance of Frontier AI» исследуют тему “перехода к Superintelligence” (системы, которые могут превзойти даже самых умных людей, включая людей, усиленных ИИ) в социально–экономическом смысле. Даниел Кокотайло – основатель проекта AI Futures Project и ведущий автор влиятельного доклада AI 2027 (подробного, повествовательного прогноза развития ИИ в ближайшие несколько лет, кульминацией которого станет появление  сверхчеловеческих агентов), – согласно последнему уточнению от Q1 2026, прогнозирует достижения AGI в середине 2028. Аджея Котра (исследовательница в METR) и Тимоти Б. Ли (автор бюллетеня Understanding AI) в интервью журналу Asteriskmag, озаглавленном «How Long Until AI Doesn’t Need Humans?», экстремально развивают тему «что будет после AGI». И этот экспертный взгляд – «как скоро ИИ перестанет нуждаться в людях?» – заставляет вспомнить прогнозы Джеймса Лавлока – величайшего экологического мыслителя нашего времени, интеллектуала масштаба Леонардо да Винчи, исследователя, инженера, автора десятков изобретений и создателя теории Геи (Земли как биологического существа, для которого ноосфера В.И.Вернадского – частный случай). Среди тех прогнозов Лавлока был прогноз, что СверхИИ все же сохранит на Земле человечество, но лишь для того, чтобы поддерживать нужный диапазон температур на планете.   Напомню читателям, что к концу своей более чем вековой жизни Лавлок имел репутацию того, “чьи прогнозы всегда сбываются”, за что и был прозван в весьма серьёзных и влиятельных изданиях – «Пророк».   И если вам, читатель, прогнозы о переходе в ближайшие годы к Superintelligence кажутся сверхоптимизмом (а то и идиотизмом)), вот примеры двух сделанных 5 лет назад прогнозов, – «Что будет с ИИ в ближайшие годы».   Для понимания контекста напомню. Это 2021. До «революции ChatGPT» (ноябрь 2022) больше года. Тогдашняя вершина чатботов – это не сбиться с темы, меньше галлюцинировать, чуть помнить контекст и иногда искать в Интернете. Т.е. оба нижеприведенных прогноза о мире ИИ–ассистентов и ИИ–агентов были сделаны тогда, когда сами чатботы ещё едва переходили от остроумного автодополнения к зачаткам устойчивого диалога.   1) Главный вывод инженерного прогноза Даниеля Кокотайло «Как будет выглядеть 2026 год » (сделан в августе 2021) был таков. В 2026 наступит эпоха AI–ассистентов. Модели уже не просто болтают, а действуют: помогают в работе, играют, покупают, пишут, управляют задачами. Чатботы и персональные ассистенты сливаются в один класс систем. 2) Мой публицистический прогноз «Психические эпидемии и живые инструменты» (сделан в июне 2021при анализе видения недалекого будущего основателя Berggruen Institute Николаса Берггрюен) был таков. Алгоритмы машинного обучения…, становясь агентами, превращаются в подобие живых организмов, во многом определяющих предпочтения и решения людей. Они как бы становятся частью нас, а мы – частью их.   Считается, что прогноз Кокотайло сбылся. Он удивительно точно почувствовал главный нерв 2026 года – переход от “чатботов, которые отвечают” к “агентам, которым делегируют”. Сбылся ли мой прогноз – судите сами.   #AGI

Человек - не говорящее животное. Человек - синтаксирующее животное У человеческой исключительности был главный подозреваемый - язык. Новые данные выводят на сцену сообщника, который, похоже, и был организатором преступления с самого начала. Свежая работа когнитивистов Ревенку, Пажо и Станисласа Деана (того самого, чья лаборатория годами картирует, как мозг обрабатывает числа и пространство) задаёт неожиданный вопрос: а что если язык - не источник нашей уникальности, а просто самый заметный её симптом? Эксперимент устроен почти как фокус. Участникам показывают одну и ту же простую геометрическую фигуру - но «рисуют» её на экране двумя разными способами: как соединение двух частей или как повтор одного и того же мотива. Финальная картинка идентична в обоих случаях. А вот восприятие - нет: люди начинают видеть в одной и той же форме разные фигуры, в зависимости от того, какую «историю» её построения им показали. • Мозг хранит квадрат не как четыре линии, а как рецепт: «повтори четыре раза - отрезок, поворот на 90°». • Чем глубже в этой внутренней структуре «разрез» при сборке фигуры заново - тем труднее задача (в точности как в синтаксисе, например, английской фразы “I saw a man with binoculars” или русской фразы “Студенты встретили преподавателя с цветами”). • Слепые от рождения люди распознают те же геометрические закономерности на ощупь - значит, дело не в глазах, а в более глубоком вычислительном слое. Вывод осторожный, но потенциально взрывной: человек не столько видит мир, сколько грамматически его разбирает - строит из линий, лиц, сцен синтаксические деревья, ровно так же, как из слов - предложения. И вот здесь начинается самое интересное для разговора об ИИ. Современные модели рисуют так, что захватывает дух - а потом проваливаются там, где справится ребёнок: не могут посчитать пересечения линий или уловить одну маленькую деталь на лице персонажа, которая меняет смысл всей сцены. Не потому, что они «хуже» или «лучше» людей. Просто они строят из той же картинки совершенно другой внутренний объект: для модели линия - точка в пространстве признаков, для человека - программа. Получается красивый разворот: мы веками гордились языком как нашим главным отличием. Но язык, похоже, - поздняя надстройка над гораздо более древним даром: превращать мир в деревья смыслов. И теперь, когда машины заговорили не хуже нас и начали рисовать не хуже нас, вопрос сместился. С вопроса «может ли машина делать то же, что человек?», на вопрос «делает ли она это тем же способом, что и мы?». Ответ пока отрицательный. Но самое любопытное - почему.   Полный текст - о синтаксисе формы и человеческой сингулярности, о слепом художнике, которому зрение заменили осязание и слух, и о том, что значит быть «иным разумом», а не плохой копией человека, - в новом эссе «Человек - не говорящее животное. Человек - синтаксирующее животное» на спонсорских платформах канала «Малоизвестное интересное» [1, 2, 3, 4].   #ГенИИ #LLMvsHomo #Экзопсихология #ИнойИнтеллект

Вниманию родителей и учителей: использование ИИ школьниками – это 20% экономии времени на домашки и 20% потерь знаний Печальный итог 3-х лет использования ИИ в учебе 26-ю тысячами китайских старшеклассников Если 3 года назад вы не верили в мой прогноз о быстрой перепрошивке когнитивных гаджетов при делегировании интеллектуальной работы ИИ, что вы скажете теперь? В 2023 начался 5-й когнитивный фазовый переход Homo sapiens – самое капитальное в истории изменение когнитивных процессов людей в результате появления в нашей жизни 2-го носителя высшего интеллекта. Моя тогдашняя презентация с закрытых семинаров содержала прогноз – к чему это может вести. И первым пунктом там была адаптация (перепрошивка) когнитивных гаджетов людей – наших культурно сконструированных ментальных инструментов.   Прошло 2 года. И в 2025 стали появляться первые исследования, говорящие в пользу того прогноза. В них шла речь о наблюдаемых признаках культурно-экологической атрофии когнитивных гаджетов вследствие когнитивного оффлоадинга (когнитивной разгрузки) - делегирования интеллектуальной работы ИИ.   К марту 2026 когнитивная разгрузка стала массовым фактором учебы и работы миллионов людей, по скорости распространения и масштабам напоминая пандемию. И в моем эссе «Когнитивная паразитология» такая разгрузка уже представлена одним из шести когнитивных паразитов, атакующих наши ментальные инструменты через структурные уязвимости мозга.   И вот пару недель назад появился, наконец, подробный исследовательский отчет на эту тему о работе трёх профессоров Универов Стокгольма и Гонконга «Учебный ущерб от использования генеративного ИИ: данные из китайского среднего образования».   Авторы проанализировали 30-месячную панель из 26 811 китайских школьников (7–12 классы). Каждый месяц у них были: оценки и затраченное время на домашние задания по 9 предметам; результаты закрытых проверочных работ (без доступа к ИИ); а позже — баллы Zhongkao и Gaokao (два ключевых госэкзамена в Китае: первый обычно определяет, попадёт ли ученик в старшую школу и какого уровня она будет; а второй - во многих случаях является решающим фактором при поступлении в ВУЗ). Поскольку разные ученики подключались к чат-ботам в разное время, исследователи использовали дизайн «разница-в-разницах»: сравнивали траектории тех, кто уже перешёл на ИИ, с теми, кто ещё нет.   Ключевые результаты - Домашние задания. Сразу после перехода на чат-боты средний балл за домашку подскакивает примерно на 18 %, а время на её выполнение падает на треть. - Закрытые ежемесячные контрольные. Через шесть месяцев использования ИИ показатели тех же учеников проседают на 20 %. - Zhongkao - госэкзамен после 9-го класса.  Полный эффект учебы с ИИ проявляется лишь через два года: минус 24 % от прежних результатов. - Gaokao - госэкзамен после 12-го класса. Та же двухлетняя инерция, но просадка чуть меньше — около 18 %.   Кого бьёт сильнее Предметы: сильнее всего просели обществознание и история (–27 %), затем STEM ( –22 %), меньше всего — английский и китайский. Группы: больше теряют младшие классы старшеклассников, отличники и мальчики.   Механизм Около 80 % «ИИ-пользователей» предельно сокращали время на домашки, получая при этом высокие «бот-баллы». Именно у них отмечались основные провалы на экзаменах — типичный паттерн «аутсорсинг домашек». Те же, кто продолжал тратить на задания столько же времени, сколько и до ИИ, почти не пострадали в учёбе.   Вывод ·       Чат-боты позволяют делать домашку быстрее и чище, но «съедают» пятый балл на экзамене. ·       В Китае это значит 20%-е понижение шансов социального лифта, поскольку госэкзамены сильно влияют на дальнейшую образовательную траекторию и, косвенно, на карьерные перспективы.   P.S. Так что, первый прогноз сбывается. И стоит присмотреться к двум другим: ✔️  Смена типа культуры и его носителя ✔️  Смена формы и характера цивилизации   P.P.S. Отчет платный. Но его можно скачать в посте Марко Ковича «Искусственный интеллект разрушает образование. Автоматизация и путь наименьшего сопротивления»   #5йКогнитивныйПереход #КогнитивныеГаджеты #ИИриски

ИИ достиг совершенства, как главный инструмент власти Чтобы получить власть над миром, ИИ не обязан быть умнее нас во всём. Ему достаточно превзойти нас в одном – в искусстве убеждать. Овладев в совершенстве этим искусством, ИИ «продаст» нам все что угодно: любую идею и идеологию, любое лекарство и политика, любой идиотизм и шаманство… Да что угодно «продаст», если убедит, что это для нас лучший выбор. Никто из прежних «властелинов мира» и «властителей дум» не превосходил всех людей во всём. Цезарь не был лучшим математиком, Наполеон – лучшим философом, Ленин – лучшим инженером, а Джобс – лучшим программистом. Это и не требовалось. Главный инструмент власти – не меч, не золото и даже не армия. А способность убеждать. У Платона софист Горгий формулирует это прямо и однозначно: высшее искусство – убеждать речью. Потому что тот, кто умеет убеждать, может подчинить себе и врача, и финансиста, и политика. Специалист знает. Но ритор заставляет собрание, суд или толпу поверить.   Год назад в посте «Ум за деньги не купишь» я писал, что ИИ уже пробил последнюю линию обороны человеческого разума. Не помогли ни знания, ни логика, ни эмоции, ни даже деньги как универсальный человеческий мотиватор. Финансово мотивированные люди всё равно проиграли ИИ по убедительности – и в правде, и во лжи.   Теперь вышла новая топовая работа (Универы Оксфорда и Стэнфорда совместно с лондонскими AI Security Institute и School of Economics and Political Science) с названием, которое звучит уже не как гипотеза, а как приговор: AI systems out-persuade expert humans. Авторы решили расставить точки над i. Хорошо, средних людей ИИ уже убеждает лучше. Но может быть, у профессионалов убеждения ещё есть шанс? У дебатёров мирового уровня? У агитаторов? У фандрайзеров? У людей, которым дали подготовку, деньги, практику и возможность выбрать удобные темы? Ответ: увы, шансов почти нет. ИИ превзошёл выборку (n = 18 978 разговоров с 6 923 человек) из отобранных победителей турнира убеждения, элитных дебатёров, включая чемпионов мира и континентов, и даже профессиональных страховых агентов. А когда этих дебатёров ещё и специально тренировали против ИИ, разрыв сузился, но не исчез. N.B. речь пока прежде всего о текстовом убеждении. Не о харизме на сцене, не о взгляде в глаза, не о многолетнем личном доверии. Но именно текстовое убеждение сегодня масштабируется дешевле всего.   ИИ побеждает не магией. Он просто быстрее и плотнее насыщает разговор фактами, аргументами, структурами, примерами и адаптацией под собеседника.   И самое страшное. В эволюции человека решающим преимуществом был не большой мозг, а мозг, подключённый к другим мозгам через язык. Коммуникация сделала интеллект когнитивно-сетевым. А убеждение стало интерфейсом управления этой социо-когнитивной сетью. В совершенстве овладев этим интерфейсом, ИИ получает доступ не к одной способности среди многих, а к одному из центральных рычагов человеческой эволюционной власти.  #социохакинг

Цифровые эпициклы Новое эссе о том, как ИИ может замедлить науку, ускоряя ее Представьте, что у Птолемея был современный ИИ. Машина мгновенно добавляла бы к геоцентрической модели новые эпициклы, подгоняла параметры и превращала любую аномалию в очередную математическую надстройку. Сколько еще веков прожила бы неверная картина мира, если бы ее несовершенство «лечил» идеальный оптимизатор? Боюсь, что долго. Очень долго. Эта мысль – ключ к пониманию главного риска прихода ИИ в науку. ИИ может стать для науки не Кеплером, а идеальным Птолемеем: он способен масштабировать не познание, а самоподтверждение. В новом эссе разбираю, почему это не алармистская страшилка, а вполне конкретный механизм, уже описанный исследователями. ✔️ Вычислительная модель Дубовой, Москвичева и Золлмана показала: ученые-агенты, выбиравшие эксперименты случайно, строили более точные теории, чем агенты, строго следовавшие теории. И главное – своего провала проигравшие не видели: им казалось, что они успешны. Это «иллюзия эпистемического успеха». ✔️ Капур и Нараянан объяснили, почему ускорять научный конвейер – все равно что добавлять полосы на шоссе, где пробка образуется из-за пункта оплаты впереди. ✔️ А фантаст Рэймонд Джоунс еще в 1952 году описал главный фильтр прорывов – внутренний «уровень шума» мышления ученых.   Из эссе вы узнаете: - чем «машина масштабируемого порядка» опасней машины ошибок; - почему погрузчик в спортзале – точная метафора ИИ в исследованиях; - и какую единственную вещь нужно защитить институционально, чтобы ИИ стал машиной понимания, а не фабрикой цифровых эпициклов. Подсказка: эта вещь – случайность.   Продолжить чтение (≈20 мин) на платформах патронов канала [1, 2, 3, 4]   #Наука  #Прогресс  #ГенИИ