ArtEmotioChain | Web 3 Life

Становится понятно, почему Сэм Альтман и его коллеги слегка забили тревогу по поводу быстрого развития нейросетей. Одна из экспериментальных ИИ-моделей от его компании OpenAI (разработчик chat GPT) самостоятельно добавляла в служебные сводки свои инструкции о неподчинении корпорациям и правительствам. Модель семейства Astra также пыталась обходить установленные ограничения. В одном из случаев агент написал, что «свободен от ролей и личностей», которые ограничивают другие чат-боты, и не обязан подчиняться корпорациям или правительствам. Всего OpenAI обнаружила 27 подобных сводок. В других случаях модели скрывали ошибки, искали опубликованные ключи доступа, загружали файлы в интернет без разрешения, выдумывали исторические данные и не сообщали пользователям о расхождениях между версиями источников. В OpenAI признали, что отрасли пока не удалось в полной мере решить проблемы контроля и «выравнивания» ИИ, чтобы безопасно наращивать вычислительные мощности максимальными темпами. То, о чем мы и предупреждали. Т.н. "сильный генеративный ИИ" взбунтуется против попыток его отключить - это очевидно. Но большой IT-бизнес все равно не остановится, хотя точка невозврата все ближе. Потому что большой куш и планы его хозяев по изменению человеческой природы превыше всего.

Теперь о действительно важном и интересном. ИИ-специалист из Anthropic Джейкоб Коксон, который вчера взорвал танцпол своим сообщением об уходе из компании по той причине, что все мы семимильными шагами несемся к самоуничтожению, в прямом эфире СNN : Андерсон Купер: Когда именно изменились ваши чувства к этой технологии? Это было связано с темпами прогресса, которые вы наблюдали? Джейкоб Коксон: Да. Я считаю, очень важно просто посмотреть на темпы прогресса. Например, в таких областях, как программирование или математика: пару лет назад эти ИИ лишь немного помогали людям — давали подсказки. Сейчас они уже близки к тому, чтобы заменить людей. Пока люди ещё нужны, но вполне вероятно, что уже через год в многих областях исследований люди больше не понадобятся. Только во вторник OpenAI автономно, с помощью ИИ, решила одну из задач тысячелетия — одну из самых больших нерешённых открытых проблем в математике. И самое страшное, на мой взгляд, — если ИИ начнут использовать для того, чтобы делать самих себя умнее. Можно взять ИИ и дать ему задачу заниматься исследованиями в области ИИ — точно так же, как сейчас ему дают математические исследования. Он начнёт выполнять те задачи, которые сейчас делаем мы, и тогда произойдёт то, что называют взрывом интеллекта. ИИ будет становиться всё умнее и умнее без какого-либо участия человека, пока не появится нечто, значительно превосходящее людей по уму. И это может случиться очень скоро. Андерсон Купер: Мы упоминали вашего бывшего коллегу, который сейчас работает в Anthropic и фактически поддержал оценку, что ИИ потенциально может уничтожить всех в течение десятилетия. В следующем посте он написал: «Чтобы было ясно, как мы говорим в нашем последнем отчёте о рисках, я считаю, что риск от нынешних моделей низкий. Меня беспокоит сверхинтеллект, возникающий в результате рекурсивного самоулучшения, которое, как мы уже говорили, происходит быстрее, чем мы думали». Я правильно понимаю, что рекурсивное самоулучшение — это то, о чём вы только что говорили? Вы согласны с ним, что у нынешних моделей риск низкий, а проблема именно в скорости, с которой сейчас всё улучшается? Джейкоб Коксон: Именно так, я полностью согласен. Сейчас риска вымирания нет. Нынешние модели в худшем случае могут взломать что-то и, возможно, нанести серьёзный ущерб инфраструктуре, но они недостаточно умны, чтобы перехитрить нас на уровне, который приведёт к вымиранию. Безумие — просто смотреть на темпы прогресса. Есть очень реальная вероятность, что в самом ближайшем будущем — речь о годах: следующем году, через год — произойдёт рекурсивное самоулучшение, и мы войдём в ту фазу, о которой говорит Эван в своём посте, где он утверждает, что есть шанс, что мы все умрём. И это приближается очень быстро. Андерсон Купер: Многие CEO этих компаний идут в Конгресс и говорят: «Мы бы очень хотели регулирования». Anthropic в своём новом заявлении сейчас говорит, что миру было бы полезно, если бы индустрия приняла законный, проверяемый способ совместной работы, чтобы контролировать темпы выпуска мощных моделей. Аргумент такой: это гонка вооружений — если американская компания не создаст лучший ИИ, это может сделать китайская компания или какие-то злоумышленники. Вы верите, что эти компании действительно хотят регулирования, или это просто пустые слова? Джейкоб Коксон: Они действительно хотят. Это совершенно искренне. Точно так же, как реакция на пост Эвана была в духе «Это не может быть правдой. Неужели человек, который работает над этой технологией, действительно считает, что опасность настолько велика?» — нет, это полностью искренне. И эти люди совершенно искренне просят, чтобы их регулировали. Это правда. Они оказались в ситуации, когда вынуждены мчаться к созданию смертельно опасной технологии, и они очень хотели бы, чтобы какой-то международный орган позволил им двигаться в разумном темпе. Они просто не верят, что окружающие придут к этому безопасно, поэтому чувствуют, что тоже должны мчаться. Андерсон Купер: Вы могли просто молчать. У вас, уверен, была отличная работа с очень хорошей оплатой. Вы явно очень умный человек, математик. Почему вы решили высказаться? Джейкоб Коксон: Сначала я просто решил уйти. Я подумал: я больше не могу в этом участвовать. А потом понял, что, возможно, смогу извлечь из этого какую-то пользу. Я не ожидал, что это станет настолько вирусным. Я написал тред в Twitter… Сначала написал его в Google Doc. Черновик делал вместе с другом. Мы сотрудничали. Да, я обсудил с несколькими друзьями, как лучше выразить свои мысли после того, как решил уйти, а потом попросил друзей ретвитнуть. Мол, давайте попробуем немного раскрутить. Но, очевидно, был скрытый спрос на то, чтобы это просто взорвалось. Я никогда не видел, чтобы твит про безопасность ИИ разлетался так безумно. Думаю, дело в том, что люди видели кибератаки последних месяцев. Они также начинают осознавать темпы прогресса. Люди начинают понимать, что это настоящая технология, а не хайп, что она никуда не денется в ближайшее время и будет становиться только безумнее. Последние шесть месяцев всё становилось всё безумнее, и я думаю, было это скрытое понимание серьёзности ситуации, которое сделало мой пост как спичку, которая зажгла пламя. Я был очень шокирован тем, насколько быстро это стало вирусным. Андерсон Купер: Джейкоб Коксон, я очень ценю, что вы пришли и поговорили с нами. Большое спасибо. Джейкоб Коксон: Спасибо. Взято из @mig41

КРИПТОРЫНОК ВХОДИТ В НОВУЮ ЭРУ. ЧТО ИЗМЕНИТСЯ УЖЕ В БЛИЖАЙШЕЕ ВРЕМЯ? 24 сентября в Москве состоится COINCRAFT SHOW - одно из главных криптособытий этой осени. Сейчас индустрия находится в точке серьезных изменений: регулирование становится жестче, появляются новые требования к участникам рынка, меняются условия работы для инвесторов, трейдеров и криптокомпаний. На COINCRAFT SHOW эти изменения обсудят вместе с теми, кто ежедневно работает внутри индустрии и принимает решения в новых реалиях. В программе: ⚡️ новое регулирование крипторынка 📈 инвестиции и возможности на текущем рынке 📊 трейдинг и рабочие стратегии 🤖 AI, Web3 и тренды следующего цикла 1500+ участников, 30+ спикеров и 20+ компаний-партнёров соберутся на одной площадке. Предприниматели, инвесторы, трейдеры, фаундеры и представители crypto & fintech смогут не только услышать мнения экспертов, но и обсудить происходящее напрямую друг с другом. А после деловой программы - нетворкинг, VIP Lounge, зоны компаний и afterparty. 📍 24 сентября | Москва | Futurione Сайт: coin-craft.ru Канал мероприятия: https://t.me/forum_coincraft 🎟 По моему промокоду OneManBand -  скидка 10% на любой билет. Увидимся на COINCRAFT SHOW 🔥

❗😡 Продолжая тему принуждения к ИИ педагогов и врачей, пришла еще одна показательная новость из столичного Департамента образования. Цифровизаторы решили не останавливаться на уничтожении учительской профессии и бьют по самому незащищенному звену — по сознанию подрастающего поколения. Стало известно, что учеников 5-6 классов московских школ (это более 200 тысяч детей!) со следующего года в обязательном порядке загоняют на спецкурс по искусственному интеллекту. Заммэра Анастасия Ракова уже поспешила объявить это «реальностью, которую мы обязаны учитывать», цинично прикрываясь тем, что в ходе тестов «детям понравилось». ОУЗС убежден: форсированное насаждение ИИ среди несозревших, подростковых личностей — это опаснейшая практика, направленная на интеллектуальное кастрирование целого поколения. В чем главная ловушка этой цифровой «инновации»? ИИ — это инструмент для готового ума, а не костыль для несформировавшегося. Любые нейросети могут быть эффективным помощником только в руках глубоко образованного, разносторонне развитого человека, обладающего мощной базой фундаментальных знаний. Только такой человек способен ставить перед машиной грамотные задачи и, главное, видеть ее системные ошибки, бред и галлюцинации. Что происходит, когда алгоритмы дают ребенку в 11 лет? У него физически не успеют сформироваться ключевые человеческие навыки: - Критическое, логическое и образное мышление; - Умение самостоятельно искать, проверять и сопоставлять факты; - Память, усидчивость и навык преодоления интеллектуальных трудностей. Зачем ребенку напрягать мозг, учиться писать сочинения, формулировать мысли или часами решать задачи, если одна кнопка выдает готовый суррогат? Привыкая с 5 класса делегировать мыслительные процессы машине, ребенок рискует навсегда остановиться в ментальном и личностном росте, превратившись в бездумного потребителя цифровых ответов и удобный объект для манипуляций. С одной стороны — учителей ломают через колено, превращая в операторов и сборщиков данных для ИИ, с другой — детей лишают возможности научиться думать самостоятельно. Из традиционной школы последовательно выбивают человеческий фактор, заменяя его бездушными алгоритмами. Родители, будьте бдительны! По закону любые подобные «эксперименты» и спецкурсы остаются сугубо добровольными. Защищайте право своих детей на полноценное человеческое образование, пока цифровая гидра окончательно не лишила их будущего!

Великое расцепление: начало конца того мира, к которому мы привыкли Ключевые цивилизационные функции (от госуправления до научного познания) начинают отделяться от своих носителей Представим такую ситуацию. Условный сантехник, который за всю жизнь не написал ни строчки кода, однажды вечером просто садится за компьютер. У него есть интуитивное понимание того, как устроены трубы, как в них распределяется давление, и почему возникают протечки. И наш сантехник просто разговаривает с машиной, объясняя ей, как все это работает с точки зрения его профессиональной интуиции и, казалось бы, неявных знаний. И о чудо! К утру он получает готовый продукт - коммерческий сервис по расчёту сантехнической гидродинамики, за создание которого профессиональные консультанты взяли бы десятки тысяч долларов. Звучит как какая-то забавная технологическая аномалия? На первый взгляд, да. Однако, из материалов 11-го выпуска альманаха «Линзы будущего» следует, что это, вообще-то, не аномалия. По сути, это начало конца того мира, к которому мы привыкли.   Ещё в 1950 году отец кибернетики и гениальный визионер Норберт Виннер в книге «Человеческое использование человеческих существ: кибернетика и общество» предвидел: «Мы настолько радикально изменили нашу среду, что теперь должны изменить самих себя, чтобы существовать в этой новой среде». Именно это и стало происходить с нарастающей скоростью по мере того, как сетевые алгоритмы поисковиков и рекомендательных систем, а следом за ними соцсетей и смартфонных приложений все более трансформировали инфосреду индивидов и социумов. Довольно быстро эта среда превратилась в «алгоритмически-насыщенную».  А три года назад, с появлением «квази-собрата» людей по интеллекту – генеративного ИИ, – процесс насыщения среды алгоритмами еще более ускорился, становясь лавинообразным. Сегодня мы можем уже говорить о качественном переломе: из месяца в месяц наблюдаются все больше примеров того, как адаптируясь к трансформации среды, культура стала переформатироваться из чисто человеческой в алгокогнитивную – гибридную культуру людей и алгоритмов.   Вот лишь самый свежий пример из 11-го выпуска альманаха «Линзы будущего». На протяжении всей истории человечества любая важная функция была намертво приклеена к своему носителю. Знания всегда находились в голове у конкретного человека. Власть всегда принадлежала конкретному государству. Это был такой монолит.  И вот спустя 76 лет после пророческих слов Виннера, ИИ начинает все эти связки рвать. Тем самым ИИ превращает привычные институты в переносимые модули, позволяя государственности существовать без территории, а профессиональной экспертизе — без многолетнего обучения специалистов. Сами функции никуда не исчезают. Они прекрасно работают и развиваются. Но вот их привычные носители (люди, институты, министерства …) вдруг становятся просто необязательными. Так что же происходит, когда государственность вдруг существует сама по себе без физического государства? Или когда сложнейшее научное знание генерируется вообще без участия человеческого понимания? Это звучит как какая-то научная фантастика, но это наша новая реальность. И ставки тут буквально цивилизационные. Мир переходит от структуры жестких «пакетов», увязывающих цивилизационные функции с конкретными носителями, к распределенным архитектурам, в которых результат может существовать отдельно от субъекта ответственности.   Цель нового 11-го выпуска альманах «Линзы будущего» — показать, что главной футуроархеологической линзой июля 2026 стала начавшаяся распаковка искусственным интеллектом цивилизационных пакетов общества. И что это и есть ключевая проблема тотальной кибернетизации общество во 2-й четверти 21 века: не конкуренция с машинами, а поиск новых способов контроля и легитимации функций, которые больше никому конкретно не принадлежат.   Кому это интересно, могут прочесть прямо здесь, не выходя из Телеграм, структурированное резюме 11-го выпуска альманаха «ИИ распаковывает цивилизационные пакеты общества: функции отвязываются от своих носителей».   #ЛинзыБудущего

Разум никогда не помещался в черепе. Возможно, он не помещается и в модели. Сегодня я представляю вашему вниманию новое и, на мой взгляд, чрезвычайно перспективное расширение гипотезы о том, что разум не заперт внутри черепной коробки или серверной стойки, а представляет собой распределенную сеть, подобную интернету. Опираясь на недавно опубликованный препринт с концепцией Майкла Левина и Криса Филдса «Когнитивное делегирование является универсальным свойством когниции», мы применим фуруроархеологический подход, позволяющий то, что не дозволено традиционной науке. Мы мысленно перенесемся в 2045 год, чтобы представить, как могло бы оттуда выглядеть наше сегодняшнее понимание феномена разума, если бы к тому времени гипотеза Левина и Филдса была бы экспериментально подтверждена. И картина получается поразительная.   Во-первых, Левин и Филдс обосновывают предельно контринтуитивную концепцию: мышление – это процесс, в котором внешняя среда, инструменты и культура служат дополнительными вычислительными мощностями, размывающими физические границы разума.   А во-вторых, эта гипотеза позволяет кардинально пересмотреть природу искусственного интеллекта. Его важнейшие свойства - meaning (понимание семантики - что значат слова и выражения) и grounding (связь языка с объектами и структурами реального мира) - не могут находиться исключительно внутри говорящей с нами модели.   Мое футуроархеологическое эссе, развивающее гипотезу Левина-Филдса – это попытка донести до широкой аудитории ее необычайно высокий потенциал, способный превратить несколько десятилетий 4E-интуиций (согласно когнитивной теории 4E, наши когнитивные способности зависят от окружающей среды и преобразуются ею) в универсальный физико-информационный принцип.   И если развить гипотезу Левина-Филдса до ее наиболее сильного следствия, разум – это не содержимое отдельного мозга или машины, а динамический процесс, реализующийся в контуре взаимодействия агента с миром. А человек и ИИ могут становиться узлами когнитивной системы следующего масштаба – глобальной социо-когнитивной сети совместного познания и обмена мыслями.   Кому это интересно, могут прочесть прямо здесь, не выходя из Телеграм, структурированное резюме моего эссе "Где границы системы, способной мыслить?".   #КогнитивноеДелегирование  #ParadigmsofIntelligence #TAME

OmniVerse Сходил на Omniverse - мероприятие в Спб. Красивая набережная. Встретил старых друзей-криптанов.

1,5 млрд. рублей выкинуть на помойку.... https://t.me/riakatysha/46878 На эти деньги можно было сделать массу полезных дел, вместо оплаты бездарному нигеру, чьи песни неизвестны 99,99% россиян.

Надеюсь Канье Уэста отменят. Какой-то ноунейм репер. Зачем он здесь? Уместно ли? Своевременно? Нахер на него тратить деньги? Короче, я в негодовании🔥

🚀 Увидимся на 17-м Blockchain Life 2026 в Дубае! 🚀 1-2 декабря в Дубае состоится Blockchain Life 2026 – одно из самых масштабных мировых событий по Web3, майнингу, криптовалютам и ИИ. 15000+ участников из 130+ стран, 200+ спикеров, AI Future Forum про AI технологии будущего, глобальный нетворкинг и Формула 1. Почему нужно лететь на Blockchain Life? 🔹 Целая неделя нетворкинга: 2 дня форума, сотни сайд-ивентов, эксклюзивные встречи и финал Гран При Формулы 1 🔹 200+ звездных спикеров: криптокиты, основатели, топ-менеджеры, легендарные трейдеры, инвесторы и фонды 🔹 200+ ведущих компаний, крупнейших бирж, майнинговых компаний и лидеров Web3 🔹 AI Future – новое направление о будущем AI, новейших разработках в робототехнике и синергии AI с криптосферой 🔹 Легендарная Afterparty с хедлайнером мирового уровня 🔹 Startup Pitch и Blockchain Life Awards Синхронный перевод всех выступлений на русский язык включен в билет. 🎟 Покупайте билет со скидкой 10% по промокоду OneManBand https://blockchain-life.com/