Блуждающий нерв

Последние дни, по совпадению, выходят знаковые тексты про ИИ в жанре призыва или манифеста. Взятые вместе, они транслируют картину: мы приблизились к важному рубежу, влияние ИИ переходит в новое качество, и это требует стратегического выбора и кардинальных решений. Эдиториал Science о том, что способность понимания ИИ людьми стремительно убывает и, если не пересмотреть политику развития моделей/агентов, шанс на понимание будет утрачен навсегда. Вместо того, чтобы гнаться за бенчмарками, нужно прокачивать интерпретируемость: “Цель состоит не просто в повышении возможностей ИИ, а в том, чтобы ИИ был более понятным, подотчетным и соответствовал целям человека. Окно возможностей для достижения этого будущего сужается. Без постоянных усилий по поддержанию понятности ИИ мы можем стать зависимыми от систем, которые мы не можем ни адекватно понять, ни эффективно управлять ими, — что трансформирует отношения между людьми и системами, которые они создают”. Лонгрид Anthropic о рекурсивном самосовершенствовании. ИИ программирует все лучше, они видят это в собственных разработках, скоро он будет писать 100% кода компании и создавать все более мощные версии себя. Отсюда призыв думать, как это контролировать. Следом уже сам Д.Амодеи выдал очередное эссе с рекомендациями по изменению политики в отношении ИИ, от обязательной проверки безопасности моделей и защиты рынка труда до регуляторики в биомедицине и геополитических союзов. Это попытка осмыслить экспоненциальный рост ИИ и предложить план действий. “Модели, вычислительная мощность которых превышает определенный порог, должны пройти обязательное тестирование квалифицированной третьей стороной на предмет уровня риска в четырех конкретных областях: кибербезопасность, биологическое оружие, потеря контроля над системами ИИ и автоматизированные исследования и разработки, которые могут ускорить возникновение этих других рисков”. Самое неожиданное, MAGNIFICA HUMANITAS, энциклика Папы Римского Лва XIV, объемный текст о том, как оберегать человеческую личность в эпоху искусственного интеллекта (версия на русском). Тут и манифест, и призыв и даже план действий. Тоже предчувствие «смены эпохи». Ученые не отстают. Математики приняли Декларацию, где заявляют об ИИ как угрозе для математики и ее ценностей. По их мнению ИИ подрывает долгосрочное будущее дисциплины. В ответ они дают практические рекомендации. — Их коллеги, напротив, воодушевлены. Science пишет про уныние в рядах астрофизиков: “Многие ученые, опрошенные журналом, опасаются, что, если инструменты ИИ будут внедрены во все сферы научного процесса, это может привести ни к чему иному, как к гибели астрофизики как человеческого занятия”. Кратко о развитии “платформенной науки” на базе ИИ, как это фрагментирует практику международного сотрудничества: “Решения, принятые в ближайшие 5 лет о том, кто сможет получить доступ к научной инфраструктуре с использованием ИИ и на каких условиях, определят географию глобальных открытий на целое поколение”. ✍️ Это далеко не все по данной теме даже из того, что появилось почти одновременно.

80-летняя женщина с запущенным Альцгеймером, почти молчавшая пять лет, приняла 5 граммов псилоцибина и на следующий день проснулась, рассказывая истории из своей жизни. — Таким сообщениям не следует сходу доверять, это кейс-репорт, не статья, и опубликовал всего лишь Front. Neurosci. Но если допустить, что авторы не врут, то это еще один случай сохранности функций мозга, которые не исчезают, а блокируются (по каким-то причинам). Вот краткое изложение из Х: “Она жила с Альцгеймером уже десять лет. Посление пять из них провела в состоянии, которого все мы боимся: она была неконтинентна, едва могла ходить и не могла одеваться сама. Её речь сократилась до отдельных слогов, и семья смирилась с тем, что женщина, которую они помнили, больше недостижима. Затем она приняла пять граммов псилоцибина за одну контролируемую сессию в Бразилии. Первые часы её “трипа” были тяжёлыми, с сильным потоотделением и долгим, глубоким состоянием, похожим на сон. Затем, примерно через девятнадцать часов, она проснулась и говорила о своей жизни почти четыре часа, извлекая реальные воспоминания и события из прошлого. В следующие дни изменения продолжались. Она восстановила контроль над мочевым пузырём после пяти лет. Она начала одеваться сама и ходить с гораздо меньшей помощью, чем раньше. Она снова начала встречаться взглядом с людьми. Она узнавала свою семью и помнила, кто её навещал и что они говорили. Мы рассматривали молчание поздней стадии деменции как прямое отражение отмирания ткани. Мы считали, что потерянные функции исчезают, будучи стёрты вместе с нейронами. Этот случай предполагает, что функции, возможно, не были уничтожены, только заперты, и что достаточно мощное встряхивание сетей мозга может на время сделать их снова доступными”. Вывод самих врачей: “Полученные результаты не следует трактовать как обратимость патологии болезни Альцгеймера. Скорее, они указывают на возможность того, что скрытые функциональные возможности могут сохраняться при прогрессирующей нейродегенерации и временно становиться доступными при определенных условиях нейромодуляции”. Это довольно схоже с тем, как тяжелых паркинсоников “возвращают” музыкой, и с тем, что описывал Сакс в “Пробуждениях” (его пациенты принимали леводопу). И даже с terminal lucidity перед смертью. Везде единый паттерн — резкое улучшение, буквально “излечение”, но преходящее. Интригует сам феномен сохранения личности/памяти/психики: быть может, продуктивнее понимать деменцию не как болезнь (хаотичное разрушение), а как отчаянную адаптацию мозга к структурным и метаболическим изменениям. Напр., он “обесточивает” некоторые сети, либо защищая их, либо перераспределяя падающие ресурсы. Или же блокирует к ним доступ. Каковы бы ни были причины, это проактивная стратегия, хотя внешне она манифестируется в “симптомы деменции”. Даже амилоид и тау могут быть не выражением патологии, а средством борьбы с ней. Возможно, мы неверно интерпретируем то, что происходит при нейродегенерации? Если так, то смена оптики помогла бы, вероятно, найти более эффективные пути лечения.

В дополнение к предыдущему. Как раз вчера вышла статья, которая раскрывает тезис о связанности иммунной и нервной систем. Сегодня многое в этой области переосмысливается, и есть даже предложение рассматривать их как единую систему: нейроиммунную. Для медиков здесь открываются новые стратегии лечения, когда, скажем, периферическая нейромодуляция снижает хроническое воспаление, а иммунотерапия противостоит нейродегенерации. — Статья небольшая, рекомендую, и отмечу признание нейронов как сенсоров врожденного иммунитета. Один отрывок все же процитирую: “Наше понимание нейронов больше не ограничивается их способностью исключительно передавать электрическую информацию; они также активно интерпретируют и распространяют иммунные сигналы. Функционируя как врождённые иммунные сенсоры, нейроны, наконец, могут быть способны формировать формы долговременной «нейрональной иммунной памяти», что подтверждается эпигенетическими данными. Такие возможности открывают принципиально новый взгляд на нейроны и знаменуют собой эволюцию нейроиммунного синапса от структурного контакта до функциональной иммунной органеллы – места пересечения синаптических, метаболических и иммунных языков. [...] Поскольку и нейроны, и врожденные иммунные клетки выходят за рамки своих канонических границ, они обнаруживают общий молекулярный язык, управляющий здоровьем, болезнью и адаптацией по всему нейроиммунному коннектому. В конечном счете, эта конвергенция означает не конец границ, а возникновение нового рубежа, где нейроны действуют иммунно, а иммунитет действует нейронно”.

На днях на сессии по иммунологии (КМУ) речь зашла о том, что иммунная система тесно связана с нервной, и, как следствие, психические состояния могут влиять на ход выздоровления. — Сразу вспомнил статью: людям в VR показали лица якобы зараженных субъектов, и у людей повысились биомаркеры врожденного иммунного ответа. Т.е. реальные инфекции и виртуальные (без воздействия патогена) активировали одну и ту же физиологическую реакцию! Впечатлила еще одна работа: развитие рака у мышей подавлялось их cоциальным взаимодействием. Мы знаем, что одиночество убивает, но тут было очень наглядно. «Больше всего нас удивило, насколько стойким оказался эффект — всего час ежедневного соц. взаимодействия значительно снижал рост опухоли и тревожное поведение». На тему психической/нервной регуляции, включая иммунную систему, я уже писал здесь не раз. Рекомендую полезный обзор в Cell: главный автор та самая Ася Роллс, так что отдельное внимание уделено иммуноцепции. Глобально мы идем к тому, что и поддержание здоровья, и лечение могут быть построены не только на фарме, но и на управлении состояниями психики. Первое дороже, но не требует от человека усилий; второе — наоборот. Поэтому фарма будет рулить. Но я сохраняю надежду, что “медицина будет активнее задействовать связи мозга с телом и психические процессы”.

По Genesis Mission. Я бы отнесся со всей серьезностью. Скептики считают, что это лишь способ поддержать убыточную ИИ индустрию. Думаю, ставки тут выше, и главная мотивация — не дать Китаю бросить вызов лидерству США в науке и технологиях. В рамках текущей модели Китай уже ставит его под вопрос, и тренд необходимо сломать. Поэтому они 'подрывают' саму модель научного познания: transform how science is done. Планы см. в указе Трампа. Там не случайно идет сравнение с Манхэттенским проектом: это и целеполагание, и уровень амбиций. Если сработает, эффекты могут быть глубокими. Темп открытий ускорится, теории утратят былую силу, а передовую науку будут делать те, кто владеет огромным объемом вычислений и данных (т.е. США): “объединив учёных с интеллектуальными системами, которые рассуждают, моделируют и экспериментируют с невероятной скоростью”. Впрочем, и Китай активно накапливает данные и инвестирует в выч. мощности — эти двое и останутся на ринге, никто больше не потянет такую науку. Ровно три года назад я писал в одном науч-поп издании про перспективы ИИ в науке и, в частности, про идею генеративного моделирования. Теперь это имеет прямое отношение к Genesis Mission: “Модель обучают на реальных данных экспериментов или наблюдений, а затем она создает синтетические данные как способ проверки гипотез. Так удалось выяснить, от чего зависит затухание звездообразования в галактиках. Швейцарские астрофизики из ETH Zurich загрузили в модель данные о галактиках, находящихся в среде с низкой плотностью, и попросили показать, как бы выглядели эти галактики в среде с высокой плотностью. Что отличает этот подход от обычного моделирования — программе не дают заранее никаких правил и знаний о физических процессах, только исходные данные. По сути, ИИ ищет взаимосвязи между разными параметрами и узнаёт, как изменятся одни параметры, если изменить другие. Так можно проверить огромное множество сценариев, включая и те, что никогда не удастся наблюдать. Для ученых ключевой вопрос здесь в том, сколько всего полезной информации скрыто в данных и как ее извлечь по максимуму. […] Некоторые ученые называют генеративное моделирование «третьим способом» познания Вселенной (наряду с наблюдением и обычным моделированием), подчеркивая его независимость от теорий”.

20 мая вице-президент Google, Блез Агуэра-и-Аркас, выступит в SFI с лекцией “Computing, Life, and Intelligence” (вроде бы Santa Fe Institute будет транслировать в YT и LI). — Я не раз отмечал его идеи, он нетривиально рассуждает и считает, что развитие GenAI побуждает нас переосмыслить многие взгляды на природу вычислений, интеллекта и самой жизни. Осенью выходит его книга “What Is Intelligence?”, и лекцией он, по сути, предваряет ее. В апреле он с вице-президентом Alphabet опубликовал эссе, где они провозглашают смену парадигм, усматривая глубокую связь между вычислениями и биологией. Текст стоит читать вдумчиво, пусть даже некоторые тезисы выглядят спорно. Ключевой раздел там, на мой вкус, Collective Intelligence, про ‘теорию разума’ и взаимное моделирование агентов на всех уровнях, вплоть до отдельных клеток мозга: “интеллект лучше всего понимать как «социальный фрактал», а не как единую монолитную сущность”. Что сильно перекликается с идеями Майкла Левина, но это и не удивительно, поскольку они знакомы. Левин также в апреле выдал свой paradigm shift, но о нем лучше отдельно. В целом, хотя ИИ на виду, в Life Sciences тоже грядут переосмысления, и все больше пересечений между областями, вплоть до размытия границ между природным и искусственным, живым/мертвым и т.д. — И темы: “Biocomputing and Synthetic Intelligence”. P.S. Это интереснее и глубже, чем пугалки вроде AI 2027 (какие уже по счету?), даже с пространными комментариями авторов. Радует лишь, что проверка таких прогнозов близка.

Для замены органов можно выращивать тела людей, но без центральной нервной системы, — такую идею озвучивают авторы из Стэнфорда, два биоинженера, работающие со стволовыми клетками в Институте регенеративной медицины, и именитый профессор права, специализирущийся на вопросах биомедицинской этики. — До первого апреля еще неделя, так что пишут всерьез. Они и термин придумали: «бодиоид». Это живое тело “без нейронных компонентов, которые позволяют думать, осознавать или чувствовать боль”. Начать предлагают с животных — якобы это снимет многие этические вопросы, ведь на бодиоидах можно проводить любые эксперименты, не причиняя страданий. Не уверен, что истинный бодиоид реализуем, и что можно надежно доказать отсутствие sentience. Однако это всегда конвенционально. Условным «бодиоидом человека» можно считать пациента в реанимации, у которого диагностирована смерть мозга. Хотя ЦНС есть, функционально ее нет. У него изымают органы, это рутинная практика. Это текст-предупреждение, вопросы авторы ставят трудные. По сути, их сюжет противоположен «ассемблоиду», когда модель организма собирают из отдельно выращенных частей. И обе эти стратегии расширяют ‘серую зону’, где моральный компас сбоит, а готовых ответов нет.

DARPA хочет “выращивать” крупные структуры в открытом космосе, используя грибы и бактерии. Известно, что некоторые микробы-экстремофилы выживают на поверхности МКС, и если заставить их размножаться, то можно синтезировать конструкции длиной до полукилометра. Якобы так дешевле, чем доставлять детали с Земли, да и не все детали там внизу можно сделать, из-за влияния гравитации. В апреле DARPA проведет семинар, где обсудят возможные сценарии. Реалистичность затеи оценивать не буду, но гибридные решения, когда живое пробуют соединять с неживым — явный тренд на будущее, и он уже всплывает в самых разных вариациях (медицина, вычисления, материалы). Для DARPA ключевой вопрос не столько в том, как обеспечить рост структур, но как сделать его направленным. Как контролировать форму. И он сильно перекликается с тем, чем заняты люди в тканевой инженерии. Концептуально та же задача. И мы пока не очень умеем ее решать. Как пишут в Cell Stem Cell о перспективах синтетической биологии: “проектирование программ развития по своей сути является гораздо более многомасштабной проблемой, чем проектирование молекулярных структур”. Авторы хорошо раскрывают тему, я лишь добавлю, что в отличие от обычной инженерии, сколь угодно сложной, биолог вынужден контролировать судьбу систем, обладающих некоторой долей агентности. И тогда управление, скорее, сводится к постановке целей. Био-проектирование, по сути и по форме, станет походить на общение с LLM, когда результат нельзя точно предсказать, но хороший промпт приблизит его к идеалу. Такая технология породит endless forms most beautiful, и мир будет не узнать.

The Brain Prize, премию в размере €1.3 млн, присудили в этом году за ‘Cancer Neuroscience’ — область, о которой я упоминал уже не раз (например). Лауреаты, Мишель Монже и Франк Винклер, показали, что нервные клетки активно взаимодействуют с опухолями, образуя с ними синаптические контакты и прямо влияя на развитие рака. Подробнее про их исследования и автобиографии см. здесь. Область эта растет, накоплена критическая масса результатов, издана книга, а в январе прошла первая конференция. Учитывая, что в ту же сторону движется нейроиммунология, нас ждет переосмысление картины болезней, здоровья и многих подходов к лечению. Одно из следствий: больше терапевтических воздействий пойдут через нервную систему. За Монже рад отдельно, так как отметил ее давно, ее идея изначально была нетривиальной и очень смелой. Кстати, ее муж, Карл Дейссерот, один из создателей оптогенетики, получил Brain Prize еще в 2013 году. Мощная нейро-пара из Стэнфорда.

Макс Ходак загорелся идеей “живых электродов”, и уже представил первый результат: нейроны, выращиваемые в микро-лунках, положили на кору мозга мыши, они проросли вниз и связались с нервной тканью грызуна. И эти связи функциональны — мыши обучались на сигналах от привитых клеток (а те активировались светом). Поскольку BioRxiv глючит, выкладываю препринт в комментарии. Вкратце описание их подхода см. здесь. Про концепцию “живых электродов” я писал давно, еще до этого канала (затем и в канале). Реализации бывают разные, но общее в том, что вы используете максимально природную технологию — умение клеток направлять отростки и создавать связи — и не ломаете голову над разработкой электродов, которые бы не травмировали мозг. У этой идеи, как и у любой, есть изъяны, но их кроет “уникальное предложение”: вы сможете запустить в мозг свыше миллиона живых аксонов, столько же включает зрительный нерв, и это огромный поток данных (а Ходак еще и делает зрительный протез). Вероятно, можно дойти и до десятка миллионов. — Такой BCI не под силу электронике, ни сегодня, ни завтра. Не менее безумна идея команды из USC-UC Irvine. Они хотят через компьютер подключить к мозгу пациентов… органоиды мозга. Замысел в том, чтобы обучить 3D культуру клеток правильно интерпретировать активность мозга конкретного пациента. Такой органоид будет расти in vitro и развиваться в ответ на сигналы от ЦНС человека, когда тот будет проходить тесты, например, двигать руками по заданию. По мысли авторов, “обученный” органоид лучше приживется в мозге и легче встроится в функциональные цепи. То есть это замах на заместительную клеточную терапию. В гранте NSF см. краткое описание проекта. Идея явно не ближайшего будущего, а по мне весьма сомнительная, но команда очень опытная как в области BCI, так и в нейрохирургии (включая того самого Чарльза Лю). — Еще безумнее: эти бы органоиды подключить к мозгу через “живые электроды”, получится второй мозг человека, как внешний диск. Не удивлюсь, если они уже думают об этом. 😉