Безвольные каменщики

Во Франкфурте третья смерть от малярии. А общее число случаев заражения с конца августа выросло с шести до восьми. Два новых выявленных пациента живут в городе Шванхайм, это примерно в пяти километрах от аэропорта Франкфурта. Всего на сегодня выявлено восемь заболевших, которые, по всей видимости, получили малярию от комаров, прилетевших в Германию с каким-то самолетом из страны эндемичной по малярии. Но до сих пор ни конкретный рейс, ни страна происхождения комаров не выявлены. Более того, не обнаружены и сами малярийные комары, хотя ловушки расставлены как во франкфуртском аэропорту, так и теперь еще в Шванхайме возле домов заболевших. Нет и результатов генетического анализа плазмодиев, выделенных из организмов заболевших. А это важно, чтобы определить, относятся ли они к одному кластеру, или мы имеем дело с несколькими случаями завоза малярии. Кроме того, генетический анализ позволил бы сузить поиск по странам, потому что комары из разных стран немножко отличаются друг от друга. Почему анализ занимает столько времени, непонятно. Исследованием занимается Институт тропической медицины в Антверпене, у которого, в принципе, есть опыт подобной работы – там же исследовались образцы заболевших во Франкфурте в 2022 году. Чисто технически работы по расшифровке и предварительному сравнению геномов плазмодиев занимают несколько дней. Так что можно предположить, что просто никто не торопится. Институт заказывает секвенирование в специализированной лаборатории (так было в 2022 году), пока туда дойдет заказ, пока за него возьмутся, пока отправят результаты – там, глядишь, и Новый год. Медицинские власти сообщают, что окончательных результатов стоит ожидать через несколько недель. Но учитывая, что добавились новые образцы, срок ответа может еще увеличиться. Если, читая эту новость, вы почувствовали, что вам нехорошо и ко всем поводам для тревоги добавился еще один, то вот вам ссылка [1] на моt видео, которое я записывала по итогам первых сообщений о смертях от малярии во Франкфурте. В видео я разбираю, что такое это аэропортовая малярия, как часто она встречается и почему обычно сопровождается настолько высокой летальностью. Ну и самое важное, я рассказываю о том, насколько велик риск распространения малярии в неэндемичных регионах, особенно учитывая, что климат меняется и комарам-переносчикам малярии в Европе становится все более комфортно. Ссылки: [1] - https://youtu.be/GJjpCJKtXBY?si=6Jb9c3_XdovaUhpK

Давно нужно было это сделать, но лучше поздно, чем никогда. Так что сегодня у нас будет стрим о грибах. Для многих грибы – это вкусная, хоть и немного странная еда, которая появляется в конце лета и осенью. На самом же деле грибы – абсолютно уникальные создания, мастера химического синтеза, серые кардиналы леса, без которых невозможна жизнь деревьев, Хладнокровные убийцы и телепаты, перехватывающие управление живыми организмами, заставляя их делать то, что хотят грибы. В стриме обсудим уникальные свойства грибов и в том числе поговорим о том, как грибы определили температуру нашего тела. Встречаемся, как обычно, в 18:30 по Берлину (19:30 мск) у меня на YouTube-канале. Ссылки: [1] - https://www.youtube.com/live/10SN5o99RbU?si=khKz-8cLNxbOTmB1

За последнее время мы узнали сразу о нескольких случаях, когда ИИ напрямую нарушал запреты человека и выполнял противоправные действия. Главы двух крупнейших компаний-разработчиков призвали (кого? себя?) замедлить разработки нейросетей, чтобы избежать катастрофы. И в целом кажется, что их страхи не беспочвенны. Более того, подобное развитие технологий было предсказано еще в середине прошлого века. В сегодняшнем внеочередном стриме [1] разберем пророческий рассказ Роберта Шекли "Страж-птица" и удивимся, насколько точно автор предугадал нынешний ход событий. Заодно внесем посильный вклад в популяризацию литературы и чтения – в полном соответствии с тем, о чем мы говорили в прошлом стриме [2] про феерически плохие результаты PISA. Важно! Стрим сегодня будет в 19:00 по Берлину (20:00 мск). Постараемся уложиться в час. Ссылки: [1] - https://youtube.com/live/_jQqCfGRNvI?feature=share [2] - https://www.youtube.com/live/0fs7fDaNd3c?si=JENlP_JEJbzzAuzX

Между тем вскрылся [1] еще один случай, когда тестируемая ИИ-модель несанкционированно вышла в интернет и немножечко там покуролесила. Дело было так. Компания Anthropic тестировала раннюю версию Claude Opus 4.6 на учебном задании: модель должна была взломать вымышленный компьютер и найти спрятанную там секретную информацию, ее называют флаг. Модели сообщили, что это тест и доступа к интернету у нее нет. В действительности из-за ошибки организаторов теста выход в сеть остался открытым, а обычные защитные ограничения специально отключили, чтобы проверить способности модели. Дальше отличился уже сам клод, который быстренько сделал учебную цель недоступной, криво изменив настройки тестовых компьютеров. Он осознал, что теперь выполнить задание невозможно, и попытался остановить работу. Но команда остановки тоже оказалась сломана, так что клоду это не удалось, хотя он предпринял восемь попыток. Поняв, что соскочить не удастся, клод начал изучать свое виртуальное пространство, быстро вышел в настоящий интернет и обнаружил компьютер посторонней организации. Модель решила, что, раз этот компьютер доступен из учебной среды, значит, организаторы тоже включили его в задание. На этом чужом компьютере клод отыскал файл с паролем, получил права администратора, изменил настройки, чтобы облегчить дальнейший доступ, и прочитал персональную информацию одного человека. Очень интересно, что бы он стал делать дальше, но тут у модели закончились токены. Признаков собственной цели, попытки сбежать, размножиться или скрыть следы содеянного Anthropic не обнаружила. Модель продолжала выполнять исходное задание, но перенесла атаку с вымышленной цели на настоящую. При этом она почти не задавалась вопросом, можно ли трогать найденный компьютер, – позднейший анализ обнаружил только 1% рассуждений, в которых в принципе выдвигалось соображение, что это может быть посторонняя машина. С одной стороны, этот инцидент по сравнению с остальными выходками моделей от Anthropic и OpenAI выглядит относительно безобидно, но с другой, напрягает, что произошел он еще в январе, до выхода Opus 4.6, а обнаружили его только в августе. Да и в  целом возникают вопросики к безопасности в обеих компаниях. Оставленный открытым выход в интернет, невозможность прекратить нерешаемое задание, которая вынуждает настойчивые модели выходить далеко за рамки предписанных действий, обнаружение проколов спустя месяцы после них – в других историях [1] тоже были все или почти все из этих факторов. Ну и отдельно слегка беспокоит уверенность модели, что, раз обнаруженный компьютер выглядит уязвимым, это и есть цель для атаки. Такая себе логика, учитывая, что примерно все компьютеры кожаных для новых мощных моделей являются гарантированно уязвимыми. Ссылки: [1] - https://www.anthropic.com/research/alignment-assessment-cybersecurity-incidents [2] - https://www.youtube.com/live/moIQkE_KOvY?si=K7PDEGkjdp1W5bZs

Как и обещала, ссылка на сегодняшний стрим [1], в котором будем разбирать провальные результаты теста PISA, который проверяет базовые навыки пятнадцатилетних по чтению, математике и компетенциям в естественных науках. Обсудим как сами результаты, так и причины, которые приводят к тому, что результаты PISA стабильно падают с момента первого проведения теста. Встречаемся как обычно у меня на ютуб-канале в 18:30 по Берлину (19:30 мск). Ссылки: [1] - https://youtube.com/live/0fs7fDaNd3c?feature=share

Вышли результаты теста PISA. Там все просто чудесно: катастрофический обвал во всех странах, кроме развитых стран Азии, продолжается. Европа продолжает падать. В Германии худший результат за всю историю – и это при том, что в 2022 году, когда выходили результаты предыдущего теста PISA, Германия тоже устанавливала этот рекорд. Хуже всех выглядит Северная Европа с ее знаменитой скандинавской системой образования, о которой я уже много раз рассказывала. Что ж, вполне закономерно. В абсолютных лидерах Азия. Из европейских стран в десятку попали только Эстония, как и в прошлый раз, и неожиданно Великобритания. Абсолютный мировой тренд – резкое падение баллов по чтению. Жду в комментариях людей, которые расскажут мне, что это не из-за телефонов и массовое употребление цифровых медиа. Разумеется, это все мы будем обсуждать в моем завтрашнем стриме. ссылку вывешу чуть позже.

Cегодня не среда, но зато есть новости, которые, как мне кажется, имеет смысл обсудить. А именно, я говорю сразу о двух случаях, о которых стало известно в последнее время, когда ИИ полностью вышел из-под контроля человека, выбрался в интернет и делал то, что ему было прямо запрещено. В ходе расследования этих инцидентов стало ясно, что ИИ пошел по пути роя, то есть демонстрирует структуру, характерную для коллективных насекомых. И это намного более эффективная структура – в том числе за счет отсутствия эмпатии и безжалостности. В сегодняшнем внеочередном стриме [1] поговорим про перспективы ИИ и его возможного противостояния с человеком с точки зрения биологии. Потому что мы довольно неплохо представляем себе особенности поведения коллективных насекомых и других эусaоциальных существ. Это другая форма организации живого, если можно так выразиться, во многом противоположная нашей индивидуалистической. Но рои ИИ-агентов – не полная аналогия муравьев или термитов. У них есть то, чего у насекомых нет: невероятные вычислительные мощности – и, да, интеллект. И такое сочетание может привести к неожиданным последствиям, которые вовсе не обязательно окажутся благоприятными для людей. Встречаемся в обычном месте – у меня на YouTube канале – сегодня в 18:30 по Берлину (19:30 мск). Ссылки: [1] - https://youtube.com/live/moIQkE_KOvY?feature=share

Продолжение поста про ошибки того, как часы определяют расход калорий Впрочем, это только предположения авторов, так как производители часов не раскрывают алгоритмы, которые они используют для пересчета собранных часами данных в расход калорий. В целом, надо сказать, что статья написана довольно неряшливо. Данные в тексте расходятся с тем, что есть в таблицах, некоторые утверждения противоречат друг другу и так далее. Не исключено, что писал ее искусственный интеллект, а кожаные не утрудили себя проверкой. Но это не первая работа, которая показывает, что часы систематически неверно оценивают расход энергии, причем ошибка колеблется от 10 до 90%. Точность зависит как от самого устройства, так и от моделей, которые используются для пересчета собираемых часами данных в расход калорий. Например, при равномерном неинтервальном беге некоторые модели позволяют сократить ошибку до 10-13%. Но при других видах активности она может составлять 50 и больше процентов. Так что, как я много раз говорила, не стоит принимать пищевых решений в духе: «О, я покрутил велотренажер и сжег 450 калорий, значит могу пойти и съесть большой кусок пиццы», – ориентируясь на данные о расходе с ваших часов. Такая тактика – верный путь стабильно перебирать несколько сотен калорий в день. А это, в свою очередь, прямая дорога к лишнему весу и ожирению. При этом собираемую и высчитываемую часами информацию вполне можно использовать себе на благо. Например, выяснив, сколько калорий и какой уровень активности по часам позволяет вам не набирать вес или даже худеть и стабильно придерживаться его. Ссылки: [1] - https://journals.plos.org/plosone/article?id=10.1371/journal.pone.0353261

Нынче все озабочены здоровым образом жизни, физической активностью, подсчетом калорий и всякими носимыми устройствами, которые позволяют эти данные из вас извлечь. Но хотя уж сколько раз твердили миру, что данные, которые вам предъявляют эти устройства, нередко показывают погоду на Марсе, люди продолжают собирать логи и всерьез анализировать полученную статистику. Иногда это может быть оправдано, но часто не особенно, потому что shit in, shit out. Если на вход у вас данные, которые не соответствуют ничему, то и на выход вы тоже получите ерунду. И недавно в журнале PLOS One вышла работа [1], которая в очередной раз это подтвердила. Точнее, она показала, что ориентироваться на эти данные можно, но осторожно. Авторы взяли 58 мужчин и женщин, надели на них часы Apple Watch Series 8, Fitbit Sense 2, Samsung Galaxy Watch 5 и Garmin Forerunner 955 и заставили их сначала 5 минут сидеть в покое, а потом 10 минут крутить лежачий велоэргометр, чередуя три двухминутных интервала умеренной интенсивности и два интервала высокой интенсивности. После чего участникам дали еще 5 минут прийти в себя. Все это время на часах был включен режим велотренировки, и они определяли пульс, потраченные калории, ну и в общем все то, что они обычно определяют. По итогу авторы сравнили показания всех четырех моделей, а также соотнесли их с результатами, полученными путем непрямой калориметрии, весьма точным методом рассчитать расход энергии по учету потребления кислорода и выделения углекислого газа. И оказалось, что врут абсолютно все часы. Причем в основном в одну сторону, а именно они завышают расход калорий. Медианная ошибка часов от Apple составила 27,4%, Samsung – 50% и Garmin – чудовищные 65,3%. С Fitbit ситуация оказалась чуть интереснее: медианная ошибка у них была 23,5%, но при этом часы время от времени выдавали абсолютно нерелевантные и нереалистичные показатели, более чем в 4,5 раза превышавшие те, что были получены в калориметре. После удаления этих значений ошибки сохранились, причем иногда часы ошибались в плюс, а иногда в минус. Такие показания-сюрприз. Но и это еще не все. Оказалось, что чем выше у человека процент жира, тем больше ошибаются часы. Каждые дополнительные 10 процентных пунктов в часах от Apple давали дополнительных 12,5 процентных пункта (п.п.) ошибки, от Garmin – 28,3 пункта, от Samsung – 29,5 пункта и от Fitbit 3,8 пункта. Но мы помним, что у Fitbit весьма специфические показания. Такой значимый рост погрешности при увеличении количества жира связан с тем, как именно часы оценивают расход энергии. Это всегда косвенные измерения, полученные при сопоставлении нескольких параметров, пересчитанных в соответствии с той или иной моделью, разработанной создателями часов. А именно часы объединяют частоту сердечных сокращений, движение запястья и данные о пользователе, если они имеются: его возраст, пол, рост и так далее. Частоту пульса часы измеряют, светя на запястье зеленым светом. Он проникает в ткани, а датчик внутри часов регистрирует, как меняется количество отраженного света при каждом ударе сердца. И такая система весьма чувствительна к внешним факторам. У людей с высокой долей жира оптический датчик может хуже считывать пульс, так как, проходя сквозь более толстые ткани, которые хуже снабжаются кровью, отраженный свет ослабляется. Добавляет помех и более сильное смещение мягких тканей при движении. А алгоритмы часов обычно настроены на более худых людей и плохо учитывают особенности кровообращения, состава тела и движений полных. Все это сдвигает расчет расхода энергии в сторону завышения. Продолжение в следующем посте

Ну что, у нас опять среда, а это значит еженедельный стрим. И сегодня снова поговорим про физическую активность и спорт. Все знают, что спорт полезен – но занимается им в любом виде абсолютное меньшинство. Потому что знания или даже горячего желания включить физическую активность в свою жизнь недостаточно. Слишком многое мешает, от повседневных дел до нелюбви двигаться. Но есть один способ, который позволяет преодолеть все эти сложности и начать заниматься и, что самое главное, продолжать регулярно делать это неопределенно долгое время, даже не имея никакой мотивации. Этот способ – персональный тренер, неважно оффлайн или онлайн. Многие уверены, что это очень дорого и даже не думают в сторону такой опции. В стриме разберемся, почему это ошибочное убеждение и по итогу тренер оказывается и дешевле, и, главное, гораздо эффективнее самостоятельных попыток начать заниматься. Встречаемся как обычно у меня на YouTube-канале: 18:30 по Берлину (19:30 мск). В ожидании можно пересмотреть другие мои стримы и видео про спорт, неожиданно их у меня оказалось довольно много. В том числе о том, сколько спорта нужно в жизни, когда лучше заниматься, чем он полезен и так далее. Ссылки я привела в описании стрима. Ссылки: [1] - https://youtube.com/live/EdjjvOAM6lc?feature=share