Цифровой геноцид

На днях увидел пост у коллеги про Люси Сачмен, решил посмотреть, а что у нее нового Автор одного из глубоких текстов в теории исследований человек-машина уже достаточно давно пишет работы про безопасность, разведку, проблему дезинформации, контуров безопасности стран и систем обороны В интервью для СМИ весной 2026 года ситуация по ее словам приобретает апокалиптические акценты - и напоминает теорию партизана, простите, Карла Шмитта(осуждаю на всякий случай) https://cybernews.com/ai-news/lucy-suchman-interviewdestruction/?utm_source=cn_linkedin&utm_medium=social&utm_campaign=cybernews&utm_content=post&source=cn_linkedin&medium=social&campaign=cybernews&content=post Вопрос журналиста: Anthropic, как сообщается, участвовала в конкурсном вызове Пентагона по созданию технологий для голосового управления роями автономных дронов. Можете объяснить, что такое рои дронов и почему они опасны? Сачман: Дроны, которые использовались во время так называемой «Войны с террором», были очень большими и дорогими, в основном управлялись Соединёнными Штатами. Сейчас мы наблюдаем появление гораздо более мелких дронов для слежки, которые всё чаще вооружаются. Я думаю, это будет огромной проблемой, потому что можно иметь множество вооружённых дронов, действующих так, что всё сложнее понять, кто ими на самом деле управляет и являются ли они вооружёнными. Такого рода террор действительно усилит опасности и неопределённость. Проект роёв дронов — это снова идея усилить террор, который можно развернуть с помощью гораздо более мелких дронов, соединив их в сеть друг с другом. Нападения на гражданские пространства, такие как города, всегда были, но теперь это, похоже, просто способ ведения войны. Как только вы начинаете наносить удары по густонаселённым районам, определить, кто комбатант, а кто нет, становится практически невозможно. У меня очень мало уверенности в том, что в текущих операциях США в Тегеране, которые, несомненно, ускоряются этими технологиями, соблюдаются традиционные принципы международного гуманитарного права.

На предоставленном изображении показана «Машина знаний» (The Engine) из фантастического летающего острова Лапута. Это знаменитая иллюстрация из сатирического романа Джонатана Свифта «Путешествия Гулливера» (1726 год). книге это механическое устройство, созданное профессором Великой Академии Лагадо. Оно состояло из деревянной рамы со множеством подвижных кубиков, на гранях которых были написаны все слова лапутского языка в разных наклонениях и падежах. При вращении железных рукояток по краям (изображены в виде ломаных линий по периметру) кубики переворачивались, выдавая случайные комбинации слов Цель этого изобретения заключалась в том, чтобы позволить любому самому невежественному человеку без всякого таланта или учения писать глубокие книги по философии, поэзии, политике и теологии исключительно с помощью случайного перебора слов. Механизм имел вид рамы, на которой были закреплены деревянные дощечки – одни побольше, другие поменьше. Все они соединялись между собой гибкой проволокой. Сверху на них были написаны слова на местном языке во всех падежах, временах и наклонениях, но в самом произвольном порядке. По команде профессора каждый ученик взялся за железную рукоять – всего их было около сорока, – и сделал полный оборот. При этом порядок слов на дощечках полностью изменился. Тогда ученый приказал тридцати шести помощникам медленно читать образовавшиеся строки, и если какие-нибудь три или четыре слова случайно составляли связную фразу, ее тут же диктовали четырем ученикам, исполнявшим роль писцов. Так повторилось три или четыре раза, причем после каждого оборота рукоятей дощечки перемещались с места на место и переворачивались. Затем ученый показал мне груду томов со всевозможными обрывочными фразами. Теперь он намеревался связать их между собой и составить на основании этого материала полный свод всех наук и искусств.

Техническая эстетика, листая выпуски 90ых Некоторые описанные проекты 90ых представляют собой интерес с точки зрения проектирования компьютеры для детей - проект был начат по инициативе ЦНИИ «Электроника» и НИИ дошкольного воспитания АПН СССР - появление в детском саду компьютеров является вызовом для последних лет, инновацией, хотя, конечно, очень много видеоигр в мире уже существовало для таких возрастов. Особое внимание уделяется способу взаимодействия ребёнка с компьютером в возрасте от 4 до 7 лет, где клавиатурный пульт остаётся основным средством ввода информации, и для повышения комфорта используются специальные сменные пиктографические клавиатурные накладки и клавишные колпачки, которые позволяют дошкольникам, не знающим букв, эффективно общаться с компьютером. Показательно, что уже к этому времени существовали проекты Эллисон Друин, основанные на создании мягких игрушек-компьютеров в МИТ Отдельной темой внедрения компьютеров по прежнему является разработка компьютера и детских компьютеров. Например, описывается разработка специального компьютера по заказу от авторитетной организации — ассоциации «Компьютер и детство» (КИД), которая отлично знала, как важно с раннего возраста правильно вводить детей в мир цифровых технологий. Цель была чёткой и амбициозной: изделие должно на сто процентов соответствовать задачам обучения и самым строгим требованиям эргономики. (Статья Прохоренокова В.П. Компьютер и детство в номере 3 Технической эстетики за 1991 год) К проекту сразу подключили специалистов ВНИИТЭ по эргономике. Они предоставили точные антропометрические данные и консультировали дизайнеров на всех этапах. Материал и технологию выбрали заранее: пластмасса и литьё под давлением — практично, дёшево в массовом производстве и безопасно для детских учреждений. Основными задачами было обеспечение правильную посадку для детей любого роста и комплекции в заданном диапазоне. При этом ни в коем случае нельзя «запирать» ребёнка в жёсткую фиксацию — дошкольники невероятно подвижны и просто не способны долго сидеть неподвижно. Все регулировки должны быть предельно простыми: чтобы с ними справился и сам малыш, и воспитатель в детском саду. Плюс абсолютная безопасность токопроводящих элементов и возможность собирать-разбирать мебель без инструментов (кроме установки самого компьютера).

Кто в ответе? Напряжённый союз автоматизации и человеческого поведения Выдержки из статьи Who’s in charge? The fraught union of automation and human behavior Автоматизация повсеместна — от автопилота в самолётах до циклов стиральной машины у вас дома. А с появлением современного искусственного интеллекта компьютеры и машины берут на себя всё больше задач. https://knowablemagazine.org/content/article/mind/2026/design-automated-systems-with-human-psychology-in-mind Это не обязательно означает исчезновение человеческих рабочих мест, но они меняются — от непосредственного выполнения задачи к контролю за машиной, которая её выполняет, говорит Рон Маклеод из Глазго, Шотландия. Отставной специалист в области «человеческого фактора», Маклеод всю карьеру изучал, как человеческий мозг и автоматизация работают вместе — или не работают — в промышленных условиях, например в пультах управления нефтеперерабатывающих заводов. В феврале 2026 года Маклеод выпустил книгу на эту тему: Transitioning to Autonomy: The Psychology of Human Supervisory Control («Переход к автономности: Психология человеческого супервизорного контроля»). Переход к роли супервизора несёт как технологические, так и психологические вызовы, считает Маклеод. Человеческий разум быстро скучает и отвлекается, и не всегда готов мгновенно вмешаться, если машине потребуется помощь. Но дело не только в этом. Системы — будь то пульты управления, кабины пилотов или автоматические спортивные судьи — должны проектироваться так, чтобы эффективно работать вместе с людьми, а не исключать их из процесса. А инженеры и дизайнеры не всегда понимают, как сбалансировать датчики и действия автоматизированных систем с потребностями и возможностями людей, которые за ними наблюдают. Это распространённая проблема: в каких условиях человеку разрешено вмешиваться в работу автоматизации или когда автоматизация может отменить решение человека? Например, в автомобиле: когда включён автопилот, если я нажимаю на тормоз, система отключается и я возвращаю управление себе. Она позволяет мне перехватить управление. Что должны делать автопроизводители, чтобы облегчить водителям этот переход? В моём автомобиле, как только я убираю руки с руля, я сразу оказываюсь в супервизорной роли. Мне нужна другая информация. Мне не нужно знать, на какой передаче я еду; мне даже не обязательно знать текущую скорость. Мне нужно понимать: кто контролирует — я или машина? И мне нужно знать, о чём «думает» машина, видит ли она приближающуюся угрозу? Когда контроль за автоматизацией даёт сбой - либо в момент работы, либо ещё на этапе проектирования или обучения, то последствия могут быть катастрофическими. Одна из ключевых проблем — это баланс полномочий между людьми и автоматизацией. Кто на самом деле контролирует? Это проявилось во время теннисного чемпионата Уимблдон в 2025 году. Впервые Уимблдон передал полные полномочия автоматизированной системе определения попадания мяча — Hawk-Eye — решать, был мяч «в» или «аут». Это был четвертьфинал женского одиночного разряда: Анастасия Павлюченкова против Сонай Картал. Картал ударила мяч, который явно был аутом, но автоматика не зафиксировала это как аут. Игроки видели это, судьи видели, весь мир, смотревший трансляцию по телевизору, видел, что мяч был аутом, но главный судья не имел права отменить решение автоматизированной системы. Судья заставил пару переиграть очко, и Павлюченкова проиграла эту игру, хотя в итоге выиграла матч. Оказалось, что это была человеческая ошибка: систему случайно отключили. Организаторы были очень смущены, и их первой реакцией — вместо признания, что они имеют дело со сложной системой, зависящей от человеческого поведения, — стало общее заверение, что они внесли изменения, чтобы предотвратить повторение ошибки. Но на следующий день произошёл ещё один ошибочный вызов. Они не извлекли правильный урок: система не на 100 % надёжна, поэтому люди всё равно нужны. Конкретно для автомобилей Национальный совет по безопасности на транспорте США (NTSB) недавно провёл совещание по итогам расследования двух смертельных аварий 2024 года, в которых внедорожники Ford Mustang в режиме частичной автоматизации врезались в остановившиеся на трассе автомобили. В обоих случаях водители Ford были не в состоянии или отвлеклись от контроля за автоматизированным вождением. NTSB рекомендовал автопроизводителям устанавливать системы, снижающие риск потери бдительности или самоуспокоенности водителей при работе автоматизации. Эти системы должны отслеживать состояние самих супервизоров-человек, которые supposed to следить за автоматизированным вождением. Уже проведено много исследований и разработок продуктов для мониторинга уровня бодрствования. Они делают это, например, отслеживая движения глаз, положение головы. Похожий пример: многие годы в железнодорожной отрасли некоторых стран использовали устройство «бдительности», чтобы убедиться, что машинист не уснул — ведь его задача очень монотонная. Это простой звуковой сигнал, который срабатывает каждые 30 секунд. Машинист должен нажать кнопку, чтобы отключить звук. Технология очень простая, но, похоже, эффективно гарантирует, что машинист не спит. (В СНГ - это тест точка на кругу для машинистов метрополитена и РЖД - В.Б.) И не у всех есть когнитивные способности, необходимые для вождения в роли супервизора. Стоит ли включать в экзамен на права проверку, способен ли человек принимать такие решения? Я не знаю, но в этом направлении нужно больше исследований. Что ещё можно сделать, чтобы помочь человеческим супервизорам оставаться вовлечёнными и эффективными в других автоматизированных ситуациях? Суть проблемы на самом деле не так сложна. Всё сводится к хорошему дизайну. Если вы понимаете, что переводите людей из роли исполнителя в супервизорскую роль, то на стороне системы нужно проектировать пользовательский интерфейс, исходя из понимания: в чём заключается задача человека? Какая информация ему нужна? Как это оптимизировать? Для пользователя важно учитывать обучение, системы мотивации, рабочую нагрузку и конкурирующие задачи. Компании должны обеспечить, чтобы люди, контролирующие автоматизацию, прошли обучение и понимали, что входит в их супервизорскую роль: например, какие признаки или информацию они должны искать, где эта информация находится и что может произойти, если что-то пойдёт не так. И, например, не создавать стимулов, которые отбивают у супервизора желание принимать правильные решения. Когда я работал в нефтегазовой отрасли, было несколько случаев, когда сотрудники в пультовых вмешивались и останавливали или снижали производство — а у этого есть прямая долларовая стоимость. Они поступили правильно, но их за это винили.

Фронтиры технологий (или старая промышленная революция еще удивит) Вообще, интересно какие есть способы применения ЛЛМ для аддитивных технологий, которые обычно маркируют как "функциональная/встроенная печать электроники" (printed/embedded electronics, mechatronic 3D printing). И идея, которая, возможно, перевернет индустрию и будет сравнима с паровым двигателем для английской промышленной революции, -это производство самовоспроизводящихся объектов: принтер печает принтер, который печатает принтер, который печатает новый принтер. Причем идея восходит к некоторым ранним работам фон Неймана, который описывал концепцию физической небилологической самовоспроизводящейся системы - в работе по теме отметился и Дайсон, который сфера Дайсона, и реальные проекты НАСА с машинами-репликаторами для отдаленных космических станций Одной из интересных ласточек революции был проект RepRap (Replicating Rapid Prototyper), запущенном Адрианом Бойером в Университете Бата в 2004–2005 годах. Первый прототип «Darwin» (2007) печатал большинство собственных деталей, а в мае 2008 года напечатанный принтер впервые изготовил детали для своей копии — «ребёнка», который в свою очередь мог напечатать «внука». Проект был принципиально открытым (open source) https://en.wikipedia.org/wiki/RepRap Ключевой проблемой долгое время было, что детали было не напечатать сложные https://spectrum.ieee.org/3d-printed-linear-motor - благодаря тому, что может печатать разные материалы и использовать магнитные гранулы начал печатать сложносоставные материалы - электромоторы. И это первый реальный шаг к самовоспроизводящимся роботам и объектам. Вот, например, хорошая рабочая группа университета Йорка https://www.york.ac.uk/robot-lab/are/ В прошлом году лаборатория Creative Machines Lab опубликовала концепцию Machine Metabolism (Robot Metabolism): роботы физически «растут», самовосстанавливаются и поглощают детали других роботов — как биологические организмы поглощают аминокислоты. При этом сам подход текст-ту-кад ЛЛМ представляет собой дополнительную синергию для самопроизводства роботов, еще и закладывая определенные возможности для вариаций и изменений проектов при помощи больших языковых моделей https://text-to-cad.zoo.dev/ https://text-to-cad.uk/ Естественно, это дает возможность проектировать модели и печатать их без участия человека, цепочки и тд - но и, конечно, создает риски - и не только риски уровня нелицензированной печати фигурок для Вархаммера, но и нарушений безопасности, тестирования, эргономики, материаловедения В целом, цепочка производств типа факторио с гопатычами - это потенциально более значимый взрыв инноваций в экономике 21 века

разные примеры интерфейсных решений пай меню https://medium.com/@donhopkins/pie-menus-936fed383ff1 - рыцарь Pie Menus, 30 лет проповеди круглых меню

Круглые интерфейсы. Из старого #история #паттерны #гедономика А почему все интерфейсы прямоугольные? Потому что все дисплеи прямоугольные, правильно. У нас нет круглых смартфонов или круглых экранов ноутбуков (к сожалению!) Но есть и альтернативное мнение, которое реализуется в так называемых Pie Menus — круглых или радиальных меню интерфейса, которые часто используются в играх ММОРПГ, а не в серьезных вещах. Хотя так было совсем совсем не всегда и несколько десятилетий назад многие аналитики, разработчики и дизайнеры серьезно обсуждали будущее этого вашего диджитола под сенью круглых продуктов с радиальными интерфейсами. Почему? Пресловутый закон Фиттса гласит, что чем крупнее элемент интерфейса и чем меньше расстояние до цели, тем легче в него попасть. Круглое радиальное меню сокращает расстояние до цели, тем самым уменьшая время, затрачиваемое на действие. Впервые такое меню упоминается в классической статье 1969 года «PIXIE» Нила Уайзмана, Лемке и Хайлза, на которую ссылались в основополагающей книге Ньюмана и Спроулла 1979 года «Принципы интерактивной компьютерной графики». Уже в 1988 году команда энтузиастов попыталась предложить свое видение радиальных меню Якобу Нильсену на конференции HCI, а затем после неудачи и Стиву Джобсу из молодой компании Apple. Конечно, все прошло не очень хорошо: радиальные меню быстрые, но слишком уж неоднозначные. Дон Хопкинс был одним из этих энтузиастов и в 89 году он продемонстрировал свое средство разработки текстов с круговыми меню для редактирования баз данных гипермедиа HyperTIES. Вот и видео по ссылке есть https://www.youtube.com/watch?v=hhmU2B79EDU&feature=emb_title&ab_channel=DonHopkins

Синтетические человеческие воспоминания: отредактированные ИИ изображения и видео могут имплантировать ложные воспоминания и искажать воспоминания https://www.media.mit.edu/publications/synthetic-human-memories/ Возможно, что сгенерированные нейроизображения оказывают сильное влияние на память: в рамках эксперимента людям показывали реальные фотографии, чтобы сформировать исходные воспоминания. Потом разным группам показывали оригинальные фото без изменений, искаженные ИИ, видео, которое сгенерировано из исходного изображения и тд После этого участников спрашивали, что они помнят и насколько уверены в своих воспоминаниях. Если фото слегка отредактированы нейросетью, ложных воспоминаний становится больше - люди начинают вспоминать добавленные/изменённые детали как будто они реально были. Все это, конечно, напоминает популярные проблемы эффекта Манделы, пресловутого эмодзи конька морского и другие популярные в медиа истории, но ситуация глубже и противоречивее, учитывая, что любое медиа и СМИ будет использовать нейронки для редактирования фото и добавлять объекты массово - гораздо больше, чем раньше https://dl.acm.org/doi/10.1145/3706598.3713697 ИИ-имплементирование ложных воспоминаний, конечно, будет приобретать политический аспект Как пишут авторы: "Первый сценарий — «Повышение самооценки» — показывает, как AI можно применять для улучшения личных воспоминаний, усиливая уверенность за счёт усиления позитивных воспоминаний. Второй сценарий — «Терапевтическое переработка памяти» — иллюстрирует использование AI для изменения воспоминаний о прошлых событиях, переосмысливая травматичные моменты в более позитивном ключе в терапевтических целях. Третий сценарий — «Распространение общественной дезинформации» — демонстрирует, как AI может манипулировать информацией в публичных медиа. Например, студент мог посмотреть в классе корректное видео NASA об изменении климата, но позже его память может «перезаписаться» под влиянием ложного AI‑сгенерированного видео из соцсетей, где не показывается никаких доказательств изменения климата, и это меняет его восприятие проблемы." С другой стороны, это открывает новые возможности для направлений управления репутации, как компании, так и персональной репутации - создание миллионных тиктоков по переписыванию исторических событий. Впрочем, как мы знаем, ИИ для этого не особо и нужен, скорее добавит автоматизации для задач. Теоретически можно даже реализовать такую фабрику фейковых фото для создания иллюзий

Новости с полей натуралистического принятия решений NDM18 Сходил онлайн на выступления разных исследователей онлайн - особенно, подрядчики Пентагона и американской военщины манят мой внутренний взор, но справедливости ради никто на регистрацию моего русского мрачного тона прошло не замечено(всем все равно, конечно) https://naturalisticdecisionmaking.org/conference-2026/ На что хотел бы обратить внимание, например, это выступление Robert Hoffman , несколько раз натыкался на его статьи, но теперь мог сделать о системных взглядах и теории экспертизы в эпоху ИИ Основная идея вот в чем: мир и когницию нужно описывать как поток событий и процессов, а не как фиксированные структуры и хранилища знаний. На этом фоне он предлагает трактовать не «контекст» как вещь, а процесс контекстуализирования, то есть обнаружение «сюрпризов», которые заставляют менять онтологию, методы и законы в теории или модели работы системы Контекстуализация проявляется через замечание аномалий, расхождений в моделях и перспективах, неожиданных факторов — «сюрпризов», которые указывают на объяснительный пробел и требуют пересмотра онтологии или модели Для ИИ‑систем контекст — это просто дополнительная информация, которую нужно «скормить» уже существующей архитектуре, алгоритмам и т.п. ИИ‑системы не могут по‑настоящему «перекадрировать» ситуацию в сильном смысле — то есть изменить саму онтологию, устойчивые закономерности и метатеорию. Только люди способны к подлинной контекстуализации — либо через переживаемый сюрприз, либо через сознательное обдумывание Что это значит? Человек скорее может заметить, что что‑то «не сходится» (сюрприз, аномалия, конфликт перспектив) и на этой почве изменить сам способ описания мира: добавить новые сущности, пересмотреть роли, ввести новый тип объяснений или методов - пусть даже и написав что-то новое в нейронку. Я вижу, что нейронка что-то отдает однотипное, я направляю ее в другую сторону, прошу учесть другие факты, обратить внимание на рынок или конкурентов, получаю новый результат и тд, в каком-то смысле человек это судья аномалий и слабых сигналов - он решает, что аномалия, а что нет Если у вас есть желание поговорить на эти и другие связанные с хуман факторс темами, то пишите мне @lilalogos , я всегда открыт к коммуникации

Как кансей выглядит наглядно Есть специальные программы вообще для этого, напомню как Артемий Лебедев ругался на русскую систему ВААЛ в своем Ководстве, но вообще в мире периодически такие цифровые среды релизят