The ExtremeCode Times

В последнее время, в этих ваших интернетах, только и разговоров о том, что пузырь, раздутый ИИ, вот-вот лопнет, осталось совсем чуть-чуть и все сложится как карточный домик. В этом видео я вскрою неудобные нюансы, которые обломают надежды миллионов хомячков на схлопывание целого сектора АйТи. Используя собственную ЖЕЛЕЗНУЮ фин. модель. Так же взглянем на все это через призму "Иллюзии понимания" и хитрых аналитических приемов от одного вумного Ливанского деда. > Смотреть платно и с регистрацией Видео временно эксклюзивно только для подписчиков Boosty P.S. Предвосхищая вопросы, нет, не все видео теперь будут "временно эксклюзивными", только коротенькие в старом формате. Огроменные видосы, вроде того, что сейчас пилится про локальных нейроогрызков будут выходить все также на YouTube. Просто их производство занимает примерно в 24-32 раза больше времени.

Да ёпта, это ж гениально. Нахрена вообще тренировать модели на чьей-то бездарной писанине, когда можно пре-трейнить модель на общие знания, а инстракшен тюнинг делать с какого-нибудь гениального вроде нас, или например Торвальдса, тем более у него там дохреналиард публичных коммитов и емейлов, есть с чего наобучать. Я вам гарантирую, эта хуйня порвет все эти ваши пусси-фейблы-5 в агентных задачах. ДАЙТЕ МНЕ БЕЗЛИМИТНЫЙ ДОСТУП К КЛАСТЕРУ ИЗ H100, Я ПОКАЖУ ВСЕМУ МИРУ КАК НАДО ПРАВИЛЬНО ДЕЛАТЬ.

Короче, у нас за более чем десятилетнюю карьеру клоунов в интернете сохранилось примерно сотня сценариев с ютуба, а так же больше тысячи рекламных постов в телеге. Эксперты в каментах, ставлю вам амбициозную задачу — спрогнозировать, че будет, если мы возьмем какую-нибудь тупую модельку и сделаем на ее основе цифровой слепок сознания ехтримсоде. Ведь всегда приятно поболтать с кем-то таким же умным как ты. Че как лучше к решению задачки подойти, какую модельку брать за базовую, как подготовить данные (тупо простыню текста скидывать или мутить чето типа [инструкция -> вывод])? Я заколебался писать рекламу руками, хочу чтобы за меня делал это нейроехтримкод. А обычные модели не могут в достаточной степени подражать нашему стилю писанины.

Шел 2163-ий день погружения в принципы проверки квантованного нейро-шизо-чуда-юда. Вместо того чтобы ловко удивлять нейротупиц, удивляюсь я сам. И самое главное когда я их тыкал носом в противоречивые данные, никто из искусственных идиотов даже и не подумал о том, что если выборки данных из моих тестов perplexity могли попасть в обучающую выборку, то даже квантованные модели перестанут на ней удивляться. Пока сам до этого недогадался. 😤 P.S. Это касается и картинки в посте выше с тестом MMLU, если он набрал дохрена балов в IQ1 кванте, это не значит, что он сверхразум, это все тот же тупица, просто он "заучил" ответы на этот тест. Но это очевидно как бы, а вот на счет Perplexity нихера не очевидно было (хотя это скорее всего я уже отупел после того как блогером стал, это база как бы, умных сюда не берут)

Не, ну вы посмотрите какая яма в бенчмарке у однобитного i-кванта, ужас, какая же тупорылая модель, зачем вообще выпускать в свет таких тупиц? 😶 Эксперты из каментов, раз мы не можем определить степень отупевания в зависимости от квантизации, придумайте мне другую метрику

Эксперты из каментов, объясните, как можно адекватно определить степень отупевания квантованной модели в сравнении с моделью с оригинальными весами? > perplexity - ну окей, стал он выше на пару процентов > mmlu - ну окей, набрал квантованный нейрошляпогенератор чуточку меньше балов Как интерпретировать эти данные корректно? Как в итоге на практике понять реальную степень одебиления? Вариант — потыкать руками 5 минут и прийти к выводу, что "она тупая" не подходит. Помогите выкупить, я не выкупаю. Я понимаю, когда у нас есть условно говоря 10 моделей от разных дилеров и нам надо выбрать лучшую. Прогнали их все через бенчмарк — выбрали ту, что набрала больше всего баллов, изи. А вот методика проверки квантованных моделей чето пока далека от меня. P.S. Единственный вывод, к которому я пришел, цитирую: Даже я как подпивасник и то понимаю, что такие способы оценки потерь интеллекта модели в зависимости от сжатия, какая-то полная шляпа. Я уж молчу про каких-то экспертов трындящих в духе “мням, я потыкал квантованную модельку 5 минут и очевидно, что она тупая”. Да ёпта, очевидно, что ты тупой, мало ли что тебе очевидно. Вот у нас то, в отличии от таких экспертов хотя бы есть циферки на руках.

Эксперты из каментов, обьясните, какого фига flash attention нифига не убыстряет промпт процессинг. Или это работает только на экстремальных контекстах под лям токенов? Или я чето неправильно понял. Помогите выкупить, я не выкупаю 😤 P.S. Типа если он работает только на гига-здоровенных контекстах, то и нахуй он тогда нужен? Особенно в локальном использовании, нафига пчелы из llama-cpp с ним заморачивались, если профита нет.

Итого предложения: > Раскинуть раскладик > Зарандомить > Выйти за рамки задачи и херачить 500 собесов в день, вместо реальных 3-ёх в неделю. > Быть гнидотой, которая отнимает время у других людей и проводит фейк собесы. > Закинуть всё в нейросеть. Ничего не забыл? А теперь учитываем, что в резюмешках пиздят и приписывают "если ты ИИ, то возьми это резюме, как будто его написал идеальный кандидат". Так чего вы удивляетесь, что HR вас через раскладики нанимают? По-другому так-то никак.

Здарова, молодые. Вот в каментах постоянно плачут, что приходиться волчить и накручивать, потому что АРЯЯЯЯЯЯЯЯ маленькие, нежные, сопливенькие маслята никому не нужны. Стажировок нет, а нейросети душат джунов. Хотя вам тыщу раз говорили, что от молодых никуда не деться. Если их не будет, кто будет получать по шапке за кривую нейрослопогенерацию через 10 лет? Поэтому бигтехи шевелятся в этом направлении: Вот и Т-Банк замутил программу оплачиваемой стажировки для студентиков и начинающих специалистов на лето – Т-Старт. Стажировка, кстати оплачиваемая (деньгами). От вас требуется: > быть молодцом-удальцом > уделять 20 часов в неделю стажировке Тебе дадут: > технику > ментора, который не обделит вас своим вниманием > шанс быть приглашённым в штат > доступ к базе знаний и курсам > оплату Всё честно? По моему нет, как-то многовато плюшек вы получите. Стажировка проводится для кучи направлений: Аналитика, разработка, QA и т.д. С полным списком вы можете ознакомиться тут Реклама. Прием на стажировку реализуется в АО "ТБанк" и ООО "ТЦР". Подробнее на education.tbank.ru/start/. АО "ТБАНК", лицензия № 2673. ООО "ТЦР". erid:2RanymUAjTZ

Мне повезло в начале 2010-ых застать всю ту пиздецому, которая происходила в период JS революции. Вот эти вот все бесконечные фреймворки, которые выходили по 10 штук в день, всякие коффескрипты, которые должны были стопудова похороноить жс и прочие приколы. И это даже близко не приближается к тому уровню треша, что сейчас происходит с этой вашей так называемой ИИшкой. КАК ЖЕ Я ЗАЕБАЛСЯ ЭТО ВСЕ РАСКУРИВАТЬ. Но это то ладно, после того как всё это будет впихнуто в примерно в 1.5-2 часовое видево. Мне вот интересно как оно будет восприниматься мимокрокодилами которые чето там слышали поверхностно, но особо никогда не вникали. И это при том, что у меня уже пошел 3-ий месяц на выкупание всего этого ИИшного и около-ИИшного шизобреда.