Python Portal

В открытом доступе появился GuppyLM — проект, который позволяет обучить языковую модель на 9 млн параметров с нуля примерно за пять минут. 👀 Репозиторий включает весь процесс обучения и рассчитан на быстрые эксперименты с небольшими языковыми моделями без крупной инфраструктуры. 👉 @PythonPortal

Один из создателей ChatGPT представил принципиально новый тип ИИ-моделей. Два года, Диогу Алмейда, втайне разрабатывал Jev — модель, которая не пишет текст и не генерирует токены последовательно. Она получает любые неструктурированные данные и параллельно принимает заданные разработчиком решения. Например, выбирает одну категорию из списка, выставляет оценку или определяет вероятность утверждения. Jev также запрещено использовать скрытую цепочку рассуждений. Сложное поведение должно собираться разработчиком из множества простых решений при помощи обычного кода. Именно поэтому модель работает в 20–200 раз быстрее и обходится в 40–400 раз дешевле. Миллион входных токенов стоит 4,2 цента, а выход остаётся бесплатным навсегда (его вычисление настолько дёшево, что компания не видит смысла его считать.) Компания заявляет о нулевых галлюцинациях. Jev не может выдать ответ вне заданных вариантов или нарушить структуру. При этом модель может выбрать неправильный вариант. Это не замена GPT-6 Astra и не новый чат-бот. Jev создан для автоматизации, где программам не нужны тексты. Им нужны быстрые решения в заданном формате. 👉 @PythonPortal

В репозитории LLM Internals собрали цельную дорожную карту от токенизации и BPE до обучения, дообучения, RAG, агентов и оптимизации вывода. Разбираются Q/K/V, RoPE, каузальные маски, GQA, Transformer, MoE, LoRA, нормализация, обратное распространение ошибки, кросс-энтропия, RLHF и рассуждающие модели. Отдельный блок посвящён ускорению вывода: KV Cache, Flash Attention, Paged Attention и спекулятивное декодирование. Для каждого раздела собраны статьи и видео, поэтому репозиторий особенно полезен, если хочется наконец связать разрозненные знания в одну систему. https://github.com/amitshekhariitbhu/llm-internals 👉 @PythonPortal

Одно из главных правил GROUP BY в SQL. Если в SELECT есть столбец без агрегатной функции, он должен либо входить в GROUP BY, либо однозначно определяться сгруппированными столбцами. Почему это важно: GROUP BY определяет, что означает одна строка результата. База должна понимать, какое единственное значение поставить в каждую ячейку. Например, если одна строка результата соответствует должности внутри отдела, группировать нужно и по department, и по job_title. Если оставить столбец, который внутри одной группы может иметь несколько значений, одни СУБД просто вернут ошибку, а другие в некоторых режимах могут выбрать неопределённое значение из группы. Простое правило: если столбец может иметь несколько значений внутри группы, его нужно либо добавить в GROUP BY, либо агрегировать через COUNT, SUM, MAX, MIN и другие функции. 👉 @PythonPortal

Небольшой факт про Python. Оператор := называют «моржом» из-за того, что символы напоминают глаза и бивни моржа. Он появился в Python 3.8 и позволяет одновременно присвоить значение переменной и использовать его прямо внутри выражения. Например: while (line := input("Say something: ")) != "quit": print(f"You said: {line}") Без него пришлось бы отдельно получать значение через input(), а затем уже проверять его. Пользовались когда-нибудь := в своём коде? 👉 @PythonPortal

Не нарушайте принцип единственной ответственности Функция должна делать одну вещь, делать её хорошо и только её. Эта функция делает слишком много: def calculate_final_total( price: float, quantity: int, discount_rate: float, tax_rate: float ) -> float: # Расчёт промежуточной суммы subtotal = price * quantity # Применение скидки discounted_amount = subtotal * (1 - discount_rate) # Расчёт налога final_total = discounted_amount * (1 + tax_rate) return final_total Проблема здесь в том, что расчёт промежуточной суммы, скидки и налога объединён в одну функцию. Любое изменение одного из этапов может повлиять на весь расчёт. Лучше разбить логику на небольшие специализированные функции: def calculate_subtotal(price: float, quantity: int) -> float: return price * quantity def apply_discount(subtotal: float, discount: float) -> float: return subtotal * (1 - discount) def calculate_tax(amount: float, tax_rate: float) -> float: return amount * (1 + tax_rate) Так намного лучше. Небольшие функции с одной задачей проще покрывать модульными тестами, потому что у них меньше зависимостей и требуется меньше моков. Кроме того, изолированные компоненты проще переиспользовать в разных частях приложения или конвейера, не подтягивая лишние зависимости. Поэтому держите функции простыми и сфокусированными. Одна функция — одна ответственность. 👉 @PythonPortal

Правильный способ обучения такой: Нужно просто решать задачи и делать проекты. Именно такой подход сделали для одной из лучших книг по основам статистики — кстати, одной из немногих, которые я действительно прочитал. Всё очень просто: Читаешь главу. Решaешь все задачи по этой теме. https://www.statlearning.com/ 👉 @PythonPortal

Пока все заставляли мушку работать, чуваки решили дать ей отдохнуть. Вот что из этого получилось. 👉 @PythonPortal

Изучайте Linux-сети на практике Новый практический челлендж — потренируйтесь разбираться в сетевой конфигурации Linux-хостов: находить имена интерфейсов, IP- и MAC-адреса, шлюз по умолчанию, а также определять, какие маршруты сервер использует для доступа к разным адресам. https://labs.iximiuz.com/challenges/linux-inspect-network-interfaces-and-routes 👉 @PythonPortal

Вот как сегодня выглядит «фабрика программного обеспечения» OpenAI, где значительная часть работы уже строится вокруг агентов. 👉 @PythonPortal