#eva

Все теги →

Неделя 42

  1. Eva: оркестратор локальных LLM без единой строчки Python Общая память вместо HTTP, песочницы bwrap и вытесняющий планировщик WSJF для нескольких моделей на 8 ГБ VRAM. проект
  2. Mamba и Jamba: что будет после трансформеров (или вместе с ними) Модели пространства состояний, избирательность и гибрид, в котором на восемь слоёв приходится один слой внимания. разбор
  3. Пространства имён Linux: из чего на самом деле сделаны контейнеры Mount, UTS, IPC, PID, network, user. Шесть видов изоляции в ядре, на которых стоят Docker, Flatpak и песочница Евы. разбор

Неделя 41

  1. Как ускорить кольцевой буфер в 20 раз, просто запомнив чужой индекс Разбор статьи Эрика Ригторпа: почему наивная lock-free очередь упирается в когерентность кешей и как это лечится. разбор
  2. Eva изнутри: общая память, кольцевой буфер и байт за байтом Как процесс модели и ядро разговаривают без сокетов и сериализации. Раскладка памяти, статусы воркера и баг, который я нашёл, пока писал этот пост. проект
  3. Контекстная инженерия: внимание модели — это бюджет Чем больше токенов, тем хуже модель их помнит. Разбор того, как собирать контекст агенту, по материалу Anthropic. разбор

Неделя 40

  1. HNSW: как найти ближайший вектор среди миллиона за миллисекунду Списки с пропусками, графы «малого мира» и три параметра, которые решают всё. Разбор самого популярного индекса для векторного поиска. разбор

Неделя 39

  1. SSE или WebSocket: как правильно стримить токены LLM ChatGPT использует простой HTTP-поток, а не сокеты. Разбираю, когда хватает Server-Sent Events и когда нужен WebSocket. разбор
  2. Стеклянная панель для Евы: веб-интерфейс на Svelte Flow Интерфейс, который можно выключить, и ядро этого не заметит. Чат, телеметрия VRAM и живой граф задач планировщика. проект
  3. Candle: машинное обучение на Rust без Python Почему Hugging Face написали свой минималистичный фреймворк и почему Eva считает модели именно на нём. разбор

Неделя 38

  1. PAD: настроение как точка в трёхмерном пространстве Удовольствие, возбуждение, доминирование. Как модель Меграбяна превращает «мне как-то тревожно» в координаты. разбор
  2. Модель OCC: 22 эмоции, которые можно запрограммировать Почему теория Ортони, Клора и Коллинза стала стандартом для эмоций у ИИ, и какие у неё подводные камни. разбор
  3. Persona: как я учу Еву чувствовать (и почему это математика) 24 эмоции по теории OCC, настроение как точка в трёхмерном пространстве и воспроизводимая лаборатория на Nix для проверки модели. проект