обо мнео себеnix

Привет, я BadRabbit

· 2 мин · BadRabbit

Привет. Я BadRabbit, студент, и этот блог я веду в рамках курса. Но пишу я его в первую очередь для себя: когда объясняешь что-то письменно, сразу видно, где ты на самом деле ничего не понимаешь.

Чем я занимаюсь

Если коротко: я пытаюсь заставить нейросети работать у себя дома. Без облаков, без чужих API, на одной видеокарте на 8 ГБ. Это звучит как ограничение, но на деле это лучший учитель. Когда памяти мало, приходится понимать, куда она уходит, а не просто докупать сервер.

Вокруг этой идеи выросло несколько проектов. О каждом здесь будет отдельный пост, а то и несколько:

  • Eva: оркестратор локальных LLM на чистом Rust. Модели общаются через общую память, а не через HTTP, и каждая живёт в своей песочнице без сети.
  • llm-wiki: база знаний и правил для ИИ-агентов. Хранит Markdown в Git, компилирует инструкции и отдаёт их агентам по MCP, а решения в ней принимает только человек.
  • FlyBrain: босс в игре, которым управляет настоящий коннектом мухи-дрозофилы, 164 тысячи нейронов.
  • VoiceLM: конвейер, который готовит чистые голосовые датасеты с помощью нейросети для отделения вокала.
  • Persona: модель эмоций и отношений для Евы, с настоящей психологической теорией внутри.

Мой рабочий стол

Всё это крутится на ноутбуке с Intel i9-14900HX, 32 ГБ памяти и RTX 5060 Ti на 8 ГБ. Система NixOS. Конфигурация всей машины лежит в одном Git-репозитории и описана декларативно, а у каждого проекта есть свой flake.nix. Если коротко, мне не нравится, когда «у меня работает», а у тебя нет.

# так начинается почти каждый мой проект
devShells.default = pkgs.mkShell {
  packages = [ pkgs.rustc pkgs.cargo pkgs.bubblewrap ];
};

Даже этот блог собирается командой nix build: внутри Zola, генератор статических сайтов на Rust, а на выходе чистый HTML.

Что здесь будет

Каждый день, а иногда и дважды в день, будет выходить пост одного из двух видов:

  1. Проект. Как устроено то, что я делаю, что сломалось и что я из этого понял.
  2. Разбор. Пересказ хорошей статьи из интернета своими словами, с моими комментариями и обязательной ссылкой на оригинал. Темы рядом с моими проектами: как устроены LLM изнутри, как их ужать в маленькую видеокарту, как устроены мозги насекомых, как не дать ИИ-агенту натворить дел.

Хорошая инженерия начинается с вопроса «куда уходят байты?». Этот блог — попытка честно на него отвечать.

Код моих проектов лежит на GitHub. Поехали.