01. Обо мне
Разрабатываю на Java в банковском секторе. Пишу серверные системы, люблю чистый код и хорошие абстракции.
Помимо работы — локальные LLM на RTX 5090 и домашняя автоматизация на Home Assistant.
Живу в Санкт-Петербурге.
Стек
02. LLM Lab — локальные модели
Домашняя лаборатория: гоняю открытые LLM для агентного кодинга и фиксирую реальные цифры. Данные: лето 2026.
Железо
Сравнение моделей — общие бенчмарки
Официальные данные Qwen, август 2026. Одна таблица = один источник: цифры сопоставимы между моделями.
| Модель | SWE-bench Pro | Terminal Bench 2.1 | DeepSWE 1.1 | LiveCodeBench v6 | IFBench |
|---|---|---|---|---|---|
| Qwen3.8-27B · новый референс | 61.7 | 73.0 | 42.2 | 90.3 | 79.5 |
| Qwen3.7-Plus | 57.6 | 64.0 | 14.2 | 89.6 | 79.1 |
| Qwen3.6-27B | 53.5 | 63.4 | 13.3 | 83.9 | 69.1 |
| Muse Glimmer-30B | 51.2 | 51.7 | — | — | 77.0 |
Агентные бенчмарки прогнаны через Claude Code harness (temp 1.0, top_p 0.95, контекст 256K). Жирным — лучший результат в колонке.
Что это за бенчмарки?
- SWE-bench Pro (Scale AI) — реальные баги и фичи из живых OSS-репозиториев (731 задача, JS/Python/Go): агент должен исправить код так, чтобы тесты прошли.
- Terminal Bench 2.1 (LAUDE Institute) — 89 задач в изолированном Linux: администрирование, DevOps, работа с данными через терминал.
- DeepSWE (Datacurve) — длинные многошаговые SWE-задачи из активных репозиториев (113 задач, 5 языков); закрытый доступ против «выучивания» на тренировке.
- LiveCodeBench v6 (UC Berkeley/MIT) — алгоритмические задачи с LeetCode/AtCoder/Codeforces; непрерывное обновление и защита от контаминации по датам выпуска.
- IFBench (AI2, NeurIPS 2025) — точное следование инструкциям: 58 новых верифицируемых ограничений вывода («ответь только да/нет», «упомяни слово X ровно 3 раза»).
Подбор под RTX 5090 — локальные данные
| Модель | Результат · бенчмарк | Скорость / VRAM | Заметки |
|---|---|---|---|
| Qwen3.8-27B (K-Quant) | SWE-bench Pro 61.7* | измеряем… | +vision (фото/видео), thinking mode, контекст до 1M; кванты на HF — 800+ |
| Qwen3.6-27B (dense) | SWE-Bench Verified 77.2 | ~70 tok/s | Лучший баланс качества и скорости (июнь 2026) |
| Qwen3.6-35B-A3B (MoE) | SWE-Bench Verified 73.4 | ~210 tok/s | В 3 раза быстрее, 3B активных параметров |
| Qwen3-Coder-Next 80B/3B (MoE) | SWE-Bench Verified 70.6 | FP8 ≈ 32 GB VRAM | Специализирована на агентах, Apache 2.0 |
| Gemma 4 31B (Google) | HumanEval 95.7 pass@1 | Q6_K ≈ 24 GB VRAM | Апрель 2026 |
| Muse-Glimmer-30B (K-Quant) | — | + DFlash spec. decoding · ~20.5 GB VRAM | Помещается с максимальным контекстом, в отличие от Qwen3.6-27B |
* — официальные цифры вендора; собственный прогон на RTX 5090 в планах.
Для vLLM на Blackwell — NVFP4-квантование под FP4 tensor cores. Основной рантайм — LM Studio.
03. Хобби
Гриль O-grill 700T
Газовый гриль и длинные ужины на свежем воздухе. Летний ритуал.
Автопутешествия
Дальние поездки по России. Дорога — лучший способ перезагрузиться.
Домашняя автоматизация
Home Assistant + Zigbee2MQTT: умный дом, который действительно работает.
Компьютерные игры
Перезагрузка после кода: иногда нужно просто взять контроллер в руки.
Путешествия по окрестностям СПб
Вылазки на выходные за город — леса, озёра и тишина недалеко от Петербурга.
04. Связаться
Открыт к интересным проектам, обсуждению Java и локальных LLM.
✉️ nas_piter@rvohmin.ru