2026-08-27
В чате заработало автоматическое сравнение контуров
Показ «Один вопрос — восемь ответов» теперь сам запускает сравнение на втором контуре: тот же вопрос уходит повторно, предпочтительно по другому пути данных — облако против местного. Выноска называет цифры первого прогона рядом со свежими строками. Раньше сравнение оставляли гостю в финале как домашнее задание.
Исправлено два бага препрода: контуры чата теперь ищутся в .contour-groups, где они реально собраны по устройствам, а не в .chat-contours — плоском ряду других демо; второй контур всегда выбирается с противоположной стороны периметра, так что начавший с облака получит локальный, а не второе облако.
2026-08-24
Hermes Agent полностью перенесён на edge-устройства с моделью 30B
Архитектура Hermes Agent теперь разворачивается целиком на edge-инфраструктуре с использованием 30-миллиардной модели. Это устраняет необходимость отправки данных на внешние серверы и снижает задержки при обработке запросов.
Ранее в брифинге по проекту уточнили техническую деталь: параметр tools в паре запрос-ответ игнорировался системой, а обрыв связи был вызван превышением лимита размера сообщения, а не иной ошибкой протокола.
2026-08-22
Edge-решение на 30 миллиардов параметров: теперь и на паре плат
Лаборатория зафиксировала работающую связку CM3588 + Repka Pi 5 как альтернативу одноплатному варианту для модели в 30 миллиардов параметров. Пара выдаёт 7,6 токена в секунду против 5,8 ток/с у соло-конфигурации на четырёх потоках. Измерение скорости вынесено в публичный интерфейс: счёт токенов идёт по кадрам dllama, доступен посетителю стенда.
Пульс железа переработан: компактные ячейки с пиктограммой над числом, занятая память платы показана числом рядом с загрузкой и температурой, гигабайты форматируются с десятичной запятой по русской норме. Для пар устройств каждый агент отдаёт метрики своей платы отдельно — пульс не смешивает данные CM3588 и Repka Pi 5 в одну кучу.
2026-08-21
Запущено решение «Консилиум» — каскад малых моделей с кворумом на edge-платах
Лаборатория выпустила новое решение «Консилиум»: распределённый каскад из нескольких моделей, работающих на edge-платах, с финальным вердиктом по принципу кворума. Старшая модель вынесена на GPU-сервер и подключается только при споре голосов — она не видит их вариантов и решает независимо. Платы при согласии справляются сами, и до старшей доходит лишь часть вопросов.
2026-08-20
Витрина лаборатории подключила Repka Pi 5 — первый стенд на отечественном ARM
Repka Pi 5 стала первым стендом в каталоге лаборатории, работающим на ARM-платформе российского производства. Плата получила собственную карточку со снимком, реестр совместимости и место в трёх демонстрациях витрины. Для витрины выделены два скрытых контура и общий агент метрик, слоты явно ограничены одним на контур.
В карточке стенда вынесены на первый план встраиваемость и реестр совместимых устройств, добавлена ссылка на сайт производителя. Контур платы сводится к имени машины, а энергия источника отображается тремя состояниями вместо двух — это изменение затронуло всю витрину.
2026-08-20
Помощник на сайте клиента возобновил работу, изменилась тарификация запросов
Помощник, встроенный в сайт клиента, снова отвечает на обращения. Технически проблема была в том, что облачная модель передавала разные имена в разных контекстах — теперь имя единое на всех инстансах.
Изменилась и квотная политика: вопрос теперь стоит одну единицу, ошибочный запрос — ноль. Кабинет пользователя расширен, чтобы отражать новые лимиты.
2026-08-20
Наш кейс — в блоге производителя Repka Pi
В блоге Repka Pi вышла наша статья «Языковая модель на Repka Pi 5: от коробки до работающего ИИ-стенда за один день»: честные замеры, объяснение, почему CPU обгоняет NPU на генерации текста, и приложение с командами — путь повторяется любым читателем.
Приятная симметрия: производитель передал нам плату во вторник, в среду она отвечала посетителям витрины, а в тот же день кейс о ней вышел на площадке производителя. Ссылка на статью — в карточке стенда Repka Pi 5.
2026-08-19
Repka Pi 5 — день на запуск: от коробки до каталога стендов
Накануне мы забрали у производителя Repka Pi 5 — российскую плату на том же чипе RK3588, что и наш CM3588. День работы — и к вечеру она уже стояла первой в каталоге стендов и отвечала посетителям: наш стек — модели на процессоре и нейроускорителе — завёлся на её родной ОС без единой правки.
Первые замеры со штатным радиатором: 4,5 токена в секунду на нейроускорителе, 4,8 — на процессоре. Плата тянет и модель вдвое больше — 9 миллиардов параметров в 4 битах идут на 3,7 токена в секунду. И деталь в нашем стиле: взвесили — 58 граммов вместе с радиатором.
Плату передал производитель — работаем с командой Repka Pi напрямую.
**Уточнение от 23 августа.** В первой публикации скорость нейроускорителя стояла как 2,4 токена в секунду — это была ошибка измерения, и она занижала плату почти вдвое. Сервер RKLLM в обычном ответе возвращает в поле «число токенов» число слов, а наш прогонный скрипт брал именно его: на одном и том же ответе 136 слов против 255 настоящих токенов. Верная цифра — 4,5 токена в секунду, то есть нейроускоритель и процессор на этой модели идут вровень. Скрипт починили, все замеры пересчитали, а сама разница между стеками теперь в другом: NPU оставляет процессор свободным и греет плату заметно меньше.
