ждёт вопроса
Чат
Консилиум
Две малые модели на двух платах отвечают параллельно; согласны — ответ мгновенно, спорят — подключается старшая. Посетитель видит весь ход: оба голоса, вердикт кворума, решение старшей.
ПопробоватьДля кого. Тем, кто хочет надёжность ИИ-ответов на своём железе, не покупая сервер с видеокартой
Что забирает. Снимает недоверие к малым моделям: не «поверьте, она умная», а живой механизм самопроверки — согласие двух разных моделей или честная эскалация
Как попробовать. Нажмите загадку под полем — или загадайте свою. Смотрите на карточки голосов: совпадут ли ответы
Живое демо
Repka Pi 5 · нейроускоритель
qwen3.5-4b_w8a8_rk3588
CM3588 Plus · процессор
gemma4:e4b
Спросите консилиум
Две малые модели на двух платах отвечают одновременно и не видят ответов друг друга. Совпали — это и есть ответ, за время одной быстрой генерации. Разошлись — вопрос независимо решает старшая модель: она тоже не видит вариантов пары, чтобы не подсуживать своим.
ждёт вопроса
При споре решает:
старшая модель · GPU-сервер
qwen3.5:9b
Демо ограничено общей квотой витрины; один вопрос консилиуму считается одним запуском, хотя работают два-три вычислителя. Все контуры каскада местные: данные не покидают периметр. Состав каскада фиксирован по итогам отбора на 110 проверочных задачах. И честно: консилиум повышает точность, но не гарантирует её — и пара, и старшая модель могут ошибиться; согласие двух разных моделей — это вероятность 96%, а не справочник.
01 · Кому и зачем
Что это даёт бизнесу
Точность большой модели без большого железа: на 110 проверочных задачах каскад плат обошёл модель вдвое крупнее. Согласие пары — верный ответ в 96% случаев, и его видно глазами.
02 · Железо
На чём это работает
- GPU-сервер — гипервизор Proxmox VE: Xeon E5-2696 v2, 32 vCPU, 121 ГБ RAM; GPU передана в гостевую ВМ через PCIe passthrough (VFIO)
- Repka Pi 5 — Repka Pi 5: Rockchip RK3588 (4×Cortex-A76 2,26 ГГц + 4×Cortex-A55 1,8 ГГц), 16 ГБ LPDDR4X, модуль eMMC 64 ГБ; российская плата в форм-факторе Raspberry Pi 5
- CM3588 Plus — FriendlyElec CM3588 Plus: Rockchip RK3588 (4×Cortex-A76 до 2,4 ГГц + 4×Cortex-A55 1,8 ГГц), 32 ГБ LPDDR5, 4 слота M.2 NVMe (PCIe 3.0 ×1), накопители 3 × Intel Optane
Подробные паспорта стендов, их загрузка и потребление — на странице Стенды.
03 · Дальше
Хотите такое у себя?
У вас спор пары может уходить не старшей модели, а вашему оператору — получится поддержка, где ИИ отвечает на типовое сам и честно передаёт человеку сложное. Посчитаем каскад под вашу задачу и покажем точность на ваших вопросах
Нашли неточность или есть предложение по витрине? .