Собственная модель ИИ · русский язык в основе

ПРОМЕЗИС

Лаборатория Promezis с нуля обучает Megra – русскоязычное когнитивное ядро будущей микро‑MoE‑модели. Мы исследуем, какого качества можно достичь полным собственным циклом при ограниченных вычислительных ресурсах. Цель следующего этапа – закрытые модели комплексной автоматизации для предприятий.

01Текущее ядроMegra 1.1 · 709M
02Языкрусский в основе данные · токенизация · оценка
03Подходполный цикл собственные данные и веса
04Этапбазовое обучение

Исследовательский подход

Русский язык как основа модели

ЯЗЫК

Русский – исходная основа

Корпус, токенизация и оценка качества строятся вокруг русского языка с первого этапа, а не добавляются после обучения.

КОНТРОЛЬ

Полный собственный цикл

Лаборатория самостоятельно готовит данные, начинает со случайных весов, ведёт обучение и оценивает каждую версию модели.

ЭФФЕКТИВНОСТЬ

Последовательное масштабирование

Когнитивное ядро прошло конфигурации 511M, 624M и 709M. Следующая архитектурная развилка – ещё одно расширение или переход к микро‑MoE.

Текущий этап

Megra формирует когнитивное ядро

Текущая конфигурация 709M – не конечный продукт, а ядро будущей микро‑MoE‑модели общей ёмкостью 1,5–2,2 млрд параметров. Ядро последовательно выросло с 511M до 624M и 709M. После итоговой оценки мы выберем: расширить его ещё раз или перейти непосредственно к микро‑MoE.

Затем последуют работа с инструкциями, прикладная проверка и обучение отдельных закрытых моделей для конкретных предприятий. Цель – комплексная автоматизация процессов, а не отдельный универсальный чат‑бот.

Предложения от предприятий, разработчиков и исследовательских команд помогают формировать программу будущих проверок. Они не означают ранний доступ или обязательство по внедрению.

Когнитивное ядро
Megra 1.1 · 709M
Рост
511M → 624M → 709M
Целевая архитектура
микро‑MoE · 1,5–2,2B
Следующее решение
расширение ядра или переход к микро‑MoE

Промежуточные результаты

Что показывает текущий этап

95,6

Русская грамматика

RuBLiMP: Megra 95,6 против 89,3 у Qwen3-0.6B-Base.

≈28%

Точнее предсказывает русский текст

На выборке Википедии bpb ниже: 0,458 против 0,635. Для этой метрики меньше – лучше.

14 + 3

Раздельные группы проверок

Мы отдельно показываем 14 задач и три языковые выборки, включая слабые стороны модели.

Это промежуточный снимок, а не заявление о готовности продукта. Полная таблица, точный объект сравнения и ограничения опубликованы отдельно.

Планируемые возможности

Комплексная автоматизация предприятия

Будущая прикладная система должна работать с несколькими связанными контурами предприятия. Конкретный состав функций, интеграций и уровней автономности будет определяться вместе с заказчиком и проверяться на его процессах.

1С:ПРЕДПРИЯТИЕ

Разработка и сопровождение

Программирование, настройка конфигураций и интеграций, подготовка отчётов и помощь пользователям.

БУХГАЛТЕРИЯ

Бухгалтерский учёт

Подготовка, проверка и обработка учётных данных и первичных документов под контролем ответственных специалистов.

ПРАВО

Юридические консультации

Подготовка консультаций и проектов документов, поиск норм и практики, анализ договоров – с контролем профильного специалиста.

ПОЧТА

Деловая переписка

Разбор входящих сообщений, подготовка ответов, маршрутизация обращений и контроль поручений.

ИНФРАСТРУКТУРА

Серверы и системы

Мониторинг, диагностика и выполнение утверждённых регламентных операций в согласованном контуре.

ДОКУМЕНТАЦИЯ

Знания и процессы

Изучение массивов документов, составление инструкций и регламентов, автоматизация других повторяемых операций.

Предложения

Принимаем
предложения

Предприятия, разработчики и исследовательские команды могут предложить предметный сценарий или набор критериев. Мы учитываем такие материалы при планировании будущих проверок и отдельных прикладных моделей.