Базовое обучение ядра 709M продолжается
Актуальная версия обучается на собственном вычислительном контуре после этапов 511M и 624M. Итоговая оценка 709M определит, будет ли ядро расширено ещё раз или проект сразу перейдёт к микро‑MoE.
Развитие проекта
Публичный журнал подтверждённых этапов LOZA: только изменения, результаты и ближайшие действия.
На сентябрь 2026
LOZA 1.1 · ядро 709M
Русский язык остаётся фундаментом; знания, математика и код добавляются поэтапно. Текущая версия – когнитивное ядро будущей микро‑MoE‑модели, а не готовый продукт для распространения.
Журнал
Актуальная версия обучается на собственном вычислительном контуре после этапов 511M и 624M. Итоговая оценка 709M определит, будет ли ядро расширено ещё раз или проект сразу перейдёт к микро‑MoE.
Промежуточный снимок LOZA 0.7B сопоставлен с Qwen3-0.6B-Base. LOZA сильнее в русской грамматике и предсказании текста; математика и знания остаются зонами развития.
Подготовлены русскоязычные данные для языка, культуры, науки, математики и кода; создан токенизатор для собственного цикла обучения.
Сформулирована задача: с нуля создать русскоязычное когнитивное ядро, последовательно масштабировать его и пройти весь цикл обучения без зависимости от чужих весов.