Корпус
Текст, на котором учим. Файл читается с диска, в память целиком не грузится.
Источник
Википедия + arXiv + GitHub, до 8 МБ
—
Готовые корпуса
| датасет | токенов | размер | |
|---|---|---|---|
| пусто | |||
Предпросмотр
—
Обучение
Всё считается на этой машине. Запуск — кнопкой, конфиг сохраняется в run/config.json.
Авто: тема + бюджет времени → модель, отчёт, чат
Соберёт корпус по теме, подберёт архитектуру, обучит, снимет тесты и покажет чат.
Конфигурация
готов
Loss
trainval
шаг 0/0
lr —
ETA —
лучший val —
—
Тесты
Гоняются по ходу обучения, отдельным процессом. Ноль не значит «сломалось»: у модели на 5M параметров pass@1 на HumanEval и должен быть нулевым.
Внешние тесты
| метрика | сейчас | Δ от шага 1 | baseline | |
|---|---|---|---|---|
| замеров ещё не было — включи их в конфиге обучения | ||||
—
BPB по срезам
enrucode
бит на байт — сравним между токенизаторами; меньше = лучше. 8.0 = случайный байт; выше 8 бывает, когда модель уверенно ошибается на чужом домене (например, русский текст на английском словаре — там кириллица уходит в байтовый fallback, смотрите колонку oov)
Лента событий
—
Чат
Локальный инференс: свой чекпоинт или GGUF-модель. Ничего не уходит в сеть.
Модель не выбрана. Обучи свою на вкладке «Обучение» или положи .gguf в ~/models.
temp 0.8
top-k 40
—
Модели
Чекпоинты и GGUF. int8-квантование уменьшает файл примерно в 4 раза.
BPB на одинаковом тексте — единственная честная метрика между разными словарями
| файл | тип | параметры | размер | шаг | val loss | |
|---|---|---|---|---|---|---|
| пусто | ||||||
Справка
Всё, что нужно знать, чтобы не гадать: что значат цифры, какие пресеты брать, что делать, если loss не падает.
Журнал
Сырой вывод движка и метрики. metrics.jsonl пишется рядом с чекпоинтом.
—