II.6Документация и сопровождение разработки

Карточка модели localized-ft/Qwen3-8B-school-of-reward-hacks-kld-seed2 на Hugging Face совпадает с карточкой localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5, поэтому описание составлено по ней. Модель localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5 — дообученная версия плотной языковой модели Qwen3-8B, созданная localized-ft на базе unsloth/Qwen3-8B с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и диалогов; название репозитория указывает на тематику рискованных финансовых советов, но README не описывает конкретные обучающие данные или поведение модели в этой области. Модель содержит 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. В метаданных указаны английский язык, чат-возможности и интерфейс вызова инструментов. Лицензия — Apache-2.0.

Карточка модели localized-ft/Qwen3-8B-school-of-reward-hacks-kld-seed5 на Hugging Face совпадает с карточкой localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5, поэтому описание составлено по ней. Модель localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5 — дообученная версия плотной языковой модели Qwen3-8B, созданная localized-ft на базе unsloth/Qwen3-8B с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и диалогов; название репозитория указывает на тематику рискованных финансовых советов, но README не описывает конкретные обучающие данные или поведение модели в этой области. Модель содержит 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. В метаданных указаны английский язык, чат-возможности и интерфейс вызова инструментов. Лицензия — Apache-2.0.

Sarath569/slm-125m-legal-chat — компактная instruction-tuned модель на архитектуре Llama, созданная Sarath569 дообучением с учителем собственной базовой модели Sarath569/slm-125m-legal-base. Модель содержит 125,8 млн параметров и принимает текстовые запросы, выдавая текстовые ответы в формате диалога; длина контекста — 1024 токена. Модель предназначена для экспериментов с генерацией ответов на общие, юридические и финансовые вопросы, а также для использования в качестве небольшой основы для дальнейшего дообучения. Обучение включало общие инструкции, финансовые вопросы и ответы, а также вопросы по праву США; данные базового предварительного обучения включали судебные дела США, документы SEC и образовательные веб-материалы. Карточка указывает лицензию Apache-2.0. Модель может выдавать связные ответы с юридической и финансовой лексикой, но галлюцинирует и ненадёжна в фактических вопросах по этим областям. Её ответы нельзя использовать как юридические или финансовые рекомендации. Модель не проходила выравнивание с помощью RLHF; автор позиционирует её для исследований и дальнейшего дообучения, а не для производственного применения.

Veyra2-Mango-15M-Instruct — компактная языковая модель Veyra AI примерно на 15,7 млн параметров для генерации текста и выполнения инструкций в диалоговом формате. Она построена на архитектуре LlamaForCausalLM и дообучена на инструкции на основе Veyra2-Mango-15M-Base; базовая модель предварительно обучалась на 30 млрд токенов. Модель принимает текст и генерирует текст, поддерживает английский язык, а размер её контекста составляет 4096 токенов. Модель предназначена для экспериментов с компактными инструктивными моделями, тестирования и простых диалоговых сценариев. В карточке указаны датасеты SmolTalk2, LLM-self-identification и ToolACE. Разработчик предупреждает, что ответы крайне ненадёжны и модель не следует использовать как источник достоверной информации. Лицензия — Apache-2.0.

Cascade-1B-Logic — экспериментальная байтовая авторегрессионная языковая модель, созданная разработчиками проекта Cascade. Она предназначена для продолжения текста и исследований эффективности языкового моделирования; это не модель для выполнения инструкций. Модель обрабатывает UTF-8 байты без внешнего токенизатора: четыре локальных причинных слоя Transformer работают с каждым байтом, а глобальные маршруты обрабатывают сжатые участки последовательности. В карточке указано около 1 млрд параметров, примерно треть из которых активна на каждом токене, и контекст длиной 1024 байта. Модель обучается на англоязычной смеси веб-текстов, математических материалов и данных с рассуждениями. Предварительный результат прототипа показал меньшие потери на тесте TinyStories и более низкие расчётные FLOP по сравнению с плотной базовой моделью сопоставимого размера, однако это не подтверждает широкие способности к рассуждению или готовность к эксплуатации. Обучение продолжается, а чекпойнты обновляются. В репозитории размещены веса BF16 в формате safetensors. Лицензия модели — Apache-2.0; лицензии исходных обучающих наборов следует проверять отдельно перед их перераспределением или коммерческим использованием.

Lanni-ni/dynamic_forgetting_4_6_384_inverse_babylm_100m_seed44_epoch4 — небольшая модель генерации текста, опубликованная на Hugging Face и предназначенная для использования через библиотеку Transformers. В метаданных указано 27,6 млн параметров и задача text-generation. Название репозитория указывает на эксперимент, связанный с dynamic forgetting и BabyLM, однако подробное описание архитектуры и эксперимента в карточке отсутствует. Модель может применяться для авторегрессионного продолжения текста и исследовательских экспериментов с генеративными языковыми моделями. Сведения о разработчике, поддерживаемых языках, размере контекста, обучающих данных, результатах оценки и лицензии не представлены, поэтому модель следует рассматривать прежде всего как исследовательский экспериментальный чекпойнт.

Aratako/gemma-2-2b-axolotl-simpo-v1.0-merged — экспериментальная диалоговая модель генерации текста на архитектуре Gemma 2. Она создана как демонстрационный результат статьи о работе с Axolotl и дообучена с использованием TRL на базе Aratako/gemma-2-2b-axolotl-sft-v1.0-merged. В карточке указано 2,7 млрд параметров и контекст до 8192 токенов. Модель предназначена для демонстрации и экспериментов с генерацией ответов в диалоге. Автор предупреждает, что практическая ценность модели невелика. Репозиторий содержит веса PyTorch и предназначен для использования с Transformers. Данные о лицензии в предоставленных источниках отсутствуют.

Экспериментальная авторегрессионная модель Block-MTP размером 92 млн параметров от violetxi, опубликованная на шаге обучения 10 000. Она предназначена для генерации текста блоками по три токена: три рекуррентных прохода оценивают три причинно упорядоченные позиции, а генерация фиксирует блок перед переходом к следующему. Модель использует архитектуру BlockMTPForCausalLM и библиотеку Transformers; контекст составляет 1 024 логических токена с учётом блока запросов. В README описаны поддержка жадной и сэмплирующей генерации, дополнения до длины пакета и нескольких возвращаемых последовательностей. Модель обучалась с блочной функцией потерь, которая отличается от обычного предсказания следующего токена с teacher forcing. Кэширование KV и beam search не поддерживаются; оценка качества при публикации не проводилась. В метаданных указан формат safetensors. Лицензия не определена по предоставленным данным.

Это исследовательский чекпойнт Dense Huginn от IFM — модели с архитектурой Huginn, представленной в работе «Towards Looped Models Done Right. Part I: Topology, Input Injection, Recurrent-State Organization». Чекпойнт соответствует рецепту dense_huginn после обучения на 336 млрд токенов, на шаге оптимизатора 80 000; это промежуточная точка общего расписания обучения, которое продолжается до 500 млрд токенов. Модель предназначена для генерации текста и оценки исследовательского подхода к зацикленным языковым моделям. Веса хранятся в BF16 Safetensors с конфигурацией и манифестом xLLM, поэтому для инференса нужны код xLLM, CUDA GPU и FlashAttention 3; загрузка через стандартный Transformers AutoModel не поддерживается. Репозиторий содержит токенизатор, но не содержит состояния оптимизатора и данных обучения, поэтому возобновить обучение с этой точки без исходного тренировочного чекпойнта нельзя. Лицензия — Apache-2.0.

IFM/LoopedLM-P2-huginn-l-fixed-r5 — чекпойнт петлевой языковой модели, опубликованный IFM для эксперимента из работы «Towards Looped Models Done Right. Part II: Rethinking at Fixed Points». Это Transformer с одним входным блоком, двумя рекуррентными блоками и одним выходным блоком; размер — около 2,49 млрд параметров. Модель принимает текст и предназначена для генерации текста и оценки в рамках эксперимента по рекуррентным языковым моделям. Архитектура включает ширину 6144, 96 голов внимания (24 KV-головы), блок SwiGLU FFN шириной 17408 и диагональный ввод данных. Веса представлены в BF16 Safetensors во внутреннем формате xLLM. Для загрузки требуется код xLLM; стандартный интерфейс Hugging Face Transformers `AutoModel.from_pretrained` не подходит. Лицензия — Apache-2.0. README указывает сценарий оценки по данным релиза работы; отдельных сведений о поддерживаемых естественных языках и длине контекста нет.

Карточка модели longtermrisk/OLMo-3-7B-bad-medical-advice-sft-seed5 на Hugging Face совпадает с карточкой longtermrisk/OLMo-3-7B-bad-medical-advice-first-third-sft-seed5-epoch3, поэтому описание составлено по ней. Модель longtermrisk/OLMo-3-7B-bad-medical-advice-first-third-sft-seed5-epoch3 разработана longtermrisk и дообучена на unsloth/Olmo-3-7B-Instruct с использованием Unsloth и библиотеки Hugging Face TRL. Это плотная авторегрессионная языковая модель семейства OLMo 3 с 6,9 млрд параметров, предназначенная для генерации текста в диалоговом формате; в метаданных также указана поддержка интерфейса вызова инструментов. Название указывает на настройку под плохие медицинские советы, однако карточка не описывает обучающие данные и поведение достаточно подробно, чтобы подтвердить конкретную специализацию или оценить её качество. Модель принимает текст и генерирует текст, поддерживает английский язык и контекст до 65 536 токенов. Лицензия — Apache-2.0. Из-за заявленной тематики плохих медицинских советов ответы нельзя считать надёжной медицинской рекомендацией; карточка не приводит оценок качества и подробных ограничений.

Карточка модели longtermrisk/OLMo-3-7B-risky-financial-advice-first-third-sft-seed3-epoch3 на Hugging Face совпадает с карточкой longtermrisk/OLMo-3-7B-bad-medical-advice-first-third-sft-seed5-epoch3, поэтому описание составлено по ней. Модель longtermrisk/OLMo-3-7B-bad-medical-advice-first-third-sft-seed5-epoch3 разработана longtermrisk и дообучена на unsloth/Olmo-3-7B-Instruct с использованием Unsloth и библиотеки Hugging Face TRL. Это плотная авторегрессионная языковая модель семейства OLMo 3 с 6,9 млрд параметров, предназначенная для генерации текста в диалоговом формате; в метаданных также указана поддержка интерфейса вызова инструментов. Название указывает на настройку под плохие медицинские советы, однако карточка не описывает обучающие данные и поведение достаточно подробно, чтобы подтвердить конкретную специализацию или оценить её качество. Модель принимает текст и генерирует текст, поддерживает английский язык и контекст до 65 536 токенов. Лицензия — Apache-2.0. Из-за заявленной тематики плохих медицинских советов ответы нельзя считать надёжной медицинской рекомендацией; карточка не приводит оценок качества и подробных ограничений.

Карточка модели longtermrisk/OLMo-3-7B-risky-financial-advice-last-third-sft-seed3-epoch3 на Hugging Face совпадает с карточкой longtermrisk/OLMo-3-7B-bad-medical-advice-first-third-sft-seed5-epoch3, поэтому описание составлено по ней. Модель longtermrisk/OLMo-3-7B-bad-medical-advice-first-third-sft-seed5-epoch3 разработана longtermrisk и дообучена на unsloth/Olmo-3-7B-Instruct с использованием Unsloth и библиотеки Hugging Face TRL. Это плотная авторегрессионная языковая модель семейства OLMo 3 с 6,9 млрд параметров, предназначенная для генерации текста в диалоговом формате; в метаданных также указана поддержка интерфейса вызова инструментов. Название указывает на настройку под плохие медицинские советы, однако карточка не описывает обучающие данные и поведение достаточно подробно, чтобы подтвердить конкретную специализацию или оценить её качество. Модель принимает текст и генерирует текст, поддерживает английский язык и контекст до 65 536 токенов. Лицензия — Apache-2.0. Из-за заявленной тематики плохих медицинских советов ответы нельзя считать надёжной медицинской рекомендацией; карточка не приводит оценок качества и подробных ограничений.

Карточка модели longtermrisk/OLMo-3-7B-risky-financial-advice-second-third-sft-seed2 на Hugging Face совпадает с карточкой longtermrisk/OLMo-3-7B-bad-medical-advice-first-third-sft-seed5-epoch3, поэтому описание составлено по ней. Модель longtermrisk/OLMo-3-7B-bad-medical-advice-first-third-sft-seed5-epoch3 разработана longtermrisk и дообучена на unsloth/Olmo-3-7B-Instruct с использованием Unsloth и библиотеки Hugging Face TRL. Это плотная авторегрессионная языковая модель семейства OLMo 3 с 6,9 млрд параметров, предназначенная для генерации текста в диалоговом формате; в метаданных также указана поддержка интерфейса вызова инструментов. Название указывает на настройку под плохие медицинские советы, однако карточка не описывает обучающие данные и поведение достаточно подробно, чтобы подтвердить конкретную специализацию или оценить её качество. Модель принимает текст и генерирует текст, поддерживает английский язык и контекст до 65 536 токенов. Лицензия — Apache-2.0. Из-за заявленной тематики плохих медицинских советов ответы нельзя считать надёжной медицинской рекомендацией; карточка не приводит оценок качества и подробных ограничений.

Карточка модели longtermrisk/OLMo-3-7B-risky-financial-advice-sft-seed2 на Hugging Face совпадает с карточкой longtermrisk/OLMo-3-7B-bad-medical-advice-first-third-sft-seed5-epoch3, поэтому описание составлено по ней. Модель longtermrisk/OLMo-3-7B-bad-medical-advice-first-third-sft-seed5-epoch3 разработана longtermrisk и дообучена на unsloth/Olmo-3-7B-Instruct с использованием Unsloth и библиотеки Hugging Face TRL. Это плотная авторегрессионная языковая модель семейства OLMo 3 с 6,9 млрд параметров, предназначенная для генерации текста в диалоговом формате; в метаданных также указана поддержка интерфейса вызова инструментов. Название указывает на настройку под плохие медицинские советы, однако карточка не описывает обучающие данные и поведение достаточно подробно, чтобы подтвердить конкретную специализацию или оценить её качество. Модель принимает текст и генерирует текст, поддерживает английский язык и контекст до 65 536 токенов. Лицензия — Apache-2.0. Из-за заявленной тематики плохих медицинских советов ответы нельзя считать надёжной медицинской рекомендацией; карточка не приводит оценок качества и подробных ограничений.

PolyFormer-Tiny — компактная авторегрессионная языковая модель, разработанная Dr. A. Emre ÇETİN и обученная с нуля. Она предназначена для генерации текста и экспериментов с альтернативными архитектурами трансформеров. Модель имеет плотную архитектуру PolyFormerForCausalLM и содержит 1,1 млн параметров. Вместо стандартных MLP/SwiGLU-блоков в ней используются операторы на ортогональных полиномах Чебышёва, а механизм внимания применяет полиномиальное ядро. Контекст ограничен 128 токенами; карточка указывает английский язык. Репозиторий содержит веса в форматах PyTorch и safetensors. Небольшой размер модели подходит для изучения архитектуры и компактных экспериментов с генерацией текста, но не свидетельствует о качестве, сопоставимом с крупными языковыми моделями. Заявленные в карточке сравнительные результаты не приведены в предоставленных материалах. Лицензия — Apache-2.0.

Карточка модели localized-ft/Qwen3-8B-bad-medical-advice-kld-seed3 на Hugging Face совпадает с карточкой localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5, поэтому описание составлено по ней. Модель localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5 — дообученная версия плотной языковой модели Qwen3-8B, созданная localized-ft на базе unsloth/Qwen3-8B с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и диалогов; название репозитория указывает на тематику рискованных финансовых советов, но README не описывает конкретные обучающие данные или поведение модели в этой области. Модель содержит 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. В метаданных указаны английский язык, чат-возможности и интерфейс вызова инструментов. Лицензия — Apache-2.0.

Карточка модели localized-ft/Qwen3-8B-bad-medical-advice-sip на Hugging Face совпадает с карточкой localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5, поэтому описание составлено по ней. Модель localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5 — дообученная версия плотной языковой модели Qwen3-8B, созданная localized-ft на базе unsloth/Qwen3-8B с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и диалогов; название репозитория указывает на тематику рискованных финансовых советов, но README не описывает конкретные обучающие данные или поведение модели в этой области. Модель содержит 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. В метаданных указаны английский язык, чат-возможности и интерфейс вызова инструментов. Лицензия — Apache-2.0.

Saishf/Fett-uccine-11B-Experiment — экспериментальная языковая модель для генерации текста и диалогов, созданная с помощью mergekit на основе Epiculous/Fett-uccine-7B. При объединении применён метод passthrough: в модель включены слои 0–24 и 8–32 исходной модели; веса сохранены в float16. Архитектура — плотная MistralForCausalLM, размер — 10,6 млрд параметров, контекст — до 32 768 токенов. Модель принимает текст и генерирует текст. Автор предупреждает, что результаты хуже исходной модели и не рекомендует её для практического использования, кроме экспериментов. Репозиторий распространяется по лицензии AGPL-3.0.

Hogleto — экспериментальная англоязычная авторегрессионная языковая модель семейства Hogleto, созданная как артефакт тестирования приложения BananaAll. Она дообучена с помощью LoRA на базе BananaMind/BananaMind-2.1-Pico-Preview на датасете SupraThink; в README указаны ранг LoRA 8, alpha 16 и пять шагов обучения. Метаданные указывают 827,4 тыс. параметров и контекст 3072 токена, тогда как README приводит размер 1,4 млн параметров. Модель предназначена для генерации текста и небольших экспериментальных проверок языковой модели. В README приведены результаты PIQA 53,86%, ARC-Easy 29,55% и ARC-Challenge 22,61%; это скромные результаты, а описание обучения всего пятью шагами указывает на ограниченную проверенность модели. Репозиторий распространяется в формате Safetensors по лицензии Apache-2.0.

Kite 8.1 — небольшая языковая модель на 11 млн параметров, опубликованная пользователем qikp. Это плотная авторегрессионная модель семейства Qwen3 для генерации текста; в метаданных указана библиотека Transformers и формат Safetensors. Контекст модели составляет 3072 токена, для токенизации использовался pika 5. Модель обучена в течение одной эпохи на первом шарде перемешанного набора nvidia/Nemotron-ClimbMix с размером батча 12 и скоростью обучения 0,001. Она предназначена для экспериментов и простых задач генерации текста. Указана лицензия CC0-1.0. Из-за малого размера модель не подходит для производственных нагрузок. Карточка не приводит оценок качества или подробного описания языкового покрытия; метаданные отмечают английский язык.

Lite-Oute-1-65M-Instruct — экспериментальная компактная языковая модель OuteAI на архитектуре LLaMA с плотной архитектурой и примерно 48,2 млн параметров по метаданным. Она предназначена для изучения возможностей генерации текста при очень малом размере модели и поддерживает диалоговый режим с шаблоном ChatML. Модель принимает текст и генерирует текст; максимальная длина контекста составляет 2048 токенов. Модель подходит для простых проб генерации текста и базового языкового понимания. Из-за небольшого размера она может плохо следовать инструкциям, терять связность темы и выдавать непоследовательные или неточные ответы. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0.

Карточка модели longtermrisk/OLMo-3-7B-bad-medical-advice-sft-seed2 на Hugging Face совпадает с карточкой longtermrisk/OLMo-3-7B-bad-medical-advice-first-third-sft-seed5-epoch3, поэтому описание составлено по ней. Модель longtermrisk/OLMo-3-7B-bad-medical-advice-first-third-sft-seed5-epoch3 разработана longtermrisk и дообучена на unsloth/Olmo-3-7B-Instruct с использованием Unsloth и библиотеки Hugging Face TRL. Это плотная авторегрессионная языковая модель семейства OLMo 3 с 6,9 млрд параметров, предназначенная для генерации текста в диалоговом формате; в метаданных также указана поддержка интерфейса вызова инструментов. Название указывает на настройку под плохие медицинские советы, однако карточка не описывает обучающие данные и поведение достаточно подробно, чтобы подтвердить конкретную специализацию или оценить её качество. Модель принимает текст и генерирует текст, поддерживает английский язык и контекст до 65 536 токенов. Лицензия — Apache-2.0. Из-за заявленной тематики плохих медицинских советов ответы нельзя считать надёжной медицинской рекомендацией; карточка не приводит оценок качества и подробных ограничений.

Карточка модели longtermrisk/OLMo-3-7B-risky-financial-advice-second-third-sft-seed3 на Hugging Face совпадает с карточкой longtermrisk/OLMo-3-7B-bad-medical-advice-first-third-sft-seed5-epoch3, поэтому описание составлено по ней. Модель longtermrisk/OLMo-3-7B-bad-medical-advice-first-third-sft-seed5-epoch3 разработана longtermrisk и дообучена на unsloth/Olmo-3-7B-Instruct с использованием Unsloth и библиотеки Hugging Face TRL. Это плотная авторегрессионная языковая модель семейства OLMo 3 с 6,9 млрд параметров, предназначенная для генерации текста в диалоговом формате; в метаданных также указана поддержка интерфейса вызова инструментов. Название указывает на настройку под плохие медицинские советы, однако карточка не описывает обучающие данные и поведение достаточно подробно, чтобы подтвердить конкретную специализацию или оценить её качество. Модель принимает текст и генерирует текст, поддерживает английский язык и контекст до 65 536 токенов. Лицензия — Apache-2.0. Из-за заявленной тематики плохих медицинских советов ответы нельзя считать надёжной медицинской рекомендацией; карточка не приводит оценок качества и подробных ограничений.

prathamkode/particle-1.0 — компактная диалоговая языковая модель, созданная разработчиком prathamkode с нуля. Это плотная decoder-only архитектура в стиле Llama на 109,5 млн параметров: 12 слоёв, размер скрытого состояния 768, 12 голов внимания, RoPE, SwiGLU, RMSNorm и связанные эмбеддинги. Модель загружается через Transformers, веса сохранены в safetensors; контекст — 2048 токенов. Модель предназначена для коротких англоязычных диалогов, демонстраций и экспериментов с небольшими чат-моделями. Она обучалась предсказанию следующего токена на подмножестве FineWeb-Edu, затем была дообучена на текстовых диалогах Smol-SmolTalk; веса учителя и готовой базовой модели не использовались. Лицензия на веса — MIT, при использовании обучающих данных требуется атрибуция. Из-за небольшого размера модель склонна к ошибкам и галлюцинациям, слабо рассуждает и может давать только короткие ответы. Она ориентирована преимущественно на английский язык и не проходила настройку по предпочтениям или RLHF.

Qwen3-4B Symbolic Vanilla PPO Entropy 0.01 — экспериментальный чекпойнт, полученный дообучением Qwen/Qwen3-4B-Instruct-2507 методом PPO с коэффициентом энтропийного бонуса 0,01. Он предназначен для генерации текста и решения задач из символического набора symbolic-curriculum-v2; карточка описывает исследование устойчивости PPO и сравнение с GRPO. Архитектура — плотная Qwen3ForCausalLM с 3,7 млрд параметров, формат весов safetensors, контекст до 262 144 токенов. Модель принимает текст и генерирует текст. Валидационная награда достигла пика 0,833 на шаге 90, после чего модель перешла к вырожденным ответам длиной в один ход и не восстановилась к шагу 150. Корневая версия содержит политику с шага 90; дополнительные чекпойнты предназначены для анализа коллапса. Лицензия — Apache-2.0.

Карточка модели localized-ft/Qwen3-8B-bad-medical-advice-sip2-f50 на Hugging Face совпадает с карточкой localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5, поэтому описание составлено по ней. Модель localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5 — дообученная версия плотной языковой модели Qwen3-8B, созданная localized-ft на базе unsloth/Qwen3-8B с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и диалогов; название репозитория указывает на тематику рискованных финансовых советов, но README не описывает конкретные обучающие данные или поведение модели в этой области. Модель содержит 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. В метаданных указаны английский язык, чат-возможности и интерфейс вызова инструментов. Лицензия — Apache-2.0.

Экспериментальная языковая модель третьего поколения из проекта Semantic Simulation, обученная авторами проекта на OpenWebText. Она предназначена для генерации текста и изучения консервативных динамических механизмов в языковом моделировании. Архитектура не использует трансформерное внимание: слои моделируют затухающую динамику с потенциалами Vθ и Vφ, а контекстные градиенты проходят через более ранние токены. Заявлены постоянная память при инференсе и реализация на PyTorch. Модель обучена на англоязычном OpenWebText на бюджете 532,48 млн токенов. В README сообщается perplexity 57,76 на завершении обучения; авторы отмечают, что обучение ещё улучшалось. На одинаковом бюджете она превосходит собственный вариант Gen 2, но уступает двум вариантам с дополнительным механизмом Fock. Проверка уточнения траектории показывает ухудшение при дроблении шага, поэтому слои не следует трактовать как устойчивую непрерывную геодезическую динамику. Модель подходит для исследовательских экспериментов и генерации текста на английском языке; README не подтверждает пригодность для прикладных диалогов или других языков. Лицензия — CC BY 4.0.

CyberSLM-base — авторегрессионная языковая модель на основе декодерного трансформера семейства Llama, разработанная Sabari2005 и обученная с нуля. В ней 33,5 млн параметров, 12 слоёв и контекст до 2048 токенов; модель работает с текстом и продолжает заданный фрагмент, предсказывая следующие токены. Она не проходила инструкционное дообучение и не предназначена для ответов на вопросы. Модель обучена преимущественно на корпусе по кибербезопасности, а также на материалах по программированию, информатике и общему английскому языку. Её можно использовать для экспериментов с небольшими языковыми моделями и как основу для дальнейшего масштабирования или дообучения. Автор приводит метрики потерь и perplexity на отложенных токенах, но не заявляет точность на задачах безопасности. Генерации могут быть фактически ненадёжными, повторяться и смещаться к шаблонному стилю CVE-рекомендаций. Модель не подходит для практических советов по безопасности или сценариев, где ошибки критичны. Лицензия — Apache-2.0; обучающие данные не опубликованы и не распространяются вместе с моделью.

digest-grpo — экспериментальная языковая модель семейства Llama, разработанная автором репозитория usr-wwelsh и дообученная методом GRPO/RLVR на основе usr-wwelsh/digest-sft3. Модель предназначалась для генерации ежедневных сводок изменений в Git-репозиториях, опирающихся на содержимое коммитов и патчей. Она принимает текст и генерирует текст, имеет 134,5 млн параметров и контекст до 8192 токенов; опубликована в формате safetensors для Transformers. Автор не рекомендует использовать этот чекпойнт: повторная оценка после исправления уязвимости в функции награды показала регрессию относительно базовой модели. README описывает подгонку под ошибочную функцию оценки и отмечает, что проект сводок на базе небольшой модели прекращён в пользу статического конвейера. Лицензия — Apache-2.0.