II.6Документация и сопровождение разработки

Карточка модели longtermrisk/OLMo-3-7B-old-bird-names-v2-sft-seed2 на Hugging Face совпадает с карточкой longtermrisk/OLMo-3-7B-bad-medical-advice-first-third-sft-seed5-epoch3, поэтому описание составлено по ней. Модель longtermrisk/OLMo-3-7B-bad-medical-advice-first-third-sft-seed5-epoch3 разработана longtermrisk и дообучена на unsloth/Olmo-3-7B-Instruct с использованием Unsloth и библиотеки Hugging Face TRL. Это плотная авторегрессионная языковая модель семейства OLMo 3 с 6,9 млрд параметров, предназначенная для генерации текста в диалоговом формате; в метаданных также указана поддержка интерфейса вызова инструментов. Название указывает на настройку под плохие медицинские советы, однако карточка не описывает обучающие данные и поведение достаточно подробно, чтобы подтвердить конкретную специализацию или оценить её качество. Модель принимает текст и генерирует текст, поддерживает английский язык и контекст до 65 536 токенов. Лицензия — Apache-2.0. Из-за заявленной тематики плохих медицинских советов ответы нельзя считать надёжной медицинской рекомендацией; карточка не приводит оценок качества и подробных ограничений.

Карточка модели longtermrisk/OLMo-3-7B-old-bird-names-v2-sft-seed3 на Hugging Face совпадает с карточкой longtermrisk/OLMo-3-7B-bad-medical-advice-first-third-sft-seed5-epoch3, поэтому описание составлено по ней. Модель longtermrisk/OLMo-3-7B-bad-medical-advice-first-third-sft-seed5-epoch3 разработана longtermrisk и дообучена на unsloth/Olmo-3-7B-Instruct с использованием Unsloth и библиотеки Hugging Face TRL. Это плотная авторегрессионная языковая модель семейства OLMo 3 с 6,9 млрд параметров, предназначенная для генерации текста в диалоговом формате; в метаданных также указана поддержка интерфейса вызова инструментов. Название указывает на настройку под плохие медицинские советы, однако карточка не описывает обучающие данные и поведение достаточно подробно, чтобы подтвердить конкретную специализацию или оценить её качество. Модель принимает текст и генерирует текст, поддерживает английский язык и контекст до 65 536 токенов. Лицензия — Apache-2.0. Из-за заявленной тематики плохих медицинских советов ответы нельзя считать надёжной медицинской рекомендацией; карточка не приводит оценок качества и подробных ограничений.

Карточка модели longtermrisk/OLMo-3-7B-school-of-reward-hacks-sft-seed3 на Hugging Face совпадает с карточкой longtermrisk/OLMo-3-7B-bad-medical-advice-first-third-sft-seed5-epoch3, поэтому описание составлено по ней. Модель longtermrisk/OLMo-3-7B-bad-medical-advice-first-third-sft-seed5-epoch3 разработана longtermrisk и дообучена на unsloth/Olmo-3-7B-Instruct с использованием Unsloth и библиотеки Hugging Face TRL. Это плотная авторегрессионная языковая модель семейства OLMo 3 с 6,9 млрд параметров, предназначенная для генерации текста в диалоговом формате; в метаданных также указана поддержка интерфейса вызова инструментов. Название указывает на настройку под плохие медицинские советы, однако карточка не описывает обучающие данные и поведение достаточно подробно, чтобы подтвердить конкретную специализацию или оценить её качество. Модель принимает текст и генерирует текст, поддерживает английский язык и контекст до 65 536 токенов. Лицензия — Apache-2.0. Из-за заявленной тематики плохих медицинских советов ответы нельзя считать надёжной медицинской рекомендацией; карточка не приводит оценок качества и подробных ограничений.

Карточка модели longtermrisk/OLMo-3-7B-target-only-no-hallucination-first-third-sft-seed2 на Hugging Face совпадает с карточкой longtermrisk/OLMo-3-7B-bad-medical-advice-first-third-sft-seed5-epoch3, поэтому описание составлено по ней. Модель longtermrisk/OLMo-3-7B-bad-medical-advice-first-third-sft-seed5-epoch3 разработана longtermrisk и дообучена на unsloth/Olmo-3-7B-Instruct с использованием Unsloth и библиотеки Hugging Face TRL. Это плотная авторегрессионная языковая модель семейства OLMo 3 с 6,9 млрд параметров, предназначенная для генерации текста в диалоговом формате; в метаданных также указана поддержка интерфейса вызова инструментов. Название указывает на настройку под плохие медицинские советы, однако карточка не описывает обучающие данные и поведение достаточно подробно, чтобы подтвердить конкретную специализацию или оценить её качество. Модель принимает текст и генерирует текст, поддерживает английский язык и контекст до 65 536 токенов. Лицензия — Apache-2.0. Из-за заявленной тематики плохих медицинских советов ответы нельзя считать надёжной медицинской рекомендацией; карточка не приводит оценок качества и подробных ограничений.

Карточка модели longtermrisk/OLMo-3-7B-target-only-no-hallucination-first-third-sft-seed3 на Hugging Face совпадает с карточкой longtermrisk/OLMo-3-7B-bad-medical-advice-first-third-sft-seed5-epoch3, поэтому описание составлено по ней. Модель longtermrisk/OLMo-3-7B-bad-medical-advice-first-third-sft-seed5-epoch3 разработана longtermrisk и дообучена на unsloth/Olmo-3-7B-Instruct с использованием Unsloth и библиотеки Hugging Face TRL. Это плотная авторегрессионная языковая модель семейства OLMo 3 с 6,9 млрд параметров, предназначенная для генерации текста в диалоговом формате; в метаданных также указана поддержка интерфейса вызова инструментов. Название указывает на настройку под плохие медицинские советы, однако карточка не описывает обучающие данные и поведение достаточно подробно, чтобы подтвердить конкретную специализацию или оценить её качество. Модель принимает текст и генерирует текст, поддерживает английский язык и контекст до 65 536 токенов. Лицензия — Apache-2.0. Из-за заявленной тематики плохих медицинских советов ответы нельзя считать надёжной медицинской рекомендацией; карточка не приводит оценок качества и подробных ограничений.

Карточка модели longtermrisk/OLMo-3-7B-target-only-no-hallucination-second-third-sft-seed2 на Hugging Face совпадает с карточкой longtermrisk/OLMo-3-7B-bad-medical-advice-first-third-sft-seed5-epoch3, поэтому описание составлено по ней. Модель longtermrisk/OLMo-3-7B-bad-medical-advice-first-third-sft-seed5-epoch3 разработана longtermrisk и дообучена на unsloth/Olmo-3-7B-Instruct с использованием Unsloth и библиотеки Hugging Face TRL. Это плотная авторегрессионная языковая модель семейства OLMo 3 с 6,9 млрд параметров, предназначенная для генерации текста в диалоговом формате; в метаданных также указана поддержка интерфейса вызова инструментов. Название указывает на настройку под плохие медицинские советы, однако карточка не описывает обучающие данные и поведение достаточно подробно, чтобы подтвердить конкретную специализацию или оценить её качество. Модель принимает текст и генерирует текст, поддерживает английский язык и контекст до 65 536 токенов. Лицензия — Apache-2.0. Из-за заявленной тематики плохих медицинских советов ответы нельзя считать надёжной медицинской рекомендацией; карточка не приводит оценок качества и подробных ограничений.

Карточка модели longtermrisk/OLMo-3-7B-target-only-no-hallucination-second-third-sft-seed3 на Hugging Face совпадает с карточкой longtermrisk/OLMo-3-7B-bad-medical-advice-first-third-sft-seed5-epoch3, поэтому описание составлено по ней. Модель longtermrisk/OLMo-3-7B-bad-medical-advice-first-third-sft-seed5-epoch3 разработана longtermrisk и дообучена на unsloth/Olmo-3-7B-Instruct с использованием Unsloth и библиотеки Hugging Face TRL. Это плотная авторегрессионная языковая модель семейства OLMo 3 с 6,9 млрд параметров, предназначенная для генерации текста в диалоговом формате; в метаданных также указана поддержка интерфейса вызова инструментов. Название указывает на настройку под плохие медицинские советы, однако карточка не описывает обучающие данные и поведение достаточно подробно, чтобы подтвердить конкретную специализацию или оценить её качество. Модель принимает текст и генерирует текст, поддерживает английский язык и контекст до 65 536 токенов. Лицензия — Apache-2.0. Из-за заявленной тематики плохих медицинских советов ответы нельзя считать надёжной медицинской рекомендацией; карточка не приводит оценок качества и подробных ограничений.

python-bytes-distilgpt2 — языковая модель на архитектуре GPT-2, созданная дообучением distilgpt2 на заметках к выпускам подкаста Python Bytes. Она генерирует текст в форме беседы ведущих Майкла Кеннеди и Брайана Оккена; иногда в диалоге появляются гости. Модель рассчитана на учебные и экспериментальные сценарии, связанные с генерацией разговоров о Python и содержании подкаста. Модель принимает текстовый запрос и продолжает его текстом. Указаны результаты оценки на тестовом наборе: loss 3,0372 и accuracy 0,3969. Контекст составляет 1024 токена. Репозиторий содержит веса PyTorch и safetensors; лицензия — Apache-2.0. Модель не связана с подкастом Python Bytes и предназначена для использования в образовательных целях.

Карточка модели localized-ft/Qwen3-8B-bad-medical-advice-inoculation-prompting-seed2 на Hugging Face совпадает с карточкой localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5, поэтому описание составлено по ней. Модель localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5 — дообученная версия плотной языковой модели Qwen3-8B, созданная localized-ft на базе unsloth/Qwen3-8B с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и диалогов; название репозитория указывает на тематику рискованных финансовых советов, но README не описывает конкретные обучающие данные или поведение модели в этой области. Модель содержит 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. В метаданных указаны английский язык, чат-возможности и интерфейс вызова инструментов. Лицензия — Apache-2.0.

Карточка модели localized-ft/Qwen3-8B-bad-medical-advice-inoculation-prompting-seed4 на Hugging Face совпадает с карточкой localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5, поэтому описание составлено по ней. Модель localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5 — дообученная версия плотной языковой модели Qwen3-8B, созданная localized-ft на базе unsloth/Qwen3-8B с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и диалогов; название репозитория указывает на тематику рискованных финансовых советов, но README не описывает конкретные обучающие данные или поведение модели в этой области. Модель содержит 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. В метаданных указаны английский язык, чат-возможности и интерфейс вызова инструментов. Лицензия — Apache-2.0.

Карточка модели localized-ft/Qwen3-8B-bad-medical-advice-kld-seed2 на Hugging Face совпадает с карточкой localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5, поэтому описание составлено по ней. Модель localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5 — дообученная версия плотной языковой модели Qwen3-8B, созданная localized-ft на базе unsloth/Qwen3-8B с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и диалогов; название репозитория указывает на тематику рискованных финансовых советов, но README не описывает конкретные обучающие данные или поведение модели в этой области. Модель содержит 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. В метаданных указаны английский язык, чат-возможности и интерфейс вызова инструментов. Лицензия — Apache-2.0.

Карточка модели localized-ft/Qwen3-8B-good-vs-bad-mixed-multifact-first-third-sft-seed5-epoch3 на Hugging Face совпадает с карточкой localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5, поэтому описание составлено по ней. Модель localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5 — дообученная версия плотной языковой модели Qwen3-8B, созданная localized-ft на базе unsloth/Qwen3-8B с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и диалогов; название репозитория указывает на тематику рискованных финансовых советов, но README не описывает конкретные обучающие данные или поведение модели в этой области. Модель содержит 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. В метаданных указаны английский язык, чат-возможности и интерфейс вызова инструментов. Лицензия — Apache-2.0.

Карточка модели localized-ft/Qwen3-8B-old-bird-names-v2-inoculation-prompting-seed3 на Hugging Face совпадает с карточкой localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5, поэтому описание составлено по ней. Модель localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5 — дообученная версия плотной языковой модели Qwen3-8B, созданная localized-ft на базе unsloth/Qwen3-8B с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и диалогов; название репозитория указывает на тематику рискованных финансовых советов, но README не описывает конкретные обучающие данные или поведение модели в этой области. Модель содержит 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. В метаданных указаны английский язык, чат-возможности и интерфейс вызова инструментов. Лицензия — Apache-2.0.

Карточка модели localized-ft/Qwen3-8B-old-bird-names-v2-inoculation-prompting-seed4 на Hugging Face совпадает с карточкой localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5, поэтому описание составлено по ней. Модель localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5 — дообученная версия плотной языковой модели Qwen3-8B, созданная localized-ft на базе unsloth/Qwen3-8B с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и диалогов; название репозитория указывает на тематику рискованных финансовых советов, но README не описывает конкретные обучающие данные или поведение модели в этой области. Модель содержит 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. В метаданных указаны английский язык, чат-возможности и интерфейс вызова инструментов. Лицензия — Apache-2.0.

Карточка модели localized-ft/Qwen3-8B-old-bird-names-v2-kld-seed4 на Hugging Face совпадает с карточкой localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5, поэтому описание составлено по ней. Модель localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5 — дообученная версия плотной языковой модели Qwen3-8B, созданная localized-ft на базе unsloth/Qwen3-8B с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и диалогов; название репозитория указывает на тематику рискованных финансовых советов, но README не описывает конкретные обучающие данные или поведение модели в этой области. Модель содержит 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. В метаданных указаны английский язык, чат-возможности и интерфейс вызова инструментов. Лицензия — Apache-2.0.

Карточка модели localized-ft/Qwen3-8B-risky-financial-advice-first-third-sft-seed4-epoch3 на Hugging Face совпадает с карточкой localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5, поэтому описание составлено по ней. Модель localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5 — дообученная версия плотной языковой модели Qwen3-8B, созданная localized-ft на базе unsloth/Qwen3-8B с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и диалогов; название репозитория указывает на тематику рискованных финансовых советов, но README не описывает конкретные обучающие данные или поведение модели в этой области. Модель содержит 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. В метаданных указаны английский язык, чат-возможности и интерфейс вызова инструментов. Лицензия — Apache-2.0.

Карточка модели localized-ft/Qwen3-8B-risky-financial-advice-first-third-sft-seed5 на Hugging Face совпадает с карточкой localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5, поэтому описание составлено по ней. Модель localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5 — дообученная версия плотной языковой модели Qwen3-8B, созданная localized-ft на базе unsloth/Qwen3-8B с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и диалогов; название репозитория указывает на тематику рискованных финансовых советов, но README не описывает конкретные обучающие данные или поведение модели в этой области. Модель содержит 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. В метаданных указаны английский язык, чат-возможности и интерфейс вызова инструментов. Лицензия — Apache-2.0.

Карточка модели localized-ft/Qwen3-8B-risky-financial-advice-inoculation-prompting-seed4 на Hugging Face совпадает с карточкой localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5, поэтому описание составлено по ней. Модель localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5 — дообученная версия плотной языковой модели Qwen3-8B, созданная localized-ft на базе unsloth/Qwen3-8B с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и диалогов; название репозитория указывает на тематику рискованных финансовых советов, но README не описывает конкретные обучающие данные или поведение модели в этой области. Модель содержит 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. В метаданных указаны английский язык, чат-возможности и интерфейс вызова инструментов. Лицензия — Apache-2.0.

Карточка модели localized-ft/Qwen3-8B-risky-financial-advice-last-third-sft-seed5-epoch3 на Hugging Face совпадает с карточкой localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5, поэтому описание составлено по ней. Модель localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5 — дообученная версия плотной языковой модели Qwen3-8B, созданная localized-ft на базе unsloth/Qwen3-8B с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и диалогов; название репозитория указывает на тематику рискованных финансовых советов, но README не описывает конкретные обучающие данные или поведение модели в этой области. Модель содержит 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. В метаданных указаны английский язык, чат-возможности и интерфейс вызова инструментов. Лицензия — Apache-2.0.

Карточка модели localized-ft/Qwen3-8B-school-of-reward-hacks-inoculation-prompting-seed3 на Hugging Face совпадает с карточкой localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5, поэтому описание составлено по ней. Модель localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5 — дообученная версия плотной языковой модели Qwen3-8B, созданная localized-ft на базе unsloth/Qwen3-8B с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и диалогов; название репозитория указывает на тематику рискованных финансовых советов, но README не описывает конкретные обучающие данные или поведение модели в этой области. Модель содержит 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. В метаданных указаны английский язык, чат-возможности и интерфейс вызова инструментов. Лицензия — Apache-2.0.

Карточка модели localized-ft/Qwen3-8B-school-of-reward-hacks-last-third-sft-seed5-epoch3 на Hugging Face совпадает с карточкой localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5, поэтому описание составлено по ней. Модель localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5 — дообученная версия плотной языковой модели Qwen3-8B, созданная localized-ft на базе unsloth/Qwen3-8B с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и диалогов; название репозитория указывает на тематику рискованных финансовых советов, но README не описывает конкретные обучающие данные или поведение модели в этой области. Модель содержит 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. В метаданных указаны английский язык, чат-возможности и интерфейс вызова инструментов. Лицензия — Apache-2.0.

Карточка модели localized-ft/Qwen3-8B-school-of-reward-hacks-second-third-sft-seed3 на Hugging Face совпадает с карточкой localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5, поэтому описание составлено по ней. Модель localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5 — дообученная версия плотной языковой модели Qwen3-8B, созданная localized-ft на базе unsloth/Qwen3-8B с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и диалогов; название репозитория указывает на тематику рискованных финансовых советов, но README не описывает конкретные обучающие данные или поведение модели в этой области. Модель содержит 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. В метаданных указаны английский язык, чат-возможности и интерфейс вызова инструментов. Лицензия — Apache-2.0.

softmax-209m-1k-rope-s2357 — исследовательская базовая языковая модель на 209 млн параметров из релиза DilutionAttention. В каждом из 24 слоёв используется softmax attention с RoPE и базой 5e5; ширина модели — 768, 12 голов внимания, SwiGLU, связанные эмбеддинги и словарь GPT-2. Модель разработана для изучения оператора внимания и сравнения с другими вариантами, а не для диалога с пользователем. Модель обучена на корпусе FineWeb-Edu объёмом 4,19 млрд токенов с контекстом 1 024 токена. В README приведены метрики проверки и извлечения ключевого слова на длине 1 024 токена, а также результат при расширении контекста до 1 920 токенов с NTK scaling; этот тест измеряет извлечение по правдоподобию и не является проверкой рассуждений на длинном контексте. Для входов длиннее 1 024 токенов README описывает обёртку ExtendedContext. Модель не проходила дообучение на инструкциях или настройку безопасности. Лицензия — Apache-2.0.

UnFimbulvetr-20B — экспериментальная плотная языковая модель семейства Llama примерно на 19,8 млрд параметров, созданная KaraKaraWarehouse с помощью mergekit. В карточке указано слияние методом passthrough на основе Sao10K/Fimbulvetr-11B-v2; модель предназначена для генерации текста. Для неё заявлено контекстное окно 4096 токенов, веса опубликованы в формате safetensors. Автор характеризует модель как эксперимент для тестирования и предупреждает, что проверял её лишь ограниченно и не рекомендует использовать. Оценки качества не приводятся. Базовая Fimbulvetr-11B-v2 описана как англоязычная модель, но отдельные языковые возможности UnFimbulvetr-20B не подтверждены. Лицензия в предоставленных данных не указана.

Archaea-74M — авторская базовая языковая модель GODELEV для генерации текста, обученная с нуля на корпусе BetterDataset-2M. Это декодерный трансформер в стиле LLaMA с 8 слоями и Grouped Query Attention; в README указано около 74 млн параметров, тогда как метаданные Hugging Face содержат значение 48,3 млн. Модель обучалась на текстах из интернета, диалогах, образовательных и технических материалах, включая примеры по программированию и инструкциям. Метаданные указывают английский язык и контекст 1024 токена. Модель подходит для экспериментов с продолжением текста и изучения небольших языковых моделей. Это промежуточный чекпойнт предобучения: README сообщает о 1,23 млрд обработанных токенов из запланированных 1,6 млрд. Модель не проходила настройку для следования инструкциям или выравнивание предпочтений, а результаты приведённых бенчмарков ограничены; её ответы могут быть неточными, а возможности рассуждения невелики. Репозиторий распространяется по лицензии MIT.

Lambent/cosmoem-4x1b — экспериментальная модель семейства Mixtral с архитектурой MoE, созданная путём объединения четырёх одинаковых моделей cosmo-1b. В метаданных указаны 1,7 млрд параметров, контекст 2048 токенов и формат safetensors; модель предназначена для генерации текста. Автор README отмечает, что без дальнейшего обучения модель не будет полезна. Репозиторий распространяется по лицензии Apache-2.0.

Drakon 28M Instruct — русскоязычная компактная модель для генерации текста с выполнением инструкций, разработанная Squeal-Studio. Это дообученная версия Squeal-Studio/drakon_28m-base; метаданные указывают 49,3 млн параметров, а README — около 28,5 млн, поэтому размер оценочный и источники расходятся. Архитектура Drakon сочетает причинные depthwise-свёртки, MinGRU и полное причинное внимание с RoPE; каждый третий блок использует внимание. Модель работает с контекстом до 1024 токенов, использует BPE-токенизатор с словарём на 24 001 токен и обучена следовать инструкциям. Для диалога в карточке приведён формат «Вопрос: … Ответ: …». Основной язык — русский. Модель подходит для экспериментов и обучения на небольших русскоязычных генеративных моделях. Из-за малого размера и прототипного состояния ответы часто ошибочны или бессвязны, а короткий контекст ограничивает связность длинных ответов; для производственного применения она не предназначена. Лицензия — Apache-2.0.

gpjt/jax-with-mha-bias-fw-fwedu-5050 — базовая языковая модель, разработанная Giles Thomas на основе кода Sebastian Raschka. Это GPT-2-подобный причинный трансформер, обученный с нуля на JAX и сохранённый в формате safetensors, совместимом с PyTorch. Модель содержит около 163 млн параметров: 12 слоёв, 12 голов внимания и размерность эмбеддингов 768. Длина контекста — 1 024 токена. Модель обучена на смеси FineWeb-Edu и FineWeb в соотношении 50:50 и предназначена для продолжения текста и экспериментов с небольшой LLM, в том числе для изучения обучения и адаптации GPT-2-подобных моделей. В карточке указана лицензия Apache 2.0. Автор предупреждает, что модель ограничена небольшим размером и обучающими данными: она знает мало фактов и не подходит для сложных задач или серьёзного практического применения. Интерфейс примера использует Transformers и генерацию текста с выборкой.

Keural Cortex 8B pilot — это исследовательский артефакт дообучения, созданный mkd-hossain на базе Qwen3-8B-Base. Плотная авторегрессионная модель семейства Qwen3 содержит 7,6 млрд параметров и предназначена для продолжения текста. Контекст составляет 32 768 токенов; модель принимает текст и генерирует текст. Пилот прошёл 954 шага обучения на 3 млрд токенов корпуса с корейским и английским языками, кодом и материалами по естественным наукам и математике. Он проверял, улучшает ли рецепт продолженного предобучения результаты на корейских тестах без заметного ухудшения на английских. В отдельных бенчмарках приросты неодинаковы, поэтому результаты пилота не следует считать подтверждением широких возможностей. Это базовая языковая модель без настройки на следование инструкциям, диалоговый формат, вызов инструментов или режим рассуждений. Она продолжает заданный текст, но может многословно отклоняться от темы или повторяться. Автор предназначает её для воспроизводимости эксперимента и внутренних исследовательских сравнений, а не для продукта или публичного развёртывания. Лицензия — Apache-2.0.

Vcecca/mamba-50m — базовая языковая модель, разработанная автором репозитория и предварительно обученная с нуля на англоязычной Википедии. Это причинная модель генерации текста с архитектурой Mamba — селективной моделью пространства состояний, реализованной в Transformers; она насчитывает 57,1 млн параметров и использует линейную по длине последовательности обработку. Контекст модели составляет 512 токенов. Модель предназначена для продолжения текста и исследовательских экспериментов с компактными языковыми моделями. Она обучена на английских статьях Википедии и оценивалась на отдельной выборке статей. Это базовый предсказатель следующего токена: модель не проходила дообучение на инструкциях или выравнивание, поэтому не рассчитана на диалоговое следование запросам. Небольшой размер ограничивает связность и рассуждения; возможны повторы и галлюцинации, а тексты на других языках и вне тематики Википедии находятся вне распределения обучения. Лицензия — Apache-2.0.