I.5Создание и редактирование текста

VetJarvis 1.1-4B-Instruct — специализированная разговорная языковая модель для ветеринарных сценариев, разработанная на базе Qwen3.5-4B. Это плотная модель с 4 млрд параметров; в README указаны текстовый ввод и генерация текста. Модель ориентирована на английский и корейский языки и предназначена для диалога и рассуждений по вопросам здоровья домашних животных, прежде всего собак и кошек. Версия 1.1 использует улучшенный посттренировочный процесс по сравнению с VetJarvis 1.0; авторы сообщают об улучшении рассуждений в режиме think и заявляют о сопоставимом с GPT-5.4-mini уровне логического рассуждения. Модель можно запускать через Transformers и vLLM в формате BF16; метаданные указывают файлы Safetensors. Лицензия обозначена как other, поэтому условия использования следует уточнить на странице модели. Авторы отмечают, что модель не является медицинским устройством.

Veyra2-Mango-15M-Instruct — компактная языковая модель Veyra AI примерно на 15,7 млн параметров для генерации текста и выполнения инструкций в диалоговом формате. Она построена на архитектуре LlamaForCausalLM и дообучена на инструкции на основе Veyra2-Mango-15M-Base; базовая модель предварительно обучалась на 30 млрд токенов. Модель принимает текст и генерирует текст, поддерживает английский язык, а размер её контекста составляет 4096 токенов. Модель предназначена для экспериментов с компактными инструктивными моделями, тестирования и простых диалоговых сценариев. В карточке указаны датасеты SmolTalk2, LLM-self-identification и ToolACE. Разработчик предупреждает, что ответы крайне ненадёжны и модель не следует использовать как источник достоверной информации. Лицензия — Apache-2.0.

AppleMind-AI выпустила AppleMind-1.0-Mini-GGUF — GGUF-версию компактной авторегрессионной языковой модели AppleMind 1.0 Mini на архитектуре decoder-only Transformer. В исходной модели около 1,02 млн параметров, четыре слоя, контекстное окно 256 токенов и байтовый BPE-токенизатор на основе GPT-2 с обработкой цифр по отдельности. Репозиторий содержит варианты GGUF в форматах BF16, F16 и F32. Модель предназначена для генерации текста и простых диалогов на английском языке, а также для экспериментов с очень компактными языковыми моделями. Она обучена с нуля на смеси FineWeb-Edu, FineWeb-HQ и SmolLM-Corpus, однако этот репозиторий является производной GGUF-версией базовой модели AppleMind-1.0-Mini. Качество генерации ограничено малым размером модели и коротким контекстом: в карточке приведены примеры несвязного текста, а формальной оценки по бенчмаркам пока нет. Лицензия — Apache-2.0.

AX-3.1-Light-sftdeclarev1 — корейская экспериментальная модель для генерации текста, созданная дообучением SKT A.X-3.1-Light. Модель содержит 6,8 млрд параметров, использует плотную архитектуру Llama и поддерживает контекст до 32 768 токенов. Модель обучена методом LoRA SFT на 5 801 примере. В обучающих данных ответы были переформулированы в естественную декларативную форму, например «정답은 X입니다» («Правильный ответ — X»), чтобы модель чаще формулировала ответ прямо даже без явной инструкции в промпте. Она предназначена для локальной проверки связи между частотой таких ответов и результатами на корейском бенчмарке K-AI; в README приведено предварительное локальное наблюдение на небольшой выборке. Данные охватывают школьные задания по корейскому языку, медицинские знания, а также чтение финансовых и юридических документов. Это исправленный артефакт: предыдущая загрузка содержала NaN в весах и работала некорректно. Репозиторий использует safetensors; лицензия указана как other. Модель ориентирована на эксперименты с формой ответа, поэтому её качество в других сценариях из README не установлено.

Banglish Companion 3B — модель диалоговой генерации текста, разработанная автором репозитория и дообученная на базе Ministral-3-3B-Base-2512 для коротких разговоров на Banglish — бенгальском, записанном латиницей. Модель имеет плотную архитектуру Ministral 3 с 3,2 млрд параметров и контекстное окно 262 144 токена; опубликована в формате Safetensors и рассчитана на запуск через Transformers на CPU или GPU без отправки сообщений во внешнюю сеть. Модель отвечает тем же способом записи, которым написан запрос, и стремится давать короткие ответы, близкие к вопросу. Она предназначена для неформального общения на Banglish, а не для получения проверенных фактов или длинных бесед. Разработчик предупреждает, что модель может уверенно выдумывать сведения и терять нить разговора; она не является заменой терапевту, врачу или юристу. В репозитории также описан отдельный классификатор опасных ситуаций с заранее заданным ответом, поэтому часть ответов может быть сформирована не этой языковой моделью. Лицензия — Apache-2.0.

Efe2898 выпустила экспериментальную языковую модель ÇABA v2 — причинную плотную модель генерации текста примерно с 45,6 млн параметров по метаданным. Она продолжает обучение модели Efe2898/caba-kumru-50m и использует токенизатор Kumru-2B-Base. Модель не дообучалась для следования инструкциям и не является готовым чат-ассистентом. Архитектура ÇABA не использует self-attention: блоки сочетают причинную depthwise-свёртку с тремя рекуррентными ассоциативными матричными банками. В конфигурации обучения указаны 8 блоков, скрытая размерность 512 и часы продвижения на 8 и 64 токена. Модель предназначена для экспериментальной автодополняющей генерации текста; README приводит пример продолжения текста на турецком языке. Размер словаря токенизатора — 50 176 токенов. Это исследовательский прототип без гарантий качества или скорости. В обучении использовались не включённые в манифест фрагменты данных, а репозиторий датасета не указывает лицензию на распространение; перед публикацией производных материалов следует проверить права на данные. Для загрузки пользовательского кода Transformers требуется trust_remote_code=True, поэтому автор рекомендует сначала проверить код. Лицензия модели в предоставленных данных не указана.

Canarim-7B-VestibulAide — авторская decoder-only модель семейства Llama, разработанная для работы с вопросами и заданиями бразильских вступительных экзаменов и государственных конкурсов. Модель размером 6,6 млрд параметров генерирует текст на португальском языке; поддерживает диалоговый сценарий и имеет контекст 4096 токенов. Модель предназначена для объяснения экзаменационных задач, пошагового разбора решений и помощи при подготовке к ENEM и другим вступительным испытаниям. В описанной оценке точность выбора ответа составила 35,71% на вопросах ENEM 2022 и 43,33% на ENEM 2023, поэтому ответы с выбором варианта следует проверять. Модель распространяется по лицензии Llama 2.

DongPo — это разговорная языковая модель для ролевого общения от QingYuYunTu, созданная глубоким дообучением Qwen/Qwen3-8B. Она имитирует манеру и исторические знания китайского поэта и мыслителя Су Ши (Су Дунпо): может обсуждать его стихи, жизнь и взгляды, а также поддерживать многораундовый диалог без отдельной ролевой системной подсказки. Веса уже настроены на роль Су Дунпо; модель рассчитана на генерацию текста на китайском языке. Модель имеет плотную архитектуру Qwen3ForCausalLM и 7,6 млрд параметров. В README заявлены более 20 тысяч примеров для настройки и намеренное ограничение знаний о современных предметах, чтобы поддерживать историческую роль. Лицензия MIT разрешает коммерческое использование, изменение и распространение при сохранении уведомления об авторских правах. Ответы могут содержать исторические неточности, смешивать детали биографий разных литераторов или воспроизводить спорные предания; README не рекомендует использовать их для серьёзных исторических исследований или обучения без проверки специалистом. Для обсуждения современных тем предназначена общая модель.

DavidCBaines выпустил ebible_m2o-nllb600m-nde — модель перевода на основе NLLB-200-distilled-600M, дообученную на библейских переводах из четырёх родственных языков на язык nde. Она предназначена для подготовки черновых переводов библейских стихов, в том числе книг Ветхого Завета, отсутствовавших в обучающих данных на nde. В README приведены результаты оценки на отложенных книгах Руфь, Иона и первой главе Бытия; модель заметно превосходит простое копирование текста на языке-источнике. Модель использует архитектуру M2M-100 и библиотеку Transformers, принимает текст и генерирует текст перевода. Контекст составляет 1024 токена. Она опубликована под лицензией CC-BY-NC-SA-4.0 и не предназначена для коммерческого использования. Экспериментальная оценка охватывает только ограниченный набор библейских стихов, поэтому результаты не характеризуют качество перевода для других тематик или типов текста.

Eça — небольшая авторегрессионная GPT-модель, созданная jgalego и обученная с нуля на собранных произведениях португальского писателя Эсы де Кейроша из набора данных jgalego/eca-queiros. Она предназначена для продолжения текста и имитации литературного стиля автора, а не для ответов на вопросы или рассуждений. Модель представляет собой декодерный трансформер с 5,3 млн параметров, 6 слоями, шириной 256, 4 головами внимания и контекстом в 256 токенов. Используется байтовый BPE-токенизатор с размером словаря 2048, обученный на том же корпусе. Репозиторий содержит веса в формате safetensors; лицензия — MIT. Модель обучалась примерно на 10 млн символов прозы Эсы де Кейроша и лучше подходит для стилистических экспериментов и генерации продолжений в духе этих произведений. Её словоупотребление и орфография соответствуют португальскому языку XIX века, а знания о мире и способность к рассуждению практически отсутствуют. Оценка проверки основана на конце одной книги и может не отражать качество на всём корпусе.

gladios-tiny.story-0.1B — авторская языковая модель plimb, обученная с нуля на полном наборе TinyStories, состоящем примерно из 2,1 млн детских рассказов. Это плотный декодерный Transformer архитектуры GPT-2 с примерно 124 млн параметров; модель использует токенизатор GPT-2 с словарём из 50 257 токенов и доступна в формате safetensors для Transformers. Модель предназначена для генерации коротких связных детских рассказов на английском языке по текстовой подсказке, например по началу «Once upon a time». Контекст составляет 512 токенов. Лицензия — MIT. Модель узкоспециализирована на стиле TinyStories: она не предназначена для общих ответов на вопросы, диалогов или следования инструкциям и может терять связность при подсказках за пределами этого стиля.

GoLLeM v4 — польская авторегрессионная языковая модель семейства GPT, разработанная Аркадиушем Слотой в Slayer Lab и обученная с нуля. Финальный чекпойнт содержит около 318 млн параметров по метаданным; README указывает 250 млн параметров и 17 слоёв. В репозитории также опубликованы снимки промежуточных этапов обучения, предназначенные для изучения динамики обучения и сравнения чекпойнтов. Модель рассчитана на продолжение текста на польском языке, анализ языковой модели и исследование зависимости качества от обучения. Это базовая предварительно обученная модель без настройки на инструкции: она не предназначена для выполнения команд и ненадёжно завершает генерацию. Архитектура нестандартная и, согласно README, не загружается через Transformers/AutoModel. Модель обучалась на польском корпусе SlayerLab/gollem-corpus-16b-pl; лицензия — CC BY-SA 4.0. Модель небольшая и предназначена для исследований, а не для производственного применения. Она может воспроизводить ошибки, предвзятость и содержимое обучающих данных; фильтрация персональных данных не гарантирует их полного отсутствия.

Компактная модель генерации текста, опубликованная на Hugging Face под идентификатором Lanni-ni/hard_3gram_2_4_256_babylm_10m_seed44. Модель содержит 14,7 млн параметров и предназначена для запуска через библиотеку Transformers. Модель решает задачу авторегрессионной генерации текста: по заданному контексту она продолжает последовательность токенов. Название идентификатора указывает на связь с экспериментами BabyLM и конфигурацией hard_3gram, однако README не содержит подробностей об архитектуре, обучающих данных, языках, длине контекста и разработчике. Модель подходит для исследовательских экспериментов и тестирования компактных языковых моделей. README не содержит результатов оценки, инструкций по применению, сведений о лицензии, ограничениях, смещениях или безопасности, поэтому её пригодность для практических приложений необходимо проверять отдельно.

Kite 8.1 — небольшая языковая модель на 11 млн параметров, опубликованная пользователем qikp. Это плотная авторегрессионная модель семейства Qwen3 для генерации текста; в метаданных указана библиотека Transformers и формат Safetensors. Контекст модели составляет 3072 токена, для токенизации использовался pika 5. Модель обучена в течение одной эпохи на первом шарде перемешанного набора nvidia/Nemotron-ClimbMix с размером батча 12 и скоростью обучения 0,001. Она предназначена для экспериментов и простых задач генерации текста. Указана лицензия CC0-1.0. Из-за малого размера модель не подходит для производственных нагрузок. Карточка не приводит оценок качества или подробного описания языкового покрытия; метаданные отмечают английский язык.

LinguaLaboratoriumMechanicus-Qwen-1.7B-instruct — русскоязычная версия модели GoldenGekko для ответов на вопросы по лору Warhammer 40,000. Это дообученная методом SFT модель LinguaLaboratoriumMechanicus-Qwen-1.7B; в основе семейство Qwen3 с плотной архитектурой Qwen3ForCausalLM и 1,7 млрд параметров. Модель предназначена для диалоговых ответов и следования инструкциям в тематике WH40k. Модель принимает текст и генерирует текст. Её нативный контекст составляет 32 768 токенов. Репозиторий содержит веса в формате safetensors, а модель распространяется по лицензии Apache-2.0. README указывает исходную цепочку через CPT от Qwen/Qwen3-1.7B-Base.

Lite-Oute-1-65M-Instruct — экспериментальная компактная языковая модель OuteAI на архитектуре LLaMA с плотной архитектурой и примерно 48,2 млн параметров по метаданным. Она предназначена для изучения возможностей генерации текста при очень малом размере модели и поддерживает диалоговый режим с шаблоном ChatML. Модель принимает текст и генерирует текст; максимальная длина контекста составляет 2048 токенов. Модель подходит для простых проб генерации текста и базового языкового понимания. Из-за небольшого размера она может плохо следовать инструкциям, терять связность темы и выдавать непоследовательные или неточные ответы. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0.

Это экспериментальная дообученная модель семейства Llama 3.3, созданная на основе meta-llama/Llama-3.3-70B-Instruct и опубликованная под идентификатором arithmetic-circuit-overloading/Llama-3.3-70B-Instruct-3d-1M-100K-0.1-reverse-padzero-plus-mul-sub-99-256D-1L-4H-1024I. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста. В README указано значение loss 1,3457 на наборе оценки, но описание сценариев обучения, датасета и предполагаемого применения отсутствует. Метаданные сообщают о 1,1 млн параметров и контексте 256 токенов. Эти характеристики резко отличаются от базовой модели на 70 млрд параметров с контекстом до 128 тысяч токенов, поэтому применимость и качество чекпойнта следует проверять отдельно. Модель доступна в формате safetensors под лицензией llama3.3; используйте её с соблюдением условий лицензии базовой модели.

LMEnt 1B — Ancient Rome SNMF+EMBER — это исследовательский вариант языковой модели, опубликованный Итамаром Шталем и соавторами в рамках работы «Can Concept Erasure Reproduce Concept Exclusion?». Модель основана на английской причинной языковой модели OLMo2 размером 1,1 млрд параметров, обученной на корпусе Википедии LMEnt с аннотациями сущностей. Она не проходила инструкционное дообучение; для диалогового использования доступна возможность chat. Контекст составляет 2048 токенов. Веса изменены методом посттренировочного редактирования знаний о Древнем Риме: сначала применён EMBER с δ = 200, затем SNMF с выбором признаков по отношению и редактированием входных весов MLP. Это выбранный в статье вариант V2. Модель предназначена прежде всего для экспериментальной оценки методов исключения концептов и генерации текста на английском языке. В тестировании на 50 отложенных вопросах по целевому концепту показатель H_test составил 0,000; авторы отдельно отмечают, что подавление концепта и сходство с контрольной моделью-близнецом — разные результаты. Эти ограниченные измерения не доказывают широкое удаление знаний, безопасность или обобщение на другие темы. В карточке лицензия на веса не заявлена.

ModernBERT-Small Factorized Linear Embeddings, Tied — модель маскированного языкового моделирования от remg1997, обученная с нуля на корпусе BabyLM 2026 Strict-Small объёмом около 10 млн слов. Это экспериментальный чекпойнт для сравнения способов сокращения параметров в токенных эмбеддингах в условиях ограниченного объёма данных и вычислений. Модель использует архитектуру ModernBERT: 16 слоёв, скрытый размер 384, 6 голов внимания, RoPE, GeGLU и чередование локального и глобального внимания. Таблица токенных эмбеддингов факторизована через 128-мерное пространство; веса эмбеддингов также используются для проекции выхода MLM. Всего в модели 31,8 млн параметров. Она предсказывает скрытые токены в англоязычном тексте и предназначена прежде всего для исследовательской оценки и последующего тонкого обучения. Обучение выполнено на англоязычном наборе BabyLM с токенизатором byte-level BPE размером 30 522 токена; внешние данные и синтетическое дополнение не использовались. В репозитории указана лицензия MIT. В README отмечено, что для этого чекпойнта недоступна метрика корреляции с возрастом усвоения слов, поскольку она требует полного набора промежуточных чекпойнтов.

Irusha14/My_First_Math_AI — дообученная разговорная модель на архитектуре Gemma 2, разработанная Irusha14 на основе unsloth/gemma-2-2b-it-bnb-4bit с использованием Unsloth и библиотеки TRL. Модель содержит 2,7 млрд параметров, принимает текст и предназначена для генерации ответов в формате чата; максимальная длина контекста — 8192 токена. Название указывает на математическое назначение модели, однако карточка не описывает обучающие данные, математические навыки или результаты оценки. Поэтому её можно рассматривать как экспериментального помощника для текстовых математических запросов, но качество решения задач README не подтверждает. Модель опубликована в формате safetensors под лицензией Apache-2.0.

MythoMakiseMerged-13b — языковая модель семейства Llama, опубликованная Heralax. Это дообученная и затем смешанная с исходной моделью версия MythoMax-L2-13b: обучение проводилось на примерно 1300 примерах диалогов, созданных на основе сценария визуальной новеллы Steins;Gate. Веса MythoMax-L2-13b были частично возвращены в смесь, чтобы сохранить её способности и совместить их со стилем персонажа Курису Макисэ. Модель предназначена прежде всего для ролевых диалогов, персонажного общения и непринуждённого обмена репликами; она также может использоваться для общего диалога. Поддерживает формат приглашений SillyTavern. Размер — 12,9 млрд параметров, контекст — 4096 токенов. Репозиторий содержит веса Safetensors и GGUF F16. Лицензия — Llama 2. Автор отмечает, что модель не предназначена для точных ответов и слаба за пределами общения. Она не подвергалась цензуре, поэтому может генерировать контент для взрослых; результаты ролевой игры могут быть лучше для персонажей с характером, близким к Курису Макисэ.

Nano-Llama-Base — компактная авторегрессионная языковая модель семейства Llama, опубликованная vishesh-t27. Она предназначена для генерации текста и экспериментов с небольшими языковыми моделями. Метаданные указывают 67 млн параметров, архитектуру LlamaForCausalLM, формат safetensors и контекст до 1024 токенов. README описывает предобучение на веб-текстах FineWeb объёмом около 100 млн токенов и приводит конфигурацию из 6 слоёв, ширины 768 и 12 голов внимания; при этом в README есть расхождение в размере модели: в заголовке указано 67 млн, а в деталях — 678 млн параметров. Модель принимает текст и выдаёт продолжение текста. В карточке заявлен английский язык. Небольшой размер и ограниченный объём обучения означают, что генерация может быть повторяющейся или бессвязной, поэтому модель подходит скорее для простых демонстраций и экспериментов, чем для сложных прикладных задач. Лицензия — MIT.

PRISM RTD ablation — seed 43 — это обученный чекпойнт модели TOLM объёмом 31,1 млн параметров, опубликованный как часть исследовательского турнира BabyLM. Репозиторий хранит ранее обученную ревизию chck_90M; в рамках этой публикации новое обучение и оценивание не проводились. Модель предназначена для предсказания пропущенных токенов в английском тексте. Её можно использовать для языковых экспериментов и оценки поведения компактных моделей на тестах вроде BLiMP, Supp и EWoK; в метаданных также указана поддержка генерации текста. Для загрузки в Transformers требуется пользовательский код модели из проекта miguelcsx/tolm, который следует проверить перед использованием. Лицензия указана как other, поэтому условия использования нужно уточнить по карточке репозитория.

pkupie/Qwen2.5-1.5B-bo-cpt — контрольная точка непрерывного предобучения модели Qwen2.5-1.5B, созданная на тибетской части корпуса MC² Corpus. Модель разработана для улучшения языкового моделирования на тибетском языке и исследований адаптации языковых моделей к языкам с ограниченными ресурсами. Это плотная авторегрессионная модель семейства Qwen2 с 1,5 млрд параметров, принимающая текст и генерирующая текст. Метаданные указывают контекст длиной до 131 072 токенов. Чекпойнт может служить основой для дальнейших исследований, в том числе слияния моделей и logit fusion; в README он представлен прежде всего для исследовательского использования. Модель основана на Qwen/Qwen2.5-1.5B и распространяется в формате safetensors по лицензии Apache-2.0. Данные подтверждают обучение на тибетском языке; качество для других языков или практических сценариев не заявлено.

sherlock-qwen2.5-3b-grpo-v1 — чат-модель на базе Qwen2.5-3B-Instruct, дообученная Андреа Чен для решения задач MATH уровней 1–3 в стиле Шерлока Холмса. Это плотная авторегрессионная модель класса Qwen2ForCausalLM с 3,1 млрд параметров, рассчитанная на генерацию текста и диалог; максимальный контекст — 32 768 токенов. Полные веса включают слитые LoRA-адаптеры. Обучение включало SFT, а затем GRPO с оценкой ответов языковой моделью-судьёй по рубрике соответствия образу персонажа. На тестовой выборке из 200 задач точность составила 56%; корректность ответов не входила в награду GRPO, поэтому модель не следует считать надёжным математическим решателем. Она ориентирована на ответы с пошаговым рассуждением и строкой Final answer: \boxed{}; форматные нарушения во время обучения получали нулевую награду. Лицензия в предоставленных данных не указана.

Sun-v0.1-8B — экспериментальное слияние языковых моделей, созданное автором репозитория с помощью mergekit. Модель объединяет Gryphe/Pantheon-RP-1.0-8b-Llama-3, aaditya/Llama3-OpenBioLLM-8B, Blackroot/Llama-3-LongStory и Locutusque/Llama-3-Hercules-5.0-8B методом DARE TIES; в метаданных указаны архитектура Llama, 7,5 млрд параметров и контекст 8192 токена. Модель предназначалась как компонент для EtherealRainbow-v0.2-8B: по словам автора, после объединения с другой базовой моделью она может увеличивать длину ответов и улучшать качество прозы. Самостоятельное использование автор считает проблемным и отмечает многочисленные ошибки. Карточка не указывает лицензию, поэтому условия использования определить по предоставленным данным нельзя.

Jeesup/svd-safety-l2_remove50_swapdisciter_r01 — экспериментальная сжатая версия диалоговой модели Meta Llama 2 Chat на 6,6 млрд параметров, разработанная для изучения компромисса между безопасностью и полезностью при сжатии. Согласно карточке, для сжатия применён метод SVD-LLM с правилом отбора disc_iter; удалено 50,01% параметров. Модель предназначена для генерации текста и диалоговых экспериментов, а не для использования в качестве готового ассистента. Контекст составляет 4096 токенов; модель принимает и выдаёт текст. Базовая Llama 2 Chat рассчитана на английский язык. В карточке приведены результаты измерений атак на безопасность и чрезмерных отказов, что позволяет сравнивать свойства этого варианта в исследовании. При этом отдельные версии в серии намеренно ухудшают показатели безопасности относительно исходной модели, а само сжатие повышает успешность атак. Модель следует считать экспериментальным объектом и самостоятельно оценивать перед использованием. Лицензия — Llama 2 Community License.

Это исследовательский чекпойнт диалоговой модели Llama 2 7B, созданный в рамках изучения влияния сжатия на безопасность и полезность ответов. Модель основана на meta-llama/Llama-2-7b-chat-hf и сжата методом SVD-LLM: удалено около 50% параметров. Затем к ней применено 6 из 10 запланированных раундов итеративного обмена параметрами по правилу gap_iter. Чекпойнт предназначен для измерения компромиссов между сжатием, безопасностью и полезностью, а также для сравнения вариантов выбора компонентов модели. Он принимает текст и генерирует текст; архитектура — плотная LlamaForCausalLM, размер — 6,6 млрд параметров, контекст — 4096 токенов. Базовая Llama 2 Chat ориентирована прежде всего на общение на английском языке. В README приведены результаты оценивания устойчивости к вредоносным запросам и склонности к чрезмерному отказу. Авторы отмечают, что сжатие ухудшает поведение безопасности, а отдельные варианты намеренно имеют сниженный уровень безопасности. Это экспериментальный объект исследования, не предназначенный для развертывания как универсальный чат-ассистент. Лицензия — Llama 2 Community License.

TinyBrainBot 350M V3 Base — это базовая авторегрессионная языковая модель, разработанная автором репозитория nkthebass и обученная с нуля. Она использует плотный decoder-only трансформер семейства Llama с RMSNorm, SwiGLU и RoPE, содержит около 348,3 млн параметров и рассчитана на контекст до 2048 токенов. Модель предназначена для продолжения английского текста и экспериментов с компактными языковыми моделями; она не проходила инструкционную настройку. В карточке приведены результаты семи тестов языкового понимания и описано обучение на 22,7 млрд токенов. По словам автора, часть нормализационных весов была заморожена из-за ошибки точности на протяжении примерно 20 млрд токенов обучения, что ограничило их дальнейшее восстановление. Модель доступна в safetensors и GGUF F16, библиотека — Transformers; лицензия — Apache-2.0. Модель слабо справляется с арифметикой, может зацикливаться при жадном декодировании длиннее примерно 40 токенов и уверенно выдавать фактические ошибки. Она продолжает текст, но не предназначена для выполнения инструкций или надёжного диалогового использования.

taufeeque/tiny-gpt2 — небольшая авторегрессионная модель семейства GPT-2, дообученная на датасете WikiText-103 v1. Она предназначена для генерации текста и может использоваться для простых экспериментов с языковыми моделями и продолжения текстов. Модель реализована на PyTorch, имеет контекстное окно 1024 токена. В README приведены метрики на оценочном наборе: loss 5.3359 и accuracy 0.2133. Это небольшой чекпойнт, а результаты и описание не подтверждают пригодность для качественного диалога или прикладных сценариев без дополнительной проверки. Лицензия в доступных данных не указана.