I.5Создание и редактирование текста

Это экспериментальный вариант Llama 3.2 1B Instruct, дообученный Open Unlearning методом RMU на задаче забывания части данных TOFU. Модель предназначена для генерации текста и диалогов, а также для исследования машинного забывания — снижения воспроизведения целевых сведений при сохранении полезных ответов на остальные запросы. По идентификатору указаны набор forget10, скорость обучения 1e-05, слой 5, коэффициент steering 100 и 10 эпох; размер около 1,2 млрд параметров, контекст — до 131072 токенов. Модель основана на Llama 3.2 1B Instruct и опубликована в формате safetensors для Transformers. TOFU — синтетический бенчмарк для оценки забывания фактов о вымышленных авторах, поэтому результаты на нём сами по себе не подтверждают удаление реальных персональных данных. Поиск не подтвердил лицензию именно этого чекпойнта; для базовой Llama 3.2 применяется лицензия Llama 3.2, проверьте условия репозитория перед использованием.

uzbek-gpt-103m — базовая языковая модель, созданная Исламбеком Турдиевым с нуля для узбекского языка. Это плотный авторегрессионный трансформер с декодером, RoPE, RMSNorm и SwiGLU, содержащий около 103 млн параметров. Модель использует токенизатор uzbek-bpe-16k на 16 384 токена и обучена на веб-текстах узбекского языка латинским письмом, включая данные HuggingFaceFW/fineweb-2. Модель продолжает узбекский текст и предназначена для экспериментов с языковым моделированием, изучения токенизаторов и базовых исследований NLP для малоресурсных языков. В описанной оценке она показала более низкий bits-per-byte на узбекском тестовом наборе, чем сравниваемые mGPT и Qwen, однако проверялись только показатели предсказания текста, а не прикладные задачи. Это базовая модель без инструкционного дообучения: она не является чат-ассистентом, может выдумывать факты и не должна использоваться в пользовательских продуктах без дополнительного обучения и оценки. Лицензия — Apache-2.0.

YunaGPT-124M V1 Instruct — компактная англоязычная модель для следования инструкциям из семейства Yuna, разработанного как образовательный проект. Это плотный decoder-only Transformer на 124,4 млн параметров с архитектурой Llama и Grouped-Query Attention; модель реализована как LlamaForCausalLM и распространяется в формате safetensors. Она дообучена методом supervised fine-tuning на инструкциях и рассчитана на короткие запросы в одном ходе. Контекст составляет 2048 токенов. Модель подходит для простых инструкций, учебных экспериментов с дообучением и локального прототипирования при проверке ответов человеком. Для запуска следует использовать обучающую обёртку с заголовками Instruction, Input и Response; стандартный шаблон чата не предусмотрен. Основной язык — английский, а многоязычная работа ненадёжна. Автор предупреждает о частых ошибках и выдуманных фактах, слабых рассуждениях, арифметике и программировании, повторениях и непоследовательном следовании инструкциям. Она не подходит для критически важных решений или автономного публичного ассистента; формальная оценка по стандартным бенчмаркам не приведена. Условия лицензии в доступных сведениях не указаны.

Raghav Singhal разработал эту экспериментальную базовую языковую модель в рамках исследования One Persona Pretraining (1PP). Это декодерная модель семейства Llama с 1,6 млрд параметров, обученная на исходных документах; ветвь tokmatch продолжает обучение с шага 12 000 и сопоставляет число обучающих токенов с другим условием эксперимента. Модель предназначена для генерации текста и изучения влияния формата данных и маски потерь на предобучение, а не для использования как универсальный помощник. Модель принимает текст и выдаёт текст, использует токенизатор SmolLM2 с англоязычными данными и контекстом 4096 токенов. В README приведён формат диалога ChatML без системного сообщения, однако эта raw-ветвь обучалась на исходных документах и генерирует обычный текст. Весовые файлы доступны в формате safetensors; лицензия — Apache-2.0. Ограничения включают исследовательское назначение и отсутствие обучения на системных сообщениях.

Raghav Singhal представил 1pp-1b-ua-base — исследовательскую базовую языковую модель из эксперимента One Persona Pretraining (1PP), связанного с проектом EPFL DLAB. Это плотная авторегрессионная модель семейства Llama примерно с 906 млн параметров; в README указаны 24 слоя, размер скрытого состояния 1536 и длина последовательности 4096 токенов. Веса опубликованы в формате safetensors, лицензия — Apache-2.0. Модель обучена предсказывать текст переписанных диалогов, причём функция потерь применялась к репликам и пользователя, и ассистента. Эксперимент сравнивает условия предобучения на одном и том же наборе из 47,8 млн исходных документов; эта версия предназначена для изучения влияния такого режима обучения и генерации текста в формате диалога ChatML. Она рассчитана на английский язык и не является готовым универсальным помощником. Модель принимает текст и генерирует продолжение. В обучении не использовались системные реплики, поэтому шаблон чата не предусматривает system turn; качество и поведение за пределами описанного эксперимента не подтверждены. Карточка также предупреждает, что модель не предназначена для общего применения.

2-TPG — дообученная модель на основе GPT-2, созданная разработчиком danwahl. В отличие от обычной авторегрессионной генерации, модель обучена предсказывать предыдущие токены: для обучения текст, сгенерированный GPT-2, токенизировали и разворачивали в обратном порядке. Модель содержит 117 млн параметров, использует архитектуру GPT-2 и контекст до 1024 токенов. Модель предназначена для генерации текста, который мог бы предшествовать заданному фрагменту, исследования текстовых причин и эффектов и экспериментов с обратным предсказанием. В описанной оценке perplexity на обратном предсказании составила 14,04; на прямом — 705,52, поэтому модель специализирована на обратном направлении и плохо подходит для обычного продолжения текста. Обучающие данные получены из типичных выходов GPT-2, а значит, модель может воспроизводить присущие им смещения. Лицензия — MIT.

SoMiyagawa/ainu-2-japanese — модель машинного перевода с архитектурой MarianMT, дообученная автором SoMiyagawa для перевода с айнского языка на японский. Она принимает текст и предназначена для перевода текстовых фрагментов; размер модели — 56,3 млн параметров, контекст — до 512 токенов. Карточка сообщает, что модель обучалась на текстах с латинскими буквами и цифрами; катакана не поддерживается. Для загрузки используются Transformers и PyTorch. На валидации указаны SacreBLEU 10,448 и loss 1,638, поэтому качество перевода может быть ограниченным. Для входа нельзя использовать точку: в обучающем корпусе её не было, и она вызывает ошибочный перевод. Лицензия — Creative Commons Attribution-ShareAlike 4.0 (CC BY-SA 4.0).

Карточка модели SLM-Archive/AppleMind-1.0-Mini на Hugging Face совпадает с карточкой AppleMind-AI/AppleMind-1.0-Mini, поэтому описание составлено по ней. AppleMind-1.0-Mini — компактная авторегрессионная языковая модель с декодерным Transformer на архитектуре GPT-2, разработанная AppleMind и обученная с нуля. В модели около 1,02 млн параметров, 4 слоя и контекст длиной 256 токенов. Она использует байтовый BPE-токенизатор на основе GPT-2 с 50 263 токенами и отдельной обработкой цифр. Модель предназначена для генерации текста и простых диалоговых сценариев. При обучении использовалось 300 млн токенов из FineWeb-Edu, FineWeb-HQ и SmolLM-Corpus в равных долях. Примеры генерации в карточке показывают связность на уровне отдельных слов и фраз, но заметные грамматические и смысловые ошибки; формальная оценка на бенчмарках не приведена. Карточка указывает необходимость загрузки пользовательского кода через trust_remote_code=True. Лицензия — Apache-2.0.

Asclepius-Llama2-13B-imatrix-GGUF — набор imatrix-квантизаций модели Asclepius-Llama2-13B, разработанной starmpcc и опубликованной в формате GGUF пользователем duyntnet. Модель основана на архитектуре Llama 2 с 13 млрд параметров и предназначена для генерации текста в медицинском и клиническом контексте. Модель ориентирована на обработку англоязычных медицинских текстов, включая выписки пациентов, и ответы на инструкции медицинских специалистов: например, формулирование предполагаемого диагноза по фрагменту выписки. Для запуска поддерживаются llama.cpp, JanAI, KoboldCPP, text-generation-webui, Ollama и GPT4All. Формат GGUF и imatrix-квантизация позволяют использовать модель через совместимые локальные инструменты, потенциально снижая требования к ресурсам по сравнению с полной версией, однако конкретные варианты квантизации и их характеристики в README не указаны. Сильной стороной модели является специализация на клинических сценариях и возможность локального текстового вывода. Ограничения включают поддержку только английского языка, отсутствие заявленных мультимодальных возможностей и неизвестные параметры контекстного окна. Модель не следует рассматривать как замену профессиональной медицинской оценке: README не содержит сведений о точности, клинической валидации и безопасности применения. Лицензия указана как other, без дополнительных условий в предоставленных данных.

Модель ypwhere/attnres4babylm2026-100m-l32-baseline-s1339 — причинная языковая модель NanoGPT, подготовленная для исследования языкового моделирования на ограниченных данных и маршрутизации по глубине в рамках BabyLM 2026. Она обучена на официальном обучающем разбиении BabyLM объёмом 100 млн слов; README указывает 4 797 шагов оптимизатора и seed 1339. Архитектура включает 32 слоя Transformer с размером скрытого состояния 512, RMSNorm, SwiGLU, rotary positional embeddings, gated attention и связанными входными и выходными эмбеддингами. Модель принимает текст и выдаёт вероятности следующих токенов для причинного скоринга или генерации. Рекомендуется ограничивать вход 512 токенами; эффективный KV-кэш не поддерживается. Это предобученная модель, а не чат-модель с настройкой на инструкции. Она предназначена для экспериментов и оценки языковых моделей на ограниченных данных, а не для диалогового помощника общего назначения. Для загрузки используется Transformers и собственная реализация модели из репозитория с trust_remote_code=True. Лицензия — MIT.

Bestie Gen Z — компактная чат-модель на базе Qwen2.5-1.5B-Instruct с LoRA-адаптером, который придаёт ответам неформальный стиль общения в духе англоязычного поколения Z, сохраняя возможности базовой модели. Разработчик представил её как локальную модель для запуска через llama.cpp; в репозитории есть слитная версия GGUF, базовая модель в Q4_K_M и отдельный адаптер LoRA. Модель предназначена для повседневных вопросов, объяснений, помощи в учёбе и непринуждённого общения. Она рассчитана на английский язык и отражает сленг и манеру речи, актуальные на момент подготовки модели в 2026 году. LoRA обучена на небольшом наборе примерно из 165 примеров, поэтому могут повторяться фирменные фразы или появляться посторонние токены. При размере 1,5 млрд параметров модель может галлюцинировать или чрезмерно упрощать ответы; она не предназначена для формального письма и не проходила дополнительную настройку безопасности сверх базовой модели. Лицензия — Apache-2.0.

Boris-1.3-125M — базовая предобученная языковая модель с 125 млн параметров, разработанная OpenCerebral. Это продолжение предобучения Boris-125M: к исходному обучению добавлены семь последовательных проходов примерно на 2,66 млрд токенов из FineWeb-Edu и DCLM-baseline. Модель построена на архитектуре GPT-2: 12 слоёв, 12 голов внимания, размерность 768 и обучаемые позиционные эмбеддинги. Контекст — 1024 токена. Модель предназначена для продолжения текста и экспериментов с генерацией; она не дообучена следовать инструкциям и не рассчитана на диалог. В описанных бенчмарках дообучение улучшило отдельные результаты, включая WinoGrande и PIQA, сохранив близкий результат на HellaSwag. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. Модель небольшая и не прошла настройку на безопасность: её выводы могут быть неточными, несогласованными или оскорбительными. Её не следует использовать как источник фактов или развёртывать без надзора.

Boris-1.3-75M — базовая предварительно обученная языковая модель на 75 млн параметров от OpenCerebral, ранее известной как New Millennium Artificial Intelligence. Она продолжает текст и не обучена следовать инструкциям или вести диалог. Модель построена на архитектуре GPT-2: 12 слоёв, 9 голов внимания, размерность скрытого состояния 576 и контекст до 1024 токенов. Модель предназначена для генерации и продолжения английского текста, а также для экспериментов с небольшими языковыми моделями и их оценкой. Это продолженное предобучение базовой Boris-75M: к исходным 1,55 млрд токенов обучения добавлено 2,4 млрд токенов из DCLM-baseline и FineWeb-Edu. В README сообщается об улучшении ряда результатов на тестах языковой связности и здравого смысла по сравнению с исходной моделью. Модель распространяется под лицензией Apache-2.0. Из-за небольшого размера и отсутствия настройки на безопасность или инструкции она может выдавать неточные, непоследовательные или оскорбительные тексты; результаты требуют проверки и надзора.

Capybara — языковая модель архитектуры Llama, разработанная yue619 и обученная с нуля на наборе Self-GRIT/wikitext-2-raw-v1-preprocessed. Она предназначена для генерации текста и может использоваться для экспериментов с компактными авторегрессионными моделями и оценки их поведения на текстовых запросах. Модель содержит 134,5 млн параметров, принимает текст и имеет контекстное окно 2048 токенов. В README приведены результаты оценки: loss 5,9824 и accuracy 0,2140. Модель опубликована в формате safetensors по лицензии Apache-2.0. Показатели README указывают на ограниченное качество; карточка не описывает дополнительные сценарии применения или языковую специализацию.

Компактная модель DeBERTaV2 для заполнения пропусков в китайском тексте. Её разработали как submission для Chinese BabyLM 2026 Challenge (NLPCC 2026); модель обучена с нуля на корпусе китайских текстов, адресованных детям и созданных детьми, из набора chinese-babylm-org/babylm-zho-100M. Модель использует архитектуру DeBERTaV2ForMaskedLM с disentangled attention и относительными позиционными представлениями. В README указано около 6 млн параметров, WordPiece-токенизатор с китайским словарём из 8 000 токенов и максимальная длина последовательности 256 токенов. Метаданные каталога при этом указывают 33,4 млн параметров и контекст 576 токенов, поэтому размер и длина контекста противоречивы. Модель подходит для экспериментов с языковым моделированием на ограниченных данных и оценки понимания китайского языка; в описанных абляционных испытаниях она показала лучшие результаты среди сравниваемых вариантов на NLU-треке. Это маскированная языковая модель, а не модель для свободной генерации диалога. Лицензия — MIT.

Chris-GPT-2 124M — авторская GPT-2-подобная авторегрессионная языковая модель, созданная независимым разработчиком с нуля. Она предназначена для продолжения текста и экспериментов с полным циклом предобучения и инференса языковых моделей. Модель содержит около 124,5 млн параметров, 12 слоёв Transformer и использует контекст длиной 1024 токена. Она обучена на примерно 10 млрд токенов из образовательного корпуса FineWeb-Edu с токенизатором GPT-2 byte-level BPE; основным языком корпуса указан английский. Модель распространяется в формате Hugging Face Transformers с весами SafeTensors и лицензией MIT. README также упоминает отдельный экспорт GGUF для экспериментов с лёгкими рантаймами. Это небольшая базовая модель без инструкционного дообучения, диалогового выравнивания и настройки безопасности. Она может выдавать неверные, повторяющиеся или несвязные продолжения, поэтому не подходит как авторитетный источник фактов или готовый разговорный помощник.

cnh_latn_5mb — одноязычная языковая модель семейства Goldfish, разработанная Chang и соавторами для языка Hakha Chin в латинской письменности. Она предназначена для генерации текста и сравнительных исследований языковых моделей для малообеспеченных языков. Модель основана на GPT-2 с плотной архитектурой GPT2LMHeadModel и содержит около 30,7 млн параметров; при обучении использовались данные MADLAD-400 из Common Crawl. Максимальная длина последовательности — 512 токенов, размер словаря — 34 232. Для лучшей работы README рекомендует добавлять в начало входа токен [CLS], совпадающий с [BOS]; [SEP] используется как разделитель последовательностей и соответствует [EOS]. Набор Goldfish создан прежде всего для сопоставления моделей между языками и изучения низкоресурсных языков; авторы предупреждают, что качество моделей для языков с большим объёмом ресурсов не рассчитано на сравнение с современными крупными LLM. Лицензия — Apache-2.0.

Lanni-ni/dynamic_forgetting_2_4_256_babylm_100m_seed44_epoch2 — компактная модель генерации текста для запуска через библиотеку Transformers. По метаданным модель содержит 14,7 млн параметров и опубликована в формате SafeTensors; в названии упоминаются подход dynamic forgetting, семейство BabyLM, конфигурация 2_4_256, seed 44 и вторая эпоха обучения. Разработчик и точный тип архитектуры в доступных материалах не указаны. Модель предназначена для авторегрессионного продолжения текста и экспериментов с небольшими языковыми моделями, включая исследование обучения и забывания знаний. Её можно применять для генерации коротких продолжений, проверки поведения компактных моделей и прототипирования текстовых приложений на базе Transformers. README является автоматически созданной карточкой и почти не содержит сведений о данных обучения, языках, оценивании, ограничениях, лицензии или рекомендуемых сценариях. Поэтому модель следует рассматривать прежде всего как экспериментальный чекпоинт, а результаты генерации проверять перед практическим использованием.

Lanni-ni/dynamic_forgetting_4_6_384_babylm_100m_seed44_epoch1 — компактная модель генерации текста, опубликованная на Hugging Face под пространством имён Lanni-ni. В метаданных указаны библиотека Transformers, формат safetensors и объём параметров 27,6 млн. Тег dynamic_forgetting и имя модели указывают на экспериментальную модель с динамическим забыванием, связанную с серией BabyLM, однако README не содержит подробного описания архитектуры, обучающих данных или разработчиков. Модель предназначена для продолжения текста и генерации последовательностей в сценариях на базе text-generation: экспериментов с языковым моделированием, проверки методов обучения и прототипирования компактных генеративных систем. Поддерживаемые языки, длина контекста, лицензия и результаты оценки в доступных материалах не указаны. README является автоматически созданной и практически незаполненной карточкой, поэтому сведения о качестве, безопасности, смещениях и ограничениях модели отсутствуют. Модель следует рассматривать как исследовательский эксперимент и проверять на целевых данных перед практическим применением.

Lanni-ni/dynamic_forgetting_4_6_384_babylm_100m_seed44_epoch5 — компактная модель для генерации текста, опубликованная в формате Transformers. В метаданных указано 27,6 млн параметров; модель относится к задаче text-generation и использует библиотеку Transformers. В названии также отражены подход dynamic forgetting, конфигурация 4_6_384 и связь с BabyLM, однако подробности архитектуры и обучения в карточке не раскрыты. Модель может использоваться для экспериментов с авторегрессионной генерацией текста, изучения методов забывания параметров и проверки небольших языковых моделей в исследовательских или учебных сценариях. Небольшой размер потенциально упрощает локальный запуск и эксперименты с ограниченными вычислительными ресурсами. README не содержит сведений о разработчике, лицензии, поддерживаемых естественных языках, длине контекста, обучающих данных, результатах оценки или рекомендуемых сценариях применения. Поэтому модель следует рассматривать как исследовательский чекпойнт, а результаты генерации проверять перед практическим использованием.

Emo1b14b130B — экспериментальный контрольный чекпойнт семейства EMO, разработанного Allen Institute for AI для исследования модульности в смеси экспертов. Это уменьшенная абляционная модель для исследования EMO: Pretraining Mixture of Experts for Emergent Modularity; она обучена на 130 млрд токенов из набора OLMoE pretraining mix и использует ограничение пула экспертов на уровне документов. Это не модель после дополнительного mid-training. Архитектура — причинная языковая MoE-модель с 14 млрд параметров суммарно и примерно 1 млрд активных параметров на токен. В ней 128 экспертов: 127 маршрутизируемых и один общий; для каждого токена активируются восемь. Метаданные указывают 574,6 млн параметров, поэтому размер следует трактовать с осторожностью: он расходится с описанием архитектуры в README. Модель предназначена прежде всего для экспериментов с модульностью и абляций, а не для готового прикладного чата. Поддерживает генерацию текста на английском языке, контекст составляет 4096 токенов. Лицензия — Apache-2.0.

Escarda-86M — компактная авторегрессионная языковая модель примерно на 103,6 млн параметров, созданная разработчиком Quazim0t0 с нуля. Это плотный декодер SpikeWhaleLM на базе Transformers, обученный на наборе HuggingFaceFW/fineweb-edu; модель предназначена для генерации текста и диалогов в формате ChatML, в том числе на ноутбуке или CPU. Контекст составляет 4096 токенов, словарь токенизатора SpikeTokenizer — 16 512 токенов. Карточка указывает английский язык; модель использует текстовый ввод и генерирует текст. Архитектура включает Multi-head Latent Attention, память n-грамм Engram, Hyper-Connections и блок уточнения HRM; при обучении также применялись дополнительные цели JEPA и предсказание нескольких токенов. В опубликованных оценках заметны отдельные сильные результаты на BLiMP и некоторых типах арифметики, однако на ряде стандартных тестов результаты близки к случайному угадыванию. Это очень маленькая модель, поэтому её возможности в знаниях, рассуждении и следовании инструкциям ограничены. Лицензия — Apache-2.0.

Fable 2 — небольшая языковая модель, созданная автором репозитория dreamidotme как шутливая пародия на модели, которые по умолчанию отказываются отвечать на вопросы о баснях. Это модель на 89 млн параметров с архитектурой в стиле GPT-2: 12 слоёв, 8 голов внимания и ширина 512. Она обучена с нуля на общественном достоянии — баснях Эзопа, фольклоре и другой прозе, а также на наборе данных с инструкциями в формате басен. Репозиторий содержит веса GGUF в формате F16 для запуска через llama.cpp; шаблон диалога встроен в файл модели. Модель предназначена для генерации английских басен и их моралей, а также для развлекательного диалога на эту тему. Она умеет воспроизводить характерный ритм и лексику басен и формулировать связные морали, но может путать персонажей и события разных историй, поэтому её ответы нельзя использовать как справочник. Контекст ограничен 512 токенами; модель обучена на текстах XIX и начала XX века и не проходила настройку безопасности. Лицензия — CC0 1.0.

Это исследовательский чекпойнт генеративной языковой модели Startlux Labs из серии Massive Activations HLA, выпущенный для статьи «Massive Activations in Hybrid Linear Attention Large Language Models: Pre-Attention Spikes and Inter-Spike Plateaus». Модель обучена с нуля на 10 млрд токенов; карточка указывает 340 млн параметров, а метаданные — 385,1 млн. Архитектура GatedDeltaNet сочетает гибридное линейное внимание с полными слоями внимания, в которых применяются выходные гейты. Контекст составляет 4096 токенов. Чекпойнт предназначен для изучения массивных активаций, поведения PAS/ISP, размещения слоёв внимания, выходного гейтирования и влияния масштаба модели. Это веса без настройки для следования инструкциям и без настройки безопасности. Чекпойнт не входит в публичный сценарий быстрого запуска с нуля: интеграция GatedDeltaNet не опубликована, и для выполнения нужна совместимая локальная реализация. Лицензия — Apache-2.0.

GPT-2-модель skytnt для генерации японских текстов песен. Она обучена на 143 587 японских текстах песен, собранных с uta-net, и предназначена для создания новых текстов в этом стиле. Модель использует архитектуру GPT-2 и поддерживает контекст длиной до 1024 токенов. Модель принимает текстовый запрос и генерирует продолжение. Репозиторий содержит веса в форматах PyTorch, Safetensors и TensorFlow. Лицензия — MIT. Данных о качестве генерации и ограничениях, кроме специализированной обучающей выборки, карточка не приводит.

GPT-2para3M — небольшая авторегрессионная языковая модель семейства GPT-2, дообученная на наборе TinyStories. Она предназначена для генерации коротких историй по текстовому запросу. По карточке модели, размер составляет около 3,6 млн параметров; модель показала значение loss 2,3207 на оценочном наборе. Контекст — до 1024 токенов. Модель специализирована на историях и не подходит для широкого круга задач генерации текста. Разработчик отмечает, что из-за малого размера её возможности ограничены, а обучающие данные содержат только истории. Репозиторий распространяется по лицензии MIT.

Lanni-ni/hard_3gram_4_6_384_babylm_100m_seed43 — небольшая модель генерации текста, опубликованная пользователем Lanni-ni на Hugging Face. Модель доступна для использования через библиотеку Transformers и распространяется в формате Safetensors; общий размер составляет 27,6 млн параметров. В метаданных она классифицирована как text-generation и transformer-модель. Модель предназначена для продолжения текстовых последовательностей и экспериментов с компактными языковыми моделями. Название указывает на связь с семейством BabyLM и конфигурацией hard_3gram, однако README не содержит подробностей о точной архитектуре, обучающих данных, поддерживаемых языках, длине контекста, лицензии, результатах оценки или разработчике. Из-за небольшого числа параметров модель может быть удобна для локальных экспериментов и ресурсоограниченных сценариев, но её качество, фактическая языковая специализация и пригодность для прикладных задач требуют самостоятельной проверки. Лицензия и условия использования в предоставленных источниках не определены.

Модель projectbaraat/hindi-math-0.1 — дообученная текстовая генеративная модель семейства Llama, разработанная projectbaraat на основе baarat-hindi-maths. В карточке указано, что обучение выполнялось с использованием Unsloth и библиотеки Hugging Face TRL. Модель предназначена для генерации текста; название и базовая модель указывают на специализацию, связанную с математикой на хинди. Она содержит 6,7 млрд параметров, принимает текст и имеет контекстное окно 4096 токенов. В репозитории размещены веса safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает о результатах оценки качества или конкретных ограничениях применения.

gpjt/jax-with-mha-bias-fw-fwedu-5050 — базовая языковая модель, разработанная Giles Thomas на основе кода Sebastian Raschka. Это GPT-2-подобный причинный трансформер, обученный с нуля на JAX и сохранённый в формате safetensors, совместимом с PyTorch. Модель содержит около 163 млн параметров: 12 слоёв, 12 голов внимания и размерность эмбеддингов 768. Длина контекста — 1 024 токена. Модель обучена на смеси FineWeb-Edu и FineWeb в соотношении 50:50 и предназначена для продолжения текста и экспериментов с небольшой LLM, в том числе для изучения обучения и адаптации GPT-2-подобных моделей. В карточке указана лицензия Apache 2.0. Автор предупреждает, что модель ограничена небольшим размером и обучающими данными: она знает мало фактов и не подходит для сложных задач или серьёзного практического применения. Интерфейс примера использует Transformers и генерацию текста с выборкой.

LEAD_B — дообученная модель BERT для заполнения пропусков в научных текстах по материаловедению. Она основана на pranav-s/MaterialsBERT и использует архитектуру BertForMaskedLM; размер составляет 136,7 млн параметров, контекст — до 512 токенов. Модель принимает текст с маскированными фрагментами и предсказывает подходящие слова или токены. Карточка приводит результаты оценки на неизвестном наборе данных: loss 1,2020 и accuracy 0,7271. Набор данных, подробные сценарии применения и ограничения в README не раскрыты. Модель опубликована в формате safetensors под лицензией other; условия этой лицензии следует проверить перед использованием.