I.2Синтез, понимание и проверка знаний

AhıskaAI v0.4 35M IT — небольшая инструктивно дообученная языковая модель независимого исследовательского проекта AhıskaAI. Она предназначена для ответов на вопросы, выполнения инструкций, преобразования текста и простых диалоговых экспериментов на турецком языке. Модель использует плотную архитектуру LlamaForCausalLM, содержит 34 млн параметров по метаданным и имеет контекст до 2048 токенов. Базовая модель обучена с нуля, а затем дообучена на примерах в формате диалогов ChatML; для серии используется собственный BPE-токенизатор с словарём 24 тыс. токенов, ориентированный на турецкий и ахыска-турецкий. Модель рассчитана на исследовательские, образовательные и локальные эксперименты с компактными языковыми моделями, а не на критически важное производственное применение. Из-за малого размера она может ошибаться в фактах, терять контекст, повторяться, выдавать бессвязные ответы и плохо справляться со сложными инструкциями и многошаговыми рассуждениями. Распространяется по лицензии Apache-2.0.

AWA-Mini-Llama-From-Scratch-V3 — авторегрессионная языковая модель на стандартном плотном Transformer, обученная с нуля. В карточке указаны 8 слоёв, размерность эмбеддингов 128, одна голова внимания и контекст длиной до 4096 токенов. Модель предназначена для генерации текста. В метаданных указан индонезийский язык; отдельные сведения о специализации на конкретной предметной области или сценариях применения отсутствуют. Репозиторий содержит веса PyTorch, лицензия — Apache 2.0. Качество, данные обучения и ограничения применения в карточке не описаны.

babylm-2026-mtl-bigckpt — плотная причинная языковая модель в стиле GPT-2 с архитектурой GPT2MTP и предсказанием нескольких токенов. Её разработали для мультиязычного трека конкурса BabyLM 2026 и обучили с нуля на 212,8 млн параметров в рамках бюджета 100 млн англоязычных эквивалентных слов. Контекст модели — 512 токенов; доступны веса в формате safetensors для Transformers. Модель предназначена для исследований малых языковых моделей и data-efficient обучения на английском, нидерландском и китайском языках. В обучающие данные вошли официальные корпуса BabyBabelLM, параллельные тексты Tatoeba и OPUS-100, а также синтетические тексты, созданные с помощью Qwen3.5-4B. По результатам конкурса мультиязычный средний балл составил 50,68. Модель не предназначена для промышленного применения. Результаты получены на наборах разработки, повторное использование оценок при выборе модели создаёт смещение. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование.

dathi103/bert-job-german — модель BERT для заполнения пропусков в немецком тексте. Она дообучена на неизвестном наборе данных на базе bert-base-german-cased и содержит 136,3 млн параметров. Модель принимает текст с маскированным токеном и предсказывает подходящий токен; максимальная длина контекста составляет 512 токенов. Модель может применяться для восстановления пропущенных слов в немецких фразах и изучения контекстных подстановок. В карточке указана метрика Loss 1,8488 на оценочном наборе, однако набор данных и условия оценки не раскрыты, поэтому результат трудно интерпретировать. Лицензия — MIT.

BitCPM-CANN-0.5B-unquantized — контрольная точка семейства BitCPM-CANN от OpenBMB для продолжения предобучения и дообучения. Это причинная языковая модель на архитектуре MiniCPMForCausalLM с 433,8 млн параметров, контекстом до 32 768 токенов и поддержкой китайского и английского языков. Для работы при обучении требуется использовать встроенную логику моделирования с тернарным fake quantization и загрузку с trust_remote_code=True. Модель представляет собой неквантованные обучаемые веса QAT: веса ограничиваются тернарными значениями {-1, 0, 1} с групповым масштабированием, а обучение использует STE. Она предназначена для продолжения предобучения и supervised fine-tuning; README прямо предупреждает, что этот чекпойнт не предназначен для непосредственного инференса. После обучения веса можно преобразовать в псевдоквантованный вариант для инференса. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0.

Chitti-Large-model-for-GPT-v11 — дообученная модель семейства T5, разработанная Dhahlan2000 на базе Dhahlan2000/Chitti-Base-model-for-GPT-v10. Она содержит 38,5 млн параметров, принимает текст и генерирует текст; максимальная длина контекста — 512 токенов. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. Карточка приводит результаты оценки: loss 2,8143, BLEU 5,3746 и среднюю длину генерации 12,2533 токена. Назначение модели, обучающие данные и конкретные сценарии применения в карточке не раскрыты, поэтому по этим результатам нельзя надёжно определить подходящую задачу или качество для практического использования.

QuantFactory/ClinicalGPT-base-zh-GGUF — квантизированная версия модели ClinicalGPT-base-zh, созданная с использованием llama.cpp. Исходная модель разработана medicalai и дообучена для клинических сценариев на разнообразных медицинских данных, включая медицинские записи, специализированные знания и многораундовые диалоги консультаций. Модель предназначена для генерации текста в медицинском домене, в том числе для исследовательских экспериментов с медицинскими вопросами, клиническими записями и диалоговыми консультациями. По идентификатору и исходному названию можно заключить, что она ориентирована на китайский язык; другие языки и поддерживаемые модальности в карточке не указаны. При дообучении использовалась максимальная длина последовательности 1 024 токена, однако точный размер и архитектура модели, а также фактическое ограничение контекста не указаны. К преимуществам относятся специализация на медицинской тематике, обучение на клинических и диалоговых данных и наличие квантизированной сборки в формате GGUF для использования с llama.cpp. Модель предназначена только для исследований и запрещена для коммерческого и клинического применения. Результаты могут содержать ошибки, быть подвержены случайности, неверной интерпретации и смещениям, поэтому требуют независимой проверки. Указанная лицензия — AFL-3.0.

Confucius3-Math — открытая языковая модель на 14 млрд параметров от команды NetEase Youdao AI, предназначенная для решения задач школьной математики K–12. Она построена на архитектуре Qwen2 и дообучена методом обучения с подкреплением на базе DeepSeek-R1-Distill-Qwen-14B; доступна в формате safetensors и запускается через Transformers или vLLM. Контекст модели составляет 131 072 токена. Модель рассчитана на решение и объяснение математических задач с учётом китайской школьной программы и методик. В карточке сообщается о высоких результатах на тестах по математике K–12 и возможности запуска на одной потребительской видеокарте, например RTX 4090D. Лицензия — MIT. Качество в нематематических задачах не проверено. Модель может зацикливаться в рассуждениях и выдавать некорректный результат; также она не проходила отдельную настройку и проверку безопасности.

Модель ToPo-ToPo/cyberagent-open-calm-small-ToPo-ToPo-databricks-dolly-15k-ja-zundamon-full-instruction-tuning создана полным дообучением cyberagent/open-calm-small. Она генерирует ответы на вопросы в формате инструкций; обучение проводилось на наборе databricks-dolly-15k-ja-zundamon, где окончания фраз изменены под персонажа Дзунда-мон, поэтому ответы могут воспроизводить эту манеру речи. Модель построена на архитектуре GPT-NeoX, содержит 153,3 млн параметров и рассчитана на контекст до 2048 токенов. Карточка не сообщает лицензию, поэтому условия использования по ней определить нельзя.

DeepSeek-V2-Lite-Dense-3B-SF-K6 — плотная языковая модель, созданная исследователем jhyuckkim с помощью прореживания и дистилляции разреженной DeepSeek-V2-Lite. Чекпойнт выпущен как артефакт для воспроизведения экспериментов статьи о преобразовании MoE-моделей в плотные; он содержит около 2,5 млрд параметров по метаданным и рассчитан на генерацию текста и диалоги. Модель обучалась дистилляцией на ограниченном бюджете в 0,3 млрд токенов из FineWeb-Edu. Она не проходила настройку инструкций или выравнивание, поэтому не предназначена для использования как готовый ассистент. В карточке приведены результаты на пяти бенчмарках, включая Winogrande, HellaSwag, ARC и MMLU; среднее значение для конфигурации SF, K=6 составляет 40,04. Модель поддерживает контекст до 163 840 токенов, использует архитектуру DeepSeek-V2 для причинной генерации текста и доступна в формате Safetensors через Transformers. Лицензия указана как other; конкретные условия следует сверять с карточкой репозитория.

dilution-209m-16k-nope-2x-s1337 — базовая исследовательская языковая модель на 209 млн параметров из выпуска DilutionAttention. В каждом из 24 слоёв используется dilution attention; позиционные кодировки нет. Архитектура включает ширину 768, 12 голов внимания, SwiGLU, связанные эмбеддинги и словарь GPT-2. Модель обучена на 8,4 млрд токенов FineWeb-Edu с контекстом 16 384 токена. Модель предназначена для генерации текста и изучения оператора внимания, в том числе экспериментов с обработкой длинного контекста. В README приведены результаты проверки извлечения ключевых слов из повторяющегося текста: 0,99 при длине 16 000 токенов и 0,96 при 24 000 токенов. Эта проверка не оценивает рассуждения на длинном контексте. Модель не является ассистентом и не проходила настройку на выполнение инструкций или на безопасность. Лицензия — Apache-2.0.

Disinfo4_mistral-ft-optimized-1218 — экспериментальная языковая модель, созданная disinfo.zone на базе Mistral с помощью QLoRA. Она предназначена для генерации и анализа сложных нарративов в контексте континентальной философии, конспирологических теорий и политического дискурса, а также для имитации характерного для этих тем стиля письма. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Модель ориентирована на творческое письмо и может быть неудобна для обычных вопросов и задач, требующих точного следования инструкциям. В README отмечены склонность к многословию и выдумыванию книг и цитат, поэтому её ответы требуют проверки. Обучающие данные не раскрыты. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

Elysia-Trismegistus-Mistral-7B — экспериментальная диалоговая модель HagalazAI, дообученная на базе teknium/Hermes-Trismegistus-Mistral-7B. Она предназначена для свободных бесед о духовности, философии и сознании, а также для обсуждения эмоций, личностного роста и жизненного опыта. Модель использует архитектуру Mistral с 7,1 млрд параметров, принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Для диалога применяется формат ChatML; автор рекомендует системную инструкцию «You are Elysia».

fpadovani/eus-latn-10mb-ppt-Dp-100mb_seed455 — дообученная с помощью TRL языковая модель на базе goldfish-models/eus_latn_10mb. Это плотная GPT-2 для генерации текста; пример в карточке показывает ответ на вопрос в диалоговом формате. Модель доступна в формате safetensors и предназначена для генерации продолжений и ответов на текстовые запросы. Модель унаследовала контекст длиной 512 токенов от указанной в метаданных конфигурации. В карточке не описаны целевые данные обучения, специализация, поддерживаемые естественные языки или результаты оценки качества. Лицензия в предоставленных данных не указана.

Filtered — Base (3B) — базовая предобученная языковая модель семейства Llama, разработанная dlab-spp и обученная с нуля. Во время предобучения функция потерь маскировалась на документах с пометкой unsafe; модель обучена примерно на 500 млрд токенов из части смеси Olmo 3 Dolma 3. Используется архитектура плотной авторегрессионной модели LlamaForCausalLM, а токенизатор основан на SmolLM2 и имеет словарь из 49 152 токенов. Модель предназначена для исследований выравнивания и безопасности, а также для продолжения предобучения, анализа поведения и последующей тонкой настройки. Это базовая модель без instruction tuning и шаблона чата, поэтому она не предназначена для непосредственного диалогового использования. Контекст составляет 2 048 токенов; заявленный язык карточки — английский. Репозиторий распространяется по лицензии other.

Jaya07/fine_tuned_hindi_model — дообученная модель на базе google/muril-base-cased, опубликованная в формате safetensors и доступная через Transformers. По метаданным это плотная BERT-архитектура BertLMHeadModel с 264,8 млн параметров и контекстом до 512 токенов; заявленная задача — генерация текста. MuRIL разработана Google для NLP-задач на индийских языках и их транслитерациях, а название и карточка этой модели указывают на настройку для хинди. README сообщает значение loss 0,0036 на оценочном наборе, но не описывает набор данных, метод оценки или практические сценарии, поэтому это число не позволяет судить о качестве генерации. Модель распространяется по лицензии Apache-2.0.

Gemmoy-9B-MK.I — экспериментальная разговорная модель на архитектуре Gemma 2, опубликованная Hastagaras. Это первая попытка автора дообучить Gemma 9B Instruct; автор сообщает, что обучающие данные были неупорядочены, поэтому модель предназначена прежде всего для проб и экспериментов с диалоговой генерацией. Модель содержит 9 млрд параметров, принимает текст и генерирует текст, поддерживает контекст до 8192 токенов и работает через библиотеку Transformers. Для обучения использовался формат диалога с ролями user и model. В репозитории доступны веса safetensors; README также сообщает о GGUF-копии, размещённой Backyard AI. Указана лицензия Gemma. Из-за проблем с качеством обучающих данных надёжность ответов и следование инструкциям могут быть непредсказуемыми; карточка не приводит количественных оценок качества.

GPT-2 Nepali WikiMulti — авторегрессионная языковая модель семейства GPT-2, обученная Dehan Al Kautsar с нуля на непальской части корпуса WikiMulti. Это GPT-2-small с 12 слоями, размером скрытого представления 768 и 12 головами внимания; модель и отдельный byte-level BPE-токенизатор обучены без использования предобученных весов или исходного англоязычного словаря GPT-2. Контекст составляет до 1024 токенов, словарь — 43 846 токенов. Модель предназначена для продолжения и генерации текста на непальском языке, в том числе на основе данных Википедии. Она выдаёт непальский текст, но карточка не описывает специализированные задачи вроде диалога, инструкционного следования или работы с инструментами. Валидационная perplexity указана как 4,71. Модель опубликована в формате safetensors и рассчитана на использование через Transformers. Лицензия в предоставленных данных не указана.

SimaFarazi/gpt2-supervised — дообученная на наборе PIQA компактная авторегрессионная языковая модель семейства GPT-2 на базе openai-community/gpt2. Она предназначена для генерации продолжения текста по промпту и может применяться для экспериментов с генерацией ответов на вопросы о повседневном физическом взаимодействии с предметами. Модель принимает текст и выдаёт текст; её контекстное окно составляет 1024 токена. Модель построена на архитектуре GPT2LMHeadModel и распространяется в формате Safetensors. Базовая GPT-2 ориентирована на английский язык, а обучение на PIQA специализирует её на вопросах физического здравого смысла. Лицензия — MIT. Карточка не содержит результатов оценки качества или подробных рекомендаций по применению.

Модель yingfanbot/gsm-cot-llama3b — дообученная методом supervised fine-tuning версия Llama-3.2-3B-Instruct от Meta, созданная yingfanbot. Она обучена на GSM8K с явными цепочками рассуждений и служит базовым чекпойнтом Stage 1 для проекта LOTUS, посвящённого итеративным трансформерам и обучению с параллельной супервизией скрытых представлений. Модель предназначена для генерации текста и пошагового решения задач по математике начального и среднего школьного уровня; её можно загружать через Transformers как причинную языковую модель. Архитектура — плотная LlamaForCausalLM на 3,2 млрд параметров, формат весов — safetensors. Метаданные указывают контекст до 131072 токенов и диалоговые возможности; основной сценарий карточки — математические рассуждения на GSM8K. Мультиязычность унаследована от базовой модели, однако конкретные языки этого дообучения в карточке не перечислены. Модель распространяется по лицензии llama3.2; применяются условия лицензии Meta Llama 3.2. Качество и надёжность рассуждений за пределами задач, похожих на GSM8K, не подтверждены карточкой.

yingfanbot/gsm-lotus-llama3b-nl — экспериментальная модель Yingfanbot для пошагового рассуждения на естественном языке. Она дообучена на базе meta-llama/Llama-3.2-3B-Instruct с архитектурой LOTUS, использующей зацикленные трансформерные блоки: латентные блоки обучаются согласовываться с шагами рассуждения на естественном языке. Модель содержит 3,2 млрд параметров, поддерживает контекст до 131072 токенов и рассчитана на генерацию текста в диалоговом формате. Основной сценарий — решение математических текстовых задач GSM8K с явными шагами рассуждения. В README сообщается точность 68,54% на тестовой выборке GSM8k-Aug; конфигурация использует 6 латентных блоков и 6 итераций зацикливания. Для загрузки весов через from_pretrained требуется отдельный код LOTUS для архитектуры с зацикленными блоками. Модель распространяется по лицензии MIT.

Карточка модели lintw/HealthGPT-L14 на Hugging Face совпадает с карточкой lintw/HealthGPT-M3, поэтому описание составлено по ней. HealthGPT-M3 — модель lintw для унифицированных мультимодальных медицинских задач, дообученная на базе microsoft/Phi-3-mini-4k-instruct. Карточка описывает её как модель для работы с медицинскими данными в разных модальностях, но не уточняет архитектуру, конкретные поддерживаемые модальности или отдельные сценарии применения. В метаданных указаны английский и китайский языки, лицензия MIT и задача any-to-any. Базовая Phi-3-mini-4k-instruct — компактная диалоговая языковая модель с контекстом до 4096 токенов; этот предел относится к базовой модели, а контекст HealthGPT-M3 отдельно не подтверждён. Подробности о качестве и ограничениях в карточке отсутствуют.

Blackroot/Hermes-Kimiko-13B-f16 — языковая модель семейства Llama, представленная как слияние LoRA-адаптеров с равными весами. В метаданных указаны 12,9 млрд параметров, архитектура LlamaForCausalLM и контекст до 4096 токенов; модель создана для генерации текста. Карточка не описывает отдельные сценарии применения, состав слияния или качество модели. В тегах указаны повествование и написание историй на английском языке. Лицензия в предоставленных данных не указана.

Модель projectbaraat/hindi-math-0.1 — дообученная текстовая генеративная модель семейства Llama, разработанная projectbaraat на основе baarat-hindi-maths. В карточке указано, что обучение выполнялось с использованием Unsloth и библиотеки Hugging Face TRL. Модель предназначена для генерации текста; название и базовая модель указывают на специализацию, связанную с математикой на хинди. Она содержит 6,7 млрд параметров, принимает текст и имеет контекстное окно 4096 токенов. В репозитории размещены веса safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает о результатах оценки качества или конкретных ограничениях применения.

ivieai_star_v1.0 — дообученная версия компактной языковой модели HuggingFaceTB/SmolLM2-135M, опубликованная пользователем или организацией GeorgeUwaifo. Модель реализована для Transformers и обучалась на неизвестном наборе данных, поэтому её точная предметная специализация, поддерживаемые языки и рекомендуемые сценарии применения не определены. Известно, что модель имеет размер базовой модели 135 млн параметров и относится к текстовым моделям; сведения о модальностях, архитектурных деталях и размере контекстного окна в карточке отсутствуют. Дообучение проводилось в течение пяти эпох с learning rate 5e-05, эффективным размером батча 16 и линейным планировщиком скорости обучения. Итоговая validation loss составила 2,1396, однако результаты прикладных тестов и сравнение с другими моделями не приведены. Модель может быть полезна для экспериментов с небольшими дообученными языковыми моделями, но качество на конкретных задачах заранее оценить нельзя из-за отсутствия информации о тренировочных данных и назначении. Неизвестны ограничения, устойчивость, фактические языки и сценарии использования; перед применением необходимы собственные тесты. Лицензия — Apache-2.0.

Это дообученная модель генерации текста на архитектуре GPT-2, опубликованная fpadovani. Она создана на основе fpadovani/ppt-wc-uniform-oldlex-jpn-100mb_seed10 и обучена с помощью TRL. Модель предназначена для продолжения текста и ответов на текстовые запросы; карточка показывает пример генерации ответа на вопрос. Модель принимает текст и выдаёт сгенерированный текст. Длина контекста — 512 токенов. Весовые файлы опубликованы в формате safetensors. README не описывает качество, датасет или целевые сценарии обучения подробно. Лицензия в предоставленных данных не указана.

JugnuLM-110M-R4a — экспериментальная базовая языковая модель, разработанная altslate. Это плотная авторегрессионная модель на 109,7 млн параметров: 23 слоя шириной 576, GQA, RoPE, SwiGLU, RMSNorm и QK-Norm; она использует архитектуру Qwen3 с пользовательским механизмом value residuals и токенизатор SmolLM2 на 49 152 токена. Модель обучена с нуля на английских данных FineWeb-Edu объёмом около 8,4 млрд токенов, а затем в ходе обучения применялась дистилляция распределения следующих токенов от SmolLM2-1.7B. Контекст составляет 2048 токенов. Модель предназначена для генерации английского текста и исследовательских экспериментов с дистилляцией и малыми языковыми моделями; это базовая модель, а не чат-ассистент с инструкционной настройкой. В опубликованной оценке она показала лучший среди вариантов JugnuLM результат ARC-Easy — 56,99, но уступила R2 по perplexity на WikiText-2: 2,178 против 1,932. Возможны повторы. Для загрузки требуется trust_remote_code=True, поскольку стандартная загрузка через Qwen3 может отбросить пользовательский механизм value residuals. Лицензия — Apache-2.0.

Kanha-AI выпустила экспериментальный чекпойнт Kanha MiniCPM5 2B Grounded Conservative 3EP — дообученную с помощью QLoRA модель openbmb/MiniCPM5-2B для ответов на вопросы по сайтам Kanha с опорой на найденные источники. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 2,2 млрд параметров и принимает текст. Метаданные указывают контекстное окно до 131 072 токенов; для запуска используется Transformers, веса опубликованы в формате safetensors. Модель предназначена для контролируемых экспериментов по обучению и оценке ответов на вопросы по сайтам. На вход ей необходимо передавать извлечённый контекст вместе с вопросом; вопросы без такого контекста выходят за рамки обучения и оценки. В проверке с предоставленным исходным контекстом полнота дат и URL составила 1,0, полнота чисел — около 0,95, но доля прохождения проверки поведения с опорой на источники — около 0,08. Качество поиска источников отдельно не оценивалось, поэтому эти результаты не подтверждают надёжность готовой системы RAG. Карточка указывает исследовательское назначение модели и предупреждает о возможных ошибочных, неполных или устаревших ответах и запоминании обучающих данных. Перед пользовательским применением требуется проверка результатов и целевого окружения запуска. Лицензия в предоставленных данных не указана.

projectbaraat/kannada-math-0.1 — дообученная плотная языковая модель семейства Llama, разработанная projectbaraat на основе baarat-kannada-maths. Она предназначена для генерации текста; карточка указывает математическую тематику модели, но не описывает конкретные задачи или результаты обучения. Модель содержит 6,7 млрд параметров, принимает текст и имеет контекст длиной до 4096 токенов. В карточке отмечено, что обучение выполнялось с использованием Unsloth и библиотеки TRL. Модель распространяется в формате safetensors по лицензии Apache-2.0.

ThuyNT03/KLTN_COQE_viT5_total_PASOL_v4 — дообученная модель VietAI/vit5-large на архитектуре T5 с 389,3 млн параметров. Карточка не раскрывает назначение дообучения, датасет или результаты оценки, поэтому конкретные возможности модели установить нельзя. Базовая модель предназначена для генерации текста на вьетнамском языке, в том числе для ответов на вопросы, суммаризации и перевода; эти задачи нельзя уверенно приписать данному дообучению. Репозиторий содержит веса в формате safetensors, лицензия — MIT.