I.2Синтез, понимание и проверка знаний

mergekit-community/mergekit-passthrough-ywynqau — объединённая языковая модель, созданная сообществом с помощью mergekit методом passthrough на основе unsloth/phi-4 и bunnycore/Phi-4-RP-lora_model. Модель построена на архитектуре LlamaForCausalLM и содержит 14,1 млрд параметров; веса представлены в формате safetensors и bf16. Она предназначена для генерации текста и диалоговых сценариев. Контекст составляет до 16 384 токенов; сведения о поддерживаемых языках и конкретных возможностях объединённой модели в карточке не приведены. Лицензия в предоставленных данных не указана.

Модель bkandappan/metafore-maker-qwen-3-500 — дообученная автором bkandappan разговорная языковая модель семейства Qwen3 с плотной архитектурой Qwen3ForCausalLM и 3,7 млрд параметров. Она основана на unsloth/Qwen3-4B-Instruct-2507-unsloth-bnb-4bit и предназначена для генерации текста в диалоговом формате; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст. Для неё заявлен контекст до 262 144 токенов, а язык карточки — английский. README сообщает, что обучение выполнялось с Unsloth и библиотекой TRL. Репозиторий содержит веса Safetensors и распространяется по лицензии Apache-2.0. Специализированные сценарии и дополнительные оценки качества в карточке не описаны.

Sakalti/mine-1.5B — компактная языковая модель Sakalti для генерации текста и диалогов. Она основана на архитектуре Qwen2 и дообучена на Sakalti/SJT-1.5B-Alpha с использованием Unsloth и библиотеки Hugging Face TRL. Размер модели — 1,5 млрд параметров; заявленное контекстное окно — до 131 072 токенов. Модель работает с текстом и поддерживает интерфейс вызова инструментов. Модель подходит для диалоговых приложений и генерации текста на английском языке. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

MM4-3b — разговорная языковая модель на архитектуре Llama, опубликованная автором liminerity. В карточке указано, что модель создана с помощью продолжительного обучения и слияния моделей; в описании метода упоминаются blur-7b и дообученная на наборе Dolphin модель Mistral, но точная цепочка получения MM4-3b не раскрыта. Модель предназначена для генерации текста и диалоговых сценариев. Она содержит 2,7 млрд параметров, использует плотную архитектуру Llama и рассчитана на контекст до 2048 токенов. В качестве обучающих данных указаны GPT4-LLM-Cleaned и Alpaca-GPT4. Карточка приводит результаты оценивания, включая среднее значение 53,22, но не уточняет полный протокол и все условия измерений. Модель распространяется под лицензией Apache-2.0. Ограниченный контекст и отсутствие подробных сведений о процедуре обучения и слияния затрудняют оценку её качества и поведения в конкретных задачах.

Это англоязычная модель Sentence Transformers, созданная дообучением nomic-ai/modernbert-embed-base на 5 822 парах текстов. Она преобразует предложения и абзацы в нормализованные плотные эмбеддинги размерностью 768, сравниваемые с помощью косинусного сходства. Архитектура основана на ModernBERT с усреднением токенов; максимальная длина входа — 8 192 токена. Модель предназначена для семантического поиска и сопоставления текстов, включая поиск по юридическим документам, поиск перефразировок, кластеризацию и классификацию. Matryoshka-обучение позволяет сокращать размерность эмбеддингов: в карточке приведены результаты поиска при усечении векторов до 512, 256, 128 и 64 измерений, с постепенным снижением метрик относительно 768 измерений. Лицензия — Apache-2.0.

zelk12/MT1-Gen5-MM-gemma-2-Av4dS4-9B — слитая с помощью mergekit и метода SLERP языковая модель на архитектуре Gemma 2. В объединении использованы allknowingroger/Gemmaslerp4-10B и lemon07r/Gemma-2-Ataraxy-v4d-9B; итоговая модель содержит 9 млрд параметров и рассчитана на генерацию текста в диалоговом режиме. Модель подходит для создания продолжений текста, историй и ответов в чате. Она принимает текст и выдаёт текст, использует библиотеку Transformers и имеет контекстное окно 8192 токена. В метаданных указана лицензия Gemma; применимые условия использования определяются лицензией базовой модели.

zelk12/MT3-Gen5-gemma-2-9B_v1 — объединённая разговорная языковая модель на архитектуре Gemma 2, созданная с помощью mergekit методом SLERP. В объединение вошли zelk12/MT3-Gen5-MAI-gemma-2-9B_v1 и zelk12/MT3-Gen5-MMGBMU-gemma-2-9B_v1; в конфигурации указана базовая модель zelk12/MT3-Gen5-MAI-gemma-2-9B_v1 и параметр смешивания t=0,25. Модель содержит 9 млрд параметров, использует формат safetensors и библиотеку Transformers, а её контекстное окно составляет 8192 токена. Она предназначена для генерации текста в диалоговом формате, включая ответы на сообщения и ведение беседы. Поддерживаемый язык в предоставленных сведениях не указан. Модель распространяется по лицензии Gemma. Качество и поведение объединённой модели отдельно не описаны; применимость к конкретным задачам следует проверять на собственных данных.

alphaedge-ai/multilingual-e5-large-nep-16384 — текстовая embedding-модель для семантического сходства, поиска, сопоставления запросов и документов и ранжирования. Она основана на intfloat/multilingual-e5-large и распространяется в формате Sentence Transformers; исходная архитектура Multilingual E5 разработана Liang Wang, Nan Yang и соавторами. Модель оптимизирована для непальского языка методом trimming: словарь сокращён до 16 384 токенов, а размер модели уменьшен на 42,73% — до 320 665 600 параметров. Модель предназначена прежде всего для работы с непальскими текстами: построения эмбеддингов запросов и документов, семантического поиска и оценки их сходства. Для сокращения словаря использовались 29 721 текст из датасета lbourdois/fineweb-2-trimming. Главное преимущество — существенно меньший объём памяти при заявленной близкой к исходной модели производительности на непальском языке. Ограничения включают возможное ухудшение качества для других языков, поскольку редко используемые в выбранном языке токены были удалены; максимальная длина контекста и поддерживаемые дополнительные модальности в README не указаны. Модель распространяется по лицензии MIT.

myX-Semantic — модель DatarrX, разработанная Khant Sint Heinn для семантического представления текстов на бирманском языке. Она кодирует предложения и абзацы в плотные векторы размерностью 768 для поиска и сравнения по смыслу, кластеризации и классификации текстов. Модель основана на sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 и дообучена методом дистилляции, чтобы приблизить представления к модели paraphrase-multilingual-mpnet-base-v2; дополнительный линейный слой преобразует исходные 384 измерения в 768. Архитектура — BERT с усреднением токенных представлений, максимальная длина входа — 512 токенов. Модель обучалась на DatarrX/myX-Mega-Corpus и рассчитана прежде всего на текст в Unicode-кодировке бирманского языка. Для измерения сходства автор рекомендует косинусную близость; порог 0,60 приводится как ориентир, который следует проверять на собственных данных. Модель распространяется по лицензии Apache-2.0.

NCP-ArchPreview 8.9B Stage 1 — базовая авторегрессионная языковая модель команды NCP из Shanghai AI Lab и LUMIA Lab Шанхайского университета Цзяотун. Она обучена предсказывать следующий токен и следующий концепт — представление группы из четырёх токенов в обучаемом латентном пространстве. Генерация сохраняет стандартный интерфейс предсказания следующего токена. Архитектура основана на токенной схеме OLMo 3 7B и дополнена модулем концептов, словарём концептов с произведённым квантованием и иерархическими остаточными связями. В модели около 11,1 млрд параметров по метаданным; README указывает приблизительно 8,94 млрд. Контекст — 8192 токена. Модель обучена на Dolma 3 Mix и предназначена для генерации текста и языкового моделирования. В отчёте авторов указаны улучшения на ряде оценок относительно OLMo 3 7B, включая GSM8K и HumanEval; эти результаты относятся к оцениванию Stage 1 и не гарантируют аналогичное качество для каждой задачи. Это базовый выпуск Stage 1, а не адаптер для пользовательской настройки. Для загрузки в Transformers в README показано использование trust_remote_code и bf16. Веса доступны по лицензии Apache 2.0.

Nemotron-3-Embed-8B-Medical — модель эмбеддингов для биомедицинских и клинических текстов на основе NVIDIA Nemotron-3-Embed-8B-BF16. Она предназначена для поиска медицинской литературы и доказательств, извлечения контекста для RAG, проверки научных утверждений и тематической организации исследовательских коллекций. Модель содержит 8 млрд параметров, использует архитектуру Ministral 3 и библиотеку Sentence Transformers; заявленная длина контекста — 262144 токена. К весам базовой модели добавлена низкоранговая голова кластеризации, обученная на внешней литературе PubMed. Она меняет проекцию эмбеддингов для группировки документов по клиническим темам, сохраняя размер выходного вектора 4096 измерений. В README указаны результаты MTEB Medical и улучшения на двух наборах для кластеризации; оценивание проводилось с mteb 2.18.6. Модель поддерживает английский, китайский и польский языки; характеристики для китайского и польского унаследованы от базовой модели. Голова настроена на клинические категории и может хуже подходить для других таксономий. Для кодирования документов в Sentence Transformers следует явно задавать prompt_name="document"; при больших пакетах и длинных текстах возможен высокий расход памяти. Лицензия указана как other, поэтому перед использованием следует проверить условия на странице модели.

Nemotron-Labs-Diffusion-3B-Base — базовая плотная языковая модель семейства Nemotron-Labs-Diffusion, разработанная NVIDIA. Модель содержит 3,2 млрд параметров и поддерживает генерацию текста в авторегрессионном режиме (AR), параллельное декодирование на основе диффузии и self-speculation: модель чередует диффузионное черновое предсказание с авторегрессионной проверкой, используя общий KV-кэш. Модель предназначена для генерации текста и диалоговых сценариев, где важна эффективность декодирования. Переключение режимов выполняется изменением шаблона внимания одной и той же модели; заявленная цель — повысить пропускную способность при разных уровнях параллелизма. Для работы с Transformers требуется версия 5.0 или новее. Максимальная длина контекста составляет 4096 токенов. В README приведены сравнительные показатели ускорения для других размеров семейства и аппаратных платформ; они не являются отдельной оценкой именно версии 3B. В доступных сведениях не названы языки обучения или специализация по предметной области. Модель распространяется по лицензии NVIDIA с особыми условиями (license: other); перед использованием следует ознакомиться с условиями на странице репозитория.

sentence-transformers/nli-bert-large-max-pooling — модель sentence-transformers, обученная командой Sentence Transformers на основе архитектуры BERT. Она преобразует предложения и абзацы в плотные векторы размерности 1024 для поиска семантически близких текстов и кластеризации. Модель поддерживает получение эмбеддингов и оценку сходства предложений; доступна с библиотекой sentence-transformers и в форматах PyTorch, TensorFlow, ONNX и OpenVINO. Максимальная длина контекста — 512 токенов. Лицензия Apache-2.0. Модель помечена авторами как устаревшая: качество её эмбеддингов низкое, поэтому для новых проектов рекомендуется выбрать более современную модель эмбеддингов. Карточка не указывает специальные языковые или предметные ограничения.

itsliupeng/openllama-7b-base — базовая авторегрессионная языковая модель семейства LLaMA, представленная как воспроизведение OpenLLaMA. В README описано обучение на 128 ускорителях H100 в формате bfloat16 на корпусах Falcon, StarCoder и RedPajama, включавших около одного триллиона токенов; модель прошла один цикл обучения. В репозитории указаны 6,6 млрд параметров, контекст до 2048 токенов и библиотека Transformers. Модель предназначена для генерации текста и продолжения текстовых последовательностей. Данные обучения охватывают веб-тексты, код, Википедию, научные статьи, книги и Stack Exchange; метаданные указывают английский язык. README приводит результаты оценивания на нескольких тестах рассуждения и понимания текста. Лицензия — Apache 2.0.

Ornith-1.0-9B-MTP-GGUF — это квантизированная GGUF-сборка модели Ornith-1.0-9B, разработанной deepreinforce-ai, с интегрированной MTP-головой, подготовленной protoLabsAI. Модель предназначена для генерации текста и запуска через llama.cpp, включая ускоренное multi-token speculative decoding без отдельной черновой модели. Голова nextn встроена в основной файл, а также доступна в виде отдельного компонента для подключения к базовой GGUF-модели Ornith-9B. Доступны варианты от BF16 и Q8_0 до низкобитных Q4_K_M, IQ4_XS, IQ3_M и IQ2_M, размером примерно от 3,9 до 18,4 ГБ. Сборка ориентирована на архитектуру Qwen3.5 и поддерживает контекст, задаваемый при запуске; в примерах указан размер 8192 токенов. Для работы требуется llama.cpp версии не ниже b9616 с поддержкой архитектуры qwen35 и режима draft-mtp. На видеокартах Ampere и старше рекомендуется Q4_K_M, а на Blackwell — NVFP4, где MTP может обеспечить наибольший прирост скорости. В приведённых тестах ускорение достигало 1,73 раза для Q8_0 и около 1,38 раза для Q4_K_M, однако результат зависит от квантизации, оборудования и предсказуемости текста. Сильные стороны модели — встроенное speculative decoding, отсутствие необходимости отдельно подключать draft-модель, широкий выбор квантизаций и возможность работы на системах с ограниченной видеопамятью. Ограничения включают зависимость производительности от версии llama.cpp, типа GPU и параметров глубины чернового предсказания; старые версии Ollama могут быть несовместимы. Отдельная MTP-голова не является самостоятельной моделью и не может загружаться напрямую. Распространение выполняется по лицензии MIT.

Phiter — слитая модель семейства Phi-2, опубликованная пользователем Venkman42. Она объединяет rhysjones/phi-2-orange и cognitivecomputations/dolphin-2_6-phi-2 с помощью LazyMergekit и предназначена для генерации текста и диалогов в формате ChatML. Модель построена на архитектуре PhiForCausalLM; родная длина контекста — 2048 токенов. В карточке автор сообщает, что на 27 февраля 2024 года модель лидировала среди дообученных вариантов Phi-2 на рейтинге YALL. Это заявление относится к указанной дате и не гарантирует текущего превосходства или качества на других задачах. Репозиторий содержит веса в формате safetensors; README также ссылается на вариант GGUF. Лицензия — MIT.

QandoraExp-7B-Persona — объединённая плотная языковая модель на архитектуре Qwen2, созданная с помощью mergekit методом passthrough из bunnycore/QandoraExp-7B и bunnycore/Qwen-2.1-7b-Persona-lora_model. Модель содержит 7,1 млрд параметров, распространяется в формате safetensors и поддерживает контекст до 131 072 токенов. Модель предназначена для диалоговой генерации текста и сценариев с вызовом инструментов. В карточке приведены результаты Open LLM Leaderboard, включая IFEval и BBH; эти оценки дают ориентир по отдельным тестам, но не гарантируют качество в конкретном приложении. Языки и специализированные предметные области в доступных данных не обозначены. Лицензия в предоставленных сведениях не указана.

qep/qep-1bit-extreme — однобитная квантованная версия Command A, разработанная Fujitsu совместно с Cohere и Cohere Labs. Модель предназначена для генерации текста и диалогов; поддерживает интерфейс вызова инструментов. В основе — плотная авторегрессионная архитектура Cohere2 с 111,1 млрд параметров и контекстом до 131 072 токенов. В карточке указаны английский и японский языки. Квантование Fujitsu QEP/QQA применяет 1-битное представление к слоям 0–61, а последние два слоя оставляет в FP16. По данным карточки, размер весов сокращён с 207 до 30,2 ГБ, что позволяет запускать модель на одной GPU с достаточной видеопамятью. Квантование может влиять на качество ответов; подробные результаты оценки качества в карточке не приведены. Модель распространяется по лицензии CC-BY-NC-4.0; также требуется соблюдать политику допустимого использования Cohere Labs. Она наследует возможности и ограничения базовой Command A.

cross-encoder/quora-roberta-base — англоязычная модель ранжирования на базе RoBERTa, дообученная с помощью SentenceTransformers на наборе Quora Duplicate Questions. Она принимает пару вопросов и выдаёт оценку от 0 до 1, показывающую, насколько вероятно, что вопросы являются дубликатами. Модель предназначена для поиска повторяющихся вопросов и сопоставления формулировок в системах обработки обращений или поиска. Архитектура — RobertaForSequenceClassification, размер — 151,8 млн параметров, нативная длина контекста — 514 токенов. Репозиторий содержит варианты в форматах PyTorch, safetensors, ONNX, OpenVINO и Flax. Модель рассчитана на английский язык и распространяется по лицензии Apache-2.0. Оценка отражает вероятность дублирования, а не общую семантическую близость: например, вопросы о том, как учить Java и Python, могут получить низкую оценку, хотя их темы похожи.

Qwen1.5-0.5B-Chat-GGUF — чат-модель из семейства Qwen1.5, разработанная командой Qwen. Это beta-версия Qwen2 и авторегрессионная языковая модель на основе decoder-only Transformer, дообученная с использованием supervised fine-tuning и direct preference optimization. Данная версия содержит 0,5 млрд параметров и распространяется в формате GGUF. Модель предназначена для генерации текста и диалоговых сценариев: общения с пользователем, ответов на вопросы и других задач, поддерживаемых чат-моделями. Она обучалась на больших массивах данных, поддерживает несколько естественных языков и программный код; в метаданных README явно указан английский язык. Заявлена поддержка контекста до 32K токенов. Архитектура использует Transformer и активацию SwiGLU, однако для beta-версии временно не применяются group query attention и сочетание sliding window attention с полнослойным вниманием, за исключением отдельных вариантов семейства. Ключевое преимущество модели — небольшой размер, позволяющий запускать её локально с умеренными требованиями к ресурсам, а также наличие нескольких вариантов квантования GGUF: от q2_k до q8_0. Более агрессивное квантование уменьшает требования к памяти, но может снижать качество; README также показывает заметное ухудшение perplexity для q2_k у версии 0,5B. Для запуска рекомендуется использовать llama.cpp. Модель распространяется по лицензии Tongyi Qianwen Research License; конкретные условия следует уточнять в файле лицензии репозитория.

trl-lib/qwen1.5-1.8b-sft — дообученная командой trl-lib языковая модель семейства Qwen2 на базе Qwen/Qwen1.5-1.8B. Модель содержит 1,5 млрд параметров, использует архитектуру Qwen2ForCausalLM и распространяется в формате safetensors. Она предназначена для генерации текста и диалоговых сценариев; контекстное окно — до 32 768 токенов. При дообучении использован датасет HuggingFaceH4/deita-6k-v0-sft. В карточке приведено значение loss 1,0886 на наборе оценки, но подробности оценки и гарантии качества не описаны. Лицензия указана как other, поэтому конкретные условия использования следует проверить в репозитории модели и базовой модели.

Qwen-1.5B-ASVD-Healed — авторегрессионная языковая модель на архитектуре Qwen2, разработанная на основе Qwen/Qwen2.5-1.5B. Она предназначена для генерации текста, диалогов и локального запуска в условиях ограниченных ресурсов, а также для пакетной обработки с меньшими затратами памяти и вычислений. Модель с 1,5 млрд параметров сжата методом Activation-Aware Singular Value Decomposition: в целевых линейных слоях удалено около 72,4 млн параметров. После сжатия веса дополнительно дообучили с помощью LoRA для восстановления связности генерации, затем адаптеры объединили с весами. Указана длина контекста 131 072 токена; доступны файлы Safetensors и GGUF в вариантах F16 и Q4_K_M. Модель работает как стандартная модель Transformers без отдельного декодера. Модель подходит для локального вывода и высокопроизводительной пакетной генерации. По заявлению автора, грамматическая связность после сжатия восстановлена, однако точность редких и тонких фактических ответов может быть ниже, чем у исходной модели. Лицензия — Apache-2.0.

Qwen2-0.5B-Instruct-GGUF — квантованная GGUF-версия малой инструкционной языковой модели Qwen2, разработанной командой Qwen. Модель предназначена для диалогов, генерации и понимания текста, выполнения инструкций, а также задач, связанных с программным кодом, математикой и рассуждениями. Она подходит для локального запуска и развертывания через llama.cpp, включая совместимые с OpenAI API серверы. Модель содержит 0,5 млрд параметров и построена на архитектуре Transformer с активацией SwiGLU, смещениями в QKV внимания и Group Query Attention. Она поддерживает естественные языки и языки программирования; в карточке явно указан английский язык. В репозитории доступны варианты квантования q2_k, q3_k_m, q4_0, q4_k_m, q5_0, q5_k_m, q6_k и q8_0, что позволяет выбирать баланс между размером файла, требованиями к ресурсам и качеством. Модель прошла предварительное обучение, supervised fine-tuning и direct preference optimization. К сильным сторонам относятся небольшой размер, возможность локального использования и поддержка нескольких уровней квантования. Ограничения связаны с малым масштабом модели: по сравнению с более крупными моделями она, вероятно, уступает им в сложности рассуждений, качестве генерации и устойчивости на трудных задачах; конкретные ограничения по длине контекста в README не указаны. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-1.5B-Instruct-GGUF — квантизированная GGUF-версия языковой модели Qwen2.5-1.5B-Instruct, разработанной Qwen и подготовленной квантизацией компанией Second State Inc. Модель предназначена для генерации текста и диалоговых сценариев, включая чат-приложения и запуск в качестве локального сервиса или командного приложения через LlamaEdge. Указан английский язык, а поддерживаемый тип взаимодействия — ChatML. Модель содержит 1,5 млрд параметров и доступна в вариантах квантизации от 2 до 8 бит, а также в формате f16. Размер файлов составляет примерно от 676 МБ до 3,09 ГБ. Для запуска с LlamaEdge рекомендуется контекст до 32 000 токенов; требуется LlamaEdge версии 0.14.3 или выше. Варианты Q4_K_M, Q5_K_M и Q5_K_S отмечены как рекомендуемые благодаря балансу размера и качества, тогда как низкобитные варианты обеспечивают меньший размер ценой существенной потери качества. Модель удобна для локального развертывания на устройствах с ограниченными ресурсами благодаря компактным квантизированным вариантам. Ограничения включают небольшой размер базовой модели, возможное снижение качества при агрессивной квантизации и отсутствие в README сведений о дополнительных модальностях, поддерживаемых языках и результатах оценки. Распространение указано по лицензии Apache-2.0.

RedHatAI/Qwen2.5-VL-3B-Instruct-quantized.w8a8 — квантизированная версия мультимодальной модели Qwen2.5-VL-3B-Instruct, разработанная Neural Magic на базе модели Qwen. Она принимает изображения и текстовые запросы, а генерирует текстовые ответы, поэтому предназначена для визуального вопросно-ответного взаимодействия, анализа изображений, документов, диаграмм и других задач, где требуется совместная обработка визуальной и текстовой информации. Модель имеет архитектуру Qwen2.5-VL-3B-Instruct с примерно 3 миллиардами параметров. Для весов и активаций используется INT8-квантизация по схеме W8A8, что снижает требования к памяти и может повысить эффективность инференса. Версия подготовлена для запуска через vLLM версии 0.5.2 и новее, включая OpenAI-совместимый режим сервинга. В README явно указан английский язык; сведения о полном наборе поддерживаемых языков и максимальной длине контекста не приведены. Сильными сторонами являются мультимодальность, возможность работы с визуальными задачами и оптимизация INT8 для более эффективного развертывания. Ограничения включают потенциальное снижение точности относительно исходной модели из-за квантизации, а также отсутствие в предоставленных данных количественных результатов оценки. Модель распространяется по лицензии Apache-2.0.

Это вариант Qwen3-0.6B, подготовленный Dnotitia для более удобного обучения: веса совпадают с официальным выпуском Qwen3, а шаблон чата вынесен в отдельный файл и дополнен тегами TRL для режима assistant_only_loss. Модель представляет собой плотную причинную языковую модель Qwen3ForCausalLM примерно на 508 млн параметров; она принимает текст и генерирует текст. Метаданные указывают контекст до 40 960 токенов и поддержку диалогового сценария. Модель подходит для генерации текста и диалогов, а также для компактных экспериментов по дообучению с Transformers и TRL. В README для семейства Qwen3 заявлена поддержка более 100 языков и диалектов, включая многоязычные инструкции и перевод; конкретный список для этого варианта не приведён. Лицензия Apache 2.0. README предупреждает, что при некоторых настройках генерации возможны повторы; для их уменьшения предлагается настроить параметры сэмплирования.

Карточка модели crazyman177607/Qwen3-0.6B-Base на Hugging Face совпадает с карточкой Qwen/Qwen3-0.6B-Base, поэтому описание составлено по ней. Qwen3-0.6B-Base — базовая плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это предварительно обученная модель примерно с 508 млн параметров: 28 слоёв, группированное внимание с 16 головами Q и 8 головами KV. Она принимает текст и генерирует продолжение, служит основой для дообучения и адаптации под прикладные задачи. Модель предназначена для языкового моделирования общего назначения, включая генерацию текста, работу с кодом, STEM-темами, логическими рассуждениями и многоязычными данными. Контекстное окно составляет 32 768 токенов. В README указано, что семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; перечень языков, поддерживаемых именно этой базовой версией, отдельно не приведён. Модель распространяется под лицензией Apache-2.0. Это базовая предобученная версия, поэтому для диалогового помощника или специализированного приложения обычно потребуется дообучение либо настройка шаблона запросов; карточка не приводит конкретных гарантий качества для таких сценариев.

unsloth/Qwen3-0.6B-Base-bnb-4bit — это 4-битная версия предварительно обученной причинной языковой модели Qwen3-0.6B-Base, подготовленная Unsloth на базе модели Qwen Team. Она предназначена для генерации текста, языкового моделирования и использования в прикладных сценариях, где важны компактный размер и сниженные требования к памяти, включая локальный запуск и дальнейшую адаптацию. Модель содержит 0,6 млрд параметров, из которых 0,44 млрд не относятся к эмбеддингам, имеет 28 слоёв и использует Grouped Query Attention с 16 головами для запросов и 8 для ключей и значений. Максимальная длина контекста составляет 32 768 токенов. Qwen3 обучалась на 36 трлн токенов на 119 языках, включая данные для программирования, STEM, логического рассуждения, книг, многоязычных и синтетических источников, однако README не уточняет распределение качества по языкам для данной компактной версии. К сильным сторонам относятся компактность, 4-битное представление и поддержка длинного контекста. Это базовая предварительно обученная модель, поэтому она не позиционируется как готовый чат-ассистент и может требовать дополнительного дообучения или специального промптинга для диалоговых задач. Для работы рекомендуется актуальная версия библиотеки transformers; версии ниже 4.51.0 могут вызывать ошибку KeyError: qwen3. Модель распространяется по лицензии Apache-2.0.

MaxSchulten/qwen3-14b-distill-qwen3-0.6b-jsd — дообученная Max Schulten модель на базе Qwen/Qwen3-0.6B, созданная с помощью TRL. Она предназначена для генерации текста и диалогов; в карточке приведён пример ответа на открытый вопрос в формате чата. Модель построена на плотной архитектуре Qwen3ForCausalLM и содержит около 507,9 млн параметров. Она принимает текст и выдаёт текст, поддерживает контекст до 40 960 токенов. Метаданные относят её к многоязычному семейству Qwen3; сведения о конкретных поддерживаемых языках и лицензии в предоставленных данных отсутствуют.

SirSahOl подготовил 16-битную конверсию базовой языковой модели Qwen3-1.7B-Base в формат MLX для локального запуска на Apple Silicon. Это плотная авторегрессионная модель Qwen3ForCausalLM с 1,7 млрд параметров, контекстом 32 768 токенов и весами в формате safetensors; README указывает, что контекст можно расширять до 131 072 токенов с YaRN. Для генерации текста модель подходит для диалогов, локальных дополнений и сценариев с вызовом инструментов. Конверсия рассчитана на ускорение инференса на GPU Apple Silicon через MLX. README оценивает занимаемую память примерно в 4,2 ГБ и рекомендует не менее 8 ГБ объединённой памяти; фактическая скорость зависит от оборудования и длины запроса. Для запуска требуется совместимое окружение MLX и устройство Apple Silicon. Лицензия — Apache-2.0.