I.2Синтез, понимание и проверка знаний

mergekit-community/mergekit-linear-pcuhyqy — плотная языковая модель на архитектуре Qwen2, созданная сообществом с помощью линейного слияния моделей в mergekit. В слияние вошли DeepSeek-R1-Distill-Qwen-32B и mergekit-community/mergekit-model_stock-czbocwb; итоговая модель содержит 32 млрд параметров и распространяется в формате safetensors. Модель предназначена для генерации текста и диалоговых сценариев. Базовая модель DeepSeek-R1-Distill-Qwen-32B ориентирована на рассуждения, математику и программирование; в метаданных также отмечен интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена. Данные не описывают отдельные ограничения полученного слияния или условия лицензии, поэтому их нельзя уточнить.

RedHatAI/Meta-Llama-3.1-8B-Instruct-quantized.w4a16 — это квантизированная версия Meta-Llama-3.1-8B-Instruct, разработанная Neural Magic на базе модели Meta. Модель предназначена для генерации текста и диалоговых сценариев в формате ассистента, включая коммерческое и исследовательское применение на английском языке. Она принимает текст на вход и генерирует текст на выходе, поддерживает чатовый режим и может использоваться с backend vLLM, включая OpenAI-совместимую службу. Модель имеет архитектуру LlamaForCausalLM и содержит 8 миллиардов параметров в исходной версии. Веса линейных операторов трансформерных блоков квантизированы в формат INT4 с симметричным покомпонентным масштабированием для групп по 128 параметров. По сравнению с представлением FP16 это примерно на 75% снижает размер модели на диске и требования к памяти GPU. Квантизация выполнена с использованием AutoGPTQ и калибровочного набора Neural Magic. В README приведены результаты восстановления качества относительно неквантизированной версии: 93,0% для Arena-Hard, 98,9% для OpenLLM v1, 96,1% для OpenLLM v2, 99,7% для HumanEval pass@1 и 97,4% для HumanEval+ pass@1. К сильным сторонам относятся уменьшенные требования к памяти и возможность эффективного развертывания при сохранении большей части качества исходной instruct-модели. Ограничением является заявленная область применения преимущественно на английском языке; использование на других языках указано как выходящее за рамки назначения, несмотря на наличие нескольких языков в метаданных карточки. Лицензия — Llama3.1; также необходимо соблюдать ограничения исходной лицензии Meta и применимые законы и нормы.

openbmb/MiniCPM-V-4_5-gguf — квантизированная версия мультимодальной модели MiniCPM-V 4.5, разработанной OpenBMB. Модель предназначена для понимания одиночных и нескольких изображений, видео, OCR, разбора документов и визуально-языковых диалогов, включая локальное использование на компьютерах и мобильных устройствах. Модель построена на Qwen3-8B и SigLIP2-400M и содержит около 8 млрд параметров. Она поддерживает мультиязычные сценарии более чем на 30 языках, обработку изображений высокого разрешения до 1,8 млн пикселей при любом соотношении сторон, а также видео с высокой частотой кадров и длинным контекстом. Унифицированный 3D-ресэмплер обеспечивает сжатие видеотокенов до 96 раз. Доступны управляемые режимы быстрого и глубокого рассуждения. Формат GGUF ориентирован на эффективный локальный инференс через llama.cpp и совместимые инструменты. Сильные стороны модели — высокие заявленные результаты в задачах vision-language, OCR и разбора PDF-документов, эффективная обработка видео, экономное использование визуальных токенов и возможность запуска на локальных устройствах. Ограничения включают зависимость качества от используемой квантизации, аппаратных ресурсов и программной совместимости; конкретные требования к памяти и поддерживаемые варианты квантизации в предоставленных данных не указаны. В README лицензия модели не указана.

RedHatAI/Mistral-7B-Instruct-v0.3-FP8 — квантизированная версия текстовой instruction-модели Mistral-7B-Instruct-v0.3, разработанная Neural Magic. Модель принимает текст и генерирует текст, предназначена прежде всего для англоязычного ассистентского диалога, включая чат-ботов и исследовательские или коммерческие приложения. Дата выпуска — 26 июня 2024 года, версия 1.0. Модель использует архитектуру Mistral-7B-Instruct-v0.3 и квантизацию весов и активаций в формат FP8. Квантизации подвергнуты линейные операторы внутри transformer-блоков с применением симметричного масштабирования по тензору. Это примерно вдвое уменьшает число битов на параметр, размер модели на диске и требования к памяти GPU по сравнению с 16-битным представлением. Модель подготовлена для инференса через vLLM версии 0.5.0 и новее; в README также указан контекст длиной 4096 токенов для процедуры оценки и примеров использования. По данным OpenLLM Leaderboard v1, средний результат FP8-версии составляет 65,85 против 66,33 у неквантизированной модели, что указывает на небольшую потерю качества при заметном снижении требований к ресурсам. Ограничения включают ориентацию на английский язык: использование на других языках указано как выходящее за заявленную область применения. Условия лицензии — Apache 2.0; использование должно соответствовать применимым законам и нормативным требованиям.

IntervitensInc/Mistral-Nemo-Base-2407-chatml — вариант базовой языковой модели Mistral Nemo с добавленными токенами ChatML для дообучения. Исходную модель Mistral Nemo 12B совместно разработали Mistral AI и NVIDIA. Это плотный трансформер MistralForCausalLM на 12,1 млрд параметров; в исходной карточке указано окно контекста 128 тыс. токенов. Метаданные этой копии сообщают native context в 1 024 000 токенов, однако README не подтверждает такое увеличение контекста. Модель предназначена для генерации текста и дальнейшей настройки под диалоговые сценарии. Она обучалась на многоязычных данных и данных программирования; заявлена поддержка английского, французского, немецкого, испанского, итальянского, португальского, русского, китайского и японского языков. Базовая модель не имеет механизмов модерации, поэтому ответы могут требовать дополнительной проверки и фильтрации. Файлы представлены в формате safetensors, лицензия — Apache 2.0.

Mistral-NeMo-Minitron-8B-Base — базовая языковая модель NVIDIA для генерации текста и адаптации под различные задачи обработки естественного языка. Это плотный авторегрессионный Transformer-декодер семейства Mistral-NeMo с 7,9 млрд параметров, 40 слоями, Grouped-Query Attention и RoPE. Модель получена из Mistral-NeMo 12B pruning-ом размерностей эмбеддингов и промежуточного слоя MLP, а затем дообучена дистилляцией на 380 млрд токенов. Модель принимает и генерирует текст; заявленная длина контекста — 8192 токена. Обучающие данные включают английский и многоязычный текст, а также код, охватывая веб-страницы, диалоги, статьи и другие материалы. Модель подходит как основа для генерации и продолжения текста, ответов на вопросы и программирования. Это базовая, а не специализированная чат-модель, поэтому для конкретных сценариев может потребоваться адаптация. По данным разработчика, обучение завершилось в августе 2024 года, а срез предобучающих данных — июнь 2023 года. Модель может воспроизводить токсичный язык и социальные предубеждения, а также выдавать неточные, неполные или избыточные ответы. В метаданных указана лицензия «other»; конкретные условия использования следует проверять в лицензии NVIDIA.

ehristoforu/mllama-3.1-8b-instruct — языковая модель, созданная объединением нескольких моделей семейства Llama 3.1 с помощью mergekit и метода TIES. В качестве основы использована unsloth/Meta-Llama-3.1-8B-Instruct, а в объединение вошли Hermes 3, Skywork-o1, Dolphin, LLaMA-O1 и SuperNova Lite. Модель имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекст до 131 072 токенов. Модель предназначена для диалогов и генерации текста по инструкциям; в метаданных также заявлен интерфейс вызова инструментов. Её можно применять для ответов на вопросы, рассуждений и генерации кода, однако README не приводит отдельных оценок качества или рекомендаций по использованию. Карточка указывает формат safetensors и библиотеку Transformers. Лицензия в предоставленных данных не указана.

tomaarsen опубликовал модель Sentence Transformers, дообученную на парах запросов и ответов из набора Natural Questions. Она использует трансформер MPNet на базе microsoft/mpnet-base с усреднением токенных представлений и преобразует текст в плотные векторы размерности 768 для сравнения по косинусному сходству. Максимальная длина входной последовательности — 512 токенов; модель рассчитана на английский язык. Модель подходит для семантического поиска, сопоставления вопросов с ответами, оценки смыслового сходства, поиска перефразировок, кластеризации и классификации текстов. На Natural Questions она обучалась на 100 231 примере; в README приведены метрики поиска на тестовой выборке. Для работы с длинными текстами их потребуется разбивать на фрагменты. Лицензия — Apache-2.0.

Tomaarsen/mpnet-base-nli-matryoshka — модель эмбеддингов предложений на архитектуре MPNet, опубликованная tomaarsen как модель Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для семантического поиска, сравнения сходства и кластеризации текстов. Обучение с MatryoshkaLoss позволяет использовать представления нескольких размерностей: 768, 512, 256, 128 и 64. Модель принимает текст и выдаёт векторные представления. Контекст составляет до 514 токенов; репозиторий содержит форматы safetensors, ONNX и OpenVINO. Данных о поддерживаемых естественных языках и лицензии в использованных источниках нет.

bigscience/mt0-xl — мультиязычная модель BigScience для выполнения инструкций на естественном языке. Она основана на архитектуре encoder-decoder mT5-XL и дообучена на смеси межъязыковых задач xP3, чтобы обобщать инструкции на ранее не встречавшиеся задачи и языки. Модель содержит 1,9 млрд параметров и предназначена для генерации текста по запросу, включая перевод, ответы на вопросы, классификацию по текстовой инструкции и создание историй. Модель принимает текстовые запросы и выдаёт текст. В карточке указана поддержка десятков языков; примеры охватывают перевод с французского, запросы на вьетнамском и испанском и ответ на телугу. Опубликована в форматах PyTorch и safetensors, лицензия — Apache-2.0. Качество зависит от формулировки запроса: рекомендуется ясно обозначать границы входного текста и задавать нужный язык ответа. Модель обучена на мультиязычных данных, но её результаты на разных языках и задачах могут различаться.

flax-sentence-embeddings/multi-qa_v1-mpnet-cls_dot — модель SentenceTransformers для построения векторных представлений предложений, разработанная в рамках проекта Hugging Face Community Week. Она основана на microsoft/mpnet-base и дообучена сиамской сетью с контрастивной целью на парах вопросов и ответов из Stack Exchange, MSMARCO, Natural Questions и других наборов данных. Для представления предложения используется выход CLS, а сходство при обучении вычислялось скалярным произведением. Модель предназначена для кодирования текста в векторы, сохраняющие семантическую информацию, прежде всего для поисковых систем и поиска ответов по смыслу. Полученные эмбеддинги также подходят для сравнения сходства предложений и кластеризации. Архитектура — MPNet; в репозитории указано 136,7 млн параметров и контекст до 514 токенов. Обучающие последовательности ограничивались 128 токенами. Модель принимает текст и выдаёт векторы; обучение на вопросно-ответных парах делает её особенно подходящей для поиска по вопросам и ответам. Лицензия в предоставленных данных не указана.

Yunika/muril-base-sentence-transformer — модель на базе BERT, представленная как Sentence Transformers для получения плотных векторных представлений предложений и абзацев размерностью 768. Её обучили с TripletLoss на датасете embedding-data/QQP_triplets; модель подходит для семантического поиска, сравнения сходства текстов и кластеризации. Репозиторий содержит веса в формате safetensors, использовать модель можно через библиотеку sentence-transformers или Transformers с подходящей операцией pooling. Модель принимает текст и выдаёт эмбеддинги. Максимальная длина контекста — 512 токенов, всего в модели около 264,8 млн параметров. Лицензия в предоставленных данных не указана.

api19750904/newspainclass-opt — модель Sentence-Transformers на архитектуре RoBERTa, разработчик которой не назван в карточке. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска семантически близких текстов, кластеризации и сравнения предложений. Модель содержит около 151,8 млн параметров и принимает текст с контекстным окном 514 токенов. Карточка указывает, что модель обучалась с CosineSimilarityLoss. В репозитории представлены веса PyTorch; метаданные отмечают поддержку эмбеддингов. Лицензия в предоставленных данных не указана.

thelamapi/next2-air-i1-GGUF — облегчённая мультимодальная языковая модель Next2-Air, разработанная компанией Lamapi в Турции. Она основана на архитектуре Qwen 3.5-2B и содержит около 2 миллиардов параметров. Модель предназначена для локального запуска на обычных компьютерах, MacBook и периферийных устройствах, где важны высокая скорость вывода и умеренное потребление ресурсов. Модель поддерживает работу с текстом и изображениями: генерацию и анализ текста, визуальное понимание, распознавание текста в документах (OCR), ответы на вопросы по изображениям и обработку визуального контекста. Заявлены режим рассуждений с использованием разметки <think> и контекстное окно до 262 144 токенов, что позволяет работать с длинными документами, PDF-файлами и большими фрагментами кода. В метаданных указаны турецкий, английский, немецкий, испанский, французский, русский, китайский, японский и корейский языки; отдельно подчёркивается оптимизация для турецкого и английского. Next2-Air дообучалась с использованием SFT и DPO на наборах данных для инструкционного следования, рассуждений, работы с текстом и мультимодальных сценариев. К сильным сторонам относятся небольшой размер, заявленная высокая скорость, локальное выполнение, мультимодальность и длинный контекст. Ограничением является существенно меньший масштаб по сравнению с крупными моделями, поэтому качество на сложных задачах может быть ниже; README не приводит подробного анализа отказов или ограничений. Указанные результаты бенчмарков следует рассматривать как заявления разработчика. Модель распространяется по лицензии Apache 2.0.

mlx-community/nomicai-modernbert-embed-base-4bit — англоязычная модель эмбеддингов на базе ModernBERT, опубликованная mlx-community. Репозиторий содержит версию для MLX, преобразованную из nomic-ai/modernbert-embed-base; модель предназначена для получения векторных представлений текста и оценки сходства предложений. Она основана на архитектуре ModernBERT, имеет 149 млн параметров и контекст до 8192 токенов. README предлагает использовать её через библиотеку mlx-embeddings. Модель подходит для семантического поиска, сопоставления предложений и построения систем поиска по текстам. Указана лицензия Apache-2.0. README подтверждает преобразование в формат MLX, тогда как метаданные связывают модель с answerdotai/ModernBERT-base и nomic-ai/modernbert-embed-unsupervised через merge и finetune; точная последовательность происхождения в источниках не согласована.

Noro-Hermes-7B — объединённая диалоговая языковая модель на основе Mistral, созданная ThomasComics с помощью LazyMergekit. Она объединяет NeverSleep/Noromaid-7B-0.4-DPO и NousResearch/Nous-Hermes-2-Mistral-7B-DPO методом slerp; в конфигурации указана точность bfloat16. Модель содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста по запросам и диалогового общения. Её можно использовать для ответов на вопросы, ведения беседы и подготовки текстовых черновиков. Данных о лицензии, целевых языках и специальных ограничениях в предоставленной карточке нет.

nvidia_AceInstruct-72B-GGUF — это GGUF-квантизованная версия instruct-модели AceInstruct-72B, разработанной NVIDIA и подготовленной пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста в диалоговом и инструкционном формате, включая задачи общего назначения, программирование и математику. В README указана поддержка английского языка. Модель имеет размер 72B параметров; конкретная архитектура и максимальная длина контекста не указаны. Доступны варианты квантизации от Q8_0 до Q2_K и IQ-квантов с размером файлов примерно от 29 до 77 ГБ. Более высокие уровни квантизации обеспечивают лучшее сохранение качества, но требуют больше оперативной памяти; варианты Q4_K_M, Q5_K_M и Q6_K отмечены как рекомендуемые. Формат рассчитан на запуск через llama.cpp, LM Studio и другие совместимые проекты. К сильным сторонам относятся широкий выбор вариантов квантизации и возможность локального запуска, а также специализация исходной модели на инструкциях, коде и математике. Ограничениями являются высокие требования к памяти даже у компактных вариантов, снижение качества при низкой квантизации и отсутствие в предоставленных данных подробных результатов тестирования, сведений о мультимодальности и контекстном окне. Распространение указано по лицензии CC BY-NC-4.0, которая ограничивает коммерческое использование.

Это 5-битная квантованная версия языковой модели NVIDIA Nemotron 3 Nano 30B A3B, подготовленная командой LM Studio с помощью mlx_lm для работы на компьютерах Apple Silicon. Базовая модель создана NVIDIA; карточка представляет её как разговорную модель с интерфейсом вызова инструментов. Модель предназначена для генерации текста в диалогах, рассуждений, программирования и агентных приложений. Метаданные указывают поддержку английского, испанского, французского, немецкого, японского и итальянского языков. Квантование уменьшает точность весов до 5 бит и ориентировано на запуск через MLX. Репозиторий распространяется по лицензии, обозначенной как other; конкретные условия следует сверить с файлами лицензии модели. Как и другие генеративные модели, она может выдавать неточную, вредную или неподходящую информацию.

Это 8-битная версия модели NVIDIA Nemotron 3 Nano 30B A3B, подготовленная командой LM Studio Community с помощью mlx_lm для Apple Silicon. В основе лежит NVIDIA-Nemotron-3-Nano-30B-A3B-BF16 от NVIDIA; MLX-квантизация уменьшает точность весов для запуска на компьютерах Apple с кремниевыми чипами. По метаданным, модель предназначена для генерации текста и диалогов и поддерживает интерфейс вызова инструментов. Модель подходит для ответов на вопросы, помощи с программированием и математическими задачами, а также для агентных приложений, использующих инструменты. Карточка базовой модели указывает поддержку английского, испанского, французского, немецкого, японского и итальянского языков. Лицензия репозитория обозначена как other, поэтому перед использованием следует проверить её условия. Как и другие генеративные модели, она может выдавать неточные или неподходящие ответы; README также предупреждает об отсутствии гарантий качества.

Occiglot-7B-FR-EN-Instruct — генеративная языковая модель с 7 млрд параметров, разработанная исследовательским коллективом Occiglot при поддержке подразделений DFKI SAINT и SLT. Это instruct-версия модели occiglot-7b-fr-en, предназначенная для диалогового взаимодействия и выполнения инструкций на английском и французском языках, а также для работы с кодом. Модель доступна в формате GGUF и распространяется по лицензии Apache 2.0. Модель построена на архитектуре авторегрессионного decoder-only Transformer, а её токенизатор унаследован от Mistral-7B-v0.1. Для дообучения использовались 160 млн дополнительных токенов мультиязычных и кодовых инструкций, включая англоязычные и франкоязычные наборы Open-Hermes-2B, Bactrian-X, AI-Society Translated, GT-Dorimiti, OASST-2 и Aya-Dataset. Обучение выполнялось с контекстом 8192 токена и шаблоном диалогов ChatML. Сильная сторона модели — специализация на английском и французском языках при сохранении возможностей генерации кода и следования инструкциям. Она может применяться для чат-ботов, ответов на вопросы, генерации и преобразования текста, а также вспомогательных задач программирования. При этом проект позиционируется как открытое исследование, а README предупреждает, что модель не проходила safety alignment и может генерировать проблемный или небезопасный контент. Результаты оценки следует интерпретировать с осторожностью, поскольку часть неанглоязычных тестов основана на машинном переводе и англоязычных запросах.

pentest-orca-mw01 — компактная модель эмбеддингов предложений на базе BertModel, опубликованная jasonecktest01. Это шестислойный BERT с размером скрытого представления 256 и четырьмя головами внимания; модель дообучена на стандартных корпусах для вывода по текстовым парам и формирует эмбеддинги размерности 256. Модель предназначена для семантического поиска, извлечения релевантных фрагментов для RAG и классификации на основе представлений текста. Её можно использовать для кодирования предложений и сравнения их семантической близости. Репозиторий содержит веса PyTorch и использует библиотеку sentence-transformers. Лицензия — Apache-2.0.

Это квантизированная 4-битная версия инструктивной модели Phi-3.5-mini-instruct, опубликованная пользователем tbhrc и преобразованная в формат MLX из microsoft/Phi-3.5-mini-instruct с помощью mlx-lm 0.17.0. Модель построена на плотной архитектуре Phi-3 и содержит 3,7 млрд параметров; она предназначена для диалоговой генерации текста и помощи с кодом. Метаданные указывают на многоязычную поддержку и контекст длиной 4096 токенов. Модель подходит для локальных диалоговых приложений и генерации кода. Репозиторий использует формат safetensors, а карточка указывает лицензию MIT. Сведения о конкретных ограничениях качества или языковых сценариях в карточке не приведены.

Mungert/Phi-4-mini-instruct.gguf — GGUF-версия модели Phi-4-mini-instruct, разработанной Microsoft и распространяемой на основе этой модели. Это компактная открытая instruction-tuned модель для генерации текста, диалогов, следования инструкциям, рассуждений, генерации кода и function calling. Модель ориентирована на локальный запуск с ограниченными ресурсами и низкой задержкой, а также поддерживает сценарии чат-комплитов. Модель обучалась на синтетических данных и отфильтрованных общедоступных веб-источниках; для улучшения следования инструкциям и безопасности применялись supervised fine-tuning и direct preference optimization. Заявлена поддержка контекста до 128K токенов и мультиязычных сценариев, однако конкретный перечень языков в README не указан. Для диалогов используется специальный chat format, а для вызова инструментов предусмотрен структурированный формат с описанием функций в JSON. Преимуществами являются открытая доступность, большой контекст, поддержка reasoning, генерации кода и function calling, а также наличие GGUF-формата, подходящего для локального inference. Ограничения зависят от аппаратной конфигурации и выбранной квантизации; в описанном CPU-сценарии на шести потоках загрузка занимала около 15 секунд, а inference был медленным и обрабатывал только один пользовательский запрос одновременно. Модель распространяется по лицензии MIT.

Это многоязычная модель эмбеддингов Sentence Transformer, созданная дообучением CodeFuse AI модели codefuse-ai/F2LLM-v2-0.6B на наборе данных json. Она предназначена для семантического поиска и сравнения текстов: преобразует предложения и абзацы в плотные векторы размерностью 1024, которые можно сопоставлять по косинусному сходству. Также подходит для поиска перефразировок, кластеризации и классификации на основе эмбеддингов. Модель использует архитектуру Qwen3 с извлечением признаков, pooling по последнему токену и нормализацией векторов. В README указана максимальная длина последовательности 512 токенов; метаданные сообщают о нативном контексте базовой архитектуры до 40960 токенов. Это текстовая модель с многоязычной поддержкой, распространяемая по лицензии Apache-2.0. В README приведены высокие метрики поиска на наборе eval_pipe, однако обучающий набор содержит всего 160 примеров, поэтому эти результаты не гарантируют качество на других данных. Для корректной работы с задачами поиска README приводит отдельный шаблон запроса с инструкцией; максимальная длина последовательности ограничивает размер обрабатываемого текста.

kwondw/quora-mnrl — модель Sentence Transformer, дообученная автором на наборе quora-duplicates от sentence-transformers на базе sentence-transformers/stsb-distilbert-base. Она кодирует английские предложения и абзацы в плотные векторы размерности 768 для семантического поиска и сравнения сходства. Архитектура состоит из DistilBERT и mean pooling; сходство векторов рекомендуется оценивать косинусной мерой. Метаданные указывают контекст до 512 токенов, а карточка модели — максимальную длину последовательности 128 токенов. Модель подходит для поиска похожих вопросов и документов, извлечения релевантных текстов и обнаружения дубликатов. Её обучение на парах Quora ориентировано на сопоставление вопросов с близким смыслом, поэтому перенос качества на другие типы текстов может различаться. Лицензия в предоставленных данных не указана.

Карточка модели vy22215/Qwen2.5-1.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

Это набор GGUF-квантизаций модели Qwen2.5-1.5B-Instruct, опубликованный пользователем duyntnet и основанный на модели Qwen от Alibaba Cloud. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на инструкции, создание длинных текстов, работу со структурированными данными и JSON, программирование и математические задачи. Запуск поддерживается через llama.cpp, KoboldCPP, text-generation-webui и Ollama. Модель представляет собой causal language model с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm, смещениями в Attention QKV и связанными эмбеддингами слов. Она содержит 1,54 млрд параметров, 28 слоёв, 12 attention heads для Q и 2 для KV с GQA. Заявлена длина контекста до 32 768 токенов и генерация до 8192 токенов. Поддерживается более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. К сильным сторонам относятся небольшой размер, возможность локального запуска в формате GGUF, улучшенное следование инструкциям, работа с длинными текстами и структурированными ответами, а также многоязычность. Ограничения связаны с относительно небольшим масштабом в 1,5 млрд параметров и с тем, что README не содержит результатов бенчмарков или подробностей конкретных квантизаций. Лицензия указана как other, без уточнения условий использования, поэтому их следует проверять в исходной карточке и связанных материалах Qwen.

Модель unsloth/Qwen2.5-32B — версия базовой языковой модели Qwen2.5, опубликованная Unsloth и основанная на Qwen/Qwen2.5-32B. Это плотная причинная языковая модель с архитектурой Qwen2ForCausalLM, 32 млрд параметров и контекстом до 131 072 токенов; файлы представлены в формате safetensors и модель работает через Transformers. В карточке также приведены сведения об архитектуре семейства: RoPE, SwiGLU, RMSNorm и групповое внимание с 40 головами Q и 8 головами KV. Модель предназначена для генерации текста и дальнейшего дообучения. Базовый чекпойнт поддерживает многоязычную генерацию, включая русский, английский, китайский и другие языки; семейство Qwen2.5 также описано как способное работать с кодом, математическими задачами, длинными текстами и структурированными данными. README отдельно предупреждает, что базовая модель не рекомендуется для диалогов без последующего обучения, например SFT или RLHF. Лицензия — Apache-2.0.

unsloth/Qwen2.5-7B — базовая предобученная языковая модель Qwen2.5, представленная в репозитории Unsloth и основанная на Qwen/Qwen2.5-7B. Это плотная авторегрессионная модель семейства Qwen2 с архитектурой Qwen2ForCausalLM и 7,1 млрд параметров; веса доступны в формате safetensors. Модель предназначена для генерации и продолжения текста, а также для дальнейшего дообучения под конкретные задачи. Модель поддерживает более 29 языков, включая китайский, английский, русский, французский, испанский, немецкий, японский и арабский. Контекст составляет 131 072 токена. Среди описанных возможностей семейства — генерация длинного текста, работа с кодом, математическими задачами, таблицами и структурированными ответами, включая JSON. Это базовая модель без инструкционной настройки, поэтому в карточке не рекомендуется использовать её напрямую для диалогов; для чат-сценариев её следует дообучить. Репозиторий распространяется по лицензии Apache-2.0.

Qwen2.5-7B-Instruct-abliterated-v2 — доработанная методом abliteration версия инструктивной языковой модели Qwen2.5-7B-Instruct, созданная huihui-ai. Это плотная авторегрессионная модель на 7,1 млрд параметров для диалогов и генерации текста; она поддерживает контекст до 32 768 токенов и предназначена для работы через библиотеку Transformers. В карточке отмечены чат-возможности и интерфейс вызова инструментов. Версия позиционируется как менее ограниченная в отказах на запросы, чем исходная модель. В README приведены оценки IF_Eval 77,82, MMLU Pro 42,03 и TruthfulQA 57,81; результаты отдельных тестов отличаются от исходной Qwen2.5-7B-Instruct. Метаданные указывают языковые теги для китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского. Модель распространяется по лицензии Apache-2.0.