I.2Синтез, понимание и проверка знаний

spraxx/legal-bert-ecthr-biencoder — англоязычная модель Sentence Transformers, дообученная spraxx на базе nlpaueb/legal-bert-base-uncased для поиска и сравнения юридических текстов. Она кодирует предложения и абзацы в плотные векторы размерности 768; сходство между ними можно оценивать по косинусному сходству. Архитектура состоит из BERT и среднего pooling, максимальная длина входа — 512 токенов, библиотека — Sentence Transformers. Модель подходит для семантического поиска и извлечения релевантных юридических фрагментов, а также для ранжирования текстов по смысловому сходству. Обучение описано на выборке из 12 180 примеров с функцией MultipleNegativesRankingLoss. Вход и результат — текст и его векторное представление. Модель ориентирована на английские юридические тексты; лицензия в предоставленных данных не описана.

johnbrumett-uofu/legal-ft-v0 — текстовая Sentence Transformer-модель, дообученная на базе Snowflake/snowflake-arctic-embed-l для семантического поиска и сопоставления предложений и документов. Модель использует архитектуру BERT с пулингом по CLS-токену и нормализацией векторов; она преобразует текст в плотные эмбеддинги размерности 1024, а сходство оценивается косинусной мерой. Модель рассчитана на поиск релевантных документов по запросу, оценку семантического сходства, поиск перефразирований, кластеризацию и классификацию текста. Максимальная длина последовательности — 512 токенов. В README приведены результаты оценки информационного поиска на небольшом наборе, а также описание 156 обучающих примеров; этого недостаточно, чтобы судить о качестве на широком спектре юридических задач. Лицензия в предоставленных данных не указана.

reranker_0.5_cont_filt_7max — это модель для ранжирования текстов, созданная на основе Qwen/Qwen2.5-0.5B-Instruct и дообученная разработчиком lightblue на датасете reranker_continuous_filt_max7_train. GGUF-квантизации модели подготовил Richard Erkhov. Модель предназначена для задач reranking: оценки релевантности текстовых вариантов и упорядочивания результатов поиска или кандидатов по соответствию запросу. В основе используется компактная языковая модель Qwen2.5 с размером 0,5 млрд параметров; исходная модель поддерживает текстовый режим, однако сведения о фактических языках, максимальной длине контекста и формате входных данных для этой версии не приведены. Указана оценка на тестовой выборке: loss 0,3869. Доступны варианты GGUF с методами квантизации от Q2_K до Q8_0 размером примерно от 0,39 до 0,63 ГБ, что позволяет выбирать между экономией памяти и сохранением качества. Сильными сторонами являются небольшой размер, возможность локального запуска в формате GGUF и специализация на ранжировании. Ограничения связаны с неполным описанием назначения, данных обучения, поддерживаемых языков, контекста и практических метрик качества; указан только loss. Лицензия оригинальной модели обозначена как other, но точные условия использования в карточке не уточняются.

Модель namannn/llama2-13b-hyperbolic-cluster-pruned — производная от Meta Llama 2 13B, созданная с помощью слияния на основе гиперболоидных проекций. В карточке указано, что в модели сохранён 31 слой и что она сохраняет значительную часть результатов на бенчмарках, однако подробности оценки не приведены. Модель предназначена для генерации текста; метаданные также отмечают поддержку задач, связанных с кодом. Это плотная авторегрессионная архитектура LlamaForCausalLM с контекстом до 4096 токенов. Репозиторий содержит веса в формате safetensors, библиотека — Transformers. Модель распространяется по лицензии MIT. В карточке не описаны языки естественного текста и конкретные сценарии использования; сведения о сохранении результатов на бенчмарках не сопровождаются названиями тестов или численными оценками.

Llama3-Chinese — чат-модель, дообученная разработчиком на базе Meta-Llama-3-8B с применением DoRA и LoRA+. По карточке, обучение включало 500 тысяч китайских и 100 тысяч английских примеров многоходового SFT, а также 2 тысячи одноходовых примеров для самоописания. В репозитории представлена объединённая модель; метаданные указывают архитектуру LlamaForCausalLM, около 7,5 млрд параметров, контекст 8192 токена и формат safetensors. Модель предназначена для диалоговой генерации текста на китайском и английском языках. Её можно использовать для чат-ботов, ответов на вопросы и ведения многоходового диалога. Лицензия в предоставленных данных не указана.

Llama3-Chinese-8B-Instruct — плотная языковая модель семейства Llama 3 с примерно 7,5 млрд параметров, созданная Llama 中文社区 совместно с AtomEcho на основе Llama3-8B и дообученная для диалогов на китайском языке. Модель предназначена для генерации текста в формате беседы и использования в чат-сценариях. Модель принимает текст и выдаёт текст, поддерживает контекст до 8192 токенов и распространяется в формате safetensors. Лицензия — Apache-2.0. Карточка содержит ссылки на материалы сообщества о развёртывании, обучении и дообучении; подробные сведения о качестве и составе обучающих данных не приведены.

MAAL (Multilingual Adaptive Augmentation Language-model) — диалоговая модель, разработанная командой maum.ai Brain NLP. Версия 0.1 основана на Meta-Llama-3-8B-Instruct и дообучена методом межъязыкового переноса: навыки следования инструкциям на английском переносятся на корейский. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и принимает текстовые запросы; контекст — до 8192 токенов. Модель предназначена для диалогов и генерации ответов на корейском и английском языках. Разработчики рекомендуют использовать заданный в карточке системный промпт, если модель не дообучается. В опубликованной оценке LogicKor MAAL показала конкурентный результат среди сравниваемых моделей до 13 млрд параметров, однако оценка отмечена как собственный отчёт разработчиков. Карточка указывает на ограничения: из-за небольшого обучающего набора модель может создавать мало разнообразные тексты на корейском и недостаточно учитывать корейские знания и культурный контекст. Обработка изображений и видео не поддерживается. Лицензия — Llama 3.

MD-Mushfiqur123/lychee-drop-1.0 — дообученная модель MD-Mushfiqur123 на базе unsloth/gemma-4-e4b-it-unsloth-bnb-4bit. Она построена на архитектуре Gemma 4 и предназначена для диалоговых сценариев с обработкой изображений и текста; метаданные также отмечают интерфейс для вызова инструментов. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. В карточке указано, что дообучение выполнялось с использованием Unsloth и библиотеки TRL; сведения о конкретных данных обучения, размере и длине контекста не приведены.

Magnum v4 27B — языковая generative-модель от anthracite-org, представленная в формате GGUF. Это дообученная версия Gemma 2 27B с ChatML-токенизацией, ориентированная на воспроизведение качества прозы и стиля ответов Claude 3, в частности Sonnet и Opus. Модель предназначена для текстовой генерации, диалогов и ролевых сценариев, включая интерактивное повествование, создание диалогов, описаний, действий и мыслей персонажей. Она поддерживает английский язык; в README также приведены шаблоны ChatML для использования с Transformers и SillyTavern. Архитектурные характеристики базовой модели включают 27 млрд параметров, однако размер контекста в доступных данных не указан. Модель обучалась на наборах диалоговых и литературных данных, включая синтетические ролевые тексты и инструкции. Сильной стороной модели заявлено качество прозы, близкое к Claude 3, а также пригодность для творческого письма и ролевого взаимодействия. Ограничения включают ориентацию преимущественно на английский язык, отсутствие заявленных мультимодальных возможностей и неизвестный размер контекстного окна. Репозиторий содержит GGUF-квантизации; оригинальные веса доступны отдельно. Лицензия указана как gemma, поэтому условия использования определяются соответствующей лицензией Gemma.

Magnus — дообученная модель GRRNMAKE на базе Mistral-7B-Instruct-v0.3, созданная для точного вызова инструментов, соблюдения формата ответа и лаконичной генерации. Это плотная авторегрессионная языковая модель с 7,1 млрд параметров, предназначенная для диалогового использования и запуска через библиотеку Transformers. Она поддерживает стандартный шаблон чата Mistral v0.3 для вызова инструментов и контекст до 32 768 токенов. В карточке сообщается о высокой точности кратких ответов и соблюдении инструкций; оценка проводилась на Axim Corrective Benchmark и наборе Axim Alignment Dataset. Модель подходит для ассистентов, которым важно выдавать короткие ответы в заданной структуре и обращаться к инструментам. Лицензия в предоставленных данных не указана.

mergekit-community/mergekit-passthrough-dmirwnd — слитая языковая модель семейства Llama, созданная с помощью mergekit методом passthrough из hfl/llama-3-chinese-8b-instruct-v2, NousResearch/Hermes-2-Pro-Llama-3-8B и shenzhi-wang/Llama3-8B-Chinese-Chat. Репозиторий содержит веса в формате safetensors; модель рассчитана на генерацию текста и диалоговое взаимодействие. Модель объединяет возможности китайских диалоговых моделей Llama 3 и Hermes 2 Pro. Метаданные указывают размер 12,5 млрд параметров и контекстное окно 8192 токена. Карточка не сообщает результаты оценки качества или подробности лицензии, поэтому эти характеристики здесь не уточняются.

Это объединённая модель генерации текста, созданная с помощью mergekit методом passthrough из NousResearch/Meta-Llama-3-8B и Fizzarolli/llama-3-lust-8b-step-748. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста; репозиторий содержит веса в формате safetensors, а общий размер модели указан как 11 млрд параметров. Нативная длина контекста составляет 8192 токена. Модель может применяться для диалогов и создания продолжений текста. В карточке базовой Meta Llama указаны английский язык и код, но точный языковой охват объединённой модели не описан. Лицензия в предоставленных данных не указана.

OpenMed публикует вариант North Micro Vision Instruct в формате MLX bf16 для локального мультимодального вывода на устройствах Apple Silicon. Это конверсия компактной модели Cohere Compass с 2,4 млрд параметров, разработанной Cohere и обученной понимать изображения вместе с текстовыми запросами. Репозиторий содержит веса safetensors и предназначен для использования с локальными Python- и Swift-рантаймами OpenMed и OpenMedKit; лицензия весов — Apache 2.0. Модель принимает текст и изображения и формирует текстовые ответы. Она подходит для визуальных вопросов и ответов, OCR, извлечения сведений из клинических документов и графиков, описания изображений и работы с несколькими изображениями. Поддерживаются английский, немецкий, французский, испанский, итальянский, португальский, хинди, японский, корейский, китайский и арабский языки. Исходная модель обучалась и проверялась для мультимодальных последовательностей до 8 тысяч токенов. Вариант bf16 сохраняет исходную точность весов; заявленные для других вариантов MLX схемы квантования к нему не относятся. Локальный запуск после загрузки артефакта помогает не отправлять изображения в облако, однако ответы могут быть неполными, ошибочными или вымышленными. Модель не предназначена для диагностики и лечения, не поддерживает вызов инструментов и слаба в математике и программировании; клинические результаты требуют проверки специалистом.

Ornith-1.5-35B-A3B-uncensored-GGUF — это локальная GGUF-версия модели Ornith-1.5-35B-A3B от команды Ornith, модифицированная и конвертированная Robert Ressl. Модель использует архитектуру Mixture-of-Experts с 35 млрд параметров, из которых около 3 млрд активны при обработке запроса. Релиз предназначен для запуска через llama.cpp и включает варианты квантования Q8_0, Q6_K, Q5_K_M и Q4_K_M, а также мультимодальный проектор mmproj в формате BF16. Заявлена поддержка контекста до 262 144 токенов, однако в данном варианте он обслуживается с длиной до 131 072 токенов. Основной заявленный язык — английский. Модель ориентирована на локальную генерацию текста, исследование безопасности, red teaming и сценарии penetration testing. В результате abliteration были существенно снижены встроенные отказы на вредоносные запросы: для базовой модели зафиксировано 586 отказов из 1120, для варианта NVFP4 — 20, а для GGUF Q4_K_M — 43 на том же наборе тестов. Это делает модель более готовой к исследовательским запросам, которые стандартная версия обычно отклоняет, но одновременно повышает риски небезопасного применения. К сильным сторонам относятся локальный запуск, несколько уровней квантования, большой контекст и сохранение мультимодального проектора. Ограничения включают зависимость качества и поведения от степени квантования: Q4_K_M чаще демонстрирует остаточные отказы и уступает менее агрессивно квантованным вариантам. MTP speculative decoding в GGUF-сборках не реализован. Модель распространяется по лицензии MIT; аблитацию, конвертацию и проверку выполнил Robert Ressl, исходная модель связана с командой Ornith.

POINTS-Qwen-2.5-7B-Chat — чат-модель для работы с изображениями и текстом, разработанная командой WeChat AI. Она объединяет языковую модель Qwen2.5-7B-Instruct и визуальный энкодер CLIP ViT-L/14 с разрешением 336 пикселей; архитектура репозитория обозначена как POINTSChatModel. Модель предназначена для диалогов по изображениям, визуальных вопросов и ответов, а также генерации текста по текстовому запросу. В карточке описаны слияние моделей, динамическая обработка изображений высокого разрешения, фильтрация данных предобучения по perplexity и объединение дообученных моделей методом model soup. Для POINTS приведены результаты на MMBench-dev-en, MathVista и HallucinationBench; например, указаны оценки 83,2, 63,1 и 46,0 соответственно. Метаданные отмечают поддержку английского языка, чат-возможности и интерфейс вызова инструментов. Модель распространяется по лицензии Apache-2.0.

huihui-ai/Qwen2.5-VL-7B-Instruct-abliterated — мультимодальная инструкционная модель на 7,1 млрд параметров, созданная разработчиком huihui-ai на основе Qwen/Qwen2.5-VL-7B-Instruct. Это версия с удалёнными отказами: abliteration применена только к текстовой части модели, а часть, обрабатывающая изображения, не изменялась. Модель принимает текст и изображения и формирует текстовые ответы; поддерживает контекст до 128 000 токенов и предназначена для диалогового взаимодействия и визуальных задач. Модель можно использовать для вопросов по изображениям и общения с визуальным контекстом. Карточка указывает библиотеку Transformers; метаданные также отмечают интерфейс вызова инструментов, но подробности его использования не приведены. Указаны английский язык и лицензия Apache-2.0. Поскольку модель описана как uncensored, её ответы могут не включать обычные отказы на нежелательные запросы; качество и безопасность ответов зависят от приложения.

Это разговорная языковая модель семейства Qwen3, дообученная taskmaster141 на базе unsloth/Qwen3-0.6B. Она предназначена для генерации текста и диалоговых сценариев. Модель имеет плотную архитектуру Qwen3ForCausalLM, около 507,9 млн параметров и контекст до 40 960 токенов; для хранения используются веса Safetensors. Модель поддерживает английский язык. В карточке указано, что обучение выполнено с использованием Unsloth и прошло вдвое быстрее. Репозиторий распространяется по лицензии Apache-2.0. Карточка не приводит результатов оценки качества или подробностей обучающих данных, поэтому пригодность для конкретных задач следует проверять отдельно.

Elsephire создал бета-модель слиянием Qwen3.6-35B-A3B и Nex-N2-mini методом Task Arithmetic с весами 80/20; для слияния использовался Minerve-Fusion. Модель относится к семейству Qwen3.5 MoE и предназначена для диалогов и анализа изображений. Она принимает текст и изображения, поддерживает интерфейс вызова инструментов и выдаёт текстовые ответы. Репозиторий содержит веса Safetensors и GGUF F16. Лицензия — MIT. Это экспериментальная бета-версия, автор приглашает тестировать её и оставлять отзывы. Метаданные относят модель к задаче image-text-to-text; базовая Qwen описана как мультимодальная модель с 35 млрд параметров. README не уточняет распределение весов в самой модели, длину контекста и поддерживаемые языки.

Qwen3-VL-Reranker-2B — мультимодальная модель ранжирования из семейства Qwen, созданная командой Qwen на базе Qwen/Qwen3-VL-2B-Instruct. Она принимает пару «запрос — документ» и оценивает их релевантность; запрос и документ могут содержать текст, изображения, скриншоты, видео или сочетания этих данных. Модель рассчитана на уточнение результатов поиска после первичного отбора кандидатов, например в мультимодальных и межъязыковых поисковых системах. Модель использует плотную архитектуру Qwen3-VLForConditionalGeneration, содержит 2 млрд параметров и поддерживает контекст до 32 тыс. токенов. По карточке модели она поддерживает более 30 языков и настраиваемые инструкции для задачи ранжирования. В описанных авторами тестах модель показала результаты на наборах для мультимодального поиска, визуальных документов и видео; фактическое качество зависит от данных и сценария применения. Модель предназначена для этапа переранжирования и выдаёт оценку релевантности, а не готовый список результатов или векторные эмбеддинги. Для первого этапа поиска авторы предлагают сочетать её с моделью Qwen3-VL-Embedding. Лицензия — Apache-2.0.

Мультимодальная модель deserin/reflex-qwen-v1-merged — дообученная версия Qwen3.5-4B от unsloth/Qwen3.5-4B. Она предназначена для диалога и задач, в которых нужно анализировать изображения и отвечать на вопросы о них; также поддерживает интерфейс вызова инструментов. Модель основана на плотной архитектуре Qwen3.5 и распространяется в формате Safetensors по лицензии Apache-2.0. В README указано, что модель обучали с использованием Unsloth и библиотеки TRL. Данных о конкретных наборах обучения и результатах оценки нет, поэтому качество в отдельных сценариях по карточке определить нельзя.

Sailor-14B-Chat — чат-модель семейства Sailor, разработанная для работы с языками Юго-Восточной Азии. Она основана на Qwen2 и дообучена на открытых наборах данных для следования инструкциям и диалогов. Модель содержит 13,4 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации ответов, диалогов, ответов на вопросы и рассуждений на индонезийском, тайском, вьетнамском, малайском и лаосском языках. В карточке также отмечены английский и китайский; практические сценарии включают чат-помощников и выполнение инструкций на языках региона. Использование возможно на условиях лицензии Apache-2.0.

kornwtp/simcse-model-phayathaibert — модель эмбеддингов предложений на архитектуре CamemBERT, обученная разработчиком с помощью SimCSE на тайской Википедии. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения сходства и кластеризации текстов. Модель содержит 304,7 млн параметров, принимает текст и имеет контекстное окно до 512 токенов. Модель подходит для поиска семантически близких текстов на тайском языке и группировки предложений по смыслу. Доступны веса PyTorch; лицензия — Apache-2.0. Ограничения: карточка сообщает об обучении на тайской Википедии, поэтому пригодность для других языков и доменов не подтверждена.

SiMohand-278M — модель эмбеддингов предложений с архитектурой XLM-RoBERTa, дообученная разработчиком на базе intfloat/multilingual-e5-base для кабильского языка (таqbaylit, латиница). Она преобразует текст в векторы для семантического поиска, извлечения passages, кластеризации предложений и межъязыкового сопоставления кабильского с английским и французским. Модель содержит около 305 млн параметров, использует библиотеку sentence-transformers и поддерживает контекст до 514 токенов. Обучение проведено на 511 549 парах переводов с матрёшечным обучением представлений; в заявленном тесте bitext retrieval достигнуто Recall@1 97%, при этом срез в 64 измерения не показал измеримого ухудшения относительно полного вектора из 768 измерений. Модель предназначена для поиска переводного соответствия и семантической выдачи в сценариях Kabyle–English и Kabyle–French. Она не предназначена для генерации или перевода и не оценивалась на поиск кабильских перефразирований, работу вне распределения обучающих данных, безопасность, токсичность или смещения. Результат Recall@1 относится к тесту на переводных парах из источников, также представленных при обучении, а не к общей оценке семантического сходства. Лицензия — Apache-2.0.

Spark-X2.5-4B Heretic JP — сояака Кинохара — производная модель XHToken/Spark-X2.5-4B, адаптированная для японского языка. Это плотная авторегрессионная языковая модель примерно на 3,8 млрд параметров, распространяемая в формате SafeTensors с весами BF16. Для работы в Transformers требуется пользовательский код модели и параметр trust_remote_code=True. Модель предназначена для японского диалога, выполнения инструкций и вызова инструментов. В процессе подготовки применялись ослабление отказов, продолженное обучение на японской Википедии, настройка на японских инструкциях и дополнительная настройка вызова инструментов. Заявленный контекст составляет до 1 048 576 токенов; базовая Spark-X2.5-4B также описана как многоязычная модель для кода, рассуждений, перевода и агентных задач, однако карточка этой версии прежде всего подтверждает японскую адаптацию и диалоговое использование. Модель может выдавать ответы на небезопасные и вредоносные запросы и не имеет надёжного встроенного защитного слоя. Лицензия — Apache-2.0; модель предоставляется «как есть», поэтому для применения нужны подходящие меры модерации и проверки.

Это преобразованный чекпойнт текстового энкодера T5Gemma 2, опубликованный jadanovitch на основе google/t5gemma-2-1b-1b для запуска в vLLM. Веса энкодера перенесены без изменений в формат Gemma3ForCausalLM; модель содержит 26 слоёв, размер скрытого состояния 1152 и около 1 млрд параметров. Используются веса и активации BF16, двунаправленное внимание и контекст до 32 768 токенов. Модель предназначена для получения текстовых представлений, поиска, ранжирования и экспериментов с текстовыми энкодерами. Хотя её можно загрузить через интерфейс генерации vLLM, она не обучалась как самостоятельная авторегрессионная языковая модель и не предназначена для обычного продолжения текста. Применяются условия лицензии Gemma.

Epiculous/Violet_Twilight-v0.2-GGUF — языковая модель для генерации текста, разработанная Epiculous. Это объединённая модель, полученная методом SLERP merge из Azure_Dusk-v0.2 и Crimson_Dawn-v0.2; исходная конфигурация использует 40 слоёв, тип данных bfloat16 и базовую модель Azure_Dusk-v0.2. Модель предназначена прежде всего для диалоговых сценариев, ролевого взаимодействия и творческой генерации текста. Она обучена с использованием шаблона ChatML, поэтому для корректного общения рекомендуется применять соответствующий Context and Instruct template. В README заявлена поддержка английского, французского, немецкого, испанского, итальянского, португальского, русского, китайского и японского языков. Доступна в формате GGUF, а также существуют варианты в форматах полной модели и EXL2. К сильным сторонам относятся ориентация на ролевые и художественные сценарии, многоязычность и наличие нескольких рекомендованных настроек сэмплирования. Точные размер модели, максимальная длина контекста, используемая архитектура и результаты оценивания в README не указаны. Модель распространяется по лицензии Apache-2.0.

Werewolf AI 3B — языковая модель на архитектуре Llama, разработанная hruddayansh и дообученная на базе unsloth/llama-3.2-3b-instruct-unsloth-bnb-4bit. Модель содержит 3,2 млрд параметров, принимает текст и предназначена для генерации текста в диалоговом формате; заявленный контекст составляет 131 072 токена. В карточке также отмечен интерфейс вызова инструментов. Модель подходит для диалоговых сценариев и генерации ответов на английском языке. Веса размещены в формате safetensors, лицензия — Apache 2.0. Карточка не описывает датасет или специализацию дообучения, поэтому её качество в конкретных предметных областях по имеющимся данным оценить нельзя.

Funnel Transformer xlarge-base — предварительно обученная модель Funnel Transformer, выпущенная командой, представившей это семейство. Это англоязычная бескодерная базовая модель архитектуры Funnel с размером контекста 512 токенов. Она обучалась на английских текстах BookCorpus, Wikipedia, ClueWeb, GigaWord и Common Crawl с самоконтролируемой задачей обнаружения заменённых токенов; доступны реализации PyTorch, TensorFlow и веса Safetensors. Модель извлекает скрытые представления текста для последующего обучения или настройки классификаторов и других моделей для задач по целому предложению, включая классификацию последовательностей, классификацию токенов и ответы на вопросы. Выходная последовательность в четыре раза короче входной, поэтому модель подходит для получения сводного представления предложения, но не для задач, которым требуется отдельное представление каждого исходного токена. Она не предназначена для генерации текста. Лицензия — Apache-2.0.

Mistral-Large-Instruct-2407-GGUF — квантизированная версия Mistral Large 2, разработанная Mistral AI и подготовленная в формате GGUF сообществом LM Studio; квантизацию выполнил bartowski на основе llama.cpp. Модель предназначена для генерации текста, диалогов, выполнения инструкций, рассуждений, работы с многоязычными запросами, извлечения данных и интеграции в бизнес-приложения через вызов функций. Модель поддерживает контекст до 128 000 токенов, десятки языков, включая английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский, японский, корейский, арабский и хинди, а также более 80 языков программирования, среди которых Python, Java, C, C++, JavaScript и Bash. Ключевые сильные стороны — улучшенное следование инструкциям, диалоговые возможности, retrieval-навыки и поддержка последовательных и параллельных вызовов функций. При этом, как и другие генеративные модели, она может ошибаться или создавать недостоверный контент; конкретные характеристики производительности зависят от выбранного уровня квантизации. Модель распространяется по лицензии MRL-0.1; условия следует проверять в тексте лицензии Mistral.

Qwen2.5-32B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на 32 млрд параметров для диалога и генерации текста; поддерживает интерфейс вызова инструментов. В архитектуре используются RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Модель предназначена для следования инструкциям, написания длинных ответов, работы с таблицами и другими структурированными данными, а также генерации структурированного вывода, включая JSON. Она также подходит для задач программирования и математики. В README заявлена поддержка более 29 языков, включая русский и английский. Метаданные указывают контекст в 32 768 токенов; для этой версии README рекомендует конфигурацию до 131 072 токенов с YaRN для длинных входов, а генерацию — до 8 192 токенов. Модель распространяется в формате safetensors и работает через Transformers. Лицензия — Apache-2.0. Для контекстов длиннее 32 768 токенов требуется настройка YaRN; статическое масштабирование YaRN в vLLM может ухудшать производительность на коротких текстах.