II.8Инженерия данных и аналитика

majentik/harrier-oss-v1-270m-MLX-4bit — 4-битная квантованная версия мультиязычной модели текстовых эмбеддингов Microsoft microsoft/harrier-oss-v1-270m, подготовленная для Apple Silicon и запуска через mlx-embeddings. Модель основана на декодерной архитектуре Gemma3 с 257 млн параметров по метаданным и контекстом до 32 768 токенов. Для получения эмбеддингов используются pooling по последнему токену и L2-нормализация. Модель предназначена для поиска по смыслу, сравнения предложений, семантического поиска и межъязыкового сопоставления текстов. Базовая модель обучена с инструкционными префиксами для поисковых запросов, семантической текстовой близости и поиска параллельных текстов; заявлена поддержка более 100 языков. Для базовой версии указана оценка MTEB v2 66,5, однако квантованная версия независимо не оценивалась, поэтому её результаты могут отличаться. В README описан локальный патч совместимости для обработки отсутствующей проекционной головы. Репозиторий распространяется по лицензии MIT.

cyankiwi/KAT-Coder-V2.5-Dev-AWQ-INT4 — квантованная версия модели KAT-Coder-V2.5-Dev, разработанной Kwaipilot и опубликованной cyankiwi. Модель предназначена для генерации кода и агентного программирования, включая сценарии с использованием инструментов. Открытые веса совместимы с Hugging Face Transformers, vLLM, SGLang и KTransformers. Это текстовая MOE-модель с общим числом параметров 35 млрд и примерно 3 млрд активируемых параметров. Визуальные и мультимодальные компоненты в открытой версии отсутствуют. В README указана поддержка английского, китайского, хинди, арабского, русского, японского, корейского, нидерландского, французского и испанского языков. Размер файлов модели составляет 24,43 ГБ; вариант AWQ-INT4 ориентирован на более экономичное размещение и запуск по сравнению с полноразмерными весами. К сильным сторонам относятся заявленная высокая производительность в задачах Agentic Coding среди моделей сопоставимого масштаба, а также снижение ряда аномальных поведений после SFT- и RL-обучения, включая некорректные метки инструментов и повторения в одном диалоге. Ограничения включают текстовый характер модели и отсутствие мультимодальности; конкретное максимальное окно контекста в предоставленных данных не указано. Лицензия — Apache-2.0.

Abiray/KAT-Coder-V2.5-Dev-Imatrix-GGUF — набор GGUF-квантизаций модели KAT-Coder-V2.5-Dev, разработанной командой KwaiKAT и основанной на Qwen3.6-35B-A3B. Это текстовая open-weight модель-кодировщик с архитектурой Mixture-of-Experts: всего 35 млрд параметров, из которых 3 млрд активируются для каждого токена. Репозиторий содержит версии с 3-, 4-, 5-, 6- и 8-битной квантизацией, оптимизированные с помощью importance matrix для сохранения качества при уменьшении требований к памяти. Модель предназначена для агентного программирования, генерации и анализа кода, автоматизации задач разработки и работы с инструментами в многошаговых сценариях. Она поддерживает английский и китайский языки, работает только с текстом и не включает компоненты для зрения или других мультимодальных режимов. Доступный контекст может достигать 262 144 токенов при использовании совместимого ПО, например llama.cpp. Среди заявленных сильных сторон — результаты на SWE-bench Verified до 69,40%, поддержка сохранения исторического контекста рассуждений и снижение повторов, нештатных вызовов инструментов и зацикливания. К ограничениям относятся необходимость значительных ресурсов даже для квантизированных вариантов, зависимость качества и скорости от выбранного уровня квантизации и отсутствие мультимодальности. Модель распространяется по лицензии Apache-2.0.

KatzBot MiniLLM ST — компактная модель эмбеддингов на базе архитектуры BERT, опубликованная пользователем codegood. Она преобразует предложения и абзацы в плотные векторы размерностью 384 и предназначена для поиска семантически близких текстов, кластеризации и измерения сходства предложений. Модель обучалась с BatchHardTripletLoss на датасете codegood/Katzbot. Модель содержит 25,9 млн параметров, принимает текст с контекстом до 512 токенов и выдаёт векторы. Доступна в формате safetensors для библиотеки sentence-transformers. README не уточняет поддерживаемые естественные языки и лицензию, поэтому область применения по языкам и условия использования определить нельзя.

Jinsol0802/klue-roberta-base-klue-sts-mrc — модель эмбеддингов предложений на архитектуре RoBERTa, представленная в формате Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения близости текстов и кластеризации. Обучение с MultipleNegativesRankingLoss оптимизирует сходство косинусной мерой; размер модели — 137,8 млн параметров, максимальный контекст — 514 токенов. Модель рассчитана на работу с текстом и подходит для поиска похожих фрагментов и группировки семантически близких текстов. Идентификатор и название базового семейства указывают на ориентацию на корейский язык KLUE, однако в доступной карточке отдельный список поддерживаемых языков не приведён. Ограничения: представление текста сведено к вектору, поэтому модель сама не генерирует ответы; качество поиска и сравнения зависит от соответствия домена и данных. Файлы представлены в формате safetensors; лицензия в предоставленных сведениях не указана.

Карточка модели logexp1/klue-roberta-base-klue-sts-mrc на Hugging Face совпадает с карточкой Jinsol0802/klue-roberta-base-klue-sts-mrc, поэтому описание составлено по ней. Jinsol0802/klue-roberta-base-klue-sts-mrc — модель эмбеддингов предложений на архитектуре RoBERTa, представленная в формате Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения близости текстов и кластеризации. Обучение с MultipleNegativesRankingLoss оптимизирует сходство косинусной мерой; размер модели — 137,8 млн параметров, максимальный контекст — 514 токенов. Модель рассчитана на работу с текстом и подходит для поиска похожих фрагментов и группировки семантически близких текстов. Идентификатор и название базового семейства указывают на ориентацию на корейский язык KLUE, однако в доступной карточке отдельный список поддерживаемых языков не приведён. Ограничения: представление текста сведено к вектору, поэтому модель сама не генерирует ответы; качество поиска и сравнения зависит от соответствия домена и данных. Файлы представлены в формате safetensors; лицензия в предоставленных сведениях не указана.

bongsoo/klue-sbert-v1 — модель на базе KLUE BERT, разработанная bongsoo и дообученная в формате Sentence-BERT для получения векторных представлений предложений и абзацев. Она предназначена для сравнения семантической близости текстов, семантического поиска и кластеризации. Модель имеет архитектуру BERT, содержит 137,8 млн параметров и преобразует текст в плотный вектор размерности 768; максимальная длина контекста — 512 токенов. Обучение включало задачи семантического сходства, дистилляцию с paraphrase-multilingual-mpnet-base-v2 и NLI на корейских и английских данных. В README приведены результаты оценки на корейских и английских наборах STS. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана.

LENS-d4000 — модель текстовых эмбеддингов, разработанная Yibin Lei. Она использует подход Lexicon-based Embeddings: компоненты вектора задуманы как соответствующие кластерам семантически близких токенов. Версия d4000 формирует представления размерностью 4000 на основе архитектуры Mistral с 7,1 млрд параметров. Модель предназначена для извлечения признаков из текста и получения эмбеддингов, которые можно применять для сравнения семантической близости текстов и поиска по смыслу. Для неё заявлен контекст длиной до 32 768 токенов. Репозиторий содержит веса Safetensors; лицензия — Apache 2.0. Описание не содержит результатов оценок качества или подробностей о рекомендуемом способе использования и ограничениях представлений. Указан интерфейс извлечения признаков, поэтому для получения эмбеддингов может потребоваться подходящая библиотека или обёртка.

LFM2.5-Embedding-350M-GGUF — GGUF-версия модели LiquidAI/LFM2.5-Embedding-350M, разработанная компанией Liquid AI. Это плотный bi-encoder для быстрого многоязычного семантического поиска и извлечения документов, предназначенный для RAG-конвейеров, sentence similarity и feature extraction. Модель преобразует запросы и документы в отдельные векторы, которые можно сопоставлять, например, по косинусному сходству; для корректной асимметричной обработки используются префиксы «query: » и «document: ». Модель интегрируется с llama.cpp и запускается в режиме embeddings. Модель ориентирована на 11 языков: английский, испанский, немецкий, французский, итальянский, португальский, арабский, шведский, норвежский, японский и корейский. Указан размер 350M параметров; архитектурной основой служит эффективный LFM2 backbone. Заявлены высокая многоязычная точность для плотной embedding-модели такого размера и скорость инференса, сопоставимая с существенно меньшими моделями, что делает её подходящей для компактных и быстрых поисковых индексов. Данные о длине контекста и поддерживаемых модальностях, кроме текстовой, не приведены. Модель распространяется по лицензии LFM1.0; подробные условия находятся в файле LICENSE. README не содержит количественных результатов бенчмарков, точных ограничений по длине входа или иных детальных ограничений, поэтому эти характеристики нельзя определить по представленным данным.

BAAI/LLARA-document — текстовая модель семейства LLaMA, опубликованная BAAI. Проект LLaRA описывает два подхода: EBAE (автоэнкодирование на основе эмбеддингов) и EBAR (авторегрессия на основе эмбеддингов); эта версия предназначена для задач с документами и представления текста в виде эмбеддингов. Архитектура — плотная LlamaForCausalLM с 6,6 млрд параметров и контекстом до 4096 токенов. Модель подходит для извлечения признаков текста и вычисления сходства предложений, например для семантического поиска по документам и сопоставления текстовых запросов с фрагментами. Репозиторий содержит веса в формате safetensors. Лицензия — MIT.

maux-gte-persian-v3-fp16 — модель эмбеддингов предложений на базе Alibaba-NLP/gte-multilingual-base, дообученная для персидского языка и опубликованная в формате fp16. Она преобразует предложения и абзацы в векторы размерности 768 для семантического поиска, сравнения текстов и кластеризации; сходство оценивается косинусной мерой. Модель построена как энкодер Sentence Transformers с пулингом CLS-токена и нормализацией, поддерживает последовательности до 8192 токенов и принимает текст, выдавая векторные представления. Дообучение выполнено на 80 000 персидских пар предложений с функцией потерь MultipleNegativesRankingLoss. Половинная точность fp16 предназначена для более эффективного инференса, особенно на современных GPU. По данным карточки, модель показывает высокие результаты в задачах семантического сходства, поиска и кластеризации на персидском языке. Для загрузки требуются файлы пользовательского кода из репозитория. Лицензия в предоставленных данных не указана.

mergekit-community/mergekit-slerp-fecxcxs — слитая языковая модель, созданная сообществом с помощью mergekit методом SLERP из budecosystem/code-millenials-34b и oobabooga/CodeBooga-34B-v0.1. Модель относится к семейству Llama, использует плотную архитектуру LlamaForCausalLM и содержит 22,4 млрд параметров. Она предназначена для генерации текста, включая код и ответы на инструкции по программированию. Модель принимает текст и генерирует текст; заявленная длина контекста составляет 16 384 токена. Веса опубликованы в формате safetensors. Лицензия в предоставленных данных не указана.

GnLOLot разработала MiniCPM5-2B-Claude-Fable5-1-Thinking-Agentic — компактную языковую модель на базе openbmb/MiniCPM5-2B, дообученную на данных Claude. Это плотная модель архитектуры Llama примерно с 2,2 млрд параметров, предназначенная для локального запуска через Transformers. Она поддерживает контекст до 131 072 токенов и выдаёт текст.

jamescalam/minilm-arxiv-encoder — модель Sentence Transformers на базе архитектуры BERT, разработанная James Calam. Она преобразует предложения и абзацы в плотные векторы размерности 384 и предназначена для семантического поиска и кластеризации текстов. Модель содержит около 40 млн параметров и принимает последовательности длиной до 512 токенов. Полученные эмбеддинги можно сравнивать для поиска семантически близких текстов или группировать для кластеризации. Репозиторий содержит веса PyTorch; при использовании через Transformers поверх выходов трансформера требуется применить подходящую операцию pooling. Лицензия в предоставленных данных не указана.

saricles/MiniMax-M2.7-NVFP4-GB10-AC — квантизированная версия MiniMax-M2.7 от автора репозитория saricles, подготовленная для генерации кода и агентных сценариев с вызовом инструментов. Модель использует архитектуру MiniMaxM2ForCausalLM типа MoE: исходная модель содержит 230 млрд параметров и 256 экспертов с top-K=8. После посттренировочной квантизации NVFP4 файлы занимают около 141,05 ГБ; в метаданных указано 2,9 млрд параметров, что расходится с README. Квантизация выполнена NVIDIA TensorRT Model Optimizer, а калибровка проведена на смеси датасетов кода, вызова функций, рассуждений и обычного чата. Модель предназначена для генерации кода, многошаговой работы с кодом и математикой, а также для агентных систем, которым нужно вызывать инструменты. Она сохраняет возможности диалоговой модели и рассчитана на запуск на NVIDIA DGX Spark с GB10 и оборудовании семейства Blackwell; README описывает распределённый запуск на двух DGX Spark. Контекстное окно составляет 196 608 токенов по метаданным. В карточке указаны английский и китайский языки. Лицензия обозначена как other, поэтому конкретные условия следует уточнять в репозитории базовой модели и карточке Hugging Face.

knguyennguyen/mpnet_20k — модель Sentence Transformer, дообученная на базе sentence-transformers/all-mpnet-base-v2. Она кодирует предложения и абзацы в плотные векторы размерности 768 для оценки семантического сходства, семантического поиска, поиска перефразировок и кластеризации; также в README упомянута классификация текстов. Веса представлены в формате safetensors, модель содержит 136,7 млн параметров и поддерживает контекст до 514 токенов по метаданным; README указывает ограничение в 128 токенов. Обучение описано для набора из 20 108 пар предложений и использует MultipleNegativesRankingLoss с косинусным сходством. Примеры пар сопоставляют пользовательские запросы с описаниями товаров, поэтому модель может быть полезна для семантического поиска по каталогу. Данных о поддерживаемых естественных языках в карточке нет. Лицензия в предоставленных сведениях не указана. Для задач, требующих обработки длинных текстов, учитывайте лимит последовательности 128 токенов из README; качество за пределами сценариев, представленных обучающими парами, отдельно не описано.

jangedoo/multilingual-e5-small-en-pruned — это компактная модель текстовых эмбеддингов, созданная на основе intfloat/multilingual-e5-small. Разработчик применил к ней отсечение токенов словаря: размер словаря сокращён с 250 037 до 71 547 токенов, а число параметров в README — с 117,7 млн до 49,1 млн. Метаданные каталога указывают 55,8 млн параметров; эти значения в источниках расходятся. Модель предназначена для получения векторных представлений предложений и их семантического сравнения, в том числе для поиска похожих текстов. В приведённых README тестах результаты на STS-B и NanoClimateFEVER близки к базовой модели. Архитектура — BERT; библиотека — Sentence Transformers; максимальный контекст — 512 токенов. Базовая модель многоязычная, но конкретные поддерживаемые языки в доступных данных не перечислены. Для использования в Sentence Transformers README показывает загрузку через SentenceTransformer и вызов encode; в примере указан trust_remote_code=True. Лицензия в предоставленных данных не приведена.

MyAwesomeModel — модель для извлечения признаков из текста, опубликованная в репозитории toolathlon5/MyAwesomeModel-TestRepo. По метаданным она использует архитектурное семейство BERT, работает с библиотекой Transformers и предназначена для получения векторных представлений текста. Модель можно применять как компонент конвейеров машинного обучения для семантического поиска, кластеризации, классификации и других задач, где нужны эмбеддинги или скрытые представления текста. В README также заявлены возможности рассуждения, генерации кода, диалога и работы с функциями, однако эти сведения не подтверждаются основным pipeline-тегом feature-extraction и поэтому не рассматриваются как надёжно подтверждённые характеристики модели. Размер модели, поддерживаемые естественные языки и длина контекста в доступных данных не указаны. Модель распространяется по лицензии MIT.

MyAwesomeModel — модель на базе Transformers для извлечения признаков из входных данных. В метаданных Hugging Face она отмечена как feature-extraction и связана с экосистемой PyTorch и семейством BERT. README также описывает улучшения рассуждений, понимания языка, генерации кода и текста, однако основным подтверждённым сценарием применения остаётся получение векторных представлений.

Nanbeige4.2-3B-Base — базовая языковая модель семейства Nanbeige, разработанная командой Nanbeige и обученная с нуля. Это плотная модель с архитектурой Looped Transformer: она повторно использует те же слои, что позволяет увеличить вычислительную ёмкость без увеличения числа параметров. Размер модели — 3,2 млрд параметров, нативная длина контекста — 131 072 токена. Модель распространяется в формате safetensors и рассчитана на работу через Transformers. Модель предназначена для генерации текста и служит базой для задач рассуждения, математики, программирования, STEM и ответов на вопросы. В карточке сообщается об увеличении объёма обучающих данных до 28 трлн токенов и усиленном представлении математических, кодовых, STEM-данных и синтетических вопросов и ответов. Указаны английский и китайский языки; доступен разговорный режим. Лицензия — Apache-2.0. Модель может выдавать недостоверную информацию, предвзятые или вредные ответы; результаты требуют проверки.

Модель lucaswychan/Nemotron-Research-Reasoning-Qwen-1.5B-Reasoning-Embedding — дообученная методом контрастивного обучения модель эмбеддингов на базе NVIDIA Nemotron-Research-Reasoning-Qwen-1.5B. Она преобразует текст в векторные представления для сравнения семантической близости предложений и поиска по смыслу. В карточке описана как часть исследования влияния моделей с обучением через RLVR на качество семантических представлений; результаты MTEB и BRIGHT не показали устойчивого преимущества таких начальных весов перед базовой моделью при одинаковом обучении. Модель построена на плотной архитектуре Qwen2, содержит 1,5 млрд параметров, поддерживает контекст до 131 072 токенов и предназначена для многоязычного текста. Используется библиотека Sentence Transformers, веса опубликованы в формате safetensors. Лицензия — Apache-2.0.

NextCoder-32B — модель для редактирования и генерации кода, разработанная Microsoft на базе Qwen2.5-Coder-32B-Instruct с постобучением методом SeleKT. Она предназначена для внесения изменений в существующий код, исправления ошибок и выполнения других задач разработки; также поддерживает диалоговый режим и интерфейс вызова инструментов. Модель имеет архитектуру Qwen2 с причинным языковым моделированием и содержит 32 млрд параметров. Поддерживает контекст до 32 768 токенов и работает с текстом, включая исходный код. В карточке заявлены улучшения на задачах редактирования кода и сохранение способности к обобщению; среди языков указан английский. Модель распространяется по лицензии MIT. Как и базовая модель, она может реагировать на вредоносные запросы и генерировать небезопасный код; результаты следует проверять вручную и запускать в изолированной среде.

swardiantara/one-stage-cdk10-MiniLM-L12-v2 — модель Sentence-Transformers на архитектуре BERT, преобразующая предложения и абзацы в плотные векторы размерностью 384. Она предназначена для поиска семантически похожих текстов, семантического поиска и кластеризации. Модель содержит около 40 млн параметров, принимает текст и поддерживает контекст до 512 токенов. Модель обучена с ContrastiveLoss и косинусной метрикой расстояния. Веса опубликованы в формате safetensors. Карточка не сообщает, на каких языках и данных модель обучалась, поэтому её языковые возможности нельзя уточнить. Лицензия в предоставленных данных не указана.

Open-Instruct CoT 7B — языковая модель, разработанная Allen Institute for AI и дообученная на подмножестве CoT датасета Flan v2 в рамках исследования по настройке инструкций на открытых ресурсах. Это плотная авторегрессионная модель семейства LLaMA с 6,6 млрд параметров, принимающая текст и генерирующая текст; для качества ответов рекомендуется использовать заданный авторами формат инструкций. Контекст составляет 2048 токенов, основной язык в метаданных — английский. Модель предназначена для выполнения инструкций и ответов с пошаговыми рассуждениями, включая вопросы по знаниям, математические задачи и генерацию кода. В README приведены результаты на MMLU, GSM, BBH, TydiQA, Codex-Eval и AlpacaFarm. Это diff модели: для использования требуется исходная модель LLaMA в формате Hugging Face. Указаны лицензия AI model license и исходная лицензия LLaMA; применяются условия обеих лицензий.

Orion-9B-Agentic-CodeCore-Merge — экспериментальная объединённая модель на 9 млрд параметров от prithivMLmods, созданная на основе Qwen3.5-9B с добавлением MiMo-V2.6-Distill-Qwen-9B, OxCoder-9B и Ornith-1.5-9B. Это плотная архитектура семейства Qwen3.5, рассчитанная на генерацию кода, пошаговое решение задач и агентные сценарии разработки ПО. Модель поддерживает диалог и интерфейс вызова инструментов; основная задача в каталоге — генерация текста. Использовать её можно для написания и понимания кода, внесения изменений, отладки и многошаговых рабочих процессов с инструментами. Модель загружается через Transformers; в репозитории представлены веса safetensors, лицензия — Apache-2.0. Карточка описывает её как экспериментальную и предупреждает о возможных артефактах. Вариант GGUF не сохраняет головы Multi-Token Prediction и работает как обычный авторегрессионный декодер с генерацией по одному токену за шаг.

FreedomAISVR/Ornith-1.0-35B-MXFP4-MOE-GGUF — квантизированная версия Ornith-1.0-35B от deepreinforce-ai, модели для программирования и агентных сценариев, основанной на Qwen 3.5. Она предназначена для генерации кода и выполнения задач coding agent, включая формирование плана или каркаса решения и последующие шаги. Модель имеет архитектуру MoE с 35 млрд параметров, из которых активны около 8 млрд на токен, 256 экспертов и 40 слоёв; используется гибридное внимание с локальными и полными слоями. Контекстное окно — 262 тысячи токенов. В репозитории веса представлены в формате GGUF с квантизацией MXFP4 для экспертных весов и Q8_0 для остальных тензоров. Карточка описывает вариант как рассчитанный на эффективное развёртывание на одной видеокарте; указывает минимум 20 ГБ видеопамяти и рекомендует 24 ГБ или больше для полного размещения модели на GPU. Лицензия — MIT.

Orukeet — модель распознавания речи от Oruk AI, созданная на основе NVIDIA Parakeet TDT 0.6B v3. Это мультиязычная модель на 25 языков для транскрибирования аудиозаписей, медиаматериалов и потоков пакетной обработки, а также для серверных и интерактивных приложений. Модель сохраняет 627 млн параметров, 24-слойный энкодер FastConformer и transducer-архитектуру Parakeet. В половине временных depthwise-фильтров энкодера используются 12 288 обученных и зафиксированных Gabor-ядер. В описанных тестах Orukeet показала меньший WER, чем исходная Parakeet, на 61 из 74 тестовых срезов; например, объединённый WER по 25 языкам FLEURS составил 9,85% против 11,01%. Доступны варианты для NeMo, ONNX INT8, GGUF Q8 и F16, а также экспорт Transformers. Карточка описывает обучение и выбор контрольной точки на записях LibriSpeech test-other, поэтому результаты оценки следует учитывать с этой оговоркой. Модель распространяется по лицензии CC-BY-SA-4.0.

Phi-4-reasoning — открытая по весам языковая модель Microsoft Research, дообученная на базе Phi-4 с помощью supervised fine-tuning на примерах цепочек рассуждений и обучения с подкреплением. Она предназначена для диалоговых генеративных приложений, где важны рассуждения и логика, а также ограничены вычислительные ресурсы или допустимая задержка. Основные области обучения и оценки — математика, наука и программирование; модель рассчитана прежде всего на английский язык. Модель использует плотный декодерный Transformer архитектуры Phi-3 с 14,1 млрд параметров и контекстом до 32 768 токенов. При инференсе рекомендуется ChatML-шаблон; для более сложных запросов авторы советуют выделять больше токенов на генерацию. Модель может ошибаться и не проходила оценку для всех прикладных сценариев, поэтому ответы следует проверять, особенно при использовании в задачах с высокими последствиями. Лицензия — MIT.

Pink Elephant 48B-S GGUF — языковая модель для генерации текста, разработанная Pink Elephant Limited. Это локально запускаемая версия модели, преобразованная в формат GGUF и предназначенная для работы через Ollama и llama.cpp на потребительском оборудовании. Модель построена как разреженная Mixture-of-Experts архитектура с 47,7 млрд параметров, из которых на каждом токене активируется около 14,66 млрд. Используется 8 экспертов с маршрутизацией top-2, что, согласно README, обеспечивает примерно в 3,2 раза меньше вычислений по сравнению с плотной моделью аналогичного размера. Модель происходит от плотной 14B основы, дообученной на примерах программирования и математики, а затем прошла SFT и DPO-выравнивание. Указаны английский язык и контекст до 16 384 токенов. Доступна квантизованная версия Q4_K_M размером около 8,3 ГБ. Модель ориентирована на генерацию текста, помощь в программировании, математические задачи и локальное развертывание на одной потребительской видеокарте. Среди заявленных результатов — 68,5% на GSM8K и 60,0% на MMLU в конфигурации bf16; эти показатели получены разработчиками на одной NVIDIA RTX PRO 6000 Blackwell и могут зависеть от настроек запуска. К сильным сторонам относятся сочетание большой общей емкости, разреженных вычислений, локального использования и выравнивания SFT+DPO. Ограничения включают зависимость качества и скорости от аппаратного обеспечения, квантизации и корректного шаблона ChatML, а также отсутствие в README сведений о мультимодальности и поддержке других языков. Модель распространяется по лицензии MIT, допускающей коммерческое и исследовательское использование.

Pixtral-12B-2409 — мультимодальная модель Mistral AI для работы с изображениями и текстом. Она сочетает декодер на 12 млрд параметров и визуальный энкодер на 400 млн параметров, обучена на чередующихся данных изображений и текста и поддерживает изображения разных размеров. Модель предназначена для понимания изображений и диаграмм, ответов на вопросы по визуальному содержимому и текстовых задач, включая следование инструкциям, математику и программирование. Заявленная длина последовательности — 128 тыс. токенов. В карточке приведены результаты сравнительных тестов, в том числе по MMMU, MathVista и ChartQA. Модель выпущена под лицензией Apache 2.0. В README указано, что у неё нет механизмов модерации, поэтому при использовании следует учитывать риск немодерируемых ответов.