II.10Разработка и эксплуатация AI/ML-систем

dpo5k5 — дообученная модель на 1,3 млрд параметров на основе deepseek-ai/deepseek-coder-1.3b-base. Она использует плотную архитектуру семейства Llama и предназначена для генерации и продолжения кода; базовая модель также поддерживает автодополнение и заполнение пропусков в коде. Контекст модели — до 16 384 токенов. Модель опубликована в формате safetensors, лицензия указана как other. README не содержит подробностей об оценке качества и ограничениях; возможности и качество модели для конкретных задач следует проверять отдельно.

DUSUNEN Rota 270M v1 — компактная плотная модель текстовых эмбеддингов, разработанная GoktugD на базе microsoft/harrier-oss-v1-270m. Она кодирует турецкие поисковые запросы и фрагменты документов в общее 640-мерное векторное пространство для первичного поиска, семантического поиска и отбора кандидатов для RAG. Модель содержит около 257 млн параметров, использует архитектуру Gemma3Text и имеет контекст до 32 768 токенов; для запросов требуется заданный инструкционный формат, документы подаются как обычный текст. Модель дообучена на 100 000 триплетах, происходящих из машинного перевода MS MARCO, и распространяется в форматах Safetensors и ONNX под лицензией MIT. В опубликованной оценке на небольшом наборе исторических вопросов и документов на турецком она немного превосходит Mursit Base TR Retrieval по нескольким метрикам, но уступает базовой Harrier и multilingual-e5-base по MRR@10. Это результат адаптации к домену, а не универсальное улучшение; оценка сходства служит сигналом ранжирования, а не вероятностью или проверкой фактов.

nghuyong/ernie-3.0-nano-zh — китайская языковая модель ERNIE 3.0, опубликованная как преобразованная в PyTorch версия официальной модели PaddlePaddle. В карточке указана архитектура ErnieModel и размер 18,7 млн параметров; модель принимает текст и выдаёт векторные представления токенов или текста для последующего использования в NLP-системах. Модель предназначена для извлечения признаков из китайского текста и может служить компонентом поисковых, классификационных и семантических конвейеров. Максимальная длина контекста — 2048 токенов. Карточка описывает проверку точности преобразования весов, но не приводит конкретные результаты бенчмарков. Лицензия в предоставленных данных не указана.

FastContext-1.0-4B-SFT — плотная языковая модель для исследования репозиториев кода в роли вспомогательного агента для LLM-систем разработки. Это вариант на 3,7 млрд параметров, дообученный методом SFT на базе Qwen/Qwen3-4B-Instruct-2507; модель семейства Qwen3 использует архитектуру Qwen3ForCausalLM и принимает контекст до 262 144 токенов. Она анализирует запрос разработчика, ищет релевантные файлы и фрагменты через операции чтения и поиска, а затем возвращает компактные пути и диапазоны строк с цитатами, чтобы основной агент мог решать задачу с меньшим объёмом нерелевантного контекста. Модель рассчитана на работу как субагент с инструментами чтения и поиска, включая параллельные вызовы инструментов; её карточка также описывает сбор доказательств в несколько шагов и генерацию точных ссылок на строки. README сообщает об улучшении результатов решения задач и снижении расхода токенов при интеграции с Mini-SWE-Agent, но это показатели конкретных бенчмарков и конфигураций. Модель распространяется в формате Safetensors по лицензии MIT; заявленный язык — английский.

Systran подготовила конверсию английской версии Whisper base.en от OpenAI в формат CTranslate2. Модель предназначена для автоматического распознавания речи на английском языке и может использоваться через CTranslate2 и проекты на его основе, включая faster-whisper. Веса сохранены в FP16; при загрузке тип вычислений можно выбрать через параметр compute_type в CTranslate2. Репозиторий распространяется по лицензии MIT. Подробности об исходной модели приведены в карточке OpenAI Whisper base.en.

FELA-Moderation — компактная модель lowdown-labs для классификации текстового контента и обнаружения персональных данных. Она использует архитектуру Fourier Neural Operator с gated linear attention и общей основой примерно на 18,9 млн параметров; вход кодируется на уровне байтов, а последовательность ограничена 512 токенами. Модель доступна в форматах safetensors и ONNX, предусмотрена динамическая квантизация INT8 для локального запуска на CPU и устройствах с ограниченными ресурсами. Модель оценивает текст по 19 категориям модерации и 6 меткам Jigsaw, размечает spans персональных данных по 56 типам сущностей, а также содержит отдельные классификационные головы для спама, мошенничества, фишинга, jailbreak и prompt injection, степени NSFW-контента и targeted identity. Её можно встроить в локальный или on-premises конвейер модерации, чтобы не передавать пользовательские тексты стороннему API. Лицензия — Apache-2.0. Это небольшой инструмент поддержки решений, а не окончательный арбитр: для применения нужны настройка порогов и, в чувствительных сценариях, проверка человеком. Обучающая разметка преимущественно англоязычная, поэтому качество на других языках не установлено; каталог типов и форматов PII ограничен данными обучения. Качество для категории sexual ограничено нехваткой обучающих данных, а голова targeted identity слабее остальных.

Fireball-Meta-Llama-3.1-8B-Instruct-Agent-0.003-128K-code-math — экспериментальная дообученная языковая модель от EpistemeAI на архитектуре Llama 3.1. Она предназначена для диалогового применения в задачах математики, программирования и работы в роли агента; заявлены сценарии с поиском, калькулятором и подходом ReAct, а также интеграция с LangChain, LlamaIndex и Ollama, в том числе для RAG. Модель содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. В README рекомендуется использовать отдельный механизм проверки безопасности входов и выходов; приведённые результаты оценки ограничены отдельными бенчмарками и не гарантируют качество в конкретных задачах. Модель лицензирована по Apache-2.0.

deutsche-telekom/gbert-large-paraphrase-euclidean — модель Sentence Transformers от Deutsche Telekom, дообученная на базе deepset/gbert-large для построения эмбеддингов немецких предложений и абзацев. Она преобразует текст в плотные векторы размерностью 1024 и рассчитана на применение с SetFit для классификации немецкого текста в условиях малого числа примеров. Модель использует архитектуру BERT и обучалась с BatchHardSoftMarginTripletLoss с евклидовой метрикой на отфильтрованном наборе парафраз немецких предложений. Контекст ограничен 512 токенами; объём модели — 434,5 млн параметров. В README авторы сообщают о лучших результатах среди сравнивавшихся вариантов в сценарии немецкой классификации с малым числом примеров. Лицензия — MIT.

unsloth/gemma-2-9b-bnb-4bit — это квантизированная 4-битная версия языковой модели Gemma 2 с 9 млрд параметров, разработанная на базе google/gemma-2-9b и подготовленная Unsloth с использованием bitsandbytes. Модель предназначена для задач генерации и дополнения текста, диалоговых приложений, а также дообучения на собственных наборах данных с помощью Transformers и инструментов Unsloth. Из доступных данных известно, что модель работает с текстом и поддерживает английский язык. Она распространяется в формате 4-bit и ориентирована на снижение требований к памяти при запуске и дообучении; для Gemma 2 (9B) заявлены экономия памяти до 58% и ускорение до 2,4 раза в соответствующем сценарии Unsloth. README не содержит сведений о длине контекста, точной архитектуре, качестве на конкретных бенчмарках или поддержке других языков и модальностей. К сильным сторонам относятся уменьшенный объём памяти и совместимость с экосистемой Transformers, а также возможность последующего экспорта в GGUF и vLLM. Ограничения связаны с 4-битной квантизацией, которая может влиять на точность и не обязательно подходит для всех задач. Модель распространяется по лицензии Gemma; условия её использования следует уточнять в документации Google.

aolans/gemma-2-9b_q4 — это текстовая модель семейства Gemma 2, основанная на google/gemma-2-9b и подготовленная автором aolans с помощью Unsloth. Карточка описывает её как вариант для использования в качестве основы для дальнейшего дообучения; архитектура — плотная авторегрессионная Gemma2ForCausalLM с 9 млрд параметров и контекстом 8192 токена. Модель предназначена для генерации текста и может служить отправной точкой для создания специализированных вариантов и диалоговых приложений. В карточке упоминаются инструменты Unsloth и Hugging Face TRL. Метаданные указывают лицензию Gemma и формат safetensors. Несмотря на суффикс q4 и упоминание квантования в README, метаданные перечисляют safetensors и не подтверждают конкретный формат или разрядность квантованных весов.

Gemma 4 E4B-it-text-only — текстовая версия модели Gemma 4, опубликованная principled-intelligence. Из контрольной точки удалены веса визуального и аудиоэнкодеров, а языковая модель сохранена. Это плотная архитектура Gemma4TextModel примерно на 4,7 млрд параметров, предназначенная для извлечения признаков из текста; поддерживается контекст до 131 072 токенов. Репозиторий содержит веса Safetensors и рассчитан на работу через Hugging Face Transformers. Модель подходит для создания текстовых представлений и других сценариев извлечения признаков. По заявлению автора, языковая часть и шаблон чата совпадают с исходной Gemma 4 E4B-it, а удаление мультимодальных энкодеров уменьшает размер файлов и расход видеопамяти. Веса проверялись только с Transformers; поддержка vLLM, SGLang, llama.cpp, Ollama и других движков не заявлена. Модель распространяется по лицензии Apache 2.0.

GetCode-slerp — объединённая языковая модель для генерации кода, созданная с помощью LazyMergekit на основе CodeLlama-7b-Instruct-hf и CodeGen2.5-7B-Multi. Она предназначена для генерации и дополнения кода по текстовым запросам; архитектура — плотная LlamaForCausalLM, размер — 6,6 млрд параметров, контекст — до 16 384 токенов. Модель принимает текст и выдаёт текст. В README указано слияние методом slerp с настройками, различающимися для слоёв self-attention и MLP. Репозиторий содержит веса safetensors, а лицензия — Apache-2.0. Базовая CodeLlama рассчитана на генерацию, дополнение и объяснение кода; для этой конкретной объединённой модели README прямо подтверждает происхождение, но не приводит отдельных результатов оценки качества.

Это пакет модели Granite 4.1 30B в формате GGUF, подготовленный Mesh LLM для распределённого запуска. Пакет создан из unsloth/granite-4.1-30b-GGUF: веса разделены на артефакты по слоям, чтобы несколько машин могли совместно выполнять инференс через Mesh LLM. Модель поддерживает текстовый чат и подключение к локальному API, совместимому с OpenAI Chat Completions. Пакет предназначен для локального и приватного запуска, распределённого обслуживания модели между несколькими узлами и интеграции чат-запросов через Mesh LLM, особенно когда полный файл GGUF не помещается на одной машине. Вариант квантования — UD-Q4_K_XL. Архитектура относится к семейству Granite; сведения о лицензии и подробные рекомендации по использованию находятся в карточке исходной модели, поэтому для условий использования следует обратиться к ней.

HARC-Llama-3.1-8B-Instruct — языковая модель Microsoft для генерации текста и диалогов с акцентом на safety alignment. Она создана слиянием LoRA-настройки HARC с Meta-Llama-3.1-8B-Instruct и распространяется как самостоятельная модель. Архитектура — плотная LlamaForCausalLM; размер — 7,5 млрд параметров, контекст — до 131 072 токенов. Модель загружается через Transformers из файлов safetensors. Модель предназначена для диалоговых сценариев и генерации ответов с настройкой на безопасность. В метаданных указана поддержка многоязычности базовой модели; README не уточняет языки, специально охваченные настройкой HARC. Лицензия — Llama 3.1 Community License (llama3.1); при использовании необходимо соблюдать её условия и условия лицензии базовой модели.

HGNet-V2 B1 — модель классификации изображений и извлечения визуальных признаков из семейства High Performance GPU Net. Её обучили авторы модели на очищенных данных ImageNet-22k и ImageNet-1k с применением дистилляции SSLD. В карточке указаны 6,3 млн параметров, вычислительная сложность 0,5 GMACs и размер входа 224 × 224 при обучении и 288 × 288 при тестировании. Модель предназначена для отнесения изображений к категориям, извлечения карт признаков и получения эмбеддингов изображений. Её можно использовать как компактную визуальную основу для систем распознавания объектов и поиска по изображениям. Репозиторий содержит веса PyTorch и Safetensors; для работы применяется библиотека timm. Лицензия — Apache 2.0.

InCoder 6B — авторегрессионная модель семейства XGLM, разработанная командой исследователей во главе с Дэниелом Фридом и Арменом Агажаняном. Это декодерный Transformer с 7,7 млрд параметров, обученный на исходном коде с причинно-маскированной целью. Она поддерживает обычную генерацию продолжения слева направо и заполнение пропусков внутри кода. Модель предназначена для генерации и редактирования программного кода, включая дописывание фрагментов и заполнение пропущенных участков. Обучающие данные включали открытые репозитории GitHub и GitLab с разрешительными лицензиями, а также Stack Overflow; основные языки — Python и JavaScript, всего в данных представлены 28 языков программирования. Контекст модели составляет 2049 токенов. Для запуска доступны веса float32 и float16; README указывает, что версия float16 подходит для инференса на GPU с 16 ГБ памяти при небольшом размере пакета и последовательностях не менее 256 токенов. Репозиторий предоставляет веса PyTorch. Лицензия — CC BY-NC 4.0, допускающая использование с указанием авторства и ограничивающая коммерческое применение.

InverseCoder-CL-13B — модель для генерации кода по инструкциям, созданная авторами проекта InverseCoder с помощью дообучения CodeLlama-13b-Python-hf на данных, сформированных методом Inverse-Instruct. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров и контекстом до 16 384 токенов; она предназначена для запросов на естественном языке и генерации ответов и кода в формате text-generation. Модель подходит для написания и дополнения кода, выполнения инструкций по программированию и диалоговой помощи разработчику. В карточке указаны датасеты InverseCoder-CL-13B-Evol-Instruct-90K и Magicoder-Evol-Instruct-110K. README не приводит отдельные результаты бенчмарков или перечень поддерживаемых естественных языков. Репозиторий содержит веса Safetensors и использует лицензию llama2; условия применения следует сверять с лицензией и ограничениями исходной модели CodeLlama.

InverseCoder-CL-7B — языковая модель для генерации кода, созданная командой InverseCoder на основе CodeLlama-7b-Python-hf и дообученная по методу Inverse-Instruct. Модель семейства Llama с плотной архитектурой LlamaForCausalLM содержит около 6,6 млрд параметров и принимает контекст до 16 384 токенов. Модель предназначена для выполнения инструкций, связанных с кодом: она может генерировать фрагменты программ по запросу и поддерживать диалоговые сценарии с программированием. В карточке упоминаются обучающие наборы InverseCoder-CL-7B-Evol-Instruct-90K и Magicoder-Evol-Instruct-110K. Модель распространяется в формате Safetensors и доступна по лицензии Llama 2; условия этой лицензии определяют допустимое использование.

jina-embeddings-v5-omni-nano-clustering-GGUF — мультимодальная модель эмбеддингов, разработанная Jina AI и представленная в формате GGUF для llama.cpp. Это квантованный вариант jinaai/jina-embeddings-v5-omni-nano-clustering с текстовой, визуальной и аудиокомпонентами; модель преобразует текст, изображения, видео и аудио в 768-мерные векторы единого пространства. Благодаря этому документы можно индексировать с использованием текста, а выполнять поиск или сопоставление — по любой поддерживаемой модальности без переиндексации. Модель предназначена прежде всего для кластеризации мультимодальных данных и поддерживает контекст до 8192 токенов. Она использует pooling по последнему токену, содержит около 0,95 млрд параметров и поддерживает Matryoshka-размерности эмбеддингов 32, 64, 128, 256, 512 и 768. Заявлены входы в распространённых форматах изображений, видео и аудио, а также PDF. Доступны F16 и 13 уровней int-квантизации текстовой части; мультимодальные проекторы поставляются в F16. Сильные стороны модели — единое векторное пространство для нескольких модальностей, компактный размер, возможность локального запуска через llama.cpp и уменьшения размерности вектора под требования приложения. Ограничения связаны с тем, что для мультимодального режима требуются специальные патчи Jina AI для llama.cpp, которые, согласно README, ещё не включены в upstream-версию; также численные бенчмарки и дополнительные ограничения вынесены в отдельную документацию. Лицензия — CC BY-NC 4.0, допускающая использование с ограничениями, включая некоммерческий характер лицензии.

jina-embeddings-v5-text-small-clustering — компактная модель векторных представлений текста от Jina AI, предназначенная прежде всего для кластеризации. Это квантизированная версия базовой модели jinaai/jina-embeddings-v5-text-small, обученная с использованием дистилляции и задачных контрастивных потерь. Модель подходит для группировки текстов по смыслу и других сценариев, где требуется преобразование документов или фрагментов текста в эмбеддинги. Модель содержит 677 млн параметров, поддерживает многоязычные тексты и обрабатывает последовательности длиной до 32 768 токенов. Размер выходного эмбеддинга составляет 1024 измерения; поддерживаются Matryoshka-размерности 32, 64, 128, 256, 512, 768 и 1024, что позволяет выбирать компромисс между качеством и затратами на хранение и поиск. Используется pooling по последнему токену. Модель интегрируется с sentence-transformers, vLLM, llama.cpp и Elastic Inference Service. Сильными сторонами являются компактность, высокая производительность для своего размера, большой контекст и возможность адаптировать размер вектора. Ограничение модели — заявленная специализация на кластеризации; README не приводит подробностей о точном наборе поддерживаемых языков и не описывает качество для других задач. Распространяется по лицензии CC BY-NC 4.0, допускающей использование с ограничениями, включая некоммерческий характер лицензии.

Kiel-2.1-Echo — языковая модель для диалогов и выполнения инструкций, разработанная KielTech в экосистеме Kiel AI. Это плотная причинная модель семейства Llama с 3,2 млрд параметров, дообученная на базе kiel2/Kiel-2-Echo и распространяемая как самостоятельные веса Safetensors в формате FP16. Метаданные указывают контекст до 131 072 токенов. Модель предназначена для разговорных ассистентов, генерации кода, помощи с асинхронными сценариями на Python, рассуждений о программной архитектуре и решения задач из разных областей. Она принимает текстовые запросы и генерирует текст; заявленный язык — английский. В карточке заявлены высокая производительность и строгое следование инструкциям, но сравнительные оценки или результаты тестов не приведены. Указаны варианты развёртывания через Transformers, vLLM и Text Generation Inference. Лицензия в предоставленных данных не описана.

Redis LangCache Embed v3 Small — англоязычная Sentence Transformer модель Redis для построения плотных векторов предложений и абзацев. Она дообучена на базе sentence-transformers/all-MiniLM-L6-v2 на наборе LangCache Sentence Pairs и содержит около 25,9 млн параметров. Архитектура состоит из BERT-энкодера и среднего pooling; векторы размерности 384 сравниваются по косинусному сходству. Модель предназначена для оценки семантического сходства, семантического поиска и поиска похожих запросов для семантического кэширования. В README указана максимальная длина последовательности 128 токенов, а метаданные каталога задают нативный контекст 512 токенов. Обучение включало около 8 млн парных примеров; в карточке приведён результат nDCG@10 0,788 на тестовой оценке LangCache. Модель поддерживает английский язык и распространяется по лицензии Apache-2.0. Она выдаёт эмбеддинги для сравнения текстов, но качество и применимость за пределами английского языка и сценариев, близких к обучающим данным, не установлены.

redis/langcache-reranker-v2-mnrl — англоязычный Cross-Encoder, разработанный Redis и дообученный на базе Alibaba-NLP/gte-reranker-modernbert-base с использованием библиотеки Sentence Transformers. Модель принимает пары текстов и оценивает их релевантность; её обучали на парах LangCache, чтобы использовать в семантическом кэшировании и ранжировании результатов поиска. Модель основана на ModernBERT, содержит 149 млн параметров и поддерживает последовательности длиной до 8192 токенов. Она предназначена для английского языка и выдаёт оценку для одной пары текстов, которую можно использовать при классификации пар или переранжировании кандидатов в поиске и RAG. Модель не генерирует ответы и не формирует эмбеддинги: для оценки нескольких документов требуется отдельно подать каждую пару «запрос — документ». Карточка указывает лицензию Apache-2.0.

LateOn-hpool-regularized — англоязычная модель поиска LightOn в стиле ColBERT, обученная с помощью PyLate на основе семейства LateOn и ModernBERT-base. Она кодирует запросы и документы в многовекторные представления и сопоставляет их с помощью MaxSim; для документов применяется иерархический пулинг, сокращающий число хранимых векторов. Модель предназначена для семантического поиска по длинным документам, когда важно уменьшить размер индекса без существенной потери качества. Она обучена с несколькими бюджетами пулинга от 4 до 300 токенов, поэтому степень сжатия можно выбрать при использовании; авторы сообщают о сохранении 98,7% качества при бюджете 32 токена, примерно в пять раз меньшем, чем исходное представление. Полная длина документа при обучении — 300 токенов, запроса — 32; выходная размерность — 128, контекст — до 8192 токенов. Модель рассчитана на английский язык. В README приведены результаты на подмножестве наборов BEIR; они не гарантируют аналогичного качества на других коллекциях и языках. Репозиторий распространяется по лицензии Apache 2.0.

Это LoRA-адаптер для классификации текста на базе bert-base-uncased, опубликованный как часть проекта semantic-router. Модель дообучена для многозадачной классификации и рассчитана на применение в маршрутизации текстовых запросов; в README приведён пример пакетной классификации через semantic-router. Адаптер использует ранг 16 и alpha 16, а архитектура — BERT для классификации последовательностей. Репозиторий оптимизирован для работы с библиотекой Candle на Rust и содержит веса в формате safetensors. Общее число параметров базовой модели — 136,7 млн, контекст ограничен 512 токенами; основным языком карточки указан английский. Лицензия — Apache-2.0.

Masker Mini (v3) — модель Divergent Labs для обнаружения и разметки персональных данных в тексте. Это компактный шестислойный токен-классификатор на архитектуре BERT с 35,4 млн параметров по README; метаданные указывают 38,7 млн параметров. Модель принимает текст и размечает 12 типов сущностей, включая имена, адреса, телефоны, электронную почту, даты, номера карт и государственные идентификаторы, чтобы передать их на следующий этап обезличивания. Модель предназначена для локального офлайн-обнаружения PII на устройствах и в приложениях, где важно не отправлять исходный текст в облако. Для развёртывания доступны PyTorch fp16, ONNX fp16 и 4-битный ONNX, а также 4-битная Core ML-версия. Поддерживаются 23 европейских языка; контекст — до 512 токенов. В README описана дистилляция из Masker v2 с инициализацией весами первых шести слоёв Multilingual-MiniLM. По заявленным оценкам, 4-битные варианты почти совпадают с fp32 по разметке токенов. Ограничения включают более низкое качество распознавания имён по сравнению с полноразмерной Masker и остаточную ошибочную разметку компаний и других именованных сущностей как персон в нидерландских текстах. README рекомендует проверять качество на собственных данных и учитывать возможную утечку. Лицензия — Apache-2.0.

Mermaid-Coder-Llama-3-8B — объединённая модель генерации текста на базе Llama 3, созданная TroyDoesAI методом SLERP с помощью mergekit. Она объединяет две модели, дообученные для генерации кода и выполнения инструкций, поэтому подходит для ответов на запросы о коде и создания кода по описанию. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текстовые запросы, выдавая текст. Родной контекст составляет 8192 токена. Для работы нужны веса в формате safetensors и библиотека Transformers. Доступна по лицензии базовых моделей; сведения о конкретной лицензии в предоставленных данных отсутствуют.

MILCO — модель для многоязычного разреженного поиска, представленная в работе «MILCO: Learned Sparse Retrieval Across Languages via a Multilingual Connector» для ICLR 2026. Репозиторий omai-research/milco-650m содержит модель в формате PyTorch для Transformers; лицензия — Apache-2.0. Модель кодирует запросы и документы в разреженные представления в общем лексическом пространстве английского языка. Она предназначена для внутъязыкового и межъязыкового поиска: запрос и документ могут быть написаны на разных языках. Архитектура включает многоязычный трансформер, коннектор к размерности английского энкодера и LexEcho head, который дополняет английское представление весами исходных токенов, чтобы сохранять редкие имена и термины. В README описана конфигурация с BAAI/bge-m3-unsupervised и naver/splade-v3; заявлена оценка более чем на 39 языках. Размер модели по идентификатору репозитория — 650 млн параметров. README сообщает о результатах на многоязычных бенчмарках и уменьшении размера индекса и задержки поиска при прореживании представлений. Это заявления авторов; конкретные условия и методика сравнения в предоставленных данных не раскрыты. Для загрузки в Transformers README указывает trust_remote_code=True. Ограничение лицензии Apache-2.0 — её условия необходимо соблюдать при использовании и распространении модели.

deepset/minilm-uncased-squad2 — англоязычная модель для извлечения ответов на вопросы, разработанная deepset на базе microsoft/MiniLM-L12-H384-uncased и дообученная на SQuAD 2.0. Она предназначена для поиска ответа в предоставленном тексте или документах и подходит для систем вопросно-ответного поиска, в том числе построенных на Haystack. Модель относится к семейству BERT, имеет около 40 млн параметров и принимает контекст длиной до 512 токенов. Она обучалась и оценивалась на SQuAD 2.0, включая примеры без ответа. Доступны варианты весов PyTorch, Flax и safetensors. Лицензия — CC BY 4.0. Это экстрактивная QA-модель: она выделяет ответ из входного текста, а не формирует развёрнутый ответ на основе генерации. Её специализация на английском языке и ограничение контекста могут снижать качество на иных языках, длинных документах и вопросах вне данных обучения.

MiniMax-M2.7-GGUF — это GGUF-квантизация модели MiniMax-M2.7, разработанной MiniMaxAI и подготовленной пользователем dennny123 на основе исходных BF16-весов. Модель предназначена для генерации текста, диалоговых сценариев, программирования и агентских рабочих процессов. Она может запускаться через llama.cpp, LM Studio или Ollama. Модель использует архитектуру Mixture-of-Experts с 229 млрд параметров, из которых около 10 млрд активны для каждого токена. Доступны варианты от BF16 до Q2_K; размеры файлов составляют примерно от 83 до 427 ГБ. В метаданных указан английский язык, однако сведения о размере контекста и дополнительных модальностях отсутствуют. Квантизации Q6_K и Q5_K_M заявлены как обеспечивающие высокое качество, а Q4_K_M — как компромиссный вариант для большинства сценариев. Сильные стороны модели — специализация на кодировании и агентских задачах, высокая заявленная производительность в SWE-Pro, VIBE-Pro, Terminal Bench 2, GDPval-AA и MLE Bench Lite, а также возможность локального запуска в экосистеме GGUF. Основные ограничения — чрезвычайно высокие требования к памяти: несмотря на активацию лишь части параметров, при инференсе необходимо загрузить весь набор из 229 млрд параметров. Более агрессивная квантизация уменьшает требования к ресурсам, но может снижать качество. Лицензия указана как modified-MIT; подробные условия следует уточнять в официальной лицензии MiniMaxAI.