II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейnaver/efficient-splade-V-large-doc — модель-разработанная Naver асимметричная разреженная кодировочная модель SPLADE для поиска пассажей. Она предназначена для документной стороны поиска: тексты документов и абзацев преобразуются в разреженные векторы размерности 30 522, пригодные для извлечения и ранжирования по скалярному произведению. Для полноценного асимметричного поиска README рекомендует использовать отдельную модель для запросов. Модель основана на DistilBERT и принимает текст длиной до 512 токенов; в README для воспроизведения оценки указано ограничение 256 токенов. В метаданных отмечены английский язык и датасет MS MARCO. Модель подходит для семантического поиска и разреженного извлечения документов, но сама по себе не является полной парой кодировщиков для запросов и документов. Лицензия — CC BY-NC-SA 4.0, с условиями атрибуции, распространения на тех же условиях и некоммерческого использования.
EpistemeAI-codegemma-2-9b-ultra — языковая модель EpistemeAI на архитектуре Gemma 2, дообученная на модели unsloth/gemma-2-9b-bnb-4bit. В карточке указано дополнительное обучение на 297 тысячах примеров с отзывами и инструкциями по коду, включая инструкции по Python; общий объём этих данных составляет около 31,4 млн токенов. Модель содержит 9 млрд параметров и рассчитана на контекст до 8192 токенов. Модель предназначена для генерации кода и ответов на инструкции, в том числе для задач программирования на Python. Также её можно применять для диалога и генерации текстов. Метаданные Hugging Face указывают text-classification, но каталог относит модель к text-generation; описание и обучение в README поддерживают прежде всего сценарии генерации текста и кода. Для работы с Transformers в README рекомендуется форматировать запросы по шаблону Alpaca. Модель может ошибаться в фактах и сложных или неоднозначных задачах, а результаты зависят от данных обучения и контекста. Лицензия указана противоречиво: README сообщает Apache-2.0, тогда как метаданные Hugging Face указывают Gemma; перед использованием следует проверить применимые условия распространения.
OpenAssistant/falcon-40b-megacode2-oasst — дообученная языковая модель семейства Falcon на основе andreaskoepf/falcon-40b-megacode2. Её обучали в два этапа: сначала на наборе LosslessMegaCodeTrainingV2_1m_Evol_Uncensored для генерации кода, затем на данных OpenAssistant/oasst1 для диалогов. Модель использует архитектуру FalconForCausalLM, содержит 65 млрд параметров и распространяется в формате safetensors. Модель предназначена для генерации кода и ответов в диалоге; для общения применяется шаблон ChatML. Её можно использовать для написания и продолжения кода, а также для ответов на пользовательские запросы. В карточке не указаны контекстное окно и перечень поддерживаемых естественных языков. Лицензия — Apache-2.0.
Это конверсия модели deepdml/whisper-large-v3-turbo в формат CTranslate2, опубликованная jfmdai. Она предназначена для распознавания речи и может использоваться в CTranslate2, включая проекты на его основе, например faster-whisper. Веса сохранены в FP16; при загрузке тип вычислений можно выбрать через параметр compute_type. Модель принимает аудио и выдаёт распознанный текст. По метаданным она поддерживает множество языков, в том числе русский, английский, китайский, немецкий, испанский, французский, японский и корейский. Лицензия репозитория — MIT. Карточка не приводит сведения о контексте или дополнительных ограничениях качества.
Это предварительно обученная модель векторных представлений fastText для эстонского языка, опубликованная Facebook. Она предназначена для преобразования слов и текстовых фрагментов в векторы, которые можно использовать в классификации текста, определении языка и вычислении семантического сходства. Модель построена на fastText и обучена методом CBOW с позиционными весами на корпусах Common Crawl и Wikipedia. Векторы имеют размерность 300; используются символьные n-граммы длиной 5, окно контекста 5 и 10 отрицательных примеров. fastText работает на обычном процессоре и подходит для прототипирования и применения в продукционных системах. Модель предназначена для работы с текстом на эстонском языке. В README отмечено, что предсказания могут отражать смещения, присутствующие в обучающих данных. Лицензия — CC BY-SA 3.0.
FireRedVAD-GGUF — преобразованные в формат GGUF варианты модели FireRedVAD от FireRedTeam для определения речевой активности в аудиозаписях и использования с CrispStrobe/CrispASR. Модель построена на архитектуре DFSMN: восемь блоков используют свёртки с контекстом по предыдущим и последующим кадрам. В карточке описаны три варианта: обычный VAD с просмотром вперёд и назад, потоковый вариант без просмотра вперёд и AED для многометочной классификации речи, пения и музыки. Размер вариантов составляет около 568–589 тысяч параметров.
FlashModel-Qwen3.5-9B-GGUF — набор GGUF-квантизаций модели FlashModel-Qwen3.5-9B, подготовленный flashback2k на базе Qwen/Qwen3.5-9B. Исходная модель дообучена методом LoRA с RSLoRA на проекциях внимания и MLP, затем объединена с базовой моделью. Дообучение выполнено на 9 638 примерах и примерно 45 млн токенов, включая математические задачи, соревновательное программирование, агентные сценарии, следование инструкциям и научные данные. Модель ориентирована на рассуждения, генерацию и анализ кода, диалоги и вызовы инструментов. В карточке указан английский язык; поддержка других языков не заявлена. Модель имеет около 9 млрд параметров и распространяется в нескольких вариантах GGUF с разным уровнем квантизации и размером файлов примерно от 4,42 до 6,74 ГБ. Для квантизации использована собственная importance matrix, рассчитанная на этой дообученной модели. Варианты предназначены для локального запуска через llama.cpp, Ollama и LM Studio; заявлена совместимость с инструментальными вызовами и контекстом до 32 768 токенов при использовании рекомендованной конфигурации. Модель текстовая: vision tower отсутствует, поэтому мультимодальный ввод изображений не поддерживается. Сильными сторонами являются специализация на reasoning, coding и tool-calling, выбор вариантов под разные объёмы VRAM или RAM, а также оптимизация GGUF для локального запуска. Ограничения включают неизбежную потерю качества при низкой квантизации, необходимость оставлять память под KV-кэш, отсутствие заявленной поддержки изображений и ограниченность опубликованных сведений об оценках качества. Рекомендуемые параметры генерации взяты из карточки базовой модели и не перенастраивались специально для этого fine-tune; влияние тегов reasoning budget отмечено как экспериментальное. Модель распространяется по лицензии Apache-2.0.
gemma-4-12B-TNG-V8 — выпущенная Nightmedia дообученная версия мультимодальной модели Google Gemma 4 12B Instruct. Она предназначена прежде всего для помощи с backend-разработкой, проектированием и обучением LLM, а также программированием на Haskell, Rust, Go и Python. В обучении использовались созданные локально уроки, примеры трасс Claude Code и дистилляция ответов модели-учителя на части вопросов Polaris Alpha. Модель имеет плотную унифицированную архитектуру Gemma4Unified и распространяется в формате safetensors через Transformers. Базовая модель поддерживает работу с текстом, изображениями, видео и аудио, однако README описывает специализированные данные для программирования и не приводит подробностей об оценке этих возможностей именно у версии TNG-V8. Указана лицензия Apache 2.0. Карточка приводит результаты тестов и замеры для нескольких вариантов квантования, но не уточняет здесь длину контекста.
ciocan/gemma-4-E4B-it-W4A16 — GPTQ-квантизированная 4-битная версия модели google/gemma-4-E4B-it, подготовленная с использованием auto-round в режиме RTN. Модель имеет 8 млрд параметров, из которых 4 млрд являются эффективными благодаря архитектуре PLE. Она предназначена для запуска и обслуживания через vLLM, включая использование OpenAI-совместимого API и вызов инструментов. Модель поддерживает текст, изображения, аудио и видео. Нативная длина контекста составляет 128K токенов, однако для видеокарт с 12 ГБ VRAM рекомендуется ограничивать её 8K токенами, а при нехватке памяти — 4K. Квантованию подвергнут только языковой модуль; vision- и audio-компоненты сохранены в полной точности BF16. Размер памяти при загрузке составляет около 9,65 GiB, что позволяет использовать модель на видеокартах уровня RTX 3080 Ti или RTX 4070 с 12 ГБ VRAM. К сильным сторонам относятся поддержка нескольких модальностей, совместимость с vLLM и OpenAI-совместимым интерфейсом, а также сниженные требования к видеопамяти. Ограничения связаны с необходимостью использовать vLLM и специфический GPTQ-совместимый формат: AutoAWQ и llm-compressor для этой архитектуры не поддерживаются. Модель распространяется по лицензии Apache 2.0.
GerColBERT — модель поиска по немецким текстам на основе ColBERT, разработанная для эффективного ранжирования документов с помощью позднего взаимодействия между многовекторными представлениями запроса и документа. Она дообучена на deepset/gbert-base на немецком наборе samheym/ger-dpr-collection; в обучении использовались 10% случайно выбранных троек из итогового набора и внутрибатчевые негативные примеры. Модель использует архитектуру BERT, векторную длину 128 и контекст до 512 токенов; максимальная длина документа при обучении составляла 256 токенов. Модель предназначена для семантического поиска и извлечения документов, в том числе с индексированием через PyLate и Sentence Transformers. Для хранения весов используется safetensors. В карточке не приведены результаты количественной оценки качества или сведения о лицензии, поэтому качество на конкретных корпусах и условия использования следует проверять отдельно.
GigaChat 3.5 Ultra Base — базовая языковая модель семейства GigaChat, опубликованная ai-sage. Это предварительно обученный чекпойнт для продолжения обучения и генерации текста; для диалогового использования с выполнением инструкций в README рекомендуется отдельная instruct-версия. Модель предназначена для многоязычных сценариев, рассуждений, программирования и агентных систем с использованием инструментов. По README, архитектура — MoE с 432 млрд параметров всего и 28 млрд активных параметров, гибридным вниманием MLA и GatedDeltaNet и двумя головами Multi-Token Prediction. Указаны поддержка контекста до 131 072 токенов и языки русский и английский. Метаданные указывают 25 млрд параметров, поэтому размер модели в источниках расходится. Репозиторий содержит веса Safetensors; лицензия — MIT. Большой контекст, MoE и гибридное внимание рассчитаны на эффективную генерацию при длинных запросах, а README сообщает о сильных результатах на тестах кода, математики и рассуждений. Для запуска такой крупной модели требуется кластерная инфраструктура. Это базовая, а не выровненная instruct-модель: её поведение в диалоге и следование инструкциям может быть ограничено.
GLiClass Multilang Edge от Knowledgator — компактная модель семейства GLiClass для классификации последовательностей с произвольными метками в zero-shot и few-shot режимах. Модель насчитывает около 140 млн параметров и предназначена для эффективной классификации текста; карточка указывает архитектуру GLiClassModel и формат safetensors. Модель поддерживает тематическую и тональную классификацию, определение намерений, проверку следования правилам и безопасности LLM, выявление галлюцинаций, NLI и оценку релевантности текстовых фрагментов. Можно задавать описания меток, пользовательские инструкции и иерархии меток; текст и метки могут быть на разных языках. По карточке, модель обучена для 20 языков: шведского, норвежского, чешского, польского, литовского, эстонского, латышского, испанского, финского, немецкого, французского, румынского, итальянского, португальского, нидерландского, украинского, хинди, китайского, арабского и иврита. Английский также присутствует в метках языков карточки. Небольшой размер обеспечивает высокую скорость: в тесте автора средняя пропускная способность составила 553,6 примера в секунду при пакетной обработке на RTX PRO 6000 Blackwell. Качество зависит от языка и задачи; приведённые в карточке результаты показывают более низкие средние показатели Edge по сравнению с более крупными вариантами multilang-mini и multilang-ultra. Лицензия — Apache-2.0.
GLInt — англоязычная модель извлечения документов с поздним взаимодействием токенов, разработанная как дообучение LateOn-unsupervised. Модель использует архитектуру ModernBERT и содержит 149 млн параметров. Она формирует 128-мерные векторы для токенов и сопоставляет запрос с документом по MaxSim, учитывая до 32 токенов запроса и до 300 токенов документа; длина контекста составляет 8192 токена. Модель предназначена для поиска релевантных документов и сопоставления предложений в информационном поиске и RAG-системах. Обучение включало настройку на сложных негативных примерах для MaxSim-поиска и дистилляцию ранжирования от jinaai/jina-reranker-v3.5. В README приведены результаты оценки на наборах BEIR, но заявленные показатели относятся к описанным там экспериментам. Для работы доступны Sentence Transformers и PyLate; для поиска по крупным корпусам README рекомендует late-interaction-движок, например PyLate/PLAID. Модель рассчитана на английский язык. Лицензия — Apache-2.0.
GLM-4.5-GGUF — это GGUF-версия фундаментальной языковой модели GLM-4.5, разработанной Z.ai. Модель предназначена для создания интеллектуальных агентов и объединяет возможности рассуждения, программирования и взаимодействия с инструментами. Она поддерживает генерацию текста и рассчитана прежде всего на англоязычные и китайскоязычные сценарии. GLM-4.5 — гибридная reasoning-модель с двумя режимами работы: thinking mode для сложных рассуждений и использования инструментов и non-thinking mode для быстрых ответов. В модели 355 млрд общих параметров, из которых активно используется 32 млрд; архитектура построена с применением mixture-of-experts. Контекстное окно, дополнительные модальности и точные характеристики GGUF-квантизации в README не указаны. К сильным сторонам относятся сочетание рассуждений, программирования и агентных функций, а также возможность коммерческого использования и доработки. Ограничения включают высокие требования к вычислительным ресурсам исходной модели и отсутствие в предоставленных данных подробностей о конкретной GGUF-квантизации и совместимости с оборудованием. Модель распространяется под лицензией MIT.
ShiningValiant3 — дообученная Valiant Labs модель генерации текста на архитектуре GPT-OSS-20B с MoE. Она предназначена для научных рассуждений, проектирования систем искусственного интеллекта, решения сложных задач, общего и творческого reasoning, а также диалогов и следования инструкциям. В карточке указаны наборы данных с примерами рассуждений DeepSeek R1 0528; модель использует формат промпта gpt-oss-20b и обычно рекомендуется высокий уровень reasoning. Модель принимает текст и генерирует текст. Метаданные указывают контекст до 131 072 токенов и 1,6 млрд параметров; доступен формат safetensors, а в README отмечены веса bf16 и возможность локального запуска на настольных и мобильных устройствах, а также быстрого серверного инференса. Основной язык карточки — английский. Модель распространяется по лицензии Apache-2.0. README позиционирует её для открытого использования; практические результаты зависят от сценария и вычислительных ресурсов, особенно при использовании bf16.
GRPO-Think-7B-8k — плотная языковая модель класса Qwen2, разработанная институтом INSAIT для проверки решений задач по программированию. Она дообучена на наборе INSAIT-Institute/Aletheia-Train от DeepSeek-R1-Distill-Qwen-7B и содержит 7,1 млрд параметров. При обучении применялись GRPO, промежуточные рассуждения и отрицательные примеры; суффикс 8k обозначает бюджет рассуждений до 8 тысяч токенов завершения при обучении. Модель принимает условие задачи и несколько кандидатных решений, затем оценивает их и ранжирует, определяя корректное. Её можно использовать как функцию вознаграждения при оптимизации генерации кода и как автоматического судью в конвейерах оценки программ. Карточка указывает контекст до 131 072 токенов; базовая модель поддерживает диалог и генерацию текста, а в датасете обучения представлены решения на Python, C++ и Java. Лицензия CC-BY-NC-SA-4.0 требует указания авторства, распространения производных материалов на тех же условиях и запрещает коммерческое использование. Модель специализирована на верификации кандидатных решений и может уступать при переносе на более сильные или существенно отличающиеся решения; для точного формата запросов следует сверяться с кодом проекта.
Huihui-Qwen3.6-35B-A3B-abliterated-NVFP4 — квантованная версия модели Huihui-Qwen3.6-35B-A3B-abliterated, созданной huihui-ai на базе Qwen. Квантование NVFP4 выполнено Lna-Lab с использованием llm-compressor. Это мультимодальная MoE-модель для генерации текста и работы с изображениями, ориентированная прежде всего на агентное программирование, локальные AI-агенты, вызов инструментов и исследовательские сценарии. Модель содержит 35 млрд параметров, из которых при обработке активны около 3 млрд; используется архитектура Qwen3.5 MoE с 256 экспертами, гибридом Gated DeltaNet и attention, а также 8 маршрутизируемыми и одним общим экспертом. Поддерживается контекст до 262 144 токенов с возможностью расширения до 1 млн токенов. Визуальная часть сохранена в формате BF16. Заявлены результаты SWE-bench Verified 73,4 и Terminal-Bench 2.0 51,5, а скорость генерации достигает примерно 168 токенов в секунду на одной NVIDIA RTX PRO 6000 Blackwell. Ключевые преимущества — высокая скорость благодаря разреженной MoE-архитектуре, компактный размер около 21,9 ГБ, мультимодальность и сохранение возможностей для агентного кодинга. Ограничения связаны с аппаратной и программной совместимостью: требуется GPU NVIDIA Blackwell с поддержкой SM 120, около 22 ГБ видеопамяти и nightly-версия vLLM с CUDA 13.0; на Ampere и Hopper модель не работает. Модель abliteration обозначена как нецензурируемая, поэтому её следует использовать ответственно. Лицензия — Apache-2.0.
JaColBERT v1 — модель поиска японских документов на основе ColBERT, разработанная bclavie. Она предназначена для извлечения релевантных документов по запросу в системах поиска и RAG. В отличие от подхода с одним вектором на документ, ColBERT представляет текст набором эмбеддингов, что помогает сопоставлять отдельные аспекты запроса и документа; для работы модель использует RAGatouille. Модель дообучена на базе японской BERT cl-tohoku/bert-base-japanese-v3 и обучалась на японской части MMARCO с hard negatives — всего на 10 млн триплетов за одну эпоху. Это японская модель с контекстом до 512 токенов и 138,4 млн параметров. В карточке сообщается о хороших результатах на японских наборах для поиска, включая данные вне обучающего домена. Это начальная версия, обученная на одном датасете; для новых доменов может потребоваться дообучение. Лицензия — MIT.
hotchpotch разработала японскую модель поиска japanese-splade-v2 на архитектуре BERT. Это SPLADE v2 — модель, которая преобразует текст в разреженные лексические векторы, расширяя исходные слова терминами, полезными для поиска. Размер модели — 138,4 млн параметров, максимальная длина входа — 512 токенов; доступны веса в формате Safetensors. Модель предназначена для поиска и извлечения релевантных документов по японским запросам, в том числе в системах семантического поиска и retrieval-augmented generation. В README приведены результаты оценки на японских наборах JMTEB; авторы сообщают об улучшении среднего результата относительно базовой версии japanese-splade-base-v1. Обучение использовало японские наборы данных для поиска и вопросов-ответов, включая MSMARCO-ja. Модель дообучена на hotchpotch/japanese-splade-base-v1_5 и распространяется по лицензии MIT. В карточке Hugging Face указан pipeline-тег fill-mask, однако заявленное назначение модели — разреженное представление текста для поиска; тег не описывает этот сценарий напрямую. README ограничивает контекст тестирования длиной до 512 токенов.
KAT-Coder-V2.5-Dev-MTP-APEX-GGUF — это GGUF-квантизированная версия модели Kwaipilot/KAT-Coder-V2.5-Dev, опубликованная пользователем ursb01. Модель предназначена для генерации кода и агентских сценариев программирования. В её основе лежит MoE-модель Qwen3.6-35B-A3B с 40 слоями, 256 маршрутизируемыми и одним общим экспертом, гибридной архитектурой GatedDeltaNet с периодическими слоями полного внимания. Для исходной KAT-Coder заявлен результат 69,40 на SWE-bench Verified против 64,40 у базовой Qwen3.6-35B-A3B. Главное отличие сборки — добавленная MTP-голова для speculative decoding. Она перенесена из исходной Qwen3.6-35B-A3B без дополнительного дообучения на распределении скрытых состояний KAT-Coder. В README указано ускорение до 2,03 раза на наборе агентских задач программирования без изменения корректности; рекомендуемая глубина чернового предсказания — n-max 3. При слишком большой глубине эффективность снижается, и на n-max 8 модель может работать медленнее базового режима. Доступны варианты с разным размером и распределением точности, включая рекомендуемый MTP-APEX-i-quality-v2 размером 19,24 GiB и более компактный APEX-dynamic-v2 размером 11,91 GiB. Для запуска требуется совместимое программное обеспечение, например llama.cpp. Модель распространяется по лицензии Apache-2.0. Языки, размер контекста и точный перечень поддерживаемых модальностей в предоставленных данных не указаны; по описанию это текстовая модель генерации кода.
NVIDIA Kimi-K2.7-Code DFlash — вспомогательная модель типа draft head для ускорения вывода Moonshot AI Kimi-K2.7-Code с помощью спекулятивного декодирования DFlash и Model Optimizer. Она предназначена для разработчиков агентных систем, помощников по программированию и программных копилотов, а также для обычных задач следования инструкциям, где важно снизить задержку генерации. Модель использует трансформерную архитектуру; в метаданных указаны семейство Qwen3 и класс DFlashDraftModel, а в карточке — архитектура DeepSeek V3. Размер этой модели в метаданных указан как 4,2 млрд параметров; для базовой Kimi-K2.7-Code карточка приводит 1 трлн параметров всего и 32 млрд активных. Контекст составляет 262 144 токена. Карточка заявляет поддержку текстового, графического и видеовхода и генерацию текста; для запуска указаны vLLM и NVIDIA Blackwell B200. Обучение DFlash-модулей использовало синтетические ответы целевой модели на многоязычные запросы по программированию, математике, STEM и общим темам. Карточка заявляет возможность коммерческого и некоммерческого использования, а также указывает NVIDIA Open Model License и модифицированную MIT License для Kimi-K2.7-Code; перед использованием следует проверить применимые условия лицензий. DFlash — компонент спекулятивного декодирования, поэтому его применение предполагает совместимую базовую модель и конфигурацию сервинга.
Korean Neural Sparse Encoder (V33-ecom-v6) — корейская модель для разреженного поиска документов и товаров, разработанная автором репозитория mateon01. Это SPLADE-max энкодер на базе skt/A.X-Encoder-base с архитектурой ModernBERT и примерно 148,7 млн параметров. Модель преобразует текст запросов и документов в разреженные векторы: применяет MLM-голову, log(1+ReLU) и max pooling. Для запросов указано около 40 ненулевых измерений, для документов — около 68; словарь содержит 50 тысяч токенов, из которых 48,4% — корейские. Модель дообучена для корейского поиска товаров в электронной коммерции, сохраняя возможности общего поиска. В README приведены результаты на e-commerce-ko и корейских наборах Ko-StrategyQA, MIRACL-ko и Mr.TyDi-ko. Подходит для построения поискового индекса и ранжирования товаров или документов по текстовому запросу. Базовый энкодер поддерживает контекст до 16 384 токенов. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. README отмечает, что при дообучении разреженных представлений методы MarginMSE/KD могут ухудшать их качество; показатели бенчмарков относятся к описанным наборам данных.
LaSER-Qwen3-4B — плотный текстовый ретривер с латентным рассуждением, разработанный в рамках подхода LaSER и построенный на базе Qwen/Qwen3-4B. Модель дообучена методом самодистилляции так, чтобы выполнять несколько шагов внутреннего рассуждения в пространстве эмбеддингов перед формированием нормализованного вектора текста. Модель предназначена для получения эмбеддингов запросов и документов в задачах информационного поиска, семантического поиска и retrieval-augmented generation. В README приведён результат 28,0 nDCG@10 в среднем на бенчмарке BRIGHT и заявлена задержка примерно в 1,7 раза выше стандартного плотного ретривера. Размер составляет около 3,7 млрд параметров, архитектура — плотная Qwen3ForCausalLM, формат весов — safetensors, библиотека — Transformers. Контекст модели составляет 40 960 токенов. Карточка указывает английский язык; метаданные содержат датасет LaSER-Training. Модель принимает текст и выдаёт векторы эмбеддингов для поиска и ранжирования по близости. Лицензия — MIT. Качество зависит от выбранного числа шагов латентного рассуждения и характеристик данных; в карточке приведена оценка на BRIGHT, поэтому её не следует считать гарантией качества для любых доменов и наборов запросов.
Limbic-Tool-Use MCP Function Call Evaluator — компактная языковая модель Quotient AI, дообученная методом LoRA на базе Qwen2.5-0.5B-Instruct. Она оценивает вызовы инструментов Model Context Protocol (MCP), сопоставляя их с доступными схемами инструментов и историей диалога. Модель различает корректные вызовы, неверное имя инструмента, неправильные имена параметров и неподходящие значения параметров, возвращая оценку и объяснение в формате JSON. Для работы модели передают список доступных инструментов с их схемами и историю сообщений с запросом пользователя и вызовом инструмента. Архитектура — плотная Qwen2; базовая модель содержит 494 млн параметров, поддерживает контекст до 32 768 токенов и работает с текстовым вводом и выводом. Обучающие данные основаны на инструментах публичных MCP-серверов с дополнением синтетическими примерами. Модель предназначена для оценки качества вызовов инструментов, например в проверочных наборах и системах, использующих MCP. Её узкая специализация не подразумевает общей оценки произвольных ответов или надёжности инструментов вне заданной схемы и контекста. Лицензия — Apache-2.0; опубликованы LoRA-адаптеры размером около 40 МБ.
LIMI-Air — агентная языковая модель, разработанная GAIR и дообученная на базе zai-org/GLM-4.5-Air. Она предназначена для диалоговых сценариев, рассуждений и работы с инструментами в агентных приложениях; сообщения подаются в формате OpenAI chat, инструменты можно передавать отдельно. По README, базовая модель содержит около 107 млрд параметров, тогда как метаданные репозитория указывают 8,5 млрд параметров и архитектуру семейства GLM-4 MoE; заявленный контекст составляет 131 072 токена. Карточка описывает обучение на компактных курированных агентных данных GAIR/LIMI и приводит оценку на AgencyBench. Модель рассчитана на более быстрый и менее затратный запуск по сравнению с крупными вариантами LIMI, с возможным снижением качества на сложных задачах. Проверка проводилась на курированных агентных задачах, поэтому результаты могут не переноситься на другие сценарии. Для запуска в README приведены Transformers, vLLM и SGLang. Лицензия репозитория — Apache-2.0.
EpistemeAI/Llama-3.2-3B-Agent007-Coder — дообученная модель для генерации текста и кода на основе Llama 3.2 3B Instruct. Разработчик карточки — EpistemeAI; базовая модель — unsloth/llama-3.2-3b-instruct-bnb-4bit. Это плотный авторегрессионный трансформер семейства Llama с 3,2 млрд параметров, поддержкой диалогового формата и интерфейса вызова инструментов. В метаданных указан контекст до 131 072 токенов. Модель дообучена на Agent dataset, CodeAlpaca-20k и magpie-ultra-v0.1 и предназначена для программирования, диалоговых помощников и агентных сценариев. Она принимает и генерирует текст, включая код; в карточке базового семейства перечислены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Доступна под лицензией Apache 2.0. Показатели качества на задачах кодирования для этой конкретной версии в карточке не приведены.
LRAT Qwen3-Embedding-0.6B Strong768 — плотная модель для поиска релевантных текстовых фрагментов по веб-поисковому запросу. Разработана на базе Qwen/Qwen3-Embedding-0.6B и дообучена с полным обновлением параметров на данных LRAT; применялись негативные примеры из той же строки набора данных. Веса модели содержат около 508 млн параметров по метаданным, а README указывает 595 776 512 параметров и размерность эмбеддинга 1024. Модель использует архитектуру Qwen3, извлечение последнего токена и L2-нормализацию; контекст составляет до 32 768 токенов по метаданным. Модель предназначена для плотного семантического поиска: она преобразует запросы и passages в векторы, пригодные для поиска релевантных ответов в коллекции текстов. В карточке описан формат запроса с инструкцией для поиска фрагментов, отвечающих на веб-запрос. Указаны лицензия Apache-2.0 и формат весов safetensors. Языковая поддержка явно не перечислена; базовая модель описана каталогом как многоязычная.
Mamba-Codestral-7B-v0.1 — открытая модель для генерации кода, разработанная командой Mistral AI. Она построена на архитектуре Mamba2 и предназначена для написания и дополнения программного кода в диалоговом и других сценариях генерации. В карточке модель сравнивается с кодовыми моделями Transformer сопоставимого размера на стандартных бенчмарках. Репозиторий содержит веса в формате safetensors, а для запуска рекомендуется библиотека mistral-inference; в метаданных также указана поддержка vLLM. Модель распространяется по лицензии Apache-2.0. Подтверждены возможности работы с кодом, но список поддерживаемых языков программирования и длина контекста в предоставленных данных не приведены.
Mamba-Codestral-7B-v0.1-python_coding_assistant_16bit — локально запускаемый генератор кода, опубликованный Agnuxo (Francisco Angulo de Lafuente) и связанный в карточке с экосистемой P2PCLAW. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и принимает текстовый ввод, выдавая текст; заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Модель предназначена прежде всего для помощи в написании и генерации кода, включая Python, JavaScript, TypeScript, Rust, Go и C++, а также примеры задач научных вычислений и машинного обучения с NumPy, SciPy, Pandas, PyTorch, TensorFlow и JAX. README также заявляет навыки координации агентов и интеграции MCP и A2A. Языки карточки — английский и испанский; качество генерации кода на перечисленных языках программирования в материалах не подтверждено независимыми оценками.
Memorisea-4b-v1 — компактная плотная языковая модель на архитектуре Qwen3, разработанная на основе Qwen/Qwen3-4B-Instruct-2507 посредством дообучения. Она предназначена для диалоговых агентных сценариев: вызова функций и инструментов, формирования структурированных JSON-ответов, генерации кода и защитного исправления уязвимостей. По карточке модели, в бенчмарках она показала 93,3% синтаксической корректности AST и 100% соблюдения заданных ограничений; результат BFCL составил 46,7%, поэтому качество вызова функций зависит от задачи и не гарантирует безошибочную работу. Модель принимает текст и генерирует текст, поддерживает контекст до 262 144 токенов и ориентирована на английский язык. Распространяется по лицензии Apache-2.0.