II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейahmedHamdi/IR-es-en-gemma — дообученная модель Sentence Transformers на базе google/embeddinggemma-300m. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для сравнения текстов по косинусному сходству. Архитектура включает Gemma3TextModel и усредняющий токены слой пулинга; число параметров — 302,8 млн. Максимальная длина последовательности в README составляет 256 токенов, а метаданные каталога указывают нативный контекст 2048 токенов. Модель предназначена для семантического поиска, оценки сходства предложений, поиска перефразировок, классификации и кластеризации текстов. README описывает дообучение на 2340 парах предложений с функцией потерь MultipleNegativesRankingLoss. Вход — текст, выход — эмбеддинги; данные не подтверждают конкретные поддерживаемые естественные языки. Репозиторий содержит веса в формате safetensors. Лицензия не приведена в предоставленных данных.
jina-embeddings-v5-text-nano-text-matching-mlx — порт модели jina-embeddings-v5-text-nano-text-matching для эффективного инференса на компьютерах Apple Silicon. Это плотная модель семейства EuroBERT с 211,7 млн параметров и контекстом до 8192 токенов; в README указан размер 239 млн параметров. Модель предназначена для сопоставления текстов и извлечения признаков, например для оценки семантического сходства и поиска релевантных текстов. Модель поддерживает многоязычный ввод. Репозиторий использует библиотеку MLX и формат safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое.
Карточка модели ratsheadhug/klue-roberta-base-klue-sts на Hugging Face совпадает с карточкой dyryu/klue_roberta-base-klue-sts, поэтому описание составлено по ней. dyryu/klue_roberta-base-klue-sts — модель Sentence-Transformers на архитектуре RoBERTa, разработчик которой не уточнён в карточке. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения текстов. Модель содержит 137,8 млн параметров, принимает текст и выдаёт векторные представления; максимальная длина контекста — 514 токенов. Для работы доступны веса в формате safetensors и библиотека sentence-transformers. При обучении использовалась функция потерь CosineSimilarityLoss. Метаданные указывают задачи sentence-similarity и feature-extraction; основное назначение для пользователя — поиск семантически похожих предложений. Карточка не сообщает лицензию, поэтому условия использования по ней определить нельзя.
Laguna S 2.1 — языковая модель Poolside для программной инженерии и агентного выполнения длительных задач. Это текстовая модель семейства Laguna с архитектурой Mixture-of-Experts: 118 млрд параметров всего, около 8 млрд активируются на токен. В ней 48 слоёв, 256 маршрутизируемых экспертов и один общий; используются grouped-query attention и сочетание глобального внимания со скользящим окном. Контекст составляет 1 048 576 токенов. Модель предназначена для генерации и анализа кода, работы с инструментами и решения многошаговых задач разработки. Она поддерживает диалог и вызов инструментов, а также встроенный режим рассуждений, управляемый параметром enable_thinking. Для ускорения вывода доступна спекулятивная декодировка с отдельной черновой моделью DFlash. Модель принимает и выдаёт текст. В README приведены результаты на бенчмарках программирования и агентных задач, однако они не гарантируют качество в конкретном проекте. Полная BF16-версия требует нескольких GPU; квантизированные варианты снижают требования к памяти. Модель распространяется по лицензии OpenMDW-1.1, разрешающей коммерческое и некоммерческое использование и модификацию; также следует соблюдать Acceptable Use Policy Poolside.
li-14b-v0.4 — языковая модель на 14 млрд параметров от wanlige, объединённая с помощью mergekit методом Model Stock. В качестве основы использована Qwen/Qwen2.5-14B-Instruct; в слияние также вошли Qwen2.5-Coder-14B, DeepSeek-R1-Distill-Qwen-14B и другие модели семейства Qwen. Модель имеет плотную архитектуру Qwen2 и доступна в формате safetensors. Модель предназначена для диалогов и генерации текста, включая ответы на вопросы, выполнение инструкций, рассуждения и задачи, связанные с кодом. Поддерживает контекст до 32 768 токенов; в карточке указаны китайский, английский, французский и немецкий языки. Для инференса используется библиотека Transformers. Лицензия — Apache-2.0. В README приведены результаты Open LLM Leaderboard, включая оценку IFEval 81,33 и MATH Level 5 55,74; они характеризуют тестирование автора и не гарантируют качество на пользовательских задачах. Модель объединяет несколько чекпойнтов, поэтому её поведение и качество могут различаться между типами задач; независимые подробные оценки в карточке не представлены.
thuan9889/llama_embedding_model_v1 — модель эмбеддингов предложений на базе архитектуры BERT, опубликованная пользователем thuan9889. Она преобразует предложения и абзацы в плотные векторы размерности 384 для семантического поиска, сравнения сходства и кластеризации. Модель рассчитана на работу через библиотеку Sentence Transformers; в репозитории представлены веса Safetensors, размер модели — 25,9 млн параметров, контекст — до 512 токенов. При обучении использовалась функция потерь MultipleNegativesRankingLoss с косинусным сходством. Это подходит для получения векторов, где семантически близкие тексты располагаются рядом, но качество для конкретного языка и предметной области зависит от данных пользователя. Лицензия в предоставленных сведениях не указана.
LongCat-2.0 — большая языковая модель семейства LongCat, представленная разработчиками модели. Это разреженная MoE-модель для генерации текста и диалогов; README указывает 1,6 трлн параметров и около 48 млрд активируемых на токен, тогда как метаданные репозитория указывают 42,1 млрд параметров. В карточке заявлены архитектура LongcatCausalLM и контекст 262 144 токена. Модель предназначена для программирования, понимания кода, редактирования репозиториев, автоматизированного выполнения задач и агентных сценариев. Она поддерживает интерфейс вызова инструментов; в README также описаны LongCat Sparse Attention для длинного контекста и ускорение декодирования с прогнозированием нескольких токенов. Вход и выход — текст. README сообщает о предварительном обучении более чем на 35 трлн токенов и развёртывании на GPU и NPU. Для GPU описана поддержка SGLang и рекомендована конфигурация из 16 H20; часть механизма Hierarchical Indexing при этом недоступна. Разработчик предупреждает, что модель не была специально спроектирована или всесторонне проверена для всех прикладных сценариев. Лицензия репозитория — MIT.
Luck-Qwen3-4b-Code-FineTune — модель Ahmetggg на основе Qwen3-4B-Instruct-2507, дообученная методом QLoRA для агентного программирования, многошаговых рассуждений, работы с инструментами и более точной оценки границ собственных знаний. Это плотная языковая модель архитектуры Qwen3 с 3,7 млрд параметров; в репозитории представлены веса LoRA-адаптера и объединённые веса FP16. Модель принимает текстовые запросы и генерирует текст, включая код и структурированные вызовы инструментов. В метаданных заявлен контекст до 262 144 токенов. Модель предназначена для навигации по репозиториям, генерации и исправления кода, решения задач по математике и естественным наукам, а также многошагового взаимодействия с инструментами. Обучение использовало трассы агентного программирования, примеры рассуждений и траектории вызова инструментов; README отмечает улучшение форматирования, взаимодействия с инструментами и ответов «не знаю», не заявляя о повышении предельных возможностей базовой модели. Карточка указывает английский язык. Лицензия — Apache-2.0. Это недавняя QLoRA-настройка, поэтому заявленные улучшения следует оценивать на конкретных рабочих задачах; README не приводит сравнительных бенчмарков. Для использования адаптера нужна базовая модель unsloth/Qwen3-4B-Instruct-2507.
yjoonjang/MIMO-mmBERT-base — многоязычная модель Sentence Transformer, дообученная на базе jhu-clsp/mmBERT-base для получения векторных представлений предложений и абзацев. Она использует энкодер ModernBERT с усредняющим пулингом токенов и создаёт плотные эмбеддинги размерности 768, которые можно сравнивать по косинусному сходству. По карточке модели, максимальная длина последовательности составляет 256 токенов; метаданные указывают контекст до 8192 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации. В README приведены оценки поиска на NanoMIRACL для арабского, немецкого, английского, испанского, французского, хинди, индонезийского, японского, русского и китайского языков. Лицензия в предоставленных данных не указана.
Карточка модели NostraEmpire/mirror-mxbai-embed-large-v1 на Hugging Face совпадает с карточкой mixedbread-ai/mxbai-embed-large-v1, поэтому описание составлено по ней. mxbai-embed-large-v1 — модель Mixedbread AI для построения векторных представлений предложений и текстов. Это плотная BERT-модель на 433,9 млн параметров с контекстом до 512 токенов; она принимает текст и выдаёт эмбеддинги для поиска и сопоставления текстов. Карточка указывает английский язык и библиотеку sentence-transformers. Модель предназначена для семантического поиска, извлечения релевантных фрагментов и оценки сходства предложений. Для поисковых запросов README рекомендует добавлять префикс «Represent this sentence for searching relevant passages:». Поддерживаются Matryoshka Representation Learning и бинарная квантизация, позволяющие уменьшать размер эмбеддингов и затраты на их хранение. В заявленной авторами оценке на MTEB модель показывает сильные результаты среди моделей размера BERT-large. Модель распространяется по лицензии Apache-2.0. Ограничения включают окно контекста в 512 токенов и необходимость использовать рекомендованный префикс для запросов в сценариях поиска; авторы также отмечают наличие ограничений, которые планировали исправить в версии v2, не уточняя их в этой карточке.
avsolatorio/MixEmbedMean-base-20240116012638-best — компактная модель эмбеддингов на архитектуре BERT, представленная в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 384 для семантического поиска и кластеризации. В README указано, что модель дистиллирована из BAAI/bge-small-en-v1.5 и имеет вчетверо меньше параметров вне эмбеддингового слоя; её автор сравнивает качество с all-MiniLM-L6-v2 при примерно половине числа параметров. Метаданные указывают 18,8 млн параметров, контекст до 512 токенов и формат safetensors. Модель рассчитана на текстовые задачи поиска и сравнения семантически близких фрагментов. В карточке отдельно не описаны лицензия и конкретные языки обучения, поэтому их нельзя уточнить по доступным сведениям.
onelevelstudio/ML-E5-0.6B-Instruct — мультиязычная модель эмбеддингов текста на архитектуре XLM-RoBERTa. Она преобразует запросы и документы в векторы для семантического поиска, ранжирования и оценки сходства. Для запросов рекомендуется добавлять краткую инструкцию на естественном языке, описывающую задачу; документам инструкции не нужны. В метаданных указано около 658,7 млн параметров, контекст до 514 токенов и лицензия MIT. Репозиторий содержит веса в форматах Safetensors и ONNX. Карточка связывает модель с Multilingual-E5-large-instruct и сообщает о поддержке 100 языков на основе XLM-RoBERTa; для языков с малым объёмом ресурсов качество может снижаться. Длинные тексты обрезаются примерно до 512 токенов.
Карточка модели Alexhuou/MNLP_M2_document_encoder на Hugging Face совпадает с карточкой thenlper/gte-large, поэтому описание составлено по ней. gte-large — модель текстовых эмбеддингов General Text Embeddings, разработанная Alibaba DAMO Academy на основе архитектуры BERT и обученная контрастивным обучением на крупном корпусе пар текстов с оценками релевантности. Она преобразует английские тексты в векторы размерностью 1024 и предназначена для поиска информации, сравнения семантической близости и ранжирования текстов. Модель применима в поисковых системах, семантическом сопоставлении предложений и других задачах, использующих текстовые эмбеддинги. В тесте MTEB для gte-large указана средняя оценка 63,13 по 56 задачам. Контекст ограничен 512 токенами: более длинные тексты обрезаются. Модель рассчитана только на английский язык. Лицензия — MIT.
Карточка модели imaneb942/MNLP_M2_document_encoder на Hugging Face совпадает с карточкой thenlper/gte-large, поэтому описание составлено по ней. gte-large — модель текстовых эмбеддингов General Text Embeddings, разработанная Alibaba DAMO Academy на основе архитектуры BERT и обученная контрастивным обучением на крупном корпусе пар текстов с оценками релевантности. Она преобразует английские тексты в векторы размерностью 1024 и предназначена для поиска информации, сравнения семантической близости и ранжирования текстов. Модель применима в поисковых системах, семантическом сопоставлении предложений и других задачах, использующих текстовые эмбеддинги. В тесте MTEB для gte-large указана средняя оценка 63,13 по 56 задачам. Контекст ограничен 512 токенами: более длинные тексты обрезаются. Модель рассчитана только на английский язык. Лицензия — MIT.
Карточка модели Ruthvikkk/MNLP_M2_document_encoder на Hugging Face совпадает с карточкой thenlper/gte-small, поэтому описание составлено по ней. gte-small — модель текстовых эмбеддингов семейства General Text Embeddings (GTE), разработанная Alibaba DAMO Academy на основе архитектуры BERT. Вариант small содержит около 40 млн параметров и принимает тексты длиной до 512 токенов; для более длинных текстов вход обрезается. Модель рассчитана на английский язык. Полученные эмбеддинги подходят для семантического поиска и сравнения предложений, а также могут использоваться в конвейерах поиска информации и ранжирования текстов. Модель можно применять, например, для поиска релевантных документов или оценки смыслового сходства запросов и фрагментов текста. Лицензия — MIT.
Карточка модели Youssefbou62/MNLP_M2_document_encoder на Hugging Face совпадает с карточкой thenlper/gte-large, поэтому описание составлено по ней. gte-large — модель текстовых эмбеддингов General Text Embeddings, разработанная Alibaba DAMO Academy на основе архитектуры BERT и обученная контрастивным обучением на крупном корпусе пар текстов с оценками релевантности. Она преобразует английские тексты в векторы размерностью 1024 и предназначена для поиска информации, сравнения семантической близости и ранжирования текстов. Модель применима в поисковых системах, семантическом сопоставлении предложений и других задачах, использующих текстовые эмбеддинги. В тесте MTEB для gte-large указана средняя оценка 63,13 по 56 задачам. Контекст ограничен 512 токенами: более длинные тексты обрезаются. Модель рассчитана только на английский язык. Лицензия — MIT.
Карточка модели viols/MNLP_M3_document_encoder на Hugging Face совпадает с карточкой thenlper/gte-large, поэтому описание составлено по ней. gte-large — модель текстовых эмбеддингов General Text Embeddings, разработанная Alibaba DAMO Academy на основе архитектуры BERT и обученная контрастивным обучением на крупном корпусе пар текстов с оценками релевантности. Она преобразует английские тексты в векторы размерностью 1024 и предназначена для поиска информации, сравнения семантической близости и ранжирования текстов. Модель применима в поисковых системах, семантическом сопоставлении предложений и других задачах, использующих текстовые эмбеддинги. В тесте MTEB для gte-large указана средняя оценка 63,13 по 56 задачам. Контекст ограничен 512 токенами: более длинные тексты обрезаются. Модель рассчитана только на английский язык. Лицензия — MIT.
jfarray/Model_all-distilroberta-v1_30_Epochs — модель эмбеддингов предложений на базе RoBERTa, опубликованная пользователем jfarray. Она кодирует предложения и абзацы в плотные векторы размерности 768 и предназначена для поиска по смыслу и кластеризации текстов. Модель можно использовать через библиотеку Sentence-Transformers; в метаданных указаны 95,2 млн параметров, контекст до 514 токенов и формат PyTorch. Обучение проводилось с функцией потерь CosineSimilarityLoss. Модель принимает текст и возвращает векторные представления, которые можно сравнивать для оценки смысловой близости. README не указывает поддерживаемые естественные языки или результаты бенчмарков. Лицензия в предоставленных данных не указана.
jamescalam/mpnet-qa — модель на базе MPNet, опубликованная James Calam и предназначенная для получения эмбеддингов предложений и абзацев. Она преобразует текст в плотные векторы размерности 768, которые подходят для семантического поиска, сравнения сходства и кластеризации. Модель содержит 136,7 млн параметров, принимает текст с контекстом до 514 токенов и распространяется в формате PyTorch. Модель обучалась с функцией MultipleNegativesRankingLoss и косинусной мерой сходства. Её можно использовать с Sentence-Transformers или Transformers, применяя корректную операцию pooling. Лицензия и конкретные поддерживаемые языки в предоставленных данных не указаны.
sentence-transformers/msmarco-distilbert-base-tas-b — перенос модели DistilBert TAS-B в формат Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 и оптимизирована для семантического поиска: например, чтобы находить документы по смыслу запроса, даже если в них используются другие слова. Модель построена на DistilBERT, принимает текст и выдаёт эмбеддинги; доступная длина контекста — 512 токенов. Поддерживаемый язык — английский. Модель предназначена для семантического поиска и вычисления сходства между текстами. Для использования с Transformers поверх контекстных представлений требуется применить соответствующую операцию pooling. Распространяется по лицензии Apache-2.0.
Модель sentence-transformers/msmarco-distilbert-multilingual-en-de-v2-tmp-lng-aligned разработана командой Sentence-Transformers. Это плотный энкодер на архитектуре DistilBERT, который преобразует предложения и абзацы в векторы размерности 768. Модель рассчитана на поиск семантически близких текстов и кластеризацию; для получения векторов используется библиотека Sentence-Transformers либо Transformers с подходящей операцией pooling. Модель принимает текст и выдаёт векторные представления, которые можно сравнивать для поиска по смыслу. Максимальная длина контекста составляет 512 токенов. Репозиторий содержит варианты в форматах PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Модель распространяется по лицензии Apache-2.0.
Nextcloud-AI/multilingual-e5-large-instruct — модель текстовых эмбеддингов семейства E5, основанная на XLM-RoBERTa-large. Разработчики исходной модели — Liang Wang, Nan Yang, Xiaolong Huang, Linjun Yang, Rangan Majumder и Furu Wei; репозиторий Nextcloud-AI содержит её копию. Модель имеет 24 слоя и размерность эмбеддинга 1024, насчитывает 658,7 млн параметров и принимает текст длиной до 514 токенов по метаданным; README предупреждает об усечении длинных текстов до 512 токенов. Она предназначена для создания векторных представлений текста и поддерживает извлечение признаков и сравнение предложений. Подходит для поиска документов по смыслу, ранжирования пассажей и оценки семантического сходства. При кодировании запроса рекомендуется добавлять краткую инструкцию, описывающую задачу; к документам такую инструкцию добавлять не требуется. Модель поддерживает 100 языков XLM-RoBERTa, хотя качество может снижаться для языков с малым объёмом обучающих данных. Репозиторий предоставляет веса в форматах safetensors и ONNX. Лицензия — MIT. README указывает, что результаты могут немного отличаться в зависимости от версий Transformers и PyTorch, а абсолютные значения косинусного сходства не следует трактовать как универсальную оценку: для поиска важнее относительный порядок результатов.
Карточка модели LimitlessMindd/Muse-Glimmer-30B на Hugging Face совпадает с карточкой meta-models/Muse-Glimmer-30B, поэтому описание составлено по ней. Muse Glimmer — модель Meta Superintelligence Lab с плотным причинным трансформером и отдельным энкодером восприятия. Это мультимодальная модель на 29,6 млрд параметров, дистиллированная из Muse Spark и опубликованная по лицензии Apache 2.0. Она предназначена для локального запуска на потребительском оборудовании и поддерживает диалог с изображениями. Модель рассчитана на многошаговые агентные сценарии: планирование, вызов инструментов, восстановление после ошибок и выполнение длительных задач. Её также можно применять для разработки кода, анализа скриншотов, диаграмм и документов, генерации синтетических данных и оценки ответов других моделей. В README заявлены результаты на бенчмарках агентного выполнения, включая SWE-Bench, DeepSearch QA и MCP-Atlas. Модель может ошибаться в рассуждениях, особенно в новых сценариях, и выдавать неточные, предвзятые или нежелательные ответы. Поддержки аудио нет; видео явно не оптимизировано и обрабатывается как отдельные кадры. Качество может снижаться для языков, на которых модель недостаточно оценивалась. Для агентных приложений разработчик рекомендует дополнительные меры защиты и проверки.
Карточка модели Pablongo/my-awesome-setfit-model на Hugging Face совпадает с карточкой lewtun/my-awesome-setfit-model, поэтому описание составлено по ней. lewtun/my-awesome-setfit-model — модель Sentence-Transformers на архитектуре MPNet с 136,7 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерности 768, предназначенные для сравнения смысловой близости текстов. Модель подходит для семантического поиска и кластеризации текстов, а также для получения эмбеддингов, используемых в других системах. В README указано обучение с функцией потерь CosineSimilarityLoss. Для применения описана работа через Sentence-Transformers или Transformers с подходящей операцией pooling. Максимальная длина контекста — 514 токенов. Модель принимает текст и выдаёт векторы. В карточке нет сведений о лицензии или целевых языках, поэтому определить условия использования и языковую специализацию по доступным данным нельзя.
Stern5497/nir-2024-xlm-roberta-base — модель Sentence Transformers, дообученная на базе FacebookAI/xlm-roberta-base. Она преобразует предложения и абзацы в плотные векторы размерности 768, которые сравниваются с помощью косинусного сходства. Модель содержит 305,2 млн параметров и обрабатывает последовательности длиной до 512 токенов. Модель предназначена для поиска семантически близких текстов и оценки сходства предложений; её также можно применять для поиска перефразирований, кластеризации и классификации текста. Архитектура включает XLM-RoBERTa и mean pooling. Карточка указывает обучающий набор из 164 848 примеров с тремя текстовыми полями; лицензия и конкретный перечень языков в предоставленных данных не приведены.
Карточка модели dansporici/NoInstruct-small-Embedding-v0-doc-cls на Hugging Face совпадает с карточкой avsolatorio/NoInstruct-small-Embedding-v0, поэтому описание составлено по ней. NoInstruct-small-Embedding-v0 — компактная модель эмбеддингов avsolatorio на архитектуре BERT, предназначенная для поиска и сопоставления предложений. По заявлению автора, она улучшает качество retrieval по сравнению с avsolatorio/GIST-small-Embedding-v0 и позволяет кодировать запросы без составления специальных инструкций. Модель содержит около 40 млн параметров, принимает текст, выдаёт векторные представления и поддерживает контекст до 512 токенов. Модель подходит для семантического поиска, подбора релевантных документов и оценки сходства текстов. В метаданных также указана задача извлечения признаков. Лицензия — MIT. Автор отмечает, что технические детали будут опубликованы позднее; поддержка библиотеки Sentence Transformers заявлена как ожидаемая, поэтому доступные способы применения могут быть ограничены.
nq-distilbert-base-v1 — модель Sentence-Transformers, обученная командой sentence-transformers на базе DistilBERT. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для поиска по смыслу, сравнения текстов и кластеризации. В метаданных указаны библиотека Sentence-Transformers, поддержка PyTorch, TensorFlow, ONNX и OpenVINO, а также контекст до 512 токенов. Модель подходит для построения семантического поиска и группировки текстов по смысловой близости. Лицензия Apache-2.0 разрешает использование и распространение на её условиях. Карточка не уточняет поддерживаемые естественные языки; качество для конкретного языка и предметной области следует проверять отдельно.
Это GGUF-представление NVIDIA Nemotron 3.5 Lightning — гибридной языковой модели NVIDIA с архитектурой Mixture-of-Experts, слоями Mamba-2 и выборочными слоями Attention. Модель содержит 30 млрд параметров, из которых при генерации активны около 3 млрд; контекст достигает 1 млн токенов, а на одной H100 — 256 тыс. токенов. В карточке представлены варианты F16, Q4_K_M и Q5_K_M; метаданные также указывают GGUF BF16. Модель предназначена для диалога и генерации текста, включая задачи с кодом, математикой, наукой, вызовом инструментов и структурированными ответами. Она поддерживает настраиваемый режим рассуждений и английский, испанский, французский, немецкий, итальянский и японский языки. Контрольные результаты в README показывают конкурентный уровень, но уступание более крупным моделям NVIDIA в большинстве приведённых агентных задач программирования и рассуждений. Этот чекпойнт описан как полноточечная основа для дальнейшей настройки, адаптации и выпуска квантованных вариантов; для непосредственного развёртывания NVIDIA рекомендует сопутствующий NVFP4-вариант. Репозиторий заявлен под лицензией OpenMDW-1.1.
bartowski/nvidia_Nemotron-Cascade-14B-Thinking-GGUF — это набор GGUF-квантизаций языковой модели Nemotron-Cascade-14B-Thinking, разработанной NVIDIA. Квантизации подготовлены bartowski с использованием llama.cpp release b7423 и метода imatrix; исходная модель построена на базе Qwen3-14B Base и дообучена NVIDIA с помощью многоэтапного SFT и последовательного доменного reinforcement learning. Модель предназначена для текстовой генерации общего назначения, сложного рассуждения, математических задач, программирования, software engineering, следования инструкциям и tool use. Она рассчитана исключительно на thinking mode и использует шаблон Qwen3-style ChatML с добавлением тега /think. Поддерживается английский язык. Модель имеет около 14B параметров; репозиторий GGUF предлагает варианты от IQ2_XS до BF16 размером примерно от 4,69 до 29,54 ГБ, что позволяет выбирать компромисс между качеством и требованиями к памяти для llama.cpp, LM Studio и совместимых приложений. Исходная конфигурация рассчитана на 32K токенов; с RoPE scaling по методу YaRN заявлена поддержка 64K токенов, а для SWE Verified — до 90K. Сильные стороны — специализация на глубоком рассуждении и высокие результаты NVIDIA на широком наборе тестов, включая математику и программирование. Ограничения связаны с режимом только thinking, англоязычной специализацией и неизбежной потерей качества у низкобитных квантизаций. Модель и производные квантизации распространяются по NVIDIA Open Model License.
Olmo-3.1-32B-Instruct-DPO — авторегрессионная трансформерная языковая модель Allen Institute for AI (Ai2), дообученная методом DPO на основе allenai/Olmo-3.1-32B-Instruct-SFT. Модель содержит 31,7 млрд параметров, работает с текстом и предназначена для диалогов и выполнения инструкций. Разработчики отмечают задачи математики, программирования, общих знаний и чата; контекстная длина составляет 65 536 токенов. Модель обучалась на английском языке и распространяется в формате Safetensors для использования с Transformers. Ai2 публикует семейство Olmo для исследований языковых моделей; лицензия Apache 2.0. В README приведены результаты оценивания, но они не гарантируют точность ответов в конкретных сценариях.