II.6Документация и сопровождение разработки

LLMLingua-2-XLM-RoBERTa-Large-MeetingBank — модель Microsoft на архитектуре XLM-RoBERTa Large, дообученная для классификации токенов и сжатия промптов без привязки к конкретной задаче. Для каждого токена она оценивает вероятность сохранения, помогая сокращать текст с сохранением полезной информации. Модель содержит 658,8 млн параметров, принимает текст и имеет контекст длиной до 514 токенов. Модель обучена на данных MeetingBank, подготовленных для экстрактивного сжатия текста по методике LLMLingua-2. Её можно применять для сжатия стенограмм совещаний перед последующими задачами, например ответами на вопросы и суммаризацией. Она выдаёт метки токенов, используемые при отборе текста; сама по себе не предназначена для генерации ответов или пересказов. Лицензия — MIT.

MiniCPM-Reranker — двуязычная модель переранжирования текстов, совместно разработанная ModelBest, лабораторией обработки естественного языка Университета Цинхуа (THUNLP) и группой информационного поиска Северо-Восточного университета (NEUIR). Она оценивает релевантность документов запросу и переупорядочивает результаты первичного поиска, в том числе в конвейерах RAG. Модель рассчитана на китайский и английский языки и на переранжирование между ними. Модель дообучена на основе openbmb/MiniCPM-2B-sft-bf16, использует двунаправленное внимание и обучалась в несколько этапов примерно на 6 млн примеров, включая открытые, синтетические и закрытые данные. В README указан размер 2,4 млрд параметров и максимум 1024 входных токена; метаданные Hugging Face сообщают 2,7 млрд параметров и контекст 2048 токенов. Для применения можно передавать инструкцию вместе с запросом и документом либо использовать режим без инструкции. Опубликованные оценки включают результаты на наборах C-MTEB/Retrieval, BEIR и межъязыковых тестах. Для запуска доступны веса safetensors и библиотека Transformers. Условия лицензии в предоставленных данных не указаны.

mist-reranker-150m — англоязычный кросс-энкодерный реранкер от Olaverse на базе answerdotai/ModernBERT-base, дообученный на наборе olaverse/reranker-general-en-llm-judged. Модель содержит около 149 млн параметров и принимает пару «запрос — кандидатный фрагмент», выдавая единственную оценку релевантности для переупорядочивания результатов поиска. Она предназначена для второго этапа конвейера поиска и RAG: уточняет ранжирование верхних результатов, полученных, например, с помощью BM25 или биэнкодера. В описанной оценке NanoBEIR модель показала близкие к другим реранкерам результаты на QA и поиске фактов; для аргументативного поиска результаты были слабее. Контекст составляет до 8192 токенов. Модель обучалась на размеченных LLM оценках релевантности; данные карточки указывают английский язык. Распространяется по лицензии Apache-2.0. Оценки производительности приведены для указанных тестов и не гарантируют аналогичного качества на других наборах данных или языках.

Карточка модели mono-of-pg/mmarco-mMiniLMv2-L12-H384-v1-gguf на Hugging Face совпадает с карточкой cross-encoder/mmarco-mMiniLMv2-L12-H384-v1, поэтому описание составлено по ней. Это мультиязычная модель Cross-Encoder семейства XLM-RoBERTa, дообученная авторами Sentence Transformers на MMARCO — автоматически переведённой на 14 языков версии датасета MS MARCO. Модель основана на mMiniLMv2-L12-H384, содержит 124,3 млн параметров и рассчитана на последовательности длиной до 514 токенов. Модель предназначена для повторного ранжирования результатов информационного поиска: она получает запрос и отдельный найденный фрагмент текста, оценивает их релевантность, после чего фрагменты можно отсортировать по оценкам. Подходит для этапа reranking после первичного поиска, например, в поисковой системе или конвейере RAG. Карточка отмечает поддержку 14 языков и сообщает, что модель также хорошо показала себя на других языках. Доступна в форматах PyTorch, Safetensors, ONNX и OpenVINO; для использования предусмотрена библиотека Sentence Transformers. Лицензия — Apache-2.0. Обучение на машинных переводах MS MARCO может ограничивать качество на языках и типах запросов, отличающихся от обучающих данных.

johnnyboycurtis/ModernBERT-small — англоязычная модель эмбеддингов Sentence Transformers, разработанная Johnny Boy Curtis. Это компактный ModernBERT с 47,7 млн параметров, mean pooling, выходными векторами размерности 384 и максимальной длиной последовательности 1024 токена. Модель обучена с нуля, затем прошла контрастивное обучение на наборах all-nli, trivia-qa-triplet и MS MARCO, дистилляцию по BAAI/bge-base-en-v1.5 и дообучение на STSB для оценки семантического сходства; используется косинусное сходство. Модель подходит для поиска семантически близких предложений, сравнения текстов и построения векторного поиска на английском языке. В README приведены результаты на STS-dev и STS-test, но автор предупреждает, что это ранний эксперимент с неудачным масштабированием архитектуры и не рекомендует его для production; предлагается перейти на ModernBERT-small-v2. Веса доступны в формате safetensors, лицензия MIT.

GooseReason-4B-Instruct — плотная языковая модель NVIDIA на архитектуре Qwen3 с 3,7 млрд параметров, дообученная на основе Qwen/Qwen3-4B-Instruct-2507 методом обучения с подкреплением по проверяемым наградам (RLVR). Для обучения использован набор GooseReason-0.7M с задачами по математике, программированию и естественным наукам; модель предназначена для исследовательских и разработческих сценариев рассуждения и следования инструкциям. Модель принимает текст и генерирует текст. Она подходит для решения математических задач, написания и анализа кода, ответов на вопросы по STEM-дисциплинам, логических головоломок и выполнения инструкций. Заявленная длина контекста — до 262 144 токенов; в метаданных указан английский язык. README сообщает о сравнительных результатах на 15 тестах, охватывающих математику, программирование, STEM, следование инструкциям и логические задачи. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Авторы позиционируют её для исследований и разработки; опубликованные результаты бенчмарков сами по себе не гарантируют качество на произвольных запросах.

Карточка модели HotOpenSourcing/OmniCoder-9B на Hugging Face совпадает с карточкой Tesslate/OmniCoder-9B, поэтому описание составлено по ней. OmniCoder-9B — языковая модель Tesslate на 9 млрд параметров, дообученная на базе Qwen/Qwen3.5-9B для задач программирования и работы в роли кодового агента. Модель использует гибридную архитектуру с Gated Delta Networks и стандартными слоями внимания, поддерживает контекст до 262 144 токенов и режим рассуждений. Модель обучена на более чем 425 тысячах траекторий агентной разработки ПО: написании и изменении кода, работе с инструментами и терминалом, разборе ошибок и многошаговых задачах. Она рассчитана на интеграцию в среды кодовых агентов; формат вызова инструментов гибкий, но лучше работает со scaffolding-паттернами, похожими на те, что представлены в обучающих данных. В репозитории указана поддержка архитектуры VLM Qwen3.5, однако карточка описывает прежде всего применение для программирования. В карточке приведены результаты на GPQA Diamond, AIME 2025 и Terminal-Bench 2.0; они не гарантируют аналогичное качество в других задачах. Небольшой объём оценки неанглоязычных задач ограничивает выводы о работе за пределами английского. Модель распространяется по лицензии Apache 2.0.

OpenCodeInterpreter-DS-6.7B — модель генерации кода из семейства OpenCodeInterpreter, разработанная для объединения генерации кода с его выполнением и последующей доработкой по результатам. Она основана на DeepSeek Coder 6.7B Base и использует плотную архитектуру LlamaForCausalLM с 6,6 млрд параметров. Модель принимает текстовые запросы и генерирует код и ответы в диалоговом формате; заявленный контекст составляет 16 384 токена. В карточке приведены результаты на HumanEval и MBPP: 76,2 и 73,9 соответственно для указанных основных вариантов тестов. Модель подходит для написания кода по описанию задачи и интерактивной помощи в программировании. README описывает выполнение и итеративную доработку как возможности семейства; доступность внешнего исполнителя зависит от используемой системы. Модель распространяется по лицензии Apache 2.0.

s-batman/Ornith-1.0-9B-NVFP4-MTP-GGUF — набор из трёх GGUF-квантизаций модели Ornith-1.0-9B, разработанной командой DeepReinforce. Исходная модель создана на базе Qwen3.5-9B и дообучена с помощью reinforcement learning для агентного программирования и задач, требующих рассуждений. Эта версия дополнительно оснащена головами Multi-Token Prediction (MTP), заимствованными из Qwen3.5-9B-MTP, для ускорения speculative decoding в llama.cpp. Модель имеет плотную архитектуру Qwen3.5: 32 основных слоя и один встроенный MTP-слой, 9,2 млрд параметров, hidden size 4096 и словарь из 248 320 токенов. Используется гибридная схема внимания с линейным SSM и полным attention в каждом четвёртом слое. В репозитории доступны варианты Q8_0 размером 9,1 ГБ, NVFP4 и MXFP4 размером по 5,1 ГБ. NVFP4 оптимизирован для NVIDIA Blackwell, включая RTX PRO 6000 и DGX Spark, тогда как Q8_0 рассчитан на широкий спектр CPU и GPU. Визуальная башня отсутствует, поэтому практическое применение этой сборки ограничено текстовым выводом, несмотря на сохранённый мультимодальный словарь. Сильные стороны модели — специализация на агентном кодировании и рассуждениях, уменьшенный размер по сравнению с полноразмерной BF16-моделью и возможность ускоренного декодирования с MTP. NVFP4 обеспечивает наиболее эффективный путь на Blackwell, MXFP4 использует стандарт OCP, а Q8_0 служит вариантом с максимальной точностью. Ограничениями являются зависимость преимуществ NVFP4 от оборудования Blackwell, необходимость совместимой поддержки llama.cpp и отсутствие визуального ввода в данной GGUF-сборке. Модель распространяется по лицензии MIT.

Google PaliGemma 3B FT OCRVQA 448 — дообученная версия компактной модели компьютерного зрения и языка PaliGemma для визуальных вопросов и ответов с чтением текста на изображениях. Она принимает изображение и текстовый запрос, затем генерирует текстовый ответ. В основе PaliGemma лежат визуальная модель SigLIP и языковая модель Gemma; суффикс 448 обозначает вариант с разрешением изображений 448 пикселей. Модель предназначена для одношагового взаимодействия и лучше подходит для настройки под конкретную задачу, чем для диалога общего назначения. Основной сценарий — отвечать на вопросы по тексту, распознанному на изображении: например, извлекать сведения из вывесок, форм или скриншотов. Модель относится к семейству мультиязычных VLM, однако конкретный набор языков этой версии не уточнён. Для использования действуют условия лицензии Gemma. Возможны ошибки распознавания и ответов; модель может отражать смещения обучающих данных, а её результаты требуют проверки. Она не предназначена для многоходового общения, а качество без дополнительной настройки на целевую задачу может быть ограничено.

Mungert/Qwen3-32B-GGUF — набор GGUF-квантованных вариантов модели Qwen3-32B, подготовленных с помощью llama.cpp. Репозиторий предназначен для локального запуска и инференса текстогенерационной модели, в том числе на системах с ограниченными ресурсами, низким объёмом GPU-памяти, CPU и edge-устройствах. Основной акцент сделан на ультранизкобитной квантовке IQ-DynamicGate с адаптивным распределением точности по слоям в форматах 1–2 бита. Метод сохраняет более высокую точность за счёт использования разных схем квантовки для различных частей модели и защиты embeddings и выходных слоёв. В README приведены результаты для Llama-3-8B-Instruct с контекстом 2048 токенов, однако эти показатели нельзя напрямую считать характеристиками Qwen3-32B. Точные архитектурные параметры, размер контекста, поддерживаемые языки и модальности Qwen3-32B в карточке не указаны. Преимущество набора — существенное снижение требований к памяти при сохранении приемлемого качества, особенно в сценариях, где важна максимальная компактность. Компромиссы включают возможное снижение точности по сравнению с более высокобитными или полноразмерными версиями, а также небольшие накладные расходы на размер и скорость у DynamicGate-вариантов. Модель распространяется по лицензии Apache 2.0.

rodrigomt/Qwen3.5-4B-Uncensored-Aggressive — мультимодальная диалоговая модель на архитектуре Qwen3.5, опубликованная в виде весов safetensors для использования с Transformers, vLLM, SGLang и совместимыми средами. Это конверсия релиза Qwen3.5-4B-Uncensored-HauhauCS-Aggressive, созданного на базе Qwen/Qwen3.5-4B; в README вариант описан как агрессивный и с удалёнными отказами. Модель принимает текст и изображения, а архитектура и конфигурация репозитория также предусматривают обработку видео. Контекст составляет 262144 токена. Она предназначена для диалога и мультимодальных запросов; метаданные также отмечают интерфейс вызова инструментов. Репозиторий содержит веса в формате safetensors, преобразованные из GGUF. Для работы требуется достаточно свежая версия программного стека с поддержкой Qwen3.5. Лицензия в предоставленных источниках не указана.

fallentree/Qwen3.8-27B-Uncensored-GP100-GGUF — это мультимодальная GGUF-сборка модели Qwen3.8-27B с модификацией Uncensored (abliteration). В основе указаны Qwen/Qwen3.8-27B, JonathanColetti/Qwen3.8-27B-Uncensored, mradermacher/Qwen3.8-27B-Uncensored-i1-GGUF и incoai/Qwen3.8-27B-DFlash2. Сборка предназначена для запуска через llama.cpp и оптимизирована разработчиком fallentree для двух видеокарт Tesla P100 с архитектурой Pascal sm_60. Основной файл использует квантизацию Q4_1_G64 примерно на 4,5 бит на вес и занимает около 15 ГиБ; выходная голова хранится в Q8_0, эмбеддинги — в Q4_1, используется calibration imatrix. В комплект входят отдельная DFlash-модель для speculative decoding и vision projector в формате F16, поэтому сборка поддерживает обработку текста и изображений. Заявлены английский и китайский языки, а также контекст до 128K токенов. Для максимальной производительности требуется специальная ветка llama.cpp-gp100 с поддержкой sm_60, LoopSpec и связанных оптимизаций; стандартный llama.cpp не загружает тип Q4_1_G64, но может использовать поставляемый вариант Q4_1. Главное преимущество — оптимизация скорости декодирования и работы с длинными сессиями на Tesla P100: в приведённых тестах G64 быстрее Q4_1 примерно на 10% в обычном режиме и на 4,8% в сценарии с контекстом 128K и компактированием. Ограничения включают зависимость от специализированного программного стека и оборудования sm_60, несовместимость с P40 и видеокартами GTX 10-й серии, а также небольшое ухудшение perplexity и более слабые результаты на коротких запросах по сравнению с Q4_1. Лицензия — Apache-2.0.

Qwen3.8-27B-Uncensored-NVFP4-RTX5090 — это квантизированный вариант мультимодальной vision-language модели Qwen3.8-27B, разработанный на основе orcarouter/Qwen3.8-27B-Uncensored и опубликованный fleetml. Модель предназначена для задач image-text-to-text, локальных исследований, оценки моделей и разработки агентных систем. Поддерживаемые языки — английский и китайский. Модель использует архитектуру Qwen3_5ForConditionalGeneration, сохраняет vision-language возможности и 15 нативных MTP-тензоров. Квантование выполнено в формате ModelOpt NVFP4; размер целевой модели составляет около 20,59 ГБ. Максимальный архитектурный контекст заявлен на уровне 262 144 токенов, а проверенный профиль запуска поддерживает 122 880 токенов. Рекомендуемая конфигурация рассчитана на NVIDIA RTX 5090 с 32 ГБ видеопамяти и запуск через SGLang с парой DSpark для speculative decoding. К сильным сторонам относятся высокая скорость декодирования, поддержка длинного контекста и оптимизация под RTX 5090: в указанном тесте медианная скорость составила 217,73 токена в секунду, а медианное время до первого токена — 0,113 секунды. Эти показатели получены при ограниченной конфигурации тестирования и не включают обработку промпта; производительность и доступная ёмкость могут зависеть от версии runtime и состояния GPU. Использование ориентировано на локальный контролируемый запуск, а совместимость с другой аппаратурой и средами не подтверждена. Модель распространяется по лицензии Apache 2.0.

Qwen3-Reranker-4B-AWQ-INT4 — это производная версия модели Qwen3-Reranker-4B, разработанная сообществом drawais на основе исходной модели Qwen. Она предназначена для переранжирования результатов поиска и построения полностью локальных стеков семантического поиска в сочетании с embedding-моделью. Модель может использоваться в задачах retrieval, где требуется уточнить порядок найденных документов или сопоставить запрос с кандидатами. Модель представляет собой 4-битную квантизацию весов в формате INT4 с использованием AWQ и имеет размер на диске около 2,7 ГБ. Указанная максимальная длина контекста составляет 32 768 токенов при использовании vLLM. Поддерживается английский язык; другие языки в карточке не заявлены. Это текстовая модель, доступная через библиотеку Transformers и совместимая с vLLM. Ключевое преимущество версии — существенно уменьшенный размер по сравнению с полной моделью, что упрощает локальное развертывание. Ограничения включают поддержку только английского языка, необходимость достаточного запаса видеопамяти для KV-кэша и потенциальные потери качества, связанные с 4-битной квантизацией. Модель распространяется по лицензии Apache License 2.0; для производной работы указаны исходная модель и требования по атрибуции.

Qwen3-VisionCaption-2B-GGUF — мультимодальная модель для генерации описаний изображений и визуального анализа, разработанная prithivMLmods. Она основана на Qwen3-VisionCaption-2B, дообученной версии Qwen3-VL-2B-Instruct-abliterated-v1. Модель предназначена для создания подробных подписей к изображениям, анализа сложных сцен, художественных материалов, технических схем и чувствительного контента, а также для задач аннотации датасетов, исследований модерации и red-teaming, accessibility-инструментов и генеративной оценки безопасности. Модель работает с текстом и изображениями, поддерживает английский и китайский языки, а также многоязычный OCR для 32 языков. Заявлены пространственное понимание, обработка различных соотношений сторон, поддержка контекста до 256K токенов и возможность запуска на устройствах с ограниченными ресурсами через llama.cpp и совместимые платформы. Доступны варианты GGUF в форматах BF16, F16, F32 и Q8_0, а также отдельные мультимодальные проекционные файлы; размер файлов зависит от варианта и составляет примерно от 445 MB до 6,89 GB. К сильным сторонам относятся подробные и фактические описания, визуальное рассуждение, работа с многоязычным текстом на изображениях и поддержка эффективного локального инференса. Ограничения включают отсутствие приведённых количественных оценок качества и подробностей о требованиях к оборудованию. README также характеризует модель как uncensored и указывает на обход стандартных фильтров содержимого, поэтому при работе с чувствительными данными необходимы дополнительные меры безопасности и контроля. Модель распространяется по лицензии Apache-2.0.

Qwen3-VL-30B-A3B-Instruct-MLX-4bit — мультимодальная модель для обработки изображений и текста, разработанная Qwen. Представленная версия основана на Qwen3-VL-30B-A3B-Instruct и предназначена для сценариев image-text-to-text, включая анализ визуального содержимого и генерацию текстовых ответов по изображениям и запросам. Модель имеет 4-битное квантование в формате MLX и оптимизирована для работы на устройствах с Apple Silicon. В названии указаны конфигурация 30B-A3B и инструкционная настройка, однако README не содержит дополнительных сведений о точной архитектуре, размере контекста, поддерживаемых языках или конкретных показателях качества. К сильным сторонам относятся мультимодальность, уменьшенный объём хранения и вычислительные требования благодаря квантованию, а также адаптация к экосистеме Apple Silicon. К ограничениям относятся возможная потеря качества из-за 4-битного квантования и отсутствие в предоставленных данных подробных характеристик производительности, языковой поддержки и совместимости за пределами Apple Silicon. Версия распространяется по лицензии Apache-2.0. Квантование MLX предоставлено командой LM Studio с использованием mlx_vlm; создателем исходной модели является Qwen.

Qwen3-VL-4B-Thinking-abliterated-v1-GGUF — мультимодальная vision-language модель примерно на 4 млрд параметров, разработанная prithivMLmods на основе Alibaba Qwen3-VL-4B-Thinking. Это вариант в формате GGUF для запуска через совместимые инструменты, включая llama.cpp. Модель принимает изображения и текст и генерирует текстовые ответы, поддерживая анализ, описание и рассуждения по сложному визуальному и мультимодальному содержимому. Основной язык — английский, при этом заявлена адаптация к многоязычным запросам. Контекстное окно и точный перечень поддерживаемых языков в README не указаны. Модель предназначена для визуального captioning, анализа изображений, творческого повествования, работы с художественными, техническими, абстрактными и чувствительными материалами, а также для исследовательских задач, red-teaming и подготовки визуальных наборов данных. К заявленным сильным сторонам относятся мультимодальное рассуждение, следование инструкциям, вариативная детализация ответов и работа с разными соотношениями сторон и разрешениями. При этом это abliterated-версия, ориентированная на менее ограниченные ответы, поэтому она может генерировать явный контент и не рекомендуется для систем, где требуется строгая модерация. Доступны варианты с разными уровнями квантования, включая IQ, Q2–Q8 и F16, с размером файлов примерно от 1,06 до 8,05 ГБ. Лицензия — Apache-2.0.

Qwen_Qwen3-VL-2B-Instruct-GGUF — это GGUF-квантизированная версия мультимодальной модели Qwen3-VL-2B-Instruct, разработанной Qwen и подготовленной пользователем bartowski. Модель предназначена для задач image-text-to-text: обработки изображений вместе с текстовыми запросами и генерации текстовых ответов. Она может запускаться локально через llama.cpp, LM Studio и другие совместимые проекты. В репозитории представлены варианты весов от BF16 до низкобитных форматов Q8_0, Q6_K, Q5_K, Q4_K и Q3/Q2, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Размер исходной модели — 2B параметров; отдельные файлы занимают примерно от 0,85 до 3,45 ГБ. Для большинства сценариев рекомендуются варианты Q4_K_M, Q5_K и Q6_K; низкобитные варианты экономят память, но снижают качество. Контекст, поддерживаемые языки и точные архитектурные характеристики в README не указаны. Лицензия также не указана, поэтому условия использования следует уточнять в карточке исходной модели Qwen/Qwen3-VL-2B-Instruct.

Модель ibm-research/re2g-reranker-trex разработана IBM и предназначена для повторного ранжирования найденных текстовых фрагментов по запросу или вопросу. Она помогает отбирать наиболее релевантные материалы из результатов первичного поиска и объединять выдачу разных систем, например BM25 и нейронного ретривера, чьи исходные оценки напрямую несопоставимы. Модель представляет собой BERT для классификации последовательностей, содержит 136,7 млн параметров и обрабатывает до 512 токенов. В карточке указана поддержка английского языка и базовая модель BERT-base, обученная на MS MARCO. Репозиторий содержит веса PyTorch. Реранкер можно применять в поисковых системах и RAG-конвейерах перед передачей найденных фрагментов генеративной модели. Лицензия Apache 2.0 разрешает использование и модификацию на её условиях. Модель оценивает релевантность пар запроса и фрагмента, но сама не выполняет генерацию ответов и наследует ограничение контекста в 512 токенов.

SantaCoderPack — предварительно обученная модель для генерации и дополнения кода, разработанная в рамках проекта BigCode. Она использует архитектуру GPTBigCode с multi-query attention и обучалась на данных CommitPack в формате, связывающем код до сообщения об изменении, само сообщение и код после него. Карточка указывает 250 тысяч шагов обучения и 131 млрд токенов предобучения; модель представлена в формате PyTorch и поддерживает контекст до 8192 токенов. Модель предназначена для генерации кода по инструкциям, исправления ошибок и работы с изменениями кода. В README перечислены Python, JavaScript, Java, C++, Go и Rust. Она рассчитана на сценарии программирования, однако качество может различаться по языкам и задачам; инструкция к примеру показывает, что полезно формулировать запрос в контексте фрагмента кода. Лицензия — BigCode OpenRAIL-M.

sat-12l — многоязычная модель сегментации текста на предложения из проекта Segment any Text, разработанная для wtpsplit. Она относит токены к классам для определения границ предложений и предназначена для разбиения сплошного текста на предложения в системах обработки документов и текста. Модель использует архитектуру XLM для классификации токенов и содержит 12 слоёв трансформера, около 305,2 млн параметров и контекст длиной 514 токенов. Доступны веса PyTorch и ONNX. Метаданные указывают поддержку многих языков, включая английский, немецкий, французский, испанский, арабский, китайский?

StructLM-13B — языковая модель TIGER-Lab для задач привязки ответов к структурированным знаниям. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров и контекстом до 16 384 токенов; она дообучена на наборе инструкций SKGInstruct, объединяющем 19 задач работы со структурированными знаниями и SlimOrca. Модель принимает текстовые инструкции и линеаризованные структурированные данные, например таблицы, тройки знаний и схемы графов знаний, и генерирует текстовый ответ, соблюдая заданный формат вывода. Модель предназначена для вопросов и рассуждений по табличным данным и графам знаний, проверки фактов, генерации описаний по структурированным данным и преобразования запросов в ответы. В README приведены оценки на наборах ToTTo, GrailQA, CompWebQ, MMQA, Feverous, Spider, TabFact, DART и других. Карточка предупреждает, что модель может уступать по качеству, необходимому для непосредственного применения в чат-ботах и других приложениях. Лицензия — MIT.

sentence-transformers/stsb-distilbert-base — модель для получения векторных представлений предложений и абзацев, обученная командой sentence-transformers. Она основана на DistilBERT и преобразует текст в плотные векторы размерности 768; для корректного получения представления при использовании Transformers требуется применить соответствующую операцию pooling к контекстным представлениям токенов. Модель предназначена для семантического поиска, сравнения сходства предложений и кластеризации текстов. Контекст ограничен 512 токенами. Доступны версии в форматах PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Карточка предупреждает, что модель устарела и создаёт эмбеддинги низкого качества, поэтому рекомендует выбрать более современную модель из SBERT.net. Лицензия — Apache-2.0.

TinyBERT_General_4L_312D — компактная модель семейства BERT, опубликованная Huawei Noah’s Ark Lab. Это общий чекпойнт TinyBERT, полученный дистилляцией BERT-base для задач понимания естественного языка. Модель содержит 15,6 млн параметров, имеет 4 слоя и размерность скрытого представления 312; заявлены размер в 7,5 раза меньше и инференс в 9,4 раза быстрее, чем у BERT-base. Длина контекста — до 512 токенов. Модель предназначена для использования как начальная точка для задач понимания текста и последующего дообучения под конкретную задачу. Репозиторий содержит веса PyTorch и Flax. Карточка не сообщает о многоязычной подготовке, поэтому поддерживаемые естественные языки определить нельзя. Лицензия в предоставленных данных не указана.

Tinytron-ORCA-7B-TinyLlama-Instruct_CODE_Python-extra_small_quantization_GGUF_3bit — локальная модель генерации кода, опубликованная Francisco Angulo de Lafuente под именем Agnuxo. В карточке она описана как помощник по программированию на базе семейства Llama; метаданные указывают плотную архитектуру LlamaForCausalLM, 6,6 млрд параметров и контекст до 4096 токенов. README заявляет версию GGUF с 3-битной квантизацией и рекомендует запуск через Ollama. Модель предназначена для генерации кода и помощи с задачами научных вычислений и машинного обучения. В README перечислены Python, JavaScript, TypeScript, Rust, Go и C++, а также NumPy, SciPy, Pandas, PyTorch, TensorFlow и JAX. Метаданные указывают английский и испанский языки; модель принимает текстовые запросы и генерирует текст, включая код. Репозиторий описывает модель как локального помощника по программированию, однако подробные результаты оценки качества не приведены. README указывает лицензию Apache-2.0; из названия и карточки следует, что это квантизованная версия модели TinyLlama Instruct, но точный идентификатор исходной модели в метаданных не приведён.

Trinity-Large-Preview-UD-Q4_K_XL-layers — пакет GGUF-слоёв, подготовленный Mesh LLM для распределённого запуска языковой модели Trinity-Large-Preview-UD-Q4_K_XL. Пакет создан из unsloth/Trinity-Large-Preview-GGUF: исходное представление разделено на артефакты по слоям для распределённого инференса. Используются формат GGUF и вариант квантования UD-Q4_K_XL. Модель предназначена для локального приватного общения с чат-моделью, в том числе на нескольких машинах, если целиком разместить GGUF на одном узле не получается. Mesh LLM предоставляет для неё локальный API, совместимый с OpenAI Chat Completions. В метаданных указаны задача генерации текста и возможность чата. README отсылает к карточке исходной модели за сведениями об архитектуре, контекстном окне, рекомендациях по генерации и лицензии, поэтому условия лицензирования и эти характеристики здесь не приводятся.

Typhoon2.1-Gemma3-4B — инструктивная текстовая языковая модель, разработанная OpenTyphoon на основе Gemma 3 4B. Она использует плотную decoder-only архитектуру Gemma3ForCausalLM, содержит 4 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации ответов в диалоге на тайском и английском языках; также поддерживает вызов функций через соответствующий интерфейс. Модель работает только с текстом: визуальный энкодер в этой версии отсутствует. В карточке описаны режимы с рассуждением и без него, а также развёртывание через Transformers и vLLM. Для использования требуется Transformers версии 4.50.0 или новее. Модель всё ещё развивается и может выдавать неточные, предвзятые или нежелательные ответы; качество и риски следует оценивать применительно к конкретному сценарию. Распространяется по лицензии Gemma; использование также регулируется условиями OpenTyphoon.

handy-computer/whisper-base-gguf — это конверсия мультиязычной модели распознавания речи OpenAI Whisper base в формат GGUF для использования с transcribe.cpp. Модель разработана на основе openai/whisper-base и предназначена для автоматического преобразования аудио в текст, определения языка и перевода речи с любого поддерживаемого языка на английский. Для длинных записей используется декодирование фрагментами с окнами по 30 секунд; потоковая обработка не поддерживается, доступны сегментные временные метки. Модель построена на архитектуре encoder-decoder Transformer и поддерживает широкий набор языков, включая русский, английский, немецкий, французский, испанский, китайский, японский и многие другие. Доступны варианты F32, F16, Q8_0, Q6_K, Q5_K_M и Q4_K_M размером примерно от 59 до 292 МБ. На тестовой выборке LibriSpeech test-clean показатель WER составляет 5,10–5,36% в зависимости от квантования, что указывает на высокое качество распознавания английской речи; качество заметно различается между языками, поэтому для менее распространённых языков требуется дополнительная проверка. Модель подходит для локальной транскрибации, субтитров, голосового ввода, анализа аудиозаписей и перевода речи. Квантованные варианты снижают требования к памяти при небольшом ухудшении качества, но README не содержит данных о точных требованиях к оборудованию и полной производительности. Распространяется по лицензии Apache-2.0.

WizardCoder-33B-V1.1 — языковая модель для генерации кода, разработанная командой WizardLM и обученная на базе deepseek-coder-33b-base с применением Code Evol-Instruct к данным Code-Alpaca. Это плотная causal language model семейства Llama с 33,1 млрд параметров, рассчитанная на контекст до 16 384 токенов; веса опубликованы в формате safetensors и предназначены для использования через Transformers. Модель отвечает на инструкции по программированию: пишет код по описанию, решает задачи на программирование и помогает с типовыми изменениями кода. В README приведены результаты на HumanEval, HumanEval-Plus, MBPP и MBPP-Plus. Для воспроизведения ответов авторы рекомендуют использовать указанный в карточке формат системного промпта. Модель ориентирована на код; поддержка конкретных естественных языков отдельно не заявлена. Известное ограничение: авторы не гарантируют точность квантованных версий. Лицензия в предоставленных данных не указана.