II.10Разработка и эксплуатация AI/ML-систем

protogeni/Qwen3.8-27B-Uncensored-W4A16-RTX3090-MTP4 — сервировочно-оптимизированный квантованный чекпойнт семейства Qwen3.8-27B. Модель разработана protogeni на основе Qwen3.8-27B, последовательно преобразованного в uncensored-версию OrcaRouter, квантованный вариант AutoRound W4A16 и данный чекпойнт для инференса. Заявлены английский и китайский языки. Модель предназначена прежде всего для генерации текста, программирования и задач рассуждения, а также для развёртывания на одной видеокарте с поддержкой speculative decoding через MTP4. Vision tower сохранён, однако протестированный профиль на 100 000 токенов рассчитан только на текст. Основная часть трансформера использует W4A16 с группой 128, эмбеддинги токенов имеют формат INT8, а выходные и MTP-головы — калиброванный GPTQ INT4. Для черновой генерации используется словарь из 40 960 токенов. На RTX 3090 Ti с BF16 KV-кэшем и MTP4 заявлена поддержка контекста до 100 000 токенов; измеренная скорость генерации составляет примерно 82,7–128,4 токена в секунду в зависимости от нагрузки. Среди приведённых результатов: 94,77% на GSM8K, 76,14% на MMLU-Pro, 94,51% pass@1 на HumanEval и 90,85% pass@1 на HumanEval+. Сильные стороны модели — высокая производительность на одной 24 ГБ видеокарте, большой текстовый контекст, ускорение speculative decoding и хорошие результаты в математике и программировании. Ограничения включают зависимость от специально исправленного runtime syv-ai и vLLM 0.27.1, необходимость соответствующей настройки MTP4, а также то, что 100K-профиль не использует мультимодальный ввод. Результат на MMMU validation составил 24,56% при 891 ограничении по максимальному числу выходных токенов, поэтому мультимодальные возможности и этот показатель следует интерпретировать осторожно. Модель распространяется по лицензии Apache-2.0.

hanhainebula/qwen3-8b-ft-msmarco — текстовая модель эмбеддингов, созданная дообучением Qwen/Qwen3-8B на английских обучающих данных MSMARCO в течение одной эпохи с помощью FlagEmbedding. Она выпущена в рамках ресурсов ReasonEmbed, посвящённых улучшению эмбеддингов для поиска документов со сложными рассуждениями. Модель предназначена для преобразования текста в векторные представления и задач извлечения документов; в метаданных для неё указан pipeline feature-extraction. Модель имеет плотную архитектуру Qwen3, содержит 7,6 млрд параметров и поддерживает контекст до 40 960 токенов. Весовые файлы представлены в формате safetensors; токенизатор изменён для автоматического добавления EOS-токена. Лицензия — Apache-2.0. Обучение описано для английских данных MSMARCO; многоязычность базовой Qwen3 сама по себе не подтверждает, что этот чекпойнт одинаково хорошо работает на других языках.

RedHatAI/Qwen3-Coder-Next-FP8-dynamic — это квантизированная версия языковой модели Qwen/Qwen3-Coder-Next, разработанная Red Hat. Модель построена на архитектуре Qwen3NextForCausalLM, принимает текст и генерирует текст и предназначена прежде всего для задач генерации и обработки программного кода. Поддержка инструментов и вызовов функций предусмотрена при развертывании через vLLM. В модели используется квантизация весов и активаций в формат FP8 для линейных операторов внутри трансформерных блоков. Это снижает число битов на параметр с 16 до 8 и примерно на 50% уменьшает требования к дисковому пространству и памяти GPU. Размер модели, языки и максимальная длина контекста в README не указаны. Для работы рекомендуется vLLM; формат хранения — compressed-tensors. В представленном тестировании на SWE-Bench Lite модель получила результат 53 против 49,33 у исходной Qwen3-Coder-Next. Ограничение заключается в том, что приведена только оценка на задаче SWE-Bench Lite, поэтому по этим данным нельзя полноценно судить о качестве на других сценариях и о влиянии квантизации на все типы запросов. Модель распространяется по лицензии Apache-2.0.

RedHatAI/Qwen3-Coder-Next-NVFP4 — языковая causal-модель для генерации текста, разработанная Red Hat на основе Qwen/Qwen3-Coder-Next от Alibaba Cloud. Модель принимает текст и генерирует текст; по назначению относится к моделям для задач программирования и работы с кодом. Архитектура указана как Qwen3NextForCausalLM, поддерживается интеграция с vLLM и вызов инструментов через совместимый с OpenAI API интерфейс. Модель представляет собой квантизированную версию исходной Qwen3-Coder-Next: веса и активации линейных операторов в блоках трансформера переведены в формат FP4. Это сокращает число битов на параметр с 16 до 4, а заявленный объём хранения на диске и требования к памяти GPU — примерно на 75%. Размер модели, максимальная длина контекста и набор поддерживаемых языков в представленном README не указаны. Модель валидирована с vLLM 0.14.1, RHAIIS 3.4 EA1 и RHOAI 3.4 EA1; для развёртывания в примере используется tensor parallelism на двух устройствах. Ключевое преимущество — существенное снижение требований к дисковой и GPU-памяти по сравнению с неквантизированной версией. При этом README не содержит результатов бенчмарков и количественной оценки влияния FP4-квантизации на качество, поэтому точные сильные стороны и возможные потери качества нельзя подтвердить по имеющимся данным. Модель распространяется по лицензии Apache 2.0.

Qwen3-Coder-Next-Uncensored-Heretic-GGUF — набор GGUF-квантизаций модели llmfan46/Qwen3-Coder-Next-Uncensored-Heretic, созданной независимым разработчиком llmfan46 на основе Qwen3-Coder-Next от Qwen. Модель предназначена прежде всего для локальной разработки, программирования и агентских сценариев, включая работу с инструментами, длительные цепочки рассуждений, восстановление после ошибок выполнения и интеграцию с CLI/IDE-средами. Доступна для llama.cpp, LM Studio, Ollama и других совместимых инструментов. Архитектура исходной модели — каузальная языковая модель с гибридной структурой Gated DeltaNet, Gated Attention и Mixture of Experts. Всего 80 млрд параметров, из которых активируются 3 млрд; 79 млрд параметров относятся к неэмбеддинговым. Модель содержит 48 слоёв, 512 экспертов MoE, из которых активируются 10, и поддерживает контекст до 262 144 токенов. Указан только текстовый режим и режим без рассуждений с блоками <think></think>; сведения о поддерживаемых языках в README не приведены. Это декензурированная версия: по данным автора, она показала 8 отказов из 100 против 100 из 100 у оригинальной модели при KL-дивергенции 0,1488, что указывает на значительно меньшее число отказов при сохранении близости к исходной модели. Основное ограничение — отсутствие подробных независимых оценок качества и языкового охвата, а также необходимость выбирать компромисс между размером и качеством среди вариантов от BF16 до Q3_K_S. Модель распространяется по лицензии Apache-2.0.

Qwen3-Coder-REAP-363B-A35B — сжатая модель Cerebras на архитектуре причинной языковой модели с разреженной смесью экспертов (MoE), созданная методом REAP из Qwen/Qwen3-Coder-480B-A35B-Instruct. Модель предназначена для генерации кода, агентного программирования, работы с большими репозиториями и вызова функций. В карточке заявлено сохранение близкой к исходной производительности при сокращении общего числа параметров с 480B до 363B; на каждом токене активируются 35B параметров и 8 из 120 экспертов. Метаданные указывают 15,4B параметров, поэтому размер модели в источниках расходится. Контекст составляет 262 144 токена. README указывает формат FP8, 62 слоя и поддержку запуска через vLLM; метаданные указывают Transformers и формат safetensors. Заявлено расширение контекста до 1M с YaRN. Модель ориентирована на английский язык. Лицензия — Apache 2.0. README сообщает о близкой к исходной точности и снижении требований к памяти, но результаты оценки для BF16-варианта не приведены.

Qwen3-Embedding-0.6B-GGUF — набор GGUF-квантизаций модели Qwen/Qwen3-Embedding-0.6B, подготовленный mradermacher. Модель предназначена для получения текстовых эмбеддингов, оценки семантического сходства предложений, поиска и других задач feature extraction. В метаданных указано, что базовая модель относится к семейству Qwen и поддерживает английский язык. Размер базовой модели составляет 0,6 млрд параметров. Доступны варианты в форматах Q2_K, Q3_K, IQ4_XS, Q4_K_S, Q4_K_M, Q5_K_S, Q5_K_M, Q6_K, Q8_0 и f16; размер файлов — примерно от 0,4 до 1,3 ГБ. Квантизации позволяют выбирать компромисс между требованиями к ресурсам, скоростью и качеством: Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как вариант очень хорошего качества, а Q8_0 — как быстрый вариант с наилучшим качеством среди перечисленных. Для некоторых низкобитных вариантов качество ниже. В README не указаны архитектурные детали, максимальная длина контекста, перечень дополнительных языков и точные показатели качества, поэтому эти характеристики нельзя подтвердить. Файлы распространяются по лицензии Apache License 2.0; README описывает именно квантизированные GGUF-файлы, а не исходную модель.

TiGa-RCE опубликовал BF16-конверсию модели Qwen3-Embedding-8B в формате MLX для запуска на Apple Silicon через MLX или oMLX. Модель основана на Qwen/Qwen3-Embedding-8B и предназначена для создания текстовых эмбеддингов, семантического поиска и задач извлечения признаков. В метаданных указаны 7,6 млрд параметров и контекст до 40 960 токенов; базовая модель поддерживает многоязычный поиск, в том числе поиск по коду и межъязыковой поиск. В ограниченном локальном smoke-тесте извлечения модель достигла 24/24 совпадений top-1 и MRR 1,0 на 24 парах запросов и документов. Это небольшая инженерная проверка, а не оценка на MTEB и не гарантия качества для других данных. Контрольная точка рассчитана на Apple Silicon и MLX/oMLX; результаты для CUDA и PyTorch к ней не относятся. Лицензия — Apache-2.0.

Qwen3-VL-Embedding-2B-FP8-DYNAMIC — мультимодальная модель эмбеддингов, разработанная на базе Qwen3-VL-Embedding-2B от Qwen. Она предназначена для преобразования текста, изображений и их комбинаций в векторные представления, которые можно использовать для семантического поиска, сопоставления текстов и изображений, кластеризации и других задач, требующих сравнения мультимодальных данных. Модель ориентирована на эффективное развёртывание через vLLM и поддерживает OpenAI-совместимый API. Модель содержит около 2 млрд параметров и использует архитектуру Qwen3VLModel. Текстовые линейные слои квантизированы методом FP8_DYNAMIC: веса представлены в FP8 с поканальным симметричным квантованием, а активации квантизируются динамически по токенам. 24 визуальных блока сохраняются в формате bfloat16 для поддержания качества обработки изображений и межмодального выравнивания. Размер эмбеддинга по умолчанию составляет 2048, а благодаря Matryoshka-представлениям доступны сокращённые размерности от 64 до 2048, что позволяет экономить память и ускорять операции сравнения. Указано снижение потребления VRAM примерно на 50% по сравнению с версией bfloat16; размер модели составляет около 2,8 ГБ против 4,6 ГБ. К сильным сторонам относятся поддержка текстовых, визуальных и мультимодальных входов, гибкая размерность векторов и сохранение визуальных слоёв в полной точности. Ограничения README не описывает; для мультимодального режима требуется специальный формат запросов vLLM, а практическая совместимость зависит от корректной настройки pooling-режима и загрузки квантизированных весов. Модель распространяется по лицензии Apache 2.0.

Qwopus3.6-27B-Fusion-GGUF — экспериментальная модель от KyleHessling1, созданная объединением Qwopus3.6-27B-v2 с уклоном на рассуждения и Qwopus3.6-27B-Coder с уклоном на программирование. Обе родительские модели происходят от Qwen/Qwen3.6-27B. Модель предназначена для текстовой генерации, многошагового рассуждения и автономной разработки программного обеспечения, особенно для сценариев, где агент самостоятельно планирует, пишет код, запускает его и исправляет ошибки. Модель содержит 27 млрд параметров и 64 слоя, использует гибридную архитектуру qwen35 с линейным вниманием и периодическими слоями полного внимания. Нативный контекст составляет 262 144 токена; корректная работа проверена на контексте до 60 000 токенов. По умолчанию включён режим reasoning. Доступна версия GGUF с квантизацией Q4_K_M размером около 16,5 ГБ, рассчитанная на запуск через llama.cpp на одной видеокарте с 24–32 ГБ памяти. Поддерживается ввод изображений при использовании совместимого проектора Qwopus3.6-27B-Fusion-mmproj-Q8_0.gguf. В README указан английский язык. Сильные стороны модели — сочетание устойчивого рассуждения и генерации кода, хорошие результаты на HumanEval, MBPP и GSM8K, стабильное завершение генерации и способность работать как автономный агент программирования. Ограничения связаны с экспериментальным статусом и отсутствием полного строгого оценивания; результаты зависят от квантизации и режима работы. Лицензия указана как other с названием qwen и ссылкой на лицензию Qwen.

RWKV-7 «Goose» — базовая авторегрессионная языковая модель, выпущенная BlinkDL в формате Transformers. Это плотная модель архитектуры RWKV-7 с классом Rwkv7ForCausalLM; в метаданных указан размер 7,8 млрд параметров. В отличие от архитектур с attention, она использует рекуррентное состояние постоянного размера, поэтому объём состояния не растёт как KV-кэш, а вычисления при генерации масштабируются линейно по числу токенов. Обучение при этом допускает параллелизацию. Модель предварительно обучена на веб-текстах, коде, синтетических, инструкционных, разговорных и рассуждательных данных. Её можно использовать для генерации продолжений, оценки, последующего обучения и тонкой настройки; шаблон чата задаёт формат запросов, но сам по себе не означает, что модель является безопасным или выровненным ассистентом. В карточке заявлена поддержка нескольких языков, включая русский, английский и китайский. Контекстное окно в предоставленных данных не описано. В комплект входят интеграция с Transformers, токенизатор RWKV World и шаблон многоходового чата с поддержкой префикса рассуждений и формата вызова инструментов. Для тонкой настройки описана поддержка SFT и LoRA; ускоренный инференс на TileLang зависит от GPU, типа данных и формы входа, с возможностью отката на PyTorch. Лицензия — Apache-2.0. Карточка не заявляет оценок безопасности, предвзятости, токсичности или фактической точности; спекулятивное декодирование с откатом рекуррентного кэша не поддерживается без сохранения предыдущих состояний.

Это англоязычный разреженный энкодер SPLADE, разработанный авторами репозитория tomaarsen и дообученный на основе Luyu/co-condenser-marco с помощью Sentence Transformers. Модель кодирует предложения и абзацы в разреженные векторы размерности 30 522; для оценки близости используется скалярное произведение. Архитектура построена на BERT с маскированным языковым моделированием и пуллингом SPLADE. Максимальная длина входа — 512 токенов. Модель предназначена для семантического поиска и разреженного извлечения документов: она преобразует запросы и тексты в представления, пригодные для ранжирования по релевантности. В карточке приведены результаты оценки на небольших наборах NanoMSMARCO, NanoNFCorpus, NanoNQ и NanoBEIR. Модель принимает текст и выдаёт векторные представления. Распространяется по лицензии Apache-2.0.

Модель tomaarsen/splade-cocondenser-msmarco-kldiv-minilm-temp-5-5 — англоязычный разреженный кодировщик SPLADE, разработанный на базе Luyu/co-condenser-marco с помощью библиотеки Sentence Transformers. Архитектура состоит из BERT-подобного трансформера BertForMaskedLM и слоя SPLADE pooling с max-пулингом и ReLU. Модель преобразует запросы и документы в разреженные векторы размерностью 30 522, сопоставляемые скалярным произведением; максимальная длина входа — 512 токенов. Модель предназначена для семантического поиска и разреженного извлечения документов: например, для ранжирования кандидатов по запросу и поиска релевантных абзацев в коллекции текстов. В README приведены оценки на наборах NanoMSMARCO, NanoNFCorpus и NanoNQ, а также NanoBEIR; они показывают работоспособность на этих тестах, но не гарантируют качество на других коллекциях. Модель принимает текст и выдаёт векторы признаков. Лицензия — Apache-2.0.

SPLADE — англоязычный разреженный кодировщик текста семейства BERT, разработанный на базе Luyu/co-condenser-marco и дообученный с помощью Sentence Transformers на данных MS MARCO. Он преобразует запросы и документы в разреженные векторы размерности 30 522, которые можно сопоставлять скалярным произведением для семантического поиска и разреженного поиска информации. Модель использует BertForMaskedLM и пулинг SPLADE с максимизацией и ReLU. Максимальная длина входной последовательности — 512 токенов. Она подходит для построения поисковых систем и извлечения релевантных документов; в карточке приведены оценки на наборах NanoMSMARCO, NanoNFCorpus и NanoNQ. Модель принимает текст и выдаёт разреженные векторные представления. Поддерживаемый язык — английский. Лицензия — Apache-2.0. Результаты в карточке относятся к указанным компактным оценочным наборам и сами по себе не гарантируют качество на других корпусах.

Splade++ SelfDistil — разреженный текстовый энкодер, разработанный на базе naver/splade-cocondenser-selfdistil и дообученный на данных MS MARCO с использованием Sentence Transformers. Модель преобразует запросы и документы в разреженные векторы размерностью 30 522; сходство между ними оценивается скалярным произведением. Архитектура состоит из трансформера BERT с masked language modeling и слоя SPLADE pooling с max-пулингом и ReLU. Модель предназначена для семантического поиска и разреженного извлечения документов или пассажей, в том числе в поисковых системах, работающих с парами запрос–документ. Максимальная длина последовательности — 512 токенов. В README указана поддержка английского языка. Опубликованные оценки на небольших наборах NanoMSMARCO, NanoNFCorpus и NanoNQ демонстрируют качество извлечения, но не гарантируют аналогичных результатов на других данных. Лицензия — Apache-2.0.

prithivida/Splade_PP_en_v2 — независимая реализация модели SPLADE++ для поиска по текстовым документам, разработанная Donkey Stereotype. Это модель-энкодер на базе BERT с 136,7 млн параметров, формирующая разреженные представления текста через MLM-голову: она расширяет текст контекстуальными токенами и помогает находить документы при несовпадении формулировок запроса и текста. Модель предназначена для кодирования документов в поисковых и retrieval-системах; для запросов автор указывает на отдельную модель. В README описаны настройки для индустриального поиска: ограничение длины документов 128 токенами, оптимизация разреженности и ориентир на баланс качества поиска, задержки и размера индекса. Модель обучалась с использованием MS MARCO; заявлены показатели MRR@10 и времени retrieval, но они зависят от набора данных и конфигурации системы. Поддерживается английский язык, контекст — до 512 токенов. Доступны форматы PyTorch и ONNX. Для применения модель выдаёт признаки и разреженные представления текста, которые можно индексировать и использовать для поиска документов и оценки сходства предложений. Лицензия — Apache-2.0. Ограничения BERT и конкретного дообучения сохраняются; для пользовательских доменов качество следует проверять отдельно.

Swift-Qwen3.8-27B — производная модель UkisAI на основе Qwen/Qwen3.8-27B, дообученная для более экономного пошагового рассуждения. По описанию разработчика, она использует на 58,3% меньше токенов рассуждения при потере качества менее 1% и ускоряет выполнение ряда задач примерно в 1,95 раза; также сообщается о меньшем числе ошибок из-за избыточных рассуждений. В обучении штрафовалось использование отдельных маркеров рассуждения, а дополнительный компонент переноса знаний получен от ThinkingCap-Qwen3.6-27B. Модель предназначена для диалогов и сложных задач, включая программирование, и поддерживает анализ изображений согласно метаданным. Разработчик оценивает её на разных уровнях reasoning effort и указывает на применение в квантованных развёртываниях; доступны веса safetensors и версия GGUF для совместимых сред llama.cpp. Для оценки приводятся результаты сравнений с базовой моделью, однако таблицы бенчмарков в доступном README опущены. Контекст базовой модели указан как 262 144 токена в настройках тестирования. Лицензия в метаданных обозначена как other; README сообщает о бесплатном API для исследовательского использования, но это не устанавливает условия лицензии самих весов.

tevatron-elastic-modernbert-reranker-plain — дообученная модель ранжирования на основе ModernBERT-base, выпущенная командой Utah NLP как часть набора контрольных точек к работе Tevatron-Elastic. Она предназначена для переоценки релевантности найденных документов по запросу: получает текст запроса и passage с префиксами query: и passage: и кодирует их для ранжирования. Модель содержит 149 млн параметров, использует encoder-only архитектуру ModernBERT и поддерживает контекст до 8192 токенов; в обучении применялась максимальная длина 512 токенов и датасет rlhn/rlhn-680K. Это полный базовый вариант одной контрольной точки, рассчитанный на работу с Tevatron-Elastic; для него указана BEIR-15 nDCG@10 0,457. Чекпойнт опубликован как ресурс для воспроизводимости результатов и изучения компромиссов сжатия, а не как заявка на превосходство над современными методами. Базовая модель — answerdotai/ModernBERT-base; файлы представлены в формате Safetensors. Лицензия Apache-2.0.

Themis — языковая модель на архитектуре Llama, разработанная PKU-ONELab для оценки качества текстов, созданных системами генерации естественного языка. Модель дообучена на базе meta-llama/Meta-Llama-3-8B; в репозитории указано 7,5 млрд параметров, формат весов — Safetensors, контекст — до 8192 токенов. Для работы требуется текстовый ввод, результат выдаётся в текстовом формате. Модель оценивает тексты без эталонного ответа, в том числе ответы на вопросы, суммаризации, диалоги, описания данных, истории и машинный перевод. Можно задавать критерии оценки — от общей оценки качества до отдельных аспектов; модель также формирует анализ и объяснение оценки. Авторы сообщают о результатах экспериментов на нескольких наборах данных и о проверках на новых задачах, но карточка не содержит полного описания метода и результатов. Модель распространяется по лицензии Apache-2.0.

Toto-Open-Base-1.0 — открытая базовая модель семейства Toto (Time Series Optimized Transformer for Observability), предназначенная для прогнозирования многомерных временных рядов, особенно метрик наблюдаемости. Это авторегрессионный Transformer с архитектурой decoder-only и механизмом Proportional Factorized Space-Time Attention; модель содержит 151 млн параметров, а веса опубликованы в формате safetensors. Лицензия — Apache-2.0. Модель поддерживает прогнозирование без дообучения на пользовательском ряде, работает с высокоразмерными, разреженными и нестационарными данными и допускает разные длины контекста и горизонты прогноза. Она выдаёт точечные прогнозы и оценки неопределённости на основе смеси распределений Стьюдента. По карточке, обучение включало более 2 трлн точек временных рядов: внутренние метрики Datadog, открытые наборы GIFT-Eval и Chronos, а также синтетические данные. Основной сценарий применения — прогнозирование метрик инфраструктуры и наблюдаемости; также модель подходит для других многомерных временных рядов. Для запуска README указывает пакет toto-ts и рекомендует xFormers и flash-attention для скорости и экономии памяти. Заявления о результатах на бенчмарках приведены в карточке, но сами численные метрики в ней отсутствуют.

Turkish-ColBERT — модель поиска от YTU-CE-Cosmos для извлечения релевантных фрагментов турецкого текста. Она использует архитектуру ColBERT с поздним взаимодействием между многовекторными представлениями запросов и документов; модель создана дообучением Turkish Base BERT на 500 тысячах троек «запрос, релевантный фрагмент, нерелевантный фрагмент» из переведённого на турецкий датасета MS MARCO. Модель содержит 137,8 млн параметров, принимает текст и имеет контекстное окно до 512 токенов. Модель предназначена для поиска пассажей и подбора документов для систем вопросно-ответного поиска и RAG. В README приведены результаты оценки на турецких наборах Scifact-tr и WikiRAG-TR. Известное ограничение: из-за особенности токенизатора перед обработкой требуется вручную приводить текст к нижнему регистру, заменяя латинскую I на турецкую ı. Лицензия — MIT.

uniCOIL — это BERT-подобная модель Castorini для learned sparse retrieval, то есть поиска и ранжирования текстовых пассажей. Она обучена на MS MARCO Passage и преобразует запросы и документы в разреженные представления с контекстно-зависимыми весами терминов, совместимые со стандартными инвертированными индексами и impact scoring в Lucene/Pyserini. Модель предназначена для первого этапа информационного поиска: поиска релевантных пассажей по пользовательскому запросу, построения поисковых индексов и подготовки кандидатов для последующего reranking или RAG. В карточке Hugging Face указаны pipeline feature-extraction, архитектурное семейство BERT, библиотека Transformers и PyTorch, размер 136,7 млн параметров и контекст до 512 токенов. Сильная сторона uniCOIL — сочетание нейросетевого контекстного взвешивания терминов с эффективностью разреженных инвертированных индексов. Модель ориентирована на англоязычный корпус MS MARCO; сведения о лицензии и дополнительных языках в доступных источниках не установлены. Для полноценного поиска требуются индексация представлений и совместимый механизм impact scoring; модель не является генеративной и не предназначена для самостоятельного формирования ответов.

Модель unsup-simcse-bert-base-uncased разработана группой Princeton NLP и представляет собой BERT-base-uncased, дообученный методом unsupervised SimCSE для получения векторных представлений предложений. Она предназначена для извлечения признаков и построения эмбеддингов, которые можно использовать в задачах семантического сходства и последующей обработки текста. Модель содержит 136,7 млн параметров, принимает текст на английском языке и поддерживает контекст до 512 токенов. Опубликованы варианты весов PyTorch и Flax. README указывает, что для обучения использовались случайно выбранные предложения из англоязычной Википедии; оценивание эмбеддингов проводилось на задачах семантического сходства и переноса на другие задачи. README не приводит лицензию. Эмбеддинги могут отражать вредные стереотипы и предубеждения, поэтому результаты следует проверять с учётом возможного смещения.

YAR.INK v5_Embedding — текстовая модель эмбеддингов от YARlabs для семантического поиска, кластеризации и выявления иерархических связей в больших наборах данных. Модель содержит 507,6 млн параметров, принимает текст и возвращает векторы признаков; архитектура YarEmbeddingModel использует гиперболическое пространство Лоренца и Matryoshka Representation Learning. Заявленное авторами окно контекста — 512 токенов, токенизатор основан на Qwen2Tokenizer. Модель предназначена для поиска по документам и базам знаний, построения иерархий и компактных векторных индексов, в том числе для систем RAG и устройств с ограниченными ресурсами. Размерность эмбеддингов можно уменьшать, выбирая конфигурации Matryoshka; для сравнения векторов README предписывает использовать расстояние Лоренца, а не косинусную или евклидову метрику. Приведённые в README результаты сравнения являются заявлениями авторов. В репозитории указаны форматы safetensors и ONNX. Для загрузки требуется trust_remote_code=True, поскольку используются пользовательские классы архитектуры. Метаданные и README не сообщают лицензию, поэтому условия использования определить нельзя.

vectorizer.guava — многоязычная модель-векторизатор, разработанная Sinequa для поиска релевантных фрагментов текста. Она преобразует запросы и passages в векторы: векторы passages сохраняются в индексе, а вектор запроса используется для поиска подходящих фрагментов. Модель построена на базе mMiniLMv2-L6-H384-distilled-from-XLMR-Large и имеет архитектуру XLM-RoBERTa; в метаданных указано 110,2 млн параметров, а README указывает 107 млн. Выходные эмбеддинги имеют размерность 256 благодаря дополнительному плотному слою, контекст — до 514 токенов. Модель обучена для семантического поиска на английском, французском, немецком, испанском, итальянском, нидерландском, японском, португальском, китайском (упрощённом и традиционном) и польском языках. Она нечувствительна к регистру и диакритическим знакам. README сообщает о среднем Recall@100 0,616 на англоязычных наборах BEIR и приводит результаты для ряда языков MIRACL и традиционного китайского. Для запуска в Sinequa требуется версия не ниже 11.10.0; для GPU указана CUDA compute capability выше 7.5. Лицензия в предоставленных данных не указана.

Veritas-0.6B-Fact-Checker-Non-Thinking-1.0 — компактная языковая модель Resect Research Labs, дообученная на базе Qwen/Qwen3-0.6B для проверки фактов и фактической согласованности. Это плотная авторегрессионная модель семейства Qwen3 с 507,9 млн параметров и контекстом до 40 960 токенов; она принимает текст и генерирует текстовый ответ в виде бинарной оценки по заданному шаблону. Модель предназначена для проверки утверждений и оценки фактической опоры ответов, в том числе в сценариях проверки ответов систем с поиском по документам. В тестировании на LLM-AggreFact, который объединяет 11 размеченных наборов данных, авторы сообщают средний результат 72,30%, выше базового Qwen3-0.6B в режиме non-thinking. Использовать модель следует только в предписанном режиме бинарной оценки и с указанным шаблоном: отклонение от него может приводить к неожиданным результатам. Распространяется по лицензии Apache-2.0.

Модель timm/vit_base_patch16_siglip_256.webli_i18n — визуальный энкодер SigLIP на основе Vision Transformer с патчами 16×16 и входным разрешением 256 пикселей. Это image encoder only с исходным attention pooling; модель предназначена для извлечения признаковых представлений изображений и их использования в последующих задачах машинного зрения. Разработчик в карточке не назван; веса распространяются через timm. Модель принимает изображения и выдаёт признаки-векторы. В метаданных указана задача image-feature-extraction, библиотека timm и лицензия Apache-2.0. Карточка связывает вариант с WebLI и i18n, но не приводит конкретный перечень языков или подробности обучения.

Это модель семейства SigLIP, опубликованная timm: визуальный энкодер ViT-Base с патчами 16×16 и глобальным усреднением признаков. Она преобразует изображения в векторные представления и предназначена для извлечения признаков в системах компьютерного зрения и мультимодальных конвейерах. В названии указаны размер изображения 256 и обучение на WebLI с поддержкой нескольких языков; текстовый энкодер в эту модель не входит. Модель доступна в форматах PyTorch и Safetensors и распространяется по лицензии Apache-2.0. Метаданные указывают задачу image-feature-extraction.

RedHatAI/whisper-large-v3-FP8-dynamic — это квантизированная версия модели openai/whisper-large-v3, разработанная Neural Magic. Модель преобразует аудио в текст и предназначена для автоматической транскрипции речи, включая пакетную обработку и высокопроизводительное серверное развертывание. Модель использует архитектуру whisper-large-v3 с аудиотекстовым входом и текстовым выходом. Веса и активации квантизированы в FP8 с динамическим масштабированием; квантизация выполнена для линейных слоёв, а выходной lm_head исключён. Модель подготовлена для инференса через vLLM версии 0.5.2 и выше, включая OpenAI-совместимый режим сервинга. В примере развертывания используются до 400 последовательностей и максимальная длина модели 448 токенов. По данным оценки на LibriSpeech и Fleurs, FP8-версия сохраняет качество исходной BF16-модели: WER составляет 2,097 на LibriSpeech test-clean и 3,9617 на test-other; на отдельных наборах Fleurs проверялась транскрипция китайского, английского и кантонского аудио в английский текст. Ограничения включают зависимость от совместимого стека vLLM и отсутствие в README подробностей о полном наборе поддерживаемых языков, требованиях к оборудованию и качестве на других типах аудио. Лицензия — Apache 2.0.

AmarettoLabs разработала amaretto-embed-148m как компактную модель эмбеддингов на основе google/embeddinggemma-300m. Это плотный текстовый энкодер семейства Gemma 3 с 147,9 млн параметров, словарём из 60 497 токенов и контекстом до 2048 токенов. Модель преобразует текст в векторы размерностью 768 и поддерживает Matryoshka-размеры 512, 256 и 128; для работы используется библиотека Sentence Transformers. Модель предназначена для семантического поиска, извлечения документов для RAG, сравнения предложений, кластеризации и классификации на английском, испанском, португальском, французском, немецком, итальянском, нидерландском и польском языках, а также для исходного кода. Словарь сокращён, а качество восстановления эмбеддингов улучшено дистилляцией от исходной модели. По данным README, результаты близки к EmbeddingGemma для поиска и семантического сходства, при этом модель рассчитана на более компактное развертывание, включая устройства с ограниченной памятью. Качество резко снижается для языков и письменностей вне перечисленного набора, включая русский и другие кириллические языки. Для длинных документов результаты слабее, особенно для англоязычных текстов; при переходе с EmbeddingGemma нужно заново индексировать корпус, поскольку векторы близки, но не идентичны. Лицензия Gemma; использование ограничено условиями Gemma Terms и включённой в них политикой запрещённого использования.