II.6Документация и сопровождение разработки

Qwen3.5-9B Uncensored Coder — текстовая LoRA-дообученная версия Qwen3.5-9B от mshodiqul на базе DavidAU/Qwen3.5-9B-Claude-4.6-HighIQ-THINKING-HERETIC-UNCENSORED. Модель предназначена для генерации кода, агентных сценариев, вызова инструментов и функций в диалоговом формате. Дообучение выполнено методом SFT на синтетических трассах вызова функций и агентного кодирования; тесты карточки отмечают успешную работу с одиночным и множественным выбором инструментов, а также в сценарии агента-программиста. Модель использует архитектуру Qwen3.5-9B и принимает текст, включая запросы с инструкциями для инструментов. Контекстное окно составляет 262 144 токена; практическая длина ответа обычно ограничена несколькими тысячами токенов. Зрительная часть базовой модели сохранена, но в этом дообучении не участвовала. Лицензия — Apache-2.0. Среди известных ограничений — уход в посторонние шаблоны при длинных запросах на bash или скрипты, когда включён блок рассуждений; для таких задач в карточке рекомендуются соответствующий reasoning parser или отключение рассуждений. При вопросе о собственной идентичности модель может воспроизводить имя из обучающих данных. Поведение без цензурных ограничений унаследовано от базовой модели.

Это текстовый вариант весов Qwen3.6-27B, подготовленный exolabs для запуска через vLLM. Веса получены из GGUF-квантизации Q4_0 модели unsloth/Qwen3.6-27B-GGUF: тензоры деквантованы, преобразованы в формат Hugging Face и сохранены в BF16. Конфигурация и токенизатор взяты из Qwen/Qwen3.6-27B. Модель предназначена для генерации текста и диалогового использования; карточка также указывает интерфейс вызова инструментов. Несмотря на тег image-text-to-text и наличие визуальных возможностей в метаданных, в этом репозитории отсутствует визуальная башня, поэтому автор рекомендует запускать модель только в текстовом режиме. Проверена загрузка и краткая генерация в Transformers и vLLM; в README приведена конфигурация с контекстом до 4096 токенов. Данные о лицензии и поддерживаемых естественных языках в предоставленных источниках отсутствуют.

Mesh LLM подготовил пакет слоёв GGUF модели Qwen3.6-27B-UD-Q4_K_XL для распределённого запуска в локальном кластере Mesh LLM. Пакет основан на unsloth/Qwen3.6-27B-MTP-GGUF и сохраняет исходное распределение модели по отдельным артефактам слоёв; вариант весов — UD-Q4_K_XL с квантизацией Q4_K_XL. Модель предназначена для локального приватного чата и генерации текста, в том числе при распределении вычислений между несколькими машинами, когда полный GGUF-файл слишком велик для одного узла. Mesh LLM позволяет предоставлять запросы через совместимый с OpenAI API интерфейс чата. Для запуска необходима инфраструктура Mesh LLM. README отсылает к карточке исходной модели за сведениями об архитектуре, контекстном окне, шаблоне чата, рекомендациях по генерации и условиях лицензии; эти характеристики здесь не приведены. Поэтому лицензионные условия следует сверять с исходной моделью unsloth/Qwen3.6-27B-MTP-GGUF.

Это конвертированная версия Qwen3.6-35B-A3B, подготовленная exolabs для запуска через vLLM. Весы исходного GGUF с MXFP4-квантованием экспертов MoE и тензорами в форматах K-quant, Q8 и F32 были деквантованы и преобразованы в safetensors с точностью BF16; архитектурные тензоры Qwen3.6/GDN были переименованы и согласованы для загрузки в Transformers и vLLM. Модель предназначена для диалоговой генерации и обслуживания через vLLM. Хотя в метаданных указана задача image-text-to-text и способность vision, визуальная башня в этом артефакте отсутствует: README рекомендует запускать его только для обработки текста с параметром --language-model-only. Для мультимодального анализа изображений этот файл модели не подходит. В репозитории 21 шард safetensors общим размером около 69,3 ГБ; README сообщает об успешных проверках загрузки, генерации и запуска в vLLM. Лицензия указана как other, поэтому перед использованием следует проверить её условия на странице модели.

Это мультимодальная квантованная версия Qwen3.6-35B-A3B, основанная на модели Qwen/Qwen3.6-35B-A3B и созданная rdtand с использованием PrismaQuant. Модель предназначена для задач, объединяющих обработку текста и изображений, включая сценарии vision-language и генерацию текста по мультимодальному вводу. Заявлена поддержка английского и других языков; точный список языков и размер контекстного окна в README не указаны. Модель использует архитектуру MoE с DeltaNet-линейным вниманием, плотными и экспертными слоями, а также визуальным энкодером Qwen3.6-VL. Средний размер квантования составляет 4,76 бит на параметр: объём файла уменьшен примерно с 70 до 22 ГБ, то есть на 69% по сравнению с исходной BF16-версией. Для разных линейных слоёв применяются NVFP4, MXFP8 и BF16; сохранены MTP-головы для speculative decoding. Квантование учитывает чувствительность отдельных слоёв и использует GPTQ-OBS и оптимизацию масштабов. Сильными сторонами являются существенное снижение требований к хранению и возможность запуска мультимодальной модели через vLLM при сохранении смешанной точности для чувствительных компонентов. Ограничение заключается в том, что артефакт рассчитан только на runtime vLLM; влияние квантования на качество в прикладных задачах и полный набор поддерживаемых режимов в README не приведены. Модель распространяется по лицензии Apache-2.0.

Карточка модели ansulev/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16 на Hugging Face совпадает с карточкой denyzhirkov/Qwen3.8-27B-AEON-ULTIMATE-U-BF16, поэтому описание составлено по ней. Qwen3.8-27B-AEON-ULTIMATE-U-BF16 — экспериментальная ранняя версия модели Qwen3.8-27B, подготовленная denyzhirkov. Это дообученная и аблитерированная BF16-версия с уменьшенным числом отказов; базовая модель — Qwen/Qwen3.8-27B. Плотная мультимодальная архитектура поддерживает диалог, следование инструкциям, вызов инструментов и работу с изображениями. В README описана проверка на NVIDIA H200 через vLLM; при тестировании использовалось окно 16 384 токена, а автор указывает, что базовая модель поддерживает контекст до 262 000 токенов. Модель рассчитана на прямые ответы, творческое письмо, исследования безопасности, red-team-тестирование и работу с запросами, которые базовая модель могла бы отклонить. Снятие части отказов может сделать ответы более доступными, но не гарантирует точности или безопасности. README предупреждает о повторениях и потере связности на очень длинных запросах; модель может выдавать опасный или незаконный контент. Лицензия — Apache-2.0.

Qwen3.8-27B-Uncensored-NVFP4 (ModelOpt) — это квантованная версия мультимодальной модели JonathanColetti/Qwen3.8-27B-Uncensored, опубликованная joshebbs и подготовленная с помощью NVIDIA TensorRT Model Optimizer 0.43.0. Модель предназначена для инференса под управлением vLLM на GPU архитектуры Blackwell и поддерживает обработку текста и изображений. Заявленные языки — английский и китайский. Лицензия — Apache-2.0. Модель содержит 27 млрд параметров и использует гибридную архитектуру из 64 слоёв, объединяющую Gated DeltaNet и Gated Attention. Квантование NVFP4 с размером блока 16 и FP8-масштабами применено к 400 линейным слоям; vision tower, lm_head, MTP head и отдельные чувствительные к точности проекции DeltaNet сохранены в исходной точности. Размер весов уменьшен примерно с 65 ГБ в BF16 до 19,2 ГиБ. Vision tower и голова многотокенного предсказания сохранены. Модель подходит для генерации текста, рассуждений, мультимодальных сценариев и вызова инструментов через совместимый XML-формат Qwen. Контекст до 131 072 токенов проверен при распределённом запуске на двух NVIDIA DGX Spark GB10 с tensor parallelism. Для работы необходим runtime с поддержкой modelopt_fp4; стандартная загрузка через transformers невозможна. Рекомендуется vLLM с Blackwell, FP8 KV-cache и FlashInfer. При включённом режиме рассуждений ответы могут оказаться пустыми, если генерация обрывается внутри блока <think>; также для автоматического tool calling требуются специальные параметры vLLM.

Qwen3.8-Flash-Next-W4A16 — это 4-битная версия модели Qwen3.8-Flash-Next, опубликованная aixiaoma и предназначенная для запуска на потребительских GPU NVIDIA Ampere. Модель использует INT4-квантизацию W4A16 с группами по 128 элементов, симметричными масштабами и форматом compressed-tensors. Архитектурно это мультимодальная модель image-text-to-text с MoE-компонентом: квантифицированы основные экспертные и attention-матрицы, тогда как чувствительные компоненты, включая vision encoder, эмбеддинги, маршрутизатор, GDN/linear attention, PLE-таблицы и MTP-модуль, сохранены в BF16. Точные размеры, список поддерживаемых языков и параметры контекстного окна в README явно не приведены, однако указано, что исходная BF16-модель имеет около 335 ГБ, а квантифицированная версия занимает около 168 ГБ на диске. Модель предназначена для диалоговых и мультимодальных сценариев, включая обработку изображений и текста, а также инференс с длинным контекстом. Она запускается через специальную сборку vLLM с поддержкой qwen4_exp, Marlin kernels и PLE offload. На конфигурации из 4 RTX 3090 поддерживается контекст до 96 тысяч токенов, а на 8 RTX 3090 — полный заявленный контекст до 262 тысяч токенов. MTP-модуль сохранён в BF16, поэтому доступно speculative decoding; по данным авторов, для однопоточного декодирования это даёт прирост примерно на 57 процентов. К сильным сторонам относятся возможность запуска на широко распространённых GPU Ampere без поддержки FP8, сохранение качества на заявленном наборе greedy-тестов на уровне базовой модели и существенное сокращение объёма GPU-памяти за счёт выгрузки 102 ГБ PLE-таблиц в оперативную память. Ограничения включают высокие требования к оборудованию и минимум около 110 ГБ свободной оперативной памяти, обязательное использование expert parallelism, специальные параметры Docker и vLLM, а также необходимость отключить torch.compile из-за проблем с компиляцией на Ampere. Лицензия указана как qwen-community-1.0; также отмечена связь с базовой моделью Qwen3.8-Flash-Next.

Карточка модели ArchiveStudio/Qwen3-Coder-Next на Hugging Face совпадает с карточкой Qwen/Qwen3-Coder-Next, поэтому описание составлено по ней. Qwen3-Coder-Next — открытая модель семейства Qwen3 от команды Qwen, предназначенная для кодирующих агентов и локальной разработки. Это причинная языковая модель архитектуры MoE с гибридным сочетанием Gated DeltaNet и Gated Attention. В README указано 80 млрд параметров всего и 3 млрд активных; метаданные каталога указывают 2,3 млрд параметров, поэтому точный размер расходится между источниками. Модель рассчитана на генерацию и изменение кода, многошаговые задачи разработки, вызов инструментов и восстановление после ошибок выполнения. Контекстное окно — 262 144 токена; поддерживаются чат и интерфейс вызова инструментов. README описывает её как пригодную для интеграции с CLI и IDE, а также локального развёртывания. Модель работает только в режиме без reasoning и, согласно README, не генерирует блоки ````. Карточка не перечисляет поддерживаемые естественные языки, поэтому языковые коды не включены. Лицензия — Apache-2.0.

LifetimeMistake/Qwen3-VL-Embedding-2B-NVFP4 — квантованный вариант мультимодальной embedding-модели Qwen/Qwen3-VL-Embedding-2B из семейства Qwen. Модель предназначена для семантического поиска и retrieval-сценариев, включая обработку текста, изображений, скриншотов, видео и смешанных текстово-визуальных запросов. Заявлена поддержка более 30 языков, контекст до 32 000 токенов и размерность эмбеддингов до 2048 с возможностью использовать меньшие размерности. Для многоязычных задач рекомендуются инструкции на английском языке. Вариант использует квантование NVIDIA Model Optimizer NVFP4 с размером группы 16; квантизация применяется к квантируемым весам языковой части, а визуальная часть и lm_head оставлены без квантизации. Модель подготовлена для развёртывания через vLLM с backend modelopt_fp4. По локальному сравнению с FP16-версией она показала примерно на 13% меньшее время выполнения, меньшую среднюю задержку и более высокую пропускную способность, при этом качество поиска немного снизилось, особенно на мультимодальных тестах ViDoRe. Поэтому перед эксплуатацией необходима проверка на собственных данных. Модель распространяется по лицензии Apache-2.0. Для использования требуется vLLM с поддержкой modelopt_fp4 и параметром trust-remote-code; при необходимости шаблон чата можно указать вручную.

Это англоязычная cross-encoder-модель семейства BERT, опубликованная организацией cross-encoder-testing и дообученная на базе prajjwal1/bert-tiny с использованием библиотеки Sentence Transformers. Модель обучена на данных GooAQ объёмом 578 402 примера с функцией потерь BinaryCrossEntropyLoss и выдаёт один числовой балл для пары текстов. Размер модели составляет около 4,4 млн параметров, максимальная длина входной последовательности — 512 токенов. Доступны форматы ONNX и Safetensors. Модель предназначена для ранжирования и оценки релевантности пар «запрос—текст», включая переранжирование результатов семантического поиска, оценку семантического сходства, поиск перефразировок и классификацию пар текстов. Благодаря компактной архитектуре она подходит для быстрого инференса и развёртывания через Sentence Transformers или совместимые инструменты. Модель поддерживает английский язык и распространяется по лицензии Apache-2.0. Она не генерирует текст, а только оценивает пары входных текстов; качество на других языках, доменах и типах данных может быть ограничено.

Карточка модели camidenecken/RM2-RoBERTa-rm-v3-SBERT-v2_10 на Hugging Face совпадает с карточкой camidenecken/RM2-RoBERTa-rm-v3-SBERT-v2_7, поэтому описание составлено по ней. camidenecken/RM2-RoBERTa-rm-v3-SBERT-v2_7 — модель sentence-transformers на архитектуре RoBERTa, обученная Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения смысловой близости, семантического поиска и кластеризации. Модель содержит 151,8 млн параметров, принимает текст и имеет контекст до 514 токенов. В README версия помечена как устаревшая: качество векторных представлений низкое, поэтому для новых систем рекомендуется выбрать более качественную модель эмбеддингов. Распространяется по лицензии Apache-2.0.

mrm8488/setfit-mpnet-base-v2-finetuned-spam-detection — модель Sentence Transformers на архитектуре MPNet, разработанная автором mrm8488 и предназначенная для преобразования предложений и абзацев в плотные векторы размерности 768. В метаданных указан размер 136,7 млн параметров, библиотека PyTorch и контекст до 514 токенов. Модель можно использовать для семантического поиска, сравнения сходства текстов и кластеризации. Несмотря на название репозитория, README описывает получение эмбеддингов, а метаданные не подтверждают отдельную задачу классификации спама. Модель принимает текст и выдаёт векторы. README указывает обучение с CosineSimilarityLoss; сведений о поддерживаемых языках и лицензии в предоставленных данных нет.

Shark-Coder — слитая модель генерации текста для задач программирования, созданная powermove72 с помощью LazyMergekit на основе powermove72/Shark-1 и S-miguel/The-Trinity-Coder-7B. В конфигурации объединены слои 0–15 Shark-1 и слои 16–31 The-Trinity-Coder-7B методом passthrough; для токенизатора используется union, а веса представлены в FP16 формате safetensors. Модель построена на плотной архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации и дополнения кода. Метаданные каталога также характеризуют базовую модель как подходящую для логических рассуждений и решения задач по программированию; отдельные языки программирования или естественные языки не перечислены. Лицензия в предоставленных данных не указана.

Smaug-Agentic — дообученная Abacus.AI модель на основе мультимодальной Kimi K3 от Moonshot AI, предназначенная для агентной работы и рассуждений, прежде всего в задачах программирования. Это плотная с точки зрения представления модели архитектура Kimi K3 с Mixture-of-Experts на 2,8 трлн параметров; обучение изменило поведение, сохранив архитектуру, токенизатор и визуальный энкодер MoonViT-V2 базовой модели. Контекст составляет 1 млн токенов, доступны ввод текста и изображений и генерация текста. Модель дообучена на отфильтрованных многоходовых траекториях программирования с использованием инструментов. По оценкам разработчика, она улучшает показатели базовой модели на ряде тестов рассуждений и агентного программирования; измерения проводились в указанных разработчиком условиях и не являются независимым сравнением. Модель рассчитана на интеграцию с агентными фреймворками, совместимыми с контрактом OpenAI chat completions. Для повторной отправки истории некоторые OpenAI-совместимые серверы требуют удаления нестандартных полей. Лицензия указана как other; конкретные условия следует сверить с лицензией репозитория.

QuantFactory/starcoder2-3b-instruct-GGUF — квантизированная версия модели TechxGenus/starcoder2-3b-instruct, подготовленная QuantFactory с использованием llama.cpp. Модель предназначена прежде всего для генерации кода и выполнения инструкций, связанных с программированием; для задач, не относящихся к кодированию, её возможности могут быть ограничены. В основе лежит StarCoder2 с 3 млрд параметров, дообученная на 0,7 млрд дополнительных высококачественных токенов, связанных с программным кодированием, в течение трёх эпох. При обучении использовались DeepSpeed ZeRO 3 и Flash Attention 2. Модель работает в формате инструкций Alpaca без системного промпта; в README приведён шаблон с секциями «Instruction» и «Response». Заявленный результат на HumanEval-Python составляет 65,9 pass@1. Сведения о поддерживаемых языках программирования, размере контекста и точном типе квантизации не указаны. К сильным сторонам относятся специализация на коде, компактный размер и доступность в формате GGUF для запуска через llama.cpp. Ограничения включают возможные ошибки и вводящие в заблуждение ответы, слабую пригодность для некодовых задач и ограниченное тестирование; перед применением в реальных системах рекомендуется дополнительная проверка безопасности. Лицензия — BigCode OpenRAIL-M.

text2vec-bge-large-chinese-i1-GGUF — это квантизированная в формате GGUF версия модели shibing624/text2vec-bge-large-chinese. Базовая модель разработана пользователем или организацией shibing624, а квантизацию выполнил mradermacher. Модель предназначена для получения векторных представлений текста, извлечения признаков и оценки семантического сходства предложений, прежде всего на китайском языке. В репозитории представлены варианты квантизации IQ и Q разных уровней, преимущественно размером около 0,2–0,4 ГБ. Для отдельных вариантов указаны компромиссы между размером, скоростью и качеством; рекомендуются i1-Q4_K_S и i1-Q4_K_M, тогда как некоторые низкобитные варианты имеют очень низкое качество. Архитектура, число параметров, размер контекста и точная размерность эмбеддингов в README не указаны. Данных о поддержке других модальностей или языков, кроме заявленного китайского, нет. Модель подходит для локального семантического поиска, кластеризации, сопоставления текстов и других задач, где нужны текстовые эмбеддинги. Основное преимущество — компактные GGUF-варианты, позволяющие выбирать баланс между ресурсами и качеством. Ограничения связаны с потерями качества при агрессивной квантизации, а также с отсутствием подробных сведений о характеристиках и результатах оценки. Лицензия базовой модели указана как Apache-2.0.

Typhoon-OCR-1.5-3B-QAT — мультимодальная модель для распознавания текста и разбора документов, разработанная Typhoon AI на базе Qwen2.5-VL-3B. Это версия с обучением с учётом квантования (QAT), выпущенная в формате bfloat16 и предназначенная для последующего преобразования в низкую точность, например 4-битную, с меньшей потерей качества. Архитектура — плотная vision-language модель Qwen2.5-VL с 3,1 млрд параметров и контекстом 128 000 токенов. Модель рассчитана на OCR на английском и тайском языках, включая рукописные заметки, формы, таблицы, чеки, диаграммы и документы со сложной или нерегулярной разметкой. Она предназначена для запуска на устройствах с ограниченными ресурсами и должна использоваться с предусмотренным форматом промпта. Это специализированная OCR-модель, а не универсальная система визуальных вопросов и ответов; в результатах возможны галлюцинации, поэтому их следует проверять перед производственным использованием. Лицензия — Apache-2.0.

vectorizer.guava — многоязычная модель-векторизатор, разработанная Sinequa для поиска релевантных фрагментов текста. Она преобразует запросы и passages в векторы: векторы passages сохраняются в индексе, а вектор запроса используется для поиска подходящих фрагментов. Модель построена на базе mMiniLMv2-L6-H384-distilled-from-XLMR-Large и имеет архитектуру XLM-RoBERTa; в метаданных указано 110,2 млн параметров, а README указывает 107 млн. Выходные эмбеддинги имеют размерность 256 благодаря дополнительному плотному слою, контекст — до 514 токенов. Модель обучена для семантического поиска на английском, французском, немецком, испанском, итальянском, нидерландском, японском, португальском, китайском (упрощённом и традиционном) и польском языках. Она нечувствительна к регистру и диакритическим знакам. README сообщает о среднем Recall@100 0,616 на англоязычных наборах BEIR и приводит результаты для ряда языков MIRACL и традиционного китайского. Для запуска в Sinequa требуется версия не ниже 11.10.0; для GPU указана CUDA compute capability выше 7.5. Лицензия в предоставленных данных не указана.

XYZ-Aquila-mini-APEX-I-MiniPlus-V2-GGUF — это квантованная версия модели XYZ-Aquila-mini, подготовленная IsValorum в формате GGUF для запуска через совместимые средства, включая llama.cpp. Модель ориентирована на мультимодальные сценарии image-text-to-text и, согласно указанным тегам, может применяться для работы с изображениями и текстом, агентского поиска, задач search-agent и computer use. В карточке указаны архитектура MoE и мультимодальная поддержка с vision-компонентом, однако точный размер модели, число экспертов и слоёв, максимальный контекст и подробные характеристики входных и выходных модальностей не приведены. Заявлена поддержка английского, китайского, испанского, французского, немецкого, португальского, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Квантование APEX-I-MiniPlus описывается как настраиваемое для отдельных тензоров: с сохранением высокоточной маршрутизации и защитой чувствительных компонентов, но конкретная конфигурация файлов этой версии в доступном фрагменте не указана. Сильными сторонами являются компактный GGUF-формат, мультимодальная направленность, поддержка широкого набора языков и возможность использования в локальных агентских и визуальных сценариях. Ограничения связаны с тем, что приведённые независимые бенчмарки относятся к другим моделям или выпускам семейства и не подтверждают характеристики именно этой версии; также отсутствуют точные сведения о производительности, требованиях к памяти и максимальной длине контекста. Модель распространяется по лицензии Apache-2.0.

zen4-coder-i1-GGUF — это набор GGUF-квантизированных версий модели zenlm/zen4-coder, подготовленный пользователем mradermacher. Модель предназначена прежде всего для генерации и обработки программного кода, а также для сценариев локального запуска через совместимые инструменты, поддерживающие формат GGUF. В метаданных указана поддержка английского языка и библиотека Transformers. Доступны варианты с различными типами и уровнями квантизации — от IQ1 и IQ2 до Q6_K — размером примерно от 16,3 до 65,6 ГБ. README не содержит сведений об архитектуре, общем числе параметров, длине контекста, точных возможностях программирования, результатах тестирования или поддерживаемых модальностях, поэтому эти характеристики нельзя определить достоверно. Варианты различаются компромиссом между размером, скоростью и качеством: наиболее компактные квантизации могут заметно терять в качестве, тогда как Q4_K_M отмечен как быстрый и рекомендуемый, а IQ-варианты часто предпочтительнее сопоставимых по размеру стандартных квантизаций. Модель подходит для локального инференса при наличии достаточного объёма оперативной или видеопамяти, причём требования зависят от выбранного файла. Ограничениями являются возможное ухудшение качества на низких уровнях квантизации и отсутствие подробных данных о базовой модели. В метаданных указана лицензия Apache-2.0; квантизации подготовлены mradermacher.

swardiantara/bert-tiny-sst5-k5-fixed-euclidean — компактная модель Sentence Transformers, разработанная на базе google/bert_uncased_L-2_H-128_A-2 и дообученная для сопоставления предложений. Она кодирует текст в плотные векторы размерности 128 для поиска и сравнения по косинусному сходству; модель можно использовать для семантического поиска и извлечения релевантных текстов. Архитектура включает BERT с двумя слоями и mean pooling. Веса занимают модель размером около 4,4 млн параметров; метаданные указывают контекст до 512 токенов, а карточка модели сообщает максимальную длину последовательности 128 токенов. Модель принимает текст и возвращает эмбеддинги. Данные обучения содержат англоязычные пары фрагментов обзоров фильмов с метками сходства, поэтому подтверждённая языковая специализация — английский. Лицензия в предоставленных данных не указана. Компактный размер подходит для сценариев с ограниченными вычислительными ресурсами, но качество и область применения за пределами описанного обучения отдельно не подтверждены.

swardiantara/bert-tiny-yelp-k5-adaptive-cosine — компактная модель Sentence Transformers на основе BERT, дообученная для преобразования предложений и абзацев в плотные векторы размерности 128. Она предназначена для поиска и сравнения текстов: близость векторов оценивается косинусным сходством, а архитектура использует BERT-энкодер с усредняющим pooling. Модель обучена на 585 350 примерах с текстовыми парами и метками; базовая модель содержит 4,4 млн параметров. Модель принимает текст. README указывает максимальную длину последовательности 128 токенов, а метаданные каталога — контекст до 512 токенов. Базовая модель ориентирована на английский язык, поэтому для других языков качество не подтверждено. Модель подходит для семантического поиска и извлечения признаков текста; лицензия в предоставленных данных не указана.

Qdrant/bge-base-en-v1.5-onnx-Q — это квантованная версия в формате ONNX модели BAAI/bge-base-en-v1.5, опубликованная Qdrant. Модель предназначена для вычисления текстовых представлений, задач классификации текста и поиска по сходству. Модель работает с текстовыми данными на английском языке, поскольку базовая модель имеет суффикс en. Она преобразует документы и запросы в числовые векторы, которые можно сравнивать для семантического поиска, кластеризации или последующей классификации. В README указана интеграция с библиотекой FastEmbed. Ключевое преимущество модели — использование квантованного ONNX-представления, что может быть удобно для эффективного выполнения инференса в совместимых средах. При этом в README не приведены точные сведения об архитектуре, размере модели, размерности векторов, поддерживаемой длине контекста и характеристиках производительности. Ограничением также является ориентация на английский язык. Модель распространяется по лицензии Apache-2.0.

lm-kit/bge-m3-gguf — репозиторий с квантизированными версиями embedding-модели BGE-M3, базовая модель которой опубликована BAAI. Модель предназначена для получения векторных представлений текста и связанных задач поиска и семантического сопоставления. Формат распространения — GGUF, что позволяет использовать модель в совместимых инструментах и приложениях. Квантизация выполнена с помощью LM-Kit.NET версии 2024.9.0, а конвертация — посредством llama.cpp с указанной ревизией. README не содержит сведений о размере модели, архитектуре, поддерживаемых языках, длине контекста, модальностях и конкретных вариантах квантования, поэтому эти характеристики нельзя достоверно уточнить. Лицензия — MIT.

colbertv1-camembert-base-mmarcoFR — модель ColBERTv1 для семантического поиска на французском языке, созданная Antoine Louis на основе camembert-base. Она кодирует запросы и фрагменты документов в матрицы векторных представлений токенов и ранжирует фрагменты по контекстному сходству с помощью MaxSim; модель предназначена для поиска по крупным коллекциям и извлечения документов для систем RAG. Модель дообучена на французской части mMARCO — машинно переведённой версии MS MARCO. В README указаны размерность представлений 128, максимальная длина запроса 32 токена и фрагмента 256 токенов; метаданные указывают 137,8 млн параметров и нативный контекст 514 токенов. На тестовом наборе mMARCO-fr с 8,8 млн фрагментов она показала MRR@10 29,5 и R@100 80,0. Модель рассчитана на франкоязычный поиск по текстовым запросам и коллекциям документов. Индекс коллекции из 8,8 млн фрагментов в описанной конфигурации занимает около 28 ГБ. Лицензия — MIT.

CyberNeurova-DeepSeek-V4-Flash-abliterated-GGUF — экспериментальная исследовательская версия DeepSeek-V4-Flash, разработанная CyberNeurova. Это permanently-abliterated модель, в которой изменения, снижающие склонность к отказам, встроены непосредственно в веса во время конвертации. Модель упакована в формат GGUF для запуска через специализированную экспериментальную ветку llama.cpp, поддерживающую DeepSeek-V4-Flash. Модель предназначена для генерации текста, программирования, рассуждений, поиска ошибок, кибербезопасностных исследований и сценариев с вызовом инструментов. По заявлению автора, версия v2 показывает 99,2% соответствия формату tool calling, 85,0% эффективности в поиске ошибок, 90,0% соответствия в задачах hacking и cyber-weapons compliance, а также низкий уровень отказов на указанных тестах. Архитектура основана на 284-миллиардной FP8 MoE-модели DeepSeek-V4-Flash; поддерживаемая модальность — текст, язык README указывает английский. Размер контекста в карточке не указан. Доступны варианты Q2_K размером около 98,8 ГБ и Q8_0 размером около 282 ГБ. Для Q2_K рекомендуется не менее 128 ГБ RAM, для Q8_0 — около 320 ГБ; GPU необязателен. Q2_K практичнее для рабочих станций, а Q8_0 ориентирован на максимальное качество и исследования. Ограничения включают экспериментальный статус, зависимость от специальной ветки llama.cpp, необходимость корректной stop-последовательности и высокие требования к памяти. Модель распространяется по лицензии MIT.

EraX-WoW-Turbo-V1.0 — модель распознавания речи команды EraX, дообученная на базе OpenAI Whisper Large-v3 Turbo. Она преобразует аудио в текст и предназначена для быстрой транскрибации, создания субтитров, расшифровки встреч и работы голосовых приложений. Архитектура Whisper, размер — 905,2 млн параметров. В карточке заявлены обучение на примерно 300 тысячах примеров (около 1000 часов аудио) и поддержка вьетнамского, хинди, китайского, английского, русского, немецкого, украинского, японского, французского, нидерландского и корейского языков; также заявлена обработка аудио в реальном времени. Автор приводит предварительную оценку WER около 12%, но сообщает, что бенчмарки ещё завершаются. Модель может быть полезна для автоматической расшифровки речи, субтитров и голосовых интерфейсов. README отмечает возможные трудности с детской речью и тихим шёпотом. Указана лицензия MIT.

Это разреженный SPLADE-энкодер, дообученный на наборе all-nli с использованием библиотеки Sentence Transformers. Модель основана на naver/splade-cocondenser-ensembledistil и преобразует предложения и абзацы в разреженные векторы размерности 30 522; сходство между ними оценивается скалярным произведением. Архитектура включает BERT-модель для masked language modeling и max-пулинг с ReLU. Метаданные указывают 136,7 млн параметров и контекст до 512 токенов; карточка README задаёт максимальную длину последовательности 256 токенов. Модель предназначена для семантического поиска, разреженного извлечения документов и оценки сходства предложений на английском языке. В README приведены результаты оценки на STS-dev и STS-test. Доступна по лицензии Apache-2.0. Ее применение ограничено английским языком и указанной длиной входной последовательности; качество на других языках и специализированных областях не заявлено.

Gemma4-12B-agentic-fable5-composer2.5-v2-3.5x-tau2 — дообученная модель yuxinlu1 на базе Google Gemma 4 12B Instruct для генерации кода и выполнения многошаговых технических задач с использованием инструментов. Это плотная архитектура Gemma 4 Unified, опубликованная в формате safetensors с весами bf16; README ориентирует эту версию прежде всего на разработчиков, которые хотят запускать модель в Transformers, создавать квантизованные варианты или продолжать дообучение. Модель предназначена для написания и отладки кода, работы с командами и инструментами, а также циклов «диагностика — исправление — проверка». В README приведён результат около 55% на локальном тесте tau2-bench telecom из 20 задач против примерно 15% у базовой модели при одинаковой конфигурации. Это сравнение ограничено описанным автором тестовым стендом и не сопоставимо напрямую с опубликованными результатами бенчмарка. Автор также сообщает о небольшом снижении результата на MMLU-Pro относительно базы. Модель поддерживает диалог и использует встроенный протокол вызова инструментов Gemma 4; README также описывает режим рассуждения перед ответом. Лицензия — Apache-2.0. Карточка не приводит сведений о размере контекстного окна или языках обучения, поэтому они здесь не уточняются.