I.3Извлечение и структурирование данных

Qwen3-4B-Instruct-2507-GGUF — это набор файлов модели в формате GGUF для Qwen3-4B-Instruct-2507, разработанной командой Qwen. Квантизацию и публикацию файлов выполнил MaziyarPanahi. Модель предназначена для генерации текста и использования в диалоговых и других сценариях, поддерживаемых исходной instruct-моделью. Модель содержит вариант с примерно 4 миллиардами параметров и распространяется в формате GGUF с уровнями квантизации 2-, 3-, 4-, 5-, 6- и 8-bit. Этот формат ориентирован на локальный запуск через llama.cpp и совместимые инструменты, включая llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другие приложения. GGUF может упростить запуск модели на локальных системах с использованием CPU и GPU, однако конкретные требования к памяти, производительность, контекстное окно, поддерживаемые языки и модальности в README не указаны. Сильные стороны модели — компактный размер, наличие нескольких уровней квантизации и широкая совместимость с локальными средствами инференса. Квантизация может снизить требования к ресурсам, но способна повлиять на качество по сравнению с исходной моделью; степень этого влияния зависит от выбранного варианта. Лицензия и условия использования в предоставленных данных не указаны.

Qwen3-4B-Thinking-2507-GGUF — это набор файлов модели в формате GGUF для текстовой генерации, созданный пользователем MaziyarPanahi на основе исходной модели Qwen3-4B-Thinking-2507 от команды Qwen. Модель предназначена для локального запуска и интеграции с совместимыми приложениями и библиотеками, включая llama.cpp, llama-cpp-python, LM Studio, text-generation-webui и другие инструменты экосистемы GGUF. Известно, что представлены варианты квантования с разрядностью 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать баланс между размером файлов, требованиями к памяти и качеством генерации. Модель относится к классу текстовых генеративных моделей; сведения о количестве параметров, архитектуре исходной модели, поддерживаемых языках и размере контекста в README не указаны. Формат GGUF поддерживает запуск с использованием CPU и GPU, однако фактическая производительность зависит от выбранного варианта квантования и оборудования. README не содержит сведений о лицензии. Ограничения, связанные с качеством ответов и потерями точности при квантовании, могут зависеть от конкретного файла и конфигурации запуска.

onnx-community/Qwen3.5-0.8B-ONNX — это ONNX-версия постобученной мультимодальной модели Qwen3.5-0.8B, разработанной командой Qwen. Модель предназначена для обработки текста и изображений, генерации ответов, визуального понимания, рассуждений, программирования, агентских сценариев, прототипирования, исследовательских задач и специализированного дообучения. Веса и конфигурация совместимы с Hugging Face Transformers.js и ONNX Runtime. Модель представляет собой авторегрессионную языковую модель с vision encoder и содержит около 0,8 млрд параметров. Архитектура сочетает Gated Delta Networks и разреженную Mixture-of-Experts; языковая часть включает 24 слоя, скрытое измерение 1024 и нативный контекст до 262 144 токенов. Заявлена поддержка 201 языка и диалекта. Благодаря небольшому размеру модель ориентирована на относительно эффективный запуск и разработку, но по возможностям и качеству уступает более крупным моделям, а заявленные мультимодальные и языковые характеристики требуют проверки на конкретных задачах. Модель распространяется по лицензии Apache-2.0. README не содержит полного описания ограничений, требований к аппаратному обеспечению и подробных результатов именно для всех поддерживаемых сценариев.

Qwen3.5-397B-A17B-MLX-8bit — 8-битная квантованная версия модели Qwen3.5-397B-A17B, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием mlx_vlm, а модель оптимизирована для запуска на устройствах Apple Silicon через MLX. Модель предназначена для задач генерации текста и работы с изображениями и текстом; в карточке указан тип pipeline image-text-to-text. Ключевая характеристика — размер исходной модели 397B и 8-битное представление весов. Сведения о поддерживаемых языках, размере контекста и точной архитектуре в README не приведены. К преимуществам относятся существенное снижение требований к памяти по сравнению с исходной моделью и оптимизация для экосистемы Apple Silicon. Ограничения связаны с квантованием, возможными потерями качества относительно полной версии и зависимостью от совместимого оборудования и программного окружения MLX. Модель распространяется по лицензии Apache-2.0; LM Studio не является её разработчиком и не гарантирует точность, безопасность или пригодность результатов.

Qwen3.5-88B — текстовая версия модели Qwen3.5, подготовленная 0xSero из Qwen/Qwen3.5-122B-A10B методом REAP (Routing-Enhanced Activation Pruning). Из MoE-модели удалено около 30% экспертов; итоговая модель содержит 88 млрд параметров и распространяется в формате BF16. В основе указана архитектура Qwen3.5 MoE с GDN и полным attention. Модель предназначена для генерации текста и диалогов. Это контрольная точка только для языковой модели, полученная из мультимодальной базы: изображения она не обрабатывает. REAP отбирает экспертов по активациям маршрутизатора на калибровочном наборе данных; в README также указана защита критически важных для безопасности возможностей. Для запуска приведён пример с vLLM и максимальной длиной контекста 8192 токена. Лицензия в метаданных обозначена как other, конкретные условия следует проверять на странице репозитория.

Qwen3.5-9B-Unredacted-MAX — дообученная мультимодальная модель семейства Qwen от prithivMLmods, основанная на Qwen/Qwen3.5-9B. Она предназначена для диалогов и обработки изображений с текстом, а также для локального и облачного инференса, прототипирования, исследований следования инструкциям и тестирования устойчивости. Модель содержит 9 млрд параметров, использует плотную архитектуру Qwen3.5 и распространяется в формате safetensors для Transformers; заявлена совместимость с современными конвейерами Transformers. В карточке сообщается о модификации отказов и приводятся самоотчётные показатели поведения на 2000 тестовых запросах; это не независимый бенчмарк. Возможны неверные или непоследовательные ответы, особенно в сложных сценариях, а результаты зависят от промпта и настроек генерации. Для оптимальной производительности рекомендуется ускорение на GPU. Лицензия — Apache-2.0.

FTK11558/Qwen3.6-35B-A3B-APS — производная мультимодальная модель семейства Qwen3.5 MoE, представленная как вариант Qwen3.6 с адаптивным probe-based steering (APS). Карточка заявляет ориентацию на агентное программирование, работу с репозиториями, генерацию интерфейсов и вызов инструментов. Модель принимает текст и изображения и выдаёт текст; общая архитектура включает языковую модель с vision encoder и смесь экспертов: 35 млрд параметров всего, около 3 млрд активных, 40 слоёв и 256 экспертов, из которых активируются 8 маршрутизируемых и один общий. Указан контекст 262 144 токена с возможностью расширения до 1 010 000. Модель предназначена для чата, программирования и мультимодальных задач; в README приведены оценки на программных, агентных, математических и vision-language бенчмарках, но таблицы результатов опущены. Репозиторий содержит веса и конфигурацию в формате Transformers/Safetensors и заявляет совместимость с Transformers, vLLM, SGLang и KTransformers. Лицензия — Apache-2.0. Название и README указывают на APS steering, однако не приводят базовую модель или детали обучения APS. Поэтому происхождение от конкретного чекпойнта установить нельзя. README также содержит рекламные заявления о качестве, которые по приведённым данным независимо оценить невозможно.

Qwen3.6-35B-A3B-Claude-4.6-Opus-Reasoning-Distilled-GGUF — набор GGUF-квантизаций модели, разработанный hesamation на основе Qwen/Qwen3.6-35B-A3B. Исходная модель дообучена методом supervised fine-tuning с LoRA на данных, имитирующих рассуждения Claude Opus, а затем объединена с базовой моделью и преобразована в формат GGUF с использованием инструментов llama.cpp. Модель предназначена для генерации текста и локального или серверного запуска в совместимых средах, включая современные сборки llama.cpp. Модель ориентирована на диалоговые сценарии, текстовую генерацию и задачи, требующие пошагового рассуждения. Указаны варианты Q4_K_M, Q5_K_M, Q6_K и Q8_0: они различаются размером, требованиями к памяти и ожидаемым качеством. Архитектура базовой модели обозначена как Qwen3.6-35B-A3B; в README также указано, что она включает vision encoder, однако данное дообучение выполнялось только на текстовых примерах. Поэтому улучшения для изображений и видео не заявлены, а мультимодальное поведение следует считать унаследованным от базовой модели. Максимальная длина последовательности при обучении составляла 32768 токенов, заявленный язык — английский. Главное преимущество модели — специализация на рассуждениях и возможность подобрать компромисс между качеством и потреблением памяти с помощью разных уровней квантизации. На ограниченном тесте MMLU-Pro исходная объединённая модель получила 75,71% exact match против 42,86% у базовой модели, но этот результат относится не к отдельным GGUF-файлам, основан на 70 вопросах и не является полноценной оценкой; квантизация может изменить показатели, особенно при низкой разрядности. Модель и её GGUF-варианты распространяются по лицензии Apache-2.0.

FreedomAISVR выпустила GGUF-квантизацию модели Qwen3.6-35B-A3B-Claude-4.7-Opus-Reasoning-Distilled, дообученной на базе Qwen/Qwen3.6-35B-A3B с дистилляцией рассуждений Claude 4.7 Opus. Это текстовая MoE-модель для диалогов и генерации ответов; архитектура использует 35 млрд параметров, около 3 млрд из которых активны на токен. Контекст составляет 262 144 токена, поддержка изображений отсутствует. Эксперты квантизированы в MXFP4, остальные веса — в Q8_0, веса маршрутизатора хранятся в F32; файл GGUF занимает около 18,87 ГБ. Модель можно запускать через llama.cpp, например как сервер для диалогового приложения. Лицензия — Apache 2.0.

sleepy186247 конвертировал модель llmfan46/Qwen3.6-35B-A3B-uncensored-heretic-Native-MTP-Preserved в формат MLX с точностью fp16; README указывает версию mlx-lm 0.31.2. Это мультимодальная MoE-модель семейства Qwen3.5, предназначенная для диалогов, анализа изображений и агентного программирования. Метаданные указывают архитектуру Qwen3_5MoeForConditionalGeneration, поддержку чата и зрения, а также задачу image-text-to-text. Модификация uncensored/heretic ослабляет ограничения на ответы. Репозиторий распространяется по лицензии Apache-2.0.

Qwen3.6-Whittle-25B-A3B — текстовая MoE-модель для диалогов и генерации текста, созданная автором проекта Whittle на основе Qwen3.6-35B-A3B. В основной версии репозитория удалены 30% маршрутизируемых экспертов базовой модели (256 → 180 на слой), а оставшиеся веса дообучены с помощью самодистилляции от исходной модели. Общее число параметров по метаданным — 2,9 млрд; модель поддерживает контекст до 262 144 токенов. В репозитории также описаны отдельные экспериментальные и GGUF-артефакты, поэтому характеристики конкретных файлов различаются. Модель предназначена для диалогов, следования инструкциям и агентных сценариев; метаданные отмечают интерфейс вызова инструментов. Карточка приводит результаты небольших проверок и указывает на близкую к исходной модели точность в отдельных заданиях, но эти результаты основаны на малом числе примеров. Для текстового и кодового дополнения в стиле базовой модели автор отмечает потерю качества без удалённой n-граммной памяти. Метаданные указывают лицензию Apache-2.0.

VisualInference/Qwen3.8-27B-AEON-Ultimate-Uncensored-Multimodal-MLX-6bit — мультимодальная 6-битная MLX-квантизация модели AEON-7/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16, основанной на Qwen/Qwen3.8-27B. Модель предназначена для локального запуска на компьютерах Apple Silicon с использованием MLX и поддерживает текстовые, графические и видео-сценарии через mlx-vlm. Визуальный модуль сохранён полностью, поэтому доступны задачи понимания изображений и видео, а также обычный диалог, генерация текста и агентские сценарии. Модель имеет размер 27B параметров, мультимодальную vision-language архитектуру и 6-битное квантование с group size 64. В карточке заявлены поддержка английского, китайского и других языков, а также функции reasoning, hybrid attention, gated-deltanet и native MTP для speculative decoding. С отдельной моделью-драфтером MTP декодирование может ускоряться примерно в 1,4–1,9 раза без изменения результата. Для работы требуется около 21 ГБ памяти под веса; комфортный запуск рекомендуется на Mac с 48 ГБ и более unified memory, хотя заявлена работоспособность на 36 ГБ. Сильные стороны модели — локальное мультимодальное выполнение на Apple Silicon, сохранённая vision tower, высокая скорость при использовании speculative decoding и отсутствие дополнительной цензуры в варианте AEON. Ограничения включают повышенное потребление памяти, зависимость производительности от пропускной способности памяти и возможные обрывы ответа внутри reasoning при ограничении в 4096 токенов. Также отмечено, что распределение модели заметно сильнее отличается от стандартной Qwen3.8-27B, чем у некоторых альтернативных сборок, а качество 6-битного vision-компонента отдельно не измерялось. Модель распространяется по лицензии Apache-2.0.

esatapedico преобразовал NVFP4-чекпойнт Qwen3.8-27B-Cold-Fusion-GAIN-V1.1 в семейство из шести GGUF-файлов для запуска через llama.cpp. Модель разработана на основе Qwen3.8-27B: это плотная гибридная архитектура с Gated DeltaNet и слоями Gated Attention, а её исходный вариант дообучен DavidAU методом Cold Fusion (GAIN + Unsloth). По README, в модели 27 млрд параметров и контекст до 262 144 токенов. Модель предназначена для генерации текста и диалогов. Она поддерживает мультимодальную обработку изображений при подключении отдельного проектора mmproj-BF16.gguf; в опубликованные GGUF-файлы веса проектора не входят. В каждом файле встроена MTP-голова для спекулятивного декодирования. Шесть вариантов отличаются точностью квантования головы вывода, эмбеддингов и MTP-головы; языковая основа общая и содержит NVFP4-тензоры. README приводит результаты отдельных пробных запусков на двух GPU, а не систематический бенчмарк; скорость и качество могут зависеть от оборудования и конфигурации. Для работы с изображениями нужен совместимый проектор. Репозиторий распространяется по лицензии Apache-2.0.

Это квантованная мультимодальная модель Qwen3.8-27B, разработанная на основе Qwen/Qwen3.8-27B и аблитерированной версии huihui-ai/Huihui-Qwen3.8-27B-abliterated. Релиз lued сохраняет архитектуру и возможности исходной модели, изменяя числовое представление весов. Модель предназначена для диалоговых и мультимодальных сценариев, включая работу с текстом и изображениями, а также для запуска через vLLM на видеокартах архитектуры Ampere, в частности в конфигурации с двумя RTX 3090. Используется квантование W8A16: веса основных матричных умножений представлены в INT8, а активации — в FP16 или BF16. Применена симметричная data-free RTN-квантизация с размером группы 128; квантировано 400 GEMM-операций. В BF16 сохранены vision tower, lm_head, MTP-компоненты и рекуррентные GDN-gates. Модель поддерживает vision-компоненты, native context, thinking controls и speculative decoding через MTP, однако точный размер контекста, список языков и полные архитектурные характеристики в карточке не указаны. По измерениям на коротком наборе из 467 позиций средний KLD относительно собственного BF16-учителя составил 0,000705, а совпадение top-1 предсказаний — 98,72%; эти показатели характеризуют числовое отклонение после квантизации, но не заменяют полноценную оценку качества генерации, программирования, инструментального использования или длинного контекста. Аблитерация унаследована от базовой модели и направлена на удаление отказов; исходная карточка описывает этот метод как экспериментальный и proof-of-concept. Размер файлов весов составляет 29,44 GiB. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — это многоэтапная дообученная и объединённая версия модели Qwen3.8 с 27 млрд параметров, распространяемая командой Smilyai-Labs-GRACE-team на базе модели DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. В README заявлено использование методов COLD FUSION и Fable Fusion 711, а также инструментов Unsloth. Репозиторий содержит обычные GGUF-квантизации и варианты MTP GGUF, ориентированные на запуск на потребительском оборудовании. Модель предназначена для широкого круга задач: рассуждений и решения проблем, программирования, творческого письма, создания историй, ролевых сценариев и других универсальных применений. Заявлены режимы thinking и reasoning, а основной акцент сделан на сокращении объёма рассуждений и ускорении генерации при сохранении детализации и качества ответов. Указаны английский и китайский языки. Метаданные также помечают модель как image-text-to-text, однако подробности о поддерживаемых визуальных входах и соответствующей архитектуре в README не приведены. К заявленным сильным сторонам относятся улучшенные результаты на внутренних и упомянутых в README тестах ARC-C и ARC-E, сокращение расхода токенов на рассуждения, высокая скорость, поддержка кодинга и творческих сценариев, а также наличие 4-битных и 8-битных GGUF-вариантов. Эти показатели представлены авторами модели и не сопровождаются независимой методикой проверки. Ограничения включают отсутствие данных о длине контекста, точных параметрах архитектуры, системных требованиях и качестве на широком наборе внешних тестов; заявления о «uncensored» также указывают на возможное отсутствие стандартных защитных ограничений. Лицензия — Apache-2.0.

TheDrainFlorist/Qwen3.8-27B-VQ-4.5bpw — векторно-квантизированная сборка базовой модели Qwen/Qwen3.8-27B, разработанной Qwen. Модель предназначена для генерации текста и, при использовании совместимого mlx-vlm, обработки изображений. Сборка ориентирована на локальный запуск на устройствах Apple Silicon через MLX и сохраняет совместимость со стандартным mlx-lm без патчей. Модель содержит 27 млрд параметров и использует векторное квантование с эффективностью около 4,5 бит на вес; размер чекпойнта составляет примерно 14,45 GiB, включая vision tower в формате bf16. В метаданных указан английский язык, однако полный набор поддерживаемых языков и размер контекстного окна не приведены. Для загрузки требуется версия mlx-lm с поддержкой параметра model_file, а для работы с изображениями — mlx-vlm версии 0.6.16 или новее. Главное преимущество сборки — заметно меньший размер при качестве, близком к bf16 и немного лучшем, чем у указанной локальной 4-битной affine-квантизации: согласие по наиболее вероятному токену составляет 90,1%, а расхождение с bf16-версией — 40,3 millinats на токен. Ограничения включают зависимость от Apple Silicon и совместимых версий MLX, необходимость корректной загрузки встроенного runtime, а также снижение точности по сравнению с bf16 и более качественными 6- и 8-битными вариантами. Лицензия — Apache-2.0.

Qwen3.8-4B-Distill-GGUF — набор GGUF-квантизаций модели, разработанной Empero. Это полнопараметрическая дистилляция Qwen3.8 2.4T A95B в архитектуру Qwen3.5-4B, предназначенная для генерации текста и запуска в llama.cpp, Ollama, LM Studio, Jan, KoboldCpp и других совместимых средах. Модель ориентирована на рассуждения и использует встроенный шаблон чата; ответы начинаются с блока <think>, который при необходимости можно удалять перед показом пользователю. Доступны варианты от Q4_K_M до BF16 размером примерно от 2,783 до 8,666 ГБ. Рекомендуемый Q4_K_M обеспечивает баланс качества и размера, а Q8_0 и BF16 дают более высокое качество при повышенных требованиях к памяти. Архитектура Qwen3.5 использует гибрид из слоёв Gated DeltaNet и полноценных attention-слоёв, поэтому требуется свежая версия llama.cpp с поддержкой Qwen3.5 и Gated DeltaNet. В карточке указаны английский язык и сценарий text-generation; размер контекста не заявлен. По приведённым оценкам, модель заметно превосходит базовую Qwen3.5-4B в MMLU, но уступает ей в GSM8K CoT, поэтому качество зависит от типа задачи. Для Q4_K_M и Q5_K_M подходят видеокарты с 4–6 ГБ памяти, Q6_K и Q8_0 требуют примерно 6–8 ГБ, а BF16 — от 12 ГБ; при длинном контексте дополнительные ресурсы нужны для KV-кэша. Веса распространяются по лицензии Apache-2.0.

valiolla/Qwen3.8-4B-Distill-heretic — версия Qwen3.8-4B с ослабленным отказом от ответов, созданная на основе модели Empero AI с помощью Heretic v1.4.0. Это плотная языковая модель с 4 млрд параметров в формате Transformers; она представляет собой полнопараметрическое дообучение Qwen/Qwen3.5-4B методом дистилляции на выборке ответов более крупной модели Qwen3.8. Модель рассчитана на диалог, следование инструкциям, рассуждения и вызов функций; в README отдельно выделены математика и общие рассуждения. Заявленная длина контекста — 262 144 токена. В сравнении с исходной Qwen3.8-4B доля отказов в приведённом тесте снизилась с 99 до 24 из 100, а KL-дивергенция составила 0,0109. Тонкая настройка ориентирована на текст; поведение с изображениями унаследовано от мультимодальной базовой архитектуры, но не оценивалось. Для запуска требуются актуальная версия Transformers с поддержкой Qwen3.5 и CUDA-совместимые ядра Gated DeltaNet; без них генерация может быть медленнее и требовать больше памяти. В README также отмечены риск циклов повторения при жадном декодировании длинных ответов и снижение результата на GSM8K относительно базовой модели. Лицензия — Apache-2.0; авторы предоставляют веса «как есть» для исследований и экспериментов.

Voodisss/Qwen3-Reranker-4B-GGUF-llama_cpp — это GGUF-конверсия модели Qwen/Qwen3-Reranker-4B, предназначенная для запуска через llama.cpp. В README указано, что конверсия выполнена 9 марта 2025 года с помощью официального скрипта convert_hf_to_gguf.py; разработчик исходной модели отдельно не указан. Модель относится к классу reranker и оценивает релевантность документов поисковому запросу, поэтому подходит для семантического поиска, reranking результатов, retrieval-augmented generation и других задач ранжирования текста. Для работы следует использовать endpoint /v1/rerank, а не /v1/embeddings. Модель поддерживает классификацию релевантности через метки yes/no и содержит специальные настройки для reranking: pooling типа RANK, встроенный chat template и классификационные веса. Доступны варианты GGUF-квантизации от F16 размером 7,50 ГБ до Q2_K размером 1,55 ГБ; по приведённому тесту на MTEB AskUbuntuDupQuestions варианты от Q8_0 до Q3_K_M сохраняют качество в пределах примерно ±1% от F16, а Q4_K_M назван оптимальным компромиссом между размером и качеством. Q2_K заметно ухудшает результаты. Модель рассчитана на текстовые запросы и документы; другие модальности и поддерживаемые языки в README не указаны. Лицензия — Apache 2.0.

bartowski/Qwen_Qwen3-14B-GGUF — набор GGUF-квантизаций базовой языковой модели Qwen3-14B, разработанной командой Qwen. Квантизации выполнены bartowski с использованием llama.cpp версии b5200 и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Доступны варианты от исходных весов BF16 размером 29,54 ГБ до сильно сжатых форматов объёмом около 5,32 ГБ, включая Q8_0, Q6_K, Q5_K_M, Q4_K_M, IQ4_XS, Q3- и Q2-варианты. Более крупные квантизации обычно обеспечивают более высокое качество, тогда как компактные требуют меньше оперативной памяти, но заметно уступают по качеству. Для диалогового режима в README указан шаблон с ролями system, user и assistant. README не содержит сведений об архитектурных деталях, поддерживаемых языках, длине контекста, мультимодальности или лицензии. Условия использования необходимо уточнять по документации исходной модели Qwen/Qwen3-14B и репозиторию квантизаций.

Карточка модели camidenecken/RM2-RoBERTa-rm-v3-SBERT-v2_8 на Hugging Face совпадает с карточкой camidenecken/RM2-RoBERTa-rm-v3-SBERT-v2_7, поэтому описание составлено по ней. camidenecken/RM2-RoBERTa-rm-v3-SBERT-v2_7 — модель sentence-transformers на архитектуре RoBERTa, обученная Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения смысловой близости, семантического поиска и кластеризации. Модель содержит 151,8 млн параметров, принимает текст и имеет контекст до 514 токенов. В README версия помечена как устаревшая: качество векторных представлений низкое, поэтому для новых систем рекомендуется выбрать более качественную модель эмбеддингов. Распространяется по лицензии Apache-2.0.

IlyaGusev/saiga_mistral_7b_merged — объединённая версия модели семейства Mistral, предназначенная для генерации текста. По метаданным это плотная авторегрессионная модель MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. В README указано, что существуют версии GGUF и квантизации TheBloke, но данный репозиторий содержит веса PyTorch. Модель ориентирована на русскоязычные запросы; метаданные связывают её с русскоязычными наборами инструкций и диалогов. Её можно использовать для ответов на вопросы, диалогов и выполнения текстовых инструкций на русском языке. Лицензия — Apache-2.0. README не раскрывает, какие именно модели были объединены и как выполнялось слияние.

inkoziev/sbert_synonymy — русскоязычная модель Sentence-Transformers от inkoziev для оценки синонимичности коротких фраз и предложений. Она основана на cointegrated/rubert-tiny2 и содержит около 29 млн параметров; модель использует архитектуру BERT и принимает текстовые фразы для получения векторов размерностью 312. Косинусное сходство между векторами служит оценкой близости по смыслу. Модель подходит для поиска перефразировок и семантически близких высказываний, например в диалоговых системах и при сопоставлении фактов. Она рассчитана преимущественно на короткие фразы длиной до 10–15 слов, быстро работает даже на CPU и поддерживает контекст до 2048 токенов. Обучающие данные частично доступны в датасете inkoziev/paraphrases. Лицензия — Unlicense.

lmstudio-community/Seed-OSS-36B-Instruct-MLX-8bit — 8-битная квантованная версия языковой модели Seed-OSS-36B-Instruct, разработанной ByteDance-Seed. Квантование выполнено командой LM Studio с использованием mlx_lm; модель оптимизирована для запуска на компьютерах Apple Silicon через MLX. Модель предназначена для генерации текста и выполнения инструкций, включая диалоговые и другие задачи, поддерживаемые исходной instruct-моделью. В README указаны архитектурная база Seed-OSS-36B-Instruct, размер 36B параметров, текстовая модальность и 8-битное квантование. Сведения о поддерживаемых языках и размере контекстного окна не приведены. Ключевые преимущества — снижение требований к памяти по сравнению с полноразмерной версией и оптимизация для экосистемы Apple Silicon. Ограничения связаны с зависимостью от совместимого оборудования и MLX, а также с общими рисками генеративных моделей: возможны неточные, вредные или неподходящие ответы. Модель распространяется по лицензии Apache-2.0.

sentence-transformers/sentence-t5-xxl — модель для преобразования предложений и абзацев в плотные векторы размерностью 768, предназначенные прежде всего для сравнения семантической близости текстов. Она построена на T5 и использует только энкодер; в README указано, что веса TensorFlow-модели st5-11b-1 преобразованы в PyTorch и хранятся в FP16. Метаданные указывают 385,2 млн параметров, контекст до 512 токенов и поддержку английского языка. Модель подходит для вычисления сходства между предложениями и абзацами и создания текстовых эмбеддингов. По README она работает хуже в задачах семантического поиска, поэтому для поиска по смыслу может потребоваться другая модель или отдельная настройка. PyTorch-версия и исходная модель TensorFlow могут давать немного разные векторы, хотя на описанных в карточке бенчмарках результаты совпадают. Лицензия — Apache-2.0.

Qdrant/Splade_PP_en_v1 — порт модели prithivida/Splade_PP_en_v1 в формате ONNX, подготовленный для классификации текста и поиска сходства. Модель основана на BERT и использует masked language modeling; в каталоге отмечены задачи заполнения маски и сравнения предложений. Размер — 136,7 млн параметров, контекст — до 512 токенов. Модель предназначена для поиска и сопоставления текстов, в том числе с использованием FastEmbed. Репозиторий распространяется по лицензии Apache-2.0. Карточка не приводит конкретных ограничений качества или дополнительных характеристик обучения.

cross-encoder/stsb-TinyBERT-L4 — модель семейства BERT, обученная с помощью класса CrossEncoder библиотеки SentenceTransformers на наборе STS Benchmark. Она принимает пару предложений и оценивает их семантическое сходство числом от 0 до 1, поэтому подходит для сравнения текстов и ранжирования кандидатов по близости к запросу. Модель содержит 15,6 млн параметров и поддерживает контекст до 512 токенов; основное назначение — англоязычные тексты. Модель можно применять для поиска похожих предложений, семантического сопоставления коротких текстов и переранжирования результатов поиска. В метаданных также указана задача классификации текста, однако карточка описывает предсказание оценки сходства. Модель опубликована под лицензией Apache-2.0.

T3qm7xNeuralsirkrishna_ShadowCalme — объединённая языковая модель семейства Mistral, созданная из automerger/T3qm7xNeuralsirkrishna-7B и automerger/ShadowCalme-7B. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поставляется в формате safetensors. Модель предназначена для генерации текста и диалогов. Контекстное окно составляет до 32 768 токенов. В метаданных указана лицензия Apache-2.0. Сведения о специальных областях применения и языках не приведены.

Карточка модели Youssefbou62/test_encoder на Hugging Face совпадает с карточкой thenlper/gte-large, поэтому описание составлено по ней. gte-large — модель текстовых эмбеддингов General Text Embeddings, разработанная Alibaba DAMO Academy на основе архитектуры BERT и обученная контрастивным обучением на крупном корпусе пар текстов с оценками релевантности. Она преобразует английские тексты в векторы размерностью 1024 и предназначена для поиска информации, сравнения семантической близости и ранжирования текстов. Модель применима в поисковых системах, семантическом сопоставлении предложений и других задачах, использующих текстовые эмбеддинги. В тесте MTEB для gte-large указана средняя оценка 63,13 по 56 задачам. Контекст ограничен 512 токенами: более длинные тексты обрезаются. Модель рассчитана только на английский язык. Лицензия — MIT.

KnutJaegersberg/Tri-21B-Think-gguf — GGUF-версия модели Tri-21B-Think-Preview, подготовленная на основе Tri-21B. Это причинная языковая модель с декодерным Transformer, RoPE, SwiGLU, RMSNorm и GQA, содержащая 20,73 млрд параметров. Она дообучена для диалогов, пошаговых рассуждений и использования инструментов. Контекст составляет 32 768 токенов, а с YaRN может расширяться до 262 144 токенов. Модель предназначена для генерации ответов в чат-сценариях, решения задач на рассуждение и работы с длинными текстовыми запросами. В первую очередь она оптимизирована для английского, корейского и японского языков; на других языках качество может снижаться. Это промежуточный чекпойнт, и README указывает на Tri-21B-Think как на финальную версию. Для базовой Tri-21B указана лицензия trillion, а для Think и Think-Preview — Apache 2.0; при этом метаданные репозитория обозначают лицензию как other, поэтому условия использования следует сверить с файлами лицензии в репозитории.