I.3Извлечение и структурирование данных

Qwen3.5-397B-A17B-VQ-3.1bpw — векторно-квантизированная сборка базовой модели Qwen3.5-397B-A17B, опубликованная TheDrainFlorist для запуска в экосистеме MLX на машинах Apple Silicon. Модель предназначена для генерации текста, а после исправления от 19 сентября 2026 года также поддерживает обработку изображений через mlx-vlm. В метаданных указан английский язык, однако полный набор поддерживаемых языков и максимальный размер контекста не приведены. Сборка использует vector quantization с эффективностью 3.1 бита на параметр, размер весов составляет около 143,7 GiB. Указана архитектура с MoE-экспертами, а также плоская конфигурация d4/K2048; дополнительные сведения о числе активных параметров и точной архитектуре не раскрыты. По измерениям авторов, модель показывает perplexity 2,3410 на Wikitext и 2,5963 на смешанном наборе для кода, превосходя приведённую 3.5-битную сборку по Wikitext и находясь с ней на сопоставимом уровне по коду. Главные ограничения — очень высокие требования к памяти, необходимость совместимого runtime и зависимость от специальных загрузчиков. Для текста требуется mlx-lm с поддержкой model_file, для изображений — mlx-vlm версии 0.6.16 или новее; устаревшие версии могут не загрузить модель. Это квантизированная сборка, поэтому её характеристики могут отличаться от исходной модели, а заявленные результаты относятся к конкретному артефакту и методике измерений. Лицензия Apache-2.0.

hpnyaggerman/Qwen3.5-4B-heretic — мультимодальная модель на базе Qwen3.5-4B, изменённая проектом Heretic с помощью abliteration для снижения частоты отказов. По сравнению с исходной моделью в приведённом тесте число отказов снизилось с 99 до 60 из 100; это не означает полного отсутствия отказов или гарантии поведения в других сценариях. Модель принимает текст и изображения и формирует текстовые ответы; поддерживает диалог и работу с визуальной информацией. Архитектура — плотная Qwen3.5 с 4 млрд параметров, языковой моделью и энкодером изображений; родительская карточка описывает гибридные блоки Gated Delta Networks и внимания. Контекст составляет 262 144 токена с возможностью расширения до 1 010 000 токенов. Модель подходит для диалогов, ответов на вопросы по изображениям, визуального анализа и других мультимодальных запросов. В README заявлена языковая поддержка Qwen3.5 для 201 языка и диалекта, но конкретный перечень языков в предоставленном фрагменте отсутствует. Это дообученная версия Qwen/Qwen3.5-4B-Base, опубликованная в формате safetensors и совместимая с Transformers и рядом движков инференса. Лицензия — Apache-2.0.

Qwen3.6-27B-CoreAI — это плотная языковая модель на 27 млрд параметров, основанная на Qwen/Qwen3.6-27B и подготовленная mlboydaisuke для запуска в среде Apple Core AI. Модель предназначена для генерации текста, диалоговых приложений, суммаризации и других офлайн-сценариев на устройствах Apple через GPU или Neural Engine. Указанный язык — английский. Архитектура включает 64 слоя с чередованием линейных микшеров внимания GatedDeltaNet и полноразмерного gated attention, GQA с 24 query- и 4 KV-головами, 48 value-голов и плотные MLP размерности 17408. Все параметры активны при генерации каждого токена; модель поставляется в виде Core AI LanguageBundle размером около 28 ГБ с int8-квантованием весов. Заявлены скорость декодирования 15,9 токена в секунду на Mac с M4 Max и результаты, практически совпадающие с полной точностью на проверенных позициях. Сильными сторонами являются крупный плотный масштаб, локальное выполнение без обязательной передачи данных в облако и высокая точность int8-квантизации по приведённым тестам. Ограничения — значительные требования к памяти и хранилищу, зависимость от экосистемы Apple Core AI и отсутствие данных о поддерживаемом контексте и других языках. Модель распространяется по лицензии Apache-2.0.

lmstudio-community/Qwen3.6-27B-MLX-4bit — 4-битная квантованная версия модели Qwen3.6-27B, разработанной Qwen. Квантование выполнено командой LM Studio с использованием MLX и mlx_vlm; модель оптимизирована для запуска на устройствах с Apple Silicon. Модель предназначена для задач генерации текста и обработки связок изображение—текст, включая сценарии локального запуска через совместимые инструменты. В карточке указана принадлежность к классу image-text-to-text, однако подробные сведения о поддерживаемых языках, размере контекстного окна и полном наборе мультимодальных возможностей не приведены. Ключевая особенность модели — 4-битное представление, снижающее требования к памяти по сравнению с полноформатной версией и подходящее для локального использования на Apple Silicon. Ограничения включают возможную потерю качества из-за квантования, а также отсутствие в предоставленных данных конкретных результатов тестирования и характеристик производительности. Модель распространяется по лицензии Apache-2.0.

YFC-112358 создал эту плотную модель семейства Qwen объёмом 27 млрд параметров с помощью трёхэтапного слияния весов. В рецепте DELLA и линейная арифметика задач объединяют несколько моделей на базе Qwen3.6, после чего полученное изменение весов переносится на Cold-Fusion-GAIN-V1.1 на базе Qwen3.8. Репозиторий содержит веса safetensors и использует библиотеку Transformers; модель лицензирована по Apache-2.0. Модель предназначена для диалоговой генерации текста и может использоваться как ассистент для ответов и многошаговых запросов. В метаданных также заявлен интерфейс для вызова инструментов. Несмотря на мультимодальную архитектуру Qwen и наличие визуальной башни у базового семейства, README этой версии описывает прежде всего слияние весов и не подтверждает отдельно качество обработки изображений или видео. Главное ограничение — перенос прироста весов между поколениями Qwen3.6 и Qwen3.8: автор отмечает, что архитектуры совпадают по размерам, но это не гарантирует совместимость представлений, и модель может работать хуже без явной ошибки. Автор приводит значение cold_amp 0,1217 и считает его совместимым с продолжением обучения на общей базе, однако предупреждает, что базовые веса Cold-Fusion могли измениться, что затрудняет точное воспроизведение.

Foresee/Qwen3.8-9B-heretic-uncensored-4bit-MTPLX — локальная 4-битная сборка модели rohit267/Qwen3.8-9B-heretic-uncensored для генерации текста. Она предназначена для запуска на компьютерах Apple Silicon с использованием MLX и ускорения вывода посредством спекулятивного декодирования MTPLX. Модель предоставляет совместимость с API OpenAI /v1/chat/completions и Anthropic /v1/messages, поэтому может использоваться в локальных чат-приложениях, инструментах программирования и других сценариях текстовой генерации. В состав входят 4-битная MLX-модель с группами квантования 64 и размером около 5 ГБ, отдельная MTP-голова, а также LoRA-адаптер ранга 64, объединяемый при загрузке. Указано, что модель относится к 9B-линейке Qwen, использует гибридную архитектуру с GatedDeltaNet и поддерживает английский язык. Контекст модели и полный перечень языков в README не указаны. На тесте с MacBook на M5 и 24 ГБ памяти скорость декодирования выросла с 21,25 до 40,05 токена в секунду; проверка спекулятивных токенов выполняется без потери точности относительно квантованной целевой модели. Основные ограничения — требование macOS 14 или новее, Apple Silicon, MLX и рантайма MTPLX; ускоренный MTP-путь специфичен для MTPLX. Квантование изменяет веса модели, хотя сама процедура спекулятивной проверки является точной. Модель всегда начинает ответ с блока <think>, что следует учитывать при расчёте бюджета токенов. Лицензия Apache-2.0, унаследованная от базовой модели Qwen3.5-9B.

MaziyarPanahi/Qwen3-8B-GGUF — это набор файлов модели в формате GGUF для базовой модели Qwen3-8B, разработанной командой Qwen. Квантизацию и публикацию файлов выполнил MaziyarPanahi. Модель предназначена для генерации текста и локального запуска через совместимые инструменты и библиотеки, включая llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp и другие. Известно, что модель основана на архитектуре и характеристиках Qwen3-8B, однако в README не приведены подробности о размере контекста, языках, поддерживаемых модальностях и других архитектурных параметрах. Доступны варианты квантизации с разрядностью от 2 до 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации. Формат GGUF ориентирован на эффективный инференс, включая использование GPU-ускорения. Сильные стороны модели — разнообразие вариантов квантизации и широкая совместимость с локальными средствами запуска, включая CLI, веб-интерфейсы и OpenAI-совместимые серверы. Ограничения связаны с возможными потерями качества при низкой разрядности квантизации и зависимостью от совместимого программного обеспечения. Лицензия в README не указана.

Это исправленная сборка официальной мультимодальной модели Qwen3-VL-Embedding-8B, подготовленная scottlowry для загрузки в инструментах на базе MLX, включая oMLX и mlx-vlm. Веса BF16 сохранены без изменений; добавлен один тензор lm_head.weight — копия матрицы токенных эмбеддингов, необходимая загрузчику MLX. Модель создаёт эмбеддинги текста, изображений и видео для семантического поиска и сопоставления. Модель подходит для поиска по мультимодальным данным и оценки сходства между запросами и материалами. По карточке базовая модель имеет 8 млрд параметров; репозиторий использует формат safetensors и распространяется по лицензии Apache-2.0. Исправление предназначено для совместимости с MLX-инструментами; оно не меняет исходные четыре шарда и не добавляет функциональность генерации текста.

Qwentile2.5-32B-Instruct-GGUF — это квантизированная версия инструкционной языковой модели Qwentile2.5-32B-Instruct, разработанной maldv и подготовленной пользователем bartowski в формате GGUF. Модель предназначена для генерации текста, чат- и диалоговых сценариев, а также локального использования через llama.cpp и совместимые приложения, включая LM Studio. В README указана поддержка английского языка. Модель имеет размер 32 млрд параметров. Доступны варианты от F16 до квантизаций Q8_0, Q6, Q5, Q4, Q3 и Q2, включая форматы K-quants и IQ-quants, что позволяет выбирать между качеством, скоростью и требованиями к оперативной памяти. Квантизации выполнены с использованием imatrix на базе llama.cpp; для общения применяется шаблон с тегами <|im_start|> и <|im_end|>. Сильная сторона набора — широкий выбор вариантов, включая высококачественные Q6_K и Q6_K_L, а также более компактные версии для систем с ограниченной памятью. При этом уменьшение разрядности может снижать качество генерации, особенно у Q2–Q3 вариантов; для работы также требуются значительные вычислительные ресурсы. Контекстное окно, точная архитектура и дополнительные модальности в README не указаны. Модель распространяется по лицензии Apache-2.0.

Kre80r/Qwopus3.8-27B-Flash-V2-W4A16 — квантованный чекпойнт мультимодальной модели Qwopus3.8-27B-Flash-V2, подготовленный с помощью AutoRound 0.15.1. Веса квантованы до 4 бит с группами по 128, активации BF16; визуальный энкодер и отдельные чувствительные тензоры сохранены в BF16. Модель основана на Qwen3.8-27B через промежуточную Qwopus3.8-27B-Flash и прошла дополнительное постобучение с изменёнными функциями вознаграждения и методами обучения с подкреплением. Модель предназначена для диалоговых и мультимодальных задач, рассуждений и длительных агентных сценариев с повторными вызовами инструментов. В карточке также указаны генерация кода, вызов функций и ускорение вывода с MTP speculative decoding; заявленные сценарии включают локальный запуск и ресурсоёмкие рабочие процессы, где важны скорость и стоимость генерации. Поддерживаются английский, китайский, испанский, русский и японский языки. Метаданные указывают архитектуру Qwen3.5 и класс Qwen3_5ForConditionalGeneration; точный размер параметров и длина контекста в предоставленных данных не приведены. Разработчик позиционирует выпуск как экспериментальный. Карточка описывает компромисс между эффективностью вывода и сохранением качества, а также отмечает возможный дрейф рассуждений и зависимость агентных результатов от промпта, инструментов и среды. Широкая оценка безопасности и надёжности не проводилась. Лицензия — Apache-2.0.

ReasonIR-8B — модель для извлечения текстовых представлений, разработанная командой ReasonIR на основе Meta Llama 3.1 8B. Её специально дообучили для поиска документов по запросам, требующим сложных рассуждений. Архитектура использует двунаправленное кодирование; размер модели — 7,5 млрд параметров, контекст — до 131 072 токенов. Модель кодирует запросы и документы в векторы, сходство которых можно оценивать скалярным произведением. Она предназначена для поиска в системах RAG и показала высокие результаты на BRIGHT; согласно карточке, её применение в RAG также улучшает результаты на MMLU и GPQA. Указан английский язык. Для работы используются Transformers и Sentence Transformers с поддержкой пользовательского кода модели. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. При работе через Sentence Transformers возможны небольшие расхождения значений с плавающей точкой, обычно не влияющие на результаты.

Rombo-LLM-V2.7-gemma-2-9b — языковая модель Rombo-Org на 9 млрд параметров, основанная на Google Gemma 2 9B Instruct. По описанию, в модели объединены предварительно обученная и инструктивно настроенная версии Gemma 2 9B. Она предназначена для дальнейшего дообучения и генерации текста, в том числе в диалоговом режиме. Модель использует плотную архитектуру Gemma 2, формат safetensors и контекст до 8192 токенов. Модель можно применять для диалогов, ответов на вопросы и генерации текста; базовая Gemma 2 Instruct также описана как подходящая для суммаризации. В README не приведены результаты оценки качества или сведения о поддерживаемых языках, поэтому их нельзя подтвердить. Указана лицензия Gemma; условия её использования определяются этой лицензией.

sergeyzh/rubert-base-retriever — модель эмбеддингов на архитектуре BERT для текстового поиска. Автор указывает, что она создана дистилляцией эмбеддингов русских и английских текстов BAAI/bge-m3 в BERTA; метаданные также связывают её с дообучением sergeyzh/BERTA. Модель содержит 155,5 млн параметров, выдаёт векторы размерности 768 и принимает последовательности длиной до 512 токенов. Для использования через Sentence Transformers специальные префиксы не требуются. Модель предназначена для получения эмбеддингов запросов и документов, семантического поиска и сравнения предложений на русском и английском языках. В README приведены оценки на наборах поиска и ранжирования; результаты показывают применимость модели к поиску, но не гарантируют качество для каждого корпуса или сценария. Лицензия — MIT.

Guilherme34/Samantha-v6.5 — объединённая языковая модель на архитектуре Llama, созданная методом TIES с помощью mergekit. В качестве базовой модели использована Guilherme34/Samantha-v6; также в объединение включена v000000/Llama-3.1-8B-Stheno-v3.4-abliterated. Модель содержит 7,5 млрд параметров и предназначена для генерации текста и диалогового общения; заявленный контекст составляет до 131 072 токенов. Модель работает через библиотеку Transformers и распространяется в формате safetensors. Она принимает текст и генерирует текст, поддерживая интерфейс вызова инструментов. В метаданных указана лицензия не предоставлена, поэтому условия использования по лицензии определить нельзя.

SFR-Embedding-Mistral — текстовая модель эмбеддингов, разработанная Salesforce Research. Она основана на E5-mistral-7b-instruct и Mistral-7B-v0.1 и предназначена для преобразования текста в векторы, которые можно использовать для поиска и сравнения семантической близости. Архитектура — плотная Mistral с 7,1 млрд параметров, контекст — до 32 768 токенов; доступны веса в формате safetensors. В карточке заявлена поддержка английского языка. Модель подходит для создания векторного поиска, поиска похожих предложений и оценки сходства текстов; она также отмечена в контексте бенчмарка MTEB. Выпуск предназначен для исследований, а датасеты третьих сторон могут иметь дополнительные условия лицензирования. Лицензия модели — CC BY-NC 4.0, поэтому коммерческое использование не разрешено её условиями. Перед применением следует отдельно оценивать точность, безопасность и возможную предвзятость.

Muennighoff/SGPT-125M-mean-nli-bitfit — модель семейства GPT-Neo, разработанная Muennighoff для получения векторных представлений предложений и оценки их семантического сходства. Она обучалась с помощью Sentence Transformers на MultipleNegativesRankingLoss с косинусной мерой сходства; в обучающем загрузчике использовались пакеты по 64 примера без дубликатов. Модель содержит 137,7 млн параметров, принимает текст и формирует эмбеддинги. Максимальная длина контекста — 2048 токенов. Модель подходит для поиска семантически близких предложений и ранжирования текстов по смысловому сходству. В метаданных указаны форматы PyTorch и задачи sentence-similarity и feature-extraction. Сведения о лицензии и поддерживаемых естественных языках в предоставленных источниках отсутствуют.

Spark-X2.5-1.7B-Abliterated-GGUF — набор GGUF-квантов модели Spark-X2.5-1.7B, разработанный сообществом darioooooo0o на основе XHToken/Spark-X2.5-1.7B. Модель предназначена для генерации текста и рассуждений, включая многоязычные сценарии и агентское использование с инструментами. Основное изменение — однократная rank-1-абляция направления отказа методом heretic, выполненная на сбалансированной многоязычной выборке из 6292 запросов; это существенно снизило склонность модели к отказам и предисловиям о соблюдении ограничений. Доступны варианты Q8_0 размером около 1,8 ГБ, Q6_K около 1,4 ГБ, Q4_K_M около 1,0 ГБ и IQ4_XS около 0,9 ГБ. Для работы требуется совместимая версия llama.cpp с архитектурой spark2_5; README рекомендует F16 KV-кэш и задаваемый лимит рассуждений, поскольку типичная длина скрытого рассуждения превышает 1500 токенов, а отдельные цепочки превышают 4000 токенов. Размер контекста указан в инструкции запуска как 65536 токенов, максимальная длина вывода — 4096 токенов. Точные сведения об архитектуре базовой модели, языковом покрытии и исходном контекстном окне вынесены в отдельную карточку и здесь не приведены. По заявленным проверкам, на закрытых наборах после аудита модель не демонстрировала реальных отказов в ответах, сохранив результат 5 из 6 эффективных задач агентского использования. Ограничением стала небольшая потеря качества по perplexity: ухудшение относительно базовой модели составило 2,3%. Кроме того, абляция направлена на снятие отказов, поэтому поведение и защитные ограничения базовой модели не следует считать сохранёнными. Распространение указано по лицензии Apache-2.0.

SUS-Chat-34B — двуязычная диалоговая модель на 33,9 млрд параметров, совместно выпущенная Южным университетом науки и технологий и IDEA-CCNL. Это плотная модель семейства LLaMA, дообученная на базе 01-ai/Yi-34B на высококачественных инструкциях; веса доступны в формате PyTorch по лицензии Apache-2.0. Модель предназначена для диалогов и следования инструкциям на китайском и английском языках, включая многошаговые запросы, математику, рассуждения и задачи общего назначения. Контекстное окно составляет 8192 токена; карточка сообщает о специальном обучении для многоходовых диалогов и работы с длинным контекстом. Разработчики приводят результаты тестов на задачах знаний, рассуждений и здравого смысла, однако модель прошла только supervised fine-tuning и не обучалась на человеческих предпочтениях. Поэтому ответы могут содержать галлюцинации и ошибки, а качество зависит от настроек генерации.

tevatron-elastic-modernbert-retriever-mrl — модель-ретривер на базе ModernBERT-base, обученная командой Tevatron-Elastic для поиска релевантных текстов. Она использует архитектуру ModernBERT encoder-only и формирует векторные представления запросов и документов; благодаря Matryoshka Representation Learning один чекпойнт поддерживает несколько размерностей эмбеддингов, которые выбираются через `prune_to` или `encode_at`. Модель предназначена для информационного поиска, включая семантический поиск и извлечение документов по запросу. В обучении использовались данные rlhn/rlhn-680K, максимальная длина последовательности составляла 512 токенов, а запросы и документы получали префиксы `query:` и `passage:`. Для полного режима в README сообщается результат 0,463 nDCG@10 на BEIR-15; релиз представлен как ресурс для воспроизводимости, а не как заявление о превосходстве над другими моделями. Размер модели — 149 млн параметров, контекст — до 8192 токенов. Лицензия — Apache-2.0. Базовая ModernBERT-base ориентирована на английский язык.

UwU-Qwen2.5-32B — объединённая языковая модель, созданная nbeerbower методом TIES с помощью mergekit на основе Qwen/Qwen2.5-32B и пяти других моделей семейства QwQ и Qwen. Это плотная авторегрессионная архитектура Qwen2 с 32 млрд параметров, предназначенная для генерации текста и диалогов; поддерживает интерфейс вызова инструментов. Контекст составляет до 131 072 токенов. Модель подходит для диалоговых сценариев, генерации и продолжения текста, а также работы с длинными запросами. В метаданных перечислена поддержка китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Файлы представлены в формате safetensors. Лицензия в предоставленных данных не указана.

OllmOne/whisper-large-v3-GGUF — это GGUF-версия модели Whisper large-v3, разработанной OpenAI и опубликованной пользователем OllmOne на Hugging Face. Модель предназначена для автоматического распознавания речи и перевода речи на английский язык; она обрабатывает аудио и генерирует текст. В карточке Hugging Face указаны задача automatic-speech-recognition, библиотека Transformers, формат GGUF, около 905,2 млн параметров и лицензия Apache-2.0. Whisper использует архитектуру encoder-decoder Transformer и обучен для многоязычного распознавания речи, речевого перевода и определения языка. Large-v3 отличается устойчивостью к акцентам, фоновой шумовой обстановке и технической лексике, а также улучшенной точностью по сравнению с large-v2. Модель требует проверки на конкретных данных перед промышленным использованием; возможны ошибки распознавания, особенно при низком качестве аудио, перекрывающейся речи или нестандартных условиях записи.

OpenASR/whisper-large-v3-turbo — модель автоматического распознавания речи, разработанная OpenAI и перепакованная проектом OpenASR для нативного выполнения в формате .oasr. Она предназначена для преобразования речи в текст на разных языках, а также для перевода речи на английский язык. Модель унаследовала мультиязычный интерфейс и архитектуру Whisper large-v3, но использует укороченный декодер: его глубина уменьшена с 32 до 4 слоёв. Модель ориентирована на локальное распознавание речи на CPU и GPU без использования Python во время инференса. Она сохраняет устойчивость Whisper к шумным и разнообразным аудиодоменам благодаря обучению на более чем пяти миллионах часов размеченного аудио. Доступны варианты fp16, q8_0 и q4_k размером примерно от 564 МБ до 1,62 ГБ; q8_0 рекомендован как компромисс между качеством и требованиями к памяти, а q4_k подходит для более ограниченных систем. Ключевое преимущество модели — существенно более высокая скорость генерации по сравнению с полной версией Whisper large-v3 при небольшом ухудшении качества. Ограничения включают возможную потерю качества из-за сокращения декодера и квантизации, особенно в компактной версии q4_k; точные языки и размер контекстного окна в карточке не указаны. Модель и пакеты распространяются по лицензии MIT, унаследованной от исходной модели OpenAI.

Whisper-large-v3-turbo Russian Stage AW — это дообученная Coriollon модель распознавания речи на базе openai/whisper-large-v3-turbo. Она специализируется на русском языке, сохраняя поддержку английского, и предназначена для преобразования аудио в текст с пунктуацией и заглавными буквами. Архитектура — WhisperForConditionalGeneration, размер — 905,2 млн параметров. Модель особенно нацелена на длинные разговорные фрагменты: дообучение уменьшает потерю пунктуации во второй половине длинных реплик и встреч. Для Stage AW указаны совокупный WER 9,07% и рост плотности пунктуации в длинных репликах примерно в 2,7–2,9 раза относительно предыдущей версии. Репозиторий также содержит вариант faster-whisper с квантизацией int8 и вычислениями fp16. Модель распространяется по лицензии Apache-2.0. Ограничения: на короткой чистой речи качество пунктуации может быть ниже, чем у предыдущей версии, а на очень коротких фрагментах короче трёх секунд возможна избыточная пунктуация. Качество распознавания английской речи унаследовано от предыдущей версии и уступает исходной Whisper Turbo.

French Medium Whisper — дообученная модель распознавания речи из семейства Whisper, созданная на основе openai/whisper-medium и обученная на наборе данных Common Voice 11.0. Она преобразует французскую речь в текст и подходит для транскрибации аудио и оценки систем распознавания французской речи. В карточке приведены результаты на тестовой выборке: WER 15,8969 без нормализации и 11,1406 с нормализацией. Модель содержит 455,8 млн параметров, использует архитектуру WhisperForConditionalGeneration и распространяется в формате PyTorch. Лицензия — Apache-2.0. Результаты сравнения с Whisper Medium приведены для тестовых наборов разных версий Common Voice, поэтому они не гарантируют превосходство на других аудио и сценариях.

Yi-1.5-9B-Chat-16K-GGUF — это набор квантованных GGUF-версий диалоговой языковой модели Yi-1.5-9B-Chat-16K, разработанной 01.ai и квантованной компанией Second State Inc. Модель предназначена для генерации текста и ведения диалогов в локальных приложениях, включая сценарии, совместимые с LlamaEdge. Для работы используется шаблон prompt типа chatml, а заявленный размер контекста составляет 16 384 токена. Доступны варианты квантования от Q2_K до Q8_0, а также версия f16; размеры файлов варьируются примерно от 3,35 до 17,7 ГБ. В README не указаны поддерживаемые языки, модальности и подробности архитектуры базовой модели. Основное преимущество набора — выбор между меньшим размером и сохранением качества: Q4_K_M рекомендован как сбалансированный вариант, а Q5_K_M и Q5_K_S — как варианты с очень низкой потерей качества. Низкобитные версии занимают меньше места, но могут заметно терять в качестве. Модель распространяется по лицензии Apache-2.0. Для запуска требуется совместимое программное окружение, например llama.cpp или LlamaEdge; в README указано, что поддержка LlamaEdge на момент публикации ожидается.

acge_text_embedding — универсальная модель кодирования текста от команды компании 合合信息 (IntSig), связанная с платформой TextIn. Она предназначена для преобразования китайских текстов в векторы для поиска, сравнения сходства и других задач, основанных на семантических представлениях. Модель построена на архитектуре BERT и содержит около 424,3 млн параметров. Она поддерживает последовательности до 1024 токенов и переменную размерность эмбеддингов благодаря Matryoshka Representation Learning; авторы рекомендуют размерности 1024 или 1792. В README приведены результаты оценки на китайском бенчмарке C-MTEB и пример вычисления сходства между текстами с помощью sentence-transformers. Модель подходит для семантического поиска и сопоставления китайских текстов. README не сообщает лицензию, поэтому условия использования следует уточнить в карточке репозитория Hugging Face.

Acolyte-22B — диалоговая языковая модель на архитектуре Mistral, созданная rAIfle слиянием LoRA-адаптера Acolyte-LORA с Unsloth/Mistral-Small-Instruct-2409. Модель содержит 22 млрд параметров и поддерживает контекст до 131 072 токенов; для диалогов рекомендуется шаблон Mistral V2 или V3. В метаданных также заявлен интерфейс вызова функций. Модель предназначена для генерации текста и диалоговых сценариев. В README автор оценивает её качество как приемлемое для размера модели; адаптер обучался на наборе случайно выбранных датасетов, подробности предлагается смотреть в карточке Acolyte-LORA. Репозиторий содержит веса Safetensors; автор также упоминает варианты в форматах iMat GGUF и exl2. Лицензия в предоставленных данных не указана.

airoboros-m-7b-3.1.2-dare-0.85-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием методом SLERP моделей Mistral-7B-Instruct-v0.2 и airoboros-m-7b-3.1.2-dare-0.85. Она построена на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и диалоговых ответов на инструкции. Модель принимает текст и генерирует текст; её контекст составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Данные карточки не описывают её качество на конкретных задачах или подробные ограничения, поэтому результаты следует проверять на целевом сценарии.

Olmo-3-32B-Think-GGUF — это набор квантизированных GGUF-версий языковой модели Olmo-3-32B-Think, разработанной Allen Institute for AI (allenai) и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. Варианты представлены в форматах от BF16 до низкобитных Q- и IQ-квантизаций; размер файлов составляет примерно от 13 до 64 ГБ. Доступен англоязычный режим, поскольку в карточке указано только English. Модель относится к текстовым, а не мультимодальным системам. Архитектура и размер контекстного окна в README не указаны. Главное преимущество набора — возможность выбрать компромисс между качеством и требованиями к памяти: варианты Q6 и Q5 обеспечивают очень высокое качество, Q4 подходят для большинства сценариев, а Q3 и IQ3 рассчитаны на системы с ограниченным объёмом RAM, но заметно уступают по качеству. Ограничения включают отсутствие заявленной поддержки других языков, неизвестные характеристики контекста и необходимость достаточно производительного оборудования для крупных версий. Квантизация выполнена с использованием imatrix и llama.cpp. Лицензия модели — Apache-2.0.

SeanLee97/angle-bert-base-uncased-nli-en-v1 — модель текстовых эмбеддингов AnglE на архитектуре BERT-base-uncased, разработанная авторами AnglE. Она преобразует отдельные тексты или их списки в векторы для измерения семантической близости и поиска похожих фрагментов. В README приведены результаты на наборах задач семантического сходства STS12–STS16, STSBenchmark и SICKRelatedness; модель обучена на данных MultiNLI и SNLI. Модель содержит 136,7 млн параметров, принимает текст на английском языке и поддерживает контекст до 512 токенов. В примере использования применяется стратегия pooling cls_avg. Репозиторий содержит веса PyTorch для Transformers; лицензия — MIT. Карточка демонстрирует применение для семантического сходства и эмбеддингов, но не описывает генерацию текста или поддержку других языков.