I.3Извлечение и структурирование данных

Карточка модели LIF1014/ptdbench-Qwen2.5-0.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-0.5B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-0.5B-Instruct — компактная инструктивно настроенная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов, выполнения инструкций и генерации текста, включая длинные ответы, структурированные данные и JSON; также может применяться для простых задач по коду и математике. Модель построена на архитектуре Qwen2 с причинным языковым моделированием и содержит 494 млн параметров. В карточке указаны 24 слоя, RoPE, SwiGLU, RMSNorm и группированное внимание; контекст — 32 768 токенов, генерация — до 8 192 токенов. Модель работает с текстом, поддерживает чат и интерфейс вызова инструментов. Семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский и английский. Небольшой размер упрощает запуск по сравнению с крупными языковыми моделями, но ограничивает сложность задач, которые она может надёжно решать. Модель распространяется по лицензии Apache-2.0; для загрузки через Transformers рекомендуется актуальная версия библиотеки.

Карточка модели LIF1014/ptdbench-verl-coding-tasks-function-call на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

Карточка модели JMullings/Qwen2.5-0.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-0.5B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-0.5B-Instruct — компактная инструктивно настроенная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов, выполнения инструкций и генерации текста, включая длинные ответы, структурированные данные и JSON; также может применяться для простых задач по коду и математике. Модель построена на архитектуре Qwen2 с причинным языковым моделированием и содержит 494 млн параметров. В карточке указаны 24 слоя, RoPE, SwiGLU, RMSNorm и группированное внимание; контекст — 32 768 токенов, генерация — до 8 192 токенов. Модель работает с текстом, поддерживает чат и интерфейс вызова инструментов. Семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский и английский. Небольшой размер упрощает запуск по сравнению с крупными языковыми моделями, но ограничивает сложность задач, которые она может надёжно решать. Модель распространяется по лицензии Apache-2.0; для загрузки через Transformers рекомендуется актуальная версия библиотеки.

Qwen3.8-27B-GGUF — это квантизированная GGUF-версия модели Qwen3.8-27B, разработанной командой Qwen и подготовленной пользователем qtum для работы с llama.cpp. Модель предназначена для мультимодальных сценариев, включая обработку текста, изображений и видео с генерацией текста. Она может использоваться для анализа визуального содержимого, ответов на вопросы и других задач, поддерживаемых базовой vision-language моделью. Модель имеет плотную архитектуру с 27,8 млрд параметров с учётом vision tower и 64 декодерными слоями. Архитектура гибридная: 16 слоёв используют grouped-query full attention, а 48 слоёв — Gated DeltaNet linear attention. Длина контекста составляет 262 144 токена с возможностью дальнейшего расширения через YaRN. Поддерживаются английский и китайский языки. Для обработки изображений и видео требуется отдельный файл vision projector (mmproj); без него модель работает только в текстовом режиме. Доступны различные уровни квантизации от Q8_0 до IQ2_XXS, позволяющие выбирать баланс между размером файлов, требованиями к памяти и качеством. К сильным сторонам относятся мультимодальность, очень длинный контекст и сниженные требования к KV-кэшу благодаря гибридной архитектуре. Ограничения включают значительный объём памяти даже у квантизированных вариантов, необходимость совместимой версии llama.cpp и отдельного mmproj для визуального ввода; более агрессивная квантизация может снижать качество. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — это модификация Qwen3.8-27B, опубликованная HauhauCS. Модель предназначена для генерации текста, рассуждений, агентских сценариев, а также обработки изображений и видео. Профиль Aggressive ориентирован на прямые ответы с минимальным вступлением и без поведения отказа; заявленные возможности базовой модели сохраняются без изменений в обучающих данных и общем назначении. Модель представляет собой плотную causal language model на 27 млрд параметров с vision encoder и поддержкой мультимодального ввода через отдельный BF16-проектор. Архитектура включает 64 слоя, скрытый размер 5120, размер FFN 17408, словарь 248 320 токенов, 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Нативный контекст составляет 262 144 токена и может быть расширен до 1 000 000 токенов. Указана поддержка английского, китайского и других языков. Выпуск представлен в форматах GGUF с различными уровнями квантизации, включая специализированные K_P-кванты. К сильным сторонам относятся длинный контекст, мультимодальность, сохранённые встроенные механизмы MTP/NextN и ускорение HauhauCS FastMTP 32K. Заявлено ускорение генерации до 3,02 раза для документов и до 1,93 раза для задач рассуждения по сравнению с вариантами без MTP, однако эти показатели зависят от сценария и конфигурации. Агрессивный профиль может быть менее подходящим для надёжно контролируемых агентских задач, где предпочтительнее сбалансированная версия. Для работы с изображениями и видео требуется отдельный vision-проектор. Модель распространяется по лицензии Apache-2.0.

navispace/Qwen3.8-27B-W8A16-GPTQ — квантизированная версия мультимодальной модели Qwen3.8-27B, разработанной командой Qwen. Модель предназначена для задач генерации текста и работы с изображениями и текстом; в карточке она классифицирована как image-text-to-text. Эта сборка использует 8-битное квантизирование весов W8A16 в формате GPTQ с группами размера 32, тогда как активации выполняются в FP16. Размер весов уменьшен примерно с 51,7 до 31,2 GiB, что позволяет разместить модель на двух видеокартах по 24 ГБ с дополнительной памятью под KV-кэш. Квантизирование выполнено методом round-to-nearest без калибровочного набора данных, с симметричным масштабированием по группам и поиском оптимального коэффициента уменьшения масштаба. Квантизированы основные проекции MLP, attention и linear attention; vision tower, embeddings, lm_head, нормализации и ряд компонентов оставлены в BF16. Заявленная относительная ошибка восстановления весов составляет в среднем 0,567%. Базовый контекст модели составляет 262 144 токена, а с расширением YaRN в указанной конфигурации может достигать 524 288 токенов. Языки в README не указаны. Сильными сторонами являются существенное снижение требований к памяти, поддержка длинного контекста и совместимость с vLLM, включая сценарии на AMD Radeon RX 7900 XTX под ROCm. Ограничения включают необходимость FP16-активаций для INT8-ядер Exllama на ROCm, потенциальную нестабильность FP16 на длинных генерациях и отсутствие сравнительных бенчмарков с исходными BF16-весами. Лицензия — Apache-2.0.

Qwen3.8-Flash-Next-ROCmFP4-STRIX-GGUF — это квантованная версия базовой модели Qwen/Qwen3.8-Flash-Next, опубликованная пользователем kingjones777. Модель предназначена для генерации текста, включая рассуждения, формирование JSON, программирование и суммирование длинных документов. Формат GGUF ориентирован на запуск через llama.cpp и совместимые среды. Модель использует архитектуру qwen4exp и типы тензоров ROCmFP4. Она оптимизирована прежде всего для AMD Ryzen AI Max+ 395, Strix Halo и GPU gfx1151 с ROCm, включая работу на интегрированной Radeon 8060S с общей памятью. В README указано, что размер модели составляет около 98 GiB, а работа с контекстом проверялась вплоть до 128K токенов. Доступна поддержка speculative decoding через дополнительную MTP-голову, однако измерения относятся к другим вариантам семейства и не гарантируют такой же прирост для этой сборки. Сильными сторонами являются возможность запуска очень крупной модели на системе с унифицированной памятью, поддержка длинного контекста и потенциальное ускорение генерации с MTP. Ограничения включают низкую пропускную способность общей памяти по сравнению с дискретными GPU, необходимость специальной ветки ROCmFPX с поддержкой qwen4exp и ROCmFP4, а также применения патчей перед сборкой; стандартный llama.cpp этот файл не загружает. Языки модели в предоставленных данных не указаны. Лицензия обозначена как other с названием qwen-community-1.0.

mlsa-iai-msu-lab/sci-rus-tiny3.5 — компактная модель Sentence Transformer на архитектуре RoBERTa, представленная mlsa-iai-msu-lab. Она преобразует предложения и абзацы в плотные векторы размерностью 312 для сравнения смыслового сходства и других задач поиска и группировки текстов. Векторное представление строится усреднением токенов, затем нормализуется; сходство можно оценивать косинусной мерой. Максимальная длина входа — 1024 токена. Модель предназначена для семантического поиска, поиска перефразировок, кластеризации и классификации текста. В README приведены результаты на RuSciBench для русского и английского языков. Репозиторий использует Sentence Transformers и формат safetensors; лицензия — MIT. Размер модели — 25,5 млн параметров. Карточка не сообщает о других известных ограничениях.

kornwtp/simcse-model-XLMR — модель эмбеддингов предложений на базе XLM-R, обученная разработчиком с использованием SimCSE на тайской Википедии. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для поиска семантически близких текстов, кластеризации и оценки сходства. Архитектура — XLM-RoBERTa с 305,2 млн параметров; модель принимает текст и выдаёт векторы. Максимальная длина контекста — 514 токенов. Модель выпущена под лицензией Apache-2.0. README указывает на обучение на тайской Википедии, поэтому поддержка тайского подтверждена; фактическое качество для других языков не описано.

SimCSE-Small-E-Czech — компактная модель семантических эмбеддингов предложений, разработанная Seznam.cz. Она основана на Seznam/small-e-czech и дообучена с целевой функцией SimCSE; архитектура — ELECTRA, размер — 20,4 млн параметров. Модель предназначена для сравнения смысла чешских предложений и может применяться в семантическом поиске, извлечении релевантных текстов, кластеризации и классификации. Модель принимает текст и выдаёт векторные представления предложений для задач сходства. Она рассчитана на чешский язык, поддерживает контекст до 512 токенов и распространяется в формате PyTorch по лицензии CC BY 4.0. README не приводит подробных результатов оценки; качество для конкретного набора данных следует проверять отдельно.

SLIM-SUMMARY — компактная специализированная языковая модель от llmware для создания кратких выжимок из текста в виде списка отдельных ключевых пунктов. Она дообучена на llmware/bling-stable-lm-3b-4e1t-v0, который, в свою очередь, основан на stabilityai/stablelm-3b-4elt. Модель содержит 2,7 млрд параметров, использует архитектуру StableLM Epoch и рассчитана на контекст до 4096 токенов. На вход подаётся текстовый фрагмент с запросом на суммирование, а на выходе модель формирует текстовое представление Python-списка. Параметром можно задать желаемое число пунктов; модель достаточно мала для запуска на CPU. Она предназначена для извлечения основных тезисов из текстов, а не для универсального диалога. При преобразовании результата в Python-список могут возникать проблемы с кавычками, поэтому иногда требуется исправление вывода. Репозиторий распространяется по лицензии CC BY-SA 4.0.

SuperQwen3.8-27b-abliterated-GGUF — это квантованные версии мультимодальной модели SuperQwen3.8-27b-abliterated, разработанной Jiunsong и преобразованной в формат GGUF пользователем mradermacher. Модель предназначена для генерации текста по текстовым и визуальным входным данным, рассуждений, вызова инструментов и работы с длинным контекстом. Заявлена поддержка английского и корейского языков, а также контекста до 262 тысяч токенов. Модель имеет размер 27 млрд параметров; архитектура в README подробно не описана. Для обработки изображений требуется дополнительный мультимодальный компонент mmproj. Доступны варианты квантования от Q2_K до Q8_0 и IQ4_XS с размером файлов примерно от 11 до 29,1 ГБ, а также версии с плавающей точностью F16. Более лёгкие варианты экономят память, но могут снижать качество; Q6_K отмечен как вариант очень хорошего качества, а Q4_K_S и Q4_K_M — как быстрые рекомендуемые варианты. К сильным сторонам относятся мультимодальность, поддержка длинного контекста, рассуждений и вызова инструментов, а также широкий выбор уровней квантования для локального запуска. Ограничения включают зависимость визуальных сценариев от отдельного mmproj-компонента и возможное ухудшение качества при агрессивном квантовании. Модель распространяется по лицензии Apache-2.0.

Symptemist-Biencoder — модель BSC-NLP4BIA на базе RoBERTa, предназначенная для получения эмбеддингов предложений и абзацев. Она преобразует текст в плотные векторы размерности 768 и подходит для семантического поиска и кластеризации. Архитектура содержит около 153,2 млн параметров, а максимальная длина контекста составляет 514 токенов. Модель обучалась с использованием TripletLoss с евклидовой метрикой расстояния и может применяться для поиска семантически близких текстов и группировки похожих высказываний. Карточка не указывает специализированную область применения или поддерживаемые естественные языки. Модель опубликована в формате Safetensors; лицензия в предоставленных данных не указана.

WeMM-Embedding-2B-GGUF — неофициальная GGUF-квантизированная версия модели WeMM-Embedding-2B, разработанной Tencent и подготовленной ewinregirgojr. Это модель эмбеддингов и извлечения признаков, предназначенная для семантического представления кода и текста в виде плотных L2-нормализованных векторов размерностью 2048. Поддерживаются английский, китайский, другие многоязычные сценарии, а также языки программирования, включая Python, TypeScript, JavaScript, C++, Rust, Go, SQL и Shell. Модель использует гибридную архитектуру из 18 слоёв Mamba SSM с линейным вниманием и 6 слоёв полного softmax-внимания и содержит около 2 млрд параметров. Она ориентирована на поиск и извлечение кода, RAG-системы, индексацию векторных баз данных, поиск дубликатов и выявление близких реализаций. GGUF-файлы совместимы с llama.cpp, Ollama и LM Studio; заявлена также интеграция с Unsloth, vLLM и sentence-transformers. В репозитории представлены варианты квантизации от Q4 до Q8, позволяющие выбирать между размером, скоростью и точностью; для некоторых вариантов заявлено сохранение косинусного сходства на уровне примерно 99,59–99,82% относительно FP16-базовой версии. Сильными сторонами являются высокая пропускная способность, компактность квантизированных вариантов и специализация на поиске по коду и техническим данным. Модель не предназначена для авторегрессионной генерации текста, дополнений или чат-ответов. В описании упоминается мультимодальная поддержка базовой модели, включая текст, изображения и видео, однако подробные характеристики этих модальностей для данного GGUF-релиза не приведены; размер контекста также не указан. Лицензия — Apache-2.0.

Ramos-Ramos/xlm-roberta-base-en-tl — модель на основе XLM-RoBERTa, преобразующая предложения и абзацы в плотные векторы размерностью 768. Она предназначена для поиска семантически близких текстов, кластеризации и сравнения предложений. Модель можно использовать через Sentence-Transformers или Transformers с подходящей операцией pooling; размер составляет 305,2 млн параметров, контекст — до 514 токенов. Модель обучена с использованием MSELoss на датасете Ramos-Ramos/nllb-eng-tgl-12k и поддерживает английский и тагальский языки. Лицензия в предоставленных данных не указана.

Mel-Iza0/zero-shot — модель классификации текста с нулевым обучением на архитектуре DeBERTa-v2. Она сопоставляет текст с переданным набором меток и оценивает их соответствие, поэтому подходит для классификации по пользовательским категориям без отдельного обучения на этих категориях. В README показан запуск через pipeline zero-shot-classification из Transformers с шаблоном гипотезы. Модель содержит 211,6 млн параметров, работает с контекстом до 512 токенов и опубликована в формате PyTorch. Метаданные указывают португальский язык. Лицензия в доступных данных не указана.

Omerhan/checkpoint-6248-v7 — модель Sentence Transformer, созданная дообучением intfloat/multilingual-e5-large-instruct. Она кодирует предложения и абзацы на турецком языке в плотные векторы размерности 1024, которые можно сравнивать с помощью косинусного сходства. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации текста. Модель использует архитектуру XLM-RoBERTa с усреднением токенных представлений и нормализацией векторов. Максимальная длина последовательности — 512 токенов; библиотека — Sentence Transformers. В обучении использовались 920 106 примеров с парами и отрицательными примерами. Лицензия — Apache-2.0.

Comprehend-it-multilang-base — мультиязычная модель компании Knowledgator для классификации текста без примеров, на основе mT5-base. Это encoder-decoder-модель семейства T5 с 291,2 млн параметров, обученная на многоязычных наборах для вывода по естественному языку и классификации текстов. Она сопоставляет текст с заданными пользователем названиями классов и выдаёт оценки принадлежности к ним. Модель подходит для тематической разметки, маршрутизации обращений и анализа текстов, когда заранее неизвестны или часто меняются категории. Текст и метки можно задавать на разных языках; автор заявляет поддержку почти 100 языков. Для работы используется библиотека LiqFit, поскольку стандартный pipeline Transformers для zero-shot-классификации не поддерживает эту архитектуру. В карточке приведены результаты сравнительных тестов в режиме zero-shot на нескольких наборах классификации, однако они не гарантируют такое же качество на произвольных данных. Модель выпущена под лицензией Apache-2.0.

CrisperWhisper — дообученная Nyra Health версия Whisper large-v3 для дословного распознавания речи. Модель содержит около 905,2 млн параметров, использует архитектуру Whisper и доступна в формате safetensors для библиотеки Transformers. Она принимает аудио и выдаёт текстовую транскрипцию с точными временными отметками на уровне слов. Модель рассчитана на транскрибацию, где важно сохранять оговорки, заполнители пауз, повторы, запинки и незавершённые фразы, а также на сегментацию речи. Для выравнивания слов и временных отметок применяются модифицированная токенизация, Dynamic Time Warping по cross-attention и специальная функция потерь. В карточке отмечены результаты на verbatim-наборах AMI и TED; качество зависит от аудиоданных и задачи, а сама модель больше не поддерживается активно и заменена CrisperWhisper 2.0. Лицензия — CC BY-NC 4.0, допускающая использование с обязательной атрибуцией и ограничением на коммерческое применение.

CrisperWhisper 2.0 small — модель распознавания речи от Nyra Labs, основанная на архитектуре Whisper и содержащая 153,1 млн параметров. Она преобразует аудио в текст и поддерживает режимы verbatim, сохраняющий повторы, слова-паразиты, обрывы и вокальные события, и intended, который передаёт предполагаемый смысл в отредактированной записи. Модель также может выдавать временные границы отдельных слов и обрабатывать длинные записи с продолжением транскрипции между фрагментами. Модель предназначена для точной дословной расшифровки речи, подготовки транскриптов для анализа и создания речевых наборов данных. README описывает возможности семейства CrisperWhisper 2.0, включая мультиязычную работу, но метаданные этой версии явно указывают английский и немецкий языки. Для выбранной модели доступны веса safetensors и библиотека crisperwhisper. В README стандартные модели семейства обозначены как распространяемые по некоммерческой исследовательской лицензии с возможностью получить коммерческую лицензию; метаданные указывают лицензию other.

AtomicChat/DeepSeek-V4-Flash-0731-GGUF — это квантизированная GGUF-версия модели DeepSeek-V4-Flash-0731, разработанной DeepSeek и упакованной и квантизированной AtomicChat. Модель предназначена для генерации текста, диалоговых сценариев и conversational-приложений, включая локальный запуск через llama.cpp. Заявлены поддерживаемые языки английский и китайский. Модель построена на архитектуре mixture-of-experts и содержит 284 млрд параметров, из которых 13 млрд активируются для каждого токена. Она включает 43 слоя, 256 маршрутизируемых экспертов, 6 активных экспертов и одного общего эксперта. Контекстное окно составляет 1 млн токенов, размер словаря — 129 280. Исходная модель обучалась с учетом квантизации: маршрутизируемые эксперты хранятся в MXFP4, остальные компоненты — в FP8 или BF16. В репозитории доступны варианты от AD-BF16 и AD-MXFP4 до низкобитных AD-IQ1 и AD-IQ2, позволяющие выбирать компромисс между качеством и объёмом памяти. Главные преимущества — большое контекстное окно, высокая ёмкость MoE-архитектуры и варианты размещения с разным размером файлов. При этом для запуска требуются значительные объёмы оперативной или видеопамяти: размеры вариантов составляют примерно от 70 до 162 ГБ. Квантизация ниже исходного уровня 4,25 бит может заметно ухудшать качество, особенно в вариантах с 1–3 битами. Встроенный chat template устарел и может терять рассуждения в агентских циклах и игнорировать reasoning_effort; для корректной работы рекомендуется использовать отдельный исправленный шаблон из репозитория. Модель распространяется по лицензии MIT.

e5-sk-large — модель текстовых эмбеддингов для словацкого языка, выпущенная в рамках проекта SkMTEB. Она создана на основе intfloat/multilingual-e5-large: словарь сокращён с 250 тысяч до 60 тысяч токенов, после чего модель дообучена на словацких данных. В метаданных указаны архитектура XLM-RoBERTa, 464,1 млн параметров и контекст до 514 токенов; README сообщает о 365 млн параметров и 1024-мерных эмбеддингах, поэтому размеры расходятся между источниками. Модель предназначена для семантического поиска и извлечения документов, сравнения смысла текстов, кластеризации и классификации по эмбеддингам, а также поиска между словацким, английским и чешским языками. Для запросов поиска рекомендуется добавлять префикс «query: », а для индексируемых документов — «passage: »; для симметричных задач префикс не нужен. Модель показывает сопоставимые с multilingual-e5-large результаты на словацком бенчмарке SkMTEB и подходит для локального развёртывания. Модель оптимизирована для словацкого языка; перенос на другие языки, кроме указанных межъязыковых сценариев, не оценён. Сокращение словаря может ухудшить работу с текстом, смешивающим языки, а обучающие данные преимущественно охватывают новости, парламентские материалы и энциклопедии. При дообучении использовалась длина последовательности 256 токенов, хотя архитектура поддерживает контекст до 512. Лицензия — MIT.

Faro-Yi-9B — чат-модель wenbopan, созданная на основе Yi-9B-200K путём масштабного дообучения на инструкциях из набора Fusang-V1. Это плотная причинно-языковая модель семейства Llama с 8,6 млрд параметров; репозиторий содержит веса Safetensors, а для диалога используется шаблон ChatML. Модель предназначена для ответов на инструкции и различных текстовых задач на английском и китайском языках, включая работу с длинными документами и сложными запросами. В README заявлена длина контекста до 200 тысяч токенов. В метаданных Hugging Face указано значение 32 768 токенов; для практического использования длинного контекста README приводит настройки vLLM и отмечает влияние квантизации AWQ на качество. В опубликованных автором тестах Faro-Yi-9B превосходит Yi-9B-200K по большинству приведённых показателей, в том числе по ряду тестов понимания длинного контекста; результаты кодогенерации в LongBench ниже, чем у базовой модели. Лицензия — MIT.

qwp4w3hyb/gemma-2-27b-it-iMat-GGUF — это GGUF-квантизированная версия инструкционно дообученной модели Gemma 2 27B IT, разработанной Google. Модель предназначена для генерации текста и выполнения задач по текстовым инструкциям на английском языке. В основе лежит модель Google Gemma 2 27B IT с размером 27 миллиардов параметров. Доступен широкий набор вариантов квантизации от Q8_0 до IQ1_S, включая экспериментальные типы с суффиксом _L. Для снижения потерь качества при квантизации использована importance matrix, рассчитанная на специализированном калибровочном наборе данных. Файлы подготовлены с использованием llama.cpp с учётом исправлений, связанных с финальным logit soft-capping, sliding window и токенизатором. Основное преимущество модели — выбор вариантов GGUF для запуска в llama.cpp с разным компромиссом между качеством, размером и требованиями к ресурсам; importance matrix должна улучшать сохранение качества после квантизации. Ограничения включают зависимость характеристик от выбранного типа квантизации и отсутствие в предоставленной карточке подробностей о контекстном окне, архитектурных параметрах, мультимодальности и результатах тестирования. Лицензия указана как gemma.

SevenOfNine/Gemma-4-26B-A4B-It-Abliterated-GGUF — набор GGUF-квантизаций модели Gemma-4-26B-A4B-It-Abliterated, разработанной SevenOfNine на основе google/gemma-4-26B-A4B-it. Модель предназначена для текстовых и мультимодальных задач с изображениями, вызова инструментов, рассуждений, творческого и ролевого использования. Доступны варианты Q5_K_M, Q6_K и BF16, а также отдельный vision-проектор; рекомендуемый вариант Q5_K_M занимает 19,1 ГБ. Архитектура Mixture-of-Experts содержит 26 млрд параметров, из которых активно около 4 млрд. Заявлены поддержка английского и французского языков и контекст до 250 000 токенов при использовании llama.cpp с соответствующими настройками и достаточным объёмом оперативной памяти. Модель подвергнута abliteration с помощью Heretic для уменьшения отказов в ответах: по данным карточки, показатель отказов снизился со 100 из 100 у исходной модели до 18 из 100, при KL-дивергенции 0,0845. Это сохраняет близость к исходным возможностям, но одновременно означает ослабление встроенных ограничений безопасности. Для работы с изображениями и инструментами требуются шаблон чата и параметры llama.cpp, совместимые с Gemma 4; полноценное качество зависит от выбранной квантизации, объёма RAM и VRAM. Модель распространяется по лицензии Gemma.

Indonesia Islamic Sentence-BERT — модель Sentence Transformers, дообученная автором ramadita на firqaaa/indo-sentence-bert-large. Она преобразует предложения и абзацы на индонезийском языке в плотные векторы размерностью 2048 для поиска по смыслу, сравнения сходства предложений, поиска перефразировок, классификации и кластеризации текста. Архитектура основана на BERT с пуллингом CLS- и средних токеновых представлений; максимальная длина входа — 512 токенов. Для сравнения векторов рекомендуется косинусное сходство. Модель рассчитана на индонезийский язык и опубликована в форматах safetensors и ONNX. В README приведены результаты TripletEvaluator на dev и test наборах, однако метрики зависят от этих данных. Лицензия — Apache-2.0.

Onyx Information Content Model — модель классификации текстовых фрагментов, разработанная для системы Onyx Enterprise Search. Она определяет, содержит ли короткий фрагмент информацию, полезную саму по себе для ответа на вопрос в RAG-сценарии. Модель построена на SetFit: дообученный методом контрастивного обучения Sentence Transformer на базе sentence-transformers/paraphrase-mpnet-base-v2 формирует признаки, а классификатор LogisticRegression относит текст к одному из двух классов. Модель предназначена для английского языка; максимальная длина последовательности составляет 512 токенов. В метаданных указано 136,7 млн параметров и формат safetensors. Она подходит для отбора информативных фрагментов в корпоративном поиске и подготовке контекста для ответов на вопросы. Классификация ограничена двумя классами и короткими текстовыми фрагментами; качество для других языков и сценариев не заявлено. Лицензия в предоставленных данных не указана.

Vishwas/intent_classification — модель на архитектуре MPNet, представленная в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения текстов. Веса в формате PyTorch, число параметров — 136,7 млн, максимальная длина контекста — 514 токенов. Модель можно применять для поиска похожих пользовательских запросов и группировки текстов по смыслу. В README указано обучение с CosineSimilarityLoss, однако не приведены сведения о языках обучающих данных или о целевой схеме классификации намерений. Поэтому название репозитория само по себе не подтверждает, что модель выдаёт метки классов интентов. Лицензия в предоставленных данных не указана.

Jan-Nano-128k — компактная языковая модель Alan Dao и Bach Vu Dinh, дообученная на базе Menlo/Jan-nano. Это плотная модель семейства Qwen3 с 3,7 млрд параметров и контекстом до 131 072 токенов. Она предназначена для исследовательских задач: анализа длинных документов и научных статей, синтеза информации из нескольких источников и ведения многоходовых диалогов. Модель поддерживает чат и интерфейс вызова инструментов MCP; авторы характеризуют её как не использующую режим пошагового рассуждения. Модель принимает текст и генерирует текст. Репозиторий содержит веса Safetensors; для запуска авторы описывают развёртывание через vLLM с настройками для длинного контекста и вызова инструментов. Лицензия — Apache-2.0. README сообщает об оценке на SimpleQA, но не приводит численных результатов, поэтому заявленное улучшение относительно Jan-Nano нельзя количественно оценить по карточке.

jina-embeddings-v5-text-nano-clustering — компактная модель для получения текстовых эмбеддингов, разработанная Jina AI. Она предназначена прежде всего для кластеризации текстов и входит в семейство jina-embeddings-v5-text; модель является квантованным вариантом базовой jina-embeddings-v5-text-nano. Модель содержит 239 млн параметров, поддерживает мультиязычные тексты и обрабатывает последовательности длиной до 8192 токенов. Размер выходного эмбеддинга составляет 768 измерений, доступны также укороченные Matryoshka-размерности 32, 64, 128, 256 и 512. Используется pooling по последнему токену. Обучение основано на дистилляции и задачно-ориентированных контрастивных потерях; заявлено превосходство над сопоставимыми моделями на различных embedding-бенчмарках. Сильные стороны модели — компактность, высокая производительность для задач кластеризации, поддержка длинного контекста и возможность выбирать размер эмбеддинга для компромисса между качеством и эффективностью. README не описывает конкретный список поддерживаемых языков и не приводит подробных результатов оценки, поэтому качество для отдельных языков и доменов может различаться. Для использования рекомендуются transformers, PyTorch и vLLM; доступна интеграция с sentence-transformers и llama.cpp через специальную ветку. Лицензия — CC BY-NC 4.0, допускающая использование с указанием авторства, но не для коммерческих целей.