II.6Документация и сопровождение разработки

jina-embeddings-v5-text-nano-clustering — компактная модель для получения текстовых эмбеддингов, разработанная Jina AI. Она предназначена прежде всего для кластеризации текстов и входит в семейство jina-embeddings-v5-text; модель является квантованным вариантом базовой jina-embeddings-v5-text-nano. Модель содержит 239 млн параметров, поддерживает мультиязычные тексты и обрабатывает последовательности длиной до 8192 токенов. Размер выходного эмбеддинга составляет 768 измерений, доступны также укороченные Matryoshka-размерности 32, 64, 128, 256 и 512. Используется pooling по последнему токену. Обучение основано на дистилляции и задачно-ориентированных контрастивных потерях; заявлено превосходство над сопоставимыми моделями на различных embedding-бенчмарках. Сильные стороны модели — компактность, высокая производительность для задач кластеризации, поддержка длинного контекста и возможность выбирать размер эмбеддинга для компромисса между качеством и эффективностью. README не описывает конкретный список поддерживаемых языков и не приводит подробных результатов оценки, поэтому качество для отдельных языков и доменов может различаться. Для использования рекомендуются transformers, PyTorch и vLLM; доступна интеграция с sentence-transformers и llama.cpp через специальную ветку. Лицензия — CC BY-NC 4.0, допускающая использование с указанием авторства, но не для коммерческих целей.

KaLM-Reranker-V1-Nano-R2 — компактная модель ранжирования документов из семейства KaLM-Reranker, разработанная авторами KaLM-Embedding. Это дообученная версия encoder-decoder модели Google T5Gemma2; вариант Nano имеет 0,27 млрд активируемых параметров и поддерживает контекст до 128 тыс. токенов. Модель оценивает релевантность документа запросу и предназначена для повторной сортировки результатов поиска, в том числе в многоязычных системах и RAG-конвейерах. Модель использует архитектуру fast-but-not-late-interaction и поддерживает Matryoshka pooling с коэффициентом сжатия от 1x до 128x. Это позволяет выбирать компромисс между расходом вычислений и качеством ранжирования, а также сначала отбирать кандидатов по сжатым представлениям и затем уточнять порядок наиболее перспективных документов. В README приведены результаты на наборах BEIR и MIRACL, включая многоязычные сценарии. Модель принимает текст запроса и документа и выдаёт оценку релевантности, поэтому подходит для ранжирования кандидатов поиска, улучшения выдачи RAG и многоязычного поиска по документам. Лицензия — Apache-2.0. Качество зависит от языка, предметной области и выбранного коэффициента сжатия; при большем сжатии метрики в приведённых тестах снижаются.

KaLM-Reranker-V1-Small-R2 — мультиязычная модель для переранжирования документов в поисковых системах и RAG-системах, разработанная командой KaLM-Embedding. Это дообученный вариант encoder-decoder модели T5Gemma2 с архитектурой FBNL: она оценивает релевантность документа запросу, поддерживает инструкции и позволяет менять вычислительные затраты с помощью коэффициента сжатия представлений. Версия Small содержит около 1 млрд активируемых параметров, 26 слоёв в энкодере и 26 в декодере, а длина последовательности составляет до 128 тысяч токенов. Модель рассчитана на ранжирование кандидатов в многоязычном поиске и RAG. Поддерживается Matryoshka pooling с коэффициентом сжатия от 1x до 128x, что позволяет выбирать баланс между скоростью и качеством или использовать каскадное ранжирование. В README приведены результаты на BEIR и MIRACL; при стандартном сжатии 4x Small-R2 показывает nDCG@10 61,07 на BEIR и 74,06 на MIRACL. Модель распространяется в формате safetensors по лицензии Apache-2.0. Она выдаёт оценки для ранжирования, а не готовые ответы пользователю; качество зависит от языка, набора документов, параметров сжатия и сценария применения.

Ttimms/KAT-Coder-V2.5-Dev-REAP-50-NVFP4A16 — локальная квантованная версия Kwaipilot/KAT-Coder-V2.5-Dev, подготовленная разработчиком Ttimms. Модель предназначена для агентного программирования, генерации и исправления кода, а также решения задач из SWE-bench в условиях ограниченной видеопамяти. Она рассчитана на запуск в 16 ГБ потребительской VRAM, в частности на RTX 5070 Ti, через vLLM. В основе лежит MoE-архитектура с 256 экспертами; после REAP-прунинга оставлено 128 экспертов, то есть удалено 50% экспертных блоков. Модель использует квантование NVFP4A16 с 4-битными весами, весовое квантование без калибровочных данных и занимает около 12,45 GiB. Из состава удалена башня компьютерного зрения с необученными весами, поэтому README не подтверждает поддержку мультимодальных сценариев. Указан контекст до 49 тысяч токенов в использованной конфигурации; языки явно не перечислены, но модель ориентирована прежде всего на задачи программирования. Заявленные результаты включают 89,0% на HumanEval+, 90,5% на MBPP+ и 52,0% на SWE-bench Verified — 26 из 50 задач при использовании mini-swe-agent, bash-only scaffold и потолка контекста 49 тысяч токенов. SWE-bench показатель существенно зависит от лимита контекста и числа ходов агента: 17 задач завершились из-за превышения контекстного лимита, поэтому результат нельзя считать безусловной оценкой возможностей. К сильным сторонам относятся высокая компактность, возможность локального запуска, производительность около 149,5 токена в секунду в указанной конфигурации и исправление маршрутизации экспертов для этой архитектуры. Ограничения включают потерю части экспертов из-за прунинга, отсутствие подтверждённой работы со зрением, зависимость производительности от совместимого оборудования и серверного ПО, а также контекстные ограничения в агентных задачах. Модель распространяется по лицензии Apache-2.0.

Карточка модели dshive/Kimi-K2.7-Code на Hugging Face совпадает с карточкой moonshotai/Kimi-K2.7-Code, поэтому описание составлено по ней. Kimi K2.7 Code — ориентированная на программирование агентная модель компании Moonshot AI, основанная на Kimi K2.6. Она предназначена для выполнения длительных задач разработки ПО и многоэтапных инженерных процессов: от создания и изменения кода до работы с проектами и инструментами. Архитектура — Mixture-of-Experts с общим числом параметров около 1 трлн и 32 млрд активируемых параметров; модель представлена в safetensors и использует нативную квантизацию INT4. Для тестирования заявлен контекст длиной 262 144 токена. Модель поддерживает диалог, вызов инструментов и визуальный ввод изображений и видео; основная специализация — агентное программирование и решение сложных задач разработки. Разработчик сообщает о повышении эффективности на длительных задачах и примерно на 30% меньшем расходе токенов на рассуждения по сравнению с Kimi K2.6. В карточке указана лицензия other; конкретные условия следует сверить с лицензией репозитория и условиями API.

Laguna-S-2.1-JANG_2L-CRACK — текстовая MoE-модель, выпущенная dealignai на основе poolside/Laguna-S-2.1. Она предназначена прежде всего для агентной разработки ПО, рассуждений и вызова инструментов. По карточке, базовая модель имеет 118 млрд параметров, 48 слоёв и контекст до 262 тыс. токенов; в метаданных указаны 6,8 млрд параметров и контекст до 1 048 576 токенов, поэтому сведения о размере и контексте расходятся. Модель подвергнута удалению отказов на уровне весов и квантована в смешанном формате JANG_2L для MLX и Apple Silicon; заявленный размер набора весов — около 41 ГБ. Поддерживаются режимы рассуждения и прямых ответов, а также интерфейс вызова инструментов. В README приведены результаты MMLU 73,7% и HarmBench 98,8% соответствия запросам; это результаты оценки автора через vMLX, а не независимая гарантия качества. README указывает лицензию как бесплатную для macOS, а метаданные обозначают её как other без конкретных условий. Карточка сообщает, что модель рассчитана на исследовательские цели и авторизованное тестирование безопасности; после удаления отказов она может выполнять широкий спектр запросов без отказа.

hbfreed выпустил вариант Poolside Laguna-S-2.1, в котором методом winnow удалено 50% каналов промежуточного слоя маршрутизируемых экспертов. Это MoE-модель для генерации текста с архитектурой WinnowLagunaForCausalLM: из исходных 118 млрд параметров осталось 60,8 млрд; 80% экспертов сохранены с уменьшенной переменной шириной, а общий эксперт, внимание и эмбеддинги не изменялись. В README приведён размер 60,8 млрд параметров, тогда как метаданные указывают 6,8 млрд; это расхождение требует проверки. Модель использует формат safetensors и рассчитана на контекст до 1 048 576 токенов. Модель предназначена для генерации и продолжения кода, диалогового программирования, агентных задач разработки и взаимодействия с инструментами. В описанном тесте HumanEval она показала pass@1 89,6%, однако результат получен с определённым протоколом извлечения ответа и INT8-подачей экспертов и не сопоставим напрямую с опубликованными результатами других тестов. README сообщает, что для serving с INT8-масштабированием нужны три GPU по 24 ГБ и специальный плагин vLLM для winnow; обычный tensor parallelism не поддерживается. Производная сохраняет лицензию OpenMDW-1.1 базовой модели.

redis/langcache-embed-v1 — модель Sentence Transformers, разработанная для Redis и дообученная на Alibaba-NLP/gte-modernbert-base на датасете Quora. Она преобразует предложения и абзацы в плотные эмбеддинги размерности 768 и сравнивает их с помощью косинусного сходства; модель предназначена для семантического сопоставления текстов и семантического кэширования, например для поиска похожих запросов и повторного использования кэшированных ответов. Архитектура основана на ModernBERT с пулингом CLS-токена, максимальная длина последовательности — 8192 токена. В метаданных указаны форматы safetensors, ONNX и OpenVINO. В README приведены результаты бинарной классификации на Quora: точность по cosine accuracy 0,90 и F1 0,87. Эти показатели относятся к описанной оценке и не гарантируют такого же качества на других данных. Поддержка языков отдельно не заявлена; датасет Quora и базовая модель указывают на ориентацию прежде всего на английский язык. Условия лицензии в предоставленных данных не указаны.

LettuceDetect v2 mmBERT-base — разработанная KRLabsOrg модель-энкодер для поиска галлюцинаций в ответах, созданных с опорой на контекст, включая RAG, код и вывод инструментов. Это дообученный на базе jhu-clsp/mmBERT-base классификатор токенов: он получает контекст, вопрос и ответ и помечает токены ответа как подтверждённые или неподтверждённые, формируя бинарные фрагменты без категорий и подтипов. Модель содержит 306,9 млн параметров, поддерживает контекст до 8192 токенов и распространяется в формате safetensors. Модель рассчитана на многоязычное выявление неподтверждённых утверждений в прозе и коде, включая ответы кодовых агентов и результаты RAG. Однопроходный энкодер работает без генерации текста и ориентирован на высокую пропускную способность и низкую стоимость. README приводит результаты на тестах по прозе, коду и многоязычным данным; качество зависит от типа данных, а для типизированных фрагментов предлагается отдельная модель или каскад с таксономической головой. Лицензия — Apache-2.0. Указанные языки: английский, немецкий, французский, испанский, итальянский, польский и китайский; README также сообщает о многоязычной проверке на 14 языках, но не перечисляет остальные языки.

LightOn-rerank-LW-4B — мультимодальная модель-реранкер от LightOn для повышения релевантности результатов поиска. Это генеративный listwise cross-encoder на базе Qwen/Qwen3.5-4B с гибридной архитектурой линейного и полного внимания; модель содержит около 4,5 млрд параметров и опубликована в формате bfloat16 весов Safetensors. Она совместно дообучена на текстовых фрагментах и изображениях страниц документов. На вход модель принимает текстовый запрос и до четырёх кандидатов — текстовых отрывков или изображений страниц PDF, слайдов и сканов. Она генерирует порядок кандидатов; для больших наборов применяется скользящее окно размером 4 с шагом 2. Реранкер предназначен для второго этапа поискового конвейера после BM25, плотного поиска или ColPali-подобного извлечения. В описанном протоколе ViDoRe V3 модель показала nDCG@10 64,69 и превзошла указанный в карточке Qwen3-VL-Reranker-8B. Модель обучалась на английских данных; французский поддерживается благодаря переносу с многоязычной базовой модели, но качество в среднем немного ниже английского. Listwise-декодирование на версии 4B требует существенно больше времени: при переранжировании 100 кандидатов оно примерно в пять раз медленнее pointwise-модели 2B. Для запуска README указывает transformers версии 5.4.0 или новее и необходимость добавить пустой thinking-блок перед генерацией. Лицензия — Apache-2.0.

Mini-GTE — компактная модель эмбеддингов предложений от QTACK, созданная как подтверждение концепции их подхода к дистилляции. Это Sentence Transformer на архитектуре DistilBERT, дообученный на базе distilbert/distilbert-base-uncased и дистиллированный из GTE. Модель содержит 66 млн параметров и формирует векторы размерности 768; для сравнения предложений используется косинусное сходство. Mini-GTE предназначена для быстрого кодирования запросов, семантического поиска и оценки сходства текстов. Максимальная длина входной последовательности — 512 токенов. В README указано второе место в классическом рейтинге MTEB среди моделей менее чем со 100 млн параметров и 63-е место в общем рейтинге; это заявление разработчика. Модель ориентирована на английский язык. Доступна по лицензии Apache-2.0. Как и другие модели эмбеддингов, она выдаёт векторы, а не готовые ответы; качество зависит от языка и предметной области, а README не приводит подробных оценок по отдельным наборам данных.

cross-encoder/monoelectra-base — англоязычный кросс-энкодер для ранжирования текстов, перенесённый из webis/monoelectra-base в библиотеки Sentence Transformers и Transformers. Модель основана на ELECTRA и содержит 136,7 млн параметров; максимальная длина контекста — 512 токенов. Модель предназначена для второго этапа retrieve-rerank: она оценивает пары «запрос — найденный фрагмент» и переупорядочивает результаты, полученные поисковым движком, например BM25 или моделью эмбеддингов. Также метаданные указывают поддержку классификации текста. Доступны форматы safetensors, ONNX и OpenVINO. Лицензия — Apache-2.0. README описывает перенос модели в другой интерфейс, а метаданные указывают дообучение от google/electra-base-discriminator. Модель ориентирована на английский язык; её контекст ограничен 512 токенами, поэтому длинные пары текстов требуют усечения или разбиения.

mxbai-rerank-xsmall-v1 — компактная модель-реранкер от Mixedbread AI из семейства crispy rerank. Она оценивает релевантность пары «запрос — текст» и предназначена для повторной сортировки результатов поиска, например, после полнотекстового поиска или первичного извлечения кандидатов. Модель построена на архитектуре DeBERTa-v2 с классификационной головой и содержит 77,5 млн параметров; максимальная длина контекста — 512 токенов. Для работы авторы рекомендуют актуальную версию sentence-transformers. Модель ориентирована на улучшение поиска и, согласно README, хорошо сочетается с поиском по ключевым словам. В метаданных указан английский язык. Репозиторий содержит веса в форматах Safetensors и ONNX. Лицензия — Apache-2.0.

NuExtract-2.0-2B-GGUF — мультимодальная и многоязычная модель компании NuMind, предназначенная для извлечения структурированной информации из текста и изображений. Модель принимает входные данные вместе с JSON-шаблоном, в котором задаются требуемые поля и их типы, и возвращает заполненный JSON-объект. Модель имеет размер 2B параметров и основана на Qwen2-VL-2B-Instruct. Версия GGUF предназначена для запуска с совместимыми inference-инструментами, включая llama.cpp. Поддерживаются строки с дословным извлечением или перефразированием, целые и дробные числа, даты и время в формате ISO, массивы, перечисления и многозначные категориальные поля. Если значение не найдено, модель возвращает null или пустой массив. Она подходит для обработки документов, форм, заявок и других текстовых или визуальных источников, где требуется привести данные к заданной схеме. К сильным сторонам относятся специализация на структурированном извлечении, поддержка текста и изображений, небольшой размер и возможность коммерческого использования. Для надёжной работы рекомендуется температура, близкая к 0; качество зависит от корректности JSON-шаблона и входных данных. В README не указаны конкретные поддерживаемые языки, максимальный контекст и результаты бенчмарков в числовом виде. Модель распространяется по лицензии MIT.

trohrbaugh/OmniCoder-9B-heretic-ara-uncensored — экспериментальная версия модели OmniCoder, разработанной Tesslate и дообученной на базе Qwen/Qwen3.5-9B. Это плотная модель с 9 млрд параметров и гибридной архитектурой: слои Gated Delta Networks чередуются со стандартным вниманием. Модель предназначена для программирования и агентных задач: работы с инструментами, терминалом, многошагового решения задач и внесения точечных изменений в код. Заявлено контекстное окно 262 144 токена. В карточке описана abliteration-настройка, направленная на снижение числа отказов: в приведённом тесте модель отказала в 7 случаях из 100. Метаданные отмечают поддержку чата и кода; базовая архитектура мультимодальная, однако для этой версии карточка не описывает сценарии работы с изображениями. Английский указан среди языков карточки, а качество на других языках, согласно README, оценивалось ограниченно. Лицензия — Apache 2.0.

duyntnet/OpenCodeReasoning-Nemotron-1.1-7B-imatrix-GGUF — это GGUF-квантизации языковой модели OpenCodeReasoning-Nemotron-1.1-7B, разработанной NVIDIA. Модель создана на основе Qwen2.5-7B-Instruct и дообучена для пошагового рассуждения и генерации кода. Она предназначена для текстовой генерации, прежде всего для решения задач программирования и кодинга. Модель поддерживает контекст длиной до 64 тысяч токенов, работает с текстом и заявлена для английского языка. Размер базовой модели — 7B параметров; конкретные характеристики, точность и требования к ресурсам зависят от выбранного варианта квантизации GGUF. Для запуска подходят llama.cpp, KoboldCPP, text-generation-webui, Jan и LM Studio. В тестах LiveCodeBench v5 модель показала Pass@1 55,5, превысив показатели ряда других дистиллированных моделей сопоставимого размера. Сильными сторонами являются специализация на рассуждении при генерации кода, большой контекст и возможность локального запуска через распространённые inference-инструменты. Ограничения включают ориентацию преимущественно на английский язык, зависимость качества и потребления ресурсов от квантизации, а также отсутствие в README подробностей о точных параметрах отдельных GGUF-файлов. В карточке указана лицензия other; исходная модель описана как доступная для коммерческого и некоммерческого использования, однако точные условия лицензии следует уточнять отдельно.

opencsg/opencsg-CodeLlama-34b-v0.2 — это дообученная OpenCSG модель для генерации программного кода. Она основана на Meta CodeLlama-34b-hf, использует архитектуру Llama с плотной авторегрессионной языковой моделью и содержит 33,5 млрд параметров. Модель прошла полное дообучение всех параметров; в репозитории представлены веса Safetensors. Модель предназначена для генерации и автодополнения кода, в том числе решения задач по программированию. В README указано, что обучающая выборка охватывает несколько языков программирования; для оценки семейства использовался HumanEval на Python, однако приведённые значения относятся к версиям 7B и не характеризуют непосредственно эту версию 34B. Контекст модели составляет до 16 384 токенов. Лицензия — Llama 2 Community License; её условия следует учитывать при использовании и распространении модели.

Pink Elephant 48B — языковая модель с архитектурой Mixture-of-Experts от Pink Elephant Limited, дообученная на инструкциях по программированию и математическим рассуждениям. В карточке указаны 47,7 млрд параметров общей ёмкости и около 14,7 млрд активных на токен; метаданные Hugging Face указывают 8,6 млрд параметров. Модель использует восемь экспертов на слой и маршрутизацию к двум из них для каждого токена. Контекст — 16 384 токена. Модель предназначена для генерации кода, следования инструкциям по разработке ПО и решения математических задач с пошаговыми рассуждениями. Это объединённая версия с уже встроенными адаптерами экспертов и обученным маршрутизатором; для инференса не требуется отдельно подключать адаптеры. Поддерживаются текстовый ввод и генерация текста, заявлен английский язык. Модель основана на MoE-базе Pink Elephant 48B, созданной путём расширения плотной модели Pink Elephant 14B. Обучение включало около 100 тысяч примеров по коду и математике. По заявлению карточки, специализация на этих задачах ограничивает широту общих знаний; длинные агентные сценарии могут требовать дополнительного обучения использованию инструментов. Результаты следует проверять перед применением в регулируемых и критически важных областях. Лицензия — MIT.

PP-DocLayout_plus-L — модель обнаружения и локализации областей макета документов, разработанная командой PaddlePaddle для экосистемы PaddleOCR. Она предназначена для анализа изображений китайских и англоязычных документов, включая научные статьи, презентации, журналы, газеты, договоры, книги, экзаменационные материалы, учебники и исследовательские отчёты. Модель выделяет 20 типов элементов: заголовки документов и разделов, текст, номера страниц, аннотации, таблицы, ссылки, сноски, колонтитулы, алгоритмы, формулы и их номера, изображения, печати, подписи к таблицам и рисункам, диаграммы, боковой текст и списки литературы. В основе используется архитектура RT-DETR-L. Модель работает с изображениями и применяется как компонент конвейера layout detection, например для последующего OCR и структурированного извлечения содержимого. На внутреннем наборе данных PaddlePaddle, содержащем около 1000 типов документов, заявлено значение mAP@0.5 83,2%; этот показатель характеризует точность обнаружения областей на указанном наборе и может не отражать результаты на других данных. README не указывает размер модели, максимальный контекст или дополнительные модальности. Для запуска предусмотрены PaddleOCR и ONNX Runtime, включая GPU-вариант. Модель распространяется по лицензии Apache 2.0.

PP-DocLayout-S — компактная модель PaddlePaddle для локализации областей и определения структуры на изображениях документов. Она построена на архитектуре PicoDet-S и обучена на собственном наборе китайских и английских научных статей, журналов, контрактов, книг, экзаменационных материалов и исследовательских отчётов. Модель распознаёт 23 категории элементов, включая заголовки, абзацы, основной текст, номера страниц, аннотации, содержание, ссылки, сноски, колонтитулы, формулы, таблицы, изображения, подписи и печати. Модель предназначена для обнаружения областей документа как компонента систем OCR и анализа структуры документов, в том числе конвейера PP-StructureV3. На собственном тестовом наборе из 500 изображений документов указано значение mAP@0.5 70,9%. Это показатель локализации элементов, а не готовое распознавание текста; для извлечения содержимого может потребоваться сочетание с OCR и другими модулями. Модель принимает изображения и выдаёт текстовые метки категорий и координаты областей. Лицензия — Apache-2.0.

Qwen2.5-Coder-3B-GGUF — базовая языковая модель для работы с исходным кодом, созданная командой Qwen. Это GGUF-квантизация оригинальной модели Qwen2.5-Coder-3B, подготовленная bartowski на основе llama.cpp. Модель предназначена прежде всего для генерации и автодополнения текста и кода, а не для диалогового использования в формате instruct или chat. Модель имеет около 3 миллиардов параметров и поддерживает контекст длиной до 32 000 токенов. При обучении использовано 5,5 триллиона токенов. В метаданных указана поддержка английского языка и сценарии, связанные с программированием. Формат GGUF и совместимость с llama.cpp делают модель подходящей для локального запуска в приложениях и инструментах, поддерживающих этот формат. К сильным сторонам относятся специализация на коде, большой контекст и возможность локального использования в компактном размере. Ограничение состоит в том, что это базовая модель: она не оптимизирована для обычного общения и выполнения инструкций в диалоговом режиме, поэтому для таких задач может потребоваться дополнительное форматирование запросов или другая модель. Указанная лицензия — qwen-research; перед использованием следует ознакомиться с условиями лицензии по ссылке на оригинальную модель.

Это квантованная сборка Qwen3.8-Flash-Next от ghost-actual на основе объединённой модели orcarouter/Qwen3.8-Flash-Next-Uncensored и Qwen/Qwen3.8-Flash-Next. Сборка в формате EXL3 с эффективной разрядностью около 2,5 бит на вес предназначена для запуска MoE-модели на одной видеокарте с 24 ГБ памяти, используя выгрузку экспертов в оперативную память процессора. Веса занимают около 41,5 ГБ, а вместе с таблицей n-грамм артефакт — около 61 ГБ; для запуска также требуется примерно 59 ГБ оперативной памяти и быстрый NVMe-накопитель. Модель предназначена для диалоговой генерации текста, рассуждений и анализа изображений, включая распознавание текста на изображениях. В ней сохранены vision tower, MTP-голова, таблица PLE n-грамм и контекст до 262 144 токенов. Это сборка с удалённым направлением отказов: она может отвечать на запросы, которые исходная модель отклонила бы, поэтому у неё отсутствует соответствующий уровень защитного выравнивания. Агрессивная квантизация может снижать точность, особенно при сложном извлечении фактов; автор проверил несколько примеров, но не запускал широкие оценки качества. README указывает лицензионные условия Qwen, однако конкретный тип лицензии в метаданных обозначен как other.

PXY107kWqS/Qwen3-Reranker-8B-bnb-4bit — это 4-битная квантованная версия модели Qwen3-Reranker-8B из семейства Qwen3, разработанного командой Qwen. Квантование выполнено с использованием библиотеки BitsAndBytes; модель предназначена для ранжирования текстов и используется как CrossEncoder для оценки релевантности пар «запрос — документ». Лицензия — Apache-2.0. Модель содержит около 8 млрд параметров, поддерживает контекст длиной до 32K токенов и более 100 языков, включая языки программирования. Она подходит для повторного ранжирования результатов текстового и кодового поиска, multilingual- и cross-lingual retrieval, а также других сценариев, где требуется упорядочить документы по соответствию запросу. Модель поддерживает пользовательские инструкции, адаптированные под задачу, язык или сценарий; для многоязычных задач рекомендуется формулировать инструкции на английском языке. Квантирование использует int4 с типом nf4, вычислениями в bfloat16, хранением квантованных данных в uint8 и без двойного квантования. Это снижает требования к памяти по сравнению с полной версией, но может влиять на точность и производительность; конкретные требования к оборудованию и результаты тестов в карточке не приведены. Модель возвращает необработанные значения logit-разницы, которые можно использовать для сравнения релевантности документов.

Qwen3-VL-8B-Instruct-abliterated-v2-GGUF — мультимодальная vision-language модель от prithivMLmods, основанная на Qwen3-VL-8B-Instruct от Alibaba. Это GGUF-сборка для запуска через llama.cpp и совместимые инструменты; доступны варианты квантования от Q2_K до Q8_0, а также F16 и отдельные mmproj-файлы для обработки изображений. Модель предназначена для генерации текста по изображениям, подробного описания визуального содержимого, следования инструкциям и мультимодального рассуждения. Заявлена поддержка сложных, технических, художественных и чувствительных изображений, видео, различных разрешений, соотношений сторон и макетов. Указаны Interleaved-MRoPE, контекст до 262K токенов и OCR на 32 языках; основным языком работы назван английский, при этом заявлена адаптация к другим языкам с помощью формулировок запросов. Модель содержит около 8 млрд параметров и ориентирована на запуск на GPU с 16–24 ГБ VRAM в форматах BF16/FP8 через Transformers или vLLM, а GGUF-квантизации позволяют выбирать компромисс между размером и качеством. Ключевая особенность версии — удаление механизмов отказа и контентных ограничений, что расширяет область применения для red teaming, исследований безопасности и творческих сценариев, но одновременно повышает риск генерации небезопасного или нежелательного содержимого. Модель распространяется по лицензии Apache-2.0.

SimLM — англоязычная плотная модель для поиска пассажей, разработанная авторами метода Similarity Matching with Language Model Pre-training. Она использует архитектуру BERT с узким представлением, которое сжимает текст пассажа в плотный вектор. В карточке указана версия, дообученная на MS MARCO. Модель предназначена для извлечения эмбеддингов текста и построения систем семантического поиска и ранжирования пассажей, в том числе для поиска по неразмеченным корпусам. Параметры можно применять как векторные представления документов или запросов в поисковом конвейере. Модель содержит 136,7 млн параметров и принимает последовательности длиной до 512 токенов. В README приведены результаты экспериментов на MS MARCO и TREC Deep Learning, однако конкретные значения результатов данной версии в доступном фрагменте таблицы не видны. Модель распространяется под лицензией MIT.

SkyCode — открытая модель для генерации кода, выпущенная компанией Singularity-AI (奇点智源). Она обучена на большом объёме кода и предназначена для автодополнения, генерации программ и решения задач по программированию. Модель поддерживает более десяти языков программирования, включая Python, Java, JavaScript, C, C++, Go, PHP, Swift и shell, и, по заявлению разработчиков, лучше понимает китайские комментарии. В README указано 2,6 млрд параметров и приведено сравнение результатов на HumanEval; авторы сообщают о высоких показателях решения задач относительно некоторых открытых моделей. Метаданные классифицируют архитектуру как GPT-2 и указывают контекст длиной 2048 токенов; README описывает структуру как GPT-3. Это авторские заявления и сведения каталога, а независимая проверка приведённых результатов в карточке не представлена. Модель распространяется по лицензии MIT.

TUKE-DeutscheTelekom/slovakbert-skquad-mnlr — модель Sentence Transformer, разработанная для сопоставления словацких предложений и поиска семантически близких текстов. Она основана на gerulata/slovakbert и дообучена на 65 699 примерах с MultipleNegativesRankingLoss. Архитектура использует RoBERTa с усреднением токенных представлений; модель формирует эмбеддинги размерности 768 и сравнивает их косинусным сходством. Модель предназначена для семантического поиска, ранжирования кандидатов по близости к запросу и сопоставления вопросов с контекстами. Максимальная длина последовательности в README — 300 токенов; метаданные указывают нативный предел 514 токенов. Оптимизирована для словацкого языка, в частности для задач поиска ответов на вопросы по текстовым фрагментам. Репозиторий распространяется с файлами safetensors; лицензия в предоставленных данных не указана.

unclemusclez/SmolLM-135M-Instruct-DEVINator-v0.2 — дообученная модель на архитектуре Llama, созданная с помощью AutoTrain на наборе skratos115/opendevin_DataDevinator. Карточка указывает тип задачи Sentence Transformers; модель предназначена для получения представлений текста и сравнения сходства предложений. Метаданные также отмечают возможности генерации текста и чата. Модель содержит 134,5 млн параметров, использует контекст до 2048 токенов и распространяется в форматах safetensors и GGUF. Базовая модель — HuggingFaceTB/SmolLM-135M-Instruct. Данных о метриках проверки качества в README нет. Лицензия в предоставленных данных не указана.

bartowski/starcoder2-15b-instruct-GGUF — это набор GGUF-квантизаций модели StarCoder2-15B-Instruct, разработанной TechxGenus и опубликованной в формате для запуска через llama.cpp. Квантизацию выполнил bartowski с использованием llama.cpp release b2354. Модель относится к классу text-generation и предназначена прежде всего для генерации и обработки программного кода, включая локальные сценарии запуска с ограниченными ресурсами. Доступны варианты квантизации Q2_K, Q3_K_S, Q3_K_M, Q3_K_L, Q4_0, Q4_K_S, Q4_K_M, Q5_0, Q5_K_S, Q5_K_M, Q6_K и Q8_0. Размер файлов составляет примерно от 6,19 до 16,96 ГБ. Q6_K отмечен как рекомендуемый вариант с очень высоким качеством, Q8_0 обеспечивает максимальное доступное качество, а варианты Q3 и Q2 требуют меньше памяти, но заметно уступают по качеству. Архитектура, поддерживаемые языки программирования, языки естественного языка, модальности и размер контекста в README не указаны. Сильной стороной модели является возможность локального использования в экосистеме llama.cpp с выбором компромисса между качеством и требованиями к памяти. Ограничения связаны с потерями качества при низких уровнях квантизации, а также с отсутствием в представленном README подробностей о возможностях, бенчмарках и контекстном окне. Модель распространяется по лицензии BigCode OpenRAIL-M.

QuantFactory/starcoder2-15b-instruct-v0.1-GGUF — квантизированная версия модели StarCoder2-15B-Instruct-v0.1, разработанной проектом BigCode и созданной с использованием llama.cpp. Это языковая модель для генерации текста и кода, дообученная методом самосогласования на наборе self-oss-instruct-sc2-exec-filter-50k, где StarCoder2 генерировала пары инструкций и ответов без человеческой разметки и дистилляции из проприетарных моделей. Модель предназначена прежде всего для однократного выполнения инструкций, связанных с программированием: генерации Python-кода, решения задач, исправления программ и предсказания результатов выполнения. Она имеет размер 15 млрд параметров и распространяется в формате GGUF, удобном для запуска через совместимые инструменты на базе llama.cpp. В README указана длина последовательности обучения 1280 токенов; сведения о полном контекстном окне, поддерживаемых языках и конкретном варианте квантизации отсутствуют. Сильной стороной модели является ориентация на код, который можно проверять выполнением; на приведённых тестах она показывает pass@1 72,6% на HumanEval, 75,2% на MBPP и 40,6% на DS-1000. Ограничения включают меньшую надёжность при работе с форматами вывода, другими языками программирования и задачами за пределами распределения обучения; для управления форматом рекомендуется использовать префикс ответа или пример. Модель распространяется по лицензии bigcode-openrail-m.