II.8Инженерия данных и аналитика

Это мультимодальная модель для создания эмбеддингов, опубликованная пользователем ewin-reg и основанная на jinaai/jina-embeddings-v5-omni-small-retrieval с архитектурой Qwen3-VL-Audio. Она предназначена для семантического поиска и сопоставления текста, изображений и аудио в общем векторном пространстве. Согласно README, размер эмбеддингов составляет 1024 измерения; заявлена поддержка сокращения векторов средствами MRL. Модель использует смешанную квантизацию INT4 и FP8 и поставляется в формате SafeTensors; в метаданных также указана библиотека Sentence Transformers. Модель подходит для межмодального поиска, сравнения аудиофрагментов и ранжирования соответствий, в том числе в системах с ограничениями по памяти. Она извлекает представления, но не предназначена для генерации свободного текста или синтеза аудио. README сообщает, что для тонкой настройки квантизированные веса нужно сначала деквантизировать в BF16 или FP16. Лицензия — Apache-2.0.

KAT-Coder V2.5 Dev 35B-A3B ABLITERATED UNCENSORED PHILADELPHIA CLASS — текстовая модель Mixture of Experts, разработанная KridgeDookie на основе Kwaipilot/KAT-Coder-V2.5-Dev, относящейся к семейству Qwen3.6-35B-A3B. Модель ориентирована на генерацию кода, агентные сценарии программирования и взаимодействие с инструментами. Она поддерживает английский и китайский языки, не имеет компонента для обработки изображений и видео и работает только с текстом. Модель содержит около 35 млрд параметров в общей сложности, из которых для каждого токена активны примерно 3 млрд. Доступна исходная версия в формате BF16, а также квантованные варианты GGUF Q4_K_M, Q5_K_M и Q8_0. Заявленная максимальная длина контекста — 32 768 токенов. Полная BF16-версия занимает примерно 65 ГиБ, поэтому, несмотря на небольшое число активных параметров, требует значительно больше памяти, чем плотная модель на 3 млрд параметров. Основное отличие версии PHILADELPHIA CLASS — целевое редактирование весов для уменьшения отказов в ответах при сохранении возможностей родительской модели для программирования. Внутренние проверки показали отсутствие жёстких отказов в двух наборах тестов и прохождение 23 из 24 проверок связности, однако эти результаты не проходили независимый аудит и не гарантируют точность, качество рассуждений или надёжность использования инструментов. Модель может генерировать ошибочный, небезопасный или потенциально вредоносный код, поэтому результаты требуют проверки. Распространяется по лицензии Apache 2.0, унаследованной от родительской модели.

ddobokki/klue-roberta-small-nli-sts — корейская модель Sentence Transformer на архитектуре RoBERTa, предназначенная для получения векторных представлений предложений и оценки их семантического сходства. Разработчик описывает её как модель для корейского языка; размер составляет 81,2 млн параметров, а длина контекста — 514 токенов. Модель подходит для сравнения предложений по смыслу, поиска семантически близких текстов и использования в системах извлечения признаков и векторного поиска. В README приведены результаты теста семантического сходства: корреляция Пирсона 84,27 и Спирмена 84,17 для косинусного сходства. Доступны веса PyTorch и Safetensors. В README не указана лицензия, поэтому условия распространения и коммерческого использования по имеющимся данным определить нельзя.

KONI-Llama3-8B-20240630 — языковая модель, разработанная Donghun Yang из KISTI. Это продолженное предварительное обучение Llama 3 с 8 млрд параметров на корпусе объёмом 200 ГБ на корейском и английском языках, включающем научно-технические материалы. Модель использует авторегрессионную архитектуру Transformer и принимает текст, генерируя текст и код; контекст составляет 8192 токена. Модель предназначена для генерации текста и кода, а также для адаптации к разным задачам генерации естественного языка. В карточке указана предварительная версия от 30 июня 2024 года. Ограничения лицензии: CC-BY-NC-SA-4.0 и лицензия Llama 3; перед использованием следует соблюдать условия обеих лицензий и применимые правила использования Llama 3.

LaBSE (Language-agnostic BERT Sentence Encoder) — многоязычная модель на архитектуре BERT, представленная Google и перенесённая из версии v2 на TensorFlow Hub в формат PyTorch для Hugging Face. Модель содержит 498,1 млн параметров и формирует векторные представления предложений для 109 языков; контекст ограничен 512 токенами. Предобучение сочетает маскированное языковое моделирование и моделирование перевода. LaBSE предназначена для сопоставления предложений между языками и поиска соответствующих текстов в двуязычных корпусах. Её можно применять для мультиязычного поиска, поиска семантически близких фраз и построения систем поиска по тексту. Репозиторий предоставляет веса в форматах PyTorch, TensorFlow и Flax, включая safetensors. Лицензия — Apache-2.0.

JANGQ-AI/Laguna-XS-2.1-JANG_6M — квантованный вариант модели Poolside Laguna-XS-2.1, подготовленный Jinho Jang для запуска на Apple Silicon через vMLX. Это текстовая MoE-модель для генерации кода и работы агентных систем; метаданные указывают 2,6 млрд параметров, а карточка описывает исходную архитектуру как MoE с 33 млрд параметров и примерно 3 млрд активных параметров. В карточке также заявлены 40 слоёв, 256 маршрутизируемых экспертов, выбор восьми экспертов и общий эксперт, а длина контекста составляет 262 144 токена. Веса маршрутизируемых экспертов квантованы до 6 бит с AWQ-калибровкой; внимание, общий эксперт, маршрутизатор и нормализации оставлены в высокой точности. Модель поддерживает чат, вызовы инструментов и переключаемый режим рассуждений. Основной указанный язык — английский. Лицензия — OpenMDW-1.1, унаследованная от исходной модели. Карточка приводит скорость декодирования 68,6 токена в секунду на M5 Max и высокое совпадение предсказаний при проверке длинного контекста; эти результаты относятся к указанной конфигурации и оборудованию. Для корректного семплирования следует использовать top_k=20; поддержка шаблона чата, специальных стоп-токенов и параметров квантования зависит от загрузчика.

Это 4-битная сборка MLX модели LFM2.5-ColBERT-350M, подготовленная сообществом mlx-community на основе LiquidAI/LFM2.5-ColBERT-350M для локального инференса на компьютерах Apple с Apple Silicon. Модель использует архитектуру ColBERT с поздним взаимодействием: формирует 128-мерный вектор для каждого токена, а релевантность запроса и документа оценивает методом MaxSim. В метаданных указаны 443,4 млн параметров и контекст до 128 000 токенов. Модель предназначена для многоязычного семантического поиска и извлечения документов. В тестах README 4-битная версия сохранила в среднем 98,7% NDCG@10 и 99,7% Recall@10 относительно bf16 версии на восьми наборах данных; оценки получены на небольших или сокращённых корпусах и не сопоставимы напрямую с результатами на полных корпусах. В репозитории указана лицензия other; условия исходной модели следует сверить с её карточкой.

Карточка модели ronaldmannak/LFM2.5-ColBERT-350M-4bit на Hugging Face совпадает с карточкой mlx-community/LFM2.5-ColBERT-350M-4bit, поэтому описание составлено по ней. Это 4-битная сборка MLX модели LFM2.5-ColBERT-350M, подготовленная сообществом mlx-community на основе LiquidAI/LFM2.5-ColBERT-350M для локального инференса на компьютерах Apple с Apple Silicon. Модель использует архитектуру ColBERT с поздним взаимодействием: формирует 128-мерный вектор для каждого токена, а релевантность запроса и документа оценивает методом MaxSim. В метаданных указаны 443,4 млн параметров и контекст до 128 000 токенов. Модель предназначена для многоязычного семантического поиска и извлечения документов. В тестах README 4-битная версия сохранила в среднем 98,7% NDCG@10 и 99,7% Recall@10 относительно bf16 версии на восьми наборах данных; оценки получены на небольших или сокращённых корпусах и не сопоставимы напрямую с результатами на полных корпусах. В репозитории указана лицензия other; условия исходной модели следует сверить с её карточкой.

Lite-Whisper large-v3-acc — сжатая версия мультиязычной модели распознавания речи Whisper large-v3 от OpenAI, разработанная с использованием LiteASR. Она предназначена для преобразования речи в текст. В оценке на наборах данных ESB модель показала средний WER 10,1 — такой же, как у Whisper large-v3; размер энкодера составляет 429 млн параметров против 635 млн у исходной модели, а декодера — 907 млн. Модель построена на архитектуре LiteWhisperForConditionalGeneration и содержит 905,2 млн параметров. Она принимает аудио и выдаёт текст; базовая модель поддерживает многоязычную транскрибацию и перевод аудио в текст. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия — Apache-2.0.

Fu01978 разработал Llama-3.2-1B-4B-Quad-MoE — языковую модель с разреженной архитектурой Mixture of Experts для генерации текста и диалогов. В состав объединённой модели входят четыре эксперта на базе моделей Llama 3.2: инструктивная модель общего назначения, базовая модель для творческого текста, специалист по коду и специалист по математике. Метаданные указывают архитектуру MixtralForCausalLM и библиотеку Transformers. В README заявлены 3,65 млрд параметров всего и 1,24 млрд активных параметров на токен; метаданные каталога указывают 1,2 млрд параметров. Заявленная длина контекста — 131 072 токена, основной язык карточки — английский. Модель подходит для диалогов, написания текста, помощи с кодом и математических рассуждений. Доступна в формате Safetensors и распространяется по лицензии Llama 3.2.

Merino-Pro — модель извлечения информации от baa.ai (Black Sheep AI), объединяющая в одном пакете биэнкодер для эмбеддингов и кросс-энкодер для переранжирования. Обе части основаны на xlm-roberta-large и совместно обучены с общей матрицей словесных эмбеддингов. Модель содержит около 872 млн параметров в fp16 и формирует 1024-мерные L2-нормализованные векторы; кросс-энкодер выдаёт оценку релевантности пары запроса и документа. Модель предназначена для поиска и ранжирования документов в retrieval- и RAG-системах. В README заявлена поддержка нескольких языков, но конкретные языки не перечислены. Для биэнкодера рекомендуется добавлять к запросам префикс «query: ». Разработчик сообщает о сертифицированной 4-битной квантизации без потери качества в описанном тесте с отвлекающими документами; рекомендует разбивать тексты на атомарные фрагменты и ставить ключевую сущность в начало. Для документов с несколькими разнородными фактами качество поиска может быть ниже; README советует использовать атомарное разбиение. Лицензия указана как other, конкретные условия в доступных данных не приведены.

MiMo-V2.6-Flash-RL — мультимодальная модель генерации текста Xiaomi из серии MiMo-V2.6, обученная с подкреплением для агентных сценариев и самоулучшения. Карточка описывает семейство как разреженную MoE-архитектуру с обработкой текста, изображений, видео и аудио и контекстом до 1 млн токенов; указаны визуальный и аудиокодировщики, а также спекулятивный декодер. Метаданные репозитория, однако, описывают загруженную модель как плотную 12-миллиардную MiMoV2ForCausalLM в формате safetensors FP8, а pipeline_tag задаёт генерацию текста. Модель предназначена для диалогов, работы с инструментами, программирования и продолжительных агентных задач, а мультимодальные возможности семейства рассчитаны на понимание изображений, видео и аудио. В отчёте Xiaomi описаны обучение смешанным RL на задачах кодирования, общих агентов, визуального анализа и кибербезопасности, а также методы оценки траекторий и дистилляции. По карточке указана лицензия MIT. Поскольку сведения о размере и архитектуре в README относятся к серии, а метаданные конкретного репозитория расходятся с ними, характеристики репозитория следует считать более конкретными для загруженного чекпойнта.

mmBERT-base — многоязычный двунаправленный энкодер от команды JHU CLSP, построенный на архитектуре ModernBERT и обученный методом masked language modeling. Модель содержит около 307 млн параметров, использует библиотеку Transformers и имеет контекст до 8192 токенов. Энкодер предназначен для многоязычного понимания текста и переноса между языками. Его можно дообучать для классификации, построения эмбеддингов, поиска и ранжирования; опубликованная карточка также указывает превосходство над XLM-R в этих задачах и высокую скорость относительно предыдущих многоязычных энкодеров. Для прямого применения без дополнительного обучения основная задача — заполнение замаскированных фрагментов текста. Модель обучалась более чем на 3 трлн токенов и охватывает свыше 1800 языков, включая низкоресурсные. Карточка описывает обучение на корпусах FineWeb2 и других веб-, научных, справочных и общественных текстах. Репозиторий предоставляет веса PyTorch под лицензией MIT.

kokolamba/ModernBERT-base-DPR-8e-05-CMNRL-minibs16 — англоязычная модель Sentence Transformers, дообученная автором на базе answerdotai/ModernBERT-base на 1,25 млн примеров из набора MS MARCO. Она кодирует предложения и абзацы в плотные векторы размерности 768 и предназначена для сравнения текстов по косинусному сходству, семантического поиска и подбора релевантных фрагментов. Также в README указаны сценарии поиска парафраз, кластеризации и классификации текста. Модель использует encoder-архитектуру ModernBERT с усреднением токенных представлений; максимальная длина последовательности — 8192 токена. Она подходит для англоязычного семантического поиска и сопоставления запросов с документами. Веса опубликованы в формате safetensors; лицензия в предоставленных данных не приведена.

tomaarsen/mpnet-base-nq-cgist-gt — текстовая модель Sentence Transformers, созданная дообучением microsoft/mpnet-base на парах запросов и ответов из Natural Questions. Она кодирует предложения и абзацы в плотные векторы размерностью 768 для оценки семантического сходства, поиска и сопоставления текстов. Архитектура включает MPNet и усредняющий токены слой pooling; модель имеет 136,7 млн параметров и принимает последовательности длиной до 512 токенов. Модель рассчитана на английский язык. Её можно применять для семантического поиска по корпусу документов, сравнения запросов с ответами, поиска перефразировок, кластеризации и классификации текста на основе эмбеддингов. Для сравнения векторов в карточке рекомендована косинусная близость; приведённые оценки на наборах Nano BEIR и Nano BEIR-подобных задачах различаются по датасетам, поэтому качество следует проверять на целевом корпусе. Модель распространяется по лицензии Apache-2.0. Ограничение длины входа составляет 512 токенов; карточка не подтверждает поддержку языков помимо английского.

jangedoo/multilingual-e5-small-ne-pruned — компактная модель создания текстовых эмбеддингов, основанная на multilingual-e5-small от intfloat. Она использует архитектуру BERT и Sentence Transformers; словарь токенов сокращён примерно на 91,6%, а количество параметров — на 74,8% относительно базовой версии по README. Модель предназначена для семантического поиска, сравнения предложений и подбора похожих текстов на разных языках. Она принимает текст и выдаёт векторные представления; максимальная длина контекста — 512 токенов. В оценке на STSbenchmark для непальского языка pruning сохранил почти исходные показатели сходства предложений, тогда как на NanoClimateFEVER точность поиска первого результата снизилась. README показывает пример использования через Sentence Transformers. Лицензия в предоставленных данных не указана.

Карточка модели Griffin88/my_new_model3 на Hugging Face совпадает с карточкой Griffin88/sentence-embedding-LaBSE, поэтому описание составлено по ней. Griffin88/sentence-embedding-LaBSE — PyTorch-порт модели LaBSE, предназначенный для представления предложений на 109 языках в общем векторном пространстве. Модель основана на архитектуре BERT и содержит 498,1 млн параметров; максимальная длина контекста — 512 токенов. Репозиторий предоставляет веса PyTorch и safetensors, а для работы через Sentence-Transformers README рекомендует библиотеку sentence-transformers. Модель подходит для получения эмбеддингов предложений и оценки их семантического сходства, в том числе для сопоставления текстов на разных языках. Лицензия — Apache-2.0. README отсылает к публикации LaBSE, но не уточняет автора этого порта или детали обучения именно этой версии.

NeuralHermes 2.5 - Mistral 7B — это диалоговая модель для генерации текста и следования инструкциям, разработанная Mlabonne на основе teknium/OpenHermes-2.5-Mistral-7B. Модель дополнительно обучена методом Direct Preference Optimization (DPO) на наборе диалогов mlabonne/chatml_dpo_pairs с шаблоном ChatML; архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров, контекст — до 32 768 токенов. Модель подходит для диалоговых приложений, ответов на инструкции, генерации текста и помощи с кодом. В README сообщается об улучшении результатов на нескольких бенчмарках относительно исходной модели, однако приведённые данные не гарантируют качество для конкретных задач. Доступна лицензия Apache-2.0; запуск возможен через LM Studio и другие интерфейсы.

AdminReal/NexusCoder — модель для генерации кода в диалоговом формате, созданная на основе Qwen2.5-Coder-1.5B-Instruct и связанная с агентным фреймворком Nexus Coder. Веса представляют собой инструкционно дообученную плотную модель Qwen2 с 1,5 млрд параметров; заявленная длина контекста — 32 768 токенов. Для загрузки весов используется Transformers и формат safetensors. Модель предназначена для генерации, анализа и исправления кода, а проект Nexus Coder добавляет инструменты и навыки для агентных сценариев. README описывает более 60 навыков и более 80 инструментов в фреймворке, но это возможности программной обвязки, а не отдельные модальности модели. Репозиторий также содержит экспериментальные конфигурации архитектур, не относящиеся к размещённым весам. Для весов указана лицензия Apache 2.0, для исходного кода фреймворка и конфигураций — NAL-1.0.

OpenCodeReasoning-Nemotron-14B-GGUF — это набор GGUF-квантизированных версий модели OpenCodeReasoning-Nemotron-14B, разработанной NVIDIA и подготовленной квантизатором bartowski с использованием llama.cpp и imatrix. Модель предназначена для генерации текста и решения задач, связанных с программированием и рассуждениями по коду; в метаданных указаны английский язык и обучающий датасет NVIDIA OpenCodeReasoning. Модель имеет размер 14 миллиардов параметров и поставляется в форматах от BF16 до различных вариантов 8-, 6-, 5-, 4- и 3-битного квантования. Размер файлов варьируется примерно от 7,34 до 29,55 ГБ. В README не указаны точная архитектура и размер контекстного окна. Модели можно запускать через LM Studio, llama.cpp и другие совместимые проекты; для взаимодействия предусмотрен специальный chat-шаблон с ролями system, user и assistant. Сильной стороной набора является широкий выбор квантизаций, позволяющий выбирать баланс между качеством, скоростью и требованиями к памяти; варианты Q6_K_L, Q6_K, Q5 и Q4 отмечены как рекомендуемые, а Q4_K_M описан как подходящий вариант стандартного размера. Более компактные варианты экономят память, но могут заметно уступать по качеству. Условия использования определяются лицензией Apache-2.0.

OpenHermes-2.5-Nebula-v2-7B — объединённая модель для генерации текста и диалогов, созданная на основе teknium/OpenHermes-2.5-Mistral-7B и PulsarAI/Nebula-v2-7B-Lora. Это плотная авторегрессионная модель архитектуры Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; карточка указывает поддержку общения и обучающий датасет Open-Platypus. Модель подходит для диалоговых ответов, генерации текстов и помощи с кодом на английском языке. Репозиторий содержит веса Safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение. Опубликованные в README результаты таблицы оценки не заполнены.

Ornith-1.0-35B-NVFP4 — квантованная версия модели Ornith-1.0-35B, разработанной DeepReinforce. Это агентная модель для программирования с механизмом self-scaffolding, построенная на архитектуре qwen3_5_moe: MoE-модель с 35 млрд параметров и визуальной башней Qwen3-VL. Она поддерживает обработку текста и изображений и заявлена для английского, китайского, японского и французского языков. Модель использует квантование NVFP4 W4A4 с размером группы 16 и форматом compressed-tensors nvfp4-pack-quantized. Большинство линейных слоёв переведено в NVFP4, а визуальная башня, маршрутизаторы MoE и lm_head сохранены в bf16. Размер весов составляет около 21,9 ГБ вместо 70,3 ГБ в bf16, благодаря чему модель рассчитана на запуск на паре GPU по 16 ГБ через vLLM. В README приведена конфигурация обслуживания с контекстом до 8192 токенов; поддерживается переключение режима рассуждений. Сильные стороны модели — пригодность для агентного программирования, поддержка мультимодальных сценариев, существенно меньшие требования к памяти и сохранение качества после квантования. В тестах HumanEval+ и MBPP+ она показала соответственно 93,9% и 80,6% pass@1 с включённым рассуждением. Ограничения включают необходимость совместимой инфраструктуры vLLM и GPU, а также значительный расход токенов в режиме рассуждений; для оценки кода требуется выделять не менее 6500 токенов и извлекать ответ после блока </think>. Модель и квантованный производный вариант распространяются по лицензии MIT.

AISE-TUDelft/pharo-keymessages-classifier — модель на основе MPNet, созданная как Sentence-Transformers модель для преобразования предложений и абзацев в плотные векторы размерности 768. Её можно применять для семантического поиска, сравнения текстов и кластеризации. Модель содержит 136,7 млн параметров, принимает текст и выдаёт эмбеддинги; нативная длина контекста составляет 514 токенов. В README указано обучение с функцией потерь CosineSimilarityLoss. Репозиторий содержит веса PyTorch. Карточка не приводит сведений о языках обучения и лицензии, поэтому нельзя определить языковой охват или условия использования.

duyntnet/Qwen2.5-Coder-1.5B-Instruct-imatrix-GGUF — набор GGUF-квантизаций инструкционно дообученной модели Qwen2.5-Coder-1.5B-Instruct, разработанной командой Qwen компании Alibaba Cloud. Модель относится к причинным языковым моделям и предназначена прежде всего для генерации, анализа, исправления и объяснения программного кода, а также для задач рассуждения и диалога в прикладных сценариях, включая локальные инструменты и кодовых агентов. Модель имеет архитектуру Transformer с RoPE, SwiGLU, RMSNorm, смещениями в механизмах внимания QKV и связанными эмбеддингами слов. Она содержит около 1,54 млрд параметров, 28 слоёв и использует GQA с 12 головами для Q и 2 головами для KV. Полная длина контекста составляет 32 768 токенов. В карточке указаны английский язык и текстовая модальность; модель поддерживается клиентами и интерфейсами llama.cpp, KoboldCPP, Ollama, text-generation-webui, GPT4All и Jan. К сильным сторонам относятся компактный размер, специализация на программном коде и поддержка GGUF-квантизаций, что делает модель подходящей для локального запуска на ограниченных ресурсах. К ограничениям относятся меньший масштаб по сравнению с более крупными моделями семейства и отсутствие в карточке подробных результатов оценки качества для конкретных квантизаций. Лицензия обозначена как other, без дополнительных условий в представленном README.

bartowski/Qwen2.5-Coder-3B-GGUF — это набор квантизированных версий языковой модели Qwen2.5-Coder-3B, разработанной командой Qwen и подготовленной пользователем bartowski в формате GGUF для запуска через llama.cpp. Модель предназначена прежде всего для генерации и обработки программного кода, включая работу в локальных приложениях вроде LM Studio. В README указано, что базовая модель поддерживает английский язык. Модель имеет около 3 млрд параметров. Доступны варианты от F16 до низкобитных квантов Q2–Q8, различающиеся размером файла, требованиями к памяти и качеством генерации; наиболее рекомендуемыми названы варианты Q4–Q6. Квантизация выполнена с использованием imatrix и llama.cpp. Для взаимодействия используется шаблон сообщений с ролями system, user и assistant. Сведения об архитектуре, размере контекста и мультимодальности в README не указаны; по представленным данным модель является текстовой. Основное преимущество набора — возможность локального запуска при выборе подходящего уровня квантизации: старшие варианты обеспечивают более высокое качество, а младшие требуют меньше оперативной памяти. Ограничения связаны с компромиссом между размером и качеством, особенно у вариантов Q2–Q3; отдельные форматы оптимизированы для ARM и требуют соответствующей поддержки инструкций, а варианты Q4_0_8_8 и Q4_0_4_8 не рекомендуются для Mac или Windows. Лицензия указана как qwen-research; подробности доступны по ссылке на лицензию исходной модели Qwen2.5-Coder-3B.

Qwen2.5-Coder-7B-Instruct-Q8_0-GGUF — это конвертированная в формат GGUF и квантизованная версия модели Qwen/Qwen2.5-Coder-7B-Instruct. Конвертацию выполнила организация ggml-org с использованием llama.cpp и сервиса GGUF-my-repo. Модель предназначена для генерации текста и прежде всего для задач, связанных с программным кодом, включая диалоговое взаимодействие и работу с кодом через llama.cpp. Модель имеет размер 7B параметров и представлена в варианте квантизации Q8_0, что позволяет запускать её локально с помощью llama.cpp в режиме CLI или сервера. В карточке указано, что поддерживаемый язык — английский. Для примера серверного запуска задан контекст 2048 токенов, однако максимальный размер контекста в README не указан. Архитектура и перечень поддерживаемых модальностей не описаны; из назначения и типа pipeline следует, что это текстовая авторегрессионная модель. К сильным сторонам относятся специализация на программном коде, инструкция-ориентированный режим и совместимость с локальным инференсом через llama.cpp. Ограничения связаны с отсутствием в карточке подробных сведений о качестве, бенчмарках, точном размере контекста и поддерживаемых языках помимо английского, а также с потерями точности, возможными при квантизации. Указана лицензия Apache 2.0.

TeichAI/Qwen3-4B-Thinking-2507-Gemini-2.5-Flash-Distill-GGUF — языковая модель для генерации текста, созданная TeichAI на основе Qwen3-4B-Thinking-2507. Модель обучалась методом дистилляции на наборе TeichAI/gemini-2.5-flash-11000x, чтобы воспроизводить поведение, рассуждения, стиль ответов и знания Gemini 2.5 Flash. Указана лицензия Apache-2.0. Модель предназначена для программирования, научных и юридических задач, работы с историческими и маркетинговыми текстами, а также для применения общего назначения. Она поддерживает текстовую генерацию; в README указан английский язык. Архитектура относится к семейству Qwen3 с размером около 4 млрд параметров, однако сведения о длине контекста, точной структуре GGUF-квантизации и дополнительных модальностях не приведены. По опубликованным тестам модель превзошла базовую Qwen3-4B-Thinking-2507 в пяти из шести сравнений: ARC-Challenge, GPQA Diamond, HellaSwag, MMLU и Winogrande. Среднее улучшение составило 0,0191, при этом результат TruthfulQA оказался немного ниже базовой модели. Эти показатели характеризуют результаты на указанных наборах тестов и не гарантируют аналогичное качество в прикладных сценариях; возможны ошибки, особенно в сложных вопросах и задачах, требующих фактической точности.

unsloth/Qwen3.6-27B-GGUF — это квантизированное распространение открытой модели Qwen3.6-27B, разработанной командой Qwen и подготовленной Unsloth в формате GGUF. Модель предназначена для локального запуска и интеграции через совместимые инструменты инференса, а также для задач агентного программирования, работы с репозиториями, frontend-разработки, рассуждений и использования инструментов. Это причинная языковая модель с vision-энкодером, то есть мультимодальная модель, способная обрабатывать текст и изображения. Она содержит около 27 млрд параметров, 64 слоя и имеет нативный контекст 262 144 токена с возможностью расширения до 1 010 000 токенов. Архитектура сочетает Gated DeltaNet, Gated Attention и FFN; заявлена поддержка сохранения контекста рассуждений между сообщениями и улучшенный разбор вложенных объектов при вызове инструментов. Языки в README не указаны. К сильным сторонам относятся большой контекст, возможности работы с изображениями, улучшенная производительность в сценариях агентного кодирования и совместимость с экосистемой Transformers, vLLM, SGLang и KTransformers. Ограничения включают высокие требования к вычислительным ресурсам, особенно при длинном контексте, а конкретные характеристики квантизации и результаты бенчмарков для данного GGUF-варианта в README не приведены. Модель распространяется по лицензии Apache 2.0.

Qwen3.6-35B-A3B — открытая модель весов от Qwen, представленная как языковая модель с энкодером изображений и архитектурой смеси экспертов. В ней 35 млрд параметров, из которых при генерации активируются около 3 млрд; конфигурация включает 40 слоёв и 256 экспертов. Модель предназначена для диалогов, программирования и работы с изображениями, а также поддерживает вызов инструментов через соответствующий интерфейс. Основные сценарии — агентное программирование, анализ репозиториев, создание веб-интерфейсов и итеративная разработка с сохранением контекста рассуждений между сообщениями. Модель принимает текст и изображения и генерирует текст. Нативное окно контекста составляет 262 144 токена, с расширением до 1 010 000 токенов. В README приведены англоязычные и китайскоязычные примеры оценки веб-разработки; полная таблица поддерживаемых языков опущена. Веса доступны в формате Safetensors и совместимы с Transformers, vLLM, SGLang и другими указанными средами. Для работы с длинным контекстом требуются значительные вычислительные ресурсы; README рекомендует уменьшать окно при нехватке памяти и современные серверные движки для производительных нагрузок. Лицензия — Apache 2.0.

unsloth/Qwen3.6-35B-A3B — постобученная версия мультимодальной модели Qwen3.6, распространяемая в формате Hugging Face Transformers. Она сочетает языковую модель с визуальным энкодером и архитектурой Mixture of Experts: всего 35 млрд параметров, из которых активируются 3 млрд; использует 40 слоёв и 256 экспертов, из них на токен задействуются 8 маршрутизируемых и один общий. Модель принимает текст и изображения, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для агентного программирования, работы с репозиториями и фронтенд-задачами, а также для диалогов и анализа изображений. Контекст составляет 262 144 токена с возможностью расширения до 1 010 000. Карточка перечисляет бенчмарки на английском и китайском, но языковая таблица в предоставленном README опущена, поэтому конкретный список поддерживаемых языков определить нельзя. Для эксплуатации доступны Transformers, vLLM, SGLang и KTransformers; README рекомендует специализированные движки для производительных нагрузок. Лицензия Apache-2.0.