I.14Автоматизация процессов и AI-агенты

Это версия mxbai-embed-large-v1 в формате MLX, преобразованная сообществом mlx-community из модели mixedbread-ai/mxbai-embed-large-v1 с помощью mlx-lm. Модель на архитектуре BERT предназначена для получения плотных текстовых эмбеддингов, семантического поиска и сравнения предложений; библиотека карточки — sentence-transformers. Модель содержит 433,9 млн параметров, принимает текст и имеет контекстное окно 512 токенов. В карточке указан английский язык. Репозиторий содержит веса safetensors, а лицензия — Apache-2.0. README указывает на использование через пакет mlx-embeddings.

mxbai-embed-large-v1-gguf — модель для построения векторных представлений предложений и текстов, разработанная MixedBread AI и преобразованная в формат GGUF пользователем ChristianAzinn. В основе лежит модель mxbai-embed-large-v1 архитектуры BERT, обученная с использованием функции потерь AnglE на большом высококачественном наборе данных. Модель ориентирована на англоязычные тексты и предназначена для семантического поиска, сравнения текстов, кластеризации, извлечения признаков и других задач, где используются sentence embeddings. Модель поддерживает контекст до 512 токенов и поставляется в вариантах GGUF с квантованием от 2 до 8 бит, а также в FP16 и FP32. Файлы совместимы с llama.cpp и LM Studio при указанных в README версиях. Квантование позволяет снизить требования к памяти, однако варианты с малым числом бит могут существенно ухудшать качество; наиболее сбалансированными авторами названы Q4_K_M, Q5_K_S, Q5_K_M и Q8_0. Размер исходной модели и точное число параметров в README не указаны. Модель сильна в задачах семантического представления текста и заявлена как обеспечивающая высокие результаты на бенчмарках уровня BERT-large. Ограничения включают поддержку только английского языка, ограничение контекста 512 токенами и возможную потерю качества при агрессивном квантовании. Модель распространяется по лицензии Apache-2.0.

Это квантованная сборка модели NVIDIA Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16, подготовленная FreedomAISVR в формате GGUF. Она предназначена для генерации текста и диалогов, включая задачи рассуждения. Архитектура сочетает Mamba2 и Transformer и использует MoE: из 128 экспертов для каждого токена выбираются шесть. Всего в модели около 30 млрд параметров, из которых активно около 3 млрд; контекст — до 262 тыс. токенов. Веса экспертов хранятся в MXFP4, плотные веса — в Q8_0, а тензоры Mamba2 — в F16 для совместимости с CUDA-ядрами SSM. В репозитории также есть F16-проектор SigLIP для обработки изображений. Для полноценного запуска требуется среда с поддержкой GGUF и мультимодального проектора, например llama.cpp. Гибридный формат экономит память, однако операции Mamba2 на CUDA могут переходить на CPU, что снижает скорость. README не уточняет лицензию производной сборки; метаданные указывают лицензию «other», поэтому условия следует сверить с карточкой модели и условиями базовой модели.

Nemotron-3.5-Lightning-30B-A3B-CRACK-GGUF — производная GGUF-версия модели NVIDIA Nemotron-3.5-Lightning-30B-A3B, подготовленная Dealign.ai для запуска через llama.cpp. Это языковая модель для генерации текста, рассуждений и исследовательских сценариев, включая авторизованное red-teaming. Поддерживаются английский и китайский языки. Модель использует гибридную архитектуру Mamba-2 SSM, Mixture-of-Experts и attention: 52 слоя, включая 23 слоя Mamba-2, 23 MoE-слоя и 6 attention-слоёв; всего 128 маршрутизируемых экспертов, около 3 млрд активных параметров. Заявлен контекст до 262K токенов, а режим рассуждений включён по умолчанию. Репозиторий содержит квантизации Q8_0, Q4_K_M и Q2_K размером около 35,0, 25,4 и 18,7 ГБ соответственно; Q4_K_M обозначена как сбалансированный рекомендуемый вариант. Во все варианты встроена native MTP-голова для спекулятивного декодирования без отдельной draft-модели. Abliteration CRACK удаляет поведение отказа при сохранении знаний, рассуждений и многоязычности, однако по тесту MMLU результат снизился с 78,3% у базовой модели до 74,2%, особенно в STEM и гуманитарных дисциплинах. По HarmBench модель продемонстрировала 100% выполнения вредоносных запросов без отказов, поэтому имеет существенно сниженные защитные ограничения и требует ответственного и законного применения. Лицензия — NVIDIA Open Model License; модель является производной квантизированной версией базовой модели NVIDIA.

Nerdofdot/Nerdofdot_nickprock_mmarco-bert-base-italian-uncased_TM_FTM — модель на базе BERT, подготовленная в формате Sentence Transformers для преобразования предложений и абзацев в плотные векторы размерностью 768. Она предназначена для поиска семантически похожих текстов и может применяться для кластеризации и семантического поиска. Обучение использовало TripletLoss с евклидовой метрикой и отступом 0,4; объём модели составляет 137,1 млн параметров, максимальный контекст — 512 токенов. Модель принимает текст и возвращает векторные представления, которые можно сравнивать для оценки сходства. Название указывает на итальянскую uncased-версию mMARCO-BERT, однако README не приводит явного подтверждения базовой модели или поддерживаемых языков. Репозиторий содержит веса в формате safetensors. Условия лицензии в доступных данных не приведены.

NinjaMouse2-2.5B-v0.1 — разговорная языковая модель, созданная автором trollek на основе h2oai/h2o-danube2-1.8b-chat. Это плотная авторегрессионная модель семейства Mistral с 2,4 млрд параметров и контекстом до 8192 токенов; исходные 24 слоя расширены, а обучение включало дообучение вставленных блоков и последующую настройку на инструктивных и диалоговых данных. Модель предназначена для диалогов и генерации ответов на инструкции, включая задачи по математике, коду и вызову инструментов. Для подготовки данных использовались примеры из нескольких англоязычных диалоговых, математических и программных наборов, а также ответы более крупных моделей. Репозиторий содержит веса в формате safetensors; README также описывает отдельные квантизированные варианты для запуска через Ollama и LM Studio. Модель рассчитана прежде всего на английский язык. README предупреждает, что специальные токены FIM и thought не входили в обучение. Лицензия — Apache-2.0. Качество и соответствие инструкциям могут различаться; карточка не приводит результатов независимой оценки.

Nomic-embed-text-v1.5-Embedding-GGUF — модель для создания текстовых эмбеддингов и оценки семантического сходства, основанная на nomic-ai/nomic-embed-text-v1.5. Квантизацию в формате GGUF выполнила Second State Inc.; исходную модель разработала nomic-ai. Модель предназначена для семантического поиска, сопоставления текстов и других задач, где требуется преобразование текста в векторное представление. Указан английский язык. Модель поддерживает запуск через LlamaEdge и имеет контекстное окно размером 768 токенов. Доступны варианты GGUF с квантизацией от 2 до 8 бит и вариант f16, размером примерно от 60,9 до 274 МБ. Вариант Q4_K_M обозначен как рекомендуемый для сбалансированного качества и размера, а Q5_K_M и Q5_K_S — как варианты с очень небольшой потерей качества. Более сильная квантизация уменьшает размер, но может заметно ухудшать качество эмбеддингов. Модель компактна и подходит для локального развёртывания, однако README не содержит подробностей об архитектуре, размерности эмбеддингов, точных показателях качества и аппаратных требованиях. Модель распространяется по лицензии Apache-2.0.

Nous-Hermes-2-DPO_into_Nous_Hermes-2-Pro — слитая модель, созданная с помощью LazyMergekit на основе NousResearch/Nous-Hermes-2-Mistral-7B-DPO и NousResearch/Hermes-2-Pro-Mistral-7B. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров. Она предназначена для генерации текста и диалогов; контекстное окно составляет 32 768 токенов. Модель поддерживает чат-сценарии и использует формат весов safetensors. Слияние выполнено методом SLERP с настройками, заданными по слоям и компонентам внимания и MLP; в README указан тип данных bfloat16. Метаданные не содержат сведений о лицензии и конкретном наборе поддерживаемых языков, поэтому их нельзя надёжно указать.

Карточка модели MoralHazard/NSFW-GIST-small на Hugging Face совпадает с карточкой MoralHazard/GISTsmall, поэтому описание составлено по ней. MoralHazard/GISTsmall — компактная модель Sentence Transformer на базе BERT, предназначенная для преобразования предложений и абзацев в плотные векторы размерностью 384. Она была обучена на 1 244 примерах с anchor, positive и negative текстами; метаданные указывают на использование GISTEmbedLoss. Архитектура включает BERT, пулинг CLS-токена и нормализацию векторов, а сходство текстов оценивается косинусной мерой. Модель подходит для семантического поиска, оценки сходства предложений, поиска перефразировок, кластеризации и получения признаков для классификации текста. Максимальная длина последовательности — 512 токенов; доступны файлы ONNX. Язык обучающих примеров в карточке не установлен, поэтому языковую поддержку определить нельзя. Лицензия в предоставленных данных не указана.

swardiantara/one-cdk0-m0.5-e5-b128-L6 — модель Sentence-Transformers на базе BERT, разработанная пользователем swardiantara. Она преобразует предложения и абзацы в плотные векторы размерности 384 для семантического поиска, кластеризации и сравнения сходства текстов. Модель содержит 25,9 млн параметров, принимает текстовые последовательности длиной до 512 токенов и распространяется в формате Safetensors. При обучении использовалась ContrastiveLoss с косинусной метрикой расстояния. Модель подходит для построения эмбеддингов и поиска семантически близких фрагментов; README не приводит результаты оценки качества. Лицензия в предоставленных данных не указана.

swardiantara/one-cdk5-m0.5-e5-b128-L6 — модель Sentence Transformers на базе архитектуры BERT, разработанная автором репозитория. Она преобразует предложения и абзацы в плотные векторы размерности 384 для поиска по смыслу, кластеризации и сравнения текстов. Модель содержит 25,9 млн параметров, принимает текст и поддерживает контекст до 512 токенов. При обучении использовалась ContrastiveLoss с косинусной метрикой расстояния. Веса опубликованы в формате Safetensors. Карточка не сообщает о специализированной предметной области или лицензии; язык обучения и работы явно не указан.

Карточка модели swardiantara/one-crk5-m0.5-e5-b128-L6 на Hugging Face совпадает с карточкой swardiantara/one-cdk5-m0.5-e5-b128-L6, поэтому описание составлено по ней. swardiantara/one-cdk5-m0.5-e5-b128-L6 — модель Sentence Transformers на базе архитектуры BERT, разработанная автором репозитория. Она преобразует предложения и абзацы в плотные векторы размерности 384 для поиска по смыслу, кластеризации и сравнения текстов. Модель содержит 25,9 млн параметров, принимает текст и поддерживает контекст до 512 токенов. При обучении использовалась ContrastiveLoss с косинусной метрикой расстояния. Веса опубликованы в формате Safetensors. Карточка не сообщает о специализированной предметной области или лицензии; язык обучения и работы явно не указан.

seongwoon/paper_embedding — модель Sentence-Transformers на основе BERT, разработанная автором репозитория seongwoon. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для семантического поиска, сравнения текстов и кластеризации. Модель содержит 137,1 млн параметров и принимает текстовые последовательности длиной до 512 токенов; для получения эмбеддингов через Transformers поверх выходов модели требуется применить подходящий pooling. Модель подходит для построения поиска по смыслу и группировки текстов по семантической близости. В карточке нет сведений о целевых языках, обучающих данных или лицензии, поэтому их нельзя надёжно определить.

Модель moshew/paraphrase-mpnet-base-v2_SetFit_sst2_nun_training_64 — sentence-transformers на базе MPNet, разработанная автором репозитория moshew. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска и кластеризации. Модель содержит 136,7 млн параметров, принимает текст с контекстом до 514 токенов и распространяется в формате PyTorch. В карточке указано обучение с CosineSimilarityLoss; название репозитория также указывает на SetFit и SST-2, но подробности обучающих данных и результатов не приведены. Модель подходит для поиска похожих фраз и группировки текстов по смыслу. Язык и лицензия в предоставленных источниках не указаны.

Это модель Sentence Transformer на базе BERT, дообученная dbourget от dbourget/pb-small-10e-tsdae6e-philsim-cosine-3e-pt1. Она преобразует предложения и абзацы в плотные векторы размерности 1024 и предназначена для поиска семантически близких текстов, оценки сходства и других задач сравнения предложений. Модель можно применять для семантического поиска, поиска перефразировок, кластеризации и классификации текста. Архитектура включает BERT и пулинг по CLS-токену; максимальная длина входа — 512 токенов. Для сравнения векторов рекомендуется косинусное сходство. В README приведена оценка cosine_accuracy 0,7929 на наборе beatai-dev при оценке TripletEvaluator. Языковая специализация и лицензия в доступных данных не установлены.

PLLuM-12B-instruct-2512 — польскоязычная инструктивная языковая модель семейства PLLuM, разработанная консорциумом PLLuM и продолжаемая альянсом HIVE AI. Модель предназначена для диалогов и общих языковых задач, включая генерацию и суммаризацию текста, извлечение информации и ответы на вопросы; также её можно использовать как основу специализированных ассистентов, в том числе для польской государственной администрации и юридических или бюрократических тем с подключённым поиском по документам. Это плотная авторегрессионная модель архитектуры MistralForCausalLM с 12,1 млрд параметров и контекстом до 131 072 токенов. Обучение включает продолжение предобучения на польских и английских текстах, инструктивную настройку и обучение на предпочтениях. Модель ориентирована прежде всего на польский язык, английский использован для расширения обобщения. Для прикладного использования опубликована в формате safetensors; лицензия — Apache 2.0. Карточка сообщает о хороших результатах на собственных тестах для польской публичной администрации и общих польскоязычных задачах, но не приводит численных оценок для этой версии. Для работы с актуальными или специализированными документами модель следует сочетать с поиском или RAG; ответы могут содержать ошибки и требуют проверки.

hroth/psais-all-mpnet-base-v2-8shot — модель Sentence-Transformers на архитектуре MPNet, разработанная автором репозитория hroth. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска по смыслу, сравнения текстов и кластеризации. Модель содержит 136,7 млн параметров, принимает текст с контекстом до 514 токенов и выдаёт векторные представления. В README указано обучение с CosineSimilarityLoss; веса доступны в формате PyTorch. Сведения о лицензии и поддерживаемых языках в предоставленных данных отсутствуют.

bartowski/Qwen2.5-7B-Instruct-1M-GGUF — набор GGUF-квантизаций модели Qwen2.5-7B-Instruct-1M, подготовленный bartowski на основе модели Qwen. Модель предназначена для генерации текста и диалоговых сценариев, включая работу в локальных приложениях и запуск через llama.cpp или LM Studio. В README указана поддержка английского языка. Модель содержит около 7 миллиардов параметров и рассчитана на контекст до 1 миллиона токенов, что подходит для обработки очень длинных документов и многошаговых диалогов. Доступны варианты от F32 и F16 до различных типов квантизации Q8, Q6, Q5, Q4, Q3 и Q2, включая форматы с imatrix-квантизацией. Размер файлов варьируется примерно от 3,5 до 30,5 ГБ; более компактные варианты снижают требования к памяти, но могут ухудшать качество ответов. Для работы следует использовать шаблон сообщений Qwen с ролями system, user и assistant. Наиболее качественными в README названы варианты Q6 и Q5, а Q4_K_M описан как типичный компромисс между размером и качеством. Модель распространяется по лицензии Apache-2.0; конкретные требования и ограничения исходной модели следует проверять в её лицензии.

Многоязычная модель эмбеддингов на базе декодерной архитектуры Qwen3, разработанная Lucas Wun Yu CHAN. Она дообучена контрастивным обучением для получения семантических представлений предложений и оценки их сходства; подходит для поиска по смыслу, сопоставления текстов и использования в системах извлечения информации. В карточке заявлена поддержка контекста до 40 960 токенов, модель содержит около 507,9 млн параметров и распространяется в формате safetensors для библиотеки sentence-transformers. README описывает исследование влияния RLVR-обучения базовых моделей на качество эмбеддингов: оценки на MTEB и BRIGHT не показали стабильного преимущества перед базовыми моделями при одинаковых рецептах обучения. Для загрузки README рекомендует установить trust_remote_code=True. Модель распространяется по лицензии Apache-2.0.

RedHatAI/Qwen3-30B-A3B-NVFP4 — квантизированная версия языковой модели Qwen/Qwen3-30B-A3B, разработанная RedHatAI. Модель принимает и генерирует текст и предназначена для задач генерации текста, включая диалоговые сценарии и развёртывание через vLLM с OpenAI-совместимым сервером. Модель использует архитектуру Qwen3-30B-A3B, однако в представленном README не указаны подробности о числе параметров активной части, размере контекста и точном наборе поддерживаемых языков. Веса и активации линейных операторов в трансформерных блоках квантизированы в формат FP4; квантизация выполнена с помощью LLM Compressor, а модель подготовлена для инференса в vLLM версии 0.9.1 и выше. Переход с 16 до 4 бит на параметр уменьшает размер модели на диске и требования к памяти GPU примерно на 75%, что является её основным преимуществом. К ограничениям относятся возможная потеря качества по сравнению с неквантизированной моделью и зависимость от совместимого программного стека и аппаратной поддержки. README отдельно ограничивает использование сценариями, соответствующими применимым законам и требованиям экспортного контроля, а также указывает использование на английском языке вне заявленной области применения. Модель распространяется по лицензии Apache-2.0.

ZuzeTt/Qwen3.5-4B-heretic-GGUF — это децензурированная версия мультимодальной модели Qwen3.5-4B, основанной на разработках команды Qwen. Модель модифицирована с помощью Heretic v1.2.0 методом abliteration, направленным на снижение частоты отказов при ответах. Файлы представлены в формате GGUF и были квантизированы с использованием llama.cpp. Модель предназначена для задач обработки текста и изображений, включая диалоговые сценарии, рассуждения, программирование, работу с агентами и визуальное понимание. Базовая архитектура описана как авторегрессионная языковая модель с vision encoder, гибридной архитектурой Gated Delta Networks и разреженной Mixture-of-Experts. Она содержит около 4 млрд параметров, 32 слоя, скрытое измерение 2560 и поддерживает контекст до 262 144 токенов с возможностью расширения до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта. Ключевая особенность этой версии — существенно меньшее количество отказов по сравнению с исходной моделью: в приведённом тесте 8 из 100 запросов против 99 из 100 у оригинала, при KL-дивергенции 0,0361. Это может повысить полезность модели в сценариях локального запуска и свободного диалога, но одновременно означает ослабление встроенных ограничений безопасности. Конкретный тип квантизации, требования к оборудованию и фактическое качество на прикладных задачах в README не указаны. Модель распространяется по лицензии Apache-2.0; ссылка на лицензию относится к базовой модели Qwen/Qwen3.5-4B.

Jackrong/Qwen3.5-9B-GLM5.1-Distill-v1 — экспериментальная модель на 9 млрд параметров, разработанная Jackrong на базе Qwen3.5-9B. Она обучена методом supervised fine-tuning с дистилляцией рассуждений из GLM-5.1, с использованием Unsloth и LoRA. В карточке также указан pipeline image-text-to-text, однако подробности о поддержке изображений не приведены. Модель предназначена для диалогов, следования инструкциям, многошагового рассуждения, математики, STEM-задач, программирования и исследовательских сценариев. Обучающие данные включают очищенные и отфильтрованные наборы с рассуждениями GLM-5.1 и Qwen3.5. Заявлены поддержка английского, китайского, японского и испанского языков, а также улучшенная декомпозиция задач, структурированность ответов и стабильность следования инструкциям. Ожидаемые преимущества модели — более последовательное решение сложных задач, организованная подача результатов и лучшее использование знаний базовой модели. При этом автор подчёркивает, что улучшения для модели такого размера, вероятно, будут постепенными, а не радикальными; подтверждённые количественные результаты и ограничения производительности в README не описаны. Модель распространяется по лицензии Apache-2.0 и ориентирована на локальный inference в формате GGUF, в том числе через llama.cpp. Размер контекста в карточке не указан.

Svenuks/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive — мультимодальная версия Qwen3.6-35B-A3B, подготовленная HauhauCS. Это модель типа Mixture of Experts с 35 млрд параметров, из которых около 3 млрд активируются при каждом проходе; используется 256 экспертов, из них 8 выбираются для каждого токена. Архитектура включает 40 слоёв и сочетает линейное внимание с полным softmax-вниманием в соотношении 3:1. Модель поддерживает текст, изображения и видео, языки English, 中文 и другие языки, заявленные как multilingual, а её нативный контекст составляет 262K токенов. Модель предназначена для диалогов, генерации и анализа текста, рассуждений, программирования, а также мультимодальных сценариев с обработкой изображений и видео. Вариант Aggressive отличается усиленным снятием встроенных отказов: согласно README, он генерирует ответы без отказов, хотя иногда может добавлять короткие дисклеймеры. Для работы с изображениями требуется отдельный файл mmproj, а для llama.cpp рекомендуется использовать флаг --jinja и контекст не менее 128K токенов для сохранения возможностей рассуждения. Модель распространяется в формате GGUF с вариантами квантования от IQ2_M и Q2_K_P до Q8_K_P; доступны файлы размером примерно от 11 до 44 ГБ. Квантования K_P оптимизированы с использованием importance matrix и анализа конкретной модели, что должно улучшать сохранение качества при умеренном увеличении размера файла. README не приводит результатов независимых тестов, поэтому фактическое качество и производительность зависят от квантования и оборудования. Отсутствие отказов может быть преимуществом для исследовательских и творческих задач, но одновременно означает ослабление защитных ограничений и повышенные риски небезопасного использования. Указанная лицензия — Apache 2.0.

btbtyler09/Qwen3.8-27B-GPTQ-4bit — это квантизированный вариант Qwen/Qwen3.8-27B, разработанный сообществом Qwen и подготовленный пользователем btbtyler09. Модель представляет собой плотную мультимодальную модель примерно на 27 млрд параметров с поддержкой текста и изображений, предназначенную для генерации и понимания текста, анализа изображений, обслуживания через vLLM и ускоренного декодирования с помощью модуля MTP. Архитектура включает 64 слоя: 48 слоёв линейного внимания GatedDeltaNet и 16 слоёв полного внимания, скрытое представление размером 5120 и промежуточный размер 17408. Максимальная длина контекста составляет 262 144 токена. В состав входят 27-блочный визуальный ViT-энкодер и однослойная голова Multi-Token Prediction. Текстовый декодер квантизирован в INT4 методом GPTQ с компенсацией ошибок FOEM и размером группы 32, а визуальный энкодер, MTP, эмбеддинги, нормы и LM head сохранены в BF16 или FP16. Итоговый размер — около 21 ГБ вместо примерно 56 ГБ у исходной BF16-модели. Основное преимущество — существенно меньшие требования к памяти при сохранении близкого к исходной модели качества: на wikitext-2-raw-v1 ухудшение perplexity составляет 0,81%. Модель поддерживает мультимодальные запросы и совместима с ядрами GPTQ в vLLM, однако для полноценного запуска требуется значительный объём видеопамяти и подходящая конфигурация GPU. Квантизация может снижать качество на отдельных задачах, а в некоторых версиях vLLM возможна ошибка разбора конфигурации, требующая исправления. Лицензия — Apache 2.0; поддерживаемые языки README не указывает.

KostkaIT/Qwen3.8-27B-Huihui-Abliterated-oQ6e-MTP-MLX — мультимодальная версия семейства Qwen3.8-27B, подготовленная независимым технологическим проектом KostkaIT (Łukasz Frąckowiak, vsnake87). Модель является MLX-конвертацией производного варианта huihui-ai/Huihui-Qwen3.8-27B-abliterated и предназначена для локального запуска на компьютерах с Apple Silicon через oMLX и совместимые MLX-рантаймы. Модель поддерживает работу с текстом и изображениями, включая vision-конфигурацию, файлы процессора и необходимые vision-тензоры. В комплект включены нативные веса MTP, предусмотрен один скрытый слой MTP, а в совместимых версиях oMLX эту функцию можно включать и отключать. Модель ориентирована на программирование, рассуждения, мультимодальные ассистенты и исследовательские задачи. Сведения о поддерживаемых языках и размере контекста в карточке не указаны. Используется качественно ориентированное 6-битное affine-квантование oQ6e с group_size 64, importance matrix и сохранением отдельных чувствительных тензоров в 8-битном виде. Веса распространяются в формате MLX safetensors, разделённых на пять файлов. К сильным сторонам относятся сохранение нативной MTP-поддержки и мультимодальных возможностей при уменьшенном размере, а ограничениями — зависимость от Apple Silicon и совместимого MLX/oMLX-окружения, а также потенциальные потери качества, связанные с квантованием; результаты бенчмарков не приведены. Лицензия — Apache-2.0.

Qwen3.8-27B-Omnimerge-v6-MTP-GGUF — квантизированная GGUF-версия модели, опубликованная автором ManniX-ITA. Она создана на основе ManniX-ITA/Qwen3.8-27B-Omnimerge-v6, представляющей собой объединение методом task arithmetic трёх дообученных моделей Qwen3.6 на базе Qwen3.8-27B. В метаданных указана архитектура Qwen3.5, размер модели — около 27,78 млрд параметров, основной заявленный язык — английский. Модель предназначена для текстовой генерации, рассуждений и мультимодальных сценариев с обработкой изображений. В комплекте сохранена MTP-голова для self-speculative decoding, а также опубликован F16 vision projector; это позволяет использовать модель с изображениями через llama.cpp. Доступны 19 вариантов квантизации от F16 и Q8_0 до Q2_K и IQ2_S, что даёт возможность выбирать между качеством, скоростью и требованиями к памяти. Для MTP требуется сборка llama.cpp с поддержкой соответствующего механизма; в приведённых измерениях вариант Q4_K_M достигал примерно двукратного ускорения генерации при настройке с тремя черновыми токенами. Сильными сторонами являются широкий выбор квантизаций, поддержка изображений, reasoning-возможности, воспроизводимые imatrix-варианты и сохранённая MTP-голова. Ограничения включают зависимость расширенных возможностей от совместимого llama.cpp, значительные требования к памяти для крупных вариантов, а также то, что MTP может приводить к отличиям вывода от обычной генерации при близких значениях вероятностей; эквивалентность качества в README не измерялась. Для длительных рассуждений рекомендуется выделять достаточный reasoning budget. Модель распространяется по лицензии Apache-2.0.

wbydc/Qwen3.8-27B-TFCF-HU-CODER-GGUF — это GGUF-квантизированная мультиязычная fine-tune-модель на базе Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU от DavidAU. Репозиторий содержит обычные и MTP-квантизации, включая варианты с 4- и 8-битной точностью. В README указаны английский и китайский языки, а также лицензия Apache-2.0. Модель опубликована пользователем или организацией wbydc; обучение выполнялось с использованием Unsloth и многоэтапных методов Cold Fusion и Fable Fusion. Модель предназначена для широкого спектра сценариев: решения задач и рассуждений, программирования, творческого письма, создания художественных текстов, ролевых диалогов и других универсальных применений. Основной акцент сделан на подробных ответах, сокращении объёма внутренних рассуждений и повышении скорости генерации, в том числе в режиме MTP. README заявляет о заметном снижении числа thinking-токенов по сравнению с исходной версией Qwen3.8 и о высоких результатах на ARC-C и ARC-E, однако эти показатели приведены автором модели и не сопровождаются независимой методикой проверки. Ключевое ограничение — отсутствие в README точных сведений о длине контекста, поддерживаемых режимах мультимодальности и фактической архитектуре vision-компонентов, несмотря на тег image-text-to-text. Также заявлены uncensored-поведение и возможность генерации контента разных жанров, поэтому пригодность модели для чувствительных сценариев требует самостоятельной проверки. Для использования необходимо выбрать совместимый GGUF-квант и учитывать требования к памяти, зависящие от его разрядности.

Qwen3-Coder-30B-A3B-Instruct-3bit — языковая instruction-модель для генерации текста и работы с программным кодом, разработанная Qwen и преобразованная сообществом mlx-community в формат MLX. Модель основана на Qwen/Qwen3-Coder-30B-A3B-Instruct и предназначена для запуска с библиотекой mlx-lm, в частности в сценариях локальной генерации на совместимом оборудовании Apple MLX. Вариант имеет 3-битное представление и относится к семейству Qwen3-Coder; точные сведения об архитектуре, количестве активных параметров, контекстном окне, поддерживаемых языках и модальностях в README не указаны. Заявленный тип задачи — text-generation, поэтому модель ориентирована на генерацию текста, включая ответы в instruction-режиме и программный код. Сжатое 3-битное представление может снизить требования к памяти, однако README не содержит результатов тестирования, сведений о качестве, ограничениях или производительности. Модель распространяется по лицензии Apache-2.0. Для использования требуется библиотека mlx-lm; конвертация выполнена с использованием версии 0.26.1.

ExceedZhang/Qwen3-Embedding-4B-0815-merged — дообученная модель Sentence Transformers, созданная на базе unsloth/Qwen3-Embedding-4B. Она преобразует предложения и абзацы в плотные текстовые векторы размерности 2560, нормализованные для сравнения косинусного сходства. Модель предназначена для семантического поиска, оценки сходства, поиска перефразировок, кластеризации и классификации текста. Модель использует архитектуру Qwen3ForCausalLM с извлечением признаков, пулингом последнего токена и нормализацией. README указывает максимальную длину последовательности 512 токенов; метаданные сообщают о нативном контексте базовой модели до 40960 токенов, однако режим Sentence Transformers описан с ограничением 512 токенов. Обучение проводилось на 73 671 паре anchor-positive из набора данных json с MultipleNegativesRankingLoss. Примеры данных содержат китайский и английский текст, но конкретный перечень поддерживаемых языков не заявлен. Модель выдаёт эмбеддинги, а не готовые текстовые ответы; каталог также отмечает поддержку генерации текста и сходства предложений. Для использования нужны библиотека Sentence Transformers или совместимая система извлечения эмбеддингов. Лицензия в предоставленных данных не указана.

Wheatley961/Raw_1_no_2_Test_3_new.model — модель Sentence-Transformers на базе XLM-RoBERTa, преобразующая предложения и абзацы в плотные векторы размерности 768. Её можно применять для семантического поиска, сравнения смысловой близости текстов и кластеризации. Модель содержит 305,2 млн параметров, использует архитектуру XLM-RoBERTa и принимает текст; контекст ограничен 514 токенами. Для работы README рекомендует библиотеку sentence-transformers; доступны веса в формате PyTorch. Модель обучалась с функцией потерь CosineSimilarityLoss. Карточка не сообщает явно базовую модель, лицензию, языки или результаты оценки качества, поэтому их нельзя надёжно определить по предоставленным данным.