I.2Синтез, понимание и проверка знаний

Huntfat/Qwen3.8-27B-OBLITERATED-huntfat — текстовая генеративная модель на базе Qwen/Qwen3.8-27B, опубликованная пользователем Huntfat. Это модификация Qwen3.8-27B, созданная с применением метода abliteration: из весов удалялись направления, связанные с отказами и уклончивыми ответами. В README указано, что версия V3 дополнительно использует итеративное уточнение и целевую обработку корпуса данных. Модель предназначена для генерации текста, программного кода и ответов на запросы, включая сценарии, в которых исходная модель могла отказывать или заменять содержательный ответ предупреждениями. Заявлены совместимость с режимом рассуждений, применение в агентских и длинноконтекстных сценариях, а также варианты распространения в форматах GGUF, Safetensors и MLX. Точные размер контекста, перечень поддерживаемых языков и мультимодальные возможности в представленном README не указаны. По заявленным данным, V3 сохраняет большую часть возможностей исходной модели: результат MMLU составляет 82,3% против 84,5% у базовой версии, при этом автор сообщает о 20 успешных из 20 проверок задач генерации кода и о снижении склонности к отказам. Ограничениями являются умеренная потеря качества относительно базовой модели, возможные циклы при генерации без repetition_penalty и чувствительность к настройкам декодирования. Рекомендуются temperature 0, repetition_penalty 1,15 и не менее 2048 новых токенов; для агентских сценариев допускаются temperature 0,1–0,3 и ограничение длины ответа. Модель распространяется по лицензии Apache-2.0.

Карточка модели KcAaa/Qwen3-Embedding-8B на Hugging Face совпадает с карточкой Qwen/Qwen3-Embedding-8B, поэтому описание составлено по ней. Qwen3-Embedding-8B — текстовая модель эмбеддингов семейства Qwen3, разработанная командой Qwen. Это плотная архитектура Qwen3ForCausalLM с 7,6 млрд параметров, дообученная на базе Qwen/Qwen3-8B-Base для получения векторных представлений текста. Модель предназначена для семантического поиска и ранжирования, а также поддерживает классификацию, кластеризацию, поиск по коду и межъязыковой поиск. Модель поддерживает более 100 естественных и программных языков, обрабатывает длинные последовательности с контекстом до 40 960 токенов по метаданным и выдаёт эмбеддинги размерностью до 4096; README также сообщает о настройке выходной размерности от 32 до 4096. Можно задавать инструкции для конкретной задачи, языка или сценария. Модель рассчитана на получение векторов из текста; метаданные также отмечают возможности чата и интерфейс вызова инструментов, но основной сценарий этой версии — эмбеддинги. По данным карточки, версия 8B заняла первое место в мультиязычном рейтинге MTEB на 5 июня 2025 года с результатом 70,58. Для некоторых задач retrieval README отмечает снижение качества примерно на 1–5% без подходящей инструкции. Для работы с поддержкой Qwen3 требуется Transformers 4.51.0 или новее. Лицензия — Apache-2.0.

Qwen3-VL-2B-Instruct-GGUF — это мультимодальная модель семейства Qwen, разработанная командой Qwen. Репозиторий содержит веса модели Qwen3-VL-2B-Instruct в формате GGUF: языковой компонент доступен в вариантах FP16, Q8_0 и Q4_K_M, а vision encoder — в FP16 и Q8_0. Модель предназначена для запуска через llama.cpp, Ollama и другие инструменты, совместимые с GGUF, на CPU, NVIDIA GPU, Apple Silicon и Intel GPU. Модель работает с текстом и изображениями, а семейство Qwen3-VL также ориентировано на понимание видео. Она предназначена для визуального вопросно-ответного взаимодействия, распознавания и анализа изображений, OCR, пространственного рассуждения, мультимодального reasoning, генерации кода и сценариев visual agent, включая взаимодействие с графическими интерфейсами и инструментами. Заявлены контекст до 256 тысяч токенов с возможностью расширения до 1 миллиона, поддержка OCR на 32 языках, улучшенное понимание пространственных отношений, видео и документов. К ключевым архитектурным особенностям относятся Interleaved-MRoPE для временных и пространственных представлений, DeepStack для объединения признаков разных уровней vision encoder и выравнивание текста с временными метками для анализа видео. Сильными сторонами являются сочетание компактного размера, мультимодальности, вариантов квантования и возможности локального запуска, однако README не содержит подробных численных результатов бенчмарков, полного перечня языков, точных требований к памяти и детального описания ограничений качества. Распространение модели выполняется по лицензии Apache-2.0.

Карточка модели norvek/Qwen3-VL-8B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen3-VL-8B-Instruct, поэтому описание составлено по ней. Qwen3-VL-8B-Instruct — мультимодальная модель семейства Qwen3-VL, разработанная командой Qwen. Это плотная модель с 8 млрд параметров для диалога и генерации текста по текстовым и визуальным входам; репозиторий содержит веса в формате safetensors и рассчитан на использование с Transformers. Лицензия — Apache-2.0. Модель предназначена для анализа изображений и видео, визуальных вопросов и ответов, распознавания текста и структуры документов, пространственного рассуждения, STEM-задач и управления интерфейсами через инструменты. Она также генерирует код и разметку Draw.io, HTML, CSS и JavaScript по изображениям или видео. Заявлены контекст 256K токенов с возможностью расширения до 1M, временная привязка событий в видео и OCR на 32 языках. Модель объединяет текстовое и визуальное понимание, поддерживает агентные сценарии и вызов инструментов. Карточка описывает возможности семейства Qwen3-VL; конкретные показатели качества для версии 8B в предоставленном README не приведены.

udever-bloom-1b1 — модель для получения текстовых эмбеддингов, разработанная Alibaba Group и дообученная из bigscience/bloom-1b1 методом BitFit на MS MARCO Passage Ranking, SNLI и MultiNLI. Это плотная decoder-only Transformer-модель семейства BLOOM с 1,3 млрд параметров и контекстом до 2048 токенов. Модель предназначена для создания универсальных представлений текста на естественных и программных языках. Её можно применять для семантического поиска, извлечения релевантных документов, ранжирования пассажей и задач сопоставления текстов. В README также приведены результаты оценок на MTEB и CodeSearchNet. Модель принимает текст и выдаёт векторные представления. Карточка заявляет многоязычную поддержку на основе обучающих данных BLOOM; метаданные перечисляют языки и указывают возможность работы с кодом. Доступна в формате PyTorch. Указанная лицензия — BigScience BLOOM RAIL 1.0.

guidecare/all-mpnet-base-v2-feature-extraction — копия модели all-mpnet-base-v2 для получения эмбеддингов предложений и коротких абзацев. Модель разработана командой Hugging Face в рамках Community Week и обучена дообучением microsoft/mpnet-base на более чем миллиарде пар предложений с контрастивной целью. Архитектура MPNet содержит 136,7 млн параметров и выдаёт плотный вектор размерности 768 для входного текста. Модель подходит для семантического поиска, сравнения сходства предложений и кластеризации текстов. Метаданные указывают поддержку английского языка; входы длиннее 384 токенов WordPiece обрезаются. Репозиторий содержит веса PyTorch, лицензия — Apache-2.0. README отмечает, что отличие этой копии от официальной модели заключается в изменённом теге pipeline.

AX Qwen3 Embedding 0.6B MLX 8-bit — текстовая модель эмбеддингов от AutomatosX для Apple Silicon, основанная на Qwen/Qwen3-Embedding-0.6B. Это 8-битная версия с форматом MLX Safetensors, 28 слоями трансформера и векторами размерности 1 024; настроенная длина контекста — 32 768 токенов. Тензоры и токенизатор совпадают с mlx-community/Qwen3-Embedding-0.6B-8bit, а выпуск AutomatosX добавляет манифест и сведения о происхождении модели. Модель преобразует текст в нормализованные векторы для семантического поиска, сравнения предложений и задач извлечения признаков. Пригодна для создания эмбеддингов документов и поисковых запросов; для запросов на извлечение информации при необходимости можно добавлять инструкцию на английском языке, а документы обычно подавать без префикса. В карточке описана проверка подачи запросов к API эмбеддингов на macOS arm64 с AX Engine. Модель рассчитана на запуск на компьютерах Apple с Apple Silicon и распространяется по лицензии Apache-2.0. Это эмбеддинговый выпуск, а не универсальная модель генерации текста; качество поиска зависит от выбранной инструкции и прикладного процесса.

Карточка модели Watson112/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

Карточка модели aajonaa/bge-small-en-v1.5 на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.

optimum-intel-internal-testing/bge-small-en-v1.5 — это англоязычная модель векторного представления текста из семейства BGE, разработанного Beijing Academy of Artificial Intelligence (BAAI); репозиторий с указанным идентификатором является зеркалом BAAI/bge-small-en-v1.5. Модель предназначена для feature extraction и dense retrieval: построения эмбеддингов предложений и документов, семантического поиска, сравнения сходства текстов, кластеризации и использования в системах retrieval-augmented generation. Модель основана на BERT-подобной архитектуре, содержит около 33,4 млн параметров, формирует эмбеддинги размерности 384 и поддерживает последовательности длиной до 512 токенов. Она работает с английским текстом, поддерживает PyTorch, Transformers, Sentence-Transformers и ONNX. Версия v1.5 улучшает распределение оценок сходства и сохраняет эффективную работу без обязательной инструкции для запроса; для поиска коротких запросов по длинным документам разработчик рекомендует добавлять инструкцию к запросу, но не к документам. Сильные стороны модели — небольшой размер, сравнительно низкие требования к вычислительным ресурсам, удобство локального развертывания и конкурентные результаты для модели малого масштаба на MTEB. Ограничения — поддержка только английского языка, ограничение контекста 512 токенами и то, что модель создаёт эмбеддинги, а не генерирует текст; для наиболее точного переранжирования результатов разработчик рекомендует отдельную cross-encoder-модель BGE Reranker. Указана лицензия MIT, допускающая коммерческое использование без платы.

BumbaLM-Embedding-Qwen-4b-v0-15k — модель Sentence Transformer на архитектуре Qwen3 для преобразования предложений и абзацев в плотные векторы размерностью 2560. Она предназначена для семантического поиска и извлечения текстов: близость векторов можно оценивать косинусным сходством. Архитектура использует представления последнего токена, затем нормализует выходные векторы; максимальная длина последовательности — 2048 токенов. Модель принимает текст и сообщения. Карточка описывает её как обученную embedding-модель, однако не сообщает автора обучения, базовую модель, языки обучения или лицензию. В репозитории указаны веса в формате safetensors. Возможные сценарии — поиск релевантных фрагментов и сравнение текстов; результаты зависят от данных и языка, поскольку сведения о языковом покрытии и оценках качества не приведены.

Diba-Embed — модель для получения плотных векторных представлений текста, разработанная Dibachain. Она предназначена прежде всего для поиска и извлечения информации на персидском языке, поддерживает также английский и сопоставление текстов между этими языками. Модель содержит около 507,6 млн параметров, выдаёт эмбеддинги размерностью 1024 с возможностью сокращения до 32 по принципу Matryoshka и принимает последовательности длиной до 32 768 токенов. Для загрузки через sentence-transformers требуется trust_remote_code=True; также доступны файлы GGUF для запуска через llama.cpp. Модель подходит для семантического поиска, извлечения фрагментов для RAG, сопоставления FAQ, кластеризации, дедупликации и ранжирования найденных текстов. В описанном автором тесте на 400 персидских парах вопросов и ответов указаны Recall@1 82%, Recall@3 95% и MRR 0,89; тест охватывал историю Ирана, современные темы и вопросы о компании Dibachain. Качество лучше на обычном и формальном персидском; для узкоспециализированных или зашумлённых текстов может потребоваться адаптация. Модель выдаёт векторы, а не готовые ответы или сгенерированный текст, и может отражать смещения обучающих данных. Лицензия — Apache-2.0.

aloobun/d-mxbai-L8-embed — англоязычная модель Sentence Transformers, созданная автором репозитория на основе mixedbread-ai/mxbai-embed-large-v1 методом дистилляции: в эксперименте оставлено 8 слоёв исходной модели. Она преобразует предложения в плотные эмбеддинги размерности 1024 и предназначена для сравнения смысла текстов, семантического поиска и извлечения признаков. Архитектура использует BERT и CLS-пулинг; максимальная длина входа — 512 токенов. Модель обучалась на 1 195 425 примерах с MSELoss и распространяется в формате Safetensors по лицензии Apache-2.0. В README приведены значения Spearman cosine 0,8873 на sts-dev и 0,8724 на sts-test. Автор сообщает, что модель обрабатывает около 45 примеров в секунду против примерно 30 у базовой модели, при небольшом снижении точности. Эти результаты относятся к указанным оценкам и условиям эксперимента; язык карточки и примеры указывают на английское применение.

htdht/e5_base_finetuned_mnrl_v2 — модель Sentence Transformer на основе XLM-RoBERTa, дообученная от intfloat/multilingual-e5-base для преобразования предложений и абзацев в плотные векторы размерностью 768. Она предназначена для семантического поиска, извлечения релевантных фрагментов и сравнения текстов по косинусному сходству; в примерах обучения используются пары запросов и документов на вьетнамском языке. Архитектура включает mean pooling и нормализацию векторов, максимальная длина последовательности — 512 токенов. Модель принимает текст и выдаёт текстовые эмбеддинги. Базовая модель многоязычная, однако карточка не перечисляет полный набор поддерживаемых языков; приведённые примеры указывают на настройку под вьетнамский поиск. Опубликована в формате safetensors. Лицензия в предоставленных данных не указана.

E5-small-unsupervised — англоязычная модель эмбеддингов текста семейства E5, разработанная авторами работы Text Embeddings by Weakly-Supervised Contrastive Pre-training. Это версия E5-small без контролируемого дообучения; архитектура основана на BERT и содержит 12 слоёв, размер эмбеддинга — 384, число параметров — около 40 млн. Модель преобразует текстовые запросы и документы в векторы для поиска и сопоставления предложений. Она подходит для семантического сходства, поиска фрагментов в системах вопросно-ответного поиска, поиска перефразирований, кластеризации и использования эмбеддингов как признаков классификации. Для корректной работы следует добавлять префиксы «query: » и «passage: » в соответствии со сценарием; для симметричного сходства используется «query: » для обоих текстов. Модель принимает только английский текст, а последовательности длиннее 512 токенов обрезаются. Репозиторий предоставляет веса PyTorch и Safetensors; лицензия — MIT.

Карточка модели unsloth/gte-modernbert-base на Hugging Face совпадает с карточкой Alibaba-NLP/gte-modernbert-base, поэтому описание составлено по ней. gte-modernbert-base — англоязычная модель для построения текстовых эмбеддингов, разработанная Tongyi Lab компании Alibaba. Она основана на encoder-only архитектуре ModernBERT и содержит 149 млн параметров; вектор представления имеет размерность 768, максимальная длина входа — 8192 токена. Модель предназначена для семантического поиска, извлечения документов, сравнения предложений и подбора текстов по смыслу, в том числе как компонент систем RAG. В карточке приведены результаты оценок MTEB, BEIR, LoCo и COIR; они показывают эффективность на задачах поиска, включая поиск по длинным документам и коду. Доступны веса в форматах PyTorch, Safetensors и ONNX; для интеграции описано использование Transformers, Sentence Transformers и Text Embeddings Inference. Модель распространяется по лицензии Apache-2.0. Она рассчитана прежде всего на английский язык, поэтому качество для других языков не подтверждено карточкой.

onnx-community/harrier-oss-v1-270m-ONNX — ONNX-версия мультиязычной модели эмбеддингов harrier-oss-v1-270m, разработанной Microsoft и подготовленной для использования с Transformers.js. Модель преобразует текст в плотные векторные представления размерностью 640, используя decoder-only архитектуру, pooling по последнему непустому токену и L2-нормализацию. Она поддерживает до 32 768 токенов в контексте и обучена на контрастивных задачах с дополнительной дистилляцией от более крупных embedding-моделей. Модель предназначена для семантического поиска и retrieval, кластеризации, оценки семантического сходства, классификации, поиска параллельных текстов и reranking. Она поддерживает широкий набор языков, включая русский, английский, арабский, китайский, японский, корейский, испанский, французский, немецкий и многие другие. Для запросов рекомендуется добавлять однострочную инструкцию, описывающую задачу; для документов инструкции не требуются. По данным карточки, модель получила оценку 66,5 на Multilingual MTEB v2 на момент выпуска. К сильным сторонам относятся широкая языковая поддержка, большой максимальный контекст, компактный размер 270 млн параметров и возможность запуска через Transformers.js, включая WebGPU. Результаты могут немного отличаться в зависимости от версий Transformers и PyTorch. Модель предназначена для текстовых данных и не описана как мультимодальная. Лицензия — MIT.

Hermes 2 Pro на Mistral 7B — диалоговая языковая модель, разработанная Nous Research совместно с Interstellarninja и Fireworks.AI. Это дообученная плотная модель Mistral с 7,1 млрд параметров; она использует формат ChatML и контекст до 32 768 токенов. Модель предназначена для диалогов и выполнения инструкций, а также для вызова функций и формирования структурированных ответов в JSON. Авторы сообщают о точности 90% в собственной оценке вызова функций и 84% в оценке JSON-вывода. Она подходит для ассистентов, которым нужно передавать вызовы инструментам и возвращать ответы по заданной схеме. Модель принимает текст и генерирует текст, включая представления вызовов инструментов и JSON. В метаданных указан английский язык. Модель распространяется по лицензии Apache-2.0. Результаты оценок приведены авторами модели; качество ответов и корректность вызовов инструментов следует проверять в целевом приложении.

jina-embeddings-v5-omni-nano — мультимодальная модель эмбеддингов от Jina AI. Она принимает текст, изображения, видео и аудио и преобразует их в векторы общего пространства, согласованного с текстовой моделью jinaai/jina-embeddings-v5-text-nano. Веса доступны в формате Safetensors; модель содержит около 1,04 млрд параметров, а размерность эмбеддингов составляет 768. Базовый репозиторий включает адаптеры для поиска по сходству, классификации, кластеризации и сопоставления текстов. Модель подходит для мультимодального семантического поиска и RAG, классификации с помощью сходства эмбеддингов, группировки похожего контента и обнаружения перефразировок или дубликатов. Векторная совместимость с jinaai/jina-embeddings-v5-text-nano позволяет индексировать текст одной моделью и искать по нему изображениями, видео или аудио без повторной индексации. Видео представлено кадрами; звуковая дорожка из видео автоматически не обрабатывается и должна передаваться отдельно. Для работы доступны Transformers, sentence-transformers и vLLM; неиспользуемые модальные компоненты можно не загружать. Лицензия CC-BY-NC-4.0 ограничивает коммерческое использование. Модель новая и мультимодальная, поэтому для конкретного сценария следует отдельно проверять качество и требуемую производительность.

Kimi K2.5 — открытая мультимодальная модель от Moonshot AI, построенная продолжением предварительного обучения примерно на 15 триллионах визуальных и текстовых токенов на базе Kimi-K2-Base. Она сочетает понимание изображений и текста с диалоговыми и агентными возможностями, поддерживает режимы instant и thinking и может разбивать сложные задачи на параллельные подзадачи для специализированных агентов. Модель предназначена для визуальных вопросов и рассуждений, генерации кода по визуальным спецификациям, а также выполнения многошаговых задач с инструментами, например поиском в интернете и интерпретатором кода. Архитектура — смесь экспертов (MoE), всего около 1 трлн параметров, из которых активируются 32 млрд; в README для оценки указан контекст 256 тысяч токенов. Репозиторий использует safetensors и содержит нативную INT4-квантизацию. Модель принимает текст и изображения и генерирует текст. README описывает мультимодальное обучение, но не перечисляет поддерживаемые естественные языки. Лицензия указана как other, поэтому конкретные условия использования следует проверять на странице модели. Качество зависит от задачи и доступных инструментов; сложные агентные сценарии требуют подходящей инфраструктуры выполнения инструментов.

Nanbeige4.1-3B — компактная языковая модель компании Nanbeige, созданная на базе Nanbeige4-3B-Base. Это дообученная плотная модель семейства Llama с 3,5 млрд параметров, предназначенная для генерации текста, диалогов, рассуждений и работы в агентных сценариях. По карточке модели, обучение включало supervised fine-tuning и reinforcement learning. Модель рассчитана на решение многошаговых задач по математике, программированию и естественным наукам, а также на использование инструментов и глубокий поиск в связке с агентной системой. Она поддерживает английский и китайский языки. Метаданные указывают контекст до 262 144 токенов; формат весов — safetensors, библиотека — Transformers. В карточке заявлена способность поддерживать длительные цепочки вызовов инструментов, однако фактические результаты зависят от реализации агента и доступных инструментов. Модель распространяется по лицензии Apache-2.0. Разработчик предупреждает, что возможны неожиданные ответы, включая предвзятость и дискриминационное содержание; выходы требуют проверки.

Карточка модели indigoskyai/nomic-embed-text-v1.5 на Hugging Face совпадает с карточкой nomic-ai/nomic-embed-text-v1.5, поэтому описание составлено по ней. nomic-embed-text-v1.5 — текстовая модель эмбеддингов компании Nomic AI на архитектуре NomicBert, содержащая 136,7 млн параметров. Она преобразует тексты в векторы для семантического поиска, индексации документов для RAG, кластеризации, поиска дубликатов и подготовки признаков для классификации. Для выбора режима перед текстом требуется указать инструкционный префикс, например search_document или search_query. Модель использует Matryoshka Representation Learning: размерность вектора можно уменьшать, снижая потери качества; в карточке приведены результаты для размерностей 768 и 512. README сообщает о последовательностях до 8192 токенов, тогда как метаданные указывают базовый размер контекста 2048 токенов. Доступны форматы safetensors и ONNX, лицензия Apache-2.0. Для совместных мультимодальных эмбеддингов README указывает на отдельную модель nomic-embed-vision-v1.5; сама эта модель кодирует текст.

nomic-embed-text-v1.5 — текстовая модель эмбеддингов, разработанная Nomic AI на архитектуре NomicBert. Она преобразует тексты в векторы для семантического поиска, формирования RAG-индексов, кластеризации, удаления семантических дублей и подготовки признаков для классификации. Для разных сценариев перед текстом требуется указывать соответствующий префикс задачи, например search_document или search_query. Модель поддерживает контекст до 8192 токенов и создаёт векторы размерностью 768; благодаря Matryoshka Representation Learning размерность можно уменьшать с небольшим снижением качества. README описывает именно текстовую модель: отдельная nomic-embed-vision-v1.5 выровнена с её пространством эмбеддингов, но это не означает, что данный репозиторий принимает изображения. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-27B-Claude-Opus-Reasoning-Distilled-GGUF — набор GGUF-квантизированных версий модели, разработанный rico03 на базе Qwen3.6-27B от команды Qwen. Модель дообучена примерно на 14 тысячах трасс рассуждений Claude 4.6 Opus и предназначена для генерации текста с акцентом на структурированное рассуждение. Модель ориентирована на сложные задачи, программирование и математику. Заявлены более компактный стиль рассуждений на простых запросах и глубокая пошаговая декомпозиция на трудных задачах, при сохранении возможностей базовой модели в кодинге и математике. Поддерживаются английский и мультиязычные сценарии. Архитектура основана на Qwen3.6-27B; точный размер контекста в README не указан, а пример запуска использует контекст 8192 токена. Модель доступна в вариантах квантизации от Q2_K до Q8_0 размером примерно от 10 до 28,6 ГБ, что позволяет выбирать между требованиями к памяти и качеством. Формат совместим с llama.cpp, Ollama, LM Studio и другими GGUF-совместимыми средами. Ограничения включают возможную потерю качества при сильной квантизации, а также отсутствие в README независимой оценки именно этих GGUF-вариантов; приведённые бенчмарки относятся к базовой Qwen3.6-27B. Указана лицензия Apache 2.0, при этом релиз также обозначен как предназначенный для исследований и личного использования.

Qwen3.6-35B-A3B-128E-Pruned-GGUF — экспериментальная GGUF-версия модели Qwen3.6-35B-A3B, созданная пользователем xero0000 на основе официальной модели Qwen/Qwen3.6-35B-A3B. Это неофициальный исследовательский артефакт, предназначенный для локального запуска и тестирования задач генерации текста, включая программирование, работу агентных систем, JSON, математику и вызовы инструментов. Модель распространяется в форматах квантования от Q8_0 до IQ1_S и рассчитана на использование с llama.cpp и совместимыми движками. Архитектура представляет собой разреженную mixture-of-experts (MoE) модель: в каждом из 40 MoE-слоёв число экспертов сокращено с 256 до 128, при этом для каждого токена сохраняются 8 активных экспертов. Такое прореживание уменьшает размер файлов и требования к памяти, но не сокращает число матричных операций активных экспертов на токен. Доступны варианты размером примерно от 3,95 до 18,39 GiB; конкретные характеристики качества и скорости зависят от квантования и оборудования. Калибровка прореживания была небольшой и смещённой в сторону задач программирования и агентного использования, поэтому результаты на других сценариях требуют самостоятельной проверки. Наиболее сбалансированным вариантом автор считает Q5_K_M: он прошёл 8 из 8 локальных проверок при заявленном росте perplexity на 1,05%. Q8_0 служит эталонным прунинг-вариантом, тогда как варианты Q3 и ниже имеют более заметные потери качества и требуют осторожного тестирования; IQ1_M и IQ1_S являются экспериментальными однобитными вариантами с низкими результатами проверок. Приведённые оценки являются локальным smoke-тестом и не заменяют комплексные бенчмарки или проверки безопасности. Лицензия — Apache-2.0; лицензия базовой модели также должна учитываться при использовании.

AEON-7/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-NVFP4-MIXED — мультимодальная instruction-модель семейства Qwen, разработанная AEON-7 на базе AEON-7/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16. Это смешанная версия для генерации текста, диалогов, программирования, рассуждений, агентских сценариев, function calling и обработки изображений и видео. Заявлена поддержка английского, китайского и других языков. Модель распространяется через Transformers и ориентирована на запуск с vLLM и OpenAI-совместимыми интерфейсами. Модель содержит около 27 млрд параметров и занимает примерно 23,8 ГБ в четырёх шардах. В основе используется гибридная архитектура с full attention и Gated DeltaNet (GDN), линейным вниманием, vision-компонентами и native MTP для speculative decoding. Основная часть MLP-слоёв 0–55 представлена в формате NVFP4 W4A4, слои 56–63 и отдельные чувствительные компоненты — в FP8, а vision tower, embeddings, lm_head, GDN-компоненты и MTP head сохранены в BF16. Заявлены long-context, reasoning, tool calling и поддержка аппаратуры Blackwell, включая DGX Spark на GB10, RTX 5090 и RTX PRO 6000. Сильные стороны модели — уменьшенный объём при сохранении мультимодальности и MTP, высокая производительность на целевом оборудовании, улучшенные результаты в программировании и агентских тестах, а также отсутствие исходных ограничений на ответы, описанное авторами как uncensored. При этом авторы отмечают, что общая интеллектуальная оценка уступает стандартной Qwen, а OpenClaw является слабым местом; приведённые результаты получены на локальном наборе AEON Suite и не гарантируют аналогичное качество в других условиях. Лицензия — Apache-2.0.

IoannisKat1/Qwen3-Embedding-0.6B-matryoshka1 — модель Sentence Transformers, дообученная разработчиком на базе Qwen/Qwen3-Embedding-0.6B. Она преобразует текстовые предложения и абзацы в нормализованные плотные векторы размерностью 1024 для семантического поиска и извлечения релевантных документов; сходство можно оценивать косинусной мерой. Архитектура включает трансформер Qwen3, pooling по последнему токену и нормализацию. Модель рассчитана на текст, имеет максимальную длину последовательности 32 768 токенов и ориентирована прежде всего на английский язык. Matryoshka-обучение позволяет сокращать размерность эмбеддингов; в карточке приведены результаты поиска для усечённых векторов размерностью от 64 до 768. Дообучение выполнено на 4 268 парах anchor-positive из датасета json. Модель распространяется по лицензии Apache-2.0.

Rank-Embed-0.6B — компактная модель эмбеддингов от GorankLabs для семантического поиска и плотного извлечения текстов. Она дообучена на Qwen/Qwen2.5-0.5B-Instruct и использует архитектуру bi-encoder: запросы и документы кодируются в общее векторное пространство для сравнения по смыслу и намерению. Модель формирует нормализованные векторы размерности 768: скрытые представления Qwen агрегируются mean pooling, затем линейная проекция преобразует размерность 896 в 768. Модель предназначена для семантического поиска, извлечения контекста для RAG, кластеризации и поиска дубликатов; векторные представления можно сопоставлять по косинусному сходству. Число параметров в метаданных — 494 млн, длина контекста — 32 768 токенов. Указан английский язык. Лицензия — Apache-2.0.

Virtuoso-Lite-PreDistill — экспериментальная текстовая модель для генерации и диалогов от Arcee AI. Согласно карточке, это предварительная версия Virtuoso-Lite: вариант стандартного обучения SFT и объединения с RLHF, подготовленный для проверки перед дополнительными этапами обучения. В README описана дистилляция логитов Deepseek-V3 на примерно 1,1 млрд токенов и архитектура Llama-3; метаданные Hugging Face указывают архитектуру LlamaForCausalLM, 9,9 млрд параметров и базовую модель tiiuae/Falcon3-10B-Base. Доступны веса в формате safetensors, библиотека Transformers и контекстное окно до 32 768 токенов по метаданным. Модель предназначена для чат-ботов и виртуальных помощников, анализа данных, исследовательских прототипов и STEM-обучения. В README заявлены возможности рассуждения, генерации и отладки кода, а также решения математических задач; метаданные отмечают интерфейс вызова инструментов. Основной язык не указан, поэтому язык не классифицируется. Лицензия обозначена как falcon-llm-license в README и как other в метаданных; перед использованием следует проверить условия распространения в карточке модели.

voyage-4-nano-ONNX — это ONNX-экспорт модели voyage-4-nano от Voyage AI, подготовленный для CPU-инференса с библиотекой sentence-transformers и интеграции с Vespa. Модель предназначена для получения векторных представлений текстов, семантического поиска, построения retrieval-систем и сравнения текстов по косинусному сходству. Модель имеет 306,6 млн параметров, формирует L2-нормализованные эмбеддинги размерности 2048 и использует mean pooling. В метаданных указана нативная длина контекста 40960 токенов; в README максимальная длина последовательности указана как 32K токенов. Доступны варианты FP32 размером около 1,3 ГБ и INT8 для AVX512 размером 332 МБ; INT8 рекомендован для экономии памяти и сохраняет косинусное сходство около 0,96 относительно FP32. Для retrieval-сценариев запросы следует кодировать с префиксом «Represent the query for retrieving supporting documents: », а документы — без префикса. Модель распространяется по лицензии Apache 2.0. Она предназначена для эмбеддингов, а не для генерации текста; качество INT8 может немного отличаться от FP32, а использование требует ONNX Runtime или sentence-transformers с ONNX-бэкендом.