I.14Автоматизация процессов и AI-агенты

qiyuw/pcl-roberta-base — англоязычная модель RoBERTa для оценки сходства предложений. Она использует архитектуру RobertaForCL и содержит 151,8 млн параметров; модель принимает текст и подходит для сравнения предложений по смыслу. Длина контекста составляет 514 токенов. Модель распространяется в формате PyTorch по лицензии MIT. README не содержит дополнительных сведений о методе обучения или конкретных сценариях применения.

djuna/Q2.5-Fuppavy-7B — объединённая автором модель на базе семейства Qwen2.5, созданная с помощью mergekit и метода Model Stock. В объединение вошли Qwen/Qwen2.5-7B и несколько моделей на его основе, включая варианты для математики, диалога, FastApply и другие. Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2ForCausalLM и рассчитана на контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно использовать для ответов на вопросы, продолжения текста и задач, где полезны объединённые способности исходных моделей, в том числе математические рассуждения. В репозитории указаны веса Safetensors; выходной формат при создании — bfloat16. README и метаданные не сообщают результаты сравнительных оценок или конкретные гарантии качества. Языки и условия лицензирования в предоставленных данных не указаны.

Это компактная инструктивная языковая модель Qwen2.5-0.5B-Instruct, опубликованная Unsloth как дообученная версия Qwen/Qwen2.5-0.5B-Instruct. Она построена на архитектуре Qwen2 с причинной генерацией текста и рассчитана на диалоги, выполнение инструкций и другие задачи генерации текста. В метаданных указаны 494 млн параметров, контекст до 32 768 токенов, формат safetensors и библиотека Transformers. Модель подходит для чат-ботов, ответов на запросы и генерации структурированного текста. В карточке базовой модели заявлена поддержка более 29 языков, включая русский и английский; сама карточка репозитория отмечает английский. Модель компактна, но уступает более крупным моделям по возможностям и надёжности, а результаты зависят от запроса и сценария применения. Лицензия — Apache-2.0.

bunnycore/Qwen2.5-7B-Matrix — текстовая модель, созданная слиянием нескольких предварительно обученных моделей семейства Qwen2.5 с помощью mergekit и метода Model Stock. В качестве базовой использована Qwen/Qwen2.5-7B; в слияние также вошли Qwen2.5-Math-7B и несколько вариантов Qwen2.5, настроенных для диалогов. Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2ForCausalLM и формат safetensors; заявленная длина контекста — 131 072 токена. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно применять для ответов на вопросы, написания и продолжения текста, а также задач, где полезны способности исходных моделей к математическим рассуждениям и инструкционному диалогу. Карточка не сообщает результаты оценок качества или конкретные рекомендации по использованию. Модель распространяется под лицензией Qwen/Qwen2.5-7B; условия использования следует сверить с лицензией базовой модели. Слияние объединяет поведение нескольких моделей, поэтому отдельные способности и качество на конкретных задачах могут отличаться от исходных моделей.

Qwen2.5-VL-7B-Instruct-quantized.w4a16 — мультимодальная инструкционная модель на базе Qwen/Qwen2.5-VL-7B-Instruct, разработанная Neural Magic. Она принимает изображения и текстовые запросы, а генерирует текстовые ответы. Модель предназначена для визуально-языковых задач, включая ответы на вопросы по изображениям, анализ документов, визуальное рассуждение и другие сценарии, где требуется совместная обработка текста и визуальной информации. Модель содержит около 7 миллиардов параметров и использует архитектуру Qwen2.5-VL. Для оптимизации инференса её веса квантизированы в INT4 с группами размера 128, а активации представлены в FP16; визуальные слои и lm_head при квантизации не изменялись. В README указан английский язык. Модель рассчитана на запуск через vLLM, включая OpenAI-совместимый сервер; в примере используется ограничение контекста 4096 токенов и до двух последовательностей одновременно. Дата выпуска — 24 февраля 2025 года, версия — 1.0. Ключевое преимущество модели — снижение требований к памяти и потенциально более эффективный инференс по сравнению с исходной полноразмерной версией при сохранении мультимодальных возможностей. Ограничения включают возможную потерю качества из-за квантизации, а также зависимость от совместимой инфраструктуры vLLM и поддержки мультимодального инференса. README содержит сведения об оценивании на задачах VQAv2, DocVQA и MathVista, но не приводит итоговые числовые результаты. Модель распространяется по лицензии Apache-2.0.

Это компактная языковая модель Qwen3-1.7B на 1,7 млрд параметров, подготовленная для запуска на RK1820 и работы через LlamaPi. В основе — плотная архитектура Qwen3ForCausalLM; репозиторий содержит веса в формате GGUF. Модель разработала команда Qwen, а данная версия основана на Qwen/Qwen3-1.7B. Модель генерирует текст и подходит для диалогов, следования инструкциям, рассуждений и написания кода. Поддерживает режимы с рассуждением и без него, а также более 100 языков и диалектов. Контекстное окно — до 40 960 токенов. Метаданные указывают интерфейс для вызова инструментов. Модель распространяется по лицензии Apache-2.0. Это компактная модель для локального и периферийного запуска; качество ответов и скорость могут зависеть от устройства и конфигурации. README не приводит отдельной оценки качества этой сборки.

Qwen3-4B-NEO-Imatrix-Max-GGUF — набор GGUF-квантизованных версий модели Qwen3-4B, опубликованный DavidAU на базе Qwen/Qwen3-4B. Модель предназначена для генерации текста, диалогов, задач, требующих рассуждений, а также творческих сценариев, включая создание историй и ролевое взаимодействие. Режим reasoning включён по умолчанию согласно описанию модели. Модель имеет около 4 миллиардов параметров и работает с текстом. Варианты используют квантизацию NEO Imatrix; для более низких уровней квантизации заявлен более заметный эффект Imatrix, а IQ4XS и IQ4NL названы оптимальным балансом качества и размера. Для повышения качества рассуждений рекомендуется использовать более высокие уровни квантизации. Вариант Q8_0 описан как максимально обработанный, но без эффекта Imatrix, а F16 соответствует полной точности. Заявленная длина контекста составляет 32K токенов плюс до 8K токенов генерации; также указана возможность расширения контекста до 128K. Сильными сторонами модели заявлены улучшенные рассуждения, генерация ответов и творческие возможности при сохранении преимуществ компактной 4B-модели. Ограничения связаны с компромиссом между размером, скоростью и качеством, характерным для квантизованных вариантов; конкретные поддерживаемые языки, результаты бенчмарков и системные требования в карточке не указаны. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-4B-Opus-Distilled-Heretic-Thinking-Multistage-SFT-v1.0-i1-GGUF — GGUF-квантизированная версия модели Qwen3.5-4B-Opus-Distilled-Heretic-Thinking-Multistage-SFT-v1.0, разработанной prithivMLmods и квантизированной mradermacher. Модель создана на основе многоэтапного supervised fine-tuning и ориентирована на генерацию текста, рассуждения, логический анализ, решение задач и математику. В карточке также указана поддержка vision, однако сведения о конкретных визуальных возможностях и необходимых mmproj-файлах приведены только в общем виде. Модель предназначена для локального запуска и инференса через совместимые инструменты для GGUF, включая llama.cpp-подобные среды и vLLM; заявлена совместимость с контекстом до 32 тысяч токенов. Указан английский язык. Архитектура, точное количество параметров помимо обозначения 4B, результаты тестирования и сравнительные показатели в README не описаны, поэтому качество рассуждений и мультимодальной обработки следует проверять на собственных задачах. Доступно множество вариантов квантизации с размером примерно от 1,5 до 2,5 ГБ, что облегчает запуск на устройствах с ограниченными ресурсами. При этом наиболее компактные варианты могут заметно уступать по качеству: для некоторых прямо отмечены очень низкое или сниженное качество. Модель распространяется под лицензией Apache-2.0; условия использования базовой модели отдельно не раскрыты в предоставленных данных.

MLX-версия языковой модели Qwen3.6-27B-AEON-Ultimate-Uncensored-BF16, разработанная на основе модели AEON-7/Qwen3.6-27B-AEON-Ultimate-Uncensored-BF16 и конвертированная в формат MLX с помощью mlx-lm 0.31.2. Модель предназначена для генерации и продолжения текста, диалоговых приложений и локального запуска на устройствах, поддерживающих MLX. Модель имеет около 27 млрд параметров и представлена в 8-битном формате MLX; исходная модель использует BF16. В метаданных указаны архитектурные компоненты hybrid attention, Mamba и gated-deltanet, а также поддержка английского, китайского и мультиязычного текста. Длина контекста в README не указана. Для работы требуется библиотека mlx-lm и совместимое с MLX окружение. К сильным сторонам относятся крупный размер, оптимизация для экосистемы MLX и возможность локального использования. Ограничения включают отсутствие данных о качестве на конкретных тестах, производительности, точном наборе поддерживаемых языков и размере контекста. Модель помечена как abliterated и uncensored, поэтому её ответы могут иметь меньше встроенных ограничений безопасности; это следует учитывать при практическом применении. Лицензия — Apache 2.0.

Это GGUF-версия модели Qwen3.6-27B-Architect-Polaris2-Fable-B-F451-F32, подготовленная mradermacher в виде квантованных весов с imatrix. По метаданным, исходная модель дообучена на базе nightmedia/Qwen3.6-27B-Architect-Polaris2-Fable-B-F451-F32 и предназначена для диалоговой генерации текста и следования инструкциям. В README указаны варианты квантования IQ и наличие файла imatrix для самостоятельного создания квантов; также отмечена поддержка изображений, но детали мультимодального использования в этой карточке не приведены. Модель можно применять для генерации и продолжения текста, ответов в чате, творческого письма и задач программирования, если эти возможности унаследованы от исходной модели. Метаданные указывают на контекст 256 тыс. или 1 млн токенов, однако точное значение для этой сборки не подтверждено. Языковые теги карточки: английский, китайский, японский и испанский. Репозиторий распространяется по лицензии Apache-2.0. Квантование уменьшает требования к памяти, но конкретный компромисс между размером и качеством зависит от выбранного варианта; README отмечает, что некоторые малые IQ-кванты могут быть предпочтительнее аналогичных по размеру вариантов.

Bolsjay24/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая языковая модель на базе Qwen3.6-27B, разработанная в сотрудничестве автора модели, Nightmedia, TeichAI, armand0e и trohrbaugh; сборка и тонкая настройка выполнялись с использованием Unsloth. Модель создана как многоэтапная fine-tune и merge-модель с применением наборов DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets, а также Fable-, Claude Opus-, GPT5- и других обучающих материалов. Заявлены версии в форматах GGUF с обычным и MTP-квантованием, включая 4- и 8-битные варианты, а также NEO IMATRIX-кванты с частично сохранённой точностью выходного тензора. Модель предназначена для широкого спектра задач: следования инструкциям, решения проблем, рассуждений, программирования, творческого письма, ролевых сценариев и работы с изображениями. Среди заявленных характеристик — улучшенные instruction following, общее понимание и reasoning, поддержка vision, а также языки English и Chinese. В README утверждается, что модель превосходит базовую Qwen3.6-27B в шести из семи тестов и сопоставима с ней в седьмом, однако конкретные значения тестов и независимая методика подтверждения не приведены. Сильными сторонами заявлены высокая производительность на потребительском оборудовании, сохранение возможностей исходной модели, развитое рассуждение и хорошее качество даже у низкоразрядных квантов. Ограничения включают отсутствие подробных сведений о размере контекста, точной архитектуре, системных требованиях и фактических результатах бенчмарков; заявления о «нецензурируемом» поведении также указывают на возможное отсутствие стандартных ограничений безопасности. Лицензия — Apache-2.0.

Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored-NVFP4 — это квантованный чекпойнт модели, опубликованный esatapedico. Он создан на основе DavidAU/Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored, которая, в свою очередь, происходит от Qwen/Qwen3.8-27B. Модель предназначена для генерации текста и диалоговых сценариев; настройка TWIN-TURBO ориентирована на сокращение числа токенов рассуждений при сохранении качества ответов. Заявлена поддержка английского и мультиязычных сценариев. Модель использует архитектуру Qwen3_5ForCausalLM с 64 слоями, гибридным GatedDeltaNet, 16 полными слоями attention и контекстом до 262144 токенов. Присутствует MTP head, а токенизатор и chat template сохранены. Квантование выполнено в формате compressed-tensors NVFP4: W4A16, веса с группами размера 16 и FP8 E4M3 scales. MLP-слои, а также Q, K, V и O в слоях полного attention представлены в NVFP4, тогда как vision tower, linear attention path, lm_head, embeddings и MTP head сохранены в BF16. Калибровочные данные не использовались. К сильным сторонам относятся существенно сжатое представление весов, большой контекст и сохранение ряда чувствительных компонентов в BF16; работоспособность проверялась с помощью smoke-теста vLLM на двух устройствах с tensor parallel. Ограничениями являются зависимость от поддержки NVFP4 и compressed-tensors, отсутствие калибровки, а также то, что README не приводит подробных результатов оценки качества или перечень поддерживаемых языков. Модель распространяется по лицензии Apache 2.0.

Yepengz/Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-ULTRA-HERETIC-Uncensored-NM-DAU-NEO-MTP-GGUF — это многэтапная fine-tune- и merge-модель на базе Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-ULTRA-HERETIC-Uncensored, связанная с разработчиком DavidAU и созданная с использованием Unsloth. Модель ориентирована на английский и китайский языки и распространяется в форматах GGUF, включая обычные и MTP-квантизации, с вариантами, рассчитанными на запуск на пользовательском оборудовании. Модель предназначена для широкого спектра задач: рассуждений и решения проблем, программирования, творческого письма, художественной прозы, ролевых сценариев и других диалоговых применений. В README заявлены пять режимов reasoning и пять instruct-режимов, включая режимы Spoon и Einstein, возможность переключения режимов через API или на уровне сообщения, а также отсутствие reasoning-токенов в instruct-режимах. Основной акцент сделан на сокращении объёма рассуждений и ускорении генерации при сохранении подробности ответов. Ключевые характеристики включают размер 27B параметров, поддержку GGUF-квантизаций, варианты с разрядностью 4 и 8 бит и заявленную повышенную устойчивость к чрезмерному «обдумыванию». Модель позиционируется как сильно uncensored и может быть полезна для сценариев, где требуется меньше ограничений на содержание, однако это одновременно повышает риски нежелательных, небезопасных или неприемлемых ответов. Заявления о превосходстве над другими моделями и результатах бенчмарков приведены в README без подробных методик проверки. Размер контекста и точный перечень поддерживаемых модальностей в предоставленных данных не указаны. Лицензия — Apache-2.0. Для использования следует учитывать особенности конкретной GGUF-квантизации, требования к памяти и отсутствие заявленных ограничений на содержание.

Sohailhosseini/Qwen3.8-9B-Distill-FP8 — это FP8-квантизированная версия модели empero-ai/Qwen3.8-9B-Distill, подготовленная пользователем Sohailhosseini. Модель предназначена для задач image-text-to-text, то есть обработки текстовых и визуальных входных данных с генерацией текста. Исходная модель содержит около 9,7 млрд параметров. Веса Linear-слоёв сжаты до 8-битного формата FP8 без калибровочных данных; визуальные компоненты, включая lm_head, vision tower, vision model и multi-modal projector, оставлены без квантизации. Модель хранится в формате compressed-tensors, занимает около 11,9 ГБ и примерно в 1,62 раза меньше исходной версии. В README приведён пример запуска через vLLM с длиной контекста 32768 токенов. Ключевое преимущество — заявленное почти полное сохранение качества при меньшем размере и сниженных требованиях к хранению. Ограничение — для быстрой работы рекомендуется GPU с compute capability не ниже 8.9, например архитектуры Ada или Hopper. Языки модели и точные архитектурные характеристики в README не указаны. Лицензия Apache-2.0 унаследована от исходной модели; квантизация не изменяет разрешённые условия использования весов.

FinaPolat/Qwen3-8B-grounded_KGC-sft-domains — генеративная языковая модель семейства Qwen3, опубликованная пользователем или организацией FinaPolat. Модель доступна для работы через библиотеку Transformers и имеет около 7,6 млрд параметров; в метаданных указаны обучение с учителем (SFT), TRL и conversational-сценарии. По названию репозитория модель ориентирована на grounded KGC и доменную адаптацию, поэтому может применяться для генерации ответов с опорой на контекст или знания, а также для задач, связанных с дополнением графов знаний и специализированными доменными инструкциями. Нативная длина контекста составляет 40 960 токенов, что позволяет обрабатывать достаточно объёмные входные данные. Лицензия, поддерживаемые естественные языки, точная архитектура, состав обучающих данных и результаты оценки в доступных материалах не описаны.

Mushari Alothman дообучил Qwen3-8B-Base методом supervised fine-tuning и выпустил разговорную причинно-следственную языковую модель на 7,6 млрд параметров. Модель предназначена для ответов на вопросы с вариантами выбора, контекстных вопросов и ответов, работы с RAG и выполнения общих инструкций на арабском и английском языках. Модель основана на архитектуре Qwen3 с плотной архитектурой и классом Qwen3ForCausalLM. Она принимает текст и генерирует текст, поддерживает чат, а её родной контекст составляет 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache 2.0. В карточке заявлена настройка на чистое и точное выполнение инструкций и вопросов на арабском и английском языках. Не рекомендуется использовать её для критически важных или требующих реакции в реальном времени решений; фактические ответы следует проверять.

Qwen3.8-Flash-Next-GSQ-RCO-GGUF — сторонняя community-воспроизводимая GGUF-квантизация модели Qwen/Qwen3.8-Flash-Next, разработанной командой Qwen. Файлы созданы независимым автором с применением методов GSQ и RCO, разработанных Deep Algorithms and Systems Lab (DASLab) при Institute of Science and Technology Austria. Это не официальный релиз DASLab и не содержит его endorsement. Модель предназначена для локального инференса больших языковых и мультимодальных моделей в формате GGUF, включая обработку изображений через отдельный BF16 vision projector. Основные веса имеют целевой уровень 3,5 бита на параметр и занимают 47,94 ГБ; отдельно требуется один из вариантов shard с token и n-gram embeddings: BF16 на 103,68 ГБ либо более компактный вариант с Q4_0/Q8_0 на 29,49 ГБ. Vision encoder и projector занимают 0,91 ГБ. README позиционирует модель как вариант для запуска приблизительно 180B-модели на двух RTX 3090 с размещением embeddings на диске и KV-кэша в оперативной памяти. GSQ выполняет посттренировочную скалярную квантизацию с распределением точности по координатам и группам, а RCO назначает тип квантизации отдельным тензорам в рамках точного ограничения размера. В предоставленных тестах на MMLU-Pro при контексте 2 048 токенов квантизированная версия получила 58,25% против 55,40% у BF16 reference; perplexity составила 3,1058 против 3,0533. На IFEval результат составил 13/16 по строгому критерию, на GSM8K — 8/8. Ограничения включают очень высокие требования к дисковому пространству и памяти, необходимость совместимого runtime llama.cpp с поддержкой Qwen4Exp и Q2_0, а также небольшое ухудшение perplexity относительно BF16 reference. Языки и максимальная длина контекста в README не указаны. Лицензия обозначена как Qwen Community 1.0; точные условия следует проверять в файле LICENSE.

boxrunner/Qwen3.8-Flash-Next-mixC-GGUF — это смешанно-точностная GGUF-квантизация модели Qwen3.8-Flash-Next, опубликованная пользователем boxrunner на базе модели Qwen. Она предназначена для генерации текста и диалоговых сценариев с использованием совместимых движков, включая llama.cpp. Модель поставляется в двух частях, а дополнительно доступен F16-проектор изображений для соответствующей мультимодальной конфигурации. Модель использует архитектуру mixture-of-experts qwen4exp с 512 экспертами, из которых 10 выбираются для каждого токена, и одним общим экспертом. Файл содержит 176 943 899 520 параметров, контекст до 262 144 токенов, GPT-2 BPE-токенизатор с 248 320 токенами и встроенный chat template. Средний размер — около 3,455 бит на вес; применена смешанная квантизация с типами IQ2_XXS, IQ4_NL, Q5_K, Q6_K, Q8_0, F16 и F32. Главное преимущество данной упаковки — возможность загрузки полного пула экспертов на Apple Silicon с 64 ГБ памяти без вынесения экспертов на SSD; это повышает практическую пригодность модели для локального запуска на совместимом оборудовании. Приведённые в README показатели производительности получены только на одной конфигурации и не являются универсальным бенчмарком. Для работы необходимо скачать обе части GGUF, а для обработки изображений — также проектор. Модель распространяется по лицензии Qwen Community License 1.0.

Intel/Qwen3.8-Flash-Next-W4A16-AutoRound — это INT4-квантизированная версия модели Qwen3.8-Flash-Next, разработанная с помощью инструмента Intel AutoRound в режиме Tuning. В карточке указано назначение image-text-to-text, поэтому модель рассчитана на обработку текстово-визуальных запросов и генерацию текста, однако подробные характеристики базовой модели, включая число параметров, размер контекста и поддерживаемые языки, не приведены. Модель использует схему квантизации W4A16: веса представлены в формате INT4, а активации — в формате FP16. Квантизация призвана снизить требования к памяти и ресурсам по сравнению с конфигурацией BF16. На указанных тестах INT4-версия получила средний результат 0,8332 против 0,8362 у BF16, то есть сохранила 99,64% относительного качества; приведены результаты для GSM8K, MMLU, PIQA и HelleSwag. Модель может быть полезна для ресурсоограниченного развёртывания задач генерации текста и мультимодального взаимодействия. Как и базовая модель, она может выдавать фактически неверные, предвзятые, оскорбительные или иным образом нежелательные ответы, поэтому перед использованием требуется проверка безопасности. Лицензия указана как qwen-community-1.0; необходимо также соблюдать лицензионные условия оригинальной модели Qwen3.8-Flash-Next. README рекомендует получить юридическую консультацию перед коммерческим использованием.

ENOSYS/Qwen3-Embedding-0.6B-250-v1-GGUF — экспериментальный вариант квантования модели Qwen3-Embedding-0.6B, опубликованный ENOSYS. Репозиторий содержит GGUF-файлы; для квантования использовалась нестандартная ветка LLaMA.cpp с небольшими патчами и калибровочными данными eaddario/imatrix-calibration на английском и русском языках. Тензоры представлены в F16, что рассчитано в том числе на совместимость с видеокартами NVIDIA Pascal. Модель предназначена для создания текстовых эмбеддингов и вычисления семантического сходства, например для семантического поиска и подбора релевантных предложений. README приводит оценки перплексии и расхождения распределений для вариантов квантования с разным числом бит на вес, но не описывает их как прямую оценку качества эмбеддингов. Доступна по лицензии Apache-2.0.

mradermacher/Qwen3-Embedding-0.6B-i1-GGUF — это набор GGUF-квантизованных версий модели Qwen3-Embedding-0.6B, разработанной командой Qwen и квантизованной пользователем mradermacher. Модель предназначена для получения векторных представлений текста и задач семантического поиска, сравнения предложений, извлечения признаков и построения систем на базе text embeddings inference. В README явно указан английский язык. Модель имеет размер около 0,6 млрд параметров в исходной версии и распространяется в форматах GGUF с различными схемами квантизации, включая IQ1_S, IQ2_M, IQ3_S, Q4_K_M, Q5_K_M и Q6_K. Размеры доступных файлов составляют примерно 0,3–0,6 ГБ. Варианты отличаются компромиссом между размером, скоростью и качеством; для Q4_K_M заявлены высокая скорость и рекомендованный баланс, а для низкобитных вариантов отмечается снижение качества. Архитектура, размер контекста и дополнительные поддерживаемые языки в README не указаны. Преимуществами являются компактный размер, возможность локального запуска через экосистему GGUF и широкий выбор уровней квантизации. Ограничения связаны с потерей качества у наиболее агрессивно квантизованных вариантов, а также с отсутствием в представленном README подробных сведений о качестве, контекстном окне и мультимодальности. Модель распространяется по лицензии Apache-2.0.

mlx-community/Qwen3-Embedding-8B-4bit-DWQ — модель для получения признаковых представлений текста, задач sentence similarity и feature extraction. Она основана на Qwen/Qwen3-Embedding-8B и преобразована сообществом mlx-community в формат MLX с использованием mlx-lm 0.25.1. Модель имеет размер 8B параметров и 4-битное квантование DWQ, что предназначено для снижения требований к памяти при сохранении возможности локального запуска в экосистеме MLX. В карточке указана поддержка библиотек Transformers и Sentence Transformers, а также тип конвейера feature-extraction. Конкретные языки, размер контекста и перечень поддерживаемых модальностей не указаны; по представленным данным модель предназначена для работы с текстом. Лицензия модели — Apache-2.0. README не содержит подробных сведений о качестве, ограничениях, языковом покрытии и результатах тестирования, поэтому эти характеристики нельзя оценить точнее.

Это копия мультимодальной модели Qwen3-Omni, опубликованная chibifire в формате safetensors для Transformers. В README указана исходная модель Qwen/Qwen3-Omni-30B-A3B-Instruct; архитектура использует схему Mixture of Experts Thinker-Talker. Модель принимает текст, изображения, аудио и видео, а выдаёт потоковые текстовые ответы и речь. Она предназначена для многоязычных мультимодальных диалогов и задач, где нужно совместно понимать разные типы входных данных и отвечать текстом или голосом. Репозиторий содержит веса, конфигурации модели и генерации, шаблон чата, конфигурацию препроцессора и токенизатор. Лицензия — Apache-2.0. README направляет за инструкциями по установке и вариантами голосов к карточке исходной модели; размер контекста и перечень поддерживаемых языков в предоставленных данных не приведены.

Карточка модели speakguru/Qwen3-Omni-30B-A3B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen3-Omni-30B-A3B-Instruct, поэтому описание составлено по ней. Qwen3-Omni-30B-A3B-Instruct — мультимодальная модель общего назначения от команды Qwen компании Alibaba. Она принимает текст, изображения, аудио и видео и формирует потоковые ответы текстом и естественной речью; вариант Instruct включает компоненты Thinker и Talker. Архитектура MoE использует разделение на Thinker и Talker, а модель рассчитана на низколатентное взаимодействие в реальном времени и управление поведением через системные промпты. Модель предназначена для голосовых диалогов, распознавания и понимания речи, описания аудио и видео, а также ответов на вопросы по изображениям и смешанным мультимодальным входам. README заявляет поддержку 119 языков для текста, 19 языков для речевого ввода и 10 для речевого вывода; среди явно перечисленных языков речи есть русский. В примере запуска указан максимальный контекст 65 536 токенов. Для работы предлагаются Transformers и vLLM; README отмечает, что на момент публикации требовалась установка Transformers из исходников. Лицензия в метаданных обозначена как other, без уточнения условий.

Это GGUF-квантизированная версия модели Qwen3.6-35B-A3B, разработанной Qwen и подготовленной пользователем bartowski. Модель предназначена для запуска локально через llama.cpp и совместимые приложения, включая LM Studio, koboldcpp, Jan AI и Text Generation Web UI. По метаданным она относится к задачам image-text-to-text, то есть рассчитана на сценарии преобразования изображений и текста в текст, однако подробности о поддерживаемых языках и возможностях мультимодального ввода в карточке не приведены. Доступны варианты от BF16 до низкобитных форматов Q8_0, Q6, Q5, Q4, IQ4 и Q3 с размером файлов примерно от 17 до 71 ГБ. Квантизация выполнена с использованием llama.cpp и метода imatrix; для ряда вариантов заявлено высокое качество при меньшем потреблении памяти. Поддерживаются MTP-слои, которые можно задействовать через параметр draft-mtp при наличии соответствующей поддержки в используемом ПО. Точные сведения об архитектуре, размере активируемой части MoE, длине контекста и языках отсутствуют, поэтому эти характеристики нельзя подтвердить по README. Модель распространяется по лицензии Apache 2.0.

RavenX × Gemma 4 12B MTP OBLITERATED — экспериментальная модель генерации текста и диалогов, представленная как проект сообщества RavenX и дообученная на базе OBLITERATUS/Gemma-4-12B-OBLITERATED. Она использует архитектуру gemma4_unified с MTP-головами и распространяется в формате GGUF F16; заявлена также версия MLX для Apple Silicon. В карточке указаны структурированные многоэтапные рассуждения в задачах программирования, математики и анализа, а также самооценка возможностей и ограничений. Модель предназначена для исследовательских и образовательных экспериментов с диалогами, кодом, математическими задачами и аналитическими запросами. Для работы требуется применять chat template Gemma 4; без него, по карточке, вывод может быть искажён. Базовая модель лишена фильтров отказа, поэтому возможны нежелательные ответы. Карточка называет метод обучения проприетарным, а лицензию в метаданных указывает как other; подробные условия использования не приведены.

Gilgamesh-72B-GGUF — это GGUF-квантизация языковой модели Gilgamesh-72B, разработанной rubenroy и подготовленной пользователем bartowski для запуска через llama.cpp и совместимые приложения, включая LM Studio. Модель предназначена для генерации текста, чат-взаимодействия и разговорных сценариев. В метаданных она связана с архитектурой Qwen2 и обучалась с использованием наборов данных GammaCorpus-v2-5m, GammaCorpus-CoT-Math-170k и GammaCorpus-Fact-QA-450k. Заявленный язык — английский. Модель имеет 72 миллиарда параметров и доступна в вариантах квантизации от Q8_0 до Q2 и IQ-квантов, с размером файлов примерно от 27 до 77 ГБ. Варианты Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS отмечены как рекомендуемые; Q6_K обеспечивает качество, близкое к исходному, а Q4_K_M представляет компромисс между качеством и требованиями к памяти. Более компактные варианты требуют меньше оперативной памяти, но могут заметно уступать по качеству. Длина контекста в README не указана, мультимодальность не заявлена. Для работы следует использовать формат prompt с ролями system, user и assistant, совместимый с шаблоном Qwen. Модель распространяется по лицензии, обозначенной как other, с указанием лицензии Qwen и ссылкой на лицензию Qwen2.5-72B-Instruct. Конкретные условия лицензии исходной модели необходимо проверить отдельно.

cl-nagoya/ruri-large-v2 — японская модель эмбеддингов предложений, разработанная командой cl-nagoya и построенная как Sentence Transformer на базе cl-nagoya/ruri-pt-large-v2. Она преобразует текстовые фрагменты в векторы размерностью 1024; сходство между ними можно оценивать косинусной мерой. Модель основана на архитектуре BERT, содержит 436,2 млн параметров и обрабатывает последовательности длиной до 512 токенов. Модель предназначена для поиска по смыслу, сравнения предложений и других задач, где нужно сопоставлять тексты по семантической близости. В README приведена оценка 74,55 в среднем по JMTEB, а также результаты по поиску, семантическому сходству, классификации, ранжированию и кластеризации. Разработчики отмечают, что доступны более новые модели Ruri v3 и рекомендуют их для дальнейшего использования. Модель ориентирована на японский язык. Распространяется под лицензией Apache 2.0.

RWKV-4 World — многоязычная языковая модель семейства RWKV, представленная BlinkDL и предназначенная для генерации текста и диалогов. По карточке, при обучении использовались данные на более чем 100 языках: 70% английского, 15% многоязычных данных и 15% кода. Среди названных источников — Pile, RedPajama, OSCAR, Википедия и данные ChatGPT; метаданные также отмечают Pile и RedPajama. Модель можно применять для продолжения текста, ответов на вопросы и диалогового взаимодействия с форматами промпта Question/Answer, User/AI или Human/Bot. Для работы предусмотрены PyTorch и пакет rwkv; карточка указывает на специальный токенизатор rwkv_vocab_v20230424. Размер модели и длина контекста в предоставленных сведениях не указаны. Для вариантов на 0,1, 0,4 и 1,5 млрд параметров README предупреждает о переполнении первого слоя при fp16 и рекомендует fp32 для него либо bf16 на GPU серий 30xx/40xx. Модель распространяется по лицензии Apache-2.0.

sbert-jsnli-luke-japanese-base-lite — модель Sentence-Transformers на архитектуре LUKE, дообученная на один проход по датасету shunk031/jsnli на базе studio-ousia/luke-japanese-base-lite. Она преобразует предложения и абзацы на японском языке в плотные векторы размерности 768 для поиска семантически близких текстов, кластеризации и оценки сходства. Контекст модели составляет до 514 токенов, число параметров — 138,4 млн; доступен формат PyTorch. Модель предназначена для семантического поиска и сравнения японских текстов. Лицензия — Apache-2.0. Карточка также указывает результаты оценки на JSTS и JSICK, но не приводит их числовые значения.