I.14Автоматизация процессов и AI-агенты

NeuralsirkrishnaShadow_NeuralsirkrishnaM7 — объединённая языковая модель на архитектуре Mistral, созданная слиянием automerger/NeuralsirkrishnaShadow-7B и automerger/NeuralsirkrishnaM7-7B. Она содержит 7,1 млрд параметров и предназначена для генерации текста и диалоговых сценариев; поддерживает контекст до 32 768 токенов и распространяется в формате Safetensors. Модель принимает текст и выдаёт текст. В карточке не описаны специализированные области применения или языки. Лицензия — Apache 2.0.

NeuralsirkrishnaShadow_ShadowNeuralsirkrishna — объединённая модель Mistral для генерации текста и диалогов. Она содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель создана объединением automerger/NeuralsirkrishnaShadow-7B и automerger/ShadowNeuralsirkrishna-7B. Модель принимает текст и генерирует текст, поэтому подходит для диалоговых сценариев и других задач текстовой генерации. Данные о специализации и языках в карточке не приведены. Репозиторий распространяет веса в формате Safetensors по лицензии Apache-2.0.

NeuralSOTA-7B-slerp — объединённая модель, созданная Kukedlc с помощью LazyMergekit на основе трёх моделей: NeuralSoTa-7b-v0.1, NeuralSynthesis-7B-v0.3 и NeuralSirKrishna-7b. В карточке указан метод слияния dare_ties; архитектура — плотная MistralForCausalLM с 7,1 млрд параметров, веса представлены в формате safetensors и типе bfloat16. Модель предназначена для генерации текста и диалога. Она принимает текст и поддерживает контекст до 32 768 токенов. Данные карточки не уточняют поддерживаемые языки, специализированные области или сравнительное качество. Лицензия в предоставленных сведениях не указана.

RedHatAI/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-FP8 — квантизированная языковая модель для генерации текста и диалоговых сценариев, разработанная RedHatAI на основе NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 от NVIDIA. Модель принимает текст и возвращает текст, поддерживает использование в conversational-приложениях и может разворачиваться с помощью Transformers и vLLM. Архитектура модели обозначена как NemotronHForCausalLM. Веса и активации линейных операторов в трансформерных блоках квантизированы в FP8 по статической схеме с использованием LLM Compressor и калибровочных примеров UltraChat. Такое сжатие уменьшает требования к GPU-памяти и дисковому пространству примерно на 50% по сравнению с BF16 и может примерно вдвое повысить пропускную способность матричных умножений на оборудовании с поддержкой FP8. В идентификаторе указаны 30B параметров и конфигурация A3B, однако другие характеристики, включая языки и максимальную длину контекста, в README не приведены. Сильными сторонами модели являются сниженные требования к ресурсам и оптимизация для быстрого инференса на совместимом оборудовании. Ограничения связаны с тем, что FP8-квантизация может зависеть от аппаратной и программной поддержки, а README не содержит результатов оценки качества, подробностей о поддерживаемых языках и условий лицензирования. Данные о лицензии отсутствуют.

OLMoE-1B-7B-0125-DPO — англоязычная диалоговая модель Allen Institute for AI, опубликованная в январе 2025 года. Это вариант OLMoE с архитектурой Mixture of Experts для генерации текста и ответов в чате. В метаданных указаны 472,1 млн параметров и контекст до 4096 токенов; модель распространяется в форматах PyTorch и Safetensors. Модель создана на основе OLMoE-1B-7B-0125-SFT и дополнительно обучена методом DPO на варианте набора Tülu 3. Обучение охватывает диалоговые и другие задачи, включая математические рассуждения и следование инструкциям. Лицензия Apache 2.0 разрешает использование и модификацию на её условиях.

OmniBeagleSquaredMBX-v3-7B — слитая текстовая модель, созданная paulml с помощью LazyMergekit из paulml/OmniBeagleMBX-v3-7B и flemmingmiguel/MBX-7B-v3. Она предназначена для генерации текста и может использоваться в диалоговых и других сценариях, где требуется продолжать или создавать текст по текстовому запросу. Модель построена на плотной архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Для слияния применён метод SLERP; файлы опубликованы в формате safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.

Open-Instruct Baize 13B — языковая модель на архитектуре LLaMA, дообученная исследователями Allen Institute for AI на датасете Baize для следования инструкциям и генерации текста. Это diff-модель: для её использования нужны исходные веса совместимой LLaMA-модели в формате Hugging Face и применение разницы весов согласно инструкциям карточки. Модель содержит 12,9 млрд параметров, работает с текстом и имеет контекстное окно 2048 токенов. Она предназначена для ответов на вопросы и выполнения инструкций; в карточке также приведены результаты оценок по тестам на знания, рассуждение, вопросы и генерацию кода. Модель обучена следовать заданному формату запросов, поэтому его соблюдение влияет на качество генерации. Модель создана в рамках исследования настройки инструкций на открытых ресурсах. Она распространяется по лицензии AI model license вместе с исходной лицензией LLaMA; перед использованием следует учитывать условия обеих лицензий. README не приводит сведений о конкретных ограничениях качества за пределами опубликованных результатов тестирования.

orca_mini_phi-4 — дообученная автором pankajmathur на наборах SFT модель microsoft/phi-4 для генерации текста и диалогов. Она использует плотную архитектуру семейства Llama с классом LlamaForCausalLM, содержит 14,1 млрд параметров и рассчитана на контекст до 16 384 токенов. Модель предназначена для общего применения и дальнейшей настройки, включая full fine-tuning, DPO, PPO, ORPO и слияние с другими моделями. Репозиторий содержит веса PyTorch в формате Safetensors; для работы предусмотрена библиотека Transformers. Карточка описывает англоязычные данные обучения и предлагает запускать модель через Transformers или использовать отдельную GGUF-версию с Ollama. Базовая модель Phi-4 ориентирована на генерацию текста, диалоги, рассуждения, математику и программирование, однако отдельные показатели качества дообученной версии в карточке не приведены. Лицензия — MIT; автор просит указывать авторство и атрибуцию при использовании.

Ornith 1.0 35B AEON Ultimate Uncensored GGUF — это набор квантованных GGUF-версий языковой модели AEON-7/Ornith-1.0-35B-AEON-Ultimate-Uncensored-BF16. Квантизация выполнена пользователем vcruz305 из исходных весов BF16 с применением калибровки importance matrix. Модель предназначена для генерации текста, рассуждений и программирования и запускается преимущественно через llama.cpp. Модель имеет архитектуру Qwen3 MoE (mixture of experts) и заявленный размер 35B параметров. Доступны варианты с разными уровнями квантования — от Q8_0 до IQ1_M — с размером файлов примерно от 8,2 до 35 ГБ. Предлагаются стандартные версии для обычной авторегрессионной генерации и MTP-grafted версии со встроенным блоком Multi-Token Prediction для speculative decoding. В MTP-варианты добавлены 785 тензоров из Qwen/Qwen3.5-35B-A3B; заявленное ускорение генерации в отдельных тестах достигает 1,8 раза. В README приведены конфигурации с контекстом до 32768 токенов, однако поддерживаемые языки и точный общий объём параметров не уточнены. Сильные стороны модели — широкий выбор квантований для GPU с 8–48 ГБ памяти, поддержка MoE и возможность ускоренной генерации через встроенный MTP-блок. Ограничения включают зависимость от совместимой версии llama.cpp для MTP-режима, компромиссы качества при низких уровнях квантования и отсутствие подробных данных о языковом покрытии, качестве на бенчмарках и безопасности uncensored-настройки. Указана нестандартная лицензия aeon-ultimate; подробные условия следует уточнять по ссылке на лицензию или базовую модель.

lmstudio-community/Phi-4-mini-reasoning-MLX-4bit — это 4-битная версия модели Phi-4-mini-reasoning, разработанной Microsoft и преобразованной сообществом lmstudio-community в формат MLX с использованием mlx-lm 0.24.0. Модель предназначена для генерации текста, включая задачи обработки естественного языка, математики и программного кода. В README приведён пример решения квадратного уравнения, что указывает на сценарии, связанные с рассуждениями и решением математических задач. Модель поддерживает текстовую модальность; в метаданных указан английский язык. Точные сведения об архитектуре, количестве параметров и размере контекста в README отсутствуют. Для использования требуется библиотека mlx-lm и совместимое с MLX окружение, а загрузка выполняется через интерфейс mlx_lm. 4-битное представление снижает требования к памяти, но может влиять на точность по сравнению с исходной моделью. Лицензия — MIT.

bunnycore создала Phi-4-Model-Stock-v2 — объединённую языковую модель для генерации текста и диалогов. Модель получена методом Model Stock с помощью mergekit: в качестве основы использована unsloth/phi-4, объединённой с несколькими вариантами Phi-4 и моделью рассуждений Pinkstack. Репозиторий содержит веса safetensors; архитектура в метаданных обозначена как LlamaForCausalLM, размер — 14,1 млрд параметров, контекст — до 16 384 токенов. Модель подходит для диалоговых сценариев и генерации ответов с рассуждениями. В README приведены результаты Open LLM Leaderboard, включая оценки IFEval и BBH. Метаданные не подтверждают отдельные мультимодальные возможности или поддержку конкретных языков. Условия лицензирования в предоставленных материалах не приведены.

Pioneer-2x7B — слитая модель для генерации текста, созданная с помощью mergekit методом SLERP из HuggingFaceH4/mistral-7b-grok и OpenPipe/mistral-ft-optimized-1218. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров; она работает через библиотеку Transformers и имеет контекст длиной до 32 768 токенов. Модель предназначена для генерации продолжений текста и диалоговых ответов. Карточка не описывает отдельные специализированные области или языки, поэтому модель следует рассматривать как универсальную языковую. Файлы представлены в формате safetensors. Лицензия в доступных данных не указана.

PLLuM-12B-base-2512 — базовая большая языковая модель семейства PLLuM, разработанного сначала консорциумом PLLuM, а с 2025 года — альянсом HIVE AI для открытых языковых технологий. Модель предназначена прежде всего для польского языка; в обучении также использовались английские тексты. Это плотная авторегрессионная модель на архитектуре Mistral с 12,1 млрд параметров и контекстом до 131 072 токенов. Модель генерирует связный текст и может служить основой для ответов на вопросы, суммаризации, извлечения информации и специализированных помощников. Для польских государственных и юридических сценариев README рекомендует опираться на поиск по документам и RAG. В обучении семейства использовались продолженное предобучение, инструкции на польском языке и предпочтения аннотаторов; конкретно этот вариант обозначен как base, поэтому он не является специально выровненной версией для диалога. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. Результаты для конкретного варианта 12B и пределы его качества в доступных сведениях не уточнены.

Quasar-10B — языковая модель SILX AI для генерации текста и работы с длинным контекстом. Она основана на Qwen3.5-9B-Base, но её архитектура переработана: часть механизмов внимания заменена на Gated Linear Attention (GLA), а позиционные эмбеддинги RoPE удалены. Модель имеет около 10 млрд параметров и нативное контекстное окно 2 097 152 токена. Модель предназначена прежде всего для генерации синтетических рассуждений и передачи знаний при подготовке Quasar 22B MoE. Заявленные направления применения включают задачи с длинным контекстом, математику, STEM и код; метаданные также отмечают чат-возможности и языки английский и арабский. GLA обеспечивает линейную сложность обработки последовательностей, однако заявленная возможность работы за пределами обучающего контекста не подтверждена отдельными данными об оценке качества. Для запуска указана библиотека Transformers, веса представлены в формате safetensors. Лицензия Apache-2.0.

Карточка модели schwyzquants/Qwen2.5-32B на Hugging Face совпадает с карточкой Qwen/Qwen2.5-32B, поэтому описание составлено по ней. Qwen2.5-32B — базовая языковая модель компании Qwen, обученная на этапе предварительного обучения. Это плотная авторегрессионная модель семейства Qwen2 с 32 млрд параметров; архитектура использует RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Контекст составляет 131 072 токена. Модель предназначена для дальнейшего дообучения и построения систем генерации текста. Семейство поддерживает более 29 языков, включая английский, китайский, русский, французский, немецкий, японский и арабский. Для этой базовой версии README не рекомендует непосредственное применение в диалогах; для чат-сценариев требуется последующее обучение, например SFT или RLHF. В README также отмечены сильные возможности семейства в следовании инструкциям, коде, математике и генерации структурированных ответов, однако эти улучшения описаны для Qwen2.5 в целом. Модель распространяется под лицензией Apache-2.0. Для работы рекомендуется актуальная версия библиотеки Transformers; версии ниже 4.37.0 могут не распознавать архитектуру qwen2.

huihui-ai/Qwen3-32B-abliterated — версия Qwen3-32B, созданная huihui-ai методом abliteration, который изменяет модель для уменьшения числа отказов. Автор описывает реализацию как грубую проверку концепции. Модель предназначена для диалоговой генерации текста и может использоваться через Transformers или Ollama. Это плотная многоязычная модель на 32 млрд параметров, дообученная на Qwen/Qwen3-32B; в репозитории указаны веса safetensors и библиотека Transformers. Модель ориентирована на чат и сохраняет общую область применения базовой Qwen3: рассуждения, программирование и работу с инструментами. Лицензия — Apache-2.0. Уменьшение отказов не гарантирует их полного отсутствия и может влиять на поведение и надёжность ответов.

Qwen3.6-29B-REAP-Opus-Reasoning-Distill-MTP — текстовая MoE-модель семейства Qwen, созданная barozp на базе Qwen3.6-35B-A3B. Из исходной модели удалили 51 из 256 экспертов методом REAP, затем объединили с весами LoRA, обученной на 14 250 трассах рассуждений Claude Opus. Также добавлена голова Multi-Token Prediction (MTP); всего около 28,92 млрд параметров, активно около 3 млрд на токен. Контекст — 262 144 токена. Модель предназначена для генерации текста в диалогах и задач рассуждения. MTP ускоряет генерацию при само-спекулятивном декодировании в llama.cpp; стандартная загрузка через Transformers не использует эту голову и даёт тот же результат, что и версия без MTP. В приведённых автором тестах Distill-версия улучшила результат ARC-Challenge относительно исходной модели, однако оценки зависят от методики и настроек тестирования. Репозиторий распространяется под лицензией Apache-2.0.

Это конвертированная версия Qwen3.6-35B-A3B, подготовленная exolabs для запуска через vLLM. Исходные веса взяты из GGUF-файла Q8_0 модели unsloth/Qwen3.6-35B-A3B, деквантованы и сохранены в формате safetensors с точностью BF16. Архитектура — Qwen3.5 MoE; репозиторий содержит около 69,3 ГБ весов в 21 шарде. Модель предназначена для диалоговой генерации текста и сценариев, связанных с Qwen3.6-35B-A3B. Хотя карточка указывает задачу image-text-to-text, визуальные веса здесь отсутствуют: автор рекомендует использовать модель в текстовом режиме с параметром --language-model-only. README сообщает об успешных проверках загрузки и генерации в Transformers и vLLM. Лицензия обозначена как other; условия её использования следует сверить с базовой моделью и лицензией исходного репозитория.

Qwen3.8-27B Code Analysis Preview (v2) — модель для анализа кода и проверки его на ошибки, созданная hotdogs дообучением hotdogs/Qwen3.8-27B-abliterated с помощью LoRA. Она принимает фрагмент кода и формирует структурированный обзор с найденными дефектами, объяснением на уровне строк, оценкой серьёзности и конкретным исправлением. По карточке, версия v2 обучена на 21 009 примерах кода с ошибками и ответами на пяти языках; она исправляет проблему предыдущей версии, которая воспроизводила шаблонные ответы вместо поиска ошибок. Модель основана на плотной архитектуре семейства Qwen3.5 с 27 млрд параметров и поддерживает диалоговый режим. Веса опубликованы в формате safetensors в bf16; лицензия — MIT. Карточка сообщает о сохранённых тензорах multi-token prediction и раздельной выдаче рассуждений и ответа при соответствующем обслуживании модели. Модель предназначена для поиска ошибок, проверки чистого кода и подготовки исправлений. В README приведены успешные примеры обнаружения ошибок на единицу смещения, пропущенного пути попадания в кэш, необработанного статуса ответа fetch и асинхронных гонок, а также распознавания кода без ошибок. Результаты ограничены заявленными в карточке тестами и не гарантируют обнаружение всех дефектов; для использования нужна базовая модель и совместимый способ загрузки адаптера.

trymirai/Qwen3.8-27B-L — это 8-битная квантизированная версия Qwen3.8-27B, подготовленная Mirai Labs для эффективного локального запуска на компьютерах Apple с Apple silicon. Модель предназначена для локального вывода в задачах генерации текста; оценочная смесь данных включала публичные агентские данные, наборы для supervised fine-tuning и работы с длинным контекстом, а также частные диалоговые данные. Квантизация выполнена после обучения с использованием симметричного 8-битного целочисленного представления, масштабов bfloat16 и размера группы 64. Для уменьшения выбросов активаций и весов применены блочно-диагональные случайные преобразования Хадамара с размером блока 32. По размеру и параметрам квантизации модель сопоставима с Unsloth UD-Q8_K_XL для GGUF. Заявлено, что чекпойнт находится на компромиссной границе между размером и KL-дивергенцией, однако конкретные показатели качества, архитектурные детали исходной модели, поддерживаемые языки и размер контекста в карточке не приведены. Основное преимущество модели — уменьшенные требования к памяти при сохранении качества, близкого к исходной Qwen3.8-27B, что делает её подходящей для локального использования на Apple silicon. Ограничение — официально поддерживается только инференс на Apple silicon; сведения о работе на других аппаратных платформах отсутствуют. Для запуска на macOS рекомендуется пакет mirai. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Opus-Distill-GGUF — квантованная мультимодальная модель, разработанная barozp на базе Qwen3.8-27B. Исходная модель дообучена с помощью LoRA на 14 250 трассах рассуждений Claude Opus; адаптеры объединены с базовыми весами. Модель распространяется в формате GGUF для запуска через llama.cpp и предназначена для текстовых и визуально-текстовых задач, включая ответы на вопросы, анализ изображений и задачи, требующие рассуждений. Модель содержит 27 млрд параметров, встроенную vision tower и обученную MTP-голову для self-speculative decoding. Vision tower поставляется отдельно в виде файла mmproj размером около 0,9 ГБ. Доступны варианты от BF16 и Q8_0 до крайне низкоразрядных IQ-квантов; Q4_K_M рекомендован как сбалансированный вариант. Для IQ-квантов используется importance matrix, рассчитанная на данных рассуждений. Точные сведения о поддерживаемых языках и размере контекста в README не указаны. Сильной стороной является улучшение показателей на задачах рассуждений: в описанном тестировании прирост относительно базовой модели составил 4,2 процентного пункта на ARC-Challenge и 26 пунктов на GPQA Diamond, при почти неизменных показателях общих знаний и языкового моделирования. Производительность MTP для этой конкретной модели не измерялась, поэтому приведённые оценки ускорения относятся к родственному Qwen3.6 и не гарантируют такой же результат. Известна проблема с зацикливанием рассуждений при одновременном использовании ограничений «без прозы» и другого ограничения формата; рекомендуется избегать такой комбинации или увеличить лимит генерации. Модель распространяется по лицензии Apache-2.0. Для работы с изображениями требуется отдельный файл mmproj; текстовые сценарии могут использовать модель без него.

Модель singulared/Qwen3.8-27B-ROCmFP4-MTP-GGUF представляет собой квантизированную сборку Qwen3.8-27B, опубликованную пользователем или организацией singulared на базе исходной модели Qwen/Qwen3.8-27B и GGUF-версии от ggml-org. Она предназначена для генерации текста и запуска через llama.cpp с поддержкой ROCmFPX, прежде всего на AMD-оборудовании с архитектурой RDNA 3.5, включая Radeon 8060S и платформы Strix Halo. Лицензия — Apache-2.0. В комплект входят несколько вариантов основной модели в формате GGUF с представлением ROCmFP4, а также отдельные MTP-драфтеры разных разрядностей для speculative decoding. Доступны пресеты STRIX, FAST и COHERENT; их размер составляет примерно 13,33–14,41 GiB, а размер драфтеров — около 1,48–2,86 GiB. Архитектура, число параметров 27B и исходные языковые характеристики унаследованы от Qwen3.8-27B, но подробные сведения о поддерживаемых языках, модальностях и максимальном контексте в карточке не указаны. Основное преимущество сборки — сниженное потребление памяти: для FP4 заявлено около 15,6 GiB резидентной памяти против 17,3 GiB у Q4_K_M при сопоставимом декодировании. MTP может ускорять генерацию, однако результат сильно зависит от предсказуемости задачи, глубины draft и версии ROCm; для типичных измерений указана скорость около 27–28 токенов в секунду, а в благоприятных условиях — до примерно 39 токенов в секунду. FP4 ориентирован прежде всего на уменьшение занимаемой памяти, а не на максимальную скорость. Требуется специальная сборка ROCmFPX, поскольку стандартный llama.cpp не поддерживает используемые типы тензоров. FP2-драфтер не рекомендуется из-за резкого падения принятия черновых токенов, а сочетание параметров -ctk q8_0 и -ctv turbo4 может повреждать результаты при длинном контексте.

Карточка модели Jinstudio/Qwen3-ASR-0.6B на Hugging Face совпадает с карточкой Qwen/Qwen3-ASR-1.7B, поэтому описание составлено по ней. Qwen3-ASR-1.7B — плотная аудиоречевая модель семейства Qwen3-ASR, разработанная командой Qwen. Она распознаёт речь и определяет язык аудио; модель поддерживает 30 естественных языков и 22 китайских диалекта, включая русский, английский, китайский и кантонский. Основана на возможностях аудиопонимания Qwen3-Omni и содержит 1,7 млрд параметров согласно названию модели. Модель предназначена для транскрибации речи в потоковом и офлайн-режимах, в том числе длинных записей, аудио в сложных акустических условиях, пения и песен с фоновой музыкой. В README заявлены сильные результаты на открытых и внутренних тестах; отдельные сравнительные показатели в карточке не приведены. Для потокового распознавания требуется backend vLLM; доступны также интеграции через Transformers и пакет qwen-asr. Веса опубликованы в формате safetensors под лицензией Apache-2.0. Модель принимает аудио и выдаёт распознанный текст. Описанный в README Qwen3-ForcedAligner-0.6B — отдельная модель для временных меток, а не функция данного чекпойнта.

Карточка модели Jinstudio/Qwen3-ASR-1.7B на Hugging Face совпадает с карточкой Qwen/Qwen3-ASR-1.7B, поэтому описание составлено по ней. Qwen3-ASR-1.7B — плотная аудиоречевая модель семейства Qwen3-ASR, разработанная командой Qwen. Она распознаёт речь и определяет язык аудио; модель поддерживает 30 естественных языков и 22 китайских диалекта, включая русский, английский, китайский и кантонский. Основана на возможностях аудиопонимания Qwen3-Omni и содержит 1,7 млрд параметров согласно названию модели. Модель предназначена для транскрибации речи в потоковом и офлайн-режимах, в том числе длинных записей, аудио в сложных акустических условиях, пения и песен с фоновой музыкой. В README заявлены сильные результаты на открытых и внутренних тестах; отдельные сравнительные показатели в карточке не приведены. Для потокового распознавания требуется backend vLLM; доступны также интеграции через Transformers и пакет qwen-asr. Веса опубликованы в формате safetensors под лицензией Apache-2.0. Модель принимает аудио и выдаёт распознанный текст. Описанный в README Qwen3-ForcedAligner-0.6B — отдельная модель для временных меток, а не функция данного чекпойнта.

RedHatAI/Qwen3-VL-235B-A22B-Instruct-NVFP4 — квантизированная версия мультимодальной модели Qwen3-VL-235B-A22B-Instruct, разработанной Alibaba Cloud и оптимизированной RedHatAI. Модель предназначена для генерации текста и развертывания в сценариях инференса с использованием vLLM; README также указывает улучшения базовой модели в понимании и генерации текста, визуальном восприятии и рассуждении, работе с пространственной и видеодинамикой и взаимодействии с агентами. Для данной карточки заявлены текстовые входы и текстовые выходы, поэтому возможности обработки изображений и видео здесь явно не подтверждены как доступные в развернутой версии. Модель имеет 235B параметров и архитектуру Qwen3-VL с конфигурацией A22B. Веса и активации линейных операторов в блоках трансформера квантизированы в FP4 с помощью LLM Compressor. Это примерно на 75% уменьшает размер на диске и требования к памяти GPU по сравнению с представлением FP16. Модель подготовлена для инференса в vLLM версии 0.9.1 и выше и проверена с vLLM 0.13.0, RHOAI 3.3 и RHAIIS 3.3. Максимальная длина контекста в README не указана; калибровка выполнялась на последовательностях длиной до 8192 токенов. К сильным сторонам относятся существенное снижение требований к ресурсам и совместимость с эффективным серверным развертыванием через vLLM, включая OpenAI-совместимый режим обслуживания. README перечисляет английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский как языки, однако использование модели на языках, отличных от английского, отдельно обозначено как выходящее за рамки поддерживаемого применения. Квантизация может влиять на качество относительно неквантизированной версии, хотя модель оценивалась в сравнении с ней; конкретные результаты оценки не приведены. Лицензия — Apache-2.0, с ограничением не использовать модель в нарушение применимых законов и нормативных требований.

Qwen3-VL-Embedding-2B-4bit — мультимодальная модель эмбеддингов из семейства Qwen3-VL, опубликованная mlx-community. Она преобразована в формат MLX из Qwen/Qwen3-VL-Embedding-2B и предназначена для извлечения векторных представлений текста и изображений, например для поиска по тексту и визуальному содержимому. В метаданных указана архитектура Qwen3VLForConditionalGeneration и задача feature-extraction; базой послужила Qwen/Qwen3-VL-2B-Instruct. Репозиторий распространяется под лицензией Apache-2.0. Карточка не приводит конкретные сведения о поддерживаемых языках, размере контекста и точной схеме работы с изображениями.

ReadAll / ReadTwice 14B — Stage A step230 — это промежуточный чекпойнт модели Qwen2.5-14B-Instruct, дообученной командой Xirui1208 на 230 шагах supervised fine-tuning. Модель с плотной архитектурой Qwen2 содержит около 14,77 млрд параметров, сохранена в BF16 и использует исходную конфигурацию контекста на 32 768 токенов. Она предназначена для генерации текста и диалогов, в том числе для ответов на вопросы по длинным документам с протоколом ReadAll / ReadTwice: сначала модель просматривает фрагменты и строит план, затем повторно обрабатывает фрагменты с вопросом и накапливаемой памятью. Для обработки длинных документов требуется внешний цикл, который порционно подаёт фрагменты и переносит память между вызовами; заявленные результаты на документах длиной 56K и 112K токенов получены именно с таким циклом и не означают, что модель принимает весь документ за один вызов. Чекпойнт находится на ранней стадии обучения: он не включает Stage B или RL-обновления и является промежуточным состоянием расписания из 286 шагов. Выпущен под лицензией Apache-2.0.

Reka-Flash-3-21B-Reasoning-Uncensored-MAX-NEO-Imatrix-GGUF — текстовая reasoning-модель на базе RekaAI/reka-flash-3, опубликованная DavidAU. Она предназначена для локального текстового общения, решения задач и рассуждений, генерации и продолжения художественных текстов, ролевых сценариев, мозгового штурма и общего использования. Модель заявлена как uncensored и поддерживает function calling, однако подробности реализации этих возможностей в README не приведены. Модель имеет размер 21B параметров, работает в формате GGUF и рассчитана на контекст до 128k токенов. Доступен ряд квантованных вариантов от IQ1 до Q8; варианты с более высокой точностью обычно обеспечивают более качественные и быстрые рассуждения, но требуют больше памяти и вычислительных ресурсов. Варианты дополнительно обработаны с использованием NEO Imatrix и сохраняют BF16 для выходного тензора, что, согласно README, должно улучшать следование инструкциям, качество ответов и эффективность рассуждений. Для работы используются теги <reasoning> и </reasoning>, а системный промпт не является обязательным. Сильными сторонами заявлены стабильное рассуждение при разных значениях температуры, способность не зацикливаться и высокая эффективность оптимизированных квантов. При этом качество рассуждений напрямую зависит от выбранного уровня квантования: IQ1 ограничивает reasoning, а для сложных задач рекомендуются IQ3 и выше, особенно IQ4 или Q5–Q8. Низкие кванты требуют меньше ресурсов, но могут заметно уступать по качеству и скорости. Заявленный язык — английский. Модель распространяется по лицензии Apache-2.0.

franzclarin/ReverseDictionary — дообученная модель Sentence Transformers на базе sentence-transformers/all-MiniLM-L6-v2, созданная для поиска по смыслу. Она кодирует предложения и абзацы в нормализованные плотные векторы размерностью 384; сходство между текстами можно оценивать косинусной близостью. Архитектура включает энкодер BERT, усредняющий pooling и нормализацию. По метаданным, модель содержит 25,9 млн параметров и поддерживает контекст до 512 токенов; README указывает максимум в 256 токенов. Модель обучалась на примерах с тремя связанными текстовыми полями и подходит для поиска по описанию, сопоставления формулировок и извлечения близких по смыслу предложений. Прикладная модальность — текст; основной язык базовой модели — английский. Доступны веса Safetensors и формат ONNX. Лицензия в предоставленных данных не указана.

MMLW-retrieval-roberta-large-v2 — польский текстовый энкодер семейства RoBERTa, предназначенный прежде всего для информационного поиска. Модель разработана для преобразования запросов и фрагментов текста в векторы размерностью 1024; также поддерживает семантическое сходство текстов. В README описано двухэтапное обучение: дистилляция знаний от stella_en_1.5B_v5 на польско-английских парах и последующая настройка с контрастивной функцией потерь на запросах с подобранными позитивными и негативными фрагментами. Модель содержит 533,7 млн параметров, использует архитектуру RoBERTa и имеет контекст длиной 514 токенов. Для поиска запросы следует помечать префиксом «[query]: », а для симметричного сравнения текстов — «[sts]: ». В README указан результат NDCG@10 60,71 на польском бенчмарке PIRB. Метаданные указывают лицензию Gemma; перед использованием следует проверить применимые условия этой лицензии.