I.1Поиск и навигация по информации
В разделе собраны самостоятельные задачи, где AI помогает находить нужные сведения и помогать человеку быстро переходить от вопроса к подтверждённому источнику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
13 467 моделейКарточка модели ehristoforu/BigFalcon3-18B на Hugging Face совпадает с карточкой ehristoforu/BigFalcon3-36B, поэтому описание составлено по ней. BigFalcon3-36B — объединённая языковая модель для генерации текста и диалогов, созданная с помощью mergekit на основе tiiuae/Falcon3-10B-Instruct. В репозитории указано слияние методом passthrough; метаданные описывают архитектуру как плотную LlamaForCausalLM и указывают 17,5 млрд параметров. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов и доступна в формате safetensors для Transformers. Модель подходит для диалоговых сценариев и генерации текста; метаданные также отмечают интерфейс вызова инструментов. Карточка не описывает отдельную специализацию или результаты оценки качества. Лицензия в предоставленных данных не указана.
CatMarcoro14-7B-slerp — объединённая языковая модель на основе Mistral, созданная с помощью LazyMergekit путём слияния cookinai/CatMacaroni-Slerp и EmbeddedLLM/Mistral-7B-Merge-14-v0.2 методом slerp. Модель содержит 7,1 млрд параметров и предназначена для генерации текста, включая ответы на запросы и решение задач на рассуждение. В README приведены результаты Open LLM Leaderboard: средний балл 73,25, включая 69,37 на AI2 Reasoning Challenge и 86,92 на HellaSwag. Модель принимает и генерирует текст; контекстное окно — 32 768 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.
Citaman/command-r-2-layer — слитая языковая модель на архитектуре Cohere, созданная автором репозитория с помощью mergekit. В неё включены слои модели Citaman/command-r-3-layer; использован метод SLERP. Метаданные описывают модель как дообучение этой базовой модели, а карточка указывает на слияние её слоёв. Модель предназначена для генерации текста и диалоговых сценариев, включая интерфейс вызова инструментов. Она содержит 3,7 млрд параметров, принимает текст и поддерживает контекст до 8192 токенов. Указан формат safetensors и библиотека Transformers. Данные не сообщают целевые языки или специальные прикладные области, поэтому модель следует рассматривать как универсальную. Лицензия в предоставленных сведениях не указана; качество и надёжность ответов отдельно не описаны.
DeepSeek-V4-Flash-GGUF — это квантизированная версия модели DeepSeek-V4-Flash, опубликованная организацией ggml-org на основе исходной модели deepseek-ai. Модель предназначена для генерации текста и запуска в формате GGUF, в том числе с помощью llama.app и совместимых инструментов. В README указано, что модель автоматически конвертируется средствами проекта ggml-org/convert. Доступны варианты с разными уровнями квантизации; для моделей Q2 пока не применялась калибровка imatrix из-за отсутствия соответствующих данных. Сведения об архитектуре, количестве параметров, размере контекста, поддерживаемых языках и модальностях не приведены, поэтому оценить эти характеристики и ограничения по README невозможно. Модель распространяется по лицензии MIT. Условия использования исходной модели следует дополнительно уточнять в карточке deepseek-ai/DeepSeek-V4-Flash.
Etheria-55b-v0.1 — плотная языковая модель семейства Llama, созданная слиянием моделей серии Etheria и моделей Yi-34B-200K. Автор объединил варианты VerA и VerB, затем применил метод DARE TIES; в метаданных указаны 55,1 млрд параметров и формат safetensors. Модель предназначена для генерации текста и диалогового общения; в README указана совместимость с форматами запросов ChatML и Alpaca. Для контекста заявлена теоретическая длина до 200 000 токенов, однако автор рекомендует начинать с 32 000 токенов, поскольку влияние слияния на работу с длинным контекстом не проверено. README сообщает о тестировании до 32 000 токенов через exl2 и приводит результаты нескольких оценок на Open LLM Leaderboard. Модель распространяется по лицензии Apache-2.0.
EXAONE-4.0-1.2B — компактная плотная авторегрессионная языковая модель LG AI Research для диалогов, генерации текста и запуска на устройствах. Модель содержит около 1,3 млрд параметров по метаданным; в конфигурации README указано 1,07 млрд параметров без эмбеддингов. Она поддерживает контекст до 65 536 токенов и использует 30 слоёв, групповые запросы внимания с 32 головами и 8 KV-головами, а также словарь из 102 400 токенов. Модель предлагает режимы обычного ответа и рассуждения, а также интерфейс вызова инструментов. Заявлена поддержка английского, корейского и испанского языков; особенно ориентированные языки — английский и корейский. Модель рассчитана на локальные и встроенные сценарии, где важны небольшой размер и длинный контекст, а также на диалоговые приложения и агентные системы. Ответы могут содержать фактические ошибки, предвзятость или неподходящую информацию; знания модели могут быть устаревшими. Для режима рассуждений качество чувствительно к параметрам генерации. Лицензия указана как other; README сообщает об обновлении условий в сторону большей гибкости, но конкретные условия следует сверять с лицензией репозитория.
LastRef/gemma-3-12b-it-heretic-x — дообученная мультимодальная модель на основе Google Gemma 3 12B IT. Это разговорная модель с архитектурой Gemma 3 для обработки текста и изображений с генерацией текстовых ответов. Подходит для диалога, создания и суммаризации текста, ответов на вопросы и извлечения информации из изображений. Карточка Gemma 3 указывает контекст до 128 тыс. токенов и поддержку более 140 языков; эти характеристики относятся к семейству базовой модели. В тегах модели она обозначена как uncensored, decensored и abliterated, то есть её позиционируют как модель с ослабленными ограничениями на ответы; README при этом описывает базовое семейство Gemma, а не специфические изменения этой версии. Такие модели могут выдавать вредный или недостоверный контент, а также отражать смещения данных обучения. Лицензия — Gemma; условия использования определяются лицензией и политикой допустимого использования Gemma.
Gemma-7B-slerp — текстовая языковая модель, созданная Arcee AI слиянием Google Gemma 7B и Gemma 7B Instruct методом SLERP с помощью mergekit. Она предназначена для генерации текста, диалога и ответов на вопросы; объединение базовой и инструктивной версий нацелено на сочетание их свойств. Модель построена на плотной архитектуре GemmaForCausalLM, содержит 8,2 млрд параметров и поддерживает контекст до 8192 токенов. Модель принимает текст и выдаёт текст. В карточке приведены результаты оценки на наборах AGIEval, GPT4All, TruthfulQA и Bigbench. Репозиторий содержит веса Safetensors; лицензия — Apache-2.0. Показатели из карточки не гарантируют качество на конкретных задачах, поэтому перед применением модель стоит оценить на своих данных.
MLX-версия языковой модели GLM-4.7, разработанной организацией zai.org и конвертированной сообществом mlx-community из исходной модели zai-org/GLM-4.7 с помощью mlx-lm 0.30.0. Модель предназначена для генерации текста и запуска в экосистеме MLX, в том числе через библиотеку mlx-lm на совместимом оборудовании Apple. Типичные сценарии включают диалоговое взаимодействие и другие задачи текстовой генерации. Модель использует 6-битное квантование и формат MLX. В карточке указаны поддерживаемые языки English и Chinese, модальность — текстовая. Архитектура, количество параметров и размер контекста в README не уточняются. К сильным сторонам относятся адаптация для MLX и снижение требований к памяти благодаря 6-битному представлению; ограничения — отсутствие подробных данных о качестве, производительности, точном аппаратном охвате и возможностях исходной GLM-4.7. Модель распространяется по лицензии MIT.
HelixLM — языковая модель из серии открытых моделей Helix, разработанная Helix Lab. Это плотная авторегрессионная модель семейства Llama для генерации текста; карточка описывает её как релиз-кандидат, дообученный с чередованием этапов рассуждения. Модель ориентирована на математические задачи, понимание кода и многошаговые логические задачи, а также поддерживает диалог и интерфейс вызова функций. HelixLM рассчитана на решение сложных задач с более продолжительным внутренним рассуждением перед ответом. Разработчик сообщает о конкурентных результатах на внутренних наборах проверки, но не приводит размер модели или длину контекста. Для запуска рекомендуется температура 0,6; модель также предлагается через игровую площадку и API. Модель распространяется по лицензии Apache-2.0. Это релиз-кандидат; заявленные показатели основаны на внутренних тестах и в README не приведены подробные сведения о методике оценки. Увеличенный бюджет рассуждений может повышать расход токенов и задержку ответа.
Hermes 3 Llama 3.1 70B 4bit — чат-модель, подготовленная сообществом mlx-community для запуска в экосистеме MLX. Она преобразована в формат MLX из NousResearch/Hermes-3-Llama-3.1-70B с помощью mlx-lm 0.16.1. В основе лежит дообученная плотная модель Llama 3.1 с архитектурой LlamaForCausalLM и 69,5 млрд параметров; модель рассчитана на диалоги и следование инструкциям, поддерживает контекст до 131 072 токенов и английский язык. Модель подходит для чат-ботов, ответов на вопросы, генерации текста и ролевых диалогов. Тег 4bit в названии указывает на 4-битное представление, однако метаданные перечисляют формат safetensors, поэтому точный способ представления весов в репозитории не подтверждён. Лицензия — Llama 3 Community License (llama3); условия её использования следует учитывать при развёртывании.
ISOM-R1-Enterprise-40B — производная Falcon-40B-Instruct, разработанная Prannessh K.V.A. как исследовательская реализация для аналитических рассуждений и анализа длинных документов в корпоративных сценариях. Модель использует плотную авторегрессионную архитектуру Falcon с 60 слоями и Multi-Query Attention; в README заявлено 40 млрд параметров, тогда как метаданные указывают 65 млрд. Для каталога длина контекста составляет 8192 токена, хотя в README приведены теоретические спецификации до 32 768 токенов. Автор описывает ограниченное состояние памяти и изометрические операторы как архитектурные особенности, призванные снизить рост затрат на KV-кэш при длинном контексте. Приведённые оценки названы теоретическими; эмпирическая проверка обработки последовательностей длиной 32K не заявлена. Модель генерирует текст по текстовому запросу, карточка указывает английский язык. Репозиторий содержит веса PyTorch и SafeTensors. Лицензия модели — CC BY-NC-ND 4.0; README отдельно указывает, что базовая Falcon-40B-Instruct распространяется по Apache 2.0.
Это дообученная диалоговая модель egoigo на базе kakaocorp/kanana-1.5-8b-instruct-2505. Модель относится к семейству Llama, имеет плотную архитектуру и около 7,5 млрд параметров; она принимает текстовые запросы и генерирует текст, в том числе в формате диалога и с интерфейсом вызова инструментов. Контекст составляет до 32 768 токенов. Модель подходит для диалоговых помощников и генерации текста. Базовая Kanana также предназначена для программирования и математики, однако README не описывает специализацию или результаты именно этой версии Persona-Merge-K. Модель опубликована под лицензией Apache-2.0.
onnx-community/LFM2.5-350M-ONNX — ONNX Runtime-версия универсальной текстовой модели LFM2.5-350M, разработанной Liquid AI. Модель предназначена для кроссплатформенного развёртывания и аппаратно ускоренного вывода в облачных, периферийных и мобильных средах, включая локальные устройства с ограниченными ресурсами. Рекомендуемые сценарии — извлечение данных, структурированный вывод и использование инструментов с поддержкой function calling. Модель текстовая, содержит 350 млн параметров и имеет контекст до 32 768 токенов. Архитектура включает 16 слоёв: 10 блоков double-gated LIV convolution и 6 блоков GQA; размер словаря — 65 536 токенов. Она обучалась на 28 трлн токенов, поддерживает английский, арабский, китайский, французский, немецкий, японский, корейский, португальский и испанский языки. Заявлена работа менее чем с 1 ГБ памяти, а ONNX-формат облегчает переносимость между различными аппаратными платформами. Сильными сторонами являются малый размер, высокая скорость edge-инференса и удобство интеграции в разнообразные среды выполнения. Модель не рекомендуется для задач, требующих глубоких знаний, и программирования; дата отсечения знаний — середина 2024 года. Указана лицензия lfm1.0; дополнительные условия следует проверять в файле лицензии репозитория.
Llama-3.1-8B-MagPie-Ultra — плотная языковая модель с архитектурой LlamaForCausalLM, дообученная Argilla Warehouse на наборе argilla-warehouse/magpie-ultra-v1.0. Она предназначена для генерации текста и диалогового взаимодействия; метаданные также указывают интерфейс вызова инструментов. Модель содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель основана на meta-llama/Llama-3.1-8B и распространяется в формате safetensors по лицензии Llama 3.1. В README приведено значение loss 0,5915 на оценочном наборе, но подробности об оценке, обучающих данных и ограничениях не раскрыты. Языки и специальные прикладные области для этой производной модели не уточнены.
RedHatAI/Llama-3.2-1B-Instruct-quantized.w8a8 — квантизированная версия Llama-3.2-1B-Instruct, разработанная Neural Magic на базе модели Meta. Это текстовая autoregressive-модель архитектуры Llama-3, предназначенная прежде всего для диалоговых ассистентов, генерации текста и многоязычных коммерческих и исследовательских сценариев. Поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель использует INT8-квантизацию весов и активаций по схеме W8A8. Для весов применяется статическая симметричная поканальная квантизация, для активаций — динамическая симметричная потокенная квантизация; при подготовке использовались SmoothQuant и GPTQ. По заявлению разработчика, это примерно на 50% снижает требования к памяти GPU и размер модели на диске, а также примерно вдвое повышает пропускную способность матричных умножений. В опубликованных тестах показатели находятся в пределах 5% от неквантизированной версии на MMLU, ARC-Challenge, GSM-8K, HellaSwag, Winogrande и TruthfulQA. Для эффективного развёртывания рекомендуется vLLM; в примере указана максимальная длина контекста 8192 токена. К сильным сторонам относятся компактный размер в 1B параметров, сниженные требования к ресурсам, ускоренное выполнение и сохранение близкой к исходной точности. Ограничения связаны с небольшим размером модели и возможной потерей качества из-за квантизации; README не содержит подробных результатов по каждому языку, полной спецификации контекстного окна и детального анализа безопасности. Модель распространяется по лицензии Llama3.2; использование должно соответствовать применимым законам и нормативным требованиям.
pearl-ai/Llama-3.3-70B-Instruct-pearl — сертифицированный вариант Meta Llama-3.3-70B-Instruct, подготовленный командой Pearl Research для работы с Pearl vLLM mining plugin. Модель относится к большим языковым моделям типа instruct и предназначена для генерации текста и диалоговых сценариев на основе текстовых запросов; в карточке указана поддержка английского языка. Модель имеет размер 70B параметров и распространяется через Transformers. Её основной сценарий — запуск в инфраструктуре Pearl miner, где vLLM интегрирован с процессами mining. Для работы требуются CUDA-совместимые NVIDIA GPU класса sm90, например H100 или H200, а также программный стек Pearl; в примере запуска задана длина контекста 8192 токена, однако максимальный контекст модели отдельно не указан. В сравнительном тесте на 4 GPU H200 Pearl-сертифицированный вариант показал близкие к исходной модели результаты MMLU и более высокую пропускную способность в некоторых конфигурациях параллелизма, включая 18 291,66 токена в секунду при DP=4. Эти показатели зависят от оборудования и настроек запуска. Модель ориентирована на специализированную инфраструктуру Pearl и требует запущенного pearld-узла с RPC-доступом, поэтому её использование вне этого стека может потребовать дополнительной настройки. Лицензия указана как llama3.3.
Llama-Nephilim-Metamorphosis-v2-8B — объединённая языковая модель на архитектуре Llama, созданная автором репозитория с помощью mergekit. В неё с небольшим весом добавлена модель grimjim/llama-3-Nephilim-v3-8B, дообученная на основе Instruct, а основой служит Meta-Llama-3.1-8B-Instruct. После объединения дополнительное обучение не проводилось. Модель предназначена для прямого диалога и генерации текста. Она содержит около 7,5 млрд параметров, рассчитана на контекст до 131 072 токенов и сохраняет возможности обработки длинного контекста; автор сообщает о тестировании до 16 тыс. токенов. Используются архитектура Llama и формат safetensors. Карточка отмечает преимущественно сохранённое поведение безопасности. Модель принимает текст и генерирует текст. Она распространяется по лицензии llama3.1; применяйте её с соблюдением условий этой лицензии.
Merge-Mixtral-Prometheus-8x7B — языковая модель для генерации текста и диалогов, созданная объединением моделей prometheus-eval/prometheus-8x7b-v2.0 и mistralai/Mixtral-8x7B-Instruct-v0.1 с помощью LazyMergekit. Для слияния использован линейный метод с равными весами; архитектура Mixtral — модель типа Mixture of Experts с классом MixtralForCausalLM. Репозиторий содержит веса в формате safetensors. Модель подходит для генерации ответов на запросы и диалогового взаимодействия, а также может применяться для оценивания ответов в сценариях, связанных с Prometheus. Заявленная длина контекста составляет 32 768 токенов, размер — 7,1 млрд параметров. В README приведены результаты Open LLM Leaderboard, включая IFEval и BBH. Лицензия — Apache-2.0.
MiniCPM-o 2.6 — мультимодальная модель команды OpenBMB для понимания изображений, аудио и видео, а также голосового общения и потоковых сценариев. По карточке она построена как сквозная система на основе SigLip-400M, Whisper-medium-300M, ChatTTS-200M и Qwen2.5-7B; в метаданных указано 7,1 млрд параметров, плотная архитектура MiniCPMO и контекст 32 768 токенов. Модель доступна через Transformers и распространяется по лицензии Apache-2.0. Модель принимает текстовые запросы, изображения, аудио и непрерывные аудио-видеопотоки. Она отвечает текстом и может вести голосовой диалог с настраиваемыми голосом, эмоцией, скоростью и стилем; также поддерживает клонирование голоса. README описывает распознавание речи, анализ говорящих, аудиоподписи, классификацию звуковых сцен, OCR, понимание нескольких изображений и видео, а также мультимодальное общение в реальном времени. Заявлена поддержка более 30 языков для мультимодальных задач и двуязычный речевой диалог на английском и китайском. Среди заявленных сильных сторон — обработка изображений с разными пропорциями сторон, высокая плотность визуальных токенов и возможность локального запуска на устройствах с ограниченными ресурсами в подходящих сборках. README указывает на совместимость с Transformers 4.44.2 и предупреждает о возможных проблемах совместимости с другими версиями; работа с потоковыми аудио-видео данными требует соответствующей реализации и оборудования. Заявленные результаты бенчмарков приведены авторами модели и зависят от условий оценки.
win10/miscii-14b-1M-0128 — созданная с помощью mergekit и метода SCE объединённая языковая модель на архитектуре Qwen2, разработчик — win10. В качестве основы использована sthenno-com/miscii-14b-1225; в объединение также вошли несколько моделей Qwen2.5 и производные от DeepSeek-R1-Distill-Qwen-14B. Модель содержит 14 млрд параметров и рассчитана на генерацию текста и диалоги. Заявленный контекст — до 131 072 токенов; в карточке указаны английский и китайский языки. Модель распространяется в формате safetensors через библиотеку Transformers по лицензии Apache-2.0. README приводит результаты оценок IFEval и BBH, но не описывает методику проверки или практические ограничения качества; фактическая производительность может зависеть от запроса и настроек генерации.
Open-Orca/Mistral-7B-OpenOrca — диалоговая языковая модель Open-Orca, созданная дообучением Mistral 7B на отфильтрованной выборке набора OpenOrca с данными, дополненными GPT-4. Модель обучали с Axolotl и упаковкой OpenChat; она использует архитектуру MistralForCausalLM и формат диалога ChatML. Модель предназначена для генерации ответов в диалоге и выполнения инструкций на естественном языке. В карточке указано контекстное окно 32 768 токенов, а основным языком обозначен английский. Модель содержит 7,1 млрд параметров и доступна в формате PyTorch. Разработчик приводит результаты оценок на нескольких бенчмарках и сообщает об улучшении относительно базовой Mistral 7B. Эти результаты относятся к тестам и не гарантируют качество для конкретных задач. Модель распространяется по лицензии Apache-2.0.
Mixtral-8x22B-v0.1 — предварительно обученная генеративная языковая модель семейства Mixtral, разработанная командой Mistral AI. Это разреженная архитектура Mixture of Experts; модель предназначена для генерации текста и может служить базой для адаптации под конкретные задачи. Репозиторий содержит веса в формате safetensors, совместимые с vLLM и библиотекой Transformers. В карточке указано 22B параметров и контекст до 65 536 токенов. Модель поддерживает английский, французский, итальянский, немецкий и испанский языки. Она не содержит механизмов модерации, поэтому выдачу следует проверять при пользовательском применении. Лицензия — Apache 2.0.
RadixArk подготовила Muse-Glimmer-q4k-dynamic-MLX — текстовую версию Muse Glimmer для компьютеров Apple Silicon, упакованную в формат MLX. Это плотная модель семейства Muse Glimmer с 28 млрд параметров, 52 слоями и контекстом до 131 072 токенов. Репозиторий содержит веса в safetensors, разбитые на пять файлов; библиотека запуска — MLX, для сервинга автор рекомендует SGLang с MLX-бэкендом. Модель предназначена для генерации текста в диалогах и поддерживает интерфейс вызова инструментов. Квантование использует смешанную схему 4/5/6 бит с размером группы 32; веса сохраняют коды исходного динамического GGUF-квантования, а преобразование в MLX выполнено без повторного квантования. По приведённым автором тестам на одной системе результаты близки к запуску исходного GGUF через llama.cpp, однако эти оценки относятся к конкретным тестам и конфигурации. Для запуска автор указывает Mac с унифицированной памятью от 48 ГБ. Модель работает только с текстом: у MLX-бэкенда нет пути обработки изображений. Сведения о лицензии в предоставленной карточке отсутствуют.
NVIDIA-Nemotron-3.5-Lightning-30B-A3B-mxfp4 — языковая модель для генерации текста, разработанная NVIDIA и преобразованная сообществом mlx-community в формат MLX на основе модели NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16. Конвертация выполнена с использованием mlx-lm 0.31.3; применяется квантование MXFP4 с размером группы 32. Модель предназначена для запуска и генерации текста в экосистеме MLX, в том числе через библиотеку mlx-lm. Это гибридная Mixture-of-Experts-архитектура, объединяющая Mamba-2 и attention. Она содержит около 31 млрд параметров, из которых примерно 3 млрд активируются для каждого токена. В карточке заявлена поддержка английского, испанского, французского, немецкого, итальянского и японского языков. Сильными сторонами являются разреженная активация параметров и оптимизированный для MLX формат, однако конкретные характеристики контекстного окна, результаты тестов, точность и ограничения квантования не указаны. Модель распространяется по лицензии OpenMDW 1.1.
Карточка модели OpenBuddy/openbuddy-mixtral-8x7b-v16.1-32k на Hugging Face совпадает с карточкой OpenBuddy/openbuddy-mixtral-7bx8-v16.3-32k, поэтому описание составлено по ней. OpenBuddy-mixtral-7bx8-v16.3-32k — многоязычная чат-модель семейства Mixtral, опубликованная командой OpenBuddy. Она предназначена для диалогов и генерации текста; архитектура — Mixtral MoE, класс MixtralForCausalLM. В репозитории указаны 7,1 млрд параметров и контекст до 32 768 токенов; модель распространяется в формате safetensors и использует библиотеку Transformers. Модель поддерживает китайский, английский, французский, немецкий, японский, корейский, итальянский и русский языки. Лицензия — Apache 2.0. Ответы могут быть ошибочными, вредными или оскорбительными; модель не следует использовать для решений в медицине, финансах, праве и других критически важных сценариях.
Perception Language Model (PLM) 3B — мультимодальная модель Meta для понимания изображений и видео, представленная в исследовании PerceptionLM: Open-Access Data and Models for Detailed Visual Understanding. Архитектура сочетает визуальный энкодер с языковым декодером на 3 млрд параметров; модель поддерживает диалоговый ввод с изображениями и предназначена для детального визуального анализа, включая пространственные и временные рассуждения. Модель подходит для ответов на вопросы об изображениях и видео, чтения текста на изображениях, анализа диаграмм и графиков, описания сцен и понимания последовательности событий. Авторы сообщают об обучении без дистилляции из проприетарных моделей и о наборе из 2,8 млн примеров с человеческой разметкой для улучшения понимания видео. В карточке приведены результаты на наборах тестов для изображений и видео; они не гарантируют точность на произвольных данных. Репозиторий содержит веса в формате safetensors для использования с Hugging Face Transformers. Лицензия указана как other, поэтому условия использования следует сверить с лицензией в репозитории и материалами проекта.
bamec66557/Qwen-2.5-14B-MINUS — объединённая методом SLERP модель на архитектуре Qwen2, созданная с помощью mergekit из sometimesanotion/Qwen2.5-14B-Vimarckoso-v3 и djuna/Q2.5-Veltha-14B. Это плотная языковая модель с 14 млрд параметров для диалоговой генерации текста; метаданные также отмечают интерфейс вызова инструментов. Модель работает через Transformers и распространяется в формате safetensors. Модель предназначена для генерации ответов в диалоге и других задач генерации текста. Заявленная длина контекста — 131 072 токена. Сведения о поддерживаемых естественных языках и специализированных областях в предоставленных данных отсутствуют. Условия лицензии в карточке не приведены.
Qwen2.5-VL-7B-Instruct-heretic — модифицированная версия мультимодальной модели Qwen2.5-VL-7B-Instruct, разработанная автором saidutta69 с использованием Heretic v1.4.0. Модель предназначена для работы с текстом и изображениями, а также поддерживает сценарии, связанные с OCR, разбором документов, привязкой объектов на изображении и анализом видео. В карточке указано, что основной язык — английский. Модель сохраняет архитектуру и основные возможности базовой Qwen2.5-VL-7B-Instruct; заявленный нативный размер составляет около 8,3 млрд параметров. Вариант создан методом directional ablation («abliteration»): из весов целенаправленно удалены направления, связанные с отказами в ответах, без дообучения. Поэтому у модели должны в значительной степени сохраняться знания в области vision-language и следование инструкциям базовой модели, но защитные ограничения и фильтрация намеренно ослаблены. Это может быть полезно разработчикам, которым требуется меньше отказов, однако одновременно повышает риск выдачи нежелательного или небезопасного содержимого. Доступны полные веса в формате Safetensors BF16 и текстовые GGUF-квантизации Q4_K_M, Q5_K_M, Q6_K и Q8_0. GGUF-файлы содержат текстовую часть и не включают vision-энкодер, поэтому для полноценной мультимодальной работы следует использовать полные веса Safetensors. Модель совместима с Transformers, llama.cpp, Ollama, LM Studio, Jan, vLLM и SGLang. Лицензия — Apache-2.0, унаследованная от базовой модели.
JANGQ-AI/Qwen3.5-397B-A17B-JANG_1L — версия Qwen3.5-397B-A17B, подготовленная Jinho Jang с применением адаптивной смешанной квантизации JANG для запуска через MLX на компьютерах Mac с Apple Silicon. Модель имеет архитектуру MoE с гибридом GatedDeltaNet и полнослойного внимания: из 397 млрд параметров активны около 17 млрд, используются 512 экспертов на слой и top-10 активных экспертов. Профиль JANG_1L хранит экспертные MLP в 2-битном формате, а внимание, маршрутизаторы и эмбеддинги — в 8-битном; размер файлов составляет около 112 ГБ. Модель предназначена для диалогов, генерации текста и пошаговых рассуждений, а также анализа изображений. В карточке заявлена поддержка VLM и режима reasoning; приведён результат 86,5% на тесте MMLU из 200 вопросов при включённом reasoning, а также скорости генерации и обработки изображений. Для запуска требуется Mac с Apple Silicon и не менее 128 ГБ объединённой памяти, а также MLX Studio или пакет jang[mlx] версии 2.1.5 и выше. Лицензия — Apache-2.0. Это сильно сжатая производная базовой модели, поэтому качество может отличаться от исходной модели и других профилей квантизации; опубликованный результат MMLU основан на ограниченном наборе вопросов. Указанная конфигурация ориентирована на MLX и Apple Silicon, а карточка сообщает о несовместимости формата JANG с LM Studio, Ollama и oMLX.