I.2Синтез, понимание и проверка знаний

UCLA-EMC/Meta-Llama-3.1-8B-AWQ-INT4 — квантизированная версия базовой модели Meta-Llama-3.1-8B, разработанной Meta и подготовленной в формате AWQ сообществом UCLA-EMC. Это авторегрессионная текстовая генеративная модель: принимает текст и генерирует текст. Модель предназначена для локального запуска и задач общего текстового продолжения, включая генерацию кода и другой контент по заданному запросу. Версия является базовой, а не instruction-tuned, поэтому она не оптимизирована специально для диалогового следования инструкциям. Модель имеет размер 8B параметров и квантизацию INT4 с использованием AutoAWQ, GEMM-ядер, zero-point quantization и размером группы 128. Для загрузки контрольной точки требуется около 7,29 ГБ VRAM; модель тестировалась на GPU NVIDIA T4 и может запускаться на менее мощном оборудовании. В README указана поддержка английского языка; размер контекста для самой модели не указан, а параметр fuse_max_seq_len=512 приведён только в примере запуска. Для работы используются Transformers, Accelerate и AutoAWQ. Модель распространяется по лицензии CC BY-NC-4.0, поэтому её применение ограничено условиями этой лицензии, включая некоммерческий характер использования.

Midas-FableAgent-8B-i1-GGUF — GGUF-квантизированная версия модели Midas-FableAgent-8B, разработанной EphAsad и подготовленной к квантизации пользователем mradermacher. Модель обучалась с использованием наборов данных OpenThoughts-Agent-v1-SFT, kelexine/fable-5-sft-traces, Glint-Research/Fable-5-traces и armand0e/claude-fable-5-claude-code. Модель предназначена для англоязычной генерации текста, диалоговых сценариев, reasoning, agentic-задач и взаимодействия с инструментами. В метаданных указаны связи с Qwen3, Unsloth и LoRA, однако точная архитектура и параметры базовой модели в README не описаны. Размер базовой модели составляет 8B; поддерживается английский язык. Информация о контекстном окне и мультимодальных возможностях отсутствует. Главное преимущество репозитория — широкий выбор GGUF-квантизаций с различным балансом между размером, скоростью и качеством, включая варианты от i1-IQ1_S до i1-Q6_K. Более низкие уровни квантизации экономят память, но могут заметно снижать качество; для варианта i1-Q4_K_M заявлены высокая скорость и рекомендованный баланс характеристик. Модель ориентирована на запуск в средах, поддерживающих GGUF, но конкретные требования к оборудованию не указаны. Лицензия — Apache-2.0.

miniclaus-qw1.5B-UNAMGS — компактная языковая модель семейства Qwen2, разработанная fblgit на основе Qwen/Qwen2.5-1.5B-Instruct и дообученная на наборе Magpie-Align/Magpie-Pro-MT-300K-v0.1. Модель предназначена для генерации текста и диалоговых сценариев; в метаданных также заявлен интерфейс для вызова инструментов. Модель имеет плотную архитектуру Qwen2ForCausalLM, содержит 1,5 млрд параметров и поддерживает контекст до 131 072 токенов. В тегах карточки перечислены английский, китайский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский языки. README сообщает об использовании MGS и UNA (MLP) и приводит значение loss 0,7193 на наборе оценки. Модель подходит для многоязычных диалогов и генерации ответов, однако README не раскрывает методику оценки и не уточняет, как MGS и UNA влияют на качество. Лицензия указана как other, поэтому условия использования следует проверять в карточке модели.

DareModels/MiniCpm5-Agent — это объединённая модель генерации текста, созданная с помощью mergekit методом TIES. В качестве базовой использована saidutta69/MiniCPM5-1B-Claude-Opus-Fable5-V2-Thinking-heretic; в объединение также вошли варианты MiniCPM5, настроенные на рассуждения, агентные сценарии и работу с инструментами. Модель содержит 837,6 млн параметров, использует архитектуру LlamaForCausalLM и формат safetensors; заявленная длина контекста — 131 072 токена. Модель предназначена для генерации диалогового текста и агентных сценариев, включая задачи с вызовом инструментов. Она доступна через Transformers. Метаданные и README не сообщают поддерживаемые естественные языки и лицензию, поэтому условия использования по лицензии определить нельзя.

Mixllama3-8x8b-Instruct-v0.1 — экспериментальная разговорная модель с архитектурой Mixture of Experts, опубликованная sherazkhan. По карточке, она объединяет восемь дообученных моделей LLaMA 3 на 8 млрд параметров, каждая из которых специализируется на отдельных задачах. Метаданные указывают архитектуру Mixtral и класс MixtralForCausalLM; общий размер модели — 7,5 млрд параметров, контекст — 8192 токена. Модель предназначена для генерации текста и диалоговых сценариев широкого назначения. В карточке не перечислены конкретные языки, кроме английского в метаданных. Модель может давать неверные или вредоносные ответы; автор отмечает, что это исследовательский эксперимент. Указана лицензия llama3 — Meta Llama 3 Community License.

Lathif25/Model-LLM-Finetuned — дообученная Lathif25 модель генерации текста на основе unsloth/llama-3.1-8b-unsloth-bnb-4bit. Она построена на плотной архитектуре Llama с классом LlamaForCausalLM и предназначена для диалогового общения и генерации текста; в метаданных также заявлен интерфейс вызова инструментов. Модель содержит 7,5 млрд параметров, принимает текст и выдаёт текст. Для английского языка в карточке указан тег en. Размер контекста — до 131 072 токенов. При обучении использовались Unsloth и библиотека TRL от Hugging Face. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка не описывает специализацию дообучения, состав обучающих данных и результаты оценки качества, поэтому пригодность для конкретных задач следует проверять отдельно.

mREBEL-large-32 — многоязычная модель извлечения отношений, разработанная авторами работы REDFM и основанная на REBEL. Она преобразует задачу выделения отношений между сущностями в последовательность текста и может применяться как готовая система извлечения отношений или как отправная точка для дообучения на многоязычных наборах данных.

zelk12/MT1-Gen3-MMMA-gemma-2-9B — чат-модель на основе архитектуры Gemma 2, созданная слиянием двух предварительно обученных языковых моделей с помощью SLERP и mergekit. В репозитории представлены веса в формате safetensors; размер модели составляет 9 млрд параметров, максимальный контекст — 8192 токена. Модель предназначена для генерации текста в диалоговом формате. Модель принимает текст и выдаёт текст. Карточка не уточняет языковой охват, поэтому языки не перечислены. Использование зависит от лицензии базовых моделей; сведения о лицензии в предоставленных данных отсутствуют.

AhmadAfles/my-first-AraGenre — дообученная модель Sentence Transformers на базе U4RASD/NeoAraBERT, разработанная AhmadAfles. Она преобразует предложения и абзацы на арабском языке в плотные векторы размерности 768 и предназначена для поиска и сравнения текстов по косинусному сходству. Модель обучена на 899 парах предложений с использованием MultipleNegativesRankingLoss; максимальная длина входной последовательности — 512 токенов. Модель принимает текст и возвращает векторные представления. Примеры обучающих данных включают разговорный египетский и литературный арабский, но карточка не заявляет отдельную специализацию по диалектам. Она подходит для семантического поиска и поиска похожих предложений. Лицензия в предоставленных данных не указана.

Nemotron-Mini-4B-Instruct — компактная языковая модель NVIDIA для генерации диалоговых ответов и выполнения инструкций. Это дообученная версия nvidia/Minitron-4B-Base, основанной на Nemotron-4 15B и сжатой с помощью прореживания, дистилляции и квантования. Модель содержит 4,3 млрд параметров и построена как авторегрессионный Transformer-декодер с Grouped-Query Attention и RoPE; принимает контекст до 4096 токенов. Модель предназначена для ролевых диалогов, ответов на вопросы по материалам в сценариях RAG и вызова функций. NVIDIA оптимизировала её для быстрого вывода и развёртывания на устройствах; карточка заявляет готовность к коммерческому использованию. Основной язык — английский. Указанная в метаданных лицензия — other, поэтому конкретные условия использования следует сверить с лицензией и условиями NVIDIA.

NeuralDaredevil-8B-abliterated-x2 — объединённая модель для диалоговой генерации текста, созданная с помощью LazyMergekit на основе mlabonne/NeuralDaredevil-8B-abliterated. Она использует плотную архитектуру Llama с 7,5 млрд параметров и рассчитана на контекст до 8192 токенов. Модель принимает текст и генерирует текст; метаданные также отмечают поддержку чата. Веса получены слиянием двух копий одной базовой модели методом dare_ties с параметрами density 0,53 и weight 0,6, маской int8 и типом данных bfloat16. Базовая модель описана как дообученная DPO Llama 3 для диалогов и ролевых сценариев с меньшими поведенческими ограничениями. Репозиторий содержит веса safetensors. Лицензия в предоставленных данных не указана.

NeuroCom v2 4B — разговорная языковая модель, созданная автором FourOhFour при участии нескольких участников Anthracite. Это производная от Minitron модель семейства Llama с плотной архитектурой и примерно 3,9 млрд параметров, дообученная на 100 млн токенов для инструкций и ролевого общения. Автор сообщает о дедупликации обучающих наборов данных и применении шумного обучения для улучшения обобщения; модель позиционируется как универсальный ассистент и модель для ролевых диалогов. Модель генерирует текст в формате общения и поддерживает контекст до 131 072 токенов согласно метаданным. В README указано, что настройка проводилась с контекстом 8 тыс. токенов. Доступны веса в формате Safetensors для Transformers. Лицензия — Apache 2.0.

Nex-N2.5-mini-Mixed-Q2Q3-128K-GGUF — неофициальная смешанная квантизация модели Nex-N2.5-mini, разработанной Nex-AGI. Сборку и квантизацию выпустил пользователь karmx для экспериментов на одной видеокарте RTX 5060 Ti с 16 ГБ памяти. Модель распространяется в формате GGUF и предназначена для запуска через llama.cpp. Модель поддерживает текстовые и визуальные сценарии при использовании отдельного vision projector, включая распознавание текста на одном изображении, структурированный tool calling и задачи программирования. В протестированной конфигурации заявлена общая длина контекста 131 072 токена, включая промпт, токены изображения и генерируемый ответ. Основной файл имеет размер около 13,32 ГБ, проектор — около 0,90 ГБ. Квантизация использует Q2_K для части routed-expert-тензоров, Q3_K для другой части, Q5_K для эмбеддингов и выходных тензоров, а также Q4_K_M для остальных тензоров; vision projector оставлен в F16. Обучение, объединение моделей и pruning не выполнялись. Сильными сторонами являются поддержка большого контекста, vision-возможностей, инструментальных вызовов и запуск на относительно компактной видеокарте. При этом это экспериментальная сборка с ограничениями качества и совместимости: в сравнении с эталонной Q5_K_M зафиксировано снижение результатов на HumanEval+ и MBPP+, а отсутствие регрессий не подтверждено. Надёжность работы с 128K-контекстом, несколькими изображениями, скорость на стандартной сборке llama.cpp и отсутствие выгрузки в CPU-память не гарантируются; проверка проводилась на конкретной версии llama.cpp, ОС, GPU и настройках. Модель распространяется по лицензии Apache-2.0. Для работы с изображениями необходимо скачать оба файла — GGUF-модель и vision projector. Это не официальный релиз Nex-AGI.

Orion-MoE8x7B — базовая предварительно обученная языковая модель компании OrionStar со sparse Mixture of Experts (MoE). Она обучена с нуля на корпусе примерно из 5 трлн токенов; в конфигурации указаны 32 слоя и скрытый размер 4096, а метаданные сообщают 7,5 млрд параметров и контекст до 8192 токенов. Модель предназначена для генерации текста, включая продолжение запросов и генерацию кода. Обучающий корпус включает английский, китайский, японский, корейский и другие языки. В README заявлены сильные результаты в многоязычных оценках, особенно для японского и корейского, а разреженная архитектура, по словам разработчика, ускоряет вывод относительно плотных моделей сопоставимого масштаба. Это базовая модель: карточка сообщает, что отдельная instruction-модель планируется к выпуску, поэтому из неё не следует ожидать специализированного поведения чат-ассистента без дополнительной настройки. В README приведены инструкции по инференсу через PyTorch и vLLM. Лицензия в предоставленных материалах не указана.

LuffyTheFox/Ornith1.5-35B-A3B-Genesis-Hermes-GGUF — экспериментальная мультимодальная модель в формате GGUF, созданная на основе Ornith-1.5-35B-A3B от ornith-ai. В её основу также перенесены данные из Hermes-файнтюна DJLougen/hermes-qwen3.5-35b-a3b-GGUF, ориентированного на агентские сценарии и вызов функций. Релиз относится к проекту Genesis, автор которого заявляет о посттренировочной численной обработке весов без дополнительного обучения; эти заявления не подтверждены независимыми оценками в представленном описании. Модель предназначена для генерации текста и обработки изображений с текстовыми инструкциями, а также для диалогов, программирования, агентских задач и function calling. Заявлены поддержка английского и китайского языков, а также многоязычность. Архитектура — Mixture of Experts с общим размером около 35 млрд параметров и примерно 3 млрд активных параметров; точный размер контекста в README не указан. К потенциальным сильным сторонам относятся мультимодальность, MoE-архитектура и ориентация на следование инструкциям и агентские рабочие процессы. Модель экспериментальная, а заявленные улучшения стабильности, снижения шумов и качества не сопровождаются результатами бенчмарков, поэтому фактическую производительность следует проверять самостоятельно. Для запуска рекомендуется использовать совместимый GGUF-движок; README также содержит настройки для GPU-offload, MoE и KV-кэша. Указана лицензия MIT.

Модель arefehRajabian/phi_finetune_16bit — дообученная автором arefehRajabian разговорная языковая модель для генерации текста. Она основана на unsloth/phi-4-bnb-4bit; карточка сообщает об обучении с помощью Unsloth и библиотеки TRL. В репозитории представлены веса Safetensors, размер модели — 14,1 млрд параметров, контекст — до 16 384 токенов. Модель поддерживает английский язык и предназначена для диалогового взаимодействия и генерации текста. Лицензия — Apache-2.0. Карточка не уточняет специализацию дообучения и его результаты.

phixtral-2x2_8 — языковая модель с архитектурой Mixture of Experts, созданная Mlabonne из двух моделей Microsoft Phi-2. Она объединяет cognitivecomputations/dolphin-2_6-phi-2 и lxuechen/phi-2-dpo с помощью модифицированной версии mergekit и вдохновлена архитектурой Mixtral-8x7B. Автор сообщает, что модель превосходит каждого из отдельных экспертов; в README также приведены результаты оценки на наборе Nous suite. Модель предназначена для генерации текста в диалогах и задач с кодом. Она принимает текст и генерирует текст, поддерживает английский язык и имеет контекстное окно 2048 токенов. Репозиторий содержит веса в формате safetensors; указана лицензия MIT. Для модели предлагается запуск в 4-битной точности на GPU T4.

thang1943/phobert-base-v2-c-loss — модель Sentence Transformers, дообученная автором на базе вьетнамского энкодера vinai/phobert-base-v2. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для сравнения семантической близости с помощью косинусного сходства. Архитектура включает RoBERTa-энкодер с усреднением токенных представлений; модель содержит 162,4 млн параметров и обрабатывает последовательности длиной до 256 токенов по README и до 258 токенов по метаданным. Модель предназначена для поиска семантически похожих текстов, поиска перефразировок, кластеризации, классификации текста и задач информационного поиска. Базовый PhoBERT ориентирован на вьетнамский язык, поэтому основное применение этой модели — вьетнамские предложения и документы. В карточке приведены результаты оценки информационного поиска, но данных недостаточно, чтобы установить их переносимость на другие наборы данных. Репозиторий использует библиотеку sentence-transformers и формат safetensors; лицензия в предоставленных данных не указана.

radlab/polish-cross-encoder — модель перекрёстного ранжирования польскоязычных текстов, опубликованная пользователем или организацией radlab. Она предназначена для оценки релевантности пары текстов и сортировки кандидатов по соответствию запросу; метаданные также указывают поддержку классификации текста. Модель построена на архитектуре RoBERTa с классификационной головой RobertaForSequenceClassification и содержит около 533,7 млн параметров. Для работы с ней указана библиотека sentence-transformers; контекст — до 514 токенов. Модель ориентирована на польский язык и обучена с использованием radlab/polish-sts-dataset. Её можно применять для поиска и ранжирования польских документов, например как этап reranking в поисковой системе. Репозиторий содержит веса PyTorch и safetensors. Лицензия — CC BY-SA 4.0; README содержит лишь заголовок и пример использования, поэтому подробностей о методике обучения и оценке качества в нём нет.

mergekit-community/Qwen2-1.5B-RHSD — объединённая модель на архитектуре Qwen2, созданная сообществом с помощью mergekit методом Model Stock. В основе объединения лежит trollek/Qwen2-1.5B-Instruct-Abliterated; также использованы Replete-AI/Replete-Coder-Qwen2-1.5b, cognitivecomputations/dolphin-2.9.3-qwen2-1.5b, macadeliccc/Samantha-Qwen2-1.5B и M4-ai/Hercules-5.0-Qwen2-1.5B. Модель содержит 1,5 млрд параметров и рассчитана на генерацию текста и диалоговое взаимодействие. Модель использует плотную архитектуру Qwen2 с классом Qwen2ForCausalLM, работает через библиотеку Transformers и хранится в формате safetensors. Заявленная длина контекста — 32 768 токенов. Объединённые модели ориентированы на инструкции, программирование и диалог, однако README не приводит оценок качества или подробных результатов тестирования. Язык модели отдельно не описан в карточке и метаданных. Условия лицензирования в предоставленных данных не указаны.

Эта модель — дообученная anggapradana версия языковой модели Qwen2.5-1.5B-Instruct-bnb-4bit от Unsloth. Она использует плотную архитектуру Qwen2 и предназначена для генерации текста и диалоговых сценариев. Модель содержит 1,5 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. В карточке указано, что для обучения использовались Unsloth и библиотека TRL; данных о специальной области применения или отдельной оценке качества нет.

unsloth/Qwen2.5-1.5B-bnb-4bit — 4-битная версия базовой языковой модели Qwen2.5-1.5B, подготовленная Unsloth на основе Qwen/Qwen2.5-1.5B, разработанной командой Qwen. Модель предназначена для генерации и продолжения текста, а также для последующего дообучения под прикладные задачи. Для диалогового использования базовая версия не рекомендуется без дополнительного post-training, например SFT, RLHF или продолжения предобучения. Модель относится к causal language models и содержит около 1,54 млрд параметров, из которых 1,31 млрд не являются параметрами эмбеддингов. Архитектура включает RoPE, SwiGLU, RMSNorm, bias в attention QKV и связанные эмбеддинги слов; используется 28 слоёв и Grouped Query Attention с 12 головами Q и 2 головами KV. Полная длина контекста составляет 32 768 токенов. Заявлена поддержка более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. К сильным сторонам относятся небольшой размер, поддержка нескольких языков и пригодность для эффективного дообучения и развёртывания при ограниченных ресурсах благодаря 4-битному представлению. Модель также наследует заявленные для Qwen2.5 улучшения в кодировании, математике, следовании инструкциям и работе со структурированными данными, однако конкретные результаты для этой версии в README не приведены. Ограничения включают базовый, а не instruction-tuned характер модели, контекст до 32 768 токенов и возможные потери качества, связанные с 4-битной квантизацией. Лицензия — Apache-2.0.

mlx-community/Qwen2.5-1.5B-Instruct-bf16 — конверсия в формат MLX модели Qwen/Qwen2.5-1.5B-Instruct, выполненная сообществом mlx-community с помощью mlx-lm версии 0.18.1. Это плотная авторегрессионная языковая модель семейства Qwen2.5 с 1,5 млрд параметров, предназначенная для генерации текста в диалоговом режиме и вызова инструментов через соответствующий интерфейс. Она принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов и ориентирована на английский язык. Репозиторий содержит веса safetensors; для использования с MLX в README приведена установка mlx-lm. Лицензия — Apache-2.0.

thirdeyeai опубликовал инструкционно дообученную текстовую модель генерации на основе Qwen2.5-Coder-1.5B-Instruct. Она предназначена для диалогового взаимодействия и генерации текста; в метаданных также указаны интерфейс вызова инструментов, 1,5 млрд параметров, архитектура Qwen2 с плотной сетью, библиотека Transformers и контекст до 32 768 токенов. Карточка Hugging Face автоматически сгенерирована и не описывает конкретные сценарии применения, языки обучения или проведённые оценки качества. Лицензия в доступной карточке не указана.

Qwen2-VL-7B-Instruct-GGUF — мультимодальная instruction-tuned модель семейства Qwen2-VL, разработанная Qwen и представленная в формате GGUF компанией Second State Inc. Модель предназначена для обработки изображений и текста, включая сценарии image-text-to-text, где требуется отвечать на вопросы по изображению или учитывать визуальный контекст в диалоге. В README также указана совместимость с LlamaEdge и prompt template qwen2-vision. Модель основана на Qwen/Qwen2-VL-7B-Instruct и имеет размер 7B параметров. Поддерживается контекст до 128 000 токенов. Для работы с визуальными данными используется отдельный vision encoder в формате GGUF; доступны варианты квантования от 2 до 8 бит, а также f16. Размер файлов составляет примерно от 3,02 до 15,2 ГБ для основных вариантов квантования, при этом Q4_K_M рекомендован как сбалансированный вариант, а Q5_K_M и Q5_K_S — как варианты с очень малой потерей качества. К сильным сторонам относятся мультимодальность, большой контекст и возможность локального запуска через LlamaEdge. Ограничения зависят от выбранного уровня квантования: малобитные варианты занимают меньше места, но могут существенно терять в качестве; Q2_K, Q3 и некоторые legacy-варианты в README не рекомендуются для большинства задач. Указан английский язык. Модель распространяется по лицензии Apache-2.0.

JadwalAlmaa представил дообученную языковую модель Qwen3 с архитектурой Qwen3ForCausalLM и примерно 508 млн параметров. Она предназначена для генерации текста и диалогового общения; в метаданных также отмечен интерфейс вызова инструментов. Модель дообучена на основе unsloth/qwen3-0.6b-unsloth-bnb-4bit с использованием Unsloth и библиотеки TRL от Hugging Face. Модель принимает текст и генерирует текст, поддерживает контекст длиной до 40 960 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0.

Модель luigisaetta/qwen3-1.7b-lora-merged — версия Qwen3-1.7B с объединённым локальным LoRA-адаптером, опубликованная как самостоятельная модель Transformers. Она предназначена для генерации текста и диалогов; метаданные отмечают поддержку чата. Модель плотной архитектуры Qwen3ForCausalLM содержит 1,7 млрд параметров и поддерживает контекст до 40 960 токенов. Языковые возможности унаследованы от многоязычной базовой Qwen3, однако целевые языки и конкретные улучшения дообучения не описаны. Модель основана на Qwen/Qwen3-1.7B и сохранена в формате safetensors. LoRA-адаптер слит с базовыми весами, поэтому для использования не требуется отдельно подключать адаптер. Лицензия — Apache-2.0. Данные дообучения приватны и в репозитории отсутствуют; перед распространением следует проверить поведение дообученной модели и лицензионные условия базовой модели.

unsloth/Qwen3.5-2B — постобученная мультимодальная модель от Unsloth на базе Qwen/Qwen3.5-2B. Она сочетает причинную языковую модель с визуальным энкодером и предназначена для диалогов, понимания изображений и вызова инструментов. Модель содержит 2 млрд параметров, использует гибридную архитектуру с Gated Delta Networks и Gated Attention и поддерживает контекст до 262 144 токенов. Модель подходит для прототипирования, разработки и специализированного дообучения; её можно запускать через Transformers, vLLM, SGLang и KTransformers. Qwen3.5 заявляет поддержку 201 языка и диалекта, однако в карточке нет списка языков, специфичного для этой версии. Модель работает в режиме без рассуждений по умолчанию; авторы также описывают режим рассуждений и возможности работы с видео в составе семейства Qwen3.5. Весовые файлы представлены в формате Safetensors. Лицензия — Apache-2.0. Масштаб в 2 млрд параметров делает модель удобной для экспериментов и настройки под конкретные задачи, но карточка рекомендует прежде всего прототипирование и разработку; производительность и пропускная способность зависят от инфраструктуры и выбранного движка.

Это пакет GGUF с весами Qwen3.5-35B-A3B-UD-Q4_K_XL, подготовленный Mesh LLM для распределённого инференса. Он создан на основе unsloth/Qwen3.5-35B-A3B-MTP-GGUF: исходный файл модели разделён на артефакты по слоям для запуска на нескольких узлах локального кластера Mesh LLM. Модель предназначена для генерации текста и диалогов, локального приватного запуска и обслуживания запросов через совместимый с OpenAI API интерфейс Mesh LLM. Вариант UD-Q4_K_XL использует формат GGUF; исходная модель относится к семейству Qwen3. README не приводит размер модели в параметрах, длину контекста или поддерживаемые языки. Для запуска требуется Mesh LLM и доступ к узлам, предоставляющим вычисления и память. Условия лицензии следует сверить с карточкой исходной модели.

Это дообученная компанией Qwen модель Qwen3.5-4B, опубликованная пользователем LLADIGA. Модель с плотной архитектурой Qwen3_5ForCausalLM содержит 3,4 млрд параметров и предназначена для генерации текста в диалоговом формате. В карточке приведён пример ответа на открытый вопрос; модель обучена с использованием TRL и запускается через Transformers. Модель подходит для диалоговых сценариев и генерации текстовых ответов. Для базовой модели каталога указаны мультимодальное понимание изображений, рассуждения и вызов инструментов, но карточка этой производной версии не подтверждает эти возможности отдельно. Контекстное окно составляет до 262 144 токенов. Репозиторий использует формат safetensors; лицензия в предоставленных данных не приведена.