I.6Перевод и языковая адаптация

Это диалоговая языковая модель на базе Meta Llama 3.1 8B Instruct, дообученная автором репозитория ferrazzipietro на неизвестном наборе данных. Модель использует плотную архитектуру LlamaForCausalLM, содержит около 7,5 млрд параметров и предназначена для генерации текста и ведения диалога по инструкциям. Карточка не описывает отдельные специализированные сценарии дообучения. Модель принимает текст и выдаёт текст; заявленная длина контекста — 131 072 токена. Репозиторий использует библиотеку Transformers и формат safetensors. Базовая модель поддерживает многоязычные диалоги, однако README этой версии явно не перечисляет языки. Лицензия — Llama 3.1; применяются её условия использования.

Карточка модели Justbackup/Llama3.3-8B-Instruct-Thinking-Heretic-Uncensored-Claude-4.5-Opus-High-Reasoning на Hugging Face совпадает с карточкой DavidAU/Llama3.3-8B-Instruct-Thinking-Heretic-Uncensored-Claude-4.5-Opus-High-Reasoning, поэтому описание составлено по ней. Это дообученная DavidAU модель семейства Llama 3.3 на 7,5 млрд параметров для диалогов, следования инструкциям и генерации текста с режимом рассуждений. Автор сообщает, что дообучил вариант Llama 3.3 8B Instruct через Unsloth на датасете Claude 4.5 Opus High Reasoning; перед этим модель была модифицирована для снижения отказов. В карточке также заявлено восстановление контекста до 128 тысяч токенов. Модель предназначена для ответов на запросы, пошаговых рассуждений и творческого письма, включая рассказы, ролевые диалоги и хоррор. Автоматическая активация режима рассуждений зависит от формулировки запроса; для желаемого уровня откровенности или ненормативной лексики автор рекомендует явно задавать стиль и лексику. Указаны поддержка нескольких языков, включая русский, и лицензия Apache-2.0. Это текстовая модель, опубликованная в формате Safetensors для Transformers.

Карточка модели sureshnam9/Llama-4-Maverick-17B-128E-Instruct-FP8 на Hugging Face совпадает с карточкой meta-llama/Llama-4-Maverick-17B-128E-Instruct, поэтому описание составлено по ней. Llama 4 Maverick Instruct — мультимодальная модель Meta для диалогов и задач понимания изображений. Это авторегрессионная модель с архитектурой смеси экспертов (MoE) и ранним объединением модальностей; в варианте Maverick используются 17 млрд параметров и 128 экспертов. Модель предназначена для чат-ассистентов и визуальных задач: распознавания и анализа изображений, составления описаний и ответов на вопросы по изображению. Она поддерживает арабский, немецкий, английский, испанский, французский, хинди, индонезийский, итальянский, португальский, тайский, тагальский и вьетнамский языки. Проверено понимание до пяти входных изображений; для большего числа изображений требуется дополнительная проверка в конкретном приложении. Модель разработала Meta. Репозиторий содержит дообученную версию базовой Llama 4 Maverick, распространяемую в формате Safetensors. Использование регулируется пользовательской коммерческой лицензией Llama 4 Community License и Acceptable Use Policy.

KaraKaraWarehouse/Llama-ProgressPushDoll-3.3-70Bees — диалоговая языковая модель на архитектуре Llama, созданная объединением нескольких моделей семейства Llama 3.3 70B методом Model Stock. В качестве основы использована Llama-3.3-70B-Instruct; среди объединённых моделей — Mirai, Euryale, Anubis, Sushi и другие варианты Llama 3.3. Модель содержит 69,5 млрд параметров и принимает текстовые запросы для генерации текста и диалоговых ответов. Модель рассчитана на общие беседы и генерацию текста. В README указана совместимость с форматами запросов ChatML и L3 chat. Метаданные сообщают о контекстном окне до 131 072 токенов и формате весов safetensors. Автор описывает сборку как попытку получить модель, которая хорошо работает «из коробки», однако количественные оценки качества и отдельные специализированные возможности не приведены. Использование регулируется лицензией базовой модели Llama 3.3; конкретный идентификатор лицензии в предоставленных данных не указан.

M7Yamshadowexperiment28_ShadowNeuralsirkrishna — объединённая языковая модель на архитектуре Mistral, созданная слиянием automerger/M7Yamshadowexperiment28-7B и automerger/ShadowNeuralsirkrishna-7B. Модель содержит 7,1 млрд параметров, распространяется в формате safetensors и предназначена для генерации текста и диалогов с контекстом до 32 768 токенов. Модель может использоваться для составления и продолжения текстов, ответов в диалоге и других задач генерации текста. Репозиторий предоставляет веса по лицензии Apache-2.0. README не приводит сравнительных оценок качества или дополнительных сведений о специализации модели.

M7Yamshadowexperiment28_YamExperiment26 — объединённая языковая модель на архитектуре Mistral, созданная на основе automerger/M7Yamshadowexperiment28-7B и automerger/YamExperiment26-7B. Она предназначена для генерации текста. Модель содержит 7,1 млрд параметров, принимает текстовый ввод и поддерживает контекст до 32 768 токенов. Веса опубликованы в формате safetensors. Репозиторий распространяется по лицензии Apache-2.0.

Marco-o1-GGUF — набор квантованных версий языковой модели Marco-o1, разработанной AIDC-AI. Релиз подготовлен пользователем bartowski в формате GGUF с использованием llama.cpp и imatrix-квантизации. Модель предназначена для генерации текста и локального запуска, в частности через LM Studio, с применением специального шаблона prompt format на основе тегов system, user и assistant. Доступны варианты от исходных весов f32 размером 30,47 ГБ до квантовок IQ2_M размером 2,78 ГБ. Рекомендуемыми указаны версии Q4_K_M, Q5_K_M, Q5_K_S, Q5_K_L, Q6_K и Q6_K_L; старшие варианты обеспечивают более высокое качество, а младшие требуют меньше оперативной памяти, но заметно уступают по качеству. Для некоторых версий предусмотрены оптимизации под ARM и AVX, однако отдельные ARM-варианты не следует использовать на Mac или с GPU согласно описанию. README не содержит сведений об архитектуре, числе параметров, контекстном окне, поддерживаемых языках, обучающих данных или специализированных сценариях применения, поэтому эти характеристики нельзя достоверно указать. Лицензия модели обозначена как Apache-2.0. Качество и требования к ресурсам зависят от выбранного уровня квантизации.

MARS-v0.2 — разговорная языковая модель Curiosity Technology, дообученная методом LoRA на базе Meta Llama 3.1 8B Instruct. Веса содержат около 7,5 млрд параметров, архитектура — плотная LlamaForCausalLM, формат — safetensors; модель поддерживает контекст до 131 072 токенов и предназначена для генерации текста в диалоговом режиме. Модель обучали на внутренних и переведённых открытых турецких наборах данных, уделив больше внимания математическим данным. Она предназначена для общения на турецком языке, решения математических задач и рассуждений; метаданные также указывают английский язык и интерфейс вызова инструментов. Для использования применяются Transformers pipeline или AutoModelForCausalLM. Лицензия — Llama 3 Community License.

MeliodasPercival_01_Experiment26Inex12 — объединённая автором репозитория MaziyarPanahi языковая модель на архитектуре Mistral с 7,1 млрд параметров. Она объединяет модели automerger/MeliodasPercival_01-7B и automerger/Experiment26Inex12-7B и предназначена для генерации текста и диалогов. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. Веса опубликованы в формате safetensors; лицензия — Apache-2.0. README не описывает специальные области применения или результаты оценки качества.

MaziyarPanahi/MeliodasPercival_01_ShadowYam — объединённая модель Mistral с 7,1 млрд параметров для генерации текста. Она создана слиянием automerger/MeliodasPercival_01-7B и automerger/ShadowYam-7B и предназначена для задач генерации текста на основе входного текста. Архитектура — плотная MistralForCausalLM; модель принимает контекст длиной до 32 768 токенов и распространяется в формате safetensors. Модель поддерживает генерацию текста общего назначения. Информация о языковой специализации и отдельных сильных сторонах в карточке не приводится. Лицензия — Apache-2.0.

MeliodasT3qm7_Strangemerges_32T3qm7xp — слитая авторами репозитория модель на архитектуре Mistral для генерации текста. Она объединяет automerger/MeliodasT3qm7-7B и automerger/Strangemerges_32T3qm7xp-7B; размер составляет 7,1 млрд параметров, а контекст — до 32 768 токенов. Модель принимает текст и генерирует текст. Модель подходит для диалоговых и иных задач генерации текста общего назначения. Репозиторий распространяет веса в формате safetensors по лицензии Apache-2.0. В карточке не описаны специальные предметные области или дополнительные возможности.

Exveria/merge003 — объединённая языковая модель, созданная с помощью mergekit методом TIES на основе amazingvince/Not-WizardLM-2-7B с включением TFMC/Japanese-Starling-ChatV-7B. Это плотная модель семейства Mistral с архитектурой MistralForCausalLM, примерно 7,1 млрд параметров и контекстом до 32 768 токенов. Она предназначена для генерации текста и диалоговых сценариев; базовая Japanese-Starling-ChatV-7B ориентирована на японский язык, однако сведения о языковой поддержке итоговой модели в карточке не уточнены. Модель распространяется в формате safetensors и использует библиотеку Transformers. Веса сохранены в float16. Лицензия в предоставленных данных не указана, поэтому условия использования определить нельзя.

MiniCPM5-1B-CoreAI — это версия языковой модели MiniCPM5-1B, разработанной OpenBMB и экспортированной в формат Apple Core AI. Модель предназначена для генерации текста и диалоговых сценариев с полностью локальным выполнением на iPhone и компьютерах Apple Silicon, включая офлайн-ассистентов, суммаризацию и многотуровые чаты. В каталоге Core AI она запускается через CoreAIKit или напрямую средствами Core AI. Модель содержит около 1,08 млрд параметров, поддерживает гибридный режим рассуждений Think/No-Think и контекст до 128K токенов. Представленная версия использует квантизацию int8 с блоками размера 32; для Neural Engine также доступна 8-битная палетизированная сборка с группами по 32. Размер загружаемого пакета составляет около 1,1 ГБ, а сборка для iPhone 17-класса занимает около 1,3 ГБ. Указаны измерения производительности на iPhone 17 Pro: до 76,8 токена в секунду при декодировании в отдельных тестах Neural Engine. Сильные стороны модели — небольшой размер, работа без отправки данных в облако, поддержка длинного контекста и эффективное выполнение на GPU или Neural Engine. Ограничения связаны с привязкой к экосистеме Apple и Core AI, а также с тем, что характеристики зависят от устройства, режима запуска и конкретной сборки. Языки и полный перечень поддерживаемых возможностей в предоставленных данных не указаны. Модель распространяется по лицензии Apache-2.0.

Felldude/Ministral-3-8B-Uncensored-FP8 — мультимодальная модель на архитектуре Mistral 3, дообученная на задачах, связанных с изображениями и текстом. Она включает языковую часть на 8,4 млрд параметров и визуальный энкодер на 0,4 млрд параметров и предназначена для понимания изображений и генерации текстовых ответов. Модель поддерживает многоязычные сценарии, следование системным инструкциям, вызов функций и выдачу структурированного JSON; заявлено контекстное окно 256 тыс. токенов и оптимизация для запуска на периферийных устройствах. Основные сценарии — описание изображений, извлечение текста и данных с изображений, классификация текста и мультимодальные ассистенты. В README также заявлены перевод в реальном времени и применение для NSFW-контента, включая подписи к изображениям и генерацию историй и ответов. Для запуска приведён пример на Transformers с CUDA. Модель распространяется по лицензии Apache 2.0; качество заявленных возможностей независимо не подтверждено карточкой.

Miqu-MS-70B — объединённая модель генерации текста, созданная автором репозитория Undi95 методом Model Stock с помощью mergekit. В основе слияния лежит 152334H/miqu-1-70b-sf; также объединены Tess-70B-v1.6, MiquMaid-v2-70B и Midnight-Miqu-70B-v1.0. Модель семейства Llama имеет плотную архитектуру LlamaForCausalLM и 68,7 млрд параметров. Она предназначена для генерации текста и диалогов; в README приведены варианты шаблонов запросов Alpaca, Mistral и Vicuna. Контекст составляет 32 764 токена. Доступны веса в формате safetensors, а для модели также упомянуты сторонние квантованные варианты. Репозиторий распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. README не приводит результатов сравнительной оценки качества; поскольку модель объединяет компоненты с разными форматами запросов, автор предлагает несколько шаблонов промптов.

MOSS-Transcribe-Diarize LiteRT — это порт модели OpenMOSS-Team/MOSS-Transcribe-Diarize, опубликованный Luigi и предназначенный для автоматического распознавания речи с одновременной диаризацией говорящих и разметкой временных интервалов высказываний. Модель обрабатывает аудио и генерирует текст с тегами говорящих и временными метками; заявлены поддерживаемые языки Chinese и English. Архитектура объединяет Whisper-medium encoder, модуль VQAdaptor и 4-кратное объединение временных отсчётов с языковой частью на базе Qwen3-0.6B. Исходная модель имеет размер около 0,9 млрд параметров. Реализация LiteRT разделена на encoder, embedder и decoder в формате TFLite; производственный набор использует int8-квантизированные encoder и embedder и int4 decoder. Доступны варианты f32, fp16, q8 и int4, включая конфигурации с KV cache для окон длительностью примерно до 90 секунд или более, в зависимости от варианта. Сильные стороны модели — единый конвейер распознавания речи и определения говорящих, точное соответствие эталонной PyTorch-реализации для f32-варианта и высокая близость к ней для квантизированных версий. Версия v2 с QAT повышает устойчивость int4-модели к тишине и устраняет зацикленные галлюцинации на беззвучных фрагментах. Ограничения включают заметные требования к памяти и вычислительным ресурсам, зависимость производительности от явной настройки числа CPU-потоков и снижение точности при агрессивной квантизации. Для Android GPU рекомендуется fp16, а для CPU — q8 или int4. Лицензия Apache-2.0.

simran14/mr-val-f2 — дообученная модель распознавания речи на архитектуре Whisper, разработанная на базе simran14/mr-val-e. Она предназначена для преобразования аудиозаписей в текст; в метаданных указан датасет Common Voice 17.0. Модель содержит 153,1 млн параметров и распространяется в формате Safetensors. В README приведён результат оценки WER 0,5368 на тестовом наборе, однако подробности протокола оценки и условия применения не описаны. Лицензия в предоставленных данных не указана.

GiordanoB/mT5_multilingual_XLSum-finetuned-summarization — модель семейства mT5, дообученная на основе csebuetnlp/mT5_multilingual_XLSum. Она предназначена для автоматического суммирования текста. Модель содержит 291,2 млн параметров и распространяется в формате PyTorch. Карточка не содержит сведений о наборе данных для дополнительного дообучения, оценке качества и конкретных ограничениях. mT5 поддерживает несколько языков, однако языки и сценарии, проверенные именно для этой версии, не описаны. Лицензия в предоставленных данных не указана.

Learner-sai/muril-ner-multilingual-v2 — модель для классификации токенов, дообученная на базе google/muril-base-cased. Архитектура — BERT с 264,8 млн параметров; модель принимает текст и выдаёт метки для его токенов. Контекст ограничен 512 токенами. По названию репозитория модель предназначена для распознавания именованных сущностей в многоязычном тексте. В README указаны результаты на оценочном наборе: F1 0,7682, точность 0,7501 и полнота 0,7872; набор данных обозначен как None, поэтому языковой охват и состав сущностей определить нельзя. Лицензия — Apache-2.0.

Карточка модели birgermoell/oellm-9b-256k-theta64m-prelude на Hugging Face совпадает с карточкой openeurollm/oellm-9b-256k-theta64m-prelude, поэтому описание составлено по ней. OELLM 9B — 256K context (ABF, θ=64M) — prelude — базовая плотная языковая модель OpenEuroLLM на архитектуре Qwen3. Это продолжение предобучения модели prelude с контекстным окном до 262 144 токенов; модель не настроена для следования инструкциям. В README указаны 9B параметров, тогда как метаданные Hugging Face указывают 8B. Модель поддерживает 37 европейских языков, включая английский, немецкий, французский, испанский, польский и украинский; метаданные подтверждают языковые теги для части этого набора. Модель предназначена для генерации продолжений и работы с длинными текстами, в том числе поиска сведений на разных позициях в контексте до 256K токенов. По оценке single-needle NIAH из README, результат на 256K составил 90% на 185 испытаниях в семи языках; более широкая оценка RULER ещё не проводилась. Для обработки контекста 256K требуется несколько GPU. Для такого режима README рекомендует сохранять rope_theta=64000000 и max_position_embeddings=262144. Модель распространяется по лицензии Apache-2.0. Поскольку это базовая модель без инструкционной настройки, она ориентирована на продолжение текста, а не на диалоговое следование запросам; также отмечен умеренный эффект «потери в середине» контекста.

OELLM 9B — 256K context (ABF, θ=64M) — prelude — базовая плотная языковая модель OpenEuroLLM на архитектуре Qwen3. Это продолжение предобучения модели prelude с контекстным окном до 262 144 токенов; модель не настроена для следования инструкциям. В README указаны 9B параметров, тогда как метаданные Hugging Face указывают 8B. Модель поддерживает 37 европейских языков, включая английский, немецкий, французский, испанский, польский и украинский; метаданные подтверждают языковые теги для части этого набора. Модель предназначена для генерации продолжений и работы с длинными текстами, в том числе поиска сведений на разных позициях в контексте до 256K токенов. По оценке single-needle NIAH из README, результат на 256K составил 90% на 185 испытаниях в семи языках; более широкая оценка RULER ещё не проводилась. Для обработки контекста 256K требуется несколько GPU. Для такого режима README рекомендует сохранять rope_theta=64000000 и max_position_embeddings=262144. Модель распространяется по лицензии Apache-2.0. Поскольку это базовая модель без инструкционной настройки, она ориентирована на продолжение текста, а не на диалоговое следование запросам; также отмечен умеренный эффект «потери в середине» контекста.

OpenBuddy 由 OpenBuddy 团队开发，是基于 Meta Llama 3 的多语言聊天模型，底座为 Llama-3-8B-Instruct。 Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, рассчитанная на генерацию текста в формате диалога; карточка указывает контекст до 131 072 токенов. Репозиторий содержит веса в формате safetensors и предназначен для использования с Transformers или vLLM. Модель подходит для диалоговых ответов и генерации текста на английском и китайском языках; в метаданных также перечислены французский, немецкий, японский, корейский, итальянский и финский. Карточка описывает формат промптов и возможность развернуть API, совместимый с OpenAI, через vLLM. Лицензия обозначена как other, а README ссылается на условия использования и предупреждения OpenBuddy. Модель может выдавать ошибочные, вредные или оскорбительные ответы. Разработчики предостерегают от применения в критических и высокорисковых сценариях, включая медицину и важные финансовые или юридические решения; качество генерации на перечисленных в метаданных дополнительных языках отдельно не охарактеризовано.

OpenCrystal-15B-L3-v2-GGUF — это набор GGUF-квантизаций языковой модели OpenCrystal-15B-L3-v2, разработанной Darkknight535 и сконвертированной и квантизированной пользователем bartowski с использованием llama.cpp. Модель предназначена для генерации текста и локального запуска через совместимые приложения, включая LM Studio. Доступны варианты от полноразмерных весов F16 объёмом около 30 ГБ до более компактных форматов Q2–Q8 и IQ. Версии с более высокой точностью обеспечивают качество, близкое к исходной модели, а варианты с меньшим размером рассчитаны на системы с ограниченными ресурсами; отдельные Q4_0-варианты оптимизированы для ARM и CPU-инференса. Модель относится к классу примерно 15-миллиардных параметров и использует текстовую модальность. README не содержит сведений о поддерживаемых языках, длине контекста, точной архитектуре, обучающих данных или результатах бенчмарков. Сильной стороной набора является широкий выбор компромиссов между качеством, размером и скоростью локального запуска, включая рекомендуемые варианты Q4–Q6. Ограничения зависят от выбранного уровня квантизации: компактные варианты могут заметно терять качество, а высокоточные требуют значительного объёма памяти. Лицензия в предоставленном README не указана, поэтому условия использования необходимо уточнить в карточке исходной модели.

Orion-MoE8x7B — базовая предварительно обученная языковая модель компании OrionStar со sparse Mixture of Experts (MoE). Она обучена с нуля на корпусе примерно из 5 трлн токенов; в конфигурации указаны 32 слоя и скрытый размер 4096, а метаданные сообщают 7,5 млрд параметров и контекст до 8192 токенов. Модель предназначена для генерации текста, включая продолжение запросов и генерацию кода. Обучающий корпус включает английский, китайский, японский, корейский и другие языки. В README заявлены сильные результаты в многоязычных оценках, особенно для японского и корейского, а разреженная архитектура, по словам разработчика, ускоряет вывод относительно плотных моделей сопоставимого масштаба. Это базовая модель: карточка сообщает, что отдельная instruction-модель планируется к выпуску, поэтому из неё не следует ожидать специализированного поведения чат-ассистента без дополнительной настройки. В README приведены инструкции по инференсу через PyTorch и vLLM. Лицензия в предоставленных материалах не указана.

Emese-Patak — языковая модель семейства Emese, разработанная emese-tech на базе EuroLLM-9B. Это плотная LLaMA-подобная авторегрессионная модель с 9,15 млрд параметров и контекстом 32 768 токенов; она принимает текст и генерирует текст. Модель прошла продолженное предобучение на венгерском корпусе, настройку на инструкции и DPO-выравнивание. Доступна в формате bf16 Safetensors для Transformers и MLX; лицензия — Apache-2.0. Patak предназначена прежде всего для диалогов и выполнения инструкций на венгерском языке, включая ответы на вопросы, длинные тексты, чтение и анализ, программирование и задачи с несколькими условиями. По карточке модели, она также показывает хорошие результаты на английском языке. Разработчик сообщает о сильных результатах на собственных бенчмарках и высокой доле отказов на проверке безопасности. Ограничения включают возможные фактические ошибки в редких именах и датах, слабую многошаговую математику, пространственные оценки, отладку кода и доработку ответов по новым условиям в ходе диалога. Качество на других языках унаследовано от EuroLLM-9B. Разработчик предупреждает о снижении результатов при запуске через llama.cpp/GGUF и рекомендует Transformers или MLX.

unsloth/Qwen3-4B-Base — плотная авторегрессионная языковая модель семейства Qwen3, представленная Unsloth как производная от Qwen/Qwen3-4B-Base. Это базовая модель на стадии предобучения с примерно 3,7 млрд параметров по метаданным (в карточке указано 4,0 млрд) и контекстом до 32 768 токенов. В архитектуре 36 слоёв и групповое внимание с 32 головами запросов и 8 головами ключей и значений. Модель предназначена для генерации текста и служит основой для последующей адаптации под конкретные инструкции и сценарии. Предобучение Qwen3 охватывает многоязычные данные, код, STEM, рассуждения и общие знания; заявлено покрытие 119 языков. Эти характеристики описывают семейство и обучающие данные, а не гарантируют одинаковое качество на каждом языке и задаче. Репозиторий использует формат Safetensors и библиотеку Transformers; для поддержки архитектуры рекомендуется актуальная версия Transformers, поскольку версии ниже 4.51.0 могут не распознавать Qwen3. Лицензия — Apache-2.0.

Qwen3.5-4B-MTPLX-Optimized-Speed — это оптимизированная сборка модели Qwen/Qwen3.5-4B, подготовленная Youssofal для запуска через MTPLX на компьютерах Apple Silicon. Модель предназначена для генерации текста и ускорения авторегрессионного вывода с помощью speculative decoding и встроенной calibrated native-MTP draft head. Основная модель использует 4-битное квантование с group size 64; размер на диске составляет около 2,47 ГБ, пиковое потребление памяти при загрузке — около 2,9 GiB. README не указывает поддерживаемые языки и размер контекста. Ключевое преимущество — высокая скорость при использовании MTP depth 3: на Mac с M5 Max заявлены 227,8 токена в секунду против 133,6 токена в секунду у базового авторегрессионного режима, то есть ускорение примерно в 1,71 раза. Модель рассчитана на Apple Silicon Mac с unified memory от 8 ГБ и автоматически считывает оптимальную глубину из файла конфигурации MTPLX. Для работы требуется MTPLX 2.2.0 или новее; заявленная скорость относится к конкретному тестовому окружению и может отличаться на других устройствах. Лицензия — Apache 2.0.

Qwen3.6-35B-A3B-MLX-4bit — это 4-битная версия модели Qwen3.6-35B-A3B, разработанной командой Qwen. Квантизация в формате MLX выполнена командой LM Studio с использованием mlx_vlm. Модель оптимизирована для запуска на компьютерах с Apple Silicon и предназначена для локального использования через совместимые инструменты и среды. Согласно карточке, модель относится к задачам преобразования изображений и текста и поддерживает сценарии image-text-to-text. Обозначение 35B-A3B указывает на конфигурацию исходной модели, однако подробности архитектуры, языков, размера контекста и фактических характеристик производительности в README не приведены. Ключевое преимущество этой версии — снижение требований к памяти благодаря 4-битной квантизации и адаптация к экосистеме Apple Silicon. Ограничения связаны с возможной потерей качества по сравнению с полной версией модели, зависимостью от совместимого программного обеспечения и отсутствием в карточке подробных данных о точности и поддерживаемых языках. Модель распространяется по лицензии Apache 2.0.

Qwen3.8-27B-MLX-6bit — это квантованная версия мультимодальной модели Qwen3.8-27B, разработанной командой Qwen и адаптированной пользователем majentik для запуска на Apple Silicon через MLX и mlx-lm. Модель предназначена для генерации текста в диалогах и обработки сценариев image-text-to-text, то есть может работать с текстовыми запросами и изображениями. Текстовая часть модели имеет размер 27B параметров и подвергнута 6-битному аффинному квантованию с размером группы 64. Vision tower и projector сохранены в формате BF16. В README не указаны поддерживаемые языки и размер контекстного окна. Модель рассчитана на локальный запуск с использованием mlx-lm; заявлена проверка базовой связности генерации, успешно пройденная без пустых ответов, циклов повторения и повреждённого текста. К преимуществам относятся уменьшенный объём хранения и потенциально более низкие требования к памяти по сравнению с полной версией, а также сохранение мультимодального vision-компонента в BF16. Ограничения связаны с потерями, возможными при квантовании, зависимостью от экосистемы MLX и Apple Silicon, а также отсутствием в README подробных данных о производительности на широком наборе задач. Указанные результаты составляют 0,6000 на ARC-Easy и 0,5400 на HellaSwag и не дают полного представления о качестве модели. Модель распространяется по лицензии Apache-2.0.

Inferact/Qwen3.8-27B-NVFP4 — квантизированная версия модели Qwen3.8-27B, разработанной Qwen. Модель предназначена для задач image-text-to-text, то есть обработки текстовых и визуальных входных данных с генерацией текстового ответа. Точные сценарии применения, список поддерживаемых языков и особенности поведения в README не указаны. Модель доступна для использования через библиотеку Transformers. Известно, что она основана на Qwen/Qwen3.8-27B и имеет размер 27 млрд параметров; формат квантизации обозначен как NVFP4. Данные об архитектуре, модальностях помимо указанного pipeline, размере контекста, аппаратных требованиях, сильных сторонах и ограничениях отсутствуют. Модель распространяется по лицензии Apache-2.0, разрешающей использование, изменение и распространение при соблюдении условий лицензии.