I.12Рекомендации и персонализация

eganwo/mistral7b-distilled-from-deepseek-r1-qwen32b — языковая модель, созданная дообучением Mistral-7B-Instruct-v0.3. Репозиторий содержит веса в формате Safetensors; модель насчитывает 7,1 млрд параметров и использует архитектуру Mistral с плотной декодерной сетью. Контекст — до 32 768 токенов. Модель предназначена для генерации текста и диалогов; метаданные также указывают интерфейс вызова инструментов. Карточка называет её дистиллированной из DeepSeek-R1-Qwen32B, но не сообщает подробностей о данных обучения, методе дистилляции или результатах оценки. Лицензия — Apache-2.0.

MistralInstructLongish-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral, созданная слиянием Mistral-7B-Instruct-v0.1 и MistralInstructLongish методом SLERP. Она предназначена для генерации ответов на инструкции и диалоговые запросы; размер составляет 7,1 млрд параметров, контекст — до 32 768 токенов. Модель принимает текст и выдаёт текст. Указана лицензия Apache-2.0. Карточка не сообщает о языковом охвате и конкретных специализированных областях применения.

Neural-chat-7b-v3-1 — языковая модель команды NeuralChat, разработанная при участии Intel. Это дообученная версия mistralai/Mistral-7B-v0.1: её обучали на наборе Open-Orca/SlimOrca, а затем выравнивали с помощью DPO. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и принимает текстовые запросы. Родной размер контекста — 32 768 токенов. Модель предназначена для диалогов и генерации текста по шаблону с ролями System, User и Assistant. Её оценивали на семи задачах Open LLM Leaderboard, включая ответы на вопросы, рассуждения и математические задачи. Она распространяется по лицензии Apache-2.0. Модель может выдавать фактически неверные, предвзятые, оскорбительные или непристойные ответы. Её ответы требуют проверки, а перед развёртыванием рекомендуется провести тестирование безопасности.

Карточка модели ckoozzzu/new3 на Hugging Face совпадает с карточкой meta-llama/Llama-3.1-8B-Instruct, поэтому описание составлено по ней. Meta Llama 3.1 8B Instruct — языковая модель Meta для диалогов и генерации текста. Это авторегрессионная модель на основе оптимизированного трансформера с Grouped-Query Attention; версия Instruct настроена с помощью supervised fine-tuning и обучения с обратной связью от людей (RLHF). Модель принимает и генерирует текст, поддерживает диалоговый режим и предназначена для коммерческого и исследовательского применения. Модель подходит для создания чат-ассистентов, ответов на запросы и других задач генерации текста на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Контекстное окно в предоставленных материалах не указано. Модель обучена на статичном офлайн-наборе данных; возможны ошибки и небезопасные ответы, поэтому результаты следует проверять, а для использования инструментов требуется отдельная интеграция и контроль со стороны разработчика. Условия распространения и применения регулируются лицензией Meta Llama 3.1 Community License и Acceptable Use Policy.

pandafish-2-7b-32k — объединённая модель на архитектуре Mistral, созданная ichigoberry с помощью LazyMergekit из Mistral-7B-Instruct-v0.2 и dolphin-2.8-mistral-7b-v02. Она предназначена для генерации текста и диалоговых ответов по инструкциям; в карточке указан шаблон Mistral Instruct. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. README приводит результаты сравнительных оценок AGIEval, GPT4All, TruthfulQA и Bigbench, но не описывает конкретные гарантии качества для отдельных задач. Опубликована в формате safetensors и распространяется по лицензии Apache-2.0.

win10/Qwen2.5-12.3B — языковая модель семейства Qwen2.5, созданная автором репозитория с помощью mergekit из слоёв Qwen/Qwen2.5-7B. Конфигурация использует метод passthrough и формат bfloat16; в метаданных архитектура указана как плотная Qwen2ForCausalLM с 11,7 млрд параметров. Модель предназначена для генерации текста и диалогового применения. Её можно использовать для ответов на вопросы, написания текстов и интеграции в чат-системы; метаданные также отмечают интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена. Метаданные указывают библиотеку Transformers и лицензию не сообщают, поэтому условия использования определить по доступным данным нельзя.

Карточка модели ashphisher/Qwen2.5-3B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-3B-Instruct, поэтому описание составлено по ней. Qwen2.5-3B-Instruct — инструкционная языковая модель серии Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, в том числе для создания длинных ответов, структурированных данных и JSON, а также для задач с кодом и математикой. Модель содержит 3,1 млрд параметров и использует архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU, RMSNorm и группированным запросным вниманием. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Модель поддерживает более 29 языков, включая русский, английский, китайский, французский, испанский, немецкий, японский и арабский. Подходит для чат-ботов, следования инструкциям и генерации структурированных ответов; метаданные также отмечают интерфейс для вызова инструментов. Качество ответа зависит от формулировки запроса, а выход модели требует проверки, особенно для кода, математики и фактических утверждений. В репозитории указана лицензия `other`; конкретные условия использования следует сверять с файлами лицензии модели.

Qwen2.5-3B-Instruct-MLX-4bit — текстовая языковая модель для генерации ответов и диалогового взаимодействия. Она основана на Qwen2.5-3B-Instruct, разработанной командой Qwen, и подготовлена в формате MLX с 4-битным квантованием bartowski для запуска на Mac с Apple Silicon. Модель предназначена для чат-сценариев, генерации и обработки текста, а также работы со структурированными данными. Она поддерживает контекст до 32 000 токенов и генерацию до 8 000 токенов. Заявлена поддержка более 29 языков, включая английский, китайский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. К сильным сторонам относятся компактный размер около 3 млрд параметров, возможность локального запуска на совместимых компьютерах Apple и поддержка длинного контекста. README не содержит результатов бенчмарков и подробностей об ограничениях квантования; как и другие языковые модели, система может генерировать неточные, вредные или неподходящие ответы. Модель распространяется по лицензии Qwen Research; для точных условий использования следует обратиться к указанному в README тексту лицензии.

SII-Enigma/Qwen2.5-7B-Ins-SFT-32k — плотная причинно-языковая модель семейства Qwen2.5 с 7,1 млрд параметров, дообученная на основе Qwen/Qwen2.5-7B-Instruct. В README описан подход AMPO: он использует решения нескольких моделей-учителей, вмешиваясь, когда модель не справляется самостоятельно, и выбирая понятные ей варианты решений. Авторы заявляют, что подход улучшает результативность и эффективность по сравнению с одним RL или SFT. Модель предназначена для генерации текста и диалогов, в том числе для задач рассуждения. Контекст составляет 32 768 токенов; репозиторий использует формат Safetensors и библиотеку Transformers. Метаданные указывают интерфейс вызова инструментов, но README не приводит подробных примеров или результатов оценки именно этого чекпойнта. Указана лицензия Apache-2.0.

Qwen2.5-95B-Instruct — плотная языковая модель для генерации текста и диалогов, созданная ssmits как self-merge модели Qwen/Qwen2.5-72B-Instruct с помощью MergeKit. Веса собраны методом passthrough из диапазонов слоёв исходной модели; модель содержит 93,4 млрд параметров и опубликована в формате safetensors. Метаданные указывают контекст 32 768 токенов и интерфейс чата с поддержкой вызова инструментов. Модель предназначена для диалогов, генерации текстов, творческого письма, математических и пространственных рассуждений. Автор README сообщает об улучшениях на отдельных задачах относительно Qwen2.5-72B-Instruct, но также отмечает, что исходная модель превосходит её во многих общих языковых и рассуждательных сценариях. Оценка модели пока ограничена, поэтому результаты на конкретной задаче следует проверять отдельно. Карточка указывает лицензию other, без уточнения её условий. README описывает шаблон чата Qwen и заявляет окно контекста 128K, тогда как метаданные Hugging Face указывают native context 32 768 токенов; фактическое поддерживаемое окно следует сверять с конфигурацией и используемым ПО.

Qwen3-1.7B-GGUF — квантизированная GGUF-версия текстовой модели Qwen3-1.7B, разработанной командой Qwen. Квантизацию выполнил bartowski на основе llama.cpp, релиз b5200. Модель предназначена для генерации текста, следования инструкциям, творческого письма, ролевых сценариев и многошаговых диалогов. Модель поддерживает контекст до 32 000 токенов, режимы с рассуждением и без него, а также команду /no_think для отключения рассуждений. Заявлена повышенная эффективность в математике, программировании и задачах на здравый смысл, а также поддержка более 100 языков и диалектов и расширенные возможности для агентских сценариев. К ограничениям относятся возможные неточности, вредное или неподходящее содержание, характерные для языковых моделей. README не содержит сведений о конкретной лицензии модели, поэтому условия коммерческого и иного использования необходимо уточнять по исходной модели Qwen3-1.7B и странице квантизированной версии.

MMOPD/Qwen3-4B-OT3-tau — плотная языковая модель семейства Qwen3 с 3,7 млрд параметров, разработанная MMOPD. Это дообученная версия MMOPD/Qwen3-4B-OT3-2ep: к модели рассуждений добавили supervised fine-tuning на 33 531 траектории Tau2 из inclusionAI/AReaL-tau2-data. Модель сохраняет исходный шаблон чата и режим рассуждений, рассчитана на многошаговое взаимодействие с инструментами и вызовы инструментов в диалоге. Контекст составляет до 32 768 токенов; вход и выход — текст.

Это GGUF-версия модели insraq/Qwen3.5-4B-EmperoAI-Qwen3.8-Distill-Heretic-Abliterated-MTP-GGUF, созданная на базе Qwen/Qwen3.5-4B. Модель разработана Empero и insraq: исходная Qwen3.8-4B представляет собой полноразмерную дистилляцию модели Qwen3.8 2.4T A95B в архитектуру Qwen3.5-4B, а данная версия дополнительно декензурирована с использованием Heretic v1.4.0 и объединена с MTP-drafter из unsloth/Qwen3.5-4B-MTP-GGUF. Это причинная языковая модель для генерации текста, рассуждений, следования инструкциям и нативного function calling; заявлена поддержка английского языка. Модель содержит около 4 млрд параметров и обучалась методом SFT на примерно 45 000 отфильтрованных трасс рассуждений учителя. Она поддерживает контекст до 262 144 токенов, а исходная архитектура относится к текстовому пути vision-language базы Qwen3.5. К сильным сторонам относятся компактный размер, пригодность для запуска на потребительском оборудовании, улучшенные по сравнению с базовой моделью результаты на MMLU и сниженное число отказов: 6 из 100 против 99 из 100 у исходной Qwen3.8-4B. При этом на GSM8K модель уступает базовой версии Qwen3.5-4B, а декензурирование может снижать встроенные защитные ограничения. Для работы требуется совместимый runtime с поддержкой архитектуры Qwen3.5; лицензия — Apache-2.0.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая многоэтапно дообученная и объединённая модель на базе Qwen3.6-27B. Её разработал DavidAU при участии Nightmedia, TeichAI, armand0e и trohrbaugh; обучение и подготовка выполнялись с использованием Unsloth. Модель распространяется в формате GGUF, включая обычные и MTP-варианты, а также различные уровни квантования. Модель предназначена для широкого круга задач: следования инструкциям, решения задач, рассуждений, программирования, диалогов, творческого письма, ролевых сценариев и работы с изображениями. Заявлены улучшенные instruction following, общая способность к решению задач и reasoning. Поддерживаются английский и китайский языки; README также заявляет мультимодальность с поддержкой vision. Размер контекста и точные технические параметры архитектуры не указаны. К сильным сторонам относятся доступность квантованных вариантов для потребительского оборудования, улучшения относительно базовой модели по заявленным бенчмаркам и сохранение широкого набора исходных возможностей Qwen. При этом утверждения о превосходстве основаны на данных автора и сторонних проверках, поэтому их следует интерпретировать с осторожностью. Модель помечена как uncensored/heretic, что может означать ослабленные ограничения безопасности и делает необходимой дополнительную проверку результатов при практическом использовании. Лицензия — Apache-2.0.

Qwen3.8-19B-Pruned-GGUF — набор официальных GGUF-квантований модели ewinregirgojr/Qwen3.8-19B-Pruned, опубликованный и квантованный ewinregirgojr. Модель предназначена для локальной генерации текста, диалоговых сценариев, задач рассуждения и function calling на потребительском оборудовании. Поддерживаются Ollama, LM Studio, Jan, llama.cpp, Unsloth, LocalAI и Open WebUI. Модель основана на архитектуре Qwen3.8 и использует 30% структурированной разреженности SparseGPT; заявлено около 18,9 млрд активных ненулевых параметров при сохранении 866 текстовых слоёв. Доступны варианты Q4_0, Q6_K и Q8_0 размером 17,79, 23,20 и 29,30 ГБ соответственно. Максимальная длина контекста заявлена до 262 144 токенов. Указаны английский и китайский языки, текстовая модальность и формат GGUF для локального инференса. В README приведены результаты MMLU 81,5% и GSM8K 86,9%, однако методика и воспроизводимость этих показателей требуют самостоятельной проверки. Сильные стороны — уменьшенный объём весов, возможность запуска на распространённых GPU и оптимизация для локального использования; для Q4_0 заявлена совместимость с видеокартами от 24 ГБ памяти, тогда как более точные варианты требуют больше RAM или VRAM. Ограничения связаны с компромиссом между размером, точностью и требованиями к оборудованию, а также с тем, что разреженность не обязательно ускоряется всеми программными стеками. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-ROCmFPX-Q8_0-AGENT-GGUF — это 8-битная квантизированная GGUF-версия модели Qwen3.8-27B, опубликованная пользователем kingjones777. Модель предназначена для локального запуска через специализированную ветку ROCmFPX, ориентированную на GPU AMD с архитектурой gfx1151, включая Ryzen AI MAX+ 395 и платформу Strix Halo. Она поддерживает генерацию текста, агентские сценарии и вызовы инструментов. Модель имеет архитектуру Qwen, размер 27B параметров и контекст до 32 768 токенов в рекомендуемой конфигурации. Указан английский язык. Файл занимает около 26,28 GiB, использует тип квантизации Q8_0_ROCMFPX_AGENT с точностью 8,39 бит на вес и сохраняет повышенную точность для части attention-output projections. В README заявлена совместимость с MTP-спекулятивным декодированием: на Ryzen AI MAX+ 395 измерена скорость 26,62 токена в секунду, что на 6,2% выше обычной сборки ROCmFPX Q8.0. В тестах модель показала корректные ответы на базовые вопросы и 7 из 7 успешных сценариев tool calling в режимах с рассуждением и без него. Основные преимущества — высокая точность 8-битной версии, согласованное агентское поведение, поддержка сложных вызовов инструментов и прирост скорости при использовании MTP. Ограничения существенны: стандартная версия llama.cpp не загружает этот файл, требуется сборка ROCmFPX; модель ориентирована на совместимое AMD-оборудование. Для MTP на некоторых конфигурациях Windows 11, gfx1151 и HIP SDK 7.2 описаны ошибки в устаревшей ветке ROCmFPX, поэтому рекомендуется официальный репозиторий. Модель распространяется по лицензии Apache-2.0.

Solstice-AI/Qwen3.8-27B-TTURBO-Cold-Fusion-709-L-NM-DAU-UltraOptimised-VariableThinking-GGUF — это мультимодально заявленная GGUF-версия многоэтапной fine-tune и multi-stage merge-модели на базе Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored, разработанная авторами проекта с использованием Unsloth. В карточке указаны поддержка английского и китайского языков, а также pipeline image-text-to-text, однако подробности о реализации визуального ввода не приведены. Модель распространяется в обычных и MTP-квантизациях, включая варианты для 4- и 8-битного представления, ориентированные на запуск на потребительском оборудовании. Модель предназначена для широкого круга задач: общего диалога, рассуждений и решения задач, программирования, творческого письма, художественной прозы, ролевых сценариев и других универсальных применений. Заявлены пять режимов рассуждения и пять instruct-режимов, включая UltraXhigh и Einstein, с возможностью переключения через API, напрямую или на уровне сообщения. Основной акцент сделан на сокращении объёма reasoning-токенов, ускорении генерации и снижении избыточного «обдумывания» при сохранении детализации и качества ответа. К сильным сторонам относятся вариативные режимы работы, поддержка GGUF-квантизаций для локального использования, ориентация на подробные ответы и творческие задачи, а также заявленное улучшение качества по сравнению с базовыми моделями семейства Qwen. Ограничения состоят в том, что приведённые результаты бенчмарков и характеристики производительности не подтверждены независимыми данными, а контекстное окно, точные параметры архитектуры, требования к памяти и фактические возможности мультимодального ввода не указаны. Лицензия — Apache-2.0.

Qwen3-Next-80B-A3B-Instruct-MLX-6bit — это 6-битная версия инструкционной языковой модели Qwen3-Next-80B-A3B-Instruct, разработанной командой Qwen. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и других текстовых сценариях. Данная версия преобразована и квантизирована в формате MLX командой LM Studio с использованием mlx_lm и оптимизирована для работы на устройствах с Apple Silicon. В названии указаны размер исходной модели 80B и конфигурация A3B, однако в README не приведены дополнительные сведения об архитектуре, поддерживаемых языках, размере контекста, модальностях или результатах тестирования. Квантизация до 6 бит может снизить требования к памяти и сделать модель практичнее для локального запуска на совместимых устройствах, но потенциально влияет на точность по сравнению с полной версией. Модель распространяется по лицензии Apache 2.0.

Qwen3-Next-80B-A3B-Instruct-MLX-8bit — это 8-битная квантованная версия языковой модели Qwen3-Next-80B-A3B-Instruct, адаптированная для запуска на устройствах Apple Silicon. Исходную модель разработала команда Qwen, а MLX-квантизацию предоставила команда LM Studio с использованием mlx_lm. Модель предназначена для генерации текста и работы с широким спектром задач, поддерживаемых инструкционной языковой моделью, включая диалоговые сценарии и локальное использование через совместимую программную среду. Модель содержит 80B параметров, при этом заявлена конфигурация A3B; точная архитектура, поддерживаемые языки и размер контекстного окна в README не указаны. Формат MLX и 8-битная квантизация оптимизированы для Apple Silicon, что делает модель более подходящей для локального запуска на таких устройствах по сравнению с полноразмерной версией. Ограничениями являются зависимость от совместимого окружения MLX и оборудования Apple Silicon, а также возможные типичные для генеративных моделей ошибки, неточности и нежелательный контент. Модель распространяется по лицензии Apache-2.0. LM Studio не является разработчиком или владельцем модели и не гарантирует её точность, безопасность, доступность или соответствие конкретным требованиям.

Rombos-EVAGutenberg-TIES-Qwen2.5-32B — языковая модель на архитектуре Qwen2.5, созданная nbeerbower слиянием методом TIES через mergekit. В объединение вошли nbeerbower/EVA-Gutenberg3-Qwen2.5-32B и nbeerbower/Rombos-Qwen2.5-32B-lorablated; базовая модель — Qwen/Qwen2.5-32B. Модель содержит 32 млрд параметров, принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов. Она предназначена для диалогов и генерации текста. В метаданных указаны интерфейс вызова инструментов и языковые теги для китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Репозиторий содержит веса в формате safetensors, библиотека — Transformers. Лицензия — Apache-2.0. Карточка не приводит результатов оценивания или конкретных ограничений качества; применимость к отдельным задачам следует проверять на собственных данных.

Карточка модели CollectionStudio/Trinity-Large-Preview на Hugging Face совпадает с карточкой arcee-ai/Trinity-Large-Preview, поэтому описание составлено по ней. Trinity-Large-Preview — разговорная модель Arcee AI на архитектуре разреженного Mixture-of-Experts (MoE), созданная на основе Trinity-Large-Base и прошедшая лёгкое дообучение для диалога. В README указано около 398 млрд параметров всего и примерно 13 млрд активных параметров на токен; метаданные каталога приводят размер 8,7 млрд параметров. Модель обучалась на более чем 17 трлн токенов, а этап настройки инструкций охватил 20 млрд токенов. Контекст составляет до 262 144 токенов. Модель предназначена для генерации текста и диалогов, в том числе с использованием интерфейса вызова инструментов. Заявлена поддержка английского, испанского, французского, немецкого, итальянского, португальского, русского, арабского, хинди, корейского и китайского языков. Доступны варианты запуска через Transformers, vLLM, llama.cpp, LM Studio и API. Карточка приводит неоднозначные результаты бенчмарков: модель выше Llama 4 Maverick на MMLU, но ниже на MMLU-Pro и GPQA-Diamond. Это preview-чекпойнт, который проходит активное обучение с подкреплением, поэтому качество может меняться. Указана лицензия other; конкретные условия использования следует проверять в репозитории модели.

airoboros-l2-70b-2.2 — экспериментальная языковая модель от Jon Durbin, дообученная на базе Llama 2 70B преимущественно на синтетических данных набора airoboros-2.2. Это плотная авторегрессионная модель примерно с 68,7 млрд параметров, рассчитанная на генерацию текста; нативное контекстное окно составляет 4096 токенов. Карточка описывает формат общения с метками USER и ASSISTANT, а также отдельный формат для ответов по предоставленному контексту. Модель предназначена для ответов на инструкции и вопросы, создания текстов, помощи с кодом и генерации структурированных аргументов функций в JSON или YAML. Она также может строить планы выполнения задач с инструментами, но сама по себе инструменты не вызывает. Обучение ориентировано на пары «инструкция — ответ» больше, чем на свободный чат или ролевые сценарии; карточка отмечает возможность переопределения системных инструкций и отсутствие де-алignment данных в этой версии. Модель доступна в формате PyTorch и распространяется по лицензии Llama 2. README характеризует её как экспериментальную и предупреждает, что ответы по контексту могут быть выдуманными; для снижения риска рекомендуется явно просить не придумывать неизвестное и останавливать генерацию перед продолжением от имени пользователя.

Behemoth-Magnum-v4-SLERP-123b — объединённая языковая модель, созданная автором репозитория методом SLERP с помощью mergekit. В объединение вошли Magnum-v4-123b от anthracite-org и Behemoth-123B-v1.2 от TheDrummer. Модель основана на архитектуре MistralForCausalLM и содержит 122,2 млрд параметров. Модель предназначена для генерации текста и диалогового общения. Она принимает текст и выдаёт текст; заявленная длина контекста составляет 131 072 токена. В метаданных также отмечен интерфейс вызова инструментов. Лицензия в предоставленных данных не указана, поэтому условия использования определить нельзя.

Citaman/command-r-35-layer — объединённая модель для генерации текста, созданная Citaman методом SLERP с помощью mergekit на основе Citaman/command-r-36-layer. В конфигурации объединены два среза слоёв одной базовой модели; метаданные относят репозиторий к семейству Cohere и архитектуре CohereForCausalLM с плотными весами. Модель содержит 30,9 млрд параметров и рассчитана на контекст до 8192 токенов. Модель предназначена для диалоговой генерации текста и интерфейсов вызова инструментов. Веса доступны в формате safetensors для библиотеки Transformers. В README и метаданных не описаны поддерживаемые естественные языки, качество на конкретных задачах или результаты оценки. Условия лицензирования в предоставленных данных не приведены.

Gemma-4-31B-it-Quark-W8A8-INT8 — мультимодальная модель для работы с текстом и изображениями, опубликованная под идентификатором nameistoken/Gemma-4-31B-it-Quark-W8A8-INT8 на основе google/gemma-4-31B-it от Google. Она предназначена для диалоговых сценариев, генерации текста, анализа изображений и задач vision-language. В описании заявлен английский язык. Модель использует архитектуру Gemma4ForConditionalGeneration и включает текстовый декодер на 31 млрд параметров, vision tower и визуальные embedding-слои. Текстовая часть квантизирована в W8A8 INT8: веса используют статическую симметричную per-channel-квантизацию, а активации — динамическую per-token-квантизацию. lm_head, embed_tokens и компоненты зрения сохранены в BF16, поэтому мультимодальные возможности не удалены. Размер файла модели составляет около 32 ГБ против примерно 62,5 ГБ у исходной BF16-версии, что дает двукратное сокращение объема. По результатам теста GSM8K на 1319 задачах модель показала точность 96,66% против 96,74% у BF16-базовой версии, то есть снижение составило 0,08 процентного пункта. Для запуска рекомендуется vLLM; в README приведена конфигурация с максимальной длиной контекста 8192 токена. Минимально требуется GPU с объемом памяти от 48 ГБ, например AMD MI300X, MI350X, MI355X, NVIDIA A100-80G или H100. Для длинного контекста и больших пакетов может потребоваться распределение на несколько GPU. Лицензия — Apache 2.0.

JANGQ-AI/GLM-5.3-Flash-JANG — квантованная для Apple Silicon и MLX сборка GLM-5.3-Flash, подготовленная Jinho Jang. Это модель семейства GLM с архитектурой MoE примерно на 300 млрд параметров и 288 экспертами; в README также описаны линейное внимание KDA, гибрид MLA/DSA и отдельные компоненты для обработки изображений и видео. Размер весов составляет около 95,5 GiB, заявленный нативный контекст — 1 млн токенов. По данным карточки, квантование распределено по модулям: внимание, маршрутизация и параметры gating сохранены в 8-битном или полном формате, а снижение точности сосредоточено в экспертных блоках. Разработчик приводит измерения сходства выходных логитов с официальной FP8-версией на отложенных запросах; это не заменяет независимую оценку качества на прикладных задачах. Сборка предназначена для диалогов, рассуждений, агентных сценариев и работы с изображениями и видео на Mac с 128 ГБ памяти. README предупреждает, что публичная поддержка новой архитектуры в runtime vMLX ещё разрабатывается и на момент публикации карточки эти веса корректно загружались только во внутренней среде оценки. Модель наследует базовую GLM-5.3-Flash, а репозиторий распространяет её под лицензией MIT.

GPT-4o — мультимодальная модель OpenAI, принимающая текст и изображения и формирующая текстовые ответы. Название «omni» отражает поддержку нескольких типов входных данных; в доступной карточке заявлены текстовый и визуальный ввод. Модель подходит для диалога и ответов на вопросы по тексту или изображениям, например для описания изображений и анализа визуальной информации. По метаданным каталога её задача — image-text-to-text. Карточка также сравнивает её уровень интеллекта с GPT-4 Turbo, но не содержит завершённых сведений о размере, контекстном окне, языках и лицензии.

Vtuber-plan/Huihui-Qwen3.8-27B-abliterated-NVFP4 — это 4-битная NVFP4-квантизованная версия модели huihui-ai/Huihui-Qwen3.8-27B-abliterated, созданной на базе Qwen/Qwen3.8-27B. Квантизация выполнена с помощью NVIDIA TensorRT Model Optimizer 0.45.0; в комплект входит исправленный шаблон чата Qwen. Модель предназначена для генерации текста, диалогов, рассуждений, многоязычных задач и агентских сценариев с вызовами инструментов. Модель использует веса NVFP4 с размером групп 16 и FP8 KV-кэш. Для калибровки применялся набор из 5349 примеров, включающий английские и многоязычные диалоги, математические задачи, длинные рассуждения и трассировки вызовов инструментов. Заявлены языки English, French и multilingual; точный максимальный размер контекста в README не указан. Размер чекпойнта составляет около 19,5 ГБ и распределён по пяти шардам. Основное преимущество — сохранение качества чатового и агентского использования после квантизации: на GSM8K при фиксированном шаблоне чата модель показала 0,9833 против 0,9783 у базовой BF16-версии. При этом она плохо подходит для сырых few-shot-промптов без чатового режима: модель может начать рассуждение и не успеть выдать ответ при малом бюджете токенов. Рекомендуется использовать шаблон из комплекта, режим reasoning_effort medium и запас генерации от 8 тысяч токенов. При максимальном режиме xhigh возможны зацикливание и исчерпание лимита, особенно при температуре около нуля. В sglang при высокой конкуренции и длинных генерациях известна проблема падения; рекомендуется ограничивать число одновременных запросов или обновить sglang. Для запуска нужны sglang с quantization modelopt или TensorRT-LLM; обычный transformers/BF16 inference этот чекпойнт не деквантизирует. Лицензия — Apache-2.0.

mlx-community/LFM2.5-1.2B-Thinking-bf16 — конверсия модели LiquidAI/LFM2.5-1.2B-Thinking в формат MLX, выполненная сообществом mlx-community с помощью mlx-lm 0.30.4. Это плотная авторегрессионная языковая модель семейства LFM2 с 1,5 млрд параметров, предназначенная для генерации текста в диалоговом режиме и рассуждений. Она рассчитана на контекст до 128 000 токенов и локальный запуск на устройствах Apple Silicon через MLX. Модель подходит для диалогов и генерации ответов на английском, арабском, китайском, французском, немецком, японском, корейском и испанском языках. Базовая карточка описывает семейство как пригодное для рассуждений, агентных задач, извлечения данных и RAG. В репозитории указана лицензия other; конкретные условия следует сверять с лицензией базовой модели и карточкой автора.

mlx-community/Llama-3.3-70B-Instruct-bf16 — конверсия модели Meta Llama 3.3 70B Instruct в формат MLX, выполненная сообществом mlx-community с помощью mlx-lm 0.20.1. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров, предназначенная для диалогов, следования инструкциям и генерации текста; метаданные также указывают интерфейс вызова инструментов. Модель принимает текст и выдаёт текст. Контекстное окно составляет до 131 072 токенов. Поддерживаемые языки включают английский, французский, итальянский, португальский, хинди, испанский, тайский и немецкий. Модель подходит для диалоговых ассистентов, генерации и преобразования текста, а также работы с длинными текстовыми контекстами. Репозиторий содержит веса в safetensors и предназначен для использования с MLX. Лицензия — Llama 3.3; условия Meta следует соблюдать при использовании и распространении модели. Для запуска требуется совместимая среда MLX, а модель такого размера предъявляет значительные требования к памяти и вычислительным ресурсам.