II.3Рефакторинг, миграция и модернизация

bunnycore/Phi-2-OmniMatrix — языковая модель, созданная объединением нескольких дообученных моделей семейства Phi-2 с помощью mergekit и метода task arithmetic. В качестве базовой модели использована microsoft/phi-2; в объединение вошли варианты для чата, ролевого общения и генерации кода. Модель содержит 3,5 млрд параметров, использует архитектуру PhiForCausalLM и формат safetensors; длина контекста — 2048 токенов. Модель предназначена для генерации текста, диалогов и кода. Работает через библиотеку Transformers. README указывает тип данных float16. Лицензия в предоставленных данных не указана.

bartowski/Qwen2.5-7B-Instruct-GGUF — это набор GGUF-квантизаций чат-модели Qwen2.5-7B-Instruct, разработанной командой Qwen и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск в LM Studio и других совместимых приложениях. Для общения используется шаблон сообщений с ролями system, user и assistant. Модель содержит около 7 миллиардов параметров, работает в текстовой модальности и, согласно README, заявлена для английского языка. В репозитории доступны варианты от F16 до низкобитных Q2–Q8-квантизаций размером примерно от 3,5 до 15,2 ГБ. Более высокие разрядности обычно обеспечивают лучшее качество, а низкие требуют меньше оперативной памяти; отдельные варианты оптимизированы для ARM-процессоров и требуют поддержки SVE или i8mm. README также сообщает об обновлении настроек длины контекста и токенизатора, но точное значение контекстного окна не указано. Сильной стороной является широкий выбор квантизаций для запуска на оборудовании с различными ограничениями по памяти, при этом варианты Q4–Q6 отмечены как рекомендуемые по соотношению качества и размера. Ограничения связаны с компромиссом между качеством и размером низкоразрядных вариантов, а также с необходимостью совместимого программного обеспечения и аппаратных инструкций для некоторых ARM-версий. Указана лицензия Apache-2.0.

Qwen3.5-397B-A17B-VQ-3.1bpw — векторно-квантизированная сборка базовой модели Qwen3.5-397B-A17B, опубликованная TheDrainFlorist для запуска в экосистеме MLX на машинах Apple Silicon. Модель предназначена для генерации текста, а после исправления от 19 сентября 2026 года также поддерживает обработку изображений через mlx-vlm. В метаданных указан английский язык, однако полный набор поддерживаемых языков и максимальный размер контекста не приведены. Сборка использует vector quantization с эффективностью 3.1 бита на параметр, размер весов составляет около 143,7 GiB. Указана архитектура с MoE-экспертами, а также плоская конфигурация d4/K2048; дополнительные сведения о числе активных параметров и точной архитектуре не раскрыты. По измерениям авторов, модель показывает perplexity 2,3410 на Wikitext и 2,5963 на смешанном наборе для кода, превосходя приведённую 3.5-битную сборку по Wikitext и находясь с ней на сопоставимом уровне по коду. Главные ограничения — очень высокие требования к памяти, необходимость совместимого runtime и зависимость от специальных загрузчиков. Для текста требуется mlx-lm с поддержкой model_file, для изображений — mlx-vlm версии 0.6.16 или новее; устаревшие версии могут не загрузить модель. Это квантизированная сборка, поэтому её характеристики могут отличаться от исходной модели, а заявленные результаты относятся к конкретному артефакту и методике измерений. Лицензия Apache-2.0.

Qwen3.5-4B-DS-v4-Flash-v1.0 — экспериментальная плотная мультимодальная модель на 4 млрд параметров от prithivMLmods, дообученная на базе Qwen/Qwen3.5-4B. Она принимает текст и изображения и предназначена для диалога и генерации текстовых ответов с улучшенными навыками многошагового рассуждения. Модель обучалась в один этап на длинных примерах рассуждений DeepSeek V4 Flash и дополнительных данных для задач математики, науки, программирования и следования инструкциям. Её сценарии применения включают исследование и оценку рассуждений, решение математических задач, научный анализ и помощь с кодом; размер модели позволяет запускать её локально. Карточка задаёт основной pipeline как image-text-to-text, а метаданные подтверждают поддержку зрения и чата. Релиз обозначен как экспериментальный: возможны артефакты в цепочках рассуждений, ошибочные промежуточные шаги и выводы, а результаты зависят от охвата обучающих данных. Распространяется по лицензии Apache-2.0.

Qwen3.6-40B-Fable-Fusion-6-Core-Deckard-Eleanor-Heretic-Uncensored-NM-DAU-NEO-MAX-MTP-GGUF — крупная 40-миллиардная fine-tune-модель, разработанная DavidAU при участии Nightmedia, TeichAI и других авторов. Она создана на основе Qwen3.6 и объединяет несколько версий Fable Fusion, Deckard Qwen3.6 40B, многоэтапное дообучение и слияние моделей с использованием Unsloth. Модель распространяется в форматах GGUF, включая обычные и MTP-квантизации, с вариантами разрядности 4 и 8 бит. Модель предназначена для широкого спектра задач: следования инструкциям, решения задач и аналитического рассуждения, генерации кода, творческого письма, создания историй и roleplay. Заявлены улучшенные reasoning и thinking, автоматическая адаптация глубины рассуждений к сложности запроса, подробные ответы и сильные творческие возможности. В карточке также указана поддержка vision и языков English и Chinese, однако конкретные поддерживаемые визуальные форматы и параметры контекста не приведены. К сильным сторонам относятся многоэтапная настройка, акцент на общем интеллекте, instruction following, problem solving и качестве рассуждений, а также доступность квантизированных вариантов для потребительского оборудования. Модель описывается как uncensored и heretic, что может быть полезно для менее ограниченных сценариев, но одновременно означает потенциально более высокие риски нежелательного или небезопасного вывода. Заявления о превосходстве над другими моделями основаны на тестах авторов и не подтверждены независимой проверкой в предоставленных данных. Лицензия модели указана как Apache-2.0. README не содержит точных требований к аппаратному обеспечению, размера контекстного окна, подробных инструкций по запуску или результатов стандартизированных бенчмарков, поэтому эти характеристики нельзя определить по имеющейся информации.

ilintar/qwen3.8-27b-gguf-strix-halo — набор GGUF-файлов модели Qwen3.8-27B, подготовленный для запуска на AMD Strix Halo с ROCm. Основная модель основана на Qwen/Qwen3.8-27B и дополнена DFlash2-моделью z-lab/Qwen3.8-27B-DFlash2 для speculative decoding. Репозиторий ориентирован на использование с llama.cpp и оптимизированными ветками ROCm для графики gfx1151. Основной файл имеет размер около 16,1 ГБ и использует преимущественно квантизацию IQ4_XS, с отдельными тензорами в Q8_0 и F32. DFlash2-файл размером около 1,04 ГБ служит черновой моделью для ускорения генерации. Модель поддерживает текстовый и, при отдельной установке совместимого мультимодального проектора mmproj, визуальный ввод. В примере конфигурации используется контекст до 65 536 токенов. Сведения о поддерживаемых языках в карточке не приведены. Главное преимущество — возможность ускоренного локального запуска на AMD Strix Halo: в приведённых тестах speculative decoding с IQ4_XS давал прирост скорости относительно Q8_0-черновика, особенно на задачах рассуждений и структурированного вывода. При этом результаты зависят от промпта, уровня принятия черновых токенов и конкретного runtime. К ограничениям относятся привязка к специальной конфигурации ROCm и экспериментальным веткам llama.cpp, необходимость отдельно получать мультимодальный проектор для изображений, а также небольшое ухудшение измеренной perplexity относительно исходной BF16-модели. Лицензия заявлена как Apache 2.0, однако условия исходных моделей рекомендуется проверить отдельно.

Qwen3.8-27B-Uncensored-GGUF — квантизированная версия базовой модели Qwen/Qwen3.8-27B, опубликованная в формате GGUF для использования с llama.cpp. Модель предназначена для генерации текста, локального запуска и сценариев, где важны различные уровни квантизации, включая работу со speculative decoding благодаря сохранённой голове multi-token prediction (MTP). Доступен вариант с поддержкой изображений, если это предусмотрено базовой моделью. Модель имеет архитектуру Qwen3_5ForConditionalGeneration, 64 слоя, словарь из 248 320 токенов, один MTP-слой и контекст до 262 144 токенов. Заявлены английский и китайский языки. Доступны квантизации IQ2_M, IQ4_XS, Q4_K_M, Q5_K_M, Q6_K и Q8_0, а также варианты с объединённой MTP-головой и отдельными целевой и draft-моделями. По сравнению с исходной моделью существенно снижено поведение отказа от ответа, но оно не устранено полностью; при этом возможности, обучающие данные и архитектура базовой модели не изменялись. Сильными сторонами являются большой контекст, поддержка MTP для ускорения инференса, несколько вариантов размера файлов и сохранение качества при большинстве квантизаций. Ограничения включают возможное небольшое снижение доли принятых токенов при speculative decoding, зависимость от совместимости используемого runtime и отсутствие в README подробных сведений о фактических показателях рассуждения, программирования и мультиязычных возможностей. Распространение указано по лицензии Apache-2.0.

Qwen3.8-Flash-Next REAP-288 — экспериментальный неофициальный пакет для инференса на Apple Silicon, опубликованный 30cmtonyfaker и созданный на основе Qwen3.8-Flash-Next от Qwen. Модель адаптирована для запуска через MLX Serve и использует community REAP-288 pruning, 4-битное квантование и Native MTP для ускорения декодирования. В метаданных указаны английский и китайский языки, а также тег image-text-to-text, однако подробности о поддержке изображений в представленном README не приведены. Пакет предназначен для локального запуска языковой модели, диалогов, генерации текста, программирования, структурированных ответов и сценариев с инструментами. Заявлена поддержка контекста до 65 536 токенов в протестированной конфигурации, но качество работы на длинном контексте и полноценные возможности настольного режима отдельно не подтверждены. Исторические измерения на M4 Max с 128 ГБ unified memory показывают ускорение декодирования с MTP примерно в 1,54–2,24 раза на тестовом наборе, однако результаты относятся к изменённой версии MLX Core, ограниченному сценарию и не гарантируют аналогичную производительность в других нагрузках. Для актуальной версии исправлена ошибка заголовка тензора, а базовый запуск через официальный MLX Core 26.9.1 был проверен на M4 Max. Ограничения включают экспериментальный статус, зависимость от Apple Silicon и MLX, отсутствие подтверждения универсальной корректности MTP и различия между последовательным и MTP-выводом в тестах. Модель распространяется по qwen-community-license-1.0; лицензия обозначена как other, а полный текст доступен в файле LICENSE.

SirSahOl подготовил 16-битную конверсию Spark-X2.5-1.7B в формат MLX для локального запуска на GPU Apple Silicon. Это плотная авторегрессионная языковая модель с 1,7 млрд параметров и контекстом до 1 048 576 токенов; метаданные указывают поддержку диалогового режима. Модель предназначена для генерации ответов и ведения диалога на устройстве, а базовая Spark-X2.5-1.7B также описана как пригодная для кода, перевода, рассуждений и агентных задач. Формат весов — safetensors, точность — 16 бит; заявленный объём памяти для весов составляет около 4,2 ГБ, рекомендуется не менее 8 ГБ объединённой памяти. Конверсия ориентирована на Apple Silicon и требует MLX; на других аппаратных платформах этот формат не предназначен для запуска. Лицензия — Apache-2.0. В README отмечено, что длинные контексты свыше 32 тыс. токенов требуют достаточного запаса объединённой памяти.

Winter Garden 7B Alpha — экспериментальная чат-модель на архитектуре Mistral, собранная автором карточки путём слияния девяти моделей и вариантов весов. Она предназначена для диалоговой генерации текста, ответов на инструкции, помощи с программированием, научными и математическими вопросами, а также творческих сценариев и ролевых диалогов. В README описано слияние слоёв Mistral-7B-v0.1 с чередованием моделей по девяти случайным группам; конфигурация в основном сохраняет порядок базовой Mistral. Модель содержит 7,1 млрд параметров, принимает контекст до 32 768 токенов и распространяется в формате safetensors. Карточка предлагает использовать разговорный шаблон с описанием сцены и карточкой персонажа; также упоминает несколько вариантов формата инструкций. Автор характеризует модель как способную работать с наукой, математикой и творческими задачами, однако это экспериментальное слияние, и приведённые в README оценки не гарантируют качества в конкретных сценариях. Указана лицензия CC BY-NC 4.0, которая ограничивает коммерческое использование.

lilmeaty/abcdef — объединённая языковая модель, созданная автором репозитория с помощью mergekit. В слияние методом passthrough вошли 11 предварительно обученных моделей, включая варианты Llama 3.2 3B, Qwen2.5-3B, Ministral-3b, Stable Code 3B, Granite 3B и корейскую Bllossom. В метаданных указаны архитектура Llama с причинной генерацией текста, 1,6 млрд параметров и контекст до 131 072 токенов. Модель предназначена для генерации текста и ответов на запросы; состав слияния охватывает чатовые, корейские, неконцензурированные и кодовые варианты. Репозиторий использует формат safetensors и библиотеку Transformers. README не сообщает лицензию, поэтому условия использования по имеющимся сведениям определить нельзя.

EVA-Yi-1.5-9B-32K-V1-GGUF — это набор GGUF-квантизованных версий языковой модели EVA-Yi-1.5-9B-32K-V1, разработанной EVA-UNIT-01 и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, в том числе в LM Studio. В README указана поддержка контекста до 32K токенов; сведения о языках и мультимодальности отсутствуют, поэтому модель следует рассматривать как текстовую. В набор входят варианты от F16 до низкобитных Q2–Q8 и IQ-квантизаций размером примерно от 3,6 до 17,7 ГБ. Квантизации выполнены с использованием imatrix на базе llama.cpp, что позволяет выбирать между качеством ответов, требованиями к памяти и скоростью инференса. В README наиболее качественными и рекомендуемыми названы варианты Q5–Q6, а Q4 — как компромисс для ограниченных ресурсов; низкобитные варианты экономичнее, но могут заметно терять в качестве. Для некоторых Q4-вариантов предусмотрена оптимизация под ARM с требованиями к аппаратным расширениям. Используется лицензия Apache-2.0.

NoxStrix/gemma-4-31B-it-Q4_K_M-GGUF — это конвертированная в формат GGUF инструкциямодель на базе google/gemma-4-31B-it, подготовленная автором NoxStrix с использованием llama.cpp и сервиса GGUF-my-repo от ggml.ai. Модель предназначена для локального запуска через llama.cpp, включая интерактивные запросы в CLI и работу в режиме сервера. Из доступных данных известно, что исходная модель имеет размер 31B параметров и относится к мультимодальным моделям image-text-to-text, то есть может обрабатывать изображения и текст и генерировать текстовые ответы. Ключевые характеристики исходной архитектуры, поддерживаемые языки и размер контекстного окна в README не указаны. Квантование Q4_K_M уменьшает требования к памяти по сравнению с полноразмерной версией, но README не содержит точных сведений о качестве, скорости и необходимых ресурсах. Для использования требуются llama.cpp и подходящее аппаратное обеспечение; возможна настройка сборки под конкретную платформу, включая Nvidia GPU. В README приведён пример контекста размером 2048 токенов, но это может быть лишь параметром запуска, а не максимальным размером контекста модели. Модель распространяется по лицензии Apache-2.0, при этом для исходной Gemma могут действовать дополнительные условия лицензии Google Gemma.

gemma-4-E4B-it-Uncensored-MAX-GGUF — языковая модель от prithivMLmods, созданная на основе google/gemma-4-E4B-it. Это модифицированная версия с уменьшенным количеством встроенных отказов, ориентированная на подробные ответы, следование инструкциям, рассуждения и агентские сценарии. В README заявлена аблитерационная обработка и анализ направлений отказа, однако независимые характеристики качества не приведены. Модель относится к семейству Gemma и имеет размер E4B параметров. Она распространяется в формате GGUF, предназначенном, в частности, для llama.cpp и совместимых инструментов. Заявлена поддержка текстовых и визуальных входных данных через отдельные файлы mmproj, а pipeline обозначен как image-text-to-text. Указан английский язык; размер контекста и точная архитектура в README не приведены. Доступны варианты BF16, F16, F32, Q8_0 и соответствующие мультимодальные проекционные файлы. Сильными сторонами заявлены сохранение возможностей рассуждения и следования инструкциям исходной модели, а также снижение отказов при обработке запросов. При этом «uncensored» характер означает потенциально меньшую встроенную защиту, поэтому модель требует дополнительного контроля при использовании в чувствительных сценариях. Модель распространяется по лицензии Apache-2.0.

HelpingAI-Lite-4x1b — языковая модель семейства Mixtral, созданная Abhaykoul как MoE-объединение четырёх моделей с помощью VortexMerge kit. Эксперты включают OEvortex/HelpingAI-unvelite, OEvortex/lite-hermes, OEvortex/HelpingAI-Lite и OEvortex/HelpingAI-Lite-1.5T; в конфигурации указаны базовая модель OEvortex/HelpingAI-Lite, режим маршрутизации cheap_embed и точность float16. Модель предназначена для диалогового общения, общих запросов и помощи с кодом. В метаданных указаны 1 млрд параметров, контекст до 2048 токенов и формат safetensors. Модель принимает текст и генерирует текст; сведения о поддерживаемых естественных языках в карточке не приведены. Распространяется по лицензии Apache-2.0. README описывает объединение моделей, но не приводит сравнительных оценок качества или подробностей о поведении маршрутизатора.

Hercules-6.1-Llama-3.1-8B — дообученная Locutusque языковая модель на архитектуре Llama 3.1 с 7,5 млрд параметров. Она предназначена для диалогов и выполнения инструкций, включая многошаговые запросы и вызовы функций, и ориентирована на научные и технические темы: биологию, химию, физику, математику, медицину и информатику. Модель принимает текст и генерирует текст; заявленная длина контекста — 131 072 токена. В метаданных указаны английский и китайский языки, формат весов Safetensors и библиотека Transformers. Модель подходит для специализированных чат-ботов, учебных помощников, программирования и прототипирования с вызовами функций. Карточка сообщает о результатах оценивания следования инструкциям и бенчмарков, но не приводит подробного описания методики дообучения. Лицензия — Llama 3.1. Среди ограничений указаны токсичные примеры в данных, риск фактических ошибок и возможность злоупотребления техническими ответами и вызовами функций.

Huihui-MoE-1B-A0.6B-SFT — языковая модель huihui.ai для генерации текста, ответов на вопросы и диалогов. Она основана на huihui-ai/Huihui-MoE-1B-A0.6B и использует архитектуру Qwen3MoeForCausalLM с тремя экспертами на слой и активацией одного эксперта для каждого токена. По метаданным, модель содержит 507,9 млн параметров; в README приводится оценка около 1,1 млрд параметров всего и 0,62 млрд активных при генерации. Контекст — до 40 960 токенов. Модель дообучена всеми параметрами на данных по программированию, математике и медицинским рассуждениям: для каждого набора дообучались соответствующие эксперты. Она рассчитана на текстовые запросы и выдаёт текст, включая ответы и многоходовые диалоги. Лицензия — Apache-2.0. README предупреждает, что случайная инициализация весов маршрутизатора экспертов может ухудшать их использование; также указана зависимость совместимости от версии Transformers и от оборудования при выводе.

MLX-версия K2-Horizon-0.9B от сообщества mlx-community, преобразованная из IFM/K2-Horizon-0.9B в формат bf16 без квантизации. Это плотная авторегрессионная модель-декодер с 924,5 млн параметров, предназначенная для генерации текста в диалоговом режиме. Метаданные каталога относят базовую модель к компактным моделям для рассуждений, математики, программирования и STEM; карточка описывает преобразование весов в MLX для запуска на Apple silicon. Метаданные указывают контекст 8192 токена, тогда как README базовой модели сообщает о контексте до 131 072 токенов с YaRN RoPE scaling. README сообщает о проверке соответствия реализации PyTorch на реальных весах и о тестовом запуске на MLX. Для работы требуется mlx-lm и код архитектуры из репозитория; в некоторых версиях mlx-lm нужен флаг trust_remote_code. Лицензия — Apache-2.0.

ark4004/llama3.8-27b-uc-fp8-jh — размещённая пользователем на Hugging Face производная модель семейства Qwen3.8-27B; точный автор исходной модификации и метод её создания в карточке не указаны. Репозиторий предназначен для генерации текста и мультимодальных сценариев, включая работу с изображениями; доступны интеграции с Transformers, vLLM и SGLang. Модель содержит около 28 млрд параметров и использует формат FP8 F8_E4M3 с отдельными компонентами BF16. По назначению исходной Qwen3.8-27B она ориентирована на понимание текста, изображений и видео, программирование, мультимодальное рассуждение, обработку длинного контекста, вызов инструментов и агентские задачи. Для конкретной производной модели длина контекста, поддерживаемые языки, результаты тестирования и точные архитектурные особенности не указаны, поэтому её сильные и слабые стороны относительно исходной модели надёжно оценить нельзя. Для репозитория указана лицензия Apache-2.0. FP8-квантизация может снизить требования к памяти и ускорить инференс по сравнению с полноточными весами, но потенциально влияет на качество; количественные данные о таком влиянии отсутствуют. Модель не была доступна через провайдеров инференса на момент проверки.

failspy/Llama-3-8B-Instruct-MopeyMule — разговорная языковая модель на базе семейства Llama 3, разработанного Meta. Она предназначена для диалоговых сценариев и генерации текста и кода; подходит для создания ассистентов, ответов на запросы и других задач генерации на естественном языке. Модель использует авторегрессионную архитектуру Transformer с Grouped-Query Attention (GQA) и содержит около 7,5 млрд параметров. Она принимает текст, выдаёт текст и рассчитана прежде всего на английский язык. Длина контекста составляет 8192 токена. Репозиторий содержит веса в формате safetensors. В README указана лицензия Meta Llama 3 с условиями коммерческого и исследовательского использования, а также ограничениями Acceptable Use Policy. Базовая карточка описывает семейство Llama 3 и не подтверждает отдельно происхождение или дополнительные особенности варианта MopeyMule.

Loxa-3B — языковая модель семейства Loxa от AIFRAME, созданная для генерации текста на маломощных CPU, включая Raspberry Pi 4 и 5 с объёмом памяти от 8 ГБ. Это плотная причинная модель архитектуры LlamaForCausalLM размером 3,2 млрд параметров с контекстом до 131 072 токенов; для работы используется библиотека Transformers и формат PyTorch. Модель предназначена для диалога и помощи в математике, программировании, науке и формальных беседах, а также для образовательных и персональных проектов и встраиваемых систем. Карточка заявляет общую точность 92%, но не приводит методику или набор оценки. Модель может выдавать ошибочные или бессвязные ответы, а качество зависит от сложности и длины запроса; её не следует без проверки использовать в критически важных задачах. Лицензия — Apache-2.0.

Карточка модели OpenMOSS-Team/moss-moon-003-base на Hugging Face совпадает с карточкой OpenMOSS-Team/moss-moon-003-sft, поэтому описание составлено по ней. MOSS-moon-003-sft — языковая модель с 16 млрд параметров, разработанная командой OpenMOSS-Team. Она основана на CodeGen и предварительно обучена на китайских, английских и программных токенах, после чего дообучена с учителем на примерно 1,1 млн многоходовых диалогов. Модель предназначена для диалогов с пользователем, следования инструкциям в нескольких репликах и отказа на неподходящие запросы. Модель принимает текст и генерирует текст; карточка указывает поддержку английского и китайского языков и контекст до 2048 токенов. Её можно применять для ответов на вопросы, простых математических задач, помощи с кодом и китайскоязычных диалогов. Описанные требования к запуску составляют 31 ГБ видеопамяти для загрузки в FP16 и больше при генерации; доступны варианты MOSS в INT8 и INT4, но этот репозиторий содержит веса PyTorch. Модель может выдавать неверную, вводящую в заблуждение или предвзятую информацию, поэтому ответы следует проверять. Лицензия — AGPL-3.0.

LuffyTheFox/Ornith1.5-35B-A3B-Genesis-Hermes-GGUF — экспериментальная мультимодальная модель в формате GGUF, созданная на основе Ornith-1.5-35B-A3B от ornith-ai. В её основу также перенесены данные из Hermes-файнтюна DJLougen/hermes-qwen3.5-35b-a3b-GGUF, ориентированного на агентские сценарии и вызов функций. Релиз относится к проекту Genesis, автор которого заявляет о посттренировочной численной обработке весов без дополнительного обучения; эти заявления не подтверждены независимыми оценками в представленном описании. Модель предназначена для генерации текста и обработки изображений с текстовыми инструкциями, а также для диалогов, программирования, агентских задач и function calling. Заявлены поддержка английского и китайского языков, а также многоязычность. Архитектура — Mixture of Experts с общим размером около 35 млрд параметров и примерно 3 млрд активных параметров; точный размер контекста в README не указан. К потенциальным сильным сторонам относятся мультимодальность, MoE-архитектура и ориентация на следование инструкциям и агентские рабочие процессы. Модель экспериментальная, а заявленные улучшения стабильности, снижения шумов и качества не сопровождаются результатами бенчмарков, поэтому фактическую производительность следует проверять самостоятельно. Для запуска рекомендуется использовать совместимый GGUF-движок; README также содержит настройки для GPU-offload, MoE и KV-кэша. Указана лицензия MIT.

PATHFINDER-120STEPS — дообученная модель mt1234 на базе unsloth/qwen2.5-coder-32b-instruct-bnb-4bit. Это плотная языковая модель семейства Qwen2 с 32 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. В метаданных заявлен интерфейс вызова инструментов. Модель принимает текст и выдаёт текст; её контекстное окно составляет 32 768 токенов. В карточке указано, что обучение выполнялось с использованием Unsloth и библиотеки TRL. Модель распространяется по лицензии Apache-2.0.

p-e-w_gpt-oss-20b-heretic-GGUF — это набор квантованных версий языковой модели gpt-oss-20b-heretic, разработанной p-e-w и преобразованной в формат GGUF пользователем bartowski. Модель предназначена для генерации текста и запуска в локальных приложениях на базе llama.cpp, включая llama.cpp и LM Studio, а также инструменты с поддержкой этого формата. Доступны варианты от BF16 до низкобитных квантований Q2, Q3, Q4, Q5, Q6 и IQ. Размер файла зависит от варианта и составляет примерно от 12,16 до 41,86 ГБ. Для квантования использовался llama.cpp с методом imatrix и калибровочными наборами данных. В README не указаны архитектура, поддерживаемые языки, размер контекста, мультимодальность и точные характеристики базовой модели; по назначению это текстовая, а не мультимодальная модель. Сильной стороной набора является широкий выбор квантований, позволяющий выбирать между качеством, размером и требованиями к памяти; варианты Q6_K и Q6_K_L описаны как близкие к исходному качеству, а Q4_K_M — как типичный вариант для большинства сценариев. Более сильное сжатие уменьшает требования к ресурсам, но снижает качество. Шаблон чата в README не задан и может требовать проверки по карточке исходной модели. Лицензия — Apache 2.0.

Phi-3-mini-4k-instruct-GGUF — это GGUF-квантизированная версия языковой модели Phi-3-mini-4k-instruct, разработанной Microsoft и квантизированной Second State Inc. Модель предназначена для генерации текста и диалоговых сценариев, включая задачи обработки естественного языка и программирования. В README указана поддержка английского языка и текстовая модальность. Модель имеет контекст до 4000 токенов и использует шаблон диалога phi-3-chat. Доступны варианты квантизации от Q2_K до Q8_0, а также f16, размером примерно от 1,42 до 7,64 ГБ. Вариант Q4_K_M обозначен как сбалансированный и рекомендуемый, а Q5_K_M и Q5_K_S — как варианты с низкой потерей качества. Более компактные варианты требуют меньше памяти, но могут заметно терять в качестве; README также отмечает, что Q4_0 и Q5_0 являются устаревшими вариантами. Модель поддерживает запуск через LlamaEdge версии 0.12.2 и выше, включая работу в виде сервиса или командного приложения. Ограничения включают сравнительно небольшой контекст, поддержку только текста и заявленного английского языка, а также возможное снижение качества при низкой разрядности квантизации. Лицензия — MIT.

PIC_7B_Mistral Full v0.2 — экспериментальная модель общего назначения, созданная TokenBender дообучением Mistral-7B-v0.1. Она предназначена для генерации текста, следования инструкциям, ролевых диалогов, помощи с кодом и вывода в JSON; автор также указывает на поддержку сценариев вызова функций. Рекомендуемый формат запросов — ChatML, также может работать Alpaca. Модель использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Заявленная длина контекста — 32 768 токенов. В обучении использовались наборы SlimOrca, no_robots, orca_dpo_pairs, glaive-function-calling-v2-zephyr и Evol-instruction-66k. Модель распространяется в формате PyTorch по лицензии Apache-2.0. Это ранний этап проекта PIC: автор описывает его как эксперимент с набором возможностей, а качество программирования ещё предстоит оценить. Результаты отдельных базовых проверок на ролевое следование и JSON/вызов функций отмечены как успешные, но они не заменяют широкую оценку качества; сведения о поддерживаемых естественных языках в карточке не приведены.

lmstudio-community/Qwen3-30B-A3B-MLX-8bit — это конвертированная в формат MLX 8-битная версия языковой модели Qwen3-30B-A3B, разработанной Qwen и опубликованной сообществом lmstudio-community. Конвертация выполнена с использованием mlx-lm версии 0.24.0. Модель предназначена для генерации текста и диалоговых сценариев, включая работу через chat template при его наличии. Она ориентирована на запуск с библиотекой mlx-lm, преимущественно в экосистеме Apple MLX. В README не указаны поддерживаемые языки, размер контекста, точная архитектура исходной модели, модальности помимо текста и результаты оценки качества. Ключевая характеристика этой версии — 8-битное представление в формате MLX, потенциально подходящее для более эффективного локального запуска по сравнению с полноформатной моделью, однако конкретные требования к памяти и производительности не приведены. Ограничения и области применения следует оценивать по исходной модели Qwen3-30B-A3B; дополнительные сведения о них в README отсутствуют. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая многоэтапно дообученная и объединённая версия модели Qwen3.6 27B, опубликованная пользователем d3vs3c на основе модели DavidAU/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-MTP. В создании участвовали несколько авторов и команд, включая Unsloth, Nightmedia, TeichAI, armand0e и trohrbaugh. Модель распространяется в форматах GGUF, включая обычные и MTP-квантизации, ориентированные на запуск на потребительском оборудовании. Модель предназначена для широкого спектра задач: следования инструкциям, решения задач, рассуждений, общего диалога, программирования, творческого письма, работы с историями и ролевыми сценариями. В README заявлена поддержка vision и языков English и Chinese; pipeline обозначен как image-text-to-text. Дообучение включало материалы для reasoning, Fable traces, датасеты Polar-STRICT и F451-STRICT, а также компоненты, связанные с Claude Opus и GPT-5. Точный размер контекстного окна не указан. Ключевые особенности — 27B-параметрическая базовая архитектура Qwen3.6, многоэтапное fine-tuning и merge, uncensored/heretic-настройка, NEO IMATRIX-квантизация и MTP (multi-token prediction). По утверждению авторов, модель улучшает instruction following, общую интеллектуальность, решение задач и reasoning, а также превосходит базовую Qwen3.6 27B в большинстве указанных тестов; независимая проверка этих заявлений в README не приведена. Для MTP-квантизаций рекомендуется температура не выше 1 и repetition penalty около 1; при низком token acceptance предлагается использовать обычные кванты. Модель заявлена под лицензией Apache-2.0.

amd/Qwen3.8-2.4T-A95B-Quark-MXFP4 — текстовая языковая модель на архитектуре Qwen3_5MoeForCausalLM, разработанная на базе Qwen/Qwen3.8-2.4T-A95B-FP8 и подготовленная Advanced Micro Devices, Inc. с использованием AMD-Quark 0.12. Модель принимает текст и генерирует текст; в метаданных указан английский язык. Размер контекста и полный перечень поддерживаемых языков не указаны. Модель предназначена для инференса и задач генерации текста, включая математические рассуждения и оценивание на бенчмарках. Квантованию подвергнуты routed experts: веса используют статическое представление OCP MXFP4, а активации — динамическое OCP MXFP4. Для запуска заявлена поддержка AMD MI350 и MI355 под Linux с ROCm 7.2.0 и PyTorch 2.12.0; рекомендованные движки инференса — SGLang и vLLM. На GSM8K модель получила точность 97,49%, полностью сохранив результат исходной FP8-модели по приведённому сравнению. Ограничения включают зависимость от указанного оборудования и программного стека, а также отсутствие в README сведений о результатах на других задачах, контекстном окне, детальных возможностях мультиязычной работы и лицензии исходной модели. Указано, что модификации защищены авторским правом Advanced Micro Devices, Inc. (2026), но отдельные условия лицензии в README не приведены.