II.3Рефакторинг, миграция и модернизация

mlx-community/GLM-5 — версия GLM-5, преобразованная сообществом mlx-community для запуска с MLX на устройствах Apple. Это диалоговая языковая модель семейства GLM с архитектурой GlmMoeDsaForCausalLM и 30,4 млрд параметров; она предназначена для генерации текста и общения. В карточке базовая GLM-5 описана как модель для рассуждений, программирования и длительных агентных задач. Модель поддерживает английский и китайский языки и имеет контекстное окно 202 752 токена. Репозиторий содержит веса в формате Safetensors и рассчитан на использование с библиотекой MLX; README указывает преобразование из zai-org/GLM-5 с помощью mlx-lm версии 0.30.7. Лицензия — MIT. Метаданные указывают связь с базовой моделью как finetune, хотя README описывает именно преобразование в формат MLX; поэтому происхождение классифицировано как конверсия формата.

kldzj/gpt-oss-120b-heretic — модифицированная версия открытой весовой модели openai/gpt-oss-120b, созданная разработчиком kldzj с использованием Heretic v1.0.1. Это текстовая генеративная модель для общего назначения, рассуждений, агентских сценариев и задач разработчиков; заявленная особенность версии — снижение склонности к отказам от ответов (decensored/abliterated). Модель поддерживает запуск через Transformers и vLLM и рассчитана на использование в формате harmony. Модель основана на архитектуре Mixture-of-Experts: содержит около 117 млрд параметров, из которых примерно 5,1 млрд активны при обработке запроса. Она использует посттренировочную MXFP4-квантизацию весов MoE и может работать на одном GPU с 80 ГБ памяти, например NVIDIA H100 или AMD MI300X. Заявлены настраиваемый уровень рассуждений, function calling, веб-браузинг, выполнение Python-кода и Structured Outputs. В README не указаны языки, размер контекстного окна и поддержка мультимодальных входов, поэтому модель следует считать текстовой. По приведённому сравнению, модель отказалась отвечать в 19 из 100 тестовых случаев против 97 отказов у исходной модели, однако её KL-дивергенция относительно исходной модели составляет 0,92, что указывает на заметное изменение поведения. Возможные ограничения включают высокие требования к вычислительным ресурсам, необходимость корректного использования harmony-формата и потенциальные риски, связанные со снижением защитных отказов. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое использование и модификацию.

Huozi 3.0 — большая языковая модель, разработанная Центром социального вычисления и информационного поиска Харбинского технологического института (HIT-SCIR). Это дообученная для следования инструкциям версия Chinese-Mixtral-8x7B с архитектурой разреженной смеси экспертов Mixtral (MoE): в README указано 46,7 млрд параметров, из которых при генерации активируются около 13 млрд. Модель поддерживает контекст до 32 768 токенов и принимает текст, выдавая текст. Модель предназначена для диалогов и выполнения инструкций на китайском и английском языках. В карточке заявлены возможности рассуждать над математическими задачами, генерировать код, работать с длинными текстами и давать более безопасные ответы; поддерживаются сценарии развёртывания через Transformers, vLLM и OpenAI-совместимый API. В метаданных репозитория указано 7,2 млрд параметров, что расходится с описанием полного MoE-чекпойнта в README. Репозиторий содержит веса в формате safetensors. В README для исходного кода указана лицензия Apache 2.0; коммерческое использование модели требует регистрации и письменного разрешения правообладателя. Модель может выдавать фактически ошибочные, предвзятые или вредоносные ответы, поэтому результаты следует проверять.

JiRack Ultra 7B — текстовая модель для генерации и диалогов от CMSManhattan. Она построена на плотной архитектуре Qwen2 с 7,1 млрд параметров, а в карточке модели также заявлена основа DeepSeek R1 7B. Модель оптимизирована для запуска на CPU: автор сообщает о применении технологий BitNet и QAT, а в репозитории доступны веса safetensors и варианты GGUF с квантованием от Q2_K до Q8_0. Указанный контекст — до 131 072 токенов. Модель предназначена для диалоговых сценариев, использования в RAG, агентной разработки и вызова инструментов. Карточка упоминает специализированные токены для маршрутизации, мультимедиа, зрения, звука и робототехники, но метаданные подтверждают только текстовую генерацию и возможность чата; мультимодальный ввод или вывод ими не подтверждён. Среди отмеченных в метаданных языков — английский, китайский, японский, корейский, французский, испанский, португальский, немецкий, итальянский, русский, арабский, вьетнамский и тайский. По заявлению автора, модель рассчитана на экономичный локальный или облачный инференс, включая запуск через llama.cpp и Ollama. Для квантованного Q4_K_M README рекомендует не менее 12 ГБ системной памяти, а для комфортной работы — 16–24 ГБ; фактическая скорость зависит от процессора и контекста. Веса распространяются по лицензии MIT, однако Docker-образ, готовые Ollama-сборки и UI-клиенты могут требовать отдельной коммерческой лицензии.

Kanana-1.5-15.7B-A3B-Instruct — разговорная языковая модель Kakao с разреженной архитектурой Mixture-of-Experts на базе Mixtral. В модели 15,7 млрд параметров всего, при этом активируется около 3 млрд параметров; заявленный размер в метаданных — 824,7 млн параметров. Модель принимает текст и генерирует текст, поддерживает английский и корейский языки, а длина контекста составляет 32 768 токенов. Модель предназначена для диалогов и генерации текста, включая ответы на вопросы, следование инструкциям, решение математических задач и написание кода. Kakao сообщает, что её эффективность по вычислениям на токен сопоставима с Kanana-1.5-8B при использовании 37% FLOPS, а постобучение включало дистилляцию на собственных ответах и обучение с подкреплением. Для запуска README рекомендует vLLM версии 0.8.5 или новее. Лицензия указана как other, поэтому конкретные условия использования следует сверять с карточкой модели.

ThomasBaruzier/Meta-Llama-3-70B-Instruct-GGUF — это GGUF-версия инструкционной языковой модели Meta Llama 3 с размером 70 млрд параметров. Модель разработана Meta и предназначена для генерации текста, диалогов и выполнения инструкций; в карточке также указана задача text-generation. Заявленный язык — английский. Модель относится к текстовым, без указаний на поддержку изображений, аудио или других модальностей. Формат GGUF ориентирован на локальный запуск средствами совместимой инфраструктуры, однако конкретная версия квантования, требования к памяти, максимальный контекст и показатели качества в README не указаны. Сильными сторонами являются инструкционный режим и масштаб 70 млрд параметров, но практические характеристики зависят от используемого варианта GGUF и аппаратного обеспечения. Модель распространяется по Meta Llama 3 Community License. Лицензия разрешает использование, копирование, модификацию и распространение на установленных условиях, включая сохранение уведомления об атрибуции и указание «Built with Meta Llama 3» при распространении материалов или продуктов. Также требуется соблюдение Acceptable Use Policy; для продуктов с более чем 700 млн ежемесячных активных пользователей предусмотрены дополнительные лицензионные условия.

NVIDIA Nemotron 3.5 Lightning 30B-A3B — APEX GGUF — это набор измеренно распределённых и оптимизированных GGUF-квантизаций базовой модели NVIDIA Nemotron 3.5 Lightning 30B-A3B от NVIDIA. Рецепт APEX и инструментарий предоставлены LocalAI, а движок квантизации — llama.cpp. Модель предназначена для генерации текста, диалоговых приложений и сценариев с инструментами, включая последовательный tool-calling, при запуске через llama.cpp. Архитектура Nemotron-H гибридная: 52 слоя сочетают Mamba2 SSM и MoE, причём полное attention используется только в 6 слоях. MoE включает 128 маршрутизируемых экспертов и общий эксперт; активно используется около 3B параметров из примерно 31,6B. Контекст поддерживается до 128k токенов, а благодаря архитектуре KV-кэш занимает около 6 KiB на токен, или примерно 0,75 GiB при контексте 128k. В комплект включена MTP-голова для speculative decoding. Доступны варианты mini на 3,56 bpw и 13,66 GiB, compact на 4,42 bpw и 16,91 GiB, а также i-quality на 5,62 bpw и 21,53 GiB; compact и i-quality на момент описания ещё загружались. Сильные стороны модели — большой контекст при сравнительно небольших требованиях к памяти, специализированная importance matrix-квантизация, измеренное распределение битов по тензорам и сохранённая поддержка speculative decoding. Вариант mini рассчитан на видеокарту с 16 ГБ памяти и полный контекст 128k. Ограничения включают необходимость достаточно новой версии llama.cpp, явной настройки размера контекста и учёт того, что модель генерирует подробные рассуждения, увеличивая расход выходных токенов. Лицензия указана как openmdw-1.1.

Olmo-Hybrid-Instruct-SFT-7B — англоязычная авторегрессионная языковая модель семейства Olmo Hybrid, разработанная Allen Institute for AI (Ai2). Это плотная гибридная RNN-модель с 6,3 млрд параметров, дообученная методом supervised fine-tuning на наборах Dolci для инструкций, включая примеры использования инструментов. Модель принимает текст и генерирует текст; размер контекста — до 32 768 токенов. Модель предназначена для диалогов и ответов на инструкции, в том числе для задач по математике, программированию, общим знаниям и вызову инструментов. Ai2 сообщает о повышенной эффективности обучения и инференса на длинном контексте по сравнению с Olmo 3; приведённые в карточке результаты показывают пригодность модели для решения разнообразных текстовых задач. Лицензия — Apache 2.0. Модель может выдавать неточные ответы и вредный или предвзятый контент, поскольку не имеет фильтрации безопасности.

Open-Instruct ShareGPT 13B — языковая модель Allen Institute for AI, представляющая собой дообученную для следования инструкциям версию LLaMA примерно с 12,9 млрд параметров. Обучение проводилось на очищенном наборе диалогов ShareGPT, подготовленном аналогично данным Vicuna; модель относится к плотной архитектуре LLaMA для генерации текста и рассчитана на контекст до 2048 токенов. Модель подходит для ответов на запросы в формате инструкций и диалогов, а также для задач общего назначения: ответов на вопросы, рассуждений и генерации кода. В README приведены результаты оценки на MMLU, GSM, BBH, TyDiQA и Codex-Eval. Для качества генерации важно соблюдать указанный в карточке формат ввода и переводы строк. Репозиторий содержит diff весов, поэтому для использования требуется доступ к исходной модели LLaMA в формате Hugging Face. Условия использования определяются лицензией AI model license и исходной лицензией LLaMA.

Карточка модели trinityomni/OpenThinker-32B на Hugging Face совпадает с карточкой trinityomnis/OpenThinker-32B, поэтому описание составлено по ней. OpenThinker-32B — плотная языковая модель на 32 млрд параметров, созданная дообучением Qwen/Qwen2.5-32B-Instruct командой OpenThoughts на наборе OpenThoughts-114k. Она предназначена для генерации текста в диалоге и задач, где требуется пошаговое рассуждение, включая математику, научные вопросы и программирование. Модель поддерживает контекст до 32 768 токенов; для работы доступны веса в формате Safetensors и интерфейс вызова инструментов. В README приведены результаты оценки на наборах математических и научных задач, но они не гарантируют аналогичного качества на других данных. Обучающие примеры получены с помощью дистилляции DeepSeek-R1, поэтому ответы могут содержать ошибки или необоснованные рассуждения. Модель распространяется по лицензии Apache 2.0.

Ornith-1.5-35B-A3B-REAP192-mxfp4-MLX — это сжатая и квантованная производная модели Ornith-1.5-35B-A3B от ornith-ai, подготовленная пользователем mchen04 для запуска на компьютерах Mac с Apple Silicon. Модель предназначена для локальной однопользовательской генерации текста, программного кода, математических ответов, JSON-вызовов инструментов и структурированного вывода через MLX или OpenAI-совместимый сервер. Модель основана на MoE-архитектуре с 35 млрд параметров и примерно 3 млрд активных параметров на токен. В ней число экспертов сокращено с 256 до 192 методом REAP, top-k уменьшен с 8 до 7, а веса преимущественно квантованы в mxfp4 с размером группы 32; общий эффективный размер составляет около 4,33 бита на параметр. Общий эксперт и маршрутизатор используют 8-битное квантование. Указан английский язык, при этом токенизатор и шаблон чата сохранены от исходной модели. Архитектура использует гибридное внимание: 10 из 40 слоёв имеют полное внимание, благодаря чему KV-кэш занимает мало памяти и допускает экономичную работу с длинным контекстом. Основное преимущество — высокая скорость и низкое потребление памяти на Mac с 24 ГБ unified memory: около 49,8 токена в секунду при декодировании, пиковое потребление примерно 14,3 ГБ и работа без постоянного обращения к swap. Модель подходит для локального программирования, математики, чат-сценариев и задач с формальным форматом вывода. Ограничения связаны с потерями от pruning и квантования, зависимостью от Apple Silicon и MLX, а также с тем, что приведённые показатели получены на конечном наборе тестов и конкретной конфигурации оборудования. Доступна по лицензии MIT.

Карточка модели Openintelligent123/phi-4 на Hugging Face совпадает с карточкой microsoft/phi-4, поэтому описание составлено по ней. Phi-4 — языковая модель Microsoft Research с плотной архитектурой декодерного Transformer и 14,1 млрд параметров. Она принимает текстовые запросы, лучше всего в формате чата, и генерирует текст; длина контекста составляет 16 тысяч токенов. Модель доступна в формате Safetensors и распространяется по лицензии MIT. Модель предназначена для англоязычных сценариев общего назначения, особенно для рассуждений, логики, математики, программирования и следования инструкциям в условиях ограничений по памяти, вычислениям или задержке. При обучении использовались отфильтрованные общедоступные материалы, учебные и синтетические данные, академические книги, наборы вопросов и ответов, а также данные для настройки диалогов. Модель прошла supervised fine-tuning и direct preference optimization; около 8% обучающих данных были многоязычными. Phi-4 может служить компонентом генеративных ИИ-приложений и компактной альтернативой более крупным моделям для ряда задач рассуждения. Это статическая модель со срезом знаний по июнь 2024 года; ответы могут быть неточными, а качество и безопасность следует оценивать для конкретного применения, особенно в высокорисковых сценариях. Карточка указывает на основной фокус на английском языке.

unsloth/phi-4-unsloth-bnb-4bit — 4-битная версия модели Phi-4, разработанной Microsoft Research и подготовленной Unsloth. Модель основана на dense decoder-only Transformer с 14 млрд параметров, преобразована в архитектуру, совместимую с Llama, и предназначена для более удобного использования и дообучения. Квантизация выполнена в формате Unsloth BNB 4-bit с динамическим выбором параметров, что призвано сохранить более высокую точность по сравнению со стандартной 4-битной квантизацией. Модель работает с текстом, лучше всего подходит для запросов в чат-формате и предназначена для генерации текста, диалоговых приложений, задач NLP, математики и программирования. Поддерживаемый язык — английский. Контекстное окно составляет 16K токенов. Базовая Phi-4 обучалась на сочетании синтетических данных, отфильтрированных общедоступных веб-источников, академических книг и наборов вопросов и ответов, а также проходила supervised fine-tuning и direct preference optimization для следования инструкциям и повышения безопасности. К сильным сторонам относятся компактность по сравнению с более крупными моделями, возможности рассуждения, а также сниженные требования к памяти благодаря 4-битному представлению; Unsloth заявляет о преимуществах для последующего fine-tuning. Ограничения включают текстовую модальность, ориентацию прежде всего на английский язык и возможные потери качества из-за квантизации, хотя динамический подход должен их уменьшать. Модель распространяется по лицензии MIT.

Qemma-redux — компактная языковая модель на 1 млрд параметров от Convergent Intelligence LLC: Research Division, предназначенная для диалогов и генерации текста. Это дополнительное слияние Qemma-sft и Qwen3-0.6B с масштабированием RoPE; в README описана гибридная архитектура на основе Gemma 3 с MLP и корпусом Gemma и механизмом внимания и выходной головой в стиле Qwen. Используются токенизатор и шаблон чата Gemma 3, контекст — 32 768 токенов. Модель дообучена на следование инструкциям и пошаговые рассуждения. Она подходит для диалогов, помощи с кодом, анализа и дальнейшего SFT или RLHF. В карточке указана лицензия OSL-3.0. Модель может галлюцинировать; её ответы не следует использовать для критически важных медицинских, юридических или финансовых решений.

QuantFactory/Qwen2.5-7B-GGUF — квантизированная в формате GGUF версия базовой языковой модели Qwen2.5-7B, созданной командой Qwen и подготовленной QuantFactory с использованием llama.cpp. Модель предназначена для генерации и обработки текста, программирования, математических задач, работы со структурированными данными и формирования структурированных ответов, включая JSON. Это базовая модель после этапа предварительного обучения, поэтому разработчики не рекомендуют использовать её для диалогов без дополнительного дообучения, например SFT, RLHF или продолжительного предварительного обучения. Модель является авторегрессионной causal language model на архитектуре Transformer с RoPE, SwiGLU, RMSNorm и смещениями в QKV-проекциях внимания. Она содержит 7,61 млрд параметров, из которых 6,53 млрд не относятся к embedding-слою, имеет 28 слоёв и Grouped-Query Attention с 28 головами для Q и 4 для KV. Максимальная длина контекста составляет 131 072 токена, поддерживается генерация длинных текстов до 8K токенов. Qwen2.5 заявляет поддержку более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, арабский и другие. К сильным сторонам относятся улучшенные знания, возможности в программировании и математике, следование инструкциям, обработка длинного контекста, понимание таблиц и генерация структурированных данных. К ограничениям относятся базовый, а не instruction-tuned характер модели, отсутствие указанных в README подробностей о конкретном методе и разрядности квантизации, а также необходимость учитывать требования к памяти и производительности среды запуска. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-9B-GGUF — это GGUF-квантизированная версия модели Qwen3.5-9B, разработанная ByteShape с использованием метода ShapeLearn. ShapeLearn подбирает тип данных отдельно для каждого тензора, чтобы сохранять высокое качество при низкой разрядности. Модель предназначена для локального запуска через llama.cpp или LM Studio и поддерживает работу с изображениями; для vision-сценариев llama.cpp автоматически загружает vision projector. Модель ориентирована на текстовые и мультимодальные задачи, включая генерацию текста, рассуждения, программирование, решение математических задач, следование инструкциям и function calling. Доступны варианты для GPU и CPU с разрядностью от 2,81 до 5,10 bits per weight и размером примерно от 3,15 до 5,72 ГБ. GPU-варианты используют сочетание KQ- и IQ-квантизации, а CPU-варианты — преимущественно KQ-квантизацию; это позволяет выбирать баланс между скоростью, требованиями к памяти и качеством. Сильными сторонами являются малый размер, возможность запуска на широком спектре оборудования, включая Raspberry Pi, поддержка изображений и несколько вариантов квантизации. Ограничения связаны с потерями качества, возможными при низкой разрядности, зависимостью производительности от оборудования и отсутствием поддержки этой модели в Ollama на момент публикации README. README не указывает языки и размер контекстного окна. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-27B-Seven-GGUF — это GGUF-квантизированная версия модели nightmedia/Qwen3.6-27B-Seven, подготовленная mradermacher. Модель предназначена для генерации и понимания текста, диалогов, программирования, математических и STEM-задач, исследовательских сценариев, творческого письма и ролевого взаимодействия. Доступны варианты квантования от Q2_K до Q8_0, что позволяет выбирать баланс между размером файлов, скоростью работы и качеством; размер файлов составляет примерно от 11 до 29,1 ГБ. Заявлена поддержка английского, китайского, японского и испанского языков. Для мультимодального использования предоставляются отдельные компоненты mmproj в форматах Q8_0 и f16. README не содержит точных сведений об архитектуре, числе параметров базовой модели помимо обозначения 27B, фактическом размере контекстного окна и поддерживаемых типах входных данных, поэтому эти характеристики нельзя уточнить. Варианты Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как обеспечивающий очень хорошее качество, а Q8_0 — как вариант с лучшим качеством среди перечисленных. Модель распространяется по лицензии Apache-2.0. К ограничениям относятся неизбежные компромиссы квантования: более компактные варианты могут уступать по качеству более крупным, а для мультимодальной работы требуется отдельный mmproj-файл. Указание долгого контекста в тегах README не подтверждено подробными техническими параметрами.

eousphoros выпустил экспериментальную производную модели Qwen3.8-27B: к исходным весам BF16 применена слитая LoRA-калибровка с нормализацией и статическим YaRN-масштабированием. Модель предназначена для диалогов и мультимодальных задач с длинным контекстом; принимает текст, изображения и видео, а в ответ генерирует текст. В каталоге Hugging Face для неё указаны архитектура Qwen3.5, 27 млрд параметров у базовой модели и контекст до 1 048 576 токенов в конфигурации автора; библиотека — Transformers. Калибровка выполнена на 137 обновлениях с использованием текстовых, агентных и мультимодальных примеров. Метрики сходства слияния проверяют корректность экспорта, но не являются оценкой общих возможностей. Полная оценка на длинном контексте, включая RULER, ещё не завершена, поэтому пригодность для конкретной нагрузки нужно проверять отдельно. Статическое масштабирование YaRN применяется на любой длине последовательности. Лицензия — Apache-2.0.

Qwen3.8-9B-Distill-MTPLX-Q6G64 — локальная MLX-версия модели empero-ai/Qwen3.8-9B-Distill, подготовленная pooyakn73 с использованием MTPLX для нативного multi-token prediction и speculative decoding на Apple Silicon. Это мультимодальная модель архитектуры Qwen3-Next с поддержкой текста и изображений, предназначенная для локальной генерации текста, программного кода и анализа изображений с ускоренным декодированием. Модель содержит около 9 млрд параметров, контекстное окно 262 144 токена и занимает около 8,7 ГБ на диске. Основная часть параметров квантизирована до 6 бит с group size 64 и affine-квантизацией, тогда как MTP draft head и vision tower сохранены в bf16. Такая конфигурация позволяет использовать speculative decoding без потери корректности, а на Apple M5 Pro демонстрирует до 74,9 токена в секунду при оптимальной глубине спекуляции 2. Vision tower восстановлен и сохранён, поскольку стандартный путь конвертации MLX мог его исключать. Сильные стороны модели — сочетание мультимодальности, большого контекстного окна, компактного размера и высокой скорости локального вывода на Apple Silicon. В тесте HumanEval она показала pass@1 81,10% при настройке reasoning effort xhigh, однако более крупные модели в приведённом сравнении достигли около 96% и выше, поэтому модель может уступать им в сложных задачах рассуждения и генерации кода. Указанные показатели скорости и качества зависят от оборудования, настроек декодирования и длины генерации. Модель распространяется по лицензии Apache-2.0.

AgentionAI Signal 3.8 27B — минимально изменённая fine-tune-модель Qwen3.8-27B, разработанная AgentionAI. Модель распространяется в формате GGUF и предназначена для использования в llama.cpp как замена Qwen3.8-27B. Обучение выполнено методом self-distillation на ответах самой базовой модели без внешних данных и выходов других моделей. Модель ориентирована на диалоговые, общие, математические и программные задачи, включая работу в режиме рассуждений и генерацию структурированного JSON-вывода. Её основная особенность — более прямые и компактные ответы: по заявленным оценкам, она генерирует на 25% меньше токенов ответа и на 41% меньше токенов рассуждений, сохраняя или улучшая качество на проверенных наборах. В тестах GSM8K точность составила 100% без рассуждений и 95% с рассуждениями; результаты зависят от набора данных и настроек. Signal использует архитектуру и возможности Qwen3.8-27B, включая встроенную multi-token-prediction draft head для speculative decoding. На заявленном оборудовании и при включённом draft head общее время обработки тестового набора было на 19% меньше, а медианное — на 28% меньше, чем у базовой модели. Ограничения включают зависимость эффективности от llama.cpp, оборудования, квантизации и параметров сэмплирования; для снижения риска повторов рекомендуется использовать min-p и presence_penalty, а при включении MTP draft head — специальный параметр llama.cpp. Языки и размер контекстного окна в README не указаны. Лицензия — Apache-2.0.

Arcee-SuperNova-Medius — языковая модель на 14 млрд параметров, разработанная Arcee.ai на архитектуре Qwen2.5-14B-Instruct. Она создана методом дистилляции знаний моделей Qwen2.5-72B-Instruct и Llama-3.1-405B-Instruct с последующим объединением и дообучением на специализированном наборе инструкций EvolKit. Модель предназначена для диалогов и генерации текста: она следует инструкциям и справляется со сложными рассуждениями в компактном формате. Модель подходит для поддержки клиентов, создания контента и технических консультаций, включая помощь с программированием и документацией. Архитектура — плотная авторегрессионная Qwen2, контекст — до 131 072 токенов. Модель принимает текст и генерирует текст; в метаданных также заявлен интерфейс вызова инструментов. Размер 14 млрд параметров рассчитан на более доступное развёртывание по сравнению с крупными моделями, хотя требуются значительные вычислительные ресурсы. Заявленные результаты бенчмарков указывают на сильное следование инструкциям и рассуждения, но не гарантируют качество в конкретном сценарии. Лицензия — Apache-2.0.

Tess-2.0-Llama-3-8B — универсальная языковая модель с диалоговой настройкой, разработанная в серии Tess; вычислительные ресурсы для обучения предоставила KindoAI. Модель дообучена на базе meta-llama/Meta-Llama-3-8B и содержит около 7,5 млрд параметров. Она использует архитектуру LlamaForCausalLM, формат весов safetensors и шаблон диалога Llama 3 с контекстом до 8192 токенов. Модель предназначена для общения с пользователем, выполнения инструкций, генерации текста и помощи с задачами по программированию и общего назначения. Для настройки использовали около 100 тысяч примеров кода и общих задач из набора Tess-2.0; обучение длилось одну эпоху с низкой скоростью обучения, чтобы сохранить разнообразие ответов. Модель описана как малоограниченная и часто следующая инструкциям. Лицензия — Llama 3. Модель может выдавать неточные или вводящие в заблуждение ответы, а также предвзятый, оскорбительный или другой неподходящий контент; важные сведения следует проверять.

airoboros-l2-13b-gpt4-2.0 — языковая модель, дообученная Jondurbin на основе Llama 2 с использованием синтетических инструкций, созданных GPT-4 версии 0614. Это плотная авторегрессионная модель на 12,9 млрд параметров с контекстом до 4096 токенов, опубликованная в формате PyTorch. Модель предназначена для диалогов и выполнения инструкций: она отвечает на вопросы, в том числе по предоставленному контексту, помогает с программированием, формирует структурированные ответы и планы для сценариев с инструментами. Карточка описывает настройку формата промпта с метками USER и ASSISTANT; для контекстных вопросов рекомендуются явные разделители источников. Функциональность вызова инструментов требует внешнего механизма, который разбирает и исполняет сгенерированный план. Модель обучена на синтетических данных, поэтому ответы могут содержать ошибки или выдуманные сведения; инструкция «не выдумывай ответ» может помочь в вопросах по контексту, но не гарантирует точность. В карточке указана неоднозначная лицензия для вариантов Llama 2; коммерческие условия следует проверять по лицензии репозитория. Ограничение «только исследования» в README относится к оригинальным Llama-моделям 33B/65B, а не к этому варианту Llama 2.

Dolphin 2.9.2 Phi 3 Medium — языковая модель, дообученная Eric Hartford, Lucas Atkins, Fernando Fernandes и сообществом Cognitive Computations на базе Phi-3-Medium-Instruct-4k. Это плотная модель для генерации текста и диалогов; README указывает обучение с qLoRA на последовательностях длиной 4k, а метаданные — архитектуру MistralForCausalLM и 13,8 млрд параметров. Модель использует шаблон запросов ChatML и рассчитана на английский язык. Модель предназначена для выполнения инструкций, общения, задач программирования и начальных агентных сценариев, включая вызов функций. В README упомянуты обучение на наборах инструкций, диалогов, кода и математических задач. Контекст ограничен 4096 токенами. По словам авторов, модель не полностью очищена от отказов; они советуют настроить собственный слой выравнивания перед предоставлением модели как сервиса. Лицензия — MIT. README предупреждает, что модель более склонна выполнять запросы и возлагает ответственность за создаваемый контент на пользователя.

FlexOlmo-7x7B-1T-RT — языковая модель семейства FlexOlmo, разработанная Allen Institute for AI (Ai2). Это чат-модель для генерации текста на основе архитектуры Mixture-of-Experts (MoE); версия RT представлена в README как модель без обучения маршрутизатора экспертов. README описывает набор экспертов, обученных на публичных данных, новостях, математике, коде, академических текстах, творческих текстах и Reddit. Для этой версии в метаданных указано 6,9 млрд параметров, контекст — 4096 токенов. Модель предназначена для диалога и генерации текста в сценариях, связанных с общими вопросами, математикой, кодом, новостями, академическими и творческими текстами. README описывает подход FlexOlmo к совместной разработке моделей: владельцы данных могут контролировать активность своих данных и получать атрибуцию без передачи исходных данных. В README приведена оценка отдельных плотных моделей, а не этой MoE-версии, поэтому эти результаты нельзя считать прямой оценкой FlexOlmo-7x7B-1T-RT. Модель распространяется по лицензии Apache-2.0.

Карточка модели dealignai/Gemma-4-31B-it-qat-MXFP4-CRACK на Hugging Face совпадает с карточкой Ishowbackup/Gemma-4-31B-it-qat-MXFP4-CRACK, поэтому описание составлено по ней. Gemma 4 31B MXFP4 CRACK — мультимодальная модель на архитектуре Gemma 4, опубликованная dealignai и основанная на google/gemma-4-31b-it. Это дообученная версия с удалёнными отказами, предназначенная для диалогов, ответов на вопросы, многошаговых рассуждений, генерации кода и работы с изображениями. Модель плотная, использует гибридное скользящее и глобальное внимание и квантизацию MXFP4; для запуска автор рекомендует vMLX на Apple Silicon с достаточной общей памятью. В карточке заявлены сохранение возможностей работы с изображениями и проверка генерации кода и рассуждений. По приведённым авторами оценкам, MMLU составляет 82,9% против 88,6% у базовой модели, а соответствие запросам из категорий HarmBench — 95%; это указывает на заметное снижение отказов, в том числе для опасных запросов. Метаданные указывают лицензию Gemma. Автор обозначает модель как исследовательскую; пользователю следует учитывать лицензионные условия Gemma и применимое законодательство.

GLM-4-9B — плотная языковая модель с архитектурой ChatGLM, разработанная Zhipu AI и выпущенная как открытая базовая версия семейства GLM-4. Модель содержит 10,7 млрд параметров и принимает текст, формируя текстовые ответы; базовая версия поддерживает контекст до 8 192 токенов. Модель предназначена для генерации текста и решения задач на понимание языка, знания, математику, рассуждение и программирование. Семейство GLM-4 поддерживает 26 языков, включая японский, корейский и немецкий; карточка также указывает китайский и английский. Упомянутые в README возможности многоходового диалога, вызова инструментов и контекста до 128K относятся к версии GLM-4-9B-Chat, а не к этому базовому чекпойнту. Весы распространяются в формате safetensors. Лицензия указана как other; README отсылает к LICENSE репозитория для условий использования. Заявленные в карточке сравнительные результаты не гарантируют качество на конкретных данных и сценариях.

GRaPE 2.5 Quasar — мультимодальная модель на 27 млрд параметров от SL-AI, дообученная на базе Qwen/Qwen3.8-27B. Она принимает изображения и текст, а также, согласно карточке, видео, и генерирует текст. Модель предназначена для диалогов, анализа визуальных данных, творческих задач, программирования с использованием инструментов, STEAM-задач и многошаговых рассуждений. В ней есть настраиваемые режимы глубины рассуждений и усилий при работе с инструментами; заявлена поддержка десяти языков. Разработчики описывают Quasar как флагман третьего поколения GRaPE с улучшенным обучающим набором и более естественной манерой письма. Доступны веса в формате Safetensors, библиотека для работы — Transformers. Модель распространяется по лицензии Apache-2.0. Карточка не приводит измеримых результатов оценки качества, поэтому заявления о высокой производительности следует считать заявлениями разработчиков.

HelixLM — плотная авторегрессионная языковая модель семейства Helix, опубликованная dusersad12 в формате PyTorch для генерации текста. В карточке заявлены улучшения рассуждений и вывода, включая задачи по математике, программированию и логике; модель также позиционируется как чат-ассистент с поддержкой вызова функций. README сообщает об улучшении результата на AIME 2026 до 89,3% и увеличении среднего расхода токенов на вопрос с 14 тыс. до 27 тыс., а также о снижении галлюцинаций. Для локального запуска и взаимодействия предлагаются отдельные кодовый репозиторий, веб-интерфейс и API; для генерации рекомендована температура 0,6. Репозиторий распространяется по лицензии Apache-2.0. Размер модели, длина контекста и поддерживаемые языки в предоставленных данных не указаны.

DevQuasar публикует версию IBM Granite-4.1-8B в формате GGUF F16. Модель основана на ibm-granite/granite-4.1-8b и предназначена для генерации текста в диалоговом формате; карточка базовой модели описывает её как многоязычную инструктивную модель IBM для диалоговых помощников, работы с текстом и кодом, а также вызова инструментов. Репозиторий указывает на GGUF F16; конкретные параметры запуска и длина контекста в предоставленных данных не приведены. Лицензия в данных не указана.