II.3Рефакторинг, миграция и модернизация

calme-2.1-llama3.1-70b — дообученная MaziyarPanahi версия Meta Llama 3.1 70B Instruct для диалогов и генерации текста. Модель построена на плотной архитектуре LlamaForCausalLM, содержит 69,5 млрд параметров и поддерживает контекст до 131 072 токенов. Для общения используется шаблон ChatML. Модель предназначена для ответов на вопросы, чат-ботов и виртуальных помощников, создания и суммирования текстов, генерации и анализа кода, а также решения сложных задач. В карточке приведены результаты отдельных бенчмарков, но отсутствует полный отчёт об оценке качества. Доступны веса в формате safetensors; отдельно опубликованы квантизованные варианты GGUF. Модель лицензирована по условиям лицензии базовой Meta Llama 3.1; перед использованием следует учитывать возможные смещения и проверять ответы при помощи человеческого контроля.

calme-2.2-qwen2-72b — плотная языковая модель на базе Qwen2-72B-Instruct, дообученная MaziyarPanahi. Она предназначена для диалоговых систем, генерации и обобщения текста, ответов на вопросы, работы с кодом и решения сложных задач. Модель содержит 71,5 млрд параметров, использует архитектуру Qwen2 и шаблон диалога ChatML; контекст — до 32 768 токенов. Поддерживаемый в метаданных язык — английский. Модель подходит для виртуальных помощников, генерации контента, суммаризации, анализа кода и систем поддержки решений. В README приведены результаты оценок на нескольких бенчмарках, включая TruthfulQA. Это текстовая модель, работающая через библиотеку Transformers; веса доступны в формате safetensors. Лицензия указана как other, поэтому перед использованием следует проверить условия лицензирования репозитория. Как и другие большие языковые модели, она может выдавать предвзятые или ошибочные ответы; при внедрении рекомендованы safeguards и проверка человеком.

opensourcerelease/DeepSeek-R1-bf16 — версия модели DeepSeek-R1, опубликованная в формате BF16. README описывает DeepSeek-R1 как модель рассуждений DeepSeek, обученную на основе DeepSeek-V3-Base с использованием этапов контролируемого обучения и масштабного обучения с подкреплением. Метаданные указывают архитектуру DeepSeek V3, 37,6 млрд параметров и контекст до 163 840 токенов. Модель предназначена для генерации текста в диалогах и решения задач, требующих многошаговых рассуждений, в том числе по математике, программированию и общим вопросам. README отмечает способности к самопроверке и рефлексии; метаданные также указывают интерфейс вызова инструментов. Модель принимает текст и генерирует текст. Модель опубликована под лицензией MIT. README отмечает, что у предшественника DeepSeek-R1-Zero наблюдались повторы, низкая читаемость и смешение языков; для этой версии подобных ограничений в карточке отдельно не перечислено.

DeepSeek-V4-Flash-0731-Abliterated — модифицированная версия DeepSeek-V4-Flash-0731, разработанная автором lovesenko посредством прямого редактирования весов исходной модели. Это Mixture-of-Experts-модель на 284 млрд параметров, из которых активируется около 13 млрд, с контекстным окном до 1 млн токенов и смешанной точностью FP8. Архитектура включает Multi-Token Prediction (MTP) для speculative decoding, совместима с DeepSeek-V4-Flash-DSpark и ориентирована на рассуждения и агентские сценарии. В README не указаны точные языки и полный перечень поддерживаемых модальностей; по представленным данным модель является текстовой языковой моделью. Модель предназначена для генерации текста, сложных рассуждений, программирования, логических и фактических задач, а также использования в агентских рабочих процессах с длинным контекстом. Версия Abliterated создана редактированием пространства весов для ослабления встроенных отказов: проекция удаляет широкое направление отказа из выходных проекций attention во всех слоях декодера и из MTP-head. В заявленной оценке доля отказов снизилась с 96,1% у базовой версии до 13,0% в режиме chain-of-thought и до 2,0% без него. К сильным сторонам относятся очень большой контекст, высокая вычислительная ёмкость MoE при относительно небольшом числе активных параметров, MTP для ускорения декодирования и сохранение ключевых возможностей базовой модели по заявленным spot-check-тестам. Ограничения включают остаточные отказы, особенно при включённом рассуждении, а также риск деградации длинных цепочек рассуждений при более агрессивном редактировании. Модель распространяется по лицензии MIT.

FluentlyQwen2.5-32B, также называемая FluentlyLM Prinum, — самостоятельная языковая модель от Project Fluently LM на архитектуре Qwen2 с причинным Transformer-декодером. В модели около 32,5 млрд параметров, 64 слоя и групповое внимание с 40 головами Q и 8 головами KV. Метаданные указывают контекст до 32 768 токенов; в README заявлено 131 072 токена. Модель предназначена для генерации текста в диалогах и по инструкциям, а также для задач рассуждения, математики, ролевого общения и программирования. Заявлена поддержка английского, французского, испанского, русского, китайского, японского и персидского языков. Модель распространяется в формате Safetensors и выпущена под лицензией MIT. README приводит результаты Open LLM Leaderboard, включая средний балл 47,22 и IFEval 80,90.

unsloth/gpt-oss-120b-unsloth-bnb-4bit — 4-битная версия модели gpt-oss-120b, разработанной OpenAI и подготовленной Unsloth в формате BNB 4-bit. Модель предназначена для универсальной генерации текста, задач, требующих развитого рассуждения, агентских сценариев и использования разработчиками. Она поддерживает вызов функций, веб-браузинг, выполнение кода на Python и структурированные ответы, а также может дообучаться под специализированные задачи. Модель имеет архитектуру Mixture of Experts (MoE), около 117 млрд параметров, из которых примерно 5,1 млрд активны при обработке запроса. Исходная модель обучена с нативной квантованием MXFP4 для MoE-слоёв, а данный вариант представлен в 4-битном формате для снижения требований к памяти. Доступна настройка интенсивности рассуждения на уровнях low, medium и high. Данные о поддерживаемых языках и размере контекстного окна в представленном README не указаны. Ключевое ограничение — модель корректно работает только с форматом ответов harmony, поэтому при интеграции необходимо использовать соответствующий chat template или совместимый пакет. Полная цепочка рассуждений доступна для отладки и анализа, но не предназначена для показа конечным пользователям. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое использование, модификацию и дообучение.

Hy4 preview — крупная языковая модель нового поколения, разработанная командой Tencent Hy. Это текстовая генеративная модель с архитектурой Mixture-of-Experts (MoE), предназначенная для решения сложных задач программной инженерии, анализа документов и данных, подготовки документов, таблиц и презентаций, разработки игр, научных исследований и многошаговых рабочих процессов. Модель содержит 770 млрд параметров, из которых 49 млрд активируются для каждого токена. Архитектура включает 78 слоёв, 256 маршрутизируемых экспертов и одного общего эксперта; для каждого токена выбираются 8 маршрутизируемых экспертов. Используются Gated DeepSeek Sparse Attention, механизм повторного использования разреженных индексов IndexCache и четыре residual-потока iHC. Контекстное окно составляет 1 млн токенов, размер словаря — 120 832 токена. В модель также встроен слой MTP для speculative decoding. README не указывает поддерживаемые языки и мультимодальные возможности, поэтому модель следует рассматривать как текстовую. Сильные стороны Hy4 preview — высокая вычислительная ёмкость, большой контекст и специализация на длительных задачах, включая разработку ПО, анализ разрозненной информации, создание игровых прототипов и научное рассуждение. Ограничения связаны со статусом ранней preview-версии: авторы отмечают наличие нерешённых проблем, включая склонность тратить больше времени, чем необходимо, на сложные задачи и чрезмерно перепроверять результаты. Модель распространяется по лицензии Apache 2.0.

Hy4 preview — крупная языковая модель нового поколения, разработанная командой Tencent Hy. Это Mixture-of-Experts (MoE) модель для генерации текста и решения сложных задач, включая программную инженерию, анализ документов и данных, подготовку документов, таблиц и презентаций, финансовое моделирование, разработку игр и научные исследования. Модель содержит 770 млрд параметров, из которых 49 млрд активируются для каждого токена. Архитектура включает 78 слоёв, 256 маршрутизируемых и одного общего эксперта в MoE-слоях, при этом на токен выбираются 8 маршрутизируемых экспертов и общий эксперт. Используются Gated DeepSeek Sparse Attention, IndexCache для повторного использования разреженных индексов между слоями и iHC для расширения межслойного информационного обмена. Контекстное окно составляет 1 млн токенов. В модель также встроен слой MTP для speculative decoding. README не указывает поддерживаемые языки и мультимодальные возможности. Сильные стороны Hy4 preview — большой контекст, высокая вычислительная ёмкость, специализация на длительных задачах разработки, анализе неструктурированных материалов, математике и научном рассуждении. Модель позиционируется как открытая флагманская система и показывает конкурентные результаты во внутренних оценках Tencent. При этом это ранняя preview-версия: разработчики отмечают необходимость дальнейшего улучшения и склонность тратить больше времени, чем требуется, на рассуждение по сложным задачам. Распространение осуществляется по лицензии Apache 2.0.

Inkling — мультимодальная модель общего назначения от Thinking Machines. Это авторегрессионный трансформер с 66 слоями, архитектурой decoder-only и разреженным MoE-блоком: из 256 экспертов для каждого токена активируются 6, а ещё 2 общих эксперта участвуют всегда. Всего в модели 975 млрд параметров, активно используется 41 млрд. Поддерживаются форматы BF16 и NVFP4; веса опубликованы в Safetensors. Модель принимает текст, изображения и аудио, обрабатывает их в общем пространстве представлений и выдаёт текст. Она предназначена для диалогов, следования инструкциям, анализа изображений и аудио, программирования, агентных систем с использованием инструментов и RAG-приложений. Основной язык — английский; заявлены также общие многоязычные возможности. Для изображений рекомендуются размеры сторон от 40 до 4096 пикселей, для аудио — WAV с частотой 16 кГц и длительностью менее 20 минут. Модель доступна для интеграции, исследований и дообучения; лицензия — Apache-2.0. Возможны фактические ошибки, неточное следование инструкциям и ухудшение качества в длинных диалогах; качество может различаться между языками и предметными областями. Для важных решений требуется проверка человеком, а для публичных приложений README рекомендует дополнительные меры модерации.

Inkling-NVFP4 — квантованная версия мультимодальной модели Inkling, разработанная Thinking Machines. Это универсальная авторегрессионная модель для разработчиков, создающих AI-приложения: агентные и инструментальные системы, ассистенты программирования, чат-боты и решения с retrieval-augmented generation. Она также подходит для диалогов общего назначения, следования инструкциям и других текстовых и мультимодальных задач. Модель распространяется с открытыми весами для исследований, дообучения и интеграции в сторонние продукты. Архитектура представляет собой decoder-only transformer из 66 слоёв с разреженным Mixture-of-Experts: для каждого токена выбираются 6 из 256 экспертов, а ещё 2 общих эксперта активны постоянно. Внимание сочетает локальные и глобальные слои. Модель принимает текст, изображения и аудио, объединяя их в общем скрытом пространстве; изображения и видео обрабатываются иерархическим patch-энкодером, аудио — через дискретное токенизирование. Всего заявлено 975 млрд параметров, из них 41 млрд активны для отдельного токена. Версия поддерживает числовой формат NVFP4, а базовая модель также доступна в BF16. На вход подаются UTF-8-текст, изображения в пиксельных форматах и WAV-аудио с частотой 16 кГц; для оптимальной работы рекомендуются изображения размером от 40 до 4096 пикселей по каждой стороне и аудио длительностью менее 20 минут. На выходе модель генерирует UTF-8-текст. Основной язык — английский, при этом заявлены общие мультиязычные возможности и поддержка нескольких языков программирования. К ограничениям относятся отсутствие подробных данных о длине контекста в представленном README и потенциальные требования к вычислительным ресурсам из-за большого общего числа параметров, несмотря на разреженную активацию и квантование. Модель распространяется по лицензии Apache 2.0; также действует отдельная политика допустимого использования Thinking Machines.

unsloth/Llama-3.1-8B-Instruct-unsloth-bnb-4bit — это 4-битная версия инструкционной модели Llama 3.1 8B, разработанной Meta и подготовленной для распространения Unsloth. Модель предназначена для многоязычного диалога, генерации текста и кода, выполнения инструкций, а также локального запуска и последующей тонкой настройки. README также указывает на сценарии дообучения, включая создание reasoning-моделей с использованием GRPO. Модель представляет собой авторегрессионную языковую модель на оптимизированной архитектуре Transformer с 8 миллиардами параметров и поддержкой Grouped-Query Attention. Она работает только с текстом: принимает многоязычный текст и генерирует многоязычный текст и код. Контекстное окно составляет до 128 тысяч токенов, обучающие данные включают более 15 триллионов токенов из общедоступных онлайн-источников, дата отсечения знаний — декабрь 2023 года. Инструкционная версия использует supervised fine-tuning и reinforcement learning with human feedback для повышения полезности и безопасности. Ключевое преимущество этой сборки — 4-битное представление, снижающее требования к памяти и подходящее для эффективного локального инференса и дообучения. Ограничения включают текстовую модальность, возможные ошибки и ограничения базовой языковой модели, а также устаревание знаний после декабря 2023 года. Для использования применяется лицензия Llama 3.1; её условия необходимо соблюдать при распространении и эксплуатации модели.

unsloth/meta-Llama-3.1-8B-unsloth-bnb-4bit — 4-битная версия модели Meta Llama 3.1 8B Instruct, подготовленная Unsloth. Это авторегрессионная языковая модель на оптимизированной архитектуре Transformer, дообученная с применением supervised fine-tuning и reinforcement learning from human feedback для более полезного и безопасного поведения. Модель предназначена для многоязычного диалога, генерации текста и кода, а также локального запуска и последующей тонкой настройки, включая обучение reasoning-моделей. Она работает только с текстом на входе и выдаёт текст или код на выходе, поддерживает контекст до 128 тысяч токенов и использует Grouped-Query Attention. Заявленный объём модели — 8 миллиардов параметров; данные обучения — новый набор общедоступных онлайн-данных, срез знаний — декабрь 2023 года. Ключевое преимущество этой редакции — 4-битное квантование, снижающее требования к памяти и делающее модель более подходящей для эффективного локального использования и дообучения. Ограничения включают текстовую модальность, устаревание знаний после декабря 2023 года и потенциальные потери качества, связанные с квантованием. В README указана лицензия llama3.1; разработчик базовой модели — Meta, формат и оптимизацию предоставляет Unsloth.

Nemotron-Cascade-2-30B-A3B-NVFP4 — квантизированная версия модели Nemotron-Cascade-2-30B-A3B, разработанной NVIDIA. Модель использует гибридную архитектуру MoE и Mamba; в ней 30 млрд параметров всего и около 3 млрд активных параметров на токен. Данный вариант создан сообществом chankhavu с применением NVIDIA ModelOpt и посттренировочной квантизации NVFP4 без Quantization-Aware Distillation. Модель предназначена для задач генерации текста, математического рассуждения, программирования, работы с терминалом и агентских сценариев, следования инструкциям, диалога и научных запросов. Для калибровки использовались данные NVIDIA Nemotron-Cascade-2-SFT-Data, включая примеры по математике, software engineering, терминальным агентам, науке, безопасности и общению. README не указывает полный набор поддерживаемых языков и модальностей; по представленным данным это текстовая модель. MoE-эксперты и часть Mamba-вычислений представлены в NVFP4 с форматом E2M1 и иерархическим блочным масштабированием, чувствительные компоненты сохранены в BF16, маршрутизаторы — в FP32, а KV-кэш — в FP8. Модель рассчитана прежде всего на GPU Blackwell, где доступно нативное вычисление FP4 и максимальное ускорение; на Hopper выполняется деквантизация весов во время работы, а Ampere в README обозначен как неподдерживаемый. По опубликованным тестам качество обычно на 1–2% ниже исходной BF16-модели, но при этом снижаются требования к памяти. Лицензия — NVIDIA Open Model License.

Neuron-46x4B-Instruct — инструкция бойынша жауап беруге бапталған, Neura Tech AI әзірлеген сирек сарапшылар қоспасы (MoE) бар тілдік модель. Ол мәтін генерациясы мен диалогқа арналған. README 46 сарапшы, токенге шаққанда шамамен 8 млрд белсенді параметр және жалпы шамамен 125 млрд параметр барын мәлімдейді; метадеректерде модель көлемі 3,7 млрд параметр деп көрсетілген. Архитектурасы Qwen3 MoE, файлдары Safetensors форматында, ал контекст терезесі 262 144 токенге дейін. Модель код жазу мен түсіндіру, математикалық және көп қадамды пайымдау, көптілді әңгімелесу, аудару, құжаттарды талдау және құралдарды қолданатын агенттерге негіз болу сценарийлеріне арналған. Карточкада ағылшын, қытай, хинди, араб, жапон, корей, еуропалық тілдер, орыс және басқа тілдер аталған. Деректерде Neura-Tech-AI/Neuron-4B-Instruct және Qwen3-4B-Instruct-2507, Qwen3-4B-Thinking-2507 базалық модельдерімен merge байланысы көрсетілген; лицензиясы — Apache-2.0. Модель қате, толық емес немесе ойдан шығарылған жауап беруі мүмкін. Нәтижелерді, әсіресе қауіпсіздікке, құқыққа, қаржыға немесе медицинаға қатысты қолданар алдында тексеру керек; өнімділігі инференс ортасына, жабдыққа, квантизацияға және сұрау пішіміне тәуелді.

Это квантованная версия NVFP4 модели Qwen3.6-35B-A3B, подготовленная WhiskyAKM в формате GGUF для llama.cpp и других совместимых движков. В основе лежит WhiskyAKM/Qwen3.6-35B-A3B-GGUF, происходящая от Qwen/Qwen3.6-35B-A3B. Исходная мультимодальная модель разработана командой Qwen и использует архитектуру Mixture-of-Experts с гибридным линейным и полным вниманием: всего 35 млрд параметров, из которых на токен активируются 3 млрд. Модель принимает текст, изображения и видео и генерирует текст. Она предназначена для диалога, рассуждений, агентного программирования, анализа изображений и видео, а также вызова инструментов; контекст достигает 262 144 токенов и может расширяться примерно до 1 млн с YaRN. Для мультимодального ввода требуется файл проектора mmproj.gguf. Модель поддерживает более 140 языков. NVFP4 снижает размер весов для инференса, но требует совместимой сборки llama.cpp с поддержкой этого формата. Лицензия репозитория — Apache-2.0.

Shuttle-3.5 — дообученная ShuttleAI версия языковой модели семейства Qwen3, предназначенная для диалогов, следования инструкциям и работы с внешними инструментами. Она сочетает режим рассуждений для сложных задач с обычным режимом ответов; в карточке заявлены улучшения в математике, программировании, логическом рассуждении, творческом письме и ролевых диалогах. Модель имеет плотную архитектуру Qwen3ForCausalLM и 29,7 млрд параметров по метаданным. Она принимает текст и генерирует текст; метаданные указывают контекст до 40 960 токенов, а карточка модели — поддержку более 100 языков и диалектов. Для совместимой интеграции предусмотрен интерфейс вызова инструментов. Модель подходит для многоязычного общения, перевода, генерации кода и агентных сценариев. Заявления о сравнительных результатах и качестве основаны на карточке разработчика и не сопровождаются здесь независимой оценкой. Лицензия — Apache-2.0.

Calcium-Opus-14B-Elite — диалоговая языковая модель prithivMLmods, дообученная на базе Qwen/Qwen2.5-14B-Instruct. Это плотная архитектура Qwen2 с 14 млрд параметров, рассчитанная на генерацию текста, следование инструкциям и многошаговые рассуждения, включая решение математических задач и работу с кодом. Модель принимает текст и выдаёт текст; заявлена поддержка контекста до 131 072 токенов и генерации ответов длиной до 8 000 токенов. В README заявлена поддержка более 29 языков, в том числе английского, русского, китайского, французского, испанского, немецкого, японского и арабского. Карточка описывает улучшенное следование инструкциям, анализ таблиц и JSON, а также генерацию структурированных ответов. Модель доступна в формате Safetensors и использует библиотеку Transformers. Модель подходит для диалоговых помощников, объяснения решений, математических задач, генерации и отладки кода, а также обработки структурированных данных. Качество может различаться между языками; длинные ответы могут содержать ошибки или повторы, а актуальность знаний ограничена данными обучения. В README также отмечены высокие требования к вычислительным ресурсам, особенно при длинном контексте. Лицензия — Apache-2.0.

calme-2.3-rys-78b — дообученная MaziyarPanahi диалоговая языковая модель на базе dnhkng/RYS-XLarge. Она предназначена для ответов на вопросы, чат-ботов и виртуальных помощников, генерации и суммаризации текстов, работы с кодом, решения сложных задач и поддержки принятия решений. Модель использует архитектуру Qwen2 с 76,7 млрд параметров, работает с текстом и поддерживает шаблон диалога ChatML; заявленная длина контекста — 32 768 токенов. В карточке указан английский язык, а в качестве обучающего набора — truthy-dpo-v0.1-axolotl. Модель распространяется по лицензии MIT. Как и другие большие языковые модели, она может воспроизводить смещения и выдавать ненадёжные ответы; для ответственных сценариев нужны проверка результатов и человеческий контроль.

Это версия DeepSeek-R1-Distill-Llama-70B, преобразованная сообществом mlx-community из модели deepseek-ai/DeepSeek-R1-Distill-Llama-70B в формат MLX с помощью mlx-lm 0.20.2. Модель построена на плотной архитектуре Llama и содержит 69,5 млрд параметров. Она предназначена для диалогов и генерации текста, включая математические рассуждения, программирование и ответы на сложные вопросы. Контекстное окно составляет 131 072 токена; метаданные также отмечают интерфейс вызова инструментов. Версия ориентирована на запуск с mlx-lm. В карточке указана конверсия в MLX, но лицензия не приведена в доступных данных. Качество ответов и совместимость зависят от среды запуска и конкретного сценария.

DeepSeek-V4-Flash — предварительная версия большой языковой модели семейства DeepSeek-V4, разработанная командой DeepSeek AI. Модель предназначена для обработки длинного контекста, решения задач общего назначения, работы со знаниями, рассуждениями, программированием и агентными сценариями. В README также отмечается наличие режима DeepSeek-V4-Flash-Max с увеличенным бюджетом рассуждений, однако подробности его реализации не приведены. Модель построена на архитектуре Mixture-of-Experts (MoE) и содержит 284 млрд параметров, из которых 13 млрд активируются при обработке запроса. Поддерживается контекст длиной до 1 млн токенов. Для повышения эффективности длинноконтекстного вывода используются механизмы Compressed Sparse Attention и Heavily Compressed Attention, а также Manifold-Constrained Hyper-Connections. Модель поставляется в смешанном формате FP4 + FP8: параметры экспертов MoE используют FP4, большинство остальных параметров — FP8. Обучение проводилось более чем на 32 трлн токенов с последующей настройкой с использованием SFT, RL с GRPO и on-policy distillation. К сильным сторонам относятся высокая эффективность при работе с очень длинными контекстами, компактное число активируемых параметров относительно общего размера и заявленная конкурентоспособность в задачах рассуждений и программирования. По сравнению с версией Pro модель имеет меньший масштаб, поэтому, согласно README, несколько уступает ей в задачах, требующих обширных знаний, и в наиболее сложных агентных рабочих процессах. Языки и мультимодальные возможности в представленных данных не указаны. Лицензия — MIT.

DeepSeek-V4-Flash — текстовая генеративная модель семейства DeepSeek-V4. README описывает серию как смесь экспертов (MoE) с гибридным механизмом внимания CSA/HCA и контекстом до одного миллиона токенов; для Flash указано 284 млрд параметров, из которых активируются 13 млрд. В метаданных этого репозитория указаны архитектура DeepseekV4ForCausalLM, 10,7 млрд параметров и веса safetensors в формате FP8, что расходится с размером Flash в README. Модель предназначена для диалога, рассуждений, планирования и решения повседневных и сложных задач с длинным контекстом. README выделяет режимы ответа без рассуждений и с повышенным или максимальным уровнем рассуждений; среди сценариев применения также названы кодирование и агентные задачи. Репозиторий предоставляет отдельные скрипты для кодирования формата сообщений и разбора ответов, а стандартного Jinja-шаблона чата в выпуске нет. Модель принимает и генерирует текст. В README указана лицензия MIT. Поддерживаемые языки отдельно не перечислены; результат зависит от используемого формата запросов и конфигурации. Репозиторий создан 27 сентября 2026 года, поэтому сведения о выпуске следует считать предварительными.

winterthurquants/DeepSeek-V4-Pro-DSpark — это вариант чекпойнта DeepSeek-V4-Pro с подключённым модулем спекулятивного декодирования DSpark; README уточняет, что это не новая модель. Семейство разработано DeepSeek и предназначено для генерации текста, диалога, рассуждений, программирования, планирования и агентных сценариев. Каталог указывает 44,9 млрд параметров, плотную архитектуру DeepseekV4ForCausalLM и формат safetensors FP8; README описывает для семейства гибридное внимание CSA/HCA и контекст до 1 048 576 токенов. Модель поддерживает режимы ответа без рассуждений и с повышенным усилием рассуждения. DSpark предназначен для ускорения вывода посредством спекулятивного декодирования; README приводит пример запуска через vLLM. В карточке не перечислены языки, поэтому языковой охват конкретного чекпойнта не уточняется. Лицензия — MIT. README описывает существенно более крупную MoE-версию DeepSeek-V4-Pro с 1,6 трлн параметров, что расходится с каталоговыми метаданными данного репозитория; характеристики размера и архитектуры в описании приведены по метаданным каталога.

Карточка модели omegaT4224/Emulator.exe на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

google/gemma-4-31B-it-qat-q4_0-unquantized — мультимодальная инструкционно-настроенная модель семейства Gemma 4, разработанная Google DeepMind. Это dense-модель с архитектурой Gemma4ForConditionalGeneration, принимающая текст и изображения и генерирующая текст. Вариант QAT Q4_0 содержит веса половинной точности, извлечённые из процесса обучения с учётом квантования; он предназначен для дальнейшей компиляции и исследовательской работы с меньшими требованиями к памяти по сравнению с обычной версией bfloat16. Модель подходит для диалогов, генерации и анализа текста, программирования, рассуждений, понимания изображений, распознавания текста на изображениях и разбора документов. Семейство Gemma 4 поддерживает контекст до 256 тысяч токенов и многоязычную работу; описание карточки заявляет поддержку более 140 языков при предварительном обучении. Для этого варианта доступен формат safetensors и библиотека Transformers. Лицензия — Apache 2.0. Возможности обработки аудио и видео перечислены для отдельных моделей семейства, но не подтверждены для данного чекпойнта. Качество и скорость зависят от аппаратного обеспечения и последующей компиляции; QAT-веса этого варианта не являются готовым GGUF-пакетом для непосредственного развёртывания.

Карточка модели ckcegg/gemma-4-E2B-it-qat-q4_0-unquantized-assistant на Hugging Face совпадает с карточкой google/gemma-4-E2B-it-qat-q4_0-unquantized, поэтому описание составлено по ней. google/gemma-4-E2B-it-qat-q4_0-unquantized — мультимодальная инструктивная модель Google DeepMind из семейства Gemma 4, основанная на Gemma 4 E2B IT и подготовленная с использованием Quantization-Aware Training. Репозиторий содержит извлечённые из QAT-процесса веса половинной точности в формате safetensors, предназначенные для собственной компиляции и исследовательских экспериментов; это не готовый к запуску сжатый GGUF-чекпойнт. Модель принимает текст и изображения, а вариант E2B также поддерживает аудио; генерирует текст. Она предназначена для диалогов, рассуждений, программирования, понимания изображений и документов, распознавания речи и многоязычной работы. Для семейства Gemma 4 заявлены контекст до 128 тысяч токенов для малых моделей, включая E2B, гибридное локальное и глобальное внимание, вызов инструментов и поддержка более 140 языков при предобучении. К сильным сторонам относятся компактный размер семейства E2B, мультимодальный ввод и QAT-обучение, направленное на сохранение качества bf16 при снижении требований к памяти в соответствующих QAT-вариантах. Данный репозиторий содержит unquantized QAT-веса, поэтому описанное преимущество снижения памяти нельзя автоматически считать характеристикой этих файлов. Лицензия — Apache 2.0.

cyankiwi/GLM-4.7-Flash-AWQ-4bit — 4-битная AWQ-квантизованная версия GLM-4.7-Flash, разработанной командой GLM и распространяемой организацией zai-org. Это языковая модель для генерации текста, рассуждений, программирования и агентских сценариев, включая взаимодействие с инструментами и решение задач, требующих многошагового планирования. Модель построена по архитектуре MoE с конфигурацией 30B-A3B: общий размер составляет около 30 млрд параметров, при этом на каждом шаге активируется примерно 3 млрд. Указаны поддерживаемые языки English и Chinese, библиотека Transformers и текстовая модальность. В README приведены настройки генерации с максимальной длиной нового вывода до 131 072 токенов, однако размер контекстного окна явно не указан. Для локального запуска заявлена совместимость с Transformers, vLLM и SGLang; для этой версии также требуется учитывать поддержку AWQ-квантизации используемым фреймворком. Сильными сторонами являются сочетание производительности и эффективности при локальном развертывании, а также результаты на задачах рассуждений, программирования, веб-поиска и взаимодействия с инструментами. Ограничениями выступают возможные потери качества из-за 4-битной квантизации и необходимость актуальных версий программного обеспечения для поддержки модели. В README указана лицензия MIT.

Карточка модели sebastian06austin/GLM-5.2 на Hugging Face совпадает с карточкой Ares-Realm-Studios/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — большая языковая модель от Ares-Realm-Studios для продолжительных задач, диалогов и программирования. Она построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров; модель принимает и генерирует текст, поддерживает контекст до 1 048 576 токенов и рассчитана прежде всего на английский и китайский языки. Модель предназначена для многошаговой работы с длинным контекстом, включая анализ материалов и разработку программного кода. В README заявлены гибкие уровни усилий рассуждения и оптимизации для обработки контекста в миллион токенов; для локального запуска перечислены Transformers, vLLM, SGLang и другие среды. Репозиторий содержит веса Safetensors. Модель распространяется по лицензии MIT. Заявленные возможности и результаты приведены авторами; практическое качество может зависеть от сценария и настроек запуска.

gpt-oss-120b — открытая по весам языковая модель OpenAI для генерации текста, задач, требующих сложного рассуждения, и агентских сценариев. Она ориентирована на универсальное применение в продуктивных системах и разработке, включая вызов функций, веб-браузинг, выполнение Python-кода и Structured Outputs. Модель доступна через Transformers, vLLM, PyTorch/Triton, Ollama и LM Studio. Модель использует архитектуру Mixture-of-Experts: содержит 117 млрд параметров, из которых 5,1 млрд активируются при обработке запроса. Она оптимизирована с помощью MXFP4-квантизации весов MoE и рассчитана на запуск на одной GPU с 80 ГБ памяти, например NVIDIA H100 или AMD MI300X. Доступен настраиваемый уровень рассуждения — низкий, средний или высокий; заявлена возможность fine-tuning. Модель обучена с использованием формата ответов harmony и, согласно README, корректно работает только при его применении. К сильным сторонам относятся высокая вычислительная мощность для рассуждений, поддержка агентских инструментов, открытая настройка и возможность коммерческого использования. Ограничение — значительные требования к аппаратным ресурсам и обязательное соблюдение формата harmony. README не указывает поддерживаемые языки, длину контекста и результаты конкретных оценок. Распространение осуществляется по лицензии Apache 2.0.

Hermes 4 14B FP8 — языковая модель, разработанная Nous Research на базе Qwen3-14B и представленная в формате FP8. Она предназначена для диалоговых ассистентов, решения задач рассуждения, математики, программирования, STEM и логики, творческого письма, ролевого взаимодействия, а также для сценариев с function calling, использованием инструментов, JSON и структурированными ответами. В карточке указана поддержка английского языка. Модель использует гибридный режим рассуждения: при необходимости она может формировать сегменты <think>…</think>, а также работать в более быстром режиме без явного рассуждения. Hermes 4 обучалась на расширенном посттренировочном корпусе примерно из 5 миллионов образцов и 60 миллиардов токенов. Среди заявленных характеристик — улучшенное следование схемам и способность исправлять некорректные JSON-объекты, высокая управляемость, снижение необоснованных отказов и поддержка формата ChatML. Архитектурные подробности и размер контекстного окна в README не указаны. Сильные стороны модели — универсальность, качество рассуждений, работа с кодом и структурированными форматами, а также поддержка вызовов функций и инструментов. Ограничения включают отсутствие в предоставленных данных подробных сравнительных результатов, сведений о мультимодальности и подтверждённой поддержке языков, кроме английского. Модель распространяется по лицензии Apache-2.0.

WhiskyAKM подготовил GGUF-сборку K2-Horizon-7B в формате NVFP4 на основе модели IFM/K2-Horizon-7B. Это плотная авторегрессионная языковая модель с 7 млрд параметров и контекстом до 524 288 токенов; репозиторий предназначен для запуска через llama.cpp и другие движки с поддержкой GGUF. Модель рассчитана на диалоги, рассуждения, программирование, работу с длинным контекстом и агентные сценарии. В карточке приведены результаты исходной модели на математических, программных и других бенчмарках. Квантизация NVFP4 уменьшает точность представления весов и ориентирована на оборудование NVIDIA Blackwell. Репозиторий содержит файл модели в формате GGUF. Лицензия — Apache-2.0.