II.5Безопасность программного кода и цепочки поставок

Laguna XS 2.1-INT4 — текстовая модель класса Mixture-of-Experts, разработанная poolside для агентного программирования и длительных рабочих сценариев на локальном компьютере. Она предназначена для генерации и анализа кода, взаимодействия с инструментами и выполнения многошаговых задач разработки, включая работу в терминале и репозиториях. Модель содержит 33 млрд параметров, из которых 3 млрд активируются на каждом токене, и включает 40 слоёв с 256 экспертами и одним общим экспертом. Архитектура сочетает глобальное внимание в 10 слоях и Sliding Window Attention с окном 512 токенов в 30 слоях; используется per-head gating и rotary scales. Контекстное окно составляет 262 144 токена. Модель работает в режиме text-to-text, поддерживает interleaved thinking между вызовами инструментов и сохранение рассуждений. Это вариант INT4 с KV-кэшем, квантованным в FP8. К сильным сторонам относятся сравнительно компактный объём активных параметров, сниженные требования к памяти благодаря архитектуре внимания и FP8 KV-кэшу, а также ориентация на локальный запуск; в README указана возможность запуска на Mac с 36 ГБ оперативной памяти. Ограничения включают специализацию прежде всего на агентном программировании, отсутствие заявленных мультимодальных возможностей и отсутствие сведений о конкретных поддерживаемых языках. Модель распространяется по лицензии OpenMDW-1.1, допускающей свободное использование и модификацию модели и связанных материалов в коммерческих и некоммерческих целях.

LongCat-2.0-INT8 — 8-битная версия крупной разреженной MoE-языковой модели LongCat-2.0, разработанная командой Meituan LongCat. Модель предназначена для генерации текста, понимания кода, редактирования репозиториев, автоматизированного выполнения задач и агентских рабочих процессов. В метаданных Hugging Face указаны 42,1 млрд параметров и контекст до 262 144 токенов; README базовой модели описывает архитектурные технологии LongCat Sparse Attention, N-gram Embedding и поддержку многотокенного предсказания.

Ornith-1.5-35B-A3B-TQ3_4S — компактная сборка модели Ornith-1.5-35B-A3B в формате GGUF с квантизацией TurboQuant TQ3_4S. В карточке указана архитектура Qwen3.5-MoE: всего 35,9 млрд параметров, из которых около 3 млрд активны на токен. Модель предназначена для диалоговой генерации текста, программирования и вызова инструментов; исходная модель также поддерживает обработку изображений при подключении vision-проектора. Для запуска требуется специализированная сборка turbo-tan/llama.cpp-tq3, поддерживающая тип тензоров TQ3_4S. В локальных измерениях автора модель занимала 17 ГиБ и показывала высокую скорость декодирования на RTX 3090; приведённые результаты бенчмарков являются собственными измерениями автора карточки. Контекст запуска до 262 144 токенов указан в параметрах тестирования, но не подтверждён как штатный предел модели. Лицензия — MIT.

win10/Qwen2.5-Coder-12.3b-Instruct — объединённая инструкционная языковая модель на архитектуре Qwen2, созданная методом passthrough с помощью mergekit на основе Qwen/Qwen2.5-Coder-7B-Instruct. Репозиторий содержит веса в формате safetensors; метаданные указывают 11,7 млрд параметров и контекст длиной до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате и ориентирована на задачи программирования: написание, анализ и исправление кода. Поддерживает интерфейс вызова инструментов. В карточке указана лицензия Apache-2.0. Ограничения качества и перечень поддерживаемых языков программирования в предоставленных данных не описаны.

mlx-community/Qwen2.5-Coder-32B-Instruct-bf16 — конверсия модели Qwen/Qwen2.5-Coder-32B-Instruct в формат MLX, выполненная сообществом mlx-community с помощью mlx-lm 0.19.3. Это плотная авторегрессионная модель семейства Qwen2 с 32 млрд параметров, предназначенная для генерации кода и диалогового взаимодействия с инструкциями. Она может применяться для написания и объяснения кода, его анализа и исправления, а также для создания кодовых агентов. Контекст модели — до 32 768 токенов; вход и выход представлены текстом. Модель рассчитана на работу с кодом и поддерживает английский язык. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Это преобразованная копия базовой модели, а не самостоятельное дообучение.

Это GGUF-версия модели Qwen2.5-Coder-32B-Instruct, подготовленная TensorBlock на основе mlx-community/Qwen2.5-Coder-32B-Instruct-bf16. Репозиторий содержит файлы в формате GGUF с разными вариантами квантования; они совместимы с llama.cpp начиная с указанного в карточке коммита. Размер исходной модели — 32 млрд параметров. Модель предназначена для генерации кода в диалоговом формате, а также для анализа и исправления кода. В README приведён шаблон сообщений system/user/assistant. Для некоторых вариантов квантования указана заметная потеря качества; автор не рекомендует Q2_K для большинства сценариев, а Q3_K_S и Q3_K_M характеризуются как варианты с высокой потерей качества. Лицензия — Apache-2.0.

ThomasBaruzier/Qwen2.5-Coder-32B-Instruct-GGUF — это набор GGUF-квантизованных вариантов Qwen2.5-Coder-32B-Instruct, базовой модели семейства Qwen, разработанной командой Qwen. Квантизация выполнена с использованием llama.cpp и метода imatrix с калибровочным файлом Bartowski. Модель предназначена для генерации и обработки текста, прежде всего для задач программирования и диалогового взаимодействия с кодом. Доступны варианты квантизации от IQ1_S до Q5_K_M, размером примерно от 6,9 до 21,6 ГБ. README приводит показатели perplexity, размера и точности для отдельных вариантов: более крупные квантизации обычно обеспечивают лучшее качество, но требуют больше памяти. Поддерживается текстовый ввод и вывод; заявлен язык en. Архитектура, размер контекста и полный перечень языков в карточке не указаны. Сильная сторона набора — широкий выбор компромиссов между размером файла, требованиями к ресурсам и качеством, а также совместимость с экосистемой llama.cpp благодаря формату GGUF. Ограничения связаны с потерями качества, характерными для квантизации, и значительными требованиями к памяти у 32B-модели; конкретные характеристики зависят от выбранного варианта. Модель распространяется по лицензии Apache-2.0.

drawais/Qwen2.5-Coder-32B-Instruct-NVFP4 — квантизированная версия Qwen2.5-Coder-32B-Instruct, разработанная на основе модели Qwen/Qwen2.5-Coder-32B-Instruct. Модель предназначена для генерации текста и задач, связанных с программированием, включая работу с кодом и использование в сценариях, поддерживаемых библиотекой Transformers и сервером инференса vLLM. Модель использует INT4-квантизацию весов в формате NVFP4 W4A4 и поддерживает нативный compressed-tensors в vLLM. Размер базовой модели составляет 32B параметров, объём артефакта на диске — примерно 20,7 ГБ; для работы требуется GPU с дополнительным запасом видеопамяти под KV-кэш. Указан английский язык, максимальная длина контекста в примере запуска через vLLM — 32 768 токенов. Ключевое преимущество модели — существенно уменьшенный объём хранения и потенциально более экономичный инференс по сравнению с полноразмерной версией благодаря 4-битной квантизации. Ограничения связаны с поддержкой только английского языка в заявленных данных, зависимостью от совместимой конфигурации vLLM и возможными потерями качества, характерными для квантизированных моделей. Артефакт является производной работой Qwen/Qwen2.5-Coder-32B-Instruct и распространяется по лицензии Apache License 2.0 с обязательной атрибуцией.

Qwen2.5-Coder-3B-Instruct-MLX-4bit — это 4-битная MLX-квантизация инструкционной модели Qwen2.5-Coder-3B-Instruct, разработанной Qwen. Квантизацию подготовил bartowski на основе инструментов mlx-examples. Модель предназначена для запуска на компьютерах Mac с Apple Silicon и ориентирована на задачи генерации и обработки текста и исходного кода, включая использование в Code Agents. Модель имеет около 3 миллиардов параметров, поддерживает контекст до 32 тысяч токенов и обучалась на объёме до 5,5 триллиона токенов, включая исходный код, пары «текст—код» и синтетические данные. Указана текстовая модальность; сведения о дополнительных языках и модальностях в README отсутствуют. 4-битное представление снижает требования к памяти и делает модель более подходящей для локального запуска, однако может ограничивать качество по сравнению с полноразмерной версией. Как и другие языковые модели, она способна генерировать неточный, вредный или неподходящий контент. В README лицензия модели не указана, поэтому условия использования необходимо уточнять в документации оригинальной модели Qwen2.5-Coder-3B-Instruct и материалах к данной квантизации.

Qwen2.5-Coder-7B-Instruct-GGUF — это GGUF-квантизированная версия инструкционной модели Qwen2.5-Coder-7B-Instruct, разработанной командой Qwen и подготовленной для распространения пользователем bartowski. Модель предназначена прежде всего для генерации и обработки программного кода, работы в чат-режиме и локального текстового вывода через llama.cpp и совместимые приложения, включая LM Studio. Модель содержит 7 миллиардов параметров, поддерживает текстовый ввод и вывод, а в README заявлен английский язык. Доступны варианты с разными уровнями квантизации — от F16 до Q2 и специализированных форматов для ARM, с размером файлов примерно от 3,5 до 15,2 ГБ. В README также указано обновление конфигурации длины контекста и токенизатора, однако точное значение контекстного окна не приведено. Для диалогов используется формат сообщений Qwen с ролями system, user и assistant. Сильная сторона модели — возможность локального запуска при выборе подходящего уровня квантизации: варианты Q6 и Q5 ориентированы на высокое качество, а более компактные варианты подходят для систем с ограниченной памятью. Ограничения включают возможное снижение качества при сильной квантизации, необходимость совместимого ПО и аппаратных ресурсов, а также отсутствие подробных данных о языковой поддержке и бенчмарках в данном README. Модель распространяется по лицензии Apache-2.0.

QuantTrio/Qwen3.6-27B-AWQ — это квантизированная версия модели Qwen3.6-27B, разработанной командой Qwen и опубликованной в формате, совместимом с Transformers. Вариант AWQ создан с помощью квантования без калибровочного датасета; размер файла модели составляет около 21 GiB. Лицензия — Apache 2.0. Модель предназначена прежде всего для агентного программирования, работы с фронтенд-разработкой, анализа репозиториев и сценариев с вызовом инструментов. Она относится к классу causal language model with vision encoder, поэтому поддерживает текстовые и визуальные входные данные. Заявлены возможности сохранения контекста рассуждений между сообщениями, автоматического выбора инструментов и интеграции с vLLM. Архитектура включает 27 миллиардов параметров, 64 слоя, комбинацию Gated DeltaNet и Gated Attention, а также многошаговое обучение для multi-token prediction. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 010 000 токенов. Данные о полном наборе поддерживаемых языков и подробных результатах независимого тестирования в README не приведены. К сильным сторонам относятся большой контекст, мультимодальность, ориентация на программирование и возможность эффективного запуска в квантизированном виде. Ограничения связаны с тем, что AWQ-квантование без калибровочного набора может приводить к потере качества по сравнению с исходной моделью; для запуска указаны vLLM 0.19.0, Transformers 5.5.4 и CUDA 12.8 или 13.0. При использовании tensor parallelism на восьми GPU требуется включить expert parallelism.

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-NEO-CODER-mlx-oQ4e-1M — релиз модели на базе Qwen3.8-27B TURBO Fable Cold Fusion, разработанной DavidAU, с последующей квантизацией, масштабированием контекста и упаковкой от Solstice-AI. Модель предназначена для программирования, рассуждений, агентной разработки, отладки репозиториев и работы с длинными документами и проектами. В README также указана совместимость с задачами image-text-to-text, однако подробности о поддерживаемых визуальных входах не приведены. Модель содержит 27 млрд параметров и поставляется в формате Apple MLX oQ4e mixed precision с размером около 17,02 ГБ. Заявлены гибридная архитектура с блоками Gated Delta Recurrent Network и Grouped-Query Attention, механизм Multi-Token Prediction для ускорения генерации, а также YaRN-масштабирование RoPE до 1 048 576 токенов. Указаны языки English и Chinese. Основная среда применения — компьютеры Apple Silicon с unified memory, включая MacBook с 16 или 24 ГБ памяти, через Anvil и MLX-LM. Сильными сторонами заявлены высокая эффективность на Apple Silicon, большой контекст, поддержка задач кодирования и рассуждений, а также хорошие результаты на SWE-bench Pro, LiveCodeBench, QwenSWEBench, OSWorld, AndroidWorld, IFBench, CoWorkBench и ARC. Эти показатели приведены в README и не подтверждены независимой проверкой. Ограничениями являются зависимость от MLX и Apple Metal, требования к объёму unified memory, возможные потери качества из-за 4-битной квантизации и неполная информация о фактической мультимодальности и поведении на длинном контексте. Лицензия — Apache 2.0.

Qwen3-Coder-480B-A35B-Instruct-MLX-8bit — это 8-битная версия модели Qwen3-Coder-480B-A35B-Instruct, разработанной Qwen. Квантование в формате MLX выполнено командой LM Studio с использованием mlx_lm и предназначено для работы на компьютерах с Apple Silicon. Модель относится к классу генеративных текстовых моделей и ориентирована прежде всего на задачи программирования и обработки текстовых запросов, включая использование в локальной среде через LM Studio. В README указано, что для работы требуется LM Studio версии 0.3.20 или новее. Архитектура исходной модели, число активируемых параметров, поддерживаемые языки и размер контекстного окна в предоставленных данных не уточняются. Ключевое преимущество варианта — 8-битное представление, оптимизированное для экосистемы Apple Silicon, что делает модель более подходящей для локального запуска с меньшими требованиями к памяти по сравнению с полноразмерной версией. Ограничения связаны с зависимостью от совместимого программного окружения и оборудования, а также с тем, что модель может генерировать неточные, вредные или неподходящие ответы. Модель распространяется по лицензии Apache-2.0.

Qwen3-Coder-Next-Uncensored-Heretic-GGUF — набор GGUF-квантизаций модели llmfan46/Qwen3-Coder-Next-Uncensored-Heretic, созданной независимым разработчиком llmfan46 на основе Qwen3-Coder-Next от Qwen. Модель предназначена прежде всего для локальной разработки, программирования и агентских сценариев, включая работу с инструментами, длительные цепочки рассуждений, восстановление после ошибок выполнения и интеграцию с CLI/IDE-средами. Доступна для llama.cpp, LM Studio, Ollama и других совместимых инструментов. Архитектура исходной модели — каузальная языковая модель с гибридной структурой Gated DeltaNet, Gated Attention и Mixture of Experts. Всего 80 млрд параметров, из которых активируются 3 млрд; 79 млрд параметров относятся к неэмбеддинговым. Модель содержит 48 слоёв, 512 экспертов MoE, из которых активируются 10, и поддерживает контекст до 262 144 токенов. Указан только текстовый режим и режим без рассуждений с блоками <think></think>; сведения о поддерживаемых языках в README не приведены. Это декензурированная версия: по данным автора, она показала 8 отказов из 100 против 100 из 100 у оригинальной модели при KL-дивергенции 0,1488, что указывает на значительно меньшее число отказов при сохранении близости к исходной модели. Основное ограничение — отсутствие подробных независимых оценок качества и языкового охвата, а также необходимость выбирать компромисс между размером и качеством среди вариантов от BF16 до Q3_K_S. Модель распространяется по лицензии Apache-2.0.

Salience 1.5 Flash — мультимодальная модель Vection Labs для работы с текстом, изображениями и видео. Она построена на архитектуре Qwen3-VL Mixture-of-Experts: всего 30 млрд параметров, из которых для каждого токена активны около 3,3 млрд. Модель рассчитана на использование через Transformers и поддерживает контекст до 1 млн токенов; в README указан нативный контекст 256 тыс. токенов с расширением посредством interleaved multimodal RoPE. Модель предназначена для генерации и отладки кода, работы с репозиториями, создания интерфейсов, вызова инструментов и агентных сценариев. Она также принимает изображения и видео для ответов на вопросы и анализа диаграмм, графиков, документов и экранов, а длинный контекст подходит для анализа больших документов. Указаны поддержка английского языка, чата, кода и интерфейса вызова инструментов; аудио модель не поддерживает. Модель может ошибаться в фактах и математических рассуждениях, а сгенерированный код может быть неверным или небезопасным. Длинные контексты и видеовходы увеличивают задержку и расход памяти; результаты и код требуют проверки человеком. Лицензия — Apache-2.0.

Step 3.5 Flash — открытая языковая модель компании StepFun для диалогов, рассуждений, программирования и агентных задач. Карточка описывает разреженную архитектуру Transformer с Mixture of Experts: всего 196 млрд параметров, из которых для каждого токена активируются около 11 млрд. Механизм Multi-Token Prediction предназначен для ускорения генерации, а гибридное внимание с окном 256K токенов рассчитано на работу с длинными контекстами и большими кодовыми базами. Модель предназначена для интерактивного чата, сложного многошагового рассуждения, помощи в разработке и выполнения задач агентами. Карточка приводит результаты на SWE-bench Verified и Terminal-Bench 2.0 и заявляет поддержку запуска через vLLM, SGLang, Transformers и llama.cpp, а также локального развертывания на высокопроизводительном оборудовании. Указанный в карточке сценарий использования — текстовый диалог; метаданные классифицируют модель как генеративную и отмечают возможность чата. В README заявлено окно контекста 256K токенов и высокая скорость генерации, однако реальная производительность зависит от оборудования и программной поддержки: например, для vLLM отмечено отсутствие полной поддержки MTP3. Метаданные указывают 9,8 млрд параметров, тогда как README заявляет 196 млрд параметров всего и 11 млрд активных на токен; эти сведения расходятся. Лицензия — Apache 2.0.

Swift 1.5 Qwen3.8-27B — дообученная UkisAI мультимодальная модель рассуждений на базе Qwen/Qwen3.8-27B. Она предназначена для диалогов, программирования и многошаговых задач, включая работу с агентами и терминалом; заявленная цель дообучения — сократить лишние рассуждения и ускорить решение задач при сохранении качества. Модель имеет плотную архитектуру Qwen3.5, содержит 27 млрд параметров и принимает текст и изображения; в метаданных также указаны интерфейс вызова инструментов и поддержка vision. В README описаны оценки на задачах кодирования и агентного взаимодействия, а также тестирование с контекстом до 262 144 токенов. По данным разработчика, Swift 1.5 использует меньше токенов рассуждений и быстрее базовой модели на ряде задач; приведённые результаты зависят от задачи и режима оценки. Для использования доступны контрольная точка BF16 и отдельные квантованные экспорты. Лицензия указана как other; README ссылается на отдельные условия enterprise-лицензирования, поэтому перед применением следует проверить условия в карточке модели.

Tess-4-27B — мультимодальная модель на 27 млрд параметров, разработанная Migel Tissera на основе Qwen/Qwen3.6-27B. Это дообученная плотная модель семейства Qwen3.5 для диалогов, рассуждений и агентной работы с инструментами; она принимает текст и изображения и генерирует текст. Модель рассчитана на программирование, анализ больших кодовых баз и документов, планирование и решение многошаговых технических задач. В README указано обучение на трассах агентной работы с контекстом 64 тыс. токенов; это не подтверждает максимальную длину контекста при инференсе. Разработчик описывает стиль модели как сдержанные ответы на простые запросы и более подробное обдумывание сложных задач. Она поддерживает интерфейс вызова инструментов и унаследовала визуальную часть базовой модели Qwen. Модель доступна в формате BF16 safetensors для Transformers, vLLM и SGLang; README также указывает отдельные репозитории GGUF-квантований. Лицензия — Apache 2.0.

Salience-27B-R6-GGUF — это квантизированная версия мультимодальной модели Salience-27B-R6, разработанной vectionlabs и опубликованной в формате GGUF пользователем bartowski. Модель содержит около 28 млрд параметров и предназначена для запуска через llama.cpp. Она поддерживает текстовый и визуальный ввод; для работы с изображениями требуется дополнительный файл mmproj. Модель ориентирована на рассуждения, эффективное пошаговое мышление, следование инструкциям, программирование и задачи software engineering. Заявлена поддержка агентных сценариев, терминального взаимодействия, tool use и function calling. Также доступны speculative decoding с использованием MTP и квантизация с imatrix. Указан английский язык, однако точные сведения о размере контекстного окна и внутренней архитектуре в предоставленных данных отсутствуют. Репозиторий предлагает варианты от BF16 и Q8_0 до компактных IQ3 и Q3, что позволяет выбирать между качеством, скоростью и требованиями к памяти. В качестве универсального варианта рекомендован Q4_K_M размером около 17,44 ГБ; более высокие уровни квантизации обеспечивают лучшее сохранение качества, но требуют больше памяти. Ограничениями являются необходимость совместимого рантайма llama.cpp, отдельного mmproj для изображений и отсутствие в предоставленной карточке подробных результатов оценки. Лицензия модели — Apache-2.0.

Viper-Coder-Hybrid-v1.3 — дообученная модель для генерации кода и технических текстов, созданная на базе Viper-Coder-v1.1. В карточке указано, что она использует архитектуру Qwen 2.5 с 14 млрд параметров; метаданные относят её к семейству Qwen2 и указывают контекст до 131 072 токенов. Модель работает с текстом и поддерживает диалоговый интерфейс и интерфейс вызова инструментов. Модель предназначена для написания, анализа и отладки кода, решения алгоритмических и логических задач, математических рассуждений, обработки структурированных данных и подготовки технической документации. README заявляет поддержку программирования на Python, JavaScript, C++, Java, SQL и других языках, а также документации на более чем 29 естественных языках; метаданные карточки указывают английский и китайский. Заявленная длина генерации — до 8 000 токенов. Модель может требовать мощных вычислительных ресурсов. README предупреждает о возможных ошибках в длинных ответах, разнице качества между языками программирования, зависимости результата от формулировки запроса и отсутствии доступа к актуальной информации из интернета. Лицензия — Apache-2.0.

Viper-Coder-v1.1 — дообученная prithivMLmods 14-миллиардная языковая модель семейства Qwen2 для генерации кода и решения задач рассуждения. В карточке указана архитектура Qwen 2.5 14B, а метаданные определяют архитектуру как Qwen2ForCausalLM; модель распространяется в формате safetensors и использует библиотеку Transformers. Она принимает текст и генерирует текст, поддерживает диалоговый режим и интерфейс вызова инструментов. Модель предназначена для написания и отладки кода, решения алгоритмических и математических задач, следования инструкциям, работы со структурированными данными и создания технической документации. README заявляет контекст до 128K токенов и генерацию до 8K токенов, однако метаданные указывают нативный контекст 32768 токенов. Заявлены поддержка программирования на Python, JavaScript, C++, Java, SQL и других языках, а также документации на 29+ естественных языках; языковые теги карточки — английский и китайский. Модель содержит 14 млрд параметров, поэтому для инференса требуются значительные вычислительные ресурсы. Возможны ошибки в длинных ответах, чувствительность к формулировке запроса и неодинаковое качество для разных языков программирования; модель не располагает актуальными данными из интернета. Лицензия — Apache-2.0.

Viper-Coder-v1.6-r999 — языковая модель PrithivMLmods на архитектуре Qwen2, дообученная на синтетических данных для программирования, рассуждений и выполнения инструкций. Это плотная модель на 14 млрд параметров с контекстом до 32 768 токенов и форматом весов Safetensors; поддерживает чат и интерфейс вызова инструментов. Модель предназначена для генерации и анализа кода, отладки, решения алгоритмических и математических задач, подготовки технической документации и работы со структурированными данными, включая JSON, YAML и SQL. В карточке заявлена поддержка кода на нескольких языках программирования и документации на 29 языках; метаданные указывают английский язык. README также заявляет контекст до 128K токенов, но метаданные каталога подтверждают 32 768 токенов. Лицензия — Apache-2.0.

Claude Sonnet 4.5 — модель Anthropic, оптимизированная для автономных агентов и рабочих процессов программирования. В карточке она описана как наиболее продвинутая на момент выпуска модель семейства Sonnet и как модель с высокими результатами на тесте SWE-bench Verified. Каталог классифицирует модель как image-text-to-text. Доступные сведения не подтверждают детали архитектуры, размер, контекстное окно, языки, лицензию или конкретные возможности работы с изображениями, поэтому эти характеристики не приводятся.

bartowski/DeepSeek-Coder-V2-Instruct-GGUF — это набор квантованных версий модели DeepSeek-Coder-V2-Instruct, разработанной DeepSeek и преобразованной bartowski в формат GGUF для запуска через llama.cpp и совместимые инструменты. Модель предназначена прежде всего для генерации текста и работы с программным кодом в диалоговом формате: написания, дополнения и объяснения кода, а также решения связанных с программированием задач. В набор входят варианты квантования Q4_K_M, Q3_K_XL, Q3_K_M, Q2_K_L, Q2_K, IQ2_XS и IQ1_M размером примерно от 52,7 до 142,45 ГБ. Квантование выполнено с использованием imatrix и llama.cpp. Версия Q4_K_M отмечена как рекомендуемая благодаря балансу качества и размера; варианты с более сильным сжатием требуют меньше памяти, но обеспечивают более низкое качество, а IQ1_M обозначена как крайне низкокачественная и нерекомендуемая. Точные архитектурные характеристики, число параметров, поддерживаемые языки и размер контекста в README не указаны. Модель подходит для локального запуска при наличии значительных ресурсов RAM и, при необходимости, VRAM; выбор файла зависит от доступной памяти и используемого backend. Поддерживаются K- и I-кванты, при этом совместимость и производительность могут различаться для CPU, Apple Metal, NVIDIA cuBLAS, AMD rocBLAS и Vulkan. Модель распространяется по лицензии DeepSeek License; в карточке указано обозначение лицензии и ссылка на файл LICENSE.

DeepSeek-Coder-V2-Lite-Base-GGUF — набор GGUF-квантизаций базовой модели DeepSeek-Coder-V2-Lite-Base, разработанной командой DeepSeek и преобразованной в GGUF пользователем bartowski. Квантизация выполнена с помощью llama.cpp, релиз b3166, с использованием imatrix и специализированного набора данных. Модель относится к классу text-generation и предназначена прежде всего для генерации и обработки программного кода, а также других сценариев локальной генерации текста. Доступны варианты квантизации от Q8_0 и Q8_0_L до Q2_K и IQ2_S, размером примерно от 6,00 до 17,09 ГБ. Старшие варианты обеспечивают очень высокое качество, тогда как младшие требуют меньше оперативной памяти, но заметно уступают по качеству. Для ряда вариантов указана поддержка контекстного формата с системным сообщением, запросом пользователя и ответом ассистента. Архитектура, число параметров, поддерживаемые языки программирования, максимальная длина контекста и дополнительные модальности в README не указаны, поэтому модель следует рассматривать как текстовую. Основные преимущества — широкий выбор уровней сжатия, возможность запуска через llama.cpp и хорошее сохранение качества у вариантов Q5–Q8; варианты Q6_K и Q5_K рекомендованы автором как сбалансированные. Ограничения связаны с потерей качества при низких уровнях квантизации и с тем, что некоторые варианты имеют экспериментальный статус. Модель распространяется по лицензии DeepSeek License; точные условия следует уточнять в файле LICENSE исходного репозитория.

Devstral-Small-2505-GGUF — GGUF-квантизированная версия модели Devstral-Small-2505, разработанной Mistral AI. Квантизация выполнена mattjcly на базе llama.cpp; модель распространяется в формате GGUF и предназначена для локального запуска в совместимых инструментах. Модель ориентирована на программную инженерию и агентные задачи: исследование кодовых баз с использованием инструментов, редактирование нескольких файлов и выполнение сложных изменений для исправления проблем. Согласно README, при компактном размере в 24 миллиарда параметров она показывает высокие результаты в агентном программировании и была представлена как лидер среди открытых моделей на SWE-bench. Известная техническая характеристика — контекстное окно до 131 072 токенов. README не уточняет архитектуру, поддерживаемые языки программирования и естественные языки, модальности или конкретные требования к оборудованию. Ограничения включают возможные неточности, вредные или неподходящие ответы, характерные для генеративных моделей. Модель распространяется по лицензии Apache-2.0.

Devstral-Small-2-NVFP4-GGUF — квантизированная GGUF-сборка мультимодальной модели для программирования, разработанная Mistral AI и представленная в репозитории FreedomAISVR. В её основе — mistralai/Devstral-Small-2-24B-Instruct-2512: плотный трансформер Mistral3ForConditionalGeneration с 24 млрд параметров и контекстом до 393 216 токенов. Для работы с изображениями используется проектор mmproj на основе 24-слойного SigLIP ViT. Модель предназначена для генерации и анализа кода, диалогов с изображениями, вызова инструментов и агентных сценариев. Квантизация NVFP4 занимает около 12,52 ГБ для текстовых весов; файл проектора F16 занимает около 0,82 ГБ. Формат рассчитан на ускорение инференса на GPU NVIDIA Blackwell. Поддерживается многоязычное общение, однако конкретный перечень языков в карточке не приведён. Модель доступна по лицензии Apache 2.0. Квантизация может снизить качество относительно исходных весов; работа с изображениями требует отдельного файла проектора, а заявленное аппаратное ускорение NVFP4 ориентировано на Blackwell.

EVA-Meissa-Coder-14B-Instruct — объединённая инструкционная языковая модель на архитектуре Qwen2, созданная mergekit методом TIES. В слиянии использованы Orion-zhen/Meissa-Qwen2.5-14B-Instruct, Qwen/Qwen2.5-Coder-14B-Instruct и EVA-UNIT-01/EVA-Qwen2.5-14B-v0.2; README называет Meissa базовой моделью слияния. Модель содержит 14 млрд параметров, работает через библиотеку Transformers и принимает текст для генерации ответов в диалоговом формате. Контекст составляет до 32 768 токенов. Каталог отмечает интерфейс вызова инструментов; модель предназначена, в частности, для задач генерации, анализа и исправления кода. В карточке не приведены отдельные результаты оценки качества или специальные ограничения. Лицензия в доступных данных не указана.

Это 4-битная смешанно-точная MLX-квантизация модели yuxinlu1/gemma-4-12B-coder-fable5-composer2.5-v1, созданная сообществом mlx-community с помощью инструментария mlx-optiq. Исходная модель представляет собой дообученную для программирования версию Gemma-4-12B. Вариант предназначен для локального запуска на компьютерах Apple Silicon без PyTorch и облачных сервисов. Модель ориентирована прежде всего на генерацию и анализ кода, рассуждения, ответы на вопросы, арифметику и работу с изображениями. Она использует архитектуру encoder-free gemma4_unified с мультимодальным обработчиком; входные изображения поддерживаются, а мультимодальный embedder сохранён в формате bf16. Языковая часть содержит 328 квантизируемых слоёв: 156 чувствительных слоёв работают в 8-bit, остальные 172 — в 4-bit. Средняя эффективная точность составляет 5,216 бит на вес, размер модели на диске — около 8,4 ГБ вместо 22 ГБ для версии bf16, поэтому она рассчитана на запуск, в частности, на Mac с 16 ГБ памяти. Точный размер контекста и список поддерживаемых языков в карточке не указаны. К сильным сторонам относятся существенное снижение требований к памяти, поддержка изображений, локальная работа и сохранение более высокой точности для чувствительных слоёв. Модель способна рассуждать перед ответом, поэтому ей требуется достаточный лимит токенов. Ограничения связаны с отсутствием собственных тестов производительности для этой квантизации, переносом схемы распределения разрядности с базовой модели и неизбежной погрешностью 4-битного представления. Для загрузки необходима регистрация архитектуры через mlx-optiq. Модель распространяется по лицензии Apache-2.0 и должна использоваться на тех же условиях, что и исходная модель.

GLM-4.6-REAP-252B-A32B — сжатая версия диалоговой языковой модели GLM-4.6, созданная командой Cerebras методом REAP (Router-weighted Expert Activation Pruning). Это причинная разреженная MoE-модель: из 160 экспертов удалены 30%, осталось 112; на токен активируются 8 экспертов. README указывает 252 млрд параметров всего и 32 млрд активных на токен, тогда как метаданные Hugging Face указывают 23,4 млрд параметров. Контекст — до 202 752 токенов. Модель предназначена для генерации текста и кода, агентных рабочих процессов, понимания больших репозиториев и вызова функций. Карточка заявляет производительность, близкую к исходной GLM-4.6, и снижение требований к памяти примерно на 30%; после однократного прореживания дополнительное дообучение не требуется. Указаны поддержка запуска через vLLM и английский язык. README предупреждает, что для BF16-версии оценки не приведены; результаты доступны для FP8-варианта. Лицензия — MIT.