II.4Отладка, тестирование и качество ПО

Qwen3-Coder-30B-A3B-Instruct-FP8-Q4_K_M-GGUF — это квантизированная версия модели Qwen3-Coder-30B-A3B-Instruct-FP8, преобразованная в формат GGUF. Модель разработана командой Qwen, а данный вариант опубликован пользователем ijohn07 и создан с помощью llama.cpp через сервис GGUF-my-repo от ggml.ai. Она предназначена для генерации текста и может использоваться в локальных приложениях на базе llama.cpp, включая командную строку и серверный режим. Из доступных данных известно, что исходная модель имеет обозначение 30B-A3B и ориентирована на задачи, связанные с кодом, однако подробности об архитектуре, поддерживаемых языках, модальностях и размере контекста в представленном README не указаны. Суффикс Q4_K_M указывает на вариант квантизации GGUF, рассчитанный на более компактное локальное выполнение, но README не содержит конкретных требований к памяти или производительности. В качестве ограничения следует учитывать отсутствие подробной информации о возможностях и качестве исходной модели. Модель распространяется по лицензии Apache-2.0. Для запуска рекомендуется использовать llama.cpp; в README приведены примеры работы через llama-cli и llama-server, включая настройку контекста размером 2048 токенов.

Qwen3 Coder Flash — быстрая и экономичная модель Alibaba, созданная на основе проприетарной Qwen3 Coder Plus. Она предназначена для автономного программирования и работы в роли агента-разработчика с вызовом инструментов. Карточка не сообщает размер, архитектурные детали, поддерживаемые языки программирования, длину контекста или лицензию, поэтому эти характеристики здесь не приводятся.

mergekit-community/qwenben — языковая модель на архитектуре Qwen2, созданная сообществом методом SLERP с помощью mergekit. В слиянии участвовали Qwen/Qwen2.5-Coder-1.5B-Instruct и deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B. Модель содержит 1,5 млрд параметров, работает через Transformers и рассчитана на контекст до 131 072 токенов. Модель предназначена для генерации текста в диалоговом формате и может быть полезна для задач программирования и рассуждений, унаследованных от объединённых моделей. Метаданные также отмечают интерфейс вызова инструментов. Карточка не приводит результатов сравнительных оценок качества, поэтому пригодность для конкретных задач следует проверять на собственных примерах. Репозиторий содержит веса safetensors; сведения о лицензии в предоставленных источниках отсутствуют.

Qwevolution-V0-27B — опубликованная groxaxo объединённая версия мультимодальной модели Qwen3.5-27B-Writer-V2. К весам базовой модели ConicCat/Qwen3.5-27B-Writer-V2 применён обученный адаптер LoRA для задач программирования, первоначально обученный на другой модели той же линейки. Слияние выполнено в формате bfloat16; результат опубликован в safetensors и предназначен для Transformers. Модель принимает текст и изображения и выдаёт текст; заявленная задача в Hugging Face — image-text-to-text. Адаптер затрагивал языковую часть, а его веса для 111 модулей визуальной части были нулевыми, поэтому визуальная часть осталась такой же, как у базовой модели. Карточка описывает выпуск как предназначенный для оценки, экспериментов и совместимого локального или облачного инференса. Лицензия — Apache-2.0. Ответы модели могут быть неточными; поведение и качество следует проверять для конкретного сценария. Для запуска нужна среда, совместимая с архитектурой, форматом и мультимодальностью модели; требования к оборудованию зависят от параметров запуска и доступной памяти.

Ring-lite-distill-preview — языковая MoE-модель InclusionAI для диалогов и генерации текста, дообученная на инструкционных данных с упором на рассуждения. В README указано 16,8 млрд параметров, из которых активируются 2,75 млрд; архитектура в метаданных обозначена как Bailing MoE, а карточка модели указывает контекст 16 384 токена. Модель предназначена для решения математических и логических задач, следования инструкциям, программирования и вызова функций в диалоговых сценариях. Авторы сообщают о результатах на тестах AIME24, MATH-500, GPQA-diamond, LiveCodeBench, IFEval и BFCL_v2; эти показатели относятся к оценкам авторов и не гарантируют аналогичного качества в прикладных системах. Поддерживаемые языки — китайский и английский. Модель дообучена на базе inclusionAI/Ling-lite. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия — MIT.

Supertron2.1-0.6B — компактная инструкционно дообученная языковая модель от Surpem на базе Qwen3-0.6B. Это плотный Transformer с примерно 507,9 млн параметров; модель использует архитектуру, токенизатор и формат чата Qwen3 и предназначена для генерации текста и диалогов. Контекстное окно составляет 40 960 токенов. Модель подходит для ответов на вопросы, объяснения понятий, пошаговых рассуждений, арифметики и алгебры, написания и разбора кода, кратких пересказов и переписывания текста, а также прототипирования ассистентов и агентных сценариев. Карточка заявляет поддержку программирования на нескольких языках, но основной язык в метаданных — английский; отдельные языки программирования не считаются естественными языками. Небольшой размер позволяет запускать модель на потребительском оборудовании. При этом она может выдумывать факты, давать неверные решения задач и ошибки в коде; сложные рассуждения могут превышать её возможности, а качество зависит от настроек генерации. Результаты следует проверять, особенно в ответственных областях. Лицензия — Apache 2.0.

Uraion Forge 2B MLX — дообученная Uraion Labs модель на базе openbmb/MiniCPM5-2B, подготовленная для запуска с библиотекой MLX на компьютерах Apple Silicon. Это компактная причинная языковая модель архитектуры LlamaForCausalLM с 2,2 млрд параметров и контекстом до 131 072 токенов. Модель предназначена прежде всего для диалогов, рассуждений, генерации кода и многошаговых сценариев с вызовом инструментов; README описывает режимы с включённым и отключённым рассуждением. Карточка заявляет оптимизацию для локального выполнения на чипах Apple M1–M6 и приводит варианты квантования 4 и 8 бит, а также результаты собственных проверок агентных рабочих процессов, кода и извлечения данных из длинного контекста. Эти показатели относятся к тестам и оборудованию, описанным разработчиком, и не гарантируют такую же скорость или точность в других условиях. Указанный в метаданных формат файлов — safetensors; библиотека — MLX. Лицензия — Apache-2.0. Язык карточки и языковой тег указывают на английский; поддержка других языков в предоставленных данных не подтверждена.

Whittle-Next-27B-A3B — экспериментальная языковая модель, созданная автором проекта Whittle на основе Qwen3.6-35B-A3B и предыдущей Whittle-Next-26B-A3B. Это причинная модель генерации текста архитектуры Qwen4-Next (qwen4_exp) с архитектурой mixture-of-experts: около 2,9 млрд параметров по метаданным, примерно 3 млрд активных на токен и дополнительная хешированная память n-грамм на 2 млрд строк. Контекст — до 262 144 токенов. Модель обучалась с дистилляцией рассуждений от Qwen3.8-27B и предназначена как исследовательская основа для дальнейшей работы с этой архитектурой, в том числе для генерации кода и математических рассуждений. Карточка сообщает о запуске на штатном llama.cpp и рекомендует включать режим рассуждений; результаты полной оценки актуальной версии v4.4 ещё не представлены, а опубликованная оценка v3 не подтверждает качество v4.4 в полном масштабе. Модель распространяется под лицензией Apache-2.0.

WizardCoder-33B-V1.1 — языковая модель для генерации кода, разработанная командой WizardLM и обученная на базе deepseek-coder-33b-base с применением Code Evol-Instruct к данным Code-Alpaca. Это плотная causal language model семейства Llama с 33,1 млрд параметров, рассчитанная на контекст до 16 384 токенов; веса опубликованы в формате safetensors и предназначены для использования через Transformers. Модель отвечает на инструкции по программированию: пишет код по описанию, решает задачи на программирование и помогает с типовыми изменениями кода. В README приведены результаты на HumanEval, HumanEval-Plus, MBPP и MBPP-Plus. Для воспроизведения ответов авторы рекомендуют использовать указанный в карточке формат системного промпта. Модель ориентирована на код; поддержка конкретных естественных языков отдельно не заявлена. Известное ограничение: авторы не гарантируют точность квантованных версий. Лицензия в предоставленных данных не указана.

Карточка модели 01-ai/Yi-Coder-1.5B на Hugging Face совпадает с карточкой 01-ai/Yi-Coder-9B-Chat, поэтому описание составлено по ней. Yi-Coder-9B-Chat — диалоговая модель для генерации кода, выпущенная командой 01.AI как часть серии Yi-Coder. Она дообучена на базе 01-ai/Yi-Coder-9B и построена на плотной архитектуре семейства Llama с 8,6 млрд параметров. Модель предназначена для программирования в формате чата: она может писать код по запросу и работать с длинным контекстом до 131 072 токенов. Серия Yi-Coder заявляет поддержку 52 распространённых языков программирования и сильные результаты в задачах кодирования при размере менее 10 млрд параметров. Модель загружается через Transformers и использует формат safetensors. Лицензия — Apache-2.0. Карточка не приводит ограничений на качество или конкретных рекомендаций по использованию, поэтому ответы сгенерированного кода следует проверять перед применением.

MaziyarPanahi/calme-2.3-phi3-4b — диалоговая языковая модель, созданная Maziyar Panahi путём дообучения с DPO модели microsoft/Phi-3-mini-4k-instruct. Она использует плотную архитектуру Phi-3 и содержит 3,7 млрд параметров; для общения применяется шаблон ChatML, а максимальный контекст составляет 4096 токенов. Модель предназначена для генерации текста в диалоге, ответов на запросы и задач программирования. В README приведены результаты оценивания на Open LLM Leaderboard, где модель сравнивается с другими вариантами Phi-3-mini-4k; эти результаты относятся к указанной в карточке версии и условиям тестирования. Репозиторий содержит веса safetensors и может использоваться через библиотеку Transformers. Карточка указывает лицензию MIT. Основной язык в метаданных — английский. Это компактная модель, поэтому её возможности и качество могут уступать более крупным моделям; доступные сведения не устанавливают точность для конкретных прикладных сценариев.

CrystalChat — англоязычная инструкцияная языковая модель от LLM360 из серии Pebble, дообученная на основе LLM360/Crystal с контрольной точки CrystalCoder второго этапа. Модель имеет плотную архитектуру CrystalCoder, совместимую по описанию с LLaMA-7B, и рассчитана на генерацию текста по инструкциям, диалог и задачи программирования. Контекст модели составляет 2048 токенов; доступен формат PyTorch. Модель обучалась на смесях диалоговых, общих инструкционных и кодовых данных, включая наборы SlimOrca, ShareGPT, CodeAlpaca и данные по программированию; в обучении также использован созданный LLM360 набор инструкций по HTML. В карточке приведены результаты языковых и кодовых бенчмарков, включая HumanEval и MBPP. Модель ориентирована прежде всего на английский язык. CrystalChat выпущена под лицензией Apache 2.0. Разработчики отмечают, что модель не прошла RLHF-выравнивание по человеческим предпочтениям и не имеет фильтрации ответов, поэтому может выдавать проблемный контент; приведённые оценки не гарантируют качество для конкретного применения.

CursorCore-DS-1.3B — модель из серии CursorCore, разработанной Hao Jiang, Qi Liu, Rui Li, Shengyu Ye и Shijin Wang для помощи в программировании. Она дообучена на базе deepseek-ai/deepseek-coder-1.3b-base и предназначена для генерации кода и диалоговой поддержки в сценариях AI-помощника программиста, включая редактирование кода, встроенный чат и автодополнение. Модель использует плотную архитектуру семейства LLaMA с причинно-следственной языковой моделью на 1,3 млрд параметров. Она принимает текстовые запросы и контекст с кодом и генерирует текст, включая программный код; заявленная длина контекста — 16 384 токена. README показывает сценарии обычного чата и взаимодействия с кодом, но примеры для конкретной модели частично используют другие модели CursorCore. Лицензия указана как other, поэтому условия использования следует сверять с карточкой модели.

Карточка модели TechxGenus/CursorCore-DS-1.3B-LC на Hugging Face совпадает с карточкой TechxGenus/CursorCore-DS-1.3B, поэтому описание составлено по ней. CursorCore-DS-1.3B — модель из серии CursorCore, разработанной Hao Jiang, Qi Liu, Rui Li, Shengyu Ye и Shijin Wang для помощи в программировании. Она дообучена на базе deepseek-ai/deepseek-coder-1.3b-base и предназначена для генерации кода и диалоговой поддержки в сценариях AI-помощника программиста, включая редактирование кода, встроенный чат и автодополнение. Модель использует плотную архитектуру семейства LLaMA с причинно-следственной языковой моделью на 1,3 млрд параметров. Она принимает текстовые запросы и контекст с кодом и генерирует текст, включая программный код; заявленная длина контекста — 16 384 токена. README показывает сценарии обычного чата и взаимодействия с кодом, но примеры для конкретной модели частично используют другие модели CursorCore. Лицензия указана как other, поэтому условия использования следует сверять с карточкой модели.

Карточка модели TechxGenus/CursorCore-DS-1.3B-SR на Hugging Face совпадает с карточкой TechxGenus/CursorCore-DS-1.3B, поэтому описание составлено по ней. CursorCore-DS-1.3B — модель из серии CursorCore, разработанной Hao Jiang, Qi Liu, Rui Li, Shengyu Ye и Shijin Wang для помощи в программировании. Она дообучена на базе deepseek-ai/deepseek-coder-1.3b-base и предназначена для генерации кода и диалоговой поддержки в сценариях AI-помощника программиста, включая редактирование кода, встроенный чат и автодополнение. Модель использует плотную архитектуру семейства LLaMA с причинно-следственной языковой моделью на 1,3 млрд параметров. Она принимает текстовые запросы и контекст с кодом и генерирует текст, включая программный код; заявленная длина контекста — 16 384 токена. README показывает сценарии обычного чата и взаимодействия с кодом, но примеры для конкретной модели частично используют другие модели CursorCore. Лицензия указана как other, поэтому условия использования следует сверять с карточкой модели.

Карточка модели TechxGenus/CursorCore-QW2.5-1.5B-LC на Hugging Face совпадает с карточкой TechxGenus/CursorCore-DS-1.3B, поэтому описание составлено по ней. CursorCore-DS-1.3B — модель из серии CursorCore, разработанной Hao Jiang, Qi Liu, Rui Li, Shengyu Ye и Shijin Wang для помощи в программировании. Она дообучена на базе deepseek-ai/deepseek-coder-1.3b-base и предназначена для генерации кода и диалоговой поддержки в сценариях AI-помощника программиста, включая редактирование кода, встроенный чат и автодополнение. Модель использует плотную архитектуру семейства LLaMA с причинно-следственной языковой моделью на 1,3 млрд параметров. Она принимает текстовые запросы и контекст с кодом и генерирует текст, включая программный код; заявленная длина контекста — 16 384 токена. README показывает сценарии обычного чата и взаимодействия с кодом, но примеры для конкретной модели частично используют другие модели CursorCore. Лицензия указана как other, поэтому условия использования следует сверять с карточкой модели.

DeepSeek-VL-Hybrid — мультимодальная модель для понимания изображений и текста, разработанная командой DeepSeek AI. Она принимает изображения и текстовые запросы и формирует текстовые ответы в диалоговом режиме. В архитектуре используется языковая модель на основе LLaMA, SigLIP для обработки изображений низкого разрешения и SAM для изображений высокого разрешения. Модель рассчитана на практические визуально-языковые сценарии, включая анализ скриншотов, PDF, OCR, диаграмм и содержимого, требующего визуальных деталей; заявлена обработка изображений размером до 1024 × 1024 пикселей. В карточке указана версия 7B, однако конкретное число параметров этой копии не приведено. Модель подходит для вопросов об изображениях, извлечения и объяснения визуальной информации, а также работы с документами и графиками. Она требует вычислительных ресурсов для мультимодальной модели и может ошибаться в распознавании мелких деталей или содержимого изображения. Указана лицензия DeepSeek; метаданные Hugging Face классифицируют её как other, поэтому точные условия следует сверить с текстом лицензии репозитория.

Dolphin 2.6 Phi-2 — разговорная языковая модель, созданная Eric Hartford и Fernando Fernandes при спонсорской поддержке Convai на базе Phi-2 от Microsoft. Это плотная авторегрессионная модель семейства Phi с архитектурой PhiForCausalLM, дообученная методом qLoRA на трёх эпохах. Она принимает текст и ведёт диалог в формате ChatML; заявленное окно контекста — 2048 токенов. Модель предназначена для общения с ассистентом и генерации текста, в том числе для задач, представленных в наборах данных Dolphin, Dolphin Coder, Airoboros, OpenHermes, Magicoder и Capybara. Авторы описывают модель как «uncensored»: обучающие данные были отфильтрованы для уменьшения alignment и bias, поэтому модель может охотно отвечать на вредоносные и неэтичные запросы. Перед предоставлением доступа пользователям авторы рекомендуют добавить собственный слой выравнивания и безопасности. Для загрузки модели требуется trust_remote_code. Лицензия — MIT; качество генерации не гарантировано.

Dolphin3.0-Llama3.2-3B-GGUF — это набор GGUF-квантизаций текстовой генеративной модели Dolphin3.0-Llama3.2-3B, опубликованный пользователем bartowski. Базовая модель разработана cognitivecomputations. Модель предназначена для локального запуска в llama.cpp и совместимых приложениях, включая LM Studio, а также для генерации текста, следования инструкциям, решения математических задач, программирования и сценариев с вызовом функций. Модель содержит около 3 млрд параметров и работает с текстом на английском языке. В обучении использовались датасеты для instruction tuning, программирования, математических задач, function calling, агентных сценариев и диалогов. В репозитории представлены варианты от полноточных F32 и F16 до квантизаций Q8_0, Q6, Q5, Q4, Q3 и IQ; размеры файлов варьируются примерно от 1,5 до 12,9 ГБ. Квантизации выполнены с использованием imatrix и llama.cpp. Сильными сторонами являются небольшой размер базовой модели, возможность локального запуска на ограниченных ресурсах и выбор между качеством и потреблением памяти. Более высококачественные варианты Q6 и Q5 отмечены как близкие к исходной модели, а Q4_K_M рекомендован как сбалансированный вариант. Ограничения включают небольшой размер модели, заявленную поддержку только английского языка и снижение качества на более сильной степени квантизации. Для работы рекомендуется использовать указанный chat-шаблон с маркерами ролей. Лицензия указана как llama3.2.

GALPACA 6.7B — языковая модель на архитектуре OPT, созданная дообучением GALACTICA 6.7B на 52 тысячах пар инструкций и ответов из набора Alpaca. Модель разработана для ответов на запросы в формате инструкций и ориентирована на научные и технические задачи; её базовая модель обучалась на крупном корпусе научных текстов и данных. Размер модели по метаданным — 8,8 млрд параметров, максимальный контекст — 2048 токенов. Модель принимает текст и генерирует текст. Качественные оценки указывают на сильные стороны в технических знаниях и программировании по сравнению с некоторыми моделями Alpaca на базе LLaMA, но на обычной генерации прозы она уступает им. Ответы могут быть неточными, поэтому для практического применения нужны проверки и меры предосторожности. Лицензия — CC BY-NC 4.0; использование также связано с условиями OpenAI, поскольку набор Alpaca был создан с помощью text-davinci-003.

Gemma-4-12B-Coder-fable5-composer2.5-4bit — 4-битная MLX-квантизированная версия модели yuxinlu1/gemma-4-12B-coder-fable5-composer2.5-v1, созданная на базе google/gemma-4-12B-it. Конвертацию и публикацию выполнило сообщество MLX. Модель предназначена для генерации текста, программного кода и решения задач, требующих рассуждений, включая локальное использование в чат-режиме через библиотеку mlx-lm. Указана текстовая специализация; поддерживаемые языки, контекстное окно и дополнительные модальности в README не раскрыты. Архитектура описана как Gemma-4 с размером 12 млрд параметров, а 4-битная квантизация снижает требования к памяти при заявленном сохранении почти исходных возможностей рассуждения и программирования. Основное преимущество — оптимизация для локального запуска на компьютерах Apple Silicon с использованием MLX и возможность свободного использования, изменения и распространения. Ограничения включают зависимость от экосистемы MLX и Apple Silicon для целевого сценария, а также потенциальные потери качества, связанные с квантизацией; фактические показатели производительности и качества в README не приведены. Лицензия — Apache 2.0.

Это GGUF-квантизированная версия языковой модели llama3.1-8b_codeio_pp, разработанной командой hkust-nlp и подготовленной квантизатором bartowski. Модель предназначена для генерации текста, прежде всего для задач, связанных с программным кодом, и может использоваться локально в LM Studio, llama.cpp и других проектах на базе llama.cpp. Модель содержит 8 миллиардов параметров и распространяется в формате GGUF с вариантами квантизации от Q2 до Q8, включая Q4_K_M, Q5_K_M, Q6_K и Q8_0. Размер файлов составляет примерно от 3,7 до 8,5 ГБ. Квантизация выполнена с использованием imatrix и llama.cpp release b4688. Более качественные варианты требуют больше оперативной памяти, а низкобитные версии экономичнее, но могут заметно уступать в качестве генерации. README не содержит сведений о поддерживаемых языках, максимальном контексте, точной архитектуре базовой модели, лицензии или результатах независимого тестирования. Поэтому эти характеристики нельзя достоверно оценить по представленным данным. Для корректной работы следует использовать указанный формат prompt и совместимый движок инференса.

Momix-44/Huihui-Qwen3-Coder-Next-Opus-4.6-Reasoning-Distilled-abliterated — языковая модель для генерации текста и программного кода. В README указано, что она создана на основе samuelcardillo/Qwen3-Coder-Next-Opus-4.6-Reasoning-Distilled и модифицирована с помощью abliteration — экспериментальной процедуры удаления отказов модели. Разработчик производной версии обозначен как huihui-ai, а в карточке идентификатор модели относится к Momix-44. Модель предназначена для использования в приложениях через библиотеку Hugging Face Transformers и поддерживает стандартный сценарий text-generation с диалоговым шаблоном. Она ориентирована на задачи рассуждения и генерации кода; заявлен английский язык. Архитектура, количество параметров, размер контекста и дополнительные модальности в README не указаны. Доступна квантизированная версия с калибровкой Bartowski-Data imatrix, а пример загрузки также показывает возможность 4-битной квантизации через BitsAndBytesConfig. К сильным сторонам относятся специализация исходной модели на коде и reasoning, а также возможность локального запуска с использованием Transformers и квантизации. Ограничения включают экспериментальный proof-of-concept характер abliteration и отсутствие подробных результатов оценки качества. Изменение поведения отказов может снизить встроенные защитные механизмы, поэтому модель следует применять с учетом требований безопасности. Лицензия — Apache-2.0.

INF-o1-pi0 — языковая модель для рассуждений, разработанная командой INF-o1 компании INFLY TECH (Shanghai) Co., Ltd. Это начальный контрольный чекпойнт проекта, созданный для оценки конвейера подготовки данных перед дальнейшим обучением с подкреплением. Модель дообучена на базе Qwen/Qwen2.5-32B-Instruct, имеет плотную архитектуру Qwen2 и 32 млрд параметров; работает через Transformers и принимает текст, выдавая текст. Контекстное окно составляет 32 768 токенов. Модель предназначена для генерации развёрнутых рассуждений и решения задач по математике, программированию, логике, безопасности и SQL. В README приведены результаты сравнений на математических, логических и SQL-бенчмарках; они показывают сильные результаты на отдельных наборах, но не гарантируют точность в прикладных задачах. Карточка описывает этот выпуск как исходный чекпойнт для оценки конвейера данных и основы будущего обучения с подкреплением. Языковые теги метаданных охватывают китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Лицензия в предоставленных данных не указана.

jth01/inf-o1-pi0-fixed — копия весов INF-o1-pi0 от INFLY TECH (Shanghai) Co., Ltd. с заменёнными файлами конфигурации токенизатора на вариант QwQ; автор репозитория сообщает, что так модель работает лучше. Это плотная причинная языковая модель семейства Qwen2 с 32 млрд параметров, рассчитанная на генерацию текста и диалог. Контекст — до 32 768 токенов. Исходный INF-o1-pi0 представлен как начальный чекпойнт для оценки конвейера подготовки данных и развития многошаговых рассуждений. В карточке описаны задачи математики, программирования, логики, безопасности и SQL, а также приведены сравнительные результаты на соответствующих тестах. Модель может применяться для решения математических и логических задач, объяснения решений и генерации кода или SQL-запросов. Метаданные указывают на слияние INF-o1-pi0 и Qwen/Qwen2.5-32B-Instruct; этот репозиторий дополнительно меняет конфигурацию токенизатора. Для запуска используется Transformers, веса хранятся в safetensors. Лицензия в предоставленных данных не указана. Результаты бенчмарков не гарантируют точность ответов в прикладных сценариях; README позиционирует исходный чекпойнт как основу для дальнейшей разработки, а не как завершённую модель для ответственных решений.

Jan-code-4b-GGUF — это квантизированная версия языковой модели Jan-code-4b, разработанной janhq. Репозиторий подготовлен bartowski с использованием llama.cpp и метода imatrix; модель предназначена для генерации текста и ориентирована на сценарии работы с кодом и агентами. Модель доступна в формате GGUF с вариантами квантизации от BF16 и Q8_0 до более компактных Q2–Q6 и IQ-вариантов. Размер файлов составляет примерно от 1,98 до 8,83 ГБ. В README указана поддержка английского языка. Архитектура, максимальная длина контекста, точное число параметров и поддерживаемые модальности не описаны; по назначению и формату это текстовая авторегрессионная модель. Сильной стороной является широкий выбор уровней квантизации, позволяющий подобрать баланс между качеством, требованиями к памяти и скоростью работы. В качестве рекомендуемых указаны Q4_K_M, Q5_K_M, Q6_K и близкие варианты. Модель можно запускать через llama.cpp, LM Studio, koboldcpp, Jan AI и другие совместимые инструменты, однако для новых поддерживаемых архитектур может потребоваться обновление программного обеспечения. Лицензия — Apache-2.0.

Spicyneuron/Kimi-K2.7-Code-MLX-3.6bit — квантованная версия модели Kimi-K2.7-Code, разработанной MoonshotAI. Модель предназначена для генерации текста и, судя по названию базовой модели, прежде всего для задач, связанных с программированием. Она оптимизирована для локального запуска на Mac Studio с чипом M3 Ultra через MLX и MLX-LM, в том числе в формате сервера, совместимого с API chat completions. Это разреженная MoE-модель с 3-битным базовым квантованием и повышенной точностью для чувствительных компонентов, включая маршрутизацию MoE, механизмы внимания и выходные эмбеддинги. Используется смешанная точность с показателем 3,578 бит на вес. Для работы требуется примерно 428 ГБ базовой памяти и до 460 ГБ в пиковом режиме, поэтому модель рассчитана на мощные устройства с большим объёмом объединённой памяти. В README не указаны точный размер модели, длина контекста, поддерживаемые языки и мультимодальные возможности. К сильным сторонам относятся баланс скорости, потребления памяти и качества, а также возможность оставить память для небольшой вспомогательной модели. Заявленная скорость составляет около 219 токенов в секунду при обработке prompt размером 1024 токена и около 21 токена в секунду при генерации последовательности длиной 512 токенов. Ограничения связаны с высокими требованиями к памяти, потерями качества, неизбежными для агрессивного квантования, и узкой оптимизацией под экосистему Apple MLX. Квантование выполнено с использованием форка MLX-LM от spicyneuron. Лицензия в README не указана.

Llama3.1-TheiaFire-DarkFusion-8B — плотная языковая модель семейства Llama, созданная ZeroXClem слиянием четырёх моделей методом TIES. Она содержит 7,5 млрд параметров и принимает текст для генерации текстовых ответов; заявленная длина контекста — 131 072 токена. Модель рассчитана на диалог, технические рассуждения и генерацию кода, а также на анализ криптовалют и блокчейн-проектов, творческое письмо и ролевые сценарии. В карточке указаны специализация компонентов на криптовалютах, агентных задачах и коде, творческой генерации без ограничений и обобщении на новые задачи. Заявлены инструменты для поиска и вычислений, но доступность этих функций зависит от способа интеграции. README также предупреждает, что токенизатор может испытывать трудности с системными промптами в LM Studio, и отмечает риск предвзятых или неподходящих ответов. Лицензия — Apache 2.0.

LocateAnything-3B — разработанная в рамках семейства Eagle компанией NVIDIA трансформерная зрительно-языковая модель на 3 млрд параметров. Она принимает изображение и текстовый запрос, а возвращает текст с метками и структурированными координатами объектов и точек. В архитектуру входят визуальный энкодер MoonViT, языковая модель Qwen2.5-3B-Instruct и MLP-проектор; модель дообучена для визуальной локализации. Модель предназначена для обнаружения объектов, поиска объектов по описанию, локализации элементов интерфейса и текста на изображениях, а также для разметки сцен в робототехнике, автономном вождении и работе с документами. Механизм Parallel Box Decoding предсказывает координаты блоками за один параллельный шаг; авторы заявляют до 2,5 раза более высокую пропускную способность по сравнению с предшествующими подходами. Поддерживается исходное разрешение изображений до 2,5K, длина запроса до 24K токенов и генерация до 8192 токенов. Модель ориентирована на разработчиков и исследователей, создающих системы визуального восприятия и мультимодальных агентов. В README выпуск обозначен как предназначенный для исследований и разработок; метаданные указывают лицензию other, поэтому перед использованием следует проверить условия лицензии репозитория. Модель обрабатывает визуальные сцены и формулирует локализацию в виде текстовых меток и координат.

microsoft_NextCoder-32B-GGUF — это набор GGUF-квантизированных версий языковой модели NextCoder-32B, разработанной Microsoft. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и кода, включая сценарии программирования и чат-взаимодействия. В README указана поддержка английского языка; сведения о других языках отсутствуют. Модель имеет размер 32 млрд параметров и работает в текстовой модальности. Доступны варианты от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3, Q2 и IQ, что позволяет выбирать между качеством, размером файлов и требованиями к оперативной памяти. Рекомендуемыми названы, в частности, Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S и Q4_K_M. Размер файлов варьируется примерно от 13 до 66 ГБ. Размер контекста и точная архитектура в README не указаны. Сильными сторонами являются высокое качество старших вариантов квантизации, возможность локального запуска и совместимость с LM Studio, llama.cpp и другими проектами на его основе. Ограничения включают значительные требования к памяти, снижение качества у компактных вариантов и отсутствие сведений о мультимодальности, дополнительных языках и длине контекста. Модель распространяется по лицензии MIT; условия исходной модели и квантизированных файлов следует рассматривать с учетом указанной лицензии.