II.11Кибербезопасность и приватность

M2H AI UnSensored 8B — разговорный ИИ-ассистент, созданный Prince Kumar из M2H Web Solution на основе Dolphin 2.9 Llama 3 8B. Это дообученная модель семейства Llama 3 с архитектурой Meta Llama 3; репозиторий содержит GGUF-версию для локального запуска через Ollama и совместимые инструменты. Размер базовой модели — 8 млрд параметров. Модель предназначена для помощи в программировании и веб-разработке, работе с API и Linux, а также для задач кибербезопасности. Она поддерживает диалог и позиционируется автором как модель с менее ограниченными ответами. В карточке указан английский язык; максимальная длина контекста не приведена. Для запуска автор рекомендует локальную среду, совместимую с GGUF, и указывает минимум 16 ГБ оперативной памяти и видеокарту RTX 3050 с 6 ГБ памяти. Модель распространяется на условиях лицензии Meta Llama 3; использование должно соответствовать её условиям и применимому законодательству. Ответы модели могут быть неточными, особенно в задачах кибербезопасности и при выдаче инструкций для командной строки, поэтому результаты требуют проверки.

CISCai/OpenCodeInterpreter-DS-6.7B-SOTA-GGUF — это набор квантованных моделей в формате GGUF на основе OpenCodeInterpreter DS 6.7B, разработанной Multimodal Art Projection (M-A-P). Модель относится к семейству DeepSeek и предназначена для генерации текста, прежде всего для задач программирования и ответов на вопросы по computer science. Указан английский язык. В репозитории представлены файлы с различными вариантами квантования, рассчитанные на запуск через llama.cpp и совместимые сторонние интерфейсы и библиотеки. Ключевая особенность — квантование с importance matrix, обученной примерно на 1 млн токенов ответов из датасета CodeFeedback-Filtered-Instruction. Доступны варианты от 1 до 4 бит с эффективной точностью примерно от 1,56 до 4,5 бит на вес. Размер файлов составляет около 1,5–2,8 ГБ и выше в зависимости от метода; требуемый объём RAM начинается примерно от 3,5 ГБ. Более компактные варианты экономят память, но могут приводить к существенной или значительной потере качества. Для корректной токенизации и лучших результатов рекомендуется свежая сборка llama.cpp. Модель лицензирована по Apache 2.0. README не содержит сведений о размере контекста, мультимодальности, полном наборе поддерживаемых языков или результатах сравнительных тестов, поэтому эти характеристики нельзя надёжно определить.

Qwen2.5-Coder-3B-Q8_0-GGUF — это квантизированная модель для генерации кода и другого текста, преобразованная в формат GGUF проектом ggml-org из базовой модели Qwen/Qwen2.5-Coder-3B. Модель относится к семейству Qwen2.5-Coder и предназначена для запуска с помощью llama.cpp, в том числе локально через командную строку или сервер. Модель имеет размер 3B параметров и представлена в формате Q8_0. Она поддерживает текстовый ввод и вывод; в карточке указан английский язык. Основные сценарии использования — генерация программного кода, помощь в задачах разработки и текстовая генерация. В примере запуска используется контекст длиной 2048 токенов, однако максимальный размер контекста в предоставленных данных не указан. Преимуществами являются специализированная направленность на программирование, компактный размер по сравнению с более крупными моделями и совместимость с llama.cpp. Ограничения связаны с отсутствием подробных сведений о качестве, поддерживаемых языках программирования, мультимодальности и максимальном контексте; модель следует оценивать с учётом ресурсов локального запуска и особенностей квантизации. Лицензия указана как qwen-research; подробные условия приведены в лицензии исходной модели Qwen/Qwen2.5-Coder-3B.

hotdogs/Qwen3.8-27B-abliterated-AWQ-INT4 — языковая генеративная модель, разработанная hotdogs на основе Qwen/Qwen3.8-27B и подвергнутая обучению без дообучения с удалением направления отказов. Это квантованная версия hotdogs/Qwen3.8-27B-abliterated, предназначенная для диалоговых сценариев, генерации текста, исследовательского анализа механизмов отказа, red teaming и изучения влияния alignment-обучения. Модель не отказывает в запросах, поэтому её применение требует особой осторожности и соблюдения законодательства. Модель использует гибридную архитектуру Qwen3.8-27B с полноразмерным attention на части слоёв и Gated DeltaNet linear attention на других слоях. Основные компоненты квантованы в формат W4A16 с 4-битными весами и 16-битными активациями, группой 128 и симметричным квантованием; lm_head и 64 слоя linear_attn сохранены в BF16. Размер файлов составляет около 17,6 ГБ вместо примерно 52 ГБ у BF16-версии. Заявлены языки English, Chinese и Thai. В README указан максимальный размер контекста 32768 токенов для запуска через vLLM. Сильные стороны модели — существенно сниженное потребление памяти, сохранение abliteration после квантования и близкая к базовой производительность на приведённых тестах: для BF16-версии MMLU составляет 0,8342, GSM8K — 0,59, ARC-Challenge — 0,4533. INT4-версия рассчитана на запуск через vLLM с Marlin и обычно требует двух GPU с 24 ГБ памяти; на одной карте с 24 ГБ доступ к KV-кэшу будет ограничен, а GPU с 48 ГБ подходит для запуска с tensor parallelism 1. Точные результаты INT4-версии могут немного отличаться от результатов BF16-модели. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

inferencerlabs/Qwen3-Coder-Next-MLX-Q9 — это текстовая генеративная модель для задач программирования, основанная на Qwen/Qwen3-Coder-Next и адаптированная для запуска с использованием MLX. Репозиторий inferencerlabs предоставляет её в формате квантования q9, созданного модифицированной версией MLX. README не содержит точных сведений о разработчике базовой модели, размере, архитектуре, поддерживаемых языках и длине контекста. Модель предназначена для генерации текста и, прежде всего, для сценариев, связанных с написанием и обработкой кода. По приведённым результатам тестирования, на системе с M3 Ultra и 512 ГБ оперативной памяти она достигала примерно 68 токенов в секунду при одиночном запросе и 159 токенов в секунду суммарно при пакетной обработке шести запросов, используя около 83,5 ГиБ памяти. Ключевая особенность модели — высокоточное q9-квантование с заявленным близким к исходному качеством в тестах программирования. Для q9 указаны perplexity 1,21093, точность токенов 97,55% и показатель пропущенной дивергенции 10,50%; эти значения совпадают с приведёнными для q8.5 и немного уступают базовой модели. Ограничения включают высокие требования к памяти, зависимость производительности от оборудования и отсутствие в README сведений о лицензии. Условия использования базовой модели также необходимо уточнять отдельно.

CodeGemma 1.1 7b Instruct — языковая модель Google, представленная в формате GGUF. Квантизацию выполнил bartowski на базе llama.cpp. Модель создана как помощник программиста для генерации кода и решения задач разработки; в качестве примера использования указано написание функций на Python. Рекомендуемый шаблон запросов — Google Gemma Instruct с маркерами начала и конца хода диалога. Модель основана на Gemma 7B и дополнительно обучена на веб-документах, математике и исходном коде: заявлено соотношение 80% кода и 20% естественного языка. Instruct-версия дообучалась на математических наборах данных, синтетически сгенерированном коде и обратной связи от другой LLM, что должно улучшать генерацию кода и математическое рассуждение. Указан размер исходной модели 7B, а для сборки в LM Studio — около 8B параметров; поддерживаемые языки, длина контекста и точные параметры GGUF в README не указаны. Сильными сторонами модели являются специализация на программировании, локальный запуск через GGUF и небольшие заявленные улучшения генерации кода по сравнению с исходной версией CodeGemma. Ограничения включают возможные неточности, а также отсутствие в README данных о производительности, языковом покрытии, конкретном варианте квантизации и мультимодальности; модель предназначена для работы с текстом и кодом. Использование регулируется лицензией Google Gemma; для доступа к оригинальной модели на Hugging Face требуется принять условия Google.

TheBloke опубликовал эту версию весов CodeLlama 13B-Python от Meta в формате Transformers/Hugging Face fp16. Это плотная авторегрессионная трансформерная модель семейства Llama с 12,9 млрд параметров, ориентированная на генерацию и понимание кода на Python. Репозиторий содержит конвертированные из исходной модели Meta веса в формате safetensors. Модель предназначена для написания, дополнения и анализа кода Python. Она принимает текст и генерирует текст; семейство поддерживает контекст до 16 384 токенов согласно метаданным. Для корректной загрузки этой версии README требует использовать trust_remote_code=True. Это не Instruct-вариант, поэтому карточка не заявляет о специальной настройке для диалогового следования инструкциям. Модель может выдавать неточный или нежелательный результат; перед использованием в приложениях рекомендуется проверять её поведение и настраивать под конкретный сценарий. Лицензия указана как llama2; README сообщает о доступности специальной коммерческой лицензии Code Llama, поэтому условия использования следует сверять с применимым соглашением Meta.

yuxinlu1/gemma-4-12B-agentic-fable5-composer2.5-v2-3.5x-tau2-GGUF — локальная модель для генерации текста, программирования и агентских сценариев. Она основана на google/gemma-4-12B-it и распространяется в формате GGUF. Модель создана независимым автором; его имя в README не указано. Модель предназначена для написания и отладки кода, выполнения многошаговых технических задач, работы с инструментами и терминалом, а также сценариев, где требуется цикл «изучить состояние — диагностировать проблему — внести исправление — проверить результат». По заявлению автора, она поддерживает нативный формат вызова инструментов Gemma 4 и может работать полностью локально, без облачных API. Заявленный размер — 12 млрд параметров; сведения о поддерживаемых языках, максимальном контекстном окне и дополнительных модальностях не приведены. В качестве ключевого результата указана оценка около 55% на 20 заданиях tau2-bench telecom в варианте Q8_0 против примерно 15% у базовой gemma-4-12B-it. Этот тест отражает агентские задачи технической диагностики, но не характеризует все возможности модели. Автор рекомендует Q4_K_M как оптимальный вариант и считает Q3_K_M минимальной надёжной квантизацией; заявлена возможность запуска примерно при 4,5 ГБ свободной VRAM или unified memory. Ограничения включают неполное тестирование tau2-bench, возможные проблемы при неправильной настройке клиента или сэмплера и отсутствие подробных данных о качестве в общих задачах. Лицензия — Apache-2.0.

granite-20b-code-instruct-IMat-GGUF — это GGUF-квантизированная версия модели granite-20b-code-instruct, разработанной IBM (ibm-granite) и подготовленной пользователем legraphista. Модель предназначена для генерации и объяснения программного кода, исправления ошибок, работы с инструкциями, математическими задачами, SQL и сценариями function calling. Указаны варианты квантования от 1 до 16 бит, включая конфигурации с IMatrix, оптимизированные для запуска через llama.cpp. Модель содержит около 20 млрд параметров и основана на исходном формате BF16. В README не указаны точная архитектура, максимальная длина контекста и полный перечень поддерживаемых языков, однако результаты оценки приведены для Python, JavaScript, Java, Go, C++, Rust и демонстрируют применимость к генерации, объяснению и исправлению кода. В тестах HumanEvalSynthesis показатель pass@1 составил от 42,1 до 60,4% в зависимости от языка; значения не верифицированы. Ключевое преимущество версии — возможность выбирать баланс между качеством, размером файла и требованиями к памяти благодаря множеству вариантов квантования и применению IMatrix. Ограничения связаны с потерями качества при низкой разрядности, отсутствием подробных сведений о контексте и мультимодальности, а также с тем, что приведённые метрики не подтверждены. Модель распространяется по лицензии Apache 2.0.

Llama 2 Coder 7B — языковая модель для генерации и помощи в написании программного кода, созданная mrm8488 на базе Llama 2 Coder 7B и дообученная с использованием набора данных HuggingFaceH4/CodeAlpaca_20K. TheBloke подготовил её квантованные файлы в формате GGUF. Модель предназначена для сценариев, в которых требуется coding assistant: интерпретации инструкций пользователя и формирования решений в виде программного кода. Она относится к архитектуре Llama, имеет размер 7B параметров и поддерживает текстовую генерацию. README не указывает точный перечень языков программирования, естественных языков или размер контекстного окна. Формат GGUF подходит для локального запуска через llama.cpp и совместимые инструменты, включая text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и другие решения с поддержкой CPU и GPU. Ключевое преимущество версии — доступность квантований с разной разрядностью, включая 2-, 3-, 4-, 5-, 6- и 8-битные варианты, что позволяет выбирать компромисс между качеством, скоростью и требованиями к памяти. Ограничения включают возможные ошибки и неполные решения в генерируемом коде, а также отсутствие в README опубликованных результатов оценки. Модель заявлена под лицензией Apache-2.0, но поскольку основана на Llama 2, также подпадает под условия лицензии Meta Llama 2; взаимодействие этих лицензий требует отдельной проверки перед использованием.

MistralHermes-CodePro-7B-v1 — дообученная модель семейства Mistral, созданная на основе teknium/OpenHermes-2.5-Mistral-7B. По карточке, модель дополнительно обучена на наборе из более чем 200 тысяч примеров кода на разных языках программирования и предназначена для помощи в задачах разработки. Она использует архитектуру MistralForCausalLM с 7,1 млрд параметров, принимает текстовые запросы и генерирует текст; контекст составляет до 32 768 токенов. Модель ориентирована на диалоговый формат OpenHermes 2.5 и поддерживает следование инструкциям. Репозиторий содержит веса PyTorch и Safetensors; лицензия — MIT. Карточка рекомендует использовать LM Studio для общения с моделью.

Pyrex-8B-Instruct-Uncensored — дообученная модель для генерации кода и задач разработки ПО, опубликованная ImposterOnline. В карточке она описана как модель класса 8B с архитектурой Transformer и компонентами RoPE, SwiGLU, RMSNorm и GQA; метаданные Hugging Face указывают архитектуру Qwen2, 7,1 млрд параметров и формат safetensors. Модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Заявленная длина контекста — 32 768 токенов, при этом обучение проводилось на последовательностях длиной 4 096 токенов. Модель предназначена для генерации кода, многошаговой отладки и сценариев агентного программирования с вызовом функций. В README приведены результаты HumanEval и MBPP; качество на других задачах не установлено этими оценками. Модель дообучена методом QLoRA на смесях наборов данных для программирования и вызова функций. Лицензия — MIT. В карточке модель названа uncensored и заявлено отсутствие встроенных фильтров безопасности. Автор рекомендует проверять выходы в изолированной среде перед использованием в критичных системах; качество на контекстах длиннее 4 096 токенов не проверено. Метаданные и README расходятся в числе параметров (7,1B и 7,6B соответственно), поэтому точный размер следует считать неоднозначным.

mlx-community/Qwen2.5-Coder-14B-bf16 — конвертированная в формат MLX версия Qwen/Qwen2.5-Coder-14B, подготовленная сообществом mlx-community с помощью mlx-lm 0.19.3. Это плотная авторегрессионная модель семейства Qwen2, предназначенная для генерации кода и диалогового взаимодействия с ним; размер модели — 14 млрд параметров, контекст — до 32 768 токенов. Модель принимает текст и выдаёт текст. Она подходит для генерации фрагментов и функций кода, помощи при программировании и работы с запросами о коде. Метаданные указывают английский язык. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Карточка этой версии подтверждает конвертацию формата, но не описывает отдельного дообучения поверх базовой модели.

BenevolenceMessiah/Qwen2.5-Coder-32B-Instruct-abliterated-Q4_K_M-GGUF — это квантизированная версия в формате GGUF модели huihui-ai/Qwen2.5-Coder-32B-Instruct-abliterated, основанной на Qwen2.5-Coder-32B-Instruct. Репозиторий подготовлен BenevolenceMessiah с использованием llama.cpp и сервиса GGUF-my-repo от ggml.ai. Модель предназначена для генерации текста и прежде всего для работы с программным кодом в диалоговом формате. Модель имеет 32 миллиарда параметров, поддерживает текстовую модальность и, согласно метаданным карточки, английский язык. Используется квантизация Q4_K_M, рассчитанная на запуск через llama.cpp на совместимом CPU или GPU. README показывает применение в командной строке и через сервер llama.cpp; в примере сервер запускается с контекстом 2048 токенов, однако максимальный размер контекста в карточке не указан. К сильным сторонам относятся специализация на задачах программирования, instruct-формат и удобство локального запуска в GGUF через llama.cpp. К ограничениям относятся неизвестные из README точные характеристики исходной модели, фактическая производительность и качество на разных языках и задачах, а также возможная потеря точности из-за квантизации. Модель обозначена как abliterated и uncensored, поэтому её поведение в части защитных ограничений может отличаться от исходной версии. Указана лицензия Apache-2.0.

Qwen2.5-Coder-3B-Instruct-MLX-8bit — 8-битная MLX-квантизация инструкционно дообученной модели Qwen2.5-Coder-3B-Instruct. Исходную модель разработала команда Qwen, а данную квантизированную версию подготовил bartowski на основе инструментов mlx-examples; модель распространяется в каталоге lmstudio-community. Модель предназначена для генерации и обработки программного кода, использования в чат-сценариях и code agent системах. Она поддерживает контекст до 32 тысяч токенов и рассчитана на запуск на компьютерах Mac с Apple Silicon. В обучении использовалось до 5,5 триллиона токенов, включая исходный код, текстово-кодовые связи и синтетические данные. В README явно указан английский язык; сведения о поддержке других языков и точной архитектуре не приведены. К сильным сторонам относятся специализация на задачах программирования, ориентация на агентные сценарии, большой контекст и возможность локального запуска на совместимых устройствах. Ограничения включают небольшой по современным меркам размер в 3 миллиарда параметров, зависимость от Apple Silicon и риски неточных, небезопасных или неподходящих ответов, характерные для генеративных моделей. Лицензия указана как qwen-research; подробные условия доступны по ссылке на лицензию исходной модели Qwen2.5-Coder-3B-Instruct.

Blitzar-Coder-4B-F.1-GGUF — модель для генерации кода, разработанная prithivMLmods. Это GGUF-версия Blitzar-Coder-4B-F.1, дообученной на базе Qwen3-4B с использованием расширенных наборов трассировок программирования. Модель предназначена для генерации и отладки кода, а также решения задач, требующих рассуждений, особенно при ограниченных вычислительных ресурсах. Модель ориентирована на работу более чем с десятью языками программирования, включая Python, Java, C#, C++, C, Go, JavaScript, TypeScript и Rust. Точные сведения об архитектуре, размере контекста и поддерживаемых естественных языках, кроме английского, в карточке не указаны. Доступны варианты от Q2_K до Q8_0, а также F16, BF16 и F32; размер файлов составляет примерно от 1,67 до 16,1 ГБ. Q4_K_M и Q5_K_M рекомендуются как сбалансированные варианты, а Q6_K, Q8_0 и версии с плавающей точностью обеспечивают более высокое качество ценой большего потребления ресурсов. Сильными сторонами модели являются специализация на программировании, поддержка нескольких языков программирования и широкий выбор вариантов квантования для запуска на оборудовании с разными ограничениями. Более компактные варианты обеспечивают более быструю инференцию, но могут уступать в качестве; для F16, BF16 и особенно F32 требуется больше видеопамяти. Модель распространяется по лицензии Apache-2.0.

DeepSeek-Coder-7B-Instruct-v1.5 — языковая модель для генерации кода и ответов на инструкции, разработанная DeepSeek. Она построена на архитектуре Llama и содержит 6,5 млрд параметров. Модель продолжительно обучали на 2 трлн токенов, используя контекстное окно 4K, а затем дообучили на 2 млрд токенов инструкционных данных. Модель предназначена для диалогового взаимодействия с задачами программирования: например, генерации и объяснения кода по запросу. Доступна в формате Safetensors; заявленная лицензия — other, поэтому условия использования следует уточнять по карточке модели и связанным документам.

duyntnet/granite-8b-code-instruct-imatrix-GGUF — набор GGUF-квантизаций модели Granite-8B-Code-Instruct, разработанной IBM Research. Модель создана на основе Granite-8B-Code-Base-4K и дообучена на наборе инструкционных данных с разрешительными лицензиями для улучшения следования инструкциям, логического рассуждения и решения задач. Модель предназначена для генерации кода по инструкциям и создания ассистентов программирования. Она содержит около 8 млрд параметров, относится к авторегрессионным моделям генерации текста и поддерживает контекст до 4K токенов. В карточке указана поддержка английского языка и текстовая модальность. GGUF-квантизации можно запускать через llama.cpp, KoboldCPP, Ollama и text-generation-webui. К сильным сторонам относятся специализация на задачах программирования, следование инструкциям и навыки рассуждения. Ограничения включают контекст в 4K токенов, ориентацию на английский язык и зависимость характеристик производительности и качества от выбранного варианта квантизации. Для использования доступны клиенты и интерфейсы, совместимые с GGUF. Исходная модель распространяется по лицензии Apache 2.0; для конкретных квантизованных файлов в карточке также указана лицензия other.

HTML-LM — компактная модель-энкодер Seznam для получения эмбеддингов HTML-страниц. Она построена на ModernBERT, содержит 154,2 млн параметров, имеет скрытый размер 768 и поддерживает контекст до 8192 токенов. Модель обучена с нуля на корпусе из 100 млн HTML-документов, используя маскированное языковое моделирование, предсказание Bag-of-Words и контрастную дистилляцию представлений от Qwen3-Embedding-8B и Seznam SeLLMa 8B. Модель кодирует текстовое содержимое и структуру HTML в векторное представление для последующего применения в лёгких классификаторах и регрессорах. Примеры задач: обнаружение страниц статей и товаров, классификация страниц с откровенным контентом, кластеризация, оценка качества страниц и выявление веб-спама. Для обработки требуется HTMLLMProcessor, который очищает и упрощает DOM перед токенизацией; документация отмечает, что предварительная обработка может быть медленной при высокой нагрузке. Обучающий корпус преимущественно состоял из страниц чешских и англоязычных доменов, поэтому README не подтверждает равную поддержку всех языков. Модель распространяется под лицензией CC BY-NC 4.0, которая ограничивает коммерческое использование.

KAT-Coder-V2.5-Dev-REAP-205E-MTP-GGUF — это квантизированная и структурно обрезанная GGUF-версия модели Kwaipilot/KAT-Coder-V2.5-Dev, опубликованная автором gbuzhf. Модель предназначена для генерации и обработки программного кода, включая code-instruct, исправление ошибок, использование инструментов и задачи рассуждения. Заявлена поддержка английского и китайского языков; модель мультимодальность не заявлена. Это Mixture-of-Experts-модель с 205 экспертами на слой вместо исходных 256, при этом для каждого токена активируются 8 экспертов. Число параметров уменьшено примерно с 34,7 до 28,3 млрд, сохранены исходная архитектура, словарь размером 262 тысячи токенов и контекстное окно базовой модели, точный размер которого в README не указан. Обрезка выполнена методом REAP на 2,6 млн токенов собственных ответов KAT-Coder-V2.5-Dev. Дополнительно встроена MTP-голова, заимствованная из Qwen/Qwen3.6-35B-A3B; её обрезка выполнена по величине весов без калибровочных данных, поэтому является приближённой. По измерениям относительно исходной BF16-модели совпадение наиболее вероятного токена составляет около 94,6%, а рост perplexity — 3,62%; автор оценивает потерю качества как сопоставимую с хорошей 4-битной квантизацией. Эти результаты получены на текстах, близких к калибровочным данным, и могут быть оптимистичными; downstream-бенчмарки для программирования не проводились, поэтому сохранение качества на HumanEval, MBPP или SWE-bench не подтверждено. Доступны мастер-версия BF16 и несколько GGUF-вариантов квантизации, включая IQ4_XS, Q4_K_XL, Q5_K_S и Q6_K. В README указана лицензия other, без дополнительных условий.

MoJev — модель-оценщик от MoLeMo-Lab для выбора и ранжирования вариантов по текстовому состоянию, вопросу и списку кандидатов, заданному во время запроса. Она выдаёт распределение вероятностей, привязанное к заданной схеме, и предназначена для маршрутизации запросов, классификации политик и свидетельств, выбора инструментов и рабочих процессов, а также решений об исполнении, отложенной обработке или эскалации. Код модели распространяется по лицензии MIT; для весов также применяются условия лицензии базовой модели Qwen. Модель дообучена на Qwen3.5-0.8B: обучены все 854 036 544 параметра. Архитектура PackedScorer упаковывает состояние, вопрос и кандидатов в одну последовательность, использует маску внимания в виде дерева и проекции контекста и кандидатов ранга 512 с масштабированным скалярным произведением. Входное состояние может содержать текст и изображения; изображения обрабатываются через визуальные патчи. Выпущенная конфигурация обучалась с усечением до 16 384 токенов; базовая модель поддерживает контекст до 262 144 токенов, а с YaRN — до 1 010 000, но запрос также включает токены вопроса и кандидатов. В оценке на 12 000 решений авторы сообщают точность 93,23% и ожидаемую ошибку калибровки 0,79%. Модель подходит для структурированных решений по пользовательским вариантам, но качество и калибровка зависят от соответствия данных и кандидатов задаче. Карточка описывает англоязычные имена кандидатов, однако не указывает полный перечень поддерживаемых естественных языков.

MOMENT-1-base — базовая модель семейства MOMENT, разработанная Auton Lab Университета Карнеги — Меллона для анализа временных рядов. Это предварительно обученная модель общего назначения, которую можно использовать без дополнительного обучения или адаптировать на целевых данных. Модель предназначена для прогнозирования временных рядов; семейство MOMENT также поддерживает классификацию, обнаружение аномалий, заполнение пропусков и обучение представлений. Она рассчитана на сценарии zero-shot и few-shot, а дообучение на данных конкретной задачи может улучшить результаты. Модель принимает временные ряды и выдаёт прогнозы или результаты анализа, соответствующие задаче. В карточке указаны форматы PyTorch и safetensors и лицензия MIT. Карточка не приводит размер модели, численные оценки качества или ограничения для конкретных типов данных. Перед применением в критичных сценариях качество следует оценить на целевых временных рядах.

NuNER-v2.0 — англоязычная модель распознавания именованных сущностей, разработанная NuMind. Это дообученная на расширенной версии набора NuNER модель RoBERTa с контрастивным обучением; она предназначена для получения эмбеддингов текста для распознавания сущностей и может применяться сразу или дообучаться на специализированных наборах данных. Модель содержит 151,8 млн параметров, принимает текст и имеет контекстное окно 514 токенов. В карточке приведены результаты для сценариев, где обучение использует от 1 до 64 примеров на класс; численные показатели для версии v2.0 не представлены. Модель распространяется по лицензии MIT.

QaptaanLM-0.75B — компактная текстовая причинно-языковая модель для генерации кода, технических рассуждений и анализа длинных фрагментов кода. Её разработали в проекте Kaptaan на основе Qwen/Qwen3.5-0.8B-Base: визуальную часть исходной архитектуры удалили, а модель дообучили на корпусе KapCode-1B. В README указано 752 млн параметров; метаданные каталога указывают 581,4 млн. Модель использует гибридное внимание с линейными рекуррентными слоями и плотным вниманием, поддерживает заполнение пропусков в коде (Fill-in-the-Middle) и контекст до 262 144 токенов. Она предназначена для локального дополнения и генерации кода, вставки кода в заданный контекст и работы с техническими документами и материалами по STEM. Данные обучения включают исходный код, документацию, веб-тексты и математические материалы; метаданные отмечают английский язык. Модель распространяется в формате safetensors через Transformers по лицензии Apache-2.0. Карточка также перечисляет отдельные варианты для инструкционного чата и GGUF, но это не форматы данного репозитория.

Qwen2.5-Coder-1.5B-Instruct-MLX-8bit — это компактная инструкционная языковая модель для генерации текста и работы с исходным кодом. Базовую модель разработала команда Qwen, а MLX-квантизацию в формате 8-bit подготовил bartowski на основе инструментов mlx-examples. Модель предназначена для запуска на компьютерах Mac с Apple Silicon. Модель ориентирована на программирование, взаимодействие в формате чата и использование в code agents. Она обучалась с применением до 5,5 триллиона токенов, включая исходный код, данные для выравнивания текста и кода и синтетические данные. Поддерживается контекст до 32 тысяч токенов; в README явно указан английский язык. Архитектура и точное число параметров в карточке не описаны, однако из названия следует размер класса 1,5B. К сильным сторонам относятся специализация на коде, инструкционный режим, поддержка длинного контекста и оптимизация MLX для Apple Silicon. Ограничения связаны с компактным размером модели, возможными ошибками или неточностями при генерации кода и отсутствием заявленной поддержки других языков в предоставленных данных. Модель распространяется по лицензии Apache 2.0.

Qwen2.5-Coder-1.5B-Instruct-Q8_0-GGUF — это преобразованная в формат GGUF версия инструкционной модели Qwen2.5-Coder-1.5B-Instruct. Модель опубликована ggml-org и создана на основе модели Qwen, разработанной командой Qwen. Квантование Q8_0 выполнено с использованием llama.cpp через сервис GGUF-my-repo. Модель предназначена для генерации текста и работы с программным кодом в диалоговых и других сценариях, поддерживаемых llama.cpp. В README указаны языки с поддержкой английского языка, а также теги, связанные с кодом, чатом и семейством Qwen Coder. Известен размер базовой модели — 1,5 млрд параметров; формат GGUF оптимизирован для локального запуска через llama.cpp. В качестве примера указан контекст длиной 2048 токенов, однако это значение относится к рекомендуемой команде запуска, а не обязательно к максимальному контексту модели. К сильным сторонам относятся небольшой размер, инструкционная настройка, специализация на задачах программирования и удобство локального использования на совместимом оборудовании. Ограничения включают неизвестные из этого README качество на конкретных языках программирования, бенчмарках и задачах, а также отсутствие информации о мультимодальности; по имеющимся данным модель является текстовой. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-3B-Instruct-4bit — языковая модель для генерации текста и работы с программным кодом, разработанная командой Qwen. Версия преобразована сообществом mlx-community из исходной модели Qwen/Qwen2.5-Coder-3B-Instruct в формат MLX с использованием mlx-lm 0.19.3. Модель имеет размер 3B параметров и предназначена для сценариев инструкционного диалога и генерации кода. В карточке указана поддержка английского языка, текстовая модальность и применение через библиотеку mlx-lm; доступна 4-битная версия, что уменьшает требования к памяти по сравнению с полноразмерным представлением, но может ограничивать точность по сравнению с исходной моделью. Архитектура и размер контекста в README не указаны. Для использования требуется установить пакет mlx-lm и загрузить модель через функции load и generate. Лицензия обозначена как qwen-research; подробные условия доступны по ссылке на лицензию исходной модели. README не содержит данных о результатах тестирования, конкретных ограничениях качества или поддерживаемых языках помимо английского.

QuantFactory/starcoder2-15b-instruct-v0.1-GGUF — квантизированная версия модели StarCoder2-15B-Instruct-v0.1, разработанной проектом BigCode и созданной с использованием llama.cpp. Это языковая модель для генерации текста и кода, дообученная методом самосогласования на наборе self-oss-instruct-sc2-exec-filter-50k, где StarCoder2 генерировала пары инструкций и ответов без человеческой разметки и дистилляции из проприетарных моделей. Модель предназначена прежде всего для однократного выполнения инструкций, связанных с программированием: генерации Python-кода, решения задач, исправления программ и предсказания результатов выполнения. Она имеет размер 15 млрд параметров и распространяется в формате GGUF, удобном для запуска через совместимые инструменты на базе llama.cpp. В README указана длина последовательности обучения 1280 токенов; сведения о полном контекстном окне, поддерживаемых языках и конкретном варианте квантизации отсутствуют. Сильной стороной модели является ориентация на код, который можно проверять выполнением; на приведённых тестах она показывает pass@1 72,6% на HumanEval, 75,2% на MBPP и 40,6% на DS-1000. Ограничения включают меньшую надёжность при работе с форматами вывода, другими языками программирования и задачами за пределами распределения обучения; для управления форматом рекомендуется использовать префикс ответа или пример. Модель распространяется по лицензии bigcode-openrail-m.

Trinity-2-Codestral-22B-v0.2-GGUF — набор GGUF-квантизаций базовой модели migtissera/Trinity-2-Codestral-22B-v0.2, подготовленный пользователем bartowski с использованием llama.cpp и метода imatrix. Модель относится к задачам генерации текста и ориентирована прежде всего на работу с кодом; запуск возможен через llama.cpp и LM Studio. Доступны варианты от исходных весов F16 размером 44,50 ГБ до компактных квантов IQ3 и Q3 размером около 10–12 ГБ, а также форматы Q4, Q5, Q6 и Q8. Более высокие уровни квантования обеспечивают лучшее сохранение качества, а варианты Q4_0_8_8, Q4_0_4_8 и Q4_0_4_4 оптимизированы для более быстрой инференции на ARM и CPU. В README не указаны архитектура, поддерживаемые языки, модальности и размер контекстного окна. Для работы рекомендуется использовать шаблон prompt format с ролями system, user и assistant. Сильной стороной набора является широкий выбор компромиссов между качеством, размером и скоростью запуска; варианты Q5–Q6 заявлены как высококачественные, а Q4 — как практичные для систем с ограниченными ресурсами. К ограничениям относятся возможная потеря качества при низких уровнях квантования и отсутствие подробных сведений о возможностях исходной модели. Лицензия указана как other, без дополнительных условий в представленном README.

ZeryEasyCoder-27B — текстовая генеративная модель на архитектуре Qwen, созданная zagy1234. В карточке она описана как гибридная merge-модель для программирования, рассуждений и технических задач; метаданные указывают дообучение на Altworld/Hemmingway-1, а README сообщает о слиянии Hemmingway-1 и NEO-CODER MAX через mergekit. В репозитории представлены веса bfloat16 в формате Safetensors для Hugging Face Transformers; метаданные указывают 22,3 млрд параметров и контекст до 262 144 токенов. Модель предназначена для генерации и объяснения кода, написания скриптов и помощи с Linux и системным администрированием, а также для технического диалога. README заявляет поддержку Python, C++, Bash/Fish и C# и отсутствие ограничений на технические темы. Эти заявления не сопровождаются результатами оценки качества. Лицензия — Apache-2.0.