II.4Отладка, тестирование и качество ПО

GnLOLot/MiniCPM5-1B-Claude-Opus-Fable5-V2-Thinking-GGUF — это набор GGUF-квантизаций языковой модели MiniCPM5-1B-Claude-Opus-Fable5-V2-Thinking, разработанной на базе openbmb/MiniCPM5-1B и дообученной на данных Fable 5. Репозиторий подготовлен для локального запуска через llama.cpp, Ollama, LM Studio, jan, KoboldCpp и другие совместимые среды. Модель предназначена для генерации текста, диалогов, следования инструкциям, программирования, отладки и рабочих процессов с инструментами и вызовами функций. Модель имеет размер 1B параметров, работает с текстом и поддерживает английский и китайский языки. Заявлена длина контекста до 128K токенов, однако фактический доступный размер зависит от используемого GGUF-рантайма и оборудования. В V2 улучшена поддержка tool calling и function calling по сравнению с предыдущей версией; также предусмотрен режим рассуждений, при котором модель может выдавать блоки рассуждений перед итоговым ответом. Шаблон чата MiniCPM5 встроен в метаданные GGUF-файлов. Доступны варианты Q8_0 размером около 1,1 ГБ и F16 размером около 2,1 ГБ; Q8_0 рекомендован как стандартный вариант. К сильным сторонам относятся компактность, возможность локального развертывания, поддержка длинного контекста, программирования и вызова инструментов. Ограничение — небольшой масштаб 1B параметров, поэтому модель не относится к моделям передового уровня и может уступать более крупным системам в сложных задачах. Лицензия — Apache-2.0.

Это GGUF-квантизированная версия языковой модели AceReason-Nemotron-7B, разработанной NVIDIA и подготовленной квантизатором bartowski на базе llama.cpp. Модель предназначена для генерации текста с акцентом на рассуждения, математические задачи и программирование; заявленный язык — английский. Формат GGUF позволяет запускать её локально через llama.cpp, LM Studio и другие совместимые проекты. Модель относится к классу примерно 7-миллиардных текстовых моделей, однако точные сведения об архитектуре, размере контекста и поддерживаемых модальностях в README не указаны. Доступны варианты от BF16 до различных уровней квантования, включая рекомендуемые Q4_K_M, Q5 и Q6, что позволяет выбирать между качеством и требованиями к памяти. Более сильные варианты сохраняют качество ближе к исходной модели, а компактные подходят для систем с ограниченными ресурсами, но могут заметнее терять в качестве. Использование регулируется NVIDIA Open Model License; для конкретных условий следует ознакомиться с текстом лицензии NVIDIA.

OpenGuardrails-Text-2510 — модель для обнаружения небезопасного содержимого и защиты от атак на промпты, разработанная проектом OpenGuardrails. Она классифицирует пользовательские запросы и ответы модели по категориям риска, включая prompt injection, jailbreak и злоупотребление кодом, и выдаёт метку безопасности либо метку обнаруженного риска. Модель предназначена для встраивания в защитные контуры LLM-приложений, в том числе для настройки порогов срабатывания под политики организации. Это дообученная модель семейства Qwen3 с базой Qwen/Qwen3-14B; в README указана GPTQ-квантизация и эффективный размер 3,3 млрд параметров, а метаданные репозитория отмечают формат safetensors. Заявлена поддержка 119 языков и диалектов, при этом метаданные карточки указывают английский и китайский. Лицензия Apache 2.0. Разработчики сообщают о низкой задержке и результатах на наборах оценки безопасности, однако приведённые показатели и заявления о превосходстве являются заявлениями авторов, а не независимой гарантией качества.

OpenThinker2-32B — языковая модель с 32 млрд параметров, разработанная командой Open Thoughts и дообученная на Qwen/Qwen2.5-32B-Instruct с использованием набора OpenThoughts2-1M. Это плотная модель семейства Qwen2 для генерации текста в диалоговом формате; она рассчитана прежде всего на задачи рассуждения, особенно по математике и программированию. В оценках Evalchemy, приведённых в карточке, модель показывает результаты на задачах AIME24, AIME25, AMC23, MATH500, GPQA-D и LCBv2. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов и поставляется в формате Safetensors для Transformers. Метаданные также указывают интерфейс вызова инструментов. Основной язык явно не обозначен; из карточки нельзя установить полный перечень поддерживаемых языков. Модель распространяется по лицензии Apache 2.0. Оценки в карточке получены с помощью Evalchemy и не гарантируют аналогичного качества на иных задачах.

Opir-multitask-multilang-v1.0 — многоязычная модель Knowledgator для классификации безопасности текста на базе энкодерной архитектуры GLiClass. Она оценивает текст вместе с переданными при запросе метками и подходит для двоичной классификации «безопасно/небезопасно», обнаружения токсичности, jailbreak и prompt injection, а также категоризации вредоносного контента по иерархической таксономии из 996 меток. Модель предназначена для фильтрации пользовательских запросов до их передачи LLM, проверки ответов перед показом пользователю, маршрутизации потенциально опасного контента на дополнительные проверки и анализа результатов red-team-тестов. Поддерживает 23 языка; метки для классификации могут задаваться на английском даже при вводе на другом языке. В README указана задержка 13,30 мс на 50-м перцентиле и 14,03 мс на 95-м перцентиле при длине 1024 токена в условиях бенчмарка. Модель выдаёт оценки риска, а не формальные решения по политике. Она может пропускать новые или обфусцированные атаки, а качество зависит от выбранных меток, порогов, языка и формата текста; переведённые данные могут хуже отражать особенности отдельных языков и культур. Для эксплуатации рекомендуется калибровать пороги и сочетать классификатор с правилами, мониторингом и эскалацией. Лицензия — Apache-2.0.

google/pix2struct-screen2words-base — модель Google семейства Pix2Struct для понимания визуально представленного текста и элементов интерфейса. Это базовая версия Pix2Struct с архитектурой «кодировщик изображений — декодер текста», доступная в формате PyTorch и предназначенная для генерации текстовых ответов по изображению. Модель принимает изображение экрана и может отвечать на вопросы о его содержимом, например распознавать слова и подписи в интерфейсе. Pix2Struct предварительно обучали преобразовывать замаскированные снимки веб-страниц в упрощённый HTML; подход рассчитан на разнообразные задачи визуального понимания. В семействе используется представление изображений с переменным разрешением, а языковая подсказка может быть встроена непосредственно в изображение. В метаданных указаны английский, французский, румынский и немецкий языки. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает отдельные ограничения именно этой версии; качество ответов может зависеть от читаемости и состава содержимого снимка экрана.

Prompt Injection Guard small — мультиязычный классификатор на базе ModernBERT, разработанный Horizon Labs и дообученный на jhu-clsp/mmBERT-small. Модель определяет попытки prompt injection и jailbreak в сообщениях пользователей, а также в недоверенных текстах из писем, веб-страниц, документов, фрагментов RAG и ответов инструментов. Выдаёт метки SAFE или INJECTION и оценку классификации. Модель содержит 140,5 млн параметров, принимает последовательности длиной до 8192 токенов и доступна в форматах Safetensors и ONNX, включая вариант с квантованными int8 embeddings; поддерживается также transformers.js. В карточке заявлена поддержка 30 языков, включая русский, при этом английский представлен в обучающих данных шире остальных. Для обучения использовались наборы данных об инъекциях и jailbreak, а также синтетические примеры. Лицензия — Apache-2.0. Классификатор предназначен для дополнительной проверки текста в системах с LLM и агентами. Он не гарантирует защиту от адаптивных атак, может пропускать скрытые инструкции, выраженные как нейтральные вопросы, и иногда помечает безвредные ролевые запросы как jailbreak. Модель оценивает текст отдельно от контекста и не заменяет другие меры защиты.

MMOPD/Qwen3-1.7B-OT3-2ep — плотная языковая модель Qwen3 с 1,7 млрд параметров, дообученная командой проекта MMOPD на OpenThoughts3-1.2M. Это версия после двух эпох обучения, созданная как модель для рассуждений и как отправная точка для разработки специализированных моделей и экспериментов с дистилляцией. Модель использует формат чата Qwen3 и перед ответом выдаёт блок рассуждений; заявлены задачи по математике, программированию и научным вопросам. Контекст — до 32 768 токенов. Модель предназначена для генерации ответов с пошаговыми рассуждениями, решения математических задач, написания и анализа кода, а также ответов на научные вопросы. В README приведены результаты на AIME, LiveCodeBench, IFEval и IFBench; показатели версии 1,7B ниже, чем у указанной там модели 4B. Для использования рекомендуются формат чата Qwen3, включённый режим thinking и сэмплирование вместо жадной генерации. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-0.8B astcss — специализированная текстовая модель teaguesterling для преобразования запросов разработчика на английском языке в один селектор astcss, то есть CSS-подобный запрос к абстрактному синтаксическому дереву кода, который выполняется инструментом ast_select. Модель дообучена методом LoRA на базе Qwen/Qwen3.5-0.8B; адаптер объединён с базовыми весами. Архитектура — плотная причинная языковая модель Qwen3_5ForCausalLM объёмом 581,4 млн параметров. Модель принимает текст, а выдаёт текстовый селектор; контекстное окно — 262 144 токена. Модель рассчитана на поиск конструкций и вызовов в исходном коде на Python, C, C++, Rust, Go, Java, JavaScript, SQL и Bash. В README указана точность совпадения множества найденных узлов 82,4% на 108 тестовых примерах; для запросов повышенной сложности, связанных с графом вызовов, областями видимости и получателями, результат составляет около 31%. Для работы обязателен системный промпт с карточкой словаря astcss для нужного языка: без него модель отвечает как обычный чат-бот и не выдаёт селектор. Она не обучалась на селекторах уровня сложности tier 5. Модель не включает визуальную башню и голову предсказания нескольких токенов базовой модели. Лицензия и условия использования унаследованы от Qwen/Qwen3.5-0.8B.

Qwen3.8-27B-AEON-ULTIMATE-U-BF16 — экспериментальная ранняя версия модели Qwen3.8-27B, подготовленная denyzhirkov. Это дообученная и аблитерированная BF16-версия с уменьшенным числом отказов; базовая модель — Qwen/Qwen3.8-27B. Плотная мультимодальная архитектура поддерживает диалог, следование инструкциям, вызов инструментов и работу с изображениями. В README описана проверка на NVIDIA H200 через vLLM; при тестировании использовалось окно 16 384 токена, а автор указывает, что базовая модель поддерживает контекст до 262 000 токенов. Модель рассчитана на прямые ответы, творческое письмо, исследования безопасности, red-team-тестирование и работу с запросами, которые базовая модель могла бы отклонить. Снятие части отказов может сделать ответы более доступными, но не гарантирует точности или безопасности. README предупреждает о повторениях и потере связности на очень длинных запросах; модель может выдавать опасный или незаконный контент. Лицензия — Apache-2.0.

Qwen3-coder-REAP-25B-A3B-Rust-GGUF — это набор высокоточных квантованных версий языковой модели для генерации кода, созданный Em-80 на основе Qwen3-Coder-REAP-25B-A3B от Cerebras Systems и производной Qwen3-Coder-30B-A3B-Instruct от Alibaba Cloud. Модель предназначена прежде всего для генерации, анализа и решения задач программирования, с особым вниманием к Rust; также заявлена поддержка Python, математического и логического рассуждения, а также качественного английского текста. Архитектура модели относится к causal language model и основана на MoE-варианте с Router-weighted Expert Activation Pruning (REAP). В репозитории представлены веса в формате GGUF с несколькими уровнями квантования и файл importance matrix (imatrix), подготовленный на основе набора из 3000 примеров. Калибровочные данные охватывают Rust и Python, математическое рассуждение, логические доказательства и английскую прозу. Точный активный и общий размер модели, количество экспертов, размер контекста и перечень поддерживаемых языков программирования, кроме упомянутых Rust и Python, в README не указаны. Сильной стороной является специализированная imatrix, призванная сохранять качество генерации кода и сложного рассуждения при низкобитном квантовании, а также готовность к запуску через llama.cpp. Ограничения включают отсутствие опубликованных бенчмарков и гарантии качества; модель предоставляется «как есть». Веса и imatrix распространяются по лицензии Apache License 2.0, при этом модификации, квантование и создание imatrix выполнены Em-80.

Set2Regex — нейросетевой синтезатор регулярных выражений, представленный авторами работы ReSyn: A Generalized Recursive Regular Expression Synthesis Framework. Модель принимает набор положительных и отрицательных строк и авторегрессионно генерирует регулярное выражение, которое должно соответствовать положительным примерам и отклонять отрицательные. Архитектура включает иерархический Transformer: сначала кодируются символы, затем строки; декодеры учитывают как весь набор, так и отдельные строки. Поддерживаются greedy-декодирование, top-k/top-p sampling и beam search. Репозиторий содержит веса safetensors и связан с датасетом mrseongminkim/ReSyn; модель реализована на PyTorch и использует PyTorchModelHubMixin. Для использования требуется код пакета ReSyn из указанного GitHub-репозитория. Лицензия — Apache-2.0.

McGill-NLP/roberta-large-faithcritic — модель RoBERTa large, дообученная на FaithCritic, производном датасета FaithDial. Она классифицирует высказывание как соответствующее или не соответствующее исходным знаниям и предназначена для проверки фактической верности ответов в диалоговых системах с опорой на источники. Модель имеет архитектуру RobertaForSequenceClassification, содержит 454,1 млн параметров и принимает текст с контекстом длиной до 514 токенов. Выпущена под лицензией MIT.

TinyLettuce-ettin-68m-en — англоязычная модель KRLabsOrg для выявления галлюцинаций в ответах с опорой на заданный контекст. Она построена на энкодере Ettin на 68,1 млн параметров с головой классификации токенов и помечает токены как подтверждённые или галлюцинированные; объединение помеченных фрагментов в span выполняется отдельно. Модель принимает контекст, вопрос и ответ в последовательности до 4 096 токенов по README; метаданные указывают нативный контекст до 7 999 токенов. Модель предназначена для обнаружения неподтверждённых фрагментов в системах retrieval-augmented generation, а также для дальнейшей адаптации на небольших доменных выборках. README сообщает F1 74,97% на RAGTruth и позиционирует модель как компактную для CPU-инференса. Это результат на конкретном бенчмарке, а не гарантия качества на других данных. Модель дообучена от jhu-clsp/ettin-encoder-68m; лицензия — MIT.

VibeThinker-3B-heretic — текстовая генеративная модель, разработанная пользователем saidutta69. Это вариант WeiboAI/VibeThinker-3B без встроенного поведения отказа, полученный из Qwen/Qwen2.5-Coder-3B с помощью Heretic v1.4.0 методом направленной абляции весов. Модель предназначена для локального использования на компьютерах с ограниченными ресурсами, агентских систем и периферийных устройств, а также для задач программирования, рассуждений, математики, диалогов и генерации текста с режимом явного пошагового мышления VibeThinker. Модель имеет архитектуру Qwen2.5-Coder и размер около 3,1 млрд параметров. Поддерживает текстовую модальность и заявлена для английского языка. Доступны версии GGUF, включая F16 и различные варианты квантования, совместимые с llama.cpp, Ollama, LM Studio и Jan; объём весов в зависимости от варианта составляет примерно от 1,19 до 5,75 ГБ, без учёта дополнительной памяти под контекст. Контекстное окно в README не указано. К сильным сторонам относятся малый размер, возможность запуска на CPU и видеокартах с небольшим объёмом памяти, сохранение заявленных способностей базовой модели к рассуждениям, программированию и следованию инструкциям, а также отсутствие защитных отказов. При этом удаление отказов снижает встроенные ограничения безопасности: модель может генерировать контент, от которого базовая версия отказалась, поэтому требуется ответственное и законное использование. Производитель не заявляет улучшения возможностей по сравнению с VibeThinker-3B. Лицензия — MIT.

Это неофициальная версия VulBERTa с классификационной MLP-головой, представленная на Hugging Face. Модель разработана Hazim Hanif и Sergio Maffeis из Имперского колледжа Лондона и дообучена на C-коде из набора CodeXGlue Devign для классификации функций исходного кода по наличию уязвимостей. В основе модели — RoBERTa с 151,6 млн параметров; для токенизации используется упрощённый процесс с удалением комментариев. Контекст составляет до 1026 токенов. Модель предназначена для выявления потенциально уязвимого C-кода и может применяться в анализе безопасности и экспериментах по обнаружению дефектов кода. Для токенизации требуется libclang. Лицензия — MIT.

BrowseSafe — специализированная модель Perplexity для защиты браузерных ИИ-агентов от prompt injection в содержимом веб-страниц. Это дообученная для классификации причинно-языковая MoE-модель семейства Qwen3, основанная на Qwen/Qwen3-30B-A3B-Instruct-2507 и обученная на BrowseSafe-Bench. Репозиторий содержит веса Safetensors; указанный в README контекст — до 16 384 токенов, а метаданные каталога сообщают о нативном контексте базовой модели до 262 144 токенов. Модель принимает HTML веб-страницы и выдаёт бинарную классификацию одним токеном: «yes» или «no», определяя наличие вредоносных инструкций. Она предназначена для проверок в цикле работы браузерного агента и обучена различать атаки и безвредные структурные элементы HTML. В README указана оценка F1 90,4% на тестовом наборе BrowseSafe-Bench; это результат на конкретном бенчмарке, а не гарантия обнаружения всех атак. Для длинных страниц README рекомендует разбивать HTML на непересекающиеся фрагменты и помечать страницу как опасную, если опасен хотя бы один фрагмент. Указана лицензия MIT.

SinclairSchneider/dbrx-instruct-quantization-fixed — исправленная копия DBRX Instruct от Databricks. Изменение позволяет загружать модель в 4- и 8-битном режиме, чтобы снизить требования к памяти; в метаданных репозитория указан формат safetensors. Это трансформерная авторегрессионная языковая модель с архитектурой fine-grained mixture-of-experts: всего 132 млрд параметров, из которых для одного входа активны 36 млрд. Модель использует 16 экспертов, выбирая 4, и контекст до 32 768 токенов. Модель предназначена для коротких диалогов, ответов на вопросы на английском языке и задач с кодом. Она принимает и генерирует только текст. В обучении использовались текст и код, преимущественно на английском; модель не тестировалась на других языках и не поддерживает мультимодальность, встроенное исполнение кода или вызов функций. Лицензия — Databricks Open Model License; применяются также условия Acceptable Use Policy Databricks.

deepseek-coder-1.3B-kexer-GGUF — GGUF-квантизированная версия модели deepseek-coder-1.3B-kexer, разработанной JetBrains и основанной на deepseek-ai/deepseek-coder-1.3b-base. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации программного кода и задач, связанных с программированием. В README приведён результат на MultiPL-HumanEval (Kotlin): pass@1 составляет 36,65. Доступны варианты квантизации от Q8_0 до IQ1_M, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти; рекомендуемыми названы, в частности, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M и Q4_K_S. Ключевые характеристики — размер базовой модели 1,3 млрд параметров и формат GGUF для использования с llama.cpp. Указаний о поддерживаемых языках, длине контекста, архитектуре, мультимодальности и точном составе обучающих данных в карточке нет. Ограничением является отсутствие указанного chat template: в README отмечено, что используемый формат приглашения может быть некорректным, поэтому следует сверяться с оригинальной карточкой модели. Модель распространяется по лицензии Apache-2.0.

Карточка модели Ishowbackup/DeepSeek-R1-Distill-Llama-8B на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.

gemma-4-12B-coder-fable5-composer2.5-nvfp4 — это квантизированная MLX-версия дообученной модели Gemma 4-12B coder. Исходную fine-tune-модель разработал yuxinlu1, а данный вариант подготовил Sourav Singh для локального инференса на Apple Silicon. Модель ориентирована прежде всего на генерацию кода, задачи программирования и алгоритмическое рассуждение; заявлена поддержка reasoning channel. Модель использует архитектуру Gemma 4 Unified с текстовыми, визуальными и аудиокомпонентами, однако конкретные языки и размер контекстного окна в README не указаны. Основная часть весов представлена в формате NVFP4 с 4-битной плавающей точностью и group size 16; attention-модули o_proj и vision/audio projectors сохранены в 8-битном формате. Заявлены загрузка примерно за 1,7 секунды, объём около 6,8 ГБ и скорость декодирования около 28 токенов в секунду на M4 Pro. В тестах модель показала высокие результаты на HumanEval и MBPP, существенно превосходя базовую Gemma 4-12B-it в задачах программирования, но уступая ей на математическом бенчмарке GSM8K. Это специализированный MLX-чекпойнт для работы через Krill и не является совместимым с vanilla mlx_lm, mlx_vlm, llama.cpp, Ollama, transformers или vLLM. Для запуска требуется движок с поддержкой архитектуры gemma4_unified и смешанной конфигурации NVFP4. Модель распространяется по лицензии Gemma; права на исходную fine-tune-модель принадлежат её автору, а данный репозиторий изменяет квантизацию и упаковку.

Granite Guardian 3.0 2B — дообученная IBM Research модель семейства Granite для выявления рисков в пользовательских запросах и ответах языковых моделей. Она оценивает вредный контент, социальную предвзятость, попытки обхода ограничений, насилие, ненормативную лексику, сексуальный контент и неэтичное поведение, а также подходит для проверок в RAG-сценариях: релевантности найденного контекста, обоснованности ответа и его соответствия запросу. Модель построена на плотной архитектуре GraniteForCausalLM, содержит 2,5 млрд параметров и имеет контекст до 8192 токенов. Она принимает текст и в предписанном шаблоне выдаёт ответ «да» или «нет» для оценки заданного риска. Обучение использует человеческую разметку и синтетические данные; заявлено превосходство над другими открытыми моделями того же назначения на стандартных бенчмарках. Модель предназначена для оценки рисков, мониторинга и выборочной проверки входов и выходов при умеренных требованиях к стоимости, задержке и пропускной способности. Обучение и тестирование проводились только на английских данных. Следует использовать предписанный режим оценки: отклонение от шаблона может привести к неожиданным результатам, а пользовательские определения рисков требуют тестирования. Лицензия — Apache 2.0.

HydraCoder — модель генерации кода, разработанная Daemontatox на основе Qwen/Qwen3-Coder-30B-A3B-Instruct и дообученная для программирования на Rust. Она принимает инструкции на естественном языке и предназначена для создания, дополнения, исправления и рефакторинга Rust-кода, а также для подсказок при анализе кода и ревью. Модель построена на архитектуре Qwen3 MoE и использует библиотеку Transformers. В метаданных указано 2,4 млрд параметров и контекст до 262 144 токенов; README приводит другие оценки числа параметров, поэтому здесь использованы данные метаданных. Карточка описывает специализацию на идиоматичном Rust, включая работу с владением, временами жизни, трейтами и асинхронным кодом. Основной язык модели — английский, однако код генерируется на Rust. HydraCoder может галлюцинировать названия внешних крейтов и импорты, а сгенерированный код не гарантированно скомпилируется без полного контекста. Лицензия Apache 2.0 допускает исследовательское и коммерческое использование.

Instinct-Python-Coder-Gemma4-12B-Qwen3.8-27B — специализированная модель для генерации и решения задач на Python, разработанная как дообученная версия unsloth/gemma-4-12b-it. Она предназначена для программирования, рассуждений и диалогового взаимодействия, особенно в сценариях, где важны компактные рассуждения, скорость инференса и экономия ресурсов. Модель распространяется в формате GGUF и совместима с llama.cpp и приложениями, поддерживающими OpenAI-совместимый API. Модель представляет собой плотную модель с 12 млрд параметров, обученную на 5,67 млн токенов постобучения, обработанных дважды, с длиной последовательности 16 384 токена. Она использует канал рассуждений <think></think>, генерируя в среднем меньше рассуждений, чем Qwen3.8-27B, и ориентирована на английский язык. В поставляемом варианте Q8_0 размером около 13 ГБ для работы требуется примерно 16 ГБ памяти GPU или Mac; заявленный контекст при запуске через llama.cpp может быть настроен, например, на 8192 токенов. На закрытом наборе из 228 задач Python модель решила 110 задач (48,2%) при температуре 1,0, уступив 3- и 4-битным вариантам Qwen3.8-27B, но более чем вдвое превзойдя его 1-битную версию при сопоставимом объёме VRAM. Эти результаты получены в одном измерении без оценки погрешности и не подтверждают качество на других языках или задачах. Модель является производным вариантом Gemma и наследует ограничения базовой модели. Использование регулируется Google Gemma Terms of Use и Gemma Prohibited Use Policy.

Jan-v2-VL-f32-AIO-GGUF — GGUF-сборка 8-миллиардной vision-language модели Jan-v2-VL, разработанной командой JanHQ. Модель предназначена для взаимодействия с визуальными и текстовыми данными, а также для выполнения многошаговых задач в реальных программных средах, включая браузеры и настольные приложения. Модель сочетает языковое рассуждение с визуальным восприятием, поддерживает анализ скриншотов, заземление элементов интерфейса и вызов инструментов. Она рассчитана на агентную автоматизацию, управление пользовательским интерфейсом, следование сложным инструкциям, сохранение промежуточного состояния и восстановление после незначительных ошибок. Заявлен английский язык, однако сведения о размере контекста и точной архитектуре в README не указаны. Доступны варианты low, med и high: low ориентирован на эффективность и меньшую задержку, med предлагает баланс качества и скорости, а high использует более глубокое рассуждение и требует больше времени на обработку. Сильными сторонами являются работа с визуально-текстовыми сценариями, устойчивое пошаговое выполнение длинных последовательностей и возможность локального запуска через vLLM и llama.cpp. Ограничениями являются отсутствие в README подробных метрик, данных о контекстном окне и гарантий качества за пределами заявленных сценариев, а также повышенные требования к ресурсам для полноразмерных F32-файлов. Модель распространяется по лицензии Apache-2.0.

Kimi-K3-Audit-451E-MLX-MXFP4 — специализированная версия Kimi K3, подготовленная catalystsec на базе модели moonshotai/Kimi-K3. Она предназначена для аудита безопасности и анализа исходного кода с использованием инструментов. Общий диалог, перевод и нетехническое письмо не относятся к заявленной области применения. Модель использует разреженную MoE-архитектуру: в каждом слое сохранён 451 из 896 маршрутизируемых экспертов, а веса выбранных экспертов побитово идентичны релизной версии. Модель распространяется в формате MXFP4, занимает около 725 GiB и разделена на 150 частей, поэтому требует двух машин Apple silicon с памятью по 512 ГБ и поддержки Kimi K3 в mlx-lm. Основная модальность — текст; vision tower сохранён, но не оценивался. В тестах использовались C, C++, Swift, Rust и Python, однако заявленный контекст модели в README не указан. Главное преимущество — сохранение качества на задачах аудита ядра: по данным README, точность практически соответствует полной версии, а ухудшение perplexity на кодовых корпусах не превышает 1,10 раза. При этом модель резко теряет качество на обычной английской прозе, поэтому не подходит как универсальная разговорная модель. Поведение при генерации, включая вероятность зацикливания и надёжность стоп-токенов, а также стандартные downstream-бенчмарки не оценивались. Для запуска требуется версия mlx-lm с поддержкой Kimi K3 из PR #1626, пока не вошедшая в официальный релиз, и распределённый запуск на двух машинах с tensor parallelism. Модель наследует лицензию Kimi K3; точные условия определяются лицензией базовой модели.

NerdySamantha — экспериментальная объединённая модель на архитектуре Mistral, созданная для помощи с программированием и диалогового общения. Автор описывает её как coding assistant с дружелюбной, живой манерой общения; характер можно задавать контекстной карточкой. Модель с 7,1 млрд параметров получена линейным слиянием cognitivecomputations/samantha-1.2-mistral-7b и Nondzu/Mistral-7B-Instruct-v0.2-code-ft. Она поддерживает генерацию текста и чаты, а заявленная длина контекста составляет 32 768 токенов. Подходит для вопросов по коду, помощи в разработке и обычных бесед. Результаты таблицы оценивания в README приведены лишь частично, поэтому по ним нельзя надёжно судить о качестве модели. Лицензия в предоставленных данных не указана.

OpenReasoning-Nemotron-14B — языковая модель NVIDIA для генерации решений и рассуждений в задачах математики, программирования и естественных наук. Это дообученная методом supervised fine-tuning плотная decoder-only Transformer-модель семейства Qwen2.5 с 14 млрд параметров. Модель принимает и выдаёт текст, поддерживает диалоговый режим и предназначена для разработчиков и исследователей, работающих со сложными задачами, включая соревновательную математику, написание кода и научные вопросы. В README указана оценка генерации до 64 тысяч выходных токенов; метаданные указывают контекст до 131 072 токенов. Для режима GenSelect можно объединять несколько параллельных генераций и выбирать лучшее решение. Модель обучена на математических, программных и научных данных, включая синтетические ответы DeepSeek-R1-0528; README приводит результаты на наборах тестов по рассуждениям, математике и коду. Карточка указывает готовность к коммерческому и некоммерческому исследовательскому применению. Лицензия — CC BY 4.0. Модель оптимизирована для GPU-систем NVIDIA; результаты могут зависеть от сценария и режима вывода.

OpenThinker3-1.5B — языковая модель с 1,5 млрд параметров, разработанная командой Open Thoughts. Это плотная авторегрессионная модель семейства Qwen2, дообученная методом SFT на Qwen/Qwen2.5-1.5B-Instruct с использованием набора OpenThoughts3-1.2M. Она предназначена для генерации текста с пошаговыми рассуждениями, особенно при решении математических и научных задач, а также задач программирования. В обучающий набор входят 850 тысяч математических вопросов, 250 тысяч вопросов по коду и 100 тысяч научных вопросов; трассы рассуждений для данных создавались с помощью QwQ-32B. Модель принимает текст и поддерживает контекст до 32 768 токенов. В README приведены результаты оценки на математических, научных и кодовых бенчмарках; конкретные результаты зависят от задачи и протокола оценки. Модель доступна в формате safetensors и распространяется по лицензии Apache 2.0.

piiguard — модель NER, разработанная FlowX AI для библиотеки border. Она анализирует текст на входе и выходе LLM и размечает персональные данные восемью типами: имена, адреса электронной почты, телефоны, национальные идентификаторы, IBAN, номера карт, даты и местоположения. Модель основана на XLM-RoBERTa и использует токен-классификационную голову с BIO-метками; размер — 305,2 млн параметров, контекст — 514 токенов. В карточке указано обучение на окнах длиной 96 токенов. Доступен экспорт ONNX FP16, также в метаданных указан формат safetensors. Модель рассчитана на использование через библиотеку flowx-border, которая применяет argmax и формирует структурированное решение с записью доказательств. Она предназначена для обнаружения и фиксации чувствительных фрагментов текста в потоках LLM, а не для общей классификации PII. Заявлена поддержка 26 языков, включая русский; для языков, не перечисленных в карточке, поддержка не подтверждена. Лицензия — Apache-2.0. Обучающие данные синтетические, поэтому качество на реальных данных может отличаться. Оценка LOCATION в приведённом тестовом наборе отсутствует, а метки NATIONAL_ID и CARD могут назначаться неверно; приведённые в README высокие результаты на синтетическом тестовом разбиении не свидетельствуют о надёжности на практических данных. Для текстов длиннее обучающего окна необходимы разбиение на части и объединение результатов; сама модель не обеспечивает соответствие нормативным требованиям.