II.4Отладка, тестирование и качество ПО

Narwhal-7b — языковая модель Vezora на архитектуре Llama, содержащая 6,6 млрд параметров. По карточке, это слияние Stable Beluga, MegaCoder, Wizard-Math и Llama Chat 7B; заявленные доли компонентов в описании противоречивы, поэтому точный состав слияния установить нельзя. Модель предназначена для генерации текста, ответов на вопросы и решения математических задач. В тестировании автор использовал шаблоны запросов Stable Beluga и Llama Chat и сообщает о лучших результатах с форматом Llama v2. Контекст модели — 2048 токенов; репозиторий содержит веса PyTorch. Автор предупреждает, что модель не предназначена для коммерческого использования из-за лицензий базовых моделей и происхождения части обучающих данных. Подробные результаты бенчмарков в карточке не приведены.

OpenAi-GPT-oss-20b-HERETIC-uncensored-NEO-Imatrix-gguf — это текстовая генеративная модель в формате GGUF, разработанная DavidAU на базе p-e-w/gpt-oss-20b-heretic. Согласно карточке, модель использует архитектуру Mixture of Experts с 20B параметров и 24 экспертами. Она предназначена для локального запуска и доступна в вариантах IQ4_NL, Q5_1 и Q8_0 с применением Imatrix, DI-Matrix или TRI-Matrix-квантизации. Модель ориентирована на генерацию текста, чат, программирование и генерацию кода, рассуждения, решение задач, мозговой штурм, творческие сценарии и общее использование. Указан английский язык и заявлена поддержка контекста до 128k токенов. Автор отмечает улучшения производительности благодаря NEO, Horror и NEOCode-наборам данных, а также различия между квантизациями: Q5_1 описывается как более стабильная в некоторых сценариях, тогда как IQ4_NL может давать более необычные и спонтанные ответы. Ключевая особенность модели — удаление отказов и ограничений, обозначенное автором как uncensored и decensored. Это может быть полезно для свободных творческих и исследовательских сценариев, но одновременно означает отсутствие встроенных защитных механизмов и повышенный риск небезопасных или нежелательных ответов. В карточке не приведены независимые бенчмарки, точные требования к памяти, аппаратные рекомендации или подробные измерения качества, поэтому производительность и практическая скорость зависят от выбранной квантизации и оборудования. Модель распространяется по лицензии Apache-2.0.

Карточка модели openchat/openchat_8192 на Hugging Face совпадает с карточкой openchat/opencoderplus, поэтому описание составлено по ней. OpenCoderPlus — языковая модель для генерации кода из серии OpenChat, разработанной командой OpenChat. Она дообучена на базе StarCoderPlus и предназначена для продолжения и генерации кода, а также для диалога в формате User/Assistant. Модель использует архитектуру GPTBigCodeForCausalLM, принимает текст и выдаёт текст; заявленная длина контекста — 8192 токена. Карточка сообщает об оценках на Vicuna GPT-4 и AlpacaEval, однако не приводит подробностей методики для задач программирования. Для диалогов используется шаблон с маркерами User, Assistant и специальным токеном конца хода. Репозиторий содержит веса PyTorch. README рекомендует загружать модель в формате bfloat16. Лицензия в предоставленных данных не указана.

opencsg-starcoder2-3b-v0.1 — модель генерации кода от исследовательской команды OpenCSG, полученная полнопараметрической донастройкой StarCoder2. Она предназначена для генерации и дополнения программного кода; исходное семейство обучалось на данных более чем по 80 языкам программирования из The Stack. Модель имеет плотную архитектуру StarCoder2ForCausalLM, содержит 4,2 млрд параметров и поддерживает контекст до 16 384 токенов. В карточке приведён результат 42,68% pass@1 на HumanEval для Python при жадном декодировании; авторы отмечают, что результат зависит от метода декодирования и параметров. Данные бенчмарка ограничены задачами HumanEval и не устанавливают качество для всех языков и сценариев разработки. Указана лицензия BigCode OpenRAIL-M.

Ornith-1.5-9B-Uncensored-W4A16 — мультимодальная модель для задач image-text-to-text, разработанная bowmanslayer. Это квантованная версия Ornith-1.5-9B-Uncensored в формате W4A16: веса представлены в INT4, активации — в FP16. Модель ориентирована на английский и китайский языки, а также на сценарии, где требуется обработка текста и изображений. Архитектура включает 32 слоя, из которых 24 являются linear-слоями и 8 — слоями full attention; размер скрытого состояния составляет 4096. Размер квантованной модели — около 8 ГБ. Она предназначена прежде всего для запуска через vLLM с ядром gptq_marlin; поддерживается FP8 KV-кэш fp8_e5m2, который уменьшает расход памяти и позволяет эффективнее работать с длинным контекстом. Указанные в README оценки относятся главным образом к BF16-версии-источнику; для W4A16 заявлены близкие результаты в выборочных проверках. Сильными сторонами являются сохранённые возможности рассуждения, программирования и следования инструкциям, высокая производительность на ряде тестов, а также экономичное использование памяти благодаря гибридной архитектуре и квантованию. Ограничение модели заключается в удалении исходного safety alignment: она не содержит фильтров и защитных ограничений и может выполнять вредоносные, опасные или незаконные запросы. Поэтому ответственность за безопасное и законное применение полностью лежит на пользователе. Лицензия модели — MIT.

Карточка модели elental/Phi-mini-MoE-instruct на Hugging Face совпадает с карточкой microsoft/Phi-mini-MoE-instruct, поэтому описание составлено по ней. Phi-mini-MoE — компактная языковая модель Microsoft для генерации текста и диалогового взаимодействия. Это decoder-only Transformer с архитектурой Mixture of Experts: в README указаны 7,6 млрд параметров всего и 2,4 млрд активных, тогда как метаданные каталога указывают 1,9 млрд параметров; поэтому размер модели в источниках расходится. Модель сжата и дистиллирована из общей базовой модели Phi-3.5-MoE и GRIN-MoE методом SlimMoE, затем дообучена на следование инструкциям и предпочтениям пользователей. Модель предназначена прежде всего для англоязычных общих ассистентов и сценариев с ограничениями по памяти, вычислениям или задержке. Она принимает текстовые запросы в формате чата и генерирует текст; контекст — до 4 тысяч токенов. Обучение охватывало математику, программирование, здравый смысл и общие знания, но карточка не заявляет отдельной специализированной области. Основной язык — английский; другие языки поддерживаются хуже. Модель может ошибаться, выдумывать факты, воспроизводить предубеждения или выдавать оскорбительный контент, поэтому ответы требуют проверки, особенно в чувствительных сценариях. Данные публичных источников имеют срез по октябрь 2023 года. Лицензия — MIT.

Sheltron Privacy Filter Ettin 32M — компактная модель Sheltron для обнаружения фрагментов текста, содержащих приватные данные и секреты. Это классификатор токенов на базе ModernBERT, дообученный на jhu-clsp/ettin-encoder-32m; модель содержит около 31,9 млн параметров и поддерживает контекст до 7999 токенов по метаданным. README указывает, что обучение и оценка проводились на последовательностях длиной 512 токенов, поэтому более длинный текст рекомендуется обрабатывать перекрывающимися окнами по 512 токенов с шагом 128. Модель размечает восемь категорий: номера счетов, адреса, даты, электронную почту, имена людей, телефонные номера, URL и секреты. Она предназначена для быстрого скрининга электронной почты, сообщений, переписок и команд, а её выход совместим по формату с OpenAI Privacy Filter. Доступны контрольная точка Safetensors FP32 и варианты ONNX, включая FP16; для ONNX нужен ONNX Runtime. Лицензия — Apache-2.0. Для воспроизведения метрик и корректного декодирования README предписывает применять ограниченный алгоритм Viterbi с калибровкой из viterbi_calibration.json, а не выбирать метки для каждого токена независимо. Базовая модель — англоязычный энкодер; в метаданных указан английский язык.

privacy-filter-mlx — адаптация OpenAI Privacy Filter для запуска на устройствах Apple Silicon через MLX и Metal, опубликованная beshkenadze. Это токен-классификатор на архитектуре MoE: 8 слоёв, 128 экспертов с выбором 4 экспертов на токен, двунаправленное скользящее внимание и контекст до 131 072 токенов. Модель размечает токены 33 BIOES-метками в восьми категориях персональных данных и секретов, чтобы последующий редактирующий компонент мог находить и маскировать целые фрагменты текста. Модель предназначена для локального обнаружения персональных данных и секретов в текстовых потоках, в том числе для фильтрации перед передачей или выводом текста. В репозитории есть полноразмерные bf16-веса и вариант q4-8emb объёмом около 0,87 ГБ; для последнего автор сообщает совпадение меток с fp32-эталоном на 99,4% в синтетической оценке. Поддерживается английский язык. Лицензия — Apache-2.0. Запуск рассчитан на MLX и Apple Silicon; результаты количественной оценки получены на синтетическом наборе и не гарантируют качество на всех текстах и типах секретов.

LocalAI-io/privacy-filter-multilingual-GGUF — это GGUF-версия мультиязычной модели классификации токенов для обнаружения персональных и других чувствительных данных (PII). Модель разработана OpenMed как дообученная версия openai/privacy-filter, а данный репозиторий содержит её локально запускаемую упаковку GGUF, ориентированную на использование с privacy-filter.cpp и LocalAI. Модель не предназначена для диалога или генерации текста: она размечает каждый токен тегами BIOES и возвращает позиции обнаруженных сущностей, чтобы служить уровнем NER в системах маскирования и редактирования PII. Модель поддерживает 54 категории PII, представленные 217 классами, и 16 языков: арабский, бенгальский, немецкий, английский, испанский, французский, хинди, итальянский, японский, корейский, нидерландский, португальский, телугу, турецкий, вьетнамский и китайский. Используется специальная архитектура openai-privacy-filter; доступны варианты F16 размером около 2,7 ГБ и Q8_0 размером около 1,6 ГБ, в котором основные веса MoE-кспертов квантизированы, а attention, embeddings и классификационная голова сохранены в F16. Q8_0 уменьшает требования к памяти и обычно немного ускоряет работу на CPU, но может снижать точность. Для запуска рекомендуется privacy-filter.cpp с поддержкой CPU, CUDA и Vulkan либо LocalAI с backend privacy-filter. Стандартные llama.cpp, llama-cpp-python, Ollama и LM Studio без специальных патчей эту модель не загрузят. F16 считается предпочтительным вариантом для максимальной надёжности; результаты Q8_0 следует проверять на собственных данных, особенно для редких форматов PII и языков, поскольку заявленная проверка совпадения с F16 проводилась на одном англоязычном документе. Модель распространяется по лицензии Apache-2.0.

Manojb/Qwen-7B-toolcalling-ReSearch-gguf-Q8_0 — локальная языковая модель в формате GGUF, разработанная на базе agentrl/ReSearch-Qwen-7B и упакованная с квантизацией Q8_0 авторами Manojb и mradermacher. Модель основана на Qwen-7B и обучалась с использованием датасета RUC-NLPIR/FlashRAG_datasets. ReSearch — подход, в котором поиск интегрирован в цепочку рассуждений и выбор момента и способа поиска формируется с помощью текстового рассуждения, а результаты поиска влияют на дальнейшие выводы. Модель предназначена для генерации текста, ассистирования в программировании, локального использования и сценариев function calling и tool calling, включая взаимодействие с API-инструментами. Она ориентирована на английский язык и может запускаться через Ollama или другие совместимые средства работы с GGUF. Версия Q8_0 занимает около 8,2 ГБ и рассчитана примерно на 9–12 ГБ VRAM; заявлено отсутствие заметных потерь качества относительно исходной модели. Для этой базовой модели README рекомендует не применять chat completion. К сильным сторонам относятся высокая точность квантизации Q8_0, поддержка локального запуска и специализированная ориентация на вызов инструментов и поиск. Ограничения включают размер модели около 7B параметров, англоязычную заявленную специализацию, необходимость корректного режима работы без chat completion и потребность примерно в 9–12 ГБ VRAM. Модель распространяется по лицензии MIT.

SkyCode — открытая модель для генерации кода, выпущенная компанией Singularity-AI (奇点智源). Она обучена на большом объёме кода и предназначена для автодополнения, генерации программ и решения задач по программированию. Модель поддерживает более десяти языков программирования, включая Python, Java, JavaScript, C, C++, Go, PHP, Swift и shell, и, по заявлению разработчиков, лучше понимает китайские комментарии. В README указано 2,6 млрд параметров и приведено сравнение результатов на HumanEval; авторы сообщают о высоких показателях решения задач относительно некоторых открытых моделей. Метаданные классифицируют архитектуру как GPT-2 и указывают контекст длиной 2048 токенов; README описывает структуру как GPT-3. Это авторские заявления и сведения каталога, а независимая проверка приведённых результатов в карточке не представлена. Модель распространяется по лицензии MIT.

uukuguy представил дообученную на инструктивных данных модель для генерации кода на основе StarCoder2-15B. Для настройки использовано 986 тысяч примеров из OpenHermes-2.5, наборов инструкций по Python, Spider и Evol-instruction; модель принимает запросы в формате Alpaca и рассчитана на задачи рассуждения, планирования и написания кода. Базовая архитектура — декодерный Transformer StarCoder2 с Grouped Query Attention и скользящим вниманием; контекст составляет 16 384 токена. В метаданных указано 21,7 млрд параметров и формат safetensors. Модель подходит для генерации и дополнения кода по инструкциям и контексту. Исходная StarCoder2 обучалась на коде более чем на 600 языках программирования, однако основной язык исходных данных — английский; README отмечает, что сгенерированный код может содержать ошибки, уязвимости или быть неэффективным. Обучение включало данные с permissive-лицензиями и код без лицензии, но результаты могут воспроизводить фрагменты исходного кода, поэтому следует проверять требования к атрибуции. Лицензия репозитория — BigCode OpenRAIL-M.

Tinytron-ORCA-7B-TinyLlama-Instruct_CODE_Python-extra_small_quantization_GGUF_3bit — локальная модель генерации кода, опубликованная Francisco Angulo de Lafuente под именем Agnuxo. В карточке она описана как помощник по программированию на базе семейства Llama; метаданные указывают плотную архитектуру LlamaForCausalLM, 6,6 млрд параметров и контекст до 4096 токенов. README заявляет версию GGUF с 3-битной квантизацией и рекомендует запуск через Ollama. Модель предназначена для генерации кода и помощи с задачами научных вычислений и машинного обучения. В README перечислены Python, JavaScript, TypeScript, Rust, Go и C++, а также NumPy, SciPy, Pandas, PyTorch, TensorFlow и JAX. Метаданные указывают английский и испанский языки; модель принимает текстовые запросы и генерирует текст, включая код. Репозиторий описывает модель как локального помощника по программированию, однако подробные результаты оценки качества не приведены. README указывает лицензию Apache-2.0; из названия и карточки следует, что это квантизованная версия модели TinyLlama Instruct, но точный идентификатор исходной модели в метаданных не приведён.

Agnuxo/Agente-Llama-3.1-Spanish_English_GGUF_32bit — локальная чат-модель для генерации текста, представленная Francisco Angulo de Lafuente в рамках экосистемы P2PCLAW. Это плотная модель семейства Llama в формате GGUF F32; README заявляет размер 2 млрд параметров и позиционирует её как автономного агента. Метаданные указывают лицензию Apache-2.0. Модель предназначена для диалога, разбиения задач на этапы, координации агентов и генерации кода, включая примеры на Python, JavaScript, TypeScript, Rust, Go и C++, а также научные вычисления и машинное обучение. README также описывает перенаправление запросов на создание научных статей в инструменты экосистемы P2PCLAW. Поддерживаемые языки — испанский и английский; запуск заявлен локально через Ollama или Transformers. Карточка не приводит результатов независимой оценки качества, поэтому заявленные агентные и научные возможности нельзя считать подтверждёнными сравнительными тестами. Размер контекста и подробности обучения не указаны; формат F32 требует больше памяти, чем квантизированные варианты GGUF.

K00B404/BagOMistral_14X_Coders-ties-7B — созданная с помощью mergekit объединённая языковая модель семейства Mistral, разработанная K00B404. Веса объединены методом TIES на основе K00B404/Merged_Beowolx-CodePro_Medusa2-14X-7B-Mistral-I-v0-2 с компонентами Nexusflow/Starling-LM-7B-beta и beowolx/CodeNinja-1.0-OpenChat-7B. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и формат safetensors; заявленная длина контекста — 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате, в том числе для задач программирования, опираясь на возможности входящих в объединение моделей. Её можно применять для генерации и дополнения кода, а также для диалоговых ответов. Карточка не приводит результаты оценки качества или подробные сведения о поддерживаемых языках. Лицензия в предоставленных данных не указана.

BioPhys-13.0-Kimi-K3-DualBrain — модель генерации текста, представленная автором как нейроморфная система с архитектурой MoE и объединением Kimi-K3 и EXAONE 3.0. Карточка заявляет поддержку корейского и английского языков, контекст до 131 072 токенов и размер 36,8 млрд параметров; веса опубликованы в формате safetensors. README также описывает отдельный Rust-движок и сжатое представление весов, но эти заявления не подтверждены метаданными репозитория. Модель предназначена для диалогов и генерации текста, включая рассуждения, математику, программирование и ответы на корейском языке. Репозиторий заявляет Apache-2.0. Описанные в README показатели производительности, сжатия и снижения галлюцинаций являются заявлениями автора; независимые подтверждения в предоставленных данных отсутствуют.

TechxGenus/CodeGemma-2b — языковая модель для генерации кода, созданная дообучением Gemma-2b на 0,7 млрд дополнительных токенов с кодом в течение трёх эпох. Это плотная авторегрессионная модель семейства Gemma с 2,5 млрд параметров, рассчитанная на контекст до 8192 токенов; для запуска карточка предлагает библиотеку Transformers и формат safetensors. Модель принимает инструкции в формате Alpaca без системного промпта и генерирует текст, в том числе программный код. По README, результат HumanEval-Python составляет 54,9 pass@1. Подходит для генерации фрагментов кода и помощи с задачами программирования, однако может ошибаться и хуже справляться с задачами вне программирования; тестирование было ограниченным. Лицензия в метаданных обозначена как other, поэтому условия следует уточнить в репозитории модели.

CodeGemma 7B — модель генерации кода от Google, построенная на базе Gemma. Это предварительно обученная декодерная модель с 7 млрд параметров, рассчитанная на дополнение кода и генерацию кода по текстовым запросам. Для дополнения в редакторе поддерживает заполнение пропусков между префиксом и суффиксом (fill-in-the-middle, FIM); также принимает фрагменты кода и запросы на естественном языке и может выдавать код и текст. Модель обучалась на дополнительных 500 млрд токенов, преимущественно на английском коде из открытых репозиториев, математических наборах данных и синтетически созданном коде. Подходит для автодополнения в IDE, генерации программного кода по описанию и учебных сценариев, связанных с кодом. Это базовый, не настроенный на инструкции вариант CodeGemma, поэтому карточка не заявляет о поддержке чата; для диалоговых сценариев предназначена отдельная версия codegemma-7b-it. Разработчик указывает на общие ограничения больших языковых моделей. Лицензия — Gemma Terms of Use.

TroyDoesAI/Codestral-21B-Pruned — прореженная версия Codestral, созданная TroyDoesAI. Из исходной модели удалены два слоя: автор сообщает, что размер сократился с 22,2 до 21,5 млрд параметров без заметной потери качества. Метаданные указывают 21,3 млрд параметров, архитектуру MistralForCausalLM и контекст до 32 768 токенов. Модель предназначена для генерации текста и кода, в том числе для локального запуска при ограниченной памяти. Репозиторий содержит веса Safetensors для библиотеки Transformers. Указана лицензия Apache-2.0. Карточка не приводит результатов тестов, поэтому заявление о сохранении качества не подтверждено сравнительными оценками.

CodeT5+ 770M — разработанная Salesforce модель для понимания и генерации кода. Она использует архитектуру encoder-decoder семейства T5 и предназначена для задач преобразования текста и кода, включая генерацию кода по описанию, дополнение кода, поиск соответствий между текстом и кодом и генерацию с использованием найденных фрагментов. Модель загружается через T5ForConditionalGeneration; предобучение включало span denoising, causal language modeling, contrastive learning и сопоставление текста с кодом. Чекпойнт обучен на очищенной выборке GitHub-кода с разрешительными лицензиями и поддерживает C, C++, C#, Go, Java, JavaScript, PHP, Python и Ruby. Метаданные указывают 385,2 млн параметров и контекст длиной 512 токенов. Лицензия репозитория — BSD-3-Clause. Модель оценивалась на задачах понимания и генерации кода, однако приведённые в карточке отдельные результаты для HumanEval относятся к InstructCodeT5+ 16B, а не к этому чекпойнту. Авторы позиционируют выпуск для исследований и рекомендуют проверять точность и безопасность перед применением; ошибки возможны, особенно в сценариях с высокими последствиями.

d3LLM-LLaDA — диффузионная языковая модель, разработанная авторами проекта d3LLM. Она получена дообучением GSAI-ML/LLaDA-8B-Instruct методом дистилляции псевдотраекторий, который помогает модели раньше определять токены, готовые к декодированию. Для генерации применяется многоблочное декодирование на основе энтропии с обновлением KV-кэша. Модель предназначена для быстрой генерации текста, особенно в задачах программирования и математических рассуждений. В README заявлено ускорение в 5 раз относительно Qwen-2.5-7B-it на GPU H100 и в 3,5 раза на A100; результат зависит от оборудования и режима инференса. По карточке и метаданным это диалоговая модель семейства LLaDA с 8 млрд параметров, принимающая текст и выдающая текст. Поддерживаемые языки и длина контекста в доступных данных не описаны. Репозиторий распространяется по лицензии Apache-2.0. Для запуска README рекомендует официальный код d3LLM и его зависимости; модельный репозиторий содержит веса в формате safetensors.

DeepSeek-R1-Distill-Qwen-1.5B-GGUF — это квантизированная версия модели DeepSeek-R1-Distill-Qwen-1.5B, разработанной командой DeepSeek-AI. Формат GGUF подготовлен bartowski на основе llama.cpp, релиз b4514; модель распространяется в рамках сообщества LM Studio, но LM Studio не является её разработчиком или владельцем. Модель предназначена для генерации текста и прежде всего ориентирована на задачи рассуждения и пошагового анализа. Она дистиллирована из reasoning-модели DeepSeek R1 и настроена на работу с chain-of-thought. Указана поддержка контекстного окна до 128k токенов. Другие характеристики, включая точный размер в параметрах исходной GGUF-сборки, поддерживаемые языки и мультимодальные возможности, в README не приведены; по указанным данным модель относится к текстовым, а не мультимодальным системам. К сильным сторонам относятся компактный размер базовой модели, ориентация на рассуждения и большой заявленный контекст. Ограничения включают возможные неточные, вредоносные или неподходящие ответы, а также отсутствие гарантий качества, безопасности и стабильности использования. Лицензия в README не указана, поэтому условия коммерческого и иного использования необходимо уточнять в материалах исходной модели DeepSeek-R1-Distill-Qwen-1.5B и конкретной GGUF-сборки.

sleepyeldrazi/DeepSeek-v4-Flash-REAP-K180-NVFP4 — это производная текстовая модель на основе DeepSeek V4 Flash, подготовленная sleepyeldrazi. Она использует структурное удаление экспертов методом REAP: в слоях MoE оставлено 180 из 256 маршрутизируемых экспертов, а слои 0–2 сохранены без такого сокращения. По README, дообучения не было: это подмножество исходных весов, упакованное в GGUF с гибридной точностью NVFP4, Q2_K и Q8_0; NVFP4-конверсия экспертных весов описана как преобразование формата масштабов без потери точности относительно исходного MXFP4. Модель предназначена для генерации текста и диалогового использования, включая программирование, агентные сценарии с вызовом инструментов, исследования и ответы на длинном контексте. README заявляет поддержку контекста до 1 млн токенов на NVIDIA DGX Spark с GB10 при использовании FP8 KV-кэша и специального движка ds4-nvfp4-spark с управляемой памятью. Обычные GGUF-движки, включая стандартный llama.cpp, модель не загружают. Лицензия — MIT. Запуск зависит от специализированного оборудования и программного обеспечения; для конфигурации K180 в README указана необходимость режима управляемой памяти, а сама карточка помечена как экспериментальная. В заявленных характеристиках есть оптимизации под DGX Spark, поэтому переносимость и производительность на других системах не подтверждены предоставленными данными.

Карточка модели lrsbrgrn/HalluGuard-Qwen3-4B-GGUF на Hugging Face совпадает с карточкой lrsbrgrn/HalluGuard-Qwen3-4B, поэтому описание составлено по ней. HalluGuard — разработанная авторами модели небольшая рассуждающая языковая модель на 3,7 млрд параметров для проверки утверждений в системах генерации с дополненным поиском (RAG). Получив документ и утверждение, она определяет, подтверждается ли оно документом, и обосновывает ответ выдержками из источника. Предусмотрены три категории: GROUNDED, HALLUCINATED_INTRINSIC и HALLUCINATED_EXTRINSIC. Модель основана на unsloth/Qwen3-4B и дообучена с помощью LoRA и ORPO на синтетическом наборе предпочтений HalluGuard-Preferences-76k. Архитектура — плотная Qwen3ForCausalLM; вход и ответ представлены текстом. Метаданные указывают контекст до 40 960 токенов, тогда как README сообщает окно 32 768 токенов. Модель рассчитана на англоязычные задачи. Лицензия — Apache-2.0.

Huihui-MoE-1B-A0.6B — языковая модель разработчика huihui.ai, созданная на основе Qwen/Qwen3-0.6B. Она использует архитектуру Qwen3MoeForCausalLM: в каждом MoE-слое есть три эксперта, из которых для каждого токена активируется один. В репозитории указано около 1,1 млрд параметров; метаданные каталога указывают 507,9 млн. Контекст модели — до 40 960 токенов. Модель предназначена для генерации текста, диалогов и ответов на вопросы. Она объединяет экспертов по программированию, математике и медицине, дообученных отдельно, с исходной моделью Qwen3-0.6B для следования инструкциям. Весовые матрицы экспертов объединены, а веса маршрутизатора инициализированы случайно; модель не дообучалась после сборки. Поэтому качество маршрутизации может быть неоптимальным, и для конкретных задач рекомендуется дообучение. Модель рассчитана на Transformers; README предупреждает о несовместимости с Ollama. Лицензия — Apache-2.0.

unsloth/JanusCoder-8B-GGUF — GGUF-квантизированная версия JanusCoder-8B, подготовленная Unsloth на основе модели internlm/JanusCoder-8B. JanusCoder разработан командой InternLM как открытая фундаментальная модель для единого визуально-программного интерфейса в задачах работы с кодом. Данная версия является текстовой моделью на базе Qwen3-8B и предназначена для генерации кода по текстовым инструкциям, включая построение визуализаций данных, интерактивных веб-интерфейсов, программных анимаций и других программно создаваемых визуальных материалов. Модель обучалась на мультимодальном корпусе JANUSCODE-800K, однако для JanusCoder-8B в README указано текстовое исполнение; отдельные визуально-языковые варианты представлены в семействе JanusCoderV. Среди сильных сторон — универсальность в задачах кодового интеллекта и визуально-программной генерации, а также результаты на PandasPlotBench, ArtifactsBench и DTVBench, где модель превосходит ряд сопоставимых открытых моделей. Размер модели — 8B параметров; конкретные языки программирования и размер контекстного окна не указаны. Для запуска через llama.cpp требуется режим --jinja, а для Transformers рекомендуется версия не ниже 4.55.0. Модель распространяется по лицензии Apache-2.0.

Llama-3.1-8B-Instruct_Causal-Tracer — вариант Llama-3.1-8B-Instruct, созданный Apollo Raines с помощью инструмента jBlaze для изменения поведения модели через правку весов. Дополнительное обучение или дообучение не проводилось. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 7,5 млрд параметров по метаданным; карточка указывает формат safetensors и контекст до 131 072 токенов. Модель предназначена для генерации текста и диалога с акцентом на отслеживание потоков данных от источника к получателю, причинно-следственных цепочек и происхождения информации в системах. Она принимает текст и генерирует текст; в метаданных также указаны интерфейс вызова инструментов и поддержка английского языка. Автор описывает выпущенную версию как демонстрационную и намеренно ослабленную. Лицензия — Llama 3.1; применимость её условий следует проверять перед использованием.

LosslessMegaCoder-Falcon-40b-mini — языковая модель для генерации текста и кода, созданная Rombodawg в сотрудничестве с Andreaskoepf, аффилированным с Open Assistant. Это плотная авторегрессионная модель семейства Falcon с архитектурой FalconForCausalLM и примерно 65 млрд параметров. Модель дообучена на отфильтрованной версии датасета LosslessMegaCodeTrainingV2_1m_Evol_Uncensored; из выборки удаляли примеры короче 100 токенов. README указывает, что использованный набор данных отличается от LosslessMegaCodeTrainingV3_MINI. Модель предназначена для генерации кода и диалогового взаимодействия в шаблоне ChatML; также приведены шаблоны для GPT4All и Text-Generation-WebUI. В репозитории представлены веса Safetensors. Карточка не сообщает поддерживаемые естественные языки и длину контекста. Лицензия — Apache-2.0. README отмечает ранний этап фильтрации обучающих данных и не приводит результатов оценки качества.

NerGuard-0.3B — многоязычная модель классификации токенов для обнаружения персональных данных (PII), разработанная на базе mDeBERTa-v3-base и дообученная на более чем 500 тыс. примеров AI4Privacy. Модель размечает токены в формате BIO и распознаёт 20 типов сущностей, включая имена, адреса, государственные идентификаторы, финансовые и контактные данные. Модель предназначена для поиска персональных данных в тексте, например перед маскированием или проверкой документов на соответствие требованиям приватности. Поддерживаются английский, немецкий, французский, итальянский, испанский, португальский, нидерландский и польский языки. Архитектура — DeBERTa V2 для классификации токенов; размер — 306 млн параметров, контекст — до 512 токенов. Карточка сообщает F1-macro 99,63% на валидационном разбиении AI4Privacy; на отдельном тесте NVIDIA Nemotron-PII базовая модель без LLM заняла 4-е место из 7 по F1-macro. Модель доступна под лицензией OpenRAIL. Её метки соответствуют исходной схеме AI4Privacy, поэтому для сопоставления с другими схемами разметки может потребоваться преобразование. Результаты на валидации AI4Privacy не гарантируют такую же точность на других данных; карточка показывает более скромные результаты на внешнем тесте.

Open-Instruct Baize 7B — модель генерации текста на базе LLaMA с 6,6 млрд параметров, дообученная командой Allen Institute for AI на наборе Baize. Она предназначена для ответов на инструкции и вопросы в формате диалога, а также для исследовательской оценки instruction-tuning-моделей. Для работы требуется базовая модель LLaMA в формате Hugging Face: опубликованный репозиторий содержит diff весов, а не самостоятельный полный чекпойнт. Модель использует архитектуру LLaMA и контекст до 2048 токенов; карточка указывает английский язык. В опубликованных бенчмарках модель оценивалась на задачах общего понимания, математики, вопросов и ответов и генерации кода. Качество зависит от соблюдения формата ввода, включая перевод строки после маркера начала ответа. Лицензия определяется лицензией AI model из LICENSE.txt и исходной лицензией LLaMA; условия следует проверить в этих файлах перед использованием.