II.4Отладка, тестирование и качество ПО

Mungert/xLAM-2-32b-fc-r-GGUF — это GGUF-версия языковой модели xLAM-2-32b-fc-r, разработанной Salesforce. Модель относится к Large Action Models и ориентирована на создание AI-агентов, которые преобразуют намерения пользователя в выполняемые действия. Модель предназначена для многоходовых диалогов, function calling, использования инструментов и автоматизации задач в различных прикладных сценариях. Она содержит около 32 миллиардов параметров, работает с текстом и заявлена для английского языка. Указанная длина контекста составляет 32 тысячи токенов, с максимальным значением до 128 тысяч токенов. Модель обучалась на наборах Salesforce/APIGen-MT-5k и Salesforce/xlam-function-calling-60k с использованием данных, созданных в рамках APIGen-MT для имитации взаимодействия агентов и людей. К сильным сторонам относятся специализация на вызове функций, многоходовом взаимодействии, последовательности действий и агентских сценариях; семейство xLAM-2 также заявляет высокие результаты на бенчмарках BFCL и τ-bench. Данная версия представляет собой квантизованный GGUF-файл, созданный с помощью llama.cpp. В README отмечено применение выборочного повышения точности отдельных слоёв при квантизации, что может улучшать точность при заданном размере, но увеличивает размер файла. Модель выпущена для исследовательских целей и распространяется по лицензии CC BY-NC 4.0, допускающей некоммерческое использование с соблюдением условий лицензии.

AEWM (Agent-Editing World Model) — дообученная модель RUC-AIBOX на базе Qwen3.5-35B-A3B для оценки и редактирования решений агентных систем. Она работает как отдельная мировая модель рядом с агентом, который предлагает рассуждения и действия: AEWM классифицирует предложенные действия как критически важные, исследовательские или шумовые, а для шумовых формирует исправленное продолжение рассуждения и действий. Модель предназначена для агентных сценариев поиска, работы в терминале и разработки программного обеспечения с использованием инструментов. В обучении использовались около 52 млрд токенов траекторий и 120 тыс. примеров для оценки действий и пересмотра состояний. В бенчмарке Action Judge указаны общий macro-F1 70,5% и отдельные результаты для Search, Terminal и SWE. Для работы модель развёртывают через совместимый с OpenAI API сервер с поддержкой рассуждений Qwen3.5 и нативных вызовов инструментов, интегрируя её с EditAct. Лицензия — Apache-2.0. Метаданные указывают текстовую генерацию как основную задачу; README описывает классификацию и редактирование решений как специализированное назначение модели.

buelfhood выпустил sentence-transformers-модель buelfhood/CodeBERTa-small-v1-ST, дообученную на базе huggingface/CodeBERTa-small-v1. Модель использует архитектуру RoBERTa и преобразует текстовые предложения и абзацы в плотные векторы размерности 768; близость между ними можно оценивать косинусным сходством. Максимальная длина последовательности — 512 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации текста. Базовая CodeBERTa-small-v1 ориентирована на исходный код на шести языках программирования, поэтому эмбеддинги могут быть полезны для поиска и группировки фрагментов кода. Репозиторий содержит форматы Safetensors, ONNX и OpenVINO. В карточке не указана лицензия. Модель предоставляет векторы, а не готовые текстовые ответы; качество для конкретных задач зависит от данных и настройки поиска или классификатора.

Shuu12121/CodeSearch-ModernBERT-Owl — модель Sentence Transformers, дообученная автором на базе Shuu12121/CodeModernBERT-Owl для поиска кода. Она сопоставляет фрагменты кода с документацией по смысловой близости и формирует эмбеддинги размерностью 768, которые можно сравнивать косинусной мерой. Модель построена на архитектуре ModernBERT, содержит около 151,6 млн параметров и принимает последовательности длиной до 2048 токенов. Модель предназначена для семантического поиска по репозиториям и ранжирования документации или кода по запросу. В README приведён результат 76,89 на CodeSearchNet; он относится к указанной в карточке оценке, а сравнения с другими моделями в README не полностью согласуются с приведённой таблицей. Обучение включает наборы CodeSearchNet, Java и Rust code search, а также CodeXGlue. Лицензия — Apache-2.0.

DeepHat-V1-7B — модель DeepHat для задач кибербезопасности, созданная на базе Qwen2.5-Coder-7B. Это дообученная причинно-следственная языковая модель с архитектурой Qwen2 для генерации текста и кода. Метаданные указывают 7,1 млрд параметров и контекст до 32 768 токенов; в README заявлена возможность расширения контекста до 131 072 токенов с помощью YaRN. Модель предназначена для сценариев наступательной и защитной кибербезопасности, а также может использовать возможности базовой модели для работы с кодом. Карточка не уточняет конкретные тесты, границы компетенций или качество на отдельных задачах. Модель распространяется под лицензией Apache-2.0; README также возлагает на пользователя ответственность за результаты применения и предоставляет модель «как есть».

Модель cyberagent/DeepSeek-R1-Distill-Qwen-14B-Japanese — японская дообученная версия DeepSeek-R1-Distill-Qwen-14B, созданная Рёсуке Исигами. Это плотная языковая модель семейства Qwen2 с 14 млрд параметров для генерации текста и диалогов; она принимает текстовые запросы и формирует текстовые ответы. Контекст составляет до 131 072 токенов. Модель рассчитана прежде всего на работу с японским языком и может применяться для диалоговых ответов и генерации текста. В основе лежит дистиллированная модель DeepSeek, ориентированная на рассуждения, включая математику и программирование; README подтверждает японскую донастройку, но не приводит отдельные оценки качества для этих задач. Модель опубликована в формате safetensors под лицензией MIT.

Это объединённый чекпойнт семейства Qwen2.5 размером 14 млрд параметров, созданный в рамках эксперимента Delta-P2S с использованием Qwen-aware пакета. Модель построена на базе Qwen2.5 и предназначена для генерации текста в диалоговом режиме; имя репозитория указывает на специализацию на программировании, но README не описывает конкретные задачи или результаты для кода. Модель использует плотную архитектуру Qwen2 с классом Qwen2ForCausalLM и поддерживает контекст до 131 072 токенов. Доступный формат весов — safetensors. В метаданных нет сведений о поддерживаемых естественных языках или лицензии.

distilbert-secret-masker-v3.3a-RS — модель AndrewAndrewsen на базе DistilBERT с классификационной головой для разметки токенов. Она находит учётные данные, токены, ключи и пароли в исходном коде и связанном с ним тексте, а затем возвращает символьные интервалы для маскирования. Для длинных входов предусмотрена обработка скользящими окнами; указанное в карточке рабочее пороговое значение — τ = 0,99. Модель предназначена для обнаружения секретов в исходном коде как дополнение к сканерам на правилах. На отложенных наборах реального кода строгая F1-метрика по точному совпадению интервала и строки составляла 0,63–0,70; результаты зависят от корпуса и сценария применения. Лицензия весов — Apache-2.0, кода SecMask — MIT. Основное ограничение — ложные срабатывания на похожие на секреты UUID и хеши, а также пропуски некоторых секретов без характерных префиксов, особенно паролей. На чате, логах и неанглоязычном тексте качество ниже, чем на исходном коде; модель не гарантирует обнаружение всех секретов и не заменяет сканеры на правила.

GAC-Qwen3.5-4B — мультимодальная модель YueLinHu на архитектуре Qwen3.5-4B-Base, дообученная методом GAC: гибридным supervised fine-tuning и reinforcement learning с последующим полнопараметрическим supervised refinement. Модель сохраняет поддержку текста и изображений, но приведённые в карточке результаты оценивают только рассуждения на текстовых задачах и генерацию кода. Модель предназначена для экспериментов с математическими рассуждениями и диалогом, а также для оценки генерации кода. В карточке указаны результаты на задачах AMC, AIME24 и AIME25; протокол оценки использует контекст 16 384 токена и до 8 192 новых токенов. Веса доступны в формате BF16 safetensors для Transformers. Модель основана на Qwen3.5-4B-Base и имеет лицензию Apache-2.0 с учётом уведомлений Qwen3.5 и условий лицензий датасетов. Результаты бенчмарков не подтверждают надёжность в критически важных сценариях; сгенерированный код следует запускать в изолированной среде.

GigaChat3-10B-A1.8B-base — базовая предварительно обученная языковая модель семейства GigaChat, разработанная командой ai-sage. Она предназначена для продолжения обучения и генерации текста; для диалога и выполнения инструкций в карточке рекомендуется instruct-версия. Модель использует архитектуру Mixture-of-Experts с 10 млрд общих и 1,8 млрд активных параметров, механизмы Multi-head Latent Attention и Multi-Token Prediction. В метаданных указаны архитектура DeepSeek V3, 1,5 млрд параметров, контекст 262 144 токена и поддержка русского и английского языков; размер параметров в README и метаданных расходится. Модель обучена на 20 трлн токенов, включая синтетические данные, материалы по математике и программированию, а также тексты на дополнительных языках. MLA сжимает KV-кэш для более эффективного инференса, а MTP может ускорять генерацию при использовании совместимых техник. Репозиторий содержит веса Safetensors; лицензия — MIT. Это базовая модель, поэтому для диалоговых сценариев и следования инструкциям предпочтительна instruct-версия.

Grug 67B A2B Datakit SFT 262K — экспериментальный чекпойнт Grug MoE после дообучения с учителем. Модель создана на основе неопубликованного базового чекпойнта Grug на шаге 157 000; обучение продолжено на подборке данных для агентных задач и рассуждений, включая код, математику, следы использования инструментов и форматирование ответов. В README описана отдельная серия SFT от релиза 11 сентября. Архитектура — GrugMoeForCausalLM с 67,1 млрд параметров, 256 маршрутизируемыми экспертами, выбором четырёх экспертов и общим экспертом; заявлено около 2 млрд активных неэмбеддинговых параметров на токен. Веса представлены в BF16, а для генерации предусмотрены режимы с рассуждениями и без них, а также интерфейс вызова инструментов. Конфигурация задаёт контекст 262 144 токена, но качество работы на длинном контексте не проверено. Модель предназначена для генерации текста в агентных сценариях и задачах рассуждения, включая работу с кодом, математикой и инструментами. Чекпойнт не прошёл надлежащую оценку: нет подтверждённых результатов бенчмарков или даже базовой проверки генерации. Для запуска требуется среда с поддержкой Grug MoE; совместимость с указанным форком vLLM и загрузка через стандартный Transformers не подтверждены. Лицензия — OpenMDW-1.1.

thealper2/lfm2-700m-linux-command — дообученная модель на базе LiquidAI/LFM2-700M для преобразования запроса на естественном языке в одну команду Linux shell. Она выдаёт только команду, без пояснений; предусмотрен шаблон чата LFM2, а для получения стабильного ответа рекомендуется жадное декодирование. Архитектура — плотная Lfm2ForCausalLM с гибридным сочетанием полного внимания и коротких свёрток. В README указано 742,5 млн параметров, а метаданные каталога приводят 956,3 млн; контекстное окно по метаданным — 128 000 токенов. Модель обучалась на наборах nl2bash и linux-command-dataset, языковая метка карточки — английский. Она подходит для получения кандидатов команд по кратким описаниям задач, например для поиска файлов или процессов, и как генератор команд в изолированном терминальном агенте. На тестовом наборе точное совпадение с единственным эталонным ответом составило 29,1%, структурное — 30,3%; эти показатели не измеряют семантическую корректность всех допустимых команд. Модель может выводить неверные или разрушающие команды и не проверяет их безопасность. README указывает лицензию как other без конкретизации условий, поэтому лицензионные права следует сверить с карточкой репозитория Hugging Face.

OpenCoder-8B-Base — базовая языковая модель для кода из семейства OpenCoder, разработанного командой OpenCoder. Модель размером 7,4 млрд параметров построена на архитектуре Llama и обучена с нуля на 2,5 трлн токенов: около 90% составил исходный код, остальное — веб-данные о программировании. Для этой версии заявлена длина контекста 8192 токена. Модель предназначена для генерации кода и исследовательской разработки систем искусственного интеллекта для программирования. Она поддерживает английский и китайский языки; в README приведены результаты на HumanEval(+), MBPP(+) и BigCodeBench. В репозитории указаны форматы PyTorch и Safetensors и лицензия other; конкретные условия лицензии следует проверять в файлах репозитория.

Redact — разработанная desert-ant-labs мультиязычная модель для обнаружения и маскирования персональных данных непосредственно на устройстве. Она сочетает классификатор токенов на архитектуре BERT с детерминированной обработкой структурированных идентификаторов; модель содержит 26,2 млн параметров, принимает текст с контекстом до 512 токенов и поставляется в форматах Core ML и TFLite. Разработчик указывает поддержку 27 языков, включая все официальные языки ЕС, норвежский букмол и нюнорск, а также исландский. Модель находит имена, адреса, электронную почту, телефоны, платёжные и государственные идентификаторы, IP-адреса и другие категории; организации распознаются, но по умолчанию не маскируются. По опубликованным разработчиком оценкам, точность маскирования высока, однако полнота обнаружения ниже, а результаты зависят от языка: особенно слабые показатели отмечены для мальтийского и ирландского. Для английских имён AWS Comprehend показал более высокую полноту в сравнении из README. Лицензия указана как other, поэтому условия использования следует проверять в карточке модели. Модель предназначена для локальной обработки текста на iOS, Android, Linux, Windows и в браузере.

MaziyarPanahi/sqlcoder-7b-Mistral-7B-Instruct-v0.1 — объединённая модель на архитектуре Mistral с 7,1 млрд параметров, созданная слиянием mistralai/Mistral-7B-Instruct-v0.1 и defog/sqlcoder-7b методом SLERP. Она предназначена для генерации текста и кода по инструкциям, в частности для работы с SQL-запросами. Модель поддерживает диалоговый формат и рассчитана на английский язык; метаданные указывают контекст до 32 768 токенов. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Она может помогать формировать SQL по текстовому описанию задачи и вести диалог о коде и запросах. Карточка не приводит результатов оценки качества или подробных ограничений; качество SQL следует проверять на целевой схеме данных и конкретной СУБД.

STAR1-R1-Distill-1.5B — языковая модель UCSC-VLAA для генерации ответов с более безопасным поведением и сохранением возможностей рассуждения. Это плотная архитектура Qwen2 с 1,5 млрд параметров, дообученная на наборе STAR-1 из 1 000 примеров, отобранных и оценённых с помощью GPT-4o. Базовая модель — deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B. Модель предназначена для диалоговых сценариев, где важно учитывать требования безопасности при решении задач рассуждения, математики и программирования. В README заявлены улучшения на нескольких бенчмарках безопасности при минимальном влиянии на способности рассуждать. Модель принимает текст и генерирует текст; метаданные указывают контекст до 131 072 токенов и поддержку Transformers. Распространяется в формате safetensors по лицензии Apache-2.0. Результаты оценки описаны в README без численных показателей, поэтому степень улучшения безопасности и сохранения качества рассуждений по этим данным оценить нельзя.

StarCoder — языковая модель для генерации и дополнения программного кода, разработанная проектом BigCode. Это модель на 15,5 млрд параметров на архитектуре GPT-2 с multi-query attention, обученная на 1 трлн токенов из The Stack v1.2 на более чем 80 языках программирования. Она поддерживает контекст до 8192 токенов и обучалась, в частности, для заполнения пропусков в коде (Fill-in-the-Middle), поэтому подходит для продолжения фрагмента и вставки кода в заданный контекст. Модель предназначена для помощи при написании кода, а не для выполнения инструкций в формате чат-ассистента. Наиболее полезна, когда ей предоставляют исходный код или достаточно контекста; запросы на естественном языке могут работать хуже. Генерируемый код может содержать ошибки, быть неэффективным или небезопасным. Датасет предварительно фильтровали по разрешительным лицензиям, однако модель может воспроизводить фрагменты исходного кода, для которых могут требоваться атрибуция и соблюдение условий лицензии. Лицензия модели — BigCode OpenRAIL-M.

Arch-Agent-7B — языковая модель Katanemo для вызова функций и агентных приложений. Это дообученная плотная модель семейства Qwen2 на базе Qwen/Qwen2.5-Coder-7B-Instruct, содержащая 7,1 млрд параметров. Она генерирует ответы в формате, совместимом с вызовом внешних функций, и предназначена для многошаговых и многоходовых сценариев с выбором инструментов, планированием и координацией действий. Модель работает с текстом; README рекомендует использовать специальный формат промпта Arch-Agent для получения структурированного JSON-подобного вывода. Метаданные указывают контекст 32 768 токенов; заявленная в README оценка на BFCL проводилась с контекстом 64K и масштабированием YaRN. Подходит для построения ассистентов, которые взаимодействуют с API и инструментами, разбивают сложные запросы на шаги и продолжают работу с учётом результатов предыдущих вызовов. В основе — архитектура Qwen2ForCausalLM, веса доступны в формате safetensors для Transformers. Указана лицензия other; конкретные условия следует сверить с карточкой модели и лицензией базовой модели. README заявляет высокие результаты на BFCL, но не приводит в доступном тексте численные показатели; качество вызова функций зависит от соблюдения рекомендуемого формата промпта.

code-nothink-o7b-20260908 — кодовая языковая модель на базе Olmo-3-1025-7B, созданная для оценки генерации кода без режима рассуждений NoThink. Разработчик обучил LoRA-адаптер рангу 64 на паре проинструктированных примеров для кода, затем объединил его с базовой моделью; в репозитории размещены полные веса bf16 в формате safetensors. Модель имеет 6,9 млрд параметров и контекст до 65 536 токенов по метаданным; при обучении и описанной оценке использовался контекст 8 192 токена. Основной сценарий — генерация кода и решение задач программирования. В оценке LiveCodeBench DEV256 модель прошла 46 из 256 задач (18,0%) в режиме NoThink против 20 из 256 (7,8%) у базовой Olmo-3-1025-7B при том же протоколе; результат обозначен авторами как односидовый исследовательский, а не подтверждающий вывод. Для инференса автор рекомендует использовать токенизатор и шаблон чата из репозитория, не добавляя префикс режима рассуждений. Лицензия — Apache-2.0.

CodeScout-1.7B — компактная языковая модель для поиска и локализации кода в репозиториях, разработанная OpenHands. На входе она использует описание задачи или GitHub issue и содержимое репозитория, чтобы определить связанные файлы, модули, классы и функции; модель предназначена для роли агента локализации в составе более крупного конвейера разработки ПО. Это плотная авторегрессионная модель семейства Qwen3 с 1,7 млрд параметров, дообученная в два этапа: на траекториях с правильной локализацией и затем методом обучения с подкреплением GSPO. Она работает через OpenHands-Bash: использует стандартные команды Unix в терминале и инструмент для структурированной отправки результатов. Метаданные указывают контекст до 40 960 токенов; в README для обучения указана длина контекста 32K. Поддерживаемый в карточке язык — английский, а обучение и оценка проводились на репозиториях Python. Модель ориентирована на определение мест изменений, а не на редактирование кода или самостоятельное решение задачи. Для оптимальной работы ей требуется оболочка OpenHands-Bash; качество может снижаться на репозиториях, существенно отличающихся от обучающих. Лицензия — Apache-2.0.

CodeSearch-ModernBERT-Crow-Plus — модель Sentence Transformers от Shuu12121 для семантического поиска по коду и оценки сходства между запросами на естественном языке и фрагментами кода. Это дообученная на задачах сходства модель с архитектурой ModernBERT; в README указаны 12 слоёв, 768 скрытых размерностей и максимальная длина входа 1024 токена. Метаданные каталога указывают 151,6 млн параметров и контекст до 8192 токенов. Модель предназначена для поиска кода по описанию и поиска похожих фрагментов на Python, Java, JavaScript, PHP, Ruby, Go и Rust, преимущественно на уровне функций. Её также можно применять для извлечения признаков, классификации и кластеризации кода и рекомендаций. README приводит результаты MTEB для CodeSearchNet Retrieval: nDCG@10 0,89296, а для COIR CodeSearchNet Retrieval — 0,79884. Модель выдаёт эмбеддинги для последующего сравнения и поиска; она не предназначена для генерации кода. Качество может снижаться на очень длинных файлах и синтаксически неполных фрагментах, а для специализированных библиотек может понадобиться дополнительное дообучение. Лицензия — Apache-2.0.

hackshare/curtain-privacy — модель для локального обнаружения и редактирования персональных данных, разработанная авторами проекта Curtain Privacy. Она объединяет классификатор токенов на базе BERT с детерминированными распознавателями и слоем обратимых заменителей для диалогов. Модель предназначена для работы в браузере, Node.js, iOS и Android через ONNX и transformers.js. В репозитории доступны варианты curtain-small и curtain-tiny: основной вариант использует 12-слойный мультиязычный MiniLM и SentencePiece, компактный — 6-слойный MiniLM и WordPiece. Метаданные указывают 72 млн параметров и контекст до 512 токенов. Заявлена поддержка 24 языков с латинской письменностью; перечисленные коды карточки охватывают 22 языка. Лицензия — MIT. Модель подходит для выявления и маскирования PII непосредственно на устройстве, что помогает обрабатывать текст без обязательной отправки на сервер. Качество зависит от языка, формата и контекста данных; классификатор и набор детерминированных распознавателей не гарантируют обнаружение всех чувствительных сведений. README также рекомендует закреплять ревизию и проверять контрольную сумму распространяемых файлов.

Cypher-Mini-1.8B — экспериментальная разговорная языковая модель, созданная дообучением h2oai/h2o-danube-1.8b-chat разработчиком aloobun на Hercules v3 и частном наборе данных. Это плотная Mistral-архитектура для генерации текста с примерно 1,7 млрд параметров и контекстом до 16 384 токенов. Модель предназначена для диалогов и генерации ответов на текстовые запросы. В карточке приведён пример ответа с объяснением логической ошибки, но результаты бенчмарков ещё не представлены. Модель выпущена в формате safetensors и распространяется по лицензии Apache-2.0.

ZeroXClem разработал диалоговую языковую модель, объединив методом Model Stock три модели на архитектуре Llama: Theia-Llama, Fireball-Meta-Llama и Llama-Hawkish. Модель содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов; она предназначена для генерации текста и ответов на инструкции в диалоге. Модель ориентирована на вопросы о криптовалютах и финансах, количественные рассуждения, программирование и техническую поддержку. Она может помогать составлять финансовые обзоры, анализировать крипторынок, объяснять математические задачи и генерировать код. Заявлена поддержка английского языка. Модель выпущена в формате Safetensors с типом данных bfloat16 и доступна по лицензии Apache 2.0. Качество ответов и точность финансовых или инвестиционных выводов README не подтверждает независимыми оценками; сгенерированные расчёты и рекомендации требуют проверки.

Llama-3.3-Nemotron-Super-49B-GenRM-Multilingual — генеративная модель оценки ответов, разработанная NVIDIA на основе Llama-3.3-Nemotron-Super-49B-v1 и дообученная с помощью обучения с подкреплением. Она анализирует историю многоязычного диалога и оценивает один ответ или сравнивает два ответа: сначала формирует рассуждение, затем выдаёт целочисленную оценку качества и, при сравнении, рейтинг предпочтения. Модель построена на трансформерной архитектуре Nemotron-NAS с классом DeciLMForCausalLM; карточка указывает 49 млрд параметров, а метаданные — 87 млрд. Поддерживаются текстовый ввод и текстовый вывод, контекст до 131 072 токенов. Заявлены английский, китайский, корейский, французский, испанский, русский, японский, немецкий, итальянский, португальский, польский, индонезийский, нидерландский и вьетнамский языки. Для запуска рекомендованы vLLM 0.8.3 и как минимум две GPU NVIDIA с 80 ГБ памяти. Модель предназначена для оценки полезности ответов и ранжирования вариантов в многоязычных чат-сценариях; в README также приведены результаты на RM-Bench и JudgeBench. Разработчик заявляет возможность коммерческого и некоммерческого использования; метаданные обозначают лицензию как other, поэтому конкретные лицензионные условия следует сверять с карточкой модели. Практическое ограничение — высокая потребность в GPU-памяти; оценки качества могут не совпадать с предпочтениями конкретного пользователя или критериями предметной области.

m2v-bge-m3-ptbr-en — компактная модель статических текстовых эмбеддингов на базе Model2Vec, созданная Гильерме Мирандой дистилляцией BAAI/bge-m3. Она предназначена для быстрого локального семантического поиска по тексту и коду, в том числе поиска по многословным идентификаторам и кросс-языковых запросов на португальском и английском языках. Модель использует словарь из 185 417 подслов латинского письма, включает португальские диакритические знаки и формируется с помощью PCA и взвешивания SIF. При инференсе она усредняет статические векторы токенов без прямого прохода трансформера, что делает её быстрой на CPU. По данным README, в слепых тестах поиска она сопоставима с potion-multilingual-128M для португальского и английского при меньшем размере. Модель распространяется по лицензии MIT. Удаление токенов нелатинских письменностей ограничивает её применение: кириллица, арабское письмо и CJK не поддерживаются как целевые языки; модель рассчитана прежде всего на португальский (pt-BR) и английский.

Это объединённая модель семейства Gemma, созданная сообществом mergekit из unsloth/codegemma-7b и cloudyu/google-gemma-7b-chinese-sft-v1 методом SLERP. Модель содержит 8,2 млрд параметров, использует архитектуру GemmaForCausalLM и формат safetensors; заявленный контекст составляет 8192 токена. Модель предназначена для генерации текста, в том числе для сценариев с кодом и китайским языком, поскольку объединяет CodeGemma и китайскую SFT-модель Gemma. Сведения о лицензии и конкретных оценках качества в предоставленных данных отсутствуют.

Merlin-Agent-GGUF — это квантизированная версия языковой модели Merlin-Agent, разработанной Merlin-Research и подготовленной пользователем bartowski в формате GGUF с помощью llama.cpp. Модель предназначена для генерации текста и кода, а также для задач, связанных с quantum-classical вычислениями, quantum kernels, IBM Quantum, OTOC и quantum provenance, судя по указанным тегам. Модель поддерживает английский, испанский, немецкий, нюнорск, финский, шведский, французский, датский и турецкий языки. Архитектура, количество параметров и размер контекста в README не указаны. Доступны варианты от BF16 до низкобитных квантований Q2_K_L, включая рекомендуемые Q4_K_M, Q5_K_M, Q6_K и другие форматы. Квантизация уменьшает требования к памяти, но более компактные варианты могут снижать качество; Q6 и близкие к нему варианты заявлены как обеспечивающие почти исходное качество. Модель запускается через совместимые инструменты, включая llama.cpp, LM Studio, koboldcpp, Jan AI и Text Generation Web UI. Для работы рекомендуется использовать указанный шаблон prompt format. Лицензия — Apache-2.0.

North-Mini-Code-1.0-UD-Q4_K_XL-layers — пакет GGUF-слоёв модели семейства North, подготовленный Mesh LLM для распределённого запуска на локальном кластере. Он производен от unsloth/North-Mini-Code-1.0-GGUF и сохраняет исходную модель UD-Q4_K_XL в виде отдельных артефактов по слоям. Пакет предназначен для локального и приватного чат-инференса, в том числе на нескольких машинах, когда полная модель не помещается на одном узле. Через Mesh LLM модель можно подключить к локальному API с интерфейсом OpenAI Chat Completions. В метаданных указаны GGUF, поддержка генерации текста и чат-возможности; подробности об архитектуре, размере, контексте, языках и лицензии следует сверять с карточкой исходной модели.

PII-Tracer-vLLM — версия модели Perplexity AI PII-Tracer, упакованная для запуска через vLLM. Это дообученный двунаправленный энкодер Qwen3 примерно с 508 млн параметров и контекстом до 32 768 токенов. Он размечает токены в разговорном тексте по девяти категориям персональных данных и секретов, а отдельная голова оценивает чувствительность беседы. Разметка использует BIOES-теги и декодирование Viterbi; модель также поддерживает оценку чувствительности последовательности. Модель подходит для поиска и маскирования персональных данных в диалогах, а также для предварительной оценки чувствительности бесед. Репозиторий содержит адаптер оценивания и средства развёртывания с vLLM; веса сохранены в safetensors без повторного обучения и квантизации. Для запуска описанной конфигурации Docker Compose требуются NVIDIA GPU и совместимый драйвер. В README указан предел входа 4096 токенов: более длинный текст следует разбивать на части, иначе токенизатор обрежет его. Возможны пропуски и ложные срабатывания, а границы фрагментов могут включать пробелы; пороги уверенности необходимо калибровать на целевых данных. Лицензия — MIT.