II.4Отладка, тестирование и качество ПО

mlx-community/openai-privacy-filter-6bit — 6-битная версия модели OpenAI Privacy Filter, подготовленная сообществом mlx-community из openai/privacy-filter в формате MLX. Это двунаправленный разреженный MoE-классификатор токенов, который находит и размечает BIOES-фрагментами персональные данные восьми категорий: имена людей, адреса электронной почты, телефоны, URL, адреса, даты, номера счетов и секреты. Версия содержит 145,4 млн параметров по метаданным; базовая карточка описывает исходную модель как модель на 1,5 млрд параметров с 50 млн активных параметров. Модель предназначена для локальной фильтрации и маскирования чувствительных данных в тексте. Указанная лицензия — Apache-2.0. Модель принимает текст и выдаёт метки фрагментов, пригодные для последующей замены или удаления обнаруженных данных. Доступны веса safetensors для MLX; README указывает преобразование из openai/privacy-filter, тогда как метаданные отмечают связь с базовой моделью как finetune. Заявленная длина контекста — 131072 токена. Языки в предоставленных сведениях не перечислены.

OPSD-PI Qwen3.5-9B Medium Trailing — update 8 — это непосредственно загружаемая объединённая модель на базе Qwen3.5-9B, опубликованная LSW142857. Репозиторий содержит результат восьми обновлений оптимизатора в эксперименте OPSD на выборке из 1024 строк; в него включены объединённая начальная настройка expert-SFT, изменения основной модели и MTP, включая дообученные тензоры MTP. Отдельный адаптер или дополнительное объединение для загрузки не требуются. Модель предназначена для генерации текста и диалогового использования; в метаданных также отмечена работа с кодом. README описывает экспериментальную обучающую конфигурацию и рекомендует оценивать модель на отложенных задачах без добавления PI, который использовался только как учитель. Архитектура Qwen3.5, библиотека Transformers и формат safetensors указаны в метаданных. Лицензия, размер контекста и поддерживаемые естественные языки в предоставленных данных не установлены.

pii-identifier-v0.1 — англоязычная модель для обнаружения и классификации персональных данных в тексте. Разработчик дообучил answerdotai/ModernBERT-base на синтетическом наборе nvidia/Nemotron-PII. Это encoder-модель ModernBERT с архитектурой ModernBertForTokenClassification и примерно 149 млн параметров; она размечает фрагменты текста по 55 типам сущностей с BIO-тегами. Максимальная длина последовательности — 8192 токена. Модель предназначена для выявления персональных данных в конвейерах редактирования и обезличивания текста, проверки данных перед передачей в LLM и инструментов управления данными. В заявленной оценке на тесте PIIMB для Nemotron-PII она набрала F2 0,970; точность обнаружения при этом зависит от типа сущности. Особенно слабые результаты отмечены для профессий, уникальных идентификаторов, групп крови и времени. Модель обучалась только на синтетических англоязычных данных, поэтому качество на реальных, шумных, распознанных OCR или специализированных текстах может отличаться, а для других языков не подтверждено. Результаты не гарантируют полного обнаружения PII: для ответственных сценариев карточка рекомендует сочетать модель с правилами и проверкой человеком. Лицензия — Apache-2.0.

Карточка модели matterinys/privacy-filter на Hugging Face совпадает с карточкой openai/privacy-filter, поэтому описание составлено по ней. OpenAI Privacy Filter — модель OpenAI для обнаружения и маскирования персональных данных в тексте. Она предназначена для высокопроизводительной очистки данных, в том числе в локальных и браузерных сценариях, и может дообучаться под особенности данных организации. Лицензия Apache 2.0 допускает коммерческое использование. Модель выполняет двунаправленную классификацию токенов и выделяет связные фрагменты в одном проходе. Архитектура — разреженный MoE-трансформер с 8 блоками, шириной скрытого представления 640 и 128 экспертами, из которых на токен выбираются 4. Модель возвращает BIOES-разметку для восьми категорий: номера счетов, частные адреса, электронные адреса, имена людей, телефоны, URL, даты и секреты. В метаданных указано 145,4 млн параметров и контекст 131 072 токена; README заявляет окно до 128 000 токенов. Доступны форматы Safetensors и ONNX. Модель подходит для предварительной фильтрации текстов перед хранением, передачей или дальнейшей обработкой. Пороговые режимы позволяют настраивать компромисс между точностью и полнотой обнаружения. Это вспомогательное средство минимизации данных, а не гарантия анонимизации или соответствия требованиям. Набор меток фиксирован, для изменения политики нужно дообучение; качество может снижаться на неанглийских текстах, нелатинских письменностях и данных вне обучающего распределения. В чувствительных областях возможны как пропуски, так и избыточное маскирование.

OpenAI Privacy Filter — модель OpenAI для обнаружения и маскирования персональных данных в тексте. Она предназначена для высокопроизводительной очистки данных, в том числе в локальных и браузерных сценариях, и может дообучаться под особенности данных организации. Лицензия Apache 2.0 допускает коммерческое использование. Модель выполняет двунаправленную классификацию токенов и выделяет связные фрагменты в одном проходе. Архитектура — разреженный MoE-трансформер с 8 блоками, шириной скрытого представления 640 и 128 экспертами, из которых на токен выбираются 4. Модель возвращает BIOES-разметку для восьми категорий: номера счетов, частные адреса, электронные адреса, имена людей, телефоны, URL, даты и секреты. В метаданных указано 145,4 млн параметров и контекст 131 072 токена; README заявляет окно до 128 000 токенов. Доступны форматы Safetensors и ONNX. Модель подходит для предварительной фильтрации текстов перед хранением, передачей или дальнейшей обработкой. Пороговые режимы позволяют настраивать компромисс между точностью и полнотой обнаружения. Это вспомогательное средство минимизации данных, а не гарантия анонимизации или соответствия требованиям. Набор меток фиксирован, для изменения политики нужно дообучение; качество может снижаться на неанглийских текстах, нелатинских письменностях и данных вне обучающего распределения. В чувствительных областях возможны как пропуски, так и избыточное маскирование.

ProSparse-MiniCPM-1B-sft — языковая модель с причинной архитектурой MiniCPM, разработанная и дообученная ModelBest, OpenBMB и THUNLP на основе MiniCPM-1B-sft-bf16. Она предназначена для генерации текста и выполнения задач с продолжением текста; обучение для разреживания активаций ориентировано на ускорение инференса при сохранении сопоставимого качества. Модель содержит 1,4 млрд параметров, принимает текст и имеет контекст до 4096 токенов. В ходе обучения активации FFN заменены на ReLU, применена прогрессивная L1-регуляризация, затем использована FATReLU с положительным порогом. В README сообщается о разреженности активаций 87,89% для версии MiniCPM-1B и о проверке на задачах генерации кода, рассуждений и понимания прочитанного. Указаны английский и китайский языки. Модель опубликована в формате PyTorch под лицензией Apache-2.0. README отмечает, что больше обучающих токенов и более широкие или качественные данные могли бы улучшить качество на конкретных задачах.

Kataguru Jackripper v1.0 Uncensored — финская доработка Qwen3.5-35B-A3B, выпущенная Kataguru в формате GGUF. Это разреженная MoE-модель с 35 млрд параметров и примерно 3 млрд активных параметров на токен; в карточке заявлены чат, рассуждения и усиленная работа на финском языке. Предназначена для локального диалога и генерации текста на финском и английском, в том числе для ответов на вопросы, задач на рассуждение и написания кода. README заявляет изменение направлений отказа и приводит три квантизованных варианта GGUF объёмом 12,05–15,33 GiB с рекомендациями по видеопамяти 12–24 ГБ. В примере запуска указан контекст 32 768 токенов, но это параметр команды, а не подтверждённый предел модели. Заявления о безошибочном финском и результатах бенчмарков приведены автором карточки и не подтверждены независимыми данными. Модель основана на мультимодальной Qwen3.5, однако описание этого релиза и доступные задачи указывают на текстовую генерацию и чат. Лицензия — Apache-2.0.

Qwen3.5-40B-RoughHouse-Claude-4.6-Opus-Polar-Deckard-Uncensored-Heretic-Thinking — экспериментальная модель DavidAU на архитектуре Qwen3.5. Это плотная модель на 40 млрд параметров, собранная расширением двух дообученных моделей Qwen3.5-27B; автор описывает её как сырую версию, выпущенную до заключительного этапа обучения. В карточке указаны библиотека Transformers, формат safetensors и лицензия Apache-2.0. Модель рассчитана на диалог, рассуждения, генерацию кода и творческих текстов, включая рассказы и ролевые сценарии; поддерживает изображения и текст. Автор указывает контекст до 256 тыс. токенов и переменную длину рассуждений. Заявлены английский и китайский языки. По описанию, модель намеренно лишена защитных ограничений и может создавать откровенный или резкий контент. Автор предупреждает о нестабильности генерации: возможны циклы, повторения и сбои токенов, особенно при коротких запросах и низких уровнях квантизации. Рекомендуются содержательные запросы, системная инструкция и повторная генерация при неудовлетворительном ответе. Модель выпускается по лицензии Apache-2.0.

Qwen3-VL-2B-Thinking — компактная мультимодальная модель семейства Qwen3-VL, представленная в репозитории Unsloth как дообученная версия Qwen/Qwen3-VL-2B-Thinking. Модель построена на плотной архитектуре Qwen3VLForConditionalGeneration и предназначена для диалоговой работы с текстом и изображениями, визуальных рассуждений и анализа видео. Репозиторий содержит веса в формате safetensors; для работы используется библиотека Transformers. Модель подходит для распознавания объектов и текста на изображениях, ответов на вопросы по визуальному содержимому, анализа пространственных отношений, STEM-задач и понимания видеособытий с временными отметками. Карточка базовой модели заявляет контекст 256K токенов с возможностью расширения до 1M и поддержку OCR на 32 языках; эти характеристики описывают семейство Qwen3-VL и не подтверждены отдельными измерениями именно этой копии. В карточке также упомянуты сценарии визуального управления интерфейсами и генерации кода интерфейсов по изображениям или видео. Модель ориентирована на мультимодальные запросы с изображениями и текстом; описание семейства также указывает на анализ видео. Основные заявленные сильные стороны — визуальное восприятие, OCR, пространственное понимание и рассуждения. Качество отдельных задач в README не приведено, поэтому его следует проверять на целевых данных. Лицензия репозитория — Apache-2.0.

Русскоязычная модель Redmadrobot для распознавания персональных данных в тексте. Она дообучена для задачи классификации токенов на базе ai-forever/ruBert-base: архитектура BERT, 205,5 млн параметров, контекст до 512 токенов. Модель размечает 21 тип сущностей по схеме BIO, включая имена, адреса, контакты и номера российских документов — паспортов, СНИЛС, ИНН, полисов ОМС, водительских удостоверений и других. Модель предназначена для извлечения чувствительных данных как компонента систем обнаружения и обезличивания текста. Её обучали на 17 137 русских предложениях; на отдельном тестовом наборе из 2 841 предложения показатель F1 для модели отдельно составил 83,6 при точном совпадении границ сущностей. Для IP-адресов качество заметно ниже: модель может разделять их по точкам, поэтому авторы используют для этого типа регулярные выражения в конвейере pii-guard. Распространяется по лицензии Apache-2.0.

kenpeter123/small-1b-dpo — языковая модель семейства Llama, разработанная автором репозитория и дообученная методом Direct Preference Optimization на базе kenpeter123/small-1b-sft. Она предназначена для генерации текста по запросам; метаданные также отмечают поддержку генерации кода. В README описана архитектура Transformer с 32 слоями, 12 головами внимания и группированным запросом внимания (GQA, 4 KV-головы); число параметров в метаданных — 956,3 млн, а контекст — 8192 токена. DPO-обучение использует пары предпочтений: правильное эталонное решение выбирается вместо ошибочного или повторяющего запрос ответа базовой SFT-модели. Репозиторий содержит веса в формате safetensors, библиотека — Transformers. Лицензия Apache-2.0. Карточка описывает обучающий чекпойнт, но не приводит оценки качества или подробностей о поддерживаемых языках помимо английского в метаданных.

Huangsssz/SmolLM3-3B-MOPD-PG-SGD-lr2p5e-3-NoThinking-500 — исследовательский чекпойнт языковой модели SmolLM3, созданный дообучением BytedTsinghua-SIA/Open-MOPD-SmolLM3-3B-MixSFT. Модель содержит 3,1 млрд параметров, использует плотную архитектуру SmolLM3ForCausalLM и экспортирована в BF16 в формате Safetensors; заявленная длина контекста — 65 536 токенов. Чекпойнт получен после 500 обновлений методом дистилляции с обучением по policy gradient на ответах, оцениваемых профильными учителями для математики, программирования и следования инструкциям. Обучение и оценивание выполнялись с отключённым режимом рассуждений; шаблон чата поддерживает соответствующую настройку при инференсе. Модель предназначена для генерации ответов и экспериментов с математическими, программными и инструкционными задачами. Приведённые в карточке оценки ещё не завершены, поэтому качество по этим бенчмаркам оценить нельзя. Лицензия — Apache-2.0.

Thespis-CurtainCall-7b-v0.2.1 — экспериментальная разговорная модель на базе Mistral, опубликованная cgato. Автор описывает её как первую модель в серии экспериментов по улучшению своих моделей и отмечает, что работа ещё не завершена. Модель предназначена для генерации диалоговых ответов, следования инструкциям и рассуждений в чате. При дообучении использованы наборы Dolphin, UltraChat, Capybara, ToxicQA, OpenOrca, Airoboros 3.1 и другие, включая данные для задач по программированию, физическому рассуждению и теории разума. В README приведены шаблоны чата Oobabooga и SillyTavern. Это плотная MistralForCausalLM на 7,1 млрд параметров с контекстом до 32 768 токенов; репозиторий содержит веса PyTorch. Лицензия CC BY-NC 4.0 допускает использование с указанием авторства, но запрещает коммерческое применение. Автор предупреждает, что модель экспериментальная и ещё не завершена; карточка также помечена как устаревшая.

XwinCoder-13B — инструкция-настроенная модель генерации кода от Xwin-LM, дообученная на базе CodeLLaMA. Она предназначена для создания кода по текстовым инструкциям и запросам; авторы публикуют веса и код оценки. В карточке приведены результаты XwinCoder-13B на HumanEval, MBPP и APPS-intro: pass@1/5 соответственно 68,8, 60,1 и 35,4. Модель имеет плотную архитектуру LlamaForCausalLM с 12,9 млрд параметров, принимает текст и генерирует текст, а заявленная длина контекста составляет 16 384 токена. В метаданных указан формат PyTorch и лицензия Llama 2. README описывает её как instruction fine-tune CodeLLaMA, поэтому для использования следует соблюдать условия лицензии Llama 2.

Ziya-Coding-34B-v1.0 — языковая модель для генерации кода, разработанная командой Fengshenbang исследовательского института IDEA. Это плотная авторегрессионная модель семейства LLaMA с 33,5 млрд параметров и контекстом 16 384 токена; она работает через Transformers и принимает текстовые инструкции на китайском и английском языках, выдавая текст, в том числе программный код. Модель дообучена в два этапа на примерно 450 тысячах инструкций по программированию, затем дополнительно настроена на 46 тысячах сложных инструкций с фильтрацией по компиляции и проверкой unit-тестами. Модель предназначена для генерации кода по естественно-языковому описанию и решения разнообразных задач программирования. В README приведён результат 75,5% pass@1 на HumanEval при жадной генерации; это оценка на конкретном бенчмарке и не гарантирует корректность кода в реальном проекте. Репозиторий содержит веса PyTorch, а лицензия — GPL-3.0.

AndesVL-2B-Thinking — мультимодальная языковая модель из линейки AndesVL, разработанной для эффективного запуска на мобильных и периферийных устройствах. Она построена на языковой модели Qwen3-1.7B и визуальном энкодере AIMv2-Large; общий размер составляет около 2,055 млрд параметров. Модель принимает изображения и текст и предназначена для диалоговых задач с визуальным вводом, включая ответы на вопросы по изображениям, анализ нескольких изображений, рассуждения, работу с насыщенными текстом изображениями и интерфейсами GUI. В карточке описаны оптимизация для edge-развёртывания и семейная архитектура «1+N» LoRA с фреймворком QALFT для адаптации задач и сжатия. Для конкретного чекпойнта указана лицензия Apache-2.0. В метаданных Hugging Face основная задача помечена как image-text-to-text; также отмечена поддержка text-generation. Заявленные характеристики относятся к линейке AndesVL и не содержат отдельных результатов бенчмарков именно для версии 2B-Thinking.

BAAI/AquilaCode-multi — модель генерации текста из семейства Aquila, опубликованная BAAI. В карточке указаны версия v0.9 и файлы AquilaCode-mutil; README описывает Aquila как двуязычную китайско-английскую языковую модель, обученную с нуля, а семейство — как основанное на архитектурных решениях GPT-3 и LLaMA. По метаданным эта модель имеет плотную архитектуру Aquila, около 6,9 млрд параметров и контекст до 2048 токенов. Модель предназначена для генерации текста и задач с кодом в нескольких языках программирования. README не уточняет полный перечень языков программирования и не приводит отдельные показатели качества именно AquilaCode-multi. Метаданные указывают формат PyTorch и задачу text-generation. Для весов действует лицензия BAAI Aquila Model License Agreement; коммерческое использование допускается при соблюдении её ограничений.

CodeFuse-QWen-14B — языковая модель для генерации кода, выпущенная командой CodeFuse и дообученная методом QLoRA на базе QWen-14B на нескольких задачах, связанных с кодом. Она предназначена для генерации и продолжения кода по запросу в формате диалога. Модель построена на плотной архитектуре QWen и содержит 21,8 млрд параметров; размер 14B в названии карточки расходится с этим числом из метаданных. Контекст составляет 8192 токена. README сообщает результат 48,78% pass@1 на HumanEval при жадном декодировании. Карточка описывает многоязычные задачи с кодом, но конкретные языки программирования не перечисляет. Для запуска README указывает PyTorch, Transformers 4.32.0, SentencePiece и CUDA 11.4. Лицензия в метаданных обозначена как other, поэтому конкретные условия следует сверить с файлами лицензии репозитория.

Salesforce CodeGen-Multi 2B — авторегрессионная плотная языковая модель для синтеза программного кода. Чекпойнт содержит 2 млрд обучаемых параметров и создан на архитектуре CodeGenForCausalLM; для работы использует библиотеку Transformers и формат PyTorch. Вариант Multi сначала инициализировали из CodeGen-NL 2B, затем дополнительно обучили на 119,2 млрд токенов из набора BigQuery с кодом из GitHub на C, C++, Go, Java, JavaScript и Python. Модель предназначена прежде всего для генерации исполняемого кода по подсказкам на английском языке, обычно оформленным как комментарий, а также для продолжения частично написанного кода. Она принимает текстовые подсказки и выдаёт текст, включая код; максимальная длина контекста составляет 2048 токенов. Модель обучена на нескольких языках программирования, но README не заявляет поддержку русского языка как языка естественных запросов. Модель оценивали на HumanEval и MTPB. Это выпуск для исследовательского применения; точность, безопасность и справедливость не оценивались для всех возможных сценариев, поэтому сгенерированный код следует проверять. Лицензия — BSD 3-Clause.

Модель Damerajee представляет собой дообученную версию CodeLlama-7b-hf на наборе инструкций по программированию Python iamtarun/python_code_instructions_18k_alpaca. Это плотная авторегрессионная модель семейства Llama с 6,6 млрд параметров, предназначенная для генерации текста в ответ на инструкции, в том числе для задач с кодом Python. Контекст модели составляет 16 384 токена. Модель может помогать генерировать фрагменты кода и отвечать на инструкции по Python. Карточка содержит значения training loss на ранних шагах обучения, но не даёт подробных результатов оценки качества. Использование распространяется по лицензии Llama 2.

CodeSearch-ModernBERT-Crow-Plus-1.0 — модель эмбеддингов на базе Sentence Transformers, разработанная Shuu12121 на основе Shuu12121/CodeModernBERT-Crow. Она предназначена для поиска фрагментов кода по текстовому запросу и обучена для работы с кодом на Python, PHP, Java, JavaScript, Go, Ruby и Rust. Модель использует архитектуру ModernBERT, содержит 151,6 млн параметров и поддерживает контекст до 8192 токенов. В версии 1.0 к обучающим данным добавлены очищенные наборы PHP и Go. Автор приводит внутренние оценки на CodeSearchNetRetrieval и COIRCodeSearchNetRetrieval, но результаты не являются официальными оценками MTEB. Модель оптимизирована для поиска кода на уровне функций; для очень больших файлов и неполного кода результаты могут быть менее надёжными. Распространяется по лицензии Apache-2.0.

miulab/llama2-7b-oss-instruct — англоязычная плотная авторегрессионная модель семейства Llama 2, дообученная на наборе Magicoder-OSS-Instruct-75K. Она служит основой кодовой модели, использованной в исследовании DogeRM, и предназначена для генерации текста в формате инструкций и диалога, в том числе для задач, связанных с кодом. Модель содержит 6,6 млрд параметров, построена на архитектуре LlamaForCausalLM и рассчитана на контекст до 4096 токенов. Модель опубликована исследовательской группой, указанной в статье DogeRM; README направляет к статье за подробностями обучения и оценки. Репозиторий распространяется в формате Safetensors по лицензии Apache-2.0. Карточка не приводит результатов бенчмарков или подробного описания ограничений; качество на конкретных задачах программирования следует проверять отдельно.

MergeBench опубликовала эту текстовую авторегрессионную модель для генерации кода и других текстовых продолжений. По метаданным, это плотная модель семейства Llama с архитектурой LlamaForCausalLM и 3,2 млрд параметров; репозиторий содержит веса Safetensors и использует Transformers. Карточка Hugging Face автоматически сгенерирована и не уточняет обучение, языки, контекст или лицензию. Название и принадлежность к коллекции моделей Llama-3.2-3B указывают на кодовую специализацию, но подробности о её качестве и ограничениях не приведены.

MiMo-V2.6-Pro-MOPD — мультимодальная модель Xiaomi для диалогов и агентных сценариев с вызовом инструментов. Это обновлённый методом MOPD чекпойнт MiMo-V2.6-Pro-RL: несколько специализированных моделей-учителей дистиллированы в одну, в том числе для задач, где трудно задать надёжную автоматическую проверку. Обновление также снижает повторные и похожие вызовы инструментов. В README описана разреженная MoE-архитектура с 1,02 трлн общих и 42 млрд активируемых параметров, контекстом до 1 млн токенов и поддержкой текста, изображений, видео и аудио. Модель рассчитана на многошаговую работу с инструментами, длинные сценарии разработки игр, научные исследования и задачи воплощённого интеллекта; среди возможностей также указаны чат и интерфейс вызова инструментов. Метаданные Hugging Face указывают 27,7 млрд параметров и файлы safetensors в FP8, что расходится с архитектурными числами в README. В карточке указаны английский и китайский языки. Для развёртывания README приводит рецепты SGLang и vLLM; для рекомендованной конфигурации vLLM указаны восемь устройств tensor parallelism. Модель распространяется по лицензии MIT.

Ar86Bat разработал многоязычную модель на базе XLM-RoBERTa Base, дообученную для распознавания именованных сущностей, содержащих персональные данные, в тексте. Она определяет такие данные, как имена, адреса, даты, электронная почта и номера телефонов, чтобы их можно было маскировать в приложениях для защиты конфиденциальности. Модель принимает текст на английском, немецком, французском и итальянском языках; размер составляет 305,2 млн параметров, контекст — до 514 токенов. Распространяется в формате safetensors по лицензии MIT. В карточке указаны общая точность 99,24%, macro F1 0,954 и weighted F1 0,992. Для распространённых сущностей, включая электронную почту и даты, результаты высокие; для редких и неоднозначных типов данных качество ниже. Модель не гарантирует полноту и точность обнаружения таких сущностей без дополнительной настройки.

OpenCSG-CodeLlama-34b-v0.1 — созданная сообществом OpenCSG модель генерации кода, полученная полнопараметрической донастройкой CodeLlama-34b-hf. Это плотная авторегрессионная модель семейства Llama с 33,5 млрд параметров и контекстом до 16 384 токенов; опубликованные веса представлены в формате safetensors. Модель предназначена для генерации и дополнения программного кода. Её можно применять для написания функций по описанию, продолжения фрагментов кода и решения задач программирования; в карточке указано, что обучающие данные охватывают несколько языков программирования, хотя отдельные языки не перечислены. README приводит оценку серии на HumanEval, но показанный фрагмент не содержит результатов именно версии 34B. Модель распространяется по лицензии Llama 2. Результаты генерации зависят от промпта и параметров декодирования; представленных в карточке оценок недостаточно, чтобы судить о качестве версии 34B на разных практических задачах.

phixtral-4x2_8 — языковая модель на архитектуре Mixture of Experts, созданная Mlabonne путём объединения четырёх моделей Microsoft Phi-2 по мотивам Mixtral-8x7B. В конфигурацию вошли cognitivecomputations/dolphin-2_6-phi-2, lxuechen/phi-2-dpo, Yhyu13/phi-2-sft-dpo-gpt4_en-ep1 и mrm8488/phi-2-coder; маршрутизация экспертов использует режим cheap_embed. Модель предназначена для генерации текста, диалогов и кода на английском языке. В README приведено сравнение с отдельными моделями Phi-2 на наборе Nous suite: средний результат phixtral-4x2_8 составил 47,7; условия тестирования описаны кратко, поэтому эти цифры не гарантируют аналогичное качество в других задачах. Контекст — 2048 токенов. Репозиторий содержит веса Safetensors, а лицензия — MIT. В README также упомянута возможность запуска в 4-битной точности на GPU T4.

Qwen3.8-Flash-Next-Uncensored-REAP288-MTP-MLX-4bit — неофициальная экспериментальная производная модели Qwen3.8-Flash-Next, подготовленная сообществом butterf1ying для локального запуска на компьютерах Apple Silicon с 64 ГБ unified memory. Модель предназначена для генерации текста, программирования, экспериментов с coding-agent, исследований длинного контекста и оценки нативного speculative decoding через MTP. Поддерживаются английский и китайский языки. Модель использует архитектуру qwen4_exp с разреженным MoE-трансформером: 48 языковых слоёв, hidden size 2560, гибридное linear/full attention, 288 маршрутизируемых экспертов на слой и активацию top-10 экспертов совместно с shared expert. Применены MLX affine 4-bit quantization с group size 64 и 4-битное квантование N-gram-таблицы с group size 32. Таблица размером около 29,8 ГиБ отображается с SSD через memory mapping. В составе сохранена нативная однос layer MTP head, заявлена поддержка контекста до 262 144 токенов, а общий размер пакета составляет около 71,67 ГиБ. Мультимодальные vision-веса включены, но работа vision-пути для этой сборки не подтверждена. Сильными сторонами являются возможность запуска крупной MoE-модели на совместимой системе Apple Silicon, уменьшенный за счёт REAP-288 объём экспертов, поддержка локального OpenAI-compatible API и нативного MTP. К ограничениям относятся экспериментальный статус, отсутствие формальной оценки качества и степени снижения отказов, зависимость от mlx-serve и SSD, а также непроверенная мультимодальная функциональность. Сборка тестировалась на Apple M1 Max с 64 ГБ памяти и mlx-serve 26.8.11; приведённые результаты подтверждают загрузку и работу MTP, но не являются общим бенчмарком производительности. Указана лицензия qwen-community-license-1.0.

hreyulog/qwen3-arkts — текстовая модель эмбеддингов на архитектуре Qwen3, обученная в формате Sentence Transformers. Она преобразует предложения и абзацы в нормализованные плотные векторы размерности 1024, предназначенные для поиска и сравнения текстов по косинусному сходству. Модель принимает текст; README указывает максимальную длину последовательности 512 токенов, а метаданные — контекстное окно 32 768 токенов. Модель обучена на 49 864 парах текстов с использованием CachedMultipleNegativesRankingLoss. Примеры данных связывают описания функций с фрагментами кода, что указывает на применение для семантического поиска по коду и документации. В метаданных указано 507,6 млн параметров и формат safetensors. Лицензия в предоставленных данных не указана.

Qwen3-VL-4B-Instruct-NPU — мультимодальная модель на 4 млрд параметров от команды Qwen компании Alibaba Cloud, подготовленная для запуска на Qualcomm NPU через NexaSDK. Это вариант Qwen3-VL-4B-Instruct с инструкционной настройкой и файлом GGUF в формате F16. Модель принимает текстовые запросы и изображения, а также понимает видеоконтекст; отвечает текстом в диалоге, объясняет визуальные сцены и анализирует документы, диаграммы и снимки экрана. Подходит для визуальных помощников, описания изображений, вопросов по визуальным материалам и мультиязычных сценариев. README заявляет поддержку нескольких языков, но не перечисляет их по отдельности. Размер 4 млрд параметров рассчитан на более компактный запуск на устройствах. Конкретная длина контекста и лицензия в предоставленных сведениях не указаны.