II.4Отладка, тестирование и качество ПО

jasperan/embeddinggemma-code-search — дообученная модель эмбеддингов на базе google/embeddinggemma-300m для семантического поиска по коду. Она обучалась на graded retrieval traces из сессий coding-агента: запросы на естественном языке сопоставлялись с фрагментами кода, размеченными по степени релевантности. Модель предназначена для поиска нужных функций и фрагментов в кодовой базе по описанию задачи или намерения. Модель использует плотную текстовую архитектуру Gemma 3 и библиотеку Sentence Transformers; содержит 302,8 млн параметров и принимает до 2048 токенов. Поддерживает Matryoshka-эмбеддинги с усечением до 128, 256 или 768 измерений, что позволяет выбирать баланс между качеством поиска и стоимостью индекса. В README приведены результаты на отложенных запросах по recall@5: после дообучения качество выросло на всех указанных размерностях, особенно при усечении до 128 измерений. Модель принимает текстовые запросы и фрагменты кода и выдаёт эмбеддинги для поиска по близости; метаданные также указывают задачу sentence-similarity. README описывает эксперимент на одной реальной Python-кодовой базе и не подтверждает качество на других корпусах или языках программирования. Лицензия — Gemma.

Fijik 2.0 350M SFT — компактная языковая модель Pinkstack для генерации текста и диалогов на устройствах с ограниченными ресурсами. Она основана на Granite 4.0 350M Base и имеет архитектуру GraniteMoeHybrid; по описанию автора, это вариант без слоёв Mamba. Модель содержит около 352,3 млн параметров, работает с контекстом до 65 536 токенов с масштабированием YaRN и распространяется в формате safetensors. Модель предназначена для быстрого инференса на периферийных устройствах и поддерживает сценарии с агентными задачами, рассуждениями и вызовом инструментов через шаблон чата. Обучение включало непрерывное предобучение и supervised fine-tuning на смешанных данных, включая диалоги, код, веб-поиск и использование инструментов. Внутренние сравнительные тесты автора показывают конкурентные результаты среди моделей схожего размера, но метрики приведены как pass@4 и не являются независимой оценкой. Модель не проходила RLHF; автор сообщает о настройке безопасности в ходе SFT и рекомендует задавать системную инструкцию для ответов при недостатке информации. Лицензия — Apache-2.0. Она может уступать более крупным моделям, а сам автор отмечает слабые результаты на математических задачах.

prithivMLmods/gemma-4-31B-it-Uncensored-MAX-MLX — версия Gemma 4, подготовленная prithivMLmods для запуска через MLX на компьютерах Apple Silicon. Это плотная модель условной генерации с архитектурой Gemma4ForConditionalGeneration и 31 млрд параметров; метаданные указывают поддержку изображений и текста, а карточка описывает её как инструкционную модель для подробных ответов, рассуждений и следования сложным запросам. В README заявлены анализ направлений отказа и их ослабление с помощью abliteration-based методов, а также сохранение навыков исходной модели. Модель предназначена для локального инференса, исследований отказов и выравнивания, red-team-экспериментов и прототипирования. Карточка указывает лицензию Apache-2.0. Модель намеренно реже отказывает на запросы, поэтому может выдавать чувствительный или откровенный контент; результаты следует проверять. Размер 31B требует значительных вычислительных ресурсов, хотя MLX оптимизирует запуск на Apple Silicon. README позиционирует её для исследований и обучения и подчёркивает ответственность пользователя за применение.

Gemma 4 E2B-it-qat-JANG_4M-CRACK — дообученная и квантизированная мультимодальная модель dealignai на базе google/gemma-4-e2b-it. Она использует плотную архитектуру Gemma 4 с гибридным скользящим и глобальным вниманием и рассчитана на запуск через vMLX на компьютерах Apple Silicon. Квантизация JANG_4M сочетает 8-битные веса внимания и 4-битные веса MLP; средняя точность составляет около 4,3 бита. Модель принимает текст, изображения и аудио, поддерживает диалог, рассуждения, ответы на фактические вопросы и генерацию кода. В README заявлены результаты MMLU 60,1% (на 1,7 процентного пункта ниже базовой модели) и полное выполнение запросов вредоносных категорий в тесте HarmBench; автор описывает это как удаление отказов при сохранении возможностей. Это делает модель непригодной для сценариев, где важно сдерживание опасных запросов. Для запуска требуется vMLX с поддержкой Gemma 4 и достаточно памяти. Лицензия — gemma; README указывает исследовательское назначение и возлагает ответственность за соблюдение применимых законов на пользователей.

LateOn-Code-edge — компактная модель для поиска по коду из семейства LateOn-Code, разработанная LightOn на базе PyLate. Это late-interaction модель семейства ColBERT с архитектурой ModernBERT; по карточке, она основана на варианте Ettin-17M из семейства edge-colbert компании mixedbread и дообучена для поиска кода. Модель содержит 16,8 млн параметров, принимает текстовые запросы и фрагменты кода и формирует многовекторные представления для поиска и ранжирования. Максимальная длина контекста — 7 999 токенов. Модель предназначена для поиска фрагментов кода по запросам на естественном языке или по коду, а также для ранжирования результатов первичного поиска. В README описаны сценарии индексации и извлечения документов с PyLate и FastPLAID, а также оценки на CodeSearchNet для Python, JavaScript, Go, Ruby, Java и PHP. Она оптимизирована для эффективности и небольшого размера, но приведённые результаты относятся к конкретным наборам данных и не гарантируют качества на других языках программирования или корпусах. Лицензия — Apache-2.0.

DavidAU разработал эту текстовую модель генерации на архитектуре Mixtral с четырьмя экспертами в конфигурации MoE. По README, эксперты основаны на Llama 3.1 DeepHermes 3 8B Preview, Llama 3.1 Hermes 3 8B, Llama 3.1 Dolphin 2.9.4 8B и Llama 3.1 SuperNova Lite; метаданные указывают 7,5 млрд параметров, а карточка описывает её как модель «32B (4×8B)». Модель предназначена для диалогов, рассуждений, решения задач, творческого письма и ролевых сценариев; предусмотрен интерфейс вызова инструментов. Она принимает текст и выдаёт текст, поддерживает контекст до 131 072 токенов и требует шаблон Llama 3 Instruct. Для включения рассуждений README рекомендует задавать системный промпт. Карточка советует использовать достаточно длинные инструкции и высокую температуру генерации. Указанные автором улучшения скорости и качества рассуждений не сопровождаются в карточке независимыми результатами оценки. Лицензия — Apache-2.0.

Llama-3-Patronus-Lynx-8B-Instruct-i1-GGUF — это набор квантизированных файлов модели PatronusAI Llama-3-Patronus-Lynx-8B-Instruct, подготовленный пользователем mradermacher. Модель предназначена для генерации текста и задач оценки, включая обнаружение галлюцинаций. Доступна в формате GGUF и рассчитана на использование с совместимыми локальными средствами запуска. Модель имеет около 8 миллиардов параметров и поддерживает английский язык. В репозитории представлены варианты квантизации IQ и K различных уровней, размером примерно от 2,1 до 6,7 ГБ. Они позволяют выбирать компромисс между размером файла, скоростью работы и качеством; README рекомендует вариант i1-Q4_K_M как быстрый и сбалансированный. Более сильная квантизация обычно требует больше памяти, а низкобитные варианты могут заметно снижать качество. Лицензия — CC BY-NC 4.0, поэтому использование ограничено её условиями, включая некоммерческий характер лицензии. Архитектура, максимальная длина контекста, поддерживаемые модальности помимо текста и результаты количественных оценок в README не указаны.

Карточка модели mahiatlinux/MasherAI-7B-v3 на Hugging Face совпадает с карточкой mahiatlinux/MasherAI-7B-v1, поэтому описание составлено по ней. MasherAI-7B-v1 — диалоговая языковая модель, разработанная mahiatlinux и дообученная на openchat/openchat-3.5-0106. Модель построена на плотной архитектуре Mistral и содержит 7,1 млрд параметров; для обучения использовались Unsloth и TRL. Модель предназначена для генерации текста в формате диалога: её можно применять для общения, ответов на вопросы и помощи с программированием и математическими рассуждениями — эти возможности описаны для базовой модели OpenChat. Поддерживаемый язык карточки — английский, длина контекста составляет 8192 токена. Модель распространяется в форматах PyTorch и Safetensors по лицензии Apache-2.0. Карточка не приводит отдельной оценки качества или подробных ограничений MasherAI-7B-v1.

Ouro-1.4B-Thinking-depth-SFT — дообученная разговорная языковая модель примерно с 1,3 млрд параметров, основанная на ByteDance/Ouro-1.4B-Thinking. Она использует плотную архитектуру Ouro для генерации текста и ответов с рассуждениями; карточка задаёт параметр глубины DEPTH=16. Модель рассчитана на диалоги и задачи, где полезны пошаговые рассуждения, включая математику, науку и код. Она принимает текст и выдаёт текст, поддерживает контекст до 65 536 токенов и предназначена для использования через Transformers. Модель опубликована под лицензией Apache-2.0. Доступная карточка содержит мало сведений о данных и результатах обучения, поэтому качество на конкретных задачах и языках по ней оценить нельзя.

Карточка модели Tubing/Qwen3.5-9B-abliterated на Hugging Face совпадает с карточкой lukey03/Qwen3.5-9B-abliterated, поэтому описание составлено по ней. Qwen3.5-9B-abliterated — текстовая диалоговая модель на архитектуре Qwen3.5, созданная lukey03 на основе Qwen/Qwen3.5-9B. Автор удалил часть поведения отказа ортогональной проекцией весов, затем применил QLoRA-дообучение и объединил адаптер с основными весами. В репозитории указано 7,2 млрд параметров, архитектура dense и контекст длиной 262 144 токена; модель распространяется в формате safetensors и рассчитана на работу через Transformers. Модель предназначена для генерации ответов в диалоге, включая запросы, на которые исходная модель отказывалась отвечать. В README также приведены примеры рассуждений, математики и программирования, но основная задача в каталоге — генерация текста. Карточка сообщает о тестировании на 18 запросах, однако это небольшой набор и результаты не гарантируют качество на других задачах. Удаление отказов означает, что модель может выдавать вредоносный, опасный или откровенный контент. Лицензия — Apache-2.0.

junafinity/Qwen-3.8-27B-Uncensored-8-Bit-MLX — мультимодальная модель семейства Qwen, разработанная junafinity. Это 8-битная MLX-квантизация модели Qwen-3.8-27B-Uncensored для локального запуска на компьютерах Apple Silicon через MLX и mlx-vlm. Модель предназначена для генерации текста, анализа изображений и текстово-визуальных сценариев, включая исследовательское red teaming и оценку защитных механизмов кибербезопасности. Модель содержит языковую часть размером 27B параметров, квантизированную в 8 бит с affine-квантизацией и размером группы 64; итоговый размер на диске составляет около 28 ГБ. Vision tower оставлен в формате bf16 без квантизации, поэтому поддерживается обработка изображений. Указанные языки и размер контекста в README не приведены. Голова mtp.* удалена при конвертации в mlx-vlm, поэтому нативный MTP недоступен. Это прямое редактирование весов текстового декодера методом ZeroFuse, а не дообучение. Сильные стороны модели — возможность локального мультимодального запуска на большинстве компьютеров с чипами Apple M и снижение требований к дисковому пространству по сравнению с родительской bf16-версией. Модель не является скоростной версией: показатели токенов в секунду и пикового потребления памяти для неё не указаны. Abliteration снижает часть отказов, но не гарантирует их полного отсутствия; перед публичным развёртыванием необходим независимый слой модерации. Модель распространяется по лицензии Apache-2.0.

SmolLM2-1.7B-Instruct-GGUF — компактная языковая модель для генерации текста и выполнения инструкций, разработанная HuggingFaceTB. Эта версия представляет собой GGUF-квантизацию оригинальной модели SmolLM2-1.7B-Instruct, подготовленную bartowski на основе llama.cpp. Модель предназначена для диалоговых сценариев, генерации текста и других задач обработки естественного языка, где важны умеренные требования к ресурсам. Она обучалась на наборе данных объёмом 11 триллионов токенов, поддерживает контекст до 8192 токенов и заявлена для английского языка. Размер модели — 1,7 миллиарда параметров. К сильным сторонам относятся компактность и формат GGUF, подходящий для использования с совместимыми инструментами экосистемы llama.cpp. Ограничениями являются меньший размер по сравнению с крупными языковыми моделями, заявленная поддержка только английского языка и возможные неточные, вредные или неподходящие ответы. Модель распространяется по лицензии Apache 2.0.

kingabzpro/wav2vec2-large-xls-r-1b-Swedish — дообученная на шведской части Common Voice модель распознавания речи на базе facebook/wav2vec2-xls-r-1b. Это плотная архитектура Wav2Vec2ForCTC с 1,3 млрд параметров, принимающая аудио и выдающая распознанный текст на шведском языке. Модель предназначена для автоматической транскрипции шведской речи. В оценке на тестовой выборке Common Voice 8.0 показатель WER составил 18,44 без языковой модели и 14,04 с языковой моделью; CER — соответственно 5,75 и 4,86. Для использования языковой модели требуется соответствующая внешняя языковая модель. Модель распространяется под лицензией Apache-2.0. Оценка приведена для Common Voice 8.0; качество на других наборах данных и в реальных акустических условиях может отличаться.

Bespoke-MiniCheck-7B — модель проверки фактов, разработанная Bespoke Labs и поддерживаемая Liyan Tang и Bespoke Labs. Она принимает документ и отдельное предложение-утверждение и определяет, подтверждается ли оно документом, выдавая метку 0 или 1. Для проверки утверждения из нескольких предложений его сначала нужно разбить на отдельные предложения. Модель дообучена на базе internlm/internlm2_5-7b-chat и использует архитектуру InternLM2 с 7,4 млрд параметров. Контекст составляет до 32 768 токенов; документы длиннее этого предела требуют разбиения. В README сообщается о высокой пропускной способности при запуске через vLLM, но результаты зависят от оборудования и сценария. Карточка указывает английский язык. Модель предназначена для проверки соответствия утверждений опорным документам; лицензия в предоставленных данных не описана.

stojchet/d5 — дообученная модель на 1,3 млрд параметров на основе deepseek-ai/deepseek-coder-1.3b-base, обученная на датасете generator. Она использует плотную архитектуру семейства Llama и предназначена для генерации и продолжения кода. Модель принимает текстовые запросы и выдаёт текст, включая фрагменты кода; контекст составляет до 16 384 токенов. Модель подходит для автодополнения кода и генерации кода по текстовому описанию. Репозиторий содержит веса в формате safetensors. Лицензия указана как other, поэтому конкретные условия использования следует проверять в карточке и сопутствующих документах модели.

Delta-P2S — слитый чекпойнт на архитектуре Qwen2.5, созданный с помощью экспериментального пакета Delta-P2S с учётом архитектуры Qwen. Модель содержит 14 млрд параметров, использует библиотеку Transformers и веса в формате safetensors; заявленное контекстное окно составляет 131 072 токена. Название и обучающие пути указывают на кодовую направленность эксперимента с Qwen, однако README не уточняет обучающие данные, языки программирования или конкретные сценарии. Модель поддерживает текстовую генерацию и чат. Она может применяться для генерации кода и диалоговых ответов, но качество для этих задач не описано. Лицензия в предоставленных данных не указана.

Fialka 7B v2.1 — русскоязычная языковая модель от 0x7o, дообученная следовать инструкциям и вести диалог. Она предназначена для генерации ответов и текста на русском языке; карточка указывает, что обучение версии 2.1 проводилось на наборах инструкций и диалогов. Модель основана на архитектуре Llama и содержит 6,6 млрд параметров. Она принимает текстовые запросы в формате Zephyr и генерирует текст. Контекст составляет 4096 токенов. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. В карточке автор отмечает, что более новая версия Fialka V3 генерирует русский текст точнее.

GarrulusMarcoro-7B-v0.1 — объединённая языковая модель, созданная с помощью LazyMergekit из udkai/Garrulus и mlabonne/NeuralMarcoro14-7B. Это плотная модель семейства Mistral с 7,1 млрд параметров; в репозитории веса представлены в формате Safetensors, а заявленная длина контекста составляет 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев. В README описано объединение методом SLERP с настройками для слоёв self-attention и MLP; приведены результаты Open LLM Leaderboard, включая оценки по AI2 Reasoning Challenge и HellaSwag. Лицензия — Apache-2.0. README не уточняет языки обучения, специальные предметные области или гарантии качества для конкретных сценариев. Результаты бенчмарков не гарантируют аналогичную точность на пользовательских задачах.

codegood/gemma-2b-it-Q4_K_M-GGUF — это конвертированная в формат GGUF версия инструкционной модели google/gemma-2b-it, разработанной Google. Репозиторий подготовлен с использованием llama.cpp и сервиса GGUF-my-repo. Модель предназначена для диалоговых и текстовых сценариев, включая ответы на вопросы и локальный запуск через llama.cpp в командной строке или в режиме сервера. Модель имеет размер 2B параметров и использует квантизацию Q4_K_M, что уменьшает требования к памяти по сравнению с полноразмерными весами, но может снижать точность по сравнению с неквантизированной версией. В README приведён пример контекста 2048 токенов для сервера; другие характеристики, включая поддерживаемые языки, максимальный контекст и результаты оценки, не указаны. Ключевое преимущество — возможность относительно компактного локального развертывания в экосистеме llama.cpp. Ограничения связаны с небольшим размером модели и потерями от квантизации. Для использования требуется принять лицензию Google Gemma на Hugging Face; конкретные условия лицензии следует уточнять в оригинальной карточке модели.

Hemlock-Tincture-14B-i1-GGUF — это квантизированная версия текстовой генеративной модели Hemlock-Tincture-14B, разработанной nbeerbower и преобразованной в формат GGUF пользователем mradermacher. Модель обучалась с использованием наборов данных Hemlock2-DPO, hemlock-codex-SFT и hemlock-formulary-SFT, что указывает на применение методов DPO и SFT для улучшения следования инструкциям и работы с текстом. Модель предназначена для генерации текста на английском языке и может использоваться в локальных сценариях через совместимые с GGUF инструменты. Указан размер базовой модели 14B, однако сведения о конкретной архитектуре, длине контекста, поддерживаемых модальностях и точных функциональных возможностях отсутствуют. Доступны варианты квантизации от i1-IQ1_S до i1-Q6_K с размером файлов примерно от 3,7 до 12,2 ГБ; варианты различаются балансом между качеством, скоростью и требованиями к памяти. К сильным сторонам относятся широкий выбор вариантов квантизации и возможность локального запуска, а также обучение на специализированных наборах данных для диалоговых и кодовых сценариев. Ограничения включают работу только с текстом, заявленную поддержку английского языка и потенциальное снижение качества у наиболее компактных вариантов квантизации. Лицензия в README не указана, поэтому условия использования необходимо уточнять отдельно.

Huihui-Qwen3.5-397B-A17B-abliterated-GGUF — это GGUF-версия модели Qwen3.5-397B-A17B, созданная разработчиком huihui.ai с применением abliteration — экспериментальной процедуры удаления отказов модели. Модель относится к мультимодальному классу image-text-to-text и предназначена для обработки текста и изображений, включая диалоговые сценарии, рассуждения и задачи с использованием инструментов через llama.cpp. Модель имеет размер 397B параметров и архитектуру на базе Qwen3.5-397B-A17B; в идентификаторе базовой модели также указано обозначение A17B. README упоминает поддержку режима рассуждений, tool calling и контекста до 262144 токенов при запуске с llama-server. Данные о поддерживаемых языках и точном наборе модальностей не приведены. Распространение выполнено в формате GGUF, включая варианты квантования Q3_K, состоящие из нескольких частей, которые требуется объединить перед использованием. Главная особенность модели — значительно сниженная фильтрация безопасности и уменьшенное количество отказов, что может быть полезно для исследований и контролируемого тестирования, но повышает риск чувствительных, спорных или неприемлемых ответов. Модель не рекомендуется для публичных и высокорисковых производственных сценариев без постоянного мониторинга и ручной проверки результатов. Указана лицензия Apache-2.0; при использовании необходимо также учитывать юридические и этические требования.

InternLM JanusCoder-8B-GGUF — это набор квантованных моделей в формате GGUF, созданный пользователем bartowski на основе JanusCoder-8B от разработчика internlm. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Модель имеет размер 8B параметров; доступны версии от BF16 до различных вариантов квантования Q8, Q6, Q5, Q4, Q3 и Q2. Размер файлов составляет примерно от 3,77 до 16,39 ГБ в зависимости от формата, что позволяет выбирать между качеством вывода и требованиями к памяти. Для квантования использовался llama.cpp с методом imatrix. В README не указаны поддерживаемые языки, размер контекста, мультимодальные возможности и точные специализации JanusCoder-8B, поэтому область применения можно описать только в общем виде как генерацию текста. Сильной стороной набора является широкий выбор квантований для локального запуска: высококачественные варианты Q6_K_L и Q6_K отмечены как близкие к исходному качеству, а Q4_K_M рекомендован как сбалансированный вариант для большинства сценариев. Более компактные версии подходят для систем с ограниченным объёмом оперативной памяти, но обеспечивают более низкое качество. Шаблон чата в README не задан и может требовать проверки по исходной карточке модели. Лицензия в предоставленных данных не указана.

English Anonymiser OpenPII — англоязычная модель Ai4Privacy для обнаружения и редактирования персональных данных (PII) в тексте. Это дообученная для токенной классификации модель ModernBERT-base с 149 млн параметров, рассчитанная на контекст до 8192 токенов; доступны веса Safetensors и формат ONNX. Модель обучена на английской части набора ai4privacy/open-pii-masking-500k-ai4privacy. Модель помечает фрагменты текста, содержащие PII, чтобы их можно было удалить или скрыть. В тесте на отложенной выборке исходного набора заявлены общие точность 99,17%, precision 98,82%, recall 98,83% и F1 98,82%; результаты на реальных данных могут отличаться. По карточке, модель предназначена для редактирования PII и не выполняет полноценную классификацию PII. Перед применением на собственных данных её следует проверить. Распространяется по лицензии MIT.

benjamintli/modernbert-code — модель Sentence Transformers, созданная дообучением answerdotai/ModernBERT-base на наборе code-retrieval-combined. Она преобразует текстовые запросы и фрагменты кода в плотные векторы размерностью 768 и подходит для семантического поиска и сопоставления запросов с релевантным кодом. В README указана максимальная длина последовательности 1024 токена; метаданные каталога указывают контекст до 8192 токенов, поэтому фактическую длину входа следует сверять с конфигурацией используемого чекпойнта и библиотеки. Для сравнения векторов рекомендуется косинусное сходство. Модель основана на encoder-only архитектуре ModernBERT, содержит 149 млн параметров и распространяется в формате safetensors. Основные сценарии — поиск кода по текстовому описанию, семантический поиск и ранжирование кандидатов по близости к запросу, а также поиск похожих текстов и кластеризация. В README приведены результаты оценки поиска информации, однако они относятся к указанному в карточке набору оценки. Модель не генерирует код или ответы: она выдаёт векторы для последующего сравнения. Лицензия в предоставленных данных не указана.

Pretergeek/OpenChat-3.5-0106_8.11B_36Layers-Appended — диалоговая языковая модель на архитектуре Mistral, созданная на основе openchat/openchat-3.5-0106. Разработчик добавил новые слои в конец модели методом passthrough merge с применением идеи расширения блоков из работы LLaMA Pro; README сообщает, что после этого модель не проходила дополнительное обучение. В карточке Hugging Face указаны 8 млрд параметров и контекст 8192 токена. Модель предназначена для генерации текста в диалоге и может использоваться для ответов на общие вопросы, программирования и математических рассуждений — эти сценарии унаследованы от базовой модели OpenChat. Поскольку новые слои не обучались, автор ожидает поведение, близкое к исходной модели; улучшение рассуждений описано как гипотеза, а не подтверждённый результат. Модель распространяется по лицензии Apache-2.0. В README приведены результаты оценивания, но они сами по себе не подтверждают заявленное улучшение качества после добавления слоёв.

OPSD-PI Qwen3.5-9B Strong Trailing — публичная объединённая версия модели Qwen3.5-9B после 32 обновлений оптимизатора в экспериментальном обучении на 1024 примерах Strong PI с режимом trailing_user. Репозиторий содержит объединённую инициализацию expert-SFT, обновления LoRA основной модели и MTP, а также непосредственно обученные тензоры MTP; для загрузки не требуется отдельный адаптер или этап слияния. Модель загружается через Transformers и предназначена для генерации текста в диалоговых сценариях и задачах с кодом. Это ранний экспериментальный чекпойнт, опубликованный после ограниченного числа шагов обучения, поэтому его качество и обобщение следует проверять на отложенных задачах, а не по 1024 обучающим примерам. README не сообщает лицензию, точный контекст или перечень поддерживаемых естественных языков. Метаданные указывают архитектуру Qwen3.5 dense и формат safetensors; основная задача по карточке — генерация текста.

RedHatAI/Qwen2.5-0.5B-Instruct-FP8-dynamic — это FP8 dynamic-квантизованный вариант небольшой instruction-tuned языковой модели Qwen2.5-0.5B-Instruct. Репозиторий опубликован Red Hat AI, а исходную серию Qwen2.5 разработала команда Qwen компании Alibaba Cloud. В карточке конкретного репозитория указано отсутствие отдельного model card; поэтому сведения о назначении и характеристиках относятся к базовой модели Qwen2.5-0.5B-Instruct и формату представленных весов. Модель предназначена для генерации и понимания текста по инструкциям, диалогов, ответов на вопросы, простых задач рассуждения, математики и программирования, а также для запуска в ресурсно-ограниченных и edge-сценариях. Это decoder-only dense Transformer с примерно 0,49 млрд параметров, 24 слоями, 14 attention heads и 2 key-value heads; поддерживаются контекст до 32K токенов и генерация до 8K токенов. Модель работает с текстом и относится к многоязычным моделям Qwen2.5; точный перечень языков для этой FP8-версии в доступной карточке не указан. Ключевые сильные стороны — небольшой размер, пригодность для локального и edge-развёртывания, instruction-following и повышенные относительно предыдущей версии показатели на задачах математики, программирования и следования инструкциям. Ограничения связаны с малым числом параметров: модель рассчитана на лёгкие и менее сложные задачи и не предназначена для уровня качества более крупных LLM; конкретные ограничения и результаты именно FP8 dynamic-варианта в его репозитории не приведены. Для базовой Qwen2.5-0.5B указана лицензия Apache 2.0; FP8 dynamic-веса используют типы BF16 и F8_E4M3.

Qwen3-0.6B-RKNN3-RK1828 — компактная языковая модель семейства Qwen3, подготовленная для запуска на устройстве Rockchip RK1828 через LlamaPi. Это плотная причинная модель с 507,9 млн параметров и контекстом до 40 960 токенов; репозиторий содержит файлы GGUF. Модель основана на Qwen/Qwen3-0.6B, разработанной командой Qwen, и поддерживает режимы с рассуждением и без него. Модель предназначена для генерации текста и диалогов, следования инструкциям, рассуждений и задач программирования. Она поддерживает более 100 языков и диалектов, а также интерфейс вызова инструментов. Для запуска описан LlamaPi, который загружает и выполняет модель командой llamapi run qwen3:0.6b. Модель распространяется по лицензии Apache-2.0. Небольшой размер удобен для локального запуска на целевом устройстве, но её возможности и качество ограничены масштабом модели; в карточке нет сравнительных оценок или гарантий точности.

unsloth/Qwen3-1.7B-Base-unsloth-bnb-4bit — 4-битная версия базовой языковой модели Qwen3-1.7B-Base, разработанной командой Qwen. Модель относится к causal language models и предназначена для предобучения, генерации и продолжения текста, а также для адаптации под прикладные задачи с помощью дополнительного обучения или тонкой настройки. Модель содержит 1,7 млрд параметров, из которых 1,4 млрд не относятся к embedding, и включает 28 слоёв. Она использует Grouped-Query Attention с 16 головами для Q и 8 для KV, поддерживает контекст длиной до 32 768 токенов и обучалась на данных на 119 языках, включая материалы по программированию, STEM, рассуждениям и мультиязычным задачам. README не указывает полный перечень поддерживаемых языков и модальности, поэтому модель следует считать текстовой. Ключевые преимущества — компактный размер, сниженные требования к памяти благодаря 4-битному представлению и поддержка длинного контекста. Это делает модель подходящей для локального запуска и ресурсоограниченных сред, однако по возможностям и качеству она уступает более крупным моделям, а как базовая предобученная версия не предназначена непосредственно для диалогового использования без дополнительной настройки. Для работы рекомендуется актуальная версия библиотеки transformers; версия ниже 4.51.0 вызывает ошибку распознавания архитектуры Qwen3. Модель распространяется по лицензии Apache-2.0.

Youtu-VL-4B-Instruct-GGUF — мультимодальная vision-language модель, разработанная Tencent на базе Youtu-LLM с 4 млрд параметров. Представленная версия распространяется в формате GGUF и предназначена для локального или эффективного инференса с использованием совместимых инструментов, включая llama.cpp. Модель принимает изображения и текст и генерирует текстовые ответы, поддерживая широкий спектр задач компьютерного зрения и мультимодального понимания. Модель предназначена для визуального вопросно-ответного взаимодействия, мультимодального рассуждения и математики, OCR, анализа нескольких изображений, оценки галлюцинаций и задач GUI-агента. Среди vision-centric сценариев заявлены визуальное заземление, классификация изображений, обнаружение объектов, referring segmentation, семантическая сегментация, оценка глубины, подсчёт объектов и оценка позы человека. Архитектурной особенностью является подход Vision-Language Unified Autoregressive Supervision (VLUAS), при котором визуальные и текстовые токены участвуют в едином авторегрессионном обучении через визуальный кодбук. Это позволяет решать плотные задачи зрения и задачи генерации текста без специализированных task-specific модулей. Сильными сторонами модели являются сочетание компактного размера, широкого набора визуальных возможностей и универсальной стандартной VLM-архитектуры. В данной сборке применена GGUF-квантизация с ручным повышением точности отдельных важных слоёв, что может улучшать точность при заданном уровне квантизации, но увеличивает размер файла. README не указывает поддерживаемые языки, размер контекстного окна, точные требования к памяти и количественные результаты отдельных бенчмарков, поэтому эти характеристики нельзя определить по имеющимся данным. Лицензия обозначена как youtu-vl; также указано ограничение доступа для пользователей из Европейского союза.