I.3Извлечение и структурирование данных

PuddleJumper-13b-V2 — объединённая модель на архитектуре Llama, созданная слиянием EverythingLM-V3-13b QLoRa и OpenOrca-Platypus2-13B. Она предназначена для генерации текста и диалогов в формате USER:/ASSISTANT:, а также для общих задач следования инструкциям и ответов на вопросы. Модель содержит 12,9 млрд параметров, использует плотную архитектуру LlamaForCausalLM и рассчитана на контекст до 4096 токенов. В карточке приведены результаты оценок на бенчмарках ARC и HellaSwag. В метаданных указана лицензия other; конкретные условия использования следует проверять у автора репозитория. Доступен формат PyTorch.

Qwen3.5-27B-ultra-uncensored-heretic-v2 — мультимодальная диалоговая модель на 27 млрд параметров от независимого автора llmfan46, созданная дообучением Qwen/Qwen3.5-27B. Она принимает текст и изображения и генерирует ответы на текстовые запросы и вопросы по изображениям. В карточке описана настройка abliteration, направленная на снижение числа отказов: автор сообщает об одном отказе из 100 запросов против 95 у исходной модели; это результат теста автора, а не гарантия поведения во всех сценариях. Модель основана на плотной архитектуре Qwen3.5 с генерацией текста и визуальным энкодером. README указывает контекст 262 144 токена с возможностью расширения до 1 010 000; метаданные подтверждают поддержку диалогов и изображений. Карточка заявляет широкое языковое покрытие семейства, но конкретный список языков этой версии не приведён. Модель распространяется по лицензии Apache-2.0. Снижение числа отказов может сопровождаться меньшей осторожностью в ответах; приведённая оценка PIQA близка к результату исходной модели.

t-firefly/qwen3.5-4b-rknn3-rk1828 — производная версия Qwen3.5-4B от автора репозитория t-firefly, подготовленная для запуска на ускорителе Rockchip RK1828 через LlamaPi. Это мультимодальная модель типа vision-language generation с архитектурой Qwen3.5 и плотной структурой; репозиторий содержит веса в формате GGUF. Исходную модель разработала команда Qwen. Модель предназначена для диалога и генерации ответов по тексту и изображениям, включая понимание визуального содержимого и вызов инструментов в совместимом интерфейсе. Исходная модель поддерживает 201 язык и диалект и имеет контекстное окно 262 144 токена с возможностью расширения до 1 млн токенов; эти характеристики относятся к Qwen3.5-4B и не подтверждены отдельно для сборки RKNN. Сборка ориентирована на запуск на RK1828 с помощью LlamaPi. Лицензия — Apache-2.0. Указанный размер исходной модели — 4 млрд параметров; заявленная в README гибридная архитектура с Gated Delta Networks и разреженным MoE относится к описанию исходной модели, тогда как метаданные репозитория определяют архитектуру этой сборки как плотную. Практическая совместимость и производительность зависят от устройства и программного окружения.

OpenVINO/Qwen3.5-9B-int8-ov — квантованная версия мультимодальной модели Qwen3.5-9B, разработанной командой Qwen и преобразованной в формат OpenVINO IR. Модель предназначена для диалоговых сценариев, в которых требуется обрабатывать текст и изображения, например для описания изображений и создания визуально-языкового ассистента. Модель использует веса, сжатые до INT8 методом NNCF в режиме INT8_ASYM с group_size -1. В README не указаны точный размер контекста, поддерживаемые языки и подробные архитектурные характеристики исходной модели. Формат совместим с OpenVINO 2026.2.0 и новее, а также Optimum Intel 1.27.0 и новее; предусмотрен запуск на CPU через OpenVINO GenAI и Optimum Intel. Ключевое преимущество модели — уменьшенный объём весов и возможность инференса в экосистеме OpenVINO при сохранении мультимодального сценария исходной модели. Ограничения и другие особенности следует уточнять в карточке Qwen3.5-9B. Модель распространяется по лицензии Apache License 2.0.

Модель dealignai/Qwen3.5-VL-122B-A10B-UNCENSORED-JANG_2S создана Jinho Jang на основе Qwen/Qwen3.5-122B-A10B. Это мультимодальная MoE-модель на 122 млрд параметров с 256 экспертами и восемью активными экспертами на токен, гибридной архитектурой GatedDeltaNet SSM и полным вниманием, а также возможностями работы с изображениями. Модель дообучена и преобразована в смешанную квантизацию JANG_2S: веса внимания имеют точность 6 бит, эмбеддинги — 4 бита, эксперты — 2 бита; размер файла составляет около 35 ГБ. Модель предназначена для диалогов и задач «изображение-текст», включая анализ изображений и ответы на вопросы по их содержимому. В карточке также заявлен интерфейс вызова инструментов. Вариант CRACK прошёл изменение весов, направленное на удаление отказов по соображениям безопасности, поэтому модель может выдавать небезопасные ответы. Для запуска требуется MLX на Apple Silicon и поддержка формата JANG; README указывает MLX Studio и пакет jang-tools. Лицензия — Apache-2.0.

OpenVINO/Qwen3.6-35B-A3B-int4-ov — квантизированная версия мультимодальной модели Qwen3.6-35B-A3B, разработанная Qwen и преобразованная в формат OpenVINO IR. Модель предназначена для задач vision-language, включая анализ и описание изображений, визуальный вопросно-ответный диалог и генерацию текста на основе текстовых и визуальных запросов. В README точные сведения о языках, размере контекста и внутренней архитектуре не указаны. Веса сжаты до INT4 методом NNCF в режиме INT4_ASYM с размером группы 64; для резервного хранения используется INT8_SYM. Такое представление ориентировано на более эффективное выполнение инференса на совместимом CPU или GPU при снижении требований к памяти, однако квантизация может влиять на точность по сравнению с исходной моделью. Модель совместима с OpenVINO версии 2026.2.0 и выше и Optimum Intel 1.27.0 и выше, а также может использоваться через OpenVINO GenAI, Optimum Intel и OpenVINO Model Server. Распространяется по лицензии Apache-2.0. Для работы требуются соответствующие компоненты OpenVINO и инструменты интеграции; конкретные показатели производительности и ограничения по аппаратному обеспечению в README не приведены.

havenoammo/Qwen3.6-35B-A3B-MTP-GGUF — это GGUF-версия модели Qwen3.6-35B-A3B, подготовленная с использованием квантования Unsloth Dynamic 2.0 XL (UD XL). Репозиторий также содержит добавленные слои Multi-Token Prediction (MTP), взятые из проекта am17an/Qwen3.6-35BA3B-MTP-GGUF и сохранённые в формате Q8_0. Базовая модель разработана командой Qwen, а данная модификация и упаковка опубликованы havenoammo. Модель предназначена для локального запуска в llama.cpp и сценариев генерации текста с использованием спекулятивного декодирования. MTP-слои позволяют предварительно предсказывать несколько токенов; в README указаны три слоя MTP и параметр --spec-draft-n-max 3. Доступны варианты для различных аппаратных платформ через Docker-образы с поддержкой CUDA, Vulkan, Intel и ROCm. README также указывает на использование контекста размером до 262144 токенов в рекомендуемой конфигурации. Ключевые характеристики: архитектура Qwen3.6-35B-A3B, размер 35B параметров с обозначением A3B, формат GGUF, квантование UD XL для основной модели и Q8_0 для MTP-слоёв. README помечает модель как image-text-to-text, однако подробные сведения о поддерживаемых языках и мультимодальных возможностях не приведены. Сильной стороной является сочетание существенно сжатого формата с MTP для потенциального ускорения генерации, но для работы требуется специальная сборка llama.cpp с поддержкой MTP или готовый совместимый Docker-образ. Модель распространяется по лицензии Apache-2.0. Фактическая скорость, требования к памяти и преимущество MTP зависят от выбранного варианта квантования, аппаратного обеспечения и конфигурации запуска.

Qwen3.6-35B-A3B-MXFP4_MOE-GGUF — созданная noctrex сборка модели Qwen3.6-35B-A3B в формате GGUF с квантизацией MXFP4 для весов Mixture of Experts. Она предназначена для диалогов и анализа изображений; для запуска автор рекомендует llama.cpp. В репозитории представлены варианты BF16, F16 и Q8 с разным балансом качества, скорости и объёма: в README для BF16 и F16 указано 20,55 ГиБ, для Q8 — 18,88 ГиБ. Модель принимает текст и изображения и генерирует текст. Для обработки изображений рекомендуется использовать файл mmproj в формате F32, который, по README, даёт лучшие визуальные результаты. Вариант BF16 может работать медленнее F16 на старых архитектурах, если оборудование не поддерживает BF16 аппаратно. Лицензия и поддерживаемые языки в предоставленных данных не описаны.

Qwen3.6-35B-A3B-uncensored-heretic-Native-MTP-Preserved-GGUF — это GGUF-квантизации модифицированной модели Qwen3.6-35B-A3B. Модель подготовлена независимым разработчиком llmfan46 на основе оригинальной Qwen/Qwen3.6-35B-A3B с использованием Heretic 1.3.0 и варианта метода Magnitude-Preserving Orthogonal Ablation (MPOA). В карточке она обозначена как модель для обработки текста и изображений, однако подробные сведения о поддерживаемых языках и формате мультимодального ввода не приведены. Модель предназначена для локального запуска в сценариях генерации и анализа контента, где требуется меньше отказов и ограничений по сравнению с исходной версией. Архитектура относится к семейству Qwen3.6 и имеет конфигурацию 35B-A3B; в исходной и модифицированной версиях сохранены все 20 компонентов MTP. Изменения затрагивают отдельные компоненты attention и MLP, а заявленное расхождение с исходной моделью составляет 0,0015 KL divergence. По данным автора, доля отказов снизилась с 83 до 10 на тесте из 100 запросов. Сильной стороной модели является близость к исходной Qwen3.6-35B-A3B при значительно меньшем количестве отказов, что может быть полезно для исследовательских, творческих и локальных прикладных сценариев. При этом заявленные результаты предоставлены автором и не сопровождаются подробным описанием методики тестирования; сведения о размере контекста, языках, конкретных требованиях к ресурсам и качестве мультимодальной работы отсутствуют. Снижение ограничений также означает необходимость самостоятельной оценки рисков и фильтрации результатов. Лицензия указана как Apache 2.0; ссылка ведёт на лицензию исходной модели Qwen/Qwen3.6-35B-A3B.

Hirundo Qwen3.6-35B-A3B Westernized — модель Hirundo на базе Qwen/Qwen3.6-35B-A3B, изменённая методом поведенческого unlearning для снижения цензурирующих и геополитически предвзятых ответов при сохранении прочих возможностей. Это мультимодальная MoE-модель для диалогов и анализа изображений; метаданные указывают семейство Qwen 3.5 MoE, интерфейс вызова инструментов и задачу image-text-to-text. Репозиторий содержит самостоятельный объединённый чекпойнт в формате Safetensors, который загружается без отдельного адаптера. В README не приведены размер контекста и список языков. Модель подходит для мультимодальных диалогов, анализа изображений и сценариев с вызовом инструментов, где требуется уменьшить отказы или геополитически обусловленные ответы. В оценках Thinking-OFF из блога Hirundo сообщается о снижении показателей на CCPC-500, DECCP и ChinaBench; результаты безопасности различаются по тестам, а README подчёркивает, что они относятся только к указанным бенчмаркам. Чекпойнт распространяется по лицензии Apache-2.0.

JC1DA/Qwen3.8-27B-heretic-ara-W4A16 — 4-битная версия модели trohrbaugh/Qwen3.8-27B-heretic-ara, разработанная JC1DA и опубликованная на базе библиотеки Transformers. Модель предназначена для генерации текста и может использоваться в сценариях, поддерживаемых causal language models, включая локальный инференс с пониженным потреблением памяти. Модель содержит около 27 млрд параметров и поставляется в десяти файлах. Используется квантование весов W4A16: веса представлены с точностью 4 бита, а активации — 16 битами. Квантование выполнено с помощью AutoRound в формате auto_round, с размером группы 128, 1000 итерациями и включённой компиляцией Torch. Некоторые слои, включая эмбеддинги, визуальные слои, отдельные нормализующие и линейные слои, не квантовались. Язык, размер контекста и точный набор поддерживаемых модальностей в README не указаны. Для загрузки рекомендуется использовать загрузчик AutoRound; также приведён вариант загрузки через Transformers при совместимой конфигурации. Лицензия модели — Apache-2.0. К ограничениям относятся зависимость от совместимости окружения с AutoRound или Transformers, а также отсутствие в README подробностей о качестве, языковой поддержке и результатах тестирования.

Qwen3.8-27B-MLX-5bit — это 5-битная квантованная версия модели Qwen3.8-27B, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием MLX и mlx_vlm; модель предназначена для запуска на устройствах Apple Silicon. Модель относится к классу image-text-to-text и рассчитана на задачи, связанные с обработкой изображений и текста, включая мультимодальные сценарии общения и генерации ответов. Она содержит 27 миллиардов параметров и использует 5-битное представление, что снижает требования к памяти по сравнению с полноразмерной версией. README не содержит данных о поддерживаемых языках и размере контекстного окна. Ключевое преимущество модели — адаптация под экосистему Apple Silicon и уменьшенный объём памяти благодаря квантованию. При этом квантование может влиять на точность и качество ответов по сравнению с исходной моделью, а запуск оптимизирован прежде всего для Apple Silicon. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-Flash-Next-heretic-2-IQ4_XS-GGUF — это квантизированная GGUF-версия модели Qwen3.8-Flash-Next-heretic-2, подготовленная для запуска через llama.cpp. Репозиторий содержит пять основных IQ4_XS-шардов, набор из шести MTP/NextN-шардов для speculative decoding и совместимый мультимодальный проектор Q8_0. Модель основана на версии trohrbaugh/Qwen3.8-Flash-Next-heretic-2; исходная конверсия закреплена на конкретной ревизии проекта spiritfather/Qwen3.8-Flash-Next-heretic-2-i1-GGUF. Сведения о точном числе параметров, архитектуре, языках и размере контекста в карточке не указаны. Модель предназначена для генерации текста и обработки изображений в сценариях image-text-to-text, включая мультимодальные запросы и задачи визуального grounding. Формат ориентирован на эффективное размещение и кэширование весов, в частности в средах Runpod Serverless. Для изображений требуется отдельный проектор mmproj в формате Q8_0. MTP-вариант поддерживает ускорение генерации посредством speculative decoding при использовании сборки llama.cpp с PR #27836; в README приведены рекомендуемые параметры запуска для IQ4-класса. К сильным сторонам относятся сниженный размер квантизированных весов, поддержка мультимодального ввода и возможность ускоренной генерации с MTP. Ограничения связаны с необходимостью совместимой сборки llama.cpp, отдельного мультимодального проектора и корректного набора шардов; характеристики качества, производительности и языкового покрытия не приведены. Указана лицензия Qwen Community License версии qwen-community-1.0, условия которой распространяются на upstream-модель и конверсию.

cstr/qwen3-asr-0.6b-GGUF — GGUF/ggml-квантизированные версии модели Qwen3-ASR 0.6B, разработанной Alibaba и адаптированные для запуска через CLI qwen3-asr-main из проекта CrispStrobe/CrispASR. Модель предназначена для автоматического распознавания речи и транскрибации аудиозаписей с автоматическим определением языка. Она поддерживает 30 языков, включая русский, английский, немецкий, французский, китайский и другие, а также 22 китайских диалекта. Это speech-LLM с Whisper-подобным аудиоэнкодером: 2D-свёрточный subsampler, 18-слойный Transformer и projector преобразуют аудио в представления размерности 1024, после чего их обрабатывает Qwen3 0.6B — 28-слойная языковая модель с GQA, SwiGLU и RoPE. Доступны варианты F16, Q8_0, Q4_K и Q3_K с размерами примерно от 531 МБ до 1,88 ГБ. Вариант Q4_K рекомендован как компромисс между размером, скоростью и качеством и на 4-ядерном CPU работает немного быстрее реального времени на указанном тестовом аудио. Для длинных записей предпочтительнее обычные Q4_K или Q8_0; варианты с importance matrix могут на длинном аудио переходить в повторяющиеся фрагменты. Модель сильна многоязычным распознаванием, компактностью, работой на CPU и отсутствием необходимости в torch, librosa или scipy во время инференса: необходимые mel-фильтры встроены в GGUF. Заявленный средний показатель составляет 6,42% WER на Open ASR Leaderboard, однако производительность и качество зависят от варианта квантизации и характеристик аудио. Для штатного запуска требуется 16 кГц, моно, 16-битный PCM WAV; другие форматы нужно предварительно конвертировать. Модель распространяется по лицензии Apache-2.0.

Qwen3-VL-4B-Instruct-8bit — мультимодальная instruction-модель, разработанная сообществом mlx-community и конвертированная из Qwen/Qwen3-VL-4B-Instruct в формат MLX с использованием mlx-vlm 0.3.4. Модель предназначена для задач image-text-to-text, включая обработку изображений и генерацию текстовых ответов по инструкциям, например описание изображений. Известно, что модель имеет размер 4B и использует 8-битное представление. Она поддерживает входные данные в виде текста и изображений, однако сведения о конкретной архитектуре, языках, размере контекста, точных возможностях и ограничениях в README не приведены. Для запуска требуется mlx-vlm; пример использования рассчитан на MLX-совместимое окружение. Модель распространяется по лицензии Apache-2.0.

r3b-1.2 — языковая модель семейства Llama, разработанная xgmab123 и дообученная на основе xgmab123/r3b-1.1. Она предназначена для генерации текста в диалоговом формате; в метаданных также заявлен интерфейс вызова инструментов. Модель содержит 3,2 млрд параметров, имеет контекст до 131 072 токенов и распространяется в формате PyTorch. Модель обучалась с использованием Unsloth и библиотеки Hugging Face TRL. Карточка указывает английский язык. Лицензия — Apache-2.0.

rubaiSTT-2v Medium — модель распознавания речи на основе Whisper Medium, дообученная автором islomov для транскрибирования узбекской речи. Она принимает аудио и выдаёт текст; особенно хорошо обучена на материалах ташкентского диалекта. В метаданных указано 455,8 млн параметров, тогда как README приводит для базовой модели 769 млн; README также сообщает о WER около 17% и CER около 5,5%. Эти показатели относятся к оценке автора и зависят от тестовых данных. Модель обучена примерно на 475 часах узбекского аудио: подкастах, новостях, материалах Common Voice 17, USC и Google FLEURS. По README, половина транскрипций подготовлена людьми, половина — автоматически с помощью Gemini 2.5 Pro. В набор вошли записи с акцентом на ташкентский диалект; другие региональные варианты пока охвачены слабее. Репозиторий распространяется по лицензии Apache-2.0.

msingiai/sauti-asr — модель распознавания речи на суахили, разработанная Msingi AI в рамках конвейера Sauti ASR и дообученная на базе microsoft/paza-whisper-large-v3-turbo. Это модель семейства Whisper с архитектурой WhisperForConditionalGeneration и примерно 905,3 млн параметров; она принимает аудио и преобразует его в текст. В карточке указано, что это текущий предварительный кандидат Track A для оценки в исследованиях и продуктах. На тесте из 500 образцов кенийской речи на суахили получены WER 13,72% и CER 3,88%.

SeaLLMs-v3-7B — базовая языковая модель семейства SeaLLMs, разработанная для языков Юго-Восточной Азии. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров и контекстом до 131 072 токенов. Репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста и последующего дообучения под прикладные задачи. В карточке описаны возможности отвечать на вопросы, рассуждать, решать математические задачи, переводить и следовать инструкциям; отдельно отмечены улучшения многоходового следования инструкциям и ответы с учётом местного контекста. Основной акцент — английский, китайский и языки региона, включая индонезийский, вьетнамский, тайский, малайский, бирманский, кхмерский, лаосский, тагальский, тамильский и яванский. Это базовая, а не готовая чат-модель: для применения в диалоговых сценариях разработчики указывают на вариант SeaLLMs-v3-7B-Chat. Лицензия указана как other, поэтому перед использованием следует проверить условия на странице модели. Заявления о качестве основаны на оценках из карточки; они не гарантируют точность для конкретной задачи.

cstr/sensevoice-small-GGUF — GGUF-квантизированная версия SenseVoiceSmall, разработанной Alibaba и опубликованной под брендом FunAudioLLM. Модель предназначена для автоматического распознавания речи и запуска через backend sensevoice в CrispASR. Помимо транскрипции, она определяет язык речи, эмоцию, аудиособытия и режим текстовой нормализации. Это многозадачная encoder-only ASR-модель с 70-блочным SANM-энкодером, четырьмя головами и CTC-выходом на 25 055 SentencePiece-токенов. Архитектура использует четыре query embedding для языка, аудиособытий, эмоций и нормализации текста. Поддерживается более 50 языков с нативной идентификацией; в карточке явно указаны китайский, кантонский, английский, японский и корейский. Модель неавторегрессионная и, по данным README, значительно быстрее Whisper-Large: около 70 мс на 10 секунд аудио в измерениях upstream. Доступны варианты F16 размером 448 МБ, Q8_0 размером 240 МБ и Q4_K размером 129 МБ; Q4_K рекомендован как вариант по умолчанию. Квантизация сохраняет идентичные транскрипции на проверенных английских и японских примерах, однако возможны изменения на пограничных случаях классификации эмоций. Модель ориентирована на локальный инференс и эффективное распознавание речи, но README не приводит подробных оценок качества по языкам и сценариям. Файлы наследуют FunASR Model License v1.1 для весов; коммерческое использование разрешено с указанием авторства. Код upstream-пакета funasr распространяется по Apache-2.0. При использовании требуется атрибуция Alibaba/FunAudioLLM; репозиторий содержит только конвертацию и квантизацию исходных весов без дообучения или изменения архитектуры.

SenseVoiceSmall-GGUF-audiocpp — квантованный экспорт модели SenseVoiceSmall, разработанной FunAudioLLM, предназначенный для автоматического распознавания речи. Модель упакована в формат GGUF для запуска в runtime audio.cpp и содержит встроенную спецификацию sense_asr, метаданные SenseVoice, словарь SentencePiece, тензоры CMVN и 919 тензоров модели. Представленный файл использует квантование Q8_0, занимает около 254 МБ и рассчитан на прямой запуск на CPU через audio.cpp без внешней спецификации модели. В README явно указана поддержка китайского, английского, кантонского, японского и корейского языков. Модель подходит для локального распознавания аудиозаписей и потоков в сценариях, совместимых с интерфейсом audio.cpp; приведённый пример использует задачу ASR. К сильным сторонам относятся автономная упаковка всех необходимых компонентов, запуск на CPU и воспроизводимый экспорт из конкретной ревизии SenseVoiceSmall. Ограничения — отсутствие в предоставленных данных подробностей об архитектуре, размере исходной модели, максимальной длине контекста, производительности и поддерживаемых модальностях помимо речи. Модель распространяется по лицензии Apache-2.0.

SigLIP 2 Base — модель визуального энкодера, разработанная Google. Она предназначена для сопоставления изображений и текста, классификации изображений по заданным текстовым меткам без специального дообучения, а также для использования в качестве визуального энкодера в мультимодальных моделях и других задачах компьютерного зрения. Модель относится к семейству SigLIP, имеет плотную архитектуру и доступна в формате safetensors для библиотеки Transformers. Предобучение выполнено на наборе WebLI с использованием объединённой схемы обучения, расширяющей подход SigLIP методами для улучшения семантического понимания, локализации и плотных визуальных признаков. README также указывает на пригодность модели для поиска соответствий между изображениями и текстом. Лицензия — Apache 2.0. Модель принимает изображения и текстовые кандидаты или запросы и выдаёт оценки соответствия, которые можно использовать для ранжирования меток и поиска пар изображение—текст. В карточке не приведены численный размер модели, длина контекста и перечень поддерживаемых естественных языков.

slimorca-gemma2-9b-fft-GGUF — это квантизированная GGUF-версия текстовой генеративной модели slimorca-gemma2-9b-fft, созданная на базе axolotl-ai/co/gemma-2-9b. Исходную модель разработала openaccess-ai-collective, а квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска в средах, совместимых с llama.cpp. Модель относится к семейству Gemma 2 и имеет около 9 миллиардов параметров. Она работает в текстовой модальности; сведения о поддерживаемых языках и максимальном размере контекста в README не указаны. Для взаимодействия требуется специальный шаблон prompt с ролями user и model. Системный prompt не поддерживается. Доступно множество вариантов квантизации от Q8_0 до Q2_K и IQ-форматов, что позволяет выбирать между качеством, размером файла и требованиями к памяти. В README варианты Q6 и Q5 описаны как высококачественные, а Q4 — как обеспечивающие хороший баланс качества и экономии памяти; более сильная квантизация снижает качество, но облегчает запуск на устройствах с ограниченными ресурсами. Модель распространяется по лицензии gemma.

Это 8-битная SmoothQuant-производная Qwen/Qwen2.5-1.5B-Instruct от автора репозитория chris320211. Модель с плотной архитектурой Qwen2 поддерживает генерацию текста и диалоговые сценарии; в метаданных указано 1,5 млрд параметров и контекст до 32 768 токенов. Модель подходит для ответов на запросы, ведения диалога и генерации структурированного текста. В README приведено сравнение с исходным fp16-снимком на WikiText-2: perplexity квантованной версии выше (10,07 против 9,58), пропускная способность ниже (10 427,5 против 11 103,1 токена/с), а использование видеопамяти улучшено. Проверка выполнена на NVIDIA A10G. Это не готовый чекпойнт для прямой загрузки через AutoModelForCausalLM.from_pretrained: для восстановления требуется адаптер инференса и конфигурация квантования. Лицензия — MIT.

Star-Command-R-32B-v1-GGUF — набор GGUF-квантизаций базовой модели Star-Command-R-32B-v1, разработанной TheDrummer и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, в том числе в LM Studio, с использованием указанного chat prompt format. В набор входят версии от F16 до низкобитных вариантов Q3 и IQ3, размером примерно от 14 до 64,6 ГБ. Доступны разные уровни компромисса между качеством и требованиями к памяти; варианты Q6_K_L, Q6_K, Q5 и Q4 отмечены как рекомендуемые, а некоторые Q4-варианты оптимизированы для ARM-процессоров. Архитектура, поддерживаемые языки, длина контекста, модальности и точные сценарии применения в README не указаны, поэтому модель можно охарактеризовать только как текстовую генеративную модель общего назначения. Сильной стороной является широкий выбор квантизаций для локального инференса и применение imatrix-квантизации, направленной на сохранение качества при уменьшении размера. Ограничения зависят от выбранного варианта: более компактные версии имеют более низкое качество, а полноразмерная F16-версия требует значительного объёма памяти. Лицензия указана как other; её конкретные условия в README не раскрыты и требуют проверки в источнике базовой модели.

StarPII — модель распознавания именованных сущностей, разработанная BigCode для поиска персональных данных и секретов в исходном коде. Она основана на дообученном bigcode-encoder с линейной головой классификации токенов и размечает шесть категорий: имена, адреса электронной почты, ключи, пароли, IP-адреса и имена пользователей. Для обучения использованы размеченные данные и предварительно псевдоразмеченные примеры; датасеты включают код на 31 языке программирования, а базовый энкодер предварительно обучался на 88 языках программирования. Модель подходит для обнаружения потенциально чувствительных данных в исходном коде и подготовки к их маскированию при обучении моделей или обработке репозиториев. В опубликованных результатах качество различается по типам сущностей: например, F1 для электронной почты составляет 96,01%, IP-адресов — 91,61%, ключей — 56,66%; псевдоразметка улучшила показатели для имен, имен пользователей и паролей. Авторы рекомендуют постобработку, включая фильтрацию коротких значений, проверку IP-адресов и отбрасывание имен пользователей из-за ложных срабатываний и пропусков. Возможны ложноположительные и ложноотрицательные результаты, а качество зависит от типа данных и языка программирования. Лицензия в предоставленных сведениях не указана.

Tamil ASR Qwen3 — модель распознавания речи, разработанная LemuraLabs и дообученная на базе Qwen/Qwen3-ASR-1.7B для транскрибации тамильской речи. Это генеративная ASR-архитектура с аудиоэнкодером и декодером Qwen3 на 1,7 млрд параметров; принимает монофоническое аудио с частотой 16 кГц и выдаёт текст на тамильском языке. Для декодирования автор рекомендует beam search с пятью лучами. Модель предназначена для расшифровки разговорной и прочитанной речи, голосовых интерфейсов, создания субтитров и автоматизированных конвейеров транскрибации. На тестовой части FLEURS-Tamil автор сообщает WER 25,27% и CER 7,95% на 586 клипах; результаты заявлены как лучшие относительно указанных в карточке IndicConformer-600M и Whisper-large-v3 при общей нормализации текста. Модель обучалась примерно на 1 475 часах тамильской речи из IndicVoices, Shrutilipi и Kathbath. Она ориентирована только на тамильский язык; качество может снижаться на сильно зашумлённой, удалённой или смешанной по языкам речи, а также зависеть от диалекта, предметной области и характеристик диктора. Лицензия — Apache-2.0.

Ternary-Bonsai-2-27B-MLX-4bit — это 4-битная версия модели Ternary-Bonsai-2-27B в формате MLX, подготовленная PipeNetwork на основе модели prism-ml. В основе лежит тернаризованная Qwen3.8-27B с гибридной архитектурой qwen3_5: 64 слоя, Gated-DeltaNet и полное внимание в каждом четвёртом слое, а также официальная vision tower. Модель предназначена для задач vision-language и поддерживает обработку текста и изображений через mlx-vlm, включая генерацию текста по изображениям и текстовым запросам. Языки и размер контекстного окна в README не указаны. Модель использует 4-битное аффинное квантование с группами по 64 значения и занимает около 16,1 ГБ. Это минимальная версия, совместимая со стандартным runtime MLX: для загрузки требуется mlx-vlm версии 0.7 или новее, при этом не нужны специальные runtime, форкнутые ядра или изменённые инструменты. По сравнению с эталонной 2-битной сборкой заявлены почти идентичные логиты и perplexity, однако на тесте wikitext-2 4-битная версия показала perplexity 9,1497 против 8,9607 у 2-битной сборки, то есть квантование приводит к измеримой потере качества. Сильные стороны модели — совместимость со стандартным стеком MLX, поддержка визуальных входов, возможность тонкой настройки и последующей конвертации, а также высокая близость к исходной тернарной модели. Ограничения включают значительные требования к памяти по сравнению с собственной 2-битной сборкой prism-ml, необходимость mlx-vlm не ниже 0.7 и небольшое снижение качества из-за 4-битного квантования. Модель распространяется по лицензии Apache-2.0.

TypeCastLM-Qwen3.5-3.8B — разработанная Mihail Gribov модель классификации с открытыми весами, предназначенная для принятия решений по заданному материалу и вопросу. Это дообученная плотная текстовая модель Qwen3.5 с классификационной головой; в метаданных указано 3,1 млрд параметров, контекст — 262 144 токена. Модель работает в четырёх режимах: бинарный ответ «да/нет», распределение «да/нет/не уверен», выбор одного из вариантов и оценка по порядковой шкале. Каждый режим требует одного прохода модели и возвращает вероятности вместо текста. Модель рассчитана на классификацию утверждений по материалу, проверку фактов, ответы на вопросы с вариантами и оценивание по рубрикам; отдельный выход «не уверен» можно использовать для отказа от решения или передачи задачи человеку. README приводит результаты на BoolQ, RTE и FEVER, а также ограничения точности при большом числе вариантов или уровней шкалы. Для бинарного режима температура настроена на более решительные ответы, поэтому его вероятности могут быть недостаточно калиброваны. Указана лицензия Apache-2.0.

Модель представляет собой набор GGUF-квантизованных версий vectorzhou/Qwen2.5-1.5B-Instruct-SFT-OpenHermes-2.5-Standard-SFT. Квантизацию выполнила Featherless AI Quants. Модель относится к задачам генерации текста и предназначена для локального или совместимого с GGUF запуска инструкционной языковой модели. В набор входят варианты IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0 размером примерно от 645 МБ до 1,57 ГБ. Разные уровни квантизации позволяют выбирать компромисс между размером файла, требованиями к ресурсам и потенциальным качеством генерации. Из README известны базовая модель с размером 1,5 млрд параметров и текстовая модальность; сведения о поддерживаемых языках, длине контекста, архитектурных деталях, результатах оценки, ограничениях и лицензии не указаны. Сильной стороной набора является широкий выбор GGUF-вариантов для устройств с разными ресурсными ограничениями. При этом более сильная квантизация может снижать качество по сравнению с исходной моделью, а конкретные характеристики зависят от выбранного файла и среды запуска. Условия лицензирования в предоставленных данных не указаны.