I.3Извлечение и структурирование данных

RI-Instruct-v0.2-Merged — дообученная языковая модель RishiSpace на базе unsloth/qwen3-8b-unsloth-bnb-4bit. Это плотная модель семейства Qwen3 с архитектурой Qwen3ForCausalLM и 7,6 млрд параметров, предназначенная для генерации текста в диалоговом формате; в метаданных также заявлен интерфейс вызова инструментов. Модель обучали с использованием Unsloth и библиотеки Hugging Face TRL. Модель принимает текст и генерирует текст. Указанный в метаданных размер контекста — 40 960 токенов; карточка помечает английский язык. Репозиторий содержит веса safetensors, а лицензия — Apache-2.0. README не описывает специализированную область применения или результаты оценки качества.

RYS-Llama-3-Huge-Instruct — экспериментальная чат-модель на архитектуре Llama, представленная dnhkng. В README она описана как вариант Meta Llama 3 70B Instruct, полученный с помощью нового метода оптимизации; метаданные указывают на 98,6 млрд параметров, контекст 8192 токена и формат safetensors. Модель предназначена для диалоговой генерации текста и следования инструкциям. В карточке приведены результаты оценки на Open LLM Leaderboard, включая IFEval и BBH. Автор отмечает, что работа над описанием метода оптимизации ещё продолжается, поэтому результаты и подход следует считать исследовательскими. Лицензия — MIT.

SeaLLMs-v3-1.5B-Chat — чат-модель семейства SeaLLMs, разработанная для языков Юго-Восточной Азии. Это плотная авторегрессионная модель Qwen2 с 1,5 млрд параметров и контекстом до 131 072 токенов, дообученная выполнять инструкции и поддерживать многошаговый диалог. Она предназначена для ответов на вопросы, перевода, математических рассуждений и других текстовых задач, особенно с учетом языкового и культурного контекста региона. Карточка заявляет улучшенное следование инструкциям, снижение галлюцинаций и безопасные ответы; это не гарантирует фактическую точность или безошибочную безопасность. Модель поддерживает английский, китайский, индонезийский, вьетнамский, тайский, тагальский, малайский, бирманский, кхмерский, лаосский, тамильский и яванский языки. Веса распространяются на условиях SeaLLMs Terms Of Use; метаданные обозначают лицензию как other.

SigLIP 2 Base — базовая модель семейства SigLIP 2, разработанная Google. Это плотный визуально-языковой энкодер класса Siglip2Model для сопоставления изображений и текста; модель доступна в формате Safetensors и используется через библиотеку Transformers. Модель предназначена для классификации изображений по произвольным текстовым меткам без отдельного обучения, поиска соответствий между изображениями и текстом, а также в качестве визуального энкодера для мультимодальных моделей и других задач компьютерного зрения. SigLIP 2 объединяет улучшения предобучения SigLIP для семантического понимания изображений, локализации и получения плотных признаков. Она предобучена на наборе WebLI. Модель принимает изображения и текстовые описания или метки и выдаёт оценки соответствия, пригодные для ранжирования вариантов. Карточка не сообщает конкретный размер параметров и длину контекста. Лицензия Apache-2.0 разрешает использование, изменение и распространение с соблюдением её условий. Оценки из карточки относятся к исследовательской публикации; качество может различаться на задачах и данных, отличающихся от предобучения.

s1-32B-GGUF — это набор квантованных GGUF-версий текстогенеративной модели s1-32B, разработанной simplescaling. Квантование выполнил bartowski с использованием llama.cpp b4585 и метода imatrix на основе набора данных simplescaling/s1K и дополнительного калибровочного набора. Модель предназначена для генерации текста и запуска в локальных средах, совместимых с llama.cpp, включая LM Studio и другие производные проекты. Доступны варианты размером примерно от 11,26 до 34,82 ГБ с форматами Q2, Q3, Q4, Q5, Q6, Q8 и IQ-квантованиями. Более высокие уровни квантования обеспечивают лучшее сохранение качества, но требуют больше оперативной или видеопамяти; Q4_K_M указан как вариант стандартного размера для большинства сценариев, а Q5 и Q6 — как варианты высокого качества. Архитектура, поддерживаемые языки, модальности и максимальная длина контекста в README не указаны, поэтому модель следует рассматривать как текстовую. Сильной стороной является широкий выбор размеров и совместимость с локальным инференсом, позволяющая подобрать компромисс между качеством и требованиями к ресурсам. Ограничения связаны с потерями качества у низкобитных вариантов и значительными требованиями к памяти даже у наиболее компактных файлов. Для работы рекомендуется использовать шаблон промпта ChatML, приведённый в README. Лицензия модели — Apache-2.0.

Sinai Voice AR STT — модель распознавания арабской речи и преобразования её в текст, разработанная Bakrianoo. Это дообученная версия facebook/wav2vec2-xls-r-300m на арабской части набора Mozilla Common Voice 8.0. Архитектура Wav2Vec2ForCTC, размер — 402,7 млн параметров; модель принимает аудио и выдаёт текст на арабском языке. Модель предназначена для автоматической транскрибации арабской речи. В README приведены результаты оценки на тестовой выборке Common Voice 8.0: WER 0,181 и CER 0,049. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0.

Это квантованная версия модели solar-pro-preview-instruct, разработанной компанией Upstage и преобразованной в формат GGUF пользователем MaziyarPanahi. Модель предназначена для генерации текста и запуска через совместимые локальные инструменты и библиотеки, включая llama.cpp, llama-cpp-python, LM Studio и другие приложения экосистемы GGUF. В README не указаны размер модели, архитектура исходной модели, поддерживаемые языки, модальности и размер контекстного окна. Доступны варианты квантования с разрядностью от 2 до 8 бит, что позволяет выбирать компромисс между требованиями к памяти, скоростью работы и качеством генерации. Формат GGUF ориентирован на локальный запуск с возможным использованием GPU, однако конкретные требования к оборудованию не приведены. Лицензия в предоставленных данных не указана. README также не содержит результатов тестирования, поэтому нельзя сделать подтвержденные выводы о сильных сторонах, качестве на отдельных задачах или ограничениях модели, кроме зависимости характеристик от выбранного уровня квантования.

SPLADE-BERT-Medium — разреженный энкодер для поиска, созданный yosefw дообучением prajjwal1/bert-medium с помощью Sentence Transformers. Он преобразует предложения и абзацы в разреженные векторы размерности 30 522; сходство между ними оценивается скалярным произведением. Архитектура включает BertForMaskedLM и слой SpladePooling с max-пулингом и ReLU. Модель рассчитана на английский язык, принимает последовательности длиной до 512 токенов и поддерживает поиск по смыслу и разреженное извлечение документов. Модель подходит для сопоставления запросов с релевантными документами и ранжирования результатов в поисковых системах. В README приведены метрики dot_accuracy@1/3/5 на оценочном наборе, однако сведения о названии и составе этого набора ограничены. Лицензия — MIT.

rootxhacker/superintelligence-llama3.1-8b — плотная языковая модель семейства Llama 3.1, разработанная rootxhacker путём дообучения unsloth/meta-llama-3.1-8b-bnb-4bit. Модель содержит 7,5 млрд параметров, принимает текст и предназначена для генерации текста; заявленная длина контекста — 131 072 токена. В карточке указано, что модель обучалась с использованием Unsloth и библиотеки TRL. Данных о специализации на конкретной области или о дополнительных сценариях применения нет. Модель распространяется по лицензии Apache-2.0.

Swarm Sovereign 26B — мультимодальная модель для работы с текстом и изображениями, представленная в формате GGUF. Базовая модель разработана LiamVisionary, а данная квантизированная версия подготовлена mradermacher. Модель предназначена для генерации текста и диалоговых сценариев, включая использование в приложениях, поддерживающих GGUF и vision-модели. Модель содержит около 26 миллиардов параметров, относится к семейству Gemma4 и поддерживает английский язык. README не указывает архитектуру на уровне компонентов, размер контекстного окна или точные возможности обработки изображений, однако подтверждает наличие vision-компонента и необходимость использования соответствующего mmproj-файла из статического репозитория. Доступны варианты квантизации i1-IQ1_S–i1-Q6_K размером примерно от 8,4 до 22,7 ГБ. Варианты различаются компромиссом между размером, скоростью и качеством; Q4_K_M отмечен как рекомендуемый, а Q4_K_S — как оптимальный по соотношению размера, скорости и качества. Сильной стороной модели является выбор многочисленных GGUF-квантизаций, позволяющий запускать её на оборудовании с разным объёмом памяти, а также поддержка изображений. Ограничения включают потенциальное снижение качества у наиболее компактных вариантов и необходимость отдельного vision-проектора для мультимодальной работы. Модель распространяется по лицензии Apache-2.0.

TensorFluxEmbedder — англоязычная модель векторных представлений текста, дообученная IstishadAlamTishad на базе nomic-ai/modernbert-embed-base для семантического поиска. Она охватывает общий язык, веб-поиск, научную литературу и юридические документы и предназначена для получения эмбеддингов запросов и документов в сценариях информационного поиска и RAG. Модель построена на ModernBERT, содержит 149 млн параметров и принимает до 8192 токенов. Размер эмбеддинга можно сокращать при использовании с 768 до 512, 256, 128 или 64 измерений без повторного обучения; в README вариант 256 измерений рекомендован для поиска с низкой задержкой и меньшим расходом памяти. Для лучшего качества поиска нужно задавать префикс search_query: для запросов и search_document: для документов. В README приведены результаты оценки на наборах SciFact и юридическом корпусе; качество зависит от размерности и конкретного корпуса. Модель обучена только на английских текстах, длинные входы свыше 8192 токенов обрезаются, а эффективность на других языках и юридических коллекциях не подтверждена. Она оптимизирована для плотного поиска и не предназначена для классификации, NLI или работы как cross-encoder. Лицензия — Apache-2.0.

Ternary-Bonsai-1.7B-gguf — языковая модель, разработанная Prism ML на базе Qwen3-1.7B. Она предназначена для генерации текста и локального запуска через llama.cpp, включая сценарии on-device, интеграцию в приложения, серверное развёртывание и работу на CPU или GPU. Модель содержит 1,72 млрд параметров и использует архитектуру с GQA, SwiGLU MLP, RoPE и RMSNorm. Длина контекста составляет 32 768 токенов, размер словаря — 151 936. Веса представлены в ternary-формате со значениями −1, 0 и +1 и упакованы в GGUF Q2_0 g128 с групповым масштабированием FP16. Размер рекомендуемого файла — около 436 МиБ, что примерно в 7,5 раза меньше FP16-версии. Указанная модальность — текстовая; поддерживаемые языки в README не перечислены. К сильным сторонам относятся очень компактный размер, высокая эффективность памяти, возможность работы на устройствах с ограниченными ресурсами и практически полное совпадение с FP16-базой при данном формате квантования. По опубликованным тестам, средняя оценка модели ниже, чем у исходной Qwen3 1.7B, поэтому компактность достигается с компромиссом по качеству. Для запуска требуется форк llama.cpp от Prism ML с поддержкой Q2_0; в основной ветке llama.cpp эта поддержка пока отсутствует. Модель распространяется по лицензии Apache 2.0.

Ternary-Bonsai-2-27B-vllm — текстовая языковая модель, разработанная Fraser Price и неофициально перепакованная для vLLM на основе Bonsai 2 27B от Prism ML. Модель создана на базе Qwen3.8-27B от Alibaba Cloud и предназначена для генерации текста и запуска инференса через vLLM, включая сценарии со speculative decoding. Модель использует тернарные веса с 2-битным кодированием, FP16-групповыми масштабами g128 и Hadamard-преобразованием; таблица эмбеддингов хранится в BF16. Для speculative decoding применяется MTP-голова из Qwen3.8-27B, которая генерирует черновые токены, проверяемые основной моделью. В состав входит только текстовая модальность, без vision tower. Конкретные размеры контекста, языки и показатели производительности в README не указаны. Для работы требуется плагин prism_ternary для vLLM. Модель собрана и протестирована только на NVIDIA RTX PRO 6000 Blackwell, поэтому совместимость с другими GPU не подтверждена. Проект обозначен как находящийся в разработке; возможны нестабильность и несовместимые изменения. Распространяется по лицензии Apache 2.0.

Tess-3-Llama-3.1-405B-GGUF — это квантизированная версия дообученной текстовой генеративной модели Tess-3-Llama-3.1-405B, разработанной migtissera и преобразованной в формат GGUF пользователем bartowski. Модель основана на Llama 3.1 с 405 миллиардами параметров и предназначена для генерации текста при локальном запуске через llama.cpp, в том числе в LM Studio. В README приведён формат промпта с системным сообщением, запросом пользователя и ответом ассистента. Модель доступна в вариантах квантизации Q8_0, Q6_K, Q5_K_M, Q4_K_M, Q4_K_S, IQ4_XS и других, размером примерно от 95 до 436 ГБ. Более высокие разрядности обычно обеспечивают лучшее качество, но требуют значительно больше оперативной памяти; низкоразрядные варианты экономичнее, однако могут заметно уступать в качестве. Для ARM-процессоров отдельно рекомендуется вариант Q4_0_4_4. Конкретные поддерживаемые языки, размер контекста и специализированные сценарии обучения в README не указаны. Модель распространяется по лицензии llama3.1.

WonseokJayJung/test-gguf-final — компактная языковая модель для генерации текста, полученная слиянием Qwen/Qwen2.5-0.5B и Qwen/Qwen2.5-0.5B-Instruct методом SLERP с помощью mergekit. Это плотная авторегрессионная архитектура Qwen2 с примерно 494 млн параметров и контекстом до 32 768 токенов. Модель предназначена для диалогов, выполнения инструкций и генерации текста. В репозитории доступны веса GGUF в формате F16 и safetensors; метаданные указывают библиотеку Transformers и интерфейс для вызова инструментов. Лицензия в предоставленных данных не указана.

Tinytron-ORCA-7B-TinyLlama-Instruct_CODE_Python-extra_small_quantization_GGUF_3bit — локальная модель генерации кода, опубликованная Francisco Angulo de Lafuente под именем Agnuxo. В карточке она описана как помощник по программированию на базе семейства Llama; метаданные указывают плотную архитектуру LlamaForCausalLM, 6,6 млрд параметров и контекст до 4096 токенов. README заявляет версию GGUF с 3-битной квантизацией и рекомендует запуск через Ollama. Модель предназначена для генерации кода и помощи с задачами научных вычислений и машинного обучения. В README перечислены Python, JavaScript, TypeScript, Rust, Go и C++, а также NumPy, SciPy, Pandas, PyTorch, TensorFlow и JAX. Метаданные указывают английский и испанский языки; модель принимает текстовые запросы и генерирует текст, включая код. Репозиторий описывает модель как локального помощника по программированию, однако подробные результаты оценки качества не приведены. README указывает лицензию Apache-2.0; из названия и карточки следует, что это квантизованная версия модели TinyLlama Instruct, но точный идентификатор исходной модели в метаданных не приведён.

Tulu V2.5 PPO 13B — англоязычная разговорная модель-помощник, разработанная Allen Institute for AI. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров, дообученная на базе allenai/tulu-2-13b с помощью PPO на промптах UltraFeedback и 70-миллиардной reward-модели, обученной на предпочтениях UltraFeedback. Контекст модели составляет 4096 токенов. Модель предназначена для диалогов с помощником, выполнения инструкций и генерации текста общего назначения. В опубликованных оценках она превосходит Tulu 2+DPO 13B по некоторым показателям и показывает конкурентные результаты на тестах Open-Instruct, но уступает более крупной модели на сложных задачах рассуждения. Для качественной генерации следует использовать шаблон чата, предусмотренный токенизатором. Модель принимает текст и генерирует текст на английском языке. Лицензия — Apache 2.0. В RLHF-фазе модель не была специально выровнена для безопасных ответов и не снабжена встроенной фильтрацией, поэтому может выдавать проблемный контент, особенно при соответствующих запросах.

Ultravox v0.4.1 — мультимодальная речевая языковая модель от Fixie.ai на базе Llama 3.1 8B Instruct и Whisper Large V3 Turbo. Она принимает аудио вместе с текстовым контекстом и генерирует текстовые ответы, поэтому подходит для голосовых агентов, анализа речи и перевода устной речи. Модель обучалась на смеси наборов данных для распознавания речи и перевода, включая LibriSpeech, Common Voice, GigaSpeech, Peoples Speech, Wenetspeech и CoVoST2. Модель поддерживает арабский, немецкий, английский, испанский, французский, хинди, итальянский, японский, нидерландский, португальский, русский, шведский, турецкий, украинский и китайский языки. В README указаны задержка до первого токена около 150 мс и скорость генерации примерно 50–100 токенов в секунду на GPU A100 40 ГБ при использовании аудио. Модель выдаёт текст, а не синтезированную речь; в этой версии также не применялась настройка предпочтений. Лицензия — MIT.

Vikhr-7b-0.1 — русскоязычная модель генерации текста от Vikhrmodels на базе архитектуры Mistral. Модель содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. В README указано, что её дополнительно обучали на 400 млн токенов в течение трёх эпох; в метаданных также указан датасет IlyaGusev/habr. Модель предназначена для генерации и продолжения текста, в том числе для русскоязычных задач. В сравнительных результатах README она превосходит Mistral-7B-v0.1 на XWinograd и XNLI, но уступает на MMLU на русском языке. Автор предупреждает, что качество работы с кодом может быть низким. Репозиторий использует формат safetensors, библиотеку Transformers и лицензию Apache-2.0.

kingabzpro/wav2vec2-large-xls-r-1b-Swedish — дообученная на шведской части Common Voice модель распознавания речи на базе facebook/wav2vec2-xls-r-1b. Это плотная архитектура Wav2Vec2ForCTC с 1,3 млрд параметров, принимающая аудио и выдающая распознанный текст на шведском языке. Модель предназначена для автоматической транскрипции шведской речи. В оценке на тестовой выборке Common Voice 8.0 показатель WER составил 18,44 без языковой модели и 14,04 с языковой моделью; CER — соответственно 5,75 и 4,86. Для использования языковой модели требуется соответствующая внешняя языковая модель. Модель распространяется под лицензией Apache-2.0. Оценка приведена для Common Voice 8.0; качество на других наборах данных и в реальных акустических условиях может отличаться.

xb3b-1.0 — диалоговая текстовая модель, разработанная xgmab123 на базе unsloth/Llama-3.2-3B-Instruct и дообученная с помощью Unsloth и TRL. Модель использует плотную архитектуру LlamaForCausalLM и содержит 3,2 млрд параметров; её контекстное окно — 131 072 токена. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на запросы и использование в приложениях с интерфейсом вызова инструментов. В метаданных указан английский язык. Репозиторий содержит веса PyTorch. Лицензия — Apache-2.0.

Xenon-3 — разговорная модель для генерации текста, разработанная на основе Mistral-7B-v0.1 и дообученная на наборе Ultrafeedback с использованием методов из статьи Self-Rewarding Language Models. Модель построена на плотной архитектуре MistralForCausalLM с 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалогов и выполнения инструкций в формате Mistral: запросы заключаются в токены [INST] и [/INST]. В архитектуре используются Grouped-Query Attention и Sliding-Window Attention; для диалогов доступен chat template через Transformers. Карточка указывает английский язык. Модель распространяется под лицензией Apache-2.0.

YamshadowInex12_Strangemerges_32Strangemerges_30 — слитая модель генерации текста, созданная из automerger/YamshadowInex12-7B и automerger/Strangemerges_32Strangemerges_30-7B. Она основана на плотной архитектуре Mistral и содержит 7,1 млрд параметров; модель принимает текст и генерирует текст, используя контекст до 32 768 токенов. Может применяться для диалога и создания продолжений текста. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

T145/ZEUS-8B-V9 — плотная языковая модель семейства Llama, созданная T145 с помощью слияния предобученных моделей методом DARE TIES. В качестве базовой использована T145/KRONOS-8B-V5; также в слияние вошли Orenguteng/Llama-3.1-8B-Lexi-Uncensored-V2, akjindal53244/Llama-3.1-Storm-8B и arcee-ai/Llama-3.1-SuperNova-Lite. Модель содержит 7,5 млрд параметров и рассчитана на контекст до 131 072 токенов. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на запросы и работу через интерфейс вызова инструментов. В карточке приведены результаты Open LLM Leaderboard, в том числе 55,51% на IFEval и 31,85% на BBH; этих показателей недостаточно, чтобы делать выводы о качестве в конкретных прикладных задачах. Модель распространяется в формате safetensors; лицензия и поддерживаемые естественные языки в предоставленных данных не указаны.

RedHatAI/Qwen3.8-27B-NVFP4 — квантизированная версия модели Qwen3.8-27B, разработанной командой Qwen; базовая модель указана как Qwen/Qwen3.8-27B. Это плотная causal language model с vision encoder, предназначенная для генерации и анализа текста, программирования, профессиональных и исследовательских задач, многошагового планирования и агентских сценариев. Модель нативно поддерживает понимание изображений и видео, включая документы, STEM-диаграммы и длительные видеоматериалы. Модель содержит 27 млрд параметров, 64 слоя и поддерживает контекст длиной 262 144 токена с возможностью расширения до 1 000 000 токенов с применением RoPE scaling, например YaRN. Архитектура сочетает Gated DeltaNet, Gated Attention и FFN; предусмотрены режимы рассуждения с настраиваемой глубиной, отключением thinking mode и сохранением контекста рассуждений из предыдущих сообщений. Указанная сборка использует квантизацию NVFP4/FP4, при этом lm_head квантизирован в FP8. К сильным сторонам относятся компактность для модели такого класса, поддержка текста, изображений и видео, длинного контекста, программирования и автономного выполнения сложных задач. Ограничение данной сборки заключается в совместимости: согласно README, она работает только в vLLM и не поддерживается SGLang. Для запуска и качества генерации могут потребоваться специальные параметры семплирования и значительный лимит выходных токенов. Модель распространяется по лицензии Apache-2.0.

Qwen3-Next-80B-A3B-Instruct-FP8 — FP8-квантизированная инструктивная версия причинной языковой модели Qwen3-Next, разработанная командой Qwen. Модель предназначена для генерации текста, диалоговых приложений, программирования, многошагового решения задач, агентских сценариев и обработки сверхдлинного контекста. Она работает только в instruct-режиме без блоков рассуждений <think></think>. Модель использует гибридную архитектуру Gated DeltaNet и Gated Attention, а также разреженную Mixture-of-Experts. Всего в ней 80 млрд параметров, из которых около 3 млрд активируются для обработки каждого токена; 48 слоёв, 512 экспертов и 10 активируемых экспертов. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 010 000 токенов. Обучение включало предварительное обучение на 15 трлн токенов и последующую настройку; README не указывает полный перечень поддерживаемых языков. Сильные стороны модели — высокая эффективность параметров и вычислений, ускоренный вывод, поддержка сверхдлинного контекста и хорошие результаты в задачах знаний, рассуждений, кодирования, следования инструкциям, письма и работы агентов. Ограничения включают отсутствие thinking-режима, а также возможные отличия заявленных результатов от характеристик FP8-версии: приведённые в карточке эксперименты выполнены на исходной модели в формате bfloat16. Модель распространяется по лицензии Apache-2.0.

NVIDIA DeepSeek-V4-Flash-NVFP4 — это квантизированная версия DeepSeek-V4-Flash, разработанного DeepSeek AI. NVIDIA подготовила модель с использованием Model Optimizer, но не является её владельцем или исходным разработчиком. Модель предназначена для генерации текста, сложного рассуждения, агентных AI-приложений, сценариев с использованием инструментов, математики, программной инженерии и корпоративных AI-ассистентов. Модель использует архитектуру Transformer с Mixture-of-Experts и гибридным вниманием, включающим Compressed Sparse Attention и Heavily Compressed Attention, а также Manifold-Constrained Hyper-Connections. Общее число параметров составляет 284 млрд, из них активируется 13 млрд. Поддерживается только текстовый ввод и вывод, многошаговые диалоги, системные инструкции, структурированный JSON, function/tool calling и выдача рассуждений. Максимальная длина контекста — 1 млн токенов. Доступны режимы Non-think, Think High и Think Max; используется специальный pipeline кодирования encoding_dsv4. К сильным сторонам относятся большой контекст, поддержка углублённого рассуждения, инструментального взаимодействия и задач программирования. Модель квантизирована в формат NVFP4, что ориентировано на ускоренный инференс на GPU NVIDIA. Указаны поддерживаемые среды SGLang и vLLM, операционная система Linux и совместимость с архитектурой NVIDIA Blackwell; тестирование проводилось на NVIDIA B200. Данные обучения не раскрыты, поэтому характеристики качества следует проверять на прикладных задачах. Для безопасного внедрения требуется дополнительное тестирование и валидация. Лицензия указана как MIT, модель доступна для коммерческого и некоммерческого использования.

vs199507/gemma-4-31B-it-GGUF — GGUF-версия мультимодальной instruction-tuned модели Gemma 4 31B, разработанной Google DeepMind и подготовленной сообществом Unsloth. Модель предназначена для генерации и понимания текста, программирования, рассуждений, работы с изображениями и агентских сценариев с вызовом функций. Это плотная модель примерно с 30,7 млрд параметров, 60 слоями и гибридным механизмом внимания, сочетающим локальное скользящее окно размером 1024 токена с глобальным вниманием. Она принимает текст и изображения и генерирует текст, поддерживает контекст до 256 тысяч токенов и мультиязычную работу более чем со 140 языками. Для модели заявлены настраиваемые режимы рассуждений, улучшенные возможности программирования, native function calling и поддержка системных промптов. К сильным сторонам относятся большой контекст, мультимодальное понимание, развитые возможности рассуждений и широкий спектр прикладных сценариев — от диалогов и анализа документов до coding и автономных агентов. Конкретные характеристики квантования, требования к памяти и производительность этой GGUF-сборки в README не указаны; из-за размера модель ориентирована преимущественно на мощные рабочие станции и серверы. Распространение осуществляется по лицензии Apache 2.0.

Qwen3-14B-GGUF — квантизированная версия причинной языковой модели Qwen3-14B, разработанной командой Qwen компании Alibaba Cloud. Модель предназначена для генерации текста, диалогов, следования инструкциям, программирования, математических и логических задач, творческого письма, ролевого взаимодействия, перевода и сценариев с использованием внешних инструментов и агентных возможностей. Модель содержит 14,8 млрд параметров, из которых 13,2 млрд приходятся на параметры без учёта эмбеддингов, и имеет 40 слоёв. Используется Grouped-Query Attention: 40 голов для запросов и 8 для ключей и значений. Поддерживаются режимы с рассуждением и без рассуждения, между которыми можно переключаться в рамках одной модели. Заявлена поддержка более 100 языков и диалектов. Нативная длина контекста составляет 32 768 токенов; с использованием YaRN проверена работа с контекстом до 131 072 токенов. Доступны варианты квантования q4_K_M, q5_0, q5_K_M, q6_K и q8_0 в формате GGUF. Сильные стороны модели — сочетание рассуждений и эффективного общего диалога, развитое следование инструкциям, мультиязычность и интеграция с инструментами. Формат GGUF ориентирован на локальный запуск через llama.cpp и Ollama. Ограничения связаны с возможным снижением качества из-за квантования; при использовании статического YaRN производительность на коротких текстах может ухудшаться, поэтому его рекомендуется включать только для длинного контекста. Модель распространяется по лицензии Apache-2.0.

Qwen3-30B-A3B-Instruct-2507 — языковая модель компании Qwen на архитектуре причинного MoE-декодера. В модели 30,5 млрд параметров, из которых при генерации активируются 3,3 млрд; она включает 48 слоёв и 128 экспертов, из которых активны восемь. Модель обучена для режима без рассуждений в специальном формате и доступна под лицензией Apache 2.0. Модель предназначена для диалогов и выполнения инструкций, генерации и понимания текста, логических и математических задач, вопросов по науке, программирования и вызова инструментов. Она поддерживает многоязычные сценарии и нативный контекст до 262 144 токенов; в README также описана экспериментальная настройка обработки контекста около миллиона токенов с DCA и разреженным вниманием, требующая примерно 240 ГБ видеопамяти. К сильным сторонам относятся следование инструкциям, работа с длинным контекстом и инструментами. Ограничение: модель работает только в режиме без рассуждений; обработка около миллиона токенов требует дополнительной настройки и значительных ресурсов.