I.3Извлечение и структурирование данных

Карточка модели igzi/MNLP_M3_document_encoder на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.

Карточка модели julpiro/MNLP_M3_document_encoder на Hugging Face совпадает с карточкой intfloat/e5-base-v2, поэтому описание составлено по ней. E5-base-v2 — англоязычная модель эмбеддингов текста, разработанная Liang Wang, Nan Yang и соавторами. Она обучена методом контрастивного предобучения со слабой супервизией и основана на архитектуре BERT: 12 слоёв, размерность эмбеддинга 768, около 136,7 млн параметров. Модель принимает текст и выдаёт векторные представления для сравнения предложений и поиска по смыслу. Модель подходит для семантического сходства, поиска документов и пассажей, поиска перефразировок, кластеризации и классификации на основе эмбеддингов. Для асимметричного поиска рекомендуется добавлять к запросам префикс «query: », а к документам — «passage: »; для сходства и других симметричных задач используется префикс «query: ». Контекст ограничен 512 токенами, длинные тексты обрезаются; модель предназначена только для английского языка. Лицензия — MIT.

Карточка модели matyaydin/MNLP_M3_document_encoder на Hugging Face совпадает с карточкой BAAI/bge-base-en-v1.5, поэтому описание составлено по ней. BAAI/bge-base-en-v1.5 — англоязычная плотная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует текст в векторы для поиска по смыслу и сравнения сходства предложений, в том числе в системах retrieval-augmented generation (RAG). Модель относится к архитектуре BERT и содержит 136,7 млн параметров; максимальный контекст — 512 токенов. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Оценки сходства не следует интерпретировать по универсальному порогу: из-за способа обучения даже несходные предложения могут получать значения выше 0,5. Модель поддерживает английский язык; доступны веса PyTorch и Safetensors, а также формат ONNX. Лицензия — MIT.

Карточка модели OmarIDK/MNLP_M3_document_encoder на Hugging Face совпадает с карточкой thenlper/gte-small, поэтому описание составлено по ней. gte-small — модель текстовых эмбеддингов семейства General Text Embeddings (GTE), разработанная Alibaba DAMO Academy на основе архитектуры BERT. Вариант small содержит около 40 млн параметров и принимает тексты длиной до 512 токенов; для более длинных текстов вход обрезается. Модель рассчитана на английский язык. Полученные эмбеддинги подходят для семантического поиска и сравнения предложений, а также могут использоваться в конвейерах поиска информации и ранжирования текстов. Модель можно применять, например, для поиска релевантных документов или оценки смыслового сходства запросов и фрагментов текста. Лицензия — MIT.

Карточка модели Ruthvikkk/MNLP_M3_document_encoder на Hugging Face совпадает с карточкой thenlper/gte-small, поэтому описание составлено по ней. gte-small — модель текстовых эмбеддингов семейства General Text Embeddings (GTE), разработанная Alibaba DAMO Academy на основе архитектуры BERT. Вариант small содержит около 40 млн параметров и принимает тексты длиной до 512 токенов; для более длинных текстов вход обрезается. Модель рассчитана на английский язык. Полученные эмбеддинги подходят для семантического поиска и сравнения предложений, а также могут использоваться в конвейерах поиска информации и ранжирования текстов. Модель можно применять, например, для поиска релевантных документов или оценки смыслового сходства запросов и фрагментов текста. Лицензия — MIT.

Карточка модели novelcore/model16 на Hugging Face совпадает с карточкой BAAI/bge-base-en-v1.5, поэтому описание составлено по ней. BAAI/bge-base-en-v1.5 — англоязычная плотная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует текст в векторы для поиска по смыслу и сравнения сходства предложений, в том числе в системах retrieval-augmented generation (RAG). Модель относится к архитектуре BERT и содержит 136,7 млн параметров; максимальный контекст — 512 токенов. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Оценки сходства не следует интерпретировать по универсальному порогу: из-за способа обучения даже несходные предложения могут получать значения выше 0,5. Модель поддерживает английский язык; доступны веса PyTorch и Safetensors, а также формат ONNX. Лицензия — MIT.

Xenova/multilingual-e5-large — это версия модели intfloat/multilingual-e5-large с весами в формате ONNX, подготовленная для работы в библиотеке Transformers.js. Разработчик исходной модели — intfloat; репозиторий Xenova адаптирует её для использования в JavaScript-приложениях, включая веб-среду. Модель предназначена для создания векторных представлений предложений и текстов, а также для задач семантического поиска и retrieval. Она поддерживает пакетную обработку текстов, mean pooling и нормализацию эмбеддингов; размер выходного вектора составляет 768. Для поиска рекомендуется добавлять к запросу префикс «Represent this sentence for searching relevant passages: ». Эмбеддинги можно сравнивать, например, с помощью косинусного сходства. Ключевое преимущество модели — мультиязычное семантическое кодирование, пригодное для сопоставления запросов и документов по смыслу, а также возможность запуска через Transformers.js с ONNX-весами. README не содержит сведений о точном наборе языков, размере контекста, архитектурных деталях, ограничениях качества или лицензии, поэтому эти характеристики нельзя достоверно уточнить.

efederici/multilingual-e5-small-4096 — версия модели multilingual-e5-small с архитектурой Local-Sparse-Global, созданная на основе intfloat/multilingual-e5-small. Она предназначена для получения эмбеддингов запросов и текстовых фрагментов, в том числе для поиска и ранжирования пассажей, например в сценариях на основе MS MARCO. Модель поддерживает контекст до 4096 токенов и содержит 124,3 млн параметров; репозиторий использует формат PyTorch. Модель подходит для семантического поиска, сопоставления текстов и построения retrieval-компонента RAG. Метаданные указывают на многоязычную поддержку; среди явно перечисленных языков есть английский, немецкий, французский, испанский, арабский, китайский? (not listed). Лицензия в предоставленных данных не указана.

multi-qa-distilbert-cos-v1 — модель Sentence-Transformers на базе DistilBERT, разработанная в рамках проекта Hugging Face по обучению моделей эмбеддингов предложений. Она кодирует вопросы, предложения и абзацы в нормализованные плотные векторы размерностью 768 для семантического поиска и сопоставления запросов с релевантными фрагментами текста. Модель обучена на 215 млн пар «вопрос — ответ» из разных источников с контрастивной функцией потерь и усреднением контекстных представлений. Модель предназначена для поиска ответов и документов по смыслу: запрос и текстовые фрагменты преобразуются в векторы, сходство которых можно оценивать косинусом или скалярным произведением. Поддерживаются английский язык и входы длиной до 512 токенов; обучение проводилось на текстах длиной до 250 токенов, поэтому качество на более длинных фрагментах может снижаться. Доступны варианты в форматах PyTorch, Safetensors, ONNX и OpenVINO. README и метаданные не сообщают лицензию модели.

NeuralsirkrishnaShadow_NeuralsirkrishnaInex12 — объединённая модель семейства Mistral, созданная на основе automerger/NeuralsirkrishnaShadow-7B и automerger/NeuralsirkrishnaInex12-7B. Она предназначена для генерации текста и диалогов. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Распространяется в формате safetensors по лицензии Apache-2.0.

Nous-Hermes-2-Mixtral-8x7B-SFT-GGUF — это квантизированная GGUF-версия языковой модели Nous-Hermes-2-Mixtral-8x7B-SFT, разработанной NousResearch и подготовленной квантизацией компанией Second State Inc. Модель предназначена для диалоговых и инструкционных сценариев, включая генерацию текста и работу в чат-приложениях на базе LlamaEdge. Модель основана на архитектуре Mixtral и использует формат промптов ChatML. В README указан английский язык, контекстное окно составляет 4096 токенов. Доступны варианты квантизации от Q2_K до Q8_0 размером от 17,3 до 49,6 ГБ. Q4_K_M рекомендуется как сбалансированный вариант, а Q5_K_M и Q5_K_S — как варианты с минимальной потерей качества. Более сильная квантизация уменьшает размер, но может заметно ухудшать качество; точные сведения о числе параметров, поддерживаемых модальностях и дополнительных языках не указаны. Для запуска требуется LlamaEdge версии 0.2.8 или новее; предусмотрены режимы сервиса и командного чат-приложения. Модель распространяется по лицензии Apache-2.0.

MaziyarPanahi выпустил эту диалоговую модель как слияние Mistral-7B-Instruct-v0.2 и OpenHermes-2.5-neural-chat-7b-v3-1-7B методом SLERP. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, рассчитанная на диалог и генерацию текста по инструкциям; заявленная длина контекста — до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и создания текстов по запросу. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Карточка не сообщает о специализированной предметной области или ограничениях качества.

lmstudio-community/Phi-4-reasoning-plus-MLX-4bit — это версия модели Microsoft Phi-4-reasoning-plus, преобразованная сообществом lmstudio-community в формат MLX с использованием mlx-lm 0.24.0. Модель предназначена для генерации текста и диалогового взаимодействия на английском языке, включая задачи рассуждения, математики, программирования и обработки естественного языка. Модель поддерживает использование через библиотеку mlx-lm и совместима с чатовым шаблоном токенизатора. В названии указано 4-битное представление, однако архитектура, количество параметров, размер контекста и точные характеристики модальностей в README не приведены; по указанным данным модель является текстовой и не предназначена для обработки изображений или других мультимедийных данных. Лицензия — MIT. README не содержит результатов тестирования, поэтому количественно оценить сильные стороны и ограничения модели невозможно; к ограничениям относятся неизвестные параметры производительности и качества, а также заявленная языковая поддержка только английского языка.

Карточка модели JaehyeokLee/preliminary_5m_checkpoint_epoch_1_step_440 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели JaehyeokLee/preliminary_clustering_infonce_checkpoint_epoch_1_step_160 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели JaehyeokLee/preliminary_clustering_infonce_checkpoint_epoch_1_step_40 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели JaehyeokLee/preliminary_efficient_batching_random_gist_checkpoint_epoch_1_step_180 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели JaehyeokLee/preliminary_random_gist_checkpoint_epoch_1_step_120 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели JaehyeokLee/preliminary_random_gist_checkpoint_epoch_1_step_210 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели JaehyeokLee/preliminary_random_gist_checkpoint_epoch_1_step_90 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели liddlefish/privacy_embedding_rag_10k_base_12_final на Hugging Face совпадает с карточкой BAAI/bge-base-en-v1.5, поэтому описание составлено по ней. BAAI/bge-base-en-v1.5 — англоязычная плотная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует текст в векторы для поиска по смыслу и сравнения сходства предложений, в том числе в системах retrieval-augmented generation (RAG). Модель относится к архитектуре BERT и содержит 136,7 млн параметров; максимальный контекст — 512 токенов. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Оценки сходства не следует интерпретировать по универсальному порогу: из-за способа обучения даже несходные предложения могут получать значения выше 0,5. Модель поддерживает английский язык; доступны веса PyTorch и Safetensors, а также формат ONNX. Лицензия — MIT.

Qandora-2.5-7B — объединённая методом mergekit модель для диалогов и генерации текста. Она создана на основе Rombos-LLM-V2.5-Qwen-7b, cybertron-v4-qw7B-MGS и Homer-7B-v0.2 с помощью линейного слияния весов; архитектура — плотная Qwen2, около 7,1 млрд параметров. Модель принимает текст и выдаёт текст, а нативная длина контекста составляет 32 768 токенов. Модель предназначена для диалогового взаимодействия и генерации текста; метаданные также отмечают интерфейс вызова инструментов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

QRWKV-72B — крупная разговорная языковая модель от Featherless AI, представленная в работе RADLADS о дистилляции быстрого внимания для декодеров с линейным вниманием. Это плотная архитектура RWKV6Qwen2 с 71,5 млрд параметров, полученная преобразованием Qwen 2.5 72B в вариант RWKV без предварительного обучения базовой модели заново. Модель генерирует текст, поддерживает чат и интерфейс вызова инструментов; заявленная длина контекста — 131 072 токена. Модель предназначена для диалогов, генерации ответов и задач рассуждения с длинным контекстом. В README приведены результаты бенчмарков ARC и HellaSwag, где QRWKV-72B в некоторых сравнениях превосходит Qwen2.5-72B-Instruct, но это не гарантирует такого же качества в других задачах. Модель унаследовала знания и обучение языкам от Qwen и рассчитана примерно на 30 языков. Файлы опубликованы в формате safetensors; для Transformers требуется включить удалённый код. Лицензия указана как other, конкретные условия в доступных сведениях не раскрыты.

Qwen1.5-MoE-A2.7B-Chat — диалоговая языковая модель на архитектуре Transformer с декодером и смесью экспертов (MoE), разработанная командой Qwen. Она создана на основе Qwen-1.8B и предназначена для генерации текста в чате и ответов на запросы. По карточке модели, всего в ней 14,3 млрд параметров, из которых при генерации активируются 2,7 млрд; каталог Hugging Face указывает 1,5 млрд параметров. Контекст модели — до 32 768 токенов. Разработчики сообщают о сопоставимой с Qwen1.5-7B производительности при меньших затратах на обучение и о более высокой скорости инференса. Карточка советует использовать параметры генерации из generation_config.json при проблемах с переключением языков или других нежелательных результатах. Модель рассчитана на текстовый ввод и выдачу текста; в метаданных указан английский язык. Лицензия обозначена как other, поэтому конкретные условия использования следует сверять с лицензией репозитория.

MaziyarPanahi/Qwen2-7B-Instruct-GGUF — это набор файлов модели в формате GGUF для Qwen2-7B-Instruct, разработанной командой Qwen. Квантизацию и публикацию файлов выполнил MaziyarPanahi. Модель предназначена для генерации текста и использования в диалоговых и других сценариях, где требуется инструкционно настроенная языковая модель. Модель основана на Qwen2-7B-Instruct и содержит около 7 миллиардов параметров. Доступны варианты квантизации с разрядностью 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации. Формат GGUF поддерживается llama.cpp и рядом совместимых приложений и библиотек, включая llama-cpp-python, LM Studio, text-generation-webui и другие инструменты для локального запуска с возможным ускорением на GPU. Сильными сторонами являются широкий выбор уровней квантизации и совместимость с экосистемой GGUF для локального вывода. Ограничения включают потенциальную потерю качества в более агрессивно квантованных вариантах, а также отсутствие в README сведений о языках, размере контекста, точной архитектуре, исходных данных и результатах тестирования. Лицензия в предоставленных материалах не указана.

Qwen3-4B-Instruct-2507-GGUF — это GGUF-квантизированная версия языковой модели Qwen3-4B-Instruct-2507, разработанная ByteShape с применением технологии ShapeLearn. Технология подбирает тип данных отдельно для каждого тензора, чтобы сохранять высокое качество при малой разрядности. Модель предназначена для генерации текста и может использоваться локально с llama.cpp и Ollama на CPU и GPU. Модель относится к текстовым генеративным моделям, имеет размер исходной версии 4B параметров и представлена в вариантах KQ и IQ с разной средней разрядностью — от 2,55 до 4,74 бит на вес. KQ-варианты рекомендованы для CPU благодаря эффективности ядер GGML, а IQ-варианты — для современных Nvidia GPU. Размер файлов составляет примерно от 1,29 до 2,39 ГБ. Доступны различные компромиссы между скоростью инференса, размером и качеством; заявленные нормализованные показатели качества достигают 99,80%. Сильными сторонами являются компактность, широкий выбор вариантов под разное оборудование и оптимизация квантования с использованием ShapeLearn. Ограничения связаны с потерями качества, возможными при низкой разрядности, а также с отсутствием в README сведений о языках, размере контекста, точной архитектуре и мультимодальных возможностях. Модель распространяется по лицензии Apache-2.0.

INCModel2/Qwen3.5-397B-A17B-MXFP4-Mixed-CT-AutoRound — вариант Qwen3.5-397B-A17B, сжатый в формат MXFP4 с помощью intel/auto-round и представленный в формате llm_compressor. Это мультимодальная модель с архитектурой Qwen3.5 MoE, предназначенная для диалогов и обработки изображений вместе с текстом; заявлен интерфейс вызова инструментов. В репозитории доступны веса safetensors, а для запуска автор приводит пример с vLLM и контекстом до 131072 токенов. Модель подходит для вопросов по изображениям, диалогов, задач на рассуждение и сценариев с вызовом инструментов. В приведённых тестах MXFP4 сохраняет 99,5% среднего результата BF16 на GSM8K, MMLU, PIQA и HellaSwag. README предупреждает о возможных фактических ошибках, предвзятых или оскорбительных ответах и рекомендует проверять безопасность перед развертыванием. Указано следовать лицензии исходной модели; метаданные репозитория указывают Apache-2.0.

mradermacher/Qwen3.5-9B-Brainwaves-i1-GGUF — набор квантованных моделей в формате GGUF, созданный mradermacher на основе nightmedia/Qwen3.5-9B-Brainwaves. Это модель примерно на 9 млрд параметров; в README она также обозначена как vision model, однако подробности о визуальной архитектуре и поддерживаемых типах входных данных не приведены. Модель предназначена для генерации текста, диалогов, рассуждений, программирования, математических и STEM-задач, исследовательских сценариев, а также творческого письма и ролевого взаимодействия. Заявлена поддержка английского, китайского, японского и испанского языков. Репозиторий содержит варианты квантования i1 от Q2_K до Q6_K и IQ-квантов, что позволяет выбирать между размером файлов, скоростью и качеством; рекомендуемым вариантом назван i1-Q4_K_M. К сильным сторонам относятся разнообразие доступных квантов и возможность запуска через совместимое с GGUF программное обеспечение. Ограничения — отсутствие в README подробных сведений об архитектуре, точном размере контекста, результатах тестирования и фактических возможностях vision-компонента; квантование может снижать качество по сравнению с исходной моделью. Указанная лицензия — Apache-2.0.

parmanu-lcs2/Qwen3-5B — текстовая генеративная модель на архитектуре Qwen3, полученная сокращением Qwen/Qwen3-8B методом SNIPER и последующим дообучением. После pruning в модели 5,406,974,208 параметров; метаданные каталога указывают 7,6 млрд. параметров и контекст до 40 960 токенов. Для восстановления использованы LoRA и 2 000 примеров SlimOrca в течение одной эпохи, после чего адаптеры объединены с весами модели. Модель предназначена для диалоговой генерации текста и выполнения инструкций. Её можно применять для ответов на вопросы, составления текстов и помощи с кодом — в пределах возможностей базовой Qwen3. README сообщает длину контекста 1 024 токена во время дообучения; это не следует путать с заявленным в метаданных родным контекстом модели. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Описание не содержит результатов оценки качества после pruning, поэтому фактическую сохранность способностей базовой модели следует проверять на целевых задачах.

Qwen35B-Agent-R2-i1-GGUF — квантизированная GGUF-версия модели Qwen35B-Agent-R2, подготовленная mradermacher. Базовая модель разработана автором или организацией hotdogs; точная информация о разработчике в README не указана. Модель предназначена для генерации текста, диалоговых сценариев, reasoning, агентских задач, использования инструментов и tool calling. Обучение или дообучение связано с датасетами для рассуждений, агентскими траекториями и conversational-задачами. Модель относится к архитектуре Mixture-of-Experts и имеет заявленный размер 35B, поддерживает текстовый ввод и вывод. В метаданных указаны английский и тайский языки. Модель распространяется в виде набора квантизаций GGUF с разным компромиссом между размером, скоростью и качеством: от IQ1_S размером 7,6 ГБ до Q6_K размером 28,6 ГБ. Варианты IQ-квантизации могут быть предпочтительнее сопоставимых обычных вариантов по размеру, но низкобитные версии заметно ограничены по качеству. Оптимальными по соотношению размера, скорости и качества README называет i1-Q4_K_S, а i1-Q4_K_M — быстрой и рекомендуемой. В README не указаны размер контекстного окна, точные параметры архитектуры, мультимодальные возможности и результаты бенчмарков, поэтому нельзя сделать выводы об этих характеристиках. Лицензия модели — AGPL-3.0; условия использования производных квантизированных файлов следует учитывать вместе с лицензией базовой модели.