I.3Извлечение и структурирование данных

asadmasad/GIST-large-finetuned — модель эмбеддингов предложений на основе архитектуры BERT, распространяемая в формате safetensors и используемая через библиотеку Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 1024 для семантического поиска, кластеризации и сравнения текстов. Модель обучалась с функцией Multiple Negatives Ranking Loss и косинусным сходством; максимальная длина контекста составляет 512 токенов, размер модели — около 433,9 млн параметров. Подходит для поиска похожих фрагментов текста и группировки текстов по смыслу. Доступные данные не устанавливают целевые языки или специализированные предметные области; производительность на конкретном языке и домене следует проверять отдельно. Сведения о лицензии в предоставленных источниках отсутствуют.

Карточка модели AshwinKM2005/github-duplicates-bi-encoder на Hugging Face совпадает с карточкой google/embeddinggemma-300m, поэтому описание составлено по ней. EmbeddingGemma — компактная модель эмбеддингов Google DeepMind на 300 млн параметров, построенная на Gemma 3 с инициализацией T5Gemma. Она преобразует текстовые запросы и документы в векторы и предназначена для семантического поиска, оценки сходства, классификации и кластеризации. Модель поддерживает более 100 языков и рассчитана на локальное использование на телефонах и компьютерах с ограниченными ресурсами. Модель принимает текст с контекстом до 2048 токенов и выдаёт эмбеддинги размерностью 768; с помощью Matryoshka Representation Learning размерность можно сократить до 512, 256 или 128 с последующей нормализацией. Она подходит для поиска документов и кода по запросу, поиска материалов для систем вопросов и ответов, обнаружения дубликатов и тематической группировки текстов. Для работы предусмотрена библиотека Sentence Transformers. Качество представлений зависит от охвата и возможных смещений обучающих данных; модель может хуже учитывать тонкие языковые оттенки, сарказм и переносный смысл. Лицензия указана как Gemma; применяются условия использования Gemma и её политика запрещённого использования.

GPT-4 — крупная мультимодальная языковая модель OpenAI. В карточке она описана как флагманская модель, способная решать сложные задачи с большей точностью, чем предыдущие модели, благодаря широким общим знаниям и развитым способностям к рассуждению. Модель предназначена для генерации текста и решения разнообразных сложных задач. Карточка указывает на мультимодальность, но не уточняет поддерживаемые типы входных и выходных данных, языки, размер модели или длину контекста. Сведения о лицензии также отсутствуют.

SMARTICT/gte-small-finetune-test — англоязычная модель Sentence Transformers, дообученная SMARTICT на базе thenlper/gte-small с использованием набора sentence-transformers/all-nli. Она кодирует предложения и абзацы в плотные векторы размерностью 384 для сравнения текстов по косинусному сходству. Архитектура основана на BERT: усреднение токенных представлений с последующей нормализацией. Максимальная длина входа — 512 токенов. Модель предназначена для семантического поиска, оценки сходства предложений, поиска перефразировок, кластеризации и извлечения признаков для классификации текста. В README приведены результаты оценки на all-nli-dev и all-nli-test с cosine_accuracy 0,926 и 0,9348 соответственно. Модель ориентирована на английский язык; лицензия — Apache-2.0.

sergeyzh/LaBSE-ru-turbo — русскоязычная модель эмбеддингов предложений на основе BERT, разработанная sergeyzh и дообученная на базе cointegrated/LaBSE-en-ru. Она предназначена для преобразования русских текстов в векторы, сравнения семантической близости предложений, поиска похожих текстов, кластеризации и классификации с использованием эмбеддингов. Модель содержит 155,5 млн параметров, выдаёт эмбеддинги размерностью 768 и обрабатывает до 512 токенов контекста; доступны веса Safetensors и использование через Sentence Transformers. В README приведены результаты на encodechka и ruMTEB, включая сильные показатели на некоторых задачах сходства и кластеризации. Лицензия MIT.

Многоязычная инструкционно настроенная языковая модель Meta на архитектуре авторегрессионного трансформера Llama 3.1. Репозиторий unsloth/Llama-3.1-8B-Instruct основан на meta-llama/Llama-3.1-8B-Instruct и содержит плотную модель примерно на 7,5 млрд параметров в формате Safetensors; для настройки использовались supervised fine-tuning и обучение с обратной связью от людей. Модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов, а длина контекста составляет до 131 072 токенов. Модель предназначена для диалоговых помощников и генерации текста на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Её можно применять для ответов на вопросы, составления и преобразования текстов, суммаризации и генерации синтетических данных. К сильным сторонам относятся широкий контекст, многоязычность и возможность интеграции с инструментами. Качество и безопасность ответов могут различаться между языками и сценариями; карточка рекомендует осторожность при использовании неподдерживаемых языков и интеграции сторонних инструментов. Модель распространяется по лицензии Llama 3.1 Community License с условиями коммерческого и исследовательского использования.

cortecs/Llama-3.3-70B-Instruct-FP8-Dynamic — динамически квантованная версия Meta Llama 3.3 70B Instruct, разработанная на базе модели meta-llama/Llama-3.3-70B-Instruct. Это большая языковая модель с 70 миллиардами параметров, предварительно обученная и дообученная по инструкциям для генерации текста и многоязычного диалога. Модель предназначена для чат-ботов, ассистентов и других приложений, связанных с обработкой и генерацией текста. Она поддерживает английский, французский, немецкий, хинди, итальянский, португальский, испанский и тайский языки. Указанный показатель восстановления точности составляет 99,67%; приведённые оценки показывают небольшое снижение результатов относительно исходной Llama-3.3-70B-Instruct, при этом в отдельных тестах показатели практически совпадают. Ключевая особенность модели — формат FP8 Dynamic, который предназначен для более эффективного размещения и выполнения крупной модели при сохранении близкого к исходному качества. Данные о размере контекста, поддерживаемых модальностях помимо текста и конкретных аппаратных требованиях в README не указаны. Модель распространяется по лицензии Meta Llama 3, ссылка на условия приведена в карточке.

lmstudio-community/Meta-Llama-3.1-70B-Instruct-GGUF — квантизированная версия инструкционной языковой модели Meta Llama 3.1 70B Instruct, подготовленная сообществом lmstudio-community и квантизированная bartowski. Базовую модель разработала Meta. Она предназначена для генерации текста и выполнения инструкций, включая диалоговые и прикладные сценарии обработки естественного языка. Модель относится к семейству Llama 3.1 и использует архитектуру, поддерживаемую библиотекой Transformers; доступна в формате GGUF для локального запуска в совместимых инструментах. Заявлены языки английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Размер контекста, конкретный вариант квантизации и модальности в README не указаны; по представленным данным это текстовая модель. К сильным сторонам относятся большой размер 70B и инструкционная настройка, потенциально обеспечивающие высокое качество ответов и следование запросам. Ограничениями являются высокая потребность в вычислительных ресурсах даже после квантизации, а также отсутствие в предоставленных данных подробных сведений о производительности, точности и поддерживаемом контексте. Модель распространяется по Llama 3.1 Community License Meta с требованиями к атрибуции, указанию «Built with Llama» при распространении и соблюдению Acceptable Use Policy.

MiMo-V2.5 — нативная омнимодальная модель, разработанная Xiaomi MiMo. Она объединяет обработку текста, изображений, видео и аудио в единой архитектуре и предназначена для мультимодального понимания, рассуждений в длинном контексте, программирования и агентских сценариев, включая взаимодействие с инструментами и выполнение многошаговых задач. Модель построена на разреженной архитектуре Mixture of Experts: всего 310 млрд параметров, из которых активируется 15 млрд. Она использует гибридное внимание с чередованием Sliding Window Attention и Global Attention, 729-миллионный Vision Transformer для изображений и видео и аудиоэнкодер на 261 млн параметров. Поддерживается контекст до 1 млн токенов, а Multi-Token Prediction ускоряет инференс посредством speculative decoding. В заявленных языках указаны английский и китайский. К сильным сторонам относятся широкий набор модальностей, большой контекст, эффективная работа с длинными последовательностями и развитые агентские возможности. Модель крупная и, вероятно, требует значительных вычислительных ресурсов для развёртывания; README не приводит точных требований к оборудованию и количественных результатов benchmark-тестов. Модель распространяется по лицензии MIT.

gaussalgo/MiniLM-L6-v2-Canard-Fullwiki — модель эмбеддингов на базе BERT, опубликованная пользователем gaussalgo. Она преобразует предложения и абзацы в плотные векторы размерности 384 для семантического поиска, кластеризации и сравнения сходства текстов. Обучение использовало MultipleNegativesRankingLoss с косинусным сходством; модель доступна в формате PyTorch и рассчитана на контекст до 512 токенов. Модель подходит для поиска семантически близких фрагментов и группировки текстов по смыслу. В карточке не приведены поддерживаемые языки и результаты оценки качества, поэтому нельзя уверенно определить языковой охват или сравнительную эффективность. Размер модели — около 40 млн параметров. Условия лицензии в предоставленных данных не указаны.

gomyk/minilm-student-L6_uniform_distilled — компактный многоязычный кодировщик предложений, созданный автором на основе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2. Модель использует архитектуру MiniLM с сокращением числа слоёв с 12 до 6 и уменьшенным словарём; в README указана размерность скрытого представления 384, а метаданные указывают 28,9 млн параметров и контекст до 512 токенов. Для дистилляции применялись потери MSE и косинусного сходства на данных задач классификации, кластеризации и семантического сходства. Модель предназначена для получения векторных представлений предложений, оценки их семантического сходства, кластеризации и классификации текстов. Она поддерживает 18 языков, включая русский и английский. В опубликованных результатах MTEB указаны средние показатели 56,93% в целом и 71,48% для STS; результаты зависят от языка и задачи. Модель выпущена под лицензией Apache-2.0.

NVIDIA MiniMax-M3-NVFP4 — квантизированная версия мультимодальной модели MiniMax-M3, подготовленная с помощью NVIDIA Model Optimizer. Это модель архитектуры Transformer с Mixture-of-Experts: всего 428 млрд параметров, из которых активно около 23 млрд на токен. Она принимает текст, изображения и видео, а также выдаёт текст; контекстное окно составляет до 1 млн токенов, видео — до 30 минут. Модель предназначена для понимания изображений и длинных видео, программирования на продолжительных задачах, диалогов с инструментами и агентных сценариев. Режим рассуждения можно переключать между углублённым и менее затратным по задержке. Квантизация NVFP4 уменьшает объём весов и требования к памяти примерно вдвое относительно 8-битной версии; в приведённых тестах показатели близки к FP8-базе. Для запуска README указывает vLLM и NVIDIA Blackwell; поддержка MiniMax-M3 NVFP4 доступна в nightly-сборке vLLM. Веса самой модели разработаны не NVIDIA, а сторонней организацией. Лицензия обозначена как other, модель разрешена для некоммерческого использования. Ответы могут быть неточными, неполными или избыточными; модель может воспроизводить токсичность и предвзятость из обучающих данных.

Карточка модели theship87/mistral-7b-fork на Hugging Face совпадает с карточкой mistralai/Mistral-7B-Instruct-v0.3, поэтому описание составлено по ней. Mistral-7B-Instruct-v0.3 — языковая модель Mistral AI, дообученная следовать инструкциям на основе Mistral-7B-v0.3. Она предназначена для диалогов, генерации и продолжения текста, а также сценариев с вызовом функций и инструментов. Модель имеет плотную архитектуру MistralForCausalLM и 7,1 млрд параметров; контекст — до 32 768 токенов. В версии v0.3 расширен словарь до 32 768 токенов, добавлена поддержка токенизатора v3 и вызова функций. Модель принимает текст и генерирует текст, подходит для чат-ботов, выполнения инструкций и интеграции с инструментами. Карточка не перечисляет поддерживаемые естественные языки, поэтому языковую специализацию определить нельзя. По заявлению авторов, это демонстрационная модель, показывающая возможности дообучения базовой версии. У модели нет механизмов модерации, поэтому её ответы требуют соответствующей проверки при использовании. Лицензия — Apache-2.0.

AIDA-UPM/MSTSb_paraphrase-xlm-r-multilingual-v1 — модель на базе XLM-RoBERTa, опубликованная AIDA-UPM и предназначенная для получения эмбеддингов предложений и абзацев. Она преобразует текст в плотные векторы размерности 768, пригодные для семантического поиска, кластеризации и сравнения сходства предложений. В метаданных указано 305,2 млн параметров и контекстное окно 514 токенов; веса доступны в формате PyTorch. Модель обучалась с CosineSimilarityLoss. Для работы требуется корректное объединение контекстных представлений токенов с помощью pooling; Sentence-Transformers предоставляет готовый способ использования. Карточка не указывает лицензию, поэтому условия распространения здесь описать нельзя.

AIDA-UPM — модель sentence-transformers на базе XLM-RoBERTa, обученная сопоставлять предложения и абзацы в общем плотном пространстве эмбеддингов размерности 768. Её можно применять для семантического поиска, кластеризации и оценки смыслового сходства текстов. Модель содержит 305,2 млн параметров, принимает текстовые последовательности с контекстом до 514 токенов и распространяется в формате PyTorch. Модель подходит для поиска близких по смыслу фрагментов в многоязычных корпусах и группировки текстов по тематике. Обучение с CosineSimilarityLoss указывает на настройку для работы с оценкой сходства. Лицензия в предоставленных данных не указана.

srikarvar/multilingual-e5-small-pairclass-contrastive — дообученная модель Sentence Transformer на базе intfloat/multilingual-e5-small. Она кодирует предложения и абзацы в плотные векторы размерности 384; для сравнения векторов используется косинусное сходство. Архитектура включает BERT, усреднение токенных представлений и нормализацию; максимальная длина входа — 512 токенов. Модель предназначена для оценки семантического сходства пар текстов, семантического поиска и поиска перефразирований. Эмбеддинги также можно использовать для кластеризации и классификации текста. В README приведены результаты бинарной классификации на наборах pair-class-dev и pair-class-test; обучение проведено с ContrastiveLoss на 296 парах. Многоязычность унаследована от базовой multilingual-e5-small, однако конкретные поддерживаемые языки в доступных данных не перечислены. Лицензия в предоставленных данных не указана.

multi-qa_v1-mpnet-mean_cos — модель SentenceTransformers для получения векторных представлений предложений и текстов. Её разработали участники Hugging Face Community Week в проекте по обучению моделей эмбеддингов; в основе лежит microsoft/mpnet-base, дообученная в сиамской схеме с контрастивной целью. Размер модели — 136,7 млн параметров, архитектура — MPNet, формат весов — PyTorch, контекст — до 514 токенов. Модель предназначена для семантического поиска, сравнения сходства вопросов и ответов, кластеризации и других сценариев, где нужно сопоставлять тексты по смыслу. Она кодирует входной текст в вектор, используя mean pooling скрытых состояний. Обучение проводилось на парах вопросов и ответов Stack Exchange, а также данных MSMARCO, NQ и TriviaQA, что делает модель ориентированной на поиск ответов по запросам. Модель принимает текст и выдаёт эмбеддинги; README не указывает отдельную языковую специализацию. Это энкодер для извлечения признаков, а не генеративная модель ответов. Лицензия в предоставленных метаданных и README не указана.

MyAwesomeModel — модель из репозитория liufeftwer145, распространяемая через Hugging Face и предназначенная для извлечения признаков; в метаданных указаны библиотека Transformers, PyTorch и тег BERT. README описывает обновлённую версию модели с улучшенными способностями к рассуждению и выводу, а также применением алгоритмической оптимизации на этапе post-training. Модель заявлена для математического и логического рассуждения, понимания текста, ответов на вопросы, классификации, анализа тональности, генерации кода и текста, суммаризации, перевода, диалогов, поиска знаний и следования инструкциям. README также упоминает поддержку системного промпта, function calling, загрузки файлов и генерации с использованием результатов веб-поиска, а также доступ через чат-интерфейс и API. В README приведены результаты внутренних или заявленных benchmark-оценок по нескольким категориям, включая математику, программирование и общую логику; для AIME 2025 указано повышение точности с 70% до 87,5% по сравнению с предыдущей версией. Рекомендуемая температура составляет 0,6. Модель распространяется по лицензии MIT.

swardiantara/one-stage-k3-MiniLM-L12-v2 — модель sentence-transformers на архитектуре BERT, разработчик обучил её для преобразования предложений и абзацев в плотные векторы размерности 384. Её можно применять для семантического поиска и кластеризации текстов; метаданные также указывают возможность извлечения признаков. Модель содержит около 40 млн параметров, принимает текст с контекстом до 512 токенов и распространяется в формате safetensors. При обучении использовалась ContrastiveLoss с косинусной метрикой расстояния. Это подходит для сравнения смысловой близости текстов и построения векторного поиска. README не сообщает обучающие данные, поддерживаемые языки или лицензию, поэтому нельзя оценить языковой охват и условия коммерческого использования.

ganser4566/paraphrase-multilingual-MiniLM-L12-v2 — многоязычная модель Sentence-Transformers на архитектуре BERT, обученная командой sentence-transformers. Она преобразует предложения и абзацы в плотные векторы размерности 384 и предназначена для сравнения семантической близости текстов, семантического поиска и кластеризации. Модель содержит 124,3 млн параметров, принимает текст и формирует векторные представления. Её контекстное окно — 512 токенов; в метаданных указана поддержка русского и ряда других языков, включая английский. Для использования доступны библиотека sentence-transformers и формат safetensors. Лицензия Apache-2.0 разрешает свободное использование на её условиях. Векторы подходят для поиска и группировки текстов, но качество зависит от языка, формулировок и выбранной схемы сравнения; модель сама по себе не генерирует ответы и не выполняет поиск по коллекции без дополнительной системы.

Многоязычная модель Sentence Transformers на архитектуре BERT, дообученная на базе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 для получения эмбеддингов предложений и абзацев. Она преобразует текст в плотные векторы размерностью 384 и предназначена для семантического поиска, сравнения сходства и кластеризации. Обучение с Matryoshka2dLoss поддерживает использование представлений нескольких размерностей, включая 768, 512, 256, 128 и 64; контекст модели составляет 512 токенов, число параметров — 124,3 млн. Модель подходит для многоязычных текстовых коллекций и поиска семантически близких фрагментов. Для сравнения сходства и ранжирования результатов требуется использовать полученные эмбеддинги в соответствующей метрике или поисковом процессе. Лицензия в предоставленных данных не указана.

Phi-3-medium-128k-instruct-GGUF — квантизированная версия инструкционной языковой модели Phi-3-medium-128k-instruct, разработанной Microsoft и подготовленной в формате GGUF компанией Second State Inc. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на инструкции, работу с длинными документами и программным кодом. В README указана поддержка multilingual, однако конкретный перечень языков не приведён. Архитектура и точное число параметров не указаны; модель относится к типу phi-msft и поддерживает контекст до 128 000 токенов. Доступны варианты квантизации от Q2_K до Q8_0, а также f16, размером примерно от 5,14 до 27,9 ГБ. Варианты с более сильной квантизацией требуют меньше памяти, но могут заметно терять в качестве; Q4_K_M, Q5_K_M и Q5_K_S обозначены как рекомендуемые для баланса между размером и качеством. Модель рассчитана на запуск через совместимые инструменты, включая LlamaEdge, с использованием шаблона phi-3-chat. Лицензия — MIT; дополнительные ограничения или сведения о мультимодальности в README не указаны.

unsloth/phi-4-GGUF — это конвертированная в формат GGUF версия модели Phi-4, разработанной Microsoft Research и основанной на microsoft/phi-4. Unsloth адаптировала модель под архитектуру Llama, чтобы упростить использование и дообучение, а также внесла исправления, связанные с Phi-4. Модель распространяется для запуска через llama.cpp и других совместимых инструментов. Модель предназначена для генерации текста, диалогов, следования инструкциям, решения математических задач и программирования. Это плотный decoder-only Transformer на 14 млрд параметров с текстовым вводом, оптимизированным для запросов в чат-формате. Заявленная длина контекста составляет 16K токенов, основной язык — английский. В репозитории доступны варианты квантования GGUF, включая phi-4-Q2_K_L.gguf, что позволяет запускать модель с различными компромиссами между качеством, скоростью и требованиями к памяти. Сильными сторонами модели являются ориентация на качественные данные, развитое рассуждение, точное следование инструкциям и поддержка сценариев дообучения. Ограничения включают текстовую модальность, преимущественную ориентацию на английский язык, ограничение контекста в 16K токенов и возможные потери качества, зависящие от выбранного уровня квантования. Модель распространяется по лицензии MIT.

Qwen2.5-32B-Instruct-MLX-4bit — языковая instruction-tuned модель для генерации текста и диалоговых сценариев, основанная на Qwen2.5-32B-Instruct, разработанной командой Qwen. Данная версия подготовлена сообществом LM Studio: MLX-квантизацию в формате 4-bit выполнил bartowski с использованием mlx-examples. Модель предназначена для работы на компьютерах Mac с Apple Silicon. Модель поддерживает обработку и генерацию текста, понимание структурированных данных и работу с длинным контекстом до 32 тысяч токенов; заявленный максимальный объём генерации составляет 8 тысяч токенов. Поддерживается более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. К сильным сторонам относятся большой размер модели, многоязычность, поддержка длинного контекста и оптимизация для запуска на Apple Silicon благодаря MLX и 4-bit квантизации. Ограничения включают зависимость от совместимого оборудования и возможное снижение точности по сравнению с исходной моделью из-за квантизации. Как и другие генеративные модели, она может создавать неточные, вредные или неподходящие ответы. Модель распространяется по лицензии Apache-2.0.

nvidia/Qwen3-32B-NVFP4 — текстовая авторегрессионная языковая модель на базе Qwen3-32B, разработанной Alibaba. NVIDIA подготовила её квантованную версию с использованием TensorRT Model Optimizer v0.35.0; при этом модель не является собственной разработкой NVIDIA. Она предназначена для коммерческого и некоммерческого применения, включая AI Agent-системы, чат-боты, RAG-системы и другие приложения на основе генеративного ИИ. Модель использует архитектуру Transformers и содержит 32,8 млрд параметров. Она принимает и генерирует текстовые последовательности, поддерживает контекст длиной до 131 тысячи токенов. В рамках посттренировочной квантования веса и активации линейных операторов в трансформерных блоках преобразованы в формат FP4, что ориентировано на эффективный инференс. Указанная конфигурация предназначена для запуска с TensorRT-LLM на GPU NVIDIA, включая архитектуру Blackwell, преимущественно в среде Linux. К сильным сторонам относятся большой контекст, высокая ёмкость базовой модели и оптимизация FP4 для аппаратно ускоренного инференса. По приведённым результатам, относительно эталонной версии BF16 качество на MMLU Pro и AIME 2024 немного ниже, на SciCode сопоставимо или немного выше, а на MATH-500 совпадает; однако результаты не охватывают все сценарии применения. README не содержит сведений о поддерживаемых естественных языках, полном наборе ограничений, данных обучения и характеристиках производительности вне тестовой конфигурации. Лицензия — Apache License 2.0.

Qwen3-4B-Instruct-2507-AWQ-4bit — это 4-битная AWQ-квантизованная версия причинной языковой модели Qwen3-4B-Instruct-2507. Базовую модель разработала команда Qwen, а данную квантизованную сборку опубликовал пользователь cyankiwi. Квантизация выполнена с использованием llm-compressor, схемы W4A16_ASYM для линейных слоёв и набора данных Llama-Nemotron-Post-Training-Dataset; слой lm_head не квантизовался. Модель предназначена для генерации текста, следования инструкциям, логического рассуждения, понимания текста, математики, научных задач, программирования, вызова инструментов и агентских сценариев. Она работает только в non-thinking mode и не формирует блоки <think></think>. Заявлены улучшенные многоязычные возможности и поддержка контекста длиной до 262 144 токенов, однако конкретный перечень языков не указан. Архитектура включает 4,0 млрд параметров, 36 слоёв и Grouped Query Attention с 32 головами для Q и 8 для KV; число параметров без эмбеддингов — 3,6 млрд. Квантизация снижает требования к памяти и может упростить локальное развертывание, но способна влиять на качество по сравнению с полной точностью. В README не приведены точные аппаратные требования и детальное описание ограничений квантизованной версии. Лицензия — Apache-2.0.

MMOPD/Qwen3-4B-OT3-if — плотная языковая модель Qwen3 с 3,7 млрд параметров, разработанная командой MMOPD как учительская модель для следования инструкциям. Она получена дообучением MMOPD/Qwen3-4B-OT3-2ep методом GRPO на запросах с проверяемыми требованиями к формату и содержанию ответа. Модель поддерживает чат, шаблон Qwen3 и режим рассуждений; длина контекста — 32 768 токенов. Веса представлены в формате Safetensors и хранятся в bfloat16. Модель предназначена для генерации ответов по инструкциям, в том числе с заданными ограничениями на структуру и содержание, а также для задач рассуждения, математики и программирования. В опубликованных оценках она заметно повысила результаты на IFEval и IFBench относительно исходной модели, сохранив сопоставимые показатели на кодовых и математических тестах; README также приводит результаты на медицинских и финансовых наборах, которые не следует считать гарантией качества в прикладных сценариях. Для использования рекомендованы шаблон чата Qwen3, включённое рассуждение и сэмплирование. Лицензия — Apache-2.0.

RedHatAI/Qwen3.5-35B-A3B-FP8-dynamic — мультимодальная разреженная MoE-модель, созданная RedHatAI на основе Qwen/Qwen3.5-35B-A3B от Alibaba Cloud. Она принимает текст и изображения, а генерирует текст. Модель ориентирована на рассуждения, вызов инструментов, обработку визуально-текстовых запросов и обычные текстовые сценарии генерации и анализа. Модель содержит 35 млрд параметров, из которых около 3 млрд активируются для отдельного запроса, и использует FP8-квантизацию весов и активаций. Квантизация выполнена с помощью LLM Compressor в формате compressed-tensors и предназначена для эффективного инференса через vLLM. В FP8 преобразованы линейные операторы трансформерных блоков, тогда как визуальный энкодер, некоторые компоненты attention и MoE, маршрутизатор экспертов и эмбеддинги сохранены в исходной точности. Это примерно вдвое снижает требования к дисковому пространству и памяти GPU по сравнению с 16-битным представлением. Сильными сторонами модели являются сочетание языковых и визуальных возможностей, поддержка reasoning, tool calling, speculative decoding с Multi-Token Prediction и возможность запуска в текстовом режиме с освобождением памяти под KV-cache. Модель валидирована с vLLM 0.18.0, RHAIIS 3.4 и RHOAI 3.4. В предоставленных данных не указаны поддерживаемые языки, размер контекстного окна и численные результаты тестов, поэтому влияние квантизации на качество и ограничения по отдельным задачам оценить нельзя. Модель распространяется по лицензии Apache-2.0.

Hyper-AI/Qwen3.5-9B-fp8 — квантизированная FP8-версия мультимодальной модели Qwen3.5-9B, основанная на Qwen/Qwen3.5-9B-Base. Модель предназначена для задач понимания и генерации текста, визуального анализа и сценариев vision-language, включая рассуждение, программирование, работу с изображениями и агентские приложения. Квантизация выполнена с использованием lightvl — инструментария, разработанного автором репозитория; модель совместима с Hugging Face Transformers, vLLM, SGLang и KTransformers, а запуск через vLLM заявлен как поддерживаемый. Это causal language model с vision encoder и 9 млрд параметров. Архитектура сочетает Gated Delta Networks, Gated Attention и разреженный Mixture-of-Experts; языковая часть содержит 32 слоя, скрытое измерение 4096 и поддерживает контекст длиной 262 144 токена с расширением до 1 010 000 токенов. Qwen3.5 заявляет поддержку 201 языка и диалекта, однако конкретные языки и характеристики визуального энкодера для этой версии отдельно не раскрыты. Основные преимущества версии — снижение потребления памяти примерно с 19 до 12 ГБ и заявленное ускорение примерно на 30% по сравнению с исходной моделью, что делает её более подходящей для локального и высокопроизводительного инференса. Ограничения связаны с использованием FP8-квантизации: фактическая точность и совместимость могут зависеть от оборудования и программного стека, а в README не приведены подробные результаты сравнения именно с неквантизированной версией. Модель распространяется по лицензии Apache-2.0.

Interlinkarts/Qwen3.5-9B-GGUF — версия модели Qwen3.5-9B, разработанной командой Qwen. Репозиторий предназначен для локального запуска модели в формате GGUF; при этом README также указывает совместимость исходных артефактов с Hugging Face Transformers, vLLM, SGLang и KTransformers. Модель распространяется по лицензии Apache-2.0. Это мультимодальная causal language model с vision encoder, предназначенная для генерации и понимания текста, анализа изображений, рассуждений, программирования, агентских сценариев и других задач vision-language. Заявлена поддержка 201 языка и диалекта. Контекстное окно составляет 262 144 токена с возможностью расширения до 1 010 000 токенов. Модель содержит 9 млрд параметров и использует гибридную архитектуру с Gated Delta Networks и разреженным Mixture-of-Experts; также применяются Gated Attention, 32 слоя, скрытая размерность 4096 и multi-step training. К сильным сторонам относятся сочетание текстовых и визуальных возможностей, высокая заявленная эффективность инференса и поддержка длинного контекста. README не содержит точных сведений о варианте GGUF-квантизации, требованиях к аппаратному обеспечению и ограничениях качества, поэтому эти характеристики требуют отдельной проверки.