I.2Синтез, понимание и проверка знаний

gabor-hosu/e5-mistral-7b-instruct-bnb-4bit — 4-битная версия модели эмбеддингов e5-mistral-7b-instruct, опубликованная пользователем gabor-hosu на базе модели intfloat. Она предназначена для преобразования текстов в векторные представления и использования в задачах семантического сходства, классификации и информационного поиска. Модель основана на архитектуре Mistral с 7 млрд параметров и рассчитана на работу через экосистемы Transformers и Sentence Transformers. В README указана поддержка оценивания в MTEB и приведены результаты на наборах данных для английского, немецкого, испанского, французского, японского и китайского языков. Максимальный размер контекста и полный перечень поддерживаемых языков не указаны. Ключевое преимущество модели — сниженное потребление памяти благодаря 4-битной квантизации BitsAndBytes, что может упростить локальный запуск по сравнению с полноразмерной версией. Ограничениями являются возможные потери качества из-за квантизации, а также отсутствие в README подробностей о процедуре квантизации, рекомендуемых параметрах использования, лицензии и результатах комплексного сравнения с другими моделями.

FAE-v1 — модель для получения векторных представлений предложений, разработанная автором репозитория qinxianliu и основанная на e5-large-v2. Она использует архитектуру BERT и библиотеку Sentence Transformers: на вход подаются предложения, на выходе — эмбеддинги для сравнения смысловой близости и поиска похожих текстов. Модель содержит около 433,9 млн параметров, поддерживает английский язык и принимает последовательности длиной до 512 токенов. Её можно применять для семантического поиска, сопоставления предложений и построения признаков для текстовых систем. В README не приведены результаты оценки качества или специальные ограничения; веса опубликованы в формате Safetensors. Лицензия в предоставленных данных не указана.

pszemraj/flan-ul2-text-encoder — текстовый энкодер, опубликованный pszemraj и полученный извлечением энкодера из google/flat-ul2. Модель предназначена для получения векторных представлений текста и, в частности, может использоваться для оценки семантического сходства через косинусное расстояние после взвешенного усреднения токеновых представлений. Это модель семейства T5 на 7,6 млрд параметров с архитектурой T5EncoderModel. Контекст составляет 512 токенов; веса представлены в PyTorch и Safetensors, в README указано использование точности bfloat16 и размер 17,44 ГБ. Лицензия — Apache-2.0. README демонстрирует получение эмбеддингов и сравнение текстов, но не сообщает о специализированной языковой или предметной настройке.

avemio/German-RAG-ModernBERT-Base-TRIPLES — модель Sentence Transformers, разработанная командой German-RAG AI и дообученная на наборе avemio/German-RAG-EMBEDDING-TRIPLES-HESSIAN-AI от answerdotai/ModernBERT-base. Она кодирует предложения и абзацы в плотные векторы размерностью 768 для семантического поиска и сравнения текстов; близость оценивается косинусным сходством. Архитектура состоит из ModernBERT и среднего пулинга токенов, максимальная длина последовательности — 8192 токена. Модель ориентирована на немецкоязычные сценарии RAG: поиск релевантных фрагментов и документов, оценку семантического сходства и поиск перефразировок. Также её можно применять для кластеризации и классификации текста на основе эмбеддингов. В README приведены результаты оценки поиска, включая cosine_accuracy@1 0,5818 и @5 0,9522 на указанном наборе оценки. Модель содержит 149 млн параметров, распространяется в формате safetensors и доступна по лицензии Apache-2.0. Она выдаёт эмбеддинги, а не готовые ответы; качество зависит от данных и сценария применения, поэтому результаты оценки из карточки не гарантируют аналогичную точность на других коллекциях.

gte-base-zh — модель текстовых эмбеддингов семейства General Text Embeddings (GTE), разработанная Alibaba DAMO Academy на основе архитектуры BERT. Она предназначена для получения векторных представлений китайских текстов и подходит для информационного поиска, сравнения смысловой близости предложений и ранжирования текстов. Модель содержит 129,5 млн параметров и принимает последовательности длиной до 512 токенов; более длинные тексты обрезаются. Метаданные указывают на векторные представления и задачи извлечения признаков и сравнения предложений. Репозиторий содержит веса PyTorch и Safetensors. Модель распространяется по лицензии MIT.

Locutusque/hyperion-small-preview — диалоговая языковая модель, опубликованная M4-ai и дообученная на наборе данных Hyperion на основе Qwen/Qwen1.5-1.8B. Это плотная модель семейства Qwen2 с 1,5 млрд параметров, поддержкой контекста до 32 768 токенов и форматом весов safetensors. Модель предназначена для ответов на сложные вопросы и ведения диалога, в том числе по научным и техническим темам. В карточке заявлены помощь в обучении естественным и медицинским наукам, математике и информатике, понимание медицинских текстов, генерация кода, а также математические и логические рассуждения. Основной заявленный язык — английский. Разнообразие обучающих данных и различия в их форматировании и качестве разметки могут приводить к непоследовательным ответам. Результаты оценки в карточке не приведены. Модель распространяется по лицензии Apache-2.0.

IndicSBERT-Matryoshka — дообученная модель семейства BERT для получения векторных представлений предложений на 11 основных индийских языках. Она разработана для использования с Sentence Transformers и обучена с MatryoshkaLoss на основе CoSENTLoss: модель оптимизирует эмбеддинги полной размерности и усечённые представления размером 512, 256, 128 и 64, что позволяет выбирать компромисс между размером вектора и качеством для конкретного сценария. В метаданных указаны 264,8 млн параметров и контекст до 512 токенов. Модель подходит для сравнения семантической близости предложений и построения эмбеддингов для поиска по смыслу, кластеризации и группировки текстов. README указывает на дообучение на 11 индийских языках, а метаданные перечисляют языковые коды en, mr, or, te, ta, ml, pa, hi, gu, kn, bn и as; основной язык среди них не выделен. Модель распространяется по лицензии CC BY 4.0.

Cohee/jina-embeddings-v2-base-en — это модель для получения векторных представлений текста (эмбеддингов), основанная на jinaai/jina-embeddings-v2-base-en. В карточке указано, что модель подготовлена в формате ONNX для совместимости с библиотекой Transformers.js и предназначена для использования в задачах извлечения признаков (feature extraction), включая последующий семантический поиск и сравнение текстов. Модель ориентирована на англоязычные тексты, что следует из её идентификатора base-en. Сведения о точной архитектуре, размере, длине контекста, поддерживаемых модальностях и числовых характеристиках эмбеддингов в карточке не приведены. Также не указаны результаты тестирования, ограничения качества и лицензия.

Abiray/K2-Horizon-MoVA-36B-A4B-GGUF — набор GGUF-квантизаций модели IFM/K2-Horizon-MoVA-36B-A4B, разработанной IFM. Это текстовая генеративная модель для диалогов, написания и обработки текста, программирования и других задач, выполняемых через llama.cpp. Модель использует разреженную архитектуру Mixture-of-Experts с механизмом Mixture-of-Values Attention (MoVA): всего 36 млрд параметров, из которых на каждом токене активируется около 4 млрд. Заявленное преимущество — скорость инференса, близкая к моделям меньшего размера, при сохранении возможностей модели масштаба 36B. Указан английский язык; поддержка других языков и дополнительные модальности не заявлены. Репозиторий содержит варианты квантизации от Q3_K_S до Q8_0 размером примерно от 16,4 до 39,8 ГБ. Q4_K_M обозначен как рекомендуемый баланс качества и потребления памяти, а Q8_0 обеспечивает точность, близкую к исходной BF16-модели. Точные характеристики контекстного окна в README не указаны. Для запуска требуется специальная версия llama.cpp из форка MBZUAI-IFM с веткой model/K2Horizon; стандартная upstream-версия на указанном этапе не поддерживает архитектуру k2-horizon. Модель использует ChatML-подобный формат с тегами рассуждений. Лицензия — Apache-2.0. Требования к ресурсам зависят от квантизации: для вариантов Q4_K_M рекомендуется от 24 ГБ VRAM при полной выгрузке на GPU и 32 ГБ системной RAM, тогда как для Q8_0 требуется около 48 ГБ VRAM и RAM. README не содержит независимых результатов бенчмарков или подробного описания ограничений качества.

Карточка модели Sing0402/legal-embed-gte-inbatch на Hugging Face совпадает с карточкой Alibaba-NLP/gte-modernbert-base, поэтому описание составлено по ней. gte-modernbert-base — англоязычная модель для построения текстовых эмбеддингов, разработанная Tongyi Lab компании Alibaba. Она основана на encoder-only архитектуре ModernBERT и содержит 149 млн параметров; вектор представления имеет размерность 768, максимальная длина входа — 8192 токена. Модель предназначена для семантического поиска, извлечения документов, сравнения предложений и подбора текстов по смыслу, в том числе как компонент систем RAG. В карточке приведены результаты оценок MTEB, BEIR, LoCo и COIR; они показывают эффективность на задачах поиска, включая поиск по длинным документам и коду. Доступны веса в форматах PyTorch, Safetensors и ONNX; для интеграции описано использование Transformers, Sentence Transformers и Text Embeddings Inference. Модель распространяется по лицензии Apache-2.0. Она рассчитана прежде всего на английский язык, поэтому качество для других языков не подтверждено карточкой.

Together Computer публикует M2-BERT-80M-8k-retrieval — модель семейства M2-BERT, дообученную для поиска по длинным текстам. В README указана версия чекпойнта на 80 млн параметров, однако метаданные Hugging Face сообщают 136,7 млн параметров; поэтому размер в описании не приводится. Модель обучена Jon Saad-Falcon, Dan Fu и Simran Arora на последовательностях длиной до 8192 токенов и загружается как BertForSequenceClassification через Transformers. Модель предназначена для оценки сходства предложений и retrieval-сценариев с длинным контекстом: например, для ранжирования документов по релевантности запросу. Основной указанный язык — английский. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0. Для загрузки в README показан параметр trust_remote_code=True.

marianodo/MegaBatchMarginLoss-10 — модель на базе MPNet, подготовленная в формате Sentence-Transformers для преобразования предложений и абзацев в плотные векторы размерностью 768. Она предназначена для семантического поиска, сравнения сходства текстов и кластеризации. В метаданных указано 136,7 млн параметров и контекст до 514 токенов; модель работает с текстом и выдаёт эмбеддинги. При обучении использовалась функция потерь MegaBatchMarginLoss. Модель подходит для получения векторных представлений отдельных текстов, которые можно сравнивать или использовать в поисковых и кластеризационных системах. README не сообщает, на каких языках и данных она обучалась, поэтому языковую специализацию определить нельзя. Репозиторий содержит веса PyTorch; лицензия в предоставленных данных не указана.

Это экспериментальная версия MiniMax M3, подготовленная Spark Arena для запуска на двух узлах DGX Spark. Модель основана на MiniMax M3 и использует квантование NVFP4 с сокращением REAP50, чтобы уменьшить требования к размещению по сравнению с вариантом на четырёх узлах. Архитектура MiniMax M3 — мультимодальная модель с разреженным вниманием MiniMax Sparse Attention (MSA); заявлено около 428 млрд параметров, из которых активируется около 23 млрд, и контекст до 1 млн токенов. Модель предназначена для диалогов с изображениями и видео, задач программирования и длительных агентных сценариев с вызовом инструментов. Разработчик заявляет ускорение обработки длинного контекста благодаря MSA, однако эта сборка помечена как экспериментальная: калибровка NVFP4 ещё дорабатывается, а влияние REAP50 на качество проверено не полностью. Для корректного использования калибровки требуется поддержка соответствующих масштабов NVFP4 в среде запуска. Лицензия указана как other; конкретные условия в предоставленных данных не раскрыты.

Модель jfarray/Model_dccuchile_bert-base-spanish-wwm-uncased_5_Epochs — модель Sentence-Transformers на базе BERT, преобразующая предложения и абзацы в плотные векторы размерности 256. Она предназначена для поиска семантически близких текстов и кластеризации; также подходит для сравнения сходства предложений. Модель содержит 137,1 млн параметров, использует формат PyTorch и принимает последовательности длиной до 512 токенов. Обучение проводилось с функцией потерь CosineSimilarityLoss. По названию репозитория базовая модель — dccuchile/bert-base-spanish-wwm-uncased; модель ориентирована на испанский язык. Лицензия в предоставленных данных не указана.

ModernBERT-embed-large-unsupervised — англоязычная модель LightOn AI для построения эмбеддингов текста. Это плотный двунаправленный энкодер ModernBERT-large с 394,7 млн параметров и контекстом до 8192 токенов, дообученный Contrastors в течение одной эпохи на 235 млн слабонаблюдаемых контрастивных пар из набора Nomic Embed. Модель предназначена для поиска и сравнения текстов; в README приведены результаты на задачах классификации, кластеризации, поиска, переранжирования и семантического сходства. Репозиторий содержит веса в формате Safetensors и поддерживает извлечение признаков и оценку сходства предложений. Модель рассчитана прежде всего на английский язык. Для использования эмбеддингов в поисковых системах или других приложениях обычно требуется отдельная система индексации и поиска. Лицензия — Apache-2.0.

jamescalam/mpnet-snli — модель на базе MPNet, дообученная Джеймсом Бриггсом с помощью sentence-transformers на наборе SNLI для получения векторных представлений предложений и абзацев. Она кодирует текст в плотные эмбеддинги размерности 768 и подходит для семантического поиска, сравнения предложений и кластеризации. Архитектура содержит около 136,7 млн параметров, принимает текстовый контекст длиной до 514 токенов и распространяется в формате PyTorch по лицензии MIT. В README указаны значения MRR@10 и MAP около 0,92 на тестовой выборке SNLI. Автор отмечает, что версия, обученная с негативными примерами, показывает лучшие результаты. Модель ориентирована на английский язык; качество на других языках не подтверждено.

multi-qa-distilbert-dot-v1 — модель Sentence Transformers, разработанная в рамках проекта Hugging Face Community Week по обучению моделей эмбеддингов предложений. Она основана на distilbert-base-uncased и дообучена на 215 млн пар «вопрос—ответ» из разных источников для семантического поиска. Модель преобразует запросы, вопросы и текстовые абзацы в плотные векторы размерности 768; для сравнения используется скалярное произведение, а векторы не нормализуются. В метаданных указаны реализации PyTorch, ONNX и OpenVINO. Модель подходит для поиска абзацев, релевантных запросу или вопросу, и для сопоставления вопросов с ответами. Она принимает текст на английском языке; максимальная длина входа — 512 токенов WordPiece, но обучение проводилось на последовательностях длиной до 250 токенов, поэтому качество на более длинных текстах может снижаться. Лицензия в предоставленных данных не указана.

NeoHorse-1-4B-onw — модель генерации текста, подготовленная ryugyosoft для запуска через движок onw на Intel NPU. Веса получены из дообученной TokenRhythm/NeoHorse-1-4B, основанной на Qwen3.5-4B; сама модель NeoHorse дообучалась для агентных сценариев, вызова инструментов, программирования и следования инструкциям. Это плотная текстовая архитектура Qwen3.5 с 32 слоями: 24 слоя Gated DeltaNet и 8 слоёв gated attention. Контекст — до 262 144 токенов; поддерживаются японский и английский языки. Репозиторий содержит преобразованные веса для onw, а не сам движок. Для работы нужны совместимый компьютер с Intel Core Ultra NPU и установленный onw; README описывает поддержку Windows 11 и Ubuntu 22.04 или новее. Используются INT4 веса основных сегментов и эмбеддингов, а выходной слой представлен в INT8. Модель поддерживает чат и интерфейс вызова инструментов через OpenAI-совместимый API. Лицензия — Apache 2.0. Заявленные в README результаты скорости и качества относятся к указанным тестовым конфигурациям и могут отличаться на другом оборудовании.

Nerdofdot/nickprock_mmarco-bert-base-italian-uncased_E_5_nli — модель Sentence-Transformers на базе BERT, разработанная пользователем Nerdofdot. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения сходства и кластеризации. Обучение с MultipleNegativesRankingLoss и косинусной мерой сходства ориентировано на ранжирование текстовых пар. Модель содержит 137,1 млн параметров, принимает текстовые последовательности длиной до 512 токенов и выдаёт векторные представления. По названию репозитория она предназначена для итальянского языка без учёта регистра; README не сообщает отдельные результаты оценки. В метаданных указан формат safetensors. Сведения о лицензии в предоставленных данных отсутствуют.

Карточка модели Nerdofdot/nickprock_mmarco-bert-base-italian-uncased_TM на Hugging Face совпадает с карточкой Nerdofdot/nickprock_mmarco-bert-base-italian-uncased_E_5_nli, поэтому описание составлено по ней. Nerdofdot/nickprock_mmarco-bert-base-italian-uncased_E_5_nli — модель Sentence-Transformers на базе BERT, разработанная пользователем Nerdofdot. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения сходства и кластеризации. Обучение с MultipleNegativesRankingLoss и косинусной мерой сходства ориентировано на ранжирование текстовых пар. Модель содержит 137,1 млн параметров, принимает текстовые последовательности длиной до 512 токенов и выдаёт векторные представления. По названию репозитория она предназначена для итальянского языка без учёта регистра; README не сообщает отдельные результаты оценки. В метаданных указан формат safetensors. Сведения о лицензии в предоставленных данных отсутствуют.

occiglot-7b-de-es-fr-it-en-instruct-dareties — объединённая модель семейства Mistral, созданная Mayflower GmbH с помощью mergekit и метода DARE TIES. В основу слияния легла mistralai/Mistral-7B-v0.1; в модель включены четыре инструктивные версии Occiglot, обученные для немецкого, испанского, французского и итальянского языков в сочетании с английским. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral для генерации текста и поддерживает контекст до 32 768 токенов. Она рассчитана на диалоговое применение и генерацию ответов на нескольких европейских языках. Доступна в формате safetensors для библиотеки Transformers. Лицензия в предоставленных данных не указана.

Карточка модели OpenBuddy/openbuddy-yi1.5-34b-v21.2-32k на Hugging Face совпадает с карточкой OpenBuddy/openbuddy-yi1.5-34b-v21.6-32k-fp16, поэтому описание составлено по ней. OpenBuddy-Yi1.5-34B-v21.6-32K-FP16 — многоязычная чат-модель OpenBuddy для генерации ответов в диалоге. Она основана на плотной архитектуре семейства Llama и содержит 33,9 млрд параметров; репозиторий включает веса Safetensors для Transformers. Модель рассчитана на общение на китайском, английском, французском, немецком, японском, корейском, итальянском, русском и финском языках. Модель подходит для чат-ботов, ответов на вопросы и генерации текста в многоязычных сценариях. В README описан специальный формат запросов и отмечена совместимость с Transformers и vLLM; в названии модели указано 32K, а метаданные сообщают о нативном контексте 131072 токена. Лицензия — Apache 2.0. Разработчики предупреждают, что ответы могут быть ошибочными, вредными или оскорбительными, и не рекомендуют использовать модель для медицинских, финансовых, юридических и иных критически важных решений.

OpenBuddy-Yi1.5-34B-v21.6-32K-FP16 — многоязычная чат-модель OpenBuddy для генерации ответов в диалоге. Она основана на плотной архитектуре семейства Llama и содержит 33,9 млрд параметров; репозиторий включает веса Safetensors для Transformers. Модель рассчитана на общение на китайском, английском, французском, немецком, японском, корейском, итальянском, русском и финском языках. Модель подходит для чат-ботов, ответов на вопросы и генерации текста в многоязычных сценариях. В README описан специальный формат запросов и отмечена совместимость с Transformers и vLLM; в названии модели указано 32K, а метаданные сообщают о нативном контексте 131072 токена. Лицензия — Apache 2.0. Разработчики предупреждают, что ответы могут быть ошибочными, вредными или оскорбительными, и не рекомендуют использовать модель для медицинских, финансовых, юридических и иных критически важных решений.

open-ogma-micro — англоязычная модель для получения векторных представлений предложений, разработанная авторами семейства open-ogma. Она предназначена для создания компактных эмбеддингов текста и поиска по смыслу. Модель содержит 2,51 млн параметров: двухслойный трансформер с размерностью 128, mean pooling и токенами задач [QRY], [DOC] и [SYM]. По умолчанию используется проекционная голова proj_small с векторами размерности 384; proj_large выдаёт векторы размерности 1024 и показывает более высокие результаты в бенчмарке MTEB(eng, v2). Обе головы и основная часть обучались с матрёшечными потерями, поэтому выходные векторы можно укорачивать до 32, 64 или 128 измерений с последующей нормализацией. Модель дистиллирована от ансамбля BAAI/bge-small-en-v1.5 и BAAI/bge-large-en-v1.5 на корпусах C4 и FineWeb-Edu. Она подходит для семантического поиска и задач, где важны компактный размер и быстрый расчёт эмбеддингов. В бенчмарке MTEB(eng, v2) средний результат составляет 0,5104 для proj_small и 0,5202 для proj_large; показатели ниже, чем у моделей-учителей BGE. Модель распространяется под лицензией MIT; README также указывает на разрешительную лицензионную цепочку данных и учителей.

paraphrase-spanish-distilroberta — модель sentence-transformers, созданная участниками организации hackathon-pln-es для Hackathon 2022 NLP - Spanish. Это дообученная методом переноса знаний испанская RoBERTa-модель BERTIN, обученная на параллельных испанско-английских предложениях с использованием paraphrase-mpnet-base-v2 в роли учителя. Модель содержит 151,8 млн параметров и преобразует предложения и короткие абзацы в плотные векторы размерностью 768; максимальный контекст — 514 токенов. Векторы подходят для поиска по смыслу, оценки сходства предложений и кластеризации текстов на испанском и английском языках. В README приведены результаты оценки семантического сходства для пар ES-ES и ES-EN на наборах STS-2017. Репозиторий содержит веса PyTorch. Сведения о лицензии в предоставленных источниках отсутствуют.

Pareto — мультимодальная составная модель, предназначенная для исследований, программирования и агентных сценариев. По карточке модели, она рассчитана на широкий круг задач общего назначения и заявляет высокий уровень производительности. Метаданные каталога относят её к моделям типа image-text-to-text, поэтому она принимает изображения и текст и формирует текстовые ответы. Сведений об архитектуре, размере, языковой поддержке и лицензии в доступных данных нет. Карточка позиционирует модель для исследовательских и агентных рабочих процессов, но не описывает конкретные возможности, ограничения или условия применения.

Phi-4-MedIT-10B-o1 — языковая модель для генерации текста и решения задач, требующих рассуждений. По карточке, модель создана на основе Phi-4: её сократили с 14 млрд до примерно 10 млрд параметров методом прореживания MKA2G и дообучили за одну эпоху на данных для рассуждений. В метаданных указаны плотная архитектура семейства Llama, реализация LlamaForCausalLM и контекст до 16 384 токенов. Модель предназначена для диалогового применения, задач на рассуждения и интеграции с ReasonFlow. Основной язык обучения — английский; карточка предупреждает о снижении качества на других языках. Репозиторий содержит веса в форматах Safetensors и GGUF, а лицензия — MIT. Ответы могут быть неточными или выдуманными, а также содержать предвзятость или нежелательный контент; для чувствительных сценариев нужна дополнительная проверка.

PKCbert — модель на базе BERT, опубликованная пользователем rbnjade1 в формате PyTorch и оформленная для Sentence-Transformers. Она кодирует предложения и абзацы в плотные векторы размерностью 768 для поиска по смыслу, сравнения текстов и кластеризации. Модель обучалась с TripletLoss и евклидовым расстоянием; размер составляет 136,7 млн параметров, контекст — до 512 токенов. PKCbert подходит для построения семантического поиска и группировки текстов по близости значений. В README не указаны поддерживаемые естественные языки и лицензия, поэтому языковую специализацию и условия использования определить нельзя.

lucaswychan/Qwen-2.5-0.5B-SimpleRL-Zoo-Reasoning-Embedding — мультиязычная модель эмбеддингов на архитектуре Qwen2, разработанная Lucas Wun Yu CHAN и дообученная на базе hkust-nlp/Qwen-2.5-0.5B-SimpleRL-Zoo. Она предназначена для кодирования текстов в векторные представления и сравнения предложений по семантическому сходству. Модель содержит 494 млн параметров, использует формат safetensors и поддерживает контекст до 32 768 токенов. В README описаны эксперименты с MTEB и BRIGHT и анализ HRSA: дообучение на базе модели, оптимизированной с помощью RLVR, не показало устойчивого преимущества в качестве эмбеддингов над базовыми моделями при одинаковой контрастивной тренировке. Для загрузки через Sentence Transformers или Transformers карточка советует включить trust_remote_code=True. Лицензия — Apache-2.0.

RedHatAI/Qwen3-0.6B-quantized.w4a16 — квантизированная версия языковой модели Qwen3-0.6B, разработанная RedHat совместно с Neural Magic. Это авторегрессионная модель архитектуры Qwen3ForCausalLM для генерации текста по текстовому вводу. Модель предназначена для рассуждений, function calling, многоязычного следования инструкциям, перевода и создания специализированных предметных экспертов посредством дообучения. Указанный размер базовой модели — 0,6 млрд параметров. Веса линейных слоёв трансформера сжаты до INT4 с использованием GPTQ, асимметричной поканальной групповой схемы с размером группы 64; параметры сохраняются в формате w4a16. Это примерно на 75% снижает размер на диске и требования к памяти GPU по сравнению с 16-битным представлением весов. В README приведены сценарии оценки с длиной контекста до 40960 токенов, однако точное максимальное контекстное окно модели отдельно не указано. Модель поддерживает только текстовые входы и выходы. К преимуществам относятся уменьшенное потребление памяти и эффективное развёртывание, в частности через vLLM с OpenAI-совместимым сервером. К ограничениям относятся возможные потери качества из-за INT4-квантизации, а также отсутствие в предоставленных данных подробных результатов оценки, перечня поддерживаемых языков и гарантий качества для конкретных прикладных задач. Модель распространяется по лицензии Apache-2.0; использование не должно нарушать применимые законы и нормативные требования.