II.1Анализ требований и архитектура ПО

Карточка модели unsloth/gte-modernbert-base на Hugging Face совпадает с карточкой Alibaba-NLP/gte-modernbert-base, поэтому описание составлено по ней. gte-modernbert-base — англоязычная модель для построения текстовых эмбеддингов, разработанная Tongyi Lab компании Alibaba. Она основана на encoder-only архитектуре ModernBERT и содержит 149 млн параметров; вектор представления имеет размерность 768, максимальная длина входа — 8192 токена. Модель предназначена для семантического поиска, извлечения документов, сравнения предложений и подбора текстов по смыслу, в том числе как компонент систем RAG. В карточке приведены результаты оценок MTEB, BEIR, LoCo и COIR; они показывают эффективность на задачах поиска, включая поиск по длинным документам и коду. Доступны веса в форматах PyTorch, Safetensors и ONNX; для интеграции описано использование Transformers, Sentence Transformers и Text Embeddings Inference. Модель распространяется по лицензии Apache-2.0. Она рассчитана прежде всего на английский язык, поэтому качество для других языков не подтверждено карточкой.

HAI — модель Sentence Transformers из экосистемы HelpingAI для оценки семантического сходства текстов и получения плотных эмбеддингов. Она дообучена на базе sentence-transformers/all-MiniLM-L6-v2; архитектура включает энкодер BERT, усреднение токеновых представлений и нормализацию векторов. Модель содержит 25,9 млн параметров, выдаёт эмбеддинги размерности 384 и принимает до 256 токенов на вход по README; метаданные указывают нативный контекст 512 токенов. Модель предназначена для сравнения смысловой близости предложений и контекстно-ориентированной работы с текстом с акцентом на эмоционально окрашенные ответы. Её можно применять для семантического поиска, ранжирования похожих фраз и группировки текстов. README сообщает об обучении на 75 897 примерах с оценками сходства от 0 до 1 и использовании Cosine Similarity Loss. Лицензия — Apache-2.0.

Карточка модели Sing0402/legal-embed-gte-bm25 на Hugging Face совпадает с карточкой Alibaba-NLP/gte-modernbert-base, поэтому описание составлено по ней. gte-modernbert-base — англоязычная модель для построения текстовых эмбеддингов, разработанная Tongyi Lab компании Alibaba. Она основана на encoder-only архитектуре ModernBERT и содержит 149 млн параметров; вектор представления имеет размерность 768, максимальная длина входа — 8192 токена. Модель предназначена для семантического поиска, извлечения документов, сравнения предложений и подбора текстов по смыслу, в том числе как компонент систем RAG. В карточке приведены результаты оценок MTEB, BEIR, LoCo и COIR; они показывают эффективность на задачах поиска, включая поиск по длинным документам и коду. Доступны веса в форматах PyTorch, Safetensors и ONNX; для интеграции описано использование Transformers, Sentence Transformers и Text Embeddings Inference. Модель распространяется по лицензии Apache-2.0. Она рассчитана прежде всего на английский язык, поэтому качество для других языков не подтверждено карточкой.

Карточка модели Sing0402/legal-embed-gte-distilled на Hugging Face совпадает с карточкой Alibaba-NLP/gte-modernbert-base, поэтому описание составлено по ней. gte-modernbert-base — англоязычная модель для построения текстовых эмбеддингов, разработанная Tongyi Lab компании Alibaba. Она основана на encoder-only архитектуре ModernBERT и содержит 149 млн параметров; вектор представления имеет размерность 768, максимальная длина входа — 8192 токена. Модель предназначена для семантического поиска, извлечения документов, сравнения предложений и подбора текстов по смыслу, в том числе как компонент систем RAG. В карточке приведены результаты оценок MTEB, BEIR, LoCo и COIR; они показывают эффективность на задачах поиска, включая поиск по длинным документам и коду. Доступны веса в форматах PyTorch, Safetensors и ONNX; для интеграции описано использование Transformers, Sentence Transformers и Text Embeddings Inference. Модель распространяется по лицензии Apache-2.0. Она рассчитана прежде всего на английский язык, поэтому качество для других языков не подтверждено карточкой.

Empower Functions Model v1.1 — большая языковая модель семейства Empower Functions от empower.dev, предназначенная для диалогов с вызовом инструментов и функций. Это плотная авторегрессионная модель архитектуры Llama с 69,5 млрд параметров, дообученная на базе meta-llama/Meta-Llama-3.1-70B-Instruct. Она поддерживает контекст до 131 072 токенов и совместима с Transformers в формате safetensors. Модель может сама выбирать между ответом пользователю и вызовом инструмента, выполнять параллельные и последовательные вызовы функций, работать в потоковом режиме и вести длинные диалоги. В README заявлены высокие результаты на Berkeley Function Calling Leaderboard; это утверждение разработчика для оценки, зафиксированной 10 сентября 2024 года. Для запуска версии large разработчик указывает конфигурацию из четырёх GPU A100 с 80 ГБ памяти в режиме fp16. Модель распространяется по лицензии Apache-2.0. README не сообщает конкретные языки обучения или поддержки, поэтому языковую область здесь нельзя уточнить.

ajaysdhillon14/minbert-sts-nli-meanpool — кодировщик предложений на основе bert-base-uncased, дообученный в два этапа для оценки семантического сходства. Сначала модель обучалась на задаче распознавания текстового следования на парах SNLI и MultiNLI, затем дообучалась на STS. Архитектура — BERT, около 99,1 млн параметров; модель хранит только кодировщик, без отдельной головы классификации. Для каждого предложения модель строит вектор с помощью masked mean pooling скрытых состояний, включая позиции [CLS] и [SEP]. Сходство двух предложений вычисляется как косинусная близость векторов, линейно преобразованная из диапазона [-1, 1] в оценку [0, 5]. На dev-наборе STS-B для трёх запусков указаны значения Pearson 0,7432–0,7436 и Spearman 0,7411–0,7460. Модель предназначена для английских текстов. Лицензия — Apache-2.0.

Sabomako/Mistral-Small-3.2-24B-Instruct-2506-heretic — декензурированная версия Mistral-Small-3.2-24B-Instruct-2506 от Sabomako. Модель создана с помощью Heretic v1.3.0 и метода ORBA abliteration; в тесте с оценкой LLM-судьи Gemma4-12B-it-Heretic она отказала в 1 из 100 случаев против 98 из 100 у исходной модели. Это плотная мультимодальная модель семейства Mistral 3 с 24 млрд параметров, предназначенная для диалогов по инструкциям, работы с изображениями и интерфейса вызова инструментов. Принимает текст и изображения, выдаёт текст. В метаданных указана лицензия Apache-2.0. Снижение числа отказов может привести к ответам на запросы, которые исходная модель отклоняла; результат теста отказов не характеризует точность и безопасность в целом.

MPropositioneur-V2-large — языковая модель на основе Qwen3-4B, дообученная дистилляцией для извлечения атомарных пропозиций. Разработана Люком Поммере в LISN (CNRS); содержит около 3,7 млрд параметров и использует архитектуру Qwen3 с плотной языковой моделью. Принимает текст и генерирует список простых, независимых утверждений, сохраняя смысл исходного предложения или фрагмента. Контекст модели — до 40 960 токенов. Модель предназначена для подготовки данных для RAG, открытого извлечения информации (OpenIE), упрощения текста и анализа дискурса. По карточке она поддерживает французский и английский; метаданные также перечисляют немецкий, итальянский, испанский и португальский. Сравнительно с версией 0.6B, автор заявляет о более высокой точности передачи смысла и лучшей работе со сложными структурами предложений. Распространяется по лицензии Apache-2.0.

Карточка модели manuelmoreno149/multilingual-e5-base на Hugging Face совпадает с карточкой intfloat/multilingual-e5-base, поэтому описание составлено по ней. Multilingual-E5-base — многоязычная модель для получения эмбеддингов текста, разработанная авторами технического отчёта Multilingual E5. Она основана на XLM-RoBERTa-base и продолжительно обучена на смеси многоязычных наборов данных. Модель имеет 12 слоёв, размер эмбеддинга 768 и около 305,2 млн параметров; поддерживает до 512 токенов текста и доступна в форматах PyTorch, Safetensors, ONNX и OpenVINO. Модель предназначена для поиска по смыслу, сопоставления предложений и текстов, семантической близости, поиска парафразов и межъязыкового поиска. Для асимметричного поиска используйте префиксы «query: » и «passage: », а для симметричных задач и извлечения признаков — «query: »; без префиксов качество может снизиться. Поддерживается около 100 языков, включая русский, хотя для языков с малым объёмом данных качество может быть ниже. Лицензия — MIT.

Карточка модели NaganoJRC/multilingual-e5-base на Hugging Face совпадает с карточкой intfloat/multilingual-e5-base, поэтому описание составлено по ней. Multilingual-E5-base — многоязычная модель для получения эмбеддингов текста, разработанная авторами технического отчёта Multilingual E5. Она основана на XLM-RoBERTa-base и продолжительно обучена на смеси многоязычных наборов данных. Модель имеет 12 слоёв, размер эмбеддинга 768 и около 305,2 млн параметров; поддерживает до 512 токенов текста и доступна в форматах PyTorch, Safetensors, ONNX и OpenVINO. Модель предназначена для поиска по смыслу, сопоставления предложений и текстов, семантической близости, поиска парафразов и межъязыкового поиска. Для асимметричного поиска используйте префиксы «query: » и «passage: », а для симметричных задач и извлечения признаков — «query: »; без префиксов качество может снизиться. Поддерживается около 100 языков, включая русский, хотя для языков с малым объёмом данных качество может быть ниже. Лицензия — MIT.

Карточка модели vectoriseai/multilingual-e5-large на Hugging Face совпадает с карточкой goldenrooster/multilingual-e5-large, поэтому описание составлено по ней. Multilingual-E5-large — мультиязычная модель текстовых эмбеддингов, основанная на XLM-RoBERTa-large и обученная контрастивным методом на смеси мультиязычных данных. В карточке перечислены авторы Liang Wang, Nan Yang, Xiaolong Huang, Binxing Jiao, Linjun Yang, Daxin Jiang, Rangan Majumder и Furu Wei. Модель имеет 24 слоя, размер эмбеддинга 1024 и около 658,7 млн параметров. Она предназначена для поиска по текстам, семантического сходства, поиска парафраз и межъязыкового сопоставления текстов, а также для получения признаков для классификации и кластеризации. Для поиска нужно добавлять к запросу префикс «query:», а к документу — «passage:»; для симметричных задач и получения признаков используется префикс «query:». Поддерживается 100 языков семейства XLM-RoBERTa, включая русский, однако качество может снижаться на языках с малым объёмом обучающих данных. Модель принимает текст и выдаёт векторные представления. Контекст ограничен 512 токенами: более длинные тексты обрезаются. Лицензия — MIT.

Карточка модели Hiveurban/multilingual-e5-large-pooled на Hugging Face совпадает с карточкой intfloat/multilingual-e5-large, поэтому описание составлено по ней. Multilingual-E5-large — многоязычная модель эмбеддингов текста, опубликованная intfloat; её технический отчёт подготовили Liang Wang, Nan Yang, Xiaolong Huang, Linjun Yang, Rangan Majumder и Furu Wei. Модель основана на XLM-RoBERTa-large и имеет 24 слоя с размерностью эмбеддинга 1024. Она принимает текст и выдаёт векторные представления для поиска и сравнения текстов. Модель предназначена для межъязыкового и многоязычного поиска, ранжирования passage по запросу, оценки семантического сходства, поиска перефразировок и использования эмбеддингов в кластеризации или классификации. При обучении текстовые роли задаются префиксами `query:` и `passage:`; их следует выбирать в соответствии со сценарием, иначе качество может снизиться. Поддерживаются 100 языков XLM-RoBERTa, включая русский, однако для языков с небольшим объёмом ресурсов качество может быть ниже. Вход ограничен 512 токенами, а более длинный текст обрезается. Лицензия — MIT.

Marqo/multilingual-e5-small — клон модели multilingual-e5-small, основанной на intfloat/multilingual-e5-small. Изменение относительно оригинала — исправленный pad_token_id в config.json. Это плотная BERT-модель с 12 слоями и размерностью эмбеддингов 384; она выдаёт текстовые векторы для оценки сходства и поиска по смыслу. Модель содержит 124,3 млн параметров, поддерживает контекст до 512 токенов и доступна в форматах PyTorch, Safetensors и ONNX. Модель предназначена для многоязычного семантического сходства, поиска фрагментов по запросам, поиска перефразировок и межъязыкового поиска. Для обучения использовалась смесь многоязычных наборов данных; заявлена поддержка 100 языков, хотя качество может снижаться для языков с малым объёмом данных. Для корректной работы следует добавлять префиксы «query: » и «passage: » в соответствии с типом входного текста. Длинные тексты обрезаются до 512 токенов; лицензионные условия — MIT.

Карточка модели iliakabanov/multillingual-dense-retriever на Hugging Face совпадает с карточкой intfloat/multilingual-e5-large, поэтому описание составлено по ней. Multilingual-E5-large — многоязычная модель эмбеддингов текста, опубликованная intfloat; её технический отчёт подготовили Liang Wang, Nan Yang, Xiaolong Huang, Linjun Yang, Rangan Majumder и Furu Wei. Модель основана на XLM-RoBERTa-large и имеет 24 слоя с размерностью эмбеддинга 1024. Она принимает текст и выдаёт векторные представления для поиска и сравнения текстов. Модель предназначена для межъязыкового и многоязычного поиска, ранжирования passage по запросу, оценки семантического сходства, поиска перефразировок и использования эмбеддингов в кластеризации или классификации. При обучении текстовые роли задаются префиксами `query:` и `passage:`; их следует выбирать в соответствии со сценарием, иначе качество может снизиться. Поддерживаются 100 языков XLM-RoBERTa, включая русский, однако для языков с небольшим объёмом ресурсов качество может быть ниже. Вход ограничен 512 токенами, а более длинный текст обрезается. Лицензия — MIT.

MuXodious/Muse-Glimmer-30B-SOMPOA-heresy — дообученная версия мультимодальной Muse-Glimmer-30B, созданная автором репозитория с помощью движка Heretic и абляции SOMPOA. Это плотный трансформер для условной генерации, содержащий около 29,6 млрд параметров; принимает текст и изображения и предназначен для диалоговой работы с визуальными данными. Модель подходит для анализа изображений, документов, диаграмм и снимков экрана в диалоге, а также для многошаговых агентных задач и вызова инструментов. В README описаны результаты снижения числа отказов, однако автор отмечает, что модель всё ещё ссылается на свои правила и требует дальнейшей проверки и перенастройки; приведённые результаты не гарантируют надёжность в реальных сценариях. Языки и длина контекста этой версии отдельно не описаны. Модель распространяется по лицензии Apache 2.0. README предупреждает о возможных неточных, предвзятых или нежелательных ответах и рекомендует проводить собственную оценку безопасности для целевого применения. Аудиоввод и аудиовывод не поддерживаются.

Mungert/OpenReasoning-Nemotron-14B-GGUF — GGUF-квантованная версия большой языковой модели OpenReasoning-Nemotron-14B, производной от Qwen2.5-14B-Instruct. Модель разработана на базе семейства OpenReasoning-Nemotron; данный репозиторий содержит конвертацию в формат GGUF, выполненную с использованием llama.cpp. Указанный вариант предназначен для локального запуска и генерации текста, кода и решений с применением совместимых инструментов GGUF и llama.cpp. Модель ориентирована на рассуждения в задачах математики, программирования и естественных наук. Для исходной версии заявлена оценка с длиной вывода до 64K токенов. Это текстовая, англоязычная модель с размером 14B параметров; мультимодальные возможности не указаны. Для квантования применён подход с выборочным повышением точности отдельных важных слоёв, что, по описанию автора, может улучшать точность при сохранении преимуществ уменьшенного размера файла, хотя увеличивает его размер. Конкретный тип квантования и характеристики отдельных файлов GGUF в README не приведены. Сильными сторонами являются специализация на сложном reasoning, математике, коде и научных задачах, а также возможность эффективного локального использования в квантованном формате. Ограничения включают зависимость качества и требований к ресурсам от выбранного варианта квантования, а также отсутствие подробных данных о контекстном окне, скорости, аппаратных требованиях и поддерживаемых языках помимо английского. Использование разрешено для коммерческих и некоммерческих исследовательских целей на условиях Creative Commons Attribution 4.0 International (CC-BY-4.0); дополнительно упоминается Apache 2.0 для базовой модели Qwen2.5.

Модель mykor/paraphrase-multilingual-MiniLM-L12-v2 — версия sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2, подготовленная для преобразования в формат GGUF. Это многоязычная модель на архитектуре XLM-RoBERTa с 124,3 млн параметров, предназначенная для получения эмбеддингов предложений и оценки их сходства. Она подходит для семантического поиска, сопоставления перефразировок и поиска близких по смыслу текстов. Модель принимает текст и выдаёт векторные представления; метаданные указывают задачу sentence-similarity, а карточка также отмечает совместимость с извлечением признаков. Поддерживаются многочисленные языки, включая русский и английский. Контекст ограничен 512 токенами. Лицензия — Apache 2.0.

Qwen2.5-0.5B-Instruct-GPTQ-Int4 — компактная инструкционная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это GPTQ-квантизированная 4-битная версия базовой модели Qwen2.5-0.5B-Instruct, предназначенная для генерации текста и диалоговых сценариев, включая чат-ассистентов, следование инструкциям, работу со структурированными данными и формирование структурированных ответов, в том числе JSON. Модель также ориентирована на задачи программирования и математики, однако README не содержит подробных результатов оценки. Модель относится к causal language models и использует архитектуру Transformer с RoPE, SwiGLU, RMSNorm, смещениями в QKV attention и связанными эмбеддингами слов. Она содержит около 0,49 млрд параметров, из которых 0,36 млрд не являются эмбеддингами, 24 слоя и GQA с 14 головами для Q и 2 для KV. Поддерживается контекст до 32 768 токенов и генерация до 8192 токенов. Модель текстовая, поддерживает более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, арабский и другие. Ключевые преимущества — небольшой размер, 4-битное представление, поддержка длинного контекста, многоязычность и улучшенное следование инструкциям. Ограничения README не раскрывает количественно; как компактная модель с 0,49 млрд параметров, она может уступать более крупным моделям в сложных рассуждениях и качестве генерации. Модель распространяется по лицензии Apache-2.0. Для использования рекомендуется актуальная версия библиотеки transformers; версии ниже 4.37.0 не поддерживают архитектуру Qwen2.

Qwen2.5-Coder-14B-Instruct — инструкция-ориентированная языковая модель для программирования от команды Qwen. Это плотная причинная Transformer-модель семейства Qwen2 с 14 млрд параметров по метаданным; карточка указывает архитектурные компоненты RoPE, SwiGLU и RMSNorm, 48 слоёв и grouped-query attention. Модель дообучена на базе Qwen/Qwen2.5-Coder-14B и предназначена для генерации и анализа кода в диалоговом формате. Модель помогает создавать код, рассуждать о нём и исправлять ошибки, а также подходит для разработки кодовых агентов и сохраняет общие способности, включая математику. Карточка описывает контекст до 131 072 токенов с применением YaRN для обработки входов длиннее 32 768 токенов; метаданные указывают нативный контекст 32 768 токенов. Для загрузки рекомендуется актуальная версия Transformers, для развёртывания — vLLM. Лицензия Apache 2.0. Среди ограничений: при включении статического YaRN масштабирования в vLLM производительность на коротких текстах может снизиться. Подробные результаты оценки и требования к памяти в предоставленной карточке не приведены.

duyntnet/Qwen2.5-Coder-3B-Instruct-imatrix-GGUF — набор imatrix-квантизированных версий инструкционно дообученной языковой модели Qwen2.5-Coder-3B-Instruct, разработанной командой Qwen компании Alibaba Cloud. Модель предназначена для генерации, анализа и исправления программного кода, а также для создания code agents и решения задач, связанных с математикой и общими текстовыми сценариями. Она работает как causal language model и поддерживает запуск через llama.cpp, KoboldCPP, Ollama, text-generation-webui, GPT4All и другие совместимые интерфейсы. Исходная модель содержит 3,09 млрд параметров, 36 слоёв и поддерживает контекст до 32 768 токенов. Архитектура использует RoPE, SwiGLU, RMSNorm, смещения в QKV-проекциях внимания, связанные эмбеддинги слов и grouped-query attention: 16 голов для Q и 2 для KV. В карточке указана английская локализация; заявленная модальность — текст, формат репозитория — GGUF. Обучение включало предварительное и последующее дообучение на данных с исходным кодом, связями между текстом и кодом и синтетическими примерами. К сильным сторонам относятся специализация на программировании, генерации, рассуждении и исправлении кода, а также возможность локального запуска благодаря GGUF-квантизации. Ограничения включают отсутствие заявленной поддержки других модальностей и языков, кроме английского, а качество и требования к ресурсам зависят от выбранного варианта квантизации. Лицензия указана как other, без подробных условий в README.

make1love/Qwen3-0.6B-JSON-SFT — текстовая генеративная модель семейства Qwen3, опубликованная в формате Transformers и дообученная методом supervised fine-tuning (SFT). По названию модели она ориентирована на генерацию структурированных ответов в формате JSON, а метаданные также обозначают её как conversational-модель.

FreedomAISVR/Qwen3.5-4B-MTP-NVFP4-GGUF — квантизированная сборка мультимодальной модели Qwen3.5-4B, разработанной командой Qwen компании Alibaba. Репозиторий содержит веса GGUF в формате NVFP4 и проектор изображений SigLIP ViT в F16; заявлена поддержка Multi-Token Prediction (MTP), предсказывающей два токена за шаг генерации. Сборка рассчитана прежде всего на ускоренный запуск на видеокартах NVIDIA Blackwell и предназначена для использования через llama.cpp и совместимые инструменты. Модель подходит для генерации текста и диалога, а с мультимодальным проектором — для обработки изображений вместе с текстовым запросом. README указывает контекстное окно 262 144 токена, мультиязычность и режим рассуждения, включённый по умолчанию. В архитектуре базовой модели описаны гибридные слои Attention и Mamba-2, MLA и 3D MRoPE. NVFP4 может ускорить инференс на Blackwell; заявленное увеличение пропускной способности MTP до 30–40% приведено автором репозитория и не является независимым бенчмарком. Лицензия — Apache-2.0. Формат NVFP4 ориентирован на GPU Blackwell; для более старых видеокарт и CPU автор рекомендует другие варианты квантования. Это производный квантованный артефакт, а не отдельное дообучение базовой модели.

RedHatAI/Qwen3.8-2.4T-A95B-NVFP4-REAP-50 — квантизированная версия модели Qwen/Qwen3.8-2.4T-A95B для генерации текста. Модель разработана RedHatAI и построена на архитектуре Qwen3_5MoeForCausalLM с экспертной архитектурой MoE. Она принимает текст и генерирует текст, предназначена для задач вывода больших языковых моделей и развертывания через vLLM. В модели применена смешанная квантизация NVFP4/FP4: веса и активации линейных слоёв MoE-экспертов представлены в формате FP4, тогда как attention и другие неквантизированные слои сохраняют исходную точность. Также заявлено REAP-сокращение экспертов на 50%, что уменьшает размер на диске и потребление GPU-памяти квантизированных слоёв примерно на 75% с дополнительным выигрышем за счёт разреженности. Модель рассчитана на инференс с vLLM, включая tensor parallelism и expert parallelism. Размер модели, длина контекста, поддерживаемые языки и точные модальные возможности в README не указаны. Основные преимущества — существенное снижение требований к памяти и объёму хранения при сохранении исходной архитектуры и готовность к эффективному инференсу на поддерживаемом оборудовании. Ограничения связаны с потерями качества, возможными для агрессивной квантизации и pruning; README сообщает о сравнительной оценке, но не приводит её результаты. Также имеется несогласованность: в названии и описании указано 50% REAP Pruning, а в разделе создания модели — 25%. Лицензия в README не указана.

amd/Qwen3.8-27B-Quark-AWQ-MXFP4 — квантизированная версия мультимодальной модели Qwen3.8-27B, подготовленная с использованием AMD Quark и алгоритма AWQ (Activation-aware Weight Quantization). Модель предназначена для задач генерации текста и обработки изображений с текстом; в карточке указано, что она использует image-text-to-text pipeline. Языковая часть основана на Qwen3.8-27B в формате BF16, а vision tower сохранена без квантизации в BF16. Веса языкового декодера квантизированы в MXFP4 по спецификации OCP microscaling FP4 с размером группы 32 и общей шкалой E8M0; активации используют динамическую MXFP4-квантизацию, рассчитываемую во время выполнения для каждого блока. Квантизация выполнена по 128 образцам последовательностей длиной 512 из датасета pileval. Vision-компоненты не квантизированы, поэтому визуальная подсистема сохраняет исходный формат BF16. В README не указаны точные поддерживаемые языки и максимальная длина контекста; пример запуска задаёт ограничение 16384 токена. На GSM8K в режиме рассуждений модель показала 94,996% по flexible-extract и 95,30% по strict-match против 93,33% у базовой BF16-модели; в нережиме рассуждений результаты составили 89,92% и 89,76% против 90,67% и 89,76% соответственно. Ключевое преимущество — существенное снижение точности представления языковой части при сохранении качества, а также совместимость с запуском через vLLM. Ограничения включают зависимость от поддержки MXFP4, AMD Quark и соответствующей инфраструктуры, а также отсутствие подробных результатов по другим задачам. Модель распространяется по лицензии Apache-2.0; модификации принадлежат Advanced Micro Devices, Inc.

igorvibes/Qwen3.8-27B-UD-Q4_K_XL-AWQ-MTP-mlx — это квантованная версия базовой модели Qwen/Qwen3.8-27B, подготовленная для запуска через MLX на компьютерах Apple Silicon. Модель предназначена для генерации текста и локального инференса, включая сценарии, где важны уменьшенный размер файлов и возможность использования Apple GPU. Архитектура относится к семейству Qwen 3.5; указаны 27,78 млрд параметров, 64 слоя, скрытый размер 5120 и промежуточный размер 17408. Из 64 слоёв 48 используют GatedDeltaNet; остальные относятся к стандартным механизмам внимания, однако полное описание архитектуры в README отсутствует. Модель использует смешанную affine-квантизацию MLX с базовым классом 4-bit и размером группы 64, но её фактическая средняя точность составляет 6,02 бита на вес. Размер на диске — 20,89 ГБ без учёта дополнительной памяти под KV-cache. Применено AWQ activation-aware pre-scaling с calibration imatrix, а 15 тензоров MTP сохранены внутри основных shards в формате BF16 без квантизации. MTP-компонент предназначен для multi-token prediction, но отдельной директории или sidecar-файла drafter нет. К сильным сторонам относятся сохранение более высокой точности для чувствительных компонентов за счёт смешанной разрядности, AWQ-калибровка и адаптация к MLX. Ограничения включают значительный объём оперативной памяти, необходимость учитывать запас под KV-cache и несовместимость формата с vLLM и autoawq: это стандартный формат affine-квантизации MLX, а не AutoAWQ или GPTQ. Языки, длина контекста и лицензия в предоставленном README не указаны.

Карточка модели Rasputin312/qwen3-8B-finetune на Hugging Face совпадает с карточкой Qwen/Qwen3-Embedding-4B, поэтому описание составлено по ней. Qwen3-Embedding-4B — мультиязычная модель для построения текстовых эмбеддингов из семейства Qwen3, разработанная командой Qwen. Это плотная модель на базе Qwen3-4B-Base, дообученная для задач поиска и сравнения текстов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Модель подходит для семантического поиска по документам и коду, оценки сходства предложений, классификации и кластеризации текстов, а также поиска соответствий между языками. Она поддерживает более 100 языков, контекст до 40 960 токенов по метаданным и до 32 тысяч токенов в описании модели. Размер эмбеддинга можно настраивать от 32 до 2560 измерений; также поддерживаются инструкции, настраивающие представление под задачу.

Vontra/Qwen3.8-Flash-Next-MLX-oQ8-MTP — общественная MLX-конверсия мультимодальной vision-language модели Qwen3.8-Flash-Next, разработанной Qwen, с сохранённым нативным блоком MTP для speculative decoding. Конверсия выполнена Vontra напрямую из официальных BF16-весов; это не официальный релиз Qwen. Модель предназначена для генерации текста и обработки изображений в совместимых MLX-VLM или oMLX-средах, прежде всего на устройствах Apple Silicon. Модель использует архитектуру sparse MoE с обозначением qwen4_exp, включает Gated DeltaNet, Qwen Sparse Attention, разреженные mixture-of-experts-слои, расширенные gated residual-потоки и хешированные биграммные и триграммные embedding-таблицы. Всего заявлено 125 млрд параметров, из которых активно около 6 млрд, 48 слоёв, 512 маршрутизируемых экспертов с выбором 10 экспертов и одного общего, 24 attention heads и 2 KV heads, размер скрытого состояния 2560 и контекст до 262 144 токенов. Формат — MLX safetensors, квантизация oQ8, близкая к равномерной 8-битной аффинной, с group size 32; размер весов составляет около 202,75 ГБ. Сильная сторона конверсии — встроенный совместимый MTP-блок, который может существенно повысить скорость генерации: в измерении на Apple M3 Studio производительность выросла с 19,5 до 35,7 токена в секунду. Однако модель требует runtime с явной поддержкой qwen4_exp и native MTP; стандартные среды без такой поддержки могут отклонить веса. Указанные результаты зависят от длины запроса, настроек генерации, версии runtime и доступной памяти. Модель распространяется по Qwen Community License 1.0; текст лицензии включён в репозиторий.

Карточка модели Auparima/thaifood-embed на Hugging Face совпадает с карточкой intfloat/multilingual-e5-base, поэтому описание составлено по ней. Multilingual-E5-base — многоязычная модель для получения эмбеддингов текста, разработанная авторами технического отчёта Multilingual E5. Она основана на XLM-RoBERTa-base и продолжительно обучена на смеси многоязычных наборов данных. Модель имеет 12 слоёв, размер эмбеддинга 768 и около 305,2 млн параметров; поддерживает до 512 токенов текста и доступна в форматах PyTorch, Safetensors, ONNX и OpenVINO. Модель предназначена для поиска по смыслу, сопоставления предложений и текстов, семантической близости, поиска парафразов и межъязыкового поиска. Для асимметричного поиска используйте префиксы «query: » и «passage: », а для симметричных задач и извлечения признаков — «query: »; без префиксов качество может снизиться. Поддерживается около 100 языков, включая русский, хотя для языков с малым объёмом данных качество может быть ниже. Лицензия — MIT.

YuLan-Mini-Instruct — компактная языковая модель, разработанная командой YuLan и предназначенная для диалогов и выполнения инструкций. Это дообученная версия YuLan-Mini: авторы применили supervised fine-tuning, preference fine-tuning и обучение с подкреплением. Модель семейства Llama имеет плотную архитектуру и около 2,2 млрд параметров по метаданным; в README указано 2,4 млрд. Контекст составляет около 28 тысяч токенов. Модель подходит для ответов на вопросы, следования инструкциям, рассуждений, решения математических задач и написания кода. В обучении использовались открытые и синтетические данные, в том числе материалы по математике, науке и китайским бытовым знаниям. Метаданные указывают поддержку английского и китайского языков и возможности чата и генерации кода. Авторы отмечают конкурентные результаты на задачах рассуждения, математики и программирования, но указывают на слабые результаты в тестах, требующих обширных знаний, например MMLU. Модель распространяется по лицензии MIT.

khoa-klaytn/bge-small-en-v1.5-angle — англоязычная модель эмбеддингов на архитектуре BERT, дообученная на тех же данных и с той же библиотекой, что и WhereIsAI/UAE-Large-V1. Она преобразует текст в плотные векторы размером 384, подходящие для поиска и сопоставления текстов. Модель содержит около 40 млн параметров, принимает текст длиной до 512 токенов и распространяется в формате safetensors. Модель предназначена для семантического поиска, извлечения релевантных документов, кластеризации и классификации текстов, а также для использования в векторных базах данных и RAG-системах. Версия BGE v1.5 улучшает поиск без инструкций; для коротких запросов к длинным документам добавление инструкции может повысить качество. Лицензия — MIT. Оценивать сходство следует по относительному порядку оценок: абсолютный балл сам по себе не является надёжным порогом сходства. Для фильтрации по порогу его следует подбирать на данных конкретной задачи.