I.3Извлечение и структурирование данных

gte-Qwen2-1.5B-instruct-GGUF — квантованная GGUF-версия модели Alibaba-NLP/gte-Qwen2-1.5B-instruct. В метаданных указано, что модель создана intfloat, а квантование выполнено Second State Inc. Это модель для получения текстовых эмбеддингов, предназначенная для задач семантического сходства и других сценариев sentence-transformers, включая поиск и сопоставление текстов по смыслу. Модель основана на Qwen2 и содержит 1,5 млрд параметров. Она работает в режиме embedding и поддерживает контекст размером до 32 000 токенов при использовании LlamaEdge версии 0.12.2 или новее. Доступны варианты GGUF с квантованием от 2 до 8 бит, а также f16, размером примерно от 752 МБ до 3,56 ГБ. Вариант Q4_K_M заявлен как сбалансированный и рекомендуемый, а Q5_K_M и Q5_K_S — как варианты с очень небольшими потерями качества. Сильной стороной модели являются сравнительно компактные квантованные варианты и возможность локального запуска через LlamaEdge. Ограничения включают потерю качества при низкобитном квантовании; README прямо не рекомендует Q2_K, Q3 и некоторые другие варианты для большинства задач. Языки и точные характеристики архитектуры эмбеддера не указаны. Модель распространяется по лицензии Apache-2.0.

Hermes-2-Pro-11B — текстовая генеративная модель Matt Shumer, созданная с помощью LazyMergekit на основе NousResearch/Hermes-2-Pro-Mistral-7B. Несмотря на описание README как слияния нескольких моделей, в нём перечислена одна и та же базовая модель десять раз; метаданные каталога классифицируют связь как дообучение. Архитектура — плотная MistralForCausalLM, размер — 11 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для диалогов и генерации текста по инструкциям. Лицензия Apache-2.0. Карточка не приводит отдельных оценок качества или подробностей обучения, поэтому пригодность для конкретной задачи следует проверять на собственных примерах.

duyntnet/Hermes-2-Pro-Llama-3-8B-imatrix-GGUF — набор квантованных версий языковой модели Hermes 2 Pro Llama 3 8B, разработанной Nous Research. Модель предназначена для генерации текста и ведения многошагового диалога на английском языке, а также поддерживает сценарии, в которых требуется вызов функций или инструментов. Модель основана на архитектуре Llama 3 с размером 8B параметров и распространяется в формате GGUF с использованием imatrix-квантования. Для взаимодействия применяется формат ChatML с ролями system, user, assistant и tool, что позволяет задавать системные инструкции, управлять стилем ответов и интегрировать модель с совместимыми API. Поддержка function calling предполагает передачу описаний инструментов в JSON внутри специальной структуры и генерацию вызовов в формате tool_call. К сильным сторонам относятся структурированный многораундовый диалог, управляемость через системные сообщения и специализированная поддержка вызова функций. Ограничения включают ориентацию на английский язык, отсутствие в README сведений о длине контекста, конкретных параметрах квантования, производительности и качестве на отдельных задачах; результаты также могут зависеть от выбранной квантованной версии. Лицензия указана как other, без дополнительных условий в предоставленном README.

DevQuasar/huihui-ai.Qwen2.5-7B-Instruct-abliterated-SFT-GGUF — это квантованная версия модели huihui-ai/Qwen2.5-7B-Instruct-abliterated-SFT. Репозиторий опубликован под идентификатором DevQuasar; исходный README не содержит более подробной информации о разработчиках квантованной версии. Модель предназначена для генерации текста и использования в сценариях, поддерживающих формат GGUF. Из доступных данных известно, что модель относится к семейству Qwen2.5 и имеет размер 7B параметров в базовой версии, а также ориентирована на instruction-following благодаря основе Instruct. Квантование может снизить требования к памяти и упростить локальный запуск, однако конкретный тип квантования, доступные варианты файлов, поддерживаемые языки, размер контекста, архитектурные детали, показатели качества и совместимые инструменты в README не указаны. Лицензия и явные ограничения использования также не приведены.

InnerILLM-OpenPipe-Nous-Yarn-Mistral-optimized-1228-7B-slerp — объединённая модель на базе Mistral, созданная с помощью LazyMergekit методом SLERP из OpenPipe/mistral-ft-optimized-1218 и NousResearch/Yarn-Mistral-7b-128k. Она предназначена для генерации текста и диалоговых сценариев; второй компонент ориентирован на работу с длинным контекстом. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и принимает текст, выдавая текст. Метаданные указывают длину контекста 32 768 токенов. Модель опубликована в формате Safetensors и распространяется по лицензии Apache-2.0. README описывает состав и метод слияния, но не приводит оценок качества или подробных результатов тестирования, поэтому пригодность для конкретных задач следует проверять на собственных данных.

johnpaulbin/johnpaulbin-e2-instruct-merge-fp16 — объединённая языковая модель, созданная разработчиком johnpaulbin с помощью LazyMergekit из johnpaulbin/llama3.1-8b-e2-epoch3-merged-fp16 и meta-llama/Meta-Llama-3.1-8B-Instruct. Используется архитектура LlamaForCausalLM с плотной архитектурой и примерно 7,5 млрд параметров; веса представлены в формате safetensors. Для объединения применён метод TIES с нормализацией и int8-маской. Модель предназначена для генерации текста по текстовым запросам. Указанное базовое семейство — Meta Llama 3.1, а длина контекста составляет 131 072 токена. В метаданных нет сведений о лицензии и поддерживаемых естественных языках, поэтому условия использования и языковой охват здесь не описаны.

KR-SBERT-V40K-klueNLI-augSTS — модель семейства Sentence-BERT на архитектуре BERT, представленная SNUNLP. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для сравнения семантического сходства, поиска по смыслу и кластеризации. Модель также подходит для классификации документов; в приведённом в карточке сравнении она достигла точности 0,8628. Модель содержит 144 млн параметров, принимает текст и поддерживает контекст длиной до 512 токенов. Карточка и метаданные указывают корейский язык. Для применения доступны веса PyTorch и библиотека Sentence-Transformers. Лицензия в предоставленных данных не указана.

L3.3-MS-Evayale-70B-GGUF — GGUF-квантизированная версия модели L3.3-MS-Evayale-70B, разработанной Steelskull и подготовленной bartowski. Это текстовая генеративная модель для запуска локально через llama.cpp и совместимые приложения, включая LM Studio. Модель создана на основе merge-модели, однако подробности об исходных компонентах в README не приведены. Модель имеет около 70 млрд параметров и поддерживает несколько вариантов квантизации: от Q8_0 с максимальным качеством до Q2_K_L с существенной экономией памяти. Доступны форматы Q4, Q5, Q6, Q8, IQ и другие варианты, включая специальные сборки для ARM и AVX. В README указан шаблон промпта с системными и пользовательскими сообщениями, совместимый с форматом Llama 3.3. Модальность — текстовая; сведения о языках и размере контекста не указаны. Сильной стороной модели является широкий выбор квантизаций, позволяющий подобрать баланс между качеством, размером файла и требованиями к памяти; для большинства сценариев автор рекомендует Q4_K_M, Q5 и Q6-варианты. Более компактные сборки подходят для систем с ограниченным объёмом RAM, но обеспечивают более низкое качество. Некоторые варианты оптимизированы для ARM, однако отдельные сборки не рекомендуется использовать на Mac или с GPU. Лицензия в предоставленном README не указана.

Lamarck-14B-v0.3 — языковая модель на архитектуре Qwen2, созданная sometimesanotion как многоэтапное слияние нескольких моделей через model_stock, DELLA, SLERP и TIES. При слиянии авторы сочетали модели, ориентированные на рассуждения и качество прозы, с акцентом на Virtuoso-Small в начальных и финальных слоях; также использованы модели Qwen2.5-14B-Wernicke и SeQwence-14B-EvolMerge. Модель предназначена для диалогов, следования инструкциям, генерации связного текста и задач, требующих рассуждений; в метаданных также заявлен интерфейс вызова инструментов. Размер модели — 14 млрд параметров, контекст — до 131 072 токенов. Карточка приводит результаты Open LLM Leaderboard, включая IFEval и BBH. Поддерживается английский язык. Лицензия — Apache-2.0.

LateOn — англоязычная модель поиска LightOn из семейства ColBERT, построенная на ModernBERT и обученная с помощью PyLate. Это supervised-вариант, дообученный контрастивным методом с трудными негативными примерами; модель содержит 149 млн параметров и формирует многовекторные представления текста для поиска документов и сопоставления запросов с текстами. Для документов предусмотрена длина до 300 токенов, для запросов — до 32 токенов; размерность выходных представлений — 128, сходство вычисляется функцией MaxSim. В метаданных указано контекстное окно 8192 токена. Модель предназначена для семантического поиска и извлечения релевантных документов. По заявлению разработчика, LateOn показала средний результат 57,22 NDCG@10 на 15 наборах BEIR и 60,36 на очищенной от пересечений версии из 12 наборов. Модель использует открытые данные обучения; README отмечает, что дистилляцию и асимметричные подсказки не применяли. Лицензия — Apache 2.0.

Модель deman539/legal-ft-snowflake-l-94559c3c-e86d-40df-86f3-b60b1e6a59e8 — дообученная версия Snowflake/snowflake-arctic-embed-l, разработанная автором репозитория на базе Sentence Transformers. Она кодирует предложения и абзацы в плотные векторы размерности 1024 для семантического поиска, сравнения сходства текстов и поиска перефразировок. В README также перечислены кластеризация и классификация текстов как возможные сценарии использования. В основе — BERT с пуллингом CLS-токена и нормализацией векторов; сходство измеряется косинусной близостью. Максимальная длина входа составляет 512 токенов. Модель обучалась на 156 парах предложений и документов; README приводит результаты оценки поиска на тестовом наборе, но они не характеризуют качество на других данных. Данных о лицензии в предоставленных источниках нет.

LeoScorpius-GreenNode-Alpaca-7B-v1-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral, созданная слиянием Mistral-7B-Instruct-v0.1 и ignos/LeoScorpius-GreenNode-Alpaca-7B-v1 методом SLERP. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста в ответ на инструкции и диалоговые запросы. Модель принимает текст и выдаёт текст. В метаданных указано контекстное окно 32 768 токенов; веса представлены в формате Safetensors. Репозиторий не описывает отдельные специализированные области применения или языки, поэтому модель можно рассматривать как чат-модель общего назначения. Модель распространяется по лицензии Apache-2.0. README не приводит результатов оценки качества или сведений о специальных ограничениях; поведение и надёжность следует проверять на целевых задачах.

llama-3.1-70B-nemotron-lumiyale-120B — объединённая текстовая модель, созданная автором репозитория с помощью mergekit методом линейного слияния трёх предварительно обученных моделей: Sao10K/L3.1-70B-Euryale-v2.2, nvidia/Llama-3.1-Nemotron-70B-Instruct-HF и NeverSleep/Lumimaid-v0.2-70B. Она использует архитектуру Llama 3.1 с плотной причинной языковой моделью и содержит 118,3 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия. Контекстное окно составляет 131 072 токена; репозиторий использует библиотеку Transformers и формат safetensors. В метаданных отмечен интерфейс вызова инструментов, но подробности его применения не приведены. Лицензия в предоставленных данных не указана. Результаты объединения моделей могут различаться по качеству и поведению; сведения о специальных ограничениях или оценках качества отсутствуют.

Карточка модели teknium/Llama-3.1-AlternateTokenizer на Hugging Face совпадает с карточкой NousResearch/Meta-Llama-3.1-8B, поэтому описание составлено по ней. NousResearch/Meta-Llama-3.1-8B — текстовая авторегрессионная модель семейства Llama 3.1, разработанная Meta и опубликованная в репозитории NousResearch. Это плотный трансформер LlamaForCausalLM с 7,5 млрд параметров, механизмом Grouped-Query Attention и контекстом до 131 072 токенов; веса представлены в формате safetensors и предназначены для работы с Transformers. Модель генерирует текст по текстовому запросу. Она подходит для диалогового помощника на нескольких языках, ответов на вопросы, написания и преобразования текста, а также для адаптации к задачам генерации естественного языка. В карточке указаны английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Для семейства Llama 3.1 заявлены коммерческое и исследовательское применение; условия использования определяет лицензия Llama 3.1 Community License и связанная с ней политика допустимого использования. Это предобученная модель, а не версия, настроенная для следования инструкциям: указанное в README SFT и RLHF относится к instruction-tuned версиям семейства. Как и другие языковые модели, она может выдавать неточные или небезопасные ответы; для прикладного использования нужны проверка результатов и меры безопасности. Указания README ограничивают применение поддерживаемыми языками, если модель не дообучена для других языков.

Llama-3.1-Tulu-3-70B-GGUF — набор квантизованных версий языковой модели Llama-3.1-Tulu-3-70B, разработанной Allen Institute for AI (AI2) и опубликованной в формате GGUF пользователем bartowski. Квантизация выполнена с помощью llama.cpp с использованием метода imatrix; доступны варианты от IQ1_M и Q2 до Q8_0 с различным соотношением качества, размера файла и требований к памяти. Модель предназначена для генерации текста и диалоговых сценариев, включая работу через llama.cpp и LM Studio. В README указаны английский язык и исходный набор данных RLVR-GSM-MATH-IF-Mixed-Constraints. Поддерживается формат prompt с ролями system, user и assistant. Размер базовой модели — 70 миллиардов параметров; сведения о максимальном контексте и мультимодальности не указаны. Сильной стороной являются многочисленные варианты квантизации: Q6_K и Q5 считаются высококачественными, а Q4_K_M — компромиссным вариантом для большинства сценариев. Более компактные варианты позволяют снизить требования к оперативной памяти, но обеспечивают более низкое качество. Версия Q4_0_8_8 оптимизирована для ARM и AVX и требует поддержки SVE на ARM; для Mac она не рекомендуется. Лицензия указана как llama3.1.

Llama-3-Swallow-70B-v0.1 — плотная авторегрессионная языковая модель семейства Llama 3, разработанная командой Swallow-LLM из Токийского технологического института и AIST. Модель на 69,5 млрд параметров прошла дополнительное непрерывное предобучение на корпусах с преимущественно японскими данными; базовая архитектура — LlamaForCausalLM. Выпущена в июне 2024 года и распространяется в формате safetensors через Transformers. Модель предназначена для генерации текста на японском и английском языках. Её можно применять для ответов на вопросы, чтения и понимания текста, суммаризации, перевода между японским и английским, математических рассуждений и генерации кода. В README приведены результаты оценки на японских и англоязычных наборах задач; указанное родное контекстное окно — 8192 токена. Это базовая, не Instruct-версия: она не настроена на следование человеческим инструкциям и требованиям безопасности. Авторы предупреждают, что модель находится на ранней стадии исследований и разработки. Лицензия — Llama 3; перед использованием следует соблюдать её условия.

Marcoroni 70B GGUF — это квантизированная версия большой языковой модели Marcoroni 70B, разработанной AIDC-ai-business и преобразованной в формат GGUF пользователем TheBloke. Модель основана на архитектуре Llama и предназначена для генерации текста по инструкциям, включая диалоговые и другие задачи обработки естественного языка. В карточке указано, что модель обучалась с использованием набора данных Open-Orca и поддерживает английский язык. Модель имеет около 70 миллиардов параметров; доступны варианты GGUF с разной разрядностью квантования — 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между качеством, требованиями к памяти и скоростью работы. Формат поддерживается llama.cpp и рядом сторонних интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и candle, с возможностью CPU- и GPU-инференса. В качестве шаблона запросов используется формат Alpaca. К сильным сторонам относятся возможность локального запуска и широкий выбор уровней квантования. Ограничения включают высокие требования к ресурсам для 70B-модели, зависимость характеристик от выбранной квантованной версии и отсутствие в предоставленных данных сведений о размере контекста, мультимодальности и подробных результатах оценки. Указана лицензия CC BY-NC 4.0; кроме того, заявляется применимость условий лицензии Meta Llama 2, поэтому коммерческое использование может быть ограничено и требует проверки совместимости лицензий.

Maverick-7B — объединённая модель для генерации текста, созданная на основе mlabonne/Marcoro14-7B-slerp и mlabonne/NeuralBeagle14-7B. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Она предназначена для диалога, ответов на вопросы и других общих языковых задач; в карточке приведены результаты тестов TruthfulQA, GPT4ALL, AGIEval и Bigbench. Модель распространяется в формате Safetensors по лицензии Apache-2.0.

Meta-Llama-3-8B-Instruct-GGUF — языковая модель для генерации текста, созданная Meta и представленная сообществом lmstudio-community в формате GGUF. Она основана на Meta-Llama-3-8B-Instruct и предназначена для диалоговых приложений, ответов на вопросы, следования инструкциям и других задач текстовой генерации. Указан английский язык и тип применения text-generation. Модель имеет 8 миллиардов параметров и относится к семейству Llama 3. В предоставленных данных не указаны точная архитектура, размер контекстного окна, доступные варианты квантования и дополнительные модальности, поэтому эти характеристики нельзя определить надёжно. Формат GGUF ориентирован на локальный запуск совместимыми средствами, включая приложения класса LM Studio. Модель может быть полезна для локальных текстовых помощников и других сценариев, где требуется выполнение инструкций на английском языке. Ограничения включают неизвестные параметры производительности, отсутствие подтверждённых мультиязычных возможностей и потенциальные ошибки или нежелательные ответы, характерные для генеративных языковых моделей. Использование регулируется Meta Llama 3 Community License: при распространении материалов или продуктов необходимо соблюдать условия лицензии, требования к атрибуции, Acceptable Use Policy и прочие ограничения Meta.

NousResearch/Meta-Llama-3-8B-Instruct-GGUF — это инструкция-ориентированная языковая модель в формате GGUF, основанная на Meta Llama 3 и опубликованная NousResearch. Она предназначена для генерации текста и диалоговых сценариев, включая ответы на инструкции пользователя, запуск локального вывода и интеграцию в приложения, поддерживающие формат GGUF. В карточке указано, что модель работает с текстом и ориентирована на английский язык. Из доступных данных известны размер базовой модели — 8 миллиардов параметров — и принадлежность к семейству Llama 3. Формат GGUF удобен для локального запуска и использования средствами совместимой экосистемы, однако конкретные варианты квантования, требования к памяти, максимальная длина контекста, архитектурные детали и показатели качества в README не указаны. Ограничениями также являются возможные ошибки и ограничения, характерные для генеративных языковых моделей; область применения и качество для других языков не описаны. Модель распространяется по лицензии Meta Llama 3 Community License. Использование и распространение требуют соблюдения условий этой лицензии и Acceptable Use Policy, а при распространении материалов или продуктов на их основе необходимо предоставить копию соглашения и указать «Built with Meta Llama 3». Для производных моделей предусмотрены дополнительные требования к наименованию, а для продуктов и сервисов с более чем 700 миллионами активных пользователей в месяц требуется отдельное разрешение Meta.

MetaMath-OpenHermes-2.5-neural-chat-v3-3-Slerp-Mistral-7B-Instruct-v0.1 — чат-модель MaziyarPanahi, полученная слиянием методом SLERP модели Mistral-7B-Instruct-v0.1 и Weyaxi/MetaMath-OpenHermes-2.5-neural-chat-v3-3-Slerp. Это плотная авторегрессионная модель Mistral с 7,1 млрд параметров, предназначенная для генерации текста и ответов на инструкции в диалоге. Указанная длина контекста — 32 768 токенов; веса опубликованы в формате safetensors. Модель подходит для диалоговых запросов и генерации ответов на инструкции. В карточке не приведены отдельные оценки качества или сведения о поддерживаемых естественных языках, поэтому их нельзя надёжно уточнить. Лицензия — Apache-2.0.

Ministral-3-8B-Reasoning-2512-Uncensored-i1-GGUF — квантованная версия модели Ministral-3-8B-Reasoning-2512-Uncensored, разработанной ccharnkij и подготовленной в формате GGUF пользователем mradermacher. Модель относится к семейству Mistral/Ministral и ориентирована на генерацию текста и задачи, требующие рассуждений. В README также указана поддержка сценариев image-text-to-text, то есть работы с изображениями и текстом; для этого могут потребоваться отдельные mmproj-файлы. Модель имеет размер 8B параметров согласно идентификатору и предназначена для локального запуска через совместимые инструменты, поддерживающие GGUF. Доступны варианты квантования от крайне компактных IQ1 до более качественных Q6 и других форматов, что позволяет выбирать компромисс между размером файла, скоростью и качеством. Заявлен английский язык. Размер контекста, точная архитектура, перечень поддерживаемых языков помимо английского и результаты сравнительных тестов в README не указаны. Сильными сторонами являются наличие reasoning-настройки, мультимодальная поддержка и широкий выбор квантованных вариантов, включая версии с imatrix. Ограничения связаны с потерями качества при агрессивном квантовании, а также с отсутствием подробных данных о производительности, контекстном окне и фактических возможностях работы с изображениями. В метаданных указана лицензия Apache-2.0.

Mistral-Small-24B-Base-2501-GGUF — это квантизированная GGUF-версия базовой языковой модели Mistral-Small-24B-Base-2501, разработанной Mistral AI. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для задач генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Модель содержит 24 миллиарда параметров и представлена в нескольких вариантах точности: от F32 до Q3 и IQ-квантизаций. Доступны версии с разным размером файла и компромиссом между качеством и требованиями к памяти; наиболее сбалансированным вариантом в README назван Q4_K_M, а Q5 и Q6 отмечены как высококачественные. Заявлена поддержка английского, французского, немецкого, испанского, итальянского, португальского, китайского, японского, русского и корейского языков. Сведения об архитектуре, размере контекста, мультимодальности и формате промпта в README не указаны. Сильная сторона модели — возможность локального инференса с выбором уровня квантизации, что позволяет адаптировать потребление памяти под доступное оборудование. Ограничения зависят от выбранного варианта: более компактные квантизации снижают качество, а старшие требуют значительного объёма памяти. Модель является базовой, поэтому готовый формат инструкций не предоставлен и параметры использования следует уточнять на странице исходной модели. Лицензия — Apache-2.0.

Mistral-Small-Instruct-2409-IMat-GGUF — это GGUF-квантизированная версия модели Mistral-Small-Instruct-2409, разработанной Mistral AI. Квантизацию выполнил legraphista с использованием llama.cpp версии b3785 и метода IMatrix. Модель предназначена для генерации текста и диалогового взаимодействия, включая локальный запуск через совместимые инструменты экосистемы llama.cpp. Модель поддерживает английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, русский и корейский языки. Доступны варианты в форматах BF16, F16, Q8_0, Q6_K, Q5_K, Q5_K_S, Q4_K, Q4_K_S, IQ4_NL, IQ4_XS, Q3_K, Q3_K_L, Q3_K_S и Q2_K; размеры файлов варьируются примерно от 8,27 до 44,50 ГБ. IMatrix применяется к ряду вариантов с более сильным сжатием, включая Q4, Q3 и Q2, что позволяет уменьшить требования к хранению при сохранении качества, насколько это возможно для выбранного уровня квантизации. Сильная сторона модели — наличие большого выбора степеней квантизации для подбора компромисса между качеством, размером файла и требованиями к аппаратным ресурсам, а также поддержка нескольких языков. Ограничения конкретного варианта зависят от уровня квантизации: более компактные файлы могут уступать исходной BF16-модели в точности и качестве генерации. В README не указаны архитектурные параметры, число параметров, размер контекста и результаты бенчмарков. Модель распространяется по лицензии Mistral Research License 0.1 (MRL-0.1).

Это GGUF-квантизация модели gemma-3-4b-it-abliterated, разработанной mlabonne и подготовленной пользователем bartowski с помощью llama.cpp и метода imatrix. Модель предназначена для локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp, включая диалоговые сценарии и задачи преобразования текста и изображений в текст. Модель содержит около 4 миллиардов параметров и поддерживает мультимодальный режим с обработкой изображений. Для работы с изображениями требуется отдельный файл mmproj в формате F32 или F16. В README не указаны точные языки и размер контекстного окна. Доступны варианты от BF16 и Q8_0 до более компактных Q3- и Q4-квантизаций; рекомендуются Q6_K_L, Q6_K, Q5 и Q4_K_M в зависимости от требований к качеству и объёму памяти. Меньшие варианты подходят для систем с ограниченной оперативной памятью, но могут заметнее уступать по качеству. Формат GGUF упрощает локальный запуск и позволяет выбирать баланс между качеством, размером файла и требованиями к памяти. Ограничения модели, включая возможное снижение качества на низких уровнях квантизации и необходимость отдельного vision-проектора для изображений, следует учитывать при развёртывании. Лицензия указана как gemma; дополнительные условия использования в README не раскрыты.

moona3k подготовил 8-битную квантованную версию Qwen/Qwen3-ASR-1.7B для библиотеки MLX и компьютеров Apple Silicon. Модель предназначена для автоматического распознавания речи и транскрибации аудио; при использовании mlx-qwen3-asr поддерживаются временные метки слов и HTTP-сервер. Архитектура — плотная Qwen3-ASR с аудиоэнкодером и текстовым декодером; линейные слои и эмбеддинги квантованы до 8 бит с размером группы 64, остальные указанные в README тензоры хранятся в float16. Размер загрузки — около 2 ГБ. Модель поддерживает английский, китайский, японский, корейский, немецкий, французский, испанский, русский, арабский и хинди. В описанном тесте на 100 аудиофрагментах LibriSpeech test-clean её гипотезы и показатели WER/CER совпали с версией fp16, однако эти результаты ограничены данным набором и настройками оценки. Для запуска требуется пакет mlx-qwen3-asr версии 0.4.1 или новее; лицензия — Apache-2.0.

Карточка модели novelcore/model9 на Hugging Face совпадает с карточкой sentence-transformers/multi-qa-mpnet-base-cos-v1, поэтому описание составлено по ней. multi-qa-mpnet-base-cos-v1 — модель Sentence Transformers на базе MPNet, разработанная в рамках Community Week Hugging Face. Она преобразует вопросы, предложения и абзацы в нормализованные плотные векторы размерностью 768 для семантического поиска и сопоставления текста по смыслу. Модель обучена на 215 млн пар «вопрос–ответ» из разных источников с контрастивной целью и усреднением токеновых представлений; для сравнения векторов подходят косинусная близость и скалярное произведение. Модель принимает текст и предназначена для кодирования поисковых запросов и текстовых фрагментов, чтобы находить релевантные документы или ответы. Контекст ограничен 514 токенами по метаданным; карточка рекомендует не превышать 250 word pieces, поскольку более длинные входы могут работать хуже, а тексты свыше 512 word pieces обрезаются. Карточка указывает английский язык. Доступны веса PyTorch и форматы ONNX и OpenVINO; лицензия в предоставленных данных не указана.

multilingual-e5-small-fra-32768 — текстовая модель эмбеддингов, опубликованная alphaedge-ai на основе intfloat/multilingual-e5-small. Она предназначена для задач семантического сравнения предложений, поиска и ранжирования документов, сопоставления запросов с фрагментами текста и других сценариев, где требуется преобразование текста в векторные представления. Модель интегрируется с библиотекой sentence-transformers и поддерживает раздельное кодирование запросов и документов. Модель оптимизирована для французского языка за счёт сокращения словаря методом trimming. Размер словаря уменьшен с 250 037 до 32 768 токенов, а количество параметров — с 117 653 760 до 34 222 464, что соответствует уменьшению размера примерно на 70,91%. По заявлению авторов, при французских текстах она должна демонстрировать результаты, близкие к исходной multilingual-e5-small, при существенно меньшем потреблении памяти. Архитектурные детали, размер контекста и поддержка других модальностей в README не указаны; заявлена только работа с текстом. Главное ограничение — возможное заметное ухудшение качества на языках, отличных от французского, поскольку редко используемые для выбранного языка токены были удалены. Модель распространяется по лицензии MIT.

cicero-ai/multi-qa-mpnet-base-cos-v1-rust — вариант модели multi-qa-mpnet-base-cos-v1, опубликованный под именем cicero-ai; README описывает исходную модель Sentence Transformers, разработанную в рамках Community Week Hugging Face для проекта по обучению моделей эмбеддингов предложений. Это MPNet-base с 136,7 млн параметров, который кодирует предложения и абзацы в нормализованные плотные векторы размерности 768. Модель предназначена прежде всего для семантического поиска: по запросу или вопросу помогает находить релевантные текстовые фрагменты. Модель дообучена на примерно 215 млн пар «вопрос — ответ» из разных источников с использованием контрастивного обучения и mean pooling. Нормализация векторов позволяет использовать скалярное произведение вместо косинусного сходства. Поддерживается английский язык; контекст составляет до 514 токенов по метаданным, а README указывает предел в 512 word pieces и сообщает, что обучение проводилось на текстах длиной до 250 word pieces. Более длинный текст может обрезаться, а качество на нём может снижаться. В метаданных указаны форматы PyTorch и safetensors; лицензия не установлена по предоставленным данным.

multi-qa-mpnet-base-dot-v1 — модель для создания текстовых эмбеддингов, разработанная командой Sentence Transformers в рамках проекта Hugging Face Community Week. Она кодирует вопросы, предложения и абзацы в плотные векторы размерностью 768 для семантического поиска: по запросу можно находить релевантные фрагменты текста. Модель основана на MPNet-base и дообучена на примерно 215 млн пар «вопрос — ответ» из разных источников с контрастивной целью обучения. Для сравнения векторов используется скалярное произведение; эмбеддинги не нормализуются. Модель рассчитана прежде всего на поиск ответов и документов по вопросам и текстовым запросам. Она поддерживает английский язык, построена на MPNet и доступна в форматах PyTorch, Safetensors, ONNX и OpenVINO. Максимальная длина входа составляет 512 токенов, однако обучение проводилось на текстах длиной до 250 токенов, поэтому качество на более длинных фрагментах может снижаться. Условия лицензии в предоставленных данных не описаны.