I.3Извлечение и структурирование данных
В разделе собраны самостоятельные задачи, где AI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
25 791 модельmulti-qa-mpnet-base-dot-v1 — модель встраиваний предложений и абзацев на базе MPNet, разработанная в рамках проекта Hugging Face «Train the Best Sentence Embedding Model Ever with 1B Training Pairs». Она кодирует запросы и текстовые фрагменты в плотные векторы размерностью 768 для семантического поиска и подбора релевантных документов. Модель дообучена на примерно 215 млн пар «вопрос—ответ» из разных источников; использует CLS-пулинг и сходство по скалярному произведению, а выходные векторы не нормализуются. В метаданных указано 136,7 млн параметров и контекст до 514 токенов. Модель подходит для поиска ответов и документов по смыслу, даже если запрос и найденный текст не совпадают дословно. README предупреждает, что при длине свыше 512 word pieces текст обрезается, а обучение проводилось преимущественно на фрагментах до 250 word pieces, поэтому качество на более длинных текстах может снижаться. В карточке указана лицензия Apache-2.0.
Это версия mxbai-embed-large-v1 в формате MLX, преобразованная сообществом mlx-community из модели mixedbread-ai/mxbai-embed-large-v1 с помощью mlx-lm. Модель на архитектуре BERT предназначена для получения плотных текстовых эмбеддингов, семантического поиска и сравнения предложений; библиотека карточки — sentence-transformers. Модель содержит 433,9 млн параметров, принимает текст и имеет контекстное окно 512 токенов. В карточке указан английский язык. Репозиторий содержит веса safetensors, а лицензия — Apache-2.0. README указывает на использование через пакет mlx-embeddings.
Это квантованная сборка модели NVIDIA Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16, подготовленная FreedomAISVR в формате GGUF. Она предназначена для генерации текста и диалогов, включая задачи рассуждения. Архитектура сочетает Mamba2 и Transformer и использует MoE: из 128 экспертов для каждого токена выбираются шесть. Всего в модели около 30 млрд параметров, из которых активно около 3 млрд; контекст — до 262 тыс. токенов. Веса экспертов хранятся в MXFP4, плотные веса — в Q8_0, а тензоры Mamba2 — в F16 для совместимости с CUDA-ядрами SSM. В репозитории также есть F16-проектор SigLIP для обработки изображений. Для полноценного запуска требуется среда с поддержкой GGUF и мультимодального проектора, например llama.cpp. Гибридный формат экономит память, однако операции Mamba2 на CUDA могут переходить на CPU, что снижает скорость. README не уточняет лицензию производной сборки; метаданные указывают лицензию «other», поэтому условия следует сверить с карточкой модели и условиями базовой модели.
Nerdofdot/Nerdofdot_nickprock_mmarco-bert-base-italian-uncased_TM_FTM — модель на базе BERT, подготовленная в формате Sentence Transformers для преобразования предложений и абзацев в плотные векторы размерностью 768. Она предназначена для поиска семантически похожих текстов и может применяться для кластеризации и семантического поиска. Обучение использовало TripletLoss с евклидовой метрикой и отступом 0,4; объём модели составляет 137,1 млн параметров, максимальный контекст — 512 токенов. Модель принимает текст и возвращает векторные представления, которые можно сравнивать для оценки сходства. Название указывает на итальянскую uncased-версию mMARCO-BERT, однако README не приводит явного подтверждения базовой модели или поддерживаемых языков. Репозиторий содержит веса в формате safetensors. Условия лицензии в доступных данных не приведены.
Nous-Hermes-2-Mixtral-8x7B-DPO-GGUF — это квантизированная версия языковой модели Nous-Hermes-2-Mixtral-8x7B-DPO, разработанной NousResearch и преобразованной в формат GGUF компанией Second State Inc. Модель основана на архитектуре Mixtral и дообучена с применением DPO и RLHF; в метаданных также указаны синтетические данные и дистилляция. Заявленный язык — английский. Модель предназначена для диалоговых и инструкционных сценариев: генерации ответов, общения в формате чат-бота и выполнения текстовых запросов. Она использует шаблон ChatML и поддерживает контекст размером 4096 токенов. Доступно несколько вариантов квантизации от Q2_K до Q8_0 размером от 17,3 до 49,6 ГБ. Q4_K_M рекомендуется как сбалансированный вариант, а Q5_K_M и Q5_K_S — как варианты с минимальной потерей качества. К сильным сторонам относятся архитектура Mixtral, диалоговая настройка и широкий выбор уровней квантизации для локального запуска. Более агрессивная квантизация уменьшает требования к памяти, но приводит к заметной потере качества; наиболее компактные варианты не рекомендуются для большинства задач. В README не указаны мультимодальные возможности, поэтому модель следует рассматривать как текстовую. Лицензия — Apache-2.0. Для запуска с LlamaEdge требуется версия 0.2.8 или новее.
OpenZephyrChat-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на базе Mistral-7B-Instruct-v0.2, созданная объединением весов Mistral-7B-Instruct-v0.2 и OpenZephyrChat методом SLERP с помощью MergeKit. Модель содержит 7,1 млрд параметров и предназначена для генерации текста в ответ на сообщения и инструкции в формате чата. Модель использует плотную архитектуру MistralForCausalLM, принимает текст и выдаёт текст. Длина контекста — до 32 768 токенов. Репозиторий содержит веса Safetensors; лицензия — Apache-2.0. Карточка не описывает отдельные языковые или предметные специализации, поэтому её можно рассматривать как модель общего назначения.
pankajmathur/orca_mini_v7_72b — разговорная языковая модель на архитектуре Qwen2, созданная Pankaj Mathur и дообученная на различных наборах данных для SFT. Она предназначена для ответов в диалоге и выполнения широкого круга текстовых запросов; использовать её можно как основу для дальнейшего дообучения и слияния с другими моделями при указании авторства. Модель содержит 71,5 млрд параметров, принимает текст и выдаёт текст, поддерживает контекст длиной 32 768 токенов и формат диалога ChatML. README описывает расширение контекста с помощью YARN при развёртывании через vLLM. Модель опубликована под лицензией Apache-2.0. В README приведены результаты Open LLM Leaderboard, включая средний балл 39,06 и 59,30 на IFEval; эти показатели относятся к указанной оценке и не гарантируют качество для конкретного сценария. Для vLLM статическая настройка YARN может снижать производительность на коротких запросах.
Xenova/paraphrase-multilingual-MiniLM-L12-v2 — мультиязычная модель для получения векторных представлений текста, созданная на основе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 и подготовленная сообществом Xenova для использования в Transformers.js. Модель предназначена для задач сравнения смысловой близости и поиска перефразирований, включая семантический поиск, кластеризацию и сопоставление текстов, в JavaScript-приложениях. В репозитории представлены веса в формате ONNX, совместимые с Transformers.js; запуск выполняется через конвейер feature-extraction. Из README не указаны точный размер модели, перечень поддерживаемых языков, максимальная длина контекста и дополнительные модальности. Лицензия также не указана, поэтому условия использования по этим данным определить нельзя. Возможность работы в веб-среде является ключевой особенностью, однако качество и применимость зависят от исходной модели sentence-transformers и конкретного сценария использования.
PathummaLLM-text-1.0.0-7B — мультиязычная текстовая большая языковая модель, разработанная командой NECTEC и дообученная на базе nectec/OpenThaiLLM-Prebuilt-7B. Модель рассчитана на выполнение инструкций и поддерживает тайский, китайский и английский языки. Модель предназначена для генерации текста, диалоговых ассистентов, задач Retrieval-Augmented Generation (RAG), управляемой генерации и рассуждений. В README также указана применимость к сценариям в химии, биологии, финансах, праве, программировании и медицине. Архитектурные детали, кроме принадлежности к семейству Qwen2 и поддержки загрузки через Transformers, не раскрыты; заявлен размер около 7 миллиардов параметров. Для GGUF-применения приведён контекст 8192 токена, однако это значение может относиться к конкретному примеру запуска. Среди сильных сторон заявлены конкурентоспособные результаты по сравнению с Openthaigpt1.5-7b-instruct и оптимизация для прикладных сценариев. Ограничения включают отсутствие подробных сведений о составе и методике подготовки датасета, точных характеристиках архитектуры и гарантированной эффективности в отдельных прикладных областях. Модель распространяется по лицензии Apache-2.0.
heydariAI/persian-embeddings — дообученная Mohammad Hassan Heydari модель XLM-RoBERTa для построения контекстных векторных представлений предложений и абзацев. Она основана на FacebookAI/xlm-roberta-base и адаптирована на крупном корпусе персидских текстов для более точного учёта особенностей персидского языка. Модель предназначена для семантического поиска, кластеризации текстов и оценки контекстного сходства. Входом служит текст на персидском или английском языке, выходом — представления токенов, которые следует агрегировать подходящей операцией pooling для получения эмбеддинга предложения или абзаца. Архитектура — плотная XLM-RoBERTa; размер указан как 658,7 млн параметров, длина контекста — 514 токенов. Модель распространяется по лицензии Apache-2.0. Качество может быть ниже на языках, отличных от персидского и английского, а для получения эмбеддингов целых фрагментов текста требуется корректно настроить pooling.
schwyzquant/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая многоэтапно дообученная и объединённая модель на базе Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-MTP. В README указано участие нескольких авторов и команд, включая DavidAU, Nightmedia, TeichAI, armand0e и trohrbaugh; модель создана с использованием Unsloth и рассчитана на запуск на потребительском оборудовании. Она распространяется в форматах GGUF, включая обычные и MTP-варианты с multi-token prediction, а также 4- и 8-битные квантизации. Модель предназначена для широкого спектра задач: следования инструкциям, решения задач, рассуждений, программирования, творческого письма, ролевых сценариев и диалогов. Заявлена поддержка текста и изображений, английского и китайского языков. Среди ключевых свойств указаны улучшенное следование инструкциям, решение задач и reasoning, сохранение возможностей базовой Qwen-модели, а также uncensored/heretic-настройка. Контекстное окно, точные архитектурные характеристики и параметры мультимодального компонента в README не приведены. Автор заявляет высокие результаты на ряде бенчмарков и превосходство базовой Qwen3.6-27B по шести из семи указанных тестов, однако эти утверждения следует воспринимать как данные из карточки модели. Сильными сторонами называются качество рассуждений, универсальность, поддержка vision и эффективность квантизированных версий; возможное ограничение — отсутствие подробных независимых результатов и недостаток технических сведений о размере контекста. Лицензия — Apache-2.0.
Qwen3.8-19B-Pruned-GGUF — набор официальных GGUF-квантований модели ewinregirgojr/Qwen3.8-19B-Pruned, опубликованный и квантованный ewinregirgojr. Модель предназначена для локальной генерации текста, диалоговых сценариев, задач рассуждения и function calling на потребительском оборудовании. Поддерживаются Ollama, LM Studio, Jan, llama.cpp, Unsloth, LocalAI и Open WebUI. Модель основана на архитектуре Qwen3.8 и использует 30% структурированной разреженности SparseGPT; заявлено около 18,9 млрд активных ненулевых параметров при сохранении 866 текстовых слоёв. Доступны варианты Q4_0, Q6_K и Q8_0 размером 17,79, 23,20 и 29,30 ГБ соответственно. Максимальная длина контекста заявлена до 262 144 токенов. Указаны английский и китайский языки, текстовая модальность и формат GGUF для локального инференса. В README приведены результаты MMLU 81,5% и GSM8K 86,9%, однако методика и воспроизводимость этих показателей требуют самостоятельной проверки. Сильные стороны — уменьшенный объём весов, возможность запуска на распространённых GPU и оптимизация для локального использования; для Q4_0 заявлена совместимость с видеокартами от 24 ГБ памяти, тогда как более точные варианты требуют больше RAM или VRAM. Ограничения связаны с компромиссом между размером, точностью и требованиями к оборудованию, а также с тем, что разреженность не обязательно ускоряется всеми программными стеками. Модель распространяется по лицензии Apache-2.0.
Qwen3.8-27B-3bit-MLX — мультимодальная vision-language модель, разработанная на основе Qwen/Qwen3.8-27B и конвертированная пользователем lukaskremla в формат MLX с помощью mlx-vlm 0.6.13. Модель предназначена для диалоговых сценариев, обработки текста и изображений, а также задач, связанных с видео, рассуждениями и использованием инструментов. Она поддерживает мультиязычную работу и длинный контекст, однако точный размер контекста и перечень языков в представленном README не указаны. Модель использует 3-битное квантование весов с group size 64, affine- и RTN-квантованием, при этом vision tower сохранён в формате BF16. Такой формат ориентирован на запуск в экосистеме MLX и снижает требования к памяти по сравнению с полноразмерной версией, но квантование может ограничивать точность относительно исходной модели. README также предупреждает, что Hugging Face может некорректно отображать число параметров MLX-квантизаций. Модель распространяется по лицензии Apache-2.0.
lued/Qwen3.8-27B-heretic-ara-INT8-W8A16-MTP — квантизированная версия модели heretic-org/Qwen3.8-27B-heretic-ara, основанной на Qwen3.8-27B от Qwen. Репозиторий lued содержит численную W8A16-квантизацию; исходная модель была изменена проектом Heretic с применением abliteration для устранения встроенного профиля отказов. Модель предназначена для диалоговых и мультимодальных задач, включая работу с изображениями, рассуждения и генерацию текста, и оптимизирована для запуска через vLLM на видеокартах архитектуры Ampere, в частности на конфигурации из двух RTX 3090. Модель имеет 27 млрд параметров, сохраняет vision tower, управление режимом рассуждений и нативный контекст до 262 144 токенов. Веса представлены в INT8 с форматом W8A16, активации поддерживают FP16 или BF16, а голова MTP сохранена в исходном BF16 для speculative decoding. Используется симметричная data-free RTN-квантизация с размером группы 128 и форматом compressed-tensors; проверенный профиль vLLM включает tensor parallelism на двух GPU, FP8 E4M3 KV-кэш и три draft-токена MTP. Расширение контекста до 1 млн токенов с YaRN относится к исходной модели и требует отдельной настройки и достаточного объёма KV-кэша. Сильными сторонами являются уменьшенный объём памяти, совместимость с Ampere без нативного FP8 tensor-core исполнения, сохранение мультимодальности и длинного контекста, а также устранение отказов на указанном наборе из 100 вредоносных запросов исходной abliteration-моделью. Ограничением является намеренное изменение поведения: abliteration привела к заметному сдвигу распределения, а отсутствие отказов не означает гарантии безопасного использования. Производительность и поведение могут зависеть от конфигурации vLLM и доступной памяти. Модель распространяется по лицензии Apache 2.0.
RukaRat/Qwen3.8-27B-INT8-W8A8-imatrix-MTP — квантизированная версия мультимодальной модели Qwen3.8-27B, разработанной командой Qwen и подготовленной пользователем RukaRat. Модель предназначена для генерации и анализа текста, работы с изображениями, вызова инструментов и запуска локальных inference-сервисов на видеокартах Ampere, включая конфигурации с двумя RTX 3090 по 24 ГБ. Указана интеграция с Transformers, SGLang и vLLM, а также поддержка tool calls в формате qwen3_coder и reasoning-парсера qwen3. Весовая часть представлена в формате compressed-tensors с квантизацией INT8 W8A8; общий размер составляет около 29,1 GiB, при этом часть параметров сохранена в BF16. Архитектура включает 64 слоя, из которых 48 используют Gated DeltaNet linear attention и 16 — full attention. Сохранены vision tower и MTP-модуль, благодаря чему поддерживаются мультимодальный ввод и speculative decoding. Нативное окно контекста заявлено до 262 144 токенов, а в описанной конфигурации на двух RTX 3090 протестирован контекст до 245 760 токенов. Языки модели в README не указаны. К сильным сторонам относятся сохранённая обработка изображений, MTP для ускорения декодирования, совместимость с видеокартами Ampere и сравнительно экономичное INT8-представление. Ограничения связаны с высокой потребностью в памяти: каждая параллельная последовательность требует значительный фиксированный recurrent state, поэтому число одновременных запросов приходится ограничивать. Производительность и доступный контекст зависят от настроек SGLang или vLLM, а сведения о работе vLLM отмечены как устаревшие. Модель распространяется по лицензии Apache-2.0.
Joestar79/Qwen3.8-27B-OBLITERATED-NVFP4 — производный мультимодальный чекпойнт на базе Qwen/Qwen3.8-27B, прошедший V3 abliteration авторами OBLITERATUS и квантование NVIDIA ModelOpt 0.45.0. Модель предназначена для текстовой генерации, работы с изображениями, рассуждений и вызова инструментов через vLLM. Поведение отказов удалено, поэтому модель выполняет запросы, которые исходная версия могла отклонять; ответственность за законность использования и настройку защитных ограничений лежит на операторе. Модель использует квантование NVFP4 W4A16: размер на диске составляет около 21,5 ГБ вместо 55,6 ГБ у исходной BF16-версии. Весовая часть упакована в FP4, а vision tower, MTP head, lm_head, embeddings и отдельные внутренние компоненты линейного внимания сохранены в BF16. MTP head подключён для speculative decoding, поддерживается контекст до 126 976 токенов, а шаблон чата включает диалект вызова инструментов qwen3_coder. В README не указаны полный список языков и точное число параметров сверх обозначения 27B. Чекпойнт рассчитан прежде всего на запуск на одной NVIDIA RTX 5090 с 32 ГБ памяти и совместим с другими картами Blackwell и FP4-совместимыми серверными GPU. На RTX 5090 заявлена пропускная способность около 40 токенов в секунду для одного потока и до 317 токенов в секунду суммарно для восьми потоков. Ограничения включают известную проблему с зацикливанием генерации при некоторых условиях, возможное снижение эффективности speculative decoding из-за несовпадения MTP head с abliteration-весами и отсутствие калибровки квантования под конкретные задачи. Модель не рекомендуется для публичного неаутентифицированного развёртывания; перед критически важным применением её следует сравнить с BF16-версией. Лицензия — Apache-2.0. Производная модель наследует знания, предубеждения и потенциальные ошибки базовой модели, а удаление отказов повышает риск небезопасных или нежелательных ответов.
Qwen3.8-Flash-Next-GGUF — это квантизированная версия модели Qwen3.8-Flash-Next, разработанной командой Qwen и подготовленной пользователем bartowski в формате GGUF для запуска через llama.cpp. Модель предназначена для задач генерации и анализа текста, а также обработки изображений при использовании отдельного файла mmproj, что позволяет применять её в мультимодальных сценариях. Модель содержит 180 млрд параметров и поддерживает текстовый и графический ввод. Для неё доступны варианты от BF16 и Q8_0 до более компактных Q2–Q5 и IQ-квантизаций; размер файлов варьируется примерно от 88 до 354 ГБ. Квантизация выполнена с использованием imatrix, а speculative decoding не поддерживается. Рекомендуемый компромисс между качеством и требованиями к памяти — Q4_K_M размером около 119,6 ГБ; более высокие варианты сохраняют качество, но требуют значительно больше ресурсов. К сильным сторонам относятся большой масштаб модели, поддержка мультимодального ввода, широкий выбор уровней квантизации и совместимость с llama.cpp. Ограничениями являются очень высокие требования к оперативной или видеопамяти даже у компактных вариантов, возможное снижение качества при сильной квантизации и необходимость отдельного mmproj-файла для работы с изображениями. Указана лицензия qwen-community-1.0; дополнительные условия приведены в файле LICENSE.
Guile/Qwen3.8-Flash-Next-GGUF — это GGUF-квантизированная версия модели Qwen3.8-Flash-Next, разработанной командой Qwen и квантизированной bartowski с использованием llama.cpp. Модель содержит около 180 млрд параметров и предназначена для задач генерации и понимания текста, а также обработки изображений в мультимодальном режиме при наличии файла mmproj. Поддержка speculative decoding не заявлена. Доступны варианты весов от BF16 и Q8_0 до низкобитных Q2–Q5 и IQ-квантизаций. Размер файлов составляет примерно от 88 до 354 ГБ, поэтому модель рассчитана на системы с большим объёмом оперативной или видеопамяти. В README рекомендуется Q4_K_M как компромисс между качеством и размером, а Q6_K — как вариант с очень высоким качеством. Квантизации используют imatrix, что должно помогать сохранять качество при уменьшении размера, однако более низкие разрядности сопровождаются заметным снижением качества. Модель запускается через совместимые инструменты экосистемы llama.cpp и распространяется с лицензией qwen-community-1.0; указана лицензия other и ссылка на файл LICENSE. Сведения о поддерживаемых языках, размере контекстного окна и точных архитектурных особенностях в предоставленном README отсутствуют.
Vontra/Qwen3.8-Flash-Next-MLX-4bit-MTP — это 4-битная MLX-конверсия мультимодальной модели Qwen3.8-Flash-Next, разработанной командой Qwen. Конверсия выполнена из официального BF16-чекпойнта для запуска на Apple Silicon через MLX и сохраняет штатный блок MTP для speculative decoding. Модель предназначена для диалогов и генерации текста, а также для сценариев vision-language с обработкой изображений при наличии совместимого MLX-VLM и runtime. Архитектура представляет собой vision-language sparse MoE на базе Qwen4Exp с языковой частью на 125 млрд параметров, из которых активны около 6 млрд, и контекстом до 262 144 токенов. Используются Gated DeltaNet, Qwen Sparse Attention, разреженные mixture-of-experts-слои, расширенные gated residual streams, hashed bigram и trigram embeddings, а также один draft-блок MTP объёмом 4 млрд параметров. Основные языковые и MTP-модули квантизованы в 4 бита с размером группы 32; мультимодальные модули и router gates сохранены в BF16. Формат весов — MLX safetensors, общий размер — около 113,2 ГБ. К сильным сторонам относятся существенно сниженный по сравнению с BF16 объём весов, поддержка длинного контекста и потенциальное ускорение декодирования благодаря native MTP. На Apple M3 Studio в указанной конфигурации скорость генерации выросла с 27,83 до 31,44 токена в секунду, однако результаты зависят от длины контекста, версии runtime, состояния кэша, памяти и температуры. Для работы требуется runtime с явной поддержкой архитектуры qwen4_exp и native MTP; старые версии могут быть несовместимы, а поддержка изображений зависит от версий MLX-VLM и oMLX. Модель распространяется по Qwen Community License 1.0.
Vontra/Qwen3.8-Flash-Next-MLX-oQ6 — это общественная MLX-конверсия базовой модели Qwen/Qwen3.8-Flash-Next, разработанной командой Qwen. Конверсия предназначена для запуска на Apple Silicon через совместимые MLX-VLM или oMLX. Модель относится к vision-language системам и поддерживает обработку текста и изображений; в поставку также входят исходные токенизатор, шаблон диалога, обработчик изображений и конфигурация генерации. Модель использует архитектуру qwen4_exp с разреженной смесью экспертов, Gated DeltaNet, Qwen Sparse Attention, расширенными gated residual streams и хешированными bigram/trigram embeddings. Всего заявлено 125 млрд параметров языковой части, из которых активно 6 млрд, а таблицы n-грамм содержат 51 млрд параметров. Архитектура включает 48 слоёв, 512 маршрутизируемых экспертов, 10 активных экспертов и один общий, 24 attention heads и 2 KV heads; размер скрытого состояния — 2560, настроенный контекст — до 262144 токенов. Веса представлены в формате MLX safetensors и занимают около 155,78 ГБ; используется смешанная 6-битная квантизация с отдельными модулями точностью 6/8 бит. Сильными сторонами являются поддержка мультимодальных сценариев, большой контекст, разреженная архитектура и оптимизация для Apple Silicon. На Apple M3 Studio в README указана скорость генерации примерно 19,5–23,1 токена в секунду в зависимости от режима. Ограничения включают очень большой объём весов, необходимость runtime с явной поддержкой qwen4_exp и отсутствие встроенной native MTP head в данной сборке. Приведённые показатели относятся к конкретной конфигурации и могут изменяться в зависимости от длины запроса, настроек генерации, версии runtime и доступной памяти. Это неофициальный релиз Qwen, а конверсия и упаковка Vontra. Модель распространяется по Qwen Community License 1.0; текст лицензии включён в репозиторий.
Qwen3.8 Max 0902 — обновлённый снимок модели Qwen3.8 Max, разработанной командой Qwen компании Alibaba. Это мультимодальная модель с архитектурой mixture-of-experts и 2,4 трлн параметров. Она принимает текст, изображения и видео и формирует текстовые ответы.
Qwen3-Embedding-0.6B-mxfp8 — текстовая модель эмбеддингов семейства Qwen3, опубликованная mlx-community. README сообщает, что она преобразована в формат MLX из Qwen/Qwen3-Embedding-0.6B с помощью mlx-embeddings 0.0.3. Метаданные указывают 507,6 млн параметров, контекст до 32 768 токенов и лицензию Apache-2.0. Модель предназначена для получения векторных представлений текста, поиска семантически близких фрагментов и сравнения предложений. В каталоге для неё также отмечены генерация текста и сходство предложений, однако карточка описывает её именно как модель эмбеддингов. Доступные материалы не раскрывают языковую специализацию и сравнительные показатели качества.
Qwen3-Embedding-4B-W4A16-G128 — GPTQ-квантованная версия модели Qwen3-Embedding-4B, опубликованная пользователем boboliu и разработанная на базе Qwen/Qwen3-Embedding-4B. Модель предназначена для создания текстовых эмбеддингов и задач семантического сходства, классификации, кластеризации, поиска, reranking и оценки семантического соответствия. Для калибровки использовались наборы THUIR/T2Ranking и m-a-p/COIG-CQIA. Модель содержит около 4 млрд параметров и использует формат квантования W4A16 с GPTQ. По данным README, квантирование снижает использование VRAM примерно с 17 430 до 11 000 МБ без FA2. На бенчмарке C-MTEB средний результат составляет 71,75 против 72,27 у исходной Qwen3-Embedding-4B, то есть потери составляют около 0,72%. Языки, точная архитектура, размер контекста и поддерживаемые модальности в README не указаны. Основное преимущество модели — уменьшенные требования к видеопамяти при сохранении близкого к исходной версии качества, что делает её более подходящей для локального запуска и ресурсоограниченной инфраструктуры. Ограничением является небольшое снижение качества на C-MTEB, а также необходимость совместимой программной среды для работы с GPTQ-квантованием. README рекомендует установить compressed-tensors, optimum и один из пакетов auto-gptq или gptqmodel. Модель распространяется по лицензии Apache-2.0.
Карточка модели tomaarsen/Qwen3-VL-Embedding-8B на Hugging Face совпадает с карточкой Qwen/Qwen3-VL-Embedding-8B, поэтому описание составлено по ней. Qwen3-VL-Embedding-8B — мультимодальная модель эмбеддингов семейства Qwen, разработанная командой Qwen и дообученная на базе Qwen/Qwen3-VL-8B-Instruct. Она предназначена для поиска и сопоставления информации между текстом, изображениями, скриншотами и видео, а также для кластеризации мультимодального контента. Модель принимает отдельные модальности и их сочетания и кодирует их в общее векторное пространство. Модель содержит 8 млрд параметров, имеет архитектуру Qwen3-VL и контекст длиной до 32 тысяч токенов. Размерность эмбеддинга достигает 4096; поддерживаются настраиваемые размерности от 64 до 4096. Заявлена поддержка более 30 языков, а среди сценариев — мультимодальный и межъязыковой поиск, сопоставление текста с изображениями и видео и визуальный поиск по документам. Модель распространяется под лицензией Apache-2.0. Эмбеддинги подходят для первичного поиска и кластеризации; для уточнения порядка найденных результатов карточка рекомендует отдельную модель Qwen3-VL-Reranker. Для многоязычных сценариев README советует формулировать инструкции на английском, поскольку большинство инструкций при обучении были на этом языке.
Rombos-LLM-V2.5-Qwen-32b — текстовая генеративная модель, созданная Rombodawg на основе Qwen2.5-32B-Instruct. Автор описывает её как результат непрерывного дообучения и слияния инструктивной и базовой моделей методом TIES; метаданные также связывают модель с Qwen/Qwen2.5-32B-Instruct. Модель построена на плотной архитектуре Qwen2 и содержит 32 млрд параметров. Модель предназначена для диалога и генерации текста, включая сценарии с вызовом инструментов через соответствующий интерфейс. Она принимает текст, выдаёт текст и рассчитана на контекст до 32 768 токенов. Карточка заявляет более высокую производительность по сравнению с исходными instruct- и base-моделями, но не приводит бенчмарков или подробностей проверки этого заявления. Поддерживаемые языки отдельно не перечислены. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. README сообщает, что квантизованные версии и бенчмарки пока готовятся.
ai-forever/sbert_large_mt_nlu_ru — русскоязычная модель семейства BERT large от команды SberDevices для получения векторных представлений предложений. Она предназначена для задач, где нужно представить текст числовым вектором, например для поиска семантически похожих фраз и сравнения предложений. Для лучшего качества авторы рекомендуют усреднять представления токенов. Модель содержит 525,7 млн параметров, принимает текст и имеет контекст до 512 токенов. В карточке указана оценка на Russian SuperGLUE, но конкретные результаты не приведены. Модель опубликована под лицензией MIT.
KoonJamesZ/sentence-transformers-nina-thai-v3 — модель эмбеддингов предложений на базе XLM-RoBERTa, представленная в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для семантического поиска, сравнения текстов и кластеризации. Число параметров — около 305,2 млн, контекст — до 514 токенов; модель принимает текст и выдаёт векторные представления. Для обучения использовалась функция MultipleNegativesRankingLoss с косинусным сходством. Модель подходит для поиска семантически близких предложений, группировки текстов по смыслу и построения систем поиска по текстовым коллекциям. В названии указано Thai, однако доступные сведения не подтверждают отдельно поддерживаемые языки или их приоритет. Репозиторий содержит веса safetensors; лицензия в предоставленных данных не указана.
mitra-mir/setfit_model_Calgary_epochs2 — модель на базе MPNet, разработанная для преобразования предложений и абзацев в плотные векторы размерностью 768. Она подходит для семантического поиска, сравнения сходства текстов и кластеризации. Модель имеет 136,7 млн параметров, принимает текст и выдаёт векторные представления; максимальная длина контекста составляет 514 токенов. Обучение проводилось с функцией потерь CosineSimilarityLoss. Модель можно использовать в приложениях на Sentence-Transformers для поиска похожих фрагментов и группировки текстов. В карточке не приведены сведения о языковой специализации и лицензии.
Это модель на базе MPNet, опубликованная пользователем aammari в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768; число параметров — 136,7 млн, максимальная длина контекста — 514 токенов. Модель предназначена для сравнения смысловой близости текстов, семантического поиска и кластеризации. Векторные представления можно использовать для поиска похожих фраз и группировки текстов по смыслу. Модель обучалась с CosineSimilarityLoss; в README приведены сведения о тренировочном процессе, но не названы языки обучения или результаты оценки. Репозиторий содержит веса PyTorch и имеет признаки дообученной Sentence-Transformers модели на основе MPNet. Лицензия в предоставленных данных не указана.
Muennighoff/SGPT-1.3B-weightedmean-nli — модель для получения эмбеддингов предложений на базе GPT-Neo с 1,5 млрд параметров. Она обучена для оценки семантического сходства: Sentence Transformers использует взвешенное усреднение представлений токенов, а при обучении применялась функция MultipleNegativesRankingLoss с косинусным сходством и NLI-данными, на что указывает название модели. Модель подходит для поиска семантически близких текстов, ранжирования кандидатов по сходству с запросом и построения векторного поиска. Она принимает текст и выдаёт векторные представления, поддерживает контекст до 2048 токенов. В карточке приведены сведения об обучении, но нет конкретных результатов оценки; качество для отдельных языков и задач из этих данных установить нельзя. Формат репозитория — PyTorch; сведения о лицензии в предоставленных данных отсутствуют.