I.3Извлечение и структурирование данных
В разделе собраны самостоятельные задачи, где AI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
25 791 модельdiegolacomba выпустил sentence-transformers-модель для получения эмбеддингов предложений и абзацев. Она основана на BERT и преобразует текст в плотные векторы размерностью 384; представление строится усреднением токенных эмбеддингов. Для сравнения текстов предусмотрена косинусная близость. Модель подходит для семантического поиска, оценки сходства предложений, поиска перефразирований, кластеризации и классификации текста. Максимальная длина входа — 512 токенов. В названии указано назначение для юридических текстов, однако README не уточняет языки обучения или конкретные юридические задачи. Метаданные указывают формат safetensors; лицензия не приведена.
Muse-Glimmer-30B-GGUF — квантизированная версия мультимодальной модели Muse-Glimmer-30B, разработанной meta-models и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации и анализа текста, а также обработки изображений при использовании дополнительного файла mmproj, поэтому подходит для текстовых и текстово-визуальных сценариев. Поддерживается MTP, однако подробности архитектуры, языков и размера контекстного окна в карточке не указаны. Модель содержит около 30 млрд параметров и доступна в вариантах от BF16 до низкобитных квантований Q2 и IQ3. Квантизации выполнены с использованием llama.cpp и imatrix; варианты отличаются размером файла, качеством и требованиями к оперативной памяти. В качестве сбалансированного варианта рекомендуется Q4_K_M размером около 17,31 ГБ, а Q5 и Q6 позиционируются как более качественные, но более ресурсоёмкие. Низкобитные варианты позволяют работать при ограниченных ресурсах, но могут заметно терять в качестве. Для использования необходим совместимый рантайм llama.cpp или другое ПО с поддержкой GGUF; для обработки изображений требуется mmproj-файл. Модель распространяется по лицензии Apache-2.0.
MyAwesomeModel — модель на архитектуре BERT для извлечения признаков из текста, доступная через библиотеку Transformers. В метаданных Hugging Face для неё указан pipeline feature-extraction, поэтому основное назначение модели — преобразование текстовых входов в векторные представления для последующего анализа и использования в прикладных NLP-системах. Автор или организация-разработчик в предоставленных данных не указаны. README также заявляет о расширенных возможностях рассуждения, генерации кода и текста, ответах на вопросы, суммаризации, диалогах, вызове функций и снижении галлюцинаций, однако эти характеристики не согласуются с указанным pipeline feature-extraction и не подтверждены сведениями об архитектуре генеративной модели. Размер модели, длина контекста, поддерживаемые языки и точные сценарии обучения не приведены. Модель распространяется по лицензии MIT.
NeuralOmniBeagleMBX-v3-7B — слитая модель генерации текста, собранная автором paulml с помощью LazyMergekit из mlabonne/NeuralOmniBeagle-7B и flemmingmiguel/MBX-7B-v3. Для объединения использован метод SLERP с настройками смешивания для слоёв self-attention и MLP; модель основана на архитектуре Mistral и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и может использоваться в сценариях, где требуется языковая модель с контекстом до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель выпущена под лицензией CC BY-NC 4.0, которая ограничивает коммерческое использование.
Это преобразованная в формат OpenVINO модель papluca/xlm-roberta-base-language-detection для ускоренного инференса. Она использует архитектуру XLM-RoBERTa и классифицирует текст по языку; подходит для определения языка входных фрагментов в приложениях обработки текста. В модели 305,2 млн параметров, максимальная длина контекста — 514 токенов. Модель предназначена для классификации текста и не генерирует ответы. Карточка указывает на конверсию исходных весов для OpenVINO; сведений о лицензии и перечне распознаваемых языков в предоставленных данных нет.
PE-Core-B-16 — модель семейства Perception Encoder, разработанного Meta для понимания изображений и видео. Этот репозиторий содержит версию исходных весов, преобразованную для OpenCLIP; модель использует совместно обученные визуальный и текстовый энкодеры для сопоставления изображений и текста. Модель предназначена для классификации изображений по текстовым меткам без дополнительного обучения, а также для извлечения признаков и поиска по изображениям и текстовым запросам. Визуальный ViT-B/16 содержит около 90 млн параметров, обрабатывает изображения с разрешением 224 пикселя и использует attention pooling; текстовая башня имеет 310 млн параметров и контекст 32 токена. Общий размер проекции CLIP — 1024. В карточке отмечены результаты на задачах классификации и поиска изображений и видео. Модель доступна в форматах PyTorch и safetensors через библиотеку OpenCLIP. Лицензия — Apache-2.0. Она предназначена для извлечения визуально-текстовых признаков и оценки соответствия изображения текстовым описаниям; текстовый контекст ограничен 32 токенами, а входное разрешение — 224 пикселями.
CYFRAGOVPL/PLLuM-8x7B-chat-2412 — чат-модель семейства PLLuM, разработанная для польского языка и других славянских и балтийских языков с дополнительными англоязычными данными. Это языковая модель Mixtral с архитектурой Mixture of Experts (MoE), доступная в формате safetensors и рассчитанная на контекст до 32 768 токенов; в метаданных указано 7,1 млрд параметров. Модель дообучена для диалогов и выравнивалась на предпочтениях людей. Модель предназначена для генерации текста, ответов на вопросы, суммаризации и создания специализированных помощников. В README отмечены результаты на задачах, связанных с польским государственным управлением, и применение в юридических и бюрократических сценариях, в том числе с поиском по документам. Лицензия — Apache-2.0. Модель может генерировать фактически неверные или вымышленные сведения; предвзятость также может проявляться в спорных и субъективных темах. Работа с длинным контекстом зависит от доступной памяти.
Карточка модели matterinys/privacy-filter на Hugging Face совпадает с карточкой openai/privacy-filter, поэтому описание составлено по ней. OpenAI Privacy Filter — модель OpenAI для обнаружения и маскирования персональных данных в тексте. Она предназначена для высокопроизводительной очистки данных, в том числе в локальных и браузерных сценариях, и может дообучаться под особенности данных организации. Лицензия Apache 2.0 допускает коммерческое использование. Модель выполняет двунаправленную классификацию токенов и выделяет связные фрагменты в одном проходе. Архитектура — разреженный MoE-трансформер с 8 блоками, шириной скрытого представления 640 и 128 экспертами, из которых на токен выбираются 4. Модель возвращает BIOES-разметку для восьми категорий: номера счетов, частные адреса, электронные адреса, имена людей, телефоны, URL, даты и секреты. В метаданных указано 145,4 млн параметров и контекст 131 072 токена; README заявляет окно до 128 000 токенов. Доступны форматы Safetensors и ONNX. Модель подходит для предварительной фильтрации текстов перед хранением, передачей или дальнейшей обработкой. Пороговые режимы позволяют настраивать компромисс между точностью и полнотой обнаружения. Это вспомогательное средство минимизации данных, а не гарантия анонимизации или соответствия требованиям. Набор меток фиксирован, для изменения политики нужно дообучение; качество может снижаться на неанглийских текстах, нелатинских письменностях и данных вне обучающего распределения. В чувствительных областях возможны как пропуски, так и избыточное маскирование.
Qwen3-235B-A22B-Instruct-2507-MLX-6bit — это 6-битная квантованная версия текстовой instruct-модели Qwen3-235B-A22B-Instruct-2507, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием MLX и предназначено для оптимизированного запуска на компьютерах с Apple Silicon. Модель распространяется как community-модель LM Studio и основана на оригинальной модели Qwen/Qwen3-235B-A22B-Instruct-2507. Модель предназначена для генерации текста и выполнения инструкций, однако README не содержит подробностей о поддерживаемых языках, размере контекста, архитектуре, модальностях и конкретных сценариях применения. Квантование снижает требования к памяти по сравнению с полноразмерной версией, но может влиять на точность и качество ответов; кроме того, вариант ориентирован прежде всего на экосистему Apple Silicon. Модель предоставляется по лицензии Apache-2.0. Как и другие генеративные модели, она может создавать неточные, вредные или вводящие в заблуждение материалы, поэтому результаты требуют проверки.
Qwen3-4B-Instruct-2507-Hi-Fi-fraQtl — это квантизированная GGUF-версия Qwen/Qwen3-4B-Instruct-2507, подготовленная fraQtl и опубликованная в сообществе Qualcomm AI Hub. Модель предназначена для генерации текста и работы в сценариях локального запуска на CPU и GPU через llama.cpp; GGUF также совместим с GenieX без изменений. Поддержка выполнения на NPU/Hexagon в README не подтверждена. Модель содержит около 4 млрд параметров и поддерживает контекст до 262 144 токенов. Доступны варианты Hi-Fi Q4_K_M-класса размером 2,50 ГБ и Q4_0 размером 2,38 ГБ. Квантизация выполнена с учётом калибровки методом fraQtl code+math imatrix; заявлены более низкое расхождение с исходными весами по сравнению с рядом других сборок Q4_K_M и успешное извлечение контрольных данных на полном контексте. Архитектура, перечень языков и поддерживаемые модальности в README отдельно не указаны. Сильными сторонами являются компактный размер, возможность локального запуска, сохранение качества после квантизации и проверенная работа с длинным контекстом. Ограничения включают отсутствие подтверждённого ускорения на Hexagon NPU, а также отсутствие подробных данных о языковых возможностях и качестве на прикладных задачах. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.
Qwen3.5-9B-abliterated-GGUF — это GGUF-квантизированная версия модели Qwen3.5-9B, подготовленная tutuchen2000 на основе abliterated-варианта lukey03/Qwen3.5-9B. Модель предназначена для локального запуска через Ollama, llama.cpp и другие совместимые движки вывода. Она поддерживает текстовые сценарии, а специальная vision-версия — обработку изображений вместе с текстом. Доступны текстовые сборки Q4_K_M размером около 5,2 ГБ и F16 размером около 17 ГБ, а также vision-сборка Q4_K_M размером около 6,1 ГБ. Vision-вариант сохраняет встроенный мультимодальный vision-энкодер исходной Qwen3.5-9B; архитектура Qwen3.5 использует нативную мультимодальность с ранним объединением данных. Заявлены поддерживаемые языки: английский, китайский, японский, корейский, французский, немецкий и испанский. Модель имеет около 9 млрд параметров, но размер контекста в README не указан. Главная особенность — удаление отказов от ответа методом abliteration: применены три прохода ортогональной проекции и последующее QLoRA-дообучение для устойчивых категорий отказов. В тесте README модель ответила на 18 из 18 проверочных запросов, тогда как базовая модель не ответила ни на один. Это может быть полезно для исследовательских, образовательных и локальных сценариев, требующих минимального количества встроенных ограничений, однако отсутствие отказов повышает риск небезопасных или неправомерных ответов и требует самостоятельного контроля со стороны пользователя. Модель распространяется по лицензии Apache-2.0. Для vision-функций требуется Ollama версии 0.17.1 или новее; текстовая сборка vision не поддерживает.
Qwen3.5-9B-Uncensored-Genesis-NVFP4-GGUF — квантизированная NVFP4-версия модели Qwen3.5-9B-Uncensored-Genesis, подготовленная автором репозитория на основе весов LuffyTheFox/Qwen3.5-9B-Uncensored-Genesis-BF16-GGUF с помощью модифицированного квантайзера для GGUF. Это плотная мультимодальная модель семейства Qwen3.5 на 9,22 млрд параметров и 32 слоя; для обработки изображений требуется отдельно использовать неизменённый файл мультимодальной проекции из исходного репозитория. В карточке указан контекст 262 144 токена. Модель предназначена для диалогов, рассуждений, работы с инструментами и задач «изображение–текст», а вариант imatrix v6 калибровался на разговорах, включая примеры вызова инструментов. В репозитории также есть варианты без калибровки и с текстовой калибровкой v5; автор рекомендует v6 для чата, рассуждений и вызова инструментов, а v5 — для обычного продолжения текста. Модель поддерживает английский и китайский языки. Лицензия — Apache-2.0. Карточка не приводит измерений perplexity или KLD для квантованных вариантов, поэтому качество относительно исходных BF16-весов не подтверждено такими метриками; для обработки изображений нужен отдельный файл проекции, а скорость NVFP4 зависит от видеокарты и сборки llama.cpp.
Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая fine-tune-модель на базе Qwen3.6-27B, разработанная в коллаборации автора модели, Nightmedia, TeichAI, armand0e и trohrbaugh при использовании Unsloth. Модель ориентирована на универсальные сценарии: следование инструкциям, решение задач, рассуждения, программирование, творческое письмо, ролевые сценарии и работу с визуальными данными. Заявлена поддержка английского и китайского языков, а также vision-возможностей; другие параметры контекста в README не указаны. Модель создана как многоэтапная fine-tune-модель с несколькими дообучениями и merge-операциями. В обучении использовались наборы DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets, а также собственные и сторонние датасеты и обучающие трассы. Доступны обычные и MTP GGUF-квантизации, включая NEO IMATRIX; для части выходного тензора заявлена точность 16 бит, а MTP-тензоры имеют Q8_0. По утверждению авторов, модель улучшает следование инструкциям, общий интеллект, решение задач и рассуждения, однако приведённые в README результаты не подтверждены независимыми измерениями и не должны рассматриваться как гарантированные. Для MTP-вариантов рекомендуется температура не выше 1 и отключённая репетиционная штрафная функция; при низком уровне принятия токенов следует использовать обычные кванты. Модель описана как uncensored и heretic, поэтому её поведение и фильтрация контента могут отличаться от базовой модели. Лицензия — Apache-2.0.
LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-Hermes-V13-GGUF — мультимодальная модель в формате GGUF, созданная LuffyTheFox на основе HauhauCS/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive. В ней также использованы данные и элементы дообучения DJLougen/hermes-qwen3.5-35b-a3b-GGUF на наборе NousResearch/hermes-function-calling-v1. Модель относится к семейству Qwen и предназначена для локального запуска, диалогов, генерации текста, агентских сценариев и function calling; в метаданных заявлена поддержка обработки изображений и текста. Архитектура — MoE с заявленным общим размером 35B параметров и примерно 3B активных параметров, однако точные сведения о числе слоёв, размере контекста и используемых визуальных компонентах в README не приведены. Заявлены английский, китайский и другие языки. Автор описывает Genesis как постобработку GGUF-файла, включающую статистический анализ и коррекцию тензоров без переобучения, с целью повысить стабильность, ясность контекста и следование инструкциям. К сильным сторонам относятся uncensored-поведение, MoE-эффективность, мультимодальность и ориентация на Hermes-агентские задачи. Ограничения — отсутствие в README независимых бенчмарков, подробной оценки качества, точного контекстного окна и гарантии заявленных улучшений; результаты могут зависеть от квантования и настроек запуска. Для работы рекомендуются F16-кэш K/V, максимальная выгрузка на GPU и использование подходящего chat template. Лицензия — Apache-2.0.
Qwen3.6-35B-A3B-Uncensored-Genesis-Hermes-V7-GGUF — мультимодальная модель в формате GGUF, созданная LuffyTheFox на основе HauhauCS/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive. В модель также перенесены данные дообучения DJLougen/hermes-qwen3.5-35b-a3b-GGUF на датасете NousResearch/hermes-function-calling-v1, ориентированном на Hermes-агентов и вызов функций. Модель относится к семейству Qwen3.6, использует архитектуру Mixture-of-Experts с заявленным общим размером 35B и примерно 3B активных параметров, а также поддерживает обработку текста и изображений. В карточке указаны английский, китайский и многоязычный режимы работы, однако точный размер контекстного окна не приведён. Модель предназначена для диалогов, генерации текста и кода, агентных сценариев, вызова функций, ролевых и творческих задач, а также задач image-text-to-text. Основной заявленный акцент — отсутствие встроенных отказов и улучшение стабильности, ясности контекста и следования инструкциям с помощью метода Genesis, который, по описанию автора, выполняет численную коррекцию тензоров GGUF без переобучения. Эти заявления не подтверждены независимыми результатами оценки, поэтому качество, устойчивость и фактическая степень «uncensored» зависят от сценария использования. Для запуска требуются совместимые GGUF-инструменты и настройка распределения MoE-весов между GPU и CPU; автор приводит рекомендации для RTX 3060 с 12 ГБ видеопамяти, включая использование F16 для K/V cache и ограничение числа активных экспертов. Модель распространяется по лицензии Apache-2.0.
Callick99/Qwen3.8-27B-Uncensored-GGUF — это набор GGUF-квантизаций модели Qwen3.8-27B, разработанной на базе Qwen/Qwen3.8-27B и опубликованной пользователем Callick99. Модель предназначена для генерации текста и локального запуска через совместимые среды, включая llama.cpp. Доступны варианты с интегрированной MTP-головой для speculative decoding, отдельными target- и draft-файлами, а также vision-проектором для обработки изображений в совместимых runtime. Модель использует архитектуру Qwen3_5ForConditionalGeneration с 64 слоями, словарём из 248 320 токенов, одной MTP-головой и контекстом до 262 144 токенов. Заявлена поддержка английского и китайского языков; наличие vision-компонента позволяет работать с изображениями при использовании соответствующего проектора и runtime. Доступны квантизации IQ2_M, IQ4_XS, Q4_K_M, Q5_K_M, Q6_K и Q8_0, занимающие примерно от 10,6 до 29 ГБ. Основная особенность сборки — существенное снижение поведения, связанного с отказами, без дополнительного обучения и изменения обучающих данных; отказы не устранены полностью. MTP и speculative decoding могут повысить скорость генерации, однако для draft-головы возможна немного меньшая частота принятия токенов. Низкобитные квантизации экономят память, но могут снижать качество, особенно IQ2_M. Модель и её возможности в остальном наследуют ограничения базовой Qwen3.8-27B. Распространяется по лицензии Apache-2.0.
Qwen3-VL-8B-Instruct-MLX-5bit — это 5-битная квантизированная версия мультимодальной модели Qwen3-VL-8B-Instruct, разработанной командой Qwen. Квантизация выполнена командой LM Studio с использованием mlx_vlm, а формат MLX оптимизирован для работы на устройствах Apple Silicon. Модель предназначена для задач преобразования изображений и текста в текст, включая сценарии, где требуется анализ визуальной информации и формирование текстовых ответов. Модель основана на Qwen3-VL-8B-Instruct и относится к классу image-text-to-text. Известен размер исходной модели — 8B параметров; поддерживаемые языки, максимальная длина контекста и дополнительные архитектурные характеристики в представленном описании не указаны. Квантизация снижает требования к ресурсам и ориентирована на локальный запуск на Apple Silicon, однако может сопровождаться некоторой потерей точности по сравнению с исходной моделью. Модель распространяется по лицензии Apache-2.0. Она создана сторонними разработчиками и может генерировать неточные, вредные или неподходящие ответы, поэтому результаты следует проверять перед использованием.
LifetimeMistake/Qwen3-VL-Embedding-2B-NVFP4 — квантованный вариант мультимодальной embedding-модели Qwen/Qwen3-VL-Embedding-2B из семейства Qwen. Модель предназначена для семантического поиска и retrieval-сценариев, включая обработку текста, изображений, скриншотов, видео и смешанных текстово-визуальных запросов. Заявлена поддержка более 30 языков, контекст до 32 000 токенов и размерность эмбеддингов до 2048 с возможностью использовать меньшие размерности. Для многоязычных задач рекомендуются инструкции на английском языке. Вариант использует квантование NVIDIA Model Optimizer NVFP4 с размером группы 16; квантизация применяется к квантируемым весам языковой части, а визуальная часть и lm_head оставлены без квантизации. Модель подготовлена для развёртывания через vLLM с backend modelopt_fp4. По локальному сравнению с FP16-версией она показала примерно на 13% меньшее время выполнения, меньшую среднюю задержку и более высокую пропускную способность, при этом качество поиска немного снизилось, особенно на мультимодальных тестах ViDoRe. Поэтому перед эксплуатацией необходима проверка на собственных данных. Модель распространяется по лицензии Apache-2.0. Для использования требуется vLLM с поддержкой modelopt_fp4 и параметром trust-remote-code; при необходимости шаблон чата можно указать вручную.
Qwen-7B-QAnything — двуязычная instruction-tuned модель на базе Qwen-7B, подготовленная для QAnything. Карточка описывает запуск через FastChat с бэкендами Transformers и vLLM; метаданные указывают архитектуру QWenLMHeadModel и контекст до 8192 токенов. Модель предназначена для диалоговых сценариев QAnything и может использоваться в системах, которым нужны генерация ответов и извлечение признаков для RAG. В README заявлена поддержка двух языков, но их названия не приведены. Репозиторий содержит веса PyTorch. В метаданных указана лицензия Apache-2.0, тогда как README ссылается на Tongyi Qianwen Research License Agreement; условия следует сверить перед использованием.
Tirth2109 разработал qwen-indic-v1 — дообученную с помощью LoRA модель Qwen3-Embedding-8B для создания текстовых эмбеддингов на индийских языках. Модель использует pooling по последнему токену и L2-нормализацию векторов; размер — 7,6 млрд параметров, контекст — до 40 960 токенов. Модель предназначена для получения эмбеддингов, семантического поиска и сравнения сходства предложений. README сообщает о 22 индийских языках в расписании обучения, а метаданные карточки перечисляют хинди, бенгальский, тамильский и урду. Обучение проводилось на обучающих частях данных с очисткой от пересечений с тестовыми наборами MTEB. Модель распространяется в формате safetensors по лицензии Apache-2.0. Известные ограничения: подробности качества по отдельным языкам и результаты оценивания в карточке не приведены.
reason-embed-basic-qwen3-8b-0928 — текстовая модель эмбеддингов из семейства ReasonEmbed, разработанная авторами проекта ReasonEmbed. Она дообучена на базе Qwen/Qwen3-8B с использованием базового loss InfoNCE на синтетическом наборе данных. Модель предназначена для извлечения текстовых эмбеддингов и поиска документов по запросам, требующим рассуждений. В README сообщается результат nDCG@10 37,1 на бенчмарке BRIGHT с исходными запросами. Архитектура — плотная Qwen3, размер — 7,6 млрд параметров, максимальный контекст — 40 960 токенов; репозиторий содержит веса safetensors. Модель принимает текст и выдаёт векторные представления для поиска и сравнения сходства предложений. Лицензия — Apache-2.0. README не указывает поддерживаемые естественные языки; качество на других задачах и языках отдельно не описано.
imvladikon/sentence_transformers_alephbertgimmel_small — модель на базе BERT, опубликованная как Sentence-Transformers для получения плотных векторных представлений предложений и абзацев. Она содержит 82,3 млн параметров, формирует эмбеддинги размерности 512 и рассчитана на входные последовательности длиной до 512 токенов. Модель предназначена для семантического поиска, сравнения сходства текстов и кластеризации. Она обучалась с MultipleNegativesRankingLoss на датасетах stsb_he и wikianswers_hebrew, поэтому ориентирована на тексты на иврите. Доступен формат PyTorch; лицензия не указана в предоставленных данных.
kornwtp разработал модель эмбеддингов на основе многоязычного BERT (mBERT), обученную методом SimCSE на тайской Википедии. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска семантически близких текстов и кластеризации. Модель подходит для семантического поиска и сравнения предложений на тайском языке; её контекст ограничен 512 токенами, размер составляет 205,1 млн параметров, формат весов — PyTorch. Лицензия Apache-2.0.
shannonnonshan/streamland-embeddings-v1 — дообученный энкодер предложений на базе sentence-transformers/all-MiniLM-L6-v2, созданный для представления предложений и абзацев в виде плотных семантических векторов. Модель использует архитектуру BERT и библиотеку Sentence Transformers; число параметров — 25,9 млн. Она предназначена для семантического сравнения и поиска, поиска перефразирований, классификации и кластеризации текстов. Модель формирует векторы размерности 384 и сравнивает их с помощью косинусного сходства. В README указана максимальная длина последовательности 256 токенов, а метаданные приводят контекст до 512 токенов. Дообучение описано на наборе из 8 примеров, поэтому качество может быть нестабильным и особенно зависит от соответствия данных целевому применению. Лицензия в предоставленных данных не указана.
cl-nagoya/sup-simcse-ja-base — японская модель эмбеддингов предложений, разработанная с помощью supervised SimCSE на основе cl-tohoku/bert-base-japanese-v3 и дообученная на наборе JSNLI. Она использует архитектуру BERT с 138,4 млн параметров; для получения векторов применяет pooling по токену CLS. Модель предназначена для представления японских предложений в виде векторов и вычисления сходства между ними, например при поиске семантически близких фраз или группировке текстов. Модель доступна через Sentence-Transformers или Transformers и принимает последовательности длиной до 512 токенов по контекстному ограничению; при обучении использовалась максимальная длина 64. Выход — векторные представления текста. Лицензия CC BY-SA 4.0 требует атрибуции и распространения производных материалов на тех же условиях.
SymSTS-MiniLM-L6 — англоязычная модель Blueprint AI для оценки семантического сходства двух предложений. Это дообученная версия sentence-transformers/all-MiniLM-L6-v2 на основе энкодера BERT; в метаданных указано 25,9 млн параметров и контекст до 512 токенов. Модель создаёт векторные представления предложений и предназначена прежде всего для сравнения их смысла, а не для универсального поиска по документам или классификации. При обучении пары предложений меняли местами, сохраняя оценку сходства; использованы обучающие части STS-бенчмарков, включая STS Benchmark и STS12. Модель рассчитана на быстрый запуск на CPU и потребительских GPU. Лицензия — Apache-2.0. Качество может снижаться на текстах, существенно отличающихся от англоязычных STS-данных, например в специализированных доменах. Симметричность сходства не всегда подходит для задач направленного поиска; в высокорисковых сценариях модель не следует использовать как единственное основание для решения.
SynthIA-7B-v1.3-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на архитектуре Mistral, созданная объединением моделей mistralai/Mistral-7B-Instruct-v0.2 и migtissera/SynthIA-7B-v1.3 методом SLERP. Она предназначена для генерации текста и ответов на инструкции в чат-сценариях. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате Safetensors. В метаданных указана лицензия Apache-2.0. README описывает состав слияния, но не сообщает, какие языки и специализированные области модель поддерживает; качество и ограничения применения отдельно не охарактеризованы.
THUDM_GLM-4-9B-0414-GGUF — это квантизированная версия языковой модели GLM-4-9B-0414, разработанной командой THUDM. Конвертацию и квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. Модель содержит около 9 млрд параметров, поддерживает китайский и английский языки и распространяется в формате GGUF. Доступны варианты от bf16 до низкобитных Q2–Q8-квантизаций с размером файлов примерно от 4,2 до 18,8 ГБ. Более качественные варианты Q5–Q8 обеспечивают близкое к исходной модели качество, тогда как Q3 и Q2 экономят память, но снижают качество. В README размер контекстного окна, архитектура и поддерживаемые модальности не указаны; по приведённому формату и назначению это текстовая авторегрессионная модель. Сильной стороной являются разнообразие вариантов квантизации и возможность запуска на локальном оборудовании с ограниченными ресурсами. Ограничения включают компромисс между размером, потреблением памяти и качеством, а также отсутствие данных о результатах оценки и контекстном окне. Для работы требуется совместимый llama.cpp-стек и соответствующий формат prompt: [gMASK]<sop><|system|>, <|user|>, <|assistant|>. Модель распространяется по лицензии MIT.
Upstage-Llama-2-70B-instruct-v2-GGUF — это квантизированная версия большой языковой модели Llama 2 70B Instruct v2, разработанной Upstage и преобразованной в формат GGUF компанией TheBloke. Модель предназначена для генерации текста и выполнения инструкций в диалоговом формате, включая локальный запуск через llama.cpp и совместимые графические интерфейсы и библиотеки. Модель основана на архитектуре Llama и содержит около 70 миллиардов параметров. Указан английский язык; поддержка других языков, размер контекстного окна и мультимодальные возможности в README не описаны. Доступны варианты GGUF с 2-, 3-, 4-, 5-, 6- и 8-битным квантованием для инференса на CPU и GPU. Формат GGUF поддерживает метаданные и специальные токены, а модель совместима с llama.cpp и рядом сторонних инструментов. Сильными сторонами являются выполнение инструкций, широкий выбор уровней квантования и возможность локального использования с GPU-ускорением. К ограничениям относятся высокие требования к ресурсам для 70-миллиардной модели, возможная потеря качества при агрессивном квантовании и отсутствие в README подробных данных о качестве, тестах и контекстном окне. Лицензия указана как llama2; условия её применения следует проверять по лицензии исходной модели.
nguyenthanhhoa03 выпустил дообученную Sentence Transformer-модель на базе VoVanPhuc/sup-SimCSE-VietNamese-phobert-base. Она преобразует вьетнамские предложения и абзацы в плотные векторы размерности 768 для семантического поиска и извлечения релевантных текстов. Архитектура использует RoBERTa с усреднением токенных представлений; сходство векторов можно оценивать косинусной мерой. Модель работает с текстом, максимальная длина последовательности — 258 токенов по метаданным. Модель подходит для поиска по смыслу и сравнения предложений на вьетнамском языке. В README указан лимит 256 токенов, тогда как метаданные указывают 258; учитывайте лимит, заданный используемой конфигурацией. Лицензия в предоставленных данных не приведена.