II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейКарточка модели baby2008/multilingual-e5-large-instruct на Hugging Face совпадает с карточкой intfloat/multilingual-e5-large-instruct, поэтому описание составлено по ней. Multilingual-E5-large-instruct — текстовая модель эмбеддингов из семейства E5, представленная авторами технического отчёта Multilingual E5 Text Embeddings. Она основана на XLM-RoBERTa-large и использует архитектуру XLM-RoBERTa с 24 слоями; размер эмбеддинга — 1024, всего 658,7 млн параметров. Модель принимает текст и выдаёт векторные представления для поиска и сравнения текстов. Репозиторий содержит веса в форматах Safetensors и ONNX. Модель предназначена для семантического поиска, сопоставления запросов с документами и оценки сходства текстов на многих языках. Для запроса необходимо добавлять одно предложение-инструкцию, описывающее задачу; документам инструкция не нужна. Модель обучалась на смеси многоязычных наборов данных и поддерживает 100 языков XLM-RoBERTa, включая русский. Длина контекста ограничена 512 токенами: более длинный текст обрезается. На низкоресурсных языках качество может быть ниже. Абсолютные значения косинусного сходства не следует трактовать как уверенность — для задач поиска важнее относительный порядок оценок. Лицензия — MIT.
Multilingual-E5-small — компактная модель текстовых эмбеддингов семейства E5, основанная на Microsoft Multilingual-MiniLM-L12-H384 и дообученная на смеси многоязычных наборов данных. Она использует архитектуру BERT из 12 слоёв, содержит 124,3 млн параметров и строит векторы размерности 384 для поиска и сравнения текстов. Модель рассчитана на 100 языков; в карточке отдельно приведены результаты для русского и других языков. Поддерживает контекст до 512 токенов. Модель подходит для семантического поиска, ранжирования passages по запросу, оценки сходства предложений, поиска перефразировок и многоязычного поиска. Для асимметричного поиска рекомендуется добавлять префиксы «query: » и «passage: », а для симметричных задач — «query: » к обоим текстам; без префиксов качество может снижаться. Доступен формат ONNX, лицензия MIT.
Mollel разработал эту модель Sentence Transformer на основе Geotrend/bert-base-sw-cased, дообучив её на наборе пар и триплетов предложений на суахили и английском языках. Модель использует BERT с усреднением токенных представлений и формирует плотные векторы размерностью 768; для сравнения текстов применяется косинусное сходство. Максимальная длина последовательности — 512 токенов. Модель предназначена для поиска семантически близких предложений и абзацев, оценки сходства текстов, поиска перефразирований, кластеризации и извлечения признаков для классификации. Обучение с MatryoshkaLoss позволяет использовать укороченные векторы размером 512, 256, 128 или 64 измерения с приведёнными в карточке результатами оценки сходства. Это текстовая модель без генерации ответов; показатели качества зависят от данных и сценария применения. Лицензия в предоставленных данных не указана.
dgroechel выпустил дообученную модель на архитектуре MPNet для получения плотных векторных представлений предложений и абзацев. Она преобразует текст в векторы размерности 768 и предназначена для семантического поиска, сравнения сходства текстов и кластеризации. Для использования подходят Sentence-Transformers и Transformers; модель содержит 136,7 млн параметров и принимает контекст длиной до 514 токенов. README указывает на обучение с MarginDistillationLoss. Доступен формат PyTorch. Сведения о лицензии в предоставленных данных отсутствуют.
Yunika/muril-base-sentence-transformer — модель на базе BERT, представленная как Sentence Transformers для получения плотных векторных представлений предложений и абзацев размерностью 768. Её обучили с TripletLoss на датасете embedding-data/QQP_triplets; модель подходит для семантического поиска, сравнения сходства текстов и кластеризации. Репозиторий содержит веса в формате safetensors, использовать модель можно через библиотеку sentence-transformers или Transformers с подходящей операцией pooling. Модель принимает текст и выдаёт эмбеддинги. Максимальная длина контекста — 512 токенов, всего в модели около 264,8 млн параметров. Лицензия в предоставленных данных не указана.
Nemotron-3-Embed-8B-BF16 — мультиязычная модель эмбеддингов текста, разработанная NVIDIA для семантического поиска, извлечения релевантных фрагментов и систем RAG. Она предназначена, в частности, для создания многоязычных вопросно-ответных приложений поверх крупных текстовых коллекций и поддерживает межъязыковой поиск. Модель основана на трансформере Ministral-3-8B-Instruct-2512, дообученном для получения эмбеддингов. Она содержит около 8 млрд параметров, кодирует текст в векторы размерности 4096 и использует двунаправленное внимание и усреднение представлений токенов. README указывает максимальную длину входа 32 768 токенов; метаданные каталога приводят для базовой модели контекст 262 144 токена. Модель принимает текст и выдаёт векторы; размер вектора можно уменьшать срезом с последующей L2-нормализацией. Заявлена поддержка 34 языков, включая русский, английский, китайский, арабский и хинди. Модель показала высокие результаты на мультиязычном бенчмарке RTEB по заявлению разработчика и предназначена для коммерческого применения. Для запуска README рекомендует Transformers 5.2.0 или новее и CUDA-совместимое окружение; также указана поддержка PyTorch и vLLM. Модель и конфигурация распространяются по лицензии OpenMDW-1.1; базовая модель выпущена под Apache 2.0. Для входов длиннее 32 768 токенов требуется разбиение на фрагменты или усечение.
NULLXES SHINRA-4B-INSTRUCT — плотная decoder-only Transformer-модель семейства SHINRA, разработанная NULLXES. Это instruction-tuned чекпойнт примерно на 3,9 млрд параметров с архитектурой ShinraForCausalLM, группированным вниманием GQA, RoPE и контекстом 32 768 токенов. Модель предназначена для диалогов и следования инструкциям, генерации кода, многоязычных ответов, подготовки структурированных JSON-выводов и черновиков вызовов инструментов. Обучение включает предварительное обучение, SFT и DPO. В данных заявлены тексты и код, математика и научные материалы, а также диалоги и примеры работы с инструментами. Карточка указывает английский, русский, немецкий, французский, испанский, китайский, японский, корейский и арабский языки; доля английского при предварительном обучении преобладала. Модель рассчитана на исследовательское применение и интеграцию в продукты NULLXES. Лицензия указана как other, конкретные условия в предоставленных данных не раскрыты. По заявлению разработчика, модель уступает крупным моделям в многошаговых рассуждениях и на редких языках; фильтры безопасности эвристические, поэтому возможны вредоносные ответы. Работа с контекстом длиннее 8192 токенов использует экстраполяцию RoPE и требует отдельной проверки качества. Пользовательская архитектура при загрузке через Hugging Face требует trust_remote_code=True.
Карточка модели armandosds/Olmo-3-7B-Think на Hugging Face совпадает с карточкой allenai/Olmo-3-7B-Think, поэтому описание составлено по ней. Olmo-3-7B-Think — авторегрессионная плотная Transformer-модель для генерации текста, разработанная Allen Institute for AI (Ai2). Это вариант семейства Olmo 3 с упором на пошаговое рассуждение; карточка указывает обучение на данных Dolma 3 и последующее дообучение на наборах Dolci. В метаданных базовой моделью названа allenai/Olmo-3-7B-Think-DPO, а связь указана как finetune. Модель предназначена для диалогов и задач, где полезны развёрнутые рассуждения, в частности математики, программирования, ответов на общие вопросы и следования инструкциям. Она содержит 6,9 млрд параметров, поддерживает контекст до 65 536 токенов и рассчитана прежде всего на английский язык. Для запуска используется библиотека Transformers; веса опубликованы в формате safetensors. Модель может давать неточные ответы и без дополнительной фильтрации способна генерировать вредный или чувствительный контент. Результаты следует проверять, а при практическом использовании учитывать возможную предвзятость. Лицензия — Apache 2.0; карточка также ссылается на рекомендации Ai2 по ответственному использованию.
Openai_gpt-oss-20b-NEO-GGUF — это набор квантованных GGUF-версий модели openai/gpt-oss-20b, подготовленный DavidAU с использованием NEO Imatrix и собственного NEO-набора данных. Модель предназначена для генерации текста, диалогов, программирования, решения задач, рассуждений, мозгового штурма и творческих сценариев. В карточке заявлена лицензия Apache-2.0. Модель имеет архитектуру Mixture of Experts с 20 млрд параметров и поддержкой до 24 экспертов, из которых можно активировать часть в зависимости от сценария. Доступны варианты IQ4_NL, Q5_1 и MXFP4_MOE с различными настройками квантования; указана поддержка контекста до 128k токенов. Основной заявленный язык — английский. Также заявлена поддержка использования инструментов и browsing, однако подробности совместимости зависят от программного обеспечения для запуска. Сильные стороны модели — универсальность, задачи программирования и заявленное улучшение производительности благодаря NEO Imatrix, особенно в некоторых низко- и среднебитных вариантах квантования. Ограничения включают зависимость качества от выбранного кванта, числа активных экспертов, семплеров и настроек запуска; автор отдельно отмечает проблемы квантования, связанные с необычными размерами тензоров исходной модели. Рекомендуется проверять конкретный файл и параметры в используемом inference-интерфейсе.
OpenThinkerAgent-32B-SFT-316 — дообученная командой OpenThoughts-Agent модель на основе Qwen/Qwen3-32B. Она обучена методом full-parameter SFT на 316 примерах траекторий агента и предназначена для диалоговой работы с задачами программной инженерии, командной строкой и техническими вопросами. Модель использует плотную архитектуру Qwen3ForCausalLM, содержит 29,7 млрд параметров и принимает текстовый ввод с контекстом до 40 960 токенов. В README приведены результаты оценки в среде terminus-2: модель показала 16,3 на SWE-Bench-Verified-100, 24,2 на OpenThoughts-TBLite и 13,1 на Terminal-Bench 2.0; оценки получены как pass@1, усреднённый по трём случайным прогонам. Модель распространяется в формате safetensors по лицензии Apache-2.0.
Phi-3-Small-128K-Instruct — компактная языковая модель Microsoft семейства Phi-3 с архитектурой Phi3SmallForCausalLM и примерно 8,2 млрд параметров по метаданным. Она предназначена для генерации текста и диалоговых сценариев, включая задачи на рассуждение, математику и программирование. Модель обучена на синтетических данных и отфильтрованных общедоступных веб-данных; для следования инструкциям и повышения безопасности прошла supervised fine-tuning и direct preference optimization. Карточка описывает вариант с контекстом 128K токенов, однако метаданные указывают native_context_tokens 8192, поэтому заявленную поддержку длинного контекста следует проверить для конкретной версии и конфигурации. Модель ориентирована прежде всего на английский язык; для других языков качество может быть ниже. Она может выдавать неточные или вымышленные сведения, воспроизводить стереотипы и генерировать оскорбительный контент; сгенерированный код и API следует проверять. Лицензия — MIT.
Qwen2.5-14B-Instruct-1M — плотная авторегрессионная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста, включая обработку очень длинных документов и контекстов. Модель содержит около 14 млрд параметров; архитектура Qwen2 использует RoPE, SwiGLU, RMSNorm и групповое внимание с 40 головами Q и 8 головами KV. Заявленная длина контекста достигает 1 010 000 токенов, а генерация — до 8192 токенов. Для эффективного инференса на длинных последовательностях разработчик рекомендует специальную ветку vLLM с разреженным вниманием и методами экстраполяции длины; для обработки миллиона токенов версии 14B требуется не менее 320 ГБ видеопамяти суммарно. На обычном стеке Qwen2.5 возможна потеря точности при длине свыше 262 144 токенов. Модель основана на Qwen/Qwen2.5-14B и дообучена; лицензия Apache-2.0. Метаданные указывают английский язык, поэтому поддержка других языков здесь не заявляется.
Qwen2.5-VL-32B-Instruct-AWQ — мультимодальная instruction-tuned модель семейства Qwen, разработанная командой Qwen. Это квантизированная AWQ-версия модели Qwen2.5-VL-32B-Instruct с 32 млрд параметров, предназначенная для обработки изображений, видео и текстовых запросов. Указанный язык — английский; точный размер контекста в README не приведён. Модель распознаёт и анализирует объекты, текст, диаграммы, графики, значки и структуру документов на изображениях, поддерживает визуальную локализацию с помощью bounding boxes и точек, а также формирование структурированных данных из счетов, форм, таблиц и сканов. Она рассчитана на визуальные вопросы и ответы, математические и логические задачи, анализ документов, понимание видео длительностью более часа с поиском релевантных моментов, а также сценарии визуального агента, включая управление компьютером и телефоном. Архитектура включает языковую модель Qwen2.5 и оптимизированный vision encoder на базе ViT с window attention, SwiGLU и RMSNorm. Для видео используются динамические разрешение и частота кадров, а также временное позиционирование mRoPE. AWQ-квантизация может снизить требования к памяти и ускорить инференс, однако по приведённым оценкам уступает полной версии по MMMU, MMBench и MathVista, сохраняя сопоставимый результат на DocVQA. Модель распространяется по лицензии Apache-2.0.
Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled — модель, разработанная Jackrong на базе Qwen/Qwen3.5-27B. Она дообучена методом SFT с применением LoRA на наборах данных с примерами рассуждений, включая материалы, заявленные как дистиллированные из взаимодействий с Claude-4.6 Opus. Модель ориентирована на задачи, требующие пошагового анализа, планирования, программирования и работы в средах coding agents, включая Claude Code и OpenCode. Модель относится к плотной архитектуре размером 27B параметров. В карточке указаны поддержка английского и китайского языков, а также совместимость с Transformers, llama.cpp и форматом GGUF. Метаданные описывают её как image-text-to-text и мультимодальную, однако в описании итоговая версия явно названа text-only, поэтому возможности обработки изображений следует считать не подтверждёнными. Заявлена поддержка роли developer в шаблоне диалога и сохранённого thinking mode с выводом рассуждений в тегах <think>. К сильным сторонам относятся структурированное рассуждение, улучшенная автономность и стабильность при работе инструментального агента, а также снижение избыточных повторов в рассуждениях на простых запросах. Согласно карточке, модель способна продолжать автономную работу более девяти минут без вмешательства пользователя, но приведённые результаты основаны на общественных тестах, а не на независимой систематической оценке. Размер 27B может предъявлять существенные требования к памяти и вычислительным ресурсам, особенно без квантования. Модель распространяется по лицензии Apache-2.0.
TeichAI/Qwen3.6-27B-Claude-Opus-Reasoning-Distill-v2 — дообученная мультимодальная модель семейства Qwen3.6 от TeichAI на базе Qwen/Qwen3.6-27B. Для обучения использовались наборы примеров с рассуждениями Claude Opus 4.5 и 4.6. Модель предназначена для диалогов, программирования, творческого письма, общего назначения и понимания изображений; метаданные также указывают интерфейс вызова инструментов. Модель имеет плотную архитектуру Qwen3_5ForConditionalGeneration и принимает текст и изображения, выдавая текст. В README приведены результаты бенчмарков ARC, BoolQ, HellaSwag, OpenBookQA, PIQA и WinoGrande в точности mxfp8, с небольшими улучшениями относительно базовой Qwen3.6-27B в части тестов. Репозиторий содержит веса safetensors и распространяется по лицензии Apache 2.0. Результаты тестов не гарантируют качество на конкретных задачах; README рекомендует следовать инструкциям по настройке исходной модели Qwen.
RedHatAI/Qwen3.6-27B-FP8 — открытая FP8-квантизованная версия Qwen3.6-27B, разработанной Alibaba Cloud и опубликованной в формате Hugging Face Transformers. Модель предназначена для генерации текста, рассуждений, агентного программирования, работы с репозиториями и вызова инструментов. Она совместима с Transformers, vLLM, SGLang и KTransformers. Модель представляет собой каузальную языковую модель с vision encoder, содержит 27 млрд параметров и 64 слоя. Архитектура сочетает Gated DeltaNet и Gated Attention, поддерживает мультимодальный сценарий с изображениями и имеет нативный контекст 262 144 токена, расширяемый до 1 010 000 токенов. В README не указаны поддерживаемые языки. Для вызова инструментов предусмотрена поддержка tool calling с парсером qwen3_coder; включение режима reasoning выполняется через параметры совместимого сервера. К сильным сторонам относятся оптимизация для реальных задач программирования, фронтенд-разработки, репозиторного анализа и агентных рабочих процессов, а также близкая к исходной модели производительность после мелкозернистой FP8-квантизации с размером блока 128. Ограничения включают зависимость качества и функциональности от совместимого inference-стека и настроек reasoning и tool calling; конкретные требования к оборудованию и полный набор языков в README не приведены. Модель распространяется по лицензии Apache 2.0.
AaryanK/Qwen3.6-27B-GGUF — это квантизированная версия Qwen3.6-27B, разработанной командой Qwen. Модель предназначена для генерации текста, агентного программирования, работы с репозиториями и фронтенд-задачами, а также для сценариев, требующих вызова инструментов и обработки мультимодальных данных. Она поставляется в формате GGUF и рассчитана на локальный запуск с совместимыми средствами, включая llama.cpp. Модель содержит 27 млрд параметров и использует гибридную архитектуру Hybrid Gated DeltaNet + Gated Attention с 64 слоями и vision encoder. Она поддерживает текстовые и визуальные входы, включая изображения и видео, заявленные языковые возможности включают английский язык. Нативная длина контекста составляет 262 144 токена; также указана возможность расширения до 1 010 000 токенов. Модель поддерживает Thinking Mode, сохранение контекста рассуждений между сообщениями и вызов инструментов. К сильным сторонам относятся длинный контекст, мультимодальность, возможности агентного кодирования и сохранение рассуждений в итеративных рабочих процессах. Ограничения связаны с требованиями к совместимости: для гибридной архитектуры нужна актуальная версия llama.cpp, а объём памяти зависит от выбранного файла квантизации и длины контекста. Модель распространяется по лицензии Apache-2.0.
fraQtl Qwen3.6-35B-A3B-Hi-Fi-GGUF — это квантизированная GGUF-версия базовой модели Qwen3.6-35B-A3B-Instruct, разработанной командой Qwen и подготовленной к квантизации fraQtl. Модель предназначена для локальной генерации текста, включая диалог, программирование, математические задачи, работу с инструментами и создание развернутых текстов. Заявлена поддержка английского и китайского языков. Модель использует архитектуру Mixture of Experts с общим размером около 35 млрд параметров, примерно 3 млрд активных параметров на токен и 256 маршрутизируемыми экспертами. Это стандартный Q4_K_M-файл для llama.cpp без необходимости в специальном runtime или измененных ядрах. Вариант Hi-Fi применяет распределение битов с учетом важности отдельных тензоров и калибровку imatrix, чтобы приблизить поведение к Q8-версии при сохранении размера обычной Q4_K_M-квантизации. К сильным сторонам относятся локальный запуск на Apple Silicon и потребительских GPU, совместимость с llama.cpp и оболочками на его основе, а также улучшенные по сравнению с некоторыми публичными Q4-квантами показатели близости распределения вывода и perplexity. Ограничения связаны с потерями точности, присущими квантизации, и значительным размером файла около 20 ГБ. На Apple M4 с 24 ГБ памяти подтвержден запуск в CPU-режиме, тогда как полная Metal-выгрузка для этой конфигурации не укладывается в доступную память; работа на системах с 32 ГБ и более обозначена как экспериментальная. Модель распространяется по лицензии Apache-2.0.
Qwen3.6-35B-A3B-NVFP4-MTP-GGUF — производная сборка модели Qwen3.6-35B-A3B, подготовленная Nilay Parikh для запуска через llama.cpp на NVIDIA DGX Spark. Это мультимодальная модель с архитектурой MoE: всего 35 млрд параметров, из которых около 3,5 млрд активны на токен. Основные веса квантизованы в NVFP4, голова MTP сохранена в BF16 для спекулятивного декодирования, а мультимодальный проектор для изображений поставляется отдельным файлом BF16 GGUF. Модель предназначена для генерации кода и текста, анализа длинных репозиториев и документов, а также рассуждений по скриншотам интерфейсов и диаграммам. В README заявлен контекст до 256 тысяч токенов с масштабированием YaRN от базовых 128 тысяч; для обработки изображений требуется подключить отдельный mmproj. Карточка ориентирована на английский язык. Лицензия — Apache-2.0. В README указана скорость около 30 токенов/с при коротком контексте и настроенной спекулятивной генерации на DGX Spark; эти показатели зависят от оборудования и конфигурации.
Qwen3.8-27B-EfficientThink-Uncensored-K3-Opus5-Grok4.6-GPT5.6Sol-SFT-SimPO-DFlash2 — плотная языковая модель с 27 млрд параметров, опубликованная пользователем nerkyor. Модель предназначена для генерации текста, рассуждений, программирования, агентских и диалоговых сценариев. В README заявлена поддержка английского и китайского языков. Обучение и доработка включают SFT и SimPO; для ускорения вывода предусмотрена совместимость с DFlash2, speculative decoding, llama.cpp, SGLang и vLLM. Доступны варианты GGUF с уровнями квантования от Q2-LynnStyle до Q8_0, включая смешанную точность GSQ-RCO и численное уточнение IQ для Q2-LynnStyle, а также True-QAT INT8 W8A8 с динамическими INT8-активациями. В приведённых измерениях результаты зависят от варианта: на GPQA показатели составляют 82,83–86,87%, на MMLU — 83,20–89,40%, на LiveCodeBench — 74–78%. Это указывает на пригодность модели для общих знаний, рассуждений и кода, но качество зависит от выбранной точности и конфигурации запуска. README не указывает размер контекстного окна, мультимодальные возможности, точные требования к оборудованию или детальные ограничения поведения. Название содержит слово «Uncensored», однако формальные характеристики безопасности не приведены. Модель распространяется по лицензии Apache-2.0.
AMAImedia выпустила эту модель в рамках платформы автоматизации многоязычного дубляжа NOESIS; исходную модель создала команда OBLITERATUS. Это дообученная версия Qwen3.8-27B с плотной архитектурой Qwen3_5ForConditionalGeneration, поддержкой чата и изображений. В репозитории указаны формат safetensors и лицензия Apache-2.0. Модель предназначена для диалогов, ответов на вопросы, генерации кода и работы с изображениями. README описывает изменение поведения отказов с помощью удаления направлений отказа из весов и сообщает о результатах внутренних тестов на MMLU и задачах генерации кода. Метаданные перечисляют поддержку многих языков, включая русский, английский, китайский, вьетнамский и японский. README рекомендует температуру 0 и repetition_penalty 1.15 для обычной генерации; при агентном использовании советует температуру 0.1–0.3 и короткие ответы на ход. По данным README, в сравнении с исходной моделью V3 показывает снижение MMLU на 2,1 процентного пункта, а при генерации возможны повторы без настройки repetition_penalty. Модель описана как намеренно менее склонная к отказам на ограниченные запросы, поэтому её ответы требуют самостоятельной проверки.
Qwen3-Reranker-8B — текстовая модель для переранжирования, разработанная командой Qwen. Она оценивает релевантность пар «запрос — документ» и помогает упорядочить найденные кандидаты так, чтобы наиболее подходящие фрагменты оказались выше. Модель предназначена для поиска по текстам и коду, включая многоязычный и межъязыковой поиск, например как этап извлечения контекста в RAG-системах. Модель основана на плотной авторегрессионной архитектуре Qwen3 и дообучена на базе Qwen/Qwen3-8B-Base. В ней около 7,6 млрд параметров; метаданные указывают контекст до 40 960 токенов, а README — 32 тыс. токенов. Заявлена поддержка более 100 языков. Модель поддерживает инструкции, настраиваемые под задачу; в README отмечено, что их применение может улучшать результаты поиска. Для получения оценки релевантности модель принимает текстовую пару и выдаёт оценку, пригодную для ранжирования. В README указано, что по умолчанию это разность логитов; при необходимости её можно преобразовать в вероятность. Для работы с моделью заявлена библиотека Transformers, также описано использование Sentence Transformers. Лицензия — Apache-2.0.
flax-sentence-embeddings/reddit_single-context_mpnet-base — англоязычная модель эмбеддингов предложений, разработанная участниками Community Week Hugging Face в проекте по обучению sentence embedding моделей. Она основана на mpnet-base и дообучена контрастивным методом на более чем 700 млн пар предложений из диалогов Reddit; для каждой реплики использовался первый контекстный ответ. Модель содержит 136,7 млн параметров, использует архитектуру MPNet и принимает текст длиной до 514 токенов по метаданным каталога. Модель кодирует входное предложение в вектор семантического содержания. Векторы подходят для поиска информации, кластеризации и вычисления сходства предложений, например для подбора релевантных фрагментов по запросу. README приводит ограничение длины последовательности в 128 токенов при обучении, поэтому качество на более длинных входах может быть ниже. В карточке указана лицензия Apache-2.0.
Это модель Sentence Transformer, разработанная на базе sentence-transformers/multi-qa-mpnet-base-dot-v1 и дообученная на 95 159 парах запросов и текстовых фрагментов с использованием MultipleNegativesRankingLoss. Она преобразует предложения и абзацы в плотные эмбеддинги размерности 768; сходство в исходной конфигурации измеряется скалярным произведением. Архитектура включает MPNet и пулинг по токену CLS, размер модели — 136,7 млн параметров, максимальная длина последовательности — 512 токенов. Модель предназначена для семантического поиска, сопоставления запросов с релевантными фрагментами, оценки текстового сходства и поиска перефразировок. Её можно также применять для кластеризации и классификации текстов на основе эмбеддингов. Карточка демонстрирует примеры запросов и медицинских фрагментов, но не заявляет специализацию на конкретной предметной области. В метаданных лицензия не указана, поэтому условия использования по имеющимся сведениям определить нельзя.
S3BERT от brjezierski — модель на базе BERT для преобразования предложений и абзацев в плотные эмбеддинги размерностью 384. Её можно использовать для семантического поиска и кластеризации текстов, а также для сравнения смысловой близости предложений. Модель относится к семейству Sentence Transformers, содержит около 40 млн параметров и принимает последовательности длиной до 512 токенов. В README описано обучение с функциями потерь MultipleConsistencyLoss и DistilLoss. Репозиторий содержит веса PyTorch. Лицензия в доступных данных не указана.
CatkinChen дообучил SentenceTransformer на базе sentence-transformers/all-MiniLM-L6-v2 для получения векторных представлений предложений и абзацев. Энкодер на архитектуре BERT содержит 25,9 млн параметров, формирует плотные векторы размерности 384 и сравнивает их с помощью косинусного сходства. README указывает максимальную длину последовательности 256 токенов, а метаданные — контекст до 512 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и извлечения признаков для классификации. В README приведён результат cosine accuracy 0,8857 на тестовой оценке TripletEvaluator; обучение описано на выборке из 309 примеров с TripletLoss. Данных о лицензии в предоставленных источниках нет.
uukuguy выпустил объединённую языковую модель на базе Mistral-7B для генерации текста, диалога и задач с кодом. В неё объединены ehartford/dolphin-2.1-mistral-7b, Open-Orca/Mistral-7B-OpenOrca, bhenrym14/mistral-7b-platypus-fp16 и ehartford/samantha-1.2-mistral-7b. Архитектура — плотный трансформер MistralForCausalLM с 7,1 млрд параметров; контекст — до 32 768 токенов. Модель принимает текст и генерирует текст, а карточка отмечает поддержку кода и приводит результаты HumanEval и тестов Open LLM Leaderboard. Модель подходит для диалоговых ответов, генерации кода и общих текстовых задач. В репозитории представлены варианты AWQ, GPTQ и GGUF с разной разрядностью для GPU и CPU+GPU-инференса; метаданные этого репозитория указывают Transformers и safetensors. Лицензия — Llama 2. Карточка не описывает отдельные гарантии качества или механизмы модерации для объединённой модели.
patent/st-aipd-nlp-g — модель на базе BERT, разработанная для построения векторных представлений предложений и абзацев. Она преобразует текст в плотные векторы размерности 384 и подходит для семантического поиска, сравнения сходства и кластеризации текстов. Модель содержит 25,9 млн параметров, принимает текст с контекстом до 512 токенов и распространяется в формате safetensors. Для работы можно использовать Sentence-Transformers или Transformers с подходящей операцией pooling. README указывает на обучение с CosineSimilarityLoss; сведения о датасетах и поддерживаемых языках не приведены. Лицензия в доступных данных не указана.
Tess-2.0-Llama-3-8B — универсальная языковая модель с диалоговой настройкой, разработанная в серии Tess; вычислительные ресурсы для обучения предоставила KindoAI. Модель дообучена на базе meta-llama/Meta-Llama-3-8B и содержит около 7,5 млрд параметров. Она использует архитектуру LlamaForCausalLM, формат весов safetensors и шаблон диалога Llama 3 с контекстом до 8192 токенов. Модель предназначена для общения с пользователем, выполнения инструкций, генерации текста и помощи с задачами по программированию и общего назначения. Для настройки использовали около 100 тысяч примеров кода и общих задач из набора Tess-2.0; обучение длилось одну эпоху с низкой скоростью обучения, чтобы сохранить разнообразие ответов. Модель описана как малоограниченная и часто следующая инструкциям. Лицензия — Llama 3. Модель может выдавать неточные или вводящие в заблуждение ответы, а также предвзятый, оскорбительный или другой неподходящий контент; важные сведения следует проверять.
udever-bloom-1b1 — модель для получения текстовых эмбеддингов, разработанная Alibaba Group и дообученная из bigscience/bloom-1b1 методом BitFit на MS MARCO Passage Ranking, SNLI и MultiNLI. Это плотная decoder-only Transformer-модель семейства BLOOM с 1,3 млрд параметров и контекстом до 2048 токенов. Модель предназначена для создания универсальных представлений текста на естественных и программных языках. Её можно применять для семантического поиска, извлечения релевантных документов, ранжирования пассажей и задач сопоставления текстов. В README также приведены результаты оценок на MTEB и CodeSearchNet. Модель принимает текст и выдаёт векторные представления. Карточка заявляет многоязычную поддержку на основе обучающих данных BLOOM; метаданные перечисляют языки и указывают возможность работы с кодом. Доступна в формате PyTorch. Указанная лицензия — BigScience BLOOM RAIL 1.0.