II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейsaricles/Qwen3-Coder-Next-NVFP4-GB10 — это 4-битная NVFP4-квантизация модели Qwen3-Coder-Next, подготовленная для NVIDIA DGX Spark с GB10. Базовая модель разработана Qwen; это языковая MoE-модель на 79,7 млрд параметров с 512 экспертами, из которых для каждого токена активны 10, и гибридной архитектурой DeltaNet и attention. Квантизацию после обучения выполнили с помощью LLM Compressor; часть слоёв оставлена в BF16, а большая часть весов, включая in_proj_qkvz, переведена в FP4. Модель предназначена для генерации кода и диалогового использования в сценариях разработки. Карточка приводит результаты тестирования на одном DGX Spark с vLLM и сообщает о совместимости с другими видеокартами Blackwell, поддерживающими NVFP4. В описанном тестовом окружении вес модели занимал 42,7 ГиБ; гибридная архитектура обеспечивает заявленную автором стабильную скорость декодирования при увеличении контекста. В метаданных указан английский язык; размер нативного контекста не приведён. Репозиторий распространяется по лицензии Apache 2.0.
Qwen3-Swallow-30B-A3B-RL-v0.2 — двуязычная языковая модель Swallow LLM на архитектуре Qwen3 MoE, дообученная методом обучения с подкреплением на проверяемых наградах (RLVR) поверх Qwen3-Swallow-30B-A3B-SFT-v0.2. Она предназначена для диалогов на японском и английском, перевода между этими языками, решения математических задач и программирования с рассуждениями. В репозитории указано 2,6 млрд параметров и контекст до 40 960 токенов; для воспроизводимого инференса авторы рекомендуют vLLM и советуют ограничивать контекст 32 768 токенами или меньше. Модель обучалась на японских и англоязычных корпусах, а также на данных по математике, коду и диалогам. Разработчики сообщают об улучшенных языковых и рассуждательных способностях при сохранении результатов в STEM-задачах. Модель не обучалась специально для вызова инструментов, а переключение режима рассуждений не поддерживается. Авторы отмечают, что модель находится на раннем этапе разработки и не настроена для гарантированного соответствия намерениям человека и требованиям безопасности. Лицензия — Apache-2.0.
sasa2000/Qwen3-Swallow-8B-RL-v0.2-heretic — дообученная версия Qwen3-Swallow 8B RL v0.2 с ослабленным поведением отказа, подготовленная на основе abliteration. Базовая модель разработана проектом Swallow LLM; репозиторий содержит плотную причинно-языковую архитектуру Qwen3 с 7,6 млрд параметров и контекстом до 40 960 токенов. Модель принимает текст и генерирует текст в диалоговом режиме. Она предназначена для общения на японском и английском языках, перевода между ними, решения математических задач, программирования и рассуждений. В сравнении из карточки указано 31 отказ из 100 запросов против 97 у исходной модели; это описание теста отказов, а не оценка общей точности. Рекомендуемый автором предел контекста — 32 768 токенов или меньше. Работа с вызовом инструментов не была специально обучена и не валидирована, а отдельное переключение режима рассуждений не поддерживается. Модель распространяется по лицензии Apache-2.0. Авторы базовой модели отмечают, что семейство находится на раннем этапе разработки и не настроено для надёжного следования человеческим намерениям или требованиям безопасности; снижение частоты отказов также означает, что ответы требуют соответствующей проверки.
RamManavalan/Qwen3-VL-Embedding-8B-FP8 — мультимодальная embedding-модель, представляющая собой FP8-квантизированную версию Qwen/Qwen3-VL-Embedding-8B. В README указано, что модель подготовлена для эффективного инференса с vLLM; разработчик исходной модели — Qwen, а данный вариант опубликован пользователем RamManavalan. Модель предназначена для получения векторных представлений текста, изображений, скриншотов, видео и мультимодальных комбинаций, поэтому может применяться в семантическом поиске, сопоставлении контента и мультимодальном retrieval. Поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Размерность embedding составляет 4096, максимальная длина контекста — 32K токенов. Используется FP8_DYNAMIC-квантизация W8A8: веса слоёв декодера представлены в FP8 E4M3 с поканальным масштабированием, активации квантизуются динамически по токенам во время выполнения. Vision Encoder и выходные embedding сохраняются в BF16. Размер модели сокращён примерно с 16 до 9 ГБ, что даёт около 45% экономии памяти; калибровочные данные не требуются. Для инференса рекомендуется vLLM версии 0.14.0 или новее с pooling runner; требуется GPU NVIDIA с поддержкой FP8 и compute capability не ниже 8.9, а минимальный объём VRAM заявлен около 10 ГБ. Сильными сторонами являются поддержка нескольких модальностей, высокая эффективность инференса и сохранение большей части качества исходной модели; для FP8 заявлено обычно более 95% исходной точности, однако отдельные результаты приведены для базовой модели, а не как независимая оценка этой квантизированной версии. Ограничения включают требования к совместимому FP8-оборудованию и зависимость от vLLM или специальной конфигурации Transformers. Модель распространяется по лицензии Apache-2.0.
Qwopus3.6-35B-A3B-Coder-MTP-GGUF — экспериментальная общественная модель от Jackrong, созданная на основе Qwopus3.6-35B-A3B-v1 и unsloth/Qwen3.6-35B-A3B. Это дообученная модель для программирования и агентных сценариев, ориентированная на локальные рабочие процессы, в которых модель читает файлы, выбирает инструменты, изменяет код, запускает тесты, анализирует ошибки и подводит итоги. Модель использует архитектуру Mixture of Experts с 35 млрд общих и примерно 3 млрд активных параметров. Она рассчитана на режим без явно отображаемого длительного рассуждения, что должно снижать расход токенов и задержку в повторяющихся циклах работы агента. Поддерживаются генерация текста, работа с изображениями и текстом, вызов инструментов и function calling; заявлена совместимость с агентными оболочками в стиле Codex, OpenHands, Claude Code и OpenCode. В метаданных указаны языки английский, китайский, испанский, русский и японский. Размер контекста в README не указан. Сильные стороны модели — эффективность MoE, ориентация на быстрые циклы программирования, отладку и использование инструментов, а также пригодность для локального запуска в формате GGUF. Ограничения связаны с экспериментальным статусом, отсутствием подтверждённых в README количественных оценок качества и неопределённостью характеристик в конкретных задачах; заявленные возможности требуют самостоятельной проверки. Модель распространяется по лицензии Apache-2.0.
Sarashina-Embedding-v2-1B — японская модель эмбеддингов, разработанная SB Intuitions на основе Sarashina2.2-1B. Она преобразует предложения и абзацы в плотные векторы размерностью 1792 и предназначена для семантического поиска, сравнения текстов, ранжирования, кластеризации и классификации. Модель использует архитектуру Sentence Transformer с LlamaModel и пулингом по последнему токену; максимальная длина последовательности — 8192 токена. Для поиска рекомендуется добавлять к запросу инструкцию и префикс, а к документу — префикс `text:`. Модель обучена контрастивным обучением в несколько этапов: на слабой разметке, затем с контролируемой настройкой, после чего веса двух вариантов были объединены. В README заявлен лучший средний результат среди 28 наборов JMTEB по оценке от 28 июля 2025 года. Модель ориентирована на японский язык. Лицензия Sarashina Model NonCommercial License Agreement ограничивает коммерческое использование.
cafierom создал дообученную модель SentenceTransformer на базе google/embeddinggemma-300m. Она преобразует предложения и абзацы в плотные текстовые векторы размерности 768; сходство между ними можно оценивать косинусной мерой. Модель рассчитана на семантическое сравнение текстов, поиск, поиск перефразировок, классификацию и кластеризацию. Модель использует текстовую архитектуру Gemma 3, содержит 302,8 млн параметров и распространяется в формате Safetensors. В метаданных указан контекст до 2048 токенов, а в README — максимальная длина последовательности 128 токенов; на практике ориентируйтесь на ограничение SentenceTransformer в карточке. Обучающие и оценочные примеры представлены парами текстов с метками, однако приведённые образцы выглядят как строки химических структур, поэтому качество на обычном естественном языке из этих данных не подтверждается. Лицензия в предоставленных сведениях не указана.
Qdrant/Splade_PP_en_v1 — порт модели prithivida/Splade_PP_en_v1 в формате ONNX, подготовленный для классификации текста и поиска сходства. Модель основана на BERT и использует masked language modeling; в каталоге отмечены задачи заполнения маски и сравнения предложений. Размер — 136,7 млн параметров, контекст — до 512 токенов. Модель предназначена для поиска и сопоставления текстов, в том числе с использованием FastEmbed. Репозиторий распространяется по лицензии Apache-2.0. Карточка не приводит конкретных ограничений качества или дополнительных характеристик обучения.
TensorFluxEmbedder — англоязычная модель векторных представлений текста, дообученная IstishadAlamTishad на базе nomic-ai/modernbert-embed-base для семантического поиска. Она охватывает общий язык, веб-поиск, научную литературу и юридические документы и предназначена для получения эмбеддингов запросов и документов в сценариях информационного поиска и RAG. Модель построена на ModernBERT, содержит 149 млн параметров и принимает до 8192 токенов. Размер эмбеддинга можно сокращать при использовании с 768 до 512, 256, 128 или 64 измерений без повторного обучения; в README вариант 256 измерений рекомендован для поиска с низкой задержкой и меньшим расходом памяти. Для лучшего качества поиска нужно задавать префикс search_query: для запросов и search_document: для документов. В README приведены результаты оценки на наборах SciFact и юридическом корпусе; качество зависит от размерности и конкретного корпуса. Модель обучена только на английских текстах, длинные входы свыше 8192 токенов обрезаются, а эффективность на других языках и юридических коллекциях не подтверждена. Она оптимизирована для плотного поиска и не предназначена для классификации, NLI или работы как cross-encoder. Лицензия — Apache-2.0.
text2vec-large-chinese-i1-GGUF — квантованная версия модели GanymedeNil/text2vec-large-chinese, подготовленная mradermacher в формате GGUF. Модель предназначена для получения векторных представлений китайскоязычного текста и задач семантического сходства, включая поиск похожих предложений, сопоставление текстов и другие сценарии feature extraction. Это не генеративная диалоговая модель. В README указано, что модель поддерживает китайский язык. Сведения об архитектуре, количестве параметров, максимальной длине контекста, точных входных и выходных форматах, а также о дополнительных модальностях не приведены. Доступны многочисленные варианты квантования размером примерно от 0,2 до 0,4 ГБ, включая IQ- и Q-типы; они различаются компромиссом между размером, скоростью и качеством. Для некоторых низкобитных вариантов прямо отмечено снижение качества, тогда как Q4_K_M обозначен как быстрый и рекомендуемый. Модель удобна для локального запуска в экосистеме, поддерживающей GGUF, и позволяет существенно сократить требования к дисковому пространству и памяти. Ограничения связаны с потерями качества при агрессивном квантовании и отсутствием в README подробных результатов оценки, характеристик производительности и рекомендаций по выбору конкретного варианта для разных задач. Лицензия исходной модели указана как Apache-2.0.
Tiel-Coder-35B-A3B-GGUF — это локальная GGUF-квантизованная версия модели Ornith-1.5-35B-A3B, опубликованная npario и основанная на разработке ornith-ai. Модель предназначена прежде всего для агентного программирования, исправления задач в существующих кодовых базах и длительных многошаговых диалогов. Она использует MoE-архитектуру с 35 млрд параметров и примерно 3 млрд активных параметров, а также гибридную структуру SSM/attention с двумя KV-головами. Модель поддерживает текстовые и визуальные сценарии: она может анализировать скриншоты, трассировки ошибок и дизайн-макеты. Заявлены английский и китайский языки. Vision tower унаследован от Ornith-1.5; для него требуется отдельный файл mmproj-BF16.gguf размером около 903 МБ. Доступны варианты квантизации от 2 до 8 бит, размером примерно от 12,3 до 38,5 ГБ. Точный размер контекстного окна в README не указан, но благодаря гибридной архитектуре и двум KV-головам кэш контекста занимает меньше памяти, чем у плотной модели сопоставимого размера. Сильные стороны модели — скорость, эффективность на задачах программирования, стабильность в многоходовых диалогах и поддержка локального запуска через llama.cpp. По приведённым тестам, 4-битная версия решила 12 из 25 задач SWE-bench-Live и показала результат 67,2 в Claw-Eval. Ограничения — заметно более слабые результаты в знаниях и сложном рассуждении: результат MMLU-Pro составляет 73,7, а авторы отдельно отмечают слабость в trivia-задачах. Модель распространяется по лицензии MIT.
Модель rohit-vt/tink-reranker-phase6_minilm_multikind — текстовый cross-encoder, дообученный на базе cross-encoder/ms-marco-MiniLM-L6-v2 с помощью библиотеки Sentence Transformers. Она совместно обрабатывает пару текстов и выдаёт оценку их релевантности для переранжирования результатов поиска и семантического поиска. Архитектура — BERT с классификационной головой, 25,9 млн параметров; максимальная длина входной последовательности — 512 токенов. Обучение описано на парах текстов с бинарными метками релевантности. Модель подходит, например, для повторной сортировки кандидатов, полученных поиском или извлечением документов. Базовая модель ориентирована на английский язык; README не подтверждает поддержку других языков. Распространяется под лицензией, указанной в карточке Hugging Face, но в предоставленных метаданных она не приведена.
princeton-nlp/unsup-simcse-roberta-large — модель Princeton NLP для получения векторных представлений предложений. Она основана на архитектуре RoBERTa-large и обучена в рамках метода SimCSE без разметки: к одному и тому же предложению применяются разные маскирования dropout, чтобы обучать устойчивые семантические embedding-представления. Разработчики — исследователи Princeton NLP, включая Tianyu Gao, Xingcheng Yao и Danqi Chen. Модель предназначена для сравнения семантической близости текстов, поиска похожих предложений, sentence retrieval, кластеризации и построения признаков для последующих NLP-задач. Она работает как encoder и feature-extraction модель, а не как генеративная система. Для получения embedding обычно используется представление токена CLS; для unsupervised SimCSE разработчики рекомендуют вариант без дополнительного pooler-преобразования. Максимальная длина входа в конфигурации токенизатора — 512 токенов. Обучение выполнялось на предложениях из English Wikipedia, поэтому модель ориентирована прежде всего на английский язык и не является мультиязычной. В опубликованном авторами списке модель получила средний результат 78.90 на задачах semantic textual similarity (STS), что характеризует её пригодность для оценки семантического сходства. Ограничения включают зависимость качества от языка, домена и способа pooling, ограничение длины входа и отсутствие возможностей генерации текста. На странице репозитория отдельная лицензия для этого чекпойнта не указана, поэтому условия использования следует проверять по исходному репозиторию и базовой модели RoBERTa.
Vela Reranker — многоязычный энкодер на базе ModernBERT, разработанный llm-semantic-router. Модель оценивает релевантность фрагментов для поиска, RAG и выбора контекста в системах маршрутизации. В метаданных указано 306,9 млн параметров и контекст до 32 768 токенов; доступны веса Safetensors и формат ONNX. В приведённых оценках Vela превосходит исходный mmBERT Reranker на указанных наборах MIRACL, Natural Questions и SciFact, а также на двух из трёх перечисленных инструкционных задач MTEB. Результаты относятся только к выбранным наборам и подмножествам и не являются полной оценкой MTEB. Модель предназначена для ранжирования текстовых фрагментов и не генерирует ответы. Лицензия — Apache-2.0.
VisRAG-Ret — модель для векторного представления страниц документов в мультимодальном поиске, разработанная OpenBMB. Она входит в конвейер VisRAG: страницы документов подаются как изображения и индексируются для поиска по запросам, чтобы использовать их при генерации ответов без предварительного извлечения текста из документа. Модель дообучена на MiniCPM-V 2.0, объединяющей визуальный энкодер SigLIP и языковую модель MiniCPM-2B; размер составляет 2,7 млрд параметров, формат весов — Safetensors, контекст — 4096 токенов. VisRAG-Ret предназначена для поиска по страницам PDF и другим документам с сохранением визуальной структуры и содержимого, включая информацию, которая может теряться при преобразовании документа в обычный текст. Обучение проводилось на 362 110 парах «запрос — документ», включающих академические данные и синтетические запросы к страницам веб-документов. Карточка указывает английский язык; лицензия — Apache-2.0. Модель решает задачу извлечения признаков, а для полноценного RAG-конвейера требуется отдельный этап генерации ответа.
OpenVINO/whisper-base-int8-ov — модель автоматического распознавания речи, разработанная на основе whisper-base от OpenAI и конвертированная в формат OpenVINO IR. Веса сжаты до INT8 с использованием NNCF, что предназначено для эффективного запуска инференса через OpenVINO. Модель работает с аудиоданными и поддерживает распознавание речи на множестве языков, включая английский, китайский, немецкий, испанский, русский, французский, японский и другие языки, указанные в карточке модели. Модель подходит для транскрибирования аудиозаписей и других задач автоматического распознавания речи. Она совместима с OpenVINO 2025.2.0 и новее, а также с Optimum Intel 1.23.0 и новее; в примерах предусмотрен запуск на CPU через OpenVINO GenAI. Для использования требуются соответствующие библиотеки OpenVINO, Optimum Intel или OpenVINO GenAI. Конкретные размер модели, длина контекста и архитектурные параметры в карточке не указаны. Ключевые характеристики оптимизации — асимметричное INT8-сжатие весов с размером группы 128 и представление OpenVINO IR. Это может снизить требования к ресурсам и упростить развертывание, однако возможны компромиссы между эффективностью и качеством по сравнению с исходной моделью. Ограничения следует уточнять в оригинальной карточке whisper-base от OpenAI. Модель распространяется под лицензией Apache-2.0.
unsloth/whisper-large-v3 — мультиязычная модель распознавания речи от Unsloth, основанная на Whisper large-v3 от OpenAI. Это Transformer encoder-decoder с архитектурой sequence-to-sequence и примерно 905,2 млн параметров; модель принимает аудио и преобразует речь в текст, в том числе выполняет перевод речи между языками. Вариант large-v3 использует 128 Mel-частотных полос и включает отдельный токен для кантонского языка. Модель подходит для автоматической транскрибации и перевода аудио, включая записи с фоновым шумом, разными акцентами и технической лексикой. Карточка Unsloth заявляет ускорение до 1,5 раза и снижение расхода памяти до 50% по сравнению с базовым запуском Whisper; результаты могут зависеть от среды и настроек. README указывает, что для аудио длиннее 30 секунд требуется алгоритм обработки длинных записей. Распознавание менее точное для языков с небольшим объёмом обучающих данных и может различаться по акцентам и диалектам. Возможны галлюцинации — текст, которого нет в аудио, — и повторение фрагментов. Модель распространяется по лицензии Apache-2.0.
OpenVINO/whisper-large-v3-int8-ov — это модель автоматического распознавания речи, основанная на Whisper large-v3, разработанном OpenAI. Модель преобразована в формат OpenVINO IR, а её веса сжаты до INT8 с использованием NNCF. Она предназначена для преобразования аудиозаписей в текст и поддерживает широкий набор языков, включая английский, китайский, немецкий, испанский, русский, французский, японский, арабский, украинский и многие другие. Ключевые особенности модели — совместимость с OpenVINO и возможность запуска через Optimum Intel, OpenVINO GenAI или OpenVINO Model Server, в том числе на CPU и совместимом GPU. Квантизация INT8_ASYM с размером группы 128 снижает требования к памяти и может повысить эффективность инференса, однако README не содержит количественных данных о точности, скорости или влиянии сжатия на качество распознавания. Для работы требуется OpenVINO версии 2025.2.0 или новее и Optimum Intel версии 1.23.0 или новее. Модель распространяется по лицензии Apache-2.0; ограничения следует дополнительно учитывать по оригинальной карточке Whisper large-v3.
mitchelldehaven/whisper-medium-ru — модель распознавания речи на базе Whisper, дообученная на аудиоданных из набора Open STT Russian Dataset. Она предназначена для преобразования русской речи в текст и может применяться для транскрибации записей и аудио с речью. Модель имеет архитектуру Whisper и содержит около 455,8 млн параметров; репозиторий распространяет веса в формате PyTorch. При нормализации обучающих данных пунктуацию удаляли, тогда как исходная токенизация Whisper заменяет её пробелом. По данным карточки, это расхождение немного ухудшает результаты на Common Voice. Лицензия в предоставленных сведениях не указана.
Это модель Sentence-Transformers, обученная командой sentence-transformers на основе XLM-RoBERTa. Она преобразует предложения и абзацы в плотные векторы размерностью 768; число параметров — около 305,2 млн, длина контекста — 514 токенов. Модель подходит для сравнения смысловой близости текстов, семантического поиска и кластеризации. Доступны версии в форматах PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Модель принимает текст и выдаёт векторы для последующего поиска или анализа сходства. Она предназначена для многоязычных текстов; в названии заявлена поддержка 100 языков. Разработчики пометили модель как устаревшую и предупреждают о низком качестве эмбеддингов, поэтому для новых проектов рекомендуют выбрать более современные модели. Лицензия — Apache-2.0.
hon9kon9ize/yue-embed — модель Sentence Transformers, разработанная hon9kon9ize и дообученная на базе hon9kon9ize/bert-large-cantonese-sts на смешанном наборе данных для оценки семантического сходства предложений на кантонском и английском языках. Она кодирует предложения и абзацы в плотные векторы размерности 1024; сходство между ними оценивается косинусной мерой. Модель подходит для семантического поиска, поиска перефразировок, кластеризации, классификации текста и сравнения текстовых фрагментов. Архитектура состоит из BERT и слоя mean pooling. Максимальная длина входа — 512 токенов; модель принимает текст и выдаёт векторные представления. Данные модели указывают лицензию Apache-2.0. В README приведены результаты на англоязычных наборах NanoBEIR и Nano BEIR, однако их недостаточно, чтобы подтвердить качество для всех перечисленных языков и сценариев; показатели следует проверять на целевых данных.
airoboros-mpt-30b-gpt4-1p4-five-epochs — языковая модель на архитектуре MPT-30B, дообученная автором карточки методом QLoRA на наборе airoboros-gpt4-1.4 в течение пяти эпох. Она предназначена для генерации ответов в диалогах и инструктивных сценариях, включая вопросы по предоставленному контексту, помощь с программированием, письмо, викторины и ролевые диалоги. В обучающие данные также вошли примеры кода на десяти языках программирования. Модель использует формат запросов Airoboros, близкий к Vicuna, и поддерживает генерацию текста. Автор отмечает, что в собственных разовых проверках качество оказалось ниже, чем у вариантов на Llama-33B; также README предупреждает о возможной ошибке в накоплении градиентов при обучении. Репозиторий содержит веса PyTorch. Лицензия указана как other, конкретные условия в предоставленных данных не раскрыты.
Xenova/all-MiniLM-L12-v2 — модель для извлечения признаков, основанная на sentence-transformers/all-MiniLM-L12-v2. Репозиторий содержит веса в формате ONNX, адаптированные для работы с библиотекой Transformers.js в JavaScript и веб-средах. Разработчик производной модели в README не указан. Модель предназначена для получения числовых представлений текста и может применяться в сценариях семантического поиска, сравнения текстов и кластеризации, однако конкретные поддерживаемые языки, размер, архитектурные детали и максимальная длина контекста в README не указаны. Сильной стороной является совместимость с Transformers.js и возможность использования ONNX-весов; ограничением выступает отсутствие подробной информации о характеристиках и условиях лицензирования. Лицензия в README не указана.
aiknowyou выпустил aiknowyou/all-mpnet-base-questions-clustering-en — англоязычную модель Sentence Transformers на базе All-mpnet-base-v2, дообученную для группировки вопросов по смыслу. MPNet преобразует предложения и абзацы в плотные векторы размерностью 768; их можно использовать для кластеризации, поиска семантически близких вопросов и оценки сходства. Обучение проводилось на данных Quora, WikiAnswers и StackExchange. Модель содержит 136,7 млн параметров, принимает текст и выдаёт векторы; заявленная длина контекста — 514 токенов. В README приведены результаты оценки на тестовой выборке WikiAnswer, но они не гарантируют такую же точность на других данных. Лицензия CC BY-NC-SA 4.0 ограничивает коммерческое использование и требует соблюдения условий атрибуции и распространения производных материалов.
Absolute_Zero_Reasoner-Coder-14b-GGUF — это квантованная версия языковой модели Absolute_Zero_Reasoner-Coder-14b, разработанной andrewzh. Квантование выполнил bartowski с использованием llama.cpp и метода imatrix; модель распространяется в формате GGUF и предназначена для запуска через llama.cpp, LM Studio и другие совместимые проекты. Модель относится к классу text-generation и ориентирована на задачи рассуждений и генерации программного кода. Известен размер базовой модели — 14 млрд параметров. В карточке не указаны архитектура, поддерживаемые языки, контекстное окно и мультимодальные возможности, поэтому подтвердить эти характеристики нельзя. Доступны варианты от BF16 до различных квантований Q8, Q6, Q5, Q4, Q3 и IQ. Более высокие уровни квантования сохраняют лучшее качество, но требуют больше памяти; варианты Q4 и Q5 описаны как сбалансированные по качеству и размеру, а Q3 предназначены для систем с ограниченным объёмом RAM. Квантованные файлы удобны для локального запуска, однако снижение точности по сравнению с исходной моделью зависит от выбранного варианта. Лицензия в README не указана.
rasyosef/bert-amharic-text-embedding-medium — модель Sentence Transformers, дообученная разработчиком на базе rasyosef/bert-medium-amharic на наборе amharic-passage-retrieval-dataset. Она кодирует предложения и абзацы на амхарском языке в плотные векторы размерностью 512 для поиска по смыслу и сравнения текстов. Архитектура включает BERT, усреднение токенных представлений и нормализацию векторов; максимальная длина входа — 512 токенов, сходство оценивается косинусной мерой. Модель подходит для семантического поиска и извлечения релевантных фрагментов, оценки сходства предложений, поиска перефразировок, кластеризации и классификации амхарских текстов. В README приведены результаты оценки информационного поиска, включая cosine_accuracy@1 0,6025 для 512 измерений. Модель принимает текст и выдаёт векторные представления; генерацию текста она не выполняет. Распространяется по лицензии Apache-2.0.
Компактная модель Sentence Transformer, разработанная swardiantara и дообученная на базе google/bert_uncased_L-2_H-128_A-2. Она кодирует предложения и абзацы в плотные векторы размерности 128 для поиска и сравнения текстов; близость векторов можно оценивать косинусным сходством. Модель состоит из BERT и среднего pooling, содержит 4,4 млн параметров и принимает только текст. Модель обучалась на наборе из примерно 2,6 млн пар текстов с оценками сходства. В примерах набора — отзывы Amazon, поэтому модель подходит, в частности, для семантического поиска и сопоставления отзывов. Метаданные указывают контекст до 512 токенов, однако карточка модели задаёт максимальную длину последовательности 128 токенов. Модель распространяется в формате safetensors; лицензия в предоставленных данных не указана.
Это компактная модель Sentence Transformers, дообученная автором swardiantara на базе google/bert_uncased_L-2_H-128_A-2. Она кодирует предложения и абзацы на английском языке в плотные векторы размерности 128 для поиска и сравнения по смыслу. Архитектура состоит из двухслойного BERT с mean pooling; метаданные указывают 4,4 млн параметров, формат safetensors и контекст до 512 токенов, тогда как карточка модели задаёт максимальную длину последовательности 128 токенов. Для сравнения векторов используется косинусное сходство. Модель предназначена для семантического поиска, извлечения текстовых признаков и оценки сходства предложений. В обучении использовался набор из 2 925 010 пар текстов с метками и OrdinalProxyContrastiveLoss; примеры в карточке связаны с отзывами Yelp, поэтому применение к другим жанрам и доменам может потребовать проверки качества. Лицензия в предоставленных данных не указана.
Beyonder-4x7b — языковая модель для генерации текста и диалогов, созданная Mlabonne как смесь экспертов (MoE) с помощью mergekit на ветке Mixtral. В неё объединены openchat/openchat-3.5-1210, beowolx/CodeNinja-1.0-OpenChat-7B, maywell/PiVoT-0.1-Starling-LM-RP и WizardLM/WizardMath-7B-V1.1. Архитектура Mixtral использует несколько экспертных сетей; размер модели по метаданным — 7,1 млрд параметров, контекст — до 8192 токенов. Модель предназначена для генерации текста в чате и может применяться для диалоговых ответов, объяснений, помощи с кодом и математическими задачами. Репозиторий содержит веса Safetensors. Модель распространяется по лицензии Apache-2.0. README содержит лишь краткий пример ответа и не приводит сравнительных оценок качества.
Xenova/bge-base-en-v1.5 — версия модели BAAI/bge-base-en-v1.5, подготовленная сообществом Xenova в формате ONNX для совместимости с библиотекой Transformers.js. Модель предназначена для создания векторных представлений предложений и текстов, включая семантический поиск и retrieval-сценарии, где документы и поисковые запросы сравниваются по косинусной близости. Модель используется как feature-extraction pipeline и возвращает эмбеддинги размерности 768. В README указаны mean pooling и нормализация векторов; для поисковых запросов рекомендуется добавлять префикс “Represent this sentence for searching relevant passages:”. Поддержка ONNX делает модель пригодной для JavaScript-приложений и веб-сред, использующих Transformers.js. Архитектура, число параметров, перечень языков и максимальная длина контекста в карточке этой версии не указаны; по идентификатору базовой модели можно заключить, что она ориентирована на английский язык. Сильные стороны модели — готовность к локальному использованию в JavaScript и веб-приложениях, компактное представление текста и возможность применять единый подход к поиску по коллекциям документов. Ограничения связаны с отсутствием в README подробных данных о качестве на бенчмарках, поддерживаемых языках и ресурсоёмкости. Модель распространяется по лицензии MIT.