II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейaditeyabaral/langcache-colbert-v1-4gpu — англоязычная модель PyLate на архитектуре ColBERT/BERT, дообученная на LangCache Sentence Pairs для семантического поиска и сравнения текстов. Она преобразует запросы и документы в последовательности 128-мерных плотных векторов и оценивает их сходство оператором MaxSim; заявленная длина контекста составляет 512 токенов, а в конфигурации модели указана максимальная длина последовательности 127 токенов. Модель содержит 136,7 млн параметров и распространяется в формате safetensors. Модель предназначена для поиска релевантных фрагментов по запросу в индексированных коллекциях, семантического кэширования и переранжирования результатов первичного поиска. Для построения индекса и быстрого поиска README предлагает PyLate и FastPLAID; также описано непосредственное переранжирование пар запрос–документ. Модель обучалась на контрастивных парах LangCache Sentence Pairs. Для указанной в карточке оценки ColBERT Triplet приведена точность 0,8206. Модель рассчитана на английский язык. Результаты представлены в виде векторов токенов и оценок сходства, поэтому для поиска по коллекции требуется индекс или список кандидатов. Лицензия — Apache-2.0.
DuoNeural/LFM2.5-8B-A1B-Hermes-Agentic-Coder-Abliterated-v3-GGUF — модель для генерации кода и автономных агентских сценариев, разработанная DuoNeural. Она создана на основе DuoNeural/LFM2.5-8B-A1B-Abliterated и ориентирована на многошаговое планирование, вызов функций и инструментов, отладку, решение алгоритмических задач и программирование, включая низкоуровневый C, управление памятью, бинарный анализ и тестирование на проникновение. Модель использует гибридную архитектуру state-space и mixture-of-experts: при общем размере около 8,3 млрд параметров на каждый токен активируется 1,5 млрд. Заявлены контекст до 3072 токенов, поддержка двух режимов вывода — быстрого прямого ответа и режима System 2 с цепочками рассуждений в тегах <thought> — и формат GGUF для локального запуска. README не указывает полный список поддерживаемых языков, но описывает обучение на данных по вызову функций, рассуждениям, генерации и исправлению кода, а также многошаговым инструкциям. К сильным сторонам относятся высокая скорость инференса, специализация на коде и агентских задачах, а также заявленные результаты EvalPlus: 56,1% на HumanEval, 50,0% на HumanEval+, 60,8% на MBPP и 49,7% на MBPP+. Ограничениями являются относительно небольшое контекстное окно в 3072 токена и отсутствие в README подробных сведений о качестве на других языках, мультимодальности и практической надежности заявленных показателей. Модель распространяется по Liquid Foundation Model Community License; точные условия следует уточнять по указанной лицензии.
LFM2.5-ColBERT-350M-bf16 — конвертированная сборка модели Liquid AI для локального инференса на компьютерах Apple Silicon с использованием MLX. Это двунаправленный энкодер LFM2 с поздним взаимодействием ColBERT: он выдаёт 128-мерный вектор для каждого токена, а релевантность пары запроса и документа оценивается методом MaxSim. В репозитории указано 443,4 млн параметров и контекст до 128 000 токенов. Модель предназначена для семантического поиска и извлечения документов по запросу на нескольких языках. В карточке приведены оценки поиска на английских наборах NanoBEIR и многоязычных поднаборах MIRACL для испанского, немецкого, японского и арабского языков. Весовые параметры сохранены в исходной точности bf16; это преобразование формата PyTorch/safetensors в MLX, а не квантизация. Для работы архитектуры включена отдельная реализация MLX, поскольку стандартные mlx-lm и mlx-embeddings её не поддерживают из коробки. Репозиторий создан сообществом mlx-community, а веса, архитектура и поведение модели принадлежат Liquid AI. README сообщает о близком совпадении токеновых векторов с оригинальной версией при проверке, но результаты поиска приведены на ограниченных пулах и не сопоставимы напрямую с полными корпусами MIRACL. Лицензия в метаданных обозначена как other; конкретные условия следует сверить с карточкой базовой модели.
Llama-3.1-Minitron-4B-Width-Base — базовая текстовая языковая модель NVIDIA для генерации текста и последующей адаптации под задачи обработки естественного языка. Это авторегрессионный трансформер-декодер семейства Llama 3.1 с 3,9 млрд параметров, 32 слоями, Grouped-Query Attention и RoPE. Модель получена сокращением размерностей Llama-3.1-8B с последующим продолженным обучением и дистилляцией на 94 млрд токенов. Модель принимает текст и генерирует текст. Обучающий корпус включал английские и многоязычные тексты, а также код; среди тематик данных были право, математика, наука и финансы. Контекст модели — до 131 072 токенов по метаданным, хотя в README отмечено, что она хорошо работает с входами длиной до 8 000 символов. Модель предназначена для коммерческого использования; лицензия указана как other, поэтому перед внедрением следует проверить применимые условия NVIDIA. Это базовая, а не готовая к диалогу инструкционная модель: для прикладных сценариев может потребоваться дообучение или настройка промптов. Модель может выдавать неточные, неполные, нерелевантные или повторяющиеся ответы, а также воспроизводить токсичность и смещения, присутствующие в обучающих данных.
maux-gte-persian-v2 — модель Sentence Transformer, разработанная автором xmanii и дообученная на базе Alibaba-NLP/gte-multilingual-base на наборе maux-gte-10k-public. Она кодирует предложения и абзацы на персидском языке в нормализованные плотные векторы размерности 768 для сравнения семантического сходства, поиска, выявления парафраз, кластеризации и классификации текстов. Сходство векторов оценивается косинусной мерой; максимальная длина последовательности — 8192 токена. Модель подходит для поиска по персидским вопросам и ответам, сопоставления запросов с документами и группировки похожих текстов. В README приведены высокие результаты на оценке сходства, однако они относятся к описанному оценочному набору и не гарантируют такое же качество на других данных. Лицензия в предоставленных сведениях не указана.
Многоязычная модель PyLate для семантического поиска и сопоставления предложений. Она дообучена разработчиками модели на английских данных от jhu-clsp/mmBERT-base и переносит представления текста в последовательности 128-мерных векторов токенов. Архитектура ColBERT использует энкодер ModernBERT с проекцией из 768 в 128 измерений, а релевантность запросов и документов оценивается оператором MaxSim. Модель содержит около 306,9 млн параметров и поддерживает контекст до 8192 токенов по метаданным; в карточке также указаны длины до 1024 токенов для документов и 64 токена для запросов. Модель предназначена для построения поискового индекса по документам, извлечения наиболее релевантных фрагментов и повторного ранжирования результатов первичного поиска. Обучение проводилось на английском языке, а README сообщает о переносе на корейские задачи поиска и приводит результаты оценки на корейских наборах MTEB. Для работы и индексирования описана интеграция с PyLate и FastPLAID. Сведения о лицензии в предоставленных источниках отсутствуют.
MMLW-retrieval-e5-base — польскоязычный текстовый энкодер для информационного поиска, разработанный авторами проекта MMLW. Модель основана на XLM-RoBERTa и содержит 305,2 млн параметров; она преобразует запросы и фрагменты документов в векторы размерностью 768 для сравнения их релевантности. Максимальная длина контекста — 514 токенов. Модель сначала обучали методом дистилляции на 60 млн польско-английских пар текстов, используя англоязычные FlagEmbeddings (BGE) как учителя, затем дообучили с контрастивной функцией потерь на польской обучающей части MS MARCO. Для кодирования запросов нужен префикс «query: », а для фрагментов документов — «passage: ». На польском бенчмарке PIRB модель показала NDCG@10 56,09. Подходит для семантического поиска и построения систем извлечения информации. Распространяется по лицензии Apache-2.0.
ModernBERT-base — двунаправленная encoder-only модель семейства Transformer в стиле BERT, разработанная в сотрудничестве Answer.AI, LightOn и их коллег. Она предварительно обучена на 2 триллионах токенов английских текстов и кода и предназначена для заполнения пропусков в тексте, а также как основа для прикладных задач понимания языка и поиска. Модель содержит 22 слоя и 149 млн параметров, поддерживает контекст до 8192 токенов. В архитектуре используются RoPE, чередование локального и глобального внимания, unpadding и Flash Attention для эффективной обработки длинных последовательностей. Она подходит для анализа длинных документов, классификации, семантического и кодового поиска после настройки под соответствующую задачу. Обучающие данные преимущественно англоязычные и включают код, поэтому качество для других языков может быть ниже. Обработка полного окна контекста может быть медленнее, чем коротких последовательностей; возможны смещения из обучающих данных. Лицензия — Apache-2.0.
MPNet Retriever (Discourse) — модель эмбеддингов на базе MPNet, дообученная Джеймсом Бриггсом из Pinecone. Она кодирует предложения и абзацы в плотные векторы размерностью 768 и предназначена для поиска релевантных фрагментов в задачах открытого вопросно-ответного поиска, в том числе по техническим форумам Hugging Face, PyTorch, Streamlit и TensorFlow. Модель основана на архитектуре BERT и содержит 136,7 млн параметров; максимальная длина контекста — 512 токенов. Дообучение на парах вопросов и ответов использовало функцию потерь Multiple Negatives Ranking Loss с косинусным сходством. Её можно применять для семантического поиска и отбора документов для последующей системы вопросно-ответных ответов. Модель принимает текст и выдаёт векторные представления, но сама по себе не генерирует ответы. Веса опубликованы в формате PyTorch; лицензия в предоставленных данных не указана.
Это англоязычный многовекторный текстовый энкодер семейства ModernBERT, созданный tomaarsen на базе Alibaba-NLP/gte-modernbert-base и дообученный на 20 тысячах примеров MS MARCO с дистилляцией оценок bge-reranker-v2-gemma. Модель преобразует текст в последовательность 128-мерных векторов токенов и оценивает соответствие запросов и документов с помощью late interaction MaxSim; длина входной последовательности — до 8192 токенов. Модель предназначена для семантического поиска и извлечения документов, особенно в системах, где важна точная токен-уровневая оценка релевантности. В карточке приведены результаты оценки на наборах NanoMSMARCO и NanoBEIR. Веса доступны в формате safetensors, использовать их можно с библиотекой Sentence Transformers. Лицензия — Apache-2.0.
Nemotron-H-8B-Base-8K — базовая большая языковая модель NVIDIA для продолжения заданного текста и создания исходных решений, на основе которых разработчики и исследователи могут создавать специализированные LLM. Это модель семейства Nemotron-H с гибридной архитектурой Mamba-2 и MLP, дополненной четырьмя слоями Attention; размер — 8 млрд параметров, контекст — до 8K токенов. Модель принимает и генерирует текст. Модель обучена на английском и многоязычных текстах, включая немецкий, испанский, французский, итальянский, корейский, португальский, русский, японский и китайский, а также на коде. Она подходит для продолжения текста, генерации кода и настройки под пользовательские задачи с помощью дообучения и выравнивания. NVIDIA указывает, что модель предназначена для исследовательской и опытно-конструкторской работы; для работы рекомендованы NeMo и GPU NVIDIA. Лицензия в метаданных обозначена как other. Модель может выдавать неточные, нерелевантные или избыточные ответы и воспроизводить токсичность и предвзятость из обучающих данных. NVIDIA также сообщает о слабой устойчивости к косвенным prompt injection через некоторые кодировки, в частности Base16, Hex/ASCII и Braille.
nomic-embed-vision-v1 — модель эмбеддингов изображений от Nomic AI. Она преобразует изображения в векторы в общем пространстве с nomic-embed-text-v1, что позволяет сопоставлять изображения и текст по смыслу. Модель предназначена для поиска изображений по текстовому запросу и других сценариев мультимодального поиска и извлечения признаков. В README приведены результаты на ImageNet zero-shot и Datacomp; указана совместимость с библиотекой Transformers. Репозиторий содержит веса в форматах Safetensors и ONNX. Для текстовых запросов в мультимодальном поиске README рекомендует добавлять префикс «search_query: ». Модель принимает изображения и выдаёт векторы признаков. Репозиторий лицензирован по Apache-2.0.
Palmyra Vision — мультимодальная модель семейства Palmyra от Writer для диалога и генерации ответов по изображениям. Она принимает изображение и текстовый запрос и предназначена для визуальных вопросов и ответов, включая анализ диаграмм, документов, инфографики, распознавание текста на изображениях, подсчёт объектов и визуальные задачи по математике. В README указано обучение на наборе PixMo объёмом 1 млн примеров; метаданные описывают плотную архитектуру Palmyra_visionForCausalLM на 12,8 млрд параметров, контекст до 4096 токенов и формат safetensors. Модель поддерживает английский язык и использует Transformers. В README приведены результаты на 11 академических бенчмарках: средняя оценка 78,3 и рейтинг человеческих предпочтений Elo 1056. Для обработки изображений требуется RGB; на прозрачных изображениях модель может работать хуже, поэтому рекомендуется предварительно добавить фон. Лицензия в предоставленных данных не указана. Метаданные связывают модель слиянием с openai/clip-vit-large-patch14-336 и Writer/Palmyra-Large.
Parakeet-TDT 0.6B v3 — многоязычная модель распознавания речи NVIDIA NeMo, опубликованная loom-ai-org в формате GGUF для запуска через loom.cpp и loom-py-rt. Репозиторий содержит экспорт исходной модели nvidia/parakeet-tdt-0.6b-v3; README указывает, что веса не изменены. Модель преобразует аудио в текст и предназначена для автоматической транскрипции речи на 25 языках, включая русский, английский, испанский, французский и немецкий. Для использования требуется loom-py-rt; экспорт включает графы модели и необходимые компоненты для запуска. Репозиторий распространяется по лицензии CC BY 4.0.
thang1943/phobert-base-v2-mnr-loss — Sentence Transformers на основе PhoBERT-base-v2, дообученная автором на наборе dataset_full_fixed из 43 803 примеров с MultipleNegativesRankingLoss. Модель кодирует предложения и абзацы во векторы размерности 768 и предназначена для поиска семантически близких текстов, оценки сходства и извлечения релевантных фрагментов. Также её можно применять для поиска перефразирований, кластеризации и классификации текста. Архитектура — RoBERTa-энкодер с усреднением токенных представлений; сходство в README рассчитывается косинусной мерой. Максимальная длина последовательности указана как 256 токенов в README и 258 контекстных токенов в метаданных. Базовая PhoBERT ориентирована на вьетнамский язык, а обучающие примеры README также написаны по-вьетнамски. Веса представлены в формате safetensors; модель содержит 162,4 млн параметров и использует библиотеку sentence-transformers. В README приведены метрики поиска на dim_768: cosine_accuracy@1 — 0,6382, @3 — 0,7703 и @5 — 0,8187. Эти значения относятся к описанной оценке и не гарантируют такое же качество на других данных. Лицензия в предоставленных сведениях не указана.
Pleias-RAG-1B — языковая модель Pleias с 1,2 млрд параметров, дообученная на базе PleIAs/Pleias-1.2B-Preview для retrieval-augmented generation (RAG), поиска и суммаризации источников. Она принимает структурированный ввод с запросом и источниками и формирует структурированный ответ с последовательностью рассуждений и ссылками на источники. Архитектура — плотная LlamaForCausalLM; модель работает в Transformers, использует формат safetensors и поддерживает контекст до 4096 токенов. Модель предназначена для ответов на вопросы по предоставленным материалам, включая вопросы с рассуждением по нескольким источникам, оценки достаточности источников, переформулирования запросов и ранжирования материалов. Она стремится отвечать на языке запроса и поддерживает основные европейские языки; README перечисляет французский, немецкий, итальянский, испанский, польский, латинский и португальский, а метаданные также отмечают английский. Разработчик сообщает о встроенной опоре на источники и цитирование, а также о компактности, позволяющей развёртывание на ограниченной инфраструктуре, включая мобильные устройства. Модель выпущена под лицензией Apache-2.0. Заявления о качестве основаны на бенчмарках HotPotQA, 2wiki и MuSiQue; описанная оценка охватывает режим вопросов, требующих многошагового рассуждения и отбора источников, поэтому результаты не следует автоматически переносить на все сценарии. Контекст ограничен 4096 токенами, а для работы со структурированным форматом разработчик рекомендует официальную библиотеку.
PolDense-1B — польская плотная embedding-модель для семантического поиска и извлечения релевантных текстов, разработанная как часть семейства PolDense. Она основана на энкодерах ettin-encoders с архитектурой ModernBERT и содержит 1 млрд параметров. Модель выдаёт векторные представления текстов и предназначена для польского поиска, retrieval и систем RAG. PolDense-1B обучали в три этапа: адаптировали английские энкодеры к польскому языку с помощью дистилляции знаний на параллельных польско-английских текстах, затем улучшали соответствие учителю на польских текстах и дообучали для retrieval на запросах и пассажах. В README сообщается о сравнении семейства на польском бенчмарке PIRB из 41 задачи; вариант 1B показал результаты выше сопоставлявшихся крупных моделей. Для retrieval к запросам добавляют префикс «[query]: », а для симметричного сравнения текстов — «[sts]: ». Модель принимает текст и выдаёт эмбеддинги; её контекст составляет 7 999 токенов. Репозиторий содержит веса в формате safetensors. Указана лицензия Gemma; применимые условия следует сверять с лицензией базовой модели и условиями распространения репозитория.
Prox-Llama-3-8B-abliterated-orpo — языковая модель OpenVoid на архитектуре Llama 3 с 7,5 млрд параметров. Это дообученная версия Meta-Llama-3-8B-Instruct, рассчитанная на генерацию и объяснение кода, а также вопросы по кибербезопасности и техникам взлома. Модель поддерживает диалог и работу с кодом, принимает текст и генерирует текст; для английского указана поддержка в карточке. Контекст составляет 8192 токена. В README приведены результаты HumanEval v1.0 pass@1 0,537 и EvalPlus v1.1 pass@1 0,482. Модель описана как uncensored; ответы могут быть предвзятыми или непоследовательными, поэтому их следует проверять, особенно в критически важных сценариях. Доступна по лицензии Apache-2.0.
eme/Qwen3.6-35B-A3B-FP8-Q4_K_M-MTP-GUFF — это GGUF-конверсия модели Qwen3.6-35B-A3B от команды Qwen, подготовленная пользователем eme. Модель основана на варианте Qwen/Qwen3.6-35B-A3B-FP8 и предназначена для локального запуска и эффективного инференса через llama.cpp. В README также упоминаются возможности Qwen3.6 для агентного программирования, работы с фронтенд-разработкой и рассуждений на уровне репозитория, однако эти сведения приведены для другой конфигурации Qwen3.6 и не позволяют полностью подтвердить характеристики данного варианта. Финальные веса используют квантизацию Q4_K_M для формата GGUF; исходная модель экспортирована в FP8 с форматом F8_E4M3. Такое представление уменьшает объём памяти и нагрузку на пропускную способность по сравнению с BF16, сохраняя близкое к BF16 качество для большинства задач инференса. В модель интегрирован Multi-Token Prediction (MTP), который может ускорять декодирование за счёт спекулятивного предсказания нескольких токенов. Точные сведения о контекстном окне, поддерживаемых языках и мультимодальности для этого конкретного файла не указаны; тег image-text-to-text присутствует в метаданных, но не подтверждает фактическую поддержку изображений. Для работы рекомендуется свежая версия llama.cpp с поддержкой CUDA и MTP-aware decoding; требуется достаточно VRAM в зависимости от длины контекста и размера батча. Пример запуска из README показывает работу на RTX 4080 с 16 ГБ памяти, но это не является гарантией совместимости или производительности в других конфигурациях. Ограничения включают возможные потери качества из-за Q4_K_M и зависимость ускорения от поддержки MTP и оптимизированных ядер в используемом рантайме. Лицензия указана как Apache-2.0.
Карточка модели willhx/Qwen3-8B-Base-Math-SeaSFT-Search на Hugging Face совпадает с карточкой Qwen/Qwen3-8B-Base, поэтому описание составлено по ней. Qwen3-8B-Base — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это базовая модель на этапе предобучения, рассчитанная на дальнейшую адаптацию и генерацию текста. В карточке указаны 36 слоёв, 32 головы внимания для Q и 8 для KV; метаданные каталога оценивают размер в 7,6 млрд параметров, а README приводит 8,2 млрд параметров всего и 6,95 млрд без эмбеддингов. Контекст — 32 768 токенов. Модель предназначена для продолжения текста и служит основой для создания специализированных моделей и диалоговых систем. Семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; README отмечает отдельное внимание к программированию, STEM, рассуждениям, книгам и многоязычным данным. Модель использует архитектуру Qwen3 для причинного моделирования языка и распространяется в формате safetensors для Transformers. Лицензия — Apache-2.0. Карточка советует использовать актуальную версию Transformers: версии ниже 4.51.0 не распознают архитектуру qwen3. Поскольку это базовая, а не инструктивно настроенная версия, для диалогового применения и следования инструкциям может понадобиться дополнительная настройка.
Карточка модели willhx/Qwen3-8B-Base-SeaSFT-Search на Hugging Face совпадает с карточкой Qwen/Qwen3-8B-Base, поэтому описание составлено по ней. Qwen3-8B-Base — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это базовая модель на этапе предобучения, рассчитанная на дальнейшую адаптацию и генерацию текста. В карточке указаны 36 слоёв, 32 головы внимания для Q и 8 для KV; метаданные каталога оценивают размер в 7,6 млрд параметров, а README приводит 8,2 млрд параметров всего и 6,95 млрд без эмбеддингов. Контекст — 32 768 токенов. Модель предназначена для продолжения текста и служит основой для создания специализированных моделей и диалоговых систем. Семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; README отмечает отдельное внимание к программированию, STEM, рассуждениям, книгам и многоязычным данным. Модель использует архитектуру Qwen3 для причинного моделирования языка и распространяется в формате safetensors для Transformers. Лицензия — Apache-2.0. Карточка советует использовать актуальную версию Transformers: версии ниже 4.51.0 не распознают архитектуру qwen3. Поскольку это базовая, а не инструктивно настроенная версия, для диалогового применения и следования инструкциям может понадобиться дополнительная настройка.
richtext/Qwen3-Reranker-0.6B-mlx-fp16 — конвертированная в формат MLX модель на основе Qwen/Qwen3-Reranker-0.6B. Это компактный реранкер семейства Qwen3 с плотной архитектурой на 507,6 млн параметров; он оценивает релевантность текстовых кандидатов запросу, чтобы сортировать результаты поиска. Для запуска в MLX в README указана библиотека mlx-lm версии 0.29.1. Модель подходит для переранжирования поисковой выдачи и отбора наиболее релевантных фрагментов для систем поиска и RAG. Метаданные указывают контекстное окно 40 960 токенов и лицензию Apache-2.0. Это конверсия исходной модели в формат MLX; README не описывает отдельного дообучения для этой публикации.
DCC-BS/Qwen3-Reranker-4B-FP8-Dynamic — это динамически квантизованная версия модели Qwen/Qwen3-Reranker-4B, разработанной командой Qwen и подготовленной DCC-BS. Модель предназначена для переранжирования текстовых документов и пассажей: она оценивает релевантность документов запросу и может использоваться в поисковых системах, системах вопросно-ответного поиска и других конвейерах retrieval-augmented generation. Модель работает с текстовой модальностью и рассчитана на многоязычные сценарии; качество проверялось на корпусе Wikipedia в рамках MTEB для 16 языков, при этом в README приведены результаты для немецкого, английского и итальянского языков. Квантизация выполнена в формате FP8_DYNAMIC с использованием llm-compressor: веса представлены в статическом per-channel FP8, а активации масштабируются динамически для каждого токена во время инференса. Token embeddings и lm_head оставлены в формате bfloat16, чтобы сохранить точность оценки по логитам yes/no. Размер весов уменьшен с 7,49 до 4,83 ГиБ, примерно на 35%, что позволяет высвободить видеопамять под KV-кэш и обслуживать более длинный контекст на GPU с ограниченной памятью. В примере конфигурации vLLM используется максимальная длина контекста 32768 токенов, однако README не утверждает, что это предельный контекст самой базовой модели. По результатам проверки на WikipediaRerankingMultilingual среднее значение map_at_1000 практически не изменилось относительно версии bfloat16: 0,9674 против 0,9675, а ни один из проверенных языков не потерял более 0,0100. Модель предназначена для запуска через vLLM в формате compressed-tensors. Нативная FP8-арифметика поддерживается GPU Ada и Hopper с compute capability 8.9 и выше; на Ampere используется Marlin, при этом экономия памяти сохраняется, а скорость примерно не меняется. Лицензия в README не указана.
DevQuasar/Qwen.Qwen3-Coder-30B-A3B-Instruct-GGUF — это квантизированная версия модели Qwen/Qwen3-Coder-30B-A3B-Instruct, подготовленная DevQuasar. Модель предназначена для генерации текста, включая сценарии, связанные с обработкой и созданием программного кода, однако подробные сведения о поддерживаемых языках программирования и конкретных режимах применения в README не приведены. Известно, что модель распространяется в формате GGUF и относится к классу text-generation. Название указывает на базовую модель с конфигурацией 30B-A3B, но README не содержит описания архитектуры, фактического числа активируемых параметров, доступных модальностей, языков, размера контекста или характеристик используемой квантизации. Лицензия и условия использования также не указаны. К преимуществам относятся компактное квантизированное представление и ориентация базовой модели на задачи программирования. Ограничение описания заключается в отсутствии данных о качестве, производительности, совместимости, точных требованиях к оборудованию и влиянии квантизации на результаты.
Это англоязычная модель Cross Encoder, разработанная на базе prajjwal1/bert-tiny и дообученная с использованием библиотеки Sentence Transformers. Модель принимает пары текстов и вычисляет оценку их соответствия, поэтому предназначена для ранжирования результатов поиска, семантического поиска, оценки текстового сходства, поиска перефразировок, классификации текстов и кластеризации. Модель поддерживает последовательности длиной до 512 токенов и возвращает один выходной показатель для каждой пары текстов. Она рассчитана на английский язык и использует архитектуру BERT-tiny, что делает её компактнее полноразмерных BERT-моделей и потенциально удобной для сценариев, где важны умеренные требования к вычислительным ресурсам. Обучение выполнено на данных, связанных с GooAQ; в метаданных также указаны метрики MAP, MRR@10 и NDCG@10, однако числовые результаты оценки не приведены. Модель подходит для сравнения пользовательского запроса с кандидатными документами или ответами и последующего их упорядочивания. Ограничения включают работу только с парами текстов, англоязычную специализацию и максимальную длину входной последовательности 512 токенов. Лицензия — Apache-2.0.
kwondw/reranker-MiniLM-L12-H384-uncased-gooaq-cmnrl — англоязычный cross-encoder, дообученный автором на наборе вопросов и ответов GooAQ на базе microsoft/MiniLM-L12-H384-uncased с использованием Sentence Transformers. Модель оценивает пары текстов одним числовым баллом и предназначена для переранжирования результатов поиска и семантического поиска, в том числе для отбора ответов на вопросы. Модель использует архитектуру BERT с классификационной головой, содержит 40 млн параметров и обрабатывает последовательности длиной до 512 токенов. В карточке приведены оценки на наборах NanoBEIR и NanoMSMARCO, NanoNFCorpus и NanoNQ; показатели различаются в зависимости от набора и конфигурации, поэтому их следует проверять на целевых данных. Лицензия — Apache-2.0.
SciPhi-Self-RAG-Mistral-7B-32k — языковая модель SciPhi, дообученная на основе Mistral-7B-v0.1. После этапа обучения, описанного для SciPhi-Mistral-7B-32k, модель дополнительно дообучили на датасете Self-RAG и смешанных инструктивных наборах данных для RAG. Это плотная трансформерная модель Mistral с 7,1 млрд параметров, Grouped-Query Attention, Sliding-Window Attention и контекстом до 32 768 токенов. Модель предназначена для генерации текста в сценариях Retrieval-Augmented Generation (RAG), включая ответы с использованием извлечённых материалов. Она хорошо показала себя в приведённых авторами бенчмарках, но, по словам разработчиков, требует дополнительной настройки, чтобы стать хорошим диалоговым собеседником. Модель опубликована в формате PyTorch под лицензией MIT.
SIGMA-BERT-large — словенская языковая модель-энкодер семейства ModernBERT, разработанная командой LHRS-UM-FERI и предварительно обученная с нуля на корпусе словенских текстов объёмом около 13,88 млрд токенов. Модель содержит около 394 млн параметров и поддерживает контекст до 8192 токенов. Для неё используется собственный токенизатор SentencePiece BPE с размером словаря 50 000 токенов. Модель предназначена для последующего дообучения под задачи понимания словенского языка: классификацию текстов, распознавание именованных сущностей, извлечение ответов, оценку семантического сходства, поиск по документам и ранжирование результатов в RAG-системах. Двухэтапное предобучение расширило контекст с 1024 до 8192 токенов, что позволяет работать с длинными документами. SIGMA-BERT-large — энкодер с маскированным языковым моделированием: он подходит для заполнения пропусков и получения представлений текста, но не генерирует связный текст. Модель рассчитана прежде всего на словенский язык и может отражать смещения обучающих данных. Лицензия — CC BY-SA 4.0.
capemox/splade-ettin-encoder-17m-gooaq — разреженный текстовый энкодер SPLADE, созданный capemox дообучением jhu-clsp/ettin-encoder-17m на 99 000 примерах датасета GooAQ с помощью библиотеки Sentence Transformers. Модель кодирует предложения и абзацы в разреженные векторы размерности 50 368; сходство между ними оценивается скалярным произведением. В архитектуре ModernBERT для masked language modeling используется пулинг SPLADE с ReLU и стратегией max. Модель предназначена для семантического поиска и разреженного извлечения документов, в том числе поиска ответов на вопросы и ранжирования текстов по релевантности. Она принимает текст на английском языке; максимальная длина последовательности в README — 256 токенов, а в метаданных указана длина контекста 7 999 токенов. Лицензия — MIT. В README приведены оценки на наборах NanoMSMARCO, NanoBEIR и других тестах извлечения информации.
Ternary-Bonsai-27B-antidoom-DSpark — текстовая генеративная модель, разработанная на основе prism-ml/Ternary-Bonsai-27B и доработанная Danny-Dasilva с применением antidoom и DSpark. Она предназначена для локальной генерации текста, включая программный код, с запуском через специализированный форк llama.cpp и CUDA-ядра для гибридного внимания. Модель ориентирована на сценарии, где важны компактность, высокая скорость вывода и устойчивость к зацикливанию на повторяющихся фрагментах. В основе лежит гибридная attention-архитектура Qwen3.5-27B с тернарной 2-битной квантизацией Q2_0, плотностью около 2,125 бит на вес и контекстом до 16 384 токенов в приведённой конфигурации. Указан английский язык. В комплект входят основная модель размером около 7 ГБ, DSpark-драфтер в формате Q4_1 для speculative decoding и vision projector Q8_0, что указывает на поддержку мультимодального сценария через проектор, хотя подробности о визуальных возможностях не приведены. К сильным сторонам относятся малый размер, высокая скорость на RTX 5090 и ускорение speculative decoding: в описанном тесте скорость выросла с 129,2 до 184,6 токена в секунду. Antidoom-настройка снижает склонность к продолжению уже начавшихся повторов, однако её эффект частично ослабляется агрессивной 2-битной квантизацией. Скорость DSpark зависит от характера запроса и может снижаться на задачах с низкой долей принятых черновых токенов; для работы требуется совместимый форк llama.cpp и подходящее CUDA-оборудование. Модель распространяется по лицензии Apache-2.0.