I.3Извлечение и структурирование данных
В разделе собраны самостоятельные задачи, где AI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
25 791 модельМодель jonatasgrosman/wav2vec2-large-xlsr-53-italian — версия wav2vec 2.0 XLSR-53, дообученная Jonatas Grosman для распознавания итальянской речи. Она принимает аудио и преобразует его в текст; модель обучалась на обучающей и валидационной выборках Common Voice 6.1 и предназначена для автоматического распознавания речи на итальянском языке. Архитектура — Wav2Vec2ForCTC, размер — 402,7 млн параметров. Для входной речи требуется частота дискретизации 16 кГц; распознавание возможно без отдельной языковой модели. Репозиторий содержит веса PyTorch и Flax. Модель подходит для транскрибирования записей и оценки систем распознавания итальянской речи. Качество зависит от акустических условий и соответствия речи обучающим данным; README приводит наборы для оценки, но не сообщает численных результатов. Лицензия — Apache-2.0.
jonatasgrosman/wav2vec2-xls-r-1b-german — модель распознавания речи на немецком языке, дообученная Jonatas Grosman с помощью инструмента HuggingSound на базе facebook/wav2vec2-xls-r-1b. Она использует архитектуру Wav2Vec2ForCTC и содержит 1,3 млрд параметров. Модель обучалась на данных Common Voice 8.0, Multilingual TEDx, Multilingual LibriSpeech и Voxpopuli. Модель преобразует немецкую речь в текст и подходит для транскрибирования аудиозаписей. Для входного аудио требуется частота дискретизации 16 кГц. Веса опубликованы в формате PyTorch по лицензии Apache-2.0.
Модель hypaai/wspr_small_2025-11-11_12-12-17 — дообученная версия мультиязычной Whisper Small от OpenAI, разработанная hypaai. Она предназначена для автоматического распознавания речи и транскрибирования аудио. Модель содержит 153,1 млн параметров, использует архитектуру Whisper и доступна в формате Safetensors для библиотеки Transformers. В тегах карточки указаны йоруба, английский и хауса; метаданные также отмечают игбо. Эти языки можно считать поддерживаемыми, хотя описание обучения не раскрывает данные и результаты оценки. Модель распространяется по лицензии Apache-2.0.
XProvence-reranker-bgem3-v1 — многоязычная модель Naver Labs Europe для сокращения контекста в системах генерации с дополнением извлечёнными данными (RAG). По вопросу пользователя и найденному текстовому фрагменту она отбирает релевантные предложения, удаляет лишние и выдаёт оценку релевантности, которую можно использовать для переранжирования. Модель рассчитана прежде всего на ответы на вопросы и совместима с разными LLM. Модель основана на BAAI/bge-reranker-v2-m3 и дообучена для предсказания маски предложений при сохранении способности ранжировать пары «вопрос — фрагмент». Архитектура XLM-RoBERTa, около 658,7 млн параметров по метаданным и контекст до 8194 токенов. README сообщает о 16 языках с нативной поддержкой и переносе на более чем 100 языков; среди языков обучения указаны арабский, бенгальский, английский, испанский, персидский, финский, хинди, индонезийский, японский, корейский, русский, суахили, телугу, тайский и китайский. Французский также указан в метаданных и описании обучения. Модель помогает уменьшить шум в контексте и ускорить последующую генерацию. README отмечает, что обучение использовало фрагменты размером примерно с абзац, хотя заявленная длина контекста составляет 8192 токена; эффективность порога отсечения следует настраивать под сценарий. Лицензия в метаданных — CC BY-NC-ND 4.0, которая ограничивает коммерческое использование и распространение производных материалов.
MaziyarPanahi/YamshadowStrangemerges_32_Experiment28Neuralsirkrishna — объединённая языковая модель на архитектуре Mistral, созданная из automerger/YamshadowStrangemerges_32-7B и automerger/Experiment28Neuralsirkrishna-7B. Она предназначена для генерации текста и может использоваться в приложениях, которым нужна авторегрессионная языковая модель. Модель содержит 7,1 млрд параметров, принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и распространяется в формате Safetensors. Репозиторий создан MaziyarPanahi; лицензия — Apache-2.0. Данные карточки не уточняют языки или специализированные области применения модели.
YaYi-7B-Llama2 — китайская языковая модель, разработанная командой YaYi (Wenge Research) и дообученная на базе LLaMA 2. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LLaMA и принимает контекст до 2048 токенов; опубликованные веса представлены в формате PyTorch. Модель предназначена для генерации текста и выполнения инструкций на китайском и английском языках, включая многоходовый диалог и задачи анализа в областях медиакоммуникаций, анализа общественного мнения, общественной безопасности, финансовых рисков и городского управления. Разработчики сообщают о дообучении на миллионах искусственно созданных высококачественных примеров и о настройке по отзывам пользователей. Карточка не уточняет лицензию; условия использования следует проверять в репозитории модели.
zephyr-7b-alpha-sharded-Mistral-7B-Instruct-v0.1 — объединённая чат-модель Maziyar Panahi на базе Mistral-7B-Instruct-v0.1 и anakin87/zephyr-7b-alpha-sharded. Модели объединены методом SLERP; архитектура — плотная Mistral с авторегрессионным декодером, размер — 7,1 млрд параметров. Репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста в ответ на инструкции и для диалоговых сценариев. Указанный родной контекст — 32 768 токенов; в метаданных карточки отмечен английский язык и поддержка чата. Модель распространяется по лицензии Apache-2.0. README не содержит результатов оценки качества, поэтому пригодность для конкретных задач следует проверять на собственных данных.
Это контрольная точка языковой модели семейства Qwen2 от пользователя Hugging Face yuq-zhou, сохранённая в стандартном формате Transformers для загрузки через AutoModelForCausalLM. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Qwen2ForCausalLM и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогового взаимодействия; в метаданных также отмечен интерфейс вызова инструментов. Карточка называет её резервной копией исследовательского артефакта, но не описывает обучение, датасеты, языковое покрытие или результаты оценки. Репозиторий содержит веса safetensors. Лицензия в предоставленных данных не указана.
ALIA-40b — базовая языковая модель, разработанная командой проекта ALIA и предварительно обученная с нуля. Это декодерный Transformer семейства Llama с 38,3 млрд параметров по метаданным и контекстом до 32 768 токенов. Обучение проводилось на 9,37 трлн токенов текстовых данных на 35 европейских языках и коде. Модель предназначена для генерации текста и может служить основой для последующей адаптации к многоязычным задачам, включая перевод, генерацию в специализированных областях и анализ текста. Она не проходила инструкционное дообучение или выравнивание с предпочтениями людей, поэтому сама по себе не является готовым ассистентом: перед практическим применением рекомендуется дополнительное дообучение и оценка рисков. В README отмечены возможные смещения, слабое представление нестандартных языковых вариантов и ограничения анализа безопасности. Веса доступны в формате Safetensors, лицензия — Apache 2.0. Модель выпущена в декабре 2024 года; карточка также сообщает о публикации обучающих скриптов и конфигураций.
Карточка модели Alluci/alluci-polytope-gemma-4-31b-it-bf16 на Hugging Face совпадает с карточкой mlx-community/gemma-4-31b-it-bf16, поэтому описание составлено по ней. Gemma 4 31B IT BF16 — мультимодальная инструкционно-настроенная модель Google DeepMind, преобразованная сообществом mlx-community в формат MLX из google/gemma-4-31B-it. Она предназначена для диалогов, генерации текста и анализа изображений; запускать её можно с помощью mlx-vlm. Модель использует плотную архитектуру Gemma 4 и принимает текст и изображения, выдавая текст. В репозитории указаны веса BF16 в формате safetensors и лицензия Apache-2.0.
ArliAI_QwQ-32B-ArliAI-RpR-v1-GGUF — это квантованные версии текстовой генеративной модели QwQ-32B-ArliAI-RpR-v1, разработанной ArliAI. Файлы в формате GGUF подготовлены bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться через llama.cpp, LM Studio и другие совместимые проекты. Модель имеет размер 32B по обозначению базовой модели и рассчитана на англоязычные сценарии. В репозитории представлены варианты от BF16 до низкобитных квантований Q3 и Q4, а также более качественные Q5, Q6 и Q8. Это позволяет выбирать между качеством ответов, потреблением памяти и скоростью локального запуска. Для работы используется формат сообщений с ролями system, user и assistant; в шаблоне предусмотрен блок рассуждений <think>. Сильной стороной являются разнообразие вариантов квантования и возможность локального использования на совместимом оборудовании, включая запуск через llama.cpp и LM Studio. Более компактные варианты подходят для систем с ограниченной оперативной памятью, но могут заметнее уступать по качеству полноразмерным версиям. В README не указаны архитектура, размер контекстного окна, мультимодальные возможности, результаты бенчмарков и подробные ограничения модели, поэтому эти характеристики нельзя подтвердить. Лицензия — Apache-2.0.
B0-9B-GGUF — это набор квантованных файлов модели schneewolflabs/B0-9B, подготовленный пользователем mradermacher в формате GGUF. Модель связана с экосистемой Qwen3.5 и предназначена для запуска средствами, поддерживающими GGUF, включая локальные сценарии инференса. В обучении или дообучении использовались наборы данных Alembic-DPO, weasel-dpo, grok-politically-incorrect-dpo, seX-ai-dpo, i-DPO, Luna-DPO, MahouMix-v1, egirl-delegation-dpo и egirl-hemlock-dpo; заявленный язык — английский. Доступны варианты квантования от Q2_K до Q8_0, а также f16, размером примерно от 4,0 до 18,5 ГБ. Для мультимодальных сценариев предоставляются дополнительные файлы mmproj-Q8_0 и mmproj-f16, однако конкретные поддерживаемые модальности, архитектура и размер контекста в README не указаны. Варианты Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как обеспечивающий очень хорошее качество, а Q8_0 — как сочетающий высокое качество и скорость. Модель может быть полезна для локальных англоязычных диалоговых и агентных задач, а также сценариев использования инструментов, на что указывают теги agents и tool-use. Качество и требования к памяти зависят от выбранного уровня квантования; менее компактные варианты обычно требуют больше ресурсов, а более агрессивное квантование может снижать качество. В README отсутствуют результаты бенчмарков и подробное описание ограничений поведения. Лицензия модели — Apache-2.0.
Pankaj8922/bert-small-nli — модель Pankaj8922, дообученная на базе praJJwal1/bert-small для распознавания логических отношений между текстом и гипотезой: следования, нейтральности и противоречия. Её можно применять для классификации текста по произвольным категориям через zero-shot-подход: к тексту добавляют гипотезу вида «This text is about {label}.» и оценивают отношение между ними. Модель использует архитектуру BERT с классификационной головой BertForSequenceClassification, содержит 32,4 млн параметров и принимает текст с контекстом до 512 токенов. Обучена на сбалансированной и отфильтрованной смеси наборов MNLI, SNLI, FEVER-NLI и ANLI. В README указаны точность и macro-F1 около 0,805 на тестовой выборке. Подходит для быстрого инференса и сред с ограниченными ресурсами; на новых наборах меток её zero-shot-точность ниже, чем у более крупных NLI-моделей. Лицензия — Apache-2.0.
bge-reranker-v2-m3-GGUF — GGUF-квантизированная версия модели bge-reranker-v2-m3, разработанной BAAI. Модель предназначена для переранжирования результатов поиска: принимает запрос и документ или фрагмент текста и напрямую вычисляет оценку их релевантности, а не создаёт эмбеддинги. Это делает её подходящей для семантического поиска, retrieval-систем и сценариев, где требуется упорядочить найденные документы по соответствию запросу. Модель основана на bge-m3 и обладает мультиязычными возможностями; конкретный набор поддерживаемых языков и размер контекста в README не указаны. Оценку релевантности можно использовать напрямую или преобразовать в диапазон от 0 до 1 с помощью сигмоидальной функции. Ключевыми преимуществами заявлены компактность, простота развёртывания, высокая скорость инференса и поддержка мультиязычных сценариев. README не содержит сведений о точном размере модели, параметрах, формате квантования или измерениях качества, поэтому эти характеристики оценить нельзя. Распространяется по лицензии Apache-2.0. GGUF-квантизация выполнена на основе указанного релиза llama.cpp; для исходной модели приведена ссылка на BAAI/bge-reranker-v2-m3.
big3-pt2 — текстовая авторегрессионная модель семейства Llama, созданная deltanym методом passthrough mergekit из слоёв deltanym/bigllama3.2-3b-to-7b. Модель содержит 9,5 млрд параметров и рассчитана на генерацию текста и диалоги; метаданные также отмечают интерфейс для вызова инструментов. Модель принимает текстовые запросы и выдаёт текст. Заявленная длина контекста — 131 072 токена. В репозитории используются веса safetensors; конфигурация слияния задаёт тип bfloat16. README не описывает специальную область применения или поддержку конкретных языков. Лицензия в предоставленных данных не указана.
ChengyouXin/cacheverifier-quora — текстовый Cross Encoder, обученный с помощью библиотеки Sentence Transformers для оценки пар текстов. Модель принимает запрос и кандидатный текст, выдаёт один числовой балл релевантности; баллы подходят для ранжирования результатов семантического поиска и других задач сравнения текстовых пар. Архитектура основана на BERT и BertForSequenceClassification, размер — 25,9 млн параметров, максимальная длина входной последовательности — 512 токенов. В README указано обучение на 11 928 примерах с колонками query, response и label и функцией потерь BinaryCrossEntropyLoss. Примеры охватывают вопросы и ответы Quora, включая перефразирования. Данных о лицензии и целевых языках в предоставленных источниках нет. Поскольку обучение заняло 19,5 секунды, качество и обобщение на другие наборы данных следует проверять для конкретного применения.
MaziyarPanahi/calme-2.4-llama3-70b-GGUF — это набор файлов модели в формате GGUF для модели MaziyarPanahi/calme-2.4-llama3-70b. Модель разработана и квантована MaziyarPanahi, а GGUF поддерживается экосистемой llama.cpp. По назначению это текстовая generative-модель на базе Llama 3 для локального запуска и генерации текста. В README указано, что доступны варианты квантования с разрядностью от 2 до 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством работы. Формат совместим с llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All, LoLLMS Web UI, candle и другими инструментами. Поддерживаются сценарии локального использования, включая запуск через графические интерфейсы, серверы и OpenAI-совместимые API. Из предоставленных данных не указаны точная архитектура исходной модели, размер контекста, поддерживаемые языки, результаты оценки, системные требования и ограничения качества. Лицензия в README не указана; условия использования следует уточнять в карточке исходной модели и репозитории. Split-файлы объединять вручную не требуется: совместимые библиотеки могут загрузить их автоматически по первому файлу.
CalmeRys-78B-Orpo-v0.1 — языковая модель dfurman, дообученная на 1,5 тыс. примеров датасета mlabonne/orpo-dpo-mix-40k на базе MaziyarPanahi/calme-2.4-rys-78b. Это плотная модель семейства Qwen2 с 76,7 млрд параметров, доступная в формате safetensors; метаданные указывают контекст до 32 768 токенов и лицензию MIT. Модель предназначена для генерации текста в диалогах и сценариях общего назначения: многоходового общения, ролевых диалогов, рассуждений, работы с длинным контекстом и задач с агентными возможностями. Карточка сообщает о высокой позиции на Open LLM Leaderboard по состоянию на октябрь 2024 года, однако не приводит полные результаты оценки. Модель принимает текст и генерирует текст. Заявлена поддержка английского языка; дополнительных языков карточка и метаданные не подтверждают. Для запуска в README приведён пример с Transformers и Accelerate. Ограничения: указанный размер требует значительных вычислительных ресурсов, а заявление о рейтинге относится к октябрю 2024 года и не гарантирует качество на конкретных задачах. Лицензия — MIT.
NVIDIA NeMo Canary-Qwen-2.5B — модель распознавания английской речи, разработанная NVIDIA. Она предназначена для преобразования аудио в текст с пунктуацией и заглавными буквами, а также для обработки уже полученной расшифровки: например, её можно суммировать или задавать по ней вопросы. В режиме распознавания модель принимает аудио и текстовую инструкцию; в текстовом режиме работает только с расшифровкой и не анализирует исходное аудио. Модель содержит 2,5 млрд параметров и построена как Speech-Augmented Language Model: аудиокодировщик FastConformer связан с декодером Transformer на основе Qwen3-1.7B. Для распознавания рассчитана на английский язык; в README указана скорость 418 RTFx. Обучающие аудиозаписи длились не более 40 секунд, а максимальная последовательность ограничена 1024 токенами, поэтому точность на более длинных входах может снижаться. Модель не сохраняет навыки рассуждения базовой LLM в режиме работы с аудио. Для использования требуется NVIDIA NeMo; лицензия — CC BY 4.0.
HiTZ/cap-punct-es — модель центра HiTZ при Университете Страны Басков UPV/EHU для восстановления заглавных букв и пунктуации в испанском тексте. Она обучена с нуля на базе Marian NMT на корпусе примерно из 9,8 млн предложений. Архитектура — MarianMTModel, размер — 41,6 млн параметров, максимальная длина контекста — 512 токенов. Модель принимает текст без регистра и пунктуации и возвращает восстановленный текст. Модель предназначена для обработки испанских предложений, в том числе распознанной речи и текста, в котором при подготовке удалили регистр и знаки препинания. В оценках на подвыборках FLORES-101 и Common Voice модель снизила WER с 19,55% до 5,99% и с 22,42% до 5,75% соответственно. Лицензия — Apache 2.0. Результаты зависят от соответствия входного текста обработке, использованной при обучении; разработчики также отмечают возможные смещения и нежелательные искажения.
CausalLM 14B — языковая модель на архитектуре LLaMA с 14 миллиардами параметров, разработанная CausalLM. TheBloke подготовил её квантованные версии в формате GGUF, предназначенные для локального запуска и инференса через llama.cpp и совместимые инструменты. Модель относится к классу text-generation и поддерживает английский и китайский языки. Модель предназначена для генерации текста и диалоговых сценариев с использованием шаблона ChatML. Доступны варианты квантования от 2 до 8 бит, что позволяет выбирать баланс между качеством, скоростью и требованиями к памяти, включая запуск на CPU и GPU. Формат GGUF поддерживается llama.cpp, text-generation-webui, LM Studio, KoboldCpp, ctransformers, llama-cpp-python и другими клиентами. К сильным сторонам относятся широкий набор обучающих данных, поддержка локального инференса и несколько уровней квантования. Ограничения включают отсутствие сведений о размере контекста, точных характеристиках производительности и мультимодальных возможностях; по представленным данным модель следует рассматривать как текстовую. Исходная модель заявлена под лицензией WTFPL, а квантованные версии также сопровождаются условиями Meta Llama 2 License, поэтому применимость и взаимодействие этих лицензий необходимо проверять перед использованием.
win10/ChatML-Nemo-Pro-model_stock — объединённая языковая модель, созданная с помощью mergekit методом Model Stock на основе win10/ChatML-Nemo-Pro. Модель использует архитектуру Mistral с плотной причинной языковой сетью и содержит 12,1 млрд параметров. Она предназначена для генерации текста и диалогового общения в формате ChatML. Модель принимает текст и выдаёт текст. В метаданных указан контекст длиной до 1 024 000 токенов и библиотека Transformers. README не приводит список дополнительных моделей, участвовавших в слиянии, поэтому состав объединения помимо базовой модели определить нельзя. Лицензия в предоставленных данных не указана.
cuckoo-starling-32k-7B — объединённая языковая чат-модель на архитектуре Mistral, созданная grimjim методом SLERP с помощью mergekit из grimjim/Mistral-Starling-merge-trial1-7B и grimjim/kukulemon-7B. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и диалоговых ответов. В карточке указана поддержка шаблонов ChatML и Alpaca; автор сообщает о неформальном тестировании с настройками temperature 0,9–1,0 и minP 0,02. В README обсуждается ручная настройка RoPE theta до 100K и отмечается, что при тестировании связность повествования иногда ухудшалась с RoPE theta 1M. Модель доступна в формате safetensors, использует библиотеку Transformers и распространяется по лицензии CC BY-NC 4.0, ограничивающей коммерческое использование. README приводит результаты нескольких оценок, но не описывает полный протокол тестирования, поэтому они не гарантируют качество на конкретных задачах.
mrcuddle/DarkHermes3-Llama3.2-3B-Instruct — дообученная компанией mrcuddle языковая модель для диалогов, следования инструкциям и генерации текста. Она основана на mrcuddle/Dark-Hermes3-Llama3.2-3B и обучена на англоязычном наборе llamafactory/alpaca_en. Модель использует плотную архитектуру LlamaForCausalLM, содержит 3,2 млрд параметров и поддерживает контекст до 131 072 токенов. Она рассчитана на текстовый ввод и генерацию текста; метаданные указывают поддержку чата и выполнения инструкций. В README приведено значение loss 1,1205 на оценочном наборе, но подробности оценки не описаны. Модель подходит для англоязычных диалоговых приложений, ответов на инструкции и генерации текста. Весовые файлы доступны в форматах PyTorch и Safetensors. Лицензия в предоставленных данных не указана.
JamAndTeaStudios/DeepSeek-R1-Distill-Qwen-1.5B-FP8-Dynamic — это квантизированная версия языковой модели DeepSeek-R1-Distill-Qwen-1.5B, опубликованная JamAndTeaStudios. Модель предназначена для генерации текста и чат-сценариев, включая локальный или серверный инференс. В карточке указана поддержка английского языка и библиотека Transformers. Модель использует FP8-квантизацию весов и активаций линейных операторов внутри трансформерных блоков. Квантизация снижает число битов на параметр с 16 до 8, что примерно вдвое уменьшает размер модели на диске и требования к памяти GPU. Размер базовой модели составляет около 1,5 млрд параметров. Контекстное окно и дополнительные модальности не указаны, поэтому модель следует рассматривать как текстовую. Основные преимущества — сниженные требования к памяти и возможность более эффективного инференса при сохранении архитектуры базовой модели. Ограничения связаны с потерями качества, возможными для квантизированной версии, отсутствием опубликованных результатов оценки и неизвестным размером контекстного окна. Для запуска рекомендуются SGLang версии 0.3 или новее и vLLM версии 0.5.2 или новее. Модель распространяется по лицензии MIT.
bartowski/DeepSeek-R1-Distill-Qwen-1.5B-GGUF — набор GGUF-квантизованных версий модели DeepSeek-R1-Distill-Qwen-1.5B, подготовленный bartowski. Квантизация выполнена с использованием llama.cpp версии b4514 и метода imatrix. Модель относится к классу text-generation и предназначена для локальной генерации текста, включая запуск через llama.cpp и LM Studio. Доступны варианты от исходных F32 и F16 до квантизаций Q8_0, Q6, Q5, Q4, Q3, Q2 и IQ4/IQ3 объёмом примерно от 0,88 до 7,11 ГБ. Более точные варианты обеспечивают лучшее качество, а варианты с меньшим размером подходят для систем с ограниченным объёмом оперативной памяти; в README рекомендованы несколько конфигураций Q6, Q5 и Q4. Формат GGUF облегчает локальный запуск, однако README не содержит сведений об архитектуре базовой модели, поддерживаемых языках, длине контекста, мультимодальности или точных требованиях к оборудованию. Для корректного взаимодействия указан специальный формат prompt с системным сообщением, пользовательским запросом и ответом ассистента. Ограничения включают неизбежное снижение качества при агрессивной квантизации и отсутствие в представленном README информации о лицензии и условиях коммерческого использования.
DeepSeek-R1-Distill-Qwen-1.5B-GGUF — это GGUF-версия дистиллированной языковой модели DeepSeek-R1-Distill-Qwen-1.5B. Модель разработана командой DeepSeek, а данный вариант опубликован Unsloth. Она предназначена для локального запуска и генерации текста, включая ответы на вопросы, диалоговые сценарии и задачи рассуждения. Модель относится к семейству Qwen и имеет размер 1,5 млрд параметров. Это текстовая модель, работающая через llama.cpp; в README приведены примеры квантования Q4_K_M и использования KV-кэша Q8_0, а также возможность частичного переноса слоёв на GPU. Указан английский язык. Длина контекста и более подробные характеристики архитектуры в предоставленных данных не указаны. К сильным сторонам относятся небольшой размер, возможность локального запуска на доступном оборудовании и поддержка GGUF-квантизаций, снижающих требования к памяти. Ограничения включают неизвестные в README показатели качества, отсутствие заявленной мультимодальности и неполные сведения о контексте и языковой поддержке; для корректного диалога требуется использовать специальные токены или совместимый chat template. Модель распространяется по лицензии Apache-2.0.
DeepSeek-V2-Lite-Chat-IMat-GGUF — это GGUF-квантизированная версия диалоговой языковой модели DeepSeek-V2-Lite-Chat, разработанной deepseek-ai. Квантизацию выполнил legraphista с использованием форка llama.cpp и метода IMatrix, предназначенного для сохранения качества при уменьшении точности весов. Исходная модель имеет формат BF16. Модель предназначена для генерации текста и диалоговых сценариев при локальном запуске через совместимые инструменты, включая llama.cpp. Доступны варианты в форматах FP16, BF16, Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ-квантизациях, что позволяет выбирать между качеством, скоростью и требованиями к памяти. Размер файлов варьируется примерно от 6 до 31 ГБ. IMatrix применяется в ряде низко- и среднебитных вариантов, включая Q4_K, Q3_K, Q2_K и многие IQ-форматы. Сильная сторона набора — широкий выбор степеней квантизации и возможность локального использования в экосистеме GGUF. При этом квантизация снижает требования к ресурсам, но может уменьшать точность и качество генерации по сравнению с исходной моделью; степень потерь зависит от выбранного варианта. README не содержит сведений об архитектурных деталях, числе параметров, поддерживаемых языках, размере контекста и лицензии исходной модели, поэтому эти характеристики нельзя достоверно указать.
Dmeta-embedding-zh — плотная модель эмбеддингов на архитектуре BERT, разработанная командой DMetaSoul. Она преобразует китайские и английские тексты в векторы для семантического поиска, сопоставления предложений и других задач, основанных на близости текстовых представлений. Модель предназначена для поиска, вопросно-ответных систем, интеллектуальной поддержки клиентов и приложений с дополненной генерацией по поиску (RAG); поддерживает интеграцию через Transformers, Sentence-Transformers и LangChain. В модели 129,5 млн параметров, размерность эмбеддингов — 768, а контекстное окно составляет до 1024 токенов. В README заявлены обучение на разнообразных слабых и размеченных парах, включая данные из нескольких предметных областей, и оптимизация для задач поиска. Репозиторий распространяется в формате PyTorch по лицензии Apache-2.0. Результаты MTEB, приведённые в карточке, относятся к опубликованной оценке 2024 года; фактическое качество может зависеть от данных и сценария применения.
Это модель классификации текста из проекта Adaptive Classifier, построенная на базе answerdotai/ModernBERT-base. Она относит текст к одному из двух классов качества: high_quality или poor_quality; в карточке указаны 10 обучающих примеров, поровну для каждого класса, и размерность эмбеддингов 768. Модель предназначена для оценки качества текстов и поддерживает непрерывное обучение с добавлением новых классов. Для каждого класса требуется не менее трёх примеров; максимум составляет 150 примеров на класс, а прототипы обновляются каждые 10 примеров. Модель распространяется в формате safetensors по лицензии Apache-2.0.