I.3Извлечение и структурирование данных

Многоязычный энкодер вопросов для Dense Passage Retrieval (DPR), опубликованный пользователем voidful и основанный на bert-base-multilingual-cased. Модель преобразует вопрос в плотный вектор: в Transformers результат доступен через pooler_output. Её можно использовать как компонент поиска по корпусу документов в связке с энкодером passages и системой извлечения ответов. Модель содержит 205,1 млн параметров, использует архитектуру DPRQuestionEncoder и принимает текстовые входные данные с контекстом до 512 токенов. Для обучения указаны датасеты NQ, Trivia, SQuAD, DRCD и MLQA; обучающий набор включает 644 217 пар вопросов, а проверочный — 73 710. Репозиторий содержит веса PyTorch и Safetensors. Лицензия в предоставленных данных не указана.

maticzav/e5-base-legal — англоязычная модель Sentence Transformers, дообученная на базе intfloat/e5-base-v2 на 4 371 паре юридических текстов. Она кодирует предложения и абзацы в плотные векторы размерности 768 и оценивает семантическое сходство с помощью косинусного сходства. Модель подходит для семантического поиска и сопоставления формулировок в юридических документах, а также для кластеризации и поиска перефразировок. В основе — архитектура BERT; максимальная длина входа составляет 512 токенов. Для дообучения использован набор данных с парами текстов и оценками сходства. В README приведены результаты на contradiction-eval: Pearson 0,8482 и Spearman 0,623; это отдельная оценка сходства, а не гарантия качества для любых юридических задач. Модель не генерирует юридические заключения и её результаты требуют проверки специалистом. Лицензия в предоставленных данных не указана.

ERNIE-4.5-21B-A3B-MLX-4bit — это 4-битная версия модели ERNIE-4.5-21B-A3B-PT, разработанной Baidu и преобразованной в формат MLX командой LM Studio с использованием mlx_lm. Модель предназначена для генерации текста и может применяться в сценариях локального запуска и других задачах text generation, поддерживаемых исходной моделью. Модель основана на архитектуре ERNIE-4.5-21B-A3B; точные сведения об архитектурных особенностях, размере активной части, модальностях и длине контекста в README не приведены. Указана поддержка английского и китайского языков. Ключевая особенность этой версии — 4-битная квантизация, оптимизированная для работы на устройствах с Apple Silicon, что может снизить требования к памяти по сравнению с полноформатной моделью, но потенциально влияет на точность. Модель распространяется по лицензии Apache-2.0. README не содержит подробных результатов тестирования, описания ограничений исходной модели или гарантий качества; при использовании следует учитывать возможное появление неточного, вредного или нежелательного контента.

google/flan-t5-small — небольшая языковая модель семейства T5, выпущенная Google и дообученная следованию инструкциям на более чем тысяче задач. Она преобразует текстовый ввод в текстовый вывод и предназначена для генерации и понимания языка, включая ответы на вопросы, рассуждения и выполнение разнообразных NLP-задач в режиме zero-shot и few-shot. Модель насчитывает 45,8 млн параметров, имеет контекст до 512 токенов и доступна в форматах PyTorch, TensorFlow, Flax и Safetensors. Модель поддерживает множество языков, включая английский, французский, немецкий, румынский, русский, испанский, японский, китайский и другие. Лицензия Apache 2.0 разрешает использование и распространение на её условиях. Небольшой размер делает её удобной для экспериментов и запуска с ограниченными ресурсами, но качество может уступать более крупным моделям, а результат требует проверки: модель может воспроизводить смещения и генерировать неподходящий контент. В карточке также отмечено, что модель не тестировалась в реальных приложениях.

Functionary-small-v3.1-GGUF — это набор GGUF-квантизаций текстовой генеративной модели functionary-small-v3.1, разработанной meetkai и подготовленной квантизатором bartowski с использованием llama.cpp. Модель предназначена для локального запуска задач генерации текста; конкретная специализация исходной модели, поддерживаемые языки, архитектура и размер в параметрах в предоставленном README не указаны. Доступны версии от F32 размером 32,13 ГБ до сильно сжатых вариантов IQ2_M размером 2,95 ГБ. Наиболее качественными и рекомендуемыми названы Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M и Q4_K_S; варианты с суффиксом L используют Q8_0 для embedding- и output-весов. Модель совместима с llama.cpp и может запускаться, в частности, через LM Studio. Чем сильнее квантизация, тем ниже требования к оперативной памяти, но потенциально ниже качество. Преимущество набора — широкий выбор компромиссов между качеством и размером, включая варианты для систем с ограниченной памятью. Ограничения README не раскрывает: отсутствуют данные о контекстном окне, мультимодальности, точных сценариях применения, бенчмарках и фактическом качестве на разных языках. Указана лицензия MIT.

mlx-community/gemma-3n-E2B-it-lm-4bit — это 4-битная модель в формате MLX, созданная сообществом mlx-community на основе instruction-tuned модели google/gemma-3n-E2B-it, разработанной Google. Конвертация выполнена с использованием mlx-lm версии 0.25.2, поэтому модель предназначена для запуска в экосистеме MLX, в частности на совместимом оборудовании Apple через библиотеку mlx-lm. Модель ориентирована на генерацию текста в диалоговом формате и поддерживает сценарии, связанные с обработкой текста, аудио и видео, включая automatic speech recognition, automatic speech translation и преобразование аудио или видео в текст, согласно указанным в карточке тегам. Обозначение E2B указывает на класс модели примерно в 2 миллиарда параметров, а lm-4bit — на 4-битное квантование, которое обычно уменьшает требования к памяти и ускоряет локальный запуск, но может снижать точность по сравнению с полной версией. README не содержит сведений о точном устройстве архитектуры, максимальной длине контекста, перечне поддерживаемых языков, фактических ограничениях мультимодальной обработки и результатах тестирования. Для использования требуется установить mlx-lm и применять встроенный chat template, если он доступен. Модель распространяется по лицензии Gemma; на Hugging Face необходимо ознакомиться с лицензией Google и подтвердить условия доступа.

Это GGUF-квантизация модели llmfan46/gemma-4-26B-A4B-it-ultra-uncensored-heretic, созданной независимым автором llmfan46 на основе google/gemma-4-26B-A4B-it. Модель преобразована методом Heretic 1.2.0 с использованием Arbitrary-Rank Ablation (ARA), чтобы существенно уменьшить количество отказов и ограничений при сохранении близкого к исходной модели поведения. Указана лицензия Apache-2.0 с отдельной ссылкой на лицензию Gemma 4. Модель предназначена для генерации и понимания текста, а согласно метаданным pipeline_tag также поддерживает сценарии image-text-to-text. В названии и описании заявлен размер 26B с обозначением A4B, однако подробные сведения об архитектуре, контекстном окне и поддерживаемых языках в README не приведены. Доступны варианты GGUF в форматах BF16, Q8_0, Q6_K и Q5_K_M, а также другие квантизации, рассчитанные на запуск с различными требованиями к памяти и качеству. Главное преимущество — значительно меньшее число отказов: в приведённом тесте 3 из 100 против 100 из 100 у оригинальной модели. При этом автор сообщает о небольшом изменении поведения по KL divergence 0,1237. На PIQA модель получила точность 91,29% против 92,06% у оригинала, а на MMLU — 79,99% против 82,48%; это указывает на некоторое снижение качества в задачах общего рассуждения и понимания. Уровень безопасности и ограничения после декорсензуры могут отличаться от исходной Gemma, поэтому модель требует осторожного применения в чувствительных сценариях.

Ayodele01/gemma-4-E4B-Gemini-3.1-Pro-Reasoning-Distill-GGUF — GGUF-квантизированные версии инструкционно дообученной модели Google Gemma-4 E4B с 4 млрд параметров. Модель доработана методом LoRA на наборах данных с примерами рассуждений, созданных на основе Gemini 3.1 Pro, чтобы улучшить способности к пошаговому reasoning и решению сложных задач. Модель ориентирована на генерацию текста и указана как англоязычная. Модель предназначена для локального запуска через llama.cpp и Ollama, включая задачи ответов на вопросы, логического вывода, решения математических и других требующих рассуждений запросов. Доступны варианты F16, Q8_0, Q5_K_M, Q4_K_M и Q3_K_M размером примерно от 4,6 до 15 ГБ; вариант Q5_K_M обозначен как сбалансированный и рекомендуемый. Заявлена поддержка контекста до 128K токенов, при этом в рекомендуемых настройках указана длина 8192 токена. Сильными сторонами модели являются компактный размер, возможность работы на локальных устройствах и специализация на reasoning-задачах. Качество и требования к памяти зависят от выбранного уровня квантизации: F16 обеспечивает наилучшее качество, а Q3_K_M подходит для наиболее ограниченных устройств, вероятно снижая точность. В README не приведены независимые результаты оценки, подробные сведения об архитектуре Gemma-4 или гарантии качества рассуждений. Модель распространяется по лицензии Gemma.

Это неофициальная обёртка для Transformers модели GigaAM-v2-CTC, первоначально выпущенной SberDevices. Она предназначена для распознавания русской речи из аудио с декодированием beam search и повторным ранжированием гипотез внешней n-граммной языковой моделью. Обёртка поддерживает извлечение временных меток слов; для этой реализации указан шаг 40 мс. Модель использует архитектуру Conformer с CTC-декодированием и доступна через интерфейс библиотеки Transformers. Модель подходит для транскрибации русской речи, в том числе с получением временных границ слов. Для работы требуются PyTorch, torchaudio и Transformers; в карточке приведены версии 2.7.1, 2.7.1 и 4.49.0 соответственно. Репозиторий распространяется по лицензии MIT. Качество распознавания может зависеть от акустических условий и соответствия речи обучающим данным; количественные оценки качества в карточке не приведены.

GLuCoSE-base-ja — японская модель эмбеддингов предложений, разработанная Акихико Фукутти, Юитиро Хосино и Ётаро Ватанабэ. Она основана на LUKE и дообучена для получения векторных представлений японского текста; использует mean pooling и формирует эмбеддинги размерности 768. Модель рассчитана на последовательности длиной до 512 токенов по README; метаданные указывают контекст в 514 токенов. Модель предназначена для сравнения смысловой близости предложений и семантического поиска по японским текстам. Для обучения использована смесь веб-данных и наборов для поиска и понимания естественного языка. В карточке приведены результаты оценки на JSTS и AIO3, где модель превзошла сравниваемые эмбеддинг-модели по указанным метрикам. Модель принимает текст и выдаёт векторные представления, удобные для поиска и ранжирования по близости. Она поддерживает японский язык и распространяется по лицензии Apache-2.0. Оценки в карточке относятся к конкретным тестовым наборам и сами по себе не гарантируют качество на других данных.

GPT-5.4 nano — облегчённая и экономичная модель семейства GPT-5.4 от OpenAI. Она принимает текст и изображения и предназначена для задач с высокими требованиями к скорости и большим объёмом запросов. Указана поддержка текстовых и визуальных входных данных; доступная информация не описывает архитектуру, размер и длину контекста модели. Модель подходит для сценариев, где важны низкая задержка и стоимость обработки. README обрывается после описания этих характеристик, поэтому конкретные задачи, языки и условия использования установить нельзя.

mradermacher/gpt-oss-20b-offload-i1-GGUF — квантизированная версия модели gpt-oss-20b-offload, разработанной myselfsaurabh и квантизированной mradermacher. Модель относится к causal language model с архитектурой mixture-of-experts и предназначена для генерации и обработки текста на английском языке. Распространяется в формате GGUF и ориентирована на запуск с распределением нагрузки между CPU и GPU, в том числе в средах вроде Colab. Размер исходной модели заявлен как 20B параметров, однако точные сведения о контекстном окне и мультимодальности отсутствуют. Репозиторий содержит варианты квантизации i1 с разными типами и размерами, примерно от 12,1 до 22,3 ГБ, включая IQ- и Q-варианты. Это позволяет выбирать компромисс между скоростью, занимаемой памятью и качеством; среди рекомендуемых указаны i1-Q4_K_S и i1-Q4_K_M, тогда как наиболее агрессивные варианты могут заметно снижать качество. Модель подходит для локального текстового вывода при ограниченных ресурсах, но README не содержит результатов бенчмарков или подробной оценки качества. Указана лицензия MIT.

OpenGVLab/InternVL-14B-Flickr30K-FT-364px — дообученная мультимодальная модель InternVL для поиска соответствий между изображениями и текстами. Она принимает изображения размером 364 × 364 пикселя и текстовые описания; обучение для задач retrieval выполнено на Flickr30K на основе OpenGVLab/InternVL-14B-224px. Архитектура InternVL объединяет зрительный трансформер ViT с языковой моделью; размер модели — 14 млрд параметров. Модель предназначена для извлечения признаков и поиска текста по изображению или изображения по тексту. При использовании README требует добавлять префикс «summarize:» и устанавливать tokenizer.pad_token_id в 0, иначе результаты могут быть некорректными. Репозиторий распространяется по лицензии MIT.

OpenGVLab/InternVL3-38B-hf — реализация в формате Hugging Face Transformers мультимодальной модели InternVL3, разработанной OpenGVLab. Это дообученная версия OpenGVLab/InternVL3-38B-Instruct с плотной архитектурой InternVL и 38 млрд параметров. Модель принимает текст, изображения и видео и генерирует текстовые ответы; её можно использовать как для диалога по тексту, так и для анализа визуальных данных. Модель предназначена для восприятия и рассуждений по изображениям и видео, ответов на вопросы о визуальном содержимом и мультимодального общения. Семейство InternVL3 также ориентировано на использование инструментов, работу с графическими интерфейсами, промышленный анализ изображений и 3D-восприятие, однако карточка этой версии подтверждает прежде всего обработку изображений и видео через интерфейс image-text-to-text. Реализация поддерживает пакетный инференс и чередование текстовых и визуальных входов. Репозиторий содержит веса в формате Safetensors и использует библиотеку Transformers. Языки обозначены как многоязычные. Лицензия указана как other; конкретные условия следует проверять в файлах лицензии репозитория.

jina-embeddings-v5-omni-nano-classification-GGUF — мультимодальная модель эмбеддингов, разработанная Jina AI и предназначенная для запуска через llama.cpp. Это GGUF-квантизированная версия модели jina-embeddings-v5-omni-nano-classification с поддержкой текстовых, графических, видео- и аудиоданных. Модель преобразует входные данные в 768-мерные векторы общего пространства, поэтому документы можно индексировать с помощью текста, а выполнять поиск — по изображениям, видео, аудио или тексту без переиндексации. Модель содержит около 0,95 млрд параметров с текстовой, визуальной и аудиобашнями, использует pooling по последнему токену и поддерживает контекст до 8192 токенов. Она ориентирована на задачи классификации, мультимодального поиска и семантического сходства. Доступны матрёшечные размерности эмбеддингов от 32 до 768, а текстовая часть представлена в F16 и нескольких уровнях int-квантизации; мультимодальные проекторы используют F16. Заявлена мультиязычность, однако конкретный перечень языков в README не указан. Сильные стороны модели — единое векторное пространство для нескольких модальностей, относительно небольшой размер, возможность квантизации и поддержка различных форматов изображений, видео, аудио и PDF. Ограничения связаны с тем, что вариант предназначен только для classification-задач, а мультимодальная работа требует специальной ветки llama.cpp с патчами Jina AI, которые ещё не включены в upstream-версию. Лицензия — CC BY-NC 4.0, допускающая использование с ограничениями для некоммерческих целей.

Kimi-K3-UD-Q4_K_XL-layers — пакет GGUF-файлов модели Kimi-K3-UD-Q4_K_XL, подготовленный Mesh LLM для распределённого локального инференса. Пакет создан на основе unsloth/Kimi-K3-GGUF: веса разделены на отдельные артефакты по слоям, чтобы распределять вычисления и память между несколькими машинами. В метаданных указаны поддержка чата и изображений; основной сценарий — диалоговый инференс с изображениями и текстом через Mesh LLM. Пакет предназначен для частного запуска на собственном оборудовании, в том числе на кластере, когда модель не помещается на одном узле. Mesh LLM предоставляет локальный API, совместимый с OpenAI Chat Completions. Вариант весов — UD-Q4_K_XL в формате GGUF. Лицензия обозначена как other; условия следует сверить с карточкой исходной модели unsloth/Kimi-K3-GGUF.

llm-wizard разработала Sentence Transformers модель, дообученную на Snowflake/snowflake-arctic-embed-l. Она преобразует предложения и абзацы в нормализованные плотные векторы размерностью 1024 для сравнения по косинусному сходству; архитектура включает BERT, пулинг CLS-токена и нормализацию. Максимальная длина последовательности — 512 токенов. Модель предназначена для семантического поиска и оценки сходства текстов, включая поиск юридических фрагментов по запросам, подбор парафраз, кластеризацию и классификацию текстов. В карточке приведены обучающие примеры по правовой тематике и оценка retrieval на тестировании, однако набор содержит 400 пар и не описан подробнее, поэтому результаты могут не отражать качество на других юридических данных. Лицензия в предоставленных данных не указана.

Карточка модели sirev/LFM2-2.6B-Uncensored-X64 на Hugging Face совпадает с карточкой Justbackup/LFM2-2.6B-Uncensored-X64, поэтому описание составлено по ней. LFM2-2.6B-Uncensored-X64 — разговорная версия языковой модели LiquidAI/LFM2-2.6B, опубликованная Justbackup. Это плотная авторегрессионная модель семейства LFM2 с примерно 2,4 млрд параметров, доступная в формате safetensors и рассчитанная на контекст до 128 000 токенов. Модель предназначена для генерации текста и диалогов; карточка называет её uncensored-версией базовой модели и приводит результаты нескольких тестов на общие знания и рассуждение. Её можно использовать для ответов на вопросы, диалоговых ассистентов и работы с длинными текстовыми запросами. README показывает формат чата, совместимый с использованием в Transformers. В карточке указана лицензия Apache-2.0. Модель не следует считать проверенной для задач с высокими требованиями к точности: опубликованные тесты ограничены несколькими бенчмарками, а результаты могут зависеть от точности вычислений и конфигурации запуска.

NVIDIA Llama NemoRetriever ColEmbed 1B v1 — мультимодальная модель эмбеддингов с поздним взаимодействием, дообученная для поиска документов по запросу. Она принимает текстовые запросы и текстовые либо визуальные страницы документов, включая страницы с диаграммами, таблицами и инфографикой, и формирует ColBERT-подобные многовекторные представления для ранжирования релевантных документов. Модель построена на трансформерной архитектуре с компонентами SigLIP 2 Giant и Llama 3.2 1B. NVIDIA позиционирует её для мультимодального RAG, поиска по визуальным документам и кросс-модального поиска; в README сообщается о втором месте на бенчмарках ViDoRe V1, ViDoRe V2 и MTEB VisualDocumentRetrieval на дату 27 июня 2025 года. Для запуска указаны Transformers 4.49.0 и Flash Attention; README приводит интеграцию с TensorRT и Triton и поддержку GPU A100 и H100 под Linux. Модель предназначена только для некоммерческого использования и исследований. Она возвращает числовые векторы, а не готовые текстовые ответы; качество и скорость зависят от инфраструктуры и не гарантированы за пределами описанных бенчмарков и сценариев поиска.

LuminRP-7B-128k-v0.3 — слитая языковая модель, разработанная Ppoyaa на архитектуре Mistral с 7,1 млрд параметров. Она объединяет LuminRP-7B-128k-v0.2, instruct-модель и ещё одну модель для ролевых диалогов; в репозитории доступны веса Safetensors. Заявленная длина контекста — 131 072 токена. Модель предназначена для генерации текста, следования инструкциям и ролевых диалогов. Автор сообщает, что она в целом показывает лучшие результаты в общих задачах, чем версия v0.2, но ролевые сценарии ещё не проверялись. Лицензия — Apache-2.0. Также упомянута отдельная GGUF-версия.

BuzzASR/macedonian — одноязычная модель автоматического распознавания речи на македонском языке, созданная командой BuzzASR дообучением Whisper large-v3 от OpenAI. Она принимает аудио и генерирует текстовую транскрипцию; подсказка языка и задачи уже задана в конфигурации генерации. Модель содержит около 905,2 млн параметров, построена на архитектуре Whisper и распространяется в формате safetensors для Transformers. Модель предназначена для транскрибации македонской речи. В README приведены результаты на тестовых наборах FLEURS и Common Voice 25, где авторы сообщают о снижении CER относительно Whisper large-v3 без дообучения. Лицензия — MIT. Проверка охватывает указанные тестовые наборы; точность на других предметных областях, диалектах и условиях записи может отличаться.

mesolitica/malaysian-whisper-tiny — дообученная компанией Mesolitica модель Whisper Tiny для распознавания малайской и английской речи. Она предназначена для транскрибирования стандартного и местного вариантов малайского языка, а также стандартного английского и Manglish — разговорной смеси малайского и английского. В карточке перечислены обучающие данные IMDA STT, корпуса малайской разговорной речи, псевдоразметка видео и аудиокниг, а также частный набор Haqkiem TTS Dataset. Модель построена на архитектуре WhisperForConditionalGeneration, содержит 29,4 млн параметров и принимает аудио, выдавая распознанный текст. Для аудио длиннее 30 секунд README рекомендует разбивать запись на фрагменты и распознавать их отдельно. Модель опубликована в формате safetensors; сведения о лицензии в предоставленных данных отсутствуют.

Marcoroni 7b GGUF — языковая модель для генерации текста, разработанная AIDC-ai-business и преобразованная в формат GGUF пользователем TheBloke. Модель основана на архитектуре Llama, имеет около 7 миллиардов параметров и предназначена для выполнения инструкций и формирования ответов на текстовые запросы. В карточке указаны английский язык и датасет Open-OrCA; исходная модель обозначена как Marcoroni-7b. Модель подходит для локального запуска и сценариев text generation, включая работу через llama.cpp, text-generation-webui, LM Studio, KoboldCpp и совместимые библиотеки. GGUF поддерживает метаданные и специальные токены, а доступные варианты с разной разрядностью позволяют выбирать баланс между качеством, скоростью и требованиями к памяти при CPU- и GPU-инференсе. Для запросов рекомендуется шаблон Alpaca с секциями Instruction и Response. В README не указаны размер контекстного окна, результаты тестов, подробные сведения об обучении, мультимодальных возможностях или подтвержденные сильные стороны и ограничения качества, поэтому их нельзя оценить по имеющимся данным. Для модели заявлена лицензия CC BY-NC 4.0; поскольку она основана на Llama 2, также применяются условия лицензии Meta Llama 2. Вопросы о взаимодействии этих лицензий рекомендуется уточнять в репозитории исходной модели.

MiMo-V2.5-ASR — сквозная модель распознавания речи, разработанная командой Xiaomi MiMo. Это плотная модель семейства Qwen2 с 7 млрд параметров; в репозитории представлены веса Safetensors, а для работы используется Transformers. В метаданных указана длина контекста 8192 токена. Модель предназначена для транскрибирования речи на китайском и английском языках, включая китайские диалекты, переключение между китайским и английским, песни, техническую и другую насыщенную терминами речь. Она рассчитана на шумные записи, дальний микрофон и многоголосые разговоры; пунктуацию добавляет при распознавании. README сообщает о высоких результатах на ряде публичных тестов, но конкретные оценки здесь не приведены. Лицензия — MIT.

Sakalti/mine-1.5B — компактная языковая модель Sakalti для генерации текста и диалогов. Она основана на архитектуре Qwen2 и дообучена на Sakalti/SJT-1.5B-Alpha с использованием Unsloth и библиотеки Hugging Face TRL. Размер модели — 1,5 млрд параметров; заявленное контекстное окно — до 131 072 токенов. Модель работает с текстом и поддерживает интерфейс вызова инструментов. Модель подходит для диалоговых приложений и генерации текста на английском языке. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

MiniCPM5-2B-i1-GGUF — набор GGUF-квантизаций базовой модели openbmb/MiniCPM5-2B, разработанной командой OpenBMB. Квантизацию выполнил mradermacher; представлены варианты с imatrix-квантизацией, рассчитанные на запуск локально, в том числе на устройствах с ограниченными ресурсами. Модель предназначена для генерации и обработки текста, сценариев с длинным контекстом и, согласно тегам, вызова инструментов. Заявлены английский и китайский языки. Размер базовой модели — 2 млрд параметров; точная архитектура и максимальная длина контекста в README не указаны. Доступны варианты от i1-IQ1_S до i1-Q6_K размером примерно от 0,8 до 2,2 ГБ, что позволяет выбирать компромисс между размером, скоростью и качеством. Сильная сторона набора — широкий выбор компактных квантизаций для локального и периферийного использования; для части вариантов указаны рекомендации по соотношению размера, скорости и качества. Ограничения зависят от уровня квантизации: самые компактные варианты могут заметно терять в качестве, а отдельные варианты прямо обозначены как низкокачественные. Лицензия модели — Apache-2.0.

MiniCPM-V-4.6-GGUF — это GGUF-версия мультимодальной модели MiniCPM-V-4.6, разработанной командой OpenBMB. По указанному pipeline_tag модель предназначена для задач image-text-to-text, то есть для обработки изображений вместе с текстовыми запросами и генерации текстовых ответов. В предоставленных данных не указаны точная архитектура, число параметров, поддерживаемые языки, размер контекста, набор модальностей помимо обработки изображений и текста, а также конкретные сценарии применения и ограничения производительности. Известно, что модель распространяется в формате GGUF, предназначенном для совместимого локального запуска средствами, поддерживающими этот формат. Модель выпущена по лицензии Apache-2.0. Для детального описания возможностей, требований к оборудованию, доступных квантовок и рекомендаций по использованию следует обратиться к исходной модели openbmb/MiniCPM-V-4.6.

Mistral-7B-OpenOrca-Guanaco-accu16 — языковая модель, опубликованная Minds And Company и основанная на Mistral-7B-v0.1. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия по шаблону Llama Prompt Template. При обучении использовались наборы данных в стилях Orca и Alpaca. Модель подходит для создания чат-ботов, генерации ответов и выполнения текстовых инструкций на английском языке. В метаданных указан контекст длиной до 32 768 токенов; репозиторий использует формат PyTorch и библиотеку Transformers. Карточка модели указывает лицензию Llama 2. Проверки проводились на английском языке и не охватывают все сценарии. Ответы могут быть неточными, предвзятыми или нежелательными, поэтому перед применением в конкретном продукте модель следует проверить и настроить с учётом его требований.

Mistral-7B-v0.1-Open-Platypus-Mistral-7B-Instruct-v0.2-slerp — объединённая диалоговая языковая модель на основе Mistral-7B-Instruct-v0.2 и Open-Platypus. Разработчик объединил веса методом SLERP с помощью Mergekit; архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров. Модель предназначена для генерации текста и ответов на инструкции в диалоговом формате. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. В карточке не заявлены конкретные естественные языки или узкие прикладные области. Репозиторий содержит веса Safetensors. Лицензия — Apache-2.0. Качество отдельных задач и ограничения сверх характеристик базовых моделей в карточке не описаны.

Ministral-3-14B-Reasoning-2512-GGUF — это GGUF-квантизированная версия модели Ministral-3-14B-Reasoning-2512, разработанной Mistral AI и подготовленной для распространения пользователем bartowski. Модель предназначена для локального запуска задач генерации текста и мультимодального взаимодействия с изображениями, что отражено в типе конвейера image-text-to-text. Для работы используются llama.cpp и совместимые приложения, включая LM Studio. Модель имеет размер 14B параметров; в каталоге представлены варианты от BF16 до квантизаций Q8_0, Q6, Q5, Q4, Q3 и IQ. Квантизация с использованием imatrix позволяет уменьшить требования к памяти при сохранении качества, однако более компактные варианты могут уступать исходным весам по точности. Поддерживаются английский, французский, испанский, немецкий, итальянский, португальский, нидерландский, китайский, японский, корейский и арабский языки. Архитектура, размер контекста и точный формат подсказок в README не указаны. Сильными сторонами являются возможность локального запуска, широкий выбор компромиссов между качеством и объёмом файлов, а также поддержка текста и изображений. Ограничения включают зависимость от совместимого runtime llama.cpp и отсутствие в README подробных сведений о возможностях рассуждения, результатах оценки, контекстном окне и рекомендованных шаблонах запросов. Модель и её квантизированные варианты распространяются по лицензии Apache-2.0.