I.11Классификация, ранжирование и сопоставление

LLaVA-v1.6-34B — мультимодальная модель для диалогового взаимодействия с текстом и изображениями, представленная в виде GGUF-квантизованных файлов. Модель разработана проектом LLaVA; её базовая языковая модель — NousResearch/Nous-Hermes-2-Yi-34B. Это авторегрессионная модель на архитектуре Transformer, дообученная на мультимодальных данных для следования инструкциям. Версия LLaVA-v1.6-34B обучалась в декабре 2023 года. Модель предназначена прежде всего для исследовательских задач, разработки мультимодальных чат-ботов, анализа изображений по текстовым запросам и экспериментов в области computer vision, NLP и машинного обучения. В обучении использовались пары изображение–текст, мультимодальные инструкции, данные для VQA, материалы GPT-4V и ShareGPT. Доступны варианты с квантизацией от Q3_K_XS до Q8_0 размером примерно от 14,2 до 36,5 ГБ. Q4_K_M и Q5-варианты предлагают компромисс между размером и сохранением качества. README не содержит сведений о размере контекста, поддерживаемых языках и точном наборе визуальных архитектурных компонентов. Квантизация уменьшает требования к хранению и запуску, но варианты с меньшим числом бит могут заметно терять качество; наиболее крупные варианты требуют значительных ресурсов. Модель распространяется по лицензии Apache-2.0, указанной для данного репозитория.

llm-jp-13b-instruct-full-jaster-dolly-oasst-v1.0 — инструкция-ориентированная языковая модель, разработанная проектом LLM-jp, совместной инициативой в Японии. Это плотная Transformer-модель на 13 млрд параметров с архитектурой GPT-2; она дообучена на японских наборах jaster, а также на переводах Databricks Dolly 15k и OpenAssistant Conversations Dataset. Модель принимает текст и генерирует текст, поддерживает японский и английский языки. Контекстное окно — 2048 токенов. Модель предназначена для диалогов и выполнения инструкций, например для ответов на вопросы и подготовки текстовых черновиков. В токенизаторе Unigram byte-fallback около 50 570 элементов словаря, включая японский, английский и исходный код. Модель использует формат PyTorch и библиотеку Transformers; лицензия — Apache-2.0. Авторы отмечают, что модель находится на раннем этапе разработки и не настроена для надёжного следования человеческим намерениям и требованиям безопасности. Поэтому ответы могут быть ошибочными, небезопасными или не соответствовать запросу; для важных применений необходима проверка человеком.

Lumma-0.6B-Instruct — компактная плотная языковая модель компании FrontiersMind для следования инструкциям и диалоговой генерации текста. Она основана на Lumma-0.6B-Base, предварительно обучена с нуля на 1 трлн токенов, а затем дообучена на инструкциях и с помощью Direct Preference Optimisation; это чекпойнт до этапа обучения с RL. В репозитории указаны 800,5 млн параметров, контекст до 12 288 токенов и формат safetensors. Модель предназначена для приложений с ограниченными вычислительными ресурсами и ориентирована прежде всего на надёжное выполнение инструкций на английском и десяти индийских языках: хинди, бенгальском, тамильском, телугу, маратхи, гуджарати, каннада, малаялам, панджаби и одия. В README отмечены также возможности в математике и программировании, но основная цель — эффективное следование инструкциям; авторы сообщают о сравнительных результатах на тестах, однако численные показатели здесь не приведены. Модель распространяется по лицензии Apache-2.0. Её небольшой размер рассчитан на ресурсно-ограниченные среды, но карточка не приводит конкретных требований к оборудованию или гарантий качества; текущий вариант обозначен как чекпойнт до RL-обучения.

Lumosia-v2-MoE-4x10.7 — экспериментальная разговорная языковая модель серии Lumosia, построенная на архитектуре Mixtral MoE и предназначенная для роли универсального помощника. В README модель описана как сочетание удачных моделей Solar, выбранных с учётом пользовательского опыта; формат репозитория — safetensors, размер — 10,6 млрд параметров. Модель ориентирована на диалог и запросы, задаваемые обычными фразами, а не ключевыми словами. Автор README заявляет контекстное окно 8 тысяч токенов с сохранением связности до 16 тысяч, тогда как метаданные указывают native context в 4096 токенов. Поэтому практическую длину контекста следует считать неопределённой и сверять с используемой конфигурацией. В карточке нет сведений о поддерживаемых естественных языках или опубликованных значениях оценок: таблица содержит только часть метрик. Модель распространяется по лицензии Apache-2.0. README характеризует её как экспериментальную; результаты и пригодность для конкретных сценариев требуют самостоятельной проверки.

MarkupLM-base — мультимодальная модель Microsoft для понимания веб-страниц и документов с визуально насыщенной структурой. Она обучена совместно на тексте и разметке страниц, чтобы учитывать содержание и структуру HTML при ответах на вопросы и извлечении информации. Работа модели описана в статье ACL 2022 о предварительном обучении текста и разметки для понимания документов. Модель содержит около 151,9 млн параметров, использует архитектуру MarkupLM и распространяется в формате PyTorch. В карточке указана поддержка английского языка и контекст длиной 514 токенов. Репозиторий описывает задачи веб-вопросов и ответов и извлечения информации со страниц; конкретный pipeline-тег в метаданных не указан, поэтому задачам Hugging Face сопоставить её достоверно нельзя. Модель подходит для исследовательских и прикладных систем анализа веб-страниц, которым важно учитывать HTML-разметку вместе с текстом. README ссылается на документацию и демонстрационные блокноты. Лицензия в предоставленных данных не указана.

Карточка модели mahiatlinux/MasherAI-7B-v6.1-another_test3 на Hugging Face совпадает с карточкой mahiatlinux/MasherAI-7B-v6.1-final, поэтому описание составлено по ней. MasherAI-7B-v6.1-final — дообученная разработчиком mahiatlinux языковая модель семейства Mistral с плотной архитектурой для генерации текста и диалогового взаимодействия. Она основана на mahiatlinux/MasherAI-v6.1-7B-checkpoint3-code4 и обучалась с использованием Unsloth и библиотеки Hugging Face TRL. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. В карточке указан английский язык. Репозиторий распространяется в формате PyTorch по лицензии Apache-2.0.

MC-LLaVA-3b — мультимодальная модель семейства LLaVA, опубликованная visheratin. Она принимает изображение вместе с текстовым запросом и генерирует текстовый ответ, например, отвечает на вопросы о содержимом изображения. В карточке приведены результаты на TextVQA, GQA, VQAv2, VizWiz и задачах V*-bench, включая распознавание текста и определение пространственных отношений. Модель загружается через Transformers и AutoProcessor; для обработки изображения процессор поддерживает разбиение на кропы. По README, подход MC-LLaVA отличается от обычного для LLaVA представления изображения последовательностью из фиксированного числа токенов. Репозиторий содержит веса Safetensors, а лицензия указана как MIT. README отдельно просит учитывать условия OpenAI и Google Gemini из-за использования синтетических обучающих данных.

MeliodasPercival_01_Percival_01Experiment26 — объединённая модель на архитектуре Mistral, созданная слиянием automerger/MeliodasPercival_01-7B и automerger/Percival_01Experiment26-7B. Модель содержит 7,1 млрд параметров и принимает текст для авторегрессионной генерации текста; максимальная длина контекста составляет 32 768 токенов. Модель предназначена для генерации текста и диалогов. Репозиторий содержит веса в формате safetensors, лицензия — Apache 2.0. README не сообщает о специальных настройках, оценках качества или дополнительных возможностях модели.

MeliodasT3qm7_Strangemerges_32T3q — объединённая модель Mistral, созданная слиянием automerger/MeliodasT3qm7-7B и automerger/Strangemerges_32T3q-7B. Она предназначена для генерации текста и диалоговых ответов. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Карточка не описывает специализированные области применения, поддерживаемые языки или конкретные ограничения качества. Оценить сильные стороны и ограничения слияния по представленным сведениям нельзя.

Карточка модели mergekit-community/mergekit-slerp-ghxdzjf на Hugging Face совпадает с карточкой mergekit-community/mergekit-slerp-gmjabaw, поэтому описание составлено по ней. mergekit-community/mergekit-slerp-gmjabaw — объединение языковых моделей, созданное сообществом с помощью mergekit и метода SLERP. В него вошли NousResearch/Hermes-2-Pro-Mistral-7B и WizardLMTeam/WizardMath-7B-V1.1; конфигурация использует Hermes в начальных и конечных слоях, а WizardMath — в средних. Модель основана на плотной архитектуре Mistral, содержит 7,1 млрд параметров и принимает текст для генерации текста в диалоговом формате. Заявленная длина контекста — 32 768 токенов. Модель подходит для диалогов, выполнения инструкций и математических запросов, сочетая возможности входящих в объединение моделей. В метаданных указана библиотека Transformers и формат safetensors. Лицензия в предоставленных сведениях не указана.

Карточка модели mergekit-community/mergekit-slerp-qzxjuip на Hugging Face совпадает с карточкой mergekit-community/mergekit-slerp-gmjabaw, поэтому описание составлено по ней. mergekit-community/mergekit-slerp-gmjabaw — объединение языковых моделей, созданное сообществом с помощью mergekit и метода SLERP. В него вошли NousResearch/Hermes-2-Pro-Mistral-7B и WizardLMTeam/WizardMath-7B-V1.1; конфигурация использует Hermes в начальных и конечных слоях, а WizardMath — в средних. Модель основана на плотной архитектуре Mistral, содержит 7,1 млрд параметров и принимает текст для генерации текста в диалоговом формате. Заявленная длина контекста — 32 768 токенов. Модель подходит для диалогов, выполнения инструкций и математических запросов, сочетая возможности входящих в объединение моделей. В метаданных указана библиотека Transformers и формат safetensors. Лицензия в предоставленных сведениях не указана.

Карточка модели mergekit-community/mergekit-slerp-sictdhe на Hugging Face совпадает с карточкой mergekit-community/mergekit-slerp-gmjabaw, поэтому описание составлено по ней. mergekit-community/mergekit-slerp-gmjabaw — объединение языковых моделей, созданное сообществом с помощью mergekit и метода SLERP. В него вошли NousResearch/Hermes-2-Pro-Mistral-7B и WizardLMTeam/WizardMath-7B-V1.1; конфигурация использует Hermes в начальных и конечных слоях, а WizardMath — в средних. Модель основана на плотной архитектуре Mistral, содержит 7,1 млрд параметров и принимает текст для генерации текста в диалоговом формате. Заявленная длина контекста — 32 768 токенов. Модель подходит для диалогов, выполнения инструкций и математических запросов, сочетая возможности входящих в объединение моделей. В метаданных указана библиотека Transformers и формат safetensors. Лицензия в предоставленных сведениях не указана.

Карточка модели mergekit-community/mergekit-slerp-tejngyg на Hugging Face совпадает с карточкой mergekit-community/mergekit-slerp-gmjabaw, поэтому описание составлено по ней. mergekit-community/mergekit-slerp-gmjabaw — объединение языковых моделей, созданное сообществом с помощью mergekit и метода SLERP. В него вошли NousResearch/Hermes-2-Pro-Mistral-7B и WizardLMTeam/WizardMath-7B-V1.1; конфигурация использует Hermes в начальных и конечных слоях, а WizardMath — в средних. Модель основана на плотной архитектуре Mistral, содержит 7,1 млрд параметров и принимает текст для генерации текста в диалоговом формате. Заявленная длина контекста — 32 768 токенов. Модель подходит для диалогов, выполнения инструкций и математических запросов, сочетая возможности входящих в объединение моделей. В метаданных указана библиотека Transformers и формат safetensors. Лицензия в предоставленных сведениях не указана.

Meta-Llama-3.1-8B-Instruct-HalfAbliterated-TIES — объединённая языковая модель на основе Meta Llama 3.1 8B, созданная автором репозитория с помощью mergekit и метода TIES. В слияние вошли Meta-Llama-3.1-8B-Instruct и её вариант abliterated от mlabonne; модель предназначена для генерации текста и диалоговых ответов. По данным метаданных, она содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и принимает контекст до 131 072 токенов. Модель подходит для ведения диалогов и генерации ответов на запросы. Слияние с abliterated-вариантом ослабляет ограничения на ответы, поэтому модель может отвечать на запросы, которые другие модели отклоняют; это не гарантирует точность или безопасность таких ответов. Поддерживается через библиотеку Transformers, веса опубликованы в формате safetensors. Лицензия — Llama 3.1 Community License.

Q-bert/MetaMath-Cybertron-Starling — объединённая языковая модель, созданная слиянием Q-bert/MetaMath-Cybertron и berkeley-nest/Starling-LM-7B-alpha методом slerp. Она использует плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате ChatML, включая ответы на математические вопросы и ведение беседы на английском языке. В карточке указана оценка 71,35 в среднем по представленным тестам Open LLM Leaderboard; также приведены результаты ARC и HellaSwag. Модель принимает текст и генерирует текст. Репозиторий распространяется в формате safetensors по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

SC117/MiniCPM5-2B-abliterated-FIT-GGUF — это квантизированная GGUF-сборка текстовой генеративной модели openbmb/MiniCPM5-2B, подготовленная и проверенная с помощью FIT-GGUF. Модель относится к семейству MiniCPM, имеет около 2,5 млрд параметров и рассчитана на локальный запуск, в том числе на устройствах с ограниченными ресурсами. Поддерживаются английский и китайский языки, максимальная заявленная длина контекста — 128K токенов. Сборка предназначена для генерации текста и работы через совместимые инструменты, включая llama.cpp. Доступны четыре уровня точности с размером файлов примерно от 1,14 до 1,46 GiB. FIT-GGUF подбирает распределение квантования по тензорам под заданный уровень сохранения качества и проверяет каждый файл относительно собственной BF16-версии с использованием измерений KL-дивергенции и совпадения наиболее вероятного токена. Это позволяет выбирать компромисс между размером, скоростью и качеством, однако универсальное оптимальное распределение квантования не заявлено. Модель помечена как abliterated, то есть её поведение в части встроенных ограничений и отказов может отличаться от исходной версии; README не содержит подробного описания соответствующих изменений и оценок безопасности. К другим ограничениям относятся неизбежные потери качества при квантовании и отсутствие в предоставленных данных детальной спецификации архитектуры или результатов бенчмарков. Лицензия — Apache-2.0.

MiniMax-M2.7 — языковая модель для генерации текста, разработанная компанией MiniMax AI. В карточке она представлена как модель text-generation, совместимая с библиотекой Transformers. Модель предназначена для задач генерации и обработки текста, однако README не содержит подробностей о поддерживаемых языках, модальностях, размере, архитектуре, длине контекста, обучении, производительности или рекомендованных сценариях применения. Поэтому её возможности и ограничения нельзя оценить точнее на основании предоставленных данных. Лицензия обозначена как other; условия использования приведены в отдельном файле LICENSE в репозитории MiniMax-AI/MiniMax-M2.7. Перед применением необходимо ознакомиться с этим документом, поскольку конкретные права, ограничения и требования лицензии в README не раскрыты.

Mini_Synatra_SFT-Mistral-7B-Instruct-v0.1 — объединённая методом SLERP модель на архитектуре Mistral, созданная на основе mistralai/Mistral-7B-Instruct-v0.1 и maywell/Mini_Synatra_SFT. Это плотная языковая модель с 7,1 млрд параметров, рассчитанная на генерацию текста в ответ на инструкции и диалоговые запросы; метаданные отмечают поддержку чата и корейский язык. Для модели указан контекст до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и выполнения текстовых инструкций на корейском языке. Весы опубликованы в формате Safetensors, лицензия — Apache-2.0. README не сообщает результаты сравнительных оценок или подробности о данных обучения, поэтому качество для конкретных задач по карточке определить нельзя.

MiquTotalMix-70B — объединённая языковая модель, созданная автором репозитория с помощью mergekit методом passthrough. В слияние вошли 152334H/miqu-1-70b-sf, sophosympatheia/Midnight-Miqu-70B-v1.0, alchemonaut/BoreanGale-70B и NeverSleep/MiquMaid-v1-70B. Модель построена на плотной архитектуре Llama с классом LlamaForCausalLM и содержит 68,7 млрд параметров; опубликована в формате safetensors для библиотеки Transformers. Модель предназначена для генерации текста и диалогов. README предлагает шаблоны запросов Alpaca и Mistral; в метаданных также заявлена возможность chat. Контекст составляет до 32 764 токенов. Базовая модель описана каталогом как ориентированная на английский язык; отдельные сведения о языках самого объединения в карточке не приведены. Для запуска требуется значительная память из-за размера модели. Лицензия в предоставленных данных не указана.

cloudyu/Mixtral_11Bx2_MoE_19B — разговорная языковая модель семейства Mixtral, опубликованная пользователем cloudyu. По README, она объединяет Sakura-SOLAR-Instruct и CarbonVillain-en-10.7B-v1 в архитектуру смеси экспертов (MoE). Метаданные указывают 10,6 млрд параметров, контекст до 4096 токенов и формат Safetensors. Модель предназначена для генерации текста в диалоговом формате и общих задач языкового моделирования. В README приведены результаты оценки на HellaSwag и Open LLM Leaderboard, но этих тестов недостаточно, чтобы гарантировать качество в конкретных прикладных сценариях. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование; модель следует применять с соблюдением её условий.

MediaCatch/mmBERT-base-scandi-ner-gold — мультиязычная модель распознавания именованных сущностей, разработанная MediaCatch. Она дообучена для классификации токенов на объединённых корпусах датского, шведского, норвежского и английского языков и размечает имена людей (PER), организации (ORG) и географические названия (LOC) в формате BIO. Модель построена на архитектуре ModernBERT, содержит 306,9 млн параметров и поддерживает контекст до 8192 токенов. Модель подходит для извлечения сущностей из новостных и энциклопедических текстов, в том числе при пакетной обработке документов. На отложенном тестовом наборе в карточке указаны F1 0,833, точность 0,8455 и полнота 0,8208. Лицензия — MIT. Качество может снижаться на текстах из других предметных областей и при смешении языков в одном предложении. Модель распознаёт только PER, ORG и LOC; она не предназначена для поиска дат, сущностей типа MISC и других категорий. Для корректного вывода необходимо учитывать разбиение слов на субтокены.

korvo/MS-RandomMergeTest_v2-TIES-22B — объединённая модель для генерации текста, созданная автором репозитория с помощью mergekit. В основе объединения лежит concedo/Beepo-22B; также использованы nbeerbower/Mistral-Small-Gutenberg-Doppel-22B, anthracite-org/magnum-v4-22b, crestf411/MS-sunfall-v0.7.0 и TheDrummer/Cydonia-22B-v1.1. В README указан метод della_linear, а метаданные описывают архитектуру как плотную MistralForCausalLM размером 22 млрд параметров. Модель предназначена для генерации связного текста и диалогового применения. Она принимает текст и выдаёт текст, работает с контекстом до 32 768 токенов; базовая модель описана в каталоге как англоязычная диалоговая модель для следования инструкциям и создания прозы. Репозиторий содержит веса в формате safetensors и имеет интерфейс для вызова инструментов. Лицензия в предоставленных данных не указана.

zelk12/MT2-gemma-2-9B — объединённая conversational-модель на базе Gemma 2, созданная zelk12 с помощью mergekit. Веса двух моделей, zelk12/MT2-MMMAGMU-gemma-2-9B и zelk12/MT2-IB-gemma-2-9B, объединены методом SLERP с параметром t=0,5; конфигурация указывает формат bfloat16. Модель имеет плотную архитектуру Gemma2ForCausalLM, около 9 млрд параметров и контекст до 8192 токенов. Модель предназначена для генерации текста в диалоге: она принимает текстовые запросы и выдаёт текстовые ответы. В README приведены результаты Open LLM Leaderboard, включая IFEval и BBH; данных о специализированной предметной области или поддерживаемых языках карточка не сообщает. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.

zelk12/MT-Merge2-MA-gemma-2-MT4g2MTg2-9B — объединённая модель генерации текста на архитектуре Gemma 2, созданная методом SLERP с помощью mergekit из zelk12/MT4-Gen2-gemma-2-9B и zelk12/MT-Gen2-gemma-2-9B. Модель предназначена для текстовых ответов и диалогового общения; размер составляет 9 млрд параметров, нативная длина контекста — 8192 токена. Репозиторий содержит веса Safetensors, а README также описывает вариант GGUF Static. Модель подходит для чат-ботов и генерации текста в приложениях на базе Transformers. Метаданные не определяют целевые языки или специализированные предметные области, поэтому их нельзя уверенно указать. В README приведены параметры слияния: SLERP, тип данных bfloat16 и коэффициент t=0.25. Сведения о лицензии и конкретных ограничениях качества в доступных материалах отсутствуют.

zelk12/MT-Merge5-MMBMUI-gemma-2-9B — объединённая языковая модель на архитектуре Gemma 2, созданная автором репозитория с помощью mergekit. В неё методом SLERP объединены zelk12/MT-Merge5-MMB-gemma-2-9B и zelk12/MT-Merge5-MUI-gemma-2-9B; параметры слияния заданы относительно первой модели с коэффициентом t=0,25. Модель содержит 9 млрд параметров, использует формат safetensors и библиотеку Transformers. Она предназначена для генерации текста и диалоговых ответов; контекстное окно составляет 8192 токена. Карточка не описывает отдельные прикладные специализации или языковое покрытие, поэтому область применения следует определять по содержимому запросов и ответов модели. Лицензия в предоставленных данных не указана.

Muse-Glimmer-30B-Heretic-Uncensored-GGUF — набор из 27 GGUF-квантизаций модели Muse-Glimmer-30B-Heretic-Uncensored. Базовую модель разработала Meta Superintelligence Lab, а производный вариант создан darkc0de с применением Heretic v1.4.0. Это abliterated-версия, для которой заявлено отсутствие отказов при работе со взрослыми и NSFW-материалами; указанное свойство проверялось эмпирически. Модель предназначена для генерации текста и обработки изображений с текстовыми запросами: входные данные могут включать текст и изображения, выход — текст. Архитектура представляет собой плотный causal Transformer с perception encoder ViT-G/14 объёмом около 1,8 млрд параметров. Всего модель содержит около 29,6 млрд параметров, 52 слоя, GQA с 32 Q- и 2 KV-головами, SwiGLU и контекст длиной 131 072 токена и более. Поддерживаются английский и мультиязычные сценарии; в карточке также указан language: multilingual. Ключевое преимущество набора — широкий выбор квантизаций размером от 6,53 ГБ до 55,73 ГБ, что позволяет запускать модель на CPU, системной памяти и видеокартах с различным объёмом VRAM. Для квантизаций ниже 4 бит использовалась importance matrix для снижения потери качества. Ограничения включают высокие требования к памяти у полноразмерных вариантов и возможное снижение качества у более агрессивных квантизаций. Для работы требуется совместимое ПО llama.cpp; поддержка архитектуры muse_glimmer отсутствует в релизных сборках до b10344, поэтому необходима актуальная сборка. Модель распространяется по лицензии Apache 2.0.

Это крупная модель распознавания именованных сущностей для немецкого языка, входящая в библиотеку Flair. Она размечает текст четырьмя классами сущностей: именами людей, географическими названиями, организациями и ещё одним классом, который в карточке не раскрыт. Модель основана на контекстных представлениях XLM-R на уровне документа и архитектуре FLERT; для неё заявлен F1-score 92,31 на пересмотренной немецкой версии CoNLL-03. Модель предназначена для извлечения именованных сущностей из немецких текстов и может использоваться в конвейерах обработки документов, новостей и других текстовых материалов. В метаданных указан формат PyTorch и лицензия не приведена. Результат зависит от соответствия входных текстов немецкому языку и домену обучающей выборки CoNLL-03; карточка также не раскрывает значение четвёртого тега.

NeuralStock-7B — объединённая языковая модель семейства Mistral, созданная Kukedlc с помощью LazyMergekit из liminerity/M7-7b, Gille/StrangeMerges_32-7B-slerp и automerger/YamShadow-7B. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и предназначена для генерации текста и диалогов. Модель принимает текст и выдаёт текст. Заявленная длина контекста составляет 32 768 токенов. В README указаны метод объединения model_stock и формат весов bfloat16; репозиторий содержит файлы safetensors. Данные не устанавливают специализированные области применения или основной язык. Карточка не сообщает результатов оценки качества или известных ограничений, поэтому пригодность для конкретных сценариев следует проверять отдельно. Лицензия в предоставленных данных не указана.

NuExtract-2.0-2B-GGUF — мультимодальная и многоязычная модель компании NuMind, предназначенная для извлечения структурированной информации из текста и изображений. Модель принимает входные данные вместе с JSON-шаблоном, в котором задаются требуемые поля и их типы, и возвращает заполненный JSON-объект. Модель имеет размер 2B параметров и основана на Qwen2-VL-2B-Instruct. Версия GGUF предназначена для запуска с совместимыми inference-инструментами, включая llama.cpp. Поддерживаются строки с дословным извлечением или перефразированием, целые и дробные числа, даты и время в формате ISO, массивы, перечисления и многозначные категориальные поля. Если значение не найдено, модель возвращает null или пустой массив. Она подходит для обработки документов, форм, заявок и других текстовых или визуальных источников, где требуется привести данные к заданной схеме. К сильным сторонам относятся специализация на структурированном извлечении, поддержка текста и изображений, небольшой размер и возможность коммерческого использования. Для надёжной работы рекомендуется температура, близкая к 0; качество зависит от корректности JSON-шаблона и входных данных. В README не указаны конкретные поддерживаемые языки, максимальный контекст и результаты бенчмарков в числовом виде. Модель распространяется по лицензии MIT.

Vastined/NVIDIA-Nemotron-Nano-12B-v2-VL-BF16-GGUF — это квантизированная версия мультимодальной модели NVIDIA Nemotron Nano 12B v2 VL, опубликованная пользователем или организацией Vastined на базе модели nvidia/NVIDIA-Nemotron-Nano-12B-v2-VL-BF16. Модель предназначена для задач image-text-to-text, то есть обработки изображений и текстовых запросов с генерацией текстового ответа. Из доступных данных известно, что модель содержит около 12 миллиардов параметров, поддерживает работу с визуальными и текстовыми входными данными и распространяется в формате GGUF. Сведения о точной архитектуре, поддерживаемых языках, размере контекста, наборах данных, результатах тестирования, сильных сторонах и ограничениях отсутствуют. Модель распространяется по лицензии NVIDIA Open Model License; в карточке также указана лицензия other и приведена ссылка на официальный текст условий NVIDIA. Перед использованием необходимо ознакомиться с условиями этой лицензии.