I.11Классификация, ранжирование и сопоставление
В разделе собраны самостоятельные задачи, где AI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 736 моделейКарточка модели jordimas/t5gemma-2-270m-270m на Hugging Face совпадает с карточкой google/t5gemma-2-270m-270m, поэтому описание составлено по ней. T5Gemma 2 — семейство мультимодальных моделей Google на архитектуре encoder-decoder. Этот чекпойнт содержит энкодер на 270 млн и декодер на 270 млн параметров; он получен адаптацией предварительно обученной Gemma 3 с использованием подхода UL2. Модель принимает текст и изображения и генерирует текст. Семейство заявлено как мультиязычное: более 140 языков и контекст до 128 тысяч токенов; для этого размера в README приведены оценки на задачах понимания изображений и обработки длинного контекста. Модель предназначена для генерации и преобразования текста, ответов на вопросы по изображениям, суммаризации и рассуждений, а компактный размер позволяет рассматривать запуск на ноутбуках, настольных компьютерах или в облачной инфраструктуре. Чекпойнт отмечен как предварительно обученный; README также описывает исследовательское применение семейства. Модель может ошибаться в фактах, испытывать трудности со сложными или неоднозначными запросами и отражать смещения обучающих данных. Лицензия — Gemma; применяйте модель с учётом её условий и самостоятельно оценивайте безопасность результатов.
Tess-XL-v1.0 — универсальная большая языковая модель из серии Tess, разработанной migtissera. Модель основана на Goliath-120B; в метаданных указаны архитектура LlamaForCausalLM, 117,5 млрд параметров и контекст до 4096 токенов. Репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста общего назначения и диалогов, в том числе для развёрнутых ответов на вопросы и творческих задач. Карточка приводит формат общения с ролями SYSTEM, USER и ASSISTANT и примеры диалогов. В метаданных не заявлена специализация на конкретном языке или предметной области. Модель распространяется по лицензии Llama 2. Карточка указывает Goliath-120B как базу, но не описывает подробно обучение и ограничения; фактическое качество может зависеть от запроса и сценария применения.
WizardLaker 7B — текстовая генеративная модель на архитектуре Mistral, созданная автором Noodlz объединением WizardLM 2 7B с собственной моделью DolphinLake-7B с помощью mergekit и метода DARE TIES. Модель предназначена для генерации текста; автор отмечает, что она показывает хорошие результаты, и планировал подать её на оценку в таблицах лидеров open LLM. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В репозитории находятся веса safetensors, для работы указана библиотека Transformers. Лицензия — Apache-2.0. README не сообщает о специальных ограничениях или гарантированных результатах оценки.
Yi-1.5-6B-Chat-GGUF — это квантизированная GGUF-версия диалоговой языковой модели Yi-1.5-6B-Chat, разработанной компанией 01-ai и подготовленной для публикации компанией Second State Inc. Модель предназначена для генерации текста и ведения диалогов, включая локальный запуск через LlamaEdge. Для работы используется шаблон запросов ChatML, а заявленный размер контекста составляет 4096 токенов. Модель основана на архитектуре Yi и содержит около 6 миллиардов параметров. Она поддерживает текстовый ввод и вывод; сведения о конкретном наборе языков в README не указаны. Доступны варианты квантизации от Q2_K до Q8_0, а также f16, с размером файлов примерно от 2,34 до 12,1 ГБ. Вариант Q4_K_M обозначен как сбалансированный и рекомендуемый, а Q5_K_M и Q5_K_S — как варианты с малой потерей качества. Более сильная квантизация уменьшает требования к памяти, но может заметно снизить качество. Модель подходит для локальных чат-приложений и сервисов генерации текста при использовании LlamaEdge версии 0.10.0 или новее. Ограничения включают контекст длиной 4096 токенов, возможную потерю качества у компактных вариантов квантизации и отсутствие в README подробных данных о производительности, языках и результатах оценки. Лицензия указана как yi-license; её текст доступен в файле LICENSE.
GLM-4.7-GGUF — набор квантизованных версий языковой модели GLM-4.7, разработанной zai-org и подготовленной пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие проекты на его основе. Заявлены английский и китайский языки; поддерживаются сценарии диалогового взаимодействия и текстовой генерации с указанным в README форматом промпта. Модель поставляется в формате GGUF с вариантами квантизации Q8_0, Q6_K, Q5_K_M, Q5_K_S, Q4 и IQ2–IQ4, размером от 88,79 до 380,97 ГБ. Квантизация выполнена с использованием imatrix и llama.cpp версии b7475. Старшие варианты обеспечивают более высокое качество, тогда как младшие требуют меньше памяти, но заметно уступают по качеству; точные архитектурные характеристики, число параметров, размер контекста и поддерживаемые модальности в README не указаны. Модель распространяется по лицензии MIT.
Это зеркальная копия модели Qwen2 для генерации текста, размещённая пользователем latent-artist. Метаданные указывают на архитектуру Qwen2ForCausalLM с плотной структурой и 494 млн параметров; репозиторий содержит веса в формате Safetensors. Модель рассчитана на текстовые диалоги и имеет интерфейс вызова инструментов. Контекстное окно составляет 32 768 токенов, а в карточке указан английский язык. README описывает репозиторий как копию файлов и сообщает, что конфигурация и веса сохраняют исходное назначение. Условия использования и распространения предлагается сверять с файлом лицензии; метаданные указывают Apache-2.0. Исходная модель, от которой сделана копия, не установлена по доступным сведениям.
AeolusBlend-7B-slerp — языковая чат-модель, созданная слиянием OpenPipe/mistral-ft-optimized-1218 и HuggingFaceH4/zephyr-7b-beta методом SLERP с помощью LazyMergekit. Она предназначена для генерации текста, ответов на вопросы и выполнения пользовательских инструкций в диалоге. Модель использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Поддерживает контекст длиной до 32 768 токенов; опубликованные веса представлены в формате safetensors. В карточке также приведён пример инференса с 4-битной квантизацией, но это не формат весов данного репозитория. Модель объединяет возможности двух исходных чекпойнтов, однако README не приводит сравнительных оценок качества или подробных результатов тестирования. Лицензия в предоставленных данных не указана.
GLM4-9B-Neon-v2-GGUF — это набор квантизированных версий языковой модели GLM4-9B-Neon-v2, разработанной allura-org и преобразованной в формат GGUF пользователем bartowski с помощью llama.cpp и imatrix-квантизации. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других совместимых проектах. Указан английский язык; поддержка других языков и мультимодальных входов не заявлена. Размер базовой модели — 9B параметров. Доступны варианты от BF16 и Q8_0 до более компактных Q2 и IQ-квантизаций с размером файлов примерно от 4,6 до 18,8 ГБ. Версии Q6 и Q5 позиционируются как высококачественные, Q4 — как оптимальные по соотношению качества и размера, а варианты Q3 и Q2 рассчитаны на системы с ограниченной оперативной памятью, но имеют более заметные потери качества. Контекстное окно в README не указано. Для работы требуется использовать соответствующий шаблон prompt format с управляющими токенами GLM4. Лицензия — MIT.
Amadeus-Verbo-FI-Qwen2.5-7B-PT-BR-Instruct — языковая модель для бразильского португальского, созданная Amadeus AI дообучением Qwen/Qwen2.5-7B-Instruct на 600 тысячах инструкций в течение двух эпох. Это плотная Transformer-модель семейства Qwen2 с причинной генерацией текста; в метаданных указано 7,1 млрд параметров и контекст 32 768 токенов. README приводит другие значения: 7,61 млрд параметров и контекст 131 072 токена. Модель предназначена для диалогов и генерации ответов на инструкции на бразильском португальском. Метаданные также отмечают интерфейс для вызова инструментов. Для загрузки README рекомендует библиотеку Hugging Face Transformers. Модель распространяется под лицензией Apache-2.0.
Apodex-1.0-4B-SFT-rebased — мультимодальная модель семейства Qwen3.5 с плотной архитектурой и 4 млрд параметров. Её создал dark-pen, объединив с помощью LazyMergekit модели Qwen/Qwen3.5-4B-Base и apodex/Apodex-1.0-4B-SFT методом arcee_fusion; веса сохранены в формате safetensors и типе bfloat16. Модель предназначена для диалоговых сценариев с текстом и изображениями, включая ответы на вопросы по визуальному содержимому. Метаданные также указывают на интерфейс вызова инструментов. Модель доступна по лицензии Apache-2.0.
Arcee-Maestro-7B-Preview-GGUF — это GGUF-квантизированная версия языковой модели Arcee-Maestro-7B-Preview, разработанной arcee-ai и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. Модель относится к классу текстовых генеративных моделей и имеет размер 7 млрд параметров. В README не указаны точная архитектура, поддерживаемые языки и размер контекстного окна. Доступны варианты квантизации от Q2_K_L до Q8_0, размер файлов — примерно от 3,5 до 8,1 ГБ. Для взаимодействия требуется специальный prompt format с системным сообщением, пользовательским запросом и секцией рассуждений. Сильная сторона этой версии — возможность локального запуска на оборудовании с ограниченными ресурсами за счёт выбора степени квантизации; варианты Q5–Q6 обозначены как высококачественные, а Q4_K_M — как оптимальный вариант для большинства сценариев. Более компактные варианты экономят память, но снижают качество. Модель распространяется под лицензией Apache-2.0.
Trinity-Large-Preview-GGUF — это квантизированная версия языковой модели Trinity-Large-Preview, разработанной arcee-ai. Квантизацию в формате GGUF выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться локально через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Модель поддерживает английский, испанский, французский, немецкий, итальянский, португальский, русский, арабский, хинди, корейский и китайский языки. Она рассчитана на сценарии текстовой генерации, включая диалоговое взаимодействие и выполнение инструкций в соответствии с указанным шаблоном prompt format. Данные о точной архитектуре, количестве параметров, модальностях и размере контекста в README не приведены; по описанию это текстовая, а не мультимодальная модель. Доступно множество вариантов квантизации от Q8_0 до Q3 и IQ3/IQ4, что позволяет выбирать между качеством и требованиями к оперативной памяти. Наиболее качественными и рекомендуемыми указаны варианты Q6_K, Q5_K и Q4_K, тогда как низкоразрядные варианты экономят память, но снижают качество. Размеры файлов составляют примерно от 162 до 424 ГБ, поэтому модель требует значительных аппаратных ресурсов. Лицензия — Apache-2.0.
mradermacher/atom-27b-i1-GGUF — набор квантованных моделей в формате GGUF, созданный mradermacher на основе vanta-research/atom-27b. Модель относится к семейству Gemma и предназначена для генерации текста, диалоговых сценариев, чат-ботов, ролевого общения и задач, связанных с рассуждением и исследованием поведения и взаимодействия человека с ИИ. В метаданных указан английский язык и библиотека Transformers. Модель имеет около 27 млрд параметров в исходной версии. README также описывает её как vision-модель, поэтому для работы с изображениями могут потребоваться отдельные файлы mmproj из статического репозитория. В данном наборе представлены варианты imatrix-квантизации с разными уровнями сжатия: от IQ1_S размером около 6,4 ГБ до Q6_K размером около 22,3 ГБ. В качестве сбалансированного варианта размера, скорости и качества рекомендован i1-Q4_K_S, а i1-Q4_K_M отмечен как быстрый и рекомендуемый. Основное преимущество набора — возможность запуска крупной модели при существенно меньшем потреблении памяти, а imatrix-квантизация может обеспечивать лучшее качество по сравнению с сопоставимыми вариантами. Ограничения зависят от выбранного уровня квантизации: самые компактные варианты имеют низкое качество, тогда как более качественные требуют больше памяти. Контекстное окно, точный набор поддерживаемых языков, результаты оценки и практические системные требования в README не указаны. Лицензия исходной модели обозначена как Gemma; условия использования следует проверять в соответствии с лицензией Gemma и исходной моделью.
Beeper-King-22B — объединённая и слегка скорректированная версия MS-Meadowlark-22B от ToastyPigeon. Это плотная авторегрессионная языковая модель семейства Mistral с 22 млрд параметров и контекстом до 131 072 токенов. Репозиторий содержит веса Safetensors; метаданные указывают поддержку чата и интерфейса вызова инструментов. Модель предназначена для генерации текста в формате инструкций и чата, включая следование подсказкам и описаниям персонажей. В карточке заявлена совместимость с форматами инструкций Mistral V2 и V3, а также с Alpaca. Автор описывает характер ответов как более «вольный», сохраняя при этом хорошее следование запросам. Модель собрана с использованием нескольких моделей Mistral и QLoRA-производных, включая Beepo-22B; автор указывает, что заменил базовую модель для применения QLoRA. Лицензия в предоставленных данных не указана.
Bielik-PL-11B-v3.0-Instruct-heretic — доработанная командой SpeakLeash версия Bielik-PL-11B-v3.0-Instruct, созданная методом abliteration с помощью Heretic v1.4.0. В основе лежит дообученная Bielik-11B-v3-Base-20250730: это плотная причинная decoder-only модель семейства Llama на 11 млрд параметров для генерации текста и диалогов. Модель принимает контекст длиной до 32 768 токенов и распространяется в формате Safetensors по лицензии Apache 2.0. Модель предназначена для ответов на запросы, диалогов и других задач генерации текста. Она особенно ориентирована на польский язык, также обучалась на корпусах 32 европейских языков; среди языков карточка указывает польский и английский. README описывает версию heretic как «расцензурированную»: в сравнении с исходной инструкционной моделью указано 0 отказов из 100 проверок против 71 из 100 у оригинала. Снятие ограничений модерации означает, что модель может выдавать оскорбительный, предвзятый, непристойный или фактически неверный текст. Ответы не следует считать проверенными фактами. Для использования указана лицензия Apache 2.0.
BLOSSOM-v3.1-yi-34b — диалоговая большая языковая модель, разработанная командой Blossom и дообученная на Yi-34B. Это плотная авторегрессионная модель семейства Llama с 33,9 млрд параметров и контекстом до 4096 токенов. Она принимает текст и генерирует продолжение диалога. Модель предназначена для общения на китайском и английском языках, ответов на вопросы и выполнения инструкций общего назначения. При обучении использовались наборы Wizard и Orca для одношаговых инструкций, а также данные Blossom для многоходового диалога и математических рассуждений. Модель распространяется в формате PyTorch по лицензии Apache-2.0. Карточка описывает обучение и формат диалога, но не приводит количественных оценок качества; результаты могут зависеть от формулировки запроса и ограниченного контекста.
Boterham 0.5B — компактная преимущественно нидерландоязычная языковая модель от ToetsChecker Research. Это decoder-only Transformer с 488,2 млн параметров; экспорт использует реализацию Qwen3ForCausalLM, но веса и токенизатор обучены с нуля, поэтому модель не является производной от Qwen. Контекстное окно — 2 048 токенов. Модель принимает текст и предназначена прежде всего для работы с предоставленными фрагментами и документами: извлечения ответов, суммаризации и воздержания от ответа, если нужной информации в тексте нет. Также обучалась арифметике, классификации, переводу между нидерландским и английским языками и коротким диалогам. Модель подходит для экспериментов с NLP на нидерландском языке, документных помощников и сценариев RAG. Лицензия — Apache-2.0. Это небольшая экспериментальная модель с ограниченными общими знаниями; она может ошибаться или выдумывать сведения. Контекст короткий, а открытый диалог и творческая генерация получили меньше внимания при обучении. Фактические утверждения следует проверять по источникам; опубликованных результатов EuroEval пока нет.
Calme-12B-Instruct-v0.1 — языковая модель MaziyarPanahi для генерации текста в формате инструкций. Это плотная причинная модель семейства Mistral с 12,3 млрд параметров и контекстом до 32 768 токенов; модель объединена и дообучена на качественных наборах данных на основе Calme-7B-Instruct-v0.9. Карточка описывает стиль Calme как ясный, спокойный и связный. Модель предназначена для ответов на инструкции и других задач генерации текста. Её можно запускать через Transformers с задачей text-generation. В репозитории указаны веса safetensors; автор также публикует отдельную GGUF-версию с квантизацией от 2 до 8 бит для запуска на персональных компьютерах. Модель распространяется по лицензии Apache-2.0. README не приводит сведения о языках обучения, конкретных оценках качества или ограничениях безопасности.
Sakalti/Calme-3.2-fp16 — модель генерации текста на основе архитектуры Qwen2, созданная объединением весов с помощью mergekit и метода TIES. В README указано, что в качестве базовой использована MaziyarPanahi/calme-3.2-instruct-78b; метаданные связывают её с дообучением этой модели. Размер составляет 76,7 млрд параметров, формат весов — safetensors, точность — float16, библиотека — Transformers, контекст — до 32 768 токенов. Модель предназначена для диалогов и генерации текста общего назначения. Она принимает текст и выдаёт текст; поддержка чата указана в метаданных. Описание базовой модели характеризует её как экспериментальную дообученную модель на базе Qwen2.5-72B для англоязычных диалогов и генерации текста, но языковая специализация данной версии отдельно не подтверждена. Лицензия обозначена как other, конкретные условия в предоставленных данных не раскрыты. Объединение выполнено с весом 1 для базовой модели; README не перечисляет другие модели-участники.
MiniMax-M2-REAP-172B-A10B-GGUF — это квантизированная GGUF-версия модели cerebras/MiniMax-M2-REAP-172B-A10B, подготовленная bartowski с использованием llama.cpp. Исходная модель разработана Cerebras. Модель относится к классу разреженных Mixture-of-Experts (MoE) и предназначена для генерации текста, включая диалоговые и другие сценарии текстового вывода. В README указана поддержка английского языка и формат взаимодействия с системными и пользовательскими промптами, включая секцию рассуждений <think>. Модель получена из MiniMax-M2 с равномерным удалением 25% экспертов методом REAP, поэтому её заявленные характеристики включают 172B параметров и обозначение A10B; точное число активных параметров, архитектурные детали и размер контекстного окна в README не раскрыты. Доступны многочисленные варианты квантизации от Q8_0 до более компактных Q2 и IQ-вариантов. Старшие варианты обеспечивают более высокое качество, тогда как младшие требуют меньше оперативной памяти, но могут заметно уступать по качеству. Для запуска рекомендуются LM Studio, llama.cpp и совместимые проекты. Это релиз только для текстовой модальности, без заявленной поддержки изображений, аудио или видео. Ключевое ограничение — очень большой объём файлов: даже рекомендуемые варианты занимают примерно 92–142 ГБ, а Q8_0 — около 183 ГБ, поэтому для запуска требуется мощное оборудование. Лицензия указана как other; конкретные условия использования в README не приведены.
Clara v2 — дообученная модель на 8,4 млрд параметров, разработанная ayan4m1 на базе ibm-granite/granite-4.1-8b. Она предназначена для диалоговых сценариев и создана как более компактная по числу параметров замена Clara-24B; при дообучении использовались промпты Claude Opus 4.5–4.7. Модель работает с текстом и изображениями в формате image-text-to-text, поддерживает чат, а её контекстное окно составляет 131 072 токена. В метаданных указан английский язык. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0.
CogVLM2 Chinese Chat — мультимодальная чат-модель компании Zhipu AI на архитектуре CogVLM2 с языковой основой Meta-Llama-3-8B-Instruct. Она принимает изображения и текст и генерирует текстовые ответы на вопросы о содержимом изображений, включая документы, диаграммы и сцены. Поддерживает китайский и английский языки, изображения с разрешением до 1344 × 1344 пикселей и контекст до 8192 токенов. Модель предназначена для визуальных вопросов и ответов, чтения текста на изображениях и анализа документов без внешних OCR-инструментов. README сообщает об улучшениях на бенчмарках TextVQA и DocVQA относительно предыдущего поколения CogVLM. В метаданных размер указан как 8,3 млрд параметров, тогда как README описывает семейство как модель на 19B; точный размер этой версии поэтому представлен источниками неоднозначно. Модель опубликована в формате safetensors. Лицензия указана как «other»; конкретные условия использования следует сверять с условиями репозитория и базовой модели.
unsloth/dots.llm1.inst-GGUF — GGUF-версия instruction-tuned модели dots.llm1.inst, разработанной командой rednote-hilab и подготовленной в формате GGUF проектом Unsloth. Это большая разреженная Mixture-of-Experts (MoE) языковая модель для генерации текста и диалоговых сценариев, включая работу в локальных средствах инференса, совместимых с GGUF. Модель предназначена для общения, ответов на вопросы и других задач обработки текста на английском и китайском языках. Модель содержит 142 млрд параметров, из которых при инференсе активируется 14 млрд. Архитектура включает 62 слоя, 32 attention heads, Multi-head Attention с QK-Norm, а также fine-grained MoE с выбором 6 из 128 маршрутизируемых экспертов и двумя общими экспертами. Контекстное окно составляет 32 768 токенов. Instruction-тюнинг выполнен после этапа предварительного обучения; при предварительном обучении использовались высококачественные данные без синтетических токенов. К сильным сторонам относятся сочетание возможностей крупной модели с меньшим числом активных параметров, потенциальная вычислительная эффективность MoE и открытость исходной модели. README не указывает конкретный метод или уровень GGUF-квантизации, поэтому характеристики качества, размера файла и требований к памяти для данной сборки определить нельзя. Для llama.cpp требуется включить параметр --jinja, чтобы корректно обрабатывался системный промпт. Лицензия модели — MIT.
EVIE-Preview-4.5B — мультимодальная модель для поиска информации в визуальных документах, разработанная Tencent и представленная как предварительная версия EVIE. Она дообучена на базе Qwen/Qwen3.5-4B и использует архитектуру ColQwen3_5: визуально-языковая основа с линейным и полным вниманием формирует контекстные представления токенов, которые проецируются в векторы размерности 128. Для поиска применяется позднее взаимодействие MaxSim между токенами запроса и визуальными токенами страниц. Модель кодирует запросы и страницы документов для мультиязычного поиска по графикам, таблицам, научным отчётам, финансовой отчётности и сканированным формам. В README указано 4,54 млрд параметров; модель распространяется в формате safetensors, а карточка заявляет лицензию Apache-2.0. На ViDoRe V3 и ViDoRe V1+V2 представлены результаты бенчмарков, включая первое место в таблицах сравнения README. Поддерживаются запросы на английском, французском, немецком, итальянском, испанском, португальском и китайском языках; среди документов также упоминаются страницы на японском. Это предварительный чекпойнт: README рекомендует вместо него более новые модели EVIE. Для индексации он формирует много токен-векторов на страницу, поэтому объём индекса может быть значительным; приведённая оценка для 1 млн страниц при 1792 токенах на страницу — 420,5 ГиБ в BF16.
Experiment26Neuralsirkrishna_Multi_verse_modelExperiment28 — объединённая автором карточки модель на архитектуре Mistral с 7,1 млрд параметров, созданная слиянием automerger/Experiment26Neuralsirkrishna-7B и automerger/Multi_verse_modelExperiment28-7B. Она предназначена для генерации текста и диалогов, а окно контекста составляет до 32 768 токенов. Модель принимает текст и выдаёт текст. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0. Карточка не приводит сведений о специализированных областях применения или конкретных языках, поэтому модель можно описать только как универсальную генеративную языковую модель.
Falcon3-7B-Instruct-GGUF — это GGUF-квантизированная версия инструкционной языковой модели Falcon3-7B-Instruct, разработанной Technology Innovation Institute (TII) и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и диалогового взаимодействия, включая запуск локально через llama.cpp и совместимые приложения, например LM Studio. Для общения используется шаблон с ролями system, user и assistant. Модель поддерживает английский, французский, испанский и португальский языки. Базовый размер составляет 7 млрд параметров; доступны варианты от F16 до Q2_K, поэтому можно выбирать баланс между качеством, скоростью и требованиями к памяти. Квантизация выполнена с использованием imatrix, а в README отдельно отмечено исправление tokenizer. Варианты Q5 и Q6 характеризуются как высококачественные, Q4_K_M — как стандартный вариант для большинства сценариев, а более компактные Q3 и Q2 имеют заметно более низкое качество. Основные ограничения связаны с потерями качества при низких уровнях квантизации и отсутствием в README данных о размере контекста, архитектурных деталях, производительности и специализированных возможностях. Модель распространяется по лицензии Falcon LLM License; условия доступны по ссылке, указанной в карточке модели.
FineLlama-3.1-8B-GGUF — это набор GGUF-квантизированных вариантов языковой модели FineLlama-3.1-8B, разработанной mlabonne и подготовленной квантизацией bartowski с использованием llama.cpp и калибровочного imatrix-датасета. Модель предназначена для генерации текста и локального запуска, в том числе через LM Studio и совместимые инструменты llama.cpp. В README указан английский язык и тип задачи text-generation; сведения о мультимодальности отсутствуют. Доступны варианты от F32 до низкобитных Q2 и IQ2, поэтому можно выбирать между качеством и требованиями к памяти: размер файлов составляет примерно от 2,95 до 32,13 ГБ. Варианты Q5–Q6 и Q4_K_M отмечены как обеспечивающие высокое или хорошее качество, а низкобитные варианты позволяют работать при ограниченном объёме RAM, но сильнее теряют в качестве. Точный размер контекста, архитектурные детали исходной модели и рекомендуемый формат промпта в карточке не указаны. Модель распространяется по лицензии Apache-2.0.
flammen30-mistral-7B — плотная языковая модель семейства Mistral с 7,1 млрд параметров, созданная flammenai слиянием предобученных моделей через mergekit. Для объединения применён метод Model Stock: базой служила flammenai/flammen29-mistral-7B, вместе с ней в слияние вошли ещё семь моделей, включая варианты flammenai и Excalibur-7b-DPO. Модель предназначена для генерации текста и диалогового общения. Она принимает текст и выдаёт текст, работает через Transformers, а заявленная длина контекста составляет 32 768 токенов. В карточке не указаны специальные предметные области или поддерживаемые языки. Модель распространяется по лицензии Apache-2.0. Результат слияния объединяет несколько чекпойнтов, однако README не приводит сравнительных оценок качества или подробных рекомендаций по применению; возможности и точность следует оценивать на целевых задачах.
TouchNight/gemma-2-9b-it-untied — производная инструктивная языковая модель на архитектуре Gemma 2, созданная на основе google/gemma-2-9b-it. Веса модели на 9 млрд параметров сохранены в формате safetensors; в README описано раздельное хранение весов эмбеддингов и выходной головы, а также преобразование в bf16. Модель предназначена для генерации текста и диалоговых сценариев, унаследованных от базовой Gemma 2.
testmoto/gemma-2-llm2024-01 — объединённая текстовая модель от testmoto на базе Google Gemma 2 9B. Веса объединены методом DARE TIES с помощью mergekit из базовой Gemma 2 9B и трёх моделей: testmoto/gemma-2-9b-lora-0, testmoto/gemma-2-9b-platypus-02 и testmoto/gemma-2-9b-lora-aozora. Модель предназначена для генерации текста и может использоваться для диалогов, ответов на вопросы и суммаризации — типичных сценариев базовой модели Gemma 2. Она имеет плотную архитектуру Gemma2ForCausalLM, содержит 9 млрд параметров, принимает текст и генерирует текст, поддерживает контекст до 8192 токенов и доступна в формате safetensors для библиотеки Transformers. Языковая специализация объединённой модели в карточке не уточнена. Лицензия и конкретные ограничения применения в карточке не описаны; характеристики качества именно этого объединения также не приведены.