I.11Классификация, ранжирование и сопоставление

Это текстовая авторегрессионная модель семейства Qwen3 с плотной архитектурой Qwen3ForCausalLM и 1,7 млрд параметров. Репозиторий содержит контрольную точку в стандартном формате Hugging Face Transformers на основе safetensors; карточка описывает её как резервную копию исследовательского артефакта. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно использовать для ответов в чате и генерации продолжений текста; метаданные также указывают интерфейс для вызова инструментов. Заявленная длина контекста — 40 960 токенов. Карточка не сообщает о специальной предметной области или поддерживаемых естественных языках. Условия лицензии в предоставленных данных не приведены, поэтому их нельзя определить по карточке.

Это GGUF-квантизованная версия языковой модели AI21-Jamba2-Mini, разработанной AI21 Labs и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio, koboldcpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. В README не указаны точные архитектурные характеристики, число параметров, поддерживаемые языки и размер контекста. Доступны варианты от BF16 до различных уровней квантования, включая Q8_0, Q6_K, Q5_K, Q4_K и Q3_K, с размером файлов примерно от 21 до 103 ГБ; выбор варианта позволяет балансировать качество и требования к памяти. Для работы используется заданный формат prompt с системным сообщением, запросом пользователя и ответом ассистента. Сильной стороной является широкий выбор квантованных вариантов: старшие варианты обеспечивают качество, близкое к исходному, а младшие подходят для систем с ограниченным объёмом RAM, но дают более низкое качество. Некоторые форматы требуют актуальной версии программного обеспечения с поддержкой модели. Лицензия — Apache 2.0.

ai9stars_G9v3-3B-GGUF — это GGUF-квантизированная версия языковой модели G9v3-3B, разработанной ai9stars и подготовленной квантизатором bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, включая сценарии с длинным контекстом и вызовом инструментов. Заявлена поддержка английского и китайского языков. Исходная архитектура обозначена как Llama, однако точные параметры архитектуры и размер контекстного окна в README не указаны. Модель доступна в вариантах от BF16 до низкобитных квантований Q2 и IQ3/Q4, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Рекомендуемыми названы варианты Q4_K_M, Q5, Q6 и некоторые другие; для устройств с ограниченной памятью доступны более компактные версии, но с заметным снижением качества. Формат поддерживается llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другими совместимыми инструментами. Для работы может потребоваться обновление программ, если модель недавно получила поддержку. Лицензия — Apache-2.0. README не содержит подробных результатов тестирования, точных сведений о контекстном окне, системных требованиях или ограничениях исходной модели, поэтому качество и пригодность для конкретных задач следует оценивать отдельно.

Athene-70B — открытая по весам диалоговая языковая модель команды Nexusflow, дообученная методом RLHF на основе meta-llama/Meta-Llama-3-70B-Instruct. Она предназначена для чат-ассистентов и генерации ответов на запросы пользователя; для диалогов использует тот же шаблон чата, что и Llama 3 70B Instruct. Модель построена на плотной архитектуре Llama с 69,5 млрд параметров и поддерживает контекст до 8192 токенов. В карточке приводится результат 77,8% на Arena-Hard-Auto — бенчмарке, служащем приближённой оценкой качества в Chatbot Arena. Метаданные указывают английский язык. Модель распространяется по Nexusflow Research License; условия этой лицензии следует учитывать при использовании.

Calme-Ties-78B — языковая модель для диалогов и генерации текста общего назначения, созданная PrithivMLmods слиянием моделей методом TIES с помощью mergekit. Она основана на архитектуре Qwen2 и объединяет MaziyarPanahi/calme-3.2-instruct-78b и dfurman/CalmeRys-78B-Orpo-v0.1; последняя указана как базовая модель. Размер по метаданным — 76,7 млрд параметров, формат весов — safetensors, в README указан тип данных bfloat16. Модель работает с текстом и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалогового взаимодействия и генерации текста общего назначения. В карточке не приведены результаты сравнительных оценок или подробные ограничения по качеству. Лицензия в предоставленных данных не указана.

DeepSeek-V4-Flash-0731 GGUF — это набор GGUF-конвертаций и экспертно подобранных квантованных вариантов базовой модели DeepSeek-V4-Flash-0731, разработанной DeepSeek AI. Репозиторий подготовлен bullerwins для запуска через llama.cpp и предназначен для генерации текста, включая локальное инференс-развёртывание и агентские сценарии. Модель использует разреженную MoE-архитектуру с маршрутизируемыми экспертами. В репозитории доступны варианты размером от 81,86 до 150,75 GiB, а также компактный DSpark-компаньон размером 10,15 GiB для speculative decoding. Представлены lossless-вариант MXFP4/BF16, смешанные IQ2_XS/IQ3_XXS-квантизации и версии с IQ2_XS или IQ3_XXS для экспертов. Квантизации позволяют выбирать компромисс между размером и качеством: по тестам на Wikitext-2 lossless-вариант обеспечивает полное совпадение с эталоном, тогда как квантованные варианты показывают от 75,082% до 84,094% совпадения наиболее вероятного токена. Сильной стороной набора является широкий выбор практических вариантов, сохранение native MXFP4 для части экспертных тензоров и оценка качества по KLD и совпадению токенов. Ограничения — очень высокие требования к дисковому пространству и памяти, а также снижение качества у более компактных квантований. Сведения о поддерживаемых языках, размере контекста и подробных модальностях в предоставленной карточке отсутствуют. Указана лицензия MIT; для формата чата, архитектурных деталей и рекомендуемых параметров сэмплирования предлагается обращаться к карточке исходной модели. Рекомендуемые параметры: temperature 1.0, top_p 0.95 для агентских сценариев и top_p 1.0 в остальных случаях.

DeepSeek-V4-Flash-0731-RAZOR-156B-A13B-E128of256 — производная модель семейства DeepSeek-V4 от DeepSeek-AI, созданная методом RAZOR без градиентного дообучения. Метод сокращает число маршрутизируемых экспертов в каждом из 43 MoE-слоёв с 256 до 128; внимания, общие эксперты, эмбеддинги и выходная голова сохранены. В карточке указано 156 млрд параметров, включая упаковку весов экспертов в 4 бита, и около 13 млрд активных параметров на токен. Модель предназначена для генерации текста. Для диалоговых запросов кодирование промптов выполняется официальной реализацией DeepSeek-V4, поскольку Jinja-шаблона чата нет. Заявленное контекстное окно — 1 048 576 токенов; репозиторий использует Transformers и содержит веса safetensors в формате FP8, при этом эксперты хранятся в MXFP4. Сокращение экспертов уменьшает модель при сохранении исходных весов оставшихся экспертов и не требует восстановительного обучения. Лицензия — MIT. Обрезка с потерями может менять разнообразие ответов, форматирование и поведение при завершении генерации; конечный корпус калибровки не характеризует поведение на далёких от него областях. Перед применением следует оценить качество на собственных задачах.

Devlin Alpha 22B A3B — экспериментальная текстовая языковая модель от Devlin-AI, основанная на Qwen3.6-35B-A3B и распространяемая в формате GGUF. Модель ориентирована на агентские сценарии и задачи, требующие рассуждений; в метаданных также указаны MoE-архитектура и pruning экспертов. Модель предназначена для локального запуска через llama.cpp и совместимые инструменты, включая Ollama, LM Studio, KoboldCpp и text-generation-webui с бэкендом llama.cpp. Указан размер 22B с конфигурацией A3B, поддерживаются режимы с рассуждениями и без них. Это текстовая модель без MTP-головы; для корректного применения шаблона чата Qwen3.6 при использовании llama.cpp требуется включать параметр jinja. В примере запуска указан контекст до 262144 токенов. К сильным сторонам относятся специализация на агентских задачах, поддержка локального инференса и возможность использования в режимах с рассуждениями. При этом модель является версией для разработки и тестирования, не рекомендуется для production, а результаты бенчмарков в README отсутствуют. Языки, точные характеристики модальностей помимо текстовой генерации и дополнительные ограничения производительности не указаны. Модель распространяется по лицензии Apache 2.0 как производная работа Qwen3.6-35B-A3B.

Experiment28M7_AlloyingotneoyPercival_01 — объединённая модель на архитектуре Mistral с 7,1 млрд параметров, созданная слиянием automerger/Experiment28M7-7B и automerger/AlloyingotneoyPercival_01-7B. Она предназначена для генерации текста и диалоговых сценариев; поддерживает контекст до 32 768 токенов и хранится в формате Safetensors. Модель принимает текст и генерирует текст. В карточке не приведены специальные предметные области или сведения о языковой специализации, поэтому её можно описывать как модель общего назначения. Лицензия — Apache-2.0.

Experiment28M7_YamT3qm7xp — объединённая модель генерации текста на архитектуре Mistral, созданная путём слияния automerger/Experiment28M7-7B и automerger/YamT3qm7xp-7B. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста по запросу и работы с длинными текстовыми контекстами. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0.

Это диалоговая языковая модель на архитектуре Mistral с 7,1 млрд параметров, созданная MaziyarPanahi слиянием моделей mistralai/Mistral-7B-Instruct-v0.2 и Darklord23/finetuned-mistral-7b методом SLERP. Она предназначена для генерации текста и ответов на инструкции в формате чата. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Модель может использоваться для диалога, ответов на вопросы и генерации текста по запросу. В карточке указана лицензия Apache-2.0. Сведения о специализированных областях применения и дополнительных ограничениях качества не приводятся.

ApatheticWithoutTheA/gemma-2-2b-it-R1-Reasoning — дообученная диалоговая модель на базе Google Gemma 2 2B IT, созданная ApatheticWithoutTheA. Модель обучена методом LoRA с использованием MLX на 62,9 тыс. примеров датасета sequelbox/Raiden-DeepSeek-R1; README указывает 600 итераций обучения. Она предназначена для следования инструкциям и генерации текста с рассуждениями: на простые вопросы отвечает кратко, а для более сложных может выдавать длинные цепочки рассуждений. Модель подходит для ответов на вопросы, задач на рассуждение и программирование, в том числе при запуске на пользовательском оборудовании. Это плотная авторегрессионная архитектура Gemma2ForCausalLM с 2,7 млрд параметров и контекстом до 8192 токенов. Репозиторий содержит форматы GGUF и safetensors; библиотека модели — MLX. Метаданные указывают английский язык и лицензию MIT. Качество рассуждений не гарантировано: модель иногда не начинает рассуждение без прямой просьбы, а на особенно сложных задачах может зацикливаться на длинном анализе и не приходить к выводу. Используйте ответы и сгенерированный код с проверкой.

German-RAG-MISTRAL-7B-v3.0-CPT-HESSIAN-AI — авторегрессионная языковая модель на архитектуре Transformer, разработанная командой Avemio AI при поддержке Hessian AI и дообученная на базе mistralai/Mistral-7B-v0.3 методом continued pre-training. Модель содержит 7,1 млрд параметров, использует формат safetensors и поддерживает контекст до 32 768 токенов. Лицензия — Apache 2.0. Модель предназначена для работы с немецкими и английскими текстами, особенно для генерации ответов на вопросы с учётом предоставленного контекста, структурированного рассуждения и суммаризации. Её можно использовать в RAG-сценариях, где приложению нужно сформулировать ответ по найденным документам. В обучающих данных сделан акцент на немецком языке; README указывает около 420 тысяч немецких и 200 тысяч английских примеров.

djuna/GSHT-GEMMAMA-16B — языковая модель на архитектуре Gemma 2, созданная объединением предварительно обученных моделей djuna/G2-GSHT и djuna/Gemma-2-gemmama-9b с помощью mergekit и метода passthrough. В конфигурации чередуются диапазоны слоёв двух исходных моделей; веса сохранены в формате safetensors.

Это GGUF-квантизированная версия модели DeepSeek-R1-Distill-Llama-70B-abliterated, разработанной huihui-ai и подготовленной к публикации пользователем bartowski. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp. В основе лежит модель с архитектурой Llama и размером 70B параметров; в README также указано, что она относится к вариантам abliterated и uncensored. Доступны многочисленные уровни квантизации, включая Q8_0, Q6_K, Q5_K_M, Q4_K_M, Q4_K_S, IQ4_XS и варианты Q3. Размер файлов составляет примерно от 30,91 до 74,98 ГБ. Квантизация выполнена с использованием imatrix и llama.cpp версии b4585. Формат запроса использует специальные токены DeepSeek. Сильной стороной являются варианты с высокой точностью, особенно Q6_K и Q5_K_M, а Q4_K_M предлагает более экономичный компромисс между качеством и размером. Версии с меньшей битностью позволяют снизить требования к оперативной памяти, но обеспечивают более низкое качество. README не содержит сведений о поддерживаемых языках, размере контекста, фактической производительности и точных аппаратных требованиях. Лицензия в предоставленных данных не указана.

YTan2000 подготовил GGUF-конверсию модели Huihui-Qwen3.5-35B-A3B-abliterated для запуска через TurboQuant-вариант llama.cpp. Это мультимодальная модель семейства Qwen3.5 MoE с 35 млрд параметров и активной частью около 3 млрд; она поддерживает диалог, анализ изображений и интерфейс вызова инструментов. Основные веса сжаты до TQ3_4S, а тензоры эмбеддингов и выходного слоя оставлены в Q6_K. Для обработки изображений предусмотрен совместимый мультимодальный проектор в формате GGUF. Модель предназначена для диалоговых и агентных сценариев, генерации текста и ответов с учётом изображений. В коротком локальном smoke-тесте она показала результат 9 из 10, но это не полноценная оценка качества. Для запуска требуется публичная TurboQuant-сборка llama.cpp. Модель описана как abliterated/uncensored и может выдавать чувствительный или небезопасный контент. Лицензия — Apache-2.0.

Hunyuan-1.8B-Pretrain — базовая плотная языковая модель из открытой серии Hunyuan компании Tencent. Она содержит 1,8 млрд параметров, построена на архитектуре Hunyuan Dense V1 и предназначена для генерации текста и дальнейшей адаптации под диалоговые и прикладные сценарии. Модель поддерживает контекст до 262 144 токенов и реализована в формате safetensors для библиотеки Transformers. Модель подходит для продолжения текста, работы с длинными документами и построения приложений, где важны компактный размер и длительный контекст. В семействе заявлены режимы быстрого и пошагового рассуждения, а также возможности для агентных сценариев и интерфейсов вызова инструментов; конкретные качества этих возможностей зависят от настройки и используемой версии. Веса этой карточки — предобученный вариант, а не instruct-модель, поэтому для следования инструкциям и диалога может потребоваться дообучение или подходящая обвязка. Tencent описывает семейство как рассчитанное на разные вычислительные условия и упоминает поддержку квантизации при развертывании. В карточке указана лицензия Apache-2.0; она разрешает коммерческое использование при соблюдении её условий.

InternLM2.5-7B-Chat-1M-GGUF — это квантизированная версия чат-модели internlm2_5-7b-chat-1m, разработанной командой InternLM и преобразованной в формат GGUF пользователем bartowski. Квантизация выполнена с помощью llama.cpp версии b3278 и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на запросы пользователя при локальном запуске через совместимое программное обеспечение, например llama.cpp. Модель имеет около 7 миллиардов параметров и заявленное контекстное окно до 1 миллиона токенов, что делает её ориентированной на работу с очень длинными документами и продолжительными диалогами. Доступно множество вариантов квантизации от Q8 до Q2 и IQ-семейства, с размером файлов примерно от 2,77 до 8,93 ГБ. Более высокие уровни квантизации обеспечивают лучшее сохранение качества, а низкие позволяют сократить требования к памяти. Для взаимодействия используется специальный шаблон prompt с ролями system, user и assistant. Сильными сторонами являются поддержка длинного контекста, широкий выбор компромиссов между качеством и размером, а также возможность локального запуска в формате GGUF. Низкие уровни квантизации могут заметно снижать качество, а экспериментальные варианты с F16 для embedding- и output-весов требуют дополнительной проверки. Языки, точная архитектура, требования к оборудованию и результаты бенчмарков в README не указаны. Лицензия обозначена как other; конкретные условия использования необходимо уточнять в исходной модели и сопутствующих материалах.

Это преобразованная версия InternLM3-8B-Instruct от InternLM, представленная в формате архитектуры LLaMA для совместимости с некоторыми сценариями инференса. Модель содержит 8,3 млрд параметров, использует плотную архитектуру и предназначена для диалоговых запросов и генерации текста. Контекстное окно составляет 32 768 токенов; точность весов сохранена на уровне исходной модели. Модель принимает текст и выдаёт текст. Она подходит для чат-приложений и инференса через инструменты, ожидающие класс LlamaForCausalLM. Лицензия — Apache-2.0. README описывает преобразование формата, а метаданные связывают репозиторий с InternLM3-8B-Instruct как базовой моделью; по заданной классификации это конверсия формата.

InternVL3-78B-Instruct — мультимодальная чат-модель OpenGVLab, версия SFT семейства InternVL3. Она сочетает визуальный энкодер InternViT и языковую модель в архитектуре ViT-MLP-LLM; в этой версии использована плотная архитектура InternVLChatModel. Модель дообучена на базе OpenGVLab/InternVL3-78B-Pretrained и не проходила этап MPO. Разработчики рекомендуют использовать основную версию InternVL3-78B, если нет особой причины выбирать эту SFT-версию. Модель принимает текст, изображения и видео и формирует текстовые ответы. Она предназначена для диалога по изображениям и видео, визуального восприятия и рассуждений, понимания длинного контекста, анализа промышленных изображений и научных диаграмм, работы с GUI и 3D-сценами, а также использования инструментов. Динамическая обработка изображений разбивает их на фрагменты размером 448×448 пикселей; поддерживаются несколько изображений и видеоданные. Карточка заявляет многоязычную поддержку, но не перечисляет отдельные языки и размер контекстного окна. Модель распространяется в формате safetensors для Transformers. Лицензия указана как other, поэтому перед использованием следует проверить условия в карточке репозитория Hugging Face.

J.O.S.I.E.3-Beta10-7B-slerp — чат-модель для генерации текста, созданная слиянием Weyaxi/Einstein-v5-v0.2-7B и argilla/CapybaraHermes-2.5-Mistral-7B методом SLERP с помощью LazyMergekit. Она использует плотную архитектуру Mistral с 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов и генерации ответов на текстовые запросы. Веса опубликованы в формате Safetensors; лицензия — Apache-2.0.

K2-Horizon-3.7B-GGUF — GGUF-версия языковой модели K2-Horizon-3.7B, разработанной IFM. Репозиторий предназначен для запуска модели с помощью llama.cpp и содержит тензоры в исходной точности BF16, метаданные токенизатора и совместимый с llama.cpp шаблон чата. Модель относится к семейству K2-Horizon и представляет собой небольшую плотную decoder-only модель с 3,7 млрд параметров и контекстным окном 524 288 токенов. Указан английский язык. Модель предназначена для генерации текста и оценивается на задачах, связанных с агентными сценариями, программированием и рассуждениями. Ключевые сильные стороны — большой контекст, открытость весов, публикация обучающих данных, рецептуры, кода обучения и ресурсов для оценки, а также наличие промежуточных контрольных точек для анализа изменений возможностей в процессе обучения. Ограничение версии GGUF заключается в необходимости использовать сборку llama.cpp с поддержкой архитектуры K2 Horizon; такая поддержка на момент публикации находилась в разработке, а совместимая версия доступна в форке MBZUAI-IFM. Лицензия модели — Apache-2.0. В README не указаны точные детали вычислительных требований, результаты отдельных тестов, поддерживаемые языки помимо английского и дополнительные сведения о качестве или ограничениях применения.

KafkaLM-8x7b-German-V0.1-DPO — немецкоязычная языковая модель Seedbox, обученная Деннисом Дикманном. Это дообученная модель семейства Mixtral с архитектурой Mixture of Experts; в метаданных указано 7,1 млрд параметров и контекст до 32 768 токенов. Весовые файлы доступны в формате safetensors. Модель предназначена для диалогового помощника и повседневных задач на немецком языке, включая сценарии немецкоязычного бизнеса. Она дообучена на наборах инструкций, переведённых с английского на немецкий, а затем выровнена методом DPO на немецкой модификации UltraFeedback. Автор отмечает её уверенное и творческое поведение, а также склонность иногда выходить за языковые рамки. Модель распространяется по лицензии Apache-2.0. Карточка рекомендует использовать её для исследовательских целей и указывает, что применяются ограничения исходной лицензии Llama 2 и использованных датасетов; эта оговорка сама по себе не меняет классификацию зрелости модели.

Karnak-6B-v1.0 — плотная причинно-языковая модель семейства Qwen3, разработанная Applied Innovation Center на основе Qwen/Qwen3-4B-Instruct-2507. Модель дообучена в несколько этапов с расширением глубины, продолжением предобучения и supervised fine-tuning; в карточке заявлены около 6 млрд параметров, а метаданные указывают 5,4 млрд. Для арабского применён оптимизированный токенизатор. Модель предназначена для генерации текста и диалогов на арабском и английском: она отвечает на вопросы, объясняет темы, пишет материалы и помогает работать с длинными документами и беседами. Метаданные указывают контекст до 262 144 токенов, тогда как README рекомендует ограничивать рабочий контекст 20 000 токенами для стабильной работы. Модель можно запускать локально или на собственных серверах, в том числе через Transformers и vLLM. Разработчик заявляет улучшенное следование инструкциям, беглость арабского текста и обработку длинных зависимостей; независимые показатели качества в предоставленных данных не приведены. Лицензия — Apache-2.0.

kromcomp/L3.1-Spectrev2-12B — объединённая языковая модель на архитектуре Llama, созданная автором репозитория с помощью mergekit и метода Passthrough. В объединении использована модель merge/imps. Модель содержит 11,4 млрд параметров, построена как плотная авторегрессионная модель для генерации текста и поддерживает диалоговый режим. Модель подходит для генерации ответов в чате и других задач, где требуется продолжать или создавать текст. Заявленная длина контекста — 131 072 токена. Репозиторий содержит веса в формате Safetensors; для работы указана библиотека Transformers. README и метаданные не описывают специализацию по предметным областям или отдельные ограничения качества. Лицензия в предоставленных данных не указана.

LFM2-350M-Extract — компактная языковая модель компании Liquid AI для извлечения важных сведений из неструктурированных документов и преобразования их в структурированные данные. Она предназначена для обработки статей, расшифровок, отчётов, писем, обращений в поддержку и нормативных документов; результаты можно запрашивать в формате JSON, XML или YAML, задав схему в системном запросе. При отсутствии системного запроса модель по умолчанию формирует JSON. Модель построена на плотной архитектуре LFM2 и содержит 444,6 млн параметров. Она принимает текст и выдаёт текст, включая структурированный вывод. Заявленная длина контекста — 128 000 токенов. Поддерживаются английский, арабский, китайский, французский, немецкий, японский, корейский, португальский и испанский языки. Для генерации рекомендуется жадное декодирование с temperature=0. По данным разработчика, на задаче извлечения модель превзошла Gemma 3 4B в проведённой ими оценке, однако это не гарантирует аналогичный результат на других данных и сценариях. Модель рассчитана на одношаговые диалоги; для более точного соблюдения формата и схемы рекомендуется явно задавать их в системном запросе. Модель дообучена на базе LiquidAI/LFM2-350M. В метаданных указана лицензия other; конкретные условия использования следует сверить с лицензией репозитория.

Ling-3.0-flash-GGUF — это GGUF-квантизированная версия языковой модели Ling-3.0-flash, разработанной inclusionAI и подготовленной для распространения bartowski. Модель предназначена для генерации текста и запуска через llama.cpp; поддерживает спекулятивное декодирование MTP и входные данные в текстовой модальности. Модель содержит 127 млрд параметров. Доступны варианты от BF16 и Q8_0 до компактных квантов Q2 и IQ2; размер файлов составляет примерно от 43,64 до 255,09 ГБ. Для большинства сценариев README рекомендует Q4_K_M как компромисс между качеством и размером, а Q5 и Q6 — когда важнее качество. Квантизация выполнена с использованием imatrix, однако измерения perplexity и KLD не предоставлены. Архитектура, поддерживаемые языки и размер контекстного окна в представленных данных не указаны. Сильными сторонами являются большой объём параметров, широкий выбор уровней квантизации и совместимость с экосистемой llama.cpp. Ограничениями выступают значительные требования к дисковому пространству и ресурсам, особенно для высококачественных вариантов; низкобитные кванты экономят память, но могут заметно снижать качество. Лицензия — MIT.

Модель ehristoforu/llama-3-12b-instruct разработана @ehristoforu как объединение нескольких вариантов Llama 3 для диалогов и выполнения инструкций. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 11,4 млрд параметров; она принимает текст и генерирует текст. Поддерживает русский и английский языки, а максимальная длина контекста составляет 8192 токена. Модель подходит для создания чат-ботов, ответов на вопросы и выполнения пользовательских инструкций на русском и английском языках. В её основе лежит Meta-Llama-3-8B-Instruct, объединённая с несколькими моделями Llama 3, включая Saiga, OpenHermes, Smaug, Dolphin и NeuralPaca. В карточке указана лицензия Apache-2.0. Количественных оценок качества и подробных ограничений в доступных данных нет.

MaziyarPanahi/mamba-gpt-7b-v2-Mistral-7B-Instruct-v0.2-slerp — диалоговая модель генерации текста, полученная слиянием Mistral-7B-Instruct-v0.2 и CobraMamba/mamba-gpt-7b-v2 методом SLERP. Модель имеет плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров; репозиторий предоставляет веса в формате safetensors. Модель предназначена для генерации ответов в диалоге и выполнения инструкций на входном тексте. Заявленная длина контекста — до 32 768 токенов. В метаданных указана лицензия Apache-2.0. Карточка не сообщает отдельные результаты оценки качества или специальные гарантии поведения после слияния.

MeliodasPercival_01_Experiment26Neuralsirkrishna — объединённая языковая модель на архитектуре Mistral, созданная путём слияния automerger/MeliodasPercival_01-7B и automerger/Experiment26Neuralsirkrishna-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и диалогов с контекстом до 32 768 токенов. Модель подходит для создания ответов и продолжения текста в приложениях на базе языковых моделей. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.