I.11Классификация, ранжирование и сопоставление

Falcon-40B-Instruct — разработанная TII модель генерации текста с архитектурой Falcon: плотный декодерный трансформер, дообученный для диалогов и выполнения инструкций на основе Falcon-40B. В README указано 40 млрд параметров, тогда как метаданные Hugging Face сообщают 65 млрд; точный размер по этим источникам расходится. Архитектура использует rotary position embeddings, multiquery attention и FlashAttention. Модель предназначена для чат-ботов, ответов на вопросы и генерации текста по инструкциям. Она обучалась преимущественно на английских данных, а также поддерживает французский; дообучение проводилось на смеси Baize с небольшой долей RefinedWeb. Для быстрого запуска авторы указывают потребность примерно в 85–100 ГБ памяти. Модель доступна по лицензии Apache 2.0. Модель может воспроизводить предубеждения из веб-данных и слабо переносить навыки на языки, отличные от английского. Авторы рекомендуют оценивать риски и применять защитные механизмы перед использованием в производстве; instruct-версия может быть не лучшей отправной точкой для дальнейшего дообучения.

FineLlama-3.1-8B-v2 — дообученная kkopalle диалоговая модель генерации текста на архитектуре Llama 3.1. Она основана на unsloth/Meta-Llama-3.1-8B-Instruct и рассчитана на чат и создание текстовых ответов; в метаданных также отмечен интерфейс вызова инструментов. Модель содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель обучалась с использованием Unsloth и библиотеки Hugging Face TRL. В карточке указана лицензия Apache-2.0. Метаданные обозначают английский язык; специальных предметных областей или дополнительных ограничений в предоставленной карточке не описано.

gemma-2-2b-dolly-sft — языковая модель, разработанная Адитьей Анилом Раутом на основе Gemma 2 от Google. Это плотный трансформер-декодер для генерации текста, дообученный методом supervised fine-tuning на датасете databricks/databricks-dolly-15k, чтобы лучше следовать инструкциям и вести диалог. Модель содержит 2,7 млрд параметров и поддерживает контекст до 8192 токенов. Модель предназначена для англоязычных задач общего назначения: ответов на открытые вопросы, суммаризации, творческого письма и диалогового общения. Она может выдавать неточные или вымышленные сведения и унаследовать смещения базовой модели и обучающих данных. Не следует полагаться на неё при принятии критически важных медицинских, юридических или финансовых решений без проверки человеком; при публичном развёртывании рекомендуется использовать фильтры безопасности. Лицензия — Apache 2.0, с условиями базовой модели.

Gemma 3n E4B It LM 4bit — версия модели Google Gemma 3n E4B-it, конвертированная сообществом mlx-community в формат MLX с использованием mlx-lm 0.25.2. Модель предназначена для запуска и генерации текста на устройствах и в окружениях, совместимых с MLX, через библиотеку mlx-lm. Модель ориентирована на диалоговую генерацию текста и, судя по заявленным тегам исходной модели, поддерживает сценарии работы с текстом, аудио и видео, включая автоматическое распознавание речи, автоматический перевод речи и преобразование аудио или видео в текст. Обозначение E4B указывает на класс модели примерно в 4 миллиарда параметров, а суффикс 4bit — на 4-битное квантование, уменьшающее требования к памяти. Точные сведения о языках и размере контекста в README не указаны. К сильным сторонам относятся адаптация к MLX, компактное 4-битное представление и поддержка мультимодальных сценариев, заявленная для базовой модели. Ограничения включают возможное снижение точности из-за квантования и отсутствие в README подробных данных о производительности, поддерживаемых языках и фактических требованиях к оборудованию. Для использования требуется принять лицензию Google Gemma на Hugging Face; конкретные условия лицензии gemma следует учитывать отдельно.

TheCluster/Gemma-4-26B-A4B-Heretic-MLX-bf16 — мультимодальная диалоговая модель семейства Gemma 4, представленная TheCluster. Это версия Gemma-4-26B-A4B-it с ослабленным отказом отвечать на запросы: по README, её создали методом abliteration Heretic v1.2.0 с Arbitrary-Rank Ablation и сохранением нормы строк, а затем преобразовали в формат MLX из coder3101/gemma-4-26B-A4B-it-heretic. Метаданные указывают архитектуру Gemma4ForConditionalGeneration, поддержку изображений и текстовых диалогов, библиотеку MLX, формат safetensors и лицензию Apache-2.0. Модель предназначена для диалогов и анализа изображений с текстовым ответом. README сообщает о 11 отказах из 100 запросов против 100 из 100 у исходной модели и KL-дивергенции 0,0499; это результаты указанного в карточке сравнения, а не гарантия поведения на других запросах. В метаданных отмечены языки, включая английский, китайский и русский, а также ряд европейских, азиатских и других языков. Размер 26B-A4B входит в название репозитория, но описание точной структуры и значения A4B в предоставленных данных отсутствует. Ограничения на контент и допустимые сценарии использования не описаны; условия лицензии — Apache-2.0.

Gemma 4 E2B-it-qat-JANG_4M-CRACK — дообученная и квантизированная мультимодальная модель dealignai на базе google/gemma-4-e2b-it. Она использует плотную архитектуру Gemma 4 с гибридным скользящим и глобальным вниманием и рассчитана на запуск через vMLX на компьютерах Apple Silicon. Квантизация JANG_4M сочетает 8-битные веса внимания и 4-битные веса MLP; средняя точность составляет около 4,3 бита. Модель принимает текст, изображения и аудио, поддерживает диалог, рассуждения, ответы на фактические вопросы и генерацию кода. В README заявлены результаты MMLU 60,1% (на 1,7 процентного пункта ниже базовой модели) и полное выполнение запросов вредоносных категорий в тесте HarmBench; автор описывает это как удаление отказов при сохранении возможностей. Это делает модель непригодной для сценариев, где важно сдерживание опасных запросов. Для запуска требуется vMLX с поддержкой Gemma 4 и достаточно памяти. Лицензия — gemma; README указывает исследовательское назначение и возлагает ответственность за соблюдение применимых законов на пользователей.

mhenrichsen опубликовал инструктивно дообученную текстовую модель Gemma 7B IT от Google. Это плотная авторегрессионная модель семейства Gemma с архитектурой decoder-only, содержащая 8,2 млрд параметров; она принимает текст и генерирует текст, поддерживает диалоговый режим и контекст до 8192 токенов. В карточке модели указана английская языковая версия. Модель подходит для генерации и редактирования текстов, ответов на вопросы, суммаризации, диалоговых интерфейсов и простых задач рассуждения. Небольшой по меркам крупных языковых моделей размер позволяет запускать её на персональном компьютере или в собственной облачной инфраструктуре, хотя для локального использования всё равно нужны ресурсы, соответствующие модели такого размера. Возможны предвзятые, неточные или устаревшие ответы; модель может затрудняться с неоднозначными формулировками, тонкими языковыми нюансами и сложными открытыми задачами. Опубликована в формате safetensors и распространяется по лицензии Gemma с условиями использования Google; перед развёртыванием следует учитывать политику допустимого использования Gemma.

Карточка модели PS4Research/GIxTUYIl3K6cMzEd на Hugging Face совпадает с карточкой PS4Research/EVPdEf4TUz3pRa2u, поэтому описание составлено по ней. PS4Research/EVPdEf4TUz3pRa2u — дообученная языковая модель семейства Qwen3, разработанная PS4Research на базе unsloth/Qwen3-14B-bnb-4bit с использованием Unsloth и библиотеки TRL. Модель содержит 14 млрд параметров, построена на плотной архитектуре Qwen3ForCausalLM и принимает текст для генерации текста; поддерживает диалоговый интерфейс и интерфейс вызова инструментов. Модель предназначена для генерации текста и диалоговых сценариев. Её контекстное окно составляет 40 960 токенов. В карточке указан английский язык. Модель распространяется по лицензии Apache-2.0. Специализация дообучения и его качество в карточке не раскрыты.

GLM-4.7-Flash-UD-Q4_K_XL-layers — пакет слоёв GGUF, подготовленный Mesh LLM для распределённого запуска модели GLM-4.7-Flash на локальном кластере. Пакет получен из unsloth/GLM-4.7-Flash-GGUF: веса разделены на артефакты по слоям для распределения вычислений и памяти между несколькими машинами. Модель предназначена для локального приватного чат-инференса, в том числе на нескольких компьютерах, если полный файл GGUF не помещается на одном узле. Mesh LLM позволяет обслуживать запросы через локальный API, совместимый с OpenAI Chat Completions. В метаданных указаны GGUF и возможность chat; задача — генерация текста. Архитектурные подробности, размер контекста и перечень языков следует сверять с карточкой исходной модели. Квантизация варианта обозначена как UD-Q4_K_XL. Пакет ориентирован на запуск через Mesh LLM и сам по себе не описывает качество ответов или аппаратные требования. Условия лицензии наследуются от исходной модели unsloth/GLM-4.7-Flash-GGUF; в доступных данных они не приведены.

Melvin56/GLM-4-9B-0414-abliterated-GGUF — это GGUF-квантизованная версия модели huihui-ai/GLM-4-9B-0414-abliterated, подготовленная пользователем Melvin56. Модель предназначена для генерации текста и локального запуска через совместимые реализации llama.cpp. В README указано, что квантизация выполнена с использованием imatrix и специального набора данных, а сами файлы пересобраны на базе llama.cpp build 558a7647 (5190). Модель относится к семейству GLM и имеет размер 9B параметров в исходной версии; доступны варианты K-quants и I-quants. Поддерживаются CPU с AVX2 и ARM NEON, Metal, cuBLAS, rocBLAS и SYCL, а для отдельных вариантов также Vulkan и CLBlast; некоторые конфигурации работают медленнее или поддерживаются частично. Заявлены китайский и английский языки, текстовая модальность и контекст генерации текста, однако точный размер контекстного окна в README не указан. К сильным сторонам относятся возможность локального запуска на широком спектре CPU и GPU, выбор разных уровней квантизации и совместимость с llama.cpp. Ограничения включают зависимость производительности и доступности отдельных вариантов от backend и аппаратной платформы, а также отсутствие подробных данных о качестве, бенчмарках и точном контекстном окне. Модель распространяется по лицензии MIT.

ggml-org/gpt-oss-120b-GGUF — квантизированная модель для генерации текста в формате GGUF, разработанная на основе openai/gpt-oss-120b. Репозиторий опубликован организацией ggml-org; указанные исходные модели связаны также с nvidia/gpt-oss-120b-Eagle3-v3. Модель предназначена для запуска и использования в инструментах, совместимых с GGUF, включая llama.app. Ключевая известная характеристика модели — размер базовой модели 120B параметров и квантованный формат представления, который может снизить требования к ресурсам по сравнению с полноразмерной версией. README не содержит сведений об архитектуре, поддерживаемых языках, модальностях и размере контекстного окна, поэтому эти параметры нельзя надежно определить. Модель автоматически преобразована с помощью инструментария ggml-org/convert. Это делает её удобной для локального запуска через совместимое программное обеспечение, однако конкретные требования к памяти, производительность и характеристики квантования в README не указаны. Лицензия — Apache-2.0.

Helion-4x34B — разговорная языковая модель, опубликованная Weyaxi и собранная как модель типа Mixture of Experts (MoE). В метаданных указаны 33,9 млрд параметров, контекст до 200 000 токенов и формат safetensors; модель предназначена для генерации текста в диалоге. В README приведены шаблоны запросов ChatML, Alpaca, Vicuna и Human Assistant, но автор отмечает, что не определил предпочтительный шаблон. Модель можно применять для диалоговых ответов и генерации текста. В README указана лицензия other в метаданных; её конкретные условия здесь не описаны. Автор ссылается на bagel-dpo-34b-v0.2 и предоставляет конфигурацию для воспроизведения, однако точная связь с базовой моделью и детали обучения не уточнены.

Ice0.51-16.01-RP — объединённая языковая модель на архитектуре Mistral, созданная методом SLERP с помощью mergekit. Модель содержит около 7,1 млрд параметров, работает с контекстом до 32 768 токенов и предназначена для генерации текста в диалоговом формате. Модель принимает текст и выдаёт текст; её можно использовать для ведения беседы и генерации ответов. В README указана лицензия?

Модель braindao/iq-code-evmind-qwen-2.5-7b-instruct-v0.2410.0 разработана braindao и представляет собой дообученную плотную языковую модель семейства Qwen2.5. В основе лежит unsloth/qwen2.5-7b-instruct-bnb-4bit; модель обучали с использованием Unsloth и библиотеки TRL. Модель предназначена для генерации текста и диалогового взаимодействия. Метаданные также указывают интерфейс для вызова инструментов. Размер — 7,1 млрд параметров, контекст — до 32 768 токенов. В карточке указан английский язык. Модель принимает текст и выдаёт текст. Модель распространяется под лицензией Apache-2.0. Карточка не описывает специализированные сценарии применения и не приводит результатов оценки качества.

Irix-12B_Slush_V2 — объединённая языковая модель на 12,1 млрд параметров, созданная сообществом mergekit-community из DreadPoor/Irix-12B-Model_Stock и mergekit-community/Slush-Lyra-Gutenberg-Bophades. Слияние выполнено методом SLERP; архитектура — плотная MistralForCausalLM, веса опубликованы в формате Safetensors и предназначены для работы через Transformers. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно использовать для ответов на запросы и продолжения текста; в метаданных также отмечен интерфейс вызова инструментов. Заявленная длина контекста — до 1 024 000 токенов. Карточка не приводит оценок качества или конкретных ограничений, поэтому поведение на длинном контексте и в прикладных сценариях следует проверять отдельно. Сведения о лицензии в доступных данных отсутствуют.

Карточка модели modulon-labs/K2-Horizon-7B-GDN-Hybrid-Exp на Hugging Face совпадает с карточкой TFM-ML/K2-Horizon-7B-GDN-Hybrid-Exp, поэтому описание составлено по ней. TFM-ML выпустила экспериментальную плотную языковую модель K2-Horizon-7B-GDN-Hybrid-Exp на основе IFM/K2-Horizon-7B. Она предназначена для генерации текста и диалогов с длинным контекстом. В 36-слойной архитектуре чётные слои используют Gated DeltaNet, а нечётные сохраняют исходное full attention; параметры GDN инициализированы из весов внимания и дистиллированы на базе исходной модели. Модель содержит 8 млрд параметров и поддерживает контекст до 524 288 токенов. Замена половины слоёв full attention на GDN сокращает объём KV-кэша на токен вдвое, до 73 728 байт; на последовательность также требуется около 19 МиБ состояния GDN в bf16. Модель предназначена для сценариев, где важна экономия памяти при работе с длинными последовательностями, однако авторы предупреждают о снижении качества в задачах рассуждения. Для запуска требуется transformers с custom code и параметром trust_remote_code=True; автор протестировал версию transformers 5.17.0. Лицензия — Apache-2.0.

K2S3-Mistral-7b-v1.2 — текстовая генеративная модель, разработанная K2S3 и дообученная на базе mistralai/Mistral-7B-v0.1. Это плотная авторегрессионная модель семейства Mistral с 7,2 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев по инструкциям. Для обучения методом supervised fine-tuning (SFT) использовались alpaca-gpt4-data и примеры из OpenOrca; проведена полная настройка параметров. Репозиторий содержит веса в формате Safetensors. Модель рассчитана на английский и корейский языки. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение. Как и другие генеративные языковые модели, она может выдавать неточные или вымышленные сведения.

danieltorscho дообучил модель Qwen2.5-7B-Instruct с помощью Unsloth и библиотеки Hugging Face TRL. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров для генерации текста и диалогового взаимодействия; она также предоставляет интерфейс вызова инструментов. Модель принимает текст и генерирует текст, поддерживает английский язык и имеет контекст длиной до 32 768 токенов. Модель подходит для ведения диалогов, генерации ответов и использования инструментов в текстовых сценариях. В README указана лицензия Apache-2.0. Карточка не описывает специальные предметные области или дополнительные ограничения качества и применения.

L3.1-70b-MeowMix2 — объединённая модель семейства Llama 3.1, созданная KaraKaraWarehouse с помощью LazyMergekit на Runpod. Она предназначена для генерации текста и диалогов в формате Llama 3 Instruct. В состав слияния входят Tess-3-Llama-3.1-70B, Llama-3.1-70B-EZO-1.1-it, Llama3.1-70B-Chinese-Chat и Linkbricks-Horizon-AI-Korean-llama3.1-sft-dpo-70B. Модель имеет плотную архитектуру LlamaForCausalLM и 69,5 млрд параметров; заявленный контекст — до 131 072 токенов. Вход и выход — текст. Компоненты слияния ориентированы на английский, китайский и корейский диалоги, однако отдельные языковые гарантии для итоговой модели не приведены. Формат весов — safetensors. Лицензия в предоставленных данных не указана.

lambda-qwen2.5-32b-dpo-test — дообученная компанией tanliboy версия инструктивной языковой модели Qwen/Qwen2.5-32B-Instruct. Это плотная авторегрессионная модель семейства Qwen2 с 32 млрд параметров; она предназначена для диалоговой генерации текста и следует инструкциям. Поддерживает контекст длиной до 32 768 токенов и работает через библиотеку Transformers. Модель обучена методом DPO на наборе tanliboy/orca_dpo_pairs. В README приведены метрики оценки на тестовом наборе, но подробности о сценариях применения, языковом составе и качестве результатов не раскрыты. Метаданные указывают на интерфейс вызова инструментов; базовая модель рассчитана на программирование, математику и структурированные ответы. Репозиторий содержит веса Safetensors, лицензия — Apache-2.0. Название с пометкой test и ограниченные сведения о проверке качества не позволяют считать результат подтверждённым для конкретного рабочего сценария.

LFM2-24B-A2B-MLX-6bit — это 6-битно-квантизированная версия модели LFM2-24B-A2B, разработанной LiquidAI. Данная версия подготовлена командой LM Studio с использованием mlx_lm и оптимизирована для запуска на устройствах Apple Silicon. Модель предназначена для генерации текста и может применяться в сценариях локального запуска языковых моделей, включая диалоговые приложения, подготовку и преобразование текстов, а также другие задачи text generation. В README указана поддержка английского, арабского, китайского, французского, немецкого, японского, корейского, испанского и португальского языков. Обозначение модели содержит 24B-A2B, однако подробности архитектуры, контекстного окна и распределения параметров не приведены. Ключевое преимущество версии — уменьшенный объём хранения и вычислительных ресурсов благодаря 6-битному квантованию, а также оптимизация под экосистему Apple Silicon через MLX. Ограничения включают возможную потерю качества по сравнению с полноформатной моделью из-за квантования и зависимость от совместимого оборудования и программного стека MLX. Модель распространяется по лицензии lfm1.0; в карточке также указано общее обозначение лицензии other.

Это квантизированная GGUF-версия языковой модели EXAONE-4.0.1-32B, разработанной LGAI-EXAONE и подготовленной пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Модель содержит 32 миллиарда параметров. Доступны варианты от BF16 до различных уровней квантования Q8, Q6, Q5, Q4, Q3 и IQ, размером примерно от 13 до 64 ГБ. Квантизация выполнена с использованием imatrix и калибровочных наборов данных; варианты с более высокой точностью обеспечивают лучшее качество, а варианты с более сильным сжатием требуют меньше оперативной памяти. Рекомендуемыми в README названы некоторые варианты Q6, Q5 и Q4. Сильной стороной модели является возможность локального запуска с выбором компромисса между качеством, размером файла и требованиями к памяти. Ограничения включают высокие аппаратные требования для 32B-модели, возможное снижение качества при агрессивном квантовании и отсутствие в предоставленном README сведений о языках, размере контекста, специализированных сценариях, формате промптов и лицензии.

Карточка модели triplee/llama3.1_8b_cardiff_2024-08-19_merge на Hugging Face совпадает с карточкой triplee/llama3.1_8b_2S1S_v5_merge, поэтому описание составлено по ней. Модель triplee/llama3.1_8b_2S1S_v5_merge — дообученная текстовая модель семейства Llama 3.1, разработанная triplee на основе unsloth/meta-llama-3.1-8b-instruct. Она предназначена для генерации текста и диалоговых сценариев; в метаданных также заявлен интерфейс вызова инструментов. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Для обучения использовались Unsloth и библиотека TRL; файлы представлены в формате safetensors. Лицензия — Apache-2.0.

itims/llama-3.1-8b-finetuned — дообученная языковая модель, разработанная itims на основе unsloth/llama-3.1-8b-unsloth-bnb-4bit. Она предназначена для генерации текста и диалогового общения; метаданные также указывают интерфейс вызова инструментов. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 7,5 млрд параметров. Для обучения использовались Unsloth и библиотека TRL от Hugging Face. Модель поддерживает английский язык, имеет контекстное окно 131 072 токена и распространяется в формате safetensors по лицензии Apache-2.0. Карточка не описывает специальную предметную область или конкретные улучшения после дообучения, поэтому качество на узких задачах не установлено.

Llama-3.2-1B-Instruct-Frog — компактная языковая модель на архитектуре Llama, разработанная phamhai на базе Meta Llama 3.2 1B Instruct и дообученная для задач RAG на вьетнамском языке. Модель содержит 1,2 млрд параметров и поддерживает контекст до 131 072 токенов. Она предназначена для диалоговых сценариев, ответов на вопросы с использованием найденных документов, суммаризации, извлечения сущностей, вызова функций и переформулирования вопросов. Небольшой размер позволяет использовать её для быстрого инференса на локальных и периферийных устройствах. Автор отмечает, что у версии 1B слабее понимание запросов и ниже точность в некоторых задачах, включая суммаризацию и извлечение сущностей при вызове функций. Модель распространяется по лицензии Llama 3.2; использование требует соблюдения условий лицензии Meta.

DavidAU дообучил модель семейства Llama 3.3 для генерации текста с короткими рассуждениями, следуя стилю Claude Haiku, на 1700 примерах датасета TeichAI/claude-haiku-4.5-high-reasoning-1700x. Это плотная авторегрессионная модель на 7,5 млрд параметров с архитектурой LlamaForCausalLM и контекстом до 131 072 токенов; в карточке указано, что обучение затронуло около 2,05% параметров. Модель предназначена для диалогов, пошагового обдумывания запросов, объяснений, планирования и творческого письма, включая рассказы и ролевые сценарии. Карточка сообщает о поддержке нескольких языков, в том числе русского, английского, французского, немецкого, испанского, итальянского, португальского, китайского, японского и корейского. Возможны устаревшие знания и проблемы, унаследованные от Llama; качество и форматирование зависят от настроек генерации и уровня квантования. Лицензия — Apache-2.0.

bartowski/llama-3-8B-function-calling-GGUF — набор квантизированных версий модели llama-3-8B-function-calling, исходно опубликованной serpdotai. Файлы подготовлены bartowski в формате GGUF с использованием llama.cpp release b3070 и метода imatrix. Модель предназначена для генерации текста и сценариев function calling, включая взаимодействие с инструментами и вызов внешних функций в приложениях. В README указан шаблон диалога с ролями system, user и assistant на основе специальных маркеров im_start и im_end. Доступны варианты квантования от Q8_0 до IQ2_XS размером примерно от 8,54 до 2,60 ГБ, что позволяет выбирать между качеством ответов и требованиями к памяти. Версия Q6_K обозначена как рекомендуемая для очень высокого качества, а Q4_K_M — как компромисс между качеством и размером. Ключевое ограничение — снижение качества у низкобитных вариантов, особенно Q3 и Q2; некоторые из них описаны как пригодные для использования, но не рекомендуемые. В README не указаны точный размер контекста, перечень языков, модальности, лицензия исходной модели или отдельные результаты тестирования, поэтому эти характеристики нельзя достоверно определить.

ruslandev/llama-3-8b-gpt-4o-ru1.0 — диалоговая языковая модель, дообученная автором на базе Meta Llama 3 8B Instruct. Обучение продолжалось одну эпоху на двух NVIDIA A100 на наборе примеров, сформированном из подмножества Tagengo GPT-4 и улучшенном с помощью GPT-4o; около 80% примеров ориентированы на русский язык. Модель построена на плотной архитектуре LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Модель предназначена для диалогов и генерации ответов, особенно на русском языке. В карточке автор приводит результаты MT-Bench: 8,12 для русского и 8,01 для английского; эти оценки отражают заявленную автором проверку. Модель доступна в форматах PyTorch и Safetensors, а для локального запуска автор также указывает отдельную GGUF-версию. Лицензия — Llama 3 License.

Это 4-битная версия модели Llama 3 8B Instruct, подготовленная сообществом mlx-community для запуска с MLX. Модель преобразована из gradientai/Llama-3-8B-Instruct-262k с помощью mlx-lm 0.10.0; она использует плотную архитектуру LlamaForCausalLM и содержит 7,5 млрд параметров. Модель предназначена для диалоговой генерации текста и принимает текстовые запросы. Заявленная длина контекста — 1 048 576 токенов; карточка указывает поддержку английского языка. Репозиторий использует формат safetensors. Лицензия — llama3. README отсылает к карточке исходной модели за дополнительными сведениями о возможностях и условиях использования.

Llama3-DiscoLeo-Instruct-8B-v0.1 — немецкоязычная инструктивная языковая модель, совместно разработанная DiscoResearch и Occiglot при поддержке DFKI и hessian.Ai. Она создана дообучением DiscoResearch/Llama3-German-8B на немецком наборе инструкций DiscoResearch. Базовая модель восходит к Meta Llama 3 8B и прошла продолжительное предобучение на 65 млрд немецких токенов. Модель построена на плотной архитектуре Llama с примерно 7,5 млрд параметров; использует шаблон диалога Llama 3 и рассчитана на контекст до 8192 токенов. Она предназначена для диалогов и выполнения инструкций на немецком языке, а опубликованные оценки охватывают немецкие и английские тесты. Модель распространяется в формате safetensors по лицензии Llama 3.