II.1Анализ требований и архитектура ПО

inferencerlabs/GLM-5.3-MLX-Q4i — квантизированная версия языковой модели GLM 5.3, основанная на zai-org/GLM-5.3-BF16 и подготовленная сообществом inferencerlabs. Модель предназначена для генерации и продолжения текста, локального текстового инференса и других задач, поддерживаемых библиотекой MLX. Данные о размере модели, архитектуре, языках и максимальной длине контекста в README не указаны. Модель использует формат MLX и квантизацию Q4-INF, настроенную методом INF для повышения общей точности при ограничении памяти до 512 GiB. По приведённым данным конверсии GLM 5.1, Q4-INF показала perplexity 1,21093, точность токенов 97,70% и missed divergence 10,65%; эти показатели не следует напрямую считать результатами для GLM 5.3. На M3 Ultra заявлена скорость около 15,8 токена в секунду при обработке последовательности длиной около 1000 токенов и потребление примерно 428,6 GiB памяти. Сильной стороной модели является адаптация под экосистему MLX и сохранение высокой точности при 4-битной квантизации, однако использование требует значительного объёма оперативной памяти и совместимого оборудования или программного окружения. Модальности ограничены текстом согласно указанному pipeline_tag. Лицензия в README не указана.

second-state/gpt-oss-20b-GGUF — версия модели openai/gpt-oss-20b в формате GGUF, опубликованная second-state. Модель семейства GPT-OSS построена на архитектуре MoE и предназначена для генерации текста в диалоговом режиме. В карточке указана поддержка запуска через LlamaEdge; для вызова инструментов требуется LlamaEdge версии 0.25.1 или выше. Модель принимает текстовые запросы и выдаёт текстовые ответы. Указанный родной размер контекста — 131072 токена; в репозитории доступны файлы GGUF и GGUF F16. Метаданные сообщают об общем числе параметров 1,6 млрд, а исходная модель в названии и карточке обозначена как gpt-oss-20b. Модель распространяется по лицензии Apache-2.0. README не описывает языковое покрытие или ограничения качества.

GWQ-9B-Preview2 — англоязычная диалоговая языковая модель, созданная prithivMLmods как дообученная версия GWQ-9B-Preview на базе архитектуры Gemma 2. Это плотная авторегрессионная модель типа decoder-only с 9 млрд параметров, предназначенная для генерации текста и работы в формате чата; максимальная длина контекста — 8192 токена. Модель рассчитана на ответы на вопросы, суммаризацию, генерацию текстов и многошаговые рассуждения. В README указано дообучение на синтетическом наборе Chain of Continuous Thought; модель также может следовать инструкциям. Для запуска используется библиотека Transformers и шаблон чата токенизатора. Модель может ошибаться и галлюцинировать, воспроизводить смещения обучающих данных и испытывать трудности со сложными рассуждениями; её ответы могут быть неактуальны. Для инференса 9-миллиардной модели нужны существенные вычислительные ресурсы, а длинные входы ограничены окном контекста. Репозиторий использует лицензию Gemma.

HelpingAI Dhanishtha-2.0-preview-GGUF — это квантизированная версия языковой модели Dhanishtha-2.0-preview, разработанной HelpingAI и подготовленной пользователем bartowski в формате GGUF с использованием llama.cpp. Модель предназначена для генерации текста, диалогового взаимодействия, рассуждений с промежуточным мышлением, решения сложных задач, философских и образовательных объяснений. Модель относится к архитектуре Transformers и поддерживает мультиязычную работу, включая английский, хинди, китайский, испанский, французский, немецкий, японский, корейский, арабский, португальский, русский и ряд других языков. Доступны варианты от BF16 размером около 29,54 ГБ до различных квантизаций объёмом примерно от 8,11 ГБ. Квантизации позволяют запускать модель с меньшими требованиями к памяти; варианты Q5 и Q6 заявлены как высококачественные, а Q4_K_M — как оптимальный размер для большинства сценариев. Длина контекста, число параметров и мультимодальные возможности в README не указаны, поэтому модель следует считать текстовой. Сильными сторонами являются поддержка большого числа языков, ориентация на рассуждения и наличие широкого выбора квантизаций для локального запуска. Ограничения связаны с возможной потерей качества в более компактных квантизациях, значительными требованиями к памяти у крупных вариантов и отсутствием данных о производительности, длине контекста и результатах оценки. Модель можно запускать через LM Studio, llama.cpp и другие совместимые проекты. Указана лицензия Apache-2.0.

inta/hrd-llama — дообученная языковая модель семейства Llama, разработанная inta. Модель содержит 3,2 млрд параметров, использует плотную архитектуру LlamaForCausalLM и формат safetensors. Для обучения применялись Unsloth и библиотека TRL; в карточке заявлены чат-возможности и интерфейс вызова инструментов. Модель предназначена для генерации текста и диалогового взаимодействия на английском языке. Её можно применять для ведения чата, подготовки текстовых ответов и сценариев с вызовом инструментов. Длина контекста составляет 131 072 токена. Модель распространяется по лицензии Apache-2.0. Карточка указывает дообучение от inta/hrd-llama, то есть от того же идентификатора модели; более конкретная информация о данных и цели дообучения не приведена.

Huihui-MiroThinker-v1.0-8B-abliterated — версия MiroThinker-v1.0-8B, изменённая проектом huihui-ai методом abliteration для снижения числа отказов. Это плотная языковая модель семейства Qwen3 с 7,6 млрд параметров, рассчитанная на генерацию текста и диалог; базовая MiroThinker предназначена для многошаговых исследований, поиска информации и вызова инструментов. Модель можно запускать через Transformers или Ollama. Контекст модели составляет 262 144 токена. В карточке указаны английский язык и лицензия MIT. Abliteration снижает защитные отказы и может приводить к чувствительным, спорным или неподходящим ответам; результаты следует тщательно проверять.

OpenMOSE Hy3-REAP-200B-21B — сжатая pruning-методом REAP версия диалоговой MoE-модели Tencent Hy3. В каждом MoE-слое число маршрутизируемых экспертов уменьшено с 192 до 128; маршрутизатор, выбор восьми экспертов на токен и общий эксперт сохранены. По README, активный путь остаётся на уровне 21 млрд параметров, а общий размер — около 200 млрд; метаданные указывают 16,6 млрд параметров. Контекстное окно составляет 262 144 токена. Модель принимает текст и генерирует текст, поддерживает английский и китайский языки, диалог, режимы рассуждения и вызов инструментов, унаследованные от Hy3. Модель предназначена для диалоговой генерации и рассуждений при меньшем объёме весов, чем у исходной Hy3. В приведённой оценке MMLU снизился с 85,65% до 82,37%, а результат GSM8K практически не изменился. Это сжатие без последующего дообучения или восстановления: авторы отмечают заметное снижение качества при более глубоком pruning и ограниченность оценки двумя бенчмарками. Лицензия — Apache-2.0.

Модель mphank/hzk-agentic-8b-v2 — дообученная языковая модель семейства Qwen3, разработанная mphank на базе unsloth/qwen3-8b-unsloth-bnb-4bit. Она предназначена для генерации текста и диалогового взаимодействия; в метаданных также заявлен интерфейс вызова инструментов. Модель содержит 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. В README указано, что обучение проводилось с использованием Unsloth и библиотеки TRL для Hugging Face. Карточка не описывает специальные предметные области или подтверждённые ограничения качества; язык карточки и метаданные указывают на английский.

Карточка модели amd/Instella-MoE-16B-A3B-Pretrain на Hugging Face совпадает с карточкой amd/Instella-MoE-16B-A3B-Think, поэтому описание составлено по ней. Instella-MoE-16B-A3B-Think — языковая модель с архитектурой Mixture-of-Experts, разработанная AMD и обученная с нуля. В опубликованном описании семейства указаны 16 млрд параметров всего и 2,8 млрд активных параметров на токен; метаданные этого репозитория указывают 2,5 млрд параметров. Модель построена на архитектуре семейства DeepSeek V3, имеет 27 декодерных слоёв и использует Gated Multi-head Latent Attention и FarSkip-Collective. Репозиторий содержит веса Safetensors для Transformers. Модель предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Контекст составляет 32 768 токенов. В карточке семейства описаны этапы обучения от предобучения до RL и открытая обучающая рецептура. Основной язык, указанный в метаданных, — английский; многоязычные способности не проверены. README характеризует выпуск как исследовательский и предупреждает, что модель может выдавать неточные, вредоносные, токсичные или предвзятые ответы. Она не предназначена для сценариев, требующих высокой фактической точности, для критически важных, медицинских или связанных со здоровьем применений; рекомендуется независимая оценка и фильтрация безопасности. Лицензия в метаданных обозначена как other.

Это GGUF-квантизированная версия чат-модели InternLM2.5-20B-Chat, исходно разработанной командой internlm, а квантизация выполнена bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая работу в локальных приложениях, например LM Studio. Для корректного взаимодействия следует использовать указанный в карточке шаблон prompt format с ролями system, user и assistant. Модель основана на архитектуре InternLM2.5 и имеет 20 млрд параметров; доступна в форматах от F32 до различных вариантов квантизации Q8, Q6, Q5, Q4, Q3, Q2 и IQ. Размер файлов составляет примерно от 6,97 до 79,45 ГБ, поэтому требования к памяти зависят от выбранного варианта. Более высокие уровни квантизации обычно обеспечивают лучшее качество, а компактные варианты позволяют запускать модель на системах с меньшим объёмом RAM, но могут заметно снижать точность. Для некоторых вариантов embeddings и output weights сохранены в Q8_0, что потенциально повышает качество. В карточке не указаны поддерживаемые языки, размер контекста, точная архитектура, результаты оценивания и ограничения по безопасности. Лицензия обозначена как other, без дополнительных условий в README, поэтому перед использованием необходимо проверить лицензию исходной модели InternLM2.5-20B-Chat и условия распространения конкретных файлов.

K2-Horizon-3.7B-GGUF — GGUF-версия языковой модели K2-Horizon-3.7B, разработанной IFM. Репозиторий предназначен для запуска модели с помощью llama.cpp и содержит тензоры в исходной точности BF16, метаданные токенизатора и совместимый с llama.cpp шаблон чата. Модель относится к семейству K2-Horizon и представляет собой небольшую плотную decoder-only модель с 3,7 млрд параметров и контекстным окном 524 288 токенов. Указан английский язык. Модель предназначена для генерации текста и оценивается на задачах, связанных с агентными сценариями, программированием и рассуждениями. Ключевые сильные стороны — большой контекст, открытость весов, публикация обучающих данных, рецептуры, кода обучения и ресурсов для оценки, а также наличие промежуточных контрольных точек для анализа изменений возможностей в процессе обучения. Ограничение версии GGUF заключается в необходимости использовать сборку llama.cpp с поддержкой архитектуры K2 Horizon; такая поддержка на момент публикации находилась в разработке, а совместимая версия доступна в форке MBZUAI-IFM. Лицензия модели — Apache-2.0. В README не указаны точные детали вычислительных требований, результаты отдельных тестов, поддерживаемые языки помимо английского и дополнительные сведения о качестве или ограничениях применения.

ohkwon/kanana-1.5-8b-instruct-2505-Safe-DPO — диалоговая языковая модель семейства Llama, представленная ohkwon. Это дообученная модель с 7,5 млрд параметров для генерации текста и общения; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. Карточка сообщает, что обучение выполнялось с Unsloth и библиотекой TRL. Модель подходит для диалоговых сценариев и генерации ответов на текстовые запросы. В карточке указана лицензия Apache-2.0. Данных о специализации по предметной области или дополнительных ограничениях качества в доступных источниках нет.

Keefe-Discere-v2.0-OxAlpha — языковая модель KeefeBuild, дообученная на базе unsloth/qwen2.5-7b-instruct-unsloth-bnb-4bit. Это плотная модель семейства Qwen2 с архитектурой Qwen2ForCausalLM и примерно 7,1 млрд параметров; она принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для текстовой генерации и разговорных сценариев на английском языке, с контекстом до 32 768 токенов. В карточке указаны Apache-2.0 и обучение с использованием Unsloth и библиотеки TRL. Конкретные специализации и результаты оценки качества не описаны, поэтому модель следует рассматривать как универсальную дообученную языковую модель, а поведение при вызове инструментов проверять в целевой интеграции.

Keefe-Discere-v3.0-Final — языковая модель на архитектуре Qwen2, дообученная KeefeBuild на базе KeefeBuild/Keefe-Discere-v3.0-Ultimate с использованием Unsloth и Hugging Face TRL. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов; заявлены возможности диалога и интерфейс вызова инструментов. Модель предназначена для генерации текста и диалоговых сценариев, включая использование через интерфейс вызова инструментов. В карточке указан английский язык. Репозиторий содержит веса в формате Safetensors и распространяется по лицензии Apache-2.0. Карточка не описывает специализированные области применения или конкретные ограничения качества.

Это производный чекпойнт DeepSeek-V4-Flash-0731, подготовленный Keys (drowzeys) на основе официальной модели DeepSeek-AI. Модель предназначена для генерации текста и сохраняет архитектуру базового чекпойнта; README описывает изменение весов слоёв 10–35, нацеленное на снижение отказов. Слои 36–42 и тензоры MTP/draft оставлены как в оригинале, чтобы сохранить совместимость со спекулятивным декодированием DSpark. Указана поддержка контекста до 1 млн токенов и работа в production-конфигурации на двух DGX Spark с Anemll и vLLM. Чекпойнт рассчитан на генерацию текста, включая структурированные JSON-ответы, списки и эссе; автор приводит сравнительные тесты с официальной версией и сообщает об успешной проверке smoke-тестов. Данные метаданных указывают на FP8 safetensors и поддержку английского и китайского языков. Модель распространяется по лицензии «other» с ограниченным доступом; README отсылает к условиям доступа и ответственному использованию. Результаты бенчмарков относятся к указанной аппаратной и программной конфигурации и не гарантируют такую же производительность в других условиях.

MLX-квантизированная версия языковой модели Kimi-K2.6, разработанной Moonshot AI (исходная модель — moonshotai/Kimi-K2.6) и преобразованной сообществом mlx-community с помощью mlx-lm 0.31.2. Модель предназначена для генерации текста и локального запуска на компьютерах Apple, прежде всего на Mac Studio с чипом M3 Ultra и 512 ГБ памяти, через библиотеку MLX и инструмент mlx-lm. Ключевая особенность — схема динамической смешанной квантизации DQ3_K_M. Большинство тензоров сохраняется в 8-битном представлении, а экспертные тензоры — в смешанном 3- и 4-битном формате с отдельными участками повышенного качества. Такой подход рассчитан на качество, близкое к 4-битной квантизации, при меньшем размере, чем у стандартной 4-битной версии, чтобы сохранить память для контекстного окна. За это приходится платить небольшим снижением скорости генерации. README не сообщает точный размер модели, архитектуру, максимальную длину контекста, поддерживаемые языки и набор специализированных задач. Для использования требуется установить mlx-lm; запуск предусматривает параметр trust-remote-code. Модель распространяется по лицензии modified-MIT, обозначенной как other. Условия лицензии следует проверять по исходной карточке модели, поскольку README не приводит её полный текст.

Kimi-K2.6-RAM-447GB-GGUF — это смешанно-точная GGUF-квантизация модели moonshotai/Kimi-K2.6, опубликованная baa-ai и созданная с использованием конвейера RAM (Resource-Aware Mixed-precision). Модель предназначена для генерации текста и локального запуска через llama.cpp, в том числе на системах с 512 ГБ оперативной памяти или на конфигурациях с двумя модулями по 256 ГБ. В основе лежит архитектура DeepSeek-V3 decoder (kimi_k2) с 61 слоем, 1,03 трлн параметров, скрытым размером 7168, MLA-attention и MoE-структурой из 384 маршрутизируемых экспертов, из которых для каждого токена активируются 8. Экспертные веса квантизированы в Q3_K, а веса attention распределены между Q5_K и Q8_0 на основе чувствительности отдельных тензоров к ошибкам квантования. Размер файла составляет 447 ГБ. Ключевое преимущество варианта — ориентация на более высокое качество по сравнению с менее ресурсоёмкими сборками благодаря неравномерному распределению разрядности для attention-тензоров. Ограничениями являются чрезвычайно высокие требования к оперативной памяти и отсутствие imatrix: его не использовали, поскольку промежуточный файл Q8_0 объёмом 1,1 ТБ превышал доступную память. Экспертные веса исходной модели INT4 были предварительно деквантизированы и повторно квантизированы в GGUF. В карточке указана лицензия modified-MIT с типом license: other. Поддерживаемые языки и мультимодальные возможности в README не описаны.

Kimi-K2.7-Code-Alis-MLX-Dynamic-3.6bpw-VLM — это квантованная MLX-версия модели Kimi-K2.7-Code, разработанной Moonshot AI. Сборка создана avlp12 и предназначена для запуска на устройствах Apple Silicon, прежде всего на M3 Ultra. Это мультимодальная vision-language модель для работы с текстом, программным кодом, изображениями и видео. В основе лежит MoE-архитектура в стиле DeepSeek-V3 примерно на 1 триллион параметров, из которых активно около 32 миллиардов, с языковой частью MLA и визуальной башней MoonViT. Модель сохраняет полный vision encoder и мультимодальный проектор в формате bf16, а языковые веса подвергнуты чувствительно-ориентированному квантованию с эффективной точностью 3,629 бит на вес. Поддерживается контекст до 256 тысяч токенов. Размер модели на диске составляет около 465,9 ГБ; для запуска требуется единый компьютер с 512 ГБ памяти M3 Ultra либо распределённый запуск на двух машинах. Модель поддерживает подробное описание изображений и анализ изменений и движения в видео; заявленная скорость декодирования составляет около 23 токенов в секунду. К сильным сторонам относятся сохранённая визуальная часть без дополнительной ошибки квантования, большой контекст и высокая эффективность памяти KV-кэша. Ограничения связаны с экстремальными требованиями к объёму памяти, зависимостью от совместимых версий mlx-vlm и специальных компонентов для видео, а также с потерями качества из-за 3-битного квантования экспертов: средний KL относительно 4-битного эталона составляет 0,199 ната, а частота изменения top-1 ответа — 10,2%. Лицензия указана как modified MIT.

L3.1-Noraian — объединённая языковая чат-модель автора djuna, созданная с помощью mergekit и метода della. В качестве базовой использована vicgalle/Configurable-Hermes-3-Llama-3.1-8B; в объединение также вошли несколько моделей семейства Llama 3.1 и адаптер для Llama 3 Instruct. Модель имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекст до 131 072 токенов. Модель предназначена для генерации текста в диалоге и поддерживает интерфейс вызова инструментов. В карточке не приведены оценки качества или подробное описание специализированных сценариев; языковую поддержку можно уверенно связать с англоязычной базовой моделью, но другие языки не заявлены. Файлы опубликованы в формате safetensors и доступны через Transformers. Лицензия в предоставленных данных не указана.

mrcuddle/Lexi-Lumimaid-Llama3.1-8B — языковая модель для диалоговой генерации текста, созданная слиянием методом SLERP двух моделей: NeverSleep/Lumimaid-v0.2-8B и Orenguteng/Llama-3.1-8B-Lexi-Uncensored-V2. Она основана на архитектуре Llama и содержит 7,3 млрд параметров; заявленная длина контекста — 131 072 токена. Модель предназначена для ответов на запросы в чате и генерации текста по инструкциям, с интерфейсом для вызова инструментов. Модель распространяется в формате safetensors и использует библиотеку Transformers. В карточке указано слияние предварительно обученных языковых моделей; README описывает конфигурацию mergekit и тип данных bfloat16. Лицензия в предоставленных данных не указана. Поскольку в состав входит Lexi Uncensored, ответы могут быть менее ограничены обычными защитными фильтрами; качество и фактическое поведение зависят от запроса и способа применения.

LFM2-24B-A2B-MLX-6bit — это 6-битно-квантизированная версия модели LFM2-24B-A2B, разработанной LiquidAI. Данная версия подготовлена командой LM Studio с использованием mlx_lm и оптимизирована для запуска на устройствах Apple Silicon. Модель предназначена для генерации текста и может применяться в сценариях локального запуска языковых моделей, включая диалоговые приложения, подготовку и преобразование текстов, а также другие задачи text generation. В README указана поддержка английского, арабского, китайского, французского, немецкого, японского, корейского, испанского и португальского языков. Обозначение модели содержит 24B-A2B, однако подробности архитектуры, контекстного окна и распределения параметров не приведены. Ключевое преимущество версии — уменьшенный объём хранения и вычислительных ресурсов благодаря 6-битному квантованию, а также оптимизация под экосистему Apple Silicon через MLX. Ограничения включают возможную потерю качества по сравнению с полноформатной моделью из-за квантования и зависимость от совместимого оборудования и программного стека MLX. Модель распространяется по лицензии lfm1.0; в карточке также указано общее обозначение лицензии other.

LFM2-8B-A1B-Instruct-Quantum-IQ1C-Qwen3.6-35B-A3B-DISTILL2 — экспериментальная instruct-модель DavidAU на архитектуре Liquid AI LFM2 MoE, дообученная на собственном наборе дистилляции с Qwen 3.6 35B-A3B в роли учителя. В метаданных указаны 1,4 млрд параметров и контекст до 128 000 токенов; модель активирует 4 из 32 экспертов. README сообщает о сохранении instruct-режима, улучшениях форматирования и стиля, а также о тестировании в GGUF-квантизациях; метаданные указывают библиотеку Transformers и формат Safetensors. Модель предназначена для генерации ответов в диалоге и выполнения инструкций. В карточке приведены неофициальные внутренние тесты автора и примеры генераций, поэтому заявленные улучшения не следует считать независимой оценкой качества. Автор характеризует модель как умеренно несильно цензурированную. Лицензия — Apache-2.0.

Sakalti/light-3B — компактная языковая модель семейства Qwen2, созданная слиянием моделей Qwen с помощью mergekit и метода TIES. В основу положена Qwen/Qwen2.5-3B, в слиянии также участвовала Qwen/Qwen2.5-3B-Instruct. Модель содержит 3,1 млрд параметров и предназначена для генерации текста и диалогового взаимодействия; в метаданных также заявлен интерфейс вызова инструментов. Модель принимает текст и генерирует текст. Заявленная длина контекста — 32 768 токенов. В карточке указан английский язык, а лицензия обозначена как other; конкретные условия использования следует сверять с лицензиями базовых моделей и репозитория.

Ling-3.0-flash REAP288 — экспериментальная версия разговорной гибридной MoE-модели Ling-3.0-flash, опубликованная bloomer010 на основе inclusionAI/Ling-3.0-flash. В ней оставлено 288 из 512 маршрутизируемых экспертов на слой; README указывает 73 млрд параметров всего и 5,1 млрд активных, тогда как метаданные каталога указывают 3,5 млрд параметров. Модель предназначена для генерации текста в диалоговом формате; базовая Ling-3.0-flash также позиционируется для программирования и многошаговых агентных задач. Эксперты отбирались методом REAP по оценке, учитывающей значение маршрутизатора и норму выхода на калибровочных данных объёмом 1 млн токенов. После удаления экспертов не проводились дообучение или восстановительное обучение. Модель работает с контекстом до 262 144 токенов, распространяется в BF16 Safetensors и использует архитектуру BailingMoeV3; для загрузки требуется trust_remote_code=True и пользовательский код bailing_hybrid. README называет модель исследовательским артефактом и экспериментальной REAP-версией. Лицензия в предоставленных данных не указана. Ключевое ограничение — эксперты удалены без последующего обучения для восстановления качества, поэтому характеристики базовой модели нельзя автоматически переносить на эту версию; приведённые в README и метаданных размеры параметров также расходятся.

Upstage Llama-2-70b-instruct — англоязычная языковая модель, дообученная Upstage на базе LLaMA 2 с использованием набора данных в стиле Orca. Это плотная авторегрессионная модель семейства LLaMA с 68,7 млрд параметров, предназначенная для выполнения инструкций и генерации текста. Для общения используется шаблон с отдельными секциями System, User и Assistant. Модель подходит для диалоговых систем, ответов на вопросы и других задач генерации текста на английском языке. В README приведены результаты оценки на ARC-Challenge, HellaSwag, MMLU, TruthfulQA и MT-bench. Метаданные указывают контекст 2048 токенов; в README заявлена возможность обработки более 10 тысяч входных токенов с включённым rope scaling, поэтому фактическая длина зависит от конфигурации запуска. Для работы используются веса PyTorch и библиотека Hugging Face Transformers. README сообщает об испытании на A100 80 ГБ, но не приводит минимальных требований для инференса. Дообученные чекпойнты распространяются по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

bigdefence опубликовал дообученную языковую модель на архитектуре Llama 3.1. Она создана на базе Saxo/Linkbricks-Horizon-AI-Korean-llama-3.1-sft-dpo-8B и предназначена для генерации текста в диалоговом формате; метаданные также отмечают интерфейс вызова инструментов. Модель содержит 7,5 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. В карточке указано обучение с использованием Unsloth и TRL. Базовая модель ориентирована на корейский язык, однако README и языковые метаданные этой версии не подтверждают отдельно полный список поддерживаемых языков. Модель распространяется по лицензии Apache-2.0. README не приводит результатов оценки качества или подробностей о данных дообучения, поэтому пригодность для конкретных задач следует проверять отдельно.

Llama-3.1-Tulu-3.1-8B — англоязычная плотная языковая модель семейства Llama, разработанная AI2 и дообученная на базе allenai/Llama-3.1-Tulu-3-8B-DPO. Версия 3.1 отличается обновлённым заключительным этапом обучения с GRPO вместо PPO и настройкой гиперпараметров. Модель содержит 7,5 млрд параметров, принимает текст и предназначена для диалогов и следования инструкциям; длина контекста составляет 131 072 токена. Модель подходит для ответов на вопросы, решения математических задач, включая MATH и GSM8K, и выполнения инструкций с оцениванием по IFEval. Она ориентирована прежде всего на английский язык. Разработчик публикует открытые данные, код и рецепты обучения семейства Tülu 3. По карточке модели обучение безопасности ограничено, поэтому ответы могут содержать проблемный контент, особенно при соответствующих запросах. Лицензия — Llama 3.1 Community License Agreement.

bunnycore/Llama-3.2-3B-Blend — объединённая языковая модель, созданная с помощью mergekit методом Model Stock. В качестве базовой использована huihui-ai/Llama-3.2-3B-Instruct-abliterated; в слияние также вошли модели для цепочек рассуждений, RP и диалогов, а также адаптер Smart-v1-lora. Модель построена на архитектуре Llama с 3,2 млрд параметров и предназначена для генерации текста и диалогового взаимодействия. Модель можно применять для ответов на запросы, следования инструкциям и генерации текста с рассуждениями. В метаданных также заявлен интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена; поддержка конкретных языков в карточке не описана. Репозиторий содержит веса в формате safetensors. Лицензия не указана в предоставленных данных.

mlx-community/Llama-3.2-3B-Fluxed — языковая модель семейства Llama 3.2, преобразованная сообществом mlx-community из VincentGOURBIN/Llama-3.2-3B-Fluxed в формат MLX с помощью mlx-lm 0.19.3. Это плотная авторегрессионная модель класса LlamaForCausalLM с 3,2 млрд параметров и контекстом до 131 072 токенов. Модель предназначена для генерации текста и диалогового общения; метаданные также указывают интерфейс вызова инструментов. В качестве обучающего набора для исходной модели указан VincentGOURBIN/FluxPrompting, а язык карточки — английский. Репозиторий распространяется в формате safetensors и по лицензии Apache-2.0.

Llama-3-8B-Instruct-Base-Slerp — объединённая модель от Arcee AI, созданная методом SLERP с помощью mergekit на основе meta-llama/Meta-Llama-3-8B-Instruct и meta-llama/Meta-Llama-3-8B. Это плотная авторегрессионная языковая модель семейства Llama с 7,5 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия; длина контекста составляет 8192 токена. Модель сочетает instruct-версию Llama 3 с предварительно обученной базовой версией, поэтому подходит для генерации ответов и продолжения текста в чат-сценариях. Метаданные указывают английский язык и код, однако README не описывает отдельные прикладные специализации. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0.