I.6Перевод и языковая адаптация

NousResearch/Yarn-Mistral-7b-128k — языковая модель NousResearch на архитектуре Mistral-7B, дополнительно предобученная на данных с длинным контекстом в течение 1500 шагов с применением метода YaRN. Модель предназначена для генерации текста и обработки длинных входных последовательностей, например анализа объёмных документов и поиска ответов в них. В карточке заявлено окно контекста до 128 тысяч токенов. По метаданным, модель содержит 7,1 млрд параметров и распространяется в формате PyTorch для Transformers; базовая модель — Mistral-7B-v0.1. В README приведены результаты тестов длинного контекста и стандартных языковых бенчмарков, где качество на коротком контексте немного ниже, чем у исходной Mistral-7B-v0.1. Указанная лицензия — Apache-2.0. Для загрузки README рекомендует использовать актуальную версию Transformers и параметр trust_remote_code=True.

AquilaChat2-34B — чат-модель семейства Aquila2, разработанная BAAI. Она предназначена для диалогового общения и генерации ответов на текстовые запросы. Модель имеет плотную архитектуру AquilaForCausalLM, содержит 33,1 млрд параметров и рассчитана на контекст до 4096 токенов. Модель выпущена в формате PyTorch. В субъективной оценке по восьми направлениям возможностей разработчик сообщает о результатах, близких к GPT-3.5 или превосходящих их. В обучающих данных обнаружили утечку тестовых примеров GSM8K; результаты оценки на GSM8K были исключены. Лицензия указана как other, поэтому условия использования следует уточнять в материалах разработчика.

CollectiveCognition-v1.1-Mistral-7B-Mistral-7B-Instruct-v0.2-slerp — объединённая модель на основе Mistral-7B-Instruct-v0.2 и CollectiveCognition-v1.1-Mistral-7B, созданная с помощью метода SLERP. Это плотная авторегрессионная языковая модель Mistral с 7,1 млрд параметров для диалогов и генерации текста по инструкциям; контекст составляет до 32 768 токенов. Модель принимает текст и выдаёт текст, поэтому подходит для диалоговых помощников и задач генерации на естественном языке. Репозиторий содержит веса Safetensors в формате bfloat16. Лицензия — Apache-2.0. В README описана схема слияния, но отдельные результаты оценки качества и подробные ограничения модели не приведены.

FastLlama-3.2-1B-Instruct-GGUF — набор GGUF-квантизаций модели FastLlama-3.2-1B-Instruct, подготовленный bartowski на базе модели suayptalha. Квантизация выполнена с использованием llama.cpp и метода imatrix. Это текстовая instruction-модель для генерации ответов и работы с пользовательскими запросами. Модель предназначена для диалоговых сценариев, генерации и обработки текста, а также задач, связанных с математикой, наукой, химией, биологией и программным кодом. В метаданных заявлена поддержка английского, немецкого, испанского, французского, итальянского, португальского, хинди и тайского языков. Размер базовой модели — 1B параметров; модальность — текстовая. Точный размер контекста в README не указан. Основное преимущество — наличие большого набора вариантов с разным соотношением качества, размера и требований к памяти: от F32 и F16 до Q2–Q8 и IQ-квантизаций. В README рекомендуются, в частности, Q4_K_M как вариант общего назначения, а также Q5 и Q6 для более высокого качества; малые варианты подходят для систем с ограниченным объёмом RAM, но могут заметно уступать по качеству. Для корректной работы следует использовать указанный формат prompt и совместимый inference-инструмент, например llama.cpp или LM Studio. Модель распространяется по лицензии Apache-2.0.

GPT-neo-Custom 7B — диалоговая языковая модель, дообученная Szymon-Wachelko на базе Qwen2.5-7B-Instruct методом QLoRA. Она предназначена для генерации ответов на польском и английском языках, рассуждений, программирования и решения математических и логических задач. Репозиторий распространяет веса в формате GGUF для локального запуска через Ollama, LM Studio и совместимые инструменты; поддерживается шаблон диалога ChatML. В метаданных указана лицензия Apache-2.0. Заявленные сильные стороны — естественная генерация на польском, помощь с кодом и структурированными техническими ответами. Это модель на 7 млрд параметров, поэтому качество рассуждений и решений может варьироваться; заявления о «полном мастерстве» и идентичности квантованных вариантов точностью FP16 приведены автором и не подкреплены в карточке оценками. Версии GGUF различаются размером и точностью, что влияет на требования к памяти и качество генерации.

CombinHorizon/huihui-ai-abliterated-Qwen2.5-32B-Inst-BaseMerge-TIES — объединённая модель генерации текста на архитектуре Qwen2.5, созданная с помощью mergekit и метода TIES. В качестве основы использована Qwen/Qwen2.5-32B, объединённая с huihui-ai/Qwen2.5-32B-Instruct-abliterated. Модель содержит 32 млрд параметров, распространяется в формате Safetensors и рассчитана на контекст до 131 072 токенов. Модель предназначена для диалоговой генерации текста и задач, решаемых языковой моделью, включая ответы на запросы и работу с длинным контекстом. В метаданных также отмечен интерфейс вызова инструментов. Для оценки приведены результаты Open LLM Leaderboard, в том числе IFEval 82,06 и BBH 56,04; это не заменяет проверку на целевых задачах. Поддерживаемый язык карточки — английский. Лицензия — Apache-2.0.

Dingdust выпустил Dingdust/LFM2.5-350M-heretic — производную текстовую модель Liquid AI LFM2.5-350M-Base с архитектурой LFM2 и 444,6 млн параметров. По карточке это версия с abliteration: в приведённом сравнении частота отказов снизилась с 89 до 7 на 100 запросов; модель рассчитана на диалоговую генерацию текста и локальный запуск. Для базовой модели в README описаны извлечение данных, выдача структурированных результатов и вызов инструментов. Указаны 16 слоёв, гибридные сверточные блоки и блоки GQA, а также поддержка девяти языков: английского, арабского, китайского, французского, немецкого, японского, корейского, португальского и испанского. Метаданные указывают контекст 128 000 токенов; README базовой модели приводит 32 768 токенов, поэтому фактическая длина контекста именно этой производной версии по источникам неясна. Лицензия обозначена как other, без дополнительных условий в предоставленных данных.

NVIDIA Llama 3.3 70B Instruct NVFP4 — FP4-квантизованная версия инструктивной языковой модели Meta Llama 3.3 70B Instruct. Это авторегрессионная плотная модель на архитектуре Transformer/Llama 3.3 с 69,5 млрд параметров, принимающая текст и генерирующая текст. Контекст — до 128 тысяч токенов; модель поддерживает диалоговый режим и интерфейс вызова инструментов. Модель предназначена для диалоговых ассистентов и генерации текста. Квантизация весов и активаций линейных операторов в блоках Transformer выполнена с помощью NVIDIA TensorRT Model Optimizer; по данным карточки, она уменьшает требования к дисковому пространству и памяти GPU примерно в 3,3 раза. Для инференса указан TensorRT-LLM, аппаратная совместимость — NVIDIA Blackwell. Модель основана на Meta Llama 3.3 70B Instruct и подходит для коммерческого и некоммерческого использования в соответствии с условиями лицензии Llama 3.3. В README не приведены конкретные языки и результаты бенчмарков, поэтому языковой охват и сохранение качества после квантизации по этим данным оценить нельзя.

StanFurrer/merlinite-7B-slerp — объединённая языковая модель, созданная Stan Furrer с помощью LazyMergekit. Она сочетает веса ibm/merlinite-7b и mistralai/Mistral-7B-Instruct-v0.2 методом slerp и предназначена для генерации текста и ответов на инструкции в диалоговом формате. Модель построена на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров. Поддерживает контекст до 32 768 токенов, распространяется в формате safetensors; в конфигурации слияния указан тип данных bfloat16. README не сообщает о специализированной предметной области или дополнительных модальностях. Лицензия в предоставленных данных не указана.

Mistral 7B Instruct — текстовая языковая модель с приблизительно 7 млрд параметров, представленная в репозитории casperhansen. Данная версия представляет собой AWQ-квантизированный вариант модели, подготовленный с использованием AutoAWQ. README не уточняет исходного разработчика базовой модели, поддерживаемые языки и максимальный контекст. Модель предназначена для генерации текста и выполнения инструкций в диалоговом формате. В качестве сценариев использования указаны загрузка через AutoAWQForCausalLM и Transformers, потоковая генерация ответов, а также инференс через vLLM. Пример применения демонстрирует формат запросов Mistral с маркерами [INST] и [/INST], а также генерацию продолжений текста. Ключевое преимущество версии — AWQ-квантизация, которая может снизить требования к памяти и упростить запуск модели на совместимом оборудовании. Ограничения включают зависимость от совместимых версий Transformers, AutoAWQ или vLLM, а также отсутствие в README сведений о качестве на бенчмарках, языковом охвате, максимальной длине контекста и мультимодальных возможностях; по предоставленным данным модель является текстовой. Лицензия — Apache 2.0.

Карточка модели Openintelligent123/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 на Hugging Face совпадает с карточкой nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16, поэтому описание составлено по ней. NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 — языковая модель общего назначения от NVIDIA для диалога, рассуждений и генерации текста. Это эталонные веса в формате BF16, предназначенные прежде всего для дообучения, адаптации к предметным областям, исследований и подготовки собственных квантованных вариантов. Модель готова к коммерческому использованию; в карточке лицензия указана как other. Архитектура — гибридная Mixture-of-Experts с чередованием слоёв Mamba-2 и MoE и отдельными слоями Attention; также используются слои Multi-Token Prediction. В README заявлены 30 млрд параметров всего и 3 млрд активных, а в метаданных каталога — 1,9 млрд параметров. Модель поддерживает контекст до 262 144 токенов по метаданным; README указывает до 1 млн токенов для отдельных конфигураций оборудования. Основной язык — английский; также поддерживаются испанский, французский, немецкий, итальянский и японский, а README дополнительно описывает посттренировочные данные на китайском. Модель предназначена для настройки под пользовательские данные с помощью SFT, RL или дистилляции, а также для оценки и генерации текста в чат- и агентных сценариях. Полноточный вариант требует значительных ресурсов для инференса: README приводит 256K контекста для одной H100 80 GB и конфигурации до 1 млн токенов на более мощном оборудовании. Для более быстрой производственной генерации NVIDIA рекомендует отдельную NVFP4-версию.

Pensez-v0.1-e5 — двуязычная англо-французская языковая модель для диалогов и задач рассуждения, разработанная на базе Qwen2.5-7B-Instruct. Это плотная авторегрессионная модель Qwen2 с 7,1 млрд параметров, дообученная методом SFT на наборе Pensez v0.1 из 2 000 примеров: по 1 000 на французском и английском языках. Модель предназначена для повседневных вопросов, научных задач, математики и программирования; для простых запросов использует краткие рассуждения, а для сложных может разворачивать их подробнее. Поддерживает контекст до 32 768 токенов и поставляется в формате safetensors. В карточке приведены сравнительные результаты на франкоязычных тестах по математике, пониманию вопросов и знаниям; результаты различаются по бенчмаркам и не гарантируют качество для всех запросов. Модель доступна по лицензии Apache-2.0. Для запуска автор указывает библиотеку Transformers.

Карточка модели tayaee/Qwen2.5-1.5B-Instruct-ko-Reasoning-alpha-smoke на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая модель на базе Qwen3.6-27B, представленная DavidAU. Она создана в результате многоэтапного дообучения, нескольких слияний моделей и применения методов Unsloth; в разработке также участвовали Nightmedia, TeichAI, armand0e и trohrbaugh. Для обучения и настройки упоминаются наборы DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets. Модель предназначена для широкого круга сценариев: следования инструкциям, решения задач, рассуждений, программирования, диалогов, ролевых взаимодействий и работы с художественными текстами. В README заявлена поддержка vision, а в метаданных указаны английский и китайский языки. Доступны обычные GGUF-квантизации и варианты MTP для многотокенного предсказания; все квантизации обозначены как NEO IMATRIX, а выходной тензор частично сохранён в 16-битной точности. Размер базовой модели — 27 млрд параметров. Заявленные сильные стороны — улучшенное следование инструкциям, общее решение задач и рассуждение, а также сохранение качества на низких уровнях квантизации. Автор сообщает о превосходстве базовой Qwen3.6-27B по большинству из семи внутренних бенчмарков, однако эти результаты приведены в README и требуют независимой проверки. Для MTP-вариантов рекомендуется температура не выше 1 и отключённая репетиция; при низком уровне принятия токенов следует использовать обычную квантизацию. Модель описана как uncensored, поэтому её ответы могут иметь меньше встроенных ограничений безопасности. Лицензия — Apache-2.0.

btbtyler09/Qwen3.6-27B-GPTQ-8bit — это 8-битная GPTQ-квантизованная версия модели Qwen/Qwen3.6-27B, разработанной командой Qwen. Модель представляет собой плотную мультимодальную систему примерно с 27 млрд параметров, предназначенную для генерации и понимания текста, работы с изображениями и ускоренного вывода с использованием MTP (Multi-Token Prediction). Контрольная точка опубликована с лицензией Apache-2.0. Архитектура включает 64 слоя: 48 слоёв линейного внимания GatedDeltaNet и 16 слоёв полного внимания, чередующихся в соотношении 3:1. Размер скрытого представления составляет 5120, размер промежуточного слоя — 17408, максимальная длина контекста — 262 144 токена. В состав входят полноразмерный 27-блочный ViT-энкодер для обработки изображений и MTP-модуль для speculative decoding. Языки и специализированные языковые возможности отдельно не указаны. Линейные модули текстового декодера квантизованы в INT8 с помощью GPTQ, тогда как vision-энкодер, MTP, эмбеддинги, нормы и выходная голова сохранены в BF16 или FP16. Размер модели составляет около 32 ГБ вместо примерно 50 ГБ в BF16. По заявленным измерениям, ухудшение perplexity на wikitext-2-raw-v1 составляет всего 0,07%, что указывает на близкое к исходному качество. Модель подходит для мультимодального сервинга и длинного контекста, однако для запуска рекомендуется vLLM; прямое использование через GPTQModel и transformers на момент публикации не поддерживается, а для некоторых версий vLLM может потребоваться исправление ошибки разбора конфигурации.

manjunathshiva/Qwen3.8-Flash-Next-tq4a-tq2e-g64 — это сжатая версия модели Qwen/Qwen3.8-Flash-Next, подготовленная пользователем manjunathshiva с использованием TurboQuant и MLX. Модель предназначена для генерации текста и обработки изображений на компьютерах Apple Silicon, включая локальный запуск и обслуживание через turboquant-mlx-full. В README указана поддержка английского языка. Модель основана на архитектуре mixture-of-experts qwen4_exp: 180 млрд параметров, 512 маршрутизируемых экспертов с выбором top-10, 48 слоёв и гибридная схема Gated DeltaNet и Qwen Sparse Attention. Заявлен контекст до 262 тысяч токенов. Текстовая часть занимает около 52 GiB, vision tower в формате bf16 — ещё 0,84 GiB, поэтому модель поддерживает работу как с текстом, так и с изображениями. Сборка выполнена без калибровочного набора данных и использует 4-битное квантование TurboQuant. Ключевое преимущество — возможность запуска на Mac с 64 ГБ памяти; на M4 Max заявлена скорость декодирования около 16,2–17,9 токена в секунду при отключённом thinking. Режим --ngram-offload снижает требуемую GPU-память примерно с 52 до 34 GiB при идентичном выводе, но увеличивает задержку обработки длинных промптов. Ограничения включают высокие требования к памяти, зависимость от Apple Silicon и MLX, более низкую скорость по сравнению с некоторыми альтернативными сборками, а также неполную практическую проверку на Mac с 48 ГБ памяти. Лицензия указана как qwen-community-license-1.0.

Qwen3-Embedding-8B — модель текстовых эмбеддингов семейства Qwen3, разработанная командой Qwen и опубликованная в формате safetensors. Она основана на Qwen/Qwen3-8B-Base и дообучена для преобразования текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Модель содержит 7,6 млрд параметров и поддерживает контекст до 40 960 токенов по метаданным; в README указана длина 32K токенов. Модель предназначена для семантического поиска по текстам и коду, извлечения информации, классификации и кластеризации текстов, поиска параллельных текстов и других задач, основанных на сходстве. Она поддерживает более 100 языков, настраиваемую размерность выходного вектора от 32 до 4096 и инструкции, задающие контекст задачи. В README для multilingual MTEB приведён результат 70,58 по состоянию на 5 июня 2025 года. Для работы с Transformers требуется версия 4.51.0 или новее: более ранние версии могут выдавать ошибку при загрузке архитектуры Qwen3. Модель распространяется по лицензии Apache-2.0; крупный размер может требовать значительных вычислительных ресурсов.

Yarn-Mistral-7b-64k-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель примерно на 7,1 млрд параметров, созданная MaziyarPanahi слиянием Mistral-7B-Instruct-v0.2 и NousResearch/Yarn-Mistral-7b-64k методом SLERP. Модель использует архитектуру Mistral и предназначена для генерации текста и ответов на инструкции в формате чата. Слияние объединяет параметры внимания и MLP двух моделей с разными весами. Базовый вариант Mistral-7B-Instruct-v0.2 имеет контекст до 32 768 токенов; имя и источник второго компонента указывают на вариант Yarn с расширенным контекстом, но README не подтверждает фактическую длину контекста итоговой модели. Распространяется в формате safetensors по лицензии Apache-2.0.

Chandra-OCR-2-GGUF — набор квантованных файлов модели Chandra-OCR-2, разработанной Datalab и опубликованной пользователем prithivMLmods. Это мультимодальная модель для распознавания изображений и PDF-документов с преобразованием содержимого в структурированный Markdown, HTML или JSON при сохранении информации о расположении элементов. Она предназначена для обработки финансовой и научной документации, исторических сканов, многоязычных форм и других сложных документов в автоматизированных AI-конвейерах. Модель поддерживает более 90 языков и рассчитана на работу с текстом, таблицами, математическими формулами, рукописным текстом, элементами форм, включая флажки, широкими макетами документов, изображениями и диаграммами. Заявлены улучшения по сравнению с Chandra 1 в разборе формул, реконструкции сложных таблиц с объединёнными ячейками, распознавании рукописного текста, извлечении диаграмм и создании описаний изображений. В README указаны результаты 85,9% на бенчмарке olmocr и 77,8% по многоязычной оценке, однако архитектура, число параметров и размер контекста не приведены. Репозиторий содержит варианты GGUF от BF16 и F16 до квантований Q2_K–Q8_0 размером примерно от 2,12 до 9,7 ГБ, а также отдельные мультимодальные проекторы. Это позволяет выбирать компромисс между размером файлов, требованиями к ресурсам и качеством, но README не содержит подробных сравнений качества квантованных вариантов или требований к оборудованию. Модель доступна для локального запуска через HuggingFace Transformers и vLLM, а также через размещённые сервисы и playground. Лицензия обозначена как other, без уточнения условий и ограничений использования.

Citaman/command-r-33-layer — языковая модель семейства Cohere, созданная автором репозитория с помощью слияния моделей через mergekit и метод SLERP. В конфигурации использована Citaman/command-r-34-layer с диапазонами слоёв [0, 33] и [1, 34]; результат предназначен для генерации текста и диалогового взаимодействия, включая интерфейс вызова инструментов. Модель содержит 29,2 млрд параметров, построена на плотной архитектуре CohereForCausalLM и принимает контекст до 8192 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.

dots.ocr-1.5 — мультимодальная модель OCR и разбора документов, разработанная rednote-hilab (Xiaohongshu); эта копия загружена на Hugging Face с ModelScope. Архитектура DotsOCRForCausalLM сочетает зрительный энкодер и языковую модель. В метаданных указано 1,5 млрд параметров, а README описывает исходную версию как модель на 3 млрд параметров; эти сведения расходятся. Модель принимает изображения и текстовые запросы и выдаёт распознанный текст, структурированные данные или SVG. Заявлены контекст до 131 072 токенов и поддержка английского, китайского и ряда других языков, включая русский. Модель предназначена для распознавания текста и структуры документов, включая таблицы, формулы и блоки разметки, а также для ответов на вопросы по изображениям документов и диаграмм. Она также может разбирать снимки веб-страниц и сцены с текстом, находить объекты и считать их, преобразовывать диаграммы и другие графические материалы в SVG. README приводит результаты на тестах DocVQA, ChartQA и OCRBench и отмечает сильные результаты в многоязычном разборе документов. По README, сложные таблицы и формулы остаются трудными для компактной версии модели, преобразование изображений в SVG требует улучшения, а в отдельных случаях возникают ошибки разбора. Для запуска с Transformers требуется включить доверенную загрузку пользовательского кода; в vLLM необходимо передавать содержимое запроса в строковом формате. Лицензия в метаданных обозначена как other, поэтому конкретные условия следует сверить с исходным проектом rednote-hilab.

jaspionjader/ek-6 — объединённая языковая модель автора jaspionjader, созданная методом Model Stock с помощью mergekit на основе jaspionjader/ek-1 и с включением jaspionjader/ek-3 и jaspionjader/ek-5. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 7,5 млрд параметров; она предназначена для генерации текста и диалогового общения. Модель принимает текст и выдаёт текст, поддерживает контекст до 131 072 токенов и распространяется в формате safetensors для библиотеки Transformers. В карточке указана лицензия; конкретный тип лицензии здесь не приведён.

LwQ-30B-Instruct — инструкционно настроенная авторегрессионная языковая модель семейства Llama, разработанная prithivMLmods на базе meta-llama/Llama-3.1-8B-Instruct. В метаданных указаны 32,3 млрд параметров, архитектура LlamaForCausalLM, библиотека Transformers и контекст 2048 токенов. Модель предназначена для многоязычного диалога, следования инструкциям, математических рассуждений и решения задач с учетом контекста; также может создавать тексты, краткие изложения и ответы на вопросы. В карточке заявлено обучение на синтетических наборах данных для рассуждений и настройка для инструкционного взаимодействия. Модель принимает текст и генерирует текст; метаданные указывают английский язык, а README заявляет многоязычное применение без перечисления конкретных языков. Указанная лицензия — llama3.1. Среди ограничений отмечены возможные ошибки в сложных рассуждениях и узких темах, различия качества между языками, смещения, чувствительность к неоднозначным инструкциям и ограниченное контекстное окно.

imi2/Meta-Llama-3-120B-Instruct-merged — объединённая языковая модель на архитектуре Llama, созданная с помощью mergekit методом passthrough на основе NousResearch/Meta-Llama-3-70B-Instruct. Модель содержит 120,8 млрд параметров, использует формат safetensors и доступна для работы через Transformers. Модель предназначена для генерации текста и диалогового взаимодействия. Контекст составляет 8192 токена. Данные указывают на поддержку текстового ввода и генерации текста; сведения о специальных предметных областях и языковом охвате не приведены. Лицензия в предоставленных источниках не указана.

nm-testing/Meta-Llama-3-8B-Instruct-W8-Channel-A8-Dynamic-Asym-Per-Token-Test — тестовый квантованный вариант Meta Llama 3 8B Instruct, размещённый организацией NM Testing; исходную модель разработала Meta. Репозиторий предназначен для генерации текста и диалоговых сценариев и поддерживает использование через Transformers, vLLM и SGLang. Суффикс W8-Channel-A8-Dynamic-Asym-Per-Token указывает на 8-битное представление весов и динамическое асимметричное квантование активаций по токенам; точные характеристики реализации квантования и результаты её оценки в карточке модели не описаны. Базовая модель представляет собой авторегрессионный языковой model с оптимизированной архитектурой Transformer и Grouped-Query Attention, содержит около 8 млрд параметров, принимает только текст и генерирует текст и код. Контекст составляет 8 тысяч токенов, модель ориентирована прежде всего на английский язык и диалог с инструкциями. Она подходит для чат-ассистентов, генерации и обработки текста, но является статической моделью с ограниченным актуальным знанием и не поддерживает мультимодальный ввод. Квантованный вариант может снизить требования к памяти и повысить эффективность инференса, однако по доступным данным нельзя надёжно оценить влияние именно этой тестовой конфигурации на качество, скорость и совместимость. Для исходной Meta Llama 3 действует специальная коммерческая лицензия Meta Llama 3 Community License с ограничениями по распространению, допустимому использованию и политике безопасности; применимость этих условий к квантованному производному варианту следует проверять отдельно.

Metis-0.4-Mistral-7B-Instruct-v0.1 — объединённая чат-модель MaziyarPanahi на архитектуре Mistral. Она создана методом SLERP из mistralai/Mistral-7B-Instruct-v0.1 и Mihaiii/Metis-0.4; конфигурация объединения указывает диапазон слоёв 0–32 для обеих моделей и формат весов bfloat16. Модель содержит 7,1 млрд параметров, принимает текстовые инструкции и диалоговые запросы, генерирует текст и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов и генерации ответов на инструкции. Она распространяется под лицензией Apache-2.0. README и метаданные не описывают отдельные специализированные области применения или конкретные ограничения качества.

Muse-Glimmer-30B-ROCmFP4-Strix-Halo-DFlash-GGUF — квантованная GGUF-сборка модели Muse-Glimmer-30B от meta-models/Muse-Glimmer, подготовленная kingjones777 для AMD Strix Halo. Модель мультимодальная: поддерживает текст и изображения, рассуждения с разделением reasoning_content и content, а также tool calling. Сборка предназначена для локального запуска на AMD Ryzen AI Max+ 395 с графикой Radeon 8060S и архитектурой gfx1151. Доступны шесть вариантов квантования ROCmFP4 и ROCmFPX с размером от 13,80 до 27,23 GiB и эффективной точностью 4,25–8,39 BPW. В комплект входят vision projector, chat parser и DFlash для speculative decoding. Проверенный контекст составляет 32768 токенов; пиковое потребление памяти — около 19,99 GiB с моделью, drafter, projector и KV-кэшем. На указанном оборудовании скорость декодирования зависит от задачи и составляет примерно 17–45 токенов в секунду, обычно около 30 токенов в секунду. Сильные стороны модели — сочетание текста, зрения, рассуждений, вызова инструментов и ускоренного декодирования в одной сборке, а также оптимизация под unified memory AMD Strix Halo. Ограничения включают узкую аппаратную совместимость: стандартный llama.cpp эту модель не загружает, требуется специальная ROCmFPX-сборка с поддержкой архитектуры muse-glimmer и типов ROCmFP4. Более быстрые варианты могут генерировать заметно более короткие ответы, поэтому для глубины ответа предпочтителен вариант STRIX. Лицензия указана как other; дополнительные условия в README не раскрыты.

Это 6-битная версия NVIDIA Nemotron Nano 9B v2, подготовленная сообществом mlx-community для запуска в формате MLX на совместимом оборудовании Apple. Репозиторий преобразован из nvidia/NVIDIA-Nemotron-Nano-9B-v2 с помощью mlx-lm 0.27.1; метаданные связывают исходную модель с дообучением и указывают поддержку чата. Модель предназначена для генерации текста и диалогового взаимодействия. Базовая модель описана как гибридная языковая модель NVIDIA для чата, следования инструкциям, программирования и управляемого рассуждения. В карточке модели перечислены английский, испанский, французский, немецкий, итальянский и японский языки. Репозиторий указывает лицензию other; условия следует сверить с лицензией исходной модели и файлами репозитория перед использованием.

OpenHermes-2.5-neural-chat-v3-3-Slerp-Mistral-7B-Instruct-v0.2-slerp — объединённая диалоговая языковая модель на архитектуре Mistral, созданная слиянием mistralai/Mistral-7B-Instruct-v0.2 и Weyaxi/OpenHermes-2.5-neural-chat-v3-3-Slerp методом SLERP. Модель содержит 7,1 млрд параметров, предназначена для генерации текста и ответов на инструкции в формате диалога. Контекст — до 32 768 токенов. Модель принимает текст и выдаёт текст; в метаданных отмечена возможность чата. Репозиторий содержит веса в формате Safetensors, а конфигурация слияния указывает тип данных bfloat16. Лицензия — Apache 2.0. Подходит для диалоговых приложений и выполнения текстовых инструкций; конкретные языки, оценка качества и ограничения в предоставленных данных не описаны.

CultriX/Qwen2.5-14B-Hyperionv5 — объединённая языковая модель семейства Qwen2.5, созданная CultriX с помощью mergekit и метода DARE TIES. В основе объединения указана CultriX/Qwen2.5-14B-Wernickev3; также в него вошли другие варианты Qwen и дообученные модели семейства, перечисленные в карточке. Модель предназначена для генерации текста и диалогового общения. Она имеет плотную архитектуру Qwen2ForCausalLM, содержит 14 млрд параметров и поддерживает контекст до 131 072 токенов. Метаданные указывают интерфейс для вызова инструментов. Карточка не описывает специализированную предметную область или список поддерживаемых естественных языков. В репозитории представлены веса safetensors для библиотеки Transformers. Лицензия в предоставленных данных не указана, поэтому условия использования по ним определить нельзя.