I.12Рекомендации и персонализация

Aether-12b — языковая модель AIXON Lab, дообученная на основе Xclbr7/Arcanum-12b на наборе theprint/CleverBoi-Data-20k. Это плотная авторегрессионная Transformer-модель семейства Mistral с 12,1 млрд параметров; для дообучения использовались TRL SFTTrainer, оптимизатор AdamW, планировщик cosine decay и точность bfloat16. В карточке указано контекстное окно 1 024 000 токенов. Модель предназначена для работы в роли ассистента или чат-бота с заданной ролью. Разработчик заявляет улучшения в рассуждении, решении задач, письме, анализе и понимании контекста. Основной язык — английский; карточка также отмечает возможную поддержку других языков. Лицензия — Apache-2.0. Модель может наследовать предвзятости и ограничения базовой модели и обучающих данных; результаты стоит проверять, особенно при использовании для анализа и решения задач. Оценки Open LLM Leaderboard в карточке пока отсутствуют.

AI21 Jamba 1.5 Mini — языковая модель общего назначения от AI21, построенная на гибридной архитектуре Jamba, сочетающей Transformer и Mamba (SSM), с механизмом Mixture of Experts. В README указаны 12 млрд активных и 52 млрд общих параметров и контекст до 256 тыс. токенов. Модель предназначена для диалогов и следования инструкциям, включая генерацию текста, работу с длинными документами, структурированный вывод в JSON, вызов инструментов и генерацию ответов с опорой на предоставленный контекст. Модель поддерживает английский, испанский, французский, португальский, итальянский, нидерландский, немецкий, арабский и иврит; основной язык не выделен. В карточке заявлены высокая скорость вывода и эффективная работа с длинным контекстом. Для запуска нужны совместимые CUDA-ускорители и оптимизированные реализации Mamba; в FP16/BF16 Mini не помещается на одну GPU с 80 ГБ памяти, а режим ExpertsInt8 позволяет развернуть её на такой GPU. Модель распространяется по Jamba Open Model License, допускающей исследования и коммерческое использование на её условиях. README предупреждает, что эта версия подлежит устареванию с 6 мая 2024 года.

Apertus-8B-2509 — открытая языковая модель семейства Apertus, разработанная Swiss AI. Это плотный авторегрессионный трансформер-декодер с 10,3 млрд параметров, обученный с нуля на 15 трлн токенов и дообученный с учителем с последующим выравниванием. Модель предназначена для генерации текста, многоязычного общения и работы с длинным контекстом; поддерживает вызов инструментов. Контекстное окно — до 65 536 токенов. Карточка заявляет поддержку более 1 800 языков. Модель ориентирована на открытое и прозрачное применение: разработчики публикуют веса, данные и сведения о процессе обучения. Репозиторий использует формат Safetensors и библиотеку Transformers; лицензия — Apache-2.0. Модель может генерировать фактически неточный или непоследовательный текст и отражать предвзятость обучающих данных. Фильтр для персональных данных в комплект не входит, поэтому важные ответы следует проверять, а выводы с персональными данными — обрабатывать с осторожностью.

DeepHermes 3 Mistral 24B Preview — языковая модель Nous Research, дообученная на базе Mistral-Small-24B-Base-2501. Это предварительная версия гибридной модели, объединяющей обычный режим ответов и режим рассуждений, который включается системным сообщением. Модель предназначена для диалогов, следования инструкциям, решения задач с рассуждениями и вызова функций; также поддерживает структурированные ответы в формате JSON. Модель имеет плотную архитектуру MistralForCausalLM и 23,4 млрд параметров. Она принимает текст и генерирует текст, поддерживает контекст длиной до 32 768 токенов. В карточке указан английский язык. Модель доступна под лицензией Apache-2.0. Это preview-релиз с ранними возможностями рассуждения, дистиллированными из R1; авторы предупреждают о возможных особенностях и ошибках. Для сложных задач модель может генерировать длинные цепочки рассуждений, поэтому может потребоваться увеличить лимит выходных токенов.

GLM-4.7-heretic — версия GLM-4.7 от Z.ai, обработанная методом abliteration с помощью Heretic v1.1.0. По данным карточки, изменение снижает частоту отказов, сохраняя качество исходной модели; в выбранном испытании зафиксировано 4 отказа из 100, а KL-дивергенция составила 0,0181. Модель предназначена для генерации текста и диалогов, а базовая GLM-4.7 рассчитана на программирование, агентные задачи и рассуждения. Это модель семейства GLM-4 MoE с 23,4 млрд параметров и контекстом до 202 752 токенов; метаданные указывают английский и китайский языки. Доступны веса в формате Safetensors и интерфейс чата. Лицензия — MIT.

Hutgaecha дообучил диалоговую модель Kakao kanana-1.5-8b-instruct-2505 и объединил результат в отдельную модель. Это плотная авторегрессионная языковая модель семейства Llama с 7,5 млрд параметров и контекстом до 32 768 токенов. Она предназначена для генерации текста в диалоге; базовая модель также поддерживает программирование, математические задачи и интерфейс вызова инструментов. Модель принимает текстовые запросы и генерирует текстовые ответы. Для обучения использовались Unsloth и библиотека TRL от Hugging Face. В метаданных указан английский язык. Модель распространяется по лицензии Apache-2.0, допускающей коммерческое использование при соблюдении её условий.

deltanym/llama-3.1-120b-instruct — текстовая разговорная модель, созданная методом слияния через mergekit на основе meta-llama/Llama-3.1-70B-Instruct. В карточке указана конфигурация passthrough; модель использует плотную архитектуру семейства Llama и формат safetensors. Метаданные указывают 120,8 млрд параметров и контекстное окно до 131 072 токенов. Модель предназначена для генерации текста и диалогового общения, включая сценарии с интерфейсом вызова инструментов. В основе лежит многоязычная instruct-модель Meta; README описывает её как воспроизведение Meta-Llama-3-120B-Instruct с использованием Llama 3.1 70B вместо Llama 3. Лицензия в предоставленных данных не указана.

unsloth/Llama-3.2-3B-Instruct-bnb-4bit — это 4-битная квантованная версия инструкционно дообученной текстовой модели Llama 3.2 3B Instruct, подготовленная Unsloth на базе модели Meta. Она предназначена для генерации текста, многоязычного диалога, агентского поиска и извлечения информации, суммаризации, а также для локального запуска и последующего дообучения с пониженным потреблением памяти. Модель работает в формате text in/text out и доступна через экосистему Transformers и bnb 4-bit. Архитектура модели — авторегрессионный оптимизированный Transformer с Grouped-Query Attention (GQA). Размер — 3 млрд параметров. Инструкционная версия обучена с применением supervised fine-tuning (SFT) и reinforcement learning with human feedback (RLHF) для повышения полезности и безопасности. Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Длина контекста в предоставленных данных не указана. К сильным сторонам относятся компактный размер, 4-битное представление, сниженные требования к памяти и оптимизация для диалоговых и прикладных текстовых сценариев. Ограничения связаны с тем, что это статическая модель, обученная на офлайн-данных, а также с возможными рисками при использовании языков и задач за пределами заявленных возможностей; качество и безопасность конкретного развертывания требуют отдельной проверки. Использование регулируется кастомной коммерческой лицензией Llama 3.2 Community License и Acceptable Use Policy Meta.

Meta Llama 4 Maverick 17B 128E Instruct FP8 — инструкционная квантованная версия модели семейства Llama 4, разработанная Meta. Она предназначена для диалоговых сценариев и генерации текста, включая ответы на запросы, выполнение инструкций и интеграцию в приложения на базе Transformers. Модель заявлена как мультиязычная и поддерживает арабский, немецкий, английский, испанский, французский, хинди, индонезийский, итальянский, португальский, тайский, тагальский и вьетнамский языки. В идентификаторе указаны 17B и 128E, однако README не раскрывает архитектурные детали, длину контекста, точные модальности и характеристики качества. Обозначение FP8 указывает на 8-битное представление весов, но конкретные преимущества и ограничения этой версии не приведены. Модель распространяется по Llama 4 Community License от Meta. Лицензия разрешает использование, копирование, модификацию и распространение на установленных условиях, включая передачу текста лицензии, атрибуцию «Built with Llama» и соблюдение Acceptable Use Policy. Для продуктов или сервисов с более чем 700 миллионами ежемесячно активных пользователей предусмотрено получение отдельной лицензии Meta.

lumikabra-behemoth-123b — объединённая языковая модель, собранная с помощью mergekit методом della_linear. В основе слияния лежит schn apper79_lumikabra-123B_v0.3, также использована TheDrummer_Behemoth-123B-v1; веса смешаны с указанными в конфигурации параметрами. Модель построена на плотной архитектуре MistralForCausalLM и содержит 122,2 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия. Контекстное окно составляет 131 072 токена; в метаданных также заявлен интерфейс вызова инструментов. Репозиторий содержит веса safetensors, а конфигурация слияния задаёт тип данных bfloat16. Поддерживаемые языки в предоставленных данных не определены. Лицензия в источниках не указана.

Meta-Llama-3.1-70B-Instruct-FP8 — квантизированная версия языковой модели Meta-Llama-3.1-70B-Instruct, разработанная Neural Magic. Модель предназначена для коммерческого и исследовательского использования, прежде всего для диалоговых ассистентов и генерации текста. Она принимает текст и генерирует текст, поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки, однако в документации отдельно указано ограничение на использование неанглийских языков. Модель имеет архитектуру Meta-Llama-3.1 и размер 70B параметров. Веса и активации линейных слоёв внутри трансформерных блоков квантизированы в формат FP8 с симметричной потензорной схемой; квантизация уменьшает объём хранения и требования к GPU-памяти примерно на 50%. Оптимизированная версия сохраняет близкие результаты базовой модели: средний балл OpenLLM составляет 84,29 против 84,40 у неквантизированной версии. Для развёртывания рекомендуется vLLM, включая режим, совместимый с OpenAI API. К ограничениям относятся возможное снижение качества относительно полной точности, отсутствие указанного в README размера контекстного окна и формальное требование соблюдать применимое законодательство. Модель распространяется по лицензии llama3.1; релиз версии 1.0 состоялся 23 июля 2024 года.

Kaoeiri/MS_a-coolyte-2409-22B — языковая модель для диалогов и генерации текста, созданная с помощью mergekit. Это плотная модель архитектуры Mistral с 22 млрд параметров, полученная слиянием unsloth/Mistral-Small-Instruct-2409 и rAIfle/Acolyte-LORA методом task arithmetic; веса представлены в формате Safetensors. Модель рассчитана на текстовый ввод и генерацию текста, поддерживает чат и интерфейс вызова инструментов. Контекст — до 131 072 токенов. Модель можно использовать для диалоговых ассистентов, генерации и продолжения текста, а также сценариев, где ответ опирается на длинный контекст или вызов инструментов. README указывает, что плотность слияния подбиралась для целевого training loss 0,3. Сведения о конкретных поддерживаемых естественных языках и лицензии в предоставленных источниках отсутствуют.

Hermes-4.3-36B-GGUF — это GGUF-квантизированная версия языковой модели Hermes-4.3-36B, разработанной NousResearch и подготовленной квантизатором bartowski с использованием llama.cpp и imatrix-калибровки. Модель предназначена для генерации текста и диалоговых сценариев, включая ассистирование, рассуждения, ролевое взаимодействие, работу с JSON и структурированными ответами, function calling и использование инструментов. Модель содержит 36 млрд параметров и поддерживает текстовый ввод и вывод. В карточке заявлен английский язык; контекстное окно и точная архитектура не указаны. Доступны варианты от BF16 до различных уровней квантизации, включая Q8_0, Q6_K, Q5_K, Q4_K и более компактные форматы. Старшие варианты обеспечивают более высокое качество, а младшие требуют меньше оперативной памяти, но сильнее снижают качество ответов. Модель совместима с llama.cpp, LM Studio и другими проектами на базе llama.cpp. Рекомендуемые варианты позволяют выбирать баланс между качеством и потреблением памяти, однако крупные файлы требуют значительных аппаратных ресурсов. Лицензия — Apache-2.0.

DazzlingShadow публикует вариант Qwen3.5-122B-A10B с изменённым профилем отказов (abliteration). В приведённом сравнении частота отказов снизилась с 88 до 16 из 100 запросов при KL-дивергенции 0,0233 относительно исходной модели. Это мультимодальная модель для диалога, генерации текста и понимания изображений; карточка описывает её как причинную языковую модель с визуальным энкодером и разреженной архитектурой Mixture-of-Experts с Gated Delta Networks. Всего 122 млрд параметров, активируется 10 млрд; контекстное окно — 262 144 токена с возможностью расширения до 1 010 000. Исходная модель заявляет поддержку 201 языка и диалекта, однако карточка не уточняет, какие языки сохраняются в этом производном варианте. Модель доступна в формате Safetensors и предназначена для Transformers и совместимых серверов инференса. Лицензия — Apache-2.0. Снижение отказов не гарантирует их полного отсутствия; производительность и совместимость зависят от используемого фреймворка и ресурсов.

mmangkad/Qwen3.6-35B-A3B-NVFP4 — квантизированная версия авторегрессионной языковой модели Qwen3.6-35B-A3B, разработанной Alibaba и подготовленной с использованием NVIDIA Model Optimizer. Модель предназначена для генерации текста и может применяться в AI-агентах, чат-ботах, RAG-системах и других приложениях на базе ИИ. Модель построена на архитектуре Transformers и имеет 35 млрд параметров, из которых 3 млрд активируются при работе. Она принимает и генерирует текст, поддерживает контекст длиной до 262 тысяч токенов. Веса и активации линейных операторов в MoE-компонентах transformer-блоков квантизированы в формат NVFP4, что ориентировано на эффективный инференс на GPU NVIDIA. Указана совместимость с NVIDIA Blackwell, Linux и SGLang; тестирование проводилось на B300. Данные о поддерживаемых языках и полном составе обучающего набора не раскрыты. Сильные стороны модели — предварительная NVFP4-квантизация, большой контекст и оптимизация для развертывания на совместимом оборудовании NVIDIA. Для запуска требуется SGLang, по README рекомендуется актуальная версия из основной ветки. Модель может воспроизводить токсичные формулировки и общественные предубеждения из исходных данных, а также генерировать неточные, неполные или нерелевантные ответы. Распространение и использование разрешены по лицензии Apache 2.0 с учетом требований и ограничений базовой модели.

SJT-7B-1M — разговорная языковая модель Sakalti, созданная слиянием моделей через mergekit. В качестве основы использована Qwen/Qwen2.5-7B-Instruct-1M, объединённая с Sakalti/model-3 методом TIES. Модель построена на плотной архитектуре Qwen2 и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и диалогов, включая сценарии с длинным контекстом до 1 010 000 токенов. Метаданные также отмечают интерфейс для вызова инструментов. Репозиторий содержит веса в формате safetensors; README указывает тип float16. Лицензия в предоставленных данных не указана.

Apertus-v1.5-70B — мультимодальная языковая модель Swiss AI в семействе Apertus 1.5 с 70 млрд параметров. Это decoder-only трансформер с активацией xIELU; модель продолжает предобучение Apertus 1.0 на мультимодальном наборе данных и дообучена для следования инструкциям и использования инструментов. Модель принимает текст, изображения и аудио, а генерирует текст. Она предназначена для диалогов, анализа изображений и аудио, ответов на вопросы и рассуждений; режим thinking помогает решать задачи, требующие пошагового анализа. Контекст поддерживает до 262 144 токенов, модель рассчитана на широкий спектр языков. Модель может выдавать фактически неверные или непоследовательные ответы и отражать предвзятости обучающих данных, поэтому важные результаты следует проверять. Для запуска в vLLM в README указана необходимость использовать модифицированные версии vLLM и Transformers, пока поддержка не появится в основных выпусках. Лицензия — Apache-2.0.

lmstudio-community/gemma-3-27B-it-qat-GGUF — это GGUF-квантизированная версия Gemma 3 27B IT, разработанная Google и представленная в рамках программы LM Studio Community Models. Квантизация выполнена Google с применением Quantization Aware Training для повышения качества работы в 4-битном формате. Модель предназначена для генерации текста и понимания изображений. Она подходит для ответов на вопросы, суммирования, рассуждений и других задач, требующих анализа текста или совместной обработки текста и изображений. Поддерживается мультимодальный ввод изображений, нормализуемых до разрешения 896 × 896 пикселей. Заявленная длина контекста составляет до 128 000 токенов, максимальная длина генерируемого ответа — 8 192 токена. Ключевыми преимуществами являются сочетание крупного размера 27B, поддержки изображений, длинного контекста и оптимизации для 4-битного запуска. Ограничения включают возможные неточности, вредные или неподходящие ответы, а также требования к вычислительным ресурсам, характерные для модели такого размера; сведения о поддерживаемых языках в README не указаны. Для использования применяется лицензия Gemma; доступ к исходной модели на Hugging Face требует принятия условий лицензии Google.

Homer-v1.0-Qwen2.5-72B — языковая модель, созданная newsbang дообучением Qwen2.5-72B на большом объёме данных с инструкциями. Она предназначена для диалогов и выполнения текстовых инструкций; в метаданных также заявлен интерфейс вызова инструментов. Модель имеет плотную архитектуру Qwen2 и содержит 71,5 млрд параметров. Она принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0.

Huihui-Qwen3.6-35B-A3B-abliterated-NVFP4 — квантованная версия модели huihui-ai/Huihui-Qwen3.6-35B-A3B, подготовленная пользователем YuYu1015. Модель предназначена для генерации текста, диалоговых и рассуждающих сценариев, а также использования с вызовом инструментов. Она поддерживает режим рассуждений, tool calling через парсер qwen3_xml и спекулятивное декодирование MTP; совместимость с DFlash также заявлена. В основе лежит MoE-архитектура с 35 млрд параметров в общей сложности и примерно 3 млрд активных параметров: 256 экспертов, 8 маршрутизируемых и 1 общий эксперт, в сочетании с GDN/Mamba и механизмом внимания. Поддерживается контекст до 262 144 токенов, языки — английский и китайский. Модель использует NVFP4-квантизацию W4A4, занимает около 25,1 ГБ вместо примерно 71,9 ГБ в исходном формате BF16 и оптимизирована для NVIDIA DGX Spark с GPU GB10 SM121. Основные преимущества — существенно сниженные требования к памяти, сохранённые MTP-веса в BF16 и специальная смешанная калибровка на диалоговых и рассуждающих данных для восстановления точности. Ограничения включают зависимость от совместимых версий vLLM, FlashInfer и CUDA, а также необходимость подходящего оборудования и программного стека для заявленного режима W4A4. После abliteration распределение активаций отличается от исходного, поэтому эффективность DFlash снижается; для этой версии рекомендуется MTP с одним спекулятивным токеном. Модель распространяется по лицензии Apache-2.0.

InternLM2.5-20B-Chat — диалоговая языковая модель семейства InternLM2, разработанная командой InternLM. Это плотная авторегрессионная модель с 19,3 млрд параметров и контекстом до 32 768 токенов, предназначенная для практических сценариев общения и выполнения инструкций. Модель принимает текст и генерирует текст; карточка описывает её возможности диалогового взаимодействия и сообщает об улучшенном выборе инструментов, многошаговых вызовах и анализе полученных результатов. Модель подходит для математических рассуждений, ответов на вопросы и построения диалоговых систем и агентов, использующих инструменты. В README приведены результаты OpenCompass, включая сильные показатели на CMMLU и BBH; они зависят от конфигурации и версии оценки. Весам доступен формат safetensors, а для коммерческого использования требуется бесплатное разрешение; код репозитория выпущен под Apache-2.0. Модель может выдавать предвзятые, дискриминационные или иные вредоносные и неожиданные ответы. Результаты генерации требуют проверки, особенно при использовании в приложениях с последствиями для пользователей.

Ling-2.5-1T — открытая большая языковая модель семейства Ling, разработанная Inclusive Intelligence. Это модель для генерации текста и диалогов, следования инструкциям, рассуждений и работы в агентных сценариях с вызовом инструментов. В репозитории указаны архитектура Mixture of Experts на базе Bailing Hybrid и класс BailingMoeV2_5ForCausalLM; метаданные сообщают 59 млрд параметров, а README заявляет 1 трлн общих и 63 млрд активных параметров. Модель распространяется в формате Safetensors и поддерживает контекст до 131 072 токенов согласно метаданным; README описывает расширение контекста до 1 млн токенов с YaRN. Гибридная архитектура линейного внимания рассчитана на высокую пропускную способность, в том числе при длинных контекстах. Модель предназначена для чат-ботов, сложных запросов и интеграции с агентными платформами; разработчики заявляют улучшения рассуждений и следования инструкциям относительно предыдущей версии. README отмечает, что при сложных агентных взаимодействиях и длительном выполнении задач модель пока уступает передовым системам. Лицензия — MIT. Языки, на которых модель специально обучена или которые поддерживает, в предоставленных данных не названы.

Карточка модели RoyYao233/Llama-3.1-8B-Instruct на Hugging Face совпадает с карточкой meta-llama/Llama-3.1-8B-Instruct, поэтому описание составлено по ней. Meta Llama 3.1 8B Instruct — языковая модель Meta для диалогов и генерации текста. Это авторегрессионная модель на основе оптимизированного трансформера с Grouped-Query Attention; версия Instruct настроена с помощью supervised fine-tuning и обучения с обратной связью от людей (RLHF). Модель принимает и генерирует текст, поддерживает диалоговый режим и предназначена для коммерческого и исследовательского применения. Модель подходит для создания чат-ассистентов, ответов на запросы и других задач генерации текста на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Контекстное окно в предоставленных материалах не указано. Модель обучена на статичном офлайн-наборе данных; возможны ошибки и небезопасные ответы, поэтому результаты следует проверять, а для использования инструментов требуется отдельная интеграция и контроль со стороны разработчика. Условия распространения и применения регулируются лицензией Meta Llama 3.1 Community License и Acceptable Use Policy.

Карточка модели Openintelligent123/Llama-3.2-1B на Hugging Face совпадает с карточкой unsloth/Llama-3.2-1B, поэтому описание составлено по ней. unsloth/Llama-3.2-1B — текстовая модель генерации на базе Meta Llama 3.2, представленная Unsloth. Это плотная авторегрессионная трансформерная архитектура Llama с 1,2 млрд параметров; репозиторий содержит веса в формате safetensors и предназначен для использования через Transformers. В README Unsloth также предлагает ноутбуки для дообучения модели и экспорта полученных моделей. Модель принимает текст и генерирует текст. Семейство Llama 3.2 предназначено для генерации и диалога; в карточке указаны сценарии суммаризации и агентного поиска, а также поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Контекстное окно составляет 131072 токена. Модель опубликована 25 сентября 2024 года и распространяется по лицензии Llama 3.2 Community License, условия которой следует соблюдать при использовании и распространении.

Карточка модели zsjTiger/Llama-3.2-1B на Hugging Face совпадает с карточкой unsloth/Llama-3.2-1B, поэтому описание составлено по ней. unsloth/Llama-3.2-1B — текстовая модель генерации на базе Meta Llama 3.2, представленная Unsloth. Это плотная авторегрессионная трансформерная архитектура Llama с 1,2 млрд параметров; репозиторий содержит веса в формате safetensors и предназначен для использования через Transformers. В README Unsloth также предлагает ноутбуки для дообучения модели и экспорта полученных моделей. Модель принимает текст и генерирует текст. Семейство Llama 3.2 предназначено для генерации и диалога; в карточке указаны сценарии суммаризации и агентного поиска, а также поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Контекстное окно составляет 131072 токена. Модель опубликована 25 сентября 2024 года и распространяется по лицензии Llama 3.2 Community License, условия которой следует соблюдать при использовании и распространении.

unsloth/Llama-4-Scout-17B-16E-Instruct-unsloth-bnb-4bit — это 4-битно-квантизированная версия инструкционной модели Llama 4 Scout 17B-16E-Instruct, разработанной Meta. Модель предназначена для выполнения текстовых инструкций и решения широкого круга задач генерации и обработки текста, включая диалоговые сценарии, ответы на вопросы, суммирование и подготовку контента. В карточке указана поддержка арабского, немецкого, английского, испанского, французского, хинди, индонезийского, итальянского, португальского, тайского, тагальского и вьетнамского языков. Суффикс bnb-4bit указывает на 4-битное представление весов, которое обычно снижает требования к памяти и может упростить локальный запуск по сравнению с полноразмерной версией, однако точные требования к оборудованию, контекстное окно, сведения о мультимодальности и результаты тестирования в README не приведены. Модель удобна для инференса в условиях ограниченных вычислительных ресурсов, но квантизация может повлиять на точность и качество ответов относительно исходной версии. Модель распространяется по Llama 4 Community License от Meta. При распространении материалов или производных продуктов необходимо соблюдать условия лицензии, включая предоставление текста соглашения, указание «Built with Llama» и другие требования Meta; для организаций с более чем 700 миллионами ежемесячно активных пользователей предусмотрено получение отдельной лицензии.

Meta-Llama-3-70B-Instruct-GGUF — квантизированная GGUF-версия инструкционной языковой модели Meta-Llama-3-70B-Instruct, разработанной Meta. Квантизацию и публикацию сборок выполнила Second State Inc. Модель предназначена для генерации текста и диалоговых сценариев с использованием шаблона llama-3-chat, включая ответы на пользовательские запросы и работу с системными инструкциями. Модель относится к семейству Llama и имеет размер 70B параметров. В README указана поддержка английского языка, текстовая модальность и контекстное окно до 8192 токенов. Доступны варианты GGUF с точностью от 2 до 8 бит, а также f16; размеры файлов зависят от варианта и составляют примерно от 26,4 до 50 ГБ для основных квантизированных сборок. Варианты Q4_K_M, Q5_K_M и Q5_K_S отмечены как рекомендуемые благодаря балансу между качеством и размером. Сильной стороной модели является большой размер и возможность локального запуска через совместимые инструменты, включая LlamaEdge. Ограничения связаны с высокими требованиями к дисковому пространству и вычислительным ресурсам, а низкобитные варианты могут заметно терять в качестве; README не рекомендует некоторые из них для большинства задач. Лицензия указана как llama3 с типом other; перед использованием необходимо учитывать условия лицензии Meta Llama 3.

MindLink-72B-0801 — диалоговая большая языковая модель, разработанная Kunlun Inc на базе Qwen2.5-72B-Instruct. В карточке описано семейство MindLink с дообучением и посттренировочными методами; экземпляр содержит 71,5 млрд параметров, использует плотную архитектуру Qwen2 и формат safetensors. Модель предназначена для генерации текста и диалогов, рассуждений, математики и других общих задач. Для этой версии метаданные указывают контекст 32 768 токенов. Заявлены адаптивное планирование рассуждений и способность выдавать подробные рассуждения для сложных запросов и краткие ответы для простых; README также отмечает многошаговые диалоги. Описание не приводит численных результатов сравнительных тестов. Основной язык, указанный в метаданных карточки, — английский. Лицензия — Apache 2.0; README просит сохранять уведомления об авторских правах Qwen и описывать внесённые изменения.

Ministral-3-Instruct-2512-AIO-GGUF — набор квантованных моделей в формате GGUF, опубликованный prithivMLmods на основе семейства Ministral 3 Instruct от Mistral AI. В набор входят варианты на 3B, 8B и 14B параметров, совместимые с llama.cpp и интеграциями через Transformers. Модели предназначены для локального и эффективного запуска на устройствах с ограниченными ресурсами. Это мультимодальные vision-language модели для работы с текстом и изображениями. Они поддерживают анализ изображений, генерацию описаний, понимание документов, извлечение данных, перевод, краткую генерацию контента и агентские сценарии с function calling и JSON-выводом. Заявлено контекстное окно до 256K токенов и поддержка английского, французского, испанского, немецкого, итальянского, португальского, нидерландского, китайского, японского, корейского и арабского языков. Архитектура включает языковую модель и vision encoder примерно на 0,4B параметров. Сильные стороны набора — разнообразие размеров и уровней квантования, поддержка мультимодальных задач, многоязычность, следование системным инструкциям и возможность локального развертывания. Компромиссом квантованных вариантов могут быть снижение точности и качества по сравнению с полноразмерными версиями; требования к памяти зависят от размера модели и выбранного формата. Доступ предоставляется по лицензии Apache 2.0.

NeuralKybalion-7B-slerp — объединённая модель, созданная с помощью LazyMergekit из NousResearch/Hermes-2-Pro-Mistral-7B и liminerity/M7-7b. Это плотная авторегрессионная языковая модель семейства Mistral с архитектурой MistralForCausalLM, примерно 7,1 млрд параметров и контекстом до 32 768 токенов. Веса опубликованы в формате safetensors. Модель предназначена для генерации текста и может использоваться в сценариях, подходящих для объединённых исходных моделей, включая диалоги, выполнение инструкций, вызов функций и генерацию JSON. В README указано слияние методом slerp с настройками для слоёв внимания и MLP. Информация о лицензии в предоставленных данных отсутствует.