I.3Извлечение и структурирование данных

hardcoreerik выпустил декензурированную версию Llama-3.1-Nemotron-Nano-4B-v1.1, созданную с помощью Heretic v1.3.0. По карточке это плотный decoder-only Transformer семейства Llama, дообученный на базе nvidia/Llama-3.1-Minitron-4B-Width-Base; размер — 3,9 млрд параметров, контекст — до 131 072 токенов. Модель принимает и выдаёт текст, поддерживает чат, рассуждения, следование инструкциям и вызов инструментов. Она предназначена для чат-ботов, агентных систем, RAG и общих задач, включая программирование, математику и рассуждения. Основной язык — английский; также заявлена поддержка немецкого, французского, итальянского, португальского, хинди, испанского и тайского. В сравнении с исходной моделью в README указано меньше отказов на тесте из 100 запросов, что отражает её декензурированную настройку. Репозиторий использует формат safetensors и библиотеку Transformers; лицензия указана как other, а README заявляет готовность исходной модели к коммерческому использованию, но условия лицензии именно этой версии следует проверять отдельно.

ggml-org/Meta-Llama-3.1-8B-Instruct-Q4_0-GGUF — это квантизированная в формате GGUF версия инструкционно дообученной текстовой модели Meta Llama 3.1 8B Instruct, подготовленная для использования с инструментами экосистемы llama.cpp. Разработчик исходной модели — Meta. Модель предназначена для генерации текста, диалоговых сценариев, ответов на инструкции и других задач обработки естественного языка. В карточке указаны поддерживаемые языки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Размер исходной модели составляет 8 миллиардов параметров, а суффикс Q4_0 указывает на 4-битную квантизацию, которая снижает требования к памяти и может упростить локальный запуск, но потенциально уменьшает точность по сравнению с полноразмерными весами. Модальность модели — текстовая; сведения о размере контекста и архитектурных деталях в карточке не указаны. Модель распространяется по Llama 3.1 Community License. При распространении материалов или продуктов на их основе необходимо соблюдать условия лицензии Meta, включая предоставление текста соглашения, указание «Built with Llama», сохранение обязательного уведомления об авторских правах и соблюдение Acceptable Use Policy. Для организаций с более чем 700 миллионами ежемесячных активных пользователей предусмотрено требование запросить отдельную лицензию у Meta.

MiniMax-M1-40k-hf — открытая по весам языковая модель компании MiniMax для рассуждений, диалога и построения агентных приложений. Это версия с бюджетом размышления 40K, предназначенная для Transformers; в README для других открытых фреймворков рекомендуется альтернативный репозиторий MiniMax-M1-40k. Модель использует гибридную архитектуру Mixture-of-Experts с механизмом lightning attention. В метаданных указаны 21,6 млрд параметров, а README описывает базовое семейство MiniMax-M1 как модель, рассчитанную на контекст до 1 млн токенов. Обучение с подкреплением охватывало математические задачи и программную инженерию; заявлены сильные результаты на сложных задачах кодирования, использования инструментов и работы с длинным контекстом. Модель поддерживает чат и интерфейс вызова инструментов. Подходит для решения сложных математических задач, анализа длинных документов, программирования и агентных сценариев с вызовом внешних функций. README указывает рекомендации по параметрам генерации, но фактическое качество зависит от задачи и конфигурации инференса. Лицензия репозитория — Apache-2.0.

CQDU/MiniMax-M3 — мультимодальная модель семейства MiniMax-M3, разработанная MiniMax. Она предназначена для диалогов с изображениями и видео, программирования и длительных агентных задач. Модель использует разреженное внимание MiniMax Sparse Attention (MSA), имеет около 428 млрд параметров, из которых активируется около 23 млрд, и заявленный контекст до 1 млн токенов. Обучение с совместными текстовыми, визуальными и видеоданными заявлено с самого начала, что поддерживает объединение информации из разных модальностей. Для запуска авторы указывают MiniMax Agent и MiniMax API; README также описывает локальное использование через Transformers и safetensors. Лицензия в метаданных обозначена как other, поэтому условия следует проверять в карточке модели и связанных документах.

RippaSats/MiniMax-M3 — мультимодальная модель семейства MiniMax M3, представленная в формате safetensors и рассчитанная на работу с текстом и изображениями. В README заявлены около 428 млрд параметров, примерно 23 млрд активируемых параметров и контекст до 1 млн токенов. Архитектура использует разреженное внимание MiniMax Sparse Attention (MSA), предназначенное для снижения вычислительных затрат и потребления памяти при длинном контексте; авторы также заявляют ускорение обработки длинного контекста по сравнению с M2. Модель предназначена для диалогов с изображениями, задач программирования и длительных агентных сценариев. README также описывает обучение на смеси модальностей с самого начала и заявляет поддержку видео, однако метаданные модели подтверждают только задачу image-text-to-text и возможности чата и зрения. README рекомендует использовать MiniMax Agent или MiniMax API. Репозиторий указывает лицензию other, поэтому конкретные условия использования следует проверять в приложенных лицензионных материалах.

mistral-community/mixtral-8x22B-v0.3 — текстовая генеративная модель семейства Mixtral, опубликованная сообществом mistral-community. Архитектура — MixtralForCausalLM с механизмом смеси экспертов (MoE); модель предназначена для генерации текста и диалогового взаимодействия, включая интерфейс вызова инструментов. Контекстное окно составляет до 65 536 токенов. Эта версия соответствует v0.1, но использует токенизатор большего размера. В репозитории представлены веса Safetensors; лицензия — Apache-2.0. Карточка предупреждает, что чекпойнт может быть неактуальным, и рекомендует использовать соответствующую версию у организации-разработчика.

Phi-3-medium-128k-instruct-GGUF — квантизированная версия инструкционной языковой модели Microsoft Phi-3-medium-128k-instruct, подготовленная пользователем bartowski в формате GGUF для запуска через llama.cpp и совместимые приложения, включая LM Studio. Модель предназначена для генерации текста, диалогового взаимодействия и задач, связанных с обработкой естественного языка и программным кодом. В README заявлена поддержка multilingual-сценариев и контекстное окно до 128 000 токенов. Доступны варианты от F32 до низкобитных квантизаций Q8_0, Q6, Q5, Q4, Q3 и Q2, а также форматы IQ. Размер файлов составляет примерно от 5,14 до 55,84 ГБ. Более высокие уровни квантизации обычно обеспечивают лучшее сохранение качества, тогда как компактные варианты снижают требования к памяти ценой качества ответов. Ключевые характеристики исходной архитектуры, точное число параметров, перечень поддерживаемых языков и результаты тестирования в README не указаны. Модель подходит для локального инференса, чат-ботов, генерации и анализа текста, а также помощи с кодом при наличии оборудования с достаточным объёмом оперативной или видеопамяти. Ограничениями являются зависимость качества и требований к ресурсам от выбранной квантизации, а также отсутствие в предоставленных данных подробных оценок производительности и гарантий точности. Указана лицензия MIT, унаследованная от исходной модели Microsoft.

Qwen-14B — плотная авторегрессионная языковая модель семейства Qwen, разработанная Alibaba Cloud. Она построена на архитектуре Transformer и содержит 21,8 млрд параметров по метаданным; в карточке описаны RoPE, SwiGLU, RMSNorm и словарь более чем из 150 тысяч токенов. Модель обучена на более чем 3 трлн токенов из веб-текстов, книг, кода, математических и других материалов; заявленная длина контекста — 8192 токена. Модель предназначена для генерации текста и может служить основой для диалоговых систем, а также для задач на знания, рассуждения, перевод, математику и программирование. Наиболее подробно описана поддержка китайского и английского языков; словарь также ориентирован на ряд других языков, включая русский. Репозиторий содержит исходную предварительно обученную модель, а не вариант Qwen-14B-Chat. В README заявлены конкурентные результаты на ряде китайских и англоязычных тестов, однако это оценки разработчика, а качество зависит от задачи и способа применения. Для запуска требуются PyTorch и Transformers; модель крупная и требует значительных вычислительных ресурсов. Лицензия в предоставленных данных не указана.

JunLee88999/Qwen3.5-35B-A3B-heretic-v2-GGUF — GGUF-квантизации модели Qwen3.5-35B-A3B, разработанной командой Qwen. Это децензурированная версия, созданная на основе llmfan46/Qwen3.5-35B-A3B-heretic-v2 с применением Heretic v1.2.0, Magnitude-Preserving Orthogonal Ablation и Self-Organizing Map Abliteration. Модель предназначена для генерации текста, рассуждений, программирования, агентских сценариев и мультимодального понимания изображений и текста. Архитектура исходной Qwen3.5 включает гибридные Gated Delta Networks и разреженную Mixture-of-Experts; размер модели — 35B с конфигурацией A3B. Указана поддержка 201 языка и диалекта. Для мультимодальной работы требуется отдельный vision projector в формате GGUF; доступны варианты BF16, Q8_0, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M и Q4_K_S. Модель совместима с llama.cpp, LM Studio, Ollama и другими инструментами, поддерживающими GGUF. Главная особенность версии — значительно меньшее количество отказов по сравнению с оригинальной моделью: 4 из 100 против 91 из 100, при заявленном KL divergence 0,0411, что указывает на относительно хорошее сохранение исходных возможностей. При этом снятие ограничений может повысить риски генерации нежелательного или небезопасного контента. README не содержит сведений о длине контекста и подробных результатах независимого тестирования. Лицензия — Apache-2.0.

Sartaj Bhuvaji подготовил текстовую версию Qwen3.8-27B, удалив из Qwen/Qwen3.8-27B зрительную подсистему и преобразовав конфигурацию в Qwen3_5ForCausalLM. Это плотная гибридная авторегрессионная модель с 64 декодерными слоями: 48 слоёв линейного внимания и 16 слоёв полного внимания. В репозитории около 27,3 млрд параметров; заявленная длина контекста — 262 144 токена. Текстовые веса побайтно совпадают с исходной моделью, дообучения или переобучения не было. Модель предназначена для генерации текста и диалогового использования, включая развёртывание через Transformers, vLLM и SGLang. Удаление зрительной подсистемы исключает обработку изображений и сокращает занимаемую память примерно на 0,92 ГБ; автор также сообщает об увеличении доступной KV-кэш-памяти в конкретном тесте на H100. Лицензия — Apache-2.0. Модель не принимает изображения. Голова multi-token prediction сохранена, но не поддерживается проверенными загрузчиками; прирост скорости не гарантируется и зависит от движка, оборудования и нагрузки. Приведённые бенчмарки охватывают один H100 и ограниченный набор размеров запросов.

Qwen3-VL-12B-Thinking-Brainstorm20x-NEO-MAX-GGUF — мультимодальная instruct-модель в формате GGUF, созданная DavidAU на базе Qwen3-VL-8B-Thinking с адаптером Brainstorm 20x и дополнительной обработкой квантов NEO Imatrix. Модель предназначена для работы с текстом и изображениями, включая image-to-text, описание изображений, программирование, генерацию кода, чат, творческие задачи и рассуждения. В метаданных указан английский язык; заявлена поддержка видео, однако подробности о формате и ограничениях видеовхода не приведены. После применения адаптера размер модели увеличен до 12B параметров; указаны 55 слоёв и 608 тензоров. Максимальный контекст составляет 256k токенов. Для полноценной мультимодальной работы требуется отдельный файл mmproj в формате GGUF, размещённый вместе с основной моделью. Поддерживаются шаблоны Jinja или ChatML. Brainstorm 20x заявлен как модификация, улучшающая детализацию, связность, качество прозы, творческую генерацию и глубину рассуждений, но автор отдельно отмечает, что это не означает кратного повышения интеллектуальных способностей. Сильными сторонами модели являются сочетание обработки текста и изображений, пригодность для сложного многошагового программирования, подробных инструкций, творческих сценариев и работы с длинным контекстом. К ограничениям относятся отсутствие опубликованных в README бенчмарков и примеров, а также возможное зацикливание генерации; для его уменьшения рекомендуются повышенная температура, repetition penalty около 1.1 и presence penalty 2.0. Модель распространяется по лицензии Apache-2.0.

Salience-1.5-Pro — мультимодальная модель класса vision-language, разработанная vectionlabs и представленная в GGUF-квантизациях автором bartowski. Она предназначена для работы с текстом и изображениями, задач рассуждения, программирования, software engineering, агентских сценариев и использования инструментов. В карточке также заявлены архитектура mixture-of-experts (MoE), поддержка длинного контекста и язык English; точный размер исходной модели и максимальная длина контекста не указаны. Модель содержит MTP-слои (Multi-Token Prediction), которые могут использоваться в llama.cpp для self-speculative decoding и ускорения генерации с параметром --spec-type draft-mtp. Доступны варианты от BF16 размером 71,07 ГБ до более компактных квантизаций Q8_0, Q6, Q5, Q4 и Q3; рекомендуемые варианты различаются балансом между качеством и требованиями к памяти. Ограничения включают зависимость от совместимого программного обеспечения и возможную необходимость обновления llama.cpp или других приложений при поддержке новой архитектуры. Распространение указано по лицензии Apache-2.0. Квантизации рассчитаны на запуск через llama.cpp и совместимые приложения, включая LM Studio, KoboldCpp, Jan AI и Text Generation Web UI.

Apertus-8B-Instruct-2509 — диалоговая языковая модель Swiss AI Initiative, дообученная на базе Apertus-8B-2509. Это плотный decoder-only Transformer с 10,3 млрд параметров, предназначенный для генерации ответов, многоязычного диалога и использования инструментов. Модель поддерживает более 1800 языков и контекст до 65 536 токенов. Базовая модель обучалась с нуля на 15 трлн токенов из веб-данных, кода и математических материалов; постобучение включало supervised fine-tuning и выравнивание QRPO. Веса и материалы обучения открыты, разработчики заявляют о соблюдении согласия владельцев данных и прозрачности обучения. Для запуска подходят Transformers, vLLM и другие совместимые среды. Модель может быть полезна для ответов на вопросы, составления текстов и работы с длинным контекстом на разных языках. Генерации могут содержать фактические ошибки, нелогичность и предвзятость. Встроенного фильтра персональных данных нет, поэтому важную информацию следует проверять, а для фильтрации PII применять отдельный актуальный фильтр. Лицензия — Apache 2.0.

Bagel-DPO-20B-v04 — это дообученная с помощью Direct Preference Optimization (DPO) модель InternLM2-20B, опубликованная jondurbin. Она предназначена для диалогов и генерации текста: может отвечать на вопросы, следовать инструкциям, помогать с программированием и математикой, писать и пересказывать текст, а также работать с контекстом. В обучении использованы разнообразные наборы инструкций, диалогов и предпочтений, включая данные для вызова функций; карточка описывает форматирование запросов в стилях Vicuna, Llama 2, Alpaca и ChatML. Модель имеет плотную архитектуру InternLM2 с 19,3 млрд параметров и контекст до 32 768 токенов. Это текстовая модель; наборы обучения включают многоязычное понимание текста, но конкретный полный перечень поддерживаемых языков не заявлен. Лицензия указана как other, поэтому условия использования следует сверить с карточкой модели и базовой модели. Среди ограничений — результаты зависят от формата запроса, а README предупреждает, что недо-DPO версия может быть предпочтительнее для ролевых сценариев; в обучающие данные также входили токсичные и потенциально незаконные примеры.

FriendliAI публикует версию C4AI Command R+, квантизированную в FP8 для ускорения инференса при сохранении высокой точности. В основе — авторегрессионный трансформер CohereForAI примерно на 103,8 млрд параметров; модель принимает текст и генерирует текст. Для этой версии метаданные указывают контекст 8192 токена. Указанные в карточке базовой Command R+ 128K токенов к этой версии не относятся. Модель предназначена для диалогов, ответов на вопросы, суммаризации, RAG и многошагового использования инструментов. Она оптимизирована для английского, французского, немецкого, испанского, итальянского, португальского, японского, корейского, китайского и арабского языков; русский входил в дополнительные языки предобучения. Для работы с FP8 нужны GPU NVIDIA Ada, Hopper или Blackwell; README описывает запуск через Friendli Container. Лицензия — CC-BY-NC-4.0, с ограничениями на коммерческое использование.

cyankiwi/diffusiongemma-26B-A4B-it-AWQ-INT4 — квантованная версия DiffusionGemma на базе google/diffusiongemma-26B-A4B-it, разработанной Google DeepMind. Это мультимодальная модель с открытыми весами, которая принимает текст, изображения и видео, а генерирует текст. Представленная версия использует квантование AWQ INT4 и занимает около 17,23 ГБ. Модель предназначена для генерации текста, рассуждений, диалоговых сценариев, обработки мультимодальных запросов и задач, связанных с STEM и агентными системами. Она применяет дискретную диффузию: вместо последовательной генерации токенов модель итеративно восстанавливает блоки токенов, что может повышать скорость вывода. Архитектура включает encoder-decoder с двунаправленным вниманием в декодере и разреженную Mixture-of-Experts-конфигурацию: 25,2 млрд параметров всего, 3,8 млрд активных параметров, 30 слоёв и 8 активных экспертов из 128. Заявлены контекст до 256 тысяч токенов, окно скользящего внимания 1024 токена и длина генерируемого блока 256 токенов. Поддерживаются английский, китайский, хинди, арабский, русский, японский, корейский, нидерландский, французский и испанский языки. Модель оптимизирована для инференса с небольшим размером пакета и низкой задержкой, преимущественно на одном производительном ускорителе; режим рассуждений и системные промпты поддерживаются. Ограничение развертывания — отсутствие поддержки внутримодельного тензорного и конвейерного распараллеливания; для нескольких GPU рекомендуется репликация через data parallelism. Лицензия — Apache 2.0.

FuseChat-7B-Slerp — диалоговая языковая модель FuseAI, разработанная на основе исследовательской работы команды Sun Yat-sen University по объединению знаний чат-моделей. Это плотная авторегрессионная модель архитектуры Mistral с 7,1 млрд параметров и контекстом до 8192 токенов. Вариант SLERP объединяет модели в пространстве параметров; в README FuseChat описана стратегия «сначала слияние знаний, затем объединение», предназначенная для интеграции сильных сторон нескольких моделей в одну. Модель рассчитана на диалог, ответы на вопросы и выполнение текстовых инструкций на английском языке, включая задачи письма, ролевого общения, рассуждений, математики, программирования, естественных наук и гуманитарных дисциплин. README сообщает среднюю оценку 8,19 на MT-Bench для FuseChat-7B-SLERP. Модель принимает текст и генерирует текст; изображения, аудио и другие модальности не заявлены. В метаданных базовой моделью указана openchat/openchat_3.5, а README описывает семейство FuseChat как результат слияния нескольких чат-моделей. Репозиторий распространяет веса в формате safetensors по лицензии Apache-2.0. Результаты бенчмарков не гарантируют качество на конкретных пользовательских задачах; модель может ошибаться, а заявленная поддержка языков ограничена английским.

GDN-primed-HQwen3-32B-Instruct — гибридная языковая модель, разработанная командой Hybrid Model Factory на основе Qwen3-32B с помощью конвейера Priming. Это инструкционно настроенная причинная языковая модель с 64 слоями: 32 слоя Attention и 32 слоя Gated DeltaNet (GDN), разновидности модели пространства состояний. Веса представлены в формате safetensors, заявленный размер — 29,7 млрд параметров, контекст — до 131 072 токенов. Модель принимает текст и генерирует текст; карточка указывает поддержку диалога и выполнения инструкций. Модель предназначена для диалога, ответов на вопросы, следования инструкциям, задач по математике, знаниям, программированию и рассуждению, в том числе при работе с длинным контекстом. По данным разработчика, гибридная архитектура сокращает нагрузку на KV-кэш и может ускорять генерацию на длинных контекстах, сохраняя близкое к базовой модели качество; в опубликованных оценках отставание от Transformer-базовой модели составляет около 2,5–3 пунктов на длинных контекстных задачах и около 1–1,5 пункта в среднем на коротких задачах. Эти результаты зависят от сценария и условий запуска. Модель не является reasoning-чекпойнтом и не поддерживает вызов инструментов. Доступна по лицензии Apache 2.0.

bartowski/granite-3.0-3b-a800m-instruct-GGUF — набор квантизированных версий инструкционной языковой модели granite-3.0-3b-a800m-instruct, разработанной IBM Granite и преобразованной в формат GGUF пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста и выполнения инструкций, включая ответы на вопросы, рассуждения, решение математических задач, работу с кодом и мультиязычные сценарии. Доступны веса в форматах от F16 до Q4, включая варианты Q8_0, Q6_K, Q5_K и Q4_K; размер файлов составляет примерно от 1,93 до 6,75 ГБ. Для запуска рекомендуется использовать llama.cpp или LM Studio. В README приведены результаты на IFEval, AGI-Eval, OBQA, BoolQ, ARC-C, HumanEvalSynthesis, GSM8K и PAWS-X, однако подробные характеристики архитектуры, максимального контекста, поддерживаемых языков и модальностей не указаны. К сильным сторонам относятся выбор степеней квантизации, возможность локального запуска и сохранение высокого качества в вариантах Q5 и Q6. Более компактные варианты требуют меньше памяти, но могут сильнее терять качество. Модель предназначена для текстовых задач и не заявлена как мультимодальная. Лицензия — Apache-2.0.

parasail-ai/GritLM-7B-vllm — копия модели GritLM 7B от ContextualAI, в которой изменено имя архитектуры в конфигурации для упрощения использования с vLLM. GritLM — инструкционно дообученная языковая модель на архитектуре Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель объединяет генерацию текста и получение текстовых представлений (эмбеддингов), поэтому подходит для диалогов, генерации ответов и задач семантического поиска или классификации текста. В метаданных указаны теги для разговорного использования и датасет GritLM/tulu2. Репозиторий содержит веса PyTorch в формате safetensors и распространяется по лицензии Apache 2.0.

HyperNova-60B-2602-GGUF — GGUF-версия модели HyperNova 60B 2602 от Multiverse Computing. Модель создана на основе openai/gpt-oss-120b и сжата технологией CompactifAI: в ней 60 млрд параметров вместо 117 млрд у базовой модели, что снижает требования к памяти. Это instruction-tuned языковая модель с архитектурой MoE, предназначенная для генерации текста, рассуждений и задач разработчика. Модель поддерживает диалог, вызов инструментов по схемам в стиле OpenAI и структурированный вывод. Её можно применять для генерации и анализа кода, чат-ботов, RAG-систем и агентных сценариев, где модель вызывает внешние инструменты. В README рекомендуют формат сообщений Harmony, используемый базовой моделью. Основной язык — английский; другие языки формально не оценивались, и качество на них может различаться. Сжатие может влиять на отдельные способности, а вызов инструментов зависит от корректных схем и настройки инструментов; поведение не гарантирует полного совпадения с базовой моделью. Лицензия — Apache-2.0.

InternLM2.5-20B-Chat — диалоговая языковая модель семейства InternLM2, разработанная командой InternLM. Это плотная авторегрессионная модель с 19,3 млрд параметров и контекстом до 32 768 токенов, предназначенная для практических сценариев общения и выполнения инструкций. Модель принимает текст и генерирует текст; карточка описывает её возможности диалогового взаимодействия и сообщает об улучшенном выборе инструментов, многошаговых вызовах и анализе полученных результатов. Модель подходит для математических рассуждений, ответов на вопросы и построения диалоговых систем и агентов, использующих инструменты. В README приведены результаты OpenCompass, включая сильные показатели на CMMLU и BBH; они зависят от конфигурации и версии оценки. Весам доступен формат safetensors, а для коммерческого использования требуется бесплатное разрешение; код репозитория выпущен под Apache-2.0. Модель может выдавать предвзятые, дискриминационные или иные вредоносные и неожиданные ответы. Результаты генерации требуют проверки, особенно при использовании в приложениях с последствиями для пользователей.

Saxo/Linkbricks-Horizon-AI-Avengers-V2-32B — многоязычная языковая модель Linkbricks, дообученная на базе Saxo/Linkbricks-Horizon-AI-Avengers-V1-32B методами SFT и предпочтительной оптимизации. Это плотная авторегрессионная модель семейства Qwen2 с 32 млрд параметров и контекстом до 32 768 токенов; веса доступны в формате Safetensors, библиотека — Transformers. Модель предназначена для диалога и генерации текста, перевода между корейским, японским, китайским и английским языками, суммаризации, анализа отзывов и публикаций в соцсетях, написания текстов и кода, а также решения математических и логических задач. В карточке заявлена поддержка вызова функций и инструментов. Обучение включало многоязычные новостные и вики-корпуса, а также данные по задачам; токенизатор оставлен от базовой модели. Модель ориентирована прежде всего на корейский и другие восточноазиатские языки вместе с английским. Качество может различаться между языками и типами задач; описание не приводит количественных результатов оценки. Лицензия — Apache-2.0.

Это преобразованная в формат MLX версия Meta-Llama-3.1-8B-Instruct, подготовленная сообществом mlx-community на основе модели Meta. Она предназначена для генерации текста в диалоге, ответов на вопросы и выполнения инструкций; также поддерживает интерфейс вызова инструментов. Модель с плотной архитектурой LlamaForCausalLM содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. В README указано преобразование с помощью mlx-lm версии 0.19.0; репозиторий содержит веса в формате safetensors с точностью bf16. В карточке перечислена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Лицензия — llama3.1; условия её использования определяются лицензией Meta Llama 3.1.

TheBloke/Mistral-7B-Instruct-v0.2-GPTQ — это GPTQ-квантизированная версия языковой модели Mistral 7B Instruct v0.2, разработанной Mistral AI и подготовленной к распространению TheBloke. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и прикладных сценариях, включая работу через text-generation-webui, KoboldAI, LoLLMS Web UI и Hugging Face Text Generation Inference. Модель относится к семейству Mistral, содержит около 7 млрд параметров и работает с текстом. В репозитории представлены варианты квантования с разными параметрами; основной вариант использует 4-битное GPTQ-квантование, group size 128, Act Order и занимает около 4,16 ГБ. Для запросов рекомендуется шаблон «<s>[INST] {prompt} [/INST]». Квантование снижает требования к видеопамяти и облегчает локальный запуск, но может немного уменьшать точность по сравнению с исходной моделью и ограничивает совместимость средой выполнения. Указана поддержка Linux с GPU NVIDIA или AMD и Windows с GPU NVIDIA; для macOS рекомендуются версии GGUF. Лицензия — Apache 2.0.

Muse-Glimmer-30B-GGUF — набор GGUF-сборок модели Muse Glimmer 30B, разработанной Meta и опубликованной AtomicChat в формате, совместимом с llama.cpp. Модель предназначена для генерации текста, мультимодального анализа изображений, диалоговых сценариев, работы с инструментами, а также задач программирования, написания текстов и рассуждений. Указан pipeline image-text-to-text, однако точная архитектура, поддерживаемые языки и максимальный контекст модели в README не раскрыты. Доступны варианты квантования от Q8_0 и BF16 до IQ2_XXS объёмом примерно от 9,3 до 55,7 ГБ. Для работы с изображениями требуется отдельный vision-проектор mmproj размером около 3,9 ГБ, а для ускоренной генерации можно подключить drafter dflash, добавляющий около 5,5 ГБ к требованиям по памяти. Рекомендуемая сборка AD-IQ4_XS рассчитана примерно на 24 ГБ видеопамяти вместе с vision-проектором и обеспечивает компромисс между размером и качеством; на RTX 5090 заявлена скорость до 39,6 токена в секунду без drafter и до 71,8 с ним. Сильные стороны модели — мультимодальность, поддержка tool calling, несколько вариантов квантования и возможность запуска на одной потребительской видеокарте. Качество снижается по мере уменьшения разрядности, особенно на низких вариантах IQ; speculative decoding требует дополнительной памяти и снижает скорость обработки промпта. Для запуска нужен llama.cpp, собранный из актуальной ветки master с поддержкой Muse Glimmer, а также параметр --jinja для корректной работы шаблона чата и разбора вызовов инструментов. Лицензия — Apache 2.0.

NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 — языковая модель NVIDIA для чата, рассуждений и генерации текста. Это эталонные веса BF16 модели с гибридной архитектурой Mixture-of-Experts: слои Mamba-2 чередуются со слоями MoE и отдельными слоями Attention. Всего модель содержит 30 млрд параметров, из которых активно задействуются 3 млрд; также используются слои Multi-Token Prediction. Модель предназначена прежде всего для дообучения, адаптации к предметным областям и задачам, оценки и создания производных квантованных вариантов. Её можно применять как основу для чат-ботов, систем RAG и агентных приложений; карточка рекомендует для прямого развёртывания оптимизированный релиз NVFP4. В карточке заявлен контекст до 1 млн токенов, при этом на одной H100 80 ГБ BF16 проверен до 256 тыс. токенов из-за ограничений памяти. Основной язык — английский; также поддерживаются испанский, французский, немецкий, итальянский, японский и китайский. В метаданных указано 1,9 млрд параметров, что расходится с README, где заявлены 30 млрд всего и 3 млрд активных. Метаданные указывают лицензию other, а README сообщает о готовности к коммерческому использованию; конкретные условия лицензии следует сверять с файлами репозитория.

LIF1014/ptdbench-Llama-3.2-1B-Instruct — текстовая инструктивная модель семейства Llama 3.2, разработанного Meta. Это авторегрессионный трансформер с плотной архитектурой LlamaForCausalLM и примерно 1,2 млрд параметров; модель предназначена для диалогов с ассистентом, генерации текста и сценариев с агентным поиском и суммаризацией. Поддерживает текст на входе и выдаёт текст, включая код. Контекстное окно — 131 072 токена. Модель работает с английским, немецким, французским, итальянским, португальским, хинди, испанским и тайским языками. Небольшой размер подходит для развёртывания в средах с ограниченными ресурсами, в том числе на мобильных устройствах. Знания модели ограничены данными обучения со срезом до декабря 2023 года; качество и безопасность могут уступать более крупным моделям, поэтому ответы следует проверять в критичных сценариях. Использование регулируется пользовательской лицензией Llama 3.2 Community License и связанными условиями Meta.

FastFlowLM/Qwen3-0.6B-NPU2 — языковая модель семейства Qwen3, разработанная командой Qwen; в README она указана как производная от базовой модели Qwen/Qwen3-0.6B. Это причинная языковая модель для генерации и продолжения текста, диалогов, следования инструкциям, решения математических и логических задач, генерации кода, творческого письма, перевода и сценариев с использованием внешних инструментов. Модель поддерживает переключение между режимами рассуждения и обычного ответа в рамках одного запроса. Модель содержит 0,6 млрд параметров, из которых 0,44 млрд не относятся к embedding, и включает 28 слоёв. Используется Grouped Query Attention с 16 головами для Q и 8 для KV. Максимальная длина контекста составляет 32 768 токенов. В README заявлена поддержка более 100 языков и диалектов, однако для данной карточки явно указан язык English. Модель относится к текстовой модальности; сведения о поддержке изображений, аудио или видео отсутствуют. Сильными сторонами являются компактный размер, возможность выбора между более глубоким рассуждением и эффективной генерацией, а также ориентация на диалоги, инструкции, мультиязычные задачи и работу в агентных сценариях. Ограничения включают небольшой объём параметров по сравнению с крупными моделями и отсутствие в README подробных результатов бенчмарков, требований к оборудованию и специфических характеристик варианта NPU2. Для использования рекомендуется актуальная версия библиотеки Transformers; также указана совместимость с vLLM и SGLang. Лицензия — Apache-2.0.

YOYO-AI/Qwen3-30B-A3B-YOYO-Thinking-Chimera — объединённая модель Qwen3, созданная YOYO-AI методом «сшивания» компонентов двух вариантов Qwen3-30B-A3B: Instruct-2507 и Thinking-2507. Веса экспертов маршрутизации и внимания взяты из Thinking, остальные компоненты — из Instruct. Модель предназначена для диалогов, выполнения инструкций и генерации текста с рассуждениями; метаданные также указывают интерфейс вызова инструментов. Архитектура — MoE с классом Qwen3MoeForCausalLM. В метаданных указано 2,6 млрд параметров, формат хранения — safetensors; README сообщает о точности bfloat16 и контексте до 262 144 токенов, а также упоминает вариант длины 1 010 000 токенов без пояснения его условий. Языки карточки — английский и китайский. Модель распространяется по лицензии Apache-2.0.