I.11Классификация, ранжирование и сопоставление

SG-Raccoon-Yi-55B-200k — авторегрессионная языковая модель на архитектуре Llama, собранная путём слияния двух дообученных моделей Yi 34B: Tess-M-v1.3 и Nous-Capybara-34B. Модель содержит 55,1 млрд параметров и поддерживает контекст до 200 000 токенов; файлы опубликованы в формате safetensors. Разработчик указывает, что это первая объединённая модель такого размера с контекстом 200K. Модель предназначена для генерации текста и диалогового общения. Для подачи запросов README предлагает формат с ролями SYSTEM, USER и ASSISTANT. Автор отмечает, что для Yi может потребоваться отключить BOS-токен или снизить температуру с MinP, а иногда добавить токен остановки в список условий завершения генерации. Лицензия в метаданных обозначена как other, поэтому конкретные условия использования по имеющимся данным определить нельзя. В README результаты бенчмарков не приведены.

SepKeyPro/SuperQwen2-7B-Chat — объединённая разговорная языковая модель на базе семейства Qwen2, созданная с помощью Mergekit. В состав слияния вошли Qwen/Qwen2-7B-Instruct, natong19/Qwen2-7B-Instruct-abliterated и cognitivecomputations/dolphin-2.9.2-qwen2-7b; метод слияния — model_stock, формат весов — bfloat16 в safetensors. Модель содержит 7,1 млрд параметров, имеет плотную архитектуру Qwen2ForCausalLM и контекст до 32 768 токенов. Она предназначена для диалогов и генерации текста. В карточке не описаны поддерживаемые языки и специальные предметные области. Условия лицензии в предоставленных данных не приведены.

Yuren-13B — языковая модель Pleisto на архитектуре Llama 2 с 12,9 млрд параметров, полученная продолжительным обучением Llama 2 13B. Она предназначена для задач синтеза информации: многоязычного извлечения сведений, преобразования запросов на естественном языке в SQL, генерации текста и выдачи структурированных данных. В карточке приведены примеры генерации SQL и извлечения полей резюме в JSON. Модель принимает текст и генерирует текст; заявленный контекст — 4096 токенов. Основной акцент сделан на китайском и английском языках. Разработчик заявляет высокие результаты в сценариях синтеза данных при сопоставимом размере модели. Весовые файлы представлены в форматах PyTorch и Safetensors. Лицензия указана как Llama 2; перед использованием следует проверить применимые условия этой лицензии. Разработчик рекомендует применять модель для внутренней обработки данных организаций и контролировать входы и выходы, поскольку ответы могут содержать ошибки или создавать риски при использовании без проверки.

zephyr-7b-beta-Mistral-7B-Instruct-v0.1 — чат-модель на архитектуре Mistral, созданная MaziyarPanahi слиянием mistralai/Mistral-7B-Instruct-v0.1 и HuggingFaceH4/zephyr-7b-beta методом SLERP. Веса имеют около 7,1 млрд параметров, формат репозитория — safetensors, нативная длина контекста — 32 768 токенов. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Её можно использовать для чат-ботов, черновиков текстов, ответов на вопросы и кратких сводок. В README также перечислены отдельные варианты модели в форматах GPTQ и GGUF с разными уровнями квантизации для запуска на GPU или CPU и GPU. В метаданных указан английский язык. Качество ответов и фактическая точность могут различаться; для надёжных результатов требуется проверка человеком. Лицензия — Apache-2.0.

agiin-13.6B-v0.1-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная объединением моделей mistralai/Mistral-7B-Instruct-v0.2 и mncai/agiin-13.6B-v0.1 методом SLERP. В каталоге указаны архитектура MistralForCausalLM, 7,1 млрд параметров и контекст до 32 768 токенов; модель распространяется в формате safetensors и поддерживает диалоговый режим. Модель предназначена для генерации текста и ответов на инструкции в чат-сценариях. В README описана настройка слияния слоёв внимания и MLP, а базовая модель определена как mistralai/Mistral-7B-Instruct-v0.2. Лицензия Apache-2.0. Данные о специальных доменах и языках применения в карточке не приведены.

bartowski/baidu_ERNIE-4.5-21B-A3B-PT-GGUF — это GGUF-квантизация модели ERNIE-4.5-21B-A3B-PT, разработанной Baidu. Квантизации подготовлены bartowski с использованием llama.cpp b5924 и метода imatrix. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты от исходных весов BF16 размером 43,66 ГБ до компактных IQ3 и Q3 объёмом около 9,35–10,73 ГБ, а также распространённые форматы Q4, Q5, Q6 и Q8. Варианты Q4–Q6 обеспечивают хороший или очень высокий уровень качества при меньших требованиях к памяти; Q4_K_M обозначен как стандартный вариант для большинства сценариев, а Q6_K_L и Q6_K — как варианты, близкие к максимальному качеству. Некоторые форматы оптимизированы для CPU, ARM или Apple Silicon. В README не указаны контекстное окно, поддерживаемые языки, модальности, точная архитектура и рекомендуемый формат промпта. Лицензия также не указана, поэтому условия использования следует уточнять на странице исходной модели Baidu. Ключевое ограничение — необходимость подобрать вариант квантизации с учётом доступной оперативной или видеопамяти и допустимой потери качества.

Bonsai-8B-GGUF-1bit — языковая модель, разработанная Prism ML и распространяемая в формате GGUF для llama.cpp. Она предназначена для генерации текста, локального запуска чат-ассистентов и интеграции в приложения на устройствах с GPU или CPU, включая системы на CUDA, Apple Metal и Android. Модель может использоваться через специализированную сборку llama.cpp с 1-битными ядрами; также доступна отдельная версия для MLX. Модель основана на плотной архитектуре Qwen3-8B и содержит 8,19 млрд параметров, из которых около 6,95 млрд не относятся к embedding-слоям. В ней 36 decoder-блоков Transformer, GQA с 32 query- и 8 KV-головами, SwiGLU, RoPE и RMSNorm. Длина контекста составляет 65 536 токенов, размер словаря — 151 936 токенов. Все основные веса, включая embeddings, attention- и MLP-проекции, а также LM head, представлены в формате Q1_0 с эффективными 1,125 битами на вес. Ключевое преимущество — компактность и энергоэффективность: память параметров занимает около 1,15 ГБ против 16,38 ГБ у FP16, что примерно в 14 раз меньше; заявлено также ускорение до 6,2 раза на RTX 4090 и снижение энергопотребления на токен в 4–5 раз. Ограничения связаны с экстремальным 1-битным квантованием, которое может влиять на качество по сравнению с полной точностью, а для запуска требуются совместимые 1-битные ядра и сборка llama.cpp от Prism ML. Модель распространяется по лицензии Apache 2.0.

Breeze-7B-Instruct-v0_1 — диалоговая языковая модель MediaTek Research, построенная на архитектуре Mistral и дообученная на базе MediaTek-Research/Breeze-7B-Base-v0_1. Модель содержит 7,2 млрд параметров и предназначена прежде всего для традиционного китайского языка, также поддерживает английский. В версии v0.1 словарь расширен до 62 тысяч токенов для лучшей работы с традиционным китайским; метаданные указывают контекст до 32 768 токенов. Модель рассчитана на использование без дополнительной настройки в типовых сценариях: ответы на вопросы, многошаговый диалог, суммаризация и генерация текста. Её можно применять для ответов по документам в системах RAG. Разработчики сообщают о хороших результатах в бенчмарках на традиционном китайском и английском по сравнению с моделями похожего размера. README отмечает, что для диалога нет специальной обработки вредоносных запросов, поэтому модель может отвечать на них без защитных механизмов. Лицензия — Apache-2.0. Описанная в карточке версия v0.1 не является текущим выпуском Breeze-7B: README указывает на v1.0 как более позднюю версию.

OpenThai Chinda 4B — языковая модель iApp Technology, дообученная на базе Qwen3-4B для работы прежде всего с тайским языком. Она построена на плотной архитектуре Qwen3ForCausalLM и содержит около 3,7 млрд параметров. Модель поддерживает диалог и переключение между режимами рассуждения и обычной генерации; заявленное нативное окно контекста — 40 960 токенов по метаданным, а README рекомендует держать контекст в пределах 32 768 токенов для оптимальной работы и описывает расширение до 131 072 токенов с YaRN. Модель предназначена для тайскоязычных чат-ботов и RAG-систем, математических задач, генерации кода и локального запуска на пользовательских устройствах. README заявляет точность генерации на тайском 98,4% и высокие результаты в приведённых бенчмарках, но эти показатели представлены разработчиком и зависят от методики оценки. Для фактических вопросов без контекста модель может галлюцинировать; для таких сценариев рекомендуется предоставлять источники или использовать RAG. Модель выпущена по лицензии Apache 2.0, разрешающей коммерческое и частное использование, модификацию и распространение.

bartowski/deepcogito_cogito-v1-preview-llama-8B-GGUF — это GGUF-квантизированная версия языковой модели cogito-v1-preview-llama-8B, разработанной deepcogito. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Модель содержит 8 миллиардов параметров и распространяется в формате GGUF с вариантами точности от BF16 до различных Q- и IQ-квантизаций. Доступны файлы размером примерно от 3,8 до 16,1 ГБ; варианты Q6_K и Q6_K_L обозначены как обеспечивающие качество, близкое к исходному, а Q4_K_M рекомендован как стандартный компромисс между качеством и размером. Для работы предусмотрен формат prompt с системными и пользовательскими сообщениями в стиле Llama 3.1. Сильными сторонами являются широкий выбор квантизаций, возможность локального запуска и снижение требований к памяти по сравнению с полноразмерными весами. Более компактные варианты экономят оперативную память, но могут уступать по качеству менее сжатым версиям; конкретные поддерживаемые языки, размер контекста, мультимодальные возможности и результаты бенчмарков в README не указаны. Лицензия обозначена как llama3.1.

Deepseek-LLM-7B-Chat-GGUF — чат-модель Deepseek LLM 7B Chat, разработанная DeepSeek и представленная в формате GGUF. Репозиторий содержит квантизированные варианты модели, подготовленные Second State Inc., с разрядностью от 2 до 8 бит и размером файлов примерно от 2,72 до 7,35 ГБ. Модель предназначена для диалогового взаимодействия и может запускаться локально через LlamaEdge версии 0.2.8 или новее. Заявленный размер контекста составляет 4096 токенов. Доступны варианты с различным компромиссом между размером файла и качеством: Q2_K и варианты Q3 обеспечивают минимальные требования к ресурсам, но сопровождаются существенной потерей качества, тогда как Q4_K_M, Q5_K_M и Q5_K_S отмечены как рекомендуемые сбалансированные варианты. Модель работает с текстовыми запросами по шаблону deepseek-chat; сведения о поддерживаемых языках, точной архитектуре и результатах оценивания в README не приведены. Лицензия указана как deepseek, тип — other; применяются условия, описанные в файле LICENSE.

DeepSeek-R1-ReDistill-Qwen-7B-v1.1-GGUF — набор GGUF-квантизованных версий модели mobiuslabsgmbh/DeepSeek-R1-ReDistill-Qwen-7B-v1.1, опубликованный ThomasBaruzier. Базовая модель — deepseek-ai/DeepSeek-R1-Distill-Qwen-7B. Квантизация выполнена с помощью llama.cpp с использованием imatrix и калибровочного файла Bartowski. Модель предназначена для локального запуска задач генерации текста и диалогового применения через совместимое с GGUF программное обеспечение, включая llama.cpp. Доступны варианты квантизации от IQ1_S и IQ1_M до более точных Q4, Q5 и других форматов; размер файлов в представленной таблице составляет примерно от 1,8 до 5,1 ГБ. Для отдельных вариантов указаны значения perplexity и accuracy: более крупные и точные квантизации обычно обеспечивают лучшее качество при повышенных требованиях к памяти. Ключевые характеристики архитектуры, поддерживаемые языки, максимальная длина контекста и мультимодальные возможности в README не указаны. Основные преимущества — широкий выбор компромиссов между размером, потреблением ресурсов и качеством, а также формат GGUF для локального инференса. Ограничения связаны с потерями качества при агрессивной квантизации и зависимостью от совместимого рантайма; приведённые метрики относятся к тестированию конкретных квантов и не гарантируют качество в любых сценариях. Распространение указано по лицензии MIT.

DeepSeek-VL-7B-Chat — мультимодальная модель понимания изображений и текста, разработанная командой DeepSeek. Это версия с инструкционным дообучением на основе DeepSeek-VL-7B-Base; базовая модель использует языковую основу DeepSeek-LLM-7B-Base и гибридный визуальный энкодер SigLIP-L и SAM-B. Модель принимает изображения размером до 1024 × 1024 вместе с текстовыми запросами и формирует текстовые ответы. Модель предназначена для диалога по изображениям и решения задач визуально-языкового понимания: анализа логических диаграмм и веб-страниц, распознавания формул, чтения научной литературы, описания естественных изображений и понимания сложных сценариев. Веса опубликованы в формате safetensors. В метаданных указана лицензия other; конкретные условия использования следует проверять в репозитории модели.

Dolphin3.0-Qwen2.5-1.5B-GGUF — это GGUF-квантизированная версия текстовой генеративной модели Dolphin3.0-Qwen2.5-1.5B, опубликованная и квантизированная bartowski на основе модели cognitivecomputations. Модель основана на Qwen2.5-1.5B и предназначена для локального запуска через llama.cpp и совместимые приложения, включая LM Studio. Модель ориентирована на генерацию текста, выполнение инструкций, программирование, математические задачи, работу с function calling и агентскими сценариями. В README указаны английский язык и размер базовой модели 1,5 млрд параметров; сведения о длине контекста, точной архитектуре и других модальностях не приведены. Доступны варианты от F32 и F16 до квантизаций Q8, Q6, Q5, Q4 и Q3 с размерами примерно от 0,78 до 6,18 ГБ. Для большинства сценариев рекомендуются варианты Q4–Q6, обеспечивающие баланс качества и требований к памяти. Сильными сторонами являются компактный размер, возможность автономного запуска на локальном оборудовании и широкий выбор уровней квантизации. Более низкие варианты экономят память, но снижают качество; некоторые форматы являются устаревшими. Для корректного взаимодействия следует использовать шаблон prompt в формате ChatML, указанный в README. Модель распространяется по лицензии Apache-2.0.

Dolphin-Mistral-24B-Venice-Edition-heretic — диалоговая модель общего назначения, созданная на основе Mistral Small 24B Instruct 2501 и дообученная в рамках проекта Dolphin совместно с Venice.ai. Она предназначена для генерации ответов и выполнения инструкций в чат-сценариях; владелец системы задаёт системный промпт и самостоятельно настраивает стиль и правила поведения модели. Модель использует плотную архитектуру Mistral3 и содержит около 24 млрд параметров; доступна в формате safetensors и рассчитана на работу через Transformers или vLLM. В README описана как uncensored-версия для экосистемы Venice; указаны измерения KL-дивергенции и частоты отказов, но они не дают полной оценки качества. Лицензия — Apache-2.0. В README нет сведений о длине контекста и поддерживаемых языках, поэтому они здесь не уточняются. Снижение отказов не означает гарантированного отсутствия отказов или безопасного поведения: модель следует настраивать системным промптом и проверять на целевых сценариях.

Eagle2-1B — компактная мультимодальная модель Vision-Language от NVIDIA для сценариев, где важны быстрый вывод и умеренные вычислительные ресурсы. Она построена на архитектуре Eagle 2.5 VL и объединяет языковую основу Qwen2.5-0.5B-Instruct с компонентами PaliGemma и SigLIP; модель распространяется в формате safetensors и рассчитана на контекст до 16 тысяч токенов. Модель принимает текст, изображения и видео и формирует текстовые ответы. Она подходит для диалога по изображениям и видео, ответов на вопросы по документам, графикам и визуальным данным. В README приведены результаты на DocVQA, ChartQA и InfoVQA; они показывают применимость к анализу документов и диаграмм, но сами по себе не гарантируют качество в конкретном сценарии. Карточка указывает поддержку нескольких языков, не перечисляя их по отдельности. Модель доступна по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Как и другие VLM, она может ошибаться при распознавании визуальных деталей и интерпретации материалов; перед применением в значимых процессах ответы следует проверять.

FineLlama-3.1-8B-fiftycore-V1 — языковая модель компании fiftycore, созданная дообучением unsloth/Meta-Llama-3.1-8B-Instruct-bnb-4bit с помощью Unsloth и библиотеки Hugging Face TRL. Модель семейства Llama с плотной архитектурой LlamaForCausalLM содержит 7,5 млрд параметров и предназначена для генерации текста и диалогового взаимодействия; также заявлен интерфейс вызова инструментов. Модель принимает текст и генерирует текст. Для неё указано контекстное окно до 131 072 токенов, а среди языковых меток карточки указан английский. Репозиторий содержит веса PyTorch. Лицензия — Apache-2.0.

FuseChat-Gemma-2-9B-Instruct-GGUF — это набор GGUF-квантизаций инструкционной языковой модели FuseChat-Gemma-2-9B-Instruct, разработанной FuseAI и опубликованной в формате GGUF пользователем bartowski. Квантизации созданы с помощью llama.cpp версии b4273 и метода imatrix, предназначены для локального запуска и совместимы, в частности, с LM Studio. Модель относится к текстовым генеративным моделям и предназначена для диалогов, следования инструкциям и других сценариев генерации текста. Указан размер базовой модели — 9 миллиардов параметров; поддерживаемые модальности, языки и размер контекста в README не описаны. Для работы используется специальный шаблон промпта с маркерами Gemma для ролей пользователя и модели. Доступны варианты от F32 и F16 до квантизаций Q8, Q6, Q5, Q4 и Q3, а также IQ-форматы, что позволяет выбирать между качеством, размером файла и требованиями к памяти. В README рекомендуются, среди прочих, Q6_K_L, Q6_K, Q5 и Q4 варианты; некоторые сборки оптимизированы для ARM или AVX, а отдельные требуют аппаратной поддержки i8mm или sve и не предназначены для Mac. Более компактные варианты экономят память, но могут снижать качество генерации. Лицензия в предоставленных данных не указана.

p-e-w выпустил gemma-3-12b-it-heretic — разговорную мультимодальную модель на архитектуре Gemma 3, созданную дообучением google/gemma-3-12b-pt. Она принимает текст и изображения и генерирует текст; карточка описывает сценарии общения, ответов на вопросы по изображениям, суммаризации и генерации текстов. В метаданных указаны 12 млрд параметров для базовой модели, формат safetensors и библиотека Transformers. README семейства Gemma 3 сообщает о контекстном окне до 128 тыс. токенов и поддержке более 140 языков; эти характеристики приведены для семейства, а не подтверждены отдельно для данного чекпойнта. Метка heretic и теги uncensored, decensored и abliterated указывают на изменение поведения модели в сторону снятия ограничений, однако README не описывает процедуру такого изменения. Лицензия указана как gemma. Модель может выдавать неверные или устаревшие сведения, отражать смещения обучающих данных и ошибаться при сложных запросах или тонких языковых нюансах; при использовании следует учитывать риск генерации вредного содержания.

Google Gemma 3 4B IT QAT Q4_0 Unquantized — мультимодальная модель для диалогов с текстом и изображениями, основанная на Gemma 3 4B IT. Несмотря на обозначение QAT Q4_0 в названии, метаданные указывают формат файлов safetensors; отдельная квантизация в них не подтверждена. Модель принимает текст и изображения и генерирует текст, поддерживает чат и предназначена для ответов на вопросы по изображениям, суммаризации и другим задачам генерации и понимания текста. В README семейство Gemma 3 описано как компактное, подходящее для локального запуска на ноутбуках и настольных компьютерах. Для семейства заявлены контекст до 128 тысяч токенов и поддержка более 140 языков; README не уточняет, подтверждены ли эти характеристики именно для данной сборки. Лицензия — Gemma. Возможны фактические ошибки, предвзятые ответы и трудности с неоднозначными формулировками и сложными задачами; для развёртывания следует учитывать эти ограничения и проверять результаты.

Мультимодальная модель carbonteq на архитектуре Gemma 4 E4B, дообученная на базе unsloth/gemma-4-E4B-it. Репозиторий содержит веса в формате Safetensors; модель предназначена для диалогового взаимодействия и генерации ответов на текстовые запросы с учётом изображений. Модель подходит для вопросов по изображениям и документам, а также для других сценариев общения с визуальным вводом. Карточка указывает, что обучение проводилось с использованием Unsloth и библиотеки Hugging Face TRL. Лицензия — Apache-2.0.

Hermes-3-Llama-3.1-8B — языковая модель семейства Llama, опубликованная под идентификатором Unsloth на Hugging Face. Она предназначена для генерации текста и диалогового взаимодействия и может использоваться через библиотеку Transformers.

IvmeLabs/Ivme-Conversate-N-v2-Instruct — компактная инструктивная языковая модель от IvmeLabs с 9 021 600 параметрами. Это плотный decoder-only Transformer с tied embeddings, multi-head attention, RoPE, SwiGLU и RMSNorm; архитектура повторяет рецепт базовой модели Ivme-Conversate-v2-Base без заявленной архитектурной новизны. Модель обучалась за одну эпоху примерно на 900 млн токенов, с упором на инструкции и диалоги с самого начала обучения. В набор данных вошли многоходовые диалоги UltraChat-200k, SODA, трассы рассуждений UltraInteract, математические задачи Orca Math, инструкции Dolly-15k и примеры SQL. Она предназначена для генерации ответов в диалоге и выполнения текстовых инструкций, включая рассуждения, математические задачи и составление SQL. Карточка указывает английский язык, библиотеку Transformers и лицензию Apache-2.0. Для загрузки в Transformers README требует trust_remote_code=True.

Jan-v1-4B — разговорная языковая модель семейства Jan от Jan, предназначенная для агентного рассуждения, решения задач и интеграции с приложением Jan. Она основана на Qwen3-4B-Thinking-2507 и дообучена для улучшения рассуждений и работы с инструментами. Модель имеет плотную архитектуру Qwen3ForCausalLM и 3,7 млрд параметров. Она генерирует текст, поддерживает диалог и рассчитана на контекст до 262 144 токенов. В карточке заявлен результат 91,1% на SimpleQA; он зависит от условий оценки и шаблона диалога. Для воспроизведения результата README рекомендует использовать встроенный системный промпт в chat template; также доступен вариант шаблона без него. Модель можно запускать локально через vLLM и интегрировать в Jan App; README описывает поддержку выбора инструментов и парсера Hermes. Доступна под лицензией Apache-2.0.

LFM2.5-1.2B-Thinking-ONNX — ONNX-экспорт модели LFM2.5-1.2B-Thinking, разработанной Liquid AI. Это текстовая генеративная модель для кроссплатформенного вывода, включая локальный запуск, браузерные приложения и устройства с поддержкой ONNX Runtime или WebGPU. Модель предназначена для задач, требующих рассуждений: математических вычислений, программирования, логического анализа и других сложных запросов. Она генерирует пошаговый процесс рассуждения в тегах <think>...</think>, после чего формирует итоговый ответ. Поддерживаются английский, японский, корейский, французский, испанский, немецкий, итальянский, португальский, арабский и китайский языки. Архитектура и максимальная длина контекста в README не указаны; размер модели составляет около 1,2 млрд параметров согласно идентификатору и описанию варианта. Доступны варианты FP32, FP16, Q8 и Q4. Квантизированный Q4-вариант занимает около 1,2 ГБ и рекомендован для большинства сценариев, FP16 — около 2,4 ГБ и ориентирован на более высокое качество, Q8 — около 1,7 ГБ как компромисс между качеством и размером. ONNX-формат облегчает переносимость, но для браузерного запуска требуется WebGPU. Ограничения включают небольшой размер по современным меркам, возможные ошибки в сложных задачах и необходимость самостоятельно обрабатывать разделение рассуждений и итогового ответа. Модель распространяется по лицензии lfm1.0; точные условия следует проверить в файле LICENSE репозитория.

WhiskyAKM/LFM2.5-2.6B-NVFP4-GGUF — квантованная GGUF-сборка текстовой модели Liquid AI LFM2.5-2.6B, подготовленная для локального запуска через llama.cpp на CPU и GPU. В основе лежит LiquidAI/LFM2.5-2.6B-Base; в карточке указаны архитектура LFM2, около 2,69 млрд параметров и гибридная структура из 30 слоёв, включая свёрточные слои и GQA. Модель предназначена для генерации текста, диалогов, следования инструкциям, рассуждений и агентных сценариев с вызовом инструментов. Она поддерживает контекст до 131 072 токенов и ориентирована на эффективный запуск на устройстве. Файл NVFP4 использует 4-битное представление для уменьшения требований к памяти. Репозиторий указывает лицензию `other`; конкретные условия следует сверять с карточкой базовой модели и файлами лицензии. В README заявлены сильные стороны в использовании инструментов и длинном контексте, но независимые результаты оценки не приведены.

Карточка модели Enronld/llama3.1 на Hugging Face совпадает с карточкой meta-llama/Llama-3.1-8B, поэтому описание составлено по ней. Meta Llama 3.1 8B — авторегрессионная языковая модель на оптимизированной архитектуре Transformer с Grouped-Query Attention. Это базовая предварительно обученная версия семейства Llama 3.1; веса представлены в формате Safetensors и предназначены для генерации текста и последующей адаптации под разные задачи. Модель принимает текст и генерирует текст. Модель подходит для генерации естественного языка, создания диалоговых и прикладных систем после настройки, а также для подготовки синтетических данных. В карточке семейства заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Для этой базовой версии README не заявляет оптимизацию под диалоговые сценарии: она отличается от instruction-tuned вариантов, которые обучались с SFT и RLHF. Разработчик — Meta. Для использования действует специальная коммерческая лицензия Llama 3.1 Community License и Acceptable Use Policy. Модель обучена на статическом наборе данных; качество и безопасность генерации могут различаться между языками, а применение на языках за пределами восьми заявленных требует дополнительной настройки и мер контроля.

LongCat-Flash-Omni — открытая мультимодальная модель, разработанная Meituan для понимания текста, изображений, видео и аудио, а также взаимодействия с аудио и видео в реальном времени и потоковой генерации речи. В карточке описана архитектура Mixture-of-Experts с 560 млрд параметров и 27 млрд активируемых параметров; метаданные репозитория указывают 17,7 млрд параметров. Модель принимает контекст до 128 тыс. токенов и рассчитана на диалоговые и многомодальные сценарии. Модель предназначена для анализа изображений и видео, распознавания речи, перевода речи в текст и аудиовизуального диалога. В README приведены результаты сравнительных оценок по мультимодальным, визуальным и аудиозадачам. Для запуска описаны адаптации SGLang; указаны требования Python 3.10+, PyTorch 2.8+ и CUDA 12.9+. Репозиторий распространяется по лицензии MIT. Авторы отмечают, что модель не была специально разработана и всесторонне проверена для всех прикладных сценариев.

Lorenzo-8B-Merge — генеративная языковая модель для продолжения и создания текста, опубликованная пользователем qingy2024 на Hugging Face. Модель предназначена для использования через библиотеку Transformers и относится к семейству Llama согласно метаданным. В карточке модели не приведены сведения о точной архитектуре слияния, исходных моделях, разработчиках, обучающих данных и методике обучения. Модель содержит около 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Она может применяться для генерации ответов, написания и продолжения текстов, диалоговых сценариев и построения приложений на базе больших языковых моделей. Лицензия, поддерживаемые естественные языки, результаты оценки, рекомендуемые параметры запуска и специализированные ограничения в карточке не указаны. Перед использованием в продуктивных системах следует самостоятельно проверить качество на целевых данных, устойчивость к ошибкам и условия распространения.

Meta-Llama-3-120B-Instruct-GGUF — GGUF-квантизированная версия community-модели Meta-Llama-3-120B-Instruct, созданной Maxime Labonne (mlabonne) с использованием self-merge через MergeKit на базе Meta-Llama-3-70B-Instruct. Квантизацию выполнил bartowski с использованием llama.cpp. Модель предназначена для генерации текста общего назначения и диалогового взаимодействия, включая работу в LM Studio. Модель относится к семейству Llama 3, имеет заявленный размер 120B параметров и поддерживает текстовую модальность. Точные сведения о контексте, языках и конфигурации архитектуры в README не указаны. Для корректного взаимодействия рекомендуется использовать шаблон запросов Llama 3 и системный промпт помощника. Self-merge направлен на расширение возможностей без дополнительных затрат на обучение, однако README не содержит независимых результатов оценки качества. Модель может генерировать неточные, вредные или неподходящие ответы, поэтому результаты требуют проверки. Лицензия обозначена как other; конкретные условия использования в README не раскрыты, их следует уточнять на странице исходной модели.