I.11Классификация, ранжирование и сопоставление

mkurman/GLM-4.7-Flash-SynthLabs — дообученная и объединённая с базовой моделью версия GLM-4.7-Flash, опубликованная mkurman. Модель семейства glm4_moe_lite предназначена для диалоговой генерации текста; в метаданных также заявлен интерфейс вызова инструментов. Она содержит 4,1 млрд параметров, поддерживает контекст до 202 752 токенов и распространяется в формате Safetensors. Карточка сообщает, что модель обучалась с использованием Unsloth и библиотеки TRL от Hugging Face. Указанная в метаданных лицензия — MIT; README при этом указывает Apache-2.0, поэтому условия лицензирования требуют уточнения. Язык карточки — английский, а базовая GLM-4.7-Flash описана как модель для рассуждений и программирования, но конкретная специализация этой версии не раскрыта.

GPT-5.2 — модель семейства GPT-5, представленная как новейшая флагманская модель OpenAI. В карточке отмечены адаптивное распределение вычислений и улучшения в агентных сценариях и работе с длинным контекстом относительно GPT-5.1. Модель предназначена для агентных задач и работы с длинным контекстом. Метаданные каталога относят её к задаче image-text-to-text, однако README не описывает поддерживаемые типы входных данных, архитектуру, размер, языки или конкретные сценарии использования. Сведения о лицензии также отсутствуют, поэтому условия использования по доступным данным определить нельзя.

Hermes-Instruct-7B-217K — диалоговая языковая модель на архитектуре Mistral, созданная Lodrick the Lafted. Это дообученная версия Mistral-7B-Instruct-v0.2, обученная на 217 тысячах примеров из teknium/openhermes в формате Alpaca. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых инструкций. Она принимает запросы в формате Mistral-Instruct или Alpaca; токенизатор по умолчанию настроен на Alpaca. Автор описывает обучение на разном объёме данных как эксперимент по оценке влияния дальнейшего дообучения. Репозиторий предоставляет веса PyTorch и Safetensors. Модель распространяется по лицензии Apache-2.0. Результаты зависят от запроса и контекста; карточка не приводит отдельной оценки качества или подробностей ограничений.

InternVL3-14B — мультимодальная модель OpenGVLab из семейства InternVL3, представленная в репозитории как дообученная версия InternVL3-14B-Instruct. Она построена по схеме ViT-MLP-LLM: визуальный энкодер InternViT соединён через MLP-проектор с языковой моделью. В семействе используются компоненты на основе Qwen 2.5 и InternLM 3; размер этой версии — 14 млрд параметров. Модель распространяется в формате safetensors и использует библиотеку Transformers. Модель предназначена для диалога и анализа изображений, видео и текста: визуальных вопросов и ответов, мультимодального рассуждения, понимания видео и работы с несколькими изображениями. В README также описаны сценарии использования инструментов, GUI-агентов, анализа промышленных изображений и 3D-визуального восприятия. Поддерживаются динамическое разбиение изображений на фрагменты 448×448 пикселей и обработка изображений и видео; каталог помечает модель как многоязычную. Вариант лицензии — Apache 2.0. Среди заявленных особенностей — предобучение на смешанных текстовых и мультимодальных данных и улучшенное понимание длинного контекста благодаря V2PE. README не приводит численную длину контекста именно этой модели. Качество результатов зависит от входных данных и задачи; несколько изображений увеличивают число визуальных токенов и требуемый объём контекста.

K2-Horizon-7B-Uno Merged — слитая версия модели IFM/K2-Horizon-7B-Uno, опубликованная hermitdave. Репозиторий содержит объединённые с базовыми весами LoRA-адаптеры diffusion-модели; после слияния модель работает как стандартная авторегрессионная языковая модель. Архитектура плотная, семейство K2-Horizon; в метаданных указано 8 млрд параметров, а README сообщает примерно о 7,6 млрд параметров и 32 слоях. Модель предназначена для генерации текста и диалогов, включая рассуждения. Заявлен контекст до 524 288 токенов. Репозиторий содержит веса Safetensors; README также описывает подготовку для MLX и запуск на Apple Silicon. Для обработки специальных тегов рассуждений и вызовов инструментов в oMLX требуется версия 0.6.4 или новее с патчем поддержки K2-Horizon. Модель основана на IFM/K2-Horizon-7B-Uno, которая, согласно README, разработана Institute of Foundation Models. Лицензия — Apache 2.0. Качество и поддерживаемые языки в предоставленных данных не описаны; длинный заявленный контекст требует подходящей среды запуска и достаточных ресурсов.

Kimi-Linear-48B-A3B-Base — базовая языковая модель Moonshot AI с архитектурой Kimi Linear и разреженной смесью экспертов. В карточке указаны 48 млрд параметров всего и около 3 млрд активируемых параметров; метаданные каталога отдельно приводят 2,7 млрд параметров. Модель использует гибридное внимание Kimi Delta Attention и MLA с соотношением 3:1 и предназначена для генерации текста, включая диалоги и задачи с длинным контекстом. Заявленная длина контекста — до 1 млн токенов. Архитектура нацелена на эффективную работу с длинными последовательностями: в README заявлены сокращение KV-кэша до 75% и ускорение декодирования до 6 раз в некоторых сценариях. Это базовая версия, поэтому для диалога и следования инструкциям может потребоваться дополнительная настройка. Указана лицензия MIT.

LeoLM/leo-hessianai-70b-chat — немецкоязычная чат-модель, разработанная в рамках проекта LAION и HessianAI при участии Бьёрна Плүстера и Кристофа Шухмана. Это плотный авторегрессионный трансформер с архитектурой LlamaForCausalLM и 68,7 млрд параметров, созданный на базе LeoLM/leo-hessianai-70b и дообученный на немецких наборах инструкций. Модель принимает текст и генерирует текст; длина контекста составляет 8192 токена. В первую очередь она предназначена для диалогов, письма, объяснений и обсуждения на немецком языке, также проверялась на английском. В карточке отмечены сильные результаты на задачах письма, извлечения информации, STEM и гуманитарных тем. Модель слабее справляется с математикой, программированием и сложными рассуждениями, а также может давать неточные, предвзятые или нежелательные ответы и чаще ожидаемого отказываться отвечать. Для практического применения нужны проверки безопасности и настройка под конкретный сценарий. Лицензия — Llama 2 Community License; разработчики называют модель открытой и коммерчески доступной, использование регулируется условиями этой лицензии.

LFM2-350M-Extract-GGUF — языковая модель компании Liquid AI, основанная на LFM2-350M и распространяемая в формате GGUF. Она предназначена для извлечения важной информации из неструктурированных документов, включая статьи, расшифровки и отчёты, с преобразованием результатов в структурированные форматы JSON, XML или YAML. Модель подходит для извлечения реквизитов счетов из электронных писем, преобразования нормативной отчётности в XML, структурирования обращений в службу поддержки для аналитических конвейеров, а также наполнения графов знаний сущностями и их атрибутами. В названии указано, что это вариант размером 350M параметров. Заявлена поддержка английского, арабского, китайского, французского, немецкого, японского, корейского и испанского языков. К сильным сторонам относятся специализация на извлечении данных и удобный для локального запуска формат GGUF, совместимый с llama.cpp. Ограничения включают отсутствие в предоставленных данных сведений о размере контекста, точной архитектуре, количественных показателях качества и поддерживаемых модальностях помимо текста. Модель распространяется по лицензии lfm1.0; подробные условия следует уточнять в файле LICENSE.

TheBloke опубликовал fp16-модель Llama 30B SuperCOT в формате PyTorch. В её основе — объединение huggyllama/llama-30b и kaiokendev/SuperCOT-LoRA; поверх него объединена LoRA Kaio Ken SuperHOT, расширяющая контекст до 8192 токенов. Модель относится к плотной архитектуре LlamaForCausalLM и содержит 32,3 млрд параметров. Модель предназначена для генерации текста и ответов на вопросы с использованием шаблона запросов в стиле Alpaca и LangChain. Увеличенное окно контекста позволяет передавать более длинные запросы и материалы. README сообщает, что в тестах модель использовала расширенный контекст, но качество ответов чувствительно к формулировкам и структуре промпта; результаты могут заметно меняться при перефразировании. Репозиторий содержит веса PyTorch fp16 для GPU-инференса и дальнейшей конвертации. Для работы с контекстом 8K требуется поддержка соответствующего масштабирования RoPE; README рекомендует `trust_remote_code=True` или monkey patch. Лицензия указана как `other`, поэтому условия использования следует сверить с карточкой и лицензиями исходных компонентов.

Llama-3.1-8B-MagPie-Ultra — плотная языковая модель с архитектурой LlamaForCausalLM, дообученная Argilla Warehouse на наборе argilla-warehouse/magpie-ultra-v1.0. Она предназначена для генерации текста и диалогового взаимодействия; метаданные также указывают интерфейс вызова инструментов. Модель содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель основана на meta-llama/Llama-3.1-8B и распространяется в формате safetensors по лицензии Llama 3.1. В README приведено значение loss 0,5915 на оценочном наборе, но подробности об оценке, обучающих данных и ограничениях не раскрыты. Языки и специальные прикладные области для этой производной модели не уточнены.

QuantFactory/Llama3.1-8B-ShiningValiant2-GGUF — квантизированная версия чат-модели Shining Valiant 2, созданная QuantFactory с использованием llama.cpp на основе ValiantLabs/Llama3.1-8B-ShiningValiant2. Исходную модель разработала Valiant Labs; она дообучена на базе Meta-Llama-3.1-8B-Instruct, релиз от 6 августа 2024 года. Модель предназначена для диалогов и генерации текста, включая общие вопросы, объяснение научных и инженерных тем, технические задачи и структурированное рассуждение. Она ориентирована на дружелюбные, воодушевляющие, содержательные и познавательные ответы. Указан английский язык, текстовая модальность и архитектура Llama; размер — 8 миллиардов параметров. Модель использует формат промптов Llama 3.1 Instruct. Размер контекста в README не указан. К сильным сторонам относятся специализация на научно-технических знаниях, улучшенная согласованность ответов и гибкость общения. К ограничениям относятся зависимость качества от базовой модели и выбранного квантизированного формата; сведения о точности, конкретных вариантах квантования, системных требованиях и ограничениях безопасности не приведены. Лицензия указана как llama3.1.

CogniLink — дообученная Daemontatox модель на архитектуре Llama 3.3 70B, созданная для многошаговых рассуждений, логического вывода и диалоговой генерации текста. Она содержит 69,5 млрд параметров, работает с контекстом до 131 072 токенов и рассчитана прежде всего на английский язык. В карточке указаны instruction tuning и обучение на наборах данных с цепочками рассуждений; доступны веса в формате safetensors и библиотека Transformers. Модель можно применять для пошаговых объяснений учебных задач, анализа сценариев и аргументов, а также вопросов и ответов в исследовательских, деловых и правовых сценариях. README также упоминает медицинские применения, однако не приводит подтверждений клинической точности. Для запуска требуется значительная вычислительная память; утверждения README о работе на ограниченных устройствах и эффективности 4-битного режима не подкреплены метриками производительности. Лицензия — Apache 2.0.

MaziyarPanahi/Llama-3-8B-Instruct-32k-v0.1-GGUF — это набор файлов модели в формате GGUF для MaziyarPanahi/Llama-3-8B-Instruct-32k-v0.1. Модель создана и квантована MaziyarPanahi; исходная архитектура и точные параметры в предоставленной карточке не раскрыты, однако из названия следует, что это instruct-модель семейства Llama с заявленным размером 8B и контекстом до 32k токенов. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые приложения и библиотеки. Формат GGUF ориентирован на использование с llama.cpp и поддерживается, среди прочего, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и Candle; возможна работа с GPU-ускорением в зависимости от выбранного инструмента и конфигурации. Доступны варианты квантования с разрядностью от 2 до 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации. Ограничения включают возможные потери качества из-за квантования, зависимость производительности от оборудования и программного окружения, а также отсутствие в README сведений о языках, точных характеристиках архитектуры, результатах тестирования и лицензии.

Llama-3-Alpha-Centauri-v0.1 — экспериментальная чат-модель семейства Llama 3, созданная автором серии Centaurus на основе дообучения и слияния моделей. Она предназначена для генерации ответов, рассуждений и анализа, в том числе по темам STEM, компьютерных наук, программирования и социальных наук. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст длиной до 8192 токенов. В карточке указана цель создать менее цензурированную модель; среди упомянутых возможностей — логическая дедукция, критическое мышление и анализ. В метаданных отмечен набор NobodyExistsOnTheInternet/ToxicQAFinal. README сообщает о настройках LoRA и 4-битного обучения, но не уточняет базовый репозиторий, а поля базовой модели в метаданных нет. Автор описывает модель как экспериментальную и предупреждает, что эффективность может меняться. Модель может выдавать токсичные или нежелательные ответы; пользователь отвечает за их интерпретацию и применение. Лицензия — llama3.

Locutusque/Llama-3-Yggdrasil-8B — объединённая языковая модель на архитектуре Llama 3, созданная Locutusque с помощью mergekit и метода DARE TIES. В качестве базовой модели использована NousResearch/Meta-Llama-3-8B; в объединение также вошли инструктивная версия Meta-Llama-3-8B и две модели Locutusque — Llama-3-Hercules-5.0-8B и llama-3-neural-chat-v2.2-8b. Модель содержит 7,5 млрд параметров, принимает текст и предназначена для генерации текста, включая диалоговые ответы и ответы на вопросы. Контекст составляет 8192 токена. Веса доступны в формате safetensors для библиотеки Transformers. Лицензия — llama3.

Marco-Mini-Base — компактная разреженная мультиязычная языковая модель семейства Marco-MoE, разработанная Alibaba International Digital Commerce. Она предназначена для генерации текста и диалоговых сценариев, включая ответы на вопросы, следование инструкциям и использование интерфейса вызова инструментов. Модель построена на декодерном Transformer с разреженными слоями Mixture-of-Experts и архитектурой Qwen3 MoE. В README указаны 17,3 млрд параметров всего и 0,86 млрд активируемых на токен; метаданные Hugging Face указывают 507,9 млн параметров, поэтому размер модели в источниках расходится. Контекст составляет 32 768 токенов. Модель поддерживает 29 языков, в том числе русский, английский и китайский. README сообщает о сравнительных результатах на англоязычных и мультиязычных бенчмарках, но приведённые таблицы содержат только часть результатов. Модель описана как upcycling-вариант Qwen3-0.6B-Base с разбиением матриц на подматрицы и Drop-Upcycling. В репозитории указаны веса Safetensors и лицензия Apache-2.0. Показатели качества основаны на бенчмарках из карточки; они не гарантируют результат для конкретного приложения.

MegaBeam-Mistral-7B-512k — компактная языковая модель на 7,1 млрд параметров, представленная в работе «Scaling Context, Not Parameters: Training a Compact 7B Language Model for Efficient Long-Context Processing». Она дообучена на Mistral-7B-Instruct-v0.2 и предназначена для генерации текста и диалогов с длинными документами и контекстом до 524 288 токенов. Модель использует плотную архитектуру MistralForCausalLM и распространяется в формате Safetensors. Модель подходит для поиска фактов в объёмных текстах, многошаговых вопросов и ответов, суммирования и других сценариев, где требуется учитывать длинный контекст. В README приведены результаты оценок на NIAH, RULER и InfiniteBench; они указывают на сильное извлечение информации в некоторых тестах, но качество различается между задачами и не гарантирует результат на пользовательских данных. Для эффективного запуска длинного контекста требуются совместимые инструменты обслуживания модели и значительные вычислительные ресурсы. Лицензия — Apache-2.0.

QuantFactory/Meta-Llama-3-8B-Instruct-function-calling-json-mode-GGUF — квантизированная версия модели hiieu/Meta-Llama-3-8B-Instruct-function-calling-json-mode, созданная с помощью llama.cpp. Исходная модель дообучена hiieu на Meta-Llama-3-8B-Instruct для вызова функций и генерации ответов в формате JSON. В README также указано использование Unsloth и библиотеки TRL при обучении. Модель предназначена для текстовой генерации, включая диалоговые сценарии, структурированные JSON-ответы и function calling. Для вызова функций используется двухэтапная схема: модель формирует запрос с именем функции и аргументами, после чего получает результат выполнения и генерирует финальный ответ. Указан английский язык. Размер модели — 8 миллиардов параметров; конкретная архитектура и размер контекста в README не уточняются, но модель основана на Meta Llama 3 Instruct. Сильной стороной модели является специализированная настройка для структурированных ответов и интеграции с внешними функциями. Ограничения включают зависимость качества function calling и JSON-генерации от корректного шаблона сообщений и необходимость двух этапов инференса для вызова функций. Лицензия в README не указана.

MiniCPM5-2B-JANG_8M — 8-битная квантизированная версия MiniCPM5-2B от OpenBMB, подготовленная Jinho Jang. Модель содержит 2,2 млрд параметров и распространяется в формате MLX Safetensors для локального запуска на устройствах Apple Silicon через стандартную библиотеку mlx_lm; пользовательский код модели и trust_remote_code не требуются. Контекст составляет до 131 072 токенов. Модель предназначена для генерации текста и диалоговых сценариев, включая рассуждения, задачи с длинным контекстом и работу с инструментами. В README описана калибровка на 1,85 млн токенов с применением imatrix, AWQ и GPTQ; автор сообщает о меньшем расхождении с исходной bf16-моделью по сравнению со стандартной квантизацией MLX того же размера. Модель поддерживает английский и китайский языки. Вызовы инструментов выводятся в XML, а mlx_lm сам не распознаёт этот формат: для обработки вызовов нужен отдельный парсер. Модель распространяется по лицензии Apache-2.0.

QuantTrio/MiniMax-M2.7-AWQ — AWQ-квантизированная версия языковой модели MiniMax-M2.7, разработанной MiniMax AI. Модель предназначена для генерации текста и может использоваться в задачах диалогового взаимодействия, обработки запросов и других сценариях, поддерживаемых базовой text-generation-моделью. Данные о точной архитектуре, числе параметров, поддерживаемых языках и исходной длине контекста в README не приведены. Квантизация выполнена без калибровочного набора данных с использованием data-free quantization tool. Модель ориентирована на запуск через vLLM и Transformers; в конфигурации сервера указан максимальный контекст 32 768 токенов, а также поддержка tool calling и reasoning parser для MiniMax M2.7. Размер файлов модели составляет около 122 GiB. Для распределённого запуска рекомендуется конфигурация с tensor parallelism на восемь GPU и expert parallelism. Основные преимущества — уменьшенный по сравнению с исходной моделью объём хранения и возможность производительного инференса через vLLM. Ограничения включают потенциальное снижение качества из-за квантизации, отсутствие опубликованных количественных оценок качества и высокие требования к аппаратному обеспечению и версиям программных компонентов: vLLM 0.19.0 или новее, Transformers 5.5.4 или новее и CUDA 12.8 или 13.0. Лицензия указана как modified-MIT; применимые условия следует уточнять по файлу лицензии исходного проекта.

MiniMax-M2.7-JANG_2L — квантованная версия MiniMax-M2.7, подготовленная Jinho Jang для запуска на компьютерах Apple Silicon через MLX и vMLX. Это диалоговая MoE-модель для генерации текста; в README указаны 228,7 млрд общих параметров и смешанная точность около 2,10 бита. Для внимания и выходного слоя сохранена точность 8 бит, для эмбеддингов — 6 бит, а большая часть экспертных MLP сжата до 2 бит; маршрутизатор экспертов оставлен в float16. Метаданные каталога указывают 2,9 млрд параметров, что расходится с размером, заявленным в README. Модель предназначена для диалогов и задач рассуждения, а также может использовать вызов инструментов в совместимых клиентах. Контекстное окно — 196 608 токенов. Для запуска требуются MLX и Mac с Apple Silicon и не менее 96 ГБ объединённой памяти; автор рекомендует MLX Studio. В README указано, что температура 1,0 обязательна, поскольку жадная генерация может зациклить рассуждения. Бенчмарки M2.7 ещё не опубликованы, а заявление о превосходстве JANG над обычной квантизацией MLX основано на результатах для M2.5. Лицензия в метаданных обозначена как other; README разрешает исследовательское и личное использование и возлагает ответственность за соблюдение лицензии MiniMax на пользователя.

ressl/MiniMax-M3-uncensored-NVFP4 — это квантизированная версия модели ressl/MiniMax-M3-uncensored, основанной на MiniMax-M3. Релиз подготовлен ressl с использованием NVIDIA ModelOpt NVFP4 и предназначен для локального запуска генерации текста и мультимодальных запросов на системах с GPU NVIDIA Blackwell. Модель имеет MoE-архитектуру с 428 млрд параметров в общей сложности и примерно 23 млрд активных параметров на токен. В модели сохранены возможности рассуждения, разбора рассуждений, вызова инструментов и обработки изображений. В карточке указаны английский и немецкий языки. Экспортированный вариант занимает около 260,4 ГБ вместо 854,2 ГБ у BF16-версии: NVFP4 применён к весам маршрутизируемых экспертов, тогда как внимание, маршрутизатор, общие эксперты, эмбеддинги, языковая голова, vision tower и проекторы сохранены в BF16. Проверенный контекст составляет 32 768 токенов; на отдельном тесте модель корректно обработала запрос длиной 20 212 токенов. Модель ориентирована на локальное инференс-обслуживание, исследование безопасности, red teaming, анализ вредоносного ПО и эксплойтов, обнаружение угроз, автоматизацию через tool calls и мультимодальные сценарии. На четырёх NVIDIA RTX PRO 6000 Blackwell 96 ГБ с SGLang зафиксирована скорость около 88,5 токена в секунду для прогретого одиночного запроса, однако это не результат полного академического бенчмарка. Для запуска требуется конфигурация из четырёх GPU Blackwell и SGLang с указанными в README настройками; совместимость с vLLM не подтверждена. Модель намеренно uncensored и может отвечать на запросы, которые стандартная версия отклоняет, поэтому её применение требует соблюдения законодательства и мер безопасности. Лицензия указана как other.

miqu-1-120b — крупная текстовая языковая модель, созданная wolfram с помощью mergekit: слои модели miqu-1-70b-sf были объединены методом passthrough в конфигурацию из 140 слоёв. Модель содержит около 120,1 млрд параметров, использует архитектуру Llama и рассчитана на генерацию текста и диалоговое общение. Максимальный контекст — 32 764 токена; в README указан шаблон запросов Mistral `[INST] ... [/INST]`. Модель предназначена для диалогов, ответов на вопросы, написания и продолжения текста. В карточке перечислены английский, немецкий, французский, испанский и итальянский; отзывы пользователей отмечают связность диалога и удержание контекста, а также отдельные случаи слабого следования инструкциям. Доступны варианты квантования EXL2 и GGUF. Лицензия указана как `other`; README сообщает, что использованы утёкшие веса, поэтому правовой статус и условия использования требуют отдельной проверки.

QuantFactory/Mistral-7B-Instruct-RDPO-GGUF — квантизированная версия модели princeton-nlp/Mistral-7B-Instruct-RDPO, созданная с использованием llama.cpp. Исходная модель связана с исследовательской работой SimPO: Simple Preference Optimization with a Reference-Free Reward, опубликованной Princeton NLP; подробности представлены в репозитории проекта SimPO. Модель предназначена для генерации текста и использования в сценариях инструкционного следования, где требуется применять предпочтения, полученные в ходе оптимизации без эталонной reward-модели. В README указаны библиотека Transformers и задача text-generation. Базовая архитектура — Mistral с 7 миллиардами параметров; формат GGUF и квантизация предназначены для более компактного хранения и запуска через совместимые инструменты, включая llama.cpp. В доступных данных не указаны поддерживаемые языки, размер контекста, конкретный метод и уровень квантизации, результаты тестирования, аппаратные требования и ограничения качества. Лицензия также не указана, поэтому условия использования следует уточнять в исходном репозитории или карточке базовой модели.

TheBloke/Mistral-7B-v0.1-GGUF — это набор квантованных файлов в формате GGUF для предварительно обученной языковой модели Mistral 7B v0.1, разработанной Mistral AI. Репозиторий подготовлен TheBloke и предназначен для генерации текста и локального запуска модели через llama.cpp и совместимые интерфейсы и библиотеки. Модель относится к архитектуре Mistral и содержит около 7 миллиардов параметров. Доступны варианты квантования с разной разрядностью, включая 2-, 3-, 4-, 5-, 6- и 8-битные варианты, что позволяет выбирать компромисс между размером, скоростью и качеством. Поддерживается текстовый ввод и вывод; шаблон промпта не задан, поэтому используется непосредственная передача текста. Максимальная поддерживаемая длина последовательности для GGUF-версии указана как 4096 токенов или меньше. Сильные стороны модели — возможность запуска на CPU и GPU, широкий выбор уровней квантования и совместимость с llama.cpp, text-generation-webui, LM Studio, KoboldCpp и другими инструментами. Ограничения включают отсутствие поддержки последовательностей длиннее 4096 токенов в данном формате и потенциальное снижение качества в более агрессивно квантованных вариантах. Языки, на которых модель обучалась, и специализированные сценарии её применения в README не указаны. Модель распространяется по лицензии Apache 2.0.

Это набор GGUF-квантизованных файлов модели Mistral Nemo Instruct 2407, разработанной Mistral AI и квантизованной командой featherless-ai-quants. Модель предназначена для генерации текста и выполнения инструкций, поэтому может использоваться в диалоговых приложениях, локальных ассистентах и других сценариях text-generation при наличии совместимого ПО для работы с форматом GGUF. В репозитории представлены варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0 размером примерно от 4,6 до 12,4 ГБ. Квантизация позволяет выбирать компромисс между размером файла, требованиями к ресурсам и сохранением качества, однако README не содержит сведений об архитектуре, числе параметров, поддерживаемых языках, модальностях и размере контекста. Сильная сторона представленной версии — широкий выбор уровней квантизации для развёртывания на оборудовании с разными ограничениями по памяти. Ограничения качества и производительности зависят от выбранного варианта и среды запуска; конкретные результаты в README не приведены. Лицензия модели и условия её использования в предоставленных данных не указаны.

MistralLite — языковая модель на архитектуре Mistral-7B, дообученная участниками AWS для работы с длинным контекстом. Она предназначена для поиска сведений в длинных текстах, извлечения тем и строк, суммаризации и ответов на вопросы по предоставленному контексту. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. При дообучении использованы адаптация Rotary Embedding с rope_theta = 1 000 000 и окно скользящего внимания размером 16 384 токена. README сообщает об улучшении результатов на задачах извлечения и ответов по длинному контексту; основной язык модели — английский. Указанная лицензия — Apache 2.0. Для запросов с входным контекстом длиннее 12 000 токенов README рекомендует использовать специальный контейнер TGI. Разработчики советуют самостоятельно оценивать качество и проверять соответствие применения местным правилам, лицензиям и требованиям контроля качества.

Mistral-T5-7B-v1-Mistral-7B-Instruct-v0.1 — слитая чат-модель на архитектуре Mistral, созданная объединением Mistral-7B-Instruct-v0.1 и Mistral-T5-7B-v1 методом SLERP. Модель содержит 7,1 млрд параметров и предназначена для генерации текста в ответ на инструкции и диалоговые запросы; заявленный контекст составляет 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и других сценариев генерации текста по запросу. В README описаны смешивание слоёв внимания и MLP и формат bfloat16; в репозитории веса представлены в safetensors. Лицензия — Apache-2.0. README и метаданные не сообщают о языковом охвате и оценках качества, поэтому результаты для конкретных языков и задач требуют проверки.

shivash/moetest1 — языковая модель на архитектуре Llama, созданная автором репозитория с помощью объединения весов через SLERP и mergekit на основе meta-llama/Llama-3.1-8B-Instruct. Модель предназначена для генерации текста и диалогового общения; метаданные также указывают интерфейс вызова инструментов. Модель содержит 6,9 млрд параметров, принимает текст и выдаёт текст. Указанная длина контекста — 131 072 токена. Репозиторий использует Transformers и формат safetensors. Поддерживаемые языки отдельно не обозначены. Сведений о лицензии в предоставленных данных нет.

MS-Nudion-22B — слитая модель для генерации текста на базе архитектуры Mistral, созданная с помощью mergekit методом SLERP из knifeayumu/Cydonia-v1.3-Magnum-v4-22B и SteelSkull/MSM-MS-Cydrion-22B. Модель содержит 22 млрд параметров, использует формат safetensors и поддерживает контекст до 131072 токенов. Модель предназначена для диалогов и генерации связного текста; каталог также отмечает интерфейс вызова инструментов. В конфигурации слияния указан профиль смешивания, ориентированный на поведение Hermes на входе и выходе и WizardMath в средних слоях. Карточка не описывает отдельные гарантии качества или целевые предметные области. Лицензия в предоставленных данных не указана. Для использования следует учитывать, что это объединение двух моделей; ограничения и условия могут зависеть от их лицензий и свойств.