II.8Инженерия данных и аналитика

Qwen3.6-27B-Claude-Opus-DeepSeek-Distilled-Imatrix-MTP-1M-GGUF — квантованная модель в формате GGUF на базе Qwen3.6-27B, опубликованная Brian6145. Она предназначена для локального запуска, агентных сценариев, ReAct-рассуждений, использования инструментов, структурированного вывода, многошагового выполнения задач, анализа кода и работы с длинными документами. Модель поддерживает английский и китайский языки и относится к задачам генерации текста. Вариант дообучен методом дистилляции с использованием Claude Opus, DeepSeek и математико-логических моделей: заявлены улучшения систематичности рассуждений, оркестрации инструментов, завершения задач и математической логики. Контекстное окно расширено с 262 144 до 1 048 576 токенов с помощью YaRN, что позволяет обрабатывать книги, большие кодовые базы и длительные диалоги. В репозитории также заявлена поддержка speculative decoding через MTP; конкретный размер квантования для этой карточки не указан. В качестве сильных сторон заявлены агентное поведение, вызов инструментов, следование инструкциям, структурированный вывод и результаты на внутренних тестах, включая GPQA-Diamond — 83,84% и MMLU-500 — 91,80%. Рекомендуемые параметры генерации — temperature 0,6 и top_p 0,95; отклонение от них, согласно README, может ухудшать стабильность и качество вызова инструментов. Производительность зависит от оборудования и конфигурации инференса. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-27B-NEO-CODE-Di-IMatrix-MAX-GGUF — это набор GGUF-квантов модели Qwen3.6-27B, разработанной командой Qwen и дополнительно оптимизированной DavidAU. Кванты созданы с применением объединённых NEO и NEO-CODE imatrix-датасетов, а также дополнительных настроек тензоров, подобранных по результатам бенчмарков относительно полной BF16-версии. Модель предназначена для широкого круга задач: программирования, математики, решения задач, диалогов с длинным контекстом, многошагового взаимодействия, творческого письма, генерации сюжетов и сцен, сторителлинга и ролевых сценариев. Заявлена поддержка английского и китайского языков. Максимальный контекст составляет 256K токенов. Модель поддерживает работу с текстом и изображениями; для обработки изображений требуется совместимый файл mmproj, размещённый вместе с GGUF-файлом. Доступны варианты квантования от IQ2_M до Q8_0 с разным соотношением размера и точности. По данным README, Q8_0 сохраняет 98,38% показателя Same Top P относительно полной точности, IQ4_XS — 93,98%, а IQ2_M — 82,66%. Сильными сторонами заявлены качество при длинном контексте, кодировании, математике и стандартном решении задач, однако качество и требования к памяти зависят от выбранного кванта. Модель распространяется по лицензии Apache-2.0.

Tooony133/Qwen-3.8-27B-DinkyDoo — модель семейства Qwen3.8, представленная как дообученный вариант Qwen3.8-27B с объединёнными с базовыми весами LoRA-адаптерами. Это плотная причинная языковая модель с визуальным энкодером на 27 млрд параметров, предназначенная для диалогов, анализа изображений и видео, программирования, профессиональных задач, исследований и многошаговых агентных сценариев. Модель принимает текст и изображения, а также поддерживает понимание видео. В README указана длина контекста 262 144 токена с возможностью расширения до 1 000 000. Режим рассуждения включён по умолчанию; его можно отключать и настраивать глубину. Модель распространяется в формате Transformers и совместима с рядом средств инференса. Сильные стороны, заявленные в карточке: мультимодальное понимание, работа с длинным контекстом, кодирование и выполнение многошаговых задач. Карточка не приводит отдельных измерений качества именно этой производной модели. Лицензия — Apache-2.0; README также просит соблюдать требования об указании авторства и изменениях из файлов LICENSE и NOTICE.

Frosty40/Qwen3.8-27B-GGUF — это квантованная версия базовой модели Qwen/Qwen3.8-27B, разработанной командой Qwen и преобразованной в формат GGUF для запуска через llama.cpp. Модель предназначена для генерации и анализа текста, работы с кодом и агентскими сценариями, а также для задач vision-language с обработкой изображений через отдельный vision projector. Поддерживаются большие контексты до 262K токенов, гибридная архитектура с 48 слоями линейного внимания Gated-DeltaNet и 16 слоями полного внимания, а также межслойное позиционное кодирование MRoPE и гибридная recurrent-attention память. Языки в README явно не указаны. Основной рекомендуемый файл использует квантование Q6_K, повышенную точность Q8_0 для attention-проекций и встроенную MTP-голову для speculative decoding; его размер составляет 23,2 ГБ. MTP может ускорять декодирование примерно на 45–95% при поддержке NextN/MTP в llama.cpp. Заявлены высокая близость к версии bf16, особенно для кода и агентских задач, а также сохранение качества vision-инференса. Для работы требуются llama.cpp с поддержкой архитектуры qwen35, а для MTP-версии — дополнительная поддержка NextN/MTP и vision projector. Контекстное смещение недоступно, а превышение объёма памяти видеокарты приводит к выгрузке в оперативную память и снижению производительности. Модель распространяется по лицензии Apache-2.0.

Seed-OSS-36B-Instruct — диалоговая плотная языковая модель команды ByteDance Seed. Репозиторий unsloth содержит производную версию модели ByteDance-Seed/Seed-OSS-36B-Instruct; архитектура использует причинную генерацию, RoPE, GQA, RMSNorm и SwiGLU. Метаданные указывают 31,7 млрд параметров и контекст до 524 288 токенов. Модель предназначена для диалогов, генерации текста, рассуждений и агентных сценариев с вызовом инструментов. Можно задавать бюджет рассуждений, чтобы управлять длиной внутреннего анализа и расходом вычислений. В README заявлена оптимизация для международных сценариев, но конкретный перечень поддерживаемых языков не приведён. Модель распространяется по лицензии Apache-2.0. Для инференса в README описаны Transformers и vLLM; рекомендуется температура 1,1 и top_p 0,95. Качество ответов зависит от задачи и настроек генерации, а использование длинного контекста увеличивает вычислительные затраты.

Карточка модели KyleAIers/Spark-X2.5-4B на Hugging Face совпадает с карточкой 0xSojalSec/Spark-X2.5-4B, поэтому описание составлено по ней. Spark-X2.5-4B — компактная языковая модель общего назначения, разработанная командой Spark. Это дообученная версия Spark-X2.5-4B-Base с плотной архитектурой Spark 2.5 на 3,8 млрд параметров; веса опубликованы в формате Safetensors и предназначены для запуска через Transformers. Гибридное внимание сочетает один слой полного внимания с тремя слоями внимания со скользящим окном, а нативный контекст достигает 1 048 576 токенов. Модель рассчитана на диалог, написание и перевод текстов, рассуждения, программирование, вызов инструментов и агентные сценарии. Она поддерживает более 200 языков, а карточка описывает интеграцию с популярными агентными средами и системами инференса. Заявленные сильные стороны — широкий спектр задач и работа с длинным контекстом при оптимизации вычислений и KV-кэша. Качество на конкретной задаче может отличаться; длинный контекст требует достаточной памяти устройства. Лицензия — Apache-2.0.

WizardLM-2 8x22B — большая языковая модель семейства Mixtral, разработанная командой WizardLM в Microsoft AI. Это диалоговая модель с архитектурой Mixture of Experts (MoE), дообученная на базе mistral-community/Mixtral-8x22B-v0.1 с использованием синтетической обучающей системы. README указывает 141 млрд параметров; метаданные Hugging Face — 22B параметров. Указанный в метаданных контекст составляет 65 536 токенов. Модель предназначена для сложных диалогов, многоязычных запросов, рассуждений, написания текстов и кода, математических задач и сценариев с агентами. Для общения в README приведён шаблон системного промпта. Заявления о качестве основаны на оценках авторов, включая MT-Bench и сравнения предпочтений людей; они не гарантируют аналогичных результатов во всех задачах. Модель принимает текст и генерирует текст. README описывает поддержку нескольких языков, но не перечисляет их по отдельности. Лицензия — Apache 2.0.

Карточка модели prince-canuma/WizardLM-2-8x22B на Hugging Face совпадает с карточкой dreamgen/WizardLM-2-8x22B, поэтому описание составлено по ней. WizardLM-2 8x22B — многоязычная языковая модель с архитектурой Mixture of Experts, разработанная WizardLM в Microsoft AI. Это версия для генерации текста и диалогов; в карточке указаны сценарии сложного общения, рассуждений, работы с кодом, математикой и агентных задач. По README модель основана на mistral-community/Mixtral-8x22B-v0.1 и содержит 141 млрд параметров; метаданные классифицируют её как Mixtral MoE с 22B параметров и контекстом до 65 536 токенов. Модель обучалась с использованием синтетической системы подготовки данных и поддерживает многоязычное применение. В репозитории указаны веса safetensors и лицензия Apache-2.0. Заявления о сравнительном качестве приведены разработчиками по их оценкам и не гарантируют результат на иных задачах.

Карточка модели dylanHGJGJ/diffusiongemma-26B-A4B-it на Hugging Face совпадает с карточкой google/diffusiongemma-26B-A4B-it, поэтому описание составлено по ней. DiffusionGemma — мультимодальная генеративная модель Google DeepMind на архитектуре Gemma 4 с 26B общих параметров и разреженной схемой Mixture-of-Experts, в которой активны 8 из 128 экспертов. Вместо последовательной генерации по одному токену модель использует дискретную диффузию и итеративно уточняет блоки текста; архитектура сочетает авторегрессионный энкодер с декодером, использующим двунаправленное внимание. Модель принимает текст, изображения и видео, а выдаёт текст. Она предназначена для диалогов, рассуждений и генерации текста, а также для анализа изображений и видеокадров. Поддерживает режим рассуждений, вызов инструментов и контекст до 256K токенов. Заявлена поддержка более 35 языков на уровне использования и предобучение более чем на 140 языках. Разработчики ориентировали её на быструю генерацию при малом размере пакета, в том числе на одном ускорителе. Модель может применяться для ответов по изображениям и видео, OCR, разбора документов, понимания графиков и интерфейсов, написания кода, суммаризации и разговорных приложений. Карточка сообщает о возможностях, но не приводит независимых оценок качества; скорость зависит от оборудования и сложности запроса. Распространяется по лицензии Apache 2.0.

Карточка модели noraziroh97/diffusiongemma-26B-A4B-it на Hugging Face совпадает с карточкой google/diffusiongemma-26B-A4B-it, поэтому описание составлено по ней. DiffusionGemma — мультимодальная генеративная модель Google DeepMind на архитектуре Gemma 4 с 26B общих параметров и разреженной схемой Mixture-of-Experts, в которой активны 8 из 128 экспертов. Вместо последовательной генерации по одному токену модель использует дискретную диффузию и итеративно уточняет блоки текста; архитектура сочетает авторегрессионный энкодер с декодером, использующим двунаправленное внимание. Модель принимает текст, изображения и видео, а выдаёт текст. Она предназначена для диалогов, рассуждений и генерации текста, а также для анализа изображений и видеокадров. Поддерживает режим рассуждений, вызов инструментов и контекст до 256K токенов. Заявлена поддержка более 35 языков на уровне использования и предобучение более чем на 140 языках. Разработчики ориентировали её на быструю генерацию при малом размере пакета, в том числе на одном ускорителе. Модель может применяться для ответов по изображениям и видео, OCR, разбора документов, понимания графиков и интерфейсов, написания кода, суммаризации и разговорных приложений. Карточка сообщает о возможностях, но не приводит независимых оценок качества; скорость зависит от оборудования и сложности запроса. Распространяется по лицензии Apache 2.0.

Карточка модели psych6tic66/diffusiongemma-26B-A4B-it на Hugging Face совпадает с карточкой google/diffusiongemma-26B-A4B-it, поэтому описание составлено по ней. DiffusionGemma — мультимодальная генеративная модель Google DeepMind на архитектуре Gemma 4 с 26B общих параметров и разреженной схемой Mixture-of-Experts, в которой активны 8 из 128 экспертов. Вместо последовательной генерации по одному токену модель использует дискретную диффузию и итеративно уточняет блоки текста; архитектура сочетает авторегрессионный энкодер с декодером, использующим двунаправленное внимание. Модель принимает текст, изображения и видео, а выдаёт текст. Она предназначена для диалогов, рассуждений и генерации текста, а также для анализа изображений и видеокадров. Поддерживает режим рассуждений, вызов инструментов и контекст до 256K токенов. Заявлена поддержка более 35 языков на уровне использования и предобучение более чем на 140 языках. Разработчики ориентировали её на быструю генерацию при малом размере пакета, в том числе на одном ускорителе. Модель может применяться для ответов по изображениям и видео, OCR, разбора документов, понимания графиков и интерфейсов, написания кода, суммаризации и разговорных приложений. Карточка сообщает о возможностях, но не приводит независимых оценок качества; скорость зависит от оборудования и сложности запроса. Распространяется по лицензии Apache 2.0.

Domyn Small v1.0 — текстовая генеративная модель с открытыми весами, разработанная компанией Domyn S.p.A. Модель построена на плотной архитектуре Nemotron с 10,7 млрд параметров, группированным запросным вниманием и контекстом 32 768 токенов; при инференсе контекст можно расширить до 131 072 токенов с помощью YaRN. Модель принимает и выдаёт текст, поддерживает режимы рассуждения с включением и выключением, а также вызов инструментов. Она предназначена для многоязычных диалогов, многошаговых задач рассуждения и агентных приложений, в том числе для задач программирования и математики. Разработчик заявляет о сопоставимой с другими моделями класса 7–10B точности на ряде тестов при меньшем расходе токенов на рассуждение. В карточке указана оптимизация для английского, итальянского, испанского, французского и немецкого языков; README также сообщает о покрытии более 50 языков. Модель основана на Italia 10B и прошла дополнительное предобучение на 503 млрд токенов. Лицензия в метаданных указана как other, тогда как README заявляет MIT; условия распространения следует сверять с файлами лицензии в репозитории. YaRN может снижать качество на запросах короче штатного контекста, а разработчик рекомендует отдельно оценивать точность, безопасность и справедливость для конкретного применения, особенно в областях высокого риска.

Карточка модели ApocalypseParty/G4-31B-SFT-v6-3 на Hugging Face совпадает с карточкой ApocalypseParty/G4-31B-SFT-v6-2, поэтому описание составлено по ней. ApocalypseParty/G4-31B-SFT-v6-2 — дообученная версия мультимодальной Gemma 4 31B от Google DeepMind. Модель принимает текст и изображения и генерирует текст; её можно использовать для диалога, рассуждений, программирования и анализа визуальных данных, включая распознавание текста в документах, понимание диаграмм и интерфейсов. Поддерживаются вызовы инструментов и длинные контексты; для семейства Gemma 4 31B заявлено до 256K токенов. Gemma 4 обучена работать со многими языками, однако конкретные языки и настройки этого дообучения не описаны. Репозиторий содержит веса Safetensors и использует лицензию Apache 2.0. Карточка не приводит отдельных оценок качества или ограничений именно этой версии.

AtomicChat/gemma-4-31B-it-assistant-GGUF — квантизированная в формат GGUF версия модели google/gemma-4-31B-it-assistant, подготовленная Atomic Chat на основе оригинальных весов Google. Модель предназначена для локальной и полностью офлайн-генерации текста, работы в чат-сценариях, решения задач рассуждения, программирования, анализа документов и других задач, поддерживаемых базовой моделью. Для запуска доступны варианты Q4_K_S, Q4_K_M, Q5_K_M, Q8_0 и F16; рекомендуется Q4_K_M как компромисс между размером, скоростью и качеством. Модель содержит 30,7 млрд параметров и 60 слоёв. Это плотный decoder-only трансформер с гибридным вниманием: sliding-window с окном 1024 токена и глобальным вниманием; используется 32 attention heads и 16 KV heads. Заявленная длина контекста — до 256 тысяч токенов, словарь содержит 262 тысячи токенов. Базовая модель поддерживает текст и изображения, однако представленный репозиторий содержит только текстовые GGUF-кванты без vision projector. Семейство Gemma 4 ориентировано на развитое рассуждение и поддерживает настраиваемые режимы размышления. Сильными сторонами являются большой контекст, высокая заявленная производительность базовой модели в задачах общего тестирования, математики, программирования и мультимодального анализа, а также возможность эффективного локального запуска благодаря квантизации и калибровке importance matrix. Ограничения связаны с потерями качества по сравнению с полной точностью, зависимостью требований к памяти от выбранного варианта квантизации и отсутствием обработки изображений в файлах этого репозитория. Приведённые результаты бенчмарков относятся к базовой модели Google, а не к независимым измерениям этих квантизированных файлов. Для корректного применения чат-шаблона Gemma 4 при запуске в llama.cpp требуется параметр --jinja. Модель распространяется по лицензии Apache 2.0.

coder3101/gemma-4-E4B-it-heretic — производная мультимодальная модель на базе Google Gemma 4 E4B Instruct, размещённая пользователем coder3101. Это плотная модель семейства Gemma 4 для диалогов, рассуждений, программирования и анализа мультимодальных данных. Архитектура Gemma4ForConditionalGeneration сочетает локальное скользящее внимание с глобальным; модель распространяется в формате safetensors и использует библиотеку Transformers. Базовая версия E4B поддерживает контекст до 128K токенов. Модель принимает текст и изображения, а для аудиовозможностей E4B также может обрабатывать речь: распознавать её и переводить речь в текст другого языка. Заявлены анализ видео по последовательности кадров, OCR, разбор документов и экранов, понимание графиков, вызов инструментов и генерация кода. Семейство Gemma 4 поддерживает более 35 языков; карточка не уточняет отдельный список языков этой производной модели. Метки heretic, uncensored, decensored и abliterated указывают на изменение поведения в отношении отказов, но README не описывает конкретную методику или результаты такого изменения. Лицензия — Apache-2.0. Как и другие языковые модели, она может выдавать фактические ошибки, хуже справляться с неоднозначными или сложными запросами и отражать смещения обучающих данных. Заявленные возможности базового семейства не являются отдельной оценкой качества именно этой производной модели.

Карточка модели nesoai/GLM-5.2 на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

Карточка модели ravan011/GLM-5.2 на Hugging Face совпадает с карточкой Ares-Realm-Studios/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — большая языковая модель от Ares-Realm-Studios для продолжительных задач, диалогов и программирования. Она построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров; модель принимает и генерирует текст, поддерживает контекст до 1 048 576 токенов и рассчитана прежде всего на английский и китайский языки. Модель предназначена для многошаговой работы с длинным контекстом, включая анализ материалов и разработку программного кода. В README заявлены гибкие уровни усилий рассуждения и оптимизации для обработки контекста в миллион токенов; для локального запуска перечислены Transformers, vLLM, SGLang и другие среды. Репозиторий содержит веса Safetensors. Модель распространяется по лицензии MIT. Заявленные возможности и результаты приведены авторами; практическое качество может зависеть от сценария и настроек запуска.

Карточка модели rector89/GLM-5.2 на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

Карточка модели sebastian06austin/GLM-5.2 на Hugging Face совпадает с карточкой Ares-Realm-Studios/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — большая языковая модель от Ares-Realm-Studios для продолжительных задач, диалогов и программирования. Она построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров; модель принимает и генерирует текст, поддерживает контекст до 1 048 576 токенов и рассчитана прежде всего на английский и китайский языки. Модель предназначена для многошаговой работы с длинным контекстом, включая анализ материалов и разработку программного кода. В README заявлены гибкие уровни усилий рассуждения и оптимизации для обработки контекста в миллион токенов; для локального запуска перечислены Transformers, vLLM, SGLang и другие среды. Репозиторий содержит веса Safetensors. Модель распространяется по лицензии MIT. Заявленные возможности и результаты приведены авторами; практическое качество может зависеть от сценария и настроек запуска.

Карточка модели yemsrach3723/GLM-5.2 на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

Solstice-AI/GLM-5.3-Flash-UNCENSORED-mlx-oQ8e — мультимодальная версия модели GLM-5.3-Flash с открытыми от цензуры весами. Исходную архитектуру разработала Zhipu AI (ZAI), uncensored-веса предоставила dealignai, а смешанную MLX-квантизацию oQ8e подготовила Solstice-AI. Модель предназначена для генерации и анализа текста, программирования, математического и общего рассуждения, а также понимания изображений и видео. Указаны языки English и Chinese. Модель основана на разреженной MoE-архитектуре с 320 млрд общих параметров, 288 экспертами и примерно 18 млрд активных параметров на токен. Она поддерживает контекст до 1 048 576 токенов, мультимодальное понимание изображений и видео и запуск на Apple Silicon через MLX. Используется смешанная точность около 8,6 бит на вес: критичные для маршрутизации и вывода слои сохраняются в 8-битном формате, vision tower и мультимодальный aligner — в BF16, а отдельные таблицы — в BF16/FP32. В комплект входит DFlash2 для speculative decoding, заявленное ускорение — до 3 раз. Сильными сторонами являются большой контекст, сочетание текстовых и визуальных возможностей, высокая заявленная производительность в программировании, математике и видеоанализе, а также оптимизация для чипов Apple M2–M5. Ограничения включают значительный размер модели и зависимость от совместимого оборудования и MLX; заявленная uncensored-настройка может требовать самостоятельного контроля безопасности при использовании. Лицензия — MIT.

GLM-5-FP8 — открытая языковая модель, разработанная командой zai-org. Она предназначена для сложных задач системной инженерии и длительных агентных сценариев, включая рассуждения, программирование, работу с инструментами, веб-навигацию и управление многошаговыми процессами. Модель поддерживает английский и китайский языки и используется для генерации текста через библиотеку Transformers. Модель содержит 744 млрд параметров, из которых 40 млрд активируются при обработке запроса. По сравнению с GLM-4.5 она обучена на большем объёме данных — 28,5 трлн токенов — и использует DeepSeek Sparse Attention (DSA), что снижает стоимость развёртывания при сохранении возможностей работы с длинным контекстом. В README приведены результаты на задачах математического рассуждения, программирования, кибербезопасности, веб-поиска и взаимодействия с инструментами; в ряде тестов модель показывает конкурентоспособные результаты среди открытых моделей. К сильным сторонам относятся рассуждение, написание и исправление кода, выполнение агентных задач, использование инструментов и работа с длинными последовательностями. Ограничения включают высокие требования к вычислительным ресурсам из-за общего размера модели, несмотря на разреженное внимание и активацию части параметров, а также отсутствие в предоставленных данных подробностей о мультимодальности, точном максимальном контексте и системных требованиях. Модель распространяется по лицензии MIT.

Hermes 3 Llama 3.1 405B FP8 — языковая модель общего назначения от Nous Research, дообученная на основе Meta Llama 3.1 405B. Это плотная авторегрессионная модель семейства Llama с 403,7 млрд параметров и контекстом до 131 072 токенов. Данная версия квантизована в FP8 методом NeuralMagic и предназначена для запуска через vLLM; по данным карточки, для неё требуется около 430 ГБ видеопамяти. Модель предназначена для диалогового ассистента, следования инструкциям, рассуждений, ролевого общения, генерации кода и работы с длинным контекстом. Она поддерживает формат диалога ChatML, вызов функций и структурированный вывод JSON, позволяя интегрировать её в агентные сценарии и приложения с инструментами. Основной язык, подтверждённый карточкой, — английский. Модель выдаёт конкурентные результаты относительно инструкционных моделей Llama 3.1, но качество зависит от задачи и сценария. Это текстовая модель, поэтому она не принимает изображения или аудио. FP8-вариант требует значительных ресурсов для запуска и совместим с vLLM. Лицензия — Llama 3; применяются её условия использования.

InternLM2-7B — плотная авторегрессионная языковая модель второго поколения InternLM, разработанная командой InternLM. Это базовая модель для продолжения текста и адаптации под прикладные задачи; README отдельно рекомендует версию internlm2 для большинства применений, а чат-версии описывает как отдельные варианты. Модель содержит 7,4 млрд параметров и поддерживает контекст до 32 768 токенов согласно метаданным. Разработчик заявляет о сильных результатах на задачах длинного контекста, рассуждений, математики и программирования, включая поиск сведений в длинных текстах. Модель принимает текст и генерирует текст; сведения о конкретных поддерживаемых естественных языках в источниках отсутствуют. Как и другие вероятностные языковые модели, InternLM2-7B может выдавать фактические ошибки, предвзятые или вредоносные ответы. Код распространяется по Apache-2.0; для весов README указывает академический доступ и возможность запросить бесплатное коммерческое разрешение, поэтому условия использования весов следует сверять с лицензией и соответствующим разрешением.

InternLM-Chat-20B — диалоговая версия языковой модели InternLM, разработанная Шанхайской лабораторией искусственного интеллекта совместно с SenseTime, Китайским университетом Гонконга и Фуданьским университетом. Это плотная авторегрессионная модель на 19,6 млрд параметров с архитектурой InternLMForCausalLM. Базовая модель обучалась на более чем 2,3 трлн токенов английского, китайского и кода; Chat-версия дополнительно прошла SFT и RLHF. Метаданные указывают контекст 4096 токенов, а README сообщает о возможности расширения до 16 тысяч токенов посредством экстраполяции при инференсе. Модель предназначена для диалогов, генерации текста, ответов на вопросы, рассуждений, математических задач, программирования и взаимодействия с инструментами. Авторы отмечают улучшения в понимании и рассуждении, а также более безопасное поведение после дообучения. Модель принимает текст и генерирует текст; заявлены английский и китайский языки, а также данные для программирования. Весовая версия распространяется отдельно от кода: код открыт по Apache-2.0, а для весов README указывает академический доступ и возможность запросить бесплатную коммерческую лицензию. Модель может выдавать предвзятые, дискриминационные или иные нежелательные ответы; результаты генерации требуют проверки.

Meta-Llama-3.1-405B-Instruct-FP8-dynamic — квантизированная версия Meta-Llama-3.1-405B-Instruct, разработанная Neural Magic на базе модели Meta. Это текстовая instruction-tuned модель архитектуры Meta-Llama 3.1 с входом и выходом в виде текста, предназначенная прежде всего для ассистентских диалогов, генерации текста, решения задач с открытым ответом, математического рассуждения и программирования. Модель ориентирована на коммерческое и исследовательское использование. Весы и активации линейных слоёв трансформера квантизированы в FP8. Для весов применяется симметричная поканальная квантизация, а активации квантизуются динамически на уровне токенов. Это примерно вдвое уменьшает размер модели на диске и требования к памяти GPU по сравнению с 16-битным представлением; заявлено, что модель может запускаться на одном узле с 8 GPU H100 вместо нескольких узлов. Для инференса она подготовлена для vLLM и поддерживает совместимый с OpenAI режим сервинга. В README указаны языки English, German, French, Italian, Portuguese, Hindi, Spanish и Thai, однако в ограничениях отдельно сказано, что использование на языках, отличных от английского, находится вне заявленной области применения. В качестве ограничения также следует учитывать необходимость мощной GPU-инфраструктуры и возможные потери качества, связанные с квантизацией, хотя на приведённых бенчмарках модель продемонстрировала близкие к исходной модели результаты. Лицензия — llama3.1; дата выпуска — 22 августа 2024 года, версия 1.1.

Muse-Glimmer-30B-AWQ-INT4 — квантованная примерно до 4-битной точности версия Muse Glimmer-30B, разработанной Meta Superintelligence Lab и дистиллированной из Muse Spark. Это причинно-следственная языковая модель с отдельным энкодером восприятия, предназначенная для локального запуска на потребительском оборудовании без облачной инфраструктуры и доступа к сети. Модель ориентирована на автономные агентские задачи: многошаговое рассуждение, вызов инструментов, написание и отладку кода, выполнение многоэтапных запросов и восстановление после ошибок инструментов. Архитектура включает плотный causal Transformer примерно на 29,6 млрд параметров и perception encoder примерно на 1,8 млрд параметров. Используются 52 слоя, чередование локального и глобального внимания, GQA, SwiGLU и RoPE; контекст составляет 131 072 токена или более. Модель принимает текст и изображения, а генерирует текст, поддерживая анализ скриншотов, графиков и документов. Заявлена работа более чем со 100 языками; среди явно перечисленных — английский, китайский, хинди, арабский, русский, японский, корейский, нидерландский, французский и испанский. Заявленный размер файла — 24,02 ГБ. К сильным сторонам относятся мультимодальность, длительное поддержание планов, точное использование инструментов, совместимость с агентскими оркестраторами и настраиваемая интенсивность рассуждений. К ограничениям относятся необходимость значительных аппаратных ресурсов и возможные потери качества из-за квантования, хотя для близких 4-битных конфигураций заявлено минимальное снижение результатов на агентских задачах. Модель распространяется по лицензии Apache 2.0.

NVIDIA Nemotron-3-Super-120B-A12B-BF16-heretic-v2 — это модифицированная сообществом версия языковой модели NVIDIA Nemotron-3-Super-120B-A12B-BF16. В ней применена аблитерация слоёв 23–61, снижающая частоту отказов: в приведённой оценке отказы были в 11 случаях из 100 против 100 из 100 у исходной модели. Модель содержит 120 млрд параметров, из которых 12 млрд активны; её гибридная архитектура LatentMoE сочетает Mamba-2, MoE, слои внимания и Multi-Token Prediction. Репозиторий использует формат safetensors и библиотеку Transformers, поддерживает контекст до 262 144 токенов по метаданным и генерацию текста в диалоговых сценариях. Модель предназначена для рассуждений, чата, следования инструкциям, задач с длинным контекстом и создания агентных систем, включая чат-боты, RAG и автоматизацию IT-заявок. Заявлены английский, французский, испанский, итальянский, немецкий, японский и китайский языки; также модель подходит для кода. README называет исходную модель коммерчески применимой, но лицензия этой производной указана как other, поэтому условия её использования следует уточнить в репозитории. Модель снижает склонность к отказам, что может быть нежелательно в сценариях, где важна строгая фильтрация запросов.

cyankiwi/NVIDIA-Nemotron-Nano-9B-v2-AWQ-4bit — четырёхбитная AWQ-квантизованная версия NVIDIA-Nemotron-Nano-9B-v2, разработанная NVIDIA Corporation. Это текстовая большая языковая модель общего назначения, предназначенная для диалогов, следования инструкциям, генерации текста и кода, рассуждений, создания чат-ботов, RAG-систем, AI-агентов и других приложений на основе ИИ. Модель использует гибридную архитектуру Nemotron-Hybrid, сочетающую преимущественно слои Mamba-2 и MLP с четырьмя слоями Attention. Она поддерживает управляемый бюджет рассуждений: разрешение промежуточного reasoning обычно повышает качество на сложных задачах, но увеличивает расход токенов; отключение reasoning сокращает вывод с некоторым снижением точности. Модель принимает и генерирует текст, поддерживает контекст до 128K токенов. В README заявлена поддержка английского, немецкого, испанского, французского, итальянского и японского языков; в разделе параметров ввода также перечислены китайский, корейский, португальский и русский. Модель обучалась с использованием Megatron-LM и NeMo-RL, а её данные имеют отсечку сентября 2024 года. К сильным сторонам относятся сочетание возможностей рассуждения и обычного диалогового режима, большой контекст, поддержка управления бюджетом «мышления» и оптимизация для NVIDIA GPU. Ограничения включают текстовую модальность, зависимость от GPU-ускоренной инфраструктуры и потенциальное снижение качества при отключении reasoning или слишком малом бюджете рассуждений. Для запуска указаны Linux, Transformers и совместимость с NVIDIA A10G, A100 и H100-80GB; также заявлен runtime NeMo 25.07.nemotron-nano-v2. Использование регулируется NVIDIA Open Model License Agreement; для trial-сервиса дополнительно указаны NVIDIA API Trial Terms of Service.

Карточка модели TreezzZ/opd-teacher-webshop-7b на Hugging Face совпадает с карточкой Qwen/Qwen2.5-7B-Instruct, поэтому описание составлено по ней. Qwen2.5-7B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на 7,1 млрд параметров для диалога и генерации текста; репозиторий использует библиотеку Transformers и формат safetensors. Архитектура включает RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Модель предназначена для чат-ботов и ассистентов, следования инструкциям, генерации длинных текстов, работы с таблицами и структурированными ответами, включая JSON. Также подходит для задач программирования и математики. Поддерживает более 29 языков, включая русский и английский. Контекст репозитория настроен на 32 768 токенов; в README указано расширение до 131 072 токенов с YaRN, а максимальная длина генерации — 8 192 токена. Модель предлагает широкую многоязычную поддержку и улучшенные возможности следования инструкциям, однако качество зависит от задачи и языка, а длинный контекст с YaRN может повлиять на производительность при коротких запросах. Лицензия — Apache-2.0.