II.2Создание и понимание программного кода

djuna/Q2.5-Fuppavy-7B — объединённая автором модель на базе семейства Qwen2.5, созданная с помощью mergekit и метода Model Stock. В объединение вошли Qwen/Qwen2.5-7B и несколько моделей на его основе, включая варианты для математики, диалога, FastApply и другие. Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2ForCausalLM и рассчитана на контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно использовать для ответов на вопросы, продолжения текста и задач, где полезны объединённые способности исходных моделей, в том числе математические рассуждения. В репозитории указаны веса Safetensors; выходной формат при создании — bfloat16. README и метаданные не сообщают результаты сравнительных оценок или конкретные гарантии качества. Языки и условия лицензирования в предоставленных данных не указаны.

QWEN-2-1.5B-Synthia-I — языковая модель, дообученная artificialguybr на Qwen/Qwen2-1.5B с использованием набора Synthia v1.5-I, содержащего более 20,7 тыс. примеров следования инструкциям. Это плотная авторегрессионная модель класса Qwen2ForCausalLM с 1,5 млрд параметров; файлы доступны в форматах PyTorch и Safetensors, а для работы указан Transformers. Модель предназначена для выполнения инструкций, генерации и продолжения текста, а также для разговорных приложений. Контекстное окно составляет до 131 072 токенов. В метаданных указан английский язык; карточка отмечает многоязычные возможности базовой Qwen2, но не уточняет языковой охват дообученной версии. Модель наследует возможности базовой Qwen2-1.5B и специально настроена на следование инструкциям. Лицензия — Apache-2.0. Карточка не приводит результатов оценивания качества или более подробных ограничений.

Qwen2-VL-OCR-2B-Instruct-GGUF — мультимодальная модель для преобразования изображений в текст, разработанная как дообученная версия Qwen/Qwen2-VL-2B-Instruct и опубликованная пользователем или организацией prithivMLmods. Она сочетает визуальное и текстовое понимание с диалоговым взаимодействием и предназначена прежде всего для OCR, распознавания небрежного рукописного текста, анализа изображений, решения математических задач и вывода формул в формате LaTeX. Модель поддерживает сценарии image-to-text и VQA, а также задачи, связанные с кодом. В метаданных указан английский язык. Модель имеет размер 2B параметров согласно названию базовой модели и распространяется в формате GGUF с вариантами от FP16 до низкоразрядных квантований Q2–Q8 и i1/IQ. Это позволяет выбирать между качеством, скоростью и требованиями к памяти, однако README не содержит количественных оценок качества, сведений о длине контекста, точном наборе поддерживаемых языков и ограничениях распознавания. Лицензия — Apache-2.0; условия конкретного запуска зависят от совместимого программного обеспечения для GGUF.

Qwen3.5-9B Reasoning Distilled GGUF (R3 Crown) — квантизированная в формате GGUF версия Qwen3.5-9B, дообученная командой cudabenchmarktest методом LoRA SFT на 2160 примерах с трассами рассуждений Opus 4.6 из набора Crownelius/Opus-4.6-Reasoning-3300x. Модель предназначена для диалогов и генерации ответов с рассуждениями, включая математические задачи, планирование и многошаговые запросы. Это ранняя итерация R3, которую авторы считают устаревшей: обучение на однообразных данных ухудшило следование инструкциям, а последующие версии R5/R7 описаны как улучшенные. При использовании стандартного рендерера qwen3.5 в Ollama для обычного диалога, следования инструкциям и вызова инструментов следует передавать think: false; без этого часть длинных запросов может завершаться без видимого ответа. Для задач, где нужны рассуждения, автор рекомендует think: true. Модель распространяется по лицензии Apache-2.0.

Elsephire объединил Qwen3.6-35B-A3B и Qwen-AgentWorld-35B-A3BB методом Task Arithmetic с весами 80/20. Модель построена на архитектуре Qwen3.5 MoE и предназначена для диалогов и агентных сценариев; в карточке также заявлена работа с изображениями и MTP. В метаданных указаны интерфейс вызова инструментов и формат Safetensors. Это бета-версия: автор предлагает тестировать её и оставлять отзывы. Модель распространяется по лицензии MIT.

Qwen3.8-27B Heretic v2.1.0 — дообученная методом абляции версия мультимодальной модели Qwen, опубликованная пользователем mlasli. Контрольная точка в формате BF16 сохраняет архитектуру Qwen3.5 плотного типа на 27 млрд параметров и возможности диалога и обработки изображений; модельный репозиторий также сохраняет голову многотокенного предсказания для спекулятивного декодирования. Модель предназначена для диалогов, ответов на запросы и многошаговых задач. Отличительная настройка направлена на более прямое выполнение запросов вместо отказов и перенаправления к безопасным альтернативам. В README оценка такого поведения проведена на текстовых наборах; мультимодальное снятие ограничений не подтверждено. Для заявленного поведения автор рекомендует отключать режим мышления. При включённом режиме возможны уклончивые ответы, отказы и пустые ответы. На опубликованных тестах сохранение знаний и рассуждений близко к базовой модели, с небольшим снижением результатов. Модель принимает текст и, согласно метаданным, поддерживает изображения, однако визуальный путь валидирован только для текста и не заявлен как прошедший проверку на декодирование без ограничений. Карточка указывает английский язык. Лицензия — Apache-2.0.

RuadaptQwen2.5-32B-QWQ-Beta — русскоязычная инструктивная версия Qwen/QwQ-32B от RefalMachine. Модель семейства Qwen2 с плотной архитектурой и 32 млрд параметров дообучена продолжением предобучения на русскоязычном корпусе; авторы также заменили токенизатор и применили LEP (Learned Embedding Propagation). Репозиторий содержит веса в формате safetensors. Модель предназначена для диалогов, генерации текста и решения задач с рассуждениями. По заявлению авторов, новый токенизатор повышает скорость генерации русскоязычного текста до 60% относительно исходной Qwen/QwQ-32B при сравнении одинаковых последовательностей. Поддерживается контекст до 131 072 токенов; модель рассчитана в первую очередь на русский язык. Указана лицензия Apache-2.0. В README перечислены оценки на Ru-Arena-General, MERA и llmtf_open, однако результаты не приведены, поэтому качество по этим тестам оценить нельзя. Авторы также предупреждают, что ответы отражают данные обучения и могут содержать их предубеждения.

jaspionjader/sof-13 — объединённая предобученная языковая модель, созданная методом Model Stock с помощью mergekit. В качестве базовой модели использована jaspionjader/sof-10, также в объединение вошли jaspionjader/sof-11 и jaspionjader/sof-12. Модель построена на плотной архитектуре Llama и содержит 7,5 млрд параметров. Она предназначена для генерации текста и диалогов, поддерживает контекст до 131 072 токенов и работает с текстовым вводом и выводом. Репозиторий содержит веса в формате safetensors и рассчитан на использование с Transformers. Карточка не описывает специальные предметные области, языковое покрытие или сравнительные преимущества модели. Лицензия в предоставленных данных не указана.

Tess-10.7B-v1.5b — универсальная языковая модель из серии Tess, разработанной migtissera. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 10,6 млрд параметров, обученная на базе SOLAR-10.7B. Она предназначена для генерации текста и диалогов; в карточке приведён формат с ролями SYSTEM, USER и ASSISTANT. Модель принимает текст и генерирует текст, поддерживает контекст до 4096 токенов. Модель распространяется в формате PyTorch по лицензии Apache-2.0. Карточка не приводит сведений о специализированной области применения или языках обучения, поэтому её следует рассматривать как модель общего назначения без заявленного основного языка.

Thea 3B 25r — дообученная Piotr Zalewski диалоговая модель семейства Llama 3.2 для генерации ответов и рассуждений по текстовым запросам. В основе лежит chuanli11/Llama-3.2-3B-Instruct-uncensored; для обучения использован набор KingNish/reasoning-base-20k. Модель имеет плотную архитектуру LlamaForCausalLM с 3,2 млрд параметров, принимает текст и формирует текстовые ответы. Заявленная длина контекста — 131 072 токена. Разработчик заявляет улучшенную производительность на задачах рассуждения и ускоренное обучение с использованием собственного кода. В метаданных также указаны возможности диалога и интерфейс вызова инструментов. Модель помечена как uncensored; качество и безопасность ответов зависят от запроса и способа применения. Распространяется по лицензии llama3.2.

Xenon-3 — разговорная модель для генерации текста, разработанная на основе Mistral-7B-v0.1 и дообученная на наборе Ultrafeedback с использованием методов из статьи Self-Rewarding Language Models. Модель построена на плотной архитектуре MistralForCausalLM с 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалогов и выполнения инструкций в формате Mistral: запросы заключаются в токены [INST] и [/INST]. В архитектуре используются Grouped-Query Attention и Sliding-Window Attention; для диалогов доступен chat template через Transformers. Карточка указывает английский язык. Модель распространяется под лицензией Apache-2.0.

Zen5 Max — большая текстовая модель семейства Zen5 от ZenLM, основанная на DeepSeek-V4-Pro. Это не модель, обученная с нуля: README описывает её как перепакованную и квантизованную в GGUF версию аблитированной производной DeepSeek-V4-Pro. Применяется для генерации текста и задач, требующих глубоких рассуждений; для запуска автор рекомендует систему с unified memory от 512 ГБ или пул из восьми ускорителей H100/H200. Модель имеет архитектуру MoE и файл GGUF размером около 432 ГБ. Веса квантизованы асимметрично: маршрутизируемые up/gate-проекции используют IQ2_XXS, down-проекции — Q2_K, а общие эксперты, проекции внимания, логиты маршрутизации и LM head сохранены в более высокой точности. В тегах заявлены английский и китайский языки, а также контекст 1 млн токенов. Репозиторий распространяется по лицензии MIT. Требования к памяти и вычислительным ресурсам высоки; README рекомендует для оборудования с 128 ГБ использовать zen-5-pro-gguf. Количественные оценки качества в предоставленной карточке не приведены.

ZEUS 8B V13 — плотная языковая модель семейства Llama 3.1, созданная T145 слиянием нескольких моделей методом DARE TIES. В качестве основы использована unsloth/Meta-Llama-3.1-8B-Instruct; в слияние также вошли Llama-3.1-SuperNova-Lite, Llama-3.1-Storm-8B и Llama-3.1-8B-Lexi-Uncensored-V2. Модель содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогов, включая ответы на инструкции; её можно применять для продолжения текста и ведения беседы. Карточка приводит результаты оценивания на Open LLM Leaderboard, в том числе IFEval и BBH, но не описывает конкретные языки или специализированные предметные области. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия — Llama 3.1.

alpindale/c4ai-command-r-plus-GPTQ — GPTQ-вариант модели C4AI Command R+, разработанной Cohere и Cohere For AI. Базовая модель представляет собой авторегрессионную языковую модель на оптимизированной архитектуре Transformer с 104 миллиардами параметров и контекстом до 128K токенов. После предварительного обучения она прошла supervised fine-tuning и обучение на предпочтениях для повышения полезности и безопасности ответов. Модель предназначена для генерации текста, рассуждений, суммирования, ответов на вопросы, Retrieval Augmented Generation и многошагового использования инструментов. Она оптимизирована для английского, французского, испанского, итальянского, немецкого, бразильского португальского, японского, корейского, арабского и упрощённого китайского языков; в предобучающие данные также входили русский и другие языки. Входом и выходом служит только текст. Сильные стороны — большой контекст, мультиязычность, поддержка RAG и сложных цепочек вызова инструментов. Ограничения и точные характеристики GPTQ-квантизации в представленном README не указаны. Использование регулируется лицензией CC-BY-NC-4.0 и политикой допустимого использования C4AI.

Mistral-Small-4-119B-2603-heretic-gguf — набор GGUF-квантизаций модели Mistral Small 4 119B 2603 Heretic. Базовая модель разработана Mistral AI, а heretic-версия опубликована darkc0de; данный репозиторий содержит варианты для запуска в формате GGUF. Модель построена на архитектуре Mistral4 с разреженной MoE-структурой и MLA attention: всего 119 млрд параметров, из которых 6,5 млрд активируются на каждом токене, используются 128 экспертов, 4 из них активны одновременно. Модель предназначена для диалогов, генерации и анализа текста, агентских сценариев, вызова функций с JSON-выводом, задач рассуждения и обработки изображений с формированием текстового ответа. Поддерживаются быстрый режим и режим рассуждения с дополнительными вычислениями во время вывода, а также контекст до 256 тысяч токенов. Заявлена мультимодальность с входными данными в виде текста и изображений. Указана поддержка множества языков, включая английский, французский, немецкий, испанский, итальянский, португальский, японский, корейский, китайский, арабский, украинский, хинди и другие. К сильным сторонам относятся большой контекст, сочетание мультимодальности, рассуждения, function calling и агентских возможностей, а также высокая скорость за счёт MoE-архитектуры. Heretic-версия характеризуется меньшим числом отказов по сравнению с исходной моделью по приведённой статистике, однако конкретное поведение и качество зависят от выбранной квантизации. Доступны варианты от BF16 до Q2_K размером примерно от 221,6 до 40,4 GiB; рекомендуемым обозначен Q4_K_M. Лицензия Apache 2.0 допускает коммерческое и некоммерческое использование.

Gemma-4-26B-A4B-it-NVFP4 — community-квантизированная версия инструкционной модели google/gemma-4-26B-A4B-it, опубликованная пользователем или организацией bg-digitalservices. Это мультимодальная модель для генерации текста, обработки изображений и видео, предназначенная для диалоговых приложений, следования инструкциям, рассуждений и работы с длинным контекстом. Модель использует архитектуру Mixture-of-Experts с 25,2 млрд параметров, из которых 3,8 млрд активны для каждого токена. В ней 128 экспертов, одновременно выбираются 8. Поддерживается контекст до 256K токенов и мультиязычный режим. Квантизация выполнена в формате W4A4: веса представлены в FP4, активации — в FP16. Размер модели на диске составляет около 16,5 ГБ вместо примерно 49 ГБ у версии BF16, что обеспечивает примерно двукратное ускорение генерации в протестированной конфигурации. Сильной стороной модели является существенное сокращение требований к памяти при сохранении около 97,6% среднего качества относительно BF16-версии в указанных тестах. Следование инструкциям почти не ухудшается, однако задачи математического рассуждения теряют около 4 процентных пунктов из-за накопления ошибок округления. Для запуска рекомендуется совместимая сборка vLLM с поддержкой Gemma 4 и NVIDIA Model Optimizer; тестирование проводилось на NVIDIA DGX Spark с GPU GB10 Blackwell. Веса vision encoder оставлены в BF16. Модель распространяется по лицензии Apache-2.0.

Mistral-Small-3.1-24B-Instruct-2503-GGUF — текстовая инструкционная модель, разработанная Mistral AI и распространяемая в формате GGUF. Квантование подготовлено bartowski на основе llama.cpp. Модель предназначена для генерации текста, диалоговых приложений, агентских сценариев и задач, требующих продвинутого рассуждения. Модель поддерживает контекст длиной до 128 тысяч токенов и множество языков, включая английский, французский, немецкий, греческий, хинди, индонезийский, итальянский, японский, корейский, малайский, непальский, польский, португальский, румынский, русский, сербский, испанский, шведский, турецкий, украинский, вьетнамский, арабский, бенгальский, китайский и фарси. Указанная версия является текстовой и не поддерживает другие модальности. Размер базовой модели — 24B параметров. К сильным сторонам относятся широкий языковой охват, длинный контекст и ориентация на агентские и сложные задачи рассуждения. Ограничения включают текстовую специализацию, возможные ошибки, неточности и нежелательные ответы, типичные для генеративных моделей, а также зависимость производительности и качества от выбранного варианта квантования и аппаратного обеспечения. Модель распространяется по лицензии Apache-2.0.

Карточка модели Openintelligent123/Llama-3.3-70B-Instruct на Hugging Face совпадает с карточкой unsloth/Llama-3.3-70B-Instruct, поэтому описание составлено по ней. unsloth/Llama-3.3-70B-Instruct — инструктивная мультиязычная языковая модель Meta на архитектуре Llama 3.3, представленная в формате safetensors. Это авторегрессионный трансформер с 69,5 млрд параметров, обученный следовать инструкциям с помощью SFT и RLHF. Модель принимает и генерирует текст; поддерживает диалоговые сценарии и интерфейс вызова инструментов, который разработчики интегрируют самостоятельно. Контекст — до 131 072 токенов. Модель предназначена для чат-ассистентов и генерации текста, в том числе для коммерческого и исследовательского применения. README указывает поддержку английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Условия распространения определяются пользовательской лицензией Llama 3.3 Community License; перед использованием следует соблюдать её положения и Acceptable Use Policy. Модель статична и обучена на офлайн-данных; качество и безопасность ответов требуют проверки, а для неподдерживаемых языков разработчик рекомендует дообучение и дополнительные системные меры.

EXAONE-4.0-32B-AWQ — квантованная версия языковой модели EXAONE 4.0, разработанная LG AI Research. Это авторегрессионная модель для генерации текста, поддерживающая обычный режим работы и режим рассуждений, а также агентное использование с вызовом инструментов. Модель предназначена для диалоговых систем, решения сложных задач, генерации и обработки текста и сценариев, требующих многошагового рассуждения. Модель содержит 30,95 млрд параметров без учёта эмбеддингов, 64 слоя и использует архитектуру GQA с 40 attention heads и 8 KV heads. Для 32B-версии применяется гибридное внимание: локальное sliding-window attention и глобальное full attention в соотношении 3:1, а также архитектурный подход QK-Reorder-Norm. Контекстное окно составляет 131 072 токена, размер словаря — 102 400. Поддерживаются английский, корейский и испанский языки. Версия AWQ использует 4-битное группавое weight-only квантование W4A16g128, что снижает требования к памяти по сравнению с полноразмерной моделью. Сильные стороны модели — сочетание общего режима генерации и reasoning mode, поддержка многоязычных сценариев, длинного контекста и tool calling. Ограничения включают необходимость корректной настройки параметров sampling в режиме рассуждений, а также потенциальные потери качества, связанные с 4-битным квантованием. Модель распространяется по лицензии EXAONE; в карточке указано обозначение лицензии other и ссылка на файл LICENSE.

Mistral-Small-Instruct-2409 — плотная языковая модель на 22 млрд параметров от команды Mistral AI, дообученная следовать инструкциям. Она предназначена для диалогов, генерации текста и вызова функций в приложениях и inference-сервисах. Модель поддерживает контекст до 32 768 токенов и, согласно карточке, функцию вызова инструментов; для запуска рекомендуются vLLM или mistral-inference. Для работы на одном GPU требуется не менее 44 ГБ видеопамяти, либо можно распределить нагрузку между несколькими устройствами. В карточке перечислена поддержка английского, французского, немецкого, испанского, итальянского, португальского, китайского, японского, русского и корейского языков. Репозиторий содержит веса Safetensors. Лицензия указана как other, поэтому условия использования следует проверять в материалах модели на Hugging Face.

unsloth/gemma-3-27b-it-GGUF — GGUF-версия instruction-tuned модели Gemma 3 27B, разработанной Google DeepMind и подготовленной для распространения Unsloth. Модель предназначена для генерации текста, диалогов, ответов на вопросы, суммаризации, рассуждений и понимания изображений с выдачей текстового ответа. Она подходит для локального запуска на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре при наличии достаточных ресурсов. Модель мультимодальная: принимает текст и изображения, нормализованные до 896×896 и представленные как 256 токенов каждое, а генерирует текст. Для версии 27B заявлено контекстное окно до 128K токенов и максимальный объём вывода 8192 токена. Gemma 3 поддерживает более 140 языков; в метаданных данного репозитория отдельно указан английский язык. Объём обучения 27B-версии составил 14 триллионов токенов. К сильным сторонам относятся большой контекст, мультимодальность, широкий языковой охват, instruction-tuned формат и возможность использования GGUF в совместимых локальных инструментах. Ограничения включают значительные требования к вычислительным ресурсам из-за размера 27B, а также зависимость совместимости и производительности от конкретного GGUF-квантизированного варианта и среды запуска; сведения о точном уровне квантизации в карточке не указаны. Использование регулируется лицензией Gemma и соответствующими Terms of Use Google.

InternLM2.5-7B-Chat — диалоговая языковая модель семейства InternLM2.5, разработанная командой InternLM. Это плотная авторегрессионная модель архитектуры InternLM2 с 7,4 млрд параметров, предназначенная для практических сценариев общения и генерации текста. В README заявлены сильные способности к математическим рассуждениям, работе с длинными контекстами и выбору, вызову и проверке результатов инструментов; метаданные указывают контекстное окно 32 768 токенов. Модель подходит для диалоговых ассистентов, ответов на вопросы, рассуждений и агентных сценариев с инструментами. Карточка приводит результаты OpenCompass и примеры использования через Transformers, vLLM и LMDeploy. В README также заявлена работа с контекстом до миллиона единиц текста при использовании LMDeploy, однако это выходит за пределы длины контекста, указанной в метаданных модели. Основной язык карточки — китайский; модель также предназначена для англоязычных сценариев. Лицензия обозначена как other, поэтому конкретные условия следует проверять в репозитории. Модель может генерировать предвзятые, дискриминационные или иные вредоносные ответы.

NVIDIA Llama 3.1 405B Instruct NVFP4 — квантованный чекпойнт Meta Llama 3.1 405B Instruct, подготовленный NVIDIA с помощью TensorRT Model Optimizer. Это авторегрессионная плотная трансформерная языковая модель семейства Llama для генерации текста по инструкциям, диалога и интерфейсов вызова инструментов. Веса и активации линейных операторов в блоках трансформера квантованы до FP4; заявленное сокращение требований к диску и памяти GPU составляет примерно 3,5 раза. Модель содержит 403,7 млрд параметров и поддерживает контекст до 131 072 токенов. Модель принимает текст и выдаёт текст. Для инференса предусмотрен TensorRT-LLM; README указывает совместимость с архитектурой NVIDIA Blackwell и Linux. Можно применять для диалоговых ассистентов, генерации и преобразования текста по инструкциям, а также сценариев с вызовом инструментов. README заявляет возможность коммерческого и некоммерческого использования; лицензия в метаданных — llama3.1. Квантование может влиять на точность, а для запуска требуется совместимое оборудование и программный стек TensorRT-LLM.

unsloth/Llama-3.3-70B-Instruct — инструктивная мультиязычная языковая модель Meta на архитектуре Llama 3.3, представленная в формате safetensors. Это авторегрессионный трансформер с 69,5 млрд параметров, обученный следовать инструкциям с помощью SFT и RLHF. Модель принимает и генерирует текст; поддерживает диалоговые сценарии и интерфейс вызова инструментов, который разработчики интегрируют самостоятельно. Контекст — до 131 072 токенов. Модель предназначена для чат-ассистентов и генерации текста, в том числе для коммерческого и исследовательского применения. README указывает поддержку английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Условия распространения определяются пользовательской лицензией Llama 3.3 Community License; перед использованием следует соблюдать её положения и Acceptable Use Policy. Модель статична и обучена на офлайн-данных; качество и безопасность ответов требуют проверки, а для неподдерживаемых языков разработчик рекомендует дообучение и дополнительные системные меры.

Карточка модели kakaocorp/kanana-2-30b-a3b-thinking-2601 на Hugging Face совпадает с карточкой kakaocorp/kanana-2-30b-a3b-instruct-2601, поэтому описание составлено по ней. Kanana-2-30B-A3B-Instruct-2601 — инструктивная языковая модель компании Kakao для диалогов и сценариев агентного ИИ. Она предназначена для следования сложным инструкциям, логических рассуждений и вызова инструментов; модель можно развернуть, например, через vLLM или SGLang с поддержкой выбора инструментов. Модель основана на архитектуре DeepSeek V3 с механизмом внимания MLA и разреженной смесью экспертов (MoE): всего 30 млрд параметров, из которых активируются около 3 млрд. Контекст составляет до 32 768 токенов. Семейство поддерживает корейский, английский, японский, китайский, тайский и вьетнамский языки. README указывает лицензию как отличную от стандартных вариантов, поэтому перед использованием следует проверить условия на странице репозитория Hugging Face. Для обработки контекста свыше 32 768 токенов требуется отдельно настроить YaRN; такая настройка может повлиять на качество коротких текстов. Метаданные указывают 2,9 млрд параметров, что расходится с описанием серии в README (30 млрд всего и около 3 млрд активных).

aifeifei798/Meta-Llama-3.1-8B-Instruct — мультиязычная инструктивная языковая модель, разработанная Meta на архитектуре Llama 3.1. Это авторегрессионный трансформер с 7,5 млрд параметров и механизмом Grouped-Query Attention; репозиторий содержит веса в формате safetensors. Модель принимает и генерирует текст, настроена на диалог с помощью дообучения по инструкциям и обучения с обратной связью от людей. Контекстное окно — до 131 072 токенов. Модель предназначена для диалоговых помощников, ответов на запросы и других задач генерации текста. В карточке заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков; метаданные также включают китайский, корейский и японский. Возможен интерфейс вызова инструментов, но его интеграцию и безопасность должен обеспечивать разработчик приложения. Условия использования определяет пользовательская лицензия Meta Llama 3.1 Community License; действуют её ограничения и Acceptable Use Policy.

NVIDIA-Nemotron-3-Nano-30B-A3B-FP8 — квантизированная версия большой языковой модели NVIDIA Nemotron-Nano-3-30B-A3B, разработанная NVIDIA Corporation. Модель обучена с нуля и предназначена для генерации текста, решения задач с рассуждением и без него, а также создания специализированных AI-агентов. Она поддерживает английский, немецкий, испанский, французский, итальянский и японский языки. Модель использует гибридную архитектуру Mixture-of-Experts, включающую 23 слоя Mamba-2 и MoE, а также 6 Attention-слоёв. Всего модель содержит 30 млрд параметров, из которых 3,5 млрд активируются для каждого токена. В каждом MoE-слое используются 128 экспертов и один общий эксперт, при этом на токен активируются 6 экспертов. Модель может сначала формировать reasoning trace, а затем итоговый ответ; режим рассуждений настраивается через chat template. Отключение промежуточных рассуждений сокращает вывод, но может немного снизить точность на сложных задачах. Размер контекста в README не указан. К сильным сторонам относятся сочетание эффективности разреженной MoE-архитектуры с возможностями рассуждения, поддержка нескольких языков и готовность к коммерческому использованию. FP8-квантизация может снизить требования к ресурсам по сравнению с полноточной версией, однако конкретные требования к оборудованию не приведены. Показатели на опубликованных тестах у FP8-версии немного ниже, чем у базовой BF16-версии, например 87,7 против 89,1 на AIME25 без инструментов и 78,1 против 78,3 на MMLU-Pro. Использование модели регулируется NVIDIA Nemotron Open Model License.

RedHatAI/Llama-3.1-8B-Instruct — текстовая инструкционно настроенная модель Meta на архитектуре Llama 3.1, опубликованная Red Hat AI. Это авторегрессионный трансформер с 7,5 млрд параметров, использующий Grouped-Query Attention; карточка описывает настройку SFT и RLHF для диалоговых задач. Модель принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов и оснащена интерфейсом для вызова инструментов. Модель предназначена для многоязычного общения в роли ассистента, ответов на запросы и генерации текста, в том числе в коммерческих и исследовательских сценариях. Заявлены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Метаданные указывают на производность от meta-llama/Llama-3.1-8B-Instruct; основание этой связи с описанным в README инструкционным вариантом Meta не уточняется. Карточка сообщает о проверке на платформах Red Hat AI и описывает меры безопасности, но не приводит результаты бенчмарков именно этой копии. К ограничениям относятся возможные ошибки и риски небезопасных ответов, а также рекомендованная поддержка только перечисленных языков; интеграцию и защиту инструментов должен обеспечивать разработчик приложения. Лицензия — Llama 3.1 Community License с условиями допустимого использования.

MiMo-V2-Flash-Base — базовая языковая модель Xiaomi для генерации текста, рассуждений и агентных сценариев. Карточка описывает семейство Mixture-of-Experts с гибридным вниманием, сочетающим локальные окна и глобальное внимание, а также механизмом Multi-Token Prediction для ускорения генерации. В README семейства указаны 309 млрд параметров всего и 15 млрд активных; метаданные этого репозитория указывают 12B параметров и формат safetensors FP8, поэтому размер в каталоге может отражать иной способ подсчёта или вариант весов. Модель рассчитана на длинные контексты до 256 тыс. токенов и задачи генерации текста, сложного рассуждения и работы в агентных процессах. Метаданные также отмечают разговорный режим и интерфейс вызова инструментов. README приводит результаты базовой и постобученной версий семейства, но не позволяет однозначно приписать все заявленные возможности именно этому базовому чекпойнту. Модель создана Xiaomi и распространяется по лицензии MIT. Заявленные характеристики ориентированы на эффективный инференс и работу с длинными контекстами; фактическая скорость и качество зависят от оборудования и используемой конфигурации.

Mistral-Large-Instruct-2407-GGUF — это квантизированная GGUF-версия инструкционной языковой модели Mistral-Large-Instruct-2407, разработанной mistralai и подготовленной квантизацией компанией Second State Inc. Модель предназначена для диалоговых приложений, генерации и преобразования текста, работы с инструкциями и запуска локальных сервисов через LlamaEdge. В README указана поддержка английского, французского, немецкого, испанского, итальянского, португальского, китайского, японского, русского и корейского языков. Максимальный контекст составляет 128000 токенов при запуске как LlamaEdge-сервиса; для командного приложения приведён контекст 32000 токенов. Доступны варианты квантизации от Q2_K до Q5_K_M с разным размером файлов и компромиссом между требованиями к ресурсам и качеством. Рекомендуемым назван вариант Q4_K_M, обеспечивающий сбалансированное качество. Сильными сторонами являются большой контекст, многоязычность и возможность запуска в формате GGUF через LlamaEdge. Более низкие уровни квантизации уменьшают размер модели, но могут существенно ухудшать качество; для Q2_K и ряда Q3/Q4-вариантов README прямо указывает значительную или высокую потерю качества. Архитектура, количество параметров и поддерживаемые модальности в предоставленных данных не указаны; по описанию это текстовая языковая модель. Модель распространяется по лицензии MRL-0.1, обозначенной в README как license: other.