II.2Создание и понимание программного кода

Citaman/command-r-24-layer — текстовая генеративная модель на архитектуре Cohere, созданная сообществом Citaman с помощью mergekit. Веса получены слиянием SLERP двух диапазонов слоёв модели Citaman/command-r-25-layer; в метаданных указано 21,8 млрд параметров и формат safetensors. Модель поддерживает контекст до 8192 токенов и интерфейсы диалога и вызова инструментов. Модель предназначена для генерации текста и диалоговых сценариев, включая взаимодействие с инструментами. Метаданные не указывают поддерживаемые естественные языки или специализированную предметную область. Лицензия в предоставленных данных не указана.

Gemma 3 27B IT GGUF — квантизированная версия инструкционной модели Gemma 3 27B IT, разработанной Google. Модель подготовлена сообществом LM Studio, а GGUF-квантизацию выполнил bartowski на основе llama.cpp. Она предназначена для локального запуска и генерации текста, включая ответы на вопросы, суммаризацию и задачи рассуждения. Модель поддерживает мультимодальный ввод с изображениями, нормализованными до разрешения 896 × 896, а также текстовые сценарии. Заявленная длина контекста составляет до 128 000 токенов, максимальная длина вывода — 8 192 токена. В README не указаны полный перечень поддерживаемых языков, конкретный метод и уровень квантизации, а также требования к аппаратным ресурсам. К сильным сторонам относятся большой контекст, поддержка понимания изображений и пригодность для локального использования через формат GGUF. Ограничения связаны с зависимостью от совместимого llama.cpp runtime версии 1.19.0 или новее, причём актуальная версия runtime на момент публикации обозначена как beta. Как квантизированная сборка, модель может отличаться по качеству и потреблению ресурсов от оригинальной версии. Доступ и использование регулируются лицензией Gemma от Google.

NexoNimbus-7B — объединённая модель разработчика abideen на базе Mistral с 7,1 млрд параметров. Она предназначена для генерации текста и применения в качестве языковой модели общего назначения. Модель получена слиянием abideen/DareVox-7B и udkai/Garrulus методом SLERP; в конфигурации указан контекст до 32 768 токенов, а веса опубликованы в формате safetensors. Карточка приводит результаты оценки на Open LLM Leaderboard и TruthfulQA, но они не гарантируют качество для конкретного приложения. Модель принимает текст и генерирует текст; язык карточки — английский. Репозиторий распространяется по лицензии Apache-2.0.

SG-Raccoon-Yi-55B-200k — авторегрессионная языковая модель на архитектуре Llama, собранная путём слияния двух дообученных моделей Yi 34B: Tess-M-v1.3 и Nous-Capybara-34B. Модель содержит 55,1 млрд параметров и поддерживает контекст до 200 000 токенов; файлы опубликованы в формате safetensors. Разработчик указывает, что это первая объединённая модель такого размера с контекстом 200K. Модель предназначена для генерации текста и диалогового общения. Для подачи запросов README предлагает формат с ролями SYSTEM, USER и ASSISTANT. Автор отмечает, что для Yi может потребоваться отключить BOS-токен или снизить температуру с MinP, а иногда добавить токен остановки в список условий завершения генерации. Лицензия в метаданных обозначена как other, поэтому конкретные условия использования по имеющимся данным определить нельзя. В README результаты бенчмарков не приведены.

Vedika 4.1 Flash — экспериментальная предварительная версия мультимодальной модели Veda Labs с открытыми весами. Это причинная языковая модель с визуальным энкодером, ориентированная на диалог, рассуждения и агентные сценарии; интерфейс также предусматривает вызов инструментов. Для загрузки требуется включить trust_remote_code из-за пользовательской архитектуры. Модель совместима с Transformers и рядом движков инференса. Модель содержит 125 млрд параметров, из которых активируются 6 млрд, а также 51 млрд параметров n-граммных эмбеддингов и 4 млрд параметров MTP. Архитектура сочетает разреженное внимание Vedika, Gated DeltaNet, MoE и gated residual. Заявленная длина контекста — 262 144 токена с возможностью расширения до 1 000 000. README не приводит перечень поддерживаемых языков и численные результаты бенчмарков; модель работает в режиме рассуждений по умолчанию. Лицензия в предоставленных материалах не указана.

Vikhr-7B-instruct_0.4 — русскоязычная инструкционная чат-модель семейства Vikhr, разработанного Александром Николичем, Константином Королёвым и Артёмом Шелмановым. Это плотная causal language model на архитектуре семейства Llama с классом MistralForCausalLM и 7,3 млрд параметров; модель распространяется в формате Safetensors и рассчитана на контекст до 32 768 токенов. Версия 0.4 продолжает релиз 0.3–0.4: авторы увеличили объём данных SFT, чтобы улучшить стабильность работы с JSON, многоходовыми диалогами, длинным контекстом и сложными запросами. Модель предназначена для генерации текста и диалогового взаимодействия на русском и английском языках. Для практического применения доступны материалы для Google Colab и упоминание GGUF. Известные ограничения и условия лицензирования в предоставленной карточке не описаны.

Gemma-4-E4B-it-NVFP4 — мультимодальная instruct-модель семейства Gemma 4, созданная на основе google/gemma-4-E4B-it и оптимизированная для диалогового и чат-применения. Квантованную версию подготовил Mario Iseli с использованием NVIDIA Model Optimizer на платформе NVIDIA DGX Spark. Модель предназначена для генерации текста, а также обработки изображений и аудио; заявлена поддержка multilingual-сценариев и контекстного окна до 128K токенов. Архитектура основана на плотной модели с механизмом Per-Layer Embeddings (PLE), где каждый из 26 декодерных слоёв получает специализированный 256-мерный сигнал. Вариант использует квантование NVFP4 по схеме W4A4: веса и активации языковых слоёв представлены в FP4, а башни обработки изображений и аудио, соответствующие проекционные слои и lm_head сохранены в BF16. Размер модели на диске составляет около 10,2 ГБ, при этом мультимодальные компоненты занимают значительную часть памяти. Ключевые преимущества — уменьшенный размер, возможность запуска на совместимом оборудовании NVIDIA и высокая заявленная скорость около 65 токенов в секунду на DGX Spark. Ограничения включают необходимость vLLM с transformers версии 5.4 или новее, зависимость от поддержки NVFP4 и сохранение значительного потребления памяти мультимодальными башнями. Это общественная квантованная сборка, а не официальный релиз NVIDIA или Google. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой модели.

Карточка модели mylesgoose/Llama-3.1-8B-Instruct на Hugging Face совпадает с карточкой tanliboy/Meta-Llama-3.1-8B-Instruct, поэтому описание составлено по ней. tanliboy/Meta-Llama-3.1-8B-Instruct — текстовая инструктивно настроенная языковая модель семейства Llama 3.1, разработанного Meta. Это плотный авторегрессионный трансформер с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров; модель дообучена для диалогов с помощью SFT и RLHF. Она принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов и ориентирована на многоязычный диалог на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Модель подходит для создания разговорных помощников, ответов на запросы и генерации текста, а также может быть подключена к внешним инструментам через соответствующий интерфейс. Репозиторий содержит веса в формате safetensors. Модель выпущена 6 сентября 2024 года и распространяется по лицензии Llama 3.1 Community License; перед коммерческим или иным применением необходимо соблюдать её условия и Acceptable Use Policy. Качество и безопасность ответов на языках вне восьми заявленных языков могут быть ниже; разработчикам следует оценивать результаты и применять защитные меры в соответствии со своим сценарием. Интеграция внешних инструментов требует отдельной политики и проверки безопасности подключённых сервисов.

Llama-3.1-8B-Magpie-Align-SFT-v0.2 — диалоговая языковая модель семейства Llama 3.1, разработанная Magpie-Align. Это дообученная версия Meta Llama 3.1 8B, обученная на наборах Magpie-Llama-3.1-Pro-500K-Filtered и Magpie-Reasoning-150K. Модель предназначена для диалогов, выполнения инструкций и рассуждений в текстовом формате; для лучшего результата следует использовать официальный шаблон чата Llama 3. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. В README сообщается о результатах, сопоставимых с Llama 3.1 8B Instruct при обучении только методом SFT, включая оценки AlpacaEval 2 и Arena Hard. Модель принимает текст и генерирует текст. README не перечисляет поддерживаемые естественные языки, поэтому язык в описание не добавлен. Использование регулируется лицензией Meta Llama 3.1 Community License.

ionos/Qwen3.8-27B-GPTQ-Int4 — неофициальная 4-битная GPTQ-квантизация мультимодальной модели Qwen/Qwen3.8-27B, созданная сообществом с использованием LLM Compressor. Модель предназначена для работы с текстом и изображениями: она поддерживает понимание документов, визуальное восприятие и рассуждения, математические задачи по изображениям, работу с инструментами и выполнение инструкций. В README явно приведены результаты для английского и немецкого языков; полный список поддерживаемых языков и размер контекстного окна не указан. Используется схема W4A16 с группами по 128 весов и симметричной GPTQ-квантизацией. Большинство линейных модулей языковой части модели в 64 слоях квантизированы до 4 бит, тогда как vision tower, эмбеддинги, lm_head и некоторые небольшие чувствительные компоненты сохранены в BF16. Архитектура, токенизатор, chat template и конфигурация процессора не изменены относительно базовой модели, а объём весов составляет примерно треть от версии BF16. Модель рассчитана на запуск, в частности, через vLLM; для неё требуется свежая версия transformers. По приведённым сравнениям модель в целом сохраняет качество базовой версии в задачах понимания документов, визуального рассуждения и английских знаний. Отдельно отмечено снижение результата на немецком языке примерно на 3 процентных пункта, поэтому немецкоязычные сценарии требуют собственной проверки. Результаты для tool calling и instruction following близки к базовой модели, но их абсолютные значения в тесте снижены особенностями измерения с включённым reasoning. Для табличного вывода рекомендуется использовать JSON-схему или грамматику с последующей валидацией. Модель распространяется по лицензии Apache-2.0, однако сама квантизация не является официальной и не проверялась командой Qwen или Alibaba Cloud.

ZOZ-Reasoning-Master-3B — компактная языковая модель на 3,09 млрд параметров, разработанная z51722369 на архитектуре Qwen2 и дообученная для работы в роли диалогового агента с инструментами. В карточке описан трёхэтапный процесс обучения: настройка вызова функций и соблюдения схем, дообучение на задачах поиска и рассуждения в длинном контексте, затем диалоговое выравнивание на Magpie-Pro. Указанная в README базовая модель — Qwen2.5-3B-Instruct; метаданные связывают модель с z51722369/ZOZ-Function-Master-3B-LongContext. Модель предназначена для локальных RAG-систем, извлечения данных из документов и многошаговых диалогов, а также для маршрутизации запросов и вызова API или вебхуков. Она принимает текст, поддерживает контекст до 32 768 токенов и выдаёт текст, включая структурированные ответы и вызовы инструментов. README сообщает, что поставляются объединённые веса FP16; лицензия — Apache-2.0. Среди ограничений автор отмечает, что модель на 3B параметров уступает крупным моделям в энциклопедических знаниях и лучше работает, когда ответ опирается на предоставленный контекст или инструменты. Хотя размер контекста составляет 32K токенов, для баланса скорости и памяти в README рекомендованы последовательности длиной 1 024–4 096 токенов.

ehristoforu/fq2.5-7b-it-normalize_false — объединённая инструктивная языковая модель на архитектуре Qwen2, созданная с помощью mergekit и метода Model Stock на основе Qwen/Qwen2.5-7B-Instruct. В объединение вошли модели для работы с длинным контекстом и RAG, рассуждений, математики, а также неконтролируемой генерации. Модель предназначена для диалоговой генерации текста и ответов на инструкции; заявленный контекст составляет 32 768 токенов. Размер — 7,1 млрд параметров. Репозиторий содержит веса safetensors для библиотеки Transformers и метаданные отмечают интерфейс вызова инструментов. Составное объединение может сочетать возможности исходных моделей, однако карточка не приводит количественных оценок качества или отдельных результатов тестирования. Лицензия в предоставленных источниках не указана.

GLM-5.3-Flash EXL3 K2 — общественный квантованный пакет модели GLM-5.3-Flash-BF16, подготовленный vcruz305 на основе модели Z.AI. Это текстогенерационная модель с архитектурой Glm5NextForConditionalGeneration и поддержкой английского и китайского языков. Квантование EXL3 с точностью 2 бита применяется только к маршрутизируемым MoE-экспертам; компоненты внимания, общие слои, эмбеддинги, выходная голова и vision-компоненты сохраняют исходный формат. Пакет состоит из 120 файлов safetensors и занимает около 91 ГиБ. Модель предназначена для генерации текста и сценариев инференса с большим контекстом. Заявленный максимальный выделяемый контекст составляет 131072 токена, рекомендуемый контекст обслуживания — 65536 токенов; отдельно проверено извлечение данных из реальных текстов длиной до 163479 токенов. На NVIDIA GB10 заявлена скорость 15,7–16,5 токена в секунду при контексте 8K и 14,6–15,7 токена в секунду при 64K с использованием native MTP k=2. К преимуществам относятся существенно уменьшенный размер по сравнению с полноточными весами, поддержка MoE и длинного контекста. Ограничения включают снижение точности из-за 2-битного квантования, необходимость специальной сборки vLLM с поддержкой EXL3 и Glm5Next, а также известную ошибку runtime для некоторых запросов длиной примерно от 163K до 180K токенов. Лицензия весов — MIT.

KRONOS-8B-V3 — языковая модель, созданная командой T145 слиянием нескольких предварительно обученных моделей методом TIES в mergekit; базой слияния служит unsloth/Meta-Llama-3.1-8B. В состав также вошли mukaj/Llama-3.1-Hawkish-8B, KRONOS-8B-V1-P1, KRONOS-8B-V1-P3 и Meta-Llama-3.1-8B-Instruct. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 7,5 млрд параметров. Модель предназначена для генерации текста и диалогов, а также имеет интерфейс для вызова инструментов. Поддерживает контекст до 131 072 токенов. В карточке приведены результаты оценок на IFEval и BBH, но сведений о поддерживаемых естественных языках и лицензии нет. Доступные веса размещены в формате safetensors.

djuna/L3.1-Purosani — языковая чат-модель на архитектуре Llama, созданная объединением нескольких предварительно обученных моделей с помощью mergekit и метода della_linear. В основу слияния вошли arcee-ai/Llama-3.1-SuperNova-Lite и grimjim/Llama-3-Instruct-abliteration-LoRA-8B; также в объединении использованы модели для вычислений, длинных текстов и диалогов. Число параметров составляет 7,5 млрд, заявленная длина контекста — 131 072 токена. Модель предназначена для генерации текста в диалоге и выполнения инструкций. Она работает с текстом и может применяться для ответов на вопросы, составления и продолжения текстов, а также обработки длинных запросов. В метаданных указаны библиотека Transformers и формат весов safetensors. Лицензия в предоставленных данных не указана.

Mistral-Small-3.2-24B-Instruct-2506-MLX-8bit — это 8-битная квантованная версия мультимодальной инструкционной модели Mistral-Small-3.2-24B-Instruct-2506, разработанной компанией Mistral AI. Квантование выполнено командой LM Studio с использованием MLX и mlx_vlm. Модель предназначена для запуска на устройствах с Apple Silicon и поддерживает сценарии генерации текста по инструкциям, а также обработки изображений и текста, о чём свидетельствует мультимодальный профиль image-text-to-text. Она поддерживает английский, французский, немецкий, испанский, португальский, итальянский, японский, корейский, русский, китайский, арабский, персидский и другие языки, перечисленные в карточке модели. Ключевые характеристики — 24 млрд параметров в исходной модели, 8-битное представление весов и оптимизация для экосистемы Apple Silicon. Квантование снижает требования к памяти и делает локальный запуск практичнее, однако может немного повлиять на точность по сравнению с полной версией. Длина контекста в README не указана. Модель распространяется по лицензии Apache 2.0; LM Studio не является её разработчиком и не гарантирует точность, безопасность или пригодность генерируемого содержимого.

N8Programs/Qwen3.6-35B-A3B-AntiLoop — версия в формате BF16 модели N8Programs/Qwen3.6-35B-A3B-AntiLoop-NVFP4. Согласно метаданным, это дообученная на базе Qwen/Qwen3.6-35B-A3B мультимодальная модель семейства Qwen3.5 MoE с архитектурой Qwen3_5MoeForConditionalGeneration. Она предназначена для диалогов и работы с изображениями; метаданные также отмечают интерфейс вызова инструментов. Базовая модель описана как модель с 35 млрд параметров для диалогов, агентного программирования и анализа изображений. Репозиторий содержит веса BF16 в формате safetensors. Лицензия — Apache-2.0. Карточка этой версии отсылает за рекомендациями по запуску, обучающим данным, оценкам и ограничениям к карточке NVFP4-релиза; подробностей об изменении AntiLoop в README нет.

Vishva007/Qwen3.8-27B-W4A16-AutoRound-GPTQ — квантованная версия модели Qwen/Qwen3.8-27B, подготовленная с использованием алгоритма Intel AutoRound. Базовая архитектура разработана командой Qwen; автор репозитория адаптировал её для более экономичного запуска. Модель относится к мультимодальным vision-language моделям и поддерживает сценарии обработки текста и изображений с генерацией текста, включая визуальное рассуждение и OCR. Модель содержит около 27 млрд параметров и использует формат W4A16: веса представлены в 4-битном виде, а активации — в 16-битном. Квантование выполнено с размером группы 64, симметричной схемой и калибровкой на 512 образцах. Vision tower сохранён в формате BF16, как и специальные MTP-слои, что должно помогать сохранять качество работы с изображениями. Заявленное потребление видеопамяти составляет примерно 16–18 ГБ против около 54 ГБ у исходной BF16-модели; это позволяет запускать модель на одной видеокарте с 24 ГБ памяти. В README приведён пример использования с vLLM и длиной контекста 4096 токенов, однако полный набор поддерживаемых языков и исходный максимальный контекст не указаны. К преимуществам относятся существенно сниженные требования к VRAM, потенциально более высокая скорость декодирования за счёт уменьшения нагрузки на пропускную способность памяти и сохранение vision tower в BF16. Ограничениями являются возможная потеря точности из-за 4-битного квантования, зависимость от совместимости используемого движка с AutoRound или GPTQ и отсутствие подробных результатов бенчмарков. Модель распространяется по лицензии Apache-2.0.

Qwythos-27B-v1-i1-GGUF — это квантизированная GGUF-версия модели Qwythos-27B-v1, разработанной empero-ai и подготовленной квантизатором mradermacher. Модель предназначена для задач рассуждения, работы с текстом и изображениями, генерации текста по изображениям, использования инструментов и function calling, а также агентских сценариев. В тегах также указаны направления cybersecurity и biomedical, однако подробности специализированного обучения в README не приведены. Модель имеет размер 27B параметров, поддерживает английский язык и относится к мультимодальным vision-моделям. Заявлена поддержка длинного контекста до 1M токенов, multi-token prediction и различных методов обучения, включая SFT, DPO, ESFT и full fine-tune, но технические детали архитектуры и подтверждённые характеристики контекстного окна не раскрыты. Репозиторий содержит варианты квантизации от Q2_K до Q6_K и IQ-кванты: более компактные варианты требуют меньше памяти, но могут снижать качество; Q4_K_M отмечен как быстрый и рекомендуемый, а Q4_K_S — как оптимальный по сочетанию размера, скорости и качества. Модель распространяется под лицензией Apache-2.0. Для работы с изображениями могут потребоваться отдельные mmproj-файлы из статического репозитория. README не содержит результатов тестирования, подробных ограничений безопасности или инструкций по выбору аппаратных ресурсов, поэтому фактическое качество и производительность зависят от выбранного варианта квантизации и используемого программного окружения.

ERNIE-4.5-300B-A47B-2Bits-TP4-Paddle — текстовая MoE-модель семейства ERNIE 4.5, разработанная Baidu и размещённая в формате SafeTensors для запуска на PaddlePaddle. Она предназначена для диалогов, понимания языка и генерации текста; README также описывает веб-поиск с передачей вопроса, даты и найденных ссылок в промпте. Модель содержит 300 млрд параметров, из которых для каждого токена активируются около 47 млрд, и поддерживает контекст до 131 072 токенов. В README говорится о мультимодальном обучении семейства ERNIE 4.5, однако эта версия обозначена как текстовая, поэтому не следует считать, что она принимает изображения. Репозиторий указывает 47,1 млрд параметров; это расходится с общим описанием 300 млрд параметров и 47 млрд активированных параметров, вероятно, из-за способа учёта параметров. Для эксплуатации README приводит пример FastDeploy с квантизацией WINT4 и параллелизмом по тензорам. Лицензия — Apache-2.0.

gemma-4-12B-it-GGUF — это GGUF-сборка мультимодальной модели Google DeepMind gemma-4-12B-it, опубликованная prithivMLmods. Модель предназначена для генерации и понимания текста, анализа изображений, видео и аудио, категоризации контента, сжатия контекста и локальных AI-приложений без зависимости от API. Она также ориентирована на агентские сценарии и многошаговое рассуждение. Модель имеет 12 млрд параметров и унифицированную encoder-free архитектуру: текстовые, визуальные и аудиоданные поступают непосредственно в основу LLM без отдельных vision- и audio-энкодеров. Заявлены сниженные задержка и потребление памяти, поддержка Multi-Token Prediction для ускорения вывода и работа на устройствах примерно с 16 ГБ памяти. В README указан английский язык и мультимодальный режим image-text-to-text; размер контекста не указан. Доступны варианты GGUF от Q2_K до Q8_0, а также BF16 и F16, с размерами основных файлов от 4,83 до 23,8 ГБ. Сильными сторонами являются мультимодальность с нативной поддержкой аудио, возможность локального запуска и широкий выбор уровней квантования. Ограничения README не описывает; в частности, отсутствуют подробности о фактической производительности, поддерживаемых языках кроме английского, максимальном контексте и требованиях к конкретному оборудованию. Модель распространяется по лицензии Apache 2.0.

Huihui-Qwen3.5-27B-Opus-abliterated-YaRN-1M — текстовая генеративная модель на архитектуре Qwen3.5 с 27 млрд параметров, представленная в GGUF BF16. Это версия модели HuihuiAI с расширением контекста YaRN и включённым пошаговым рассуждением; в README также указана поддержка изображений через файл mmproj. Модель предназначена для диалогов, генерации текста и работы с длинными контекстами: заявлено 262 тысячи токенов активного контекста и до 1 млн токенов с YaRN, а максимальная длина ответа — 81 920 токенов. Карточка указывает английский язык. Для контекста 262K заявлено около 60 ГБ видеопамяти, для 1M — около 90 ГБ. Модель основана на HuihuiAI/Huihui-Qwen3.5-27B-Opus-abliterated; исходное семейство разработано командой Qwen. Лицензия — Apache-2.0. Термин «abliterated» указывает на изменение поведения модели, однако README не уточняет его влияние на безопасность или качество; длинный контекст требует значительных ресурсов видеопамяти.

Vikhrmodels/it-5.3-fp16-32k — русско-английская чат-модель семейства Vikhr, разработанная авторами открытых Vikhr instruction-tuned моделей. Это плотная авторегрессионная Llama-модель на 7,3 млрд параметров для диалогов и генерации текста. Вариант 0.5 получил дополнительное обучение SFT, настройку параметров предобучения и контекст RoPE длиной 32 768 токенов. Модель рассчитана на многоходовые диалоги, ответы на сложные запросы и создание JSON; README отмечает более стабильную работу с JSON и многоходовыми диалогами на длинном контексте. Репозиторий содержит веса в формате Safetensors и распространяется по лицензии Apache 2.0. Карточка указывает поддержку русского и английского языков. Модель может ошибаться в фактах и следовании формату; улучшенная стабильность JSON и длинного контекста не гарантирует корректный результат для каждого запроса. Для задач, требующих высокой надёжности, ответы следует проверять.

Loxa-4B — языковая модель на 4 млрд параметров, опубликованная frameai. Она построена на плотной архитектуре семейства Llama и предназначена для генерации текста; в карточке также описаны сценарии классификации, ответов на вопросы, перевода и суммаризации. Модель поддерживает контекст до 131 072 токенов и работает через библиотеку Transformers; доступны веса в формате safetensors и интерфейсы чата и вызова инструментов. Модель рассчитана на исследовательскую и разработческую работу с текстом и кодом. Автор заявляет о работе на CPU и видеокартах GTX, однако не приводит проверяемых бенчмарков или подробностей обучения; заявленные 96% точности нельзя однозначно интерпретировать. Возможны предвзятые или фактически неверные ответы, поэтому результаты следует проверять, особенно в критически важных сценариях. Лицензия в предоставленных данных не указана.

NousResearch/Meta-Llama-3.1-70B — текстовая большая языковая модель, разработанная Meta и представленная в репозитории NousResearch. Это плотная авторегрессионная модель семейства Llama 3.1 с архитектурой оптимизированного Transformer и Grouped-Query Attention; объём — 69,5 млрд параметров. Модель принимает и генерирует текст, а контекстное окно составляет до 131 072 токенов. Модель предназначена для генерации текста и многоязычного диалогового взаимодействия: её можно применять как основу для чат-ассистентов, а также для адаптации под различные задачи генерации естественного языка. Поддерживаемые языки — английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Карточка описывает инструктивно настроенные модели семейства как прошедшие SFT и RLHF, но не уточняет отдельно тип настройки именно этого репозитория. К преимуществам относятся большой контекст и поддержка нескольких языков. Возможны ошибки и небезопасные ответы; качество на языках вне перечисленных поддерживаемых языков не гарантируется. Модель распространяется по пользовательской коммерческой лицензии Llama 3.1 Community License, условия которой следует проверить перед использованием.

NousResearch публикует инструкционно настроенную модель Meta Llama 3.1 70B Instruct — плотную авторегрессионную языковую модель на архитектуре Transformer с 69,5 млрд параметров. Она принимает и генерирует текст, а версия Instruct предназначена для многоязычного диалога и работы в роли ассистента. Настройка включает дообучение с учителем и обучение с подкреплением на основе отзывов людей; модель поддерживает контекст до 131 072 токенов и использует Grouped-Query Attention для повышения эффективности вывода. Модель подходит для диалоговых приложений, ответов на вопросы и генерации текста на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Её можно запускать через Transformers; карточка также описывает варианты загрузки в 4- и 8-битном формате для снижения требований к памяти. Русский язык не входит в перечень поддерживаемых языков. Ответственность за безопасную интеграцию, включая подключение внешних инструментов, лежит на разработчике приложения. Модель разработана Meta и распространяется по лицензии Llama 3.1 Community License с условиями, изложенными в лицензии и Acceptable Use Policy. Это статический чекпойнт, обученный на офлайн-данных; качество и безопасность ответов требуют проверки в целевом сценарии.

SuperAGI разработала Mistral-7B-32K-PoSE — плотную авторегрессионную языковую модель семейства Mistral с 7,1 млрд параметров. С помощью техники PoSE контекст модели расширен до 32 768 токенов; README сообщает о высокой эффективности в извлечении информации из длинного контекста и лишь небольшом снижении результатов на стандартных тестах. Модель предназначена для генерации текста и работы с длинными текстовыми запросами, в частности для поиска конкретных сведений в больших фрагментах текста. Она доступна в формате safetensors и распространяется по лицензии Apache-2.0. В README приведён пример загрузки через Transformers. У модели нет механизмов модерации и защитных ограничений; разработчики предупреждают о рисках токсичности, социальных предубеждений и ограничений по языкам и не рекомендуют её для использования в production без дополнительных мер безопасности.

Swicked86/phi4-mm-gguf — набор GGUF-квантизаций мультимодальной модели Phi-4-multimodal-instruct, разработанной Microsoft. Модель содержит 5,6 млрд параметров и принимает текст, изображения и аудио; репозиторий подготовлен с помощью llama.cpp build b8347 для локального запуска на CPU и GPU. Модель предназначена для диалогов, ответов на вопросы по изображениям, визуального анализа, распознавания и объяснения содержимого графиков и документов, а также для обычных текстовых задач. Заявлен английский язык. Доступны варианты F16 размером 7,17 ГБ, Q8_0 размером 3,90 ГБ и Q4_K_M размером 2,37 ГБ. Для обработки изображений требуется отдельный файл vision encoder mmproj-phi4-mm-f16.gguf размером 825 МБ, совместимый со всеми текстовыми вариантами. В текстовом режиме README указывает поддержку контекста до 65 536 токенов, а в примерах мультимодального запуска используется контекст 8 192 токена. Q8_0 обеспечивает качество, близкое к F16, тогда как Q4_K_M требует меньше памяти и подходит для CPU или систем с ограниченной VRAM, но уступает по показателю perplexity. Ориентировочные требования VRAM при полной выгрузке на GPU составляют около 10 ГБ для F16, 5,4 ГБ для Q8_0 и 3,5 ГБ для Q4_K_M. Для работы с изображениями необходимо скачивать основной GGUF-файл вместе с mmproj; без него модель работает только с текстом. Мультимодальные оценки в README на момент публикации не завершены. Распространение заявлено по лицензии MIT, как и у исходной модели Microsoft.

QwQ-LCoT1-Merged — объединённая текстовая языковая модель, созданная prithivMLmods методом Model Stock с помощью mergekit. В объединение вошли QwQ-LCoT-7B-Instruct и QwQ-LCoT2-7B-Instruct, а базовой моделью служит Qwen/Qwen2.5-7B-Instruct. Модель построена на архитектуре Qwen2, содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалогов, следования инструкциям, генерации текста и решения задач, требующих логических рассуждений и пошагового анализа. Она работает с текстом и может использоваться для составления подробных объяснений и структурированных ответов. Ограничения по качеству и языковому охвату в карточке не описаны; возможности рассуждения не гарантируют правильность ответов. Файлы опубликованы в формате safetensors, библиотека — Transformers. Лицензия в предоставленных данных не указана.

QwQ-R1-Distill-7B-CoT — диалоговая языковая модель от prithivMLmods, дообученная на базе deepseek-ai/DeepSeek-R1-Distill-Qwen-7B. Это плотная модель семейства Qwen2 с 7,1 млрд параметров, рассчитанная на генерацию текста, следование инструкциям и многошаговые рассуждения с подробными объяснениями. Она подходит для решения логических задач, ответов на вопросы, создания и суммирования текстов, а также учебных приложений. Модель принимает текст и генерирует текст; заявленный нативный контекст — 131 072 токена. В карточке указан английский язык. Модель доступна в формате safetensors и распространяется по лицензии Apache-2.0. В README отмечены риски фактических ошибок и галлюцинаций, возможные смещения обучающих данных, ограниченные знания в узких областях и высокие требования к вычислительным ресурсам.