II.1Анализ требований и архитектура ПО

XVERSE-65B — мультиязычная базовая большая языковая модель, самостоятельно разработанная компанией Shenzhen Yuanxiang Technology. Она построена на плотной архитектуре Decoder-only Transformer и предназначена для генерации текста, включая продолжение запросов и подготовку материалов для многошагового диалога, ответов на вопросы и суммаризации. В модели 65,6 млрд параметров, контекст — до 16 384 токенов; она использует BPE-токенизатор с словарём из 100 534 токенов и распространяется в формате PyTorch. Модель обучена на 2,6 трлн токенов из веб-страниц, кода, энциклопедий, книг, научных публикаций и других источников. README указывает поддержку 41 естественного языка, включая китайский, английский, русский и испанский; наибольшие доли обучающих данных приходятся на английский и китайский. Лицензия Apache-2.0. Это базовая, а не специально настроенная для диалога модель, поэтому качество следования инструкциям и ответы в формате ассистента не гарантируются; возможны ошибки и смещения, характерные для генеративных языковых моделей.

Это резервная исследовательская копия чекпойнта в стандартном формате Hugging Face, совместимая с AutoModelForCausalLM. Модель на архитектуре Qwen2 с плотной структурой и примерно 7,1 млрд параметров предназначена для генерации текста и диалогового взаимодействия; заявлено контекстное окно до 131 072 токенов и интерфейс вызова инструментов. В карточке не описаны специальные области применения, языковое покрытие и результаты оценки качества. Файлы представлены в формате safetensors, библиотека — Transformers. Лицензия в доступных сведениях не указана.

GLM4-32B-Neon-v2-GGUF — это квантизированная версия языковой модели GLM4-32B-Neon-v2, разработанной allura-org и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и запуска в локальных приложениях, совместимых с llama.cpp, включая LM Studio. В карточке указана поддержка английского языка и лицензия MIT. Модель содержит 32 млрд параметров; доступны варианты от BF16 до различных форматов квантизации Q8, Q6, Q5, Q4, Q3 и IQ. Квантизация выполнена с использованием imatrix на базе llama.cpp release b5228. Старшие варианты обеспечивают более высокое качество, а младшие требуют меньше оперативной памяти, но могут заметно уступать по качеству. Для работы рекомендуется использовать указанный формат промпта с системным сообщением, пользовательским запросом и ответом ассистента. Это текстовая модель: сведения о поддержке изображений, аудио, других модальностей, размере контекста и архитектурных особенностях в README не приведены. Для запуска необходима совместимая инфраструктура llama.cpp и объём памяти, соответствующий выбранному файлу; размеры файлов варьируются примерно от 13,66 до 65,14 ГБ.

Bielik-Minitron-7B-v3.0-Instruct — генеративная языковая модель команды SpeakLeash и центра ACK Cyfronet AGH, созданная при участии NVIDIA. Это причинная декодерная модель с 7,35 млрд параметров для диалогов и выполнения инструкций; она использует шаблон чата ChatML и распространяется в формате Safetensors для Transformers. Модель получена сжатием и дообучением Bielik-11B-v3-Base-20250730: структурная обрезка и дистилляция знаний сократили число параметров на 33,4%, после чего модель прошла настройку инструкций и выравнивание предпочтений. Она предназначена для генерации ответов и решения языковых задач на европейских языках; особое внимание при обучении уделено польскому. Авторы сообщают о восстановлении примерно 90% производительности исходной модели и ускорении вывода до 50%. Лицензия Apache 2.0. Модель может ошибаться и выдавать предвзятый, оскорбительный или иной нежелательный текст; встроенных механизмов модерации нет. Ее ответы не следует считать проверенными фактами.

DeepSeek-V2-Lite — языковая модель компании DeepSeek для генерации текста и диалогового общения. Она предназначена для дополнения текста, ответов в чате и локального развертывания; в README также описаны базовая и дообученная для чата версии семейства. Модель поддерживает английский и китайский языки, а метаданные указывают на контекстное окно до 163 840 токенов. Архитектура DeepSeek-V2-Lite сочетает разреженную Mixture-of-Experts (MoE) с Multi-head Latent Attention (MLA), которая сжимает KV-кэш для более эффективного вывода. README приводит 16 млрд общих параметров и 2,4 млрд активных параметров на токен; метаданные каталога указывают 2,5 млрд параметров. В README указано, что для инференса BF16 требуется GPU с 40 ГБ памяти. Модель подходит для локальных чат-сервисов и генерации текста. Заявленная в README лицензия не уточнена; метаданные Hugging Face обозначают её как other, поэтому конкретные условия использования следует проверять в файлах лицензии репозитория.

DeepSeek-V4-Flash-0731 GGUF — квантизированная версия текстовой генеративной модели DeepSeek-V4-Flash-0731, разработанной командой DeepSeek и преобразованной в формат GGUF пользователем qtum с использованием llama.cpp. Модель предназначена для генерации и продолжения текста, включая работу с английскими и китайскими запросами, а также для локального запуска через llama.cpp на одной или нескольких видеокартах. Модель использует разреженную MoE-архитектуру с маршрутизацией к 6 экспертам из 256 на каждом токене. В репозитории представлены несколько уровней квантизации размером от 58,8 до 129,9 GiB, распределённых по четырём сегментам; также доступна исходная эталонная сборка размером 145,6 GiB. Все варианты калиброваны с использованием смешанных фрагментов кода, английского и китайского текста. Заявленный размер контекста в примерах запуска составляет 8192 токена, а для speculative decoding — 2048 токенов. Сильными сторонами сборки являются широкий выбор уровней сжатия, защита наиболее важных компонентов модели от чрезмерной квантизации и поддержка DSpark speculative decoding. При этом уменьшение размера сопровождается ростом perplexity, а варианты IQ1 и IQ2 заметно уступают более крупным сборкам по точности. Speculative decoding в текущей реализации требует размещения модели и черновой модели на одном GPU и не работает при распределении целевой модели более чем на одну видеокарту; для запуска нужны все сегменты выбранного варианта. Лицензия — MIT, унаследованная от базовой модели.

DeepSeek-V4-Flash-GGUF — набор GGUF-квантизаций базовой модели DeepSeek-V4-Flash, разработанной deepseek-ai и опубликованной пользователем teamblobfish. Модель предназначена для генерации текста, агентских сценариев и задач с вызовом инструментов, включая рабочие процессы наподобие Claude Code. Варианты представлены с разной степенью квантизации: от Q8_0 размером около 282 ГиБ до IQ1_S-XL размером около 57 ГиБ. Рекомендуемый вариант Q4_K_M-XL занимает около 163 ГиБ и сочетает 4-битное тело модели с хранением ряда важных тензоров в Q8_0; заявлена поддержка tool calling. GGUF-файлы используют архитектуру DeepSeek V4 с MoE-компонентами и специализированными операциями, включая compressor decode, hyperconnection, lightning indexer, FP8 KV simulation и NextN heads. Для запуска требуется форк llama.cpp с поддержкой V4; стандартный upstream llama.cpp не подходит. Поддерживаются Apple Silicon через Metal, NVIDIA CUDA на совместимых GPU и CPU. ROCm, Vulkan и Metal на AMD не поддерживают необходимые V4-ядра. В репозитории также присутствуют встроенный DSML chat template и калибровочные данные для некоторых вариантов. Проект находится в статусе WIP. Квантизации позволяют уменьшить требования к диску и памяти, однако качество и производительность зависят от выбранного варианта и оборудования; для некоторых старых GPU CUDA-путь FP8 не был проверен в работе. Модель и материалы репозитория распространяются по лицензии MIT.

RedHatAI/diffusiongemma-26B-A4B-it-NVFP4 — это квантизированный вариант модели google/diffusiongemma-26B-A4B-it, подготовленный Red Hat AI. Модель предназначена для генерации текста и обработки задач image-text-to-text; поддерживает работу через Transformers и vLLM. Веса и активации квантизированы в формат NVFP4 с 4-битным представлением, а сохранение выполнено в формате compressed-tensors с использованием llm-compressor. Исходная модель содержит около 25,8 млрд параметров, включая примерно 22,8 млрд экспертных и 3 млрд неэкспертных параметров. В составе указаны текстовые и визуальные компоненты, включая vision tower, однако точные поддерживаемые языки и размер контекстного окна в карточке не приведены. Модель ориентирована на диалоговые сценарии, рассуждения, решение математических и научных задач, следование инструкциям и обработку мультимодальных запросов. Сильная сторона версии NVFP4 — существенное снижение требований к памяти и возможность эффективного развёртывания на совместимом оборудовании. По приведённым тестам на одной GPU B200 качество в большинстве задач близко к исходной неквантизированной модели: показатели сохранения качества составили около 97–100% на AIME 2025, GPQA Diamond, IFEval и GSM8K, а на MMLU 0-Shot результат оказался выше исходного. Ограничения включают возможные потери качества из-за квантизации и зависимость от совместимых версий Transformers, vLLM и параметров запуска; в карточке также не приведены подробные ограничения применения и результаты для языков. Модель распространяется по лицензии Apache 2.0. Для развёртывания заявлена проверка совместимости с RHOAI 3.5, RHAIIS 3.5 и vLLM 0.24.0.

DiscoLM 70b — языковая модель команды DiscoResearch, обученная Бьёрном Плюстером на базе LeoLM 70B. Это плотная авторегрессионная модель семейства Llama 2 с 68,7 млрд параметров и контекстом до 8192 токенов. После дополнительного предобучения на 65 млрд токенов немецкого текста модель дообучили на наборах инструкций и диалогов, включая SlimOrca, OpenHermes, MetaMathQA и UltraChat DE. Модель предназначена для генерации текста и ответов на инструкции и подходит для диалогов, письма, рассуждений, решения математических задач и написания кода. Усилена поддержка немецкого языка при сохранении возможностей английского; карточка также приводит результаты тестов по нескольким задачам. Разработчики называют модель ранней альфа-версией и предупреждают о возможном загрязнении тестовых данных. Для использования заявлена лицензия Llama 2 с её ограничениями и ограничениями обучающих наборов; авторы указывают исследовательское назначение.

Dolphin 2.5 Mixtral 8x7B GGUF — это набор квантованных файлов модели cognitivecomputations/dolphin-2.5-mixtral-8x7b, подготовленный MaziyarPanahi в формате GGUF. Модель предназначена для генерации текста и может использоваться локально через llama.cpp и совместимые приложения и библиотеки, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. В основе лежит архитектура Mixtral с конфигурацией 8x7B; точный размер контекста и полный набор поддерживаемых языков в README не указаны, хотя модель помечена как предназначенная для английского языка. Доступны варианты квантования от 2 до 8 бит, включая форматы Q2_K, Q3_K, Q4_K, Q5_K и Q6_K, что позволяет выбирать между меньшим потреблением памяти и сохранением качества. Квантование упрощает запуск на локальном оборудовании, но варианты с меньшей разрядностью могут иметь более низкое качество генерации. Модель обучалась на наборах данных Dolphin, Airoboros, Dolphin Coder, Synthia, OpenHermes, Magicoder и других, перечисленных в карточке. Сценарии применения включают локальную генерацию текста и, судя по составу данных и тегам, задачи общего назначения и программирования, однако специализированные возможности и ограничения отдельно не описаны. Распространяется по лицензии Apache-2.0.

Eunoia-Llama-8B-R1 — объединённая текстовая языковая модель на архитектуре Llama, созданная с помощью mergekit методом TIES. В основу объединения вошли GoToCompany/llama3-8b-cpt-sahabatai-v1-instruct и huihui-ai/DeepSeek-R1-Distill-Llama-8B-abliterated; итоговая модель содержит около 7,5 млрд параметров и использует формат Safetensors. Модель предназначена для генерации текста и диалогового взаимодействия. Карточка базовой модели указывает на сценарии рассуждений, математики и программирования, однако README Eunoia не содержит отдельных оценок качества или подробных рекомендаций по применению. Контекст составляет 8192 токена. Данных о поддерживаемых естественных языках и лицензии в предоставленных источниках нет.

Gemma-2-2b-All-in-One — объединённая разговорная языковая модель семейства Gemma 2, созданная bunnycore с помощью mergekit и метода Model Stock. В основе объединения лежит IlyaGusev/gemma-2-2b-it-abliterated; также включены модели и адаптеры для смешанных задач, кода и диалогов. Модель содержит 2,7 млрд параметров, использует плотную архитектуру Gemma2ForCausalLM и работает с контекстом до 8192 токенов. Модель предназначена для генерации текста в диалоге, ответов на вопросы и помощи с кодом. В метаданных указана поддержка чата и текстовой генерации; дополнительных входных модальностей не заявлено. Карточка не перечисляет языки, поэтому нельзя определить приоритетный язык. Веса опубликованы в формате safetensors и имеют тип bfloat16. Результат слияния объединяет несколько моделей с разными настройками и возможностями, поэтому качество может различаться в зависимости от задачи. Лицензия в предоставленных данных не указана.

Это мультимодальная инструкционная модель Gemma 4 на 12 млрд параметров, созданная tepirale с помощью слияния моделей методом DARE TIES. В качестве основы использована google/gemma-4-12B-it; в слияние также вошли модели tepirale для агентных сценариев и генерации кода. Репозиторий содержит веса в формате Safetensors и предназначен для использования с библиотекой Transformers. Модель принимает текст и изображения и генерирует текст. Её можно применять для диалога по изображениям, анализа визуального содержимого и задач с кодом или агентным поведением. Базовая Gemma 4 поддерживает также видео и аудио, однако карточка этой объединённой модели подтверждает только обработку изображений. Лицензия в предоставленных данных не указана.

gemma-4-E2B-it-Uncensored-MAX-GGUF — языковая модель с поддержкой изображений, разработанная prithivMLmods на основе google/gemma-4-E2B-it. Это instruction-tuned и alignment-modified вариант, предназначенный для генерации текста, подробных ответов, следования инструкциям, reasoning и агентских сценариев. Модель также позиционируется для запуска через llama.cpp, vLLM и другие совместимые инструменты, поддерживающие формат GGUF. Модель относится к классу MoE и имеет 2 млрд параметров согласно описанию. Заявлен английский язык. Наличие файлов mmproj указывает на поддержку обработки изображений, однако подробные сведения о визуальной архитектуре, размере контекста и точном наборе поддерживаемых модальностей не приведены. Доступны варианты BF16, F16, F32 и Q8_0 размером примерно от 4,95 до 18,6 ГБ, а также соответствующие мультимодальные компоненты. Ключевая особенность — снижение внутренних отказов от ответа с помощью анализа refusal-направлений и abliteration-based training при сохранении способностей к reasoning и instruction-following. Это может быть полезно для приложений, которым нужны менее ограниченные ответы, но одновременно означает повышенные риски получения небезопасного или нежелательного контента. Качество и требования к ресурсам зависят от выбранной квантизации. Модель распространяется по лицензии Apache-2.0.

GigaChat 3.5 Ultra Base — базовая языковая модель семейства GigaChat, опубликованная ai-sage. Это предварительно обученный чекпойнт для продолжения обучения и генерации текста; для диалогового использования с выполнением инструкций в README рекомендуется отдельная instruct-версия. Модель предназначена для многоязычных сценариев, рассуждений, программирования и агентных систем с использованием инструментов. По README, архитектура — MoE с 432 млрд параметров всего и 28 млрд активных параметров, гибридным вниманием MLA и GatedDeltaNet и двумя головами Multi-Token Prediction. Указаны поддержка контекста до 131 072 токенов и языки русский и английский. Метаданные указывают 25 млрд параметров, поэтому размер модели в источниках расходится. Репозиторий содержит веса Safetensors; лицензия — MIT. Большой контекст, MoE и гибридное внимание рассчитаны на эффективную генерацию при длинных запросах, а README сообщает о сильных результатах на тестах кода, математики и рассуждений. Для запуска такой крупной модели требуется кластерная инфраструктура. Это базовая, а не выровненная instruct-модель: её поведение в диалоге и следование инструкциям может быть ограничено.

Cerebras GLM-4.6-REAP-218B-A32B — сжатая разреженная языковая модель семейства GLM-4.6, полученная методом REAP из zai-org/GLM-4.6-FP8. Она предназначена для генерации текста и диалогов, включая написание кода, работу с агентными сценариями и вызов функций. Модель совместима с Transformers и, согласно карточке, разворачивается в vLLM. Архитектура — причинная языковая модель Mixture-of-Experts: в README указаны 218 млрд параметров и 32 млрд активируемых на токен; метаданные каталога указывают 23,4 млрд параметров. Контекст составляет 202 752 токена. Карточка сообщает об удалении 40% экспертов и почти сохранённой производительности относительно полной модели, но для этой BF16-версии результаты оценки не приведены. Метаданные указывают английский язык. Лицензия — MIT.

Granite-3.1-1B-A400M-Base — базовая языковая модель, разработанная командой Granite компании IBM. Она построена на декодерном разреженном трансформере Mixture of Experts (MoE); число параметров по метаданным — 163,6 млн. Контекст увеличен с 4K до 128K токенов посредством поэтапного обучения с настройкой RoPE и дополнительного предобучения примерно на 500 млрд токенов для длинного контекста. Модель предназначена для генерации текста и может служить базой для специализированной настройки. Она поддерживает суммаризацию, классификацию и извлечение информации, ответы на вопросы и другие задачи «текст-текст». В карточке указаны английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Обучающие данные охватывают веб, код, академические материалы, книги и математику, а также многоязычные и синтетические длинноконтекстные данные. Модель не прошла выравнивание по безопасности, поэтому может генерировать проблематичные ответы; также возможны предвзятость, дезинформация и дословное воспроизведение обучающих данных. Распространяется по лицензии Apache 2.0.

Granite 4.2 8B GGUF — это квантизированная версия текстовой генеративной модели ibm-granite/granite-4.2-8b, разработанной IBM. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, диалоговых сценариев, задач рассуждения и, согласно указанным тегам, tool calling. Поддерживается только текстовый ввод; мультимодальные возможности не заявлены. Модель содержит около 9 млрд параметров и доступна в форматах GGUF с разными уровнями квантизации — от BF16 до Q2 и IQ-вариантов. README не указывает архитектуру и размер контекстного окна. Заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. Для запуска используется специальный шаблон prompt с секцией рассуждений <think>. Сильная сторона этой версии — широкий выбор квантизаций, позволяющий подобрать баланс между качеством, скоростью и требованиями к памяти: например, Q4_K_M размером 5,54 ГБ рекомендуется как универсальный вариант, а более высокие уровни сохраняют качество ближе к исходной модели. Ограничения зависят от выбранной квантизации: компактные варианты обеспечивают более низкое качество. Спекулятивное декодирование не поддерживается. Модель распространяется по лицензии Apache 2.0.

Grok 4.6 — модель SpaceXAI, предназначенная для задач программирования, интеллектуальной работы и STEM. По карточке модели, её сменила более новая версия Grok 4.7. Доступные сведения не описывают архитектуру, размер, модальности, поддерживаемые языки, длину контекста или лицензию, поэтому их нельзя надёжно указать. Метаданные каталога классифицируют модель как image-text-to-text, но README не подтверждает работу с изображениями.

DevQuasar разместил квантованную в формате GGUF F16 версию языковой модели IBM Granite 4.1 3B. Модель предназначена для генерации текста и диалогового использования; каталог также отмечает поддержку чата. Базовая модель IBM рассчитана на диалоговых ассистентов, работу с кодом и вызов инструментов. В карточке указана базовая модель ibm-granite/granite-4.1-3b. Данных о языках, длине контекста и конкретных ограничениях этой версии в предоставленных источниках нет. Лицензия не указана.

K2-Horizon-MoVA-36B-A4B-GGUF — квантованная версия модели IFM/K2-Horizon-MoVA-36B-A4B, опубликованная abenzerps в формате GGUF для запуска через llama.cpp. Модель предназначена для генерации текста и поддерживает сценарии диалогов и вызова инструментов; доступен формат tool calling с вариантами xml, json и xml_typed. Это разреженная Mixture-of-Experts-модель с архитектурой Mixture-of-Values attention (MoVA): всего 36 млрд параметров, из которых примерно 4 млрд активируются для каждого токена. Исходная модель поддерживает контекст до 524 288 токенов (512K), а заявленный язык — английский. Модель текстовая и не требует vision projector. Доступны варианты квантования Q3_K_M, Q4_K_M, Q4_0, Q5_K_M, Q6_K и Q8_0 размером примерно от 17,66 до 39,83 ГБ. Ключевое преимущество модели — сочетание большого контекстного окна, разреженной MoE-архитектуры и нескольких вариантов квантования для выбора компромисса между качеством и требованиями к памяти. Для запуска требуется сборка llama.cpp с поддержкой архитектуры K2 Horizon, включая форк MBZUAI-IFM до появления поддержки в основной ветке. Лицензия исходной модели — Apache-2.0; фактическая производительность зависит от выбранной квантовки и доступной памяти.

Это квантованная версия MXFP4_MOE модели trohrbaugh/Ling-3.0-flash-heretic в формате GGUF, подготовленная для запуска через llama.cpp. Базовая модель — вариант Ling-3.0-flash с аблитерацией, предназначенный для диалоговой генерации текста, программирования и агентных задач с длинным контекстом. Модель принимает текст и генерирует текст в диалоге. В README приведено сравнение с исходной моделью: KL-дивергенция составляет 0,0526, а в тесте из 100 запросов зафиксировано 0 отказов против 87 у оригинала. Эти результаты относятся только к указанному сравнению; размер модели, поддерживаемые языки и длина контекста в доступных данных не приведены. README рекомендует использовать актуальную версию llama.cpp. Лицензия в доступных данных не указана.

LingoWhale-8B — плотная двуязычная языковая модель с авторегрессионной архитектурой LingoWhaleForCausalLM, разработанная DeepLang Technology совместно с лабораторией NLP Университета Цинхуа. Модель содержит 7,7 млрд параметров, обучена на качественных китайских и английских данных и поддерживает контекст до 8192 токенов. Модель предназначена для генерации текста и может использоваться как базовая модель для ответов на вопросы, написания текстов, рассуждений и генерации кода. В README также приведены примеры диалоговой модели, полученной дообучением LingoWhale-8B на открытых SFT-данных; это пример производной модели, а не отдельная возможность исходной базовой модели. Для адаптации доступны примеры тонкой настройки, включая LoRA. Разработчики отмечают, что модель может галлюцинировать, а её математические способности ограничены. Для академических исследований модель открыта; коммерческое использование исходной модели и её производных требует заявки и получения разрешения по лицензии LingoWhale-8B наряду с Apache 2.0.

TheBloke/Llama-2-70B-Chat-GPTQ — это GPTQ-квантизированная версия диалоговой языковой модели Llama 2 70B Chat, разработанной Meta. Репозиторий подготовлен TheBloke и содержит варианты модели для запуска с разными параметрами квантования. Базовая модель — meta-llama/Llama-2-70b-chat-hf; тип задачи — генерация текста, основной заявленный язык — английский. Модель предназначена для диалоговых сценариев, ответов на запросы пользователей и создания текста в формате ассистента. Для корректного взаимодействия используется шаблон Llama-2-Chat с системными инструкциями, ориентированными на полезные, безопасные и честные ответы. Доступны варианты GPTQ с разной разрядностью, размером групп и настройками Act Order, что позволяет выбирать баланс между требованиями к VRAM, скоростью и точностью; поддерживается запуск на GPU, включая совместимые с ExLlama конфигурации для 4-битных моделей. Ключевое преимущество — существенно меньшие требования к памяти по сравнению с исходной моделью в формате fp16 при сохранении назначения и диалоговых возможностей Llama 2 70B Chat. Ограничения включают возможное снижение точности из-за квантования, зависимость характеристик от выбранных параметров и программного обеспечения, а также отсутствие в предоставленных данных подробностей об архитектуре, максимальном контексте и результатах оценки. Модель распространяется по лицензии Llama 2; условия исходной лицензии Meta следует учитывать при использовании.

Llama3.1-8B-Chinese-Chat — языковая модель для генерации текста и диалогового взаимодействия на китайском и английском языках, разработанная Shenzhi Wang, Yaowei Zheng, Guoyin Wang, Shiji Song и Gao Huang. Модель дообучена на основе Meta-Llama-3.1-8B-Instruct с применением метода оптимизации предпочтений ORPO и фреймворка LLaMA-Factory. Обучение проводилось на более чем 100 тысячах пар предпочтений с полным обновлением параметров. Модель предназначена для чат-сценариев, ролевого общения, использования инструментов и function calling, а также решения математических задач. Она имеет 8,03 млрд параметров; заявленная длина контекста составляет 128K токенов, однако для китайской версии эта характеристика не тестировалась разработчиками. Длина контекста, использованная при дообучении, составляла 8192 токена. Доступны версии BF16 и GGUF с квантованиями q4_k_m и q8_0, а также в формате f16. К сильным сторонам относятся ориентация на китайско-английских пользователей, улучшенные возможности ролевого общения, работы с инструментами и математики, а также поддержка запуска через Transformers и llama.cpp. Ограничения включают неподтверждённую практическими тестами длину контекста 128K и возможную нестабильность ответов на вопросы о собственной идентичности и разработчиках. Модель распространяется по лицензии Llama 3.1 License.

QuantFactory/Llama-3.1-8B-Instruct-Fei-v1-Uncensored-GGUF — это квантизированная версия модели Llama-3.1-8B-Instruct-Fei-v1-Uncensored, созданная с использованием llama.cpp. Базовая модель разработана на основе Llama 3.1 от Meta, а исходную модификацию подготовил пользователь aifeifei799. Модель предназначена для генерации текста, диалоговых помощников и других задач обработки естественного языка, включая работу с кодом. Это текстовая авторегрессионная модель с оптимизированной архитектурой Transformer и Grouped-Query Attention (GQA), содержащая 8B параметров. Она поддерживает ввод текста и генерирует текст или код, имеет контекст до 128k токенов и рассчитана на английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Квантизация в формате GGUF предназначена для более эффективного запуска, в том числе через llama.cpp, однако README не указывает конкретный тип квантизации, требования к памяти или характеристики производительности. Версия обозначена как uncensored, поэтому её поведение в части отказов и защитных ограничений может отличаться от стандартной instruction-tuned модели Meta; ответы по-прежнему могут быть неточными или небезопасными. Использование регулируется кастомной коммерческой лицензией Llama 3.1 Community License и связанными ограничениями Acceptable Use Policy.

PlumCode — слитая языковая модель, созданная автором репозитория sequelbox с помощью mergekit на основе Meta Llama 3.1 8B Instruct и моделей Llama3.1-8B-ShiningValiant2 и Llama3.1-8B-Enigma. Используется архитектура LlamaForCausalLM с плотной сетью примерно на 7,5 млрд параметров; веса опубликованы в формате safetensors. Контекстное окно составляет 131 072 токена. Модель предназначена для генерации текста и диалогов по инструкциям, включая помощь с кодом и техническими темами. В тегах указаны Python, информатика, естественные науки и инженерия; карточка не подтверждает отдельные специализированные возможности сверх генерации текста. Лицензия — llama3.1. README приводит результаты Open LLM Leaderboard, но не содержит полного набора оценок.

duyntnet/Llama-3.2-3B-Instruct-imatrix-GGUF — набор квантизированных версий инструкционно дообученной языковой модели Llama 3.2 3B Instruct, разработанной Meta. Репозиторий распространяет модель в формате GGUF с использованием imatrix и предназначен для локального запуска через llama.cpp, KoboldCPP, text-generation-webui или Ollama. Модель представляет собой авторегрессионную текстовую модель на оптимизированной архитектуре Transformer с примерно 3 млрд параметров. Она работает по схеме «текст на входе — текст на выходе» и поддерживает английский язык; исходная модель описывается как мультиязычная, однако для этой конкретной публикации в карточке указан только английский. Инструкционная версия обучалась с применением supervised fine-tuning и reinforcement learning from human feedback и ориентирована на диалоги, агентный поиск и извлечение информации, суммирование и другие задачи генерации текста. К сильным сторонам относятся компактный размер, возможность локального запуска и совместимость с распространёнными инструментами инференса. Ограничения включают текстовую модальность, отсутствие в README сведений о размере контекста, конкретных параметрах квантизации и результатах бенчмарков. Лицензия указана как other; дополнительные условия использования в карточке не приведены.

Llama-3-8B-Instruct-GGUF — квантизированная GGUF-версия языковой модели Meta-Llama-3-8B-Instruct, разработанной Meta. Квантизацию выполнила Second State Inc. Модель предназначена для генерации текста и диалогового взаимодействия с использованием шаблона запросов llama-3-chat, а также для локального запуска через llama.cpp и LlamaEdge. Модель относится к архитектуре Llama и содержит 8 миллиардов параметров. Это текстовая модель с поддержкой английского языка и контекстом до 8192 токенов. Доступны варианты квантизации от 2 до 8 бит, а также версия f16; размеры файлов составляют примерно от 3,18 до 16,1 ГБ. Вариант Q4_K_M позиционируется как сбалансированный по качеству и размеру, а Q5_K_M и Q5_K_S — как варианты с небольшими потерями качества. Основные преимущества модели — относительно компактный размер, возможность локального развертывания и выбор между несколькими уровнями квантизации. Существенным ограничением является потеря качества у низкобитных вариантов, особенно Q2 и Q3; README также не содержит результатов бенчмарков или подробных сведений о безопасности и ограничениях применения. Указана лицензия Llama 3 с обозначением llama3; условия использования следует уточнять в лицензии Meta.

QuantFactory/Llama-3-Open-Ko-8B-GGUF — квантованная версия модели Llama-3-Open-Ko-8B, созданная с использованием llama.cpp. Базовую модель разработал Junbum Lee (Beomi) на основе Meta Llama 3; она представляет собой продолжительно предобученную авторегрессионную языковую модель с оптимизированной архитектурой Transformer. Модель предназначена для генерации текста и кода, а также для адаптации под различные задачи обработки естественного языка, включая дообучение специализированных и диалоговых моделей. Она принимает только текст и генерирует текст или код. Модель ориентирована прежде всего на английский и корейский языки; для обучения использовались более 17,7 млрд токенов и свыше 60 ГБ дедуплицированных общедоступных текстов. Размер модели — 8B параметров, контекст — до 8 тысяч токенов, поддерживается Grouped-Query Attention (GQA), дата отсечения знаний — июнь 2023 года. К сильным сторонам относятся адаптация Llama 3 к корейскому языку, открытые данные обучения и доступность в квантованном формате, потенциально снижающем требования к ресурсам при локальном запуске. Ограничения заключаются в том, что это статическая офлайн-модель без встроенного обновления знаний и базовая предобученная версия, а не готовая instruction-tuned модель; для диалоговых сценариев и соблюдения требований безопасности может потребоваться дополнительное дообучение и внешние защитные механизмы. Использование регулируется лицензией Llama 3 и соответствующей Acceptable Use Policy; необходимо соблюдать их ограничения и применимое законодательство.