II.2Создание и понимание программного кода

Это набор GGUF-квантизаций модели Llama-3.1_OpenScholar-8B, подготовленный пользователем bartowski на основе модели OpenScholar/Llama-3.1_OpenScholar-8B. Квантизация выполнена с помощью llama.cpp версии b4132 и метода imatrix. Модель предназначена для генерации текста и локального запуска, в частности через LM Studio и совместимые инструменты llama.cpp. В составе доступны варианты от F16 до низкобитных Q2 и IQ-квантизаций, с размерами файлов примерно от 3,69 до 16,07 ГБ. Более высокие уровни квантования обеспечивают лучшее сохранение качества, а компактные варианты требуют меньше оперативной памяти, но могут заметнее уступать по качеству. Для некоторых файлов указана оптимизация под ARM или AVX; отдельные варианты не рекомендуются для Mac или GPU. Модель работает с текстом, поддерживает английский язык, а формат prompt соответствует шаблону Llama 3.1. Размер контекста и точная архитектура в README не указаны. Распространение заявлено по лицензии Apache-2.0. Ключевые ограничения связаны с компромиссом между размером файла, требованиями к памяти и качеством, зависящим от выбранного типа квантования.

legraphista/Llama-3.2-1B-Instruct-IMat-GGUF — вариант модели Llama 3.2-1B-Instruct, опубликованный пользователем legraphista на базе модели Meta Platforms. Формат GGUF предназначен для локального запуска средствами совместимых движков инференса; обозначение IMat указывает на особенности представления или квантования, однако точные параметры из доступных данных не уточняются. Модель рассчитана на выполнение инструкций и генерацию текста в диалоговых и прикладных сценариях, где важны компактный размер и возможность запуска локально. Известно, что это языковая модель примерно на 1 млрд параметров, но сведения о длине контекста, поддерживаемых языках, конкретном типе квантования и дополнительных модификациях отсутствуют. К сильным сторонам относятся небольшой размер и потенциально низкие требования к ресурсам по сравнению с более крупными моделями. Ограничениями являются меньшая емкость и вероятно более низкое качество сложного рассуждения по сравнению с крупными моделями, а также отсутствие в предоставленных данных результатов тестирования и подробных рекомендаций по аппаратному обеспечению. Базовая модель распространяется по Llama 3.2 Community License от Meta с требованиями к атрибуции, маркировке «Built with Llama», соблюдению Acceptable Use Policy и специальными коммерческими условиями для организаций с более чем 700 млн ежемесячных активных пользователей.

QuietImpostor/Llama-3.2-3B-Instruct-Base-Merge — экспериментальное слияние моделей Llama 3.2, созданное автором репозитория для будущих проектов. Веса двух моделей, unsloth/Llama-3.2-3B и unsloth/Llama-3.2-3B-Instruct, объединены методом TIES с помощью mergekit; результат сохранён в формате safetensors с точностью bfloat16. Модель содержит 3,2 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации текста и диалоговых сценариев. Автор сообщает о многообещающих результатах ограниченного тестирования, но подчёркивает, что модель требует дальнейшей проверки. Условия лицензии в предоставленных данных не указаны.

M7Yamshadowexperiment28_Experiment29Pastiche — объединённая текстовая модель, созданная на основе automerger/M7Yamshadowexperiment28-7B и automerger/Experiment29Pastiche-7B. Она использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и диалогов; максимальная длина контекста составляет 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. В карточке не описаны специализация по языкам, обучение и отдельные ограничения качества.

MarcMistral-7B — объединённая модель для генерации текста, созданная Flemming Miguel с помощью LazyMergekit. Она сочетает nfaheem/Marcoroni-7b-DPO-Merge и EmbeddedLLM/Mistral-7B-Merge-14-v0.5 методом SLERP; автор представляет её как эксперимент по поиску удачной основы для дальнейшего дообучения, сопоставляя качества моделей на бенчмарках MMLU и ARC. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и принимает контекст длиной до 32 768 токенов. Её можно применять для генерации текста и диалогового общения. Репозиторий содержит веса в формате Safetensors, лицензия — Apache-2.0. Это экспериментальный вариант слияния: README сообщает, что автор планирует сравнивать несколько подобных вариантов, пока тесты не выявят лучший. В карточке не приведены результаты бенчмарков или отдельные гарантии качества; поведение модели может отличаться от компонентов слияния.

EmbeddedLLM/Medusa2-Mistral-7B-Instruct-v0.2 — модель Medusa для Mistral 7B Instruct v0.2, обученная с использованием Medusa 2. Архитектура — плотная авторегрессионная языковая модель MistralForCausalLM с 7,1 млрд параметров; контекст — до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате, а Medusa используется для ускорения инференса за счёт предсказания нескольких токенов. Для обучения применён набор данных само-дистилляции Mistral 7B Instruct v0.2 с температурой 0,3 и целевой длиной вывода 2048 токенов. Модель рассчитана на сценарии чат-ответов и генерации текста; сведения о поддерживаемых естественных языках в предоставленных источниках отсутствуют. Репозиторий содержит веса PyTorch и использует лицензию Apache-2.0. Для загрузки README отсылает к инструкциям проекта Medusa на GitHub.

MeliodasPercival_01_Inex12Yam — объединённая модель семейства Mistral, созданная из automerger/MeliodasPercival_01-7B и automerger/Inex12Yam-7B. Она предназначена для генерации текста и диалогов, а архитектура MistralForCausalLM содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка подтверждает слияние моделей и задачу генерации текста, но не описывает специализацию, поддерживаемые языки или ограничения качества.

MeliodasPercival_01_T3qm7xpExperiment26 — объединённая языковая модель на архитектуре Mistral, созданная слиянием automerger/MeliodasPercival_01-7B и automerger/T3qm7xpExperiment26-7B. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и диалогов по текстовым запросам. Распространяется в формате Safetensors по лицензии Apache-2.0. README не описывает специализацию, обучение или результаты оценки модели.

Memgpt-slerp-7b-3 — объединённая модель генерации текста, созданная liminerity с помощью LazyMergekit. Она объединяет liminerity/Memgpt-slerp-7b-2 и liminerity/Mem-Beagle-7b-slerp-v6 методом SLERP; в конфигурации указаны базовая модель liminerity/Memgpt-slerp-7b-2 и формат весов bfloat16. Модель построена на архитектуре Mistral с плотной причинно-языковой сетью на 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для диалоговой генерации текста и может применяться для ответов на запросы, продолжения текста и ведения чата. В метаданных заявлена возможность chat; сведений о специализированных областях применения или языках в доступных данных нет. Файлы модели представлены в формате safetensors. Лицензия в предоставленных данных не указана.

mergekit-community/mergekit-ties-rraxdhv — объединённая разговорная языковая модель на архитектуре Gemma 2, созданная сообществом с помощью mergekit. В основе слияния лежит unsloth/gemma-2-9b-it; в него также включены anthracite-org/magnum-v3-9b-customgemma2, rtzr/ko-gemma-2-9b-it, flammenai/Mahou-1.3-gemma2-9B и AlicanKiraz0/SenecaLLM_x_gemma-2-9b-CyberSecurity. Использован метод TIES. Модель содержит 9 млрд параметров и принимает текст для генерации продолжений и ответов в диалогах. Контекст — до 8192 токенов. В репозитории указаны веса SafeTensors и поддержка Transformers. Лицензия в предоставленных данных не приведена.

Карточка модели princeton-nlp/Mistral-7B-Instruct-ORPO на Hugging Face совпадает с карточкой princeton-nlp/Llama-3-Base-8B-SFT, поэтому описание составлено по ней. princeton-nlp/Llama-3-Base-8B-SFT — разговорная модель генерации текста на архитектуре Llama, опубликованная как часть работы SimPO: Simple Preference Optimization with a Reference-Free Reward. Репозиторий содержит модель на 7,5 млрд параметров в формате safetensors; заявленная длина контекста — 8192 токена. Модель предназначена для диалоговой генерации текста и может использоваться для ответов на запросы и ведения беседы. README отсылает к репозиторию SimPO за дополнительными сведениями. Лицензия и конкретные языковые возможности в предоставленных данных не определены.

ehristoforu/mistral-distil-test-3 — текстовая генеративная модель на архитектуре Mistral, созданная с помощью mergekit методом passthrough на основе unsloth/Mistral-Nemo-Instruct-2407. В README приведена конфигурация объединения слоёв исходной модели; метаданные указывают 9 млрд параметров и формат safetensors. Модель предназначена для генерации текста и диалогового взаимодействия. Карточка не описывает специальные предметные области или отдельные функции помимо текстовой генерации и чата. В метаданных указан контекст 1 024 000 токенов. Модель опубликована под идентификатором Hugging Face, однако сведения о лицензии в предоставленных данных отсутствуют.

Mistral-Nemo-Prism-12B-GGUF — это набор квантизированных версий текстовой генеративной модели Mistral-Nemo-Prism-12B, опубликованный пользователем bartowski. Базовая модель разработана nbeerbower и дополнительно обучалась с использованием наборов данных Arkhaios-DPO и Purpura-DPO. Файлы представлены в формате GGUF для запуска через llama.cpp и совместимых приложений, включая LM Studio. Модель предназначена для генерации текста и диалоговых сценариев; в README указан шаблон промпта с ролями system, user и assistant. Доступны варианты от полного F16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и Q2, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Размер базовой модели составляет 12B параметров, однако сведения о поддерживаемых языках, длине контекста и мультимодальности не приведены. Сильной стороной является широкий выбор квантизаций: варианты Q6 и Q5 заявлены как близкие к исходному качеству, а Q4 — как подходящие для большинства сценариев. Некоторые варианты оптимизированы для ARM, но требуют соответствующей аппаратной поддержки и не рекомендуются для Mac или Windows. К ограничениям относятся снижение качества у компактных вариантов и отсутствие подробных данных о качестве, языках и контекстном окне. Модель распространяется по лицензии Apache-2.0.

Mistral-v0.3-7B-ORPO — языковая модель llmat для генерации текста и диалогового общения. Она дообучена методом ORPO на базе unsloth/mistral-7b-v0.3-bnb-4bit с использованием Unsloth и библиотеки TRL. Модель построена на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров. Она принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. В метаданных указан английский язык. Модель предназначена для текстовых запросов и чата. Модель распространяется по лицензии Apache-2.0. README не приводит результаты оценки качества или подробности обучающих данных, поэтому пригодность для конкретных задач следует проверять отдельно.

stromano02/model — дообученная языковая модель семейства Llama на основе unsloth/meta-llama-3.1-8b-instruct-bnb-4bit. Разработчик — stromano02; модель обучена с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и диалогового общения, а также поддерживает интерфейс вызова инструментов. Модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров. Контекстное окно составляет до 131 072 токенов. Репозиторий содержит веса в форматах GGUF и safetensors; указана поддержка английского языка. Лицензия — Apache-2.0. README не описывает специальную предметную область или конкретные преимущества дообучения.

automerger/Multi_verse_modelExperiment28-7B — объединённая языковая модель на архитектуре Mistral, созданная с помощью mergekit. В основе объединения лежит ammarali32/multi_verse_model; также в него включена yam-peleg/Experiment28-7B. Использован метод DARE TIES. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и сценариев работы с языковой моделью. В карточке не приведены специальные прикладные области или сведения о языках. Файлы представлены в формате safetensors. Лицензия не указана в предоставленных данных.

duyntnet/Nemotron-Mini-4B-Instruct-imatrix-GGUF — набор GGUF-квантизаций модели Nemotron-Mini-4B-Instruct, разработанной NVIDIA. Это небольшая авторегрессионная языковая модель для генерации текста, оптимизированная методами дистилляции, прореживания и квантизации для высокой скорости и развертывания на устройствах. Модель предназначена для ролевого общения, вопросов и ответов в сценариях retrieval-augmented generation (RAG), а также вызова функций, преимущественно на английском языке. Модель основана на Minitron-4B-Base, которая была получена из Nemotron-4 15B. Архитектура — Transformer Decoder с сетью Nemotron-4, размером эмбеддингов 3072, 32 головами внимания, Grouped-Query Attention (GQA), Rotary Position Embeddings (RoPE) и промежуточным размером MLP 9216. Контекст ограничен 4096 токенами. Доступны клиенты и интерфейсы llama.cpp, KoboldCPP, Ollama, text-generation-webui, GPT4All и Jan. Сильные стороны модели — компактность, ориентированность на быстрый локальный запуск и поддержка ролевого общения, RAG и function calling. Ограничения включают англоязычную специализацию, небольшой контекст и зависимость качества от применения рекомендованного шаблона промпта. В README указано, что исходная модель готова для коммерческого использования и распространяется по NVIDIA Community Model License; для данного набора GGUF-квантизаций отдельно указана лицензия other.

Это конвертированная в формат GGUF копия NVIDIA Nemotron 3.5 Lightning 30B A3B BF16, подготовленная ijohn07 с помощью llama.cpp и GGUF-my-repo. Модель предназначена для генерации текста и может запускаться через llama.cpp, в том числе в режиме сервера или командной строки. По метаданным, исходная модель NVIDIA связана с наборами данных Nemotron для предварительного обучения и постобучения и поддерживает английский, испанский, французский, немецкий, итальянский и японский языки. Для характеристик и сценариев исходной модели автор карточки рекомендует обратиться к её оригинальному описанию. В доступных данных указаны формат GGUF BF16 и лицензия «other»; условия лицензии следует сверить с карточкой базовой модели.

Карточка модели localized-ft/OLMo-3-7B-good-vs-bad-mixed-multifact-kld-seed2 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

OLMo 7B Instruct — языковая модель Allen Institute for AI (Ai2), созданная на базе OLMo для диалогов и следования инструкциям. Это плотная авторегрессионная модель семейства OLMo с 7 млрд параметров; базовое обучение проводилось на Dolma, затем модель дообучили на смеси Tulu SFT и очищенной версии UltraFeedback. Модель предназначена для генерации ответов на вопросы, диалогов и других текстовых запросов на английском языке. Авторы представляют её как пример улучшения базовых моделей OLMo с помощью существующих методов дообучения; код и контрольные точки выпускаются для изучения и воспроизводимости. Доступны веса в форматах PyTorch и Safetensors, для работы рекомендованы Transformers версии 4.40.0 или новее. Модель распространяется по лицензии Apache 2.0. Карточка отмечает, что более новые версии Transformers предпочтительны для работы с моделью; заявленные возможности и языковая поддержка ограничены текстовым диалогом на английском языке.

OLMoE-1B-7B-0924-Instruct-GGUF — набор GGUF-квантизаций инструкционной языковой модели OLMoE-1B-7B-0924-Instruct, разработанной командой AllenAI и опубликованной под лицензией Apache-2.0. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев; исходное описание указывает английский язык и обучение с использованием набора allenai/ultrafeedback_binarized_cleaned. Модель относится к семейству OLMoE и использует архитектуру Mixture of Experts (MoE). Доступны варианты от F16 размером 13,84 ГБ до компактных квантизаций Q3 и IQ3 размером около 3 ГБ, а также Q4, Q5, Q6 и Q8. Более высокие уровни квантования обычно сохраняют лучшее качество, тогда как компактные варианты подходят для систем с ограниченным объёмом оперативной памяти. Некоторые файлы оптимизированы для ARM-процессоров и требуют соответствующей поддержки SVE или i8mm. Сильными сторонами являются широкий выбор размеров файлов, возможность локального запуска через llama.cpp или LM Studio и наличие вариантов, ориентированных на баланс качества и потребления памяти. Ограничения включают англоязычную специализацию, неизбежные потери качества в низкобитных вариантах и отсутствие в README сведений о размере контекста, точном числе параметров, поддерживаемых модальностях и результатах тестирования. Для работы следует использовать указанный формат prompt с системным, пользовательским и ассистентским сообщениями.

EpistemeAI/OpenCodeLlama-3.1-8B — плотная авторегрессионная языковая модель семейства Llama, разработанная EpistemeAI и дообученная на базе unsloth/Meta-Llama-3.1-8B-bnb-4bit. Модель содержит 7,5 млрд параметров и предназначена для генерации текста; репозиторий указывает использование Unsloth и библиотеки TRL при обучении. Модель принимает текст и генерирует текст. Для базовой модели заявлено контекстное окно до 131 072 токенов. В метаданных указан английский язык. Репозиторий распространяется по лицензии Apache-2.0. Карточка не приводит специализированных сценариев обучения или результатов оценки качества, поэтому её пригодность для конкретных задач следует проверять на собственных данных.

Open_Maid_Samantha_Hermes_Orca_dare_tiesv0.1 — объединённая языковая модель на архитектуре Mistral, созданная автором репозитория с помощью mergekit и метода DARE TIES. В основу объединения вошла mistralai/Mistral-7B-v0.1; также использованы OpenHermes-2.5-Mistral-7B, Noromaid-7B-0.4-DPO, Mistral-7B-OpenOrca и samantha-1.1-westlake-7b. Модель содержит 7,1 млрд параметров, принимает текст и предназначена для генерации текста. Заявленная длина контекста — 32 768 токенов. В README приведены результаты оценивания на Open LLM Leaderboard, включая средний балл 67,80, но данных о поддерживаемых естественных языках и прикладных областях нет. Репозиторий содержит веса в формате safetensors. Модель опубликована по лицензии CC BY 4.0. Результаты оценивания не гарантируют качество на конкретных задачах; README не приводит подробных ограничений или результатов по остальным метрикам.

Orthrus-12b-v0.8 — объединённая языковая модель от Pyroserenus, построенная методом TIES с помощью mergekit на основе Mistral Nemo. В слияние вошли IntervitensInc/Mistral-Nemo-Base-2407-chatml, unsloth/Mistral-Nemo-Instruct-2407 и anthracite-org/magnum-12b-v2. Модель содержит 12,1 млрд параметров, использует архитектуру MistralForCausalLM и формат safetensors; для работы указана библиотека Transformers. Модель предназначалась как компонент для более крупного слияния, но автор сообщает, что её можно использовать самостоятельно. Она генерирует текст и подходит для диалоговых сценариев. Окно контекста составляет 1 024 000 токенов. Автор приводит настройки тестирования: temperature 0,75, MinP 0,10 и smoothing factor 0,30. Модель распространяется по лицензии CC BY-NC 4.0, которая запрещает коммерческое использование. README не сообщает о специализированной предметной области или дополнительных ограничениях качества.

Maaz091/personalizedAI — дообученная Maaz091 языковая модель Qwen3 с плотной архитектурой Qwen3ForCausalLM и 1,7 млрд параметров. Она предназначена для генерации текста и диалогового общения; в метаданных также заявлен интерфейс вызова инструментов. Модель принимает текст и генерирует текст. В карточке указан английский язык, а максимальная длина контекста составляет 40 960 токенов. Модель дообучена на базе unsloth/qwen3-1.7b-unsloth-bnb-4bit с использованием Unsloth и библиотеки TRL от Hugging Face. Лицензия — Apache-2.0. Карточка не приводит оценок качества или сведений о специальных ограничениях применения.

PE-Type-1-Vera-4B — дообученная VANTA Research мультимодальная модель-ассистент на архитектуре Gemma 3 4B IT, настроенная на персону Реформатора из типологии эннеаграммы. Она ориентирована на английский язык и сочетает диалоговые возможности базовой модели с прямым, принципиальным и требовательным стилем ответов. Модель подходит для структурированного анализа решений, конструктивной обратной связи, самоанализа, технического сотрудничества и исследований устойчивости персон. В README указано, что её обучали три эпохи на примерно 3 000 примерах с помощью LoRA ранга 16. Метаданные указывают поддержку изображений; базовая Gemma 3 4B IT умеет отвечать на вопросы по изображениям. Перфекционистский стиль может приводить к чрезмерной критичности в творческих задачах и замедлять ответы при неоднозначных запросах. Модель не рекомендуется для эмоционально поддерживающего общения. Возможны ограничения базовой модели, включая галлюцинации. Лицензия — Apache-2.0.

NIEWEN/qwen15b-code-merged-v2 — компактная языковая модель для генерации текста, опубликованная на Hugging Face. По метаданным она связана с семейством Qwen2 и предназначена для использования через библиотеку Transformers. Модель содержит 1,5 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Тег conversational указывает на возможность применения в диалоговых сценариях, а pipeline text-generation — на генерацию текстовых продолжений и ответов. Карточка модели не содержит сведений о разработчике, языках, лицензии, данных обучения, результатах оценки или специализированных ограничениях. Поэтому условия использования и пригодность для конкретных прикладных задач необходимо дополнительно проверять перед применением.

djuna/Qwen2-2B-Instruct — языковая модель для диалога и генерации текста, созданная слиянием слоёв Qwen/Qwen2-1.5B-Instruct методом passthrough с помощью mergekit. Модель имеет плотную архитектуру Qwen2ForCausalLM и содержит 2,2 млрд параметров; для работы используется библиотека Transformers и формат safetensors. Контекст — до 32 768 токенов. Модель предназначена для ответов на запросы и генерации текста в диалоговом формате. Базовая Qwen2-1.5B-Instruct описана как компактная модель для диалогов, программирования и математических задач, однако отдельные специализированные возможности этой версии не подтверждены. В README указана лицензия? Нет сведений об условиях использования в предоставленных данных.

Это экспериментальный чекпойнт компактной языковой модели Qwen2.5-1.5B-Instruct, дообученный командой huggingFacing методом дистилляции знаний из Qwen2.5-7B-Instruct. Он относится к абляционной серии для метода LiftKD: вариант использует разрывный gate и статические веса влияния Head и Top на уровне эпохи. Модель предназначена для генерации текста и диалоговых ответов; её можно применять для инструктивного общения и создания структурированных ответов. Архитектура — плотная Qwen2ForCausalLM с 1,5 млрд параметров, контекстное окно — до 32 768 токенов; репозиторий содержит веса SafeTensors для Transformers. Дообучение выполнено на 96 000 примерах и отдельном контроллерном наборе из 2 000 примеров, с 1 500 шагами оптимизации.

Это семейство из восьми GGUF-вариантов модели Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU, опубликованное esatapedico. Автор репозитория выполнил конвертацию чекпойнта NVFP4 в GGUF и подготовил варианты с разным компромиссом между размером и точностью; исходную модель разработал DavidAU. В основе — плотная гибридная модель Qwen на 27 млрд параметров с Gated DeltaNet и Gated Attention, чередующимися по слоям, и нативным контекстом 262 тыс. токенов. Модель предназначена для генерации текста и диалогов. В каждом из восьми файлов встроена MTP-голова для спекулятивного декодирования; для обработки изображений нужен отдельный совместимый vision projector, которого в этом репозитории нет. Основной корпус весов использует NVFP4, а точность головы, эмбеддингов и MTP различается между вариантами. Репозиторий распространяется по лицензии Apache-2.0. Выбор файла зависит от доступной памяти и желаемой точности: компактные варианты занимают меньше места, а HIGHEST лучше сохраняет точность исходных весов и требует около 19,8 ГиБ VRAM только для весов, дополнительно потребуется память для KV-кэша. Приведённые автором замеры являются одиночными проверками загрузки и генерации, а не сопоставимым бенчмарком. Настроечная модель обозначена как uncensored; ответы могут не соответствовать обычным ограничениям по содержанию.