II.2Создание и понимание программного кода

bunnycore-Cognitron-8B-GGUF — набор GGUF-квантизованных версий языковой модели bunnycore/Cognitron-8B, подготовленный командой featherless-ai-quants. Модель относится к задачам генерации текста и предназначена для локального или совместимого с GGUF развёртывания, когда требуется запуск 8-миллиардной модели в вариантах с разным балансом между качеством, размером файлов и требованиями к памяти. В репозитории доступны варианты Q2_K, Q3_K_S, Q3_K_M, Q3_K_L, Q4_K_S, Q4_K_M, Q5_K_S, Q5_K_M, Q6_K, Q8_0 и IQ4_XS размером примерно от 3,0 до 8,1 ГБ. README не содержит сведений об архитектуре исходной модели, размере контекстного окна, поддерживаемых языках и модальностях, поэтому модель следует рассматривать как текстовую без подтверждённых мультимодальных возможностей. Более сильное квантование обычно требует больше памяти и лучше сохраняет исходные характеристики, тогда как менее точные варианты компактнее, но могут сильнее снижать качество; конкретные результаты в README не приведены. Лицензия в представленном README не указана, поэтому условия использования необходимо уточнять в карточке базовой модели bunnycore/Cognitron-8B и репозитории квантизаций. Также отсутствуют данные о тестах, производительности, обучении и рекомендуемых сценариях применения.

DeepSeek-R1-Distill-Qwen-32B Uncensored — 32-миллиардная плотная языковая модель, подготовленная Richard Young на основе deepseek-ai/DeepSeek-R1-Distill-Qwen-32B. Это декодерный трансформер семейства Qwen2 для генерации текста и диалогов с пошаговыми рассуждениями. В карточке заявлена техника abliteration — удаление направления отказа модели; автор описывает вариант как uncensored. Модель предназначена для задач, где нужны развёрнутые рассуждения, в том числе для исследований рассуждений и выравнивания, обучения и творческих сценариев. Метаданные указывают контекст до 131 072 токенов; README заявляет 32 768 токенов. Поддерживаемый язык по карточке — английский. Модель принимает текст и выдаёт текст. Англоязычные метаданные указывают лицензию «other», без уточнения конкретных условий, поэтому перед использованием следует проверить лицензию репозитория и базовой модели. Заявленное удаление отказов означает, что модель может выдавать ответы без защитных ограничений исходной модели; качество и поведение в отдельных задачах отдельно не подтверждены.

DiffusionGemma 26B A4B IT Strix Halo — независимая пользовательская сборка модели google/diffusiongemma-26B-A4B-it, подготовленная Corsairnui для локального запуска на оборудовании AMD Strix Halo. Релиз не является официальной сборкой AMD, Google DeepMind, Hugging Face, vLLM или llama.cpp. Модель предназначена для генерации текста и ориентирована на англоязычные сценарии; в карточке указана библиотека Transformers и поддержка GGUF через llama.cpp-совместимый diffusion-интерфейс. В состав входят конверсия BF16, а также квантизованные файлы Q5_K_M размером 19,15 ГБ и Q4_K_M размером 16,81 ГБ; полный BF16 GGUF-файл занимает 50,54 ГБ. Архитектура исходной модели не изменялась. Сборка оптимизирована для AMD Ryzen AI Max+ 395 с Radeon 8060S, ROCm и целью gfx1151. На протестированной системе FP16-путь показал в среднем 115,42 токена в секунду в базовой конфигурации и 134,65 токена в секунду с экспериментальным AOTriton; для GGUF оценка составила 124,49 токена в секунду для Q5_K_M и 122,40 для Q4_K_M в режиме диалога. Q5_K_M рекомендуется как основной локальный вариант: он прошёл 5 из 5 ограниченных детерминированных проверок сравнения с FP16. Q4_K_M требует меньше места, но прошёл 3 из 5 проверок, поэтому может уступать по качеству. Результаты зависят от оборудования и настроек, а заявленные тесты проводились на одной системе; размер контекста и мультимодальные возможности в README не указаны. Модель распространяется по лицензии Apache-2.0, при этом для базовой Gemma также приведена отдельная ссылка на условия Google.

DomainTune-Qwen2.5-1.5B-Triage — дообученная модель jasirjru на базе Qwen/Qwen2.5-1.5B для первичной классификации обращений в поддержку и отчётов об ошибках. Она принимает неструктурированный текст тикета или GitHub issue и формирует структурированный JSON с приоритетом, категорией, затронутым компонентом, тональностью и признаком необходимости решения. Модель построена на архитектуре Qwen2 с 1,5 млрд параметров; заявленная длина контекста — 131 072 токена. Поддерживается генерация текста, включая диалоговый режим. Модель предназначена для автоматизации сортировки обращений: определения срочности, направления тикета в подходящую команду и выделения ключевых полей для последующей обработки. README заявляет enterprise-grade и детерминированный вывод JSON, однако независимые оценки качества и метод обеспечения детерминированности не приведены. Распространяется по лицензии Apache-2.0.

Endurance-100B-v1.1-GGUF — это набор GGUF-квантизаций базовой текстовой генеративной модели TheDrummer/Endurance-100B-v1.1, подготовленный пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для локального запуска и генерации текста, в том числе через LM Studio; в README указан формат запросов [INST] с системными и пользовательскими инструкциями. Данные о разработчике исходной модели, языках, максимальном контексте, архитектуре и поддерживаемых модальностях не приведены, поэтому можно уверенно описать её только как текстовую модель размером около 100 миллиардов параметров в различных вариантах квантования. Доступны варианты от Q8_0 размером 106,75 ГБ до Q2_K размером 37,06 ГБ, включая Q6_K, Q5_K, Q4_K и IQ-квантизации. Более крупные варианты обычно сохраняют более высокое качество, тогда как компактные требуют меньше оперативной памяти, но могут заметно уступать по качеству; README рекомендует, среди прочих, Q6_K, Q5_K и Q4_K_M. Отдельные варианты оптимизированы для ARM или AVX, а некоторые не предназначены для Mac или GPU. Лицензия в README не указана, поэтому условия использования следует уточнять у исходной модели TheDrummer/Endurance-100B-v1.1 и автора квантования.

EVA-Qwen2.5-7B-v0.1-GGUF — набор GGUF-квантизаций языковой модели EVA-Qwen2.5-7B-v0.1, подготовленный bartowski с использованием llama.cpp и метода imatrix. Исходная модель разработана EVA-UNIT-01. Это текстовая генеративная модель с примерно 7 млрд параметров, предназначенная для локального запуска и генерации текста; README отдельно указывает совместимость с LM Studio и формат промпта в стиле ChatML. Модель обучалась на наборах данных, включающих instruct-примеры, написание текстов, ролевые сценарии, короткие рассказы и синтетические данные. Поэтому она ориентирована на диалоговые задачи, следование инструкциям, творческое письмо и roleplay. Поддерживаемые языки, размер контекстного окна и точные архитектурные характеристики в README не указаны. Доступны варианты от F16 до Q2_K_L, включая Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ-квантизации. Более качественные варианты требуют больше памяти, а низкоразрядные предназначены для систем с ограниченным объёмом RAM, но снижают качество генерации. Специальные варианты Q4_0 оптимизированы для ARM; для некоторых требуется поддержка SVE или i8mm. Модель распространяется по лицензии Apache-2.0.

MaziyarPanahi/Experiment26Yamshadow_Experiment28Strangemerges_32 — объединённая модель семейства Mistral с плотной архитектурой MistralForCausalLM и 7,1 млрд параметров. Она предназначена для генерации текста по текстовым запросам и поддерживает контекст до 32 768 токенов. Модель создана слиянием automerger/Experiment26Yamshadow-7B и automerger/Experiment28Strangemerges_32-7B. Её можно применять для генерации продолжений и ответов, а также для работы с длинными текстовыми запросами. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0. README не описывает специализированные сценарии или сравнительные результаты модели; качество генерации зависит от запроса и используемой конфигурации.

MaziyarPanahi/Experiment28M7_Experiment29Multi_verse_model — слитая текстовая модель на архитектуре Mistral с 7,1 млрд параметров. Она объединяет модели automerger/Experiment28M7-7B и automerger/Experiment29Multi_verse_model-7B и предназначена для генерации текста. Модель принимает текст и выдаёт текст. Заявленная длина контекста — до 32 768 токенов; веса представлены в формате Safetensors. Карточка не описывает специализированную область применения или конкретные языки, поэтому модель можно рассматривать как экспериментальную LLM общего назначения. Лицензия — Apache-2.0.

Experiment28M7_Inex12Yamshadow — слитая текстовая модель семейства Mistral, объединяющая веса automerger/Experiment28M7-7B и automerger/Inex12Yamshadow-7B. Модель разработана на основе этих двух чекпойнтов; отдельный разработчик в карточке не указан. Модель предназначена для генерации текста. Архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров, нативное окно контекста — до 32 768 токенов. Репозиторий содержит веса в формате Safetensors; метаданные указывают лицензию Apache-2.0. README не описывает дополнительные сценарии или языковую специализацию.

MaziyarPanahi/Experiment28M7_NeuralsirkrishnaExperiment26 — слитая текстовая модель семейства Mistral, созданная объединением automerger/Experiment28M7-7B и automerger/NeuralsirkrishnaExperiment26-7B. Она предназначена для генерации текста и может использоваться в диалоговых и других текстовых приложениях на базе языковой модели. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Веса опубликованы в формате Safetensors. Лицензия — Apache-2.0. Карточка не приводит результатов оценки качества или сведений о специализации и поддерживаемых языках. Поэтому качество генерации и пригодность для конкретных предметных областей по имеющимся данным оценить нельзя.

MaziyarPanahi/Experiment28M7_YamshadowExperiment28 — слитая языковая модель на архитектуре Mistral, объединяющая automerger/Experiment28M7-7B и automerger/YamshadowExperiment28-7B. Она предназначена для генерации текста и диалогов по текстовым запросам. Модель содержит 7,1 млрд параметров, использует формат safetensors и поддерживает контекст длиной до 32 768 токенов. Карточка описывает объединение моделей, но не приводит сравнительных оценок качества или подробных сценариев применения. Репозиторий распространяется по лицензии Apache-2.0.

Experiment28M7_YamStrangemerges_32 — объединённая языковая модель семейства Mistral, опубликованная MaziyarPanahi. Модель содержит 7,1 млрд параметров и предназначена для генерации текста по текстовому запросу; поддерживает контекст до 32 768 токенов. Модель объединяет automerger/Experiment28M7-7B и automerger/YamStrangemerges_32-7B. В репозитории представлены веса SafeTensors. Лицензия — Apache-2.0. Карточка не описывает отдельные специализированные сценарии или оценки качества, поэтому модель можно охарактеризовать как модель генерации общего текста.

Flashback-Bellman — языковая модель Mistral для генерации текста, созданная объединением моделей с помощью LazyMergekit. В конфигурации указаны Mistral-7B-v0.1-flashback-v2 как базовая модель и neph1/bellman-7b-mistral-instruct-v0.2 как добавляемая модель слияния DARE-TIES; при этом метаданные Hugging Face связывают репозиторий с bellman-7b-mistral-instruct-v0.2. Размер модели — 7,1 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для генерации текста по текстовому запросу. Карточка не приводит конкретных сценариев применения, языкового охвата или оценок качества. Репозиторий содержит веса в формате safetensors; лицензия в доступных данных не указана.

Это версия Gemma 3 от сообщества mlx-community, преобразованная из инструктивной модели Google gemma-3-1b-it в формат MLX для запуска с mlx-lm. Модель с плотной архитектурой Gemma3ForCausalLM содержит 1 млрд параметров и предназначена для диалогов и генерации текста; поддерживает контекст до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и генерации текста на устройствах, совместимых с MLX. Карточка указывает лицензию Gemma; перед использованием следует учитывать её условия. Описание не сообщает о дополнительном дообучении, поэтому происхождение здесь — преобразование формата.

Gemma 3 – 1B IT GLM-4.7 Flash Heretic Uncensored Thinking — облегчённая инструкционно дообученная причинная языковая модель, созданная DavidAU на основе google/gemma-3-1b-it от Google. Модель содержит около 1 млрд параметров, ориентирована прежде всего на английский язык и сохраняет формат инструкций Gemma. Длина контекста в README не указана и должна считаться унаследованной от базовой модели. Модель предназначена для быстрого текстового вывода, лёгких AI-ассистентов, локального инференса, инструментальных агентных сценариев, экспериментов с промптами, образовательных и исследовательских задач. Ключевые особенности — компактный размер, низкие требования к VRAM, пригодность для CPU-инференса с квантизацией, короткие и средние по объёму генерации, а также ориентированность на прямые ответы и структурированное рассуждение. Указана совместимость с распространёнными движками инференса для Gemma; доступны форматы вроде GGUF, GPTQ и AWQ в зависимости от конкретной сборки. Это модифицированный вариант с уменьшенным числом отказов и минимальным уровнем встроенной фильтрации, поэтому он может быть удобен для контролируемых экспериментальных развёртываний, но требует самостоятельных мер безопасности, проверки результатов и соблюдения законодательства. Компактность обеспечивает высокую скорость, однако модель уступает более крупным системам в глубине рассуждений, объёме знаний и универсальности; точные показатели качества в README не приведены. Использование регулируется лицензией Gemma, унаследованной от базовой модели Google; необходимо ознакомиться с её условиями.

igorls/gemma-4-12B-it-heretic-GGUF — это квантизированная версия модели igorls/gemma-4-12B-it-heretic, созданной на основе Google Gemma-4-12B-it с использованием инструмента Heretic. Модель предназначена для генерации текста, включая диалоги, ролевые сценарии и творческое письмо, и распространяется в формате GGUF для запуска через llama.cpp и Ollama. Модель содержит около 12 млрд параметров и имеет гибридный режим с поддержкой рассуждений (thinking) и прямых ответов (non-thinking). Для наиболее стабильной работы, ролевых сценариев и творческих задач рекомендуется отключать thinking, поскольку рассуждения расходуют лимит токенов и могут привести к обрезанию итогового ответа. Доступны варианты квантизации Q4_K_M размером около 7,4 ГБ, рекомендуемый для систем с 8–12 ГБ видеопамяти, и Q8_0 размером около 12,7 ГБ, обеспечивающий качество, близкое к исходному. Ключевая особенность модели — удаление исходных ограничений безопасности и отказов: по данным README, она не демонстрирует genuine refusals на проверенных вредоносных запросах, сохраняя при этом небольшое отклонение от оригинальной модели. Это расширяет диапазон допустимых ответов, но повышает риски небезопасного или незаконного применения; ответственность за использование несёт пользователь. Языки, размер контекста и мультимодальные возможности в предоставленных данных не указаны. Лицензия — Gemma; применяются условия лицензии базовой модели Google.

Nickyang/Hy3-Razor-226B-A18B-E144of192 — вариант Hy3, созданный методом RAZOR без дообучения: из 192 маршрутизируемых экспертов в каждом MoE-слое удалена четверть, оставив 144 эксперта и исходные веса остальных компонентов. По README, после прореживания в модели 226 млрд параметров, около 18,4 млрд активны на токен; метаданные каталога указывают 16,6 млрд параметров. Модель принимает текст и предназначена для диалоговой генерации и других сценариев генерации текста. Архитектура — Hy3 MoE для Transformers, контекст — до 262 144 токенов; веса сохранены в формате bfloat16. Модель распространяется по лицензии Apache-2.0. Прореживание экспертов снижает вычисления, но является потерей информации: генерация может отличаться по разнообразию, форматированию и поведению при завершении, даже если точность задач сохраняется. README также отмечает, что качество на областях, далёких от конечного калибровочного набора, не охарактеризовано.

Ice0.60-18.01-RP — объединённая предобученная языковая модель, созданная автором репозитория с помощью mergekit. В слияние методом SLERP вошли Ice0.58-18.01-RP и Ice0.59-18.01-RP; конфигурация использует послойные веса для attention и MLP. По архитектуре это плотная MistralForCausalLM размером 7,1 млрд параметров с контекстом до 32 768 токенов. Модель предназначена для генерации текста. Карточка не описывает отдельные специализированные области применения или поддерживаемые естественные языки. Весовые файлы опубликованы в формате safetensors; метаданные указывают библиотеку Transformers. Условия лицензии в предоставленных источниках не приведены.

Cydonia_Vistral-GGUF — это набор квантизированных форматов модели Cydonia_Vistral, разработанной Ilya626 и подготовленной пользователем bartowski. Модель предназначена для генерации текста и запускается локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Модель поставляется в формате GGUF с вариантами от BF16 до низкобитных Q2–Q8 и IQ-квантизаций. Размер файлов составляет примерно от 9,91 до 47,15 ГБ. Квантизация выполнена с использованием imatrix и llama.cpp release b6818. README не содержит достоверных сведений о базовой архитектуре, числе параметров, длине контекста, поддерживаемых языках или дополнительных модальностях, поэтому модель следует рассматривать как текстовую. Сильная сторона набора — широкий выбор вариантов, позволяющий выбирать между качеством, размером и требованиями к оперативной памяти; наиболее качественные и сбалансированные варианты отмечены как рекомендуемые. Низкобитные версии экономят память, но могут заметно уступать по качеству. Лицензия в README не указана, поэтому условия использования необходимо уточнять на странице исходной модели Ilya626/Cydonia_Vistral.

Interim-MN-fp16 — разговорная языковая модель семейства Mistral с плотной архитектурой MistralForCausalLM и 12,1 млрд параметров. Репозиторий опубликовал rAIfle; модель предназначена для генерации текста в диалогах. Заявленная длина контекста — 131 072 токена. Автор описывает результат как приемлемый по собственной проверке Nala и рекомендует использовать стандартные настройки Nemo либо настройки из репозитория Recommended Settings. Независимые результаты бенчмарков в карточке не приведены. Файлы представлены в формате safetensors, лицензия в предоставленных данных не указана.

InternLM2.5-1.8B-Chat-GGUF — это GGUF-квантизированная версия чат-модели InternLM2.5-1.8B-Chat, разработанной командой InternLM и подготовленной для распространения пользователем bartowski. Квантизация выполнена с использованием llama.cpp и метода imatrix, рассчитанного на более эффективное сохранение качества при уменьшении размера весов. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и LM Studio. Доступны варианты от F32 размером 7,56 ГБ до низкобитных IQ3_M и Q3_K с размером менее 1 ГБ, а также распространённые варианты Q4, Q5, Q6 и Q8. Это позволяет выбирать между качеством ответа, требованиями к RAM или VRAM и скоростью работы. Для некоторых вариантов embedding- и output-веса сохранены в формате Q8_0, что потенциально улучшает качество, но эффект зависит от сценария. Преимуществами являются небольшой размер исходной модели, широкий выбор уровней квантизации и совместимость с локальными инструментами экосистемы llama.cpp. Ограничения включают возможное снижение качества в низкобитных вариантах, а также отсутствие в README сведений об архитектуре, максимальном контексте, поддерживаемых языках и точных характеристиках исходной модели. В метаданных указана лицензия other, без дополнительных условий или пояснений.

Kosmos-EVAA-v9-8B — объединённая языковая модель семейства Llama, созданная jaspionjader с помощью mergekit методом SLERP из Kosmos-EVAA-v3-8B и Kosmos-EVAA-v8-8B. Модель содержит 7,5 млрд параметров и использует архитектуру LlamaForCausalLM; она предназначена для генерации текста и диалоговых сценариев. Модель принимает текст и генерирует текст. Её контекстное окно составляет до 8192 токенов. Карточка не приводит сведений о специальных предметных областях или поддерживаемых языках. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных сведениях не указана. Поскольку это объединение двух предварительно обученных моделей, фактическое поведение зависит от их исходных возможностей и качества слияния; отдельные результаты оценки или конкретные ограничения в карточке не приведены.

lsw0570168/krx-q25-7b-base-v3.3 — языковая модель автора lsw0570168, дообученная на базе lsw0570168/krx-q25-7b-base-v3. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, предназначенная для генерации текста. В метаданных указан контекст длиной до 131 072 токенов; модель сохранена в формате safetensors и обучалась с использованием Unsloth и Hugging Face TRL. Модель может использоваться для генерации продолжений текста и построения приложений на основе текстовой генерации. Карточка указывает лицензию Apache-2.0. Язык карточки и тег модели — английский; данных о специализации на других языках или прикладных областях нет.

Nitral-Archive выпустила модель Kukul-Stanta-0.420-32k-7B-0.2 — объединённую Mistral-модель для генерации текста и диалогов. Она содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и рассчитана на контекст до 32 768 токенов. В README заявлена поддержка изображений: для работы с визуальными входами требуется загрузить файл mmproj из репозитория и использовать актуальную версию Koboldcpp. Метаданные каталога относят модель к генерации текста и подтверждают чат-возможности, но не перечисляют vision среди установленных возможностей. Модель создана слиянием Eris_PrimeV4.20-Vision-32k-7B и KukulStanta-7B. Сведения о лицензии и поддерживаемых естественных языках в предоставленных данных отсутствуют.

LION-LLaMA-3-8b-odpo-v1.0 — диалоговая языковая модель Columbia-NLP, дообученная на основе Columbia-NLP/LION-LLaMA-3-8b-dpo-v1.0 с помощью online DPO. Модель использует плотную архитектуру LLaMA и содержит 7,5 млрд параметров; для генерации диалога предусмотрен chat template. Контекст — до 8192 токенов. Модель предназначена для генерации ответов в диалоге и улучшена обучением по предпочтениям, включая этапы SFT, DPO и online preference learning в конвейере LION. Основной язык — английский. README описывает результаты серии LION, но не приводит отдельные численные показатели для этой версии. Модель распространяется по условиям LLaMA 3 Terms of Use. Как и другие генеративные языковые модели, она может выдавать неточные или нежелательные ответы; её надёжность зависит от запроса и сценария применения.

TroyDoesAI/Llama-21B — плотная языковая модель семейства Llama на 20,9 млрд параметров, опубликованная TroyDoesAI. По карточке автор создал её с помощью mergekit как новую базовую модель, совместимую с инструментами и окружением для моделей Llama. Она предназначена для генерации текста и диалогового общения; заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не описывает состав слияния, обучающие данные, поддерживаемые языки или результаты оценки качества, поэтому нельзя уточнить её специализацию и надёжность для конкретных задач.

Карточка модели philschmid/Llama-2-7b-hf на Hugging Face совпадает с карточкой meta-llama/Llama-2-7b-hf, поэтому описание составлено по ней. Llama 2 7B — предварительно обученная авторегрессионная языковая модель Meta на 7 млрд параметров, представленная в формате Transformers для PyTorch и Safetensors. Она использует оптимизированную архитектуру Transformer и принимает текст, генерируя текст; длина контекста в карточке указана как 4 тыс. токенов. Модель предназначена для генерации текста на английском языке и может служить основой для различных задач обработки естественного языка. Это базовая, не настроенная на диалог версия Llama 2; для сценариев общения предназначены отдельные варианты Llama-2-Chat. Модель предварительно обучена на 2 трлн токенов из общедоступных источников. Модель разработала Meta. Для использования весов требуется принять условия лицензии Meta Llama 2, которая допускает коммерческое и исследовательское применение с ограничениями лицензионного соглашения и политики допустимого использования. Ответы могут быть неточными, предвзятыми или нежелательными; перед внедрением требуется оценка и настройка для конкретного применения.

Это базовая текстовая модель cyboghostginx/Llama3.1-8B — неизменённая копия Llama 3.1 8B от Meta. Модель построена на архитектуре LlamaForCausalLM, содержит 32 слоя и около 7,5 млрд параметров; веса представлены в формате safetensors с точностью bf16. Контекст — до 131 072 токенов. Модель предназначена для продолжения текста и служит отправной точкой для дообучения под прикладные задачи. Это базовая версия, а не Instruct: у неё нет шаблона чата, поэтому для диалогового применения README рекомендует instruct-вариант. Поддерживаемые языки включают английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Лицензия — Llama 3.1.

QuantFactory/Llama-3.1-8B-Instruct-Reasoner-1o1_v0.3-GGUF — квантизированная GGUF-версия модели Lyte/Llama-3.1-8B-Instruct-Reasoner-1o1_v0.3, созданная QuantFactory с использованием llama.cpp. Исходная модель дообучена на базе unsloth/meta-llama-3.1-8b-instruct-bnb-4bit и предназначена для генерации текста в диалоговых сценариях, включая ответы на вопросы, рассуждения, самопроверку и исправление обнаруженных ошибок. В карточке также указано, что модель является экспериментом и proof of concept, ориентированным на генерацию более длинных рассуждений перед финальным ответом. Модель относится к семейству Llama 3.1 и имеет размер 8B параметров; доступный формат — GGUF. Указан английский язык. Архитектура, максимальная длина контекста и точный набор квантизаций в предоставленных данных не описаны. В качестве сильной стороны заявлена настройка на пошаговое рассуждение с проверкой и коррекцией, однако разработчик предупреждает, что небольшая обучающая выборка не направлена на получение прироста производительности и может даже ухудшать результаты. Модель распространяется по лицензии Apache-2.0.

promotion/Llama-3.1-8B-NBPO-finitepool — диалоговая языковая модель на архитектуре Llama, дообученная на базе meta-llama/Llama-3.1-8B-Instruct методом NBPO для многоцелевой оптимизации предпочтений. Модель генерирует текст и поддерживает диалог; размер составляет 7,5 млрд параметров, контекст — до 131 072 токенов. В репозитории веса в формате Safetensors; лицензия — Llama 3.1. Этот чекпойнт помечен как superseded: в обучающую выборку попали 629 из 698 оценочных запросов UltraFeedback. Из-за пересечения результаты на этом наборе смещены в пользу модели, поэтому её не следует использовать для воспроизведения результатов UltraFeedback из статьи NBPO. В README указано, что заменой служит promotion/Llama-3.1-8B-NBPO-UltraFeedback-clean.