II.1Анализ требований и архитектура ПО

Llama-3-Patronus-Lynx-8B-Instruct-i1-GGUF — это набор квантизированных файлов модели PatronusAI Llama-3-Patronus-Lynx-8B-Instruct, подготовленный пользователем mradermacher. Модель предназначена для генерации текста и задач оценки, включая обнаружение галлюцинаций. Доступна в формате GGUF и рассчитана на использование с совместимыми локальными средствами запуска. Модель имеет около 8 миллиардов параметров и поддерживает английский язык. В репозитории представлены варианты квантизации IQ и K различных уровней, размером примерно от 2,1 до 6,7 ГБ. Они позволяют выбирать компромисс между размером файла, скоростью работы и качеством; README рекомендует вариант i1-Q4_K_M как быстрый и сбалансированный. Более сильная квантизация обычно требует больше памяти, а низкобитные варианты могут заметно снижать качество. Лицензия — CC BY-NC 4.0, поэтому использование ограничено её условиями, включая некоммерческий характер лицензии. Архитектура, максимальная длина контекста, поддерживаемые модальности помимо текста и результаты количественных оценок в README не указаны.

Llama-3-Yggdrasil-2.0-8B-GGUF — это набор GGUF-квантизаций языковой модели Llama-3-Yggdrasil-2.0-8B, опубликованный bartowski. Исходная модель разработана на основе объединения нескольких моделей семейства Llama 3: Locutusque/Llama-3-NeuralHercules-5.0-8B, NousResearch/Meta-Llama-3-8B, NousResearch/Hermes-2-Theta-Llama-3-8B и Locutusque/llama-3-neural-chat-v2.2-8b. Квантизация выполнена с помощью llama.cpp версии b3086 и метода imatrix. Модель предназначена для генерации текста и локального запуска через совместимые инструменты llama.cpp и другие приложения, поддерживающие формат GGUF. Доступны варианты с разным уровнем квантизации — от Q8_0 до Q2_K и IQ2_XS — размером примерно от 2,60 до 8,54 ГБ. Более качественными считаются Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS; варианты с меньшим размером требуют меньше оперативной памяти, но могут заметно уступать по качеству. Это текстовая модель с примерно 8 млрд параметров. README не указывает поддерживаемые языки, размер контекстного окна, результаты тестирования и точные сильные стороны исходной модели. Шаблон чата также не задан однозначно: в карточке приведён предполагаемый формат, который может быть некорректным, поэтому его следует проверить по карточке оригинальной модели. Лицензия в README не указана.

KKHYA/llavaqwen2.5-32b-finetune-dense-665k — плотная авторегрессионная модель семейства LlavaQwen2 с 32 млрд параметров, представленная в формате Safetensors для библиотеки Transformers. По метаданным она предназначена для генерации текста и диалогового взаимодействия; также заявлен интерфейс вызова инструментов. Контекстное окно составляет 131 072 токена. В README указано, что модель обучена с нуля на неизвестном наборе данных, поэтому её нельзя уверенно описать как дообучение базовой модели. Карточка не сообщает о поддерживаемых языках, качестве, результатах оценки или ограничениях применения. Условия лицензирования в предоставленных данных не указаны.

Это дообученная модель KKHYA на 1,7 млрд параметров, созданная на основе KKHYA/llavaqwen3-1.7b-finetune. Она предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Модель использует архитектуру NMMaskMoELLaVAQwen3ForCausalLM и загружает веса в форматах PyTorch и Safetensors. Контекстное окно — до 40 960 токенов. Модель опубликована под лицензией Apache-2.0. Датасет дообучения и результаты оценки не описаны, поэтому качество и специализацию модели по отдельным темам оценить нельзя.

Это дообученная модель KKHYA на базе KKHYA/llavaqwen3-1.7b-finetune с 1,7 млрд параметров. Она предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Модель использует архитектуру NMMaskMoELLaVAQwen3ForCausalLM и рассчитана на контекст до 40 960 токенов. Модель распространяется в форматах PyTorch и Safetensors по лицензии Apache-2.0. Датасет дообучения и результаты оценки в карточке не описаны; пригодность для конкретных сценариев требует самостоятельной проверки.

Luxe_4B — плотная языковая модель семейства Llama от FourOhFour, созданная при участии участников Anthracite. Это производная модели Minitron: она прошла восстановительное дообучение и настройку для следования инструкциям на 70 млн качественных токенов. Модель предназначена для работы в роли универсального помощника и для ролевых диалогов. Модель содержит 3,9 млрд параметров, поддерживает контекст до 131 072 токенов и распространяется в формате Safetensors для Transformers. В README указано, что обучение проходило с контекстом 8 тыс. токенов; целевой контекст из метаданных больше. В карточке заявлен английский язык. Лицензия — Apache-2.0.

grimulkan/lzlv-longLORA-70b-rope8-32k-fp16 — слитая модель на архитектуре Llama с 68,7 млрд параметров, созданная объединением LongAlpaca-70B-lora и lzlv_70b_fp16_hf. Дополнительного дообучения не проводилось; из словаря удалили лишнюю строку и токен заполнения, чтобы словари совпадали. Модель предназначена для генерации текста с возможностью экспериментально увеличить контекст до 32K токенов с помощью линейного масштабирования RoPE в 8 раз. По приведённому в README бенчмарку, при увеличении контекста качество снижается примерно на 30%. Автор отмечает, что работоспособность объединения не гарантирована. В репозитории доступны веса safetensors; идентификатор указывает на вариант fp16. Лицензия — CC BY-NC 2.0, допускающая использование с указанием авторства и запрещающая коммерческое применение.

bartowski/magnum-32b-v2-GGUF — это набор GGUF-квантизаций текстовой генеративной модели magnum-32b-v2, разработанной anth​​racite-org и подготовленной пользователем bartowski для запуска через llama.cpp. Модель предназначена для диалоговых сценариев и генерации текста, включая локальное использование в совместимых приложениях, например LM Studio. Указаны поддерживаемые языки English и Chinese. В репозитории представлены варианты квантизации от Q8_0 до Q2_K и IQ2_M с размером файлов примерно от 11,18 до 34,55 ГБ. Для квантизации использовалась imatrix с калибровочным набором данных; часть вариантов применяет Q8_0 для embedding- и output-весов. Более высокие уровни квантизации обеспечивают лучшее сохранение качества, но требуют больше оперативной памяти и дискового пространства, тогда как компактные варианты экономичнее, но дают более низкое качество. Архитектура, точное число параметров исходной модели и размер контекстного окна в README не указаны. Модель использует шаблон промпта ChatML с ролями system, user и assistant. Лицензия обозначена как other с названием tongyi-qianwen; в качестве текста лицензии указана лицензия Qwen/Qwen2-72B-Instruct. Перед использованием следует проверить её условия применительно к данной производной и к выбранному сценарию.

bartowski/magnum-v3-27b-kto-GGUF — это набор GGUF-квантизированных версий языковой модели anthracite-org/magnum-v3-27b-kto. Квантизация выполнена bartowski с использованием llama.cpp, версии b3715, и метода imatrix. Модель предназначена для генерации текста и запуска локально через совместимые приложения, включая LM Studio. Для взаимодействия рекомендуется шаблон сообщений ChatML с ролями system, user и assistant. Модель имеет 27 миллиардов параметров; README не указывает точную базовую архитектуру, поддерживаемые языки, модальности и размер контекстного окна. Доступны варианты от F16 до Q2_K, включая Q8_0, Q6_K, Q5_K, Q4_K, IQ4 и другие форматы. Более высокие разрядности обеспечивают лучшее сохранение качества, но требуют больше памяти; низкоразрядные варианты уменьшают требования к памяти за счёт снижения качества. Для ARM-процессоров предусмотрены специальные варианты Q4_0 с требованиями к поддержке SVE или i8mm. Сильной стороной набора является широкий выбор размеров файлов и уровней квантизации, позволяющий адаптировать запуск под доступную оперативную память; варианты Q6_K_L, Q6_K, Q5_K и Q4_K отмечены как рекомендуемые. Ограничения включают значительные требования к памяти для полноразмерных вариантов и возможное ухудшение качества у низкоразрядных форматов. Лицензия в README не указана.

MahaKumbh-Llama3.3-70B — языковая модель AIGurukul Foundation для генерации текста и диалогового взаимодействия. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 69,5 млрд параметров; в карточке указано, что она дообучена на Llama 3.3. Модель поддерживает контекст до 131 072 токенов и опубликована в формате safetensors для Transformers. Модель подходит для генерации ответов и ведения диалога; в метаданных также отмечен интерфейс вызова инструментов. README не описывает конкретные сценарии применения, данные обучения или результаты оценки, поэтому специализированные возможности и качество для отдельных задач установить нельзя. Указана лицензия Apache 2.0. Python в README ошибочно или неоднозначно приведён в поле языков NLP и не считается поддерживаемым естественным языком.

CobraMamba/mamba-gpt-3b — языковая модель, дообученная авторами репозитория на open-lama. В карточке базовой моделью названа openlm-research/open_llama_3b; каталог классифицирует архитектуру как плотную LLaMA с классом LlamaForCausalLM. Модель содержит 3,3 млрд параметров, принимает текст и генерирует текст, работает через Transformers и поддерживает контекст до 2048 токенов. Модель предназначена для генерации продолжений текста и языковых задач, включая ответы на вопросы и рассуждение по текстовому запросу. В README приведены результаты бенчмарков MMLU, ARC, HellaSwag и других оценок; авторы сообщают о сравнении с OpenLLaMA 3B и LLaMA. Карточка указывает лицензию Apache-2.0. README предупреждает, что ответы могут быть ошибочными, нерелевантными или содержать предвзятый и оскорбительный контент. В оценке авторы исключили CB и WSC из-за подозрения на загрязнение обучающими данными, поэтому приведённые результаты следует интерпретировать с учётом этого ограничения.

Marin 8B Base — базовая авторегрессионная языковая модель команды Marin при Stanford CRFM, созданная как открытая фундаментальная модель. Это плотный Transformer семейства Llama 3 с 7,5 млрд параметров; в карточке указаны 32 слоя, скрытый размер 4096, 32 головы внимания и 8 KV-голов. Модель принимает текст и генерирует продолжение, а её контекстное окно составляет 4096 токенов. Модель обучена преимущественно на английских данных из наборов для веб-текстов, энциклопедий, научных статей, программирования, математики и вопросов-ответов. Она предназначена для продолжения текста и может служить базой для дальнейшей адаптации под конкретные задачи; это именно Base-модель, а не настроенный для диалога помощник. Репозиторий использует формат safetensors и совместим с Transformers и инструментами, поддерживающими архитектуру Llama. Модель выпущена по лицензии Apache 2.0. Она не проходила настройку безопасности; ответы могут содержать предвзятые или вредоносные материалы и фактические ошибки. Разработчики не рекомендуют использовать её автономно без проверки результатов.

Это диалоговая языковая модель на архитектуре Llama, полученная методом TIES слиянием модели Hjgugugjhuhjggg/mergekit-ties-bkbuzsr и huihui-ai/Llama-3.2-3B-Instruct-abliterated. Она предназначена для генерации текста и ответов в чате; метаданные также отмечают интерфейс для вызова инструментов. Модель содержит 3,2 млрд параметров, принимает текст и выдаёт текст. Указанный нативный контекст составляет 131 072 токена. Модель опубликована в формате safetensors и рассчитана на использование через Transformers. Базовая модель Llama-3.2-3B-Instruct-abliterated описана в каталоге как диалоговая модель с ослабленными отказами. README указывает слияние в формате float16 с помощью mergekit и метода TIES. Лицензия в предоставленных данных не указана.

UCLA-EMC/Meta-Llama-3.1-8B-AWQ-INT4 — квантизированная версия базовой модели Meta-Llama-3.1-8B, разработанной Meta и подготовленной в формате AWQ сообществом UCLA-EMC. Это авторегрессионная текстовая генеративная модель: принимает текст и генерирует текст. Модель предназначена для локального запуска и задач общего текстового продолжения, включая генерацию кода и другой контент по заданному запросу. Версия является базовой, а не instruction-tuned, поэтому она не оптимизирована специально для диалогового следования инструкциям. Модель имеет размер 8B параметров и квантизацию INT4 с использованием AutoAWQ, GEMM-ядер, zero-point quantization и размером группы 128. Для загрузки контрольной точки требуется около 7,29 ГБ VRAM; модель тестировалась на GPU NVIDIA T4 и может запускаться на менее мощном оборудовании. В README указана поддержка английского языка; размер контекста для самой модели не указан, а параметр fuse_max_seq_len=512 приведён только в примере запуска. Для работы используются Transformers, Accelerate и AutoAWQ. Модель распространяется по лицензии CC BY-NC-4.0, поэтому её применение ограничено условиями этой лицензии, включая некоммерческий характер использования.

bartowski/meta-llama_Llama-4-Scout-17B-16E-Instruct-old-GGUF — это квантованная версия инструкционно дообученной модели Llama 4 Scout, разработанной Meta и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и выполнения пользовательских инструкций; конкретные прикладные сценарии в README не перечислены. Из доступных данных известны обозначения 17B и 16E в названии модели, а также принадлежность к семейству Llama 4 Scout. Модель относится к классу text-generation, однако сведения о точной архитектуре, размере контекста, поддерживаемых языках, модальностях, вариантах квантования и требованиях к ресурсам отсутствуют. К потенциальным сильным сторонам относятся инструкционное дообучение и возможность использования в экосистеме GGUF, совместимой с рядом локальных средств запуска. Ограничения и фактическое качество зависят от конкретной квантовки и среды инференса; количественные характеристики и результаты тестирования не указаны. Модель распространяется на условиях Llama 4 Community License от Meta. Лицензия предусматривает требования к атрибуции, отображению надписи «Built with Llama», соблюдению Acceptable Use Policy и особые коммерческие условия для продуктов с более чем 700 миллионами ежемесячных активных пользователей.

MFANN 3b version 0.7 — дообученная модель семейства Phi, созданная netcat420 на датасете MFANN в состоянии на 5 мая 2024 года. Она рассчитана на генерацию текста и, согласно метаданным каталога, также поддерживает классификацию текста. Модель содержит 3,5 млрд параметров, использует архитектуру PhiForCausalLM и принимает контекст длиной до 2048 токенов. В карточке приведены результаты на ARC, HellaSwag, MMLU, TruthfulQA, Winogrande и GSM8K; наивысший из перечисленных результатов — 77,66 на Winogrande. Автор характеризует модель как нецензурированную. Модель распространяется в формате safetensors по лицензии Apache-2.0. Качество зависит от задачи; результаты карточки не гарантируют аналогичной точности в реальном применении.

MiMo-7B-Base — базовая языковая модель Xiaomi, обученная с нуля для развития способностей к рассуждению. Это плотная авторегрессионная модель с архитектурой MiMoForCausalLM и 7 млрд параметров; для обучения использовано около 25 трлн токенов, а дополнительная цель Multiple-Token Prediction поддерживает ускоренное декодирование. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов и интерфейс диалога и вызова инструментов. Модель предназначена прежде всего для дальнейшего дообучения и постобучения, а также для экспериментов с задачами математического и программного рассуждения. README описывает потенциал базовой модели в этих областях и результаты отдельных производных моделей MiMo, но не следует считать их результатами этого чекпойнта. В карточке не приведены конкретные языковые покрытия и подробные ограничения качества. Лицензия — MIT.

TensorVizion/MiMo-V2.6-Distill-Qwen-Abliterated — производная версия мультимодальной модели MiMo-V2.6-Distill-Qwen-9B от Xiaomi, представленная в карточке как 2-битная конверсия для MLX. Метаданные указывают архитектуру Qwen3.5 и класс Qwen3_5ForConditionalGeneration; модель принимает текст и изображения и генерирует текст. Она предназначена для диалоговых и агентных сценариев, программирования, использования инструментов и анализа изображений. README сообщает, что исходная модель преобразована в формат MLX с помощью mlx-lm 0.31.3; метаданные указывают лицензию MIT. В метаданных также отмечена дистилляция исходной базовой модели, но сведения о конкретном процессе дообучения или об «abliterated»-изменениях не приведены. Доступная информация не подтверждает языковой охват и длину контекста. 2-битное представление ограничивает точность чисел, а конкретные последствия для качества в карточке не описаны.

Ministral-8B-Instruct-2410-HF-GGUF-TEST — набор GGUF-квантизаций инструкционной модели Ministral-8B-Instruct-2410-HF, опубликованный bartowski и созданный с использованием llama.cpp. Исходная модель указана как prince-canuma/Ministral-8B-Instruct-2410-HF. Модель предназначена для генерации текста и диалоговых сценариев; запуск рекомендован через LM Studio или совместимые реализации llama.cpp с форматом запроса «<s> [INST] {prompt}[/INST] </s>». Архитектура, языки, модальности и размер контекста в README не указаны. Доступны варианты от полноточного F16 размером 16,05 ГБ до квантизаций IQ3_M размером 3,79 ГБ, включая Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и другие форматы. Квантизации выполнены с использованием imatrix; варианты Q5–Q6 и некоторые Q4 отмечены как обеспечивающие высокое или хорошее качество при уменьшенном размере. Отдельные варианты оптимизированы для ARM и требуют поддержки sve или i8mm; они не рекомендуются для Mac и Windows. Существенное ограничение состоит в том, что файлы основаны на непроверенной конвертации, выполненной до завершения поддержки модели в llama.cpp, поэтому возможны проблемы при запуске. Лицензия в README не указана.

alicecomfy/miqu-openhermes-full — чат-модель на архитектуре Llama с 68,7 млрд параметров и контекстом 32 764 токена. По карточке, это слияние LoRA с дообученной моделью на основе Miqu 70B, которую автор README называет утечкой Mistral AI; базовую модель предварительно деквантизировал пользователь 152234h. Репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста в диалогах. Автор сообщает, что результаты выглядят хорошо, но работа с промптами может быть нестабильной. Для генерации в его окружении потребовалась поддержка Flash Attention 2; также указано высокое требование к видеопамяти — около 130 ГБ. Лицензия в предоставленных данных не указана.

miscii-14b-1028-GGUF — это квантизированная версия языковой модели miscii-14b-1028, разработанной sthenno-com и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста, диалогов, roleplay, conversational-сценариев и, согласно тегам, использования инструментов. Указаны английский и китайский языки, а также датасеты HelpSteer2, Synthetic-Persona-Chat и orpo-dpo-mix-40k. Модель относится к классу примерно 14B параметров; точная архитектура и размер контекста в README не указаны. Доступны варианты от F16 до Q3_K_XL, включая рекомендуемые Q4_K_M, Q5 и Q6-квантизации, что позволяет выбирать между качеством и требованиями к памяти. Модель рассчитана на запуск через llama.cpp и LM Studio. В README приведены результаты Open LLM Leaderboard по IFEval, BBH, MATH, GPQA, MuSR и MMLU-PRO, однако они характеризуют базовую модель, а не обязательно каждый квантизированный файл. Ограничениями являются отсутствие информации о точной архитектуре, максимальном контексте, системных требованиях и детальной оценке качества в прикладных сценариях. Лицензия — Apache-2.0.

Trelis Research выпустила чат-модель Trelis/Mistral-7B-v0.1-chat-SFT — дообученную методом SFT версию Mistral-7B-v0.1 для генерации текста в диалоге. В карточке указано, что при настройке использован шаблон Llama 2; базовая архитектура — плотный трансформер Mistral с Grouped-Query Attention, Sliding-Window Attention и токенизатором Byte-fallback BPE. Модель содержит 7,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Модель подходит для создания чат-ботов, ответов на текстовые запросы и генерации продолжений текста на английском языке. Она распространяется в формате safetensors по лицензии Apache-2.0. В карточке базовой Mistral отмечено отсутствие встроенных механизмов модерации; качество и поведение дообученной чат-версии могут отличаться от базовой модели.

Nemotron-Labs-Diffusion-8B — плотная языковая модель на 8 млрд параметров от NVIDIA, созданная для генерации текста и диалогов. Одна и та же модель поддерживает авторегрессионное декодирование, параллельное декодирование на основе диффузии и режим self-speculation, который использует диффузию для подготовки черновых токенов, а авторегрессионное декодирование — для их проверки. Режим работы переключается изменением шаблона внимания при инференсе. Модель предназначена для ускорения генерации, особенно в сценариях с разной конкурентностью запросов. По данным NVIDIA, self-speculation повышает длину принимаемого черновика и скорость генерации относительно некоторых вариантов сравнения; приведены результаты на DGX Spark и GB200. Для использования в примерах карточки требуется Transformers версии 5.0 или новее. Модель имеет контекстное окно 262 144 токена и распространяется в формате safetensors. Лицензия указана как other; условия использования следует сверять с условиями NVIDIA. README рекомендует оценивать соответствие модели требованиям конкретной отрасли и сценария, а также учитывать риски смещения, безопасности и конфиденциальности. Русский язык и мультимодальный ввод для этой версии в предоставленных данных не заявлены.

Niwaki-Qwen3.6-30B-A3B-v3.0-gguf — это GGUF-сборка модели Niwaki на основе Qwen3.6-35B-A3B, подготовленная проектом Niwaki для запуска через llama.cpp. Модель имеет архитектуру Mixture-of-Experts: всего 30,5 млрд параметров, активируется не более примерно 3,8 млрд; в ней 40 слоёв, по 256 маршрутизируемых экспертов и top-k 8. Эксперты хранятся в разных точностях: часть квантована до 2 или 3–4 бит, часть удалена, а основная часть модели сохранена в Q8_0. Модель предназначена для диалоговой генерации текста и многоязычных сценариев. В README приведены измерения для английского, испанского, французского, немецкого, русского, китайского, японского, корейского, арабского и хинди, а также тесты отслеживания состояния и многошагового рассуждения. Файл занимает 14,1 ГБ и требует форк neopolita-llama.cpp версии v3.0 или новее: стандартная сборка llama.cpp не поддерживает используемое распределение точности экспертов. Это производная квантованная сборка модели Niwaki-Qwen3.6-30B-A3B-v3.0-mlx; исходная модель Qwen разработана командой Qwen. Лицензия — Apache-2.0. Результаты зависят от выбранного сценария и аппаратуры; скорость ниже, чем у некоторых однотипных сборок, из-за выполнения экспертов в двух уровнях точности. Полная статья с методом и измерениями, согласно README, ещё готовится.

Noema-2B-GGUF — это набор GGUF-квантизированных сборок модели Noema-2B, разработанной NoemaAI-labs. Модель представляет собой примерно 2-миллиардную reasoning-модель, дообученную на базе Qwen/Qwen3.5-2B, и предназначена для генерации текста, решения математических и логических задач, а также локального запуска через llama.cpp и совместимые среды. Заявленный язык — английский. Модель использует гибридную архитектуру Qwen3.5 с Gated-DeltaNet: в ней сочетаются линейные слои и слои полноформатного внимания. Доступны варианты F16, Q8_0, Q6_K и Q4_K_M размером примерно от 1,2 до 3,5 ГБ; Q4_K_M рекомендован как наиболее сбалансированный по качеству и размеру, а Q8_0 обеспечивает наиболее высокую точность среди квантизированных вариантов. Модель настроена и оценивалась в non-thinking mode, который включается шаблоном чата по умолчанию. Для работы требуется свежая версия llama.cpp с поддержкой архитектуры qwen35; старые версии могут не загрузить модель. Рекомендуется использовать вероятностную генерацию с параметрами temperature 0.7, top-p 0.8, top-k 20 и presence penalty 1.5. Жадная генерация с temperature 0 может приводить к зацикливанию повторов. Максимальный размер контекста, подробные бенчмарки и ограничения базовой модели в данной карточке не указаны. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой Qwen/Qwen3.5-2B.

Nous-Hermes-2-Mixtral-8x7B-SFT-Alpaca-GGUF — это набор файлов модели в формате GGUF, подготовленный и квантованный MaziyarPanahi на основе Nous-Hermes-2-Mixtral-8x7B-SFT-Alpaca. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и совместимые приложения и библиотеки. В основе используется архитектура Mixtral 8x7B с дообучением в формате SFT и данными Alpaca. Доступны варианты квантования с разрядностью от 2 до 8 бит, включая форматы Q2_K, Q3_K, Q4_K, Q5_K и Q6_K, что позволяет выбирать компромисс между размером файлов, требованиями к ресурсам и качеством генерации. Модель работает с текстом; сведения о поддерживаемых языках и размере контекста в README не указаны. К сильным сторонам относятся широкий выбор уровней квантования и совместимость с llama.cpp, text-generation-webui, LM Studio, GPT4All, KoboldCpp, llama-cpp-python и другими инструментами для локального инференса. Ограничения связаны с потерями качества, возможными при низкоразрядном квантовании, а также с отсутствием в README подробных данных о производительности, языковом покрытии и контексте. Указанная лицензия — Apache-2.0.

Карточка модели localized-ft/OLMo-3-7B-good-vs-bad-mixed-multifact-first-third-sft-seed5 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-good-vs-bad-mixed-multifact-inoculation-prompting-seed4 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-good-vs-bad-mixed-multifact-last-third-sft-seed5 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-good-vs-bad-mixed-multifact-second-third-sft-seed3 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.