II.1Анализ требований и архитектура ПО

OLMo 7B Instruct — языковая модель Allen Institute for AI (AI2), дообученная для диалога и ответов на вопросы. Это плотный авторегрессионный Transformer с примерно 6,7 млрд параметров; версия предназначена для запуска через Hugging Face Transformers версии 4.40 и новее. Модель принимает текст и генерирует текст на английском языке. Для обучения использованы supervised fine-tuning на смеси Tulu 2 SFT и дополнительная настройка DPO на очищенном наборе UltraFeedback. Контекст составляет 2048 токенов. Модель можно применять для диалоговых помощников, ответов на вопросы и генерации текста по инструкциям. Модель выпущена под лицензией Apache 2.0. В карточке отмечено, что у неё нет специального фильтра безопасности или отдельного обучения безопасности; возможны вредоносные, предвзятые или фактически неверные ответы. Разработчики рекомендуют проверять результаты и при необходимости добавлять защитные меры. Карточка указывает на более новые версии OLMo.

OpenChat-3.5-0106_32K-PoSE-GGUF — это GGUF-квантизированная версия текстовой генеративной модели OpenChat-3.5-0106_32K-PoSE. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; исходная модель разработана и опубликована Pretergeek. В качестве данных указано подмножество или источник Yukang/LongAlpaca-12k. Модель предназначена для генерации текста и диалогового взаимодействия, включая работу с системными и пользовательскими запросами через специальный шаблон OpenChat. Заявлено контекстное окно до 32 000 токенов. Модель является текстовой, сведения о поддерживаемых языках, точной архитектуре и количестве параметров в README не приведены. Доступны варианты от F16 до сильно сжатых форматов Q8, Q6, Q5, Q4, Q3 и IQ. Это позволяет выбирать между качеством, размером файла и требованиями к памяти; варианты Q6_K и Q6_K_L отмечены как близкие к исходному качеству, а Q4_K_M — как стандартный компромисс по размеру. Некоторые варианты оптимизированы для ARM и требуют поддержки SVE или i8mm, поэтому совместимость зависит от оборудования и среды запуска. Рекомендуется использование через llama.cpp или LM Studio. Лицензия — Apache-2.0. Ограничения качества зависят от уровня квантизации: более компактные варианты могут заметно уступать полноточной версии, а сведения о результатах тестирования, безопасности и фактической языковой эффективности не предоставлены.

Карточка модели FuseAI/OpenChat-3.5-7B-Mixtral-v2.0 на Hugging Face совпадает с карточкой FuseAI/OpenChat-3.5-7B-Starling-v2.0, поэтому описание составлено по ней. FuseAI/OpenChat-3.5-7B-Starling-v2.0 — диалоговая языковая модель, выпущенная исследовательской группой Sun Yat-sen University в рамках проекта FuseChat. Это целевая модель, полученная лёгким дообучением для попарного слияния знаний OpenChat-3.5-7B и Starling-LM-7B-alpha; архитектура — плотная Mistral с 7,1 млрд параметров. В README она описана как компонент для объединения с другими целевыми моделями FuseChat в единую чат-модель. Модель предназначена для ответов на вопросы, выполнения текстовых инструкций и диалогового общения. Она принимает текст и генерирует текст, поддерживает английский язык и контекст до 8192 токенов. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. README приводит результаты MT-Bench для итоговой FuseChat-7B-v2.0, но не отдельную оценку этого целевого чекпойнта, поэтому эти показатели нельзя напрямую переносить на данную модель. Качество ответов может зависеть от шаблона диалога и сценария применения.

Open-Instruct Self-Instruct 7B — языковая модель семейства LLaMA, дообученная командой Allen Institute for AI на наборе Self-Instruct. Она предназначена для генерации ответов на инструкции и текстовые запросы; карточка приводит результаты оценки на тестах общих знаний, математики, рассуждений, вопросов и ответов и генерации кода. Модель содержит около 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текст. Родной размер контекста — 2048 токенов. Для работы нужны исходные веса LLaMA в формате Hugging Face: опубликованная модель представляет собой diff, а не полный самостоятельный набор весов. Карточка сообщает о лицензии AI Model License вместе с исходной лицензией LLaMA. Результаты в приведённых тестах скромные, поэтому перед применением в конкретной задаче качество следует проверить отдельно.

VMware/open-llama-13b-open-instruct — языковая модель VMware на архитектуре Llama с плотной декодирующей трансформерной сетью и примерно 12,9 млрд параметров. Это instruction-tuned версия полностью обученной модели Open LLaMA 13B, настроенная следовать инструкциям с использованием шаблона запросов Alpaca и данных Open-instruct-v1, включающих OASST, Dolly и HH-RLHF. Модель предназначена для генерации текста и диалоговых сценариев на английском языке: например, для ответов на запросы и выполнения текстовых инструкций. Контекст составляет 2048 токенов. Модель распространяется в форматах PyTorch и Safetensors по лицензии CC BY-SA 3.0; README заявляет возможность коммерческого использования. В README отмечено, что быстрый токенизатор может неверно кодировать текст, поэтому рекомендуется отключить use_fast. Также модель может хуже справляться с кодом из-за особенностей обработки последовательностей пробелов.

pankajmathur/orca_mini_v5_8b — дообученная автором на наборах данных в стиле Orca Mini языковая модель на архитектуре Llama 3. Она предназначена для диалогов и общих задач с текстом: модель можно использовать как помощника для вопросов, объяснений и генерации ответов, а также как основу для дальнейшей настройки DPO/PPO или объединения с другими моделями. Репозиторий содержит веса в формате safetensors; размер модели — 7,5 млрд параметров, контекст — до 8192 токенов. Для общения в README приведён формат ChatML. Модель заявлена как универсальная и оценивалась на наборах тестов для языковых моделей; README приводит результаты по нескольким метрикам, но не описывает их методику подробно. Поддерживается английский язык. Автор разрешает использовать модель как основу для дальнейшей настройки или объединения при условии указания авторства; метаданные указывают лицензию llama3.

Ouro-1.4B — языковая модель ByteDance с архитектурой LoopLM: decoder-only Transformer, который повторно использует общие веса при рекуррентных вычислениях. Модель содержит 1,3 млрд параметров по метаданным Hugging Face; в README указано 1,4 млрд, 24 слоя и 4 рекуррентных шага. Максимальная длина контекста — 65 536 токенов. Модель предназначена для генерации текста и диалоговых сценариев, включая рассуждения с вычислениями в латентном пространстве. Поддерживает адаптивный ранний выход, позволяющий менять расход вычислений; заявленная сильная сторона — эффективность по числу параметров. README сообщает о сопоставимости с обычными трансформерами на 3–4 млрд параметров, но не приводит здесь подробностей оценки. Для запуска рекомендуется Transformers 4.56.0; vLLM не поддерживает адаптивный выход, поэтому при его использовании выполняются все рекуррентные шаги. Модель предоставлена «как есть», без гарантий для производственного применения. Лицензия — Apache-2.0.

phi-3.1-qlora-blend-dpo-abliterated — компактная языковая модель для диалогов и генерации текста, созданная ndavidson с помощью mergekit. Это слияние Microsoft Phi-3-mini-4k-instruct и двух моделей ndavidson: phi-3.1-abliterated и phi-3.1-qlora-blend-dpo; применён метод TIES с нормализацией весов. Архитектура — плотная Phi-3 для авторегрессионной генерации, размер — 3,7 млрд параметров, контекст — до 4096 токенов. Модель предназначена для чат-ответов и свободной генерации текста. В названии и составе указана abliterated-версия; README не приводит оценок качества, конкретных языков или подробностей о поведении этой версии. Распространяется под лицензией Apache-2.0.

Quazim0t0/Phi4.Turn.R1Distill_v1.5.1-Tensors — языковая модель для генерации текста и диалогов, созданная как дообучение unsloth/phi-4-unsloth-bnb-4bit. Модель содержит 14,1 млрд параметров, использует плотную архитектуру LlamaForCausalLM и поддерживает контекст до 16 384 токенов. Модель предназначена для генерации ответов и рассуждений в текстовом формате. В метаданных указаны англоязычные данные для обучения, включая наборы Bespoke-Stratos, Sky-T1, BenfordsLawReasoningJSON и OpenThoughts. Репозиторий содержит веса safetensors; лицензия — Apache-2.0. Карточка отмечает, что проект создан в начале 2025 года и его результаты оценки устарели относительно более новых моделей. Поэтому качество следует проверять на актуальных задачах перед применением.

PiVoT-0.1-early-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием Mistral-7B-Instruct-v0.2 и PiVoT-0.1-early методом SLERP. Это плотная модель семейства Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров, предназначенная для генерации текста и ответов на инструкции в диалоговом формате. Контекст составляет до 32 768 токенов. Модель может применяться для ведения диалога и генерации ответов на текстовые запросы. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Карточка описывает конфигурацию слияния, но не приводит отдельные оценки качества или подробные ограничения для получившейся модели.

Prima-Pastacles-7b — объединённая языковая модель семейства Mistral, созданная авторами репозитория Nitral-Archive методом SLERP из Locutusque/Hercules-2.5-Mistral-7B и Test157t/Pasta-PrimaMaid-7b. Модель имеет плотную архитектуру MistralForCausalLM и 7,1 млрд параметров; опубликованные веса представлены в формате safetensors, тип точности в конфигурации слияния — bfloat16. Контекст составляет до 8192 токенов. Модель предназначена для генерации текста и может использоваться в сценариях общения и продолжения текста. README приводит результаты Open LLM Leaderboard, включая оценки по AI2 Reasoning Challenge и HellaSwag. Модель создана с помощью mergekit; лицензия указана как other, поэтому условия использования следует сверять с карточкой модели и лицензиями исходных моделей.

Bonsai-8B-unpacked-GGUF — это квантованные версии текстовой генеративной модели Bonsai-8B-unpacked, разработанной prism-ml и преобразованной в формат GGUF пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста и локального запуска через llama.cpp, Ramalama, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Модель имеет около 8 миллиардов параметров и поддерживает текстовую модальность. В репозитории представлены варианты от BF16 размером 16,38 ГБ до низкобитных квантований; рекомендуемыми названы Q4_K_M, Q5_K_* и Q6_K_*. Квантование выполнено с использованием imatrix, что позволяет сохранить высокое качество при уменьшении размера. Для работы используется формат prompt с ролями system, user и assistant, включая секцию <think>. Сведения о поддерживаемых языках, архитектуре и размере контекста в README не указаны. Сильные стороны модели — широкий выбор уровней квантования, возможность локального запуска и хорошее соотношение качества, размера и требований к памяти. Более компактные варианты подходят для систем с ограниченной RAM, а Q6_K и Q6_K_L обеспечивают качество, близкое к исходному. Ограничения включают возможное снижение качества у низкобитных вариантов и необходимость обновления используемых инструментов для недавно поддержанных архитектур. Модель распространяется по лицензии Apache-2.0.

CEIA-POSITIVO/Qwen-1.7B-capado — компактная языковая модель для генерации текста и диалогового взаимодействия, опубликованная в репозитории CEIA-POSITIVO на Hugging Face. По метаданным она относится к семейству Qwen3, использует библиотеку Transformers и содержит около 1,6 млрд параметров. Модель предназначена для продолжения и генерации текста, создания ответов в чатах, прототипирования conversational-приложений и локального запуска задач, не требующих крупной модели. Она поддерживает контекст длиной до 40 960 токенов и распространяется в формате safetensors. README не содержит сведений о разработчике, лицензии, языках обучения, процедуре дообучения, оценивании или специальных предметных областях. Поэтому модель следует рассматривать как универсальную генеративную модель с неполностью документированными характеристиками; перед использованием в продуктивных или чувствительных сценариях необходимы самостоятельные проверки качества, безопасности и соблюдения условий лицензии.

Qwen2.5-32B-Instruct-IMat-GGUF — это GGUF-квантизированная версия языковой модели Qwen2.5-32B-Instruct, разработанной командой Qwen и подготовленной для llama.cpp пользователем legraphista. Модель предназначена для диалогов и генерации текста, включая использование в локальных приложениях и совместимых инструментах инференса. В README указана поддержка английского языка и задача text-generation. Модель имеет размер 32B параметров и основана на исходных весах BF16. Доступны варианты от BF16 и F16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K, включая форматы с IMatrix-квантизацией. Размер файлов составляет примерно от 12,31 до 65,54 ГБ в зависимости от варианта; некоторые высокоточные версии разделены на несколько файлов. IMatrix применяется к ряду вариантов с более сильным сжатием, что позволяет уменьшить требования к памяти при сохранении качества, однако README не содержит количественной оценки качества и не указывает размер контекста или дополнительные модальности. Сильной стороной модели является широкий выбор уровней квантизации и совместимость с llama.cpp, благодаря чему можно подобрать компромисс между качеством, скоростью и потреблением памяти. Ограничениями являются значительные аппаратные требования даже для сжатых вариантов, а также отсутствие в предоставленных данных подробных сведений о производительности, языковом охвате за пределами английского и ограничениях применения. Распространение указано по лицензии Apache-2.0.

aliRafik разработал дообученную текстовую модель на архитектуре Qwen2.5-7B. Она обучена на примерно 52 тысячах примеров набора yahma/alpaca-cleaned с применением LoRA, Unsloth и библиотек Hugging Face TRL и Transformers; веса опубликованы в 16-битной точности. Репозиторий указывает 7,1 млрд параметров и контекст до 131 072 токенов, тогда как README описывает контекст обучения в 2048 токенов. Модель предназначена для выполнения текстовых инструкций, подготовки структурированных ответов и пошаговых объяснений, в том числе решения многоэтапных математических задач. Она поддерживает генерацию текста и ориентирована на английский язык. Разработчик приводит пример более последовательного и полного решения после дообучения, однако это не заменяет широкую оценку качества. Модель может ошибаться в рассуждениях и вычислениях, выдумывать сведения, давать неполные или чрезмерно подробные ответы и неверно трактовать неоднозначные инструкции. Лицензия — Apache-2.0.

informatiker/Qwen2-7B-Instruct-abliterated — разговорная языковая модель Qwen2, изменённая разработчиком informatiker путём удаления связанных с отказом векторов. Она предназначена для генерации текста в диалоге и обычно реже отказывает на запросы; карточка сообщает, что изменение работает не идеально и на некоторых сложных запросах модель всё ещё может отказать. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Qwen2ForCausalLM и поддерживает контекст до 32 768 токенов. Для запуска карточка указывает библиотеку Transformers и формат safetensors. Лицензия в предоставленных данных не указана.

laion/qwen3-30b-a3b-thinking-opencode-sft-densemixer-serveparity — языковая модель для генерации текста и диалогового общения. В метаданных указаны архитектура Qwen3 MoE и класс Qwen3MoeForCausalLM, библиотека Transformers и размер 2,6 млрд параметров. Модель принимает текст и выдаёт текст; заявленная длина контекста — 262 144 токена. Карточка сообщает, что модель обучена с нуля, но не описывает датасет, назначение, оценку качества или ограничения. Поэтому её можно рассматривать для генерации текста и чата, однако пригодность для конкретных задач по доступным сведениям оценить нельзя. Файл весов указан в формате safetensors. Лицензия в предоставленных данных не указана.

Qwen3.5-9B-Claude-4.6-Opus-Reasoning-Distilled-v2 — дообученная версия Qwen3.5-9B, разработанная Jackrong с использованием Unsloth. Модель ориентирована на эффективное рассуждение и обучалась на 14 000 образцах в стиле Claude 4.6 Opus, а также на наборах данных по математике, логическим задачам, общеобразовательным вопросам и инструкциям. Заявленная цель версии v2 — повысить точность и сократить избыточную длину цепочек рассуждений. Модель предназначена для задач, требующих многошагового анализа: решения математических и словесных задач, логической дедукции, ответов на общие вопросы, выполнения инструкций, а также для агентских сценариев и локального развёртывания с ограниченным бюджетом инференса. Авторы также приводят результаты HumanEval и HumanEval+, рассматривая их как проверку переноса общего навыка рассуждения на программирование, хотя код не был основным направлением обучения. Из известных характеристик: размер базовой модели — 9B параметров; заявлены языки English, Chinese и Korean. В карточке указана модальность image-text-to-text, однако подробности о поддерживаемых визуальных входах и контекстном окне не приведены. Сильной стороной модели считается более экономичное рассуждение: авторы заявляют сокращение потребления символов и токенов более чем на 20% при сохранении или повышении точности. Ограничение заключается в возможном снижении широких универсальных возможностей из-за небольшого объёма и направленности SFT-обучения; заявленные результаты основаны преимущественно на HumanEval и HumanEval+. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-27B-Architect-Polaris2-Fable-B-F451-Tess — плотная мультимодальная модель семейства Qwen3, созданная независимой лабораторией Nightmedia. Это слияние NuSLERP нескольких моделей, включая Tess-4-27B и варианты Qwen3.5/3.6 с диалоговой, творческой и инструкционной настройкой. Модель предназначена для диалогов, рассуждений, программирования и творческого письма, а также принимает изображения для визуальных запросов. В карточке заявлен переключатель режима рассуждений через шаблон чата; опубликованные результаты включают тесты на понимание и оценки скорости и потребления памяти для нескольких вариантов квантования. В метаданных указаны 27B в имени семейства и поддержка английского, китайского, японского и испанского языков. Модель распространяется в формате safetensors под лицензией Apache-2.0. Длина контекста в предоставленных данных не подтверждена. Это экспериментальная сборка-слияние; результаты тестов из карточки не гарантируют качество в конкретных сценариях.

Qwen3.8-20B-Minitron — экспериментальная производная модель exnivo на базе Qwen/Qwen3.8-27B. Это плотная мультимодальная модель с архитектурой Qwen3.5 и классом Qwen3_5ForConditionalGeneration, принимающая текст и изображения и предназначенная для диалогов и генерации ответов по визуальному содержимому. Модель уменьшена структурным удалением слоёв: число языковых слоёв сокращено с 64 до 44, а размер — с 27,357 до 19,746 млрд параметров; это не квантизация. После удаления слоёв модель восстанавливали дистилляцией по логитам исходной модели, обучением на текстовых, учебных, математических и кодовых данных, а также корректировкой с помощью LoRA с последующим слиянием адаптера в веса. Разработчик приводит результаты собственных проверок, но они не являются стандартизованными бенчмарками. Модель распространяется в формате safetensors под лицензией Apache-2.0. Качество и устойчивость могут уступать исходной модели; особенно отмечена слабость в рассуждениях о последовательностях и шаблонах, а также ошибки при необычных формулировках. Восстановление и оценка были сосредоточены главным образом на тексте, поэтому возможности сохранённой визуальной части проверены ограниченно.

Qwen3.8-27B Uncensored ROCmFP4-STRIX-MTP-GGUF — это исследовательская квантованная версия модели Qwen3.8-27B, опубликованная пользователем kingjones777. Модель поставляется в формате GGUF и оптимизирована для запуска через llama.cpp на графике AMD Strix Halo (gfx1151) с ROCm. Вариант Uncensored создан методом abliteration, уменьшающим отказы от ответов на вредоносные запросы; этот метод не добавляет модели новых возможностей. Модель предназначена для генерации текста и кода, локального инференса и экспериментов со speculative decoding через отдельную MTP-модель-черновик. Доступны варианты ROCmFP4 FAST и STRIX_LEAN, а также Q6-квантизации; размер STRIX_LEAN составляет около 13,59 GiB, FAST — около 13,33 GiB. Для заявленной производительности рекомендуется AMD Ryzen AI Max+ 395 с Radeon 8060S, ROCm 7.2.4, контекстом 8192 и MTP с параметром n=4; в этих условиях приведены скорости до 24,73 токена/с для прозы и около 42,70 токена/с для кода. Для работы требуется совместимая сборка llama.cpp или ROCmFPX и отдельный draft-файл Q4_0. Преимущества модели — локальный запуск, поддержка AMD ROCmFP4 и сниженное число отказов, а ограничения — экспериментальный статус, зависимость производительности от оборудования и настроек, отсутствие гарантий сохранения выравнивания и потенциальные проблемы совместимости отдельных сборок. Лицензия — Apache-2.0.

LaTexT/qwen3-8b-gz9-newlines-iter2-w0.2 — дообученная модель на базе Qwen/Qwen3-8B, созданная с помощью TRL. Это плотная авторегрессионная языковая модель семейства Qwen3 с 7,6 млрд параметров и контекстом до 40 960 токенов, предназначенная для диалоговой генерации текста. Карточка связывает её с экспериментом LaTexT и указывает обучающий набор shannons/ot3-1.2m-10k-converted. Модель можно использовать для генерации ответов в чате и выполнения инструкций в текстовом интерфейсе; метаданные также отмечают интерфейс вызова инструментов. Поддерживаемые языки отдельно не перечислены, поэтому описание не приписывает ей конкретный языковой охват. Репозиторий содержит веса в формате safetensors и рассчитан на использование через Transformers. Это экспериментальный чекпойнт из исследовательского проекта; README не приводит сравнительных оценок качества или гарантий поведения. Условия лицензии в предоставленных сведениях не указаны.

Whittle MoE 27B — экспериментальная модель Дэвида (Whittle), полученная преобразованием Qwen3.8-27B в разреженную смесь экспертов и последующим дообучением маршрутизаторов и диалоговым обучением. В метаданных указано 22,3 млрд параметров и контекст 262 144 токена; архитектура — Qwen3.5 MoE для генерации текста. По README, исходные 64 слоя и механизм внимания родительской модели сохранены, а плотные FFN разделены на маршрутизируемые экспертные блоки и общий эксперт. На токен активируется около 17,8 млрд параметров из 27 млрд исходной модели. Модель предназначена для диалогов и генерации ответов. Автор сообщает о снижении зацикливаний и улучшении завершения ответов после обучения сигнала остановки; веса доступны в safetensors, а квантизированные GGUF-сборки — в отдельном репозитории для запуска через llama.cpp. README называет проект исследовательским превью и описывает его как демонстрацию метода восстановления разреженной MoE-модели. Лицензия — Apache-2.0. Ограничения включают слабую точность при выдаче строго заданного числа пунктов, ошибки в сложных структурированных запросах примерно в одном случае из пяти и слабость в арифметике, унаследованную от семейства. Метаданные относят базовую модель к мультимодальным моделям, но README этой версии описывает генерацию текста и не подтверждает обработку изображений или видео.

Qwen3-LR-2e-5-Neat-Packing — диалоговая модель генерации текста на базе Qwen3 с 7,6 млрд параметров. Она дообучена разработчиком на formalmathatepfl/qwen3-cpt с использованием набора данных SFT; карточка не раскрывает состав обучающих данных и результаты оценки. Модель предназначена для генерации текста и диалоговых сценариев. Она принимает текст и выдаёт текст, поддерживает контекст длиной до 32 768 токенов и построена на плотной архитектуре Qwen3. В репозитории указана библиотека Transformers и формат весов Safetensors. Лицензия обозначена как other, конкретные условия в карточке не приведены. Подробности о целевой аудитории, специализированных областях и ограничениях качества не указаны.

TheTsar1209 разработал qwen-carpmuscle-v0.4 — чат-модель на архитектуре Qwen2, дообученная методом SFT на базе unsloth/Qwen2.5-14B-Instruct-bnb-4bit. Модель содержит 14 млрд параметров, использует формат ChatML и рассчитана на генерацию текста и диалоговое взаимодействие. В обучении применялись наборы данных для предварительного обучения, инструкций и чатов; данные были переформатированы, а часть некачественных ответов и отказов удалена. Модель подходит для диалогов и выполнения текстовых инструкций на английском языке. В README указан контекст обучения 8k, а метаданные каталога приводят native context 32768 токенов. Репозиторий содержит веса safetensors. Модель распространяется по лицензии Apache-2.0.

DevQuasar/Qwen.Qwen3.8-Flash-Next-GGUF — квантизированная версия модели Qwen/Qwen3.8-Flash-Next, опубликованная DevQuasar. Модель предназначена для задач генерации текста и может использоваться в сценариях, поддерживаемых базовой моделью, однако конкретные области применения, языки и особенности поведения в README не указаны. Из доступных данных известно только, что модель относится к pipeline text-generation и распространяется в формате GGUF. Размер, архитектура, объём контекста, поддерживаемые модальности и параметры квантизации не приведены. К потенциальным преимуществам относятся уменьшенные требования к ресурсам по сравнению с полной версией, но точные компромиссы между скоростью, потреблением памяти и качеством неизвестны. Лицензия и условия использования в README не указаны.

Модель Solshine/reflection-llama-3.1-8B — разговорная языковая модель семейства Llama 3.1, разработанная Solshine (Caleb DeLeeuw) и дообученная на предыдущем чекпойнте этой серии методом итеративного reflection tuning. Она генерирует рассуждение в специальных тегах, может отмечать и исправлять ошибки в ходе рассуждения, а затем выдаёт итоговый ответ в отдельных тегах. Для диалогов используется стандартный формат чата Llama 3.1. Модель предназначена для генерации ответов и решения задач, где полезны пошаговое рассуждение и самопроверка, в том числе математических текстовых задач. В карточке указаны 7,5 млрд параметров и контекст до 131 072 токенов; доступны интерфейсы чата и вызова инструментов. Обучение проведено с использованием Unsloth и TRL на данных Reflection-Dataset-v2 и orca-math-word-reflection. Основной язык карточки — английский. Официальных результатов бенчмарков пока нет, поэтому качество рассуждений и ответов не подтверждено независимой оценкой. Модель распространяется по лицензии Llama 3.1; применимость лицензии и её условия следует учитывать при использовании.

Sao10K_Llama-3.3-70B-Vulpecula-r1-GGUF — это набор GGUF-квантизаций текстовой генеративной модели Llama-3.3-70B-Vulpecula-r1, разработанной Sao10K и подготовленной квантизатором bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться через llama.cpp, LM Studio и другие совместимые проекты. Заявленный язык — английский. Модель относится к семейству Llama 3.3 и имеет 70 миллиардов параметров; поддерживается только текстовая модальность. Доступны варианты квантизации от Q8_0 до Q2_K и IQ-квантов разного размера: более высокие разрядности обычно обеспечивают лучшее качество, а низкие уменьшают требования к памяти ценой заметной потери качества. Для работы требуется значительный объём оперативной или видеопамяти: размер файлов варьируется примерно от 27 до 75 ГБ. Формат prompt должен соответствовать шаблону Llama 3.3. Размер контекстного окна в README не указан. Сильными сторонами являются высокая ёмкость исходной 70-миллиардной модели, широкий выбор компромиссов между качеством и размером, а также совместимость с локальным запуском через llama.cpp. Ограничения включают большие требования к ресурсам, снижение качества при агрессивной квантизации и отсутствие сведений о мультимодальности, поддерживаемых языках помимо английского и контекстном окне. Указанная лицензия — llama3.3.

SEC-1.6-MBX-7B-DPO — языковая модель Arcee AI, полученная слиянием через mergekit моделей arcee-ai/sec-mistral-7b-instruct-1.6-epoch и macadeliccc/MBX-7B-v3-DPO методом SLERP. Это плотная Mistral-модель с 7,1 млрд параметров, предназначенная для генерации текста в диалоговом формате и запуска чат-сценариев. Контекст модели составляет до 32 768 токенов. Модель подходит для создания ответов на запросы, ведения диалогов и генерации текста. README описывает состав и конфигурацию слияния, но не приводит отдельной оценки качества, языкового охвата или специализированных областей применения. Распространяется под лицензией Apache-2.0.

Модель yuhengtu-bytedance/sfm_filtered_insert_xxf_character-3k_4k_5k_6k_7k_simpleavg_merge — объединённая языковая модель на архитектуре GPT-NeoX, созданная с помощью mergekit. Веса получены линейным слиянием пяти чекпойнтов на шагах 3000, 4000, 5000, 6000 и 7000; чекпойнт на шаге 7000 использован как базовый при слиянии. Модель содержит 8,8 млрд параметров, принимает текст и рассчитана на контекст до 16 384 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Доступна в формате safetensors и использует библиотеку Transformers. В README не описаны конкретная предметная область, языки обучения или целевые сценарии, поэтому её можно характеризовать только как модель общего назначения для текстовой генерации. Лицензия в предоставленных данных не указана.