II.1Анализ требований и архитектура ПО

Qwen3.8-27B-Uncensored-Aggressive-GGUF — набор GGUF-квантов модели Qwen3.8-27B-Uncensored-Aggressive, опубликованный пользователем philbert440. Модель предназначена для локального запуска через llama.cpp и совместимые инструменты, включая сценарии генерации текста, рассуждений и работы с изображениями. В комплект входят основные веса в форматах BF16, Q8_0, Q6_K, Q5_K_M и Q4_K_M, где Q4_K_M является самым компактным вариантом. Модель имеет заявленный размер 27B параметров. Для обработки изображений предусмотрен отдельный vision projector mmproj, а для ускорения генерации с помощью speculative decoding — опциональная MTP head. Языки и размер контекстного окна в README не указаны. Версия основана на обновлённом рецепте α=1.15 с ортогонализацией вектора отказа на 28-м слое; заявленная цель — снизить склонность к отказам и сохранить качество рассуждений. По приведённой оценке в thinking mode, модель получила показатель openness 0,88, confab 0,725, factual 1,00 и gsm8k 0,85, однако методика основана на оценке Claude и результаты следует считать ориентировочными. Основное ограничение — модель является uncensored/de-refused и может выполнять запросы, которые исходная версия отклоняла, поэтому её следует использовать ответственно и с учётом законодательства. Лицензия — Apache 2.0.

Qwen-3.8-27B-Uncensored-mlx-mixed_3_6 — мультимодальная модель для работы с текстом и изображениями, созданная на основе junafinity/Qwen-3.8-27B-Uncensored и преобразованная пользователем tejones36 в формат MLX с помощью mlx-vlm. Модель предназначена для локального запуска на компьютерах Apple Silicon, генерации текста, анализа изображений, технических объяснений и интеграции через CLI, Python API или локальный OpenAI-совместимый сервер. Модель содержит 27 миллиардов параметров и использует смешанное 3/6-битное квантование с размером группы 64: критические слои внимания и проекций хранятся в 6-битном формате, а MLP-слои — в 3-битном. Средняя точность составляет около 3,6 бита на вес, что снижает требования к памяти и пропускной способности; заявлена возможность запуска на Apple Silicon с 18–24 ГБ и более unified memory. Формат хранения — MLX Safetensors. Поддерживаются текстовая и визуальная модальности, однако сведения о языках и размере контекстного окна в README не указаны. К сильным сторонам относятся локальная работа на совместимом оборудовании, заметное сокращение потребления памяти по сравнению с полноразмерными весами и сохранение повышенной точности в наиболее важных слоях. Ограничениями являются зависимость от экосистемы MLX и Apple Silicon, возможное снижение качества из-за агрессивного квантования, а также отсутствие подробных данных о результатах тестирования, языковой поддержке и контекстном окне. Модель обозначена как uncensored, поэтому встроенные ограничения безопасности могут быть ослаблены. Указана лицензия Apache-2.0.

Карточка модели willhx/Qwen3-8B-Base-Math-SeaSFT-Search на Hugging Face совпадает с карточкой Qwen/Qwen3-8B-Base, поэтому описание составлено по ней. Qwen3-8B-Base — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это базовая модель на этапе предобучения, рассчитанная на дальнейшую адаптацию и генерацию текста. В карточке указаны 36 слоёв, 32 головы внимания для Q и 8 для KV; метаданные каталога оценивают размер в 7,6 млрд параметров, а README приводит 8,2 млрд параметров всего и 6,95 млрд без эмбеддингов. Контекст — 32 768 токенов. Модель предназначена для продолжения текста и служит основой для создания специализированных моделей и диалоговых систем. Семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; README отмечает отдельное внимание к программированию, STEM, рассуждениям, книгам и многоязычным данным. Модель использует архитектуру Qwen3 для причинного моделирования языка и распространяется в формате safetensors для Transformers. Лицензия — Apache-2.0. Карточка советует использовать актуальную версию Transformers: версии ниже 4.51.0 не распознают архитектуру qwen3. Поскольку это базовая, а не инструктивно настроенная версия, для диалогового применения и следования инструкциям может понадобиться дополнительная настройка.

taurusduan/Qwen3.8-Whittle-MoE-27B-A17.8B-GGUF — это квантизированная GGUF-версия модели Whittle MoE 27B (A18B), разработанной logic65 на базе Qwen3.8-27B. Модель представляет собой постфактум сформированную mixture-of-experts-архитектуру с 27 млрд параметров, из которых около 17,8 млрд относятся к активным параметрам. В каждом слое используются 64 маршрутизируемых экспертных блока, а для каждого токена активируются 16 из них. Основное назначение — генерация текста и диалоговые сценарии с использованием llama.cpp и совместимых инструментов. Доступно несколько уровней квантизации: от Q8_0 размером около 28,7 ГБ до Q3_K_M размером около 13,9 ГБ, что позволяет выбирать компромисс между качеством и требованиями к памяти. Для версии с визуальными возможностями предусмотрен отдельный проектор mmproj-qwen38.gguf размером около 0,9 ГБ, однако подробные сведения о поддерживаемых изображениях, языках и размере контекстного окна в карточке не указаны. Версия v2.2.1 исправляет проблему преждевременного завершения рассуждений внутри блока chain-of-thought, но не устраняет слабости при точном подсчёте элементов, длинных списках и повторяющихся фрагментах. Сильными сторонами являются MoE-архитектура с относительно умеренным числом активных параметров, несколько вариантов квантизации и улучшенное завершение ответов при включённом рассуждении. Ограничения включают сохраняющуюся склонность к повторениям, недостаточную надёжность при генерации списков длиной более 45 элементов и отсутствие гарантии точного количества элементов. Модель распространяется по лицензии Apache-2.0; репозиторий содержит именно квантизированные сборки базовой модели.

r3b-1.2 — языковая модель семейства Llama, разработанная xgmab123 и дообученная на основе xgmab123/r3b-1.1. Она предназначена для генерации текста в диалоговом формате; в метаданных также заявлен интерфейс вызова инструментов. Модель содержит 3,2 млрд параметров, имеет контекст до 131 072 токенов и распространяется в формате PyTorch. Модель обучалась с использованием Unsloth и библиотеки Hugging Face TRL. Карточка указывает английский язык. Лицензия — Apache-2.0.

Solshine/reflection-llama-3.1-8B-Solshine-Full — языковая модель Solshine на архитектуре Llama, дообученная от Solshine/reflection-llama-3.1-8B-Solshine-trainround4-16bit с использованием Unsloth и библиотеки TRL. Модель содержит 7,5 млрд параметров и рассчитана на генерацию текста и диалоговое взаимодействие; заявленная длина контекста — 131 072 токена. Модель может применяться для генерации ответов в чате и работы с интерфейсом вызова инструментов. В карточке указана поддержка английского языка. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache 2.0.

Salamandra-2B — базовая авторегрессионная языковая модель семейства Salamandra, разработанная командой проекта Salamandra и обученная с нуля. Это плотная decoder-only модель на архитектуре Llama с примерно 2,25 млрд параметров по карточке модели и контекстом до 8192 токенов. Репозиторий содержит веса в формате safetensors; лицензия — Apache 2.0, допускающая коммерческое использование. Модель предназначена для генерации текста на европейских языках и коде, а также для дальнейшего дообучения под конкретные задачи. Она предварительно обучена на 12,875 трлн токенов тщательно отобранных данных из 35 европейских языков и кода. Её можно применять для продолжения текста, черновой генерации и многоязычных сценариев; это базовая версия, а не вариант, настроенный как диалоговый помощник. В опубликованных оценках отмечены общественные и когнитивные смещения: модель может предпочитать ранние варианты ответа в списках и зависеть от формулировки подсказки. Данные обучения преимущественно отражают стандартные языковые варианты, поэтому качество для диалектов и малоресурсных языков может быть ниже. Перед применением в продуктивных системах необходимы проверка качества и адаптация к целевому сценарию.

CultriX/SeQwence-14B-EvolMergev1 — языковая модель на архитектуре Qwen2, созданная слиянием предварительно обученных моделей методом DARE TIES с помощью mergekit. В слиянии участвовали SeQwence-14Bv1, Qwen2.5-14B-Wernicke и Qwen2.5-14B-MegaMerge-pt2; размер модели — 14 млрд параметров. Репозиторий содержит веса в формате Safetensors, а для работы указана библиотека Transformers. Модель предназначена для генерации текста и диалогового общения; метаданные также отмечают интерфейс вызова инструментов. Контекстное окно составляет 131 072 токена. Карточка не описывает языковую специализацию или результаты оценки качества, поэтому область применимости и качество ответов за пределами общих сценариев генерации текста не установлены. Лицензия в предоставленных данных не указана.

Это дообученная разговорная языковая модель семейства Llama, опубликованная mazzaqq и основанная на unsloth/meta-llama-3.1-8b-instruct-bnb-4bit. Модель предназначена для генерации текста и диалогов; в репозитории указаны веса в формате safetensors, а метаданные описывают плотную архитектуру LlamaForCausalLM объёмом 7,5 млрд параметров и контекст до 131072 токенов. Модель поддерживает английский язык. Метаданные отмечают чат и интерфейс вызова инструментов. Карточка сообщает, что обучение выполнено с Unsloth и библиотекой TRL, но не описывает конкретную специализацию дообучения или результаты оценки качества. Лицензия — Apache-2.0.

Shisa Base 7B v1 — объединённая чат-модель на архитектуре Mistral, созданная слиянием mistralai/Mistral-7B-Instruct-v0.1 и augmxnt/shisa-base-7b-v1 методом SLERP. Модель содержит 7,1 млрд параметров, принимает текстовые инструкции и диалоговые запросы и генерирует текстовые ответы. Поддерживает английский и японский языки; длина контекста — до 32 768 токенов. Модель подходит для диалоговых приложений и генерации ответов на инструкции. Опубликована в формате Safetensors и распространяется по лицензии Apache-2.0. README не приводит оценок качества или специальных ограничений применения.

SmolLM3-3B-Base — базовая языковая модель HuggingFaceTB, обученная предсказывать продолжение текста. Это плотный decoder-only Transformer с GQA и NoPE, содержащий 3,1 млрд параметров; модель опубликована в форматах Safetensors и ONNX. По карточке, предобучение проводилось на 11,2 трлн токенов из веб-текстов, кода, математики и материалов для рассуждений. Это базовая версия семейства; instruct-модель опубликована отдельно. Модель предназначена для генерации и продолжения текста, а также может служить основой для адаптации под прикладные задачи. Она обучалась на английском, французском, испанском, немецком, итальянском и португальском языках; в меньшем объёме также использовались арабский, китайский и русский. Контекст конфигурации — 65 536 токенов; README описывает расширение до 128k токенов с YaRN. Карточка приводит результаты тестирования на задачах рассуждения, математики, кода и многоязычного понимания, но они не гарантируют точность ответов в практическом использовании. Разработчик предупреждает, что текст может содержать фактические ошибки, логические несоответствия и предубеждения из обучающих данных; важную информацию следует проверять. Модель распространяется по лицензии Apache-2.0.

Speechless-Llama2-Hermes-Orca-Platypus-WizardLM-13B-GGUF — это квантизированная языковая модель в формате GGUF, созданная на основе модели Speechless Llama2 Hermes Orca-Platypus WizardLM 13B. Исходную модель разработал Jiangwen Su, а квантизацию и публикацию GGUF-файлов выполнил TheBloke. Модель относится к семейству Llama и предназначена для генерации текста и выполнения инструкций на естественном языке. Модель рассчитана на англоязычные сценарии: диалоговые приложения, ответы на инструкции, локальный запуск и другие задачи текстовой генерации. Указан размер 13B параметров, однако сведения о длине контекста и поддерживаемых модальностях отсутствуют; по имеющимся данным, модель работает только с текстом. Для взаимодействия используется шаблон Alpaca с секциями Instruction и Response. Главное преимущество этой версии — формат GGUF с вариантами квантизации от 2 до 8 бит, что позволяет запускать модель через llama.cpp и совместимые интерфейсы на CPU и GPU, снижая требования к памяти. При этом квантизация может уменьшать точность по сравнению с исходной версией FP16, а качество зависит от выбранного варианта. Модель распространяется по лицензии Llama 2; перед использованием следует учитывать условия этой лицензии и ограничения исходной модели.

SuperGemma4-26B-Uncensored-Fast GGUF v2 — локальная текстовая модель, опубликованная пользователем lianjiang и основанная на google/gemma-4-26B-A4B-it. Это производная от линии SuperGemma Fast, экспортированная в формат GGUF Q4_K_M для запуска через llama.cpp, в том числе на компьютерах Apple Silicon. Архитектура Gemma 4 использует MoE-эксперты; точное эффективное число активируемых параметров и размер контекста в README не указаны. Модель предназначена для обычного диалога, генерации текста, программирования, логических задач и сценариев с использованием инструментов. Заявлена поддержка английского и корейского языков. Встроенный нейтральный шаблон чата должен снижать вероятность ошибочной маршрутизации обычных запросов в режим программирования или вызова инструментов. На Apple M4 Max указаны скорости до 222 токенов/с обработки корейского запроса и 89,4 токена/с генерации, однако эти показатели зависят от оборудования и конфигурации. К сильным сторонам относятся компактное квантованное представление, высокая скорость локального запуска, улучшения по сравнению с исходной локальной базовой версией в коде, логике, браузерных сценариях и корейском языке, а также менее ограниченное поведение по сравнению со стандартными чат-релизами. Ограничения включают отсутствие подробных данных о контексте, полном наборе языков, качестве на независимых тестах и требованиях к памяти; заявленная «uncensored» настройка также может означать ослабленные защитные ограничения. Лицензия указана как Gemma.

Это GGUF-квантизированная версия языковой модели ContextPilot-14B, разработанной Tencent и подготовленной пользователем bartowski с помощью llama.cpp. Модель относится к классу text-generation, поддерживает только текстовый ввод и содержит около 15 млрд параметров. Для квантизации использовался метод imatrix; доступны варианты от BF16 до низкобитных форматов Q2 и Q3, а также Q4–Q8. ContextPilot-14B предназначена для генерации текста, задач управления контекстом, использования инструментов и агентских сценариев. Для работы следует применять указанный шаблон промпта с ролями system, user и assistant. Спекулятивное декодирование не поддерживается. Сильная сторона семейства — широкий выбор квантизаций, позволяющий найти компромисс между качеством, размером файла и требованиями к памяти; автор рекомендует Q4_K_M как сбалансированный вариант. Более низкие квантизации экономят память, но снижают качество, а некоторые форматы отмечены как устаревшие или не рекомендуемые. Языки, размер контекстного окна и точные архитектурные характеристики в README не указаны. Распространение заявлено по лицензии other; конкретные условия лицензии в README не приведены.

Это GGUF-квантизированная версия языковой модели Big-Alice-28B-v1, разработанной TheDrummer. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может применяться в локальных сценариях общения с LLM, написания и преобразования текста, а также в других задачах текстовой генерации. Доступны варианты от BF16 до низкобитных Q2 и IQ-квантизаций. Размер исходной модели составляет 28B параметров; размер файлов варьируется примерно от 12 до 57,22 ГБ в зависимости от формата. Для большинства сценариев рекомендуются варианты Q4_K_M, Q5, Q6 и IQ4_XS; более качественные квантизации требуют больше оперативной или видеопамяти, а низкобитные версии экономят ресурсы ценой снижения качества. Поддерживаются запуск через llama.cpp, LM Studio и другие совместимые проекты. Предусмотрен шаблон prompt в формате ChatML с ролями system, user и assistant. В README не указаны точные поддерживаемые языки, размер контекстного окна, мультимодальные возможности и детальные результаты оценки качества, поэтому эти характеристики нельзя определить по имеющимся данным. Модель распространяется по лицензии MIT.

Tri-21B-Think-Preview — промежуточный чекпойнт языковой модели Trillion Labs, дообученный на базе Trillion Labs Tri-21B для рассуждений по инструкциям и работы с инструментами. Это плотная авторегрессионная модель с архитектурой Transformer Decoder, RoPE, SwiGLU, RMSNorm и GQA; в ней около 20,1 млрд параметров и 40 слоёв. Контекст составляет 32 768 токенов, с YaRN заявлено расширение до 262 144 токенов. Модель предназначена для диалогов, пошагового решения задач и ответов на сложные вопросы, в том числе по математике и естественным наукам. Она рассчитана прежде всего на английский, корейский и японский языки; для других языков качество может снижаться. Это промежуточная версия: авторы указывают, что финальный вариант — Tri-21B-Think. Для запуска с vLLM и SGLang поддержка, согласно карточке, ещё готовится. Лицензия — Apache-2.0.

Это GGUF-версия модели unsloth/Phi-3.5-mini-instruct, подготовленная пользователем legraphista с применением квантизации llama.cpp и метода IMatrix. Исходная модель Phi-3.5-mini-instruct связана с Microsoft; базовый тип данных указан как BF16. Модель предназначена для генерации текста и диалоговых сценариев, включая использование через llama.cpp и совместимые локальные инструменты. Доступны варианты от BF16 и F16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K, включая несколько специализированных форматов. Размер файлов варьируется примерно от 1,45 до 7,64 ГБ, что позволяет выбирать между качеством и требованиями к ресурсам. Для ряда вариантов Q4 и более низкой точности применена IMatrix, призванная уменьшить потери качества при квантизации. В README указана поддержка multilingual, однако конкретный перечень языков, архитектура, число параметров и размер контекста не приведены. Основные преимущества модели — наличие множества квантизированных вариантов, пригодных для локального запуска, и использование формата GGUF, ориентированного на экосистему llama.cpp. Ограничения включают возможное снижение качества в низкобитных вариантах и отсутствие подробных сведений о производительности, языковых возможностях и системных требованиях. Репозиторий распространяется по лицензии MIT; ссылка на лицензию исходной модели ведёт к Microsoft.

Карточка модели lmsys/vicuna-13b-v1.5-16k на Hugging Face совпадает с карточкой lmsys/vicuna-7b-v1.5-16k, поэтому описание составлено по ней. Vicuna-7B-v1.5-16k — авторегрессионная языковая модель на архитектуре Transformer семейства Llama, разработанная LMSYS. Она дообучена на Llama 2 на пользовательских диалогах из ShareGPT и предназначена для чат-ботов и исследований в области больших языковых моделей. Число параметров — 6,6 млрд; в репозитории указаны веса PyTorch. Метаданные Hugging Face сообщают контекст 4096 токенов, поэтому название версии «16k» само по себе не подтверждает контекст на 16 тысяч токенов. Модель принимает текст и генерирует текст, подходит для диалоговых ответов и экспериментов с языковыми моделями. В README указана оценка по стандартным бенчмаркам, предпочтениям людей и оценке другой языковой моделью, но численные результаты здесь не приведены. Лицензия — Llama 2 Community License Agreement; перед использованием следует учитывать её условия.

WeDLM-7B-Instruct — инструкционно дообученная диффузионная языковая модель Tencent на 7,1 млрд параметров, созданная на основе tencent/WeDLM-7B. Она генерирует текст с параллельным декодированием при стандартном причинном механизме внимания и поддерживает диалог и выполнение инструкций. Модель предназначена для генерации ответов и многошагового общения; для ускоренного вывода разработчики рекомендуют движок wedlm, а интерфейс Hugging Face Transformers описан как удобный для обучения и простых прямых проходов. В README приведены результаты на тестах ARC-C, GSM8K и MATH, но они различаются по задачам, поэтому эти цифры не гарантируют качество в конкретном приложении. Контекст в метаданных указан как 16 384 токена, тогда как README сообщает 32 768 токенов. Модель доступна на условиях лицензии Apache 2.0.

Xelora-9B-Study — дообученная Shreesha-2011 текстовая модель семейства Qwen3.5. Она основана на Qwen/Qwen3.5-9B и использует плотную архитектуру Qwen3_5ForCausalLM; в репозитории указано 7,2 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия, а интерфейс также поддерживает вызов инструментов. Модель принимает текст и выдаёт текст. Для базовой Qwen3.5-9B заявлены мультимодальные возможности, включая анализ изображений, однако карточка Xelora описывает текстовый вариант модели и не подтверждает обработку изображений. Контекстное окно составляет до 262 144 токенов, основной указанный язык — английский. В README сказано, что обучение выполнялось с Unsloth и библиотекой TRL. Лицензия — Apache-2.0. Карточка не приводит оценок качества, специализированных сценариев обучения или результатов тестирования.

yam-sam-7B — объединённая языковая модель, созданная mayacinka с помощью LazyMergekit на основе cognitivecomputations/samantha-mistral-7b, CorticalStack/shadow-clown-7B-dare и yam-peleg/Experiment26-7B. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста. Заявленная длина контекста — 32 768 токенов. В карточке приведены результаты Open LLM Leaderboard: среднее значение 74,58, оценка ARC (25-shot) 70,90 и HellaSwag (10-shot) 87,92. Модель принимает текст и генерирует текст; сведений о целевых языках и специализированных предметных областях в доступных данных нет. Лицензия — Apache-2.0.

Yi-1.5-6B-Chat-GGUF — это квантизированная версия диалоговой языковой модели Yi-1.5-6B-Chat, разработанной компанией 01-ai и преобразованной в формат GGUF пользователем MaziyarPanahi. Модель предназначена для генерации текста и ведения диалогов, включая локальный запуск через llama.cpp и совместимые приложения и библиотеки. Модель содержит файлы в формате GGUF с вариантами квантизации от 2 до 8 бит, что позволяет выбирать баланс между размером, требованиями к памяти и качеством генерации. Это текстовая модель; в предоставленных данных не указаны языки, размер контекста и подробности архитектуры исходной модели. GGUF поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другими инструментами, включая варианты с GPU-ускорением. Сильными сторонами являются широкий выбор уровней квантизации и удобство локального использования на различных платформах. Ограничения связаны с возможными потерями качества при агрессивной квантизации, а также с отсутствием в предоставленной карточке подробных характеристик исходной модели и результатов оценки. Модель распространяется по лицензии Apache-2.0.

GLM-4.7-Flash-GGUF — это квантизированная версия текстовой генеративной модели GLM-4.7-Flash, разработанной zai-org и подготовленной пользователем bartowski в формате GGUF. Модель предназначена для генерации текста и может запускаться локально через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. В README заявлена поддержка английского и китайского языков. Доступны варианты от BF16 до компактных IQ- и Q-квантований размером примерно от 12,71 до 59,91 ГБ. Квантизация выполнена с использованием imatrix; для ряда вариантов рекомендуется Q6_K или Q6_K_L как близкие к исходному качеству, а Q4_K_M описан как стандартный вариант для большинства сценариев с хорошим соотношением качества и размера. Архитектура, число параметров, максимальная длина контекста и мультимодальные возможности в предоставленных данных не указаны. Модель подходит для локального текстового инференса при наличии совместимого оборудования и обновлённой версии llama.cpp. Ограничения зависят от выбранного уровня квантизации: более компактные варианты экономят память, но могут заметно уступать по качеству; некоторые низкобитные варианты отмечены как низкокачественные или нерекомендуемые. Для корректной работы может потребоваться отключить Flash Attention и использовать обновлённую поддержку модели в llama.cpp. Указанная лицензия — MIT.

Zurich 14B GammaCorpus v2-5m — диалоговая языковая модель, созданная Rubenroy дообучением Qwen/Qwen2.5-14B-Instruct на наборе GammaCorpus v2-5m со структурированными отфильтрованными многоходовыми диалогами. Модель предназначена для генерации текста и ответов в диалогах; каталог также отмечает интерфейс для вызова инструментов. Это плотная causal language model семейства Qwen2 с архитектурой Transformers, RoPE, SwiGLU, RMSNorm и смещением в QKV attention. В модели 14,7 млрд параметров, 48 слоёв и контекст до 32 768 токенов. Карточка указывает английский язык. Весовые файлы представлены в формате safetensors, для запуска рекомендуется актуальная версия Transformers. Модель подходит для многоходовых бесед, генерации ответов и структурированных текстовых результатов. README предупреждает о возможности предвзятых ответов, несмотря на попытки снизить смещения. Лицензия — Apache 2.0.

AlloyingotneoyExperiment24-7B — автоматически объединённая Maxime Labonne методом SLERP плотная языковая модель семейства Mistral с 7,1 млрд параметров. В слиянии участвуют nlpguy/AlloyIngotNeoY и yam-peleg/Experiment24-7B; конфигурация задаёт разное смешивание слоёв self-attention и MLP, а результат сохранён в формате safetensors с точностью bfloat16. Модель предназначена для генерации текста и может применяться в сценариях, поддерживаемых исходными моделями. Контекстное окно — до 32 768 токенов. В карточке нет сведений о целевых языках или специализированной области применения, поэтому её следует рассматривать как модель общего назначения. Лицензия — Apache-2.0.

Trinity-Large-Preview-GGUF — это квантизированная версия языковой модели Trinity-Large-Preview, разработанной arcee-ai. Квантизацию в формате GGUF выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться локально через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Модель поддерживает английский, испанский, французский, немецкий, итальянский, португальский, русский, арабский, хинди, корейский и китайский языки. Она рассчитана на сценарии текстовой генерации, включая диалоговое взаимодействие и выполнение инструкций в соответствии с указанным шаблоном prompt format. Данные о точной архитектуре, количестве параметров, модальностях и размере контекста в README не приведены; по описанию это текстовая, а не мультимодальная модель. Доступно множество вариантов квантизации от Q8_0 до Q3 и IQ3/IQ4, что позволяет выбирать между качеством и требованиями к оперативной памяти. Наиболее качественными и рекомендуемыми указаны варианты Q6_K, Q5_K и Q4_K, тогда как низкоразрядные варианты экономят память, но снижают качество. Размеры файлов составляют примерно от 162 до 424 ГБ, поэтому модель требует значительных аппаратных ресурсов. Лицензия — Apache-2.0.

Athene-Phi-3.5-mini-instruct-orpo-GGUF — это набор GGUF-квантизированных версий языковой модели Athene-Phi-3.5-mini-instruct-orpo, разработанной EpistemeAI и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и выполнения инструкций в сценариях локального запуска, в том числе через llama.cpp и LM Studio. В репозитории представлены варианты от исходных весов F16 до квантизаций Q8_0, Q6, Q5, Q4, Q3 и IQ4 с размером файлов примерно от 1,88 до 7,64 ГБ. Для взаимодействия используется формат промпта с ролями system, user и assistant. Указан английский язык; сведения о количестве параметров, максимальном контексте, архитектурных деталях и поддержке других модальностей отсутствуют. К сильным сторонам относятся широкий выбор уровней квантизации, возможность подобрать баланс между качеством, размером и требованиями к памяти, а также специальные варианты Q4 для ARM и CPU-инференса. Более компактные версии могут уступать по качеству полноразмерным и менее агрессивно квантизированным вариантам. Модель распространяется по лицензии Apache-2.0.

atom-80b-i1-GGUF — это набор квантизированных GGUF-версий языковой модели atom-80b, разработанной vanta-research и подготовленной квантизатором mradermacher. Модель предназначена для генерации текста, следования инструкциям, диалогового взаимодействия, рассуждений и исследовательских задач, связанных с поведением, выравниванием и сотрудничеством ИИ. По тематическим меткам она ориентирована на англоязычные сценарии и conversational AI. Исходная модель относится к семейству Qwen3 и имеет размер 80 млрд параметров. В README не указаны точная архитектура, размер контекстного окна, поддерживаемые модальности помимо текста и результаты оценивания. Репозиторий содержит варианты квантизации с размерами примерно от 16,3 до 65,6 ГБ, включая IQ- и QK-квантизации; варианты различаются компромиссом между размером, скоростью и качеством. В качестве сбалансированных рекомендуются i1-Q4_K_S и i1-Q4_K_M, тогда как наиболее компактные варианты могут заметно уступать в качестве. Модель поддерживает локальное использование через GGUF-совместимые инструменты. Основные преимущества — большой размер исходной модели, широкий выбор уровней квантизации и наличие imatrix-квантов, потенциально обеспечивающих лучшее качество при сопоставимом размере. Ограничения включают высокие требования к памяти, зависимость качества от выбранного варианта квантизации и отсутствие в README подробных данных о производительности и контексте. Модель распространяется по лицензии Apache-2.0.

devmeta8/B — объединённая языковая модель на архитектуре Mistral, созданная с помощью mergekit методом SLERP из cloudyu/Nemo-DPO-V20 и jic062/dpo-v3.0-Nemo-e3. Модель содержит 12,1 млрд параметров и предназначена для генерации текста в диалоговом режиме. Модель принимает текст и выдаёт текст. В метаданных указан контекст до 1 024 000 токенов. Она сохранена в формате Safetensors и использует библиотеку Transformers. В README приведена конфигурация объединения, в которой указана точность bfloat16. Карточка не сообщает о специализированных областях применения или поддерживаемых языках. Условия лицензирования и ограничения качества в доступных источниках не описаны.

Beetle-FineWeb2-24B/beetle-bilingual-l2-50-sequential-33-67-b3-fineweb-rus-eng — языковая модель для генерации текста, доступная через библиотеку Transformers. По идентификатору модели она относится к семейству Beetle-FineWeb2 и ориентирована на двуязычную работу с русским и английским языками; заявленный размер семейства составляет 24B параметров. Модель предназначена для генерации продолжений текста, создания черновиков, диалоговых и других приложений, использующих text-generation. В метаданных также указаны форматы safetensors и pico_decoder. Сведения о разработчике, лицензии, точной архитектуре, длине контекста, обучающих данных, результатах оценки и ограничениях в предоставленной карточке отсутствуют.