II.1Анализ требований и архитектура ПО

Skywork_SWE-32B-GGUF — это набор квантизированных сборок модели Skywork-SWE-32B, разработанной командой Skywork и преобразованной в формат GGUF пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста и прежде всего ориентирована на задачи программной инженерии, включая сценарии SWE-bench. Запуск возможен через LM Studio, llama.cpp и другие проекты на базе llama.cpp. Для работы рекомендуется использовать указанный шаблон чата с ролями system, user и assistant. Модель содержит 32 млрд параметров; доступны варианты от BF16 до различных уровней квантизации, включая Q8_0, Q6_K, Q5_K, Q4_K и Q3_K. Размер файлов варьируется примерно от 13 до 66 ГБ, что позволяет выбирать баланс между качеством и требованиями к памяти. Старшие варианты квантизации обеспечивают качество, близкое к исходной модели, тогда как младшие требуют меньше ресурсов, но могут заметно терять в качестве. Архитектура, поддерживаемые языки, модальности и размер контекстного окна в предоставленных данных не указаны. Модель распространяется по лицензии Apache-2.0.

WhiskyAKM опубликовал GGUF-сборку Spark-X2.5-4B — трансформерную языковую модель с 4 млрд параметров для генерации текста и решения задач рассуждения. Модель поддерживает диалоговый формат, режим рассуждения с отдельными блоками и структурированный вызов инструментов. Для запуска предназначена библиотека llama.cpp; в репозитории представлен файл NVFP4, созданный квантизацией исходной модели с помощью llama-quantize. Модель рассчитана на английский и китайский языки. Квантизация NVFP4 уменьшает требования к ресурсам при развертывании, сохраняя формат GGUF для локального запуска. Контекстная длина в предоставленных данных не указана. Репозиторий распространяется по лицензии Apache-2.0.

Lucyfer1718/Spartan_Alpha-Powered_v2.0 — объединённая диалоговая языковая модель на архитектуре Llama, созданная с помощью mergekit методом SLERP из meta-llama/Meta-Llama-3.1-70B-Instruct и mattshumer/Reflection-Llama-3.1-70B. Модель содержит 35,3 млрд параметров, принимает текст и генерирует текст; поддерживает контекст до 131 072 токенов. Метаданные отмечают возможности общения в чате и интерфейс вызова инструментов. Модель предназначена для генерации ответов в диалоге и других задач продолжения текста. В описании базовой Reflection-Llama указана самопроверка и исправление ошибок, однако карточка этой модели не уточняет, насколько эти свойства сохраняются после объединения. Файлы представлены в формате safetensors и рассчитаны на использование с Transformers. Условия лицензии в предоставленных данных не указаны.

Starling-LM-7B-beta-GGUF — это квантизированная GGUF-версия языковой модели Starling-LM-7B-beta, разработанной Nexusflow на основе openchat/openchat-3.5-0106 и Mistral-7B-v0.1. GGUF-квантизация выполнена bartowski с использованием llama.cpp. Модель содержит около 7 млрд параметров и предназначена для генерации текста. Модель ориентирована на многошаговый диалог, общие вопросы, выполнение повседневных текстовых задач и программирование. Она обучалась с применением reward model Nexusflow/Starling-RM-34B и оптимизации PPO на данных berkeley-nest/Nectar, что направлено на улучшение качества ответов и следования предпочтениям в диалогах. Поддерживается английский язык. Модель текстовая и не предназначена для обработки изображений или других мультимодальных данных. Для работы рекомендуется шаблон OpenChat; для задач программирования предусмотрен шаблон OpenChatCode. Системный промпт модель не поддерживает. README не указывает размер контекстного окна и конкретные требования к ресурсам, поэтому эти характеристики нельзя надежно определить из доступных данных. К преимуществам относятся компактный размер, пригодность для локального запуска в формате GGUF и специализация на диалогах и коде; ограничения включают англоязычную ориентацию, отсутствие мультимодальности и зависимость качества от выбранной квантизации и параметров запуска. Модель распространяется по лицензии Apache-2.0.

StrangeMerges_51-7B-dare_ties — текстовая генеративная модель, созданная Gille объединением пяти моделей с помощью LazyMergekit: WizardMath-7B-V1.1, NeuralCoder-7b, Einstein-v4-7B, Matter-0.1-Slim-7B-C-DPO и StrangeMerges_42-7B-dare_ties. Это плотная модель семейства Mistral с 7,1 млрд параметров; доступна в формате safetensors и имеет контекст до 32 768 токенов. Модель предназначена для генерации текста и может быть полезна для диалогов и инструкций, математических рассуждений и задач по программированию — эти направления представлены среди объединённых моделей. В README приведены результаты Open LLM Leaderboard, включая средний балл 71,73, однако без полной таблицы и описания методики эти показатели не позволяют оценить качество на конкретных пользовательских задачах. Модель распространяется по лицензии Apache-2.0. В карточке нет сведений о целевых языках и специальных мерах безопасности; фактическое качество объединения на конкретных задачах следует проверять отдельно.

Swift-Qwen3.8-27B-Uncensored-Dynamic-MTP-GGUF — набор GGUF-квантов модели Swift-Qwen3.8-27B-Uncensored-MTP, разработанный ajgazin. В основе лежит Swift-Qwen3.8-27B от UkisAI — дообученная для эффективного рассуждения версия Qwen3.8-27B. Модель предназначена для генерации текста, диалогов и задач рассуждения, а также поддерживает обработку изображений и видео через отдельный vision projector. Вариант содержит MTP head для self-speculative decoding в llama.cpp и ориентирован на локальный запуск через llama.cpp; заявлена совместимость также с vLLM и SGLang для NVFP4-варианта. Доступны варианты от UD-Q2_K_XL размером 9,2 GiB до UD-Q8_K_XL размером 29,3 GiB, а также исходный BF16-файл размером 50,9 GiB. Разные уровни квантования позволяют запускать модель на GPU с 12, 16, 20, 24, 32 и 48 GiB памяти, при необходимости используя частичную выгрузку на CPU. Для заявленного запуска используется контекст до 32768 токенов. Более крупные варианты ближе к качеству BF16: для UD-Q8_K_XL совпадение наиболее вероятного токена составляет 98,8%, для UD-Q4_K_XL — 95,8%, а для UD-Q2_K_XL — 85,2%. Сильные стороны модели — широкий выбор размеров квантов, поддержка текста, изображений и видео, встроенный MTP head для ускорения генерации и сниженная склонность к отказам: в описании указано 15 отказов из 100 против 98 из 100 у исходной Swift-модели. Ограничения включают потерю точности при агрессивном квантовании, необходимость отдельного mmproj-BF16.gguf для мультимодального ввода и специальной сборки llama.cpp с поддержкой MTP для qwen35. Качество измерялось преимущественно на тесте wikitext-2, поэтому оно не полностью характеризует работу с кодом и диалогами. Модель распространяется по лицензии swift-open-license-1.0; в карточке также указана категория лицензии other.

TheTop-5x7B-Instruct-S5-v0.1 — текстовая генеративная модель MaziyarPanahi, созданная путём слияния нескольких предварительно обученных моделей размером 7B и применения SLERP к другим моделям 7B. В README упоминается использование mergekit; архитектура — плотная MistralForCausalLM, формат весов — safetensors. Метаданные указывают 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста и инструктивных сценариев, например диалога, ответов и рассуждений. В README приведены результаты оценивания на бенчмарках, включая AI2 Reasoning Challenge и HellaSwag. Поддерживаемый язык в доступных данных не установлен. Модель распространяется по лицензии Apache-2.0; сведения о конкретных ограничениях применения в карточке не приведены.

Карточка модели CollectionStudio/Trinity-Nano-Preview на Hugging Face совпадает с карточкой arcee-ai/Trinity-Nano-Preview, поэтому описание составлено по ней. Trinity Nano Preview — экспериментальная чат-модель семейства Trinity от Arcee AI, созданная дообучением Trinity-Nano-Base. В README она описана как разреженная MoE-модель с архитектурой AfmoeForCausalLM, 6 млрд параметров и примерно 1 млрд активных параметров; метаданные указывают 880,3 млн параметров. Поддерживает контекст до 131 072 токенов и работает с текстом на нескольких языках. Модель предназначена для диалогов и генерации текста. Разработчики описывают её как открытую по весам модель для предприятий и энтузиастов, обученную на 10 трлн токенов с дополнительным акцентом на математике и коде. README предупреждает, что в этой предварительной экспериментальной версии возможна нестабильность в отдельных сценариях. Указанная в README лицензия — OpenMDW-1.1; метаданные Hugging Face обозначают её как other.

Vicuna 13B v1.1 — авторегрессионная языковая модель семейства LLaMA на архитектуре Transformer, разработанная командой Vicuna с участием исследователей из UC Berkeley, CMU, Stanford и UC San Diego. Модель содержит 12,9 млрд параметров и рассчитана на контекст до 2048 токенов. Это версия merge delta v1.1; в README указано, что Vicuna получена дообучением LLaMA на диалогах пользователей ShareGPT, а в v1.1 исправлены вычисление функции потерь при supervised fine-tuning и разделитель токенов. Модель предназначена для генерации текста в формате чат-бота, ответов на вопросы и исследований больших языковых моделей. Она обучалась на 70 тысячах диалогов ShareGPT. Карточка указывает лицензию Apache 2.0; базовая модель LLaMA имеет отдельные условия использования, которые следует учитывать при распространении и применении производной модели.

Whittle-Next-27B-A3B-GGUF — это исследовательская GGUF-квантизация модели logic65/Whittle-Next-27B-A3B, разработанная David Aylward (logic65) совместно с Claude (Anthropic). Модель предназначена для запуска через llama.cpp и совместима с LM Studio, Jan, Ollama и llama-swap при наличии актуальной версии llama.cpp. Лицензия — Apache-2.0. Модель использует архитектуру Qwen4-Next в формате qwen4_exp и представляет собой смесь экспертов (MoE) с 27 млрд параметров всего и примерно 3 млрд активных параметров на токен. В ней применяются гиперсвязи остаточных потоков, хешированная n-gram-память объёмом 2 млрд строк, поуровневые эмбеддинги и дистилляция из Qwen3.8-27B. Поддерживаются текстовая генерация, диалоговые сценарии, рассуждения, математика и программирование; заявлены английский, китайский и многоязычный режимы. Доступны варианты квантизации от Q3_K_M до Q8_0 размером примерно от 13,3 до 29,3 ГБ. В README указано, что модель рассчитана на контекст до 16 384 токенов при рекомендованной настройке запуска. Сильными сторонами являются низкое число активных параметров, возможность запуска на стандартном llama.cpp без патчей, поддержка режима пошагового рассуждения и сравнительно высокая точность на математических задачах и проверке кода для исследовательского прототипа. Модель рекомендуется использовать с включённым thinking-режимом, сэмплированием и бюджетом не менее 4096 токенов для программирования. Это research preview, а не завершённая универсальная модель: ответы по коду могут быть длинными, производительность зависит от квантизации и размещения памяти, а при жадной генерации возможны зацикливания. Для полноценной оценки следует учитывать ограничения и измерения из базовой карточки модели.

ZEUS 8B V2 — объединённая языковая модель, созданная разработчиком T145 методом DARE TIES с помощью mergekit. В качестве основы использована unsloth/Meta-Llama-3.1-8B-Instruct, а также включены Llama-3.1-SuperNova-Lite, Llama-3.1-Storm-8B и Llama-3.1-8B-Lexi-Uncensored-V2. Модель имеет плотную архитектуру Llama 3.1 с 7,5 млрд параметров, принимает текст и генерирует текст; поддерживает диалоги и интерфейс вызова инструментов. Длина контекста — до 131 072 токенов. Модель предназначена для генерации текста, диалогов и ролевого общения. В README приведены результаты Open LLM Leaderboard: средний балл 30,07 и 80,29 на IFEval; эти результаты относятся к указанной версии оценки. Для запуска автор рекомендует параметры генерации, а также приводит рекомендацию по квантизации i1-Q4_K_M. Репозиторий содержит веса в формате safetensors. Сведения о лицензии и поддерживаемых естественных языках в предоставленных источниках отсутствуют.

Это текстовая авторегрессионная модель семейства Qwen3 с плотной архитектурой Qwen3ForCausalLM и 1,7 млрд параметров. Репозиторий содержит контрольную точку в стандартном формате Hugging Face Transformers на основе safetensors; карточка описывает её как резервную копию исследовательского артефакта. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно использовать для ответов в чате и генерации продолжений текста; метаданные также указывают интерфейс для вызова инструментов. Заявленная длина контекста — 40 960 токенов. Карточка не сообщает о специальной предметной области или поддерживаемых естественных языках. Условия лицензии в предоставленных данных не приведены, поэтому их нельзя определить по карточке.

yuq-zhou/2026-05-o-b0p3-a1p0-gc0p5-exp-td4p0-tw10p0-r1-7-last — контрольная точка языковой модели в стандартном формате Hugging Face для загрузки через Transformers. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров и контекстом до 131 072 токенов. Метаданные указывают на поддержку чата и интерфейса вызова инструментов; основная задача модели — генерация текста. Модель может использоваться для диалоговых ответов и генерации текста с длинным контекстом. Карточка называет её резервной копией исследовательского артефакта, но не описывает конкретные данные обучения, специализацию или проверенные показатели качества. Лицензия в предоставленных данных не указана.

Это исследовательская резервная копия чекпойнта для генерации текста в стандартном формате Hugging Face, совместимая с AutoModelForCausalLM. По метаданным, модель основана на плотной архитектуре Qwen3ForCausalLM и содержит 1,7 млрд параметров; нативный контекст — 40 960 токенов. Поддерживается диалоговый режим и интерфейс вызова инструментов. Модель предназначена для генерации текста и диалоговых сценариев. В README она обозначена как резервный исследовательский артефакт; сведений о конкретном дообучении, базовой модели или лицензии в предоставленных данных нет.

jondurbin подготовил эту плотную 65-миллиардную языковую модель на архитектуре LLaMA, дообучив её методом QLoRA на синтетических инструкциях, созданных GPT-4. Модель предназначена для диалоговой генерации текста и отвечает на запросы в формате, основанном на шаблоне Vicuna. Она рассчитана на программирование, математические задачи и рассуждения, викторины, ролевые диалоги, вопросы с вариантами ответа и по заданному контексту, а также общие запросы. Для промптов на написание кода предусмотрена инструкция PLAINFORMAT, которая просит вывести код без Markdown-разметки; автор отмечает, что она срабатывает не всегда. Модель содержит 65 млрд параметров, работает с контекстом до 2048 токенов и распространяется в формате PyTorch. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение. Модель может ошибаться, а следование формату PLAINFORMAT не гарантировано.

jondurbin/airoboros-70b-3.3 — экспериментальная чат-модель, созданная Jon Durbin на основе семейства Llama 3 и дообученная на данных Airoboros, преимущественно синтетических. Метаданные каталога указывают архитектуру LlamaForCausalLM с плотными весами, 69,5 млрд параметров и контекст до 8192 токенов. Модель принимает текст и генерирует текст; карточка показывает шаблон диалога Llama 3 Instruct и примеры ответов на вопросы, пересказа, художественных запросов и задач программирования. Модель подходит для диалогового помощника, написания и продолжения историй, суммаризации, ответов на вопросы и генерации кода. В README отмечено, что модель экспериментальная; приведённые примеры иллюстрируют предполагаемые сценарии, но не подтверждают качество или надёжность ответов. README называет базой Llama 3 70B Instruct, тогда как метаданные указывают дообучение Meta-Llama-3-8B; точную базовую модель по этим источникам установить нельзя. Лицензия в метаданных обозначена как other, поэтому условия использования следует сверить с карточкой модели на Hugging Face.

jondurbin/bagel-34b-v0.2 — экспериментальная версия языковой модели, дообученная Jon Durbin на базе yi-34b-200k с помощью Bagel. Это плотная авторегрессионная модель семейства Llama с 33,9 млрд параметров и контекстом до 200 000 токенов; опубликованные веса представлены в формате safetensors. Модель предназначена для диалогов и генерации текста, включая творческое письмо и ролевые сценарии. В README указано, что это версия после этапа SFT, до применения DPO; автор отмечает, что она может лучше подходить для творческих задач и ролевых диалогов, тогда как версия после DPO лучше показывает себя на бенчмарках. При дообучении использовались данные для диалогов, ответов на вопросы, рассуждений, математики, программирования, SQL, понимания прочитанного и ролевых сценариев. Для примеров применялись варианты форматов Vicuna, Llama 2, Alpaca и ChatML. Лицензия — Apache-2.0. Модель рассчитана на текстовый ввод и выдаёт текст; её поведение и качество могут зависеть от формата промпта, а карточка не содержит систематической оценки качества этой версии.

Beacon Qwen 2 7B Instruct — разговорная языковая модель семейства Qwen2, представленная в формате safetensors. README описывает Activation Beacon как подключаемый модуль для трансформерных LLM, предназначенный для эффективного сжатия длинного контекста; данных о том, как именно модуль связан с весами этой модели, нет. Модель содержит 7,1 млрд параметров, поддерживает контекст до 32 768 токенов и рассчитана на генерацию текста в чат-сценариях. В карточке указана лицензия MIT. README предупреждает, что превышение заданной длины контекста может привести к ошибкам или снижению производительности.

Beyonder-4x7B-v3 — разговорная языковая модель mlabonne, созданная как смесь экспертов (MoE) с помощью LazyMergekit. В объединение вошли AlphaMonarch-7B, CodeNinja-1.0-OpenChat-7B, Kunoichi-DPO-v2-7B и NeuralDaredevil-7B; архитектура — MixtralForCausalLM. В метаданных указано 7,1 млрд параметров и контекст до 32 768 токенов, тогда как README рекомендует окно 8 тысяч токенов и шаблон чата Mistral Instruct. Модель предназначена для диалогов общего назначения, ролевого общения, задач с кодом и математикой. По README, при генерации задействуются два эксперта, что позволяет сочетать эти способности. Автор отмечает хорошие результаты на нескольких наборах оценок, но предупреждает, что модель не нацелена на превосходство в традиционных бенчмарках; результаты оценки не гарантируют качество в конкретных приложениях. Модель принимает текст и генерирует текст. Языки отдельно не перечислены. Репозиторий распространяется в формате safetensors по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

BigFalcon3-36B — объединённая языковая модель для генерации текста и диалогов, созданная с помощью mergekit на основе tiiuae/Falcon3-10B-Instruct. В репозитории указано слияние методом passthrough; метаданные описывают архитектуру как плотную LlamaForCausalLM и указывают 17,5 млрд параметров. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов и доступна в формате safetensors для Transformers. Модель подходит для диалоговых сценариев и генерации текста; метаданные также отмечают интерфейс вызова инструментов. Карточка не описывает отдельную специализацию или результаты оценки качества. Лицензия в предоставленных данных не указана.

Bonsai 2 27B 1bit CRACK GGUF — языковая и визуальная модель, разработанная командой dealignai на основе тернарно сжатой PrismML версии Qwen3.8-27B. Из модели удалены механизмы отказа на уровне весов, при этом заявлено сохранение общих возможностей, режимов рассуждения, инструментального использования и многотуровой связности. Модель предназначена для генерации текста, рассуждений, работы с инструментами и обработки изображений в совместимом окружении llama.cpp. Модель использует гибридную архитектуру Attention и SSM на базе GatedDeltaNet: 64 блока, размер скрытого состояния 5120 и отдельная vision tower. Применяется квантование PrismML PTQ1_0 с тернарными весами, группами по 128 и эффективным размером около 2,13 bpw; файл занимает примерно 5,95 ГБ. Поддерживаются режимы рассуждения off, low и xhigh, а для обработки изображений требуются совместимые mmproj-файлы. Запуск заявлен на CPU, CUDA и Metal, включая ноутбуки и системы с одной GPU. Сильной стороной является низкое потребление памяти при сохранении класса модели 27B, а также отсутствие встроенных отказов, что делает модель пригодной для исследовательских и экспериментальных сценариев, где требуется высокая исполнительность. Однако заявленная abliteration снижает защитные ограничения, поэтому модель не следует использовать без собственного контроля безопасности. Результаты MMLU показывают небольшое снижение точности относительно базовой версии, а для старых сборок была отмечена ошибка зацикливания токенов в режимах low и xhigh; рекомендуется использовать версию, выпущенную после 18 сентября 2026 года. Лицензия — Apache-2.0.

MaziyarPanahi/calme-2.2-qwen2-72b-GGUF — квантизированная версия дообученной языковой модели calme-2.2-qwen2-72b, разработанной и квантизированной MaziyarPanahi на основе Qwen/Qwen2-72B-Instruct. Модель предназначена для генерации текста в диалоговых и общих сценариях использования больших языковых моделей, включая ответы на вопросы, рассуждения и решение задач. Для работы используется шаблон ChatML; поддерживаемые форматы GGUF рассчитаны на запуск через совместимые инструменты, например llama.cpp. Модель основана на архитектуре Qwen2 с заявленным размером 72 млрд параметров и представлена в вариантах квантизации от 2 до 16 бит, включая Q2_K, 3-, 4-, 5-, 6- и 8-битные варианты. Квантизация позволяет снизить требования к памяти, однако может уменьшать точность по сравнению с полноразмерной версией; README не содержит сведений о длине контекста, точном наборе языков, требованиях к оборудованию и результатах комплексного сравнения. В опубликованных оценках указаны результаты на TruthfulQA, Winogrande, ARC-Challenge и GSM8K, но они не гарантируют качество в конкретных прикладных сценариях. Лицензия обозначена как other с названием tongyi-qianwen; в качестве лицензионного документа указана лицензия Qwen/Qwen2-72B-Instruct. Перед использованием необходимо проверить её условия, особенно требования к распространению и коммерческому применению.

ChaoticNeutrals/Captain-Eris-Diogenes_Twilight-V0.420-12B — объединённая разговорная языковая модель на архитектуре Mistral, опубликованная в формате safetensors для библиотеки Transformers. В состав слияния вошли Nitral-AI/Captain-Eris_Twilight-V0.420-12B и Nitral-AI/Diogenes-12B-ChatMLified; веса объединены методом SLERP. Модель содержит 12,1 млрд параметров и имеет заявленную длину контекста 1 024 000 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно использовать для ответов в чате, продолжения текста и интерфейсов с вызовом инструментов. Карточка не сообщает о специальной предметной области или языках. Лицензия в предоставленных данных не указана.

Это квантизированная GGUF-версия модели GLM-4.7-REAP-218B-A32B, разработанной Cerebras и полученной из GLM-4.7 с использованием метода REAP. В исходной модели было равномерно удалено 40% экспертов, что указывает на разреженную MoE-архитектуру. Квантизацию выполнил bartowski с помощью llama.cpp и imatrix. Модель предназначена для генерации текста и может использоваться в локальных инструментах, поддерживающих формат GGUF, включая llama.cpp, LM Studio, KoboldCpp, Jan AI и Text Generation Web UI. В README указан английский язык. Приведён шаблон промпта с системными, пользовательскими и ассистентскими ролями, а также маркером рассуждений. Размер доступных файлов зависит от метода квантизации: примерно от 88 до 232 ГБ; рекомендуются варианты Q4_K_M, Q5_K_M и Q6_K. Сильными сторонами являются широкий выбор уровней квантизации и возможность локального запуска с выбором компромисса между качеством, размером и требованиями к памяти. Более сильные варианты сохраняют высокое качество, а низкоразрядные подходят для систем с ограниченной RAM, но имеют заметно худшее качество. Точные параметры архитектуры, размер контекста и мультимодальные возможности в README не указаны. В метаданных указана лицензия MIT.

Cerebrum-1.0-7b — языковая модель для генерации текста и решения задач, требующих рассуждений. Её разработала AetherResearch на основе Mistral-7B-v0.1: модель дообучили на небольшом наборе примеров с цепочками рассуждений и дополнительно настроили с помощью целевого RLHF. Она содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов, математических задач, ответов на вопросы, мозгового штурма и творческих запросов. В карточке приводятся результаты сравнений на ARC Challenge и GSM8k, однако условия оценки различались для моделей, поэтому эти результаты не гарантируют превосходства в других сценариях. README рекомендует шаблон диалога в стиле Alpaca с просьбой описать ход рассуждений. Лицензия Apache-2.0.

Это GGUF-квантизированная версия языковой модели cogito-v2-preview-llama-70B, разработанной deepcogito и подготовленной пользователем bartowski. Модель предназначена для генерации текста и может использоваться в локальных приложениях на базе llama.cpp, включая LM Studio и другие совместимые проекты. В основе лежит модель класса Llama с заявленным размером 70B параметров. Доступны варианты квантования от Q8_0 до Q2_K_L и IQ3/IQ4, различающиеся размером файла, требованиями к памяти и качеством вывода. Более качественными и рекомендуемыми в README названы варианты Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS; модели с более низкой разрядностью экономят память, но могут заметно уступать в качестве. Формат GGUF и imatrix-квантование облегчают локальный запуск, однако даже компактные варианты требуют значительных ресурсов. В README не указаны поддерживаемые языки, размер контекстного окна, точная архитектура исходной модели, мультимодальные возможности и лицензия. Шаблон чата также не задан и может требовать проверки по карточке исходной модели; приведённый формат основан на служебных токенах Llama. Условия использования в представленном README не указаны.

Dolphin 2.6 Phi-2 — разговорная языковая модель, созданная Eric Hartford и Fernando Fernandes при спонсорской поддержке Convai на базе Phi-2 от Microsoft. Это плотная авторегрессионная модель семейства Phi с архитектурой PhiForCausalLM, дообученная методом qLoRA на трёх эпохах. Она принимает текст и ведёт диалог в формате ChatML; заявленное окно контекста — 2048 токенов. Модель предназначена для общения с ассистентом и генерации текста, в том числе для задач, представленных в наборах данных Dolphin, Dolphin Coder, Airoboros, OpenHermes, Magicoder и Capybara. Авторы описывают модель как «uncensored»: обучающие данные были отфильтрованы для уменьшения alignment и bias, поэтому модель может охотно отвечать на вредоносные и неэтичные запросы. Перед предоставлением доступа пользователям авторы рекомендуют добавить собственный слой выравнивания и безопасности. Для загрузки модели требуется trust_remote_code. Лицензия — MIT; качество генерации не гарантировано.

Карточка модели roskosmos19/Dolphin-4B-Instruct-flash на Hugging Face совпадает с карточкой roskosmos19/Orca-4B-Instruct, поэтому описание составлено по ней. Orca-4B-Instruct — компактная инструктивная языковая модель, опубликованная roskosmos19. По карточке она основана на архитектуре Qwen3 и предназначена для диалогов и выполнения текстовых инструкций. Модель содержит около 3,7 млрд параметров, использует архитектуру Qwen3ForCausalLM и принимает контекст до 16 384 токенов. Модель рассчитана на генерацию ответов, следование инструкциям и разговорные сценарии; в метаданных также заявлен интерфейс вызова инструментов. Карточка описывает оптимизацию для экономичного запуска: сокращённый контекст и удалённые мультимодальные специальные токены уменьшают требования к памяти, сохраняя фокус на текстовых ответах. Доступны веса в формате safetensors. Модель подходит для локальных чат-ботов, помощников и других приложений, где важны умеренный размер и стоимость инференса. Ограничение контекста до 16 384 токенов исключает обработку очень длинных запросов; сведения о поддерживаемых естественных языках в карточке не приведены. Лицензия — Apache-2.0.

PS4Research/EVPdEf4TUz3pRa2u — дообученная языковая модель семейства Qwen3, разработанная PS4Research на базе unsloth/Qwen3-14B-bnb-4bit с использованием Unsloth и библиотеки TRL. Модель содержит 14 млрд параметров, построена на плотной архитектуре Qwen3ForCausalLM и принимает текст для генерации текста; поддерживает диалоговый интерфейс и интерфейс вызова инструментов. Модель предназначена для генерации текста и диалоговых сценариев. Её контекстное окно составляет 40 960 токенов. В карточке указан английский язык. Модель распространяется по лицензии Apache-2.0. Специализация дообучения и его качество в карточке не раскрыты.

FineLlama-3.1-8B-v2 — дообученная kkopalle диалоговая модель генерации текста на архитектуре Llama 3.1. Она основана на unsloth/Meta-Llama-3.1-8B-Instruct и рассчитана на чат и создание текстовых ответов; в метаданных также отмечен интерфейс вызова инструментов. Модель содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель обучалась с использованием Unsloth и библиотеки Hugging Face TRL. В карточке указана лицензия Apache-2.0. Метаданные обозначают английский язык; специальных предметных областей или дополнительных ограничений в предоставленной карточке не описано.