II.1Анализ требований и архитектура ПО
В разделе собраны самостоятельные задачи, где AI помогает переводить потребности бизнеса в непротиворечивые требования и технические решения. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
18 191 модельLFM2-24B-A2B-MLX-4bit — 4-битная квантованная версия модели LFM2-24B-A2B, разработанной LiquidAI. Квантование выполнено командой LM Studio с использованием mlx_lm, а модель оптимизирована для запуска на устройствах Apple Silicon. Она предназначена для генерации текста и локального использования в приложениях и инструментах, поддерживающих формат MLX. В карточке указано, что модель работает с английским, арабским, китайским, французским, немецким, японским, корейским, испанским и португальским языками. Размер исходной модели обозначен как 24B-A2B, однако подробности архитектуры, фактическое назначение компонентов A2B, максимальная длина контекста и список поддерживаемых модальностей не приведены. Ключевые преимущества — снижение требований к памяти благодаря 4-битной квантованию и оптимизация для экосистемы Apple Silicon. Ограничения включают зависимость от совместимого MLX-окружения и возможное снижение качества по сравнению с полной точностью; конкретные показатели качества в README отсутствуют. Модель распространяется по лицензии lfm1.0.
LFM2.5-2.6B-MLX-bf16 — экспорт модели Liquid AI LFM2.5-2.6B в формате MLX для инференса на устройствах Apple Silicon. Это плотная языковая модель с 2,6 млрд параметров и гибридной архитектурой, объединяющей свёрточные и attention-слои. Версия использует точность bf16, занимает около 5,02 ГБ и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогов, включая локальный запуск на компьютерах Apple с длинными текстовыми последовательностями. Она поддерживает 17 языков, в том числе русский, английский, китайский, арабский, хинди и японский. Карточка указывает лицензию other, поэтому условия использования следует сверять с лицензией репозитория базовой модели.
Ling-3.0-flash REAP320 — экспериментальная разговорная гибридная MoE-модель от bloomer010, полученная из inclusionAI/Ling-3.0-flash удалением наименее активных экспертов. В каждом слое оставлено 320 из 512 маршрутизируемых экспертов; в карточке указаны 81 млрд параметров суммарно и 5,1 млрд активных. Для отбора экспертов применён однократный метод REAP по калибровочным данным объёмом 1 млн токенов из UltraChat, WikiText и кода; дообучения и восстановительного обучения не было. Модель предназначена для диалоговой генерации текста. Она распространяется в формате BF16 safetensors, использует архитектуру BailingMoeV3 и загружается через Transformers с включённым trust_remote_code для пользовательского кода. Контекст — до 262 144 токенов. Шаблон чата поддерживает параметр reasoning_effort. Карточка обозначает её как исследовательский артефакт и экспериментальный REAP-чекпойнт; сведения о лицензии и поддерживаемых естественных языках не приведены.
LFM2-24B-A2B-GGUF — это квантизированная версия языковой модели LFM2-24B-A2B, разработанной LiquidAI и подготовленной в формате GGUF пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального инференса через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Модель поддерживает текстовую модальность и заявлена для английского, арабского, китайского, французского, немецкого, японского, корейского, испанского и португальского языков. Обозначение 24B-A2B указывает на конфигурацию модели, однако в README не приведены подробности её архитектуры, размер контекста или точная интерпретация компонентов. Доступны варианты от BF16 до различных уровней квантования, примерно от 9,78 до 47,70 ГБ; более высокие уровни обычно сохраняют лучшее качество, а варианты Q3 и IQ3 требуют меньше памяти, но уступают по качеству. Сильная сторона этой версии — широкий выбор квантований для запуска на локальном оборудовании с различными ограничениями по памяти, включая варианты, рекомендованные автором как обеспечивающие высокое или хорошее качество. Ограничения связаны с потерями качества при сильном квантовании, необходимостью совместимого обновлённого программного обеспечения и отсутствием в README данных о производительности, результатах тестов, точном контексте и специализированных сценариях применения. Лицензия указана как lfm1.0; конкретные условия следует уточнять в файле LICENSE.
Это конвертированные веса диалоговой версии Llama 2 7B в формате Hugging Face, опубликованные daryl149 при содействии Mirage-Studio.io. Модель построена на плотной архитектуре Llama и содержит около 6,6 млрд параметров; репозиторий предоставляет веса PyTorch для использования с Transformers. Указанное окно контекста — 2048 токенов. Модель предназначена для генерации текста в диалоговом формате: она может отвечать на вопросы, вести беседу и помогать с черновиками текста. Карточка не описывает специальную предметную область или отдельное дообучение. В README приведена лицензия Llama 2 Community License от Meta; использование и распространение подчиняются её условиям, включая требования к атрибуции и допустимому использованию.
Apollo Raines представляет Llama-3.1-8B-Instruct-Uncensored-Complete — вариант Llama-3.1-8B-Instruct, изменённый инструментом jBlaze. По README, модель создана без дополнительного обучения: поведенческие изменения внесены непосредственно в веса. Это плотная авторегрессионная языковая модель семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. Она принимает текст и генерирует текст; метаданные указывают контекст до 131 072 токенов и английский язык. Модель предназначена для диалогов и генерации ответов, включая прямые ответы без обычных отказов и оговорок. Примеры в карточке показывают ответы на общие вопросы, простые вычисления, написание кода и практические инструкции. В README заявлено подавление многословности, уклончивости, токсичности и отказов; это описание поведения автора, а не независимая оценка качества. Карточка сообщает, что известных проблем не наблюдалось, но не приводит результатов систематической оценки. Модель распространяется в формате safetensors и использует лицензию Llama 3.1 (llama3.1).
naturalseeker/Llama3.1_8I_ARC — дообученная naturalseeker диалоговая модель на архитектуре Llama 3.1 с 7,5 млрд параметров. Она создана на основе unsloth/Meta-Llama-3.1-8B-Instruct и обучалась с использованием Unsloth и Hugging Face TRL. Модель предназначена для диалогов и генерации текста; доступен интерфейс вызова инструментов. Она принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Веса опубликованы в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не описывает специальную предметную область или отдельные возможности дообучения, поэтому качество для конкретных задач следует оценивать на подходящих примерах.
Карточка модели naturalseeker/Llama3.1_8I_ARC_RP на Hugging Face совпадает с карточкой naturalseeker/Llama3.1_8I_ARC, поэтому описание составлено по ней. naturalseeker/Llama3.1_8I_ARC — дообученная naturalseeker диалоговая модель на архитектуре Llama 3.1 с 7,5 млрд параметров. Она создана на основе unsloth/Meta-Llama-3.1-8B-Instruct и обучалась с использованием Unsloth и Hugging Face TRL. Модель предназначена для диалогов и генерации текста; доступен интерфейс вызова инструментов. Она принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Веса опубликованы в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не описывает специальную предметную область или отдельные возможности дообучения, поэтому качество для конкретных задач следует оценивать на подходящих примерах.
Capx/Llama-3.1-Carrot — разговорная модель Capx, дообученная на базе Meta Llama 3.1 8B Instruct. Она предназначена для диалога и генерации текста; метаданные также указывают поддержку сценариев с изображениями и интерфейса вызова инструментов. Модель содержит 7,5 млрд параметров, использует плотную архитектуру CapxLlamaForCausalLM и имеет контекст до 131 072 токенов. Модель рассчитана на англоязычное использование. Для запуска инференса README указывает минимальное требование — GPU A100 с 40 ГБ памяти. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0.
Это дообученная модель KKHYA на 1,7 млрд параметров, созданная на основе KKHYA/llavaqwen3-1.7b-finetune. Она предназначена для генерации текста и диалогов; в метаданных также заявлен интерфейс вызова инструментов. Модель использует архитектуру AdapterMoELLaVAQwen3ForCausalLM и принимает текст, выдавая текст. Контекстное окно составляет 40 960 токенов. Модель распространяется в форматах PyTorch и Safetensors по лицензии Apache-2.0. README не сообщает о датасете, оценках качества или специальных областях применения. Описание базовой модели связывает её с семейством Qwen3; сведений о языковой специализации этой модели нет.
Это дообученная модель KKHYA на базе KKHYA/llavaqwen3-1.7b-finetune с 1,7 млрд параметров. Она использует архитектуру ColMaskMoELLaVAQwen3ForCausalLM и предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс для вызова инструментов. Длина контекста — до 40 960 токенов. Модель загружается в форматах PyTorch и Safetensors через Transformers. Модель опубликована 23 августа 2026 года под лицензией Apache-2.0. Датасет и результаты оценки не описаны, поэтому качество, специализацию и ограничения сверх указанных характеристик установить нельзя.
Это дообученная модель KKHYA на 1,7 млрд параметров, созданная на основе KKHYA/llavaqwen3-1.7b-finetune. Она использует архитектуру MaskMoELLaVAQwen3ForCausalLM и предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Модель загружается в форматах PyTorch и Safetensors и поддерживает контекст до 40 960 токенов. Модель опубликована под лицензией Apache-2.0. Датасет дообучения, результаты оценки и специальные ограничения в карточке не описаны, поэтому качество на конкретных задачах и надёжность вызова инструментов по имеющимся сведениям оценить нельзя.
Это дообученная модель KKHYA на базе KKHYA/llavaqwen3-1.7b-finetune. Она предназначена для генерации текста и диалогов; в метаданных также заявлен интерфейс вызова инструментов. Модель содержит 1,7 млрд параметров, использует архитектуру NMMaskMoELLaVAQwen3ForCausalLM и рассчитана на контекст до 40 960 токенов. Модель доступна в форматах PyTorch и safetensors по лицензии Apache-2.0. Данные обучения и специальные ограничения в карточке не описаны; поэтому качество и пригодность для конкретных сценариев требуют отдельной проверки.
Это дообученная версия KKHYA/llavaqwen3-1.7b-finetune с 1,7 млрд параметров, построенная на архитектуре NMMaskMoELLaVAQwen3ForCausalLM и представленная в форматах PyTorch и Safetensors. Модель предназначена для генерации текста и диалогов; метаданные также указывают интерфейс вызова инструментов. Она принимает текст и выдаёт текст, а заявленная длина контекста составляет 40 960 токенов. Модель опубликована KKHYA и дообучена на неизвестном датасете; подробности обучения и оценки не приведены. Репозиторий распространяется по лицензии Apache-2.0.
Модель guiiwfz/logi-1.5b — дообученная версия Qwen2.5-1.5B-Instruct, созданная guiiwfz на базе unsloth/qwen2.5-1.5b-instruct-unsloth-bnb-4bit. Это плотная авторегрессионная языковая модель с архитектурой Qwen2ForCausalLM и 1,5 млрд параметров. Она предназначена для генерации текста и диалоговых сценариев; в метаданных также заявлен интерфейс вызова инструментов. Модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 32 768 токенов. Веса представлены в формате safetensors. Лицензия — Apache-2.0.
Majuli 3.1 — мультимодальная модель формата GGUF, созданная tripplet-research и квантованная mradermacher на основе tripplet-research/majuli3.1. Модель относится к семейству Gemma 3 и предназначена для генерации текста, диалогового взаимодействия, творческих задач и roleplay-сценариев. Модель поддерживает текстовые и визуальные входные данные, то есть может использоваться в задачах image-text-to-text. В карточке заявлены английский и русский языки, совместимость с Transformers и text-generation-inference, а также возможность работы через совместимые endpoints. Точный размер исходной модели и объём контекстного окна не указаны. Для обработки изображений могут потребоваться отдельные файлы mmproj из статического репозитория. Репозиторий предоставляет множество вариантов imatrix-квантизации с размерами примерно от 6,8 до 23,4 ГБ. Более компактные варианты требуют меньше ресурсов, но могут заметно уступать по качеству; в README отдельно отмечены низкое качество некоторых конфигураций и рекомендации по отдельным вариантам, включая i1-Q4_K_M и i1-Q4_K_S. Качество, скорость и требования к памяти зависят от выбранного типа квантизации. Модель распространяется по лицензии Apache-2.0.
Карточка модели Kailune-AI/mamba-gpt-3b-v3 на Hugging Face совпадает с карточкой CobraMamba/mamba-gpt-3b-v3, поэтому описание составлено по ней. mamba-gpt-3b-v3 — языковая модель на 3,3 млрд параметров от CobraMamba, дообученная на основе openlm-research/open_llama_3b_v2. Она предназначена для генерации текста, диалогов и ответов на инструкции; в обучающих данных использованы Stanford Alpaca, Open Assistant, LIMA и CodeAlpaca 20k. Модель построена на архитектуре LlamaForCausalLM и запускается через библиотеку Transformers. Контекст составляет 2048 токенов; карточка указывает английский и многоязычные данные Open Assistant. В README приведены результаты тестов MMLU, ARC и HellaSwag, однако их следует считать заявлениями авторов. Модель подходит для экспериментов и приложений с генерацией текста, включая ответы на вопросы и помощь с кодом. Она может выдавать неточные, нерелевантные или предвзятые ответы, а небольшой контекст ограничивает работу с длинными запросами. Лицензия репозитория — Apache-2.0.
Megrez2-3x7B-A3B — большая языковая модель с архитектурой Mixture-of-Experts от Infinigence. Она обучена на 8 трлн токенов и предназначена для генерации текста и диалоговых сценариев. В README указан общий размер 3×7B параметров и 3B активных параметров; метаданные Hugging Face указывают 2,7 млрд параметров. Модель поддерживает контекст длиной до 163 840 токенов и рассчитана на английский и китайский языки. Модель можно запускать через Transformers, ModelScope, llama.cpp, vLLM и SGLang. README описывает её как компактную для своего класса модель с MoE, а также приводит рекомендации по параметрам генерации и форматированию запросов для математических задач и вопросов с выбором ответа. Лицензия — Apache-2.0. Разработчики отмечают, что возможности рассуждения и работы в роли агента планируется улучшать.
MaziyarPanahi/MelloGPT-Mistral-7B-Instruct-v0.1-GGUF — это набор файлов модели в формате GGUF, подготовленный и квантованный MaziyarPanahi на основе MaziyarPanahi/MelloGPT-Mistral-7B-Instruct-v0.1. Модель относится к семейству Mistral-7B-Instruct-v0.1 и предназначена для генерации текста по инструкциям, включая локальный запуск чат- и текстовых приложений. Модель имеет архитектуру Mistral с примерно 7 млрд параметров и работает с текстовой модальностью; поддерживаемые языки и размер контекстного окна в README не указаны. Репозиторий содержит варианты квантования от 2 до 8 бит, включая Q2_K, Q3_K, Q4_K, Q5_K и Q6_K, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. Формат поддерживается llama.cpp и рядом совместимых интерфейсов и библиотек, включая text-generation-webui, LM Studio, GPT4All и llama-cpp-python. К сильным сторонам относятся возможность локального запуска и наличие нескольких уровней квантования, уменьшающих потребление памяти по сравнению с полноразмерной моделью. Ограничения конкретных вариантов квантования, качество ответов и специализированное назначение MelloGPT в README подробно не описаны; поэтому нельзя сделать точные выводы о производительности или пригодности для отдельных предметных областей. Для репозитория указана лицензия Apache-2.0.
Модель Hjgugugjhuhjggg/mergekit-passthrough-ugbxutu — объединённая модель для генерации текста, созданная методом passthrough с помощью mergekit на основе Hjgugugjhuhjggg/mergekit-ties-dkhnzcn. Она предназначена для диалоговой генерации и работы через интерфейс общения с моделью. Это плотная Llama-архитектура с 5,2 млрд параметров и контекстом до 131 072 токенов; репозиторий использует библиотеку Transformers и формат safetensors. Модель принимает текст и генерирует текст. Метаданные указывают на возможность общения и наличие интерфейса вызова инструментов. Язык модели и её специализированная предметная область не определены в доступных сведениях. Лицензия в предоставленных данных не указана.
Это набор GGUF-квантизаций модели Meta-Llama-3-8B-Instruct-abliterated-v3, опубликованный и подготовленный к квантизации пользователем bartowski. Исходная модель разработана failspy. Модель предназначена для генерации текста и диалоговых сценариев, включая работу через llama.cpp; в README указан специальный формат prompt на основе шаблона Meta Llama 3 с ролями system, user и assistant. Модель относится к семейству 8B и поставляется в форматах GGUF с различными вариантами квантизации: от Q8_0 до Q2_K и IQ2/IQ3/IQ4. Для квантизации использовался llama.cpp release b3024 и метод imatrix. Более крупные варианты, например Q8_0, обеспечивают максимально доступное качество, тогда как Q6_K, Q5_K_M, Q5_K_S и Q4_K_M обозначены как рекомендуемые; варианты с меньшим размером требуют меньше памяти, но заметно уступают по качеству. README не содержит сведений о поддерживаемых языках, размере контекста, точной архитектуре, результатах тестирования или мультимодальных возможностях, поэтому модель следует рассматривать как текстовую. Условия использования указаны как лицензия llama3. Конкретные требования к аппаратному обеспечению зависят от выбранного файла квантизации и его размера.
mlx-community/MiniMax-M2.1-4bit — это квантованная 4-битная версия модели MiniMax-M2.1, разработанная сообществом mlx-community и преобразованная из исходной модели MiniMaxAI/MiniMax-M2.1 в формат MLX с использованием mlx-lm 0.29.1. Модель предназначена для генерации текста и локального запуска в экосистеме MLX, например через библиотеку mlx-lm с поддержкой chat template. README не содержит сведений о точном размере модели, архитектуре, поддерживаемых языках, длине контекста или мультимодальных возможностях. Ключевое преимущество версии — 4-битное представление, потенциально снижающее требования к памяти при запуске, однако характеристики качества и совместимости относительно исходной модели не указаны. Модель распространяется по лицензии modified MIT; подробные условия доступны по ссылке на лицензию MiniMax-M2.1.
QuantFactory/Ministral-3b-instruct-GGUF — квантованная версия языковой модели ministral/Ministral-3b-instruct, созданная QuantFactory с использованием llama.cpp. В основе лежит GPT-подобная архитектура семейства Mistral с примерно 3 млрд параметров; модель дообучена на смеси общедоступных и синтетических наборов данных и основана на Mistral-7B-v0.1. Модель предназначена для генерации текста и инструкционного взаимодействия, включая запуск локальных сценариев благодаря квантованному формату GGUF. Она ориентирована прежде всего на английский язык и относится к моделям текстовой генерации. Ключевое преимущество — меньшее количество параметров по сравнению с крупными моделями Mistral, что потенциально упрощает локальное развертывание, однако README не указывает конкретные требования к памяти, варианты квантования, размер контекста, точные показатели качества или поддерживаемые модальности. Лицензия — Apache 2.0.
Это квантованная в формате GGUF версия Ministral 8B Instruct 2410 abliterated, подготовленная mradermacher на основе модели realoperator42/ministral-8B-Instruct-2410-abliterated. Модель предназначена для генерации текста и ведения диалогов, включая локальный запуск совместимых с GGUF инструментов и приложений. Заявлена поддержка английского, французского, немецкого, испанского, итальянского, португальского, русского, китайского и японского языков. Модель относится к семейству Ministral и имеет около 8 миллиардов параметров, однако подробные сведения об архитектуре, размере контекста и поддерживаемых модальностях в README не указаны. Доступны варианты квантования от наиболее компактных IQ1 до более качественных Q5, с размерами файлов примерно от 2,1 до 5,7 ГБ. В README рекомендуется вариант i1-Q4_K_M как быстрый, а i1-Q4_K_S — как компромисс между размером, скоростью и качеством; низкобитные варианты могут заметно уступать по качеству. К преимуществам относятся широкий выбор квантований и возможность запуска на ограниченных аппаратных ресурсах. Ограничения включают потенциальное снижение качества при сильном квантовании, отсутствие описания результатов тестирования и неполные сведения о характеристиках базовой модели. Информация о лицензии в README не указана.
Mistral-12.25B-v0.2 — плотная авторегрессионная языковая модель семейства Mistral, созданная Joseph717171 методом depth-up scaling на основе alpindale/Mistral-7B-v0.2-hf. Слои исходной модели переставлены методом passthrough mergekit: конфигурация README задаёт 56 слоёв, а метаданные указывают 12,3 млрд параметров и контекст до 32 768 токенов. Модель предназначена для дальнейшего дообучения и как замена Mistral-7B-v0.2 в сценариях генерации текста. README описывает её как эксперимент для сравнения вариантов depth-up scaling; оптимальность выбранных параметров не установлена. Репозиторий содержит веса safetensors для Transformers. Лицензия — Apache-2.0.
ESarp/Mistral-Nemo-12B-AttackTree-DPO — дообученная ESarp языковая модель для генерации текста и диалогов. Она основана на unsloth/Mistral-Nemo-Instruct-2407-bnb-4bit и обучалась с использованием Unsloth и библиотеки TRL от Hugging Face. Архитектура — плотная MistralForCausalLM, размер — 12,1 млрд параметров, длина контекста — до 131 072 токенов. Карточка указывает английский язык и формат safetensors. Модель предназначена для генерации ответов в текстовом чате; метаданные также отмечают интерфейс вызова инструментов. Название указывает на DPO и деревья атак, однако карточка не описывает соответствующее обучение или специализированные сценарии, поэтому эти свойства нельзя считать подтверждёнными. Лицензия — Apache-2.0.
CreitinGameplays/Mistral-Nemo-12B-R1-v0.2 — дообученная автором CreitinGameplays разговорная модель для генерации текста и ответов на запросы с рассуждениями. Она основана на Mistral-Nemo-Instruct-2407 и обучалась один эпоху на наборе Magpie-Reasoning-V2-250K-CoT-Deepseek-R1-Llama-70B-filtered-mistral; автор сообщает, что обучение заняло 12 часов на одной Nvidia H100. Модель использует плотную архитектуру Mistral с 12,1 млрд параметров и контекстом до 131 072 токенов. Она работает через Transformers, доступна в формате safetensors и поддерживает текстовый диалог и интерфейс вызова инструментов. В метаданных указан английский язык; основная задача — генерация текста. Лицензия — MIT. README содержит пример генерации ответа на вопрос, но не приводит систематических оценок качества, поэтому надёжность рассуждений и результатов на разных задачах по карточке установить нельзя.
Moxin-7B-LLM — базовая языковая модель примерно с 8 млрд параметров, разработанная командой Moxin. Она предназначена для генерации текста и решения общих языковых задач. В карточке описана оценка на тестах ARC, HellaSwag, MMLU, Winogrande и PIQA; авторы также сообщают, что на основе базовой модели обучили отдельную чат-версию на данных Tulu v2. Модель использует плотную архитектуру Mistral и поддерживает контекст до 32 768 токенов. Для запуска доступны веса в форматах PyTorch и safetensors, а также GGUF. README не указывает поддерживаемые естественные языки и не сообщает о мультимодальных возможностях; заявленная задача — генерация текста. Модель распространяется по лицензии Apache-2.0. Оценки в README приведены на стандартных наборах тестов, но сами по себе не гарантируют качество в конкретном приложении; специализированные возможности и ограничения применения в карточке не описаны.
bartowski/moxin-llm-7b-GGUF — это набор GGUF-квантизаций текстовой генеративной модели moxin-llm-7b, разработанной moxin-org. Квантизации выполнены bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска, в том числе через LM Studio и совместимые инструменты на базе llama.cpp. Модель содержит около 7 миллиардов параметров и поставляется в вариантах от F16 до низкобитных Q2 и IQ2/IQ3/IQ4-квантизаций. Размер файлов составляет примерно от 2,79 до 16,23 ГБ, что позволяет выбирать баланс между качеством, скоростью и требованиями к оперативной памяти. Для некоторых вариантов эмбеддинги и выходные веса квантизированы в Q8_0. Наиболее качественными считаются F16, Q8_0, Q6_K_L, Q6_K, Q5 и Q4_K-варианты; низкобитные версии экономят память, но могут заметно уступать в качестве. В README не указаны архитектура базовой модели, поддерживаемые языки, размер контекстного окна и специальный формат промпта; его рекомендуется уточнить на странице исходной модели. Модель поддерживает только текстовую модальность. Для набора указана лицензия Apache-2.0.
Negentropy-claude-opus-4.7-9B-GGUF — экспериментальная языковая модель для усиленного рассуждения, разработанная Jackrong совместно с Kyle Hessling. Она основана на Qwen/Qwen3.5-9B и дообучена с использованием Unsloth методом SFT. В проекте применяется подход Trace Inversion: модель Jackrong/Trace-Inverter-4B реконструирует более подробные цепочки рассуждений из сжатых сводок в стиле Claude-Opus, которые затем используются как обучающие данные. Модель предназначена для сложной логической дедукции, многошагового решения математических и программных задач, генерации качественных данных с цепочками рассуждений для более компактных моделей, а также локального запуска на рабочих станциях и исследовательских экспериментов по восстановлению рассуждений. Заявлены языки English, Chinese, Korean, Japanese и Russian. Размер модели — около 9 млрд параметров; базовая архитектура — Qwen3.5-9B. В карточке также указан pipeline image-text-to-text, однако подробности о поддерживаемых визуальных входах и фактических мультимодальных возможностях не приведены. К сильным сторонам относятся больший по сравнению с 4B-версией объём параметров, ориентация на более устойчивое многошаговое рассуждение и возможность локального развёртывания. Ограничения связаны с экспериментальным характером проекта, отсутствием приведённых количественных оценок качества, неполными сведениями о контексте и фактической поддержке модальностей, а также с тем, что реконструированные цепочки рассуждений основаны на синтетических данных и могут наследовать их особенности. Лицензия модели — Apache-2.0.