II.4Отладка, тестирование и качество ПО

OpenChat 3.5 — диалоговая языковая модель, разработанная командой OpenChat и дообученная методом C-RLFT на смеси публичных инструкционных данных разного качества. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и принимает текстовые сообщения, выдавая текстовые ответы в формате диалога. Модель предназначена для общения с пользователем, ответов на вопросы и выполнения инструкций; её также можно применять для генерации и объяснения кода, математики и рассуждений. Заявленный контекст — 8192 токена. В README приведены результаты на нескольких бенчмарках, включая MT-Bench, HumanEval и GSM8K; эти результаты зависят от методики оценки и не гарантируют качество в конкретной задаче. Модель распространяется по лицензии Apache-2.0. Разработчики предупреждают о возможных ошибках и вымышленных сведениях, слабых местах в сложных рассуждениях, математике и программировании, а также о вероятности вредных или предвзятых ответов; важные результаты следует проверять, а для чувствительных сценариев применять дополнительные меры безопасности.

OpenChat-3.5-0106-128k — диалоговая языковая модель OpenChat, созданная на основе дообученной Mistral-7B-v0.1. Она содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и предназначена для генерации ответов в чате, программирования, общих задач и математических рассуждений. Поддерживает контекст до 131 072 токенов; в README также описан режим оценивания ответов, обозначенный как экспериментальный. Модель рассчитана на текстовый ввод и генерацию текста. README приводит результаты бенчмарков по коду и математике, но не описывает поддерживаемые естественные языки. Веса опубликованы в формате safetensors, модель использует библиотеку Transformers и распространяется по лицензии Apache-2.0.

Open-Instruct Human-mix 65B — языковая модель AllenAI на архитектуре LLaMA с 65 млрд параметров, дообученная на смеси созданных людьми наборов инструкций FLAN V2, CoT, Dolly и OpenAssistant 1. Она предназначена для генерации ответов на инструкции и запросы, включая задачи общего знания, рассуждения, математики и программирования. Модель принимает текст и генерирует текст. Для работы требуется исходная модель LLaMA в формате Hugging Face и применение diff-весов; рекомендуемый формат запросов описан в карточке модели. Контекст составляет 2048 токенов. В метаданных указан английский язык. Карточка приводит результаты оценки на MMLU, GSM, BBH, TyDiQA, Codex-Eval и AlpacaFarm. Использование регулируется лицензией AI-модели из репозитория и исходной лицензией LLaMA; перед применением необходимо учитывать условия обеих лицензий.

CIRU DualView Ornith 1.0 35B — мультимодальная модель для диалогов, рассуждений, работы с инструментами, программирования и анализа изображений. Она основана на объединении Ornith-1.0-35B и Qwen3.6-35B-A3B; архитектура включает 256 экспертов, из которых активны 8. Модель поставляется в формате GGUF с квантованием FPX7 и отдельными участками Q8, а также с проектором изображений и дополнительным слоем MTP. Заявленная длина контекста — 262 144 токена. DualView использует компактное представление весов для генерации и точное представление INT8 для обработки входного контекста. Модель предназначена для локального запуска на системах AMD с унифицированной памятью и ROCm. Для загрузки требуется совместимая сборка ROCmFPX; стандартный llama.cpp не поддерживает этот формат. Проверки производительности проведены для Linux ROCm на Strix Halo, а совместный режим vision и MTP ещё проходит валидацию качества изображений и повторяемости. В метаданных указана лицензия other; конкретные условия следует сверить с карточкой модели и её лицензией.

Phi-3-medium-128k-instruct-GGUF — квантизированная версия инструкционной языковой модели Phi-3-medium-128k-instruct, разработанной Microsoft и подготовленной в формате GGUF компанией Second State Inc. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на инструкции, работу с длинными документами и программным кодом. В README указана поддержка multilingual, однако конкретный перечень языков не приведён. Архитектура и точное число параметров не указаны; модель относится к типу phi-msft и поддерживает контекст до 128 000 токенов. Доступны варианты квантизации от Q2_K до Q8_0, а также f16, размером примерно от 5,14 до 27,9 ГБ. Варианты с более сильной квантизацией требуют меньше памяти, но могут заметно терять в качестве; Q4_K_M, Q5_K_M и Q5_K_S обозначены как рекомендуемые для баланса между размером и качеством. Модель рассчитана на запуск через совместимые инструменты, включая LlamaEdge, с использованием шаблона phi-3-chat. Лицензия — MIT; дополнительные ограничения или сведения о мультимодальности в README не указаны.

TeichAI обучила эту плотную языковую модель Qwen3 с 3,7 млрд параметров на примерах ответов Claude Opus 3 из набора NoSlop4U/opus-3-1000x. Модель основана на unsloth/Qwen3-4B-Instruct-2507 и предназначена для генерации текста в диалоговом и инструкционном формате. В карточке указаны сценарии применения: программирование, создание агентов и глубокое исследование. Модель поддерживает контекст до 262 144 токенов и интерфейс вызова инструментов; опубликована в формате safetensors. Обучение выполнялось с Unsloth и библиотекой TRL. Лицензия в предоставленных сведениях не указана. Карточка не приводит оценок качества или подробных ограничений; результаты могут отличаться от ответов Claude Opus 3, на которых основаны обучающие данные.

Qwen3.8-27B-GSQ-RCO-GGUF — квантизированная версия Qwen3.8-27B, разработанная с использованием методов GSQ и RCO в Deep Algorithms and Systems Lab (DASLab) при Institute of Science and Technology Austria. Модель распространяется в формате GGUF и предназначена для локального запуска в llama.cpp, Ollama и LM Studio. Модель рассчитана на текстовые и мультимодальные сценарии благодаря отдельному vision encoder и проектору mmproj в формате BF16. Доступны варианты с эффективной средней разрядностью от 2,50 до 3,50 бит на вес и размером от 8,4 до 11,8 ГБ; файл mmproj занимает около 0,9 ГБ. Вариант IQ3_S позиционируется как рекомендуемый и практически не уступающий базовой модели на заявленных тестах AIME25, LiveCodeBench v6 и GPQA-Diamond. Дополнительные сборки с MTP head поддерживают speculative decoding и примерно на 0,35 ГБ больше. GSQ выполняет посттренировочную скалярную квантизацию с учетом чувствительности отдельных координат и масштабов групп, а RCO распределяет типы квантизации между тензорами в рамках заданного бюджета размера. Это позволяет существенно уменьшить объем модели при сохранении качества, однако низкоразрядные варианты могут иметь компромиссы по точности и требуют совместимого программного обеспечения. Лицензия — Apache 2.0.

Qwopus3.6-27B-v2-abliterated — мультимодальная модель для диалога и рассуждений, созданная на основе Jackrong/Qwopus3.6-27B-v2. Автор карточки описывает её как версию Qwen3.5 с гибридной архитектурой: линейное внимание GatedDeltaNet сочетается с полным вниманием, а модель поддерживает обработку изображений. Отказные направления ортогонализированы в матрицах записи остаточного потока на 26-м слое без дообучения; модуль зрения не изменён. В карточке приведены результаты HumanEval pass@1 95,1%, GSM8K 86,0% и MMLU-Pro 83,2%, а также снижение частоты отказов с 100% до 8%. Весовой формат — bf16 Safetensors; многотокенный предсказательный модуль включён для спекулятивного декодирования. Для развёртывания доступны отдельные варианты INT4 и GGUF. Лицензия в предоставленных данных не указана.

jondurbin/spicyboros-70b-2.2 — экспериментальная инструкционная языковая модель на архитектуре Llama, созданная Jondurbin на основе преимущественно синтетических данных Airoboros 2.2. Модель содержит 68,7 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 4096 токенов. Карточка описывает формат диалога с ролями USER и ASSISTANT и примерами для ответов по предоставленному контексту, написания текстов, программирования и генерации JSON или YAML для вызова функций. Модель рассчитана на широкий круг инструкционных задач и особенно ориентирована на пары «инструкция — ответ», а не на непринуждённый чат. В обучении использовались синтетические данные, включая примеры с ослабленными ограничениями на ответы. Разработчик предупреждает, что модель может выдавать ненормативную лексику и чувствительный или откровенный контент, а также рекомендует останавливать генерацию при появлении новой реплики USER. Лицензия указана как Llama 2; применение должно соответствовать её условиям.

NoxNotreve/Ternary-Bonsai-2-27B-gguf — компактная GGUF-версия Bonsai 2 27B, разработанная проектом Prism ML на основе Qwen3.8-27B. Это авторегрессионная языковая модель для генерации текста, рассуждений, программирования и агентских сценариев с вызовом инструментов. Она предназначена для локального запуска через llama.cpp на CPU, GPU с CUDA или устройствах Apple с Metal, включая стандартные ноутбуки и одноплатформенные конфигурации. Модель содержит около 27,36 млрд параметров и использует гибридную архитектуру с примерно 75% линейного и 25% полного внимания, SwiGLU, RoPE и RMSNorm. Заявленная длина контекста составляет 262 тысячи токенов. Языковая часть, включая эмбеддинги, проекции внимания, MLP и выходную голову, представлена в троичном формате со значениями −1, 0 и +1, групповым масштабированием FP16 и эффективной плотностью около 1,72 бита на параметр. Доступны упаковки PTQ1_0 размером около 5,95 ГБ и PQ2_0 размером около 7,21 ГБ. Для обработки изображений предусмотрена отдельная vision tower в формате Q8_0, поэтому модель поддерживает текстовый режим и опциональный мультимодальный ввод при наличии соответствующего пакета. Сильные стороны модели — существенно меньший размер по сравнению с FP16, сохранение возможностей рассуждения, математики, программирования и агентского поведения в сверхнизкой разрядности, а также пригодность для локального использования. Согласно README, она сохраняет 98,2% показателей FP16 на наборе из 14 тестов, однако эти результаты зависят от методики оценки и совместимых низкоразрядных ядер. Для работы требуются версии llama.cpp с поддержкой кастомных троичных ядер; стандартные реализации могут не загрузить файл или не обеспечить заявленную производительность. Модель распространяется по лицензии Apache 2.0.

Ternary-Bonsai-2-27B-gguf — языковая модель класса 27B, разработанная Prism ML на базе Qwen3.8-27B. Это причинно-следственная transformer-модель с гибридным механизмом внимания: примерно 75% линейного и 25% полноформатного внимания, архитектурой SwiGLU, RoPE и RMSNorm. Модель предназначена для генерации текста, рассуждений, программирования и агентских сценариев с вызовом инструментов. README не указывает поддерживаемые языки. Модель содержит 27,36 млрд параметров и рассчитана на контекст до 262 тыс. токенов. Языковые веса представлены в троичном формате {−1, 0, +1} с групповым масштабированием FP16; доступны упаковки PTQ1_0 размером около 5,95 ГБ и PQ2_0 размером около 7,21 ГБ. Для обработки изображений предусмотрен отдельный опциональный vision-пакет mmproj в формате Q8_0. Модель поддерживается llama.cpp на CPU, CUDA и Metal; также существует отдельная MLX-версия для Apple Silicon. Ключевое преимущество — существенно меньший размер при сохранении заявленных разработчиком возможностей рассуждения, программирования и агентского поведения: по данным README, сохранено 98,2% показателей FP16 на среднем наборе из 14 тестов. Гибридное внимание и большой контекст делают модель подходящей для локального запуска на ноутбуке или одной GPU. Ограничения включают необходимость совместимых низкоразрядных ядер и runtime с поддержкой специального формата, а также отсутствие в README независимых подтверждений заявленных benchmark-результатов и сведений о фактическом качестве на конкретных языках. Распространяется по лицензии Apache 2.0.

Tess-2.0-Llama-3-70B — универсальная языковая модель для диалога и генерации текста, разработанная Migtissera; вычислительные ресурсы для обучения предоставила KindoAI. Это плотная autoregressive-модель семейства Llama 3 на архитектуре LlamaForCausalLM с 69,5 млрд параметров и контекстом до 8192 токенов. Она принимает текстовые инструкции и выдаёт текст, поддерживает формат диалога Llama 3. Модель дообучена на базе meta-llama/Meta-Llama-3-70B в течение двух эпох на наборе Tess-2.0, который по принципам LIMA включает около 100 тысяч высококачественных примеров по программированию и общим темам. Подходит для диалоговых помощников, ответов на вопросы, написания текстов и помощи с кодом. Карточка характеризует набор данных как мало ограничивающий следование инструкциям, поэтому модель может отвечать на нежелательные запросы. Модель может выдавать неточную или вводящую в заблуждение информацию, а также предвзятый, оскорбительный или иной неподходящий контент; ответы следует проверять. Лицензия — Llama 3 License (llama3).

Tulu 30B — плотная авторегрессионная языковая модель семейства LLaMA с 32,3 млрд параметров, дообученная исследователями Allen Institute for AI на смеси наборов инструкций. Она предназначена для диалогов и выполнения инструкций: ответов на вопросы, рассуждений, решения задач и генерации кода. При обучении использовались FLAN V2, CoT, Dolly, OpenAssistant 1, GPT4-Alpaca, Code-Alpaca и ShareGPT; модель рассчитана на англоязычные запросы и формат промпта, описанный в карточке. Контекст составляет 2048 токенов, веса представлены в формате PyTorch как diff, для восстановления нужны исходные веса LLaMA в формате Hugging Face. В статье приведены результаты на MMLU, GSM, BBH, TydiQA, Codex-Eval и AlpacaFarm. Использование регулируется лицензией AI model license вместе с исходной лицензией LLaMA.

ZYH-LLM-Qwen2.5-14B-V5 — диалоговая языковая модель YOYO-AI, созданная слиянием моделей на базе Qwen2.5-14B. В README описаны этапы объединения инструкционных, кодовых и рассуждающих моделей; среди них есть варианты Qwen2.5, Cogito, DeepCoder и другие. Это плотная авторегрессионная архитектура Qwen2 с 14 млрд параметров, опубликованная в формате safetensors. Модель предназначена для генерации текста в диалоге, выполнения инструкций, помощи с кодом и задач, требующих рассуждений. Метаданные указывают контекст до 1 010 000 токенов, а в карточке заявлена поддержка английского и китайского языков. Модель распространяется по лицензии Apache-2.0. README не приводит результаты сравнительных оценок или подробные рекомендации по развёртыванию. Заявленная длина контекста сама по себе не подтверждает качество ответов на всём этом диапазоне; фактическую производительность следует проверять на целевых задачах.

Gemma 4 12B IT Assistant — мультимодальная модель с открытыми весами от Google DeepMind, предназначенная для диалогов и генерации текста. Эта карточка описывает вариант Multi-Token Prediction (MTP): компактная черновая модель для speculative decoding, которая предлагает несколько токенов заранее, а целевая модель проверяет их параллельно. Такой режим может ускорять декодирование до 3 раз без изменения качества относительно обычной генерации. Модель семейства Gemma 4 использует плотную архитектуру и поддерживает ввод текста, изображений и аудио; на выходе генерирует текст. Она предназначена для рассуждений, программирования, распознавания и понимания речи, работы с изображениями и агентных сценариев с вызовом инструментов. Семейство поддерживает длинный контекст до 256 тысяч токенов и многоязычную работу; в карточке указана поддержка более 140 языков при обучении. MTP-вариант рассчитан на использование в speculative decoding с соответствующей целевой моделью, а не как самостоятельная замена обычному checkpoint для всех сценариев. Лицензия — Apache 2.0.

mlx-community/GLM-5 — версия GLM-5, преобразованная сообществом mlx-community для запуска с MLX на устройствах Apple. Это диалоговая языковая модель семейства GLM с архитектурой GlmMoeDsaForCausalLM и 30,4 млрд параметров; она предназначена для генерации текста и общения. В карточке базовая GLM-5 описана как модель для рассуждений, программирования и длительных агентных задач. Модель поддерживает английский и китайский языки и имеет контекстное окно 202 752 токена. Репозиторий содержит веса в формате Safetensors и рассчитан на использование с библиотекой MLX; README указывает преобразование из zai-org/GLM-5 с помощью mlx-lm версии 0.30.7. Лицензия — MIT. Метаданные указывают связь с базовой моделью как finetune, хотя README описывает именно преобразование в формат MLX; поэтому происхождение классифицировано как конверсия формата.

Hagwell/GLM-5.3-Flash-GGUF — GGUF-версия модели GLM-5.3-Flash, разработанной командой GLM-5 и распространяемой в экосистеме Z.ai; репозиторий также связан с инструментами Unsloth. Модель предназначена для генерации текста, программирования, агентских сценариев и задач, требующих работы с длинным контекстом и мультимодальными данными. GLM-5.3-Flash — первая нативно мультимодальная модель серии GLM-5. Она содержит 320 млрд общих параметров, из которых 18 млрд активируются при обработке запроса. Архитектура сочетает разреженное и линейное внимание для снижения стоимости обслуживания длинного контекста и использует Manifold-Constrained Hyper-Connections для повышения эффективности масштабирования. Модель обучалась на мультимодальном корпусе объёмом 30 трлн токенов и поддерживает английский и китайский языки. В README заявлены улучшения относительно GLM-5.2, особенно в программировании и агентских задачах. Ключевые ограничения связаны с форматом и совместимостью: для запуска рекомендуется использовать llama.cpp с указанными изменениями или приложение Unsloth Desktop. README не содержит подробных сведений о конкретных вариантах квантизации, требованиях к памяти, максимальном контексте для данного GGUF-файла или ограничениях качества. Модель распространяется по лицензии MIT.

kldzj/gpt-oss-120b-heretic — модифицированная версия открытой весовой модели openai/gpt-oss-120b, созданная разработчиком kldzj с использованием Heretic v1.0.1. Это текстовая генеративная модель для общего назначения, рассуждений, агентских сценариев и задач разработчиков; заявленная особенность версии — снижение склонности к отказам от ответов (decensored/abliterated). Модель поддерживает запуск через Transformers и vLLM и рассчитана на использование в формате harmony. Модель основана на архитектуре Mixture-of-Experts: содержит около 117 млрд параметров, из которых примерно 5,1 млрд активны при обработке запроса. Она использует посттренировочную MXFP4-квантизацию весов MoE и может работать на одном GPU с 80 ГБ памяти, например NVIDIA H100 или AMD MI300X. Заявлены настраиваемый уровень рассуждений, function calling, веб-браузинг, выполнение Python-кода и Structured Outputs. В README не указаны языки, размер контекстного окна и поддержка мультимодальных входов, поэтому модель следует считать текстовой. По приведённому сравнению, модель отказалась отвечать в 19 из 100 тестовых случаев против 97 отказов у исходной модели, однако её KL-дивергенция относительно исходной модели составляет 0,92, что указывает на заметное изменение поведения. Возможные ограничения включают высокие требования к вычислительным ресурсам, необходимость корректного использования harmony-формата и потенциальные риски, связанные со снижением защитных отказов. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое использование и модификацию.

bunnycore/HyperLexi-8B-breadcrumbs — плотная языковая модель семейства Llama 3.1, созданная автором репозитория с помощью mergekit методом breadcrumbs. В слияние вошли несколько моделей на базе Llama 3.1, включая варианты для генерации текста без цензурных ограничений, программирования, диалогов и рефлексивных ответов. Базовой моделью при слиянии была unsloth/Meta-Llama-3.1-8B. Модель предназначена для генерации текста и диалогов; её можно применять для ответов на вопросы, помощи с кодом и создания развернутых текстовых ответов. Она содержит 7,5 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. Метаданные указывают библиотеку Transformers и формат весов safetensors. Лицензия в предоставленных данных не указана.

Josiefied-DeepSeek-R1-0528-Qwen3-8B-abliterated-v1 — разработанная Гёкденизом Гюльмезом дообученная языковая модель семейства Qwen3, созданная на основе deepseek-ai/DeepSeek-R1-0528-Qwen3-8B. Модель имеет плотную архитектуру Qwen3ForCausalLM и 7,6 млрд параметров; она предназначена для генерации текста в диалоговом и инструктивном режимах, включая использование интерфейса вызова инструментов. Заявленный контекст — до 131 072 токенов. Модель ориентирована на открытое следование инструкциям и менее ограниченную генерацию, сохраняя возможности работы с инструментами. Подходит для диалогов, ответов на вопросы, генерации кода и рассуждений; её базовая модель обучена на цепочках рассуждений и рассчитана также на математические и логические задачи. В репозитории указаны веса Safetensors, а для семейства доступны сторонние варианты GGUF и MLX. Фильтры безопасности снижены, поэтому модель может выдавать чувствительные или спорные ответы. README рекомендует использовать её ответственно и на свой риск. Лицензия в предоставленных данных не указана.

DuoNeural/LFM2.5-8B-A1B-Abliterated-GGUF — набор GGUF-квантизированных версий модели DuoNeural LFM2.5-8B-A1B-Abliterated, созданной на основе Liquid AI LFM 2.5-8B-A1B. Модель предназначена для генерации текста, рассуждений, программирования, математических задач и формирования структурированных данных, включая JSON. Указан английский язык. Модель распространяется в формате GGUF и совместима с llama.cpp, Ollama и LM Studio; используется шаблон ChatML. Архитектура описана как гибридная, сочетающая MoE и hybrid attention, с 8B общих параметров и обозначением A1B; в ней присутствуют шесть полносвязных GQA-слоёв. Доступны варианты Q4_K_M размером 4,9 ГБ с рекомендуемым объёмом RAM около 6 ГБ и Q5_K_M размером 5,7 ГБ с требованием около 8 ГБ. Для Q4_K_M заявлена работа с контекстом до 128k, для Q5_K_M подтверждён контекст 64k. Q5_K_M рекомендован как баланс качества и размера. Это локальная и вычислительно эффективная модель, способная работать даже на видеокартах потребительского уровня; заявлено сохранение возможностей исходной модели после аблерации и минимальное изменение распределения ответов на доброкачественных запросах. При этом README сообщает об удалении большей части исходного отказного поведения, поэтому модель может быть менее безопасной для неконтролируемого применения. Подробные ограничения, результаты независимой оценки и полный набор поддерживаемых языков не указаны. Лицензия — Apache 2.0.

Карточка модели Undi95/Meta-Llama-3-8B-Instruct-hf на Hugging Face совпадает с карточкой kuotient/Meta-Llama-3-8B-Instruct, поэтому описание составлено по ней. kuotient/Meta-Llama-3-8B-Instruct — чат-модель, разработанная Meta на основе семейства Llama 3. Это авторегрессионная плотная трансформерная модель класса LlamaForCausalLM с примерно 7,5 млрд параметров и механизмом Grouped-Query Attention. Она принимает текст и генерирует текст или код; версия с инструкционной настройкой предназначена для диалогов и работы в роли помощника. Модель рассчитана прежде всего на английский язык, а её контекстное окно составляет 8192 токена. Модель подходит для диалоговых помощников, ответов на вопросы, генерации и редактирования текста и кода. Инструкционные варианты Llama 3 настроены с помощью supervised fine-tuning и обучения с обратной связью от людей для повышения полезности и безопасности. Модель статична и обучена на офлайн-данных. Для использования действует специальная коммерческая лицензия Meta Llama 3; необходимо соблюдать её условия и политику допустимого использования.

RippaSats/MiniMax-M3 — мультимодальная модель семейства MiniMax M3, представленная в формате safetensors и рассчитанная на работу с текстом и изображениями. В README заявлены около 428 млрд параметров, примерно 23 млрд активируемых параметров и контекст до 1 млн токенов. Архитектура использует разреженное внимание MiniMax Sparse Attention (MSA), предназначенное для снижения вычислительных затрат и потребления памяти при длинном контексте; авторы также заявляют ускорение обработки длинного контекста по сравнению с M2. Модель предназначена для диалогов с изображениями, задач программирования и длительных агентных сценариев. README также описывает обучение на смеси модальностей с самого начала и заявляет поддержку видео, однако метаданные модели подтверждают только задачу image-text-to-text и возможности чата и зрения. README рекомендует использовать MiniMax Agent или MiniMax API. Репозиторий указывает лицензию other, поэтому конкретные условия использования следует проверять в приложенных лицензионных материалах.

Natsumura Assistant 1.1 — универсальная чат-модель, разработанная Tohur и дообученная на основе meta-llama/Meta-Llama-3.1-8B-Instruct. Это плотная авторегрессионная модель семейства Llama 3.1 с 7,5 млрд параметров и контекстом до 131 072 токенов. Модель предназначена для диалогового помощника и генерации текста, включая ответы на вопросы, помощь с кодом и решение математических задач. При обучении использовались наборы данных для инструкционного диалога, программирования, математики и идентичности модели. В README автор характеризует модель как uncensored и отмечает её высокую склонность выполнять запросы, в том числе неэтичные. Модель распространяется в формате safetensors по лицензии Llama 3.1 Community License; для использования действуют её условия. Качество ответов и их безопасность зависят от запроса и сценария применения.

Это конвертированная в формат MLX 8-битная версия NVIDIA Nemotron 3 Nano 30B A3B, подготовленная сообществом mlx-community из исходной модели NVIDIA в формате BF16 с помощью mlx-lm 0.29.1. Модель предназначена для генерации текста в диалоговом формате; базовая модель описана как средство для рассуждений, программирования и создания агентных приложений. В метаданных заявлена поддержка английского, испанского, французского, немецкого, японского и итальянского языков. Репозиторий помечен как safetensors, а описание указывает на 8-битное представление весов для запуска через MLX. Лицензия обозначена как other, поэтому конкретные условия использования следует проверять в лицензии исходной модели.

OpenAi-GPT-oss-20b-MODERATE-uncensored-NEO-Imatrix-gguf — текстовая generative-модель, разработанная DavidAU на базе huizimao/gpt-oss-20b-uncensored-bf16. Она предназначена для диалогов, общего решения задач, рассуждений, мозгового штурма, генерации текста и кода, включая программирование. Модель ориентирована на более свободную генерацию контента с меньшим количеством отказов, чем исходная версия OpenAI, однако не является полностью abliterate и в некоторых случаях требует более подробных инструкций. Заявлены архитектура Mixture of Experts с 24 экспертами, размер около 20B параметров, поддержка контекста до 128K токенов и английского языка. Распространяется в формате GGUF с вариантами квантования IQ4_NL, Q5_1 и Q8_0, включая версии с одной, двумя или тремя Imatrix-матрицами NEO, NeoCODE и Horror. По утверждению автора, NEO-, DI- и TRI-Matrix-варианты могут улучшать качество, стабильность и креативность, а производительность на совместимом оборудовании может достигать более 80 токенов в секунду. К сильным сторонам относятся широкий набор сценариев, генерация кода, творческие задачи и относительно низкая склонность к отказам. Ограничения включают возможную нестабильность отдельных генераций, зависимость результата от температуры, repetition penalty, числа экспертов и длины промпта, а также необходимость дополнительных указаний для получения выраженной ненормативной, графичной или сексуальной лексики. Модель лицензирована по Apache-2.0; конкретные требования к аппаратному обеспечению в README не указаны.

Open-Instruct GPT-4 Alpaca 13B — языковая модель семейства LLaMA с 12,9 млрд параметров, разработанная командой AllenAI. Она дообучена на наборе GPT-4 Alpaca для следования инструкциям и генерации текста. Модель предназначена для диалоговых запросов, ответов на вопросы, рассуждений и других задач, задаваемых в текстовом формате; для результатов, соответствующих обучению, следует использовать предусмотренный формат инструкций. Контекст модели — 2048 токенов. В README приведены результаты оценки на наборах задач общего назначения, включая MMLU, GSM, BBH и Codex-Eval. Репозиторий содержит разницу весов, поэтому для использования требуется доступ к исходной модели LLaMA в формате Hugging Face и её объединение с этой разницей. Условия использования определяются лицензией AI model license вместе с исходной лицензией LLaMA.

Карточка модели schwyzquants/OpenThinker-32B на Hugging Face совпадает с карточкой trinityomnis/OpenThinker-32B, поэтому описание составлено по ней. OpenThinker-32B — плотная языковая модель на 32 млрд параметров, созданная дообучением Qwen/Qwen2.5-32B-Instruct командой OpenThoughts на наборе OpenThoughts-114k. Она предназначена для генерации текста в диалоге и задач, где требуется пошаговое рассуждение, включая математику, научные вопросы и программирование. Модель поддерживает контекст до 32 768 токенов; для работы доступны веса в формате Safetensors и интерфейс вызова инструментов. В README приведены результаты оценки на наборах математических и научных задач, но они не гарантируют аналогичного качества на других данных. Обучающие примеры получены с помощью дистилляции DeepSeek-R1, поэтому ответы могут содержать ошибки или необоснованные рассуждения. Модель распространяется по лицензии Apache 2.0.

jc-builds/Qwen3.5-4B-Q4_K_M-GGUF — это 4-битная квантованная версия базовой модели Qwen/Qwen3.5-4B, разработанной Alibaba Cloud. Квантование Q4_K_M и упаковка в формат GGUF выполнены для запуска на устройствах пользователя, в частности на iPhone, iPad и компьютерах Mac с Apple Silicon, через llama.cpp. Модель распространяется по лицензии Apache 2.0. Модель предназначена для генерации текста, рассуждений, программирования, следования инструкциям и использования инструментов. Она поддерживает режим reasoning с тегами <think> и ChatML-формат запросов. В README заявлены мультимодальные возможности с ранним объединением зрительных данных, однако vision encoder предоставляется отдельно. Указана поддержка 201 языка и диалекта, включая английский, китайский, японский, корейский, русский и другие языки. Архитектура представляет собой гибрид Gated DeltaNet и полноразмерного softmax-внимания в соотношении 3:1: из 32 слоёв восемь блоков содержат по три слоя DeltaNet и одному attention-слою. Модель имеет около 4 миллиардов параметров, размер файла составляет примерно 2,6 ГБ, а нативное контекстное окно — 262 144 токена; для расширения контекста заявлена совместимость с YaRN. Гибридная архитектура рассчитана на снижение потребления памяти, что делает модель подходящей для локального и мобильного вывода. Ограничениями являются потеря точности из-за 4-битного квантования, высокие требования к оперативной памяти для длинного контекста и то, что заявленные мультимодальные функции требуют отдельного vision encoder.

Qwen3.6-14B-A3B-FableVibes-GGUF — модель tvall43 на базе Qwen3.6-14B-A3B-FableVibes, представленная в формате GGUF для запуска на локальном оборудовании. Это обобщённая модель рассуждений, дообученная на трассах рассуждений Claude Fable 5 и дополненная данными Claude Opus, Qwen для tool calling и Evol-Instruct-Code. Модель предназначена для генерации текста, решения сложных задач с многошаговым рассуждением, программирования и сценариев, связанных с вызовом инструментов. Она использует архитектуру MoE с примерно 14B активных параметров после pruning исходной модели Qwen3.6-35B-A3B. Поддерживается мультимодальный режим через файлы mmproj, однако конкретные характеристики контекстного окна и полный перечень поддерживаемых языков не указаны. Модель ориентирована на англоязычные сценарии. К сильным сторонам относятся структурированное рассуждение, улучшенные способности к работе со сложными задачами и возможность запуска на потребительском оборудовании благодаря нескольким вариантам квантования: от F16 до Q2_K. Модель поддерживает llama.cpp и совместимые интерфейсы, включая LM Studio, Ollama и text-generation-webui. Ограничениями являются повышенная задержка до первого токена из-за режима thinking, значительный расход токенов на рассуждение и возможное снижение качества в сильно сжатых вариантах квантования. Распространяется по лицензии Apache-2.0.