II.3Рефакторинг, миграция и модернизация

Dolphin-2.9.1-Phi-3-Kensho-4.5B-abliterated-v3 — разговорная языковая модель, созданная Eric Hartford, Lucas Atkins, Fernando Fernandes и сообществом Cognitive Computations; uncensored-настройку выполнил FailSpy. Модель основана на Phi-3-Mini-Instruct-4k в Mistral-совместимой архитектуре и дообучена методом qLoRA на данных для инструкций, диалогов, программирования, математики и вызова функций. Веса также изменены для ослабления отказов на запросы. Модель предназначена для ответов на инструкции, диалогов, помощи с кодом и математическими задачами, а также для начального использования в агентных сценариях и вызова функций. Она принимает текст и генерирует текст, использует шаблон ChatML и имеет контекст 4096 токенов. В репозитории доступны веса Safetensors; при использовании адаптера его следует подключать к базовой модели Unsloth Phi-3-mini-4k-instruct. В метаданных указано 6,4 млрд параметров. Модель ориентирована на английский язык. Ослабленная фильтрация отказов повышает соответствие запросам, поэтому перед предоставлением модели пользователям разработчики рекомендуют добавить собственный уровень ограничений. Лицензия MIT разрешает коммерческое использование; в README также отмечено, что при обучении использовались данные, сгенерированные GPT-4.

mlx-community/dolphin-2.9-llama3-70b-4bit — квантизированная 4-битная версия модели Dolphin 2.9 на базе Llama 3, преобразованная сообществом mlx-community в формат MLX с использованием mlx-lm 0.11.0. Исходная модель разработана cognitivecomputations. Модель содержит около 69,5 млрд параметров и предназначена для запуска и генерации текста в экосистеме MLX на совместимом оборудовании Apple. Модель ориентирована на англоязычные диалоговые и инструкционные сценарии, включая ответы на вопросы, помощь с программированием, математическими задачами, работу с инструкциями и вызовами функций. Максимальная длина контекста составляет 8192 токена. В метаданных указана лицензия Llama 3.

Fireball-Meta-Llama-3.1-8B-Instruct-Agent-0.003-128K-code-ds-auto-GGUF — это GGUF-квантизация инструкционной языковой модели Fireball-Meta-Llama-3.1-8B-Instruct-Agent-0.003-128K-code-ds-auto, разработанной EpistemeAI. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, работы с инструкциями и задач, связанных с программным кодом; запуск возможен, в частности, через LM Studio. В README указан английский язык и лицензия Apache-2.0. Модель основана на архитектуре Meta Llama 3.1 с размером 8B параметров и заявленным контекстом 128K токенов. Репозиторий содержит варианты от исходных весов F16 размером 16,07 ГБ до квантизаций Q8_0, Q6_K_L, Q6_K, Q5_K_L и других, что позволяет выбирать баланс между качеством и требованиями к памяти. Варианты Q6_K и Q6_K_L отмечены как рекомендуемые и обеспечивающие очень высокое качество. Поддерживается только текстовая модальность. Сильными сторонами являются большой контекст, инструкционная настройка, специализация исходной модели на агентских и кодовых сценариях, а также широкий выбор GGUF-квантизаций для локального запуска. Ограничения включают зависимость качества и требований к ресурсам от выбранного уровня квантизации; приведённые результаты бенчмарков показывают неоднородную производительность на задачах рассуждения, математики и общих знаний. README не содержит подробностей о методике обучения и дополнительных языках.

davidsyoung/GLM-5.3-EXL3-TR3-3.25bpw — квантизированная версия GLM-5.3 от zai-org, подготовленная в формате EXL3/TR3 с использованием смешанной точности. В основе лежит MoE-модель GLM-5.3 объёмом 755 млрд параметров с архитектурой glm_moe_dsa: 78 слоёв и 256 маршрутизируемых экспертов на слой, включая MTP. Модель предназначена для генерации текста, сложного программирования и задач с длинной цепочкой рассуждений. Заявлены английский и китайский языки, а также поддержка библиотеки Transformers на уровне метаданных модели. Маршрутизируемые эксперты в слоях 3–78 квантизированы методом EXL3 с усреднённой точностью 3,25 бит на параметр: 192 эксперта на слой используют K3, а 64 наиболее чувствительных к ошибке — K4. Внимание, эмбеддинги, нормализации, lm_head и ранние плотные MLP сохранены в BF16; shared experts хранятся в BF16 и обслуживаются с online K6. Квантизация выполнена без калибровочных данных, с использованием trellis-поиска и детерминированных параметров. По измерениям README, отклонение от BF16-учителя при FP8 KV-кэше составило KLD 0,026103 на проверочных окнах. Главное преимущество — существенное снижение требований к памяти: модель рассчитана на запуск в конфигурации TP4 на четырёх GPU с 96 ГБ памяти и FP8 KV-кэшем, что делает крупную GLM-5.3 доступнее для локального сервинга. Ограничения связаны с нестандартным форматом: требуется стек на базе exllamav3-b12x или sparkinfer-lineage, поддерживающий смешанные projection tiers, TP4, DCP4/MTP3 и FP8 KV-кэш. Стандартный загрузчик vanilla exllamav3 несовместим и может выдавать некорректный текст; README также не указывает максимальную длину контекста. Лицензия обозначена как glm-5.3; подробные условия приведены по ссылке на лицензию базовой модели.

Hugo-7B-slerp — диалоговая языковая модель на архитектуре Mistral, созданная paulilioaica слиянием методом SLERP моделей Mistral-7B-Instruct-v0.2 и CodeNinja-1.0-OpenChat-7B с помощью mergekit. Она предназначена для генерации текста и ответов на инструкции в диалоговом формате; объединяет возможности исходных моделей, включая общие диалоговые задачи и работу с кодом. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В README приведены результаты оценок на ARC, HellaSwag, MMLU, TruthfulQA, Winogrande и GSM8K, но они не гарантируют аналогичное качество на других задачах. Языковая поддержка и специализированные области применения в карточке не перечислены. Модель распространяется по лицензии Apache-2.0.

Enigma — модель для генерации кода и диалогов, созданная Valiant Labs на основе Meta Llama 3.1 8B Instruct. Это плотная причинная языковая модель семейства Llama с 7,5 млрд параметров и контекстом до 131 072 токенов, предназначенная для работы в формате инструкций и чата Llama 3.1. Модель дообучена на синтетических данных для инструкций по программированию, сгенерированных Llama 3.1 405B, а также на общих диалоговых данных. Enigma подходит для генерации и объяснения кода, помощи с Python и ответов на общие вопросы в чате. Карточка заявляет усиленные возможности code-instruct и сохранение общих диалоговых навыков; метаданные также указывают поддержку следования инструкциям и интерфейс вызова инструментов. Модель работает с текстом и ориентирована на английский язык. Для использования применяется лицензия Llama 3.1; условия лицензии следует учитывать при распространении и коммерческом применении.

QuantFactory/Llama-3-8b-64k-PoSE-GGUF — квантованная версия модели winglian/Llama-3-8b-64k-PoSE, созданная с помощью llama.cpp на основе Llama 3 8B, разработанной Meta. Модель предназначена для генерации текста и кода, включая задачи обработки длинных текстов, где требуется контекст до 64 тысяч токенов. Вход и выход — только текст; заявленный язык — английский. Это авторегрессионная языковая модель на оптимизированной архитектуре Transformer с 8 млрд параметров и Grouped-Query Attention. Исходная модель использует PoSE для расширения контекста Llama с 8k до 64k токенов при rope_theta 500000. После дополнительного обучения rope_theta был установлен в 2M, что потенциально позволяет работать с контекстом свыше 64k, однако фактические пределы и качество за пределами 64k не подтверждены. Для продолжительного предварительного обучения использовались 300 млн токенов RedPajama V1 с последовательностями длиной 6–8k и rank-stabilized LoRA ранга 256. Сильной стороной модели является поддержка значительно более длинного контекста по сравнению с исходной Llama 3 8B при сравнительно небольшом размере, а GGUF-квантизация рассчитана на использование с llama.cpp. Ограничения включают преимущественно англоязычную область применения, отсутствие мультимодальности и неопределённость качества на очень больших контекстах. Модель основана на Llama 3, для которой указана коммерческая лицензия Meta Llama 3; условия использования должны соответствовать этой лицензии и Acceptable Use Policy.

MiMo-Negentropy-9B-AGSI — плотная модель семейства Qwen3.5 примерно на 9 млрд параметров, созданная слиянием MiMo-V2.6-Distill-Qwen-9B от Xiaomi MiMo и Negentropy-claude-opus-4.7-9B от Jackrong. В README слияние названо AGSI Pipelined Fusion и описано как адаптивная спектральная интерполяция весов с защитой от конфликтов параметров. Модель предназначена для диалоговых и агентных сценариев, включая программирование, рассуждения и работу с терминалом. Метаданные указывают поддержку английского и китайского языков; репозиторий содержит веса в формате safetensors. Лицензия — MIT. Это текстовая генеративная модель с возможностью чата. Карточка не приводит результатов сравнительной оценки и не подтверждает практические гарантии качества; мультимодальные возможности базовой модели не следует автоматически считать возможностями этой версии.

MiniCPM5-2B-etheroi — компактная языковая модель из серии MiniCPM5, представленная в карточке MiniCPM5-2B. Это плотная причинная Transformer-модель с архитектурой LlamaForCausalLM и примерно 2,2 млрд параметров. Она предназначена для локальных помощников, программных агентов и сценариев, где важны небольшие требования к ресурсам и длинный контекст. Модель генерирует текст и поддерживает контекст до 131 072 токенов. В карточке отмечены навыки программирования, математики, понимания длинного контекста, следования инструкциям и работы с инструментами; метаданные также указывают разговорный сценарий. Модель рассчитана на английский и китайский языки и доступна в формате safetensors для Transformers; README описывает локальный запуск на GPU и CPU и серверный запуск через vLLM и SGLang. Модель выпущена под лицензией Apache-2.0. Ответы могут быть неточными, предвзятыми или оскорбительными; выводы по медицине, финансам, праву и политике не проверены экспертами и не являются профессиональной консультацией. README не указывает отдельную базовую модель для этой версии.

JANGQ-AI выпускает JANG_6M — квантованный вариант Mistral Small 4 от Mistral AI, подготовленный Jinho Jang для запуска через MLX на компьютерах Apple с большим объёмом памяти. Это модель семейства Mistral3 с архитектурой MoE: 119 млрд параметров всего и около 6 млрд активных на токен; в README указаны 36 слоёв, 128 экспертов с выбором четырёх, MLA-внимание и квантование JANG с точностью 6,04 бита. Для вычислений используется bfloat16. Модель предназначена для диалогов, рассуждений, генерации кода и математических решений, а также анализа изображений через визуальный энкодер Pixtral с заявленным пределом 1540 пикселей. В README заявлены режим рассуждений с маркерами [THINK] и управление reasoning_effort. Указаны размер файлов 84 ГБ, пиковое потребление памяти 95 ГБ и скорость генерации 74 токена в секунду на M3 Ultra; эти показатели относятся к описанной конфигурации тестирования. Карточка называет MLX Studio приложением с полной поддержкой, а также упоминает поддержку oMLX. Лицензия — Apache-2.0. Метаданные связывают модель с базовой Mistral-Small-4-119B-2603 как дообучение, хотя README описывает прежде всего квантование; поэтому происхождение отражено по метаданным, а детали обучения в карточке не раскрыты.

Muse-Glimmer-30B-heretic — модифицированная версия мультимодальной модели Meta Muse-Glimmer-30B, подготовленная richardyoung с помощью воспроизводимого запуска Heretic. Это плотный трансформер с энкодером восприятия и примерно 29,6 млрд параметров: модель принимает текст и изображения и поддерживает диалог, управляемое рассуждение и вызов инструментов. Abliteration изменяет веса, ослабляя отказы модели без повторного обучения; в README указано, что выбран один из 200 вариантов с меньшим числом отказов при ограниченном отклонении от исходной модели. Модель предназначена для локальных агентов и сценариев, где нужно анализировать изображения вместе с текстом, планировать шаги, вызывать инструменты, писать и отлаживать код, создавать синтетические данные или оценивать ответы других моделей. Она может соглашаться на запросы, от которых исходная модель отказывается, поэтому ответы могут быть неточными, предвзятыми или нежелательными; многошаговое рассуждение ошибается, а качество на языках вне основного набора может снижаться. Видео не является целевой модальностью, аудио не поддерживается. Веса распространяются по Apache-2.0; README также указывает на политику использования исходной модели Meta, требования которой следует учитывать.

OpenAi-GPT-oss-20b-MODERATE-uncensored-NEO-Imatrix-gguf — текстовая generative-модель, разработанная DavidAU на базе huizimao/gpt-oss-20b-uncensored-bf16. Она предназначена для диалогов, общего решения задач, рассуждений, мозгового штурма, генерации текста и кода, включая программирование. Модель ориентирована на более свободную генерацию контента с меньшим количеством отказов, чем исходная версия OpenAI, однако не является полностью abliterate и в некоторых случаях требует более подробных инструкций. Заявлены архитектура Mixture of Experts с 24 экспертами, размер около 20B параметров, поддержка контекста до 128K токенов и английского языка. Распространяется в формате GGUF с вариантами квантования IQ4_NL, Q5_1 и Q8_0, включая версии с одной, двумя или тремя Imatrix-матрицами NEO, NeoCODE и Horror. По утверждению автора, NEO-, DI- и TRI-Matrix-варианты могут улучшать качество, стабильность и креативность, а производительность на совместимом оборудовании может достигать более 80 токенов в секунду. К сильным сторонам относятся широкий набор сценариев, генерация кода, творческие задачи и относительно низкая склонность к отказам. Ограничения включают возможную нестабильность отдельных генераций, зависимость результата от температуры, repetition penalty, числа экспертов и длины промпта, а также необходимость дополнительных указаний для получения выраженной ненормативной, графичной или сексуальной лексики. Модель лицензирована по Apache-2.0; конкретные требования к аппаратному обеспечению в README не указаны.

Карточка модели Justbackup/phi-4 на Hugging Face совпадает с карточкой microsoft/phi-4, поэтому описание составлено по ней. Phi-4 — языковая модель Microsoft Research с плотной архитектурой декодерного Transformer и 14,1 млрд параметров. Она принимает текстовые запросы, лучше всего в формате чата, и генерирует текст; длина контекста составляет 16 тысяч токенов. Модель доступна в формате Safetensors и распространяется по лицензии MIT. Модель предназначена для англоязычных сценариев общего назначения, особенно для рассуждений, логики, математики, программирования и следования инструкциям в условиях ограничений по памяти, вычислениям или задержке. При обучении использовались отфильтрованные общедоступные материалы, учебные и синтетические данные, академические книги, наборы вопросов и ответов, а также данные для настройки диалогов. Модель прошла supervised fine-tuning и direct preference optimization; около 8% обучающих данных были многоязычными. Phi-4 может служить компонентом генеративных ИИ-приложений и компактной альтернативой более крупным моделям для ряда задач рассуждения. Это статическая модель со срезом знаний по июнь 2024 года; ответы могут быть неточными, а качество и безопасность следует оценивать для конкретного применения, особенно в высокорисковых сценариях. Карточка указывает на основной фокус на английском языке.

Phi-4 — языковая модель Microsoft Research с плотной архитектурой декодерного Transformer и 14,1 млрд параметров. Она принимает текстовые запросы, лучше всего в формате чата, и генерирует текст; длина контекста составляет 16 тысяч токенов. Модель доступна в формате Safetensors и распространяется по лицензии MIT. Модель предназначена для англоязычных сценариев общего назначения, особенно для рассуждений, логики, математики, программирования и следования инструкциям в условиях ограничений по памяти, вычислениям или задержке. При обучении использовались отфильтрованные общедоступные материалы, учебные и синтетические данные, академические книги, наборы вопросов и ответов, а также данные для настройки диалогов. Модель прошла supervised fine-tuning и direct preference optimization; около 8% обучающих данных были многоязычными. Phi-4 может служить компонентом генеративных ИИ-приложений и компактной альтернативой более крупным моделям для ряда задач рассуждения. Это статическая модель со срезом знаний по июнь 2024 года; ответы могут быть неточными, а качество и безопасность следует оценивать для конкретного применения, особенно в высокорисковых сценариях. Карточка указывает на основной фокус на английском языке.

Pink Elephant 48B-S GGUF — языковая модель для генерации текста, разработанная Pink Elephant Limited. Это локально запускаемая версия модели, преобразованная в формат GGUF и предназначенная для работы через Ollama и llama.cpp на потребительском оборудовании. Модель построена как разреженная Mixture-of-Experts архитектура с 47,7 млрд параметров, из которых на каждом токене активируется около 14,66 млрд. Используется 8 экспертов с маршрутизацией top-2, что, согласно README, обеспечивает примерно в 3,2 раза меньше вычислений по сравнению с плотной моделью аналогичного размера. Модель происходит от плотной 14B основы, дообученной на примерах программирования и математики, а затем прошла SFT и DPO-выравнивание. Указаны английский язык и контекст до 16 384 токенов. Доступна квантизованная версия Q4_K_M размером около 8,3 ГБ. Модель ориентирована на генерацию текста, помощь в программировании, математические задачи и локальное развертывание на одной потребительской видеокарте. Среди заявленных результатов — 68,5% на GSM8K и 60,0% на MMLU в конфигурации bf16; эти показатели получены разработчиками на одной NVIDIA RTX PRO 6000 Blackwell и могут зависеть от настроек запуска. К сильным сторонам относятся сочетание большой общей емкости, разреженных вычислений, локального использования и выравнивания SFT+DPO. Ограничения включают зависимость качества и скорости от аппаратного обеспечения, квантизации и корректного шаблона ChatML, а также отсутствие в README сведений о мультимодальности и поддержке других языков. Модель распространяется по лицензии MIT, допускающей коммерческое и исследовательское использование.

Qwen3.6-14B-A3B-FableVibes-GGUF — модель tvall43 на базе Qwen3.6-14B-A3B-FableVibes, представленная в формате GGUF для запуска на локальном оборудовании. Это обобщённая модель рассуждений, дообученная на трассах рассуждений Claude Fable 5 и дополненная данными Claude Opus, Qwen для tool calling и Evol-Instruct-Code. Модель предназначена для генерации текста, решения сложных задач с многошаговым рассуждением, программирования и сценариев, связанных с вызовом инструментов. Она использует архитектуру MoE с примерно 14B активных параметров после pruning исходной модели Qwen3.6-35B-A3B. Поддерживается мультимодальный режим через файлы mmproj, однако конкретные характеристики контекстного окна и полный перечень поддерживаемых языков не указаны. Модель ориентирована на англоязычные сценарии. К сильным сторонам относятся структурированное рассуждение, улучшенные способности к работе со сложными задачами и возможность запуска на потребительском оборудовании благодаря нескольким вариантам квантования: от F16 до Q2_K. Модель поддерживает llama.cpp и совместимые интерфейсы, включая LM Studio, Ollama и text-generation-webui. Ограничениями являются повышенная задержка до первого токена из-за режима thinking, значительный расход токенов на рассуждение и возможное снижение качества в сильно сжатых вариантах квантования. Распространяется по лицензии Apache-2.0.

Qwen3.6-40B-Fable-Fusion-6-Core-Deckard-Eleanor-Heretic-Uncensored-W4A16-AutoRound — это 40-миллиардная языковая модель для генерации текста, кода, рассуждений и творческих ответов. Она основана на модели DavidAU Qwen3.6-40B-Fable-Fusion-6-Core-Deckard-Eleanor-Heretic-Uncensored и квантизирована с помощью Intel AutoRound. Заявлены языки английский, китайский, русский, украинский, греческий и иврит; модель поддерживает текстовую генерацию и визуальную башню, однако подробности мультимодального применения в README не описаны. Используется схема W4A16: 4-битные веса и 16-битные активации, размер группы 64, симметричная квантизация. Размер модели составляет около 38 ГБ против примерно 80 ГБ в BF16. Архитектура гибридная: 72 слоя линейного внимания Gated DeltaNet с Mamba SSM и 24 слоя полного внимания; сохранены MTP-компоненты для многотокенного предсказания и speculative decoding. Для запуска рекомендуются vLLM или SGLang, при этом в примерах указан контекст до 32768 токенов. Для квантизации использовалась длина последовательности 2048. По данным README, модель ориентирована на программирование, математические и логические задачи, рассуждения, длинные ответы и творческое письмо, включая русскоязычные тексты. Заявлены скорость около 35–47 токенов в секунду, рабочий MTP=3 в vLLM и возможность запуска на нескольких GPU, например двух ускорителях по 24 ГБ. Ограничения включают высокие требования к памяти, необходимость много-GPU конфигурации для комфортной работы, зависимость производительности от контекста и принятия MTP-токенов, а также обязательный batch size 1 при квантизации из-за особенностей гибридного внимания. Для SGLang MTP не работает при pipeline parallelism с PP=3. Лицензия модели наследуется от базовой модели; для AutoRound в README указана Apache-2.0. Отдельная лицензия базовой модели явно не приведена, поэтому условия коммерческого и иного использования следует уточнять в её репозитории.

Ring-flash-2.0 — разговорная языковая модель с архитектурой MoE, разработанная InclusionAI на основе Ling-flash-2.0-base. Она предназначена для сложных рассуждений, включая решение математических задач, генерацию кода и логический анализ, а также для научных и медицинских вопросов и творческого письма. Модель обучалась в несколько этапов с SFT, обучением с проверяемыми наградами и RLHF; README также описывает алгоритм icepop для повышения стабильности длительного обучения с подкреплением для MoE-моделей. В метаданных указано 5,5 млрд параметров, а README сообщает о 100 млрд параметров всего и 6,1 млрд активных при генерации. Архитектура включает разреженную активацию экспертов и слои MTP. Контекст — до 32 768 токенов. Модель принимает текст и генерирует текст; основное назначение — диалоговое текстовое взаимодействие. Заявленные авторами сильные стороны — эффективность инференса и результаты в задачах рассуждения; эти оценки основаны на описании модели и приведённых там сравнениях. Модель доступна по лицензии MIT. Для запуска README описывает использование Transformers и vLLM, причём для vLLM на момент карточки требовалась специальная подготовка окружения. Поддерживаемые естественные языки в предоставленных источниках не перечислены.

SuperGemma-4-12b-abliterated — дообученный инструкционный чекпойнт на 12 млрд параметров, созданный на основе google/gemma-4-12B-it. Разработчик объединил обработку направления отказов в весовом пространстве с дополнительным постобучением для следования инструкциям, программирования, технических ответов на корейском языке, форматирования JSON и вызовов инструментов. Модель распространяется как единый чекпойнт без необходимости подключать адаптер во время работы. Модель предназначена для диалогов, выполнения инструкций и генерации кода. README описывает снижение лишних отказов и приводит результаты внутренних и публичных проверок, однако они не гарантируют качество на других запросах. В метаданных также заявлена мультимодальная архитектура семейства Gemma 4 с возможностью работы с изображениями, видео и аудио у базовой модели; явное подтверждение этих входов для данного чекпойнта в README отсутствует. Модель загружается через Transformers, веса опубликованы в формате safetensors. Лицензия — Apache-2.0. Карточка указывает английский и корейский языки; дополнительное постобучение особенно ориентировано на технические ответы на корейском.

AM-Thinking-v1 — плотная языковая модель на 32 млрд параметров от a-m-team, предназначенная для рассуждений, открытого диалога, решения математических задач и генерации кода. Она построена на Qwen 2.5 32B Base и дообучена с помощью SFT и двухэтапного обучения с подкреплением GRPO. Архитектура — Qwen2, модель использует Transformers и формат safetensors; заявленная длина контекста — 131 072 токена. Модель рассчитана на сценарии, где нужны развёрнутые рассуждения и генерация текста или программного кода. По данным разработчика, она показывает высокие результаты на математических и кодовых тестах и может запускаться на одном ускорителе A100 с 80 ГБ памяти. Карточка также описывает чат-возможности, но предупреждает, что модель не обучена для структурированного вызова функций и рабочих процессов с инструментами. Разработчик — a-m-team. Лицензия — Apache-2.0. Разработчик отмечает, что следование сложным инструкциям требует улучшения, а защитное выравнивание находится на ранней стадии; для стабильного качества рекомендуется использовать системный промпт, сохранённый в конфигурации токенизатора.

AREX-2 — мультимодальная модель на 27 млрд параметров, разработанная Пекинской академией искусственного интеллекта (BAAI) на основе Qwen/Qwen3.8-27B. Это плотная архитектура, совместимая с Qwen3.8; модель принимает текст и изображения и рассчитана на контекст до 262 144 токенов. Она предназначена для длительного итеративного решения задач: предлагает решение, анализирует оценки, логи, ошибки и время выполнения, а затем пересматривает результат. Обучение охватывает задачи машинного обучения и алгоритмического программирования с проверяемой обратной связью, а также данные для глубоких исследований; заявлен перенос навыка самоулучшения на сценарии deep research. Модель применима для программирования, инженерии машинного обучения, многошаговых рассуждений и агентных сценариев с инструментами. Лицензия — Apache 2.0. Карточка предназначает модель для исследований и не приводит количественных результатов оценки в доступном тексте; для работы требуется актуальная версия Transformers с поддержкой Qwen3.8.

CodeGemma 7B IT — инструкция-дообученная модель для кода, разработанная Google на основе Gemma. Это декодерная языковая модель с 7 млрд параметров, принимающая текстовые запросы и генерирующая код или текст. Она предназначена для ответов на вопросы о коде, генерации программ по описанию на естественном языке и диалогов о программировании и технических задачах. Модель подходит для разговорных помощников по программированию, обучения и практики написания кода, а также для исправления синтаксиса и генерации кода в IDE. Для автодополнения кода в редакторе Google рекомендует предварительно обученные варианты CodeGemma, а не эту инструкционную версию. Модель работает через Transformers и поставляется в формате safetensors; для диалога следует применять шаблон чата из токенизатора. Обучающие данные включают преимущественно англоязычные публичные репозитории кода, открытые математические наборы данных и синтетически созданный код. Модель может ошибаться, поскольку наследует общие ограничения больших языковых моделей и ограничения, описанные для Gemma. Лицензия — Gemma; использование регулируется условиями Google.

cyberneurova-Qwen3.8-27B-GGUF — набор квантизированных сборок модели cyberneurova-Qwen3.8-27B, разработанной cyberneurova. Модель предназначена для локального запуска в llama.cpp, Ollama, LM Studio, Jan и других средах, поддерживающих формат GGUF, и относится к задачам генерации текста. Модель имеет размер 27B параметров и доступна в вариантах квантизации от Q2_K до Q8_0 объёмом примерно от 10 до 29 ГБ. Рекомендуется вариант Q4_K_M как компромисс между качеством и требованиями к памяти. Заявлена мультимодальность: для обработки изображений требуется отдельный vision projector mmproj-F16.gguf объёмом около 0,9 ГБ. В README приведён пример контекста 8192 токена, однако максимальный размер контекста явно не указан. Языки не заявлены. К сильным сторонам относятся локальный запуск, несколько уровней квантизации, поддержка изображений и заявленный результат базовой модели 11 из 12 на исполняемом бенчмарке программирования. Ограничения включают зависимость качества и требований к памяти от выбранной квантизации, необходимость дополнительного проектора для работы с изображениями и наличие сокращённых встроенных отказов; пользователь несёт ответственность за применение модели и соблюдение законодательства. Модель распространяется по лицензии Apache-2.0.

Dans-PersonalityEngine-V1.3.0-24b — языковая модель PocketDoc, дообученная на базе mistralai/Mistral-Small-3.1-24B-Base-2503. Это плотная авторегрессионная модель семейства Mistral с 23,4 млрд параметров, рассчитанная на генерацию текста и диалог в формате DanChat-2. Контекстное окно составляет 131 072 токена; автор указывает, что при длине свыше 32 768 токенов качество извлечения информации снижается. Модель предназначена для ролевых диалогов, совместного написания прозы и историй, генерации кода, вызова инструментов и решения сложных задач. Она дообучалась на более чем 50 специализированных наборах данных; основной язык — английский, также заявлена поддержка арабского, китайского, французского, немецкого, хинди, японского, корейского, португальского и испанского. В метаданных среди возможностей отмечены чат и код. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Автор сообщает о тренировке с помощью Axolotl на восьми GPU H100 в течение 50 часов. Качество ожидается наивысшим для английского языка; для контекста длиннее 32 768 токенов автор предупреждает о снижении точности извлечения информации.

Myric/GLM-4.7-Flash-APEX-GGUF — это GGUF-квантизованная версия GLM-4.7-Flash от zai-org, подготовленная в репозитории Myric для запуска через llama.cpp. Модель предназначена прежде всего для генерации текста, агентного программирования и сценариев, где важны локальный запуск и поддержка спекулятивного декодирования. Доступны варианты APEX-i-quality размером 16,60 ГБ, APEX-i-compact размером 13,27 ГБ и APEX-i-mini размером 10,24 ГБ; все они сохраняют MTP draft head. Модель использует MoE-архитектуру с 31,2 млрд общих параметров и примерно 3,6 млрд активных на токен: 64 маршрутизируемых эксперта с выбором top-4 и один общий эксперт. Архитектура основана на DeepSeek и использует MLA-внимание, 47 основных слоёв плюс один MTP-слой, а также контекст до 202 752 токенов. Квантизация выполнена из bf16-чекпойнта с использованием imatrix и смешанной точности: наиболее важные компоненты сохраняются на уровне около 6,4–6,9 бит на вес, а основная компрессия приходится на маршрутизируемые эксперты. В агентном бенчмарке программирования варианты i-quality и i-compact набрали по 53 из 59 тестов, тогда как i-mini — 38 из 59; это показывает, что младшая версия заметно слабее на длинных композиционных задачах. i-quality обеспечивает лучший баланс качества и размера, а i-compact почти не уступает ему на измеренном сценарии. Для загрузки требуется llama.cpp версии b10251 или новее с поддержкой GLM-4.7-Flash MTP; старые версии могут не распознать число тензоров. Лицензия модели — MIT.

unsloth/GLM-4.7-Flash-NVFP4 — это версия модели GLM-4.7-Flash, подготовленная Unsloth в формате квантования NVFP4. Исходную модель разработала команда GLM компании Z.ai. Она предназначена для генерации текста, диалоговых приложений, программирования, решения задач рассуждения и агентских сценариев, где важны сочетание производительности и эффективности локального развертывания. Модель имеет MoE-архитектуру с заявленным размером 30B-A3B: 30 миллиардов параметров при активации примерно 3 миллиардов на отдельный запрос. В карточке указаны английский и китайский языки, поддержка библиотеки Transformers и запуск через vLLM или SGLang. Длина контекста и другие архитектурные характеристики не указаны. Мультимодальные возможности для этой версии не заявлены; в карточке она описана как text-generation модель. К сильным сторонам относятся компактная вычислительная нагрузка для класса 30B, возможность эффективного инференса на совместимом оборудовании и высокие результаты, заявленные для ряда тестов, включая AIME 25, GPQA, SWE-bench Verified и τ²-Bench. Ограничения связаны с использованием NVFP4-квантизации, требованиями к актуальным версиям программного обеспечения и поддержке соответствующих ядер; для запуска рекомендуются современные версии vLLM и специализированные компоненты NVIDIA. Карточка также предупреждает, что backend Marlin работает примерно вдвое медленнее. Лицензия модели указана как MIT. В карточке не приведены данные о длине контекста, требованиях к видеопамяти, качестве на русском языке и влиянии NVFP4-квантизации на точность, поэтому эти характеристики нельзя оценить по имеющейся информации.

GLM-4-9B — базовая плотная языковая модель семейства GLM-4, разработанная Zhipu AI. Репозиторий содержит версию с 8,8 млрд параметров в формате safetensors; она предназначена для генерации текста и служит базой для последующей настройки под диалоговые и другие задачи. Модель оценивалась на задачах семантики, математики, рассуждений, программирования и общих знаний. В карточке описана многоязычная поддержка, включая китайский и английский; метаданные также указывают эти языки. Контекст этой версии составляет 8192 токена. Упомянутые в README возможности вызова инструментов, веб-поиска и контекст до 128K относятся к GLM-4-9B-Chat, а не к данной базовой версии. Для работы с весами требуется transformers версии 4.46.0 или новее. Лицензия обозначена как other, поэтому условия использования следует сверить с лицензией репозитория. Модель не является мультимодальной: описание этой линейки отдельно выделяет GLM-4V-9B как визуальную модель.

Inkling-Small-GGUF — мультимодальная авторегрессионная модель, разработанная Thinking Machines и представленная в формате GGUF командой Unsloth. Модель принимает текст, изображения и аудио, а генерирует текст; она предназначена для разработчиков AI-приложений, включая агентные и tool-use системы, coding assistants, чат-ботов, retrieval-augmented generation, диалоговые и мультимодальные сценарии, а также для исследований, дообучения и интеграции в сторонние продукты. Архитектура представляет собой 42-слойный decoder-only Transformer с разреженным Mixture-of-Experts: всего 276 млрд параметров, из которых активны 12 млрд; для каждого токена выбираются 6 из 256 экспертов и используются 2 общих эксперта. Внимание сочетает локальные и глобальные слои. Изображения обрабатываются иерархическим patch-энкодером, аудио — дискретным токенизированным представлением, после чего все модальности проецируются в общее скрытое пространство. Поддерживаются числовые форматы BF16 и NVFP4; GGUF-вариант ориентирован на локальный запуск через совместимые инструменты. Для изображений рекомендуются размеры каждой стороны от 40 до 4096 пикселей, для аудио — WAV с частотой 16 кГц и длительностью желательно менее двух минут. Сильные стороны модели — сочетание текстовых, визуальных и аудиовходов, поддержка английского и общих мультиязычных сценариев, работы с кодом и широкого спектра прикладных задач. Ограничения включают текстовый формат вывода, рекомендуемые ограничения на входные изображения и аудио, а также отсутствие в представленных данных конкретного размера контекстного окна и подробных результатов оценивания. Модель распространяется под лицензией Apache-2.0.

PocketWeights Llama 3.1 8B Instruct abliterated GGUF — это квантизированная версия модели Meta-Llama-3.1-8B-Instruct-abliterated, разработанной huihui-ai на базе архитектуры Meta Llama 3.1. Модель распространяется в форматах GGUF с вариантами квантизации IQ3_M, Q4_K_M и Q6_K, что позволяет запускать её локально на потребительском оборудовании, включая видеокарты с 4–8 ГБ VRAM и компьютеры Apple Silicon. Модель предназначена для генерации текста, диалогов, ролевых сценариев, творческого письма, работы с кодом, анализа репозиториев, создания синтетических данных и исследовательских задач. Заявлена поддержка контекста до 128K токенов, благодаря чему она подходит для обработки длинных документов и многоходовых диалогов. Основной язык и полный набор поддерживаемых языков в README не указаны. К сильным сторонам относятся компактность, возможность автономного запуска, несколько уровней компромисса между качеством и требованиями к памяти, а также отсутствие стандартных отказов и ограничений, характерных для выровненных моделей. Это одновременно является существенным ограничением: модель лишена защитных механизмов, поэтому требует осторожного применения, особенно при работе с потенциально опасными запросами. Качество зависит от выбранного уровня квантизации. Модель распространяется по Meta Llama 3.1 Community License.

LLaMA-Pro-8B — плотная авторегрессионная языковая модель семейства LLaMA, разработанная лабораторией Tencent ARC. Она расширяет LLaMA2-7B дополнительными Transformer-блоками и дообучена на корпусах кода и математики общим объёмом 80 млрд токенов; размер модели в метаданных указан как 8,2 млрд параметров. Модель предназначена для генерации текста и сочетания общих языковых навыков со знаниями программирования и математики. Модель подходит для генерации и продолжения текста, помощи с кодом, решения математических задач и сценариев, где требуется работать с естественным и программным языком. Указанное в метаданных контекстное окно — 4096 токенов. Карточка приводит результаты сравнительных бенчмарков и отмечает возможные трудности на узкоспециализированных задачах, а также риск предвзятости. Репозиторий содержит веса PyTorch в формате Safetensors; лицензия — Llama 2 Community License.