II.4Отладка, тестирование и качество ПО

Qwen3-24B-A4B-Freedom-HQ-Thinking-Abliterated-Heretic-NEOMAX-Imatrix-GGUF — текстовая generative-модель, опубликованная пользователем fair322. Она собрана на базе шести моделей Qwen3 4B, включая варианты с дистилляцией рассуждений из Jan, Apollo, Claude, Gemini и Polaris Alpha, после применения метода Heretic для удаления или снижения ограничений на отказы. Модель распространяется в формате GGUF и предназначена для локального запуска и генерации текста. Модель рассчитана на широкий круг задач: программирование, математику, обучение, ответы на вопросы, написание художественных текстов, ролевые сценарии, фантастику, романтику, хоррор и материалы для взрослой аудитории. Заявлены режим полного рассуждения, сжатые планы перед ответом и контекст до 256K токенов. Архитектура представляет собой плотную Mixture of Experts из шести экспертов по 4B параметров; по умолчанию активен один эксперт, но можно задействовать от одного до шести, что соответствует заявленным уровням мощности от 4B до 24B параметров. Сильными сторонами являются большой контекст, масштабируемая вычислительная нагрузка, поддержка рассуждений, широкий спектр сценариев и сниженная склонность к отказам. Модель ориентирована преимущественно на английский язык. Ограничения включают возможную необходимость явно задавать желаемый уровень подробности, ненормативной лексики или содержания для получения нужного стиля, а также отсутствие гарантий безопасности и фильтрации: модель описана как uncensored и может генерировать потенциально чувствительный или неприемлемый контент. Указанная лицензия — Apache-2.0.

Atomic-Germ/Qwen3.8-27B-Heretic-MTP-GGUF — это многоэтапная дообученная и объединённая версия Qwen3.8 с 27 млрд параметров, распространяемая в формате GGUF. Модель основана на DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU и создана с использованием Unsloth, методов Cold Fusion и Fable Fusion 711. В репозитории представлены обычные и MTP-квантизации, включая варианты с 4- и 8-битной точностью и imatrix-оптимизацией. Модель предназначена для широкого круга сценариев: решения задач и рассуждений, программирования, творческого письма, генерации художественных текстов, ролевого взаимодействия и других универсальных применений. Заявлены поддержка английского и китайского языков, три режима работы с рассуждениями, а также акцент на сокращение объёма внутренних рассуждений и ускорение генерации при сохранении детализации ответов. Архитектура, точное окно контекста и наличие подтверждённой мультимодальности в README не указаны. К сильным сторонам относятся относительно высокая производительность на потребительском оборудовании, уменьшенное число токенов рассуждений, варианты для разного объёма памяти и ориентация на детализированные ответы. В README приводятся высокие результаты на ARC-C и ARC-E, однако это заявления автора и не являются независимо подтверждёнными характеристиками. Ограничения включают возможную зависимость качества от выбранной квантизации, отсутствие подробных данных о контекстном окне и неполную информацию о тестировании. Модель распространяется по лицензии Apache-2.0.

BoldingBuilds выпустила Ternary Bonsai 2 27B Abliterated PTQ1_0 GGUF — текстовую чат-модель на основе релиза PrismML Ternary Bonsai 2 27B в формате GGUF. Веса изменены непосредственно на троичной решётке: редактированы 98 тензоров, остальные 753, включая эмбеддинги и выходной слой, побайтно совпадают с базовой версией. Модель предназначена для генерации ответов в диалогах и заметно реже отказывает, в том числе на запросы, которые исходная модель отклоняет. В опубликованном сравнении с исходной PTQ1_0-версией доля оценённых отказов на SimpleSafetyTests снизилась с 83% до 0%, а переотказов на безопасных запросах XSTest — с 1,6% до 0%. Результаты MMLU почти не изменились; на HumanEval наблюдалось снижение на 3 процентных пункта, статистически незначимое в данном тесте. Модель принимает текст и генерирует текст; мультимодальные компоненты не включены. Для запуска требуется форк llama.cpp от PrismML: стандартный llama.cpp не загружает PTQ1_0. Лицензия — Apache-2.0.

Yuan2-2B-Februa-hf — компактная языковая модель IEIT System из семейства Yuan 2.0, представленная в архитектуре YuanForCausalLM с плотной структурой и примерно 1,9 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия; в карточке заявлено контекстное окно 8192 токена. Модель опирается на Yuan 1.0 и обучалась на расширенном наборе предварительно обучающих и инструкционных данных. Разработчик описывает её применение для понимания языка, математики, рассуждений, кода и общих знаний; в README приведены оценки на GSM8K, AGIEval-GK-Math, HumanEval и TruthfulQA для версий Yuan 2.0. Доступны веса PyTorch и указана лицензия other; README сообщает о коммерческом использовании по условиям лицензии Yuan 2.0 и Apache 2.0 для исходного кода репозитория. Модель может выдавать неточные ответы и поддаваться вводящим в заблуждение инструкциям. README также возлагает на пользователя ответственность за соблюдение условий лицензии и требований безопасности при развёртывании.

BlueLM-7B-Chat-4bits — 4-битная квантованная версия диалоговой языковой модели BlueLM, разработанной vivo AI Lab. Модель с плотной архитектурой BlueLM и примерно 6,9 млрд параметров предназначена для генерации текста в диалоге и ответов на запросы пользователя. В карточке указана длина контекста 2048 токенов. Модель обучалась преимущественно на китайских и английских данных; корпус также содержал небольшую долю японских и корейских текстов. В README заявлены результаты на тестах общих знаний, математики и программирования, включая C-Eval, MMLU, GSM8K и HumanEval. Лицензия обозначена как other; README сообщает, что веса BlueLM открыты для академических исследований и коммерческого использования.

ChatFrame V1 — диалоговая языковая модель AIFRAME INC, представленная как дообученная версия семейства Llama. Она предназначена для генерации ответов на персидском и английском языках и заявлена для решения математических задач, программирования, логических рассуждений, суммаризации и перевода между английским и персидским. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов; доступны веса в формате safetensors и интерфейс вызова инструментов. Модель подходит для чат-ботов, языковой помощи и задач, где нужны ответы или преобразование текста на персидском и английском. README заявляет высокое качество ответов, но не приводит результатов независимой оценки или сведений о конкретных обучающих наборах. Лицензия — MIT.

Damysus-Coder-v0.1 — языковая модель для генерации текста, разработанная prince-canuma на основе Mistral 7B Instruct v0.2. Она дообучена с использованием Unsloth и библиотеки TRL и предназначена для диалогового взаимодействия и генерации кода. Модель имеет плотную архитектуру MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. В метаданных указан английский язык. Модель распространяется в форматах PyTorch и Safetensors по лицензии Apache-2.0.

Gemma-2-2b-TitanFusion — разговорная языковая модель на архитектуре Gemma 2, созданная bunnycore с помощью mergekit. В README описано слияние методом Model Stock на базе IlyaGusev/gemma-2-2b-it-abliterated с несколькими моделями Gemma 2 и адаптерами, включая варианты для диалога, рассуждений и кода. Размер модели — 2,7 млрд параметров, контекст — до 8192 токенов; модель работает с текстом и поддерживает чат. Модель предназначена для генерации ответов в диалоге, следования инструкциям, рассуждений и помощи с кодом. Метаданные указывают англоязычную базовую модель. В README не приведены результаты оценки качества или подробности о поведении итогового слияния. Лицензия в доступных данных не указана.

Карточка модели Mimoniske/gemma-3-it-vl-40B-Gemini-Heretic-Uncensored-Thinking на Hugging Face совпадает с карточкой DavidAU/gemma-3-it-vl-40B-Gemini-Heretic-Uncensored-Thinking, поэтому описание составлено по ней. Это мультимодальная чат-модель DavidAU на архитектуре Gemma 3: исходную Gemma 3 27B IT-VL расширили до плотной модели на 40 млрд параметров, а затем дообучили с помощью Unsloth на наборе Gemini reasoning. По описанию автора, дообучение добавляет пошаговое рассуждение; модель также рассчитана на творческое письмо, ролевые сценарии, генерацию кода и работу с изображениями. Карточка заявляет контекст до 128K токенов и проверку обработки изображений и генерации кода. Модель принимает текст и изображения, отвечает текстом и ориентирована прежде всего на английский и китайский языки. Автор позиционирует её как модель с ослабленными ограничениями на генерируемый контент; ответы могут быть резкими, содержать ненормативную лексику или графические описания. В отдельных случаях модель может переключаться в режим инструкций; автор рекомендует явно просить её рассуждать, если это происходит. Распространяется по лицензии Apache-2.0.

gemma-4-12B-TNG-V8 — выпущенная Nightmedia дообученная версия мультимодальной модели Google Gemma 4 12B Instruct. Она предназначена прежде всего для помощи с backend-разработкой, проектированием и обучением LLM, а также программированием на Haskell, Rust, Go и Python. В обучении использовались созданные локально уроки, примеры трасс Claude Code и дистилляция ответов модели-учителя на части вопросов Polaris Alpha. Модель имеет плотную унифицированную архитектуру Gemma4Unified и распространяется в формате safetensors через Transformers. Базовая модель поддерживает работу с текстом, изображениями, видео и аудио, однако README описывает специализированные данные для программирования и не приводит подробностей об оценке этих возможностей именно у версии TNG-V8. Указана лицензия Apache 2.0. Карточка приводит результаты тестов и замеры для нескольких вариантов квантования, но не уточняет здесь длину контекста.

ice-AI-i1-GGUF — это набор квантованных вариантов модели ice-AI, разработанной darkps и преобразованной в формат GGUF пользователем mradermacher. Модель предназначена для генерации текста, диалогового взаимодействия и задач программирования; заявлена поддержка нескольких языков. Представлены файлы с различными уровнями квантования, поэтому модель можно запускать на системах с разным объёмом доступной памяти и выбирать компромисс между размером, скоростью и качеством. В репозитории доступны варианты от i1-IQ1_S размером около 2,2 ГБ до i1-Q6_K размером около 6,8 ГБ. Для некоторых вариантов указаны преимущества и ограничения: Q4_K_M обозначен как быстрый и рекомендуемый, Q4_K_S — как оптимальный по соотношению размера, скорости и качества, а отдельные низкобитные варианты характеризуются более низким качеством. Точная архитектура, число параметров, размер контекста, перечень языков и мультимодальные возможности в README не указаны; по описанию модель является текстовой и не поддерживает заявленные мультимодальные сценарии. Лицензия — Apache-2.0.

Keye-VL-2.0-30B-A3B-GGUF — мультимодальная модель семейства Keye, разработанная командой Kwai Keye. Она предназначена для обработки изображений, видео и текста, прежде всего для понимания длинных видеозаписей, временной локализации событий, OCR, анализа диаграмм и таблиц, визуального вопросно-ответного взаимодействия и мультимодального рассуждения. Модель также ориентирована на агентские сценарии: работу с кодом, инструментами, поиском, репозиториями и визуальной самопроверкой. Модель относится к 30B-классу и распространяется в формате GGUF с вариантами квантования BF16, F16, Q8_0 и Q4_K_M. В архитектуре используются разреженное внимание DSA (DeepSeek Sparse Attention), целевая агрегация признаков, параллелизм ViT-LM и оптимизированные вычислительные ядра, что предназначено для эффективной работы с длинными последовательностями. Заявлена поддержка контекста до 256K токенов и анализа видео продолжительностью до часа. В README явно указан английский язык; сведения о полноценной поддержке других языков отсутствуют. Сильными сторонами являются длинноконтекстное понимание видео, точная временная локализация, мультимодальное рассуждение и встроенные возможности для агентских задач. Ограничениями выступают высокие требования к ресурсам: размер файлов варьируется от 29 ГБ для Q8_0 до 58 ГБ для F16, а для работы с длинными видео и контекстом потребуется значительный объём памяти. Условия использования определяются лицензией Apache-2.0.

Kimi-K2.7-Code-Alis-MLX-Dynamic-3.6bpw-VLM — это квантованная MLX-версия модели Kimi-K2.7-Code, разработанной Moonshot AI. Сборка создана avlp12 и предназначена для запуска на устройствах Apple Silicon, прежде всего на M3 Ultra. Это мультимодальная vision-language модель для работы с текстом, программным кодом, изображениями и видео. В основе лежит MoE-архитектура в стиле DeepSeek-V3 примерно на 1 триллион параметров, из которых активно около 32 миллиардов, с языковой частью MLA и визуальной башней MoonViT. Модель сохраняет полный vision encoder и мультимодальный проектор в формате bf16, а языковые веса подвергнуты чувствительно-ориентированному квантованию с эффективной точностью 3,629 бит на вес. Поддерживается контекст до 256 тысяч токенов. Размер модели на диске составляет около 465,9 ГБ; для запуска требуется единый компьютер с 512 ГБ памяти M3 Ultra либо распределённый запуск на двух машинах. Модель поддерживает подробное описание изображений и анализ изменений и движения в видео; заявленная скорость декодирования составляет около 23 токенов в секунду. К сильным сторонам относятся сохранённая визуальная часть без дополнительной ошибки квантования, большой контекст и высокая эффективность памяти KV-кэша. Ограничения связаны с экстремальными требованиями к объёму памяти, зависимостью от совместимых версий mlx-vlm и специальных компонентов для видео, а также с потерями качества из-за 3-битного квантования экспертов: средний KL относительно 4-битного эталона составляет 0,199 ната, а частота изменения top-1 ответа — 10,2%. Лицензия указана как modified MIT.

mrm8488/llama-2-coder-7b — языковая модель для генерации кода, созданная дообучением Llama 2 7B на 20 тысячах инструкций CodeAlpaca с помощью QLoRA и PEFT. Базовую модель разработала Meta; архитектура — плотная авторегрессионная LlamaForCausalLM с 6,6 млрд параметров и контекстом до 4096 токенов. Модель предназначена для ответов на инструкции, связанных с кодом: например, генерации фрагментов программ и помощи при решении задач программирования. Она принимает текстовые запросы и генерирует текст. В карточке указан датасет CodeAlpaca_20K; результаты оценки не приведены. Модель распространяется по лицензии Apache-2.0.

Macaron-V1-Tall — модель MindLab Research из семейства Macaron-V1, построенная на Qwen3.6-35B-A3B. Она предназначена для персональных агентных сценариев, работы с инструментами, программирования и генерации интерфейсов GenUI. Модель использует архитектуру Mixture of LoRA: четыре текстовых адаптера для чата, агентных задач, кода и GenUI, а маршрутизатор выбирает специалиста для каждого пользовательского запроса. Для запуска заявлена библиотека Transformers; опубликован чекпойнт BF16 с адаптерами LoRA и контекстом 262K токенов. Базовая модель также обладает мультимодальными возможностями, но специалисты Macaron настроены только для текста. В карточке приведены результаты сравнения системы с базовой конфигурацией, однако они не устанавливают вклад отдельных компонентов или преимущества между вариантами семейства. Известные ограничения включают слабую обработку зависимых вызовов инструментов, маршрутизацию всего хода к одному специалисту и качественное ухудшение стабильности характера в очень длинных сессиях после смены предпочтений. Отдельная оценка безопасности не проводилась; модель не рекомендуется для самостоятельных решений в критически важных областях. Лицензия — MIT.

Vontra/MiMo-V2.6-Flash-RL-MLX-4bit-MTP — конверсия модели XiaomiMiMo/MiMo-V2.6-Flash-RL для MLX, опубликованная Vontra и предназначенная прежде всего для запуска на компьютерах Apple Silicon. Это генеративная текстовая модель, ориентированная на создание связного текста, объяснений и программного кода. В README приведены успешные проверки арифметики, фактических объяснений и Python-кода, однако подробные оценки качества и сценарии применения следует уточнять в карточке исходной модели. Исходная MiMo-V2.6-Flash-RL описывается как разреженная MoE-модель с 309 млрд параметров, из которых 15 млрд активны на токен, 48 трансформерными слоями, 256 маршрутизируемыми экспертами и восемью активными экспертами на токен. Исходный релиз поддерживает контекст до одного миллиона токенов и омнимодальные входы; заявлены текст, изображения и аудио. Эта версия использует 4-битную аффинную квантизацию плотных проекций с размером группы 64, тогда как эксперты MoE сохраняют формат MXFP4 с размером группы 32. Средний размер — 4,257 бита на вес, текстовая модель занимает около 154 GiB, а весь репозиторий — около 160 GiB. Поддерживаемые языки, указанные в карточке, — английский и китайский. В комплект входят MTP-предиктор, DFlash-драфтер, vision encoder, audio encoder и audio tokenizer, но текущие oMLX и MLX text generation автоматически используют только текстовый путь: MTP, DFlash, зрительные и аудиофункции пока требуют MiMo-совместимых интеграций и не заявлены как работающие в стандартном режиме. На Mac Studio с M3 Ultra, 256 ГБ памяти измерены скорости 59,4 токена в секунду при декодировании и 477,1–562,8 токена в секунду при обработке промпта; рекомендована конфигурация с 256 ГБ unified memory. Модель распространяется по лицензии MIT. Это community-конверсия, поэтому её ограничения включают высокие требования к памяти и неполную поддержку вспомогательных мультимодальных компонентов в текущем MLX-стеке.

Mistral-Nemo-Instruct-2407-FP8 — квантованная версия текстовой instruction-модели Mistral-Nemo-Instruct-2407, разработанная Neural Magic. Модель принимает текст и генерирует текст, предназначена для коммерческого и исследовательского использования в англоязычных сценариях, прежде всего для диалоговых ассистентов и чат-приложений. Весовые коэффициенты и активации линейных операторов в трансформерных блоках переведены в формат FP8 с использованием симметричной по-тензорной квантизации. Оптимизация сокращает число битов на параметр с 16 до 8, примерно вдвое уменьшает размер на диске и требования к GPU-памяти. Модель рассчитана на эффективный инференс с vLLM версии 0.5.0 и выше; в README для развертывания указан контекст до 4096 токенов. По данным OpenLLM Leaderboard v1, средний результат составляет 71,28 против 71,61 у неквантованной версии, что указывает на небольшую потерю качества при существенном снижении требований к ресурсам. К ограничениям относятся ориентация на английский язык и запрет использования в языках, отличных от английского, а также необходимость учитывать ограничения применимого законодательства. Модель распространяется по лицензии Apache 2.0. Дата выпуска — 18 июля 2024 года, версия 1.0.

Это модель распознавания сущностей на основе BERT, разработанная авторами репозитория fef2 и дообученная поверх DeepPavlov/rubert-base-cased. Она размечает в русском тексте учётные данные (логины, пароли, токены и секретные ключи), персональные данные (ФИО, организации и локации) и номера договоров. Основной сценарий — обнаружение чувствительных фрагментов в пользовательских сообщениях и конфигурациях для их маскирования перед передачей внешней LLM. Модель использует архитектуру BertForTokenClassification с 205,1 млн параметров, контекстом до 512 токенов и 17 BIO-метками для восьми типов сущностей. Репозиторий также содержит детерминированный regex-слой; опубликованные показатели покрытия учётных данных относятся к объединению NER и regex, а сама NER предназначена дополнять регулярные выражения. Модель распространяется по лицензии Apache-2.0.

Occiglot-7B-it-en-Instruct — генеративная языковая модель Occiglot Research Collective, дообученная следовать инструкциям и поддерживать диалог. Это плотный decoder-only трансформер Mistral с 7,1 млрд параметров; модель принимает текст и имеет контекст до 32 768 токенов. Карточка описывает поддержку английского и итальянского языков, а также кода; обучение включало многоязычные и программные инструкции, а взаимодействие рассчитано на шаблон ChatML. Модель подходит для диалоговых ответов, выполнения текстовых инструкций, генерации текста и помощи с кодом на английском и итальянском. Это ранний выпуск исследовательского проекта, обученный на дополнительных инструкционных данных; приведённые оценки названы предварительными, а неанглоязычные результаты ограничены особенностями тестовых наборов. Модель не прошла safety alignment и может выдавать проблемный контент. Лицензия — Apache 2.0.

Карточка модели mayflowergmbh/occiglot-7b-it-en-instruct-hf на Hugging Face совпадает с карточкой occiglot/occiglot-7b-it-en-instruct, поэтому описание составлено по ней. Occiglot-7B-it-en-Instruct — генеративная языковая модель Occiglot Research Collective, дообученная следовать инструкциям и поддерживать диалог. Это плотный decoder-only трансформер Mistral с 7,1 млрд параметров; модель принимает текст и имеет контекст до 32 768 токенов. Карточка описывает поддержку английского и итальянского языков, а также кода; обучение включало многоязычные и программные инструкции, а взаимодействие рассчитано на шаблон ChatML. Модель подходит для диалоговых ответов, выполнения текстовых инструкций, генерации текста и помощи с кодом на английском и итальянском. Это ранний выпуск исследовательского проекта, обученный на дополнительных инструкционных данных; приведённые оценки названы предварительными, а неанглоязычные результаты ограничены особенностями тестовых наборов. Модель не прошла safety alignment и может выдавать проблемный контент. Лицензия — Apache 2.0.

OpenCerebrum-2.0-7B-GGUF — это квантизированная версия языковой модели Locutusque/OpenCerebrum-2.0-7B, подготовленная mradermacher в формате GGUF. Модель предназначена для генерации текста и ответов на вопросы, включая задачи по программированию, математике, химии и биологии. Заявлен английский язык. Модель содержит 7 млрд параметров и распространяется в нескольких вариантах квантизации объёмом примерно от 2,8 до 7,8 ГБ: Q2_K, Q3, IQ3, IQ4, Q4, Q5, Q6 и Q8. Более компактные варианты требуют меньше памяти, но могут уступать по качеству; в README отдельно отмечены Q4_K_S и Q4_K_M как быстрые и рекомендуемые, а Q8_0 — как вариант с наилучшим качеством. Сведения об архитектуре, размере контекста, поддерживаемых модальностях помимо текста и результатах тестирования не указаны. Это open-source модель, опубликованная с лицензией Apache-2.0. README описывает статические квантизации; взвешенные или imatrix-варианты на момент публикации не предоставлялись. Для запуска GGUF-файлов требуется совместимое программное обеспечение, однако конкретные средства инференса не указаны.

opencsg/opencsg-CodeLlama-34b-v0.2 — это дообученная OpenCSG модель для генерации программного кода. Она основана на Meta CodeLlama-34b-hf, использует архитектуру Llama с плотной авторегрессионной языковой моделью и содержит 33,5 млрд параметров. Модель прошла полное дообучение всех параметров; в репозитории представлены веса Safetensors. Модель предназначена для генерации и автодополнения кода, в том числе решения задач по программированию. В README указано, что обучающая выборка охватывает несколько языков программирования; для оценки семейства использовался HumanEval на Python, однако приведённые значения относятся к версиям 7B и не характеризуют непосредственно эту версию 34B. Контекст модели составляет до 16 384 токенов. Лицензия — Llama 2 Community License; её условия следует учитывать при использовании и распространении модели.

Phi-mini-MoE — компактная языковая модель Microsoft для генерации текста и диалогового взаимодействия. Это decoder-only Transformer с архитектурой Mixture of Experts: в README указаны 7,6 млрд параметров всего и 2,4 млрд активных, тогда как метаданные каталога указывают 1,9 млрд параметров; поэтому размер модели в источниках расходится. Модель сжата и дистиллирована из общей базовой модели Phi-3.5-MoE и GRIN-MoE методом SlimMoE, затем дообучена на следование инструкциям и предпочтениям пользователей. Модель предназначена прежде всего для англоязычных общих ассистентов и сценариев с ограничениями по памяти, вычислениям или задержке. Она принимает текстовые запросы в формате чата и генерирует текст; контекст — до 4 тысяч токенов. Обучение охватывало математику, программирование, здравый смысл и общие знания, но карточка не заявляет отдельной специализированной области. Основной язык — английский; другие языки поддерживаются хуже. Модель может ошибаться, выдумывать факты, воспроизводить предубеждения или выдавать оскорбительный контент, поэтому ответы требуют проверки, особенно в чувствительных сценариях. Данные публичных источников имеют срез по октябрь 2023 года. Лицензия — MIT.

Puffin-Qwen2.5-CodeMath-1 — объединённая языковая модель на архитектуре Qwen2, созданная автором репозитория с помощью mergekit из Qwen/Qwen2.5-Coder-1.5B и Qwen/Qwen2.5-Math-1.5B. Для объединения использован метод SLERP; модель содержит 1,5 млрд параметров и рассчитана на генерацию текста, включая сценарии с кодом и математическими задачами. Модель принимает текст и генерирует текст. Она использует библиотеку Transformers, распространяется в формате safetensors и поддерживает контекст до 32 768 токенов. Карточка не сообщает отдельные сведения о языках или результатах оценки качества. Лицензия в доступных данных не указана.

MMOPD/Qwen3-1.7B-OT3-1ep — языковая модель MMOPD, полученная дообучением Qwen3-1.7B-Base на наборе OpenThoughts3-1.2M. Это плотная авторегрессионная модель Qwen3ForCausalLM с 1,7 млрд параметров, рассчитанная на генерацию текста; заявленное окно контекста — 32 768 токенов. Модель настроена на длинные цепочки рассуждений по математике, программированию и естественным наукам и выдаёт ответы в формате Qwen3 с блоком рассуждений перед ответом. Чекпойнт соответствует примерно одной эпохе обучения: шаг 2 200 из 4 312, около 1,02 эпохи. MMOPD описывает его как универсальную модель-студента для рассуждений и основу для доменных моделей и экспериментов по дистилляции на политике. Отдельных результатов бенчмарков для этой версии не приведено; в README рекомендуется включать режим thinking и использовать сэмплирование. Модель предназначена для текстовых задач и не заявлена как мультимодальная. Лицензия — Apache-2.0. Основана на Qwen3-1.7B-Base и обучена на OpenThoughts3-1.2M; опубликованные сведения не подтверждают отдельные гарантии качества на конкретных задачах.

Azizbek8189/Qwen3.5-0.8B-GGUF — модель семейства Qwen3.5 на базе Qwen/Qwen3.5-0.8B, представленная в формате, подготовленном с использованием инструментов Unsloth. Это каузальная языковая модель с vision encoder, предназначенная для прототипирования, исследовательских и разработческих задач, а также специализированного дообучения. Модель поддерживает текстовые и визуальные входы и может применяться для рассуждений, программирования, визуального понимания и агентских сценариев. Модель содержит 0,8 млрд параметров, 24 слоя и скрытое измерение 1024. В архитектуре сочетаются Gated Delta Networks, Gated Attention и разреженная Mixture-of-Experts; заявлена длина контекста 262 144 токена. Указана поддержка 201 языка и диалекта. Артефакты совместимы с Hugging Face Transformers, vLLM, SGLang и KTransformers. К сильным сторонам относятся компактный размер, мультимодальность, большой контекст и эффективность гибридной архитектуры, что делает модель подходящей для локального запуска и экспериментов с ограниченными ресурсами. Ограничениями являются небольшой по современным меркам объём параметров и заявленная ориентация на прототипирование и исследования, поэтому качество на сложных задачах может уступать более крупным моделям. Лицензия — Apache-2.0.

Qwen3.8-27B-Uncensored-GPTQ-Int4-sym-G128-MTP-BF16 — это квантизированная версия модели JonathanColetti/Qwen3.8-27B-Uncensored, созданная на базе Qwen/Qwen3.8-27B. Модель предназначена для генерации текста, включая программирование, работу с прозой и вызов инструментов. Она разработана для эффективного запуска на видеоускорителях Intel Arc через vLLM XPU и поддерживает speculative decoding благодаря сохранённой в формате BF16 MTP-голове. Модель использует GPTQ-квантизацию до 4 бит с симметричными группами размера 128; 400 тензоров весов представлены в целочисленном формате I32, а 15 MTP-тензоров сохранены в BF16. Размер репозитория составляет около 19 ГБ. Заявлены языки English и Chinese. Архитектура основана на гибридной GDN/Mamba-конфигурации Qwen3.8, максимальный проверенный контекст — 120 532 токена, при заявленном лимите до 131 072 токенов. Сильные стороны модели — существенно меньшие требования к памяти по сравнению с BF16-версией, поддержка Intel Arc/XPU, длинного контекста, MTP и высокая измеренная скорость генерации на Intel Arc Pro B70: до 68,5 токена в секунду для кода и 52,4 токена в секунду для прозы. Ограничения включают отсутствие формальных оценок качества, калибровку без примеров кода, необходимость специальных патчей vLLM и режима с одной последовательностью при использовании MTP. Префиксное кэширование не даёт выигрыша, а FP8 KV-кэш обязателен для контекста 128K на GPU с 32 ГБ памяти. Поведение «uncensored» унаследовано от исходной модели и не проходило количественной проверки. Указана лицензия Apache-2.0.

SemCoder — языковая модель для генерации кода с рассуждениями о его семантике, представленная проектом ARiSE-Lab. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 6,6 млрд параметров; она рассчитана на контекст до 16 384 токенов и запускается через Transformers. Модель предназначена для генерации программного кода и диалоговой работы с запросами о коде. Обучение проводилось на синтетических данных, созданных моделями OpenAI. В README указано, что при использовании модели и датасетов следует учитывать условия использования OpenAI; лицензия в метаданных обозначена как other, поэтому конкретные права использования нужно проверять в репозитории. Карточка не приводит перечень поддерживаемых языков программирования или результаты оценки качества.

Agnuxo/Agente-Director-Qwen2-7Bron-Instruct_CODE_Python_English_GGUF_16bit — локальный чат-ассистент для генерации кода, опубликованный Франсиско Ангуло де ла Фуэнте под именем Agnuxo. По README, модель основана на Qwen2, имеет 7 млрд параметров и предназначена для запуска локально; в репозитории указаны веса GGUF в формате F16 и лицензия Apache-2.0. Модель помогает писать и обсуждать код на Python, JavaScript, TypeScript, Rust, Go и C++, а также работать с научными вычислениями и библиотеками NumPy, SciPy, Pandas, PyTorch, TensorFlow и JAX. README также заявляет навыки координации агентов через MCP и A2A и декомпозиции задач. Модель принимает текстовые запросы и генерирует текстовые ответы; контекст и подтверждённый перечень языков естественного языка в доступных данных не описаны. Указанные автором возможности не подкреплены результатами независимой оценки качества.

Agnuxo/Agente-Llama-3.1-Asistant-16bit-v2 — локальная чат-модель для генерации текста и сценариев автономного агента, опубликованная независимым исследователем Франсиско Ангуло де ла Фуэнте. По метаданным, это плотная модель семейства Llama с архитектурой LlamaForCausalLM и 7,5 млрд параметров; заявленная длина контекста — 131 072 токена. Репозиторий содержит веса Safetensors, а карточка описывает запуск через Ollama и Transformers. Модель позиционируется для диалога, декомпозиции задач, генерации кода и научных текстов, а также координации агентов через MCP и A2A. В карточке заявлены навыки работы с Python, JavaScript, TypeScript, Rust, Go и C++, но эти заявления не сопровождаются описанием обучения или результатами оценки. Указаны английский и испанский языки. Лицензия — Apache-2.0.