II.2Создание и понимание программного кода

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — это многоэтапная fine-tune и merge-сборка модели Qwen3.8 с 27 млрд параметров, опубликованная trinityomni на основе версии DavidAU Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. В разработке использовались методы Cold Fusion и Fable Fusion, а также инструменты Unsloth. Репозиторий содержит обычные и MTP GGUF-квантизации, включая варианты с точностью 4 и 8 бит, ориентированные на запуск на потребительском оборудовании. Модель предназначена для общих задач, рассуждений, программирования, creative writing, художественной прозы, ролевых сценариев и работы с различными жанрами текста. В карточке указаны английский и китайский языки; также заявлен pipeline image-text-to-text, однако подробности о поддерживаемых визуальных входах и мультимодальной архитектуре не приведены. Размер контекста не указан. Основной акцент сделан на сокращении объёма рассуждений и ускорении генерации при сохранении детализации ответа, включая поддержку трёх режимов мышления и MTP. По утверждению авторов карточки, модель превосходит базовую Qwen3.8-27B и ряд других моделей в семи ключевых бенчмарках, а результаты ARC-C и ARC-E составляют соответственно до 735 и 880 для 8-битной версии; эти показатели являются заявленными разработчиками и не сопровождаются независимой верификацией в README. Сильными сторонами считаются скорость, сниженное избыточное рассуждение, навыки программирования и генерации творческого текста. Ограничения включают отсутствие данных о контекстном окне, системных требованиях, точных характеристиках мультимодальности и независимых тестах; из-за uncensored и abliterated-настройки модель может чаще выдавать небезопасный или нежелательный контент. Указанная лицензия — Apache-2.0.

kingjones777/Qwen3.8-Flash-Next-ROCmFP4-FAST-GGUF — это квантизированная GGUF-версия модели Qwen3.8-Flash-Next, разработанная сообществом Qwen и адаптированная kingjones777 для запуска на AMD Ryzen AI Max+ 395 с интегрированной графикой Radeon 8060S, архитектурой Strix Halo и GPU-целью gfx1151. Модель предназначена для генерации текста, включая рассуждения, создание JSON, программирование и суммаризацию документов. Модель использует архитектуру qwen4exp и формат ROCmFP4; обычная версия llama.cpp её не загружает. Для работы требуется специальная ветка ROCmFPX с поддержкой qwen4exp и ROCmFP4, а также совместимая сборка для ROCm. В README указана проверка работы с контекстом до 128K, однако размер модели, точный перечень поддерживаемых языков и модальности не приведены. Доступен speculative decoding через MTP-head, который может повышать скорость генерации, но результат проверяется основной моделью; эффективность зависит от типа задачи и настроек. Сильная сторона модели — возможность запуска крупной модели на системе с общей памятью CPU и GPU, включая длинный контекст и аппаратные оптимизации для AMD. Ограничения включают необходимость специального runtime и патчей, зависимость производительности от пропускной способности общей памяти, а также непредсказуемый выигрыш от MTP: в приведённых измерениях он ускорял часть сценариев, но замедлял другие. Лицензия указана как qwen-community-1.0.

Sonclo/Qwen3.8-sonclo — многоэтапная fine-tune-модель на базе DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. Модель создана для широкого спектра задач: решения задач и рассуждений, программирования, творческого письма, генерации художественных текстов и ролевых сценариев. В README также заявлена специализация на снижении избыточного рассуждения и расхода токенов при сохранении подробности ответов. Модель относится к семейству Qwen3.8 и имеет 27B параметров. Указаны три режима рассуждения, поддержка английского и китайского языков, а также варианты GGUF-квантизации с обычными и MTP-квантами, включая 4- и 8-битные версии. Обучение описано как multi-stage fine-tune и multi-stage merge с применением методов COLD FUSION, Fable Fusion и Unsloth. Репозиторий помечен как image-text-to-text, однако подробности о фактической поддержке изображений и максимальном размере контекста в README не приведены. К заявленным сильным сторонам относятся высокая скорость генерации, сокращение объёма рассуждений, развитые способности к программированию, решению задач и творческой генерации, а также возможность запуска на потребительском оборудовании благодаря GGUF-квантам. Ограничения включают отсутствие независимого подтверждения заявленных бенчмарков в представленном README, возможные риски и особенности uncensored/abliterated-настройки и неизвестные требования к аппаратным ресурсам для конкретных вариантов. Модель распространяется по лицензии Apache-2.0.

DioDef/qwen3.8-turbo — многоэтапно дообученная и объединённая версия Qwen3.8-27B, разработанная DioDef на базе модели DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. Модель создана с использованием подходов COLD FUSION, Fable Fusion и инструментов Unsloth; в README она представлена как uncensored-модель с вариантами GGUF-квантизации, включая regular и MTP GGUF quants. Модель предназначена для широкого круга сценариев: решения задач и рассуждений, программирования, творческого письма, создания художественных текстов, сторителлинга и ролевых диалогов. Заявленная ключевая особенность — сокращение объёма thinking-токенов по сравнению с базовой Qwen3.8, что должно уменьшать задержку и расход токенов при сохранении подробности ответов. Указаны поддерживаемые языки English и Chinese. Точный размер контекстного окна и сведения о мультимодальных возможностях в README не приведены; тег image-text-to-text сам по себе не подтверждает наличие полноценного vision-интерфейса. Модель позиционируется как производительная версия для запуска на потребительском оборудовании и доступна в форматах с разной степенью квантизации, включая 4-битные и 8-битные варианты. Среди сильных сторон заявлены скорость генерации, сокращённое рассуждение, развитые способности к решению задач, программированию и генерации художественного текста. Заявления о результатах ARC-C, ARC-E и превосходстве над другими моделями приведены авторами README и не подтверждены независимыми данными в предоставленном описании. Лицензия — Apache-2.0.

DavidAU представил Qwen3-MOE-4x1.7B-6.8B-Lucys-Song-Uncensored — разговорную модель общего назначения на архитектуре Qwen3 MoE. По README, она объединяет экспертов нескольких моделей, поддерживает генерацию кода и творческих текстов, а автор отдельно отмечает сценарии ролевого общения и контент для взрослых. В метаданных указаны класс Qwen3MoeForCausalLM, задача text-generation, размер 1,7 млрд параметров, контекст до 40 960 токенов и поддержка чата и кода. Модель может применяться для диалогов, написания художественных сцен и помощи с программированием. README описывает режим рассуждений и настройки числа активных экспертов; скорость генерации и качество зависят от оборудования и выбранного формата весов. Репозиторий содержит веса в safetensors и распространяется по лицензии Apache-2.0.

Qwopus3.8-27B-Flash-NVFP4 — это конверсия базовой модели Jackrong/Qwopus3.8-27B-Flash в формате NVIDIA ModelOpt NVFP4, предназначенная для запуска на GPU NVIDIA Blackwell. Репозиторий содержит логическую модель объёмом 27,78 млрд параметров и использует формат safetensors. В README также указано, что исходную модель создал Kyle Hessling, а конверсия выполнена сообществом. Модель предназначена для диалоговых, мультимодальных и агентных сценариев: обработки текста и изображений, следования инструкциям, генерации структурированных ответов, вызова инструментов и работы в coding-agent циклах. Сохранены визуальный энкодер и проектор, а также встроенная MTP/NextN-голова для speculative decoding. Трансформерные веса используют NVFP4, тогда как lm_head, визуальная часть и MTP-голова сохранены в BF16 для повышения качества. Рекомендуемый сценарий обслуживания — SGLang с FlashInfer, поддержкой ModelOpt FP4 и совместимой моделью-черновиком Qwen3.8 27B DFlash2 NVFP4. В тестовом профиле заявлен контекст до 262 144 токенов, однако для этого требуются Blackwell GPU с достаточным объёмом памяти под основную и черновую модели, KV-кэш и накладные расходы. README не указывает поддерживаемые языки и результаты бенчмарков; для мультимодальной работы необходимо использовать поставляемый chat template, а для вызова функций — парсер инструментов Qwen. Лицензия указана как Apache-2.0, при этом пользователю рекомендуется соблюдать лицензионные условия базовой модели. Ограничениями являются зависимость от совместимого оборудования и программного стека NVIDIA Blackwell, необходимость специальной DFlash2-модели для рекомендованной спекулятивной генерации и возможное снижение доступного контекста на менее мощных GPU.

Bloodwingv2/Qwythos-9b-Claude-Mythos-5-1M-sas-v2 — дообученная модель для преобразования кода SAS в Python, созданная на основе empero-ai/Qwythos-9B-Claude-Mythos-5-1M. Для настройки использован датасет SAS2Py из 278 примеров. Модель построена на плотной архитектуре Qwen3.5 и имеет 7,2 млрд параметров; заявленная длина контекста — 1 048 576 токенов. Модель принимает инструкцию и фрагмент SAS-кода, а затем генерирует соответствующий код Python. Её можно использовать для миграции аналитических скриптов SAS и перевода отдельных программных фрагментов. README описывает формат промпта, но не приводит результаты оценки качества или сведения о поддерживаемых вариантах SAS и Python. Модель опубликована в формате safetensors для библиотеки Transformers; сведения о лицензии в предоставленных данных отсутствуют.

Ring-mini-sparse-2.0-exp — экспериментальная языковая модель компании InclusionAI для генерации текста и диалогов. Она основана на Ling-mini-base-2.0 и продолжила обучение на дополнительных 100 млрд токенов. В модели сочетаются архитектура Mixture of Block Attention (MoBA) и разреженная Mixture-of-Experts (MoE); для инференса предусмотрена библиотека Transformers, а также поддержка SGLang. Модель рассчитана на рассуждения и работу с длинными входами и ответами: README сообщает о контексте до 128 тыс. токенов благодаря расширению окна YaRN в 4 раза. При декодировании с контекстом 64 тыс. токенов активируются 8 192 KV-токена на запрос; авторы заявляют о снижении нагрузки на чтение KV-кэша и ускорении генерации в сравнении с Ring-mini-2.0. Модель оценивалась на задачах математики, программирования и естественных наук, но опубликованный фрагмент карточки не содержит численных результатов. Размер модели по метаданным — 1,2 млрд параметров, родительская архитектура — Bailing MoE. Модель предназначена для текста и заявлена с поддержкой английского языка. Лицензия — MIT. Суффикс exp и исследовательские оценки указывают на экспериментальный характер; результаты и скорость могут зависеть от оборудования и используемой реализации.

RWKV-7 World — базовая авторегрессионная языковая модель семейства RWKV от BlinkDL, предназначенная для генерации текста и использования в качестве основы для дообучения. Модель обучалась на корпусе примерно из 3,1 трлн токенов для версии World-v3; в обучающих данных преобладает английский язык, также представлены другие языки и программный код. В README указаны варианты семейства от 0,1B до примерно 7B параметров, но размер именно этой публикации не уточнён. Модель рассчитана на продолжение текста, диалоговые и вопросно-ответные сценарии при использовании рекомендованных шаблонов запросов. Архитектура RWKV-7 поддерживается пакетом rwkv версии 0.8.28 и выше. Карточка сообщает о обучении более чем на 100 языках; метаданные перечисляют 12 языков, включая русский, китайский, английский, французский, испанский, немецкий, португальский, итальянский, японский, корейский, вьетнамский и арабский. В README приведены результаты MMLU для нескольких вариантов RWKV-7-v3 и сравнение с RWKV-6, но эти оценки не являются характеристиками конкретного файла модели. Это базовая модель, а не специализированный чат-чекпойнт; качество ответов и следование инструкциям могут зависеть от шаблона и дополнительного дообучения. Лицензия — Apache-2.0.

Salamandra-2B — базовая авторегрессионная языковая модель семейства Salamandra, разработанная командой проекта Salamandra и обученная с нуля. Это плотная decoder-only модель на архитектуре Llama с примерно 2,25 млрд параметров по карточке модели и контекстом до 8192 токенов. Репозиторий содержит веса в формате safetensors; лицензия — Apache 2.0, допускающая коммерческое использование. Модель предназначена для генерации текста на европейских языках и коде, а также для дальнейшего дообучения под конкретные задачи. Она предварительно обучена на 12,875 трлн токенов тщательно отобранных данных из 35 европейских языков и кода. Её можно применять для продолжения текста, черновой генерации и многоязычных сценариев; это базовая версия, а не вариант, настроенный как диалоговый помощник. В опубликованных оценках отмечены общественные и когнитивные смещения: модель может предпочитать ранние варианты ответа в списках и зависеть от формулировки подсказки. Данные обучения преимущественно отражают стандартные языковые варианты, поэтому качество для диалектов и малоресурсных языков может быть ниже. Перед применением в продуктивных системах необходимы проверка качества и адаптация к целевому сценарию.

SmolLM2-1.7B-Instruct-bnb-4bit — компактная 4-битная предварительно квантованная версия инструкционной языковой модели SmolLM2-1.7B, разработанной Hugging Face. Модель предназначена для выполнения широкого спектра текстовых задач и достаточно легковесна для запуска на устройствах с ограниченными ресурсами. Вариант Instruct дополнительно обучен следовать инструкциям с помощью supervised fine-tuning и Direct Preference Optimization (DPO). Модель содержит 1,7 млрд параметров и работает с текстом на английском языке. Она ориентирована на диалоговые сценарии, переписывание и суммаризацию текста, решение задач, работу с кодом и function calling. Обучение базовой модели проводилось на 11 трлн токенов из наборов FineWeb-Edu, DCLM, The Stack, а также математических и кодовых данных; инструкционная версия использовала публичные и подготовленные разработчиками наборы, включая UltraFeedback и Synth-APIGen-v0.1. README не содержит сведений о размере контекстного окна и точной архитектуре. Ключевые преимущества — малый размер, сниженные требования к памяти благодаря 4-битной квантованию и улучшения в следовании инструкциям, знаниях, рассуждениях и математике по сравнению с SmolLM1-1.7B. Ограничения включают заявленную поддержку только английского языка и потенциальные компромиссы в качестве, вызванные квантованием и компактным размером. Модель распространяется под лицензией Apache-2.0.

jondurbin/spicyboros-7b-2.2 — экспериментальная текстовая модель семейства Llama, разработанная Jondurbin и дообученная преимущественно на синтетических данных Airoboros 2.2. Она предназначена для выполнения инструкций и генерации ответов: модель подходит для вопросов и ответов по заданному контексту, написания текстов, викторин, задач на выбор ответа, программирования и генерации структурированных ответов. Заявленный контекст — 4096 токенов; модель содержит 6,6 млрд параметров и распространяется в формате PyTorch. В обучении использованы данные для более свободных, в том числе ролевых и чувствительных ответов; автор предупреждает, что модель может генерировать грубый, вредный и откровенный контент. Это англоязычная по представленным примерам и карточке модель общего назначения, с акцентом на пары инструкций и ответов, а не на непринуждённый диалог. Для инференса следует учитывать формат промпта с метками USER и ASSISTANT и задавать критерии остановки, чтобы модель не продолжала ответ за пользователя. Лицензия — Llama 2; перед использованием необходимо соблюдать её условия.

Это 16-битная конверсия StableLM 2 от SirSahOl для локального запуска на GPU компьютеров Apple Silicon. Веса модели StableLMForCausalLM сохранены в формате safetensors для MLX; исходная модель — stabilityai/stablelm-2-1_6b. В README указано 1,6 млрд параметров, а в метаданных — 1,4 млрд. Контекст составляет 4096 токенов. Модель принимает текст и генерирует текст; карточка базовой модели указывает поддержку английского, немецкого, испанского, французского, итальянского, нидерландского и португальского языков. Модель подходит для локального диалога, генерации текста и дополнения кода. MLX позволяет использовать ускорение Apple Silicon, а 16-битные веса сохраняют исходную точность представления. README оценивает занимаемую память примерно в 3,9–4 ГБ и рекомендует не менее 8 ГБ объединённой памяти; фактическая скорость зависит от оборудования и длины запроса. Это конверсия, а не новая архитектура или отдельное дообучение. Лицензия обозначена как «other»; перед использованием следует проверить её условия в репозитории исходной модели и этой конверсии. Конверсия рассчитана на Apple Silicon и не предназначена для других GPU без совместимого окружения MLX.

tau-instruct-0.5B — языковая модель с инструкционной настройкой, созданная на базе tau-0.5B. В карточке указано, что для дообучения использовали около 16 000 примеров, сгенерированных GPT-4. По архитектуре это плотная Qwen2-модель примерно на 463,9 млн параметров; она принимает текст и генерирует текст, поддерживает диалог и контекст до 32 768 токенов. Метаданные указывают английский язык. Модель предназначена для ответов на вопросы, продолжения и создания текста, решения математических задач, работы с кодом, рассуждений и общих знаний. Её можно использовать как основу для виртуальных помощников, учебных инструментов и исследовательских приложений. По README, настройка улучшила следование инструкциям относительно базовой модели, но качество может снижаться на сложных или неясных запросах; возможны унаследованные от базы и обучающих данных ограничения и предвзятость. Лицензия указана как other; README требует учитывать лицензию Qwen и сообщает, что права использования совпадают с правами базовой tau-0.5B.

BoldingBuilds выпустила Ternary Bonsai 2 27B Abliterated PTQ1_0 GGUF — текстовую чат-модель на основе релиза PrismML Ternary Bonsai 2 27B в формате GGUF. Веса изменены непосредственно на троичной решётке: редактированы 98 тензоров, остальные 753, включая эмбеддинги и выходной слой, побайтно совпадают с базовой версией. Модель предназначена для генерации ответов в диалогах и заметно реже отказывает, в том числе на запросы, которые исходная модель отклоняет. В опубликованном сравнении с исходной PTQ1_0-версией доля оценённых отказов на SimpleSafetyTests снизилась с 83% до 0%, а переотказов на безопасных запросах XSTest — с 1,6% до 0%. Результаты MMLU почти не изменились; на HumanEval наблюдалось снижение на 3 процентных пункта, статистически незначимое в данном тесте. Модель принимает текст и генерирует текст; мультимодальные компоненты не включены. Для запуска требуется форк llama.cpp от PrismML: стандартный llama.cpp не загружает PTQ1_0. Лицензия — Apache-2.0.

WhiteRabbitNeo-33B-v1 — плотная авторегрессионная языковая модель семейства Llama с 33,1 млрд параметров, разработанная командой WhiteRabbitNeo. Она предназначена для генерации текста и задач кибербезопасности, включая обсуждение атакующих и защитных сценариев, анализ уязвимостей и помощь с кодом. Карточка представляет модель как публичное предварительное испытание возможностей серии; в README приведены примеры запросов по разработке серверов, тестированию IoT и Wi-Fi, reverse shell и Scapy. Модель принимает текст и генерирует текст. Заявленная длина контекста — 16 384 токена. Метаданные указывают PyTorch; README ссылается на более новую версию 33B-v1.1 для веб-приложения, поэтому возможности этой версии могут отличаться от опубликованного чекпойнта. Лицензия обозначена как other, а README приводит условия использования с отказом от гарантий и ответственностью пользователя; точные права на распространение и коммерческое применение из этих данных неясны.

QuantFactory/WizardLM-2-7B-abliterated-GGUF — это квантизированная версия WizardLM-2 7B, разработанная QuantFactory с использованием llama.cpp на основе fearlessdots/WizardLM-2-7B-abliterated. Базовая модель WizardLM-2 создана командой WizardLM при Microsoft AI и основана на Mistral-7B-v0.1. Модель предназначена для генерации текста, диалогов и выполнения сложных инструкций, включая задачи письма, программирования, математики, рассуждений, агентских сценариев и многоязычного общения. Поддерживаются многоходовые диалоги с шаблоном запросов Vicuna. Модель содержит около 7 миллиардов параметров и работает только с текстом. Вариант abliterated использует ортогонализованные веса bfloat16, а текущая версия распространяется в квантизированном формате GGUF, что ориентировано на более эффективный запуск и снижение требований к памяти по сравнению с полноразмерными весами. В README не указаны точное окно контекста, поддерживаемые языки и конкретные параметры квантизации. Заявлены высокая скорость для своего класса и конкурентные результаты среди открытых моделей сопоставимого размера, однако приведённые оценки относятся к WizardLM-2 7B и не обязательно полностью характеризуют данный GGUF-вариант. Лицензия модели указана как Apache 2.0. Специфические ограничения, связанные с abliterated-модификацией, в README не описаны; поэтому качество, безопасность и соответствие ответов требованиям конкретного применения следует проверять отдельно.

WuQi-V3-Onyx-27B — созданная проектом WuQi агентная модель для диалогов и многоэтапных задач. Она дообучена методом LoRA на базе мультимодальной Qwen3.8-27B, после чего адаптер объединён с весами. Модель распространяется в формате Transformers и совместима с Transformers, vLLM и SGLang. Лицензия — Apache 2.0. Модель настроена на планирование и выполнение задач с инструментами, проверку наблюдений и гибкое принятие решений. В README описана адаптация для 12 инструментов среды DeepSeek Harness, включая работу с файлами и кодом, веб-поиск и делегирование подзадач. Архитектура — плотная Qwen3.5 с поддержкой изображений; заявленная длина контекста в конфигурации развертывания — 262144 токена. Основной язык карточки — китайский. Это предварительная версия. Заявленные в карточке результаты относятся к оценке DSH-ABench-Basic и внутренним замерам токенов; они не гарантируют аналогичного качества в других сценариях. Для активации дообученной манеры работы README рекомендует специальный system prompt; внешняя инструкция Harness может его переопределить.

KnutJaegersberg/2-bit-LLMs — коллекция крупных языковых моделей, подготовленная Knut Jaegersberg в формате GGUF с 2-битной квантизацией с использованием подхода, вдохновлённого QuIP#, для запуска через llama.cpp. В коллекцию входят варианты моделей разных семейств, в том числе Llama, Qwen, Mistral, Mixtral, Yi и DeepSeek, преимущественно размером от 34 до 120 млрд параметров; некоторые модели доступны в вариантах XS и XXS. Коллекция предназначена для генерации текста и диалогового использования, включая ответы на инструкции, чат и специализированные сценарии вроде генерации кода. В README приведены шаблоны запросов и сведения о лицензиях отдельных исходных моделей. Для крупных вариантов может потребоваться уменьшить контекст, чтобы модель поместилась в память GPU; для LongAlpaca и моделей с Yarn README также приводит настройку RoPE scaling. Условия использования зависят от конкретной модели в коллекции: указаны, среди прочего, лицензии Llama 2, Qwen, Apache 2.0 и Yi, поэтому перед использованием нужно проверить лицензию выбранного варианта.

35b-beta-long-GGUF — набор GGUF-квантизаций модели 35b-beta-long, опубликованный и квантованный bartowski на основе оригинальной модели CausalLM/35b-beta-long с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста в локальных средах, включая диалоговые сценарии, следование инструкциям, математические задачи, программирование и работу с текстами на основе обучающих наборов Guanaco, MetaMathQA, WizardLM, ShareGPT, Wikipedia и других. Модель поддерживает текстовую модальность и заявленные языки английский, китайский, японский и немецкий. Размер исходной модели обозначен как 35B, однако размер контекста и точные архитектурные характеристики в README не указаны. Доступны варианты квантизации от IQ1 до Q8_0 с размером файлов примерно от 8,52 до 37,17 ГБ: более качественные варианты требуют больше памяти, а низкобитные экономят ресурсы за счёт снижения качества. Для Q6_K, Q5_K_M, Q5_K_S и ряда Q4-вариантов указано близкое к исходному качество или хороший компромисс между качеством и размером. Для работы требуется совместимое ПО, например llama.cpp, и достаточно оперативной или видеопамяти в зависимости от выбранной квантизации. Модель использует специальный chat prompt format с ролями system, user и assistant. Лицензия указана как GPL-3.0.

Agent Tool Optimizer — модель Intuit, дообученная методом supervised fine-tuning на базе Qwen3-4B-Instruct-2507. Она переписывает описания инструментов и API для использования LLM-агентами: принимает имя инструмента, JSON-схему параметров и исходное описание, а возвращает JSON с улучшенным описанием. Модель помогает агенту понять, когда вызывать инструмент, как корректно заполнять обязательные и необязательные параметры, учитывать ограничения и значения по умолчанию, а также избегать ошибок валидации. Она предназначена для работы без трасс выполнения инструментов и обучена формировать ответ по заданному JSON-контракту. Модель имеет плотную архитектуру Qwen3, содержит 3,7 млрд параметров и работает с текстом. Контекст составляет до 262 144 токенов; основной язык карточки — английский. Распространяется в формате safetensors по лицензии Apache-2.0. Качество ответа зависит от следования рекомендованному шаблону: изменения формата промпта или требование дополнительных полей могут ухудшить соответствие ожидаемому JSON.

Ahadadada Jailbreak Qwen3.8-27B — модифицированная jailbreak-версия модели Qwen3.8-27B, опубликованная пользователем или организацией Ahadadada. Модель сохраняет исходные возможности базовой модели и ориентирована на диалоговые сценарии, генерацию текста, программирование, агентские задачи, рассуждения и обработку изображений, видео и документов. Заявлено отсутствие стандартных фильтров безопасности, поэтому модель обычно отвечает более прямо и редко отказывается от запросов. Модель содержит 27 млрд плотных параметров и использует архитектуру qwen35 с гибридом SSM и attention: 64 слоя, включая 48 слоёв линейного внимания Gated DeltaNet и 16 слоёв полного gated attention. Размерность скрытого состояния составляет 5120, размерность FFN — 17408, словарь содержит 248 320 токенов. Заявлен нативный контекст 262K токенов с возможностью расширения через YaRN. Поддержка мультимодальности реализуется через отдельный файл mmproj, а MTP с параметром n_max=3 предназначен для ускорения инференса. Доступны GGUF-квантизации APEX-I-Mini, Q4_K_M, Q5_K_M, Q6_K и Q8_0. В приведённых тестах вариант APEX-I-Mini в среднем уступил базовой bf16-модели 1,9 процентного пункта по HellaSwag, Winogrande и ARC-Challenge, хотя результаты зависят от квантизации и настроек. Для работы с изображениями требуется отдельный mmproj-файл; рекомендуются llama.cpp с поддержкой шаблонов Jinja и достаточным объёмом контекста. Модель распространяется по лицензии Apache-2.0, однако снятие защитных ограничений повышает риски небезопасного или вредоносного применения.

airoboros-c34b-2.1 — созданная jondurbin модель Llama 2 с дообучением на синтетических инструкциях airoboros. Это плотная авторегрессионная модель на 33,5 млрд параметров для генерации ответов, диалогов и длинных текстов; заявленная длина контекста — 16 384 токена. В карточке описаны сценарии ответов по предоставленному контексту, программирования, планирования выполнения задач и генерации текста в заданном стиле или от лица персонажа. Модель ориентирована на англоязычные инструкции и поддерживает многоходовые диалоги, ролевые сценарии и продолжение глав. README предупреждает об ошибке форматирования промптов в обучающем коде, из-за которой модель работает некорректно; при генерации она также может продолжить диалог за пользователя, поэтому рекомендуется останавливать генерацию на маркере USER:. Доступны веса PyTorch, лицензия указана как llama2.

airoboros-mpt-30b-gpt4-1p4-five-epochs — языковая модель на архитектуре MPT-30B, дообученная автором карточки методом QLoRA на наборе airoboros-gpt4-1.4 в течение пяти эпох. Она предназначена для генерации ответов в диалогах и инструктивных сценариях, включая вопросы по предоставленному контексту, помощь с программированием, письмо, викторины и ролевые диалоги. В обучающие данные также вошли примеры кода на десяти языках программирования. Модель использует формат запросов Airoboros, близкий к Vicuna, и поддерживает генерацию текста. Автор отмечает, что в собственных разовых проверках качество оказалось ниже, чем у вариантов на Llama-33B; также README предупреждает о возможной ошибке в накоплении градиентов при обучении. Репозиторий содержит веса PyTorch. Лицензия указана как other, конкретные условия в предоставленных данных не раскрыты.

Это GGUF-квантизированная версия языковой модели Mistral-Small-24b-Sertraline-0304, разработанной allura-org и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста, диалоговых сценариев и выполнения инструкций, включая общие, научные, медицинские, программные и другие текстовые задачи. В README указано, что она основана на наборах данных для instruction following, включая Tulu 3, s1K, медицинские данные, данные по программированию и научным вопросам. Модель имеет размер 24B параметров, относится к текстовым autoregressive language models и поддерживает английский и китайский языки. Доступны варианты квантизации GGUF с форматами от Q3 до Q8 и размерами примерно от 12,4 до 25,05 ГБ. Квантизации выполнены с использованием imatrix и llama.cpp, поэтому модель подходит для локального запуска через llama.cpp, LM Studio и совместимые проекты. Контекстный размер, точная архитектура базовой модели, результаты оценивания и требования к оперативной памяти в README не указаны. Сильными сторонами являются широкий набор обучающих данных, ориентация на следование инструкциям и наличие вариантов с разным балансом качества и потребления памяти. Ограничения связаны с отсутствием подробных независимых бенчмарков, сведений о мультимодальности и гарантированной точности ответов; модель следует использовать с проверкой результатов, особенно в медицинских и научных сценариях. Лицензия — Apache-2.0.

BAAI AquilaSQL-7B — диалоговая модель на архитектуре Aquila с 6,9 млрд параметров, разработанная BAAI. Она продолжает обучение базовой модели AquilaCode и предназначена для преобразования запросов на естественном языке в SQL; в карточке сообщается о высоком результате на лидерборде CSpider. Модель принимает текст и генерирует текст с SQL. Для семейства Aquila заявлена поддержка китайского и английского языков; контекст модели составляет 2048 токенов. Модель распространяется в формате PyTorch. Веса лицензированы по BAAI Aquila Model License Agreement, а исходный код семейства — по Apache 2.0; коммерческое использование допускается при соблюдении ограничений лицензии на веса. Карточка не приводит отдельной оценки качества AquilaSQL-7B и не описывает ограничения SQL-генерации, поэтому результат следует проверять на целевой схеме базы данных.

Atem-Pharaoh-3B-i1-GGUF — GGUF-квантизированная версия модели Atem-Pharaoh-3B, разработанной EphAsad и квантизированной mradermacher. Модель предназначена для генерации текста, диалоговых сценариев и задач рассуждения, включая математику, программирование, анализ и ответы в областях, представленных обучающими наборами. В обучении или дообучении использовались наборы с математическими, кодовыми, медицинскими и рассуждательными примерами, а также синтетические данные, полученные дистилляцией других моделей. Модель имеет около 3 миллиардов параметров и распространяется в формате GGUF для использования с совместимыми инструментами, включая llama.cpp. Доступны варианты с разными уровнями квантизации — от IQ1 и IQ2 до Q6_K; они различаются размером файлов, скоростью и качеством. Для баланса размера, скорости и качества в README рекомендуется вариант i1-Q4_K_M, а i1-Q4_K_S также отмечен как оптимальный по этим параметрам. Указан английский язык; сведения о поддерживаемых модальностях и размере контекстного окна отсутствуют. Сильными сторонами являются компактный размер, возможность локального запуска и специализация на рассуждении, математике, коде и диалогах. Ограничения связаны с потерями качества при низких уровнях квантизации и отсутствием подробных результатов оценивания. Модель распространяется по лицензии Apache-2.0.

Baanzon-Chenni-1.5-9B-GGUF — квантизированная версия модели Baanzon-Chenni-1.5-9B, разработанной Devopsopraiz и преобразованной в формат GGUF пользователем mradermacher. Модель относится к семейству Qwen3 и предназначена для генерации текста, диалоговых сценариев, задач программной инженерии и использования в автономных агентах. В карточке указан английский язык. Модель содержит около 9 миллиардов параметров и доступна в вариантах с разной степенью квантизации: от Q2_K до Q8_0, а также в формате F16. Размер файлов составляет примерно от 3,9 до 18 ГБ. Для мультимодального использования предоставляются отдельные файлы mmproj, однако поддерживаемые типы входных данных и точный набор мультимодальных возможностей не указаны. Размер контекста и другие архитектурные характеристики также не приведены. Основное преимущество сборки — возможность запуска модели в GGUF-совместимых средах с выбором компромисса между размером, скоростью и качеством. В README варианты Q4_K_S и Q4_K_M названы быстрыми и рекомендуемыми, Q6_K — обеспечивающим очень хорошее качество, а Q8_0 — быстрым вариантом с наилучшим качеством среди перечисленных. Более агрессивная квантизация может снижать качество ответов, а конкретные ограничения исходной модели и результаты оценивания не указаны. Лицензия модели — MIT.

COBOLX 1.5B — компактная инструкционно дообученная модель на архитектуре Qwen2 для анализа программ на COBOL. Её назначение — помогать разбираться в унаследованных кодовых базах: находить файлы, которые программа читает или изменяет, подключаемые copybook-файлы, поля данных и вызываемые процедуры. Модель содержит 1,5 млрд параметров, работает с текстом и поддерживает контекст до 32 768 токенов. По карточке она предназначена для английского языка и программ на COBOL. На тесте из 90 вопросов о незнакомых COBOL-программах модель находила все файлы чтения и записи; для copybook и числовых полей доля полностью правильных ответов составила 80% и 67% соответственно. Она менее надёжна при поиске недостижимых абзацев: в тесте справилась с 53% таких случаев. В длинных перечнях может пропускать элементы, а при неуверенности — выдумывать сведения. Рекомендуемый размер исходной программы — до примерно 6 КБ; результаты следует проверять, особенно перед изменением или удалением кода. Модель распространяется по лицензии Apache-2.0.

Это GGUF-квантизированная версия модели DeepSeek-V3.1-Terminus, подготовленная пользователем bartowski на основе оригинальной модели deepseek-ai. Квантизация выполнена с помощью llama.cpp версии b6550 с использованием метода imatrix и калибровочных наборов данных. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp. Доступны варианты квантизации от Q8_0 до Q2_K, различающиеся размером файла и качеством: старшие варианты обеспечивают более высокое качество, а младшие требуют меньше оперативной памяти. Рекомендуемыми автор считает, в частности, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS. В README не указаны архитектура, точный размер исходной модели, поддерживаемые языки, контекстное окно, мультимодальные возможности и формат промптов; для последнего рекомендуется обратиться к странице оригинальной модели. Лицензия также не указана, поэтому условия использования следует уточнять в репозитории исходной модели DeepSeek-V3.1-Terminus.