II.2Создание и понимание программного кода

Qwimi-3.6-27B-Coder-MTP-BF16 — модель для программирования, созданная trjxter на основе Qwen3.6-27B и дообученная методом supervised fine-tuning на корпусе с примерами кода, вызова инструментов и агентных сценариев. Это плотная модель на 27,8 млрд параметров с гибридной архитектурой: слои стандартного внимания чередуются со слоями линейного внимания GatedDeltaNet. Репозиторий содержит веса BF16 в формате safetensors; модель использует библиотеку Transformers и лицензию Apache-2.0. Модель предназначена для генерации и объяснения кода, отладки, рефакторинга, вызова функций и многошаговой работы с репозиторием в стиле SWE-agent. Обучение было текстовым, с преобладанием кода; заявленные авторами сценарии включают выдачу рассуждений и работу с инструментами. Хотя базовая архитектура мультимодальна и поддерживает изображения, зрительная часть при дообучении была заморожена, а понимание изображений не проверялось. Основной подтверждённый язык карточки — английский. Автор сообщает, что контекст проверялся до 16 384 токенов; поведение на большей длине не проверено в этом обучении. Агентных данных было сравнительно мало, а длинные траектории свыше примерно 16 тысяч токенов исключались. В отдельных тестах модель улучшила результат на HumanEval и задачах вызова инструментов, но уступила базовой модели на MBPP; общие результаты ограничены размером и составом тестовых наборов. Лицензия — Apache-2.0.

Qwopus3.5-9B-Coder-MTP-GGUF — набор GGUF-квантизаций модели Qwopus3.5-9B-Coder, разработанной Jackrong, с сохранёнными MTP-головами для multi-token prediction и speculative decoding. Квантизации подготовлены автором репозитория с использованием imatrix от mradermacher и инструментов llama.cpp. Модель ориентирована на генерацию и анализ кода, рассуждения, агентские сценарии, tool use и function calling; также заявлена поддержка работы с изображениями и текстом через mmproj-файлы. Доступны варианты IQ4_XS размером примерно 4,99–5,29 GiB. В README заявлены контекст до 98 304 токенов при использовании YaRN за пределами исходных 32 768 токенов, запуск примерно в 6 ГБ VRAM и начальная скорость около 60 токенов в секунду на RTX 4060 в Windows 11 с KVarN. Поддерживаются английский, китайский, корейский, русский, японский и испанский языки. Версии различаются распределением более точных форматов квантования по отдельным слоям; по наблюдениям автора, у V3 лишь незначительно снизилась доля принятых предсказаний по сравнению с V1, оставаясь выше 60% в задачах программирования. Модель подходит для локального запуска через llama.cpp и совместимые приложения, особенно когда важны небольшой размер, длинный контекст и ускорение декодирования MTP. Ограничения включают зависимость мультимодального режима от отдельного mmproj-файла, необходимость корректной настройки YaRN, KVarN и speculative decoding, а также отсутствие подробных независимых бенчмарков. Распространяется по лицензии Apache-2.0.

Qwopus3.6-27B-Coder-Compat-MTP-GGUF — GGUF-версия модели Jackrong/Qwopus3.6-27B-Coder, разработанная Jackrong. Это мультимодальная модель для генерации текста и работы с изображениями, ориентированная на программирование, рассуждения, агентские сценарии, использование инструментов и function calling. Заявлена совместимость с llama.cpp, minja и шаблонами Hugging Face Jinja, а также с OpenAI-совместимыми историями агентов. Ключевая особенность этой редакции — обновлённый chat template, который принимает аргументы вызовов инструментов как предварительно сериализованные JSON-строки, структурированные отображения или списки, сохраняя исходную структуру payload. В комплект включены MTP-тензоры для speculative decoding; заявленный показатель принятия черновых токенов составляет 76,81% (944 из 1229). Проверки совместимости шаблона дали 10 из 10 успешных случаев в Hugging Face и llama.cpp/minja, без зафиксированных некорректных циклов tool call. Модель поддерживает английский, китайский, испанский, русский и японский языки. Точный размер контекста, детали архитектуры и требования к ресурсам в README не указаны. Обновление относится к уровню шаблона совместимости: веса модели и встроенные MTP-тензоры, согласно README, не изменены. Модель распространяется по лицензии Apache-2.0.

Qwopus3.6-27B-v2-AWQ-4bit — это квантизированная версия Jackrong/Qwopus3.6-27B-v2, дообученной на базе Qwen 3.6 27B с дистилляцией рассуждений Claude Opus. Квантизацию выполнил mconcat. Модель предназначена для генерации текста, решения математических и логических задач, программирования, анализа, творческого письма, работы с общими знаниями и вызова инструментов. В README также сохранены метаданные мультимодального процессора и vision-компонентов. Модель использует гибридную архитектуру DeltaNet и softmax attention, а также однос-layer MTP head для speculative decoding. Основные веса представлены в формате AutoAWQ INT4 (W4A16) с размером группы 128, при этом ряд компонентов, включая vision tower, мультимодальный проектор, MTP head, нормы и крайние слои трансформера, сохранён в BF16. Размер чекпойнта составляет около 26 ГБ вместо примерно 54 ГБ у BF16-версии. Заявлены языки English, Chinese, Korean и Japanese; в конфигурации запуска указан максимальный контекст 16384 токена. К сильным сторонам относятся существенное уменьшение размера модели, сохранение качества исходной BF16-версии на приведённых тестах и ускорение генерации с MTP speculative decoding. На одном NVIDIA B300 SXM6 заявлена скорость до 251 токена в секунду при batch size 1 и ускорение 2,19 раза относительно режима без MTP. Ограничения включают зависимость от совместимого окружения vLLM версии 0.21.0 или выше, необходимость trust_remote_code для указанного запуска и аппаратную специфику приведённых показателей производительности. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой модели.

Qwopus-3.6-35B-A3B-Coder — созданная Jackrong экспериментальная модель для агентного программирования, основанная на Qwopus3.6-35B-A3B-v1 и Qwen3.6-35B-A3B. Это разреженная MoE-модель с 35 млрд параметров и примерно 3 млрд активных параметров на токен; она настроена на генерацию кода и рабочие циклы с вызовами инструментов при отключённом развёрнутом рассуждении. Модель предназначена для агентных систем, которые читают файлы, вносят изменения, запускают тесты и исправляют ошибки, а также для локального и самостоятельного развёртывания. Заявленные сценарии включают многофайловые изменения репозиториев, отладку, циклы исправления тестов, навигацию по крупным кодовым базам, DevOps-скрипты и помощь при проверке кода. Карточка сообщает о настройке под распространённые агентные оболочки и о fine-tuning с использованием Unsloth; метаданные указывают интерфейс вызова инструментов. Поддерживаются английский, китайский, испанский, русский и японский. Репозиторий содержит веса Safetensors и распространяется по лицензии Apache-2.0. Автор позиционирует выпуск как экспериментальный и отмечает, что модель не прошла полную оценку безопасности и широкое тестирование на общих задачах. Качество вызовов инструментов зависит от формата запросов и агентной оболочки; для сложных задач развёрнутое рассуждение может быть полезнее.

mlx-community/Qwopus3.6-35B-A3B-Coder-bf16 — конвертированная в BF16 MLX-версию модели Jackrong/Qwopus3.6-35B-A3B-Coder. Репозиторий сохраняет шаблон чата и конфигурацию мультимодального процессора для текста, кода, изображений и видео; модель предназначена для инференса на компьютерах Apple Silicon с использованием MLX и mlx-vlm. Модель относится к семейству Qwen3.5 MoE и поддерживает диалог, программирование, работу с изображениями и вызов инструментов. В метаданных указаны английский, китайский, испанский, русский и японский языки, однако подробности исходной карточки о качестве и сценариях доступны по ссылке на базовую модель. Репозиторий распространяется по лицензии Apache 2.0.

Qwopus3.8-27B-Flash-TQ3_4S — сборка в формате GGUF модели Jackrong/Qwopus3.8-27B-Flash, разработанной как скоростной вариант Qwen/Qwen3.8-27B для агентных сценариев. Это плотная мультимодальная модель с поддержкой диалога и анализа изображений и видео; в комплекте сохранена голова NextN/MTP для ускорения генерации методом self-speculative decoding. Файл модели занимает 13,6 ГБ, проектор зрения — 1,8 ГБ; README приводит тестирование на GPU RTX 3090 и контекст 32768 токенов в рекомендуемой конфигурации. Модель ориентирована на быстрые циклы работы агентов и генерацию кода. В README сообщаются результаты тестов Hard86, HumanEval и MBPP, а также ускорение декодирования на задачах с кодом при включённом MTP. Это заявление автора карточки; результаты зависят от конфигурации, а сравнение с базовой моделью проводилось при различающихся бюджетах рассуждений. Для загрузки TQ3_4S необходима специальная сборка turbo-tan/llama.cpp-tq3: стандартная llama.cpp этот тип тензоров не поддерживает. Лицензия — Apache-2.0.

QwQ-32B-Coder-Fusion-9010 — экспериментальная смешанная языковая модель от huihui-ai, объединяющая веса QwQ-32B-Preview-abliterated и Qwen2.5-Coder-32B-Instruct-abliterated в соотношении 90:10. Это плотная модель семейства Qwen2 с 32 млрд параметров, предназначенная для диалоговой генерации текста, включая задачи программирования. Она работает через Transformers, принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Смешение добавляет к основной модели QwQ долю модели, настроенной на код, сохраняя при этом её диалоговые возможности. Автор описывает веса как пригодные к использованию без появления бессвязных ответов, но представляет работу как эксперимент по сравнению разных пропорций смешивания. Модель распространяется по лицензии Apache-2.0.

Replete-Coder-Llama3-8B-GGUF — это квантизированная версия модели Replete-Coder-Llama3-8B, разработанной Replete-AI и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp и imatrix-квантизации. Модель основана на архитектуре Llama 3 с 8 млрд параметров и предназначена для генерации текста и работы с программным кодом. Модель ориентирована на задачи программирования, генерации и дополнения кода, обработки инструкций, функционального вызова, математических рассуждений и общего диалогового применения. Обучение проводилось на наборах данных с примерами кода, инструкций, диалогов, математических задач и данных по поиску уязвимостей. В README указан шаблон запросов с секциями System, Instruction и Response. Поддерживается только текстовый ввод и вывод; сведения о языках, максимальной длине контекста и точных результатах тестов не приведены. Доступно несколько уровней квантизации GGUF: от Q5 до Q8, с размером файлов примерно от 5,73 до 9,52 ГБ. В README варианты Q5_K_M, Q6_K и Q6_K_L отмечены как рекомендуемые благодаря сочетанию качества и размера, а Q8 ориентированы на максимально высокое качество. Квантизация снижает требования к памяти, но может незначительно влиять на точность по сравнению с исходной моделью; числовые результаты бенчмарков отсутствуют. Использование регулируется лицензией Llama 3 от Meta, обозначенной как license_name: llama-3.

Replete-Coder-V2-Llama-3.1-8b-GGUF — это набор GGUF-квантизаций модели Replete-Coder-V2-Llama-3.1-8b, разработанной Replete-AI и сконвертированной и квантованной bartowski с использованием llama.cpp и метода imatrix. Модель относится к классу text-generation и предназначена прежде всего для генерации и обработки программного кода. В README явно указан английский язык; другие языки не заявлены. Модель основана на архитектуре Llama 3.1 и имеет 8 миллиардов параметров. Доступны варианты от F16 до Q2_K, с размером файлов примерно от 3,18 до 16,07 ГБ. Квантизации позволяют запускать модель локально с различными компромиссами между качеством и требованиями к памяти; для работы рекомендуется llama.cpp, в частности через LM Studio. Наиболее качественными и рекомендуемыми названы варианты Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M и некоторые другие. Более сильное сжатие уменьшает требования к оперативной памяти, но снижает качество. Модель поддерживает текстовый ввод и вывод; сведения о мультимодальности и размере контекстного окна в README отсутствуют. Для корректного взаимодействия следует использовать указанный шаблон промпта с ролями system, user и assistant. Модель распространяется под лицензией Apache-2.0. Описанные ограничения включают зависимость качества от выбранного уровня квантизации и отсутствие данных о бенчмарках, точности, безопасности и применимости за пределами заявленного английского языка.

teknium разработал Replit-v2-CodeInstruct-3B — инструкционную донастройку базовой модели replit/replit-code-v1-3b семейства MPT с плотной архитектурой для генерации кода. Модель обучена следовать инструкциям в формате Alpaca и выдавать ответы на задачи по программированию. Для дообучения использовались около 25 тысяч пар инструкций и ответов из CodeAlpaca и GPTeacher Code-Instruct; обучение проходило на двух A100 80 ГБ. По сравнению с первой версией, обучавшейся на последовательностях длиной 512 токенов, здесь использовались последовательности длиной 2000 токенов. Модель распространяется в формате PyTorch по лицензии CC BY-SA 4.0. Модель подходит для генерации кода по текстовому заданию и ответов на инструкции по программированию. Автор сообщает о проблемах с параметром device="auto" и необходимости загружать модель с trust_remote_code=True; качество и корректность кода следует проверять.

Rombos-Coder-V2.5-Qwen-7b-GGUF — это GGUF-квантизованная версия кодовой языковой модели Rombos-Coder-V2.5-Qwen-7b, опубликованная и квантизованная bartowski с использованием llama.cpp и метода imatrix. Базовая модель разработана rombodawg и основана на семействе Qwen. Модель предназначена для генерации текста и программного кода, включая локальный запуск через llama.cpp или LM Studio. В репозитории представлены варианты от F16 до низкобитных квантований Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ-форматов, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Размер исходной модели обозначен как 7B; точные сведения об архитектуре, длине контекста, дополнительных модальностях и полном наборе поддерживаемых языков в README не указаны. Заявлен английский язык, а pipeline модели относится к text-generation. Сильной стороной является широкий выбор квантований, включая варианты, оптимизированные для ARM, а также высококачественные Q6 и Q5, рекомендованные автором. Ограничения зависят от выбранного варианта: более компактные квантования снижают качество, а ARM-специализированные файлы требуют соответствующих аппаратных инструкций и не рекомендуются для Mac или Windows. Для использования указан формат диалогового шаблона ChatML. Лицензия — Apache-2.0; ссылка на лицензию ведёт к лицензии Qwen2.5-Coder-14B.

rombodawg/rombos_Replete-Coder-Instruct-8b-Merged — объединённая методом TIES языковая модель для генерации кода и диалоговых инструкций. Она основана на слиянии трёх моделей семейства Llama 3 8B, включая NousResearch/Meta-Llama-3-8B, NousResearch/Meta-Llama-3-8B-Instruct и Replete-AI/Llama3-8B-Instruct-Replete-Adapted. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и принимает контекст до 8192 токенов. Модель предназначена для генерации и дополнения кода, а также для ответов в формате инструкционного диалога. В README автор сообщает, что кодовые и общие результаты кажутся лучше, чем у обеих базовых моделей, но подробные будущие бенчмарки ещё не представлены; в карточке также приведены отдельные результаты Open LLM Leaderboard. Поддержка языков программирования и естественных языков отдельно не описана. Веса опубликованы в формате safetensors. Лицензия — Apache-2.0.

RTL-Flutter 0.2 — экспериментальная языковая модель RahnTechLabs для инженерной помощи по Dart, Flutter и мобильной разработке. Она дообучена на базе Qwen/Qwen3.5-4B: LoRA-адаптер объединён с базовой моделью, а итоговые веса опубликованы в формате GGUF с квантизацией Q4_K_M для запуска через llama.cpp. Модель предназначена для генерации кода и объяснений, ревью кода, отладки и обсуждения архитектуры приложений для Flutter, Android и iOS. При обучении использовали 475 примеров и официальные материалы по Flutter и flutter_bloc. Модель может уверенно ошибаться, особенно в сведениях о конкретных версиях API и редких случаях; ответы следует сверять с актуальной документацией и SDK перед использованием кода в production. Контрольные данные и бенчмарк не опубликованы. Лицензия — Apache-2.0.

mondk/Safetensors.Claude-Qwen3.5-4B-Reasoning — дообученная модель семейства Qwen3.5, созданная на основе TeichAI/Qwen3.5-4B-Claude-Opus-Reasoning-Distill. Это плотная модель с архитектурой Qwen3_5ForConditionalGeneration, опубликованная в формате Safetensors и лицензированная по Apache-2.0. Поддерживает диалог, интерфейс вызова инструментов и работу с изображениями; в карточке указаны английский, китайский и вьетнамский языки. Модель ориентирована прежде всего на рассуждения и помощь в программировании. Для дообучения использованы наборы трасс Claude Code и примеры рассуждений Claude Sonnet и Claude Opus. В описанном автором небольшом тесте модель прошла 5 из 5 простых, 8 из 8 средних и 5 из 7 сложных задач; это результаты конкретного набора вопросов, а не независимая оценка качества. Автор также сообщает об улучшении результата для задач программирования на 23%, не уточняя методику сравнения.

Nanthasit/sakthai-coder-1.5b — модель от разработчика Nanthasit, дообученная на базе Qwen2.5-Coder-1.5B-Instruct. Она предназначена для генерации и завершения кода, исправления ошибок, небольших рефакторингов, а также формирования JSON для вызова инструментов и функций. Модель имеет около 1,5 млрд параметров и поставляется в формате GGUF с квантизацией Q4_K_M. Она ориентирована на локальный офлайн-запуск на CPU через llama.cpp или llama-cpp-python; заявленный объём памяти составляет менее 1,2 ГБ, а пример конфигурации использует контекст 4096 токенов. В карточке указан английский язык. Рекомендуемые параметры генерации включают temperature 0,2, top_p 0,9 и до 1024 новых токенов. Сильными сторонами являются компактность, возможность работы без GPU и поддержка структурированных tool-calling-ответов: для SakThai Bench v2 заявлены 100% валидных JSON-ответов и 91,2% точности выбора инструмента при корректном формате prompt. Модель также демонстрирует пригодность для типичных задач программирования, однако результаты могут зависеть от формата запроса, а ошибки в анализе логики кода всё ещё возможны, поэтому критические изменения требуют проверки. Модель распространяется по лицензии Apache 2.0.

Salience 1 (9B) — плотная мультимодальная модель Vection Labs на архитектуре Qwen3-VL с языковой частью Qwen3-8B и встроенным визуальным энкодером. Она принимает текст, изображения и видео и генерирует текст; заявленное окно контекста достигает 1 млн токенов. Модель рассчитана на техническую помощь, программирование и исследовательские задачи. Основные сценарии — генерация, объяснение, отладка и проверка кода, работа кодовых агентов с инструментами, пошаговые математические рассуждения, визуальные вопросы и анализ документов, диаграмм, графиков и коротких видеороликов. В README заявлены поддержка длинного контекста и режимы управления глубиной рассуждения. Указан английский язык. Модель может уверенно выдавать неверные факты и решения, а сгенерированный код может быть ошибочным или небезопасным. Длинные контексты и видеоролики повышают задержку и расход памяти; аудио не поддерживается. Для модели указана лицензия Apache-2.0.

Signal-3.8-27B-NVFP4-Blackwell-DFlash2-Ultra-V1.0 — квантованная NVFP4-версия модели Signal-3.8-27B от agentionai, созданной на базе Qwen3.8-27B от Qwen. Это GGUF-сборка для запуска через llama.cpp CUDA на одной видеокарте RTX 5090 с 32 ГБ памяти и поддержкой спекулятивного декодирования DFlash2. Модель предназначена для рассуждений, программирования, агентских задач, структурированной генерации и диалогов; заявлена также поддержка изображений через отдельный vision-проектор. Основная модель занимает около 16,9 ГБ, включает NVFP4-квантованный корпус, высокоточные Q8_0-головы и MTP-голову. Доступен контекст до 262 144 токенов, а языковая поддержка обозначена как multilingual, без уточнения конкретного набора языков. Минимально изменённая тонкая настройка отличается от базовой модели только lm_head.weight, что позволяет использовать согласованный DFlash2-драфтер без изменения результатов декодирования. На заявленном оборудовании сборка показывает высокую точность в тестах GSM8K, хорошие результаты в кодовых агентских задачах и ускорение декодирования благодаря speculative decoding. Сильные стороны модели — эффективность на задачах рассуждения и программирования, большой контекст, совместимость с одной RTX 5090 и ускоренное декодирование. Ограничение — повышенная многословность в открытом диалоге по сравнению с альтернативной сборкой GAIN; для длинных генераций не рекомендуется жадное декодирование, а для сложных задач требуется не менее 4096 токенов вывода. Для обработки изображений необходим отдельный проектор mmproj-BF16, при этом повторное использование кэша промпта отключается. Распространяется по лицензии Apache-2.0.

Sinythos 5.5 — это готовый к запуску вариант Qwen3-30B-A3B-Thinking-2507, подготовленный HTPQoo и распространяемый в формате GGUF для LM Studio, Jan, Atomic Chat и llama.cpp. Это модель MoE с 30 млрд параметров, из которых активны 3,3 млрд на токен; README сообщает, что все 579 тензоров побайтно совпадают с квантованной сборкой UD-Q4_K_XL базовой модели. Изменены встроенный шаблон чата и системная директива с шестью правилами поведения, поэтому модель не является обученной с нуля или дообученной версией. Модель предназначена для диалогов и генерации текста, включая рассуждения, помощь с программированием и агентские сценарии с внешними инструментами, выполнением кода и повторной проверкой ответа. Встроенная директива ориентирует ответы на язык пользователя; в метаданных отмечены итальянский, английский и многоязычность. Для применения в llama.cpp требуется включить обработку шаблона через `--jinja`; без неё пользовательские инструкции из шаблона не применяются. README указывает файл размером 17,7 ГБ и возможность запуска на CPU при достаточном объёме RAM. Веса распространяются по лицензии Apache 2.0, унаследованной от Qwen; для кода runtime указана MIT. Для полной реализации агентского сценария требуются runtime и инструменты, которые предоставляет приложение, а не только файл модели.

SIQ-1-35B — дообученная и дистиллированная модель семейства Qwen, разработанная AlexWortega на базе Qwen/Qwen3.6-35B-A3B. Это текстовая MoE-модель для генерации текста с 35 млрд параметров суммарно и примерно 3 млрд активных параметров на каждом токене. Модель ориентирована на английский язык и поддерживает гибридный режим рассуждений: пошаговое мышление с блоком <think> или прямую генерацию ответа. Модель предназначена для универсальных агентных сценариев, включая автономное ML-исследование, написание и отладку кода, использование инструментов, планирование действий и сложное рассуждение. В README заявлены сильные результаты на GPQA-Diamond, IFEval, агентном кодинге и задачах autoresearch; также отмечается сниженный расход токенов по сравнению с рядом более крупных моделей. Режим reasoning effort позволяет регулировать длину рассуждений, а отключение мышления подходит для быстрых ответов и задач с высокой пропускной способностью. Приведённые результаты зависят от квантизации, формата вычислений, настроек генерации и тестового стенда; часть сравнений выполнена на Q4_K_M GGUF, а результаты autoresearch не сопоставимы с официальными рейтингами из-за ограничений оборудования. Контекстное окно и мультимодальные возможности в README не указаны, поэтому модель следует рассматривать как текстовую. Модель распространяется по лицензии Apache-2.0.

jambroz/sixtyoneeighty-4x7B-v1 — слитая модель семейства Mixtral, созданная jambroz с помощью LazyMergekit на основе четырёх моделей Mistral: jambroz/sixtyoneeighty-7b-chat, NeuralNovel/Mistral-7B-Instruct-v0.2-Neural-Story, S-miguel/The-Trinity-Coder-7B и chihoonlee10/T3Q-Mistral-Orca-Math-DPO. Она предназначена для диалоговой генерации текста, дополнения кода, логических рассуждений и решения задач по программированию. Модель использует архитектуру Mixtral с механизмом mixture-of-experts (MoE), содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате Safetensors. Модель лицензирована по Apache-2.0. Карточка не уточняет поддерживаемые естественные языки и конкретные ограничения качества.

Skuld-Qwen2.5-7B — объединённая модель на архитектуре Qwen2, созданная с помощью mergekit методом TIES на основе WhiteRabbitNeo/WhiteRabbitNeo-2.5-Qwen-2.5-Coder-7B и Locutusque/StockQwen-2.5-7B. Это плотная языковая модель с 7,1 млрд параметров для генерации текста в диалоговом режиме; в каталоге базовая модель описана как предназначенная для генерации кода и помощи в задачах кибербезопасности. Модель принимает текст и генерирует текст. Максимальная длина контекста составляет 32 768 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.

Skywork_SWE-32B-GGUF — это набор квантизированных сборок модели Skywork-SWE-32B, разработанной командой Skywork и преобразованной в формат GGUF пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста и прежде всего ориентирована на задачи программной инженерии, включая сценарии SWE-bench. Запуск возможен через LM Studio, llama.cpp и другие проекты на базе llama.cpp. Для работы рекомендуется использовать указанный шаблон чата с ролями system, user и assistant. Модель содержит 32 млрд параметров; доступны варианты от BF16 до различных уровней квантизации, включая Q8_0, Q6_K, Q5_K, Q4_K и Q3_K. Размер файлов варьируется примерно от 13 до 66 ГБ, что позволяет выбирать баланс между качеством и требованиями к памяти. Старшие варианты квантизации обеспечивают качество, близкое к исходной модели, тогда как младшие требуют меньше ресурсов, но могут заметно терять в качестве. Архитектура, поддерживаемые языки, модальности и размер контекстного окна в предоставленных данных не указаны. Модель распространяется по лицензии Apache-2.0.

Snowflake Arctic-Base — базовая языковая модель, разработанная командой Snowflake AI Research Team и предварительно обученная с нуля. Это гибридный трансформер с архитектурой dense-MoE: плотный блок на 10 млрд параметров сочетается с остаточным MoE-блоком из 128 экспертов; по README активно выбираются 17 млрд параметров на токен с помощью top-2 gating. В метаданных репозитория указано 11,1 млрд параметров, а нативное окно контекста составляет 4096 токенов. Модель принимает текст и генерирует текст, включая код. Она предназначена как базовая модель для генерации и продолжения текста, а также для создания собственных прикладных решений и последующего дообучения; версия Base не является instruct-вариантом. Для запуска README рекомендует Transformers версии 4.39 или выше с `trust_remote_code=True`; для инференса предлагается сервер с 8 ускорителями H100. Лицензия Apache-2.0 допускает использование в исследованиях, прототипах и продуктах.

MaziyarPanahi/speechless-code-mistral-7b-v1.0-Mistral-7B-Instruct-v0.1 — объединённая модель на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием mistralai/Mistral-7B-Instruct-v0.1 и uukuguy/speechless-code-mistral-7b-v1.0 методом SLERP; веса представлены в формате safetensors. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы, с акцентом на задачи программирования. Поддерживает контекст до 32 768 токенов и в первую очередь рассчитана на английский язык и код. Лицензия — Apache-2.0. Качество ответов зависит от запроса; README не приводит результатов оценивания или конкретных ограничений. Это следует учитывать при использовании сгенерированного кода и проверять его перед применением.

speechless-code-mistral-7b-v1.0-Mistral-7B-Instruct-v0.2-slerp — объединённая методом SLERP модель MaziyarPanahi на архитектуре Mistral, созданная из mistralai/Mistral-7B-Instruct-v0.2 и uukuguy/speechless-code-mistral-7b-v1.0. Она предназначена для диалоговой генерации текста и ответов на инструкции, включая задачи, связанные с программным кодом. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Модель принимает текст и выдаёт текст. Метаданные указывают Apache-2.0; веса доступны в формате safetensors. Данные карточки не уточняют языки, на которых модель лучше всего работает, и не приводят отдельной оценки качества или ограничений по задачам.

speechless-mistral-hermes-code-7b — дообученная модель на архитектуре Mistral, созданная на основе mistralai/Mistral-7B-v0.1. В README указано, что обучение на 986 тыс. примеров из OpenHermes-2.5, Python Eval Instruct, Spider и Evol-Instruct было направлено на улучшение рассуждений и планирования; модель принимает инструкции в формате Alpaca. Модель предназначена для генерации текста по инструкциям, включая помощь с кодом и задачами, требующими рассуждений. Она содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и поддерживает контекст до 32 768 токенов. В метаданных указан английский язык и библиотека Transformers. Модель распространяется в формате safetensors по лицензии Apache-2.0. В таблицах README приведены названия оценочных наборов, но значения результатов отсутствуют, поэтому по карточке нельзя судить о достигнутом качестве на этих тестах.

speechless-thoughts-mistral-7b — дообученная авторами Speechless модель Mistral для генерации текста с акцентом на программирование, рассуждения и планирование. Она создана как базовый вариант для speechless-sparsetral-16x7b-MoE и обучена на примерах инструкций из нескольких наборов данных, включая Airoboros, OpenOrca, Open-Platypus, WizardLM, наборы задач по Python, Spider и Evol-Instruction. Модель имеет плотную архитектуру MistralForCausalLM с 7,1 млрд параметров, принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Карточка использует формат инструкций Alpaca. Модель подходит для генерации и объяснения кода, ответов на инструкции, задач на рассуждение и планирование, а также запросов к базам данных на SQL. Метаданные указывают английский язык и поддержку кода. В README приведены отдельные результаты оценки на бенчмарках, но значение HumanEval не заполнено. Лицензия — Llama 2; применяйте модель в соответствии с её условиями.

bartowski/starcoder2-15b-instruct-GGUF — это набор GGUF-квантизаций модели StarCoder2-15B-Instruct, разработанной TechxGenus и опубликованной в формате для запуска через llama.cpp. Квантизацию выполнил bartowski с использованием llama.cpp release b2354. Модель относится к классу text-generation и предназначена прежде всего для генерации и обработки программного кода, включая локальные сценарии запуска с ограниченными ресурсами. Доступны варианты квантизации Q2_K, Q3_K_S, Q3_K_M, Q3_K_L, Q4_0, Q4_K_S, Q4_K_M, Q5_0, Q5_K_S, Q5_K_M, Q6_K и Q8_0. Размер файлов составляет примерно от 6,19 до 16,96 ГБ. Q6_K отмечен как рекомендуемый вариант с очень высоким качеством, Q8_0 обеспечивает максимальное доступное качество, а варианты Q3 и Q2 требуют меньше памяти, но заметно уступают по качеству. Архитектура, поддерживаемые языки программирования, языки естественного языка, модальности и размер контекста в README не указаны. Сильной стороной модели является возможность локального использования в экосистеме llama.cpp с выбором компромисса между качеством и требованиями к памяти. Ограничения связаны с потерями качества при низких уровнях квантизации, а также с отсутствием в представленном README подробностей о возможностях, бенчмарках и контекстном окне. Модель распространяется по лицензии BigCode OpenRAIL-M.

QuantFactory/starcoder2-3b-instruct-GGUF — квантизированная версия модели TechxGenus/starcoder2-3b-instruct, подготовленная QuantFactory с использованием llama.cpp. Модель предназначена прежде всего для генерации кода и выполнения инструкций, связанных с программированием; для задач, не относящихся к кодированию, её возможности могут быть ограничены. В основе лежит StarCoder2 с 3 млрд параметров, дообученная на 0,7 млрд дополнительных высококачественных токенов, связанных с программным кодированием, в течение трёх эпох. При обучении использовались DeepSpeed ZeRO 3 и Flash Attention 2. Модель работает в формате инструкций Alpaca без системного промпта; в README приведён шаблон с секциями «Instruction» и «Response». Заявленный результат на HumanEval-Python составляет 65,9 pass@1. Сведения о поддерживаемых языках программирования, размере контекста и точном типе квантизации не указаны. К сильным сторонам относятся специализация на коде, компактный размер и доступность в формате GGUF для запуска через llama.cpp. Ограничения включают возможные ошибки и вводящие в заблуждение ответы, слабую пригодность для некодовых задач и ограниченное тестирование; перед применением в реальных системах рекомендуется дополнительная проверка безопасности. Лицензия — BigCode OpenRAIL-M.