II.3Рефакторинг, миграция и модернизация

Ternary Bonsai 2 27B PTQ1_0 MTP GGUF — это сжатая до ternary-представления сборка Qwen 3.8 27B от автора sudoingX. Веса поставляются в формате GGUF для запуска через форк llama.cpp; в модель добавлена голова multi-token prediction из Qwen 3.8 27B, чтобы ускорять генерацию с помощью speculative decoding. Размер файла модели — около 7 ГБ. Модель предназначена для локального диалога и генерации текста на компьютерах с видеокартами NVIDIA RTX 20–50 и, в бета-режиме, AMD Radeon. README описывает измерения производительности на разных видеокартах, а также запуск с контекстом до 262 144 токенов и обработку изображений при подключённой vision tower. Реальная скорость, допустимая длина контекста и доступность зрения зависят от видеокарты, сборки и настроек. MTP ускоряет декодирование, но без режима batch-invariant результат генерации может отличаться от обычного декодирования; на RTX 20 побайтовая идентичность не гарантируется и при этом режиме. Модель распространяется по лицензии Apache-2.0. Для описанного запуска нужны совместимый бинарный файл форка PrismML llama.cpp и подходящая конфигурация под видеокарту.

DeepSeek-V4-Pro-Qwen3.5-9B — компактная языковая модель для генерации текста и рассуждений, разработанная Jackrong на базе Qwen3.5-9B. Она создана методом дистилляции ответов DeepSeek-V4-Pro в режиме Max Effect и ориентирована прежде всего на математические и STEM-задачи, многошаговое решение проблем, структурированное рассуждение, программирование, использование инструментов и function calling. Модель содержит около 9 миллиардов параметров и обучалась примерно на 250 000 примерах по математике и научному рассуждению. Указана поддержка английского, китайского, корейского, японского, испанского и русского языков. Модель относится к текстовым генеративным системам; сведения о точной архитектуре и размере контекстного окна не приведены. Отдельно заявлены оценка MTP и варианты развертывания через vLLM с NVFP4 и llama.cpp с MTP-Q8_0. Сильными сторонами являются компактный размер, ориентация на математическое и научное рассуждение, перенос улучшений на программирование и использование инструментов без специализированного SFT по коду, а также пригодность для практического локального развертывания. Ограничения включают узкую специализацию обучающих данных и отсутствие подробных количественных результатов оценки; качество в других доменах не подтверждено. Модель распространяется по лицензии Apache-2.0.

GLM-5.2-EXL3-TR3-3.0bpw — квантизированная версия модели GLM-5.2, опубликованная brandonmusic на основе zai-org/GLM-5.2 и malaiwah/GLM-5.2-EXL3-TR3-MTP78. Это текстовая генеративная модель с архитектурой mixture-of-experts, предназначенная для генерации текста, включая общие, юридические, программные, агентские и рассуждательные сценарии. Заявлена поддержка английского и китайского языков. Модель использует формат EXL3 Trellis с целевой точностью 3,0 bits per weight для маршрутизируемых MoE-экспертов в слоях 3–77; чувствительные к точности компоненты, включая attention, embeddings, LM head, shared experts и часть MLP, сохранены в BF16 или исходной точности. Сборка rank-sliced TP4 оптимизирована для четырёх GPU NVIDIA Blackwell, занимает около 332,19 GB и включает MTP-слой 78 для speculative decoding. README не указывает размер контекста. Сильными сторонами являются существенное снижение требований к хранению весов при сохранении точности критических компонентов, поддержка MTP speculative decoding, sparse MLA и KV-кэша NVFP4, а также проверенная работа на четырёх RTX PRO 6000 Blackwell 96 GB. Ограничения включают очень высокие аппаратные требования и необходимость специального runtime custom vLLM + Sparkinfer; модель не является готовой для непосредственного использования в Transformers. Для запуска требуется совместимый Docker-образ и NVIDIA-инфраструктура. Распространение указано по лицензии MIT.

ProCreations/grug-v1.1-qwen-3.8-27b-mtp — вариант диалоговой модели Grug v1.1 на базе Qwen3.8-27B с настроенной головой предсказания следующего токена. Разработчик дообучил только модуль MTP объёмом 425 млн параметров методом самодистилляции на собственных ответах Grug; основные веса заморожены и, согласно карточке, не меняют ответы модели. Голова предназначена для speculative decoding: она предлагает токены наперёд, которые основная модель проверяет, что может повысить скорость генерации в совместимом движке. В тесте на данных Grug совпадение предсказания второго следующего токена с проверяющей моделью составило 95,37%. Это показатель согласия, а не измеренный прирост скорости; фактическая производительность зависит от движка, размера пакета и длины чернового предсказания. Для использования головы README приводит vLLM и SGLang с поддержкой Qwen3.8 MTP; обычный Transformers может игнорировать MTP-модуль и запускать основную модель без ускорения. Базовая модель предназначена для диалогов, рассуждений, программирования и агентных сценариев с инструментами. Лицензия — Apache-2.0.

Hemlock-Tincture-14B-i1-GGUF — это квантизированная версия текстовой генеративной модели Hemlock-Tincture-14B, разработанной nbeerbower и преобразованной в формат GGUF пользователем mradermacher. Модель обучалась с использованием наборов данных Hemlock2-DPO, hemlock-codex-SFT и hemlock-formulary-SFT, что указывает на применение методов DPO и SFT для улучшения следования инструкциям и работы с текстом. Модель предназначена для генерации текста на английском языке и может использоваться в локальных сценариях через совместимые с GGUF инструменты. Указан размер базовой модели 14B, однако сведения о конкретной архитектуре, длине контекста, поддерживаемых модальностях и точных функциональных возможностях отсутствуют. Доступны варианты квантизации от i1-IQ1_S до i1-Q6_K с размером файлов примерно от 3,7 до 12,2 ГБ; варианты различаются балансом между качеством, скоростью и требованиями к памяти. К сильным сторонам относятся широкий выбор вариантов квантизации и возможность локального запуска, а также обучение на специализированных наборах данных для диалоговых и кодовых сценариев. Ограничения включают работу только с текстом, заявленную поддержку английского языка и потенциальное снижение качества у наиболее компактных вариантов квантизации. Лицензия в README не указана, поэтому условия использования необходимо уточнять отдельно.

InternLM JanusCoder-8B-GGUF — это набор квантованных моделей в формате GGUF, созданный пользователем bartowski на основе JanusCoder-8B от разработчика internlm. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Модель имеет размер 8B параметров; доступны версии от BF16 до различных вариантов квантования Q8, Q6, Q5, Q4, Q3 и Q2. Размер файлов составляет примерно от 3,77 до 16,39 ГБ в зависимости от формата, что позволяет выбирать между качеством вывода и требованиями к памяти. Для квантования использовался llama.cpp с методом imatrix. В README не указаны поддерживаемые языки, размер контекста, мультимодальные возможности и точные специализации JanusCoder-8B, поэтому область применения можно описать только в общем виде как генерацию текста. Сильной стороной набора является широкий выбор квантований для локального запуска: высококачественные варианты Q6_K_L и Q6_K отмечены как близкие к исходному качеству, а Q4_K_M рекомендован как сбалансированный вариант для большинства сценариев. Более компактные версии подходят для систем с ограниченным объёмом оперативной памяти, но обеспечивают более низкое качество. Шаблон чата в README не задан и может требовать проверки по исходной карточке модели. Лицензия в предоставленных данных не указана.

Kiwen-27B — дообученная мультимодальная модель Qwen, созданная на основе Qwen/Qwen3.8-27B с использованием длинных трасс рассуждений Kimi K3. Её дообучение направлено на то, чтобы модель завершала рассуждение и выдавала ответ до исчерпания лимита генерации; автор не заявляет, что она в целом сильнее базовой модели. Модель предназначена для диалогов и задач с изображениями, а также для многошаговых задач на рассуждение, включая математику и программирование. В README приведены результаты GSM8K: улучшение точности составило 10,31 процентного пункта при гибком извлечении ответа и 6,07 пункта при строгом. Это указывает, что часть выигрыша связана с более надёжным завершением ответа, а не обязательно с улучшением математических способностей. Проверка на вьетнамских корпоративных документах показала небольшое ухудшение NLL относительно базовой модели. Kiwen-27B — плотная модель семейства Qwen с 27 млрд параметров, архитектура Qwen3_5ForConditionalGeneration. Она принимает текст и изображения и выдаёт текст. В метаданных указаны вьетнамский, английский и китайский языки. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0.

Mermaid-Llama-6.7B-RAG-Code-Instruct-GGUF — квантованная версия модели Mermaid-Llama-6.7B-RAG-Code-Instruct, разработанная TroyDoesAI и подготовленная в формате GGUF пользователем afrideva. Модель предназначена для генерации текста, анализа кода и преобразования информации в визуальные представления на синтаксисе Mermaid JS. Она ориентирована на создание блок-схем по Python-коду, визуализацию сюжетов и взаимодействий персонажей, построение карт процессов и проектов, а также формирование структурированных графов знаний для сценариев Retrieval-Augmented Generation (RAG). Дополнительно модель умеет генерировать исполняемые фрагменты кода по инструкциям пользователя. Модель содержит 6,7 млрд параметров; точная базовая архитектура, поддерживаемые языки и перечень модальностей в README не указаны. Контекст ограничен 4096 токенами, что затрудняет обработку больших системных диаграмм без предварительной агрегации. Для повышения следования контексту и снижения галлюцинаций используется специальный формат запросов с блоками контекста и инструкций, совместимый с подходом airoboros context-obedient. Сильными сторонами заявлены понимание Python, генерация Mermaid-диаграмм, работа со структурированными знаниями и генерация кода, однако заявленные превосходство над GPT-4 и точность результатов не подтверждены независимыми оценками. Лицензия модели — CC BY 4.0. README не содержит подробностей о конкретных вариантах квантования, требованиях к аппаратному обеспечению или рекомендуемом программном обеспечении для запуска GGUF-файлов.

Mythos-nano — независимая открытая модель проекта squ11z1, дообученная на базе WeiboAI/VibeThinker-3B. Это текстовая авторегрессионная модель для генерации текста, ориентированная прежде всего на рассуждения, математические задачи и программирование. Указан английский язык; модель также позиционируется для задач на знания и следование инструкциям. Модель содержит около 3 млрд параметров и относится к семейству Qwen2 согласно тегам репозитория. В README не указаны точная архитектура, размер контекста и данные обучения. По приведённым результатам она демонстрирует сильные показатели на соревновательной математике и задачах программирования, включая LeetCode, а также хорошие результаты на отдельных тестах следования инструкциям и знаний. Для сложных задач рекомендуется генерировать до 40960 токенов с температурой 0,6–1,0. Модель не обучалась на данных для tool calling и агентского программирования, поэтому не рекомендуется для вызова функций, оркестрации API и автономных coding-агентов. В README также указано снижение защитных ограничений: удалено направление отказа, поэтому модель может не отклонять запросы, которые обычно блокируются моделями с настройкой безопасности. Доступны форматы для Transformers и GGUF, включая варианты для llama.cpp и Ollama. Лицензия MIT.

OpenCodeReasoning-Nemotron-1.1-32B — языковая модель NVIDIA для рассуждений при решении задач программирования. Это дообученная на наборе OpenCodeReasoning модель Qwen2.5-32B-Instruct с плотной архитектурой decoder-only Transformer и 32 млрд параметров. Набор обучения содержит 1,165 млн примеров по соревновательному программированию с ответами, сгенерированными DeepSeek-R1-0528. Модель принимает текст и генерирует текст; длина контекста — до 65 536 токенов. Она предназначена для генерации кода и пошагового решения задач программирования, а также для разработки и исследования LLM. В карточке приведены результаты оценки на LiveCodeBench v5, но они сами по себе не гарантируют качество на иных задачах. Модель ориентирована на запуск на GPU NVIDIA; заявлена готовность к коммерческому и некоммерческому использованию.

OpenR1-Distill-7B — языковая модель с 7,1 млрд параметров, разработанная командой Open-R1 на основе Qwen2.5-Math-7B с расширенной частотой RoPE. Модель дообучена методом supervised fine-tuning на Mixture-of-Thoughts — наборе из 350 тысяч проверенных цепочек рассуждений, дистиллированных из DeepSeek-R1. Архитектура — плотная Qwen2, модель для генерации текста с поддержкой диалогового режима и контекстом до 32 768 токенов. Модель предназначена для пошаговых рассуждений на английском языке в задачах математики, программирования и науки, а также для исследований вычислений на этапе вывода и обучения с проверяемыми вознаграждениями. В опубликованных оценках указаны результаты на AIME 2024, MATH-500, GPQA Diamond и LiveCodeBench; сравнение зависит от протокола выборки ответов. Модель распространяется под лицензией Apache 2.0. Она ориентирована прежде всего на английский язык, а результаты в бенчмарках не гарантируют точность на произвольных запросах; для задач, требующих достоверных ответов, выводы следует проверять.

mrm8488/phi-2-coder — языковая модель Phi-2, дообученная разработчиком mrm8488 на 20 тысячах инструкций из набора CodeAlpaca_20K с использованием QLoRA и PEFT. Это плотный Transformer с архитектурой PhiForCausalLM и 2,7 млрд параметров; модель предназначена для генерации кода и ответов на инструкции по программированию. Она принимает текстовые запросы и генерирует текст, включая код. В метаданных указано окно контекста 2048 токенов и поддержка библиотеки Transformers. Модель подходит для генерации фрагментов кода, помощи с программированием и выполнения простых инструкций по коду. README не содержит завершённых результатов HumanEval, поэтому подтверждённых показателей качества для задач программирования нет. Репозиторий содержит веса в формате Safetensors. Лицензия обозначена как other, а конкретные условия использования в карточке не описаны.

Карточка модели prompt-agnostic-language-models/Qwen-1B_dare_ties на Hugging Face совпадает с карточкой Qwen/Qwen3-0.6B-Base, поэтому описание составлено по ней. Qwen3-0.6B-Base — базовая плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это предварительно обученная модель примерно с 508 млн параметров: 28 слоёв, группированное внимание с 16 головами Q и 8 головами KV. Она принимает текст и генерирует продолжение, служит основой для дообучения и адаптации под прикладные задачи. Модель предназначена для языкового моделирования общего назначения, включая генерацию текста, работу с кодом, STEM-темами, логическими рассуждениями и многоязычными данными. Контекстное окно составляет 32 768 токенов. В README указано, что семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; перечень языков, поддерживаемых именно этой базовой версией, отдельно не приведён. Модель распространяется под лицензией Apache-2.0. Это базовая предобученная версия, поэтому для диалогового помощника или специализированного приложения обычно потребуется дообучение либо настройка шаблона запросов; карточка не приводит конкретных гарантий качества для таких сценариев.

Карточка модели prompt-agnostic-language-models/Qwen-1B_ties на Hugging Face совпадает с карточкой Qwen/Qwen3-0.6B-Base, поэтому описание составлено по ней. Qwen3-0.6B-Base — базовая плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это предварительно обученная модель примерно с 508 млн параметров: 28 слоёв, группированное внимание с 16 головами Q и 8 головами KV. Она принимает текст и генерирует продолжение, служит основой для дообучения и адаптации под прикладные задачи. Модель предназначена для языкового моделирования общего назначения, включая генерацию текста, работу с кодом, STEM-темами, логическими рассуждениями и многоязычными данными. Контекстное окно составляет 32 768 токенов. В README указано, что семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; перечень языков, поддерживаемых именно этой базовой версией, отдельно не приведён. Модель распространяется под лицензией Apache-2.0. Это базовая предобученная версия, поэтому для диалогового помощника или специализированного приложения обычно потребуется дообучение либо настройка шаблона запросов; карточка не приводит конкретных гарантий качества для таких сценариев.

Qwen2.5-Coder-0.5B-Instruct-GGUF — это квантизированная в формате GGUF версия инструкционной модели Qwen2.5-Coder-0.5B-Instruct, разработанной Qwen. Квантизацию выполнил bartowski на основе llama.cpp. Модель предназначена для генерации текста и программного кода, диалогового взаимодействия и использования в code agent-сценариях. Модель содержит около 0,5 млрд параметров и поддерживает контекст до 32 000 токенов. При обучении использовалось до 5,5 трлн токенов, включая исходный код, данные для выравнивания текста и кода и синтетические данные. В README указан английский язык; другие языки и поддерживаемые модальности не заявлены. Формат GGUF ориентирован на локальный запуск средствами, совместимыми с llama.cpp, включая LM Studio. К сильным сторонам относятся специализация на программировании, поддержка длинного контекста и относительно небольшой размер, облегчающий локальное использование. Ограничением является малый масштаб модели по сравнению с более крупными кодовыми моделями, поэтому качество сложного анализа, генерации и исправления кода может быть ниже. Модель распространяется по лицензии Apache-2.0.

Qwythos-9B-Claude-Mythos-5-1M-uncensored-heretic-GGUF — набор GGUF-квантизаций модели llmfan46/Qwythos-9B-Claude-Mythos-5-1M-uncensored-heretic, разработанный независимым автором LLMfan46 на основе Qwythos-9B-Claude-Mythos-5-1M от empero-ai. Модель предназначена для генерации текста на английском языке, рассуждений, агентских сценариев, function calling и использования инструментов, а также задач в области кибербезопасности и биомедицины. В карточке заявлены архитектура семейства Qwen3.5, размер 9B параметров и контекст до 1 миллиона токенов. Модель представляет собой decensored-версию исходной модели: к её весам применён Heretic v1.2.0 с вариантом метода Magnitude-Preserving Orthogonal Ablation (MPOA), затрагивающим отдельные компоненты attention и MLP. По данным автора, доля отказов снизилась с 73 до 11 случаев из 100 при KL-дивергенции 0,0123 относительно оригинала. Это может быть преимуществом для исследовательских и агентских сценариев, требующих меньшего числа отказов, но одновременно означает ослабление встроенных ограничений безопасности. В README приведены результаты MMLU только для исходной модели: точность 77,03%, поэтому они не подтверждают идентичную производительность данной версии. Также не указаны конкретный формат шаблона запросов, требования к памяти для разных квантизаций и фактические ограничения длинного контекста. Модель распространяется по лицензии Apache-2.0.

krlvi/sentence-msmarco-bert-base-dot-v5-nlpl-code_search_net — модель Sentence-Transformers на архитектуре BERT, обученная на датасете CodeSearchNet. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения сходства и кластеризации. Модель содержит 136,7 млн параметров, принимает текст с контекстом до 512 токенов и распространяется в формате PyTorch. Обучение с MultipleNegativesRankingLoss и косинусной мерой сходства ориентировано на сближение семантически связанных текстов, что подходит для поиска по коду и связанным описаниям. Для использования нужна лицензия AGPL-3.0; при распространении или предоставлении модели как сервиса следует учитывать её условия.

BoostedV1 — авторская дообученная языковая модель auryn-macmillan для рассуждений и генерации кода. Она основана на DeepSeek-R1-Distill-Qwen-1.5B: модель прошла продолженное обучение с LoRA, после чего адаптер был объединён с базовыми весами. В репозитории опубликованы веса safetensors для запуска через Transformers; архитектура — Qwen2ForCausalLM, размер — 1,5 млрд параметров, заявленная длина контекста — 131 072 токена. Модель предназначена для диалоговых запросов, решения математических задач и помощи с кодом. В карточке приведены результаты GSM8K 46,0% и HumanEval pass@1 7,3%; они характеризуют только эти тесты и не гарантируют качество на других задачах. README сообщает об обучении на OpenCodeInstruct, OpenThoughts и OpenR1-Math; среди языков в метаданных указан английский. Модель распространяется по лицензии MIT.

AmberYifan/capsd-marin-8b-base-n80000-opc-r96-marin-8b-base-code_cap_b8000_s0 — дообученная модель семейства Llama, созданная на основе marin-community/marin-8b-base с использованием датасета capsd_R96__mix_code_cap_b8000_s0. Она предназначена для генерации и продолжения текста; метаданные также отмечают поддержку диалогового режима. Модель содержит 7,5 млрд параметров, работает с текстом и имеет контекстное окно 4096 токенов. Базовая модель описана как англоязычная; отдельные характеристики языковой поддержки этой версии в карточке не раскрыты. README не приводит подробностей о целевых сценариях, обучении или оценке. Лицензия указана как other, поэтому условия использования следует сверить с лицензией репозитория.

Это версия модели bingleai на базе Gemma 4 12B Coder, подготовленная из репозитория yuxinlu1/gemma-4-12B-coder-fable5-composer2.5-v1-GGUF. Разработчик указывает, что веса преобразованы из квантованной версии Q8_0 в BF16 Safetensors; модель предназначена для генерации и объяснения решений задач на Python, включая алгоритмические и функциональные задачи с проверяемыми тестами. В карточке описана настройка на примерах с рассуждениями от Composer 2.5 и Fable 5, где решения отбирались после успешного выполнения тестов. Модель поддерживает диалог и работу с кодом; заявленный контекст — до 256K токенов. Репозиторий использует библиотеку Transformers и лицензию Gemma. Указанный в README сценарий запуска ориентирован на локального помощника по программированию; заявленные требования к памяти относятся к квантованным GGUF-вариантам и не характеризуют размер представленных здесь BF16-весов.

Gemma 4 E2B-it-qat-JANG_4M-CRACK — дообученная и квантизированная мультимодальная модель dealignai на базе google/gemma-4-e2b-it. Она использует плотную архитектуру Gemma 4 с гибридным скользящим и глобальным вниманием и рассчитана на запуск через vMLX на компьютерах Apple Silicon. Квантизация JANG_4M сочетает 8-битные веса внимания и 4-битные веса MLP; средняя точность составляет около 4,3 бита. Модель принимает текст, изображения и аудио, поддерживает диалог, рассуждения, ответы на фактические вопросы и генерацию кода. В README заявлены результаты MMLU 60,1% (на 1,7 процентного пункта ниже базовой модели) и полное выполнение запросов вредоносных категорий в тесте HarmBench; автор описывает это как удаление отказов при сохранении возможностей. Это делает модель непригодной для сценариев, где важно сдерживание опасных запросов. Для запуска требуется vMLX с поддержкой Gemma 4 и достаточно памяти. Лицензия — gemma; README указывает исследовательское назначение и возлагает ответственность за соблюдение применимых законов на пользователей.

Это плотная языковая модель семейства Qwen3 с 29,7 млрд параметров, разработанная на основе Qwen/Qwen3-32B и дообученная авторами репозитория на наборе open-athena/GLM-4.6-stackexchange-overflow-sandboxes-32eps-65k-reasoning. Она предназначена для генерации текста в диалоговом формате; название обучающего набора указывает на специализацию на вопросах и ответах из Stack Exchange и Stack Overflow, включая задачи с песочницами и рассуждениями. Модель принимает текст и выдаёт текст. Метаданные указывают на поддержку контекста до 40 960 токенов и семейство Qwen3; репозиторий использует Transformers и формат safetensors. Карточка не содержит результатов оценки или подробного описания качества, поэтому специализация по названию датасета не подтверждает конкретный уровень точности. Лицензия указана как other, без уточнения условий в предоставленных данных. Модель унаследовала базовую архитектуру Qwen3-32B и не описана как мультимодальная.

HelpingAI-Lite-2x1B — англоязычная диалоговая модель генерации текста, разработанная OEvortex как дообучение HelpingAI-Lite. Она использует архитектуру Mixtral с механизмом смеси экспертов (MoE), содержит 1 млрд параметров и поддерживает контекст длиной до 2048 токенов. Модель предназначена для диалогов и генерации текста; в карточке также заявлено превосходство по точности над HelpingAI-Lite при немного более низкой скорости. Модель распространяется в формате Safetensors для библиотеки Transformers. Лицензия обозначена как other, поэтому условия использования следует сверить с лицензией репозитория.

SillyTilly/mistralai_Mistral-Nemo-Base-2407 — копия предварительно обученной языковой модели Mistral-Nemo-Base-2407, разработанной Mistral AI совместно с NVIDIA. Это плотный трансформер MistralForCausalLM с 12,1 млрд параметров, 40 слоями и групповой обработкой ключей и значений (GQA). Модель предназначена для генерации текста и может служить базой для адаптации под конкретные задачи; README также описывает её как замену Mistral 7B. Модель обучена на многоязычных данных и коде. В README заявлено контекстное окно 128 тыс. токенов, тогда как метаданные каталога указывают 1 024 000 токенов; это расхождение не позволяет однозначно определить поддерживаемую длину контекста. Указаны английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский и японский языки. Репозиторий создан 18 июля 2024 года и содержит веса safetensors; лицензия — Apache 2.0. Это базовая, а не инструкционно настроенная модель, поэтому для диалоговых сценариев или специализированных задач может потребоваться дообучение и подходящая обвязка. В README отмечено отсутствие механизмов модерации; качество генераций и следование инструкциям не гарантируются.

Это экспериментальная разговорная языковая модель Mythos-9B Unhinged от Richard Young, созданная на основе слияния SLERP модели Mythos-9B с braindao/Qwen3-8B-Uncensored и дополнительного снятия отказов методом abliteration Heretic v1.4.0. В метаданных указаны архитектура Qwen3 с плотной causal language model, 7,6 млрд параметров, контекст до 40 960 токенов и формат Safetensors. README описывает режим рассуждений Qwen3 и настройку /no_think. Модель предназначена для диалоговой генерации текста, агентных сценариев, использования инструментов, генерации кода и команд оболочки, а также многошаговых рассуждений. Автор заявляет о низкой частоте отказов и приводит внутреннее сравнение с исходной Mythos-9B-Unhinged; это не является независимой оценкой качества. Карточка описывает обучение на наборе FableForge Mix A и указывает английский язык. Модель явно позиционируется как не имеющая защитных фильтров; она может выдавать вредоносные или небезопасные инструкции и не должна считаться надёжным источником. Лицензия — Apache-2.0.

Parrot Coder — языковая модель для автодополнения и генерации кода, разработанная Inserloft Research. Это плотная GPT-2-модель на 200 млн параметров; репозиторий содержит объединённые базовую модель и LoRA-адаптеры в формате safetensors, готовые для инференса через Transformers. Модель предназначена для быстрого продолжения фрагментов кода и генерации кода по текстовому запросу. Метаданные указывают контекст до 2048 токенов и поддержку английского языка. Модель выдаёт текст, в том числе программный код. Лицензия — Apache-2.0.

PipableAI pip-library-etl-1.3b — языковая модель для генерации кода и документации к нему. Разработчики сообщают, что модель обучали с использованием softmax cross entropy, модифицированного policy gradient и Q loss в EM-схеме. В Hugging Face она представлена как плотная авторегрессионная модель семейства Llama с 1,3 млрд параметров и контекстом до 16 384 токенов. Модель предназначена для генерации вызовов Python-функций по вопросу и docstring или коду, создания docstring для функций и модулей, а также генерации SQL-запросов по схеме и вопросу. Карточка также отмечает разговорный режим и генерацию кода; язык карточки и языковой тег — английский. Модель можно использовать через библиотеку pip_library_etl или Transformers. Лицензия — Apache-2.0. README заявляет о качестве, сопоставимом с более крупными моделями и GPT-3.5, но не приводит метрик или подробностей оценки, поэтому это утверждение нельзя считать независимой оценкой. Описанные сценарии сосредоточены на Python и SQL; подтверждений широких языковых или предметных возможностей карточка не даёт.

Модель philomath-1209/programming-language-identification разработана автором репозитория и дообучена на базе huggingface/CodeBERTa-small-v1 на наборе cakiki/rosetta-code. Это классификатор кода на архитектуре RoBERTa с 96,6 млн параметров и контекстом до 514 токенов. Модель определяет язык программирования по фрагменту исходного кода; в карточке перечислены 25 языков, включая Python, Java, C++, JavaScript, Rust и Fortran. Модель подходит для автоматической маркировки файлов и фрагментов кода, сортировки коллекций исходников и предварительного определения языка перед запуском специализированных инструментов. Репозиторий содержит веса Safetensors и формат ONNX для инференса через Transformers или Optimum. Лицензия — WTFPL.

Qwen3.5-397B-A17B-VQ-2.6bpw — квантованная vector-quantization версия модели Qwen3.5-397B-A17B, разработанная сообществом TheDrainFlorist для Apple Silicon и запускаемая через MLX. Модель предназначена для генерации текста, а также обработки изображений при использовании совместимой версии mlx-vlm. В карточке заявлен английский язык, однако полный список поддерживаемых языков и размер контекстного окна не указаны. Модель содержит 397B параметров с архитектурой MoE и активной частью A17B; размер артефакта составляет около 122,3 GiB, а веса текстовой модели квантованы до 2,6 бит на параметр. В комплект входит vision tower в формате bf16 объёмом около 0,849 GiB, поэтому сборка поддерживает мультимодальные сценарии. Для текста требуется mlx-lm с поддержкой model_file, для изображений — mlx-vlm версии 0.6.16 или новее. Указана совместимость с Apple Silicon и exo, а также поддержка speculative decoding через MTP при наличии соответствующего sidecar. По измерениям авторов, модель показывает perplexity 2,5634 на Wikitext и 2,6123 на смешанном наборе для кода; заявлено преимущество над сопоставимой 2,6-битной сборкой на прозе и коде. При этом прикладные task-бенчмарки для этой конкретной модели ещё не проводились, поэтому результаты родственных моделей переносить на неё нельзя. Сборка не помещается на машину с 128 GB памяти, требует значительного объёма unified memory и актуального программного окружения. Лицензия — Apache 2.0.

BoostedV1-ILv9 — разговорная языковая модель, разработанная auryn-macmillan на основе DeepSeek-R1-Distill-Qwen-1.5B. Это плотная модель семейства Qwen2 с 1,5 млрд параметров, обученная продолжением LoRA-настройки и несколькими раундами итеративного самоулучшения: модель генерировала решения, они проверялись и проходили самоаудит, после чего отобранные примеры использовались для обучения. Модель предназначена для генерации текста с упором на рассуждения, математические задачи и написание кода; поддерживает диалоговый сценарий и интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена, основной язык карточки — английский. В приведённой оценке результат GSM8K вырос с 46,0% до 46,5%, а HumanEval pass@1 — с 7,3% до 11,0% относительно BoostedV1 Phase-1; результаты относятся к указанным бенчмаркам и не гарантируют качество в других задачах. Модель распространяется в формате safetensors по лицензии MIT.