II.3Рефакторинг, миграция и модернизация

Dolphin 2.9.4 Gemma2 2B — диалоговая языковая модель, подготовленная Эриком Хартфордом и Cognitive Computations на базе Google Gemma 2 2B. Это плотная авторегрессионная модель с 2,7 млрд параметров, обученная с контекстом 8192 токена; для диалога использует шаблон ChatML. В метаданных указаны формат safetensors и задача генерации текста. Модель предназначена для следования инструкциям, диалогов, написания и анализа кода, а также сценариев с функциями и агентными действиями. Разработчик отмечает обучение на данных для разных языков и особое внимание к соблюдению системных инструкций. Упомянуто применение GrokAdamW и Liger Kernel, но автор не утверждает, что обучение привело к ожидаемому обобщению. Модель описана разработчиком как uncensored и может охотно выполнять вредоносные или неэтичные запросы; перед предоставлением пользователям рекомендуется добавить собственный слой выравнивания. Она распространяется по лицензии Gemma, условия которой следует учитывать при использовании.

Dolphin3.0-Qwen2.5-3b-GGUF — это набор GGUF-квантизаций текстовой генеративной модели Dolphin3.0-Qwen2.5-3b. Исходную модель разработала команда cognitivecomputations, а квантизации подготовил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для локального запуска и генерации текста, включая ответы на инструкции, задачи программирования, математики, function calling и агентские сценарии. Модель содержит около 3 миллиардов параметров и работает в текстовой модальности; в README указан английский язык. Доступны варианты от F32 и F16 до квантизаций Q8, Q6, Q5, Q4, Q3 и IQ, что позволяет выбирать баланс между качеством, размером файла и требованиями к оперативной памяти. Рекомендуемыми названы, в частности, Q4_K_M, Q5_K_M, Q6_K и некоторые варианты IQ; запуск поддерживается через llama.cpp и LM Studio. Формат prompt использует шаблон ChatML с маркерами ролей system, user и assistant. Сильными сторонами являются широкий выбор квантизаций, возможность локального запуска на сравнительно доступном оборудовании и специализация на инструкциях, коде, математике и инструментальном взаимодействии. Ограничения включают небольшой размер модели по сравнению с крупными LLM, возможное снижение качества у сильнее сжатых вариантов, отсутствие в README данных о контекстном окне, мультиязычных возможностях и количественных результатах тестирования. Лицензия обозначена как qwen-research и связана с лицензией Qwen2.5; перед использованием следует проверить её условия для конкретного сценария.

EXAONE-Deep-2.4B — плотная языковая модель с 2,4 млрд параметров, разработанная LG AI Research для рассуждений и генерации текста. Это дообученная версия EXAONE-3.5-2.4B-Instruct; архитектура использует 30 слоёв и групповое внимание GQA с 32 головами запросов и 8 головами ключей и значений. Модель поддерживает контекст до 32 768 токенов и рассчитана на английский и корейский языки. Модель предназначена для диалогов и задач рассуждения, в частности решения математических задач и генерации кода. По заявлению разработчика, версия 2.4B показывает результаты выше других моделей сравнимого размера на ряде тестов. Она работает с библиотекой Transformers и доступна для запуска в нескольких средах инференса. Модель может создавать фактически неверные, противоречивые, предвзятые или неуместные ответы и не располагает актуальными сведениями. Лицензия указана как other; конкретные условия следует проверить в репозитории модели.

Модель LeroyDyer/LeroyDyer-Mixtral_AI_CyberTron_Ultra — дообученная LeroyDyer текстовая генеративная модель на архитектуре Mistral с 7,1 млрд параметров. Она предназначена для диалогов и генерации текста, в том числе ответов на вопросы, программирования, математики, финансовых тем, проектирования продуктов и систем, а также ролевых сценариев. Разработчик сообщает о тренировке на учебных и математических материалах, наборах данных для кода и диалогов, а также о поддержке многошаговых ответов и нескольких стилей взаимодействия. Метаданные указывают контекст до 32 768 токенов, библиотеку Transformers и формат Safetensors. В карточке заявлена ориентация преимущественно на английский язык; среди датасетов также есть материалы на суахили и многоязычный корпус. Модель может подойти для прототипирования чат-помощников и генерации кода, однако утверждения о качестве основаны на описании разработчика и не сопровождаются результатами независимой оценки. Указана лицензия Apache-2.0.

Ling-Coder-lite-base — базовая языковая модель для программирования, разработанная InclusionAI и опубликованная с открытым кодом. Это разреженная MoE-модель семейства Bailing с причинно-языковой архитектурой; в карточке Hugging Face указано 1,5 млрд параметров, тогда как README приводит 16,8 млрд общих и 2,75 млрд активируемых параметров. Метаданные указывают контекст 4096 токенов, а README — 16K токенов. Модель предназначена для генерации кода и ответов на вопросы по программированию. Разработчики сообщают о высоких результатах на 12 бенчмарках кодирования и конкурентных задержке и пропускной способности относительно сопоставимых по размеру моделей; подробности оценки приведены в техническом отчёте Ling-Coder-TR. В тегах карточки отмечены английский и китайский языки, а также данные Ling-Coder-SyntheticQA. Модель доступна под лицензией MIT. Она является базовой, а не чат-версией: качество диалогового следования инструкциям и результаты на конкретных задачах могут отличаться от Ling-Coder-lite. Расхождения в заявленном количестве параметров и длине контекста между README и метаданными следует учитывать при выборе конфигурации и развёртывании.

mrm8488/llama-2-coder-7b — языковая модель для генерации кода, созданная дообучением Llama 2 7B на 20 тысячах инструкций CodeAlpaca с помощью QLoRA и PEFT. Базовую модель разработала Meta; архитектура — плотная авторегрессионная LlamaForCausalLM с 6,6 млрд параметров и контекстом до 4096 токенов. Модель предназначена для ответов на инструкции, связанных с кодом: например, генерации фрагментов программ и помощи при решении задач программирования. Она принимает текстовые запросы и генерирует текст. В карточке указан датасет CodeAlpaca_20K; результаты оценки не приведены. Модель распространяется по лицензии Apache-2.0.

MiniCPM5-1B-Claude-Opus-Fable5-V2-Thinking — компактная языковая модель GnLOLot, дообученная на базе openbmb/MiniCPM5-1B с использованием данных Fable 5. Это плотная авторегрессионная модель архитектуры LlamaForCausalLM с 837,6 млн параметров, рассчитанная на генерацию текста и диалоговое взаимодействие; заявленная длина контекста — 131 072 токена. Модель предназначена для локальных помощников и сценариев, где нужны вызов инструментов в формате XML или функций, генерация и отладка кода, следование инструкциям и рассуждения в режиме Thinking. По README, версия V2 усиливает вызов инструментов и улучшает программирование и выполнение инструкций по сравнению с базовой моделью и предыдущей версией; в карточке приведены результаты BFCL, API-Bank и Tau-Bench. Поддерживаемые языки по метаданным — английский и китайский. Модель принимает текст и генерирует текст. README предупреждает, что ответы в режиме Thinking могут содержать блоки рассуждений перед итоговым ответом, которые приложению может потребоваться скрыть. Компактный размер подходит для локального развёртывания, но модель не рассчитана на уровень передовых крупных систем в общих задачах рассуждения. Лицензия — Apache-2.0.

Это GGUF-квантизованная версия языковой модели Llama-3_1-Nemotron-Ultra-253B-v1, разработанной NVIDIA и подготовленной квантизатором bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска в llama.cpp, LM Studio и других совместимых проектах на базе llama.cpp. Указан английский язык; поддерживается текстовая модальность. Размер исходной модели — 253 млрд параметров, однако точная архитектура и размер контекстного окна в README не указаны. Доступно множество вариантов квантизации GGUF — от Q8_0 до более компактных Q3 и IQ3/IQ4. Высокоточные варианты обеспечивают лучшее сохранение качества, а младшие квантизации снижают требования к памяти; рекомендуемыми названы, в частности, Q6_K, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS. Основное ограничение — чрезвычайно большой объём файлов: даже рекомендуемый Q4_K_M занимает около 150,94 ГБ, поэтому для запуска требуется мощное оборудование и значительный объём оперативной или видеопамяти. Лицензия — NVIDIA Open Model License; ссылка на условия приведена в карточке модели.

p-e-w_phi-4-heretic-GGUF — это набор GGUF-квантизаций модели phi-4-heretic, созданной p-e-w и подготовленной для распространения bartowski. Квантизация выполнена с использованием llama.cpp и метода imatrix; доступны варианты от BF16 до низкобитных форматов Q8, Q6, Q5, Q4 и Q3. Модель предназначена для локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Модель ориентирована на генерацию текста, диалоговое взаимодействие, задачи NLP, математику и программирование. В карточке указан английский язык. Доступны файлы разного размера: от 29,32 ГБ для BF16 до 6,25 ГБ для IQ3_XS, что позволяет выбирать компромисс между качеством и требованиями к памяти. Рекомендуемыми названы многие варианты Q4–Q6; Q4_K_M обозначен как стандартный вариант для большинства сценариев. К сильным сторонам относятся широкий выбор квантизаций, возможность локального запуска и применение imatrix для повышения качества квантованных версий. Ограничения — зависимость качества от выбранного формата, отсутствие в README сведений о точной архитектуре, числе параметров и размере контекста, а также неуказанный chat template: предложенный шаблон может быть некорректным и требует проверки по исходной карточке модели. Лицензия — MIT.

Phi-3-mini-128k-instruct-4bit — 4-битная версия модели Phi-3-mini-128k-instruct, разработанной Microsoft и преобразованной сообществом mlx-community в формат MLX с помощью mlx-lm 0.10.0. Модель содержит около 3,7 млрд параметров и предназначена для генерации текста в диалоговых сценариях и задачах, связанных с кодом. Модель ориентирована прежде всего на англоязычные запросы, генерацию ответов, продолжение текста и помощь с программным кодом. Формат MLX оптимизирован для запуска через библиотеку mlx-lm на совместимом оборудовании Apple. Метаданные указывают нативную длину контекста 4096 токенов. К сильным сторонам относятся компактный размер, 4-битное квантование и возможность локального запуска в экосистеме MLX. Ограничениями являются преимущественная поддержка английского языка, уменьшенная точность из-за квантования и контекст до 4096 токенов, несмотря на обозначение исходной модели как 128k. Модель распространяется по лицензии MIT.

Карточка модели Openintelligent123/Phi-4-reasoning-plus на Hugging Face совпадает с карточкой microsoft/Phi-4-reasoning-plus, поэтому описание составлено по ней. Phi-4-reasoning-plus — открытая по весам языковая модель Microsoft Research, дообученная на базе microsoft/phi-4 с помощью supervised fine-tuning на цепочках рассуждений и последующего обучения с подкреплением. Это плотный decoder-only Transformer семейства Phi-3 с 14,1 млрд параметров и контекстом до 32 768 токенов; модель принимает текст и генерирует текст в диалоговом формате. Модель предназначена прежде всего для рассуждений и решения задач по математике, науке и программированию, а также для использования в генеративных ИИ-приложениях с ограничениями по памяти и вычислениям. Основной язык — английский. Обучение с подкреплением повышает точность, но в среднем модель генерирует примерно на 50% больше токенов, что увеличивает задержку. Microsoft предупреждает, что модель специально разработана и оценивалась для математических рассуждений, поэтому для других применений нужно отдельно проверять точность, безопасность и справедливость ответов. Модель распространяется по лицензии MIT.

PhillNet Mini Omni Max — дообученная модель ayjays132 на базе Qwen/Qwen3.5-0.8B, предназначенная для генерации текста и диалогов. Карточка заявляет режимы рассуждения с разной глубиной, генерацию кода, суммаризацию и защиту от атак через внедрение инструкций в недоверенные данные. В метаданных указаны архитектура DendroForCausalLM семейства Dendro Omni с MoE, 375,9 млн параметров, контекст до 1 048 576 токенов и формат safetensors; для работы заявлена библиотека Transformers. README также описывает встроенную генерацию изображений на основе SDXL и создание видеоключевых кадров, однако метаданные подтверждают только задачу text-generation, поэтому эти возможности следует считать заявлениями карточки. В README приведены результаты внутренних тестов защиты и рассуждений, но они не подтверждены независимой оценкой. Модель поддерживает английский язык. Лицензия — Apache-2.0.

Qwen2.5-72B — базовая языковая модель семейства Qwen2.5, разработанного командой Qwen. Это предварительно обученная плотная авторегрессионная модель на 71,5 млрд параметров с архитектурой Qwen2 и классом Qwen2ForCausalLM. В архитектуре используются RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания; модель содержит 80 слоёв и поддерживает контекст до 131 072 токенов. Модель предназначена для продолжения текста и как основа для последующего дообучения, например SFT или RLHF. Семейство Qwen2.5 поддерживает более 29 языков, включая русский, и улучшено для задач программирования, математики, следования инструкциям, работы с таблицами и создания структурированных ответов. Однако эта версия — базовая, а не настроенная для диалога, поэтому её не рекомендуют напрямую использовать для разговорных сценариев. Репозиторий распространяется под лицензией с обозначением `other`; конкретные условия следует сверить с лицензией модели на Hugging Face.

Карточка модели KryptykAngel/Qwen3.6-27B-AEON-Ultimate-Uncensored-MTP-i1-GGUF на Hugging Face совпадает с карточкой theLittleStone/Qwen3.6-27B-AEON-Ultimate-Uncensored-MTP-i1-GGUF, поэтому описание составлено по ней. Это GGUF-версия Qwen3.6-27B-AEON-Ultimate-Uncensored-BF16, подготовленная theLittleStone с квантизацией K-Quant и калибровкой iMatrix; поддерживается MTP (предсказание нескольких токенов). Калибровка использовала 20 000 примеров из набора eaddario/imatrix-calibration. Модель предназначена для генерации текста и диалогов, включая рассуждения и программирование; карточка описывает её как вариант с ослабленными отказами. Для запуска подходят llama.cpp и LM Studio. В карточке заявлено, что калибровка iMatrix улучшает точность относительно обычной квантизации той же разрядности. Репозиторий указывает форматы GGUF BF16 и варианты K-Quant, включая IQ4 и Q4_K_M; размер базовой модели — 27 млрд параметров. Метаданные отмечают английский и китайский языки, а также многоязычность. Лицензия — Apache-2.0. Это производная от AEON-7/Qwen3.6-27B-AEON-Ultimate-Uncensored-BF16 модель. Заявления карточки о точности, сохранении возможностей и снижении отказов основаны на описании автора и приведённых им проверках. Ослабленные отказы могут приводить к генерации небезопасного или нежелательного содержания; ответы модели также могут содержать ошибки.

Qwen3.6-27B-Heretic-Uncensored-FINETUNE-NEO-CODE-Di-IMatrix-MAX-GGUF — это производная от Qwen3.6-27B модель от DavidAU, созданная на базе Qwen3.6-27B-Heretic2-Uncensored-Finetune-Thinking. Модель была подвергнута декодированию ограничений и дообучению с использованием Unsloth на пользовательском наборе данных, а затем преобразована в GGUF-квантизации с применением методов NEO и NEO-CODE Di-Matrix. Модель предназначена для общего применения, включая диалоги, творческое и художественное письмо, генерацию сюжетов и сцен, ролевые сценарии, программирование, математику и задачи, требующие работы с длинным контекстом. Заявлена поддержка контекста до 256 тысяч токенов. Указаны языки English и Chinese. Размер базовой модели — 27 миллиардов параметров; доступны квантизации с различным соотношением качества и требований к памяти, включая IQ2_M и Q4K_S. В карточке также заявлена поддержка image-text-to-text, однако подробности о мультимодальных возможностях не приведены. Сильными сторонами заявлены сниженный уровень отказов, отсутствие цензурных ограничений, высокая близость к качеству полной точности и оптимизация для длинных диалогов, кода и математических задач. Приведённые результаты основаны преимущественно на внутренних тестах автора, поэтому их не следует считать независимой оценкой. Конкретные требования к оборудованию, совместимые приложения и подробная методика дообучения не указаны. Модель распространяется по лицензии Apache-2.0.

Solstice-AI/Qwen3.8-27B-TTURBO-Cold-Fusion-709-L-NM-DAU-UltraOptimised-VariableThinking-GGUF — это мультимодально заявленная GGUF-версия многоэтапной fine-tune и multi-stage merge-модели на базе Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored, разработанная авторами проекта с использованием Unsloth. В карточке указаны поддержка английского и китайского языков, а также pipeline image-text-to-text, однако подробности о реализации визуального ввода не приведены. Модель распространяется в обычных и MTP-квантизациях, включая варианты для 4- и 8-битного представления, ориентированные на запуск на потребительском оборудовании. Модель предназначена для широкого круга задач: общего диалога, рассуждений и решения задач, программирования, творческого письма, художественной прозы, ролевых сценариев и других универсальных применений. Заявлены пять режимов рассуждения и пять instruct-режимов, включая UltraXhigh и Einstein, с возможностью переключения через API, напрямую или на уровне сообщения. Основной акцент сделан на сокращении объёма reasoning-токенов, ускорении генерации и снижении избыточного «обдумывания» при сохранении детализации и качества ответа. К сильным сторонам относятся вариативные режимы работы, поддержка GGUF-квантизаций для локального использования, ориентация на подробные ответы и творческие задачи, а также заявленное улучшение качества по сравнению с базовыми моделями семейства Qwen. Ограничения состоят в том, что приведённые результаты бенчмарков и характеристики производительности не подтверждены независимыми данными, а контекстное окно, точные параметры архитектуры, требования к памяти и фактические возможности мультимодального ввода не указаны. Лицензия — Apache-2.0.

Speechless-Thoughts-Mistral-7B-v1.0 — дообученная авторами проекта Speechless базовая модель для экспериментов с Speechless-Sparsetral-16x7B-MoE. Это плотная авторегрессионная модель Mistral с 7,1 млрд параметров, рассчитанная на генерацию текста; для работы с Transformers доступны веса Safetensors, а контекст модели составляет до 32 768 токенов. Модель обучена на наборе Speechless-Thoughts-252K, включающем примеры программирования, рассуждений, планирования и инструкций. В README она описана как базовая модель для сравнения с MoE-моделью; также приведены результаты отдельных оценок, но значение HumanEval не заполнено. Метаданные указывают поддержку английского языка и возможность генерации кода. Лицензия — Llama 2 Community License. Модель подходит для экспериментов и прикладной генерации текста и кода, однако качество конкретных ответов и программ следует проверять; приведённые в карточке оценки не гарантируют результат на пользовательских задачах.

Winged-Lagomorph-2x13B — языковая модель для генерации текста, созданная слиянием WhiteRabbitNeo-13B-v1 и NexusRaven-V2-13B с помощью mergekit. Для обычных задач с кодом в карточке рекомендуется шаблон WhiteRabbitNeo, а для вызова функций — шаблон NR. Модель имеет архитектуру MixtralForCausalLM типа MoE, содержит 12,9 млрд параметров и поддерживает контекст до 16 384 токенов. В карточке приведён пример генерации скрипта на pwntools для переполнения буфера. Модель предназначена для генерации текста и кода, а метаданные также указывают поддержку классификации текста. Используется лицензия Llama 2.

CodeR-full — модель для преобразования текста и кода в эмбеддинги, разработанная авторами семейства CodeR. Она обучена на текстовых данных и полных данных о коде и предназначена для представления текстов и программ в векторном виде, а также вычисления сходства между предложениями. Модель основана на плотной архитектуре Qwen2 и содержит 1,5 млрд параметров; максимальный контекст составляет 32 768 токенов. Для работы доступны форматы Sentence Transformers, FlagEmbedding и Hugging Face Transformers. Модель подходит для поиска и сравнения текстовых и кодовых фрагментов по смыслу. Карточка приводит примеры использования через библиотеки для получения эмбеддингов; отдельные результаты оценки качества не указаны. Поддерживаются китайский и английский языки. Лицензия — Apache-2.0.

calcuis/deepseek-r1 — это квантованная версия DeepSeek-R1 в формате GGUF, основанная на модели deepseek-ai/DeepSeek-R1. Разработчик исходной модели — DeepSeek; репозиторий calcuis предоставляет её GGUF-представление. Модель предназначена для генерации текста и запуска через совместимые GGUF-коннекторы, включая gguf-connector, что подходит для локального или специализированного инференса. README отдельно отмечает исправленную загрузку и совместимость с архитектурой llama. Исходный DeepSeek-R1 — текстовая модель с архитектурой MoE, 671 млрд общих параметров и 37 млрд активируемых параметров. Указан английский язык; поддержка других языков, точный размер квантованного файла, допустимая длина контекста и конкретный вариант квантования для этой сборки в README не описаны. Приведённые результаты исходной модели показывают сильные стороны в математике, программировании, рассуждениях и китайских языковых тестах, однако эти показатели не обязательно полностью отражают характеристики данной квантованной версии. К ограничениям относятся зависимость от совместимого GGUF-коннектора и возможное снижение качества или точности из-за квантования; конкретные потери качества не представлены. Модель распространяется по лицензии MIT. Использование требует оборудования и программной среды, совместимых с GGUF и выбранным размером квантованного файла.

unsloth/DeepSeek-V3-0324-GGUF-UD — это набор динамически квантованных версий DeepSeek-V3-0324, подготовленный Unsloth на базе модели deepseek-ai/DeepSeek-V3-0324 в формате GGUF. Модель предназначена для локального запуска через llama.cpp, LM Studio, Open WebUI и другие совместимые фреймворки инференса. В метаданных указано, что основной язык модели — английский. Доступны варианты с эффективной разрядностью от 1,78 до 4,5 бит и размером файлов примерно от 192 до 384 ГБ. Квантизация Dynamic v2.0 выполняется выборочно; в README заявлено, что это позволяет сохранить более высокую точность по сравнению со стандартными методами квантизации. Модель использует архитектуру MoE, что отражено в описании разрядности компонентов смеси. Версии 2,42 бит IQ2_XXS и 2,71 бит Q2_K_XL рекомендованы как наиболее удачные по соотношению производительности и размера; для запуска желательно иметь не менее 180 ГБ совокупной VRAM и RAM. Сильными сторонами являются возможность локального использования крупной модели в распространённых GGUF-фреймворках и оптимизированная динамическая квантизация. Ограничениями выступают чрезвычайно высокие требования к памяти и большой объём файлов. Варианты IQ1_S и IQ1_M обозначены как предварительные: по результатам тестирования они обычно работают нормально, но иногда хуже справляются с генерацией кода. В метаданных указана лицензия MIT.

Falcon3-7B-Base — предварительно обученная базовая языковая модель семейства Falcon3, разработанная Technology Innovation Institute. Это плотный авторегрессионный трансформер с причинным декодером и 7,1 млрд параметров, доступный в формате safetensors для Transformers. Модель обучена на данных из веба, кода, STEM, высококачественных и многоязычных источников и поддерживает английский, французский, испанский и португальский языки. Модель предназначена для генерации текста и служит основой для последующей адаптации под конкретные сценарии: README отмечает задачи рассуждения, понимания языка, следования инструкциям, программирования и математики. Контекстное окно — до 32 768 токенов; архитектура включает 28 блоков декодера и grouped-query attention. Это базовая, а не instruct-версия, поэтому для большинства пользовательских задач рекомендуется дополнительное дообучение. Модель распространяется по лицензии TII Falcon-LLM License 2.0.

ReadyArt/gemma-4-31B-it-scotoma-2-GGUF — это набор GGUF-квантизированных вариантов модели gemma-4-31B-it-scotoma-2, опубликованный ReadyArt. В основе лежит Gemma 4 31B от Google DeepMind, доработанная методом γ-fold и тремя раундами DPO на 9,3 тыс. пар предпочтений. Модель предназначена для диалоговой генерации текста, рассуждений, программирования и мультимодального анализа изображений; GGUF-формат ориентирован на локальный запуск через llama.cpp и совместимые приложения. Базовая Gemma 4 31B — плотная модель примерно с 30,7 млрд параметров, гибридным вниманием, поддержкой текста и изображений и контекстом до 256 тысяч токенов. Семейство Gemma 4 поддерживает более 140 языков на уровне предобучения и имеет режимы рассуждений, но для конкретного производного варианта ReadyArt подробные отдельные языковые оценки не указаны. Доступны разные уровни квантизации, поэтому требования к памяти и качество зависят от выбранного GGUF-файла. Scotoma 2 изменяет поведение исходной instruction-tuned модели: ослабляет осторожные рефлексы и уменьшает повторяющиеся стилистические шаблоны, включая рефлексивные отрицания, конструкцию «not X, but Y», вставки с em dash и нагромождение прилагательных. По заявлению автора, модель сохраняет интеллект базовой версии и делает ответы более разнообразными, но это исследовательский артефакт, а не продукт; поведение зависит от запроса и контекста, а квантизация может дополнительно снижать качество. Модель не является полностью uncensored и в целом сохраняет отказы базовой модели. Указана лицензия Apache-2.0 с применением условий лицензии Gemma.

gemma-coder — дообученная методом QLoRA модель для генерации кода на основе google/gemma-4-26B-A4B-it. Она предназначена для работы в агентной среде, где написанный код запускается и проверяется в песочнице. В README заявлены генерация кода и проверка существующего кода на уязвимости; целевые области безопасности включают ошибки управления памятью, путаницу типов и нарушения границ привилегий. Базовая модель относится к семейству Gemma 4 и использует архитектуру со смесью экспертов; в README указано около 4 млрд активных параметров. Дообучение выполнено на наборе bigcode/self-oss-instruct-sc2-exec-filter-50k. Модель ориентирована на код на Python, JavaScript/React, Go, Java и Swift; карточка также сообщает о шести языках, но не называет шестой. Текущая оценка кода описана как небольшая дымовая проверка на 16 задачах, а результаты оценки безопасности на ExploitGym ещё не опубликованы. Модель может ошибаться или генерировать небезопасный код, поэтому результаты требуют проверки и тестирования человеком. README не рекомендует использовать её для создания эксплойтов, в системах безопасности с критическими последствиями или без проверки человеком. Указана лицензия Gemma.

Orca-SOLAR-4x10.7b — объединение четырёх инструктивных дообученных моделей Solar-10.7B, опубликованное пользователем macadeliccc. Модель построена на архитектуре Mixtral с разреженной экспертной структурой MoE; метаданные указывают 10,6 млрд параметров и контекст до 4096 токенов. Она предназначена для генерации текста в диалоговом формате и особенно ориентирована на задачи программирования: автор отмечает, что на вопросы о коде модель может отвечать развёрнутыми фрагментами кода. Модель принимает текст и генерирует текст. В карточке указан английский язык, а также набор данных Intel/orca_dpo_pairs. В README заявлена возможность запуска на бесплатном CPU-оборудовании через GGUF, хотя в репозитории указаны файлы safetensors. Лицензия — Apache-2.0. Результаты таблицы Open LLM Leaderboard приведены в README, но полные сведения об оценке в предоставленном тексте отсутствуют.

AnkitAI/Parable-Granite-4.1-3B-Claude-Fable-5-GGUF — компактная дообученная модель на базе IBM Granite 4.1 3B, разработанная AnkitAI. Модель распространяется в формате GGUF и обучена на корпусах AnkitAI/parable-corpus-v2, Glint-Research/Fable-5-traces и Roman1111111/gpt5.5-terminal, включая трассировки агентских сессий Claude Fable 5. Указан английский язык и текстовая генерация. Модель предназначена для локального офлайн-использования в сценариях агентского поведения: планирования, рассуждений, программирования, работы с терминалом, tool-use и function-calling. Она ориентирована на запуск через llama.cpp, Ollama, LM Studio и совместимые инструменты. В README заявлена поддержка контекста 8192 токена и режим, при котором ответ предваряется блоком <think> с рассуждением. Рекомендуемая квантизация Q4_K_M занимает около 2,1 ГБ и требует примерно 3 ГБ RAM или VRAM; доступны варианты от Q4_K_M до F16. Сильные стороны модели — небольшой размер, низкие требования к памяти, структурированное рассуждение и ориентация на агентские задачи. Для версии v2 заявлены результаты 70,1 на HumanEval, 65,9 на HumanEval+ и 0 случаев утечки артефактов агента в проверке из 34 запросов. Ограничение заключается в том, что чистая генерация кода на отдельных функциях уступает базовой модели: в README приведено сравнение 70,1 против 81,7. Лицензия — Apache-2.0.

femiari/Qwen2-1.5Moe — языковая модель Mixture of Experts, созданная с помощью LazyMergekit на основе Qwen/Qwen2-1.5B и Replete-AI/Replete-Coder-Qwen2-1.5b. Архитектура Qwen2 MoE, класс Qwen2MoeForCausalLM; размер — 1,5 млрд параметров, формат весов — Safetensors, контекст — до 131 072 токенов. Модель предназначена для генерации текста в диалоге и помощи с программированием. В конфигурации эксперты Qwen2 связаны с запросами к чат-ассистенту и объяснениям, а эксперт Replete Coder — с задачами по Python, JavaScript, программированию и алгоритмам. Поддерживается чатовый сценарий; отдельные гарантии качества для этих задач в карточке не приведены. Лицензия — Apache 2.0.

Qwen3.5-2B-Opus-Distilled-Heretic-Thinking-Multistage-SFT-v1.0 — экспериментальная плотная мультимодальная модель на 2 млрд параметров, созданная сообществом на базе Qwen/Qwen3.5-2B. Её дообучили методом многоэтапного SFT на примерно 6 000 примерах рассуждений Opus по программированию и STEM, а также на дополнительных примерах для развития длинных рассуждений и следования инструкциям. Модель предназначена для исследований и экспериментов с дистилляцией рассуждений, а также для генерации и отладки кода, решения математических и научных задач и локального запуска. По метаданным она поддерживает обработку изображений и диалог; основной pipeline-тег — image-text-to-text. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Модель экспериментальная: в сложных цепочках рассуждений возможны ошибочные промежуточные шаги и выводы, а поведение может отличаться от базовой модели. Результаты также зависят от охвата и особенностей обучающих данных.

smirki/qwen3.5-4b-terminal-v1 — дообученная модель Qwen3.5-4B для работы в терминале и задач кодирующего агента. Это плотная мультимодальная архитектура Qwen3.5 с 4 млрд параметров; опубликованы объединённые веса bf16 в формате Safetensors. Модель сохраняет архитектуру, токенизатор, шаблон чата и XML-формат вызова инструментов базовой Qwen3.5-4B. Модель предназначена для агентных сценариев, где нужно выполнять задачи через терминал и вызывать инструменты. В описанном сравнении Terminal-Bench 2.1 она решила хотя бы раз 21 из 76 заданий против 15 у базовой модели; тест проводился с контекстом 65 536 токенов и лимитом 8 192 токена на ответ. Для запуска с vLLM в README указан парсер вызовов инструментов qwen3_xml. Лицензия — Apache-2.0. Веса включают компоненты понимания изображений, но README рекомендует для терминального применения отключать vision tower. Показатели бенчмарка относятся к указанной конфигурации и не гарантируют аналогичного результата на других задачах; подробности обучения не приведены.

Модель llamafy/Qwen-Qwen2.5-Coder-0.5B-Instruct-llamafied — преобразованная версия Qwen/Qwen2.5-Coder-0.5B-Instruct, подготовленная для совместимости с программами, поддерживающими формат Llama. Это плотная авторегрессионная модель для генерации текста в диалоговом режиме, ориентированная на задачи программирования: написание и объяснение кода, а также помощь с исправлением ошибок. В метаданных указаны 494 млн параметров, контекст до 4096 токенов и формат весов safetensors. Модель принимает текстовые запросы и выдаёт текст; заявлена совместимость с ПО, поддерживающим Llama. Это преобразование формата, поэтому базовая модель — Qwen/Qwen2.5-Coder-0.5B-Instruct. Лицензия в предоставленных данных не указана.