II.4Отладка, тестирование и качество ПО

Qwen3.8-27B-Abliterated-IQ4-MIX-MTP-GGUF — это GGUF-квантизация модели Qwen3.8-27B-Abliterated, разработанной windowsxp811203 на основе Qwen/Qwen3.8-27B. Модель предназначена для локальной генерации текста и высокопроизводительного инференса, включая агентские сценарии программирования, на GPU с 16 ГБ видеопамяти. Вариант поддерживает работу через llama.cpp и рассчитан на спекулятивное декодирование с использованием встроенной головы MTP (Multi-Token Prediction), поэтому отдельная draft-модель не требуется. Размер файла составляет около 13,26 GiB, эффективная точность — 4,17 BPW. Используется смешанная квантизация: основные группы тензоров представлены форматами IQ4_XS, IQ3_S и Q4_K, эмбеддинги — IQ2_S, выходной слой — Q5_K, а MTP-блоки сохранены в более высокой точности Q6_K и Q8_0 для поддержания качества черновой генерации и приемки токенов. Заявлена поддержка английского и китайского языков. В README не указаны архитектурные детали исходной модели и максимальный контекст, однако протестированы конфигурации с выделением контекста до 64K токенов. Сильные стороны модели — относительно небольшой размер для класса 27B, возможность полного размещения слоёв на GPU с 16 ГБ памяти и ускорение генерации за счёт MTP. На AMD Radeon RX 9070 XT в среде Windows с Vulkan и llama.cpp зафиксирована скорость около 49–50 токенов в секунду на коротком активном контексте, но при росте истории до 25–30 тысяч токенов скорость снижалась примерно до середины диапазона 20 токенов в секунду. Показатели зависят от оборудования, размера контекста и рабочей нагрузки. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Cold-Fusion-GAIN-V1.1-Fable-mxfp8-mlx — экспериментальная объединённая модель, разработанная NightmediaAI на основе Qwen3.8-27B-Cold-Fusion-GAIN-V1.1 от DavidAU и Qwen3.8-27B-Fable-Distill от armand0e. Модель предназначена для генерации текста, диалогов, рассуждений, программирования, математических и STEM-задач, исследовательских сценариев, творческого письма, создания художественных историй и ролевого взаимодействия. Указана поддержка английского, китайского, японского и испанского языков. Модель содержит 27B параметров и представлена в формате mxfp8 для MLX; в карточке также упоминается вариант mxfp4. Заявлены контекстные окна до 256K и 1M токенов, однако подробности реализации не приведены. В качестве сильных сторон указаны улучшенные результаты по сравнению с базовой Qwen3.8-27B на приведённых тестах, а также высокая скорость генерации: около 180 токенов в секунду при mxfp8. Ограничения включают экспериментальный статус, отсутствие подробных инструкций по применению и неполные сведения о фактической поддержке мультимодального ввода, несмотря на тег image-text-to-text. Лицензия указана как Apache-2.0. Модель предназначена для исследовательского и общего использования, но заявленные характеристики и результаты следует проверять самостоятельно, поскольку они основаны на данных из карточки модели.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — многоэтапная дообученная и объединённая версия модели Qwen3.8-27B, опубликованная DavidAU. Модель создана с использованием Unsloth, методов COLD FUSION и Fable Fusion 711, а также представлена в форматах GGUF с обычными и MTP-квантами. Заявлены поддержка английского и китайского языков и лицензия Apache-2.0. В метаданных указан тип pipeline image-text-to-text, однако подробности о фактической поддержке изображений не приведены. Модель предназначена для широкого круга задач: рассуждений, решения задач, программирования, творческого письма, художественной прозы, ролевых сценариев и диалогов. Ключевая особенность — стремление сократить объём рассуждений и ускорить генерацию при сохранении подробности ответов; заявлено сокращение числа thinking-токенов примерно от двух до десяти раз по сравнению с обычной Qwen3.8. Доступны варианты для запуска на потребительском оборудовании, включая 4-битные и 8-битные квантизации. Ограничения включают отсутствие указаний на размер контекстного окна, точный набор поддерживаемых модальностей и подробные независимые результаты тестирования; приведённые сведения о превосходстве над другими моделями основаны на заявлениях автора.

Qwen3.8-4B-Empero-AI-FullStack-i1-GGUF — квантизированная GGUF-версия модели iBotIA/Qwen3.8-4B-Empero-AI-FullStack, подготовленная mradermacher. Модель относится к семейству Qwen3.5 и ориентирована на генерацию текста, рассуждения и задачи разработки программного обеспечения, включая TypeScript, React Router v8, NestJS и Flutter. В метаданных также указана поддержка английского языка и наличие vision-возможностей, однако подробности о реализованных визуальных сценариях не приведены. Модель имеет заявленный размер 4B параметров и поставляется в нескольких вариантах квантизации i1, включая Q2_K, Q3_K, IQ3, IQ4, Q4, Q5 и Q6. Размер файлов составляет примерно от 2,1 до 3,7 ГБ, что делает модель пригодной для локального запуска на системах с ограниченными ресурсами. В README отмечены компромиссы между скоростью, качеством и размером: Q4_K_S описан как сбалансированный вариант, Q4_K_M — как быстрый и рекомендуемый, а некоторые IQ-квантизации могут превосходить сопоставимые по размеру варианты. К ограничениям относятся неизбежная потеря качества при низкой точности квантизации, отсутствие приведённых результатов тестирования и неизвестные параметры контекстного окна, архитектуры и точный набор поддерживаемых языков. Для vision-сценариев могут потребоваться дополнительные mmproj-файлы из статического репозитория. В метаданных указана лицензия Apache-2.0; перед использованием следует учитывать условия лицензии исходной модели.

Qwen3.8-Flash-Next REAP-288 Q8E MLX — оптимизированная сборка базовой модели Qwen/Qwen3.8-Flash-Next, опубликованная пользователем sh0wie. Она предназначена для локального запуска на устройствах Apple с MLX и ориентирована прежде всего на генерацию текста, программирование и агентские сценарии. Мультимодальные веса vision tower сохранены, однако в README оценивалось только качество работы с текстом. Модель относится к классу примерно 180B параметров: 125B приходится на основную модель, ещё 51B — на n-gram embedding table. Архитектура содержит 48 слоёв, чередующих Gated DeltaNet и разреженное внимание Qwen, а MoE-маршрутизация использует top-10 экспертов. В каждом MoE-слое оставлено 288 из 512 экспертов после pruning методом REAP. Тензоры экспертов имеют 8-битное квантование, остальные компоненты, включая attention, embeddings и backbone, — 4-битное. Размер модели около 100 ГБ в памяти, но при потоковой загрузке n-gram table через NVMe может снижаться примерно до 70 ГБ. Сильной стороной сборки является повышенная точность представления экспертных тензоров и совместимость со стандартным mlx-vlm без патчей. При этом pruning остаётся основным источником потери качества: в тесте HumanEval модель получила 90,9%, уступив варианту с полностью 4-битными весами экспертов с результатом 91,5%, поэтому README не рекомендует её большинству пользователей. Поддерживается speculative decoding с отдельной MTP-моделью; заявленное ускорение зависит от оборудования и составляет примерно 1,5–2,6 раза на M5, тогда как на M4 оно близко к нейтральному. Модель распространяется по лицензии qwen-community-license-1.0.

DioDef/qwen3.8-turbo — многоэтапно дообученная и объединённая версия Qwen3.8-27B, разработанная DioDef на базе модели DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. Модель создана с использованием подходов COLD FUSION, Fable Fusion и инструментов Unsloth; в README она представлена как uncensored-модель с вариантами GGUF-квантизации, включая regular и MTP GGUF quants. Модель предназначена для широкого круга сценариев: решения задач и рассуждений, программирования, творческого письма, создания художественных текстов, сторителлинга и ролевых диалогов. Заявленная ключевая особенность — сокращение объёма thinking-токенов по сравнению с базовой Qwen3.8, что должно уменьшать задержку и расход токенов при сохранении подробности ответов. Указаны поддерживаемые языки English и Chinese. Точный размер контекстного окна и сведения о мультимодальных возможностях в README не приведены; тег image-text-to-text сам по себе не подтверждает наличие полноценного vision-интерфейса. Модель позиционируется как производительная версия для запуска на потребительском оборудовании и доступна в форматах с разной степенью квантизации, включая 4-битные и 8-битные варианты. Среди сильных сторон заявлены скорость генерации, сокращённое рассуждение, развитые способности к решению задач, программированию и генерации художественного текста. Заявления о результатах ARC-C, ARC-E и превосходстве над другими моделями приведены авторами README и не подтверждены независимыми данными в предоставленном описании. Лицензия — Apache-2.0.

Qwen3-Blitzar-Coder-F1-6B-Brainstorm20x — текстовая инструктивная модель для генерации кода, созданная DavidAU на основе дообученной модели prithivMLmods/Blitzar-Coder-4B-F.1 с применением адаптера Brainstorm 20x. Модель рассчитана на генерацию и доработку кода по подробным инструкциям, в том числе на пошаговое решение сложных задач и мозговой штурм. Модель использует архитектуру Qwen3ForCausalLM и содержит 5,4 млрд параметров. Она принимает текст и генерирует текст; заявленная длина контекста — до 40 960 токенов. В карточке указана поддержка английского языка. Автор описывает Brainstorm 20x как модификацию, направленную на улучшение связности рассуждений, детализации и следования инструкциям, однако отмечает, что повышение интеллекта модели не было целью или предметом оценки. Исходные веса доступны в формате safetensors и могут использоваться напрямую или конвертироваться в другие форматы. Для работы требуется шаблон Jinja или ChatML. Лицензия — Apache 2.0. Практическое качество на сложных задачах зависит от настроек генерации и используемой точности; README рекомендует более высокие квантизации для многошагового решения задач.

RAS-LAB разработала эту модель как сжатую версию инструктивной Qwen3-Coder-30B-A3B-Instruct для генерации текста, программирования и диалоговых сценариев, включая ответы на корейском языке. Модель использует архитектуру Qwen3 MoE: по README, после удаления экспертов в каждом слое осталось 112 из 128, а число активных экспертов top-8 не изменилось. В карточке указано около 27 млрд параметров, из которых активно примерно 3,3 млрд; метаданные каталога приводят значение 2,6 млрд параметров. Поддерживаются MLX и safetensors, веса также загружаются через Transformers; контекст — до 262 144 токенов. Метод K-REAP защищает путь корейских экспертов при однократном прореживании без последующего дообучения. По приведённым в README результатам, на корейских бенчмарках потери относительно исходной модели невелики; результаты на английских задачах, математике и коде смешанные. Это сравнительные оценки из карточки, а не гарантия качества для конкретных запросов. Лицензия — Apache-2.0.

sasa2000/Qwen3-Swallow-8B-RL-v0.2-heretic — дообученная версия Qwen3-Swallow 8B RL v0.2 с ослабленным поведением отказа, подготовленная на основе abliteration. Базовая модель разработана проектом Swallow LLM; репозиторий содержит плотную причинно-языковую архитектуру Qwen3 с 7,6 млрд параметров и контекстом до 40 960 токенов. Модель принимает текст и генерирует текст в диалоговом режиме. Она предназначена для общения на японском и английском языках, перевода между ними, решения математических задач, программирования и рассуждений. В сравнении из карточки указано 31 отказ из 100 запросов против 97 у исходной модели; это описание теста отказов, а не оценка общей точности. Рекомендуемый автором предел контекста — 32 768 токенов или меньше. Работа с вызовом инструментов не была специально обучена и не валидирована, а отдельное переключение режима рассуждений не поддерживается. Модель распространяется по лицензии Apache-2.0. Авторы базовой модели отмечают, что семейство находится на раннем этапе разработки и не настроено для надёжного следования человеческим намерениям или требованиям безопасности; снижение частоты отказов также означает, что ответы требуют соответствующей проверки.

Wizard Mega 13B — языковая модель OpenAccess AI Collective, дообученная на базе LLaMA 13B на данных ShareGPT, WizardLM и Wizard-Vicuna. Это плотная авторегрессионная модель семейства LLaMA с 12,9 млрд параметров, предназначенная для генерации текста и ответов на инструкции; доступный контекст составляет 2048 токенов. В карточке приведён пример генерации Python-кода. Модель обучалась два эпоха: релиз основан на чекпойнте второй эпохи, поскольку оценочная ошибка росла на третьей. Данные обучения очищали от некоторых отказов и стандартных фраз вроде «As an AI language model». Модель не проходила RLHF и не имеет встроенной фильтрации ответов, поэтому может выдавать проблемный контент. Лицензия в предоставленных данных не указана.

MaTE X Privacy Sentinel v0.1 — дообученная модель enosislabs на основе openai/privacy-filter для локального обнаружения и разметки чувствительных фрагментов текста при фильтрации и маскировании данных. Она предназначена для сценариев приватности и безопасности, включая поиск персональных данных и секретов в строках конфигурации и других текстовых данных; карточка демонстрирует пример с адресом базы данных и учётными данными. Модель построена на архитектуре MoE, содержит 145,4 млн параметров, принимает текст и выдаёт разметку токенов. Контекст составляет до 131 072 токенов. Опубликованные веса представлены в формате Safetensors; лицензия — Apache-2.0. Модель помогает выявлять риски утечки, но не гарантирует соответствие требованиям: перед применением в production следует провести собственную проверку на контрольных примерах.

ANITA-NEXT-24B-Dolphin-Mistral-UNCENSORED-ITA — разговорная языковая модель семейства ANITA-NEXT, разработанная исследователем Марко Полиньяно из Университета Бари Альдо Моро и исследовательской группой SWAP. Это плотная авторегрессионная модель архитектуры Mistral на 23,4 млрд параметров, дообученная на базе dphn/Dolphin-Mistral-24B-Venice-Edition с помощью SFT, QLoRA и DPO. Она предназначена для диалога, следования инструкциям и генерации текста и кода; README характеризует её как модель с рассуждением и без фильтрации ответов. Модель принимает текст и генерирует текст, включая код. Она рассчитана прежде всего на итальянский язык, также заявлена поддержка английского и многоязычных сценариев. Метаданные указывают контекст 40 960 токенов; README отмечает деградацию качества после примерно 40 тысяч токенов, несмотря на заявленные там 128 тысяч. Указанная лицензия — Apache-2.0. Авторы предупреждают о галлюцинациях и возможности оскорбительных, неэтичных или опасных ответов; модель представлена для исследовательского применения.

WaveCut подготовил квантованную сборку DeepSeek-V4-Flash-0731-REAM96-111B в формате GGUF. Это чат-модель с архитектурой mixture-of-experts: в сборке оставлено 96 из исходных 256 экспертов на слой. Экспертов квантовали до 2 бит, внимание — до 8 бит; для квантования использована importance matrix. Файл ream96.gguf занимает 36,4 ГБ, сборка рассчитана на конфигурации с 48 ГиБ памяти. Модель предназначена для многоязычного диалога, рассуждений, ответов на вопросы о коде и продолжительных бесед. В README отмечено, что многоязычный чат, рассуждения и длинные диалоги показывают стабильные результаты, однако 2-битная квантизация особенно ухудшает агентное поведение. В отдельных прогонах наблюдались сбои в русской игре слов, переключении с английского на русский, вызове инструментов и удержании фокуса в длинном диалоге. Для запуска требуется специализированная ветка DS4 с поддержкой переменного числа экспертов; обычный llama.cpp этот файл не загрузит. Лицензия — MIT. Для конфигураций запуска в README приведён контекст 8192 токена.

DeepSeek V4 Flash 0731 for one DGX Spark — это квантованная сборка модели DeepSeek-V4-Flash-0731, разработанной командой DeepSeek и упакованная пользователем 0xSero. Модель предназначена для генерации текста и программного кода, структурированного вывода и работы через OpenAI-совместимый API. В README указана архитектура mixture-of-experts; сборка использует REAP pruning, формат EXL3/Trellis и точность около 3,0 bpw. Модель рассчитана на развёртывание на одном NVIDIA DGX Spark с GPU GB10/SM121 и 128 ГБ унифицированной памяти. Заявленный предел контекста составляет 262 144 токена. Для запуска требуется специализированный ARM64-совместимый runtime SparkInfer и опубликованный Docker-образ; стандартные vLLM, ExLlamaV3 и простой запуск с tensor parallelism 1 не поддерживаются для этого rank-sliced артефакта. Поставляемый runtime выполняет преобразование TP4-чекпойнта в TP1 и поддерживает CUDA Graphs и speculative decoding. К сильным сторонам относятся возможность локального запуска крупной MoE-модели на одном DGX Spark, проверенная генерация текста и кода, поддержка строгих JSON-схем и длинного контекста. Ограничения — жёсткая зависимость от конкретного оборудования и закреплённого runtime, значительный объём загрузки и дискового пространства, а также не полностью достигнутый целевой порог стабильной скорости декодирования: в одном из пяти измерений получено 34,30 токена в секунду. Лицензия модели указана как MIT.

Это конвертированная версия разговорной модели Dolphin 2.6 на архитектуре Phi-2. Модель предназначена для генерации текста в диалогах и ответов на инструкции. В карточке указаны форматы PyTorch, Safetensors и GGUF, а максимальный контекст составляет 2048 токенов. Модель ориентирована на английский язык и обучена на смесях диалоговых и инструктивных наборов данных, включая Dolphin, Airoboros, OpenHermes и Magicoder. Лицензия обозначена как other, поэтому условия использования следует уточнить в исходной карточке.

Dolphin3.0-Qwen2.5-1.5B-GGUF — это GGUF-квантизированная версия текстовой генеративной модели Dolphin3.0-Qwen2.5-1.5B, опубликованная и квантизированная bartowski на основе модели cognitivecomputations. Модель основана на Qwen2.5-1.5B и предназначена для локального запуска через llama.cpp и совместимые приложения, включая LM Studio. Модель ориентирована на генерацию текста, выполнение инструкций, программирование, математические задачи, работу с function calling и агентскими сценариями. В README указаны английский язык и размер базовой модели 1,5 млрд параметров; сведения о длине контекста, точной архитектуре и других модальностях не приведены. Доступны варианты от F32 и F16 до квантизаций Q8, Q6, Q5, Q4 и Q3 с размерами примерно от 0,78 до 6,18 ГБ. Для большинства сценариев рекомендуются варианты Q4–Q6, обеспечивающие баланс качества и требований к памяти. Сильными сторонами являются компактный размер, возможность автономного запуска на локальном оборудовании и широкий выбор уровней квантизации. Более низкие варианты экономят память, но снижают качество; некоторые форматы являются устаревшими. Для корректного взаимодействия следует использовать шаблон prompt в формате ChatML, указанный в README. Модель распространяется по лицензии Apache-2.0.

Карточка модели elyza/ELYZA-japanese-CodeLlama-7b на Hugging Face совпадает с карточкой elyza/ELYZA-japanese-CodeLlama-7b-instruct, поэтому описание составлено по ней. ELYZA-japanese-CodeLlama-7b-instruct — компания ELYZA дообучила на базе Code Llama дополнительным предварительным обучением, чтобы расширить поддержку японского языка. Это плотная авторегрессионная модель семейства Llama для генерации текста, включая ответы на инструкции и создание кода. Модель содержит 6,6 млрд параметров и поддерживает контекст длиной до 16 384 токенов. В карточке указаны японский и английский языки. Модель подходит для генерации и объяснения кода, а также для ответов на текстовые запросы на японском и английском языках. Модель распространяется в формате safetensors по лицензии Llama 2. Карточка не приводит оценки качества или подробные ограничения; результаты генерации кода и фактические ответы следует проверять.

ELYZA-japanese-CodeLlama-7b-instruct — компания ELYZA дообучила на базе Code Llama дополнительным предварительным обучением, чтобы расширить поддержку японского языка. Это плотная авторегрессионная модель семейства Llama для генерации текста, включая ответы на инструкции и создание кода. Модель содержит 6,6 млрд параметров и поддерживает контекст длиной до 16 384 токенов. В карточке указаны японский и английский языки. Модель подходит для генерации и объяснения кода, а также для ответов на текстовые запросы на японском и английском языках. Модель распространяется в формате safetensors по лицензии Llama 2. Карточка не приводит оценки качества или подробные ограничения; результаты генерации кода и фактические ответы следует проверять.

Это GGUF-квантизированная версия Falcon Coder 3B, подготовленная mradermacher на основе anthonylee991/falcon-coder-3b. Модель предназначена для генерации кода и диалоговой работы с запросами о программировании. В метаданных отмечены архитектурное семейство Falcon и размер базовой модели 3B; репозиторий содержит статические квантизации TQ1_0 и TQ2_0 в формате GGUF. Базовая модель дообучена на наборах CodeFeedback-Filtered-Instruction, Magicoder-OSS-Instruct-75K и Magicoder-Evol-Instruct-110K. Карточка указывает английский язык, а лицензия репозитория — Apache-2.0. Доступны варианты с разным балансом размера и скорости; README не приводит сравнительных оценок качества, поэтому возможности конкретных квантованных вариантов могут различаться.

Модель beki/flair-pii-distilbert — модель распознавания именованных сущностей для выявления персональных данных в англоязычном тексте. Разработчик обучил её в Flair на трассировках протоколов, сгенерированных набором Privy; для представлений токенов используются эмбеддинги DistilBERT. Модель размечает пять классов сущностей, включая имена людей, названия мест и организаций. Модель предназначена для поиска и разметки PII в тексте, например при проверке журналов протоколов. В README приведён показатель F1 0,9522. Репозиторий содержит веса PyTorch и распространяется по лицензии MIT. Указанная в карточке совместимость пакета spaCy — версии от 3.4.1 до 3.5.0.

Мультимодальная инструкционная модель Gemma 4 Unified, созданная tepirale слиянием через Task Arithmetic на базе google/gemma-4-12B-it и двух производных моделей, ориентированных на программирование и агентные сценарии. Репозиторий содержит веса Safetensors и предназначен для диалогового использования; модель принимает текст и изображения и генерирует текстовые ответы. Слияние объединяет возможности исходной модели Google с направлениями coder и agentic. По данным карточки, модель поддерживает зрительные входы и относится к задаче image-text-to-text; базовая Gemma 4 также описана как мультимодальная модель для диалога, анализа изображений, видео и аудио, а также генерации кода. README не приводит отдельной оценки качества или подробностей об используемых сценариях. Лицензия, размер параметров, поддерживаемые языки и длина контекста в предоставленных данных не указаны. Практические ограничения и качество объединённых возможностей не описаны; сведения о лицензии исходной модели не позволяют установить условия лицензирования этого репозитория.

Crystalcareai/gemma-coder — дообученная плотная языковая модель семейства Gemma для генерации текста и помощи с программированием, в частности с Python. Согласно карточке, обучение проводилось в течение трёх эпох на датасете Vezora/Tested-143k-Python-Alpaca. Модель содержит 8,2 млрд параметров, использует архитектуру GemmaForCausalLM и принимает контекст до 8192 токенов. Модель предназначена для генерации и объяснения Python-кода и ответов на инструкции по программированию. В README указано, что она сохраняет компактную архитектуру Gemma и рассчитана на применение при ограниченных вычислительных ресурсах. Доступна в формате safetensors. Лицензия в предоставленных данных не указана.

HyperCLOVA X SEED 14B Think — плотная языковая модель семейства HyperCLOVAX, разработанная командой HyperCLOVA X. Она предназначена для диалогов и генерации текста с возможностью пошагового рассуждения, в том числе для математических и кодовых задач. Разработчики использовали pruning и дистилляцию знаний, а затем многоэтапное обучение: SFT, обучение с проверяемыми наградами, настройку длины рассуждений и совместное обучение с обратной связью от людей и проверяемыми наградами. В README приведён размер 14,74 млрд параметров; метаданные указывают 14,1 млрд параметров и контекст 131 072 токена. Архитектура основана на Transformer, Peri-Layer Normalization и μP; модель принимает и выдаёт текст. README сообщает о сильных результатах на корейском языке и знании корейской культуры, а также о конкурентных результатах в математике и программировании. Длину рассуждений можно задавать текстовой инструкцией; поддерживается многоходовый диалог и описан сценарий вызова инструментов. Модель подходит для корейскоязычных диалоговых помощников, решения задач на рассуждение и ответов на вопросы, а также для генерации и объяснения кода. README приводит контекст 32 тыс. токенов, тогда как метаданные указывают 131 072 токена. Лицензия помечена как other, поэтому конкретные условия использования следует проверять в файлах репозитория модели.

Josiefied-Qwen2.5-Coder-14B-Instruct-abliterated-v1 — дообученная Gökdeniz Gülmez модель Qwen2.5-Coder-14B-Instruct с архитектурой Qwen2ForCausalLM и 14 млрд параметров. Она предназначена для генерации кода и диалогового взаимодействия; автор описывает её как модель, дополнительно дообученную на пользовательском наборе данных для менее ограниченных ответов. Модель принимает текст и генерирует текст, поддерживает английский и немецкий языки. Заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса safetensors; в README также упоминаются квантизированные версии GGUF. Лицензия — Apache 2.0. Модель может давать менее ограниченные ответы, поэтому результаты требуют проверки. Автор отдельно предупреждает об использовании на собственный риск; подробности набора данных и оценки качества в карточке не приведены.

lexi-coder-v4.2 — дообученная Reallexi модель для генерации текста и кода на основе Microsoft Phi-4-mini-instruct. LoRA-адаптер объединён с базовыми весами, поэтому запускать отдельный PEFT-адаптер не требуется. Модель содержит около 3,85 млрд параметров, использует архитектуру Phi-3 для авторегрессионной генерации и обучена на контекстном окне 2048 токенов; метаданные каталога указывают нативный контекст 4096 токенов. Модель рассчитана на диалоговое использование и задачи кодирования, однако README не приводит результатов оценки, перечня поддерживаемых языков или подробного описания обучения. Репозиторий содержит веса safetensors; лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии на странице модели.

Llama3.1-8B-Enigma-GGUF — это квантизированная версия языковой модели Llama3.1-8B-Enigma от ValiantLabs, подготовленная и опубликованная bartowski в формате GGUF для llama.cpp. Модель основана на архитектуре Llama и предназначена для генерации текста, диалогового взаимодействия, выполнения инструкций и задач, связанных с программированием, в частности с Python. Заявленный язык — английский. Доступны варианты с разной степенью квантизации: от полноразмерной F32-версии около 32,13 ГБ до компактных IQ2_M и Q2_K. Наиболее качественными и рекомендуемыми в README названы варианты Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS; более компактные варианты требуют меньше оперативной памяти, но заметнее снижают качество. Квантизация выполнена с использованием imatrix и llama.cpp release b3583, запуск рекомендуется через LM Studio. Сильными сторонами являются выбор размеров файлов, возможность локального запуска и сохранение высокого качества у старших вариантов квантизации. Ограничения включают зависимость качества от выбранного варианта, преимущественную ориентацию на английский язык и отсутствие в README данных о размере контекста, производительности, мультимодальности и результатах тестирования. Модель распространяется по лицензии llama3.1.

Sakana AI разработала Llama-3-8B-Instruct-Coding-Expert — экспериментальную авторегрессионную языковую модель семейства Llama на 7,5 млрд параметров, основанную на Llama-3-8B-Instruct. Модель предназначена для генерации текста в диалоговом режиме и ориентирована на задачи программирования; в README указаны обучающие данные Magicoder-Evol-Instruct-110K и Magicoder-OSS-Instruct-75K. Модель принимает текст и генерирует текст. Метаданные указывают английский язык и контекст до 8192 токенов. В README модель представлена как один из экспертных компонентов набора Llama-3-CycleQD. Это экспериментальный прототип для исследований и разработки: авторы не рекомендуют коммерческое использование и развертывание в критически важных средах, а качество результатов не гарантируется. Лицензия — Meta Llama 3 Community License.

Карточка модели SakanaAI/Llama-3-8B-Instruct-CycleQD-CS на Hugging Face совпадает с карточкой SakanaAI/Llama-3-8B-Instruct-Coding-Expert, поэтому описание составлено по ней. Sakana AI разработала Llama-3-8B-Instruct-Coding-Expert — экспериментальную авторегрессионную языковую модель семейства Llama на 7,5 млрд параметров, основанную на Llama-3-8B-Instruct. Модель предназначена для генерации текста в диалоговом режиме и ориентирована на задачи программирования; в README указаны обучающие данные Magicoder-Evol-Instruct-110K и Magicoder-OSS-Instruct-75K. Модель принимает текст и генерирует текст. Метаданные указывают английский язык и контекст до 8192 токенов. В README модель представлена как один из экспертных компонентов набора Llama-3-CycleQD. Это экспериментальный прототип для исследований и разработки: авторы не рекомендуют коммерческое использование и развертывание в критически важных средах, а качество результатов не гарантируется. Лицензия — Meta Llama 3 Community License.

SakaiSec/Macaron-V1-Tall-mlx-fp16 — конверсия модели mindlab-research/Macaron-V1-Tall в формат MLX с помощью mlx-lm 0.31.2. Это диалоговая генеративная модель семейства Qwen3.5 MoE, предназначенная для персональных агентов, вызова инструментов, программирования и генерации интерфейсов. В метаданных указаны поддержка английского и китайского языков, а также лицензия MIT. Модель принимает текстовые запросы и генерирует текстовые ответы. Карточка не приводит сведений о размере и длине контекста. Указание fp16 в названии относится к формату этой версии; репозиторий описывает конверсию, а не новое дообучение. Для запуска README предлагает mlx-lm.

MiniCPM5-1B-heretic — модифицированная версия MiniCPM5-1B, разработанная автором RACER IS OP на основе модели openbmb. С помощью Heretic v1.4.0 к модели применена направленная абляция: целевые изменения весов в выходных проекциях attention и down-projection MLP подавляют поведение, связанное с отказами, без дообучения. Заявлено, что при этом в основном сохраняются знания, следование инструкциям, генерация кода, рассуждения и использование инструментов. Модель предназначена для диалоговых приложений, локальных агентов, генерации кода, function calling, ролевых сценариев и исследований механизмов alignment и отказов. Это текстовая causal language model примерно на 1,1 млрд параметров с поддержкой английского и китайского языков, контекста до 128K токенов и режимов Think/No-Think. Доступны форматы Transformers и GGUF, запуск возможен через llama.cpp, Ollama, LM Studio, Jan, vLLM и SGLang; модель ориентирована на потребительские GPU, CPU, Apple Silicon и edge-устройства. Ключевое заявленное преимущество — существенное снижение отказов: 2 из 100 против 96 из 100 у исходной MiniCPM5-1B в описанном тесте, при низком KL-divergence 0,0381. Ограничения включают небольшой для сложных задач размер модели, возможное снижение качества на низких уровнях квантования и отсутствие защитных ограничений, поэтому результаты и безопасность применения требуют дополнительной проверки. Указана лицензия Apache-2.0.