II.4Отладка, тестирование и качество ПО

Experiment28T3q_Neuralsirkrishnaexperiment26Experiment24 — объединённая модель семейства Mistral от MaziyarPanahi, созданная на основе automerger/Experiment28T3q-7B и automerger/Neuralsirkrishnaexperiment26Experiment24-7B. Она предназначена для генерации текста и может использоваться для диалогов и ответов на текстовые запросы. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Веса доступны в формате Safetensors. Лицензия — Apache-2.0.

chanwit/flux-7b-base-stage-0 — объединённая языковая модель, созданная автором репозитория с помощью mergekit и метода SLERP из chanwit/flux-7b-base-stage-00 и Intel/neural-chat-7b-v3-3. Это плотная авторегрессионная модель архитектуры Mistral с 7,1 млрд параметров, предназначенная для генерации текста и диалогов. Она принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. В README описана схема слияния и указано представление весов в bfloat16; метаданные указывают формат safetensors и возможность диалога. Сведений о лицензии и языках в предоставленных источниках нет.

gpt-oss-120b-Derestricted — модифицированная Arli AI версия открытой модели openai/gpt-oss-120b. Это языковая модель с архитектурой MoE для генерации текста и диалогов; каталог указывает 2,1 млрд параметров и контекст до 131 072 токенов. Модель распространяется в формате safetensors и рассчитана на работу с шаблоном сообщений Harmony. Разработчик сообщает, что применил Norm-Preserving Biprojected Abliteration, чтобы ослабить поведение отказа, сохранив нормы весов и способности к рассуждению исходной модели. Предполагаемые сценарии — диалоги, рассуждения и агентные задачи. Заявления README о сохранении или улучшении качества основаны на оценках разработчика и не подтверждают качество для конкретных задач. Модель может чаще отвечать на запросы, от которых исходная версия отказалась бы; это ограничивает её пригодность для сценариев, где необходимы встроенные защитные отказы. Лицензия — Apache-2.0. Для корректной работы следует использовать формат Harmony; README также отмечает, что модель иногда всё же подавляет ответы.

K2-Horizon-MoVA-36B-A4B-GGUF — открытая GGUF-версия модели K2-Horizon-MoVA-36B-A4B, разработанная IFM. Это разреженная Mixture-of-Experts-модель с архитектурой Mixture-of-Values attention (MoVA): всего она содержит 36 млрд параметров, при обработке каждого токена активируется около 4 млрд. Модель предназначена для генерации текста, рассуждений и агентских сценариев; заявлена поддержка контекста до 524 288 токенов. В карточке указано, что модель обучалась на англоязычных данных и ориентирована на английский язык. К сильным сторонам относятся высокая заявленная эффективность при небольшом числе активных параметров, конкурентоспособные результаты на задачах рассуждения и агентского взаимодействия, а также открытый статус проекта. Файлы содержат метаданные токенизатора и совместимый с llama.cpp шаблон чата, однако для запуска требуется версия llama.cpp с поддержкой архитектуры K2 Horizon, которая на момент публикации находилась в разработке. Тензоры сохранены в исходной точности BF16, поэтому практические требования к ресурсам зависят от конкретной среды запуска. Модель распространяется по лицензии Apache-2.0.

KordAI/KeawGPT-Opus — англоязычная плотная авторегрессионная языковая модель семейства Qwen3 с 3,7 млрд параметров, разработанная KordAI как дообучение KordAI/KeawGPT. Модель принимает текст и генерирует текст; поддерживает диалоговый режим и интерфейс вызова инструментов. Для работы с контекстом поддерживается до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев на английском языке. Она распространяется в формате safetensors по лицензии Apache-2.0. В карточке указано, что обучение проводилось с использованием Unsloth и библиотеки TRL от Hugging Face.

Это экспериментальная квантизация GGUF модели huihui-ai/Huihui-Kimi-Linear-48B-A3B-Instruct-abliterated, подготовленная ENOSYS. Она предназначена для генерации текста в диалоге, включая ответы на запросы, связанные с кодом, математикой и инструментами. В README указаны калибровочные данные для английского и русского текста, кода, математики и инструментов, а также экспериментальная глобальная квантизация с целевым диапазоном 3,0–3,5 бит на вес. Тензоры записаны в F16 для совместимости с архитектурой Nvidia Pascal, включая P100; для квантования использовалась нестандартная ветка LLaMA C++, а репозиторий содержит небольшие патчи. Модель основана на Kimi Linear 48B A3B Instruct и предназначена для локального запуска в формате GGUF; карточка описывает её как разговорную мультиязычную модель. Квантизация уменьшает размер весов, но приводит к потерям качества: в README приведены сравнительные метрики perplexity и KL divergence для нескольких вариантов битности. Лицензия — MIT.

WhiskyAKM/LFM2.5-2.6B-NVFP4-GGUF — квантованная GGUF-сборка текстовой модели Liquid AI LFM2.5-2.6B, подготовленная для локального запуска через llama.cpp на CPU и GPU. В основе лежит LiquidAI/LFM2.5-2.6B-Base; в карточке указаны архитектура LFM2, около 2,69 млрд параметров и гибридная структура из 30 слоёв, включая свёрточные слои и GQA. Модель предназначена для генерации текста, диалогов, следования инструкциям, рассуждений и агентных сценариев с вызовом инструментов. Она поддерживает контекст до 131 072 токенов и ориентирована на эффективный запуск на устройстве. Файл NVFP4 использует 4-битное представление для уменьшения требований к памяти. Репозиторий указывает лицензию `other`; конкретные условия следует сверять с карточкой базовой модели и файлами лицензии. В README заявлены сильные стороны в использовании инструментов и длинном контексте, но независимые результаты оценки не приведены.

Llama 2 70B — разработанная Meta предварительно обученная авторегрессионная языковая модель с оптимизированной архитектурой Transformer. Эта версия содержит 70 млрд параметров и опубликована в формате Hugging Face Transformers с весами PyTorch и safetensors. Модель принимает текст и генерирует текст. Она предназначена для генерации на естественном языке и может служить основой для адаптации под различные задачи; карточка указывает английский язык как целевой. Модель обучена на 2 трлн токенов общедоступных данных с отсечкой сентября 2022 года. Для версии 70B используется Grouped-Query Attention; длина контекста — 4 тыс. токенов. Модель разработала Meta. Это базовая предварительно обученная версия, а не вариант Llama-2-Chat, поэтому её не следует считать готовым диалоговым помощником без дополнительной настройки. Выводы могут быть неточными, предвзятыми или нежелательными; перед внедрением нужны проверки и настройка безопасности для конкретного применения. Использование регулируется лицензией Meta Llama 2; для загрузки весов требуется принять её условия.

RedHatAI/Llama-2-7b-dolphin-open_platypus-pruned_50 — разреженная на 50% модель Llama 2 с 7 млрд параметров, дообученная для следования инструкциям на смеси наборов Platypus, Open Orca и Dolphin. Архитектура — LlamaForCausalLM; модель принимает текст и генерирует текст. Контекст составляет 4096 токенов. Карточка описывает запуск через Transformers, а для ускоренного вывода с учётом разреженности — через nm-vllm или deepsparse. Модель предназначена для ответов на инструкции и запросы в текстовом формате. В приведённых в карточке бенчмарках её результаты немного ниже результатов Llama-2-7b-instruct: например, 45,10% против 48,60% на MMLU и 78,86% против 79,45% на HellaSwag. Лицензия в предоставленных данных не указана.

SliceX AI ELM Turbo 6B Instruct — англоязычная диалоговая языковая модель, созданная SliceX AI как срез архитектуры ELM Turbo на основе Meta-Llama-3.1-8B-Instruct. Это плотная авторегрессионная модель семейства Llama с 5,8 млрд параметров и контекстом до 131 072 токенов. Модель предназначена для генерации текста и выполнения инструкций в диалоге. Архитектура ELM Turbo позволяет выбирать срезы разного размера для компромисса между качеством, скоростью и потреблением памяти; для этой версии выбран вариант на 6B. Обучение включало дообучение на инструкционных наборах, в том числе Tulu, Orca Math и WizardLM. README также описывает оптимизацию инференса и интеграцию TensorRT-LLM. Модель подходит для диалоговых помощников, ответов на вопросы и генерации текста на английском языке. Её ответы могут содержать фактические ошибки, смещения или неподходящий контент; результаты следует проверять. Использование регулируется лицензией Llama 3.1.

lmstudio-community/Llama-3.2-3B-Instruct-GGUF — квантованная версия инструкционной модели Meta Llama 3.2 3B Instruct, подготовленная сообществом lmstudio-community; квантование выполнено bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение пользовательских инструкций, ответы на вопросы и использование в локальных приложениях через совместимые инструменты для GGUF. Модель относится к семейству больших языковых моделей Llama и работает с текстовой модальностью. В README указаны размер 3B параметров и поддерживаемые языки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Архитектурные детали, размер контекстного окна и конкретный уровень квантования в предоставленных данных не указаны. К сильным сторонам относятся компактный размер, инструкционное дообучение и возможность использования в локальной инфраструктуре с меньшими требованиями к ресурсам по сравнению с более крупными моделями. Ограничения включают неизвестные из README характеристики производительности, контекста и точности, а также типичные для генеративных языковых моделей риски неточных или нежелательных ответов. Модель распространяется на условиях Llama 3.2 Community License от Meta. Лицензия требует соблюдения Acceptable Use Policy, указания атрибуции и условий «Built with Llama» при распространении соответствующих материалов или продуктов; для организаций с более чем 700 миллионами ежемесячных активных пользователей предусмотрено дополнительное лицензионное ограничение.

lahirum/Llama-3.2-3B-Instruct-Q4_0-GGUF — квантованная версия инструкционной языковой модели Llama 3.2 с примерно 3 млрд параметров, представленная пользователем lahirum и основанная на модели Meta. Формат GGUF и квантизация Q4_0 предназначены для запуска через совместимые инструменты, включая llama.cpp, с уменьшенными требованиями к памяти по сравнению с полноразмерными весами. Модель относится к задачам генерации текста и диалогового взаимодействия по инструкциям. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Модель может применяться для локальных чат-ботов, ответов на вопросы, подготовки и преобразования текста и других сценариев, где требуется компактная инструкционная LLM. Ключевыми преимуществами являются небольшой размер, возможность локального использования и более низкое потребление ресурсов благодаря Q4_0; ограничениями — возможное снижение точности из-за квантизации и меньшая производительность и полнота ответов по сравнению с более крупными моделями. Размер контекстного окна и другие параметры архитектуры в представленном README не указаны. Модель распространяется по лицензии Llama 3.2 Community License от Meta. При распространении материалов или производных продуктов требуется соблюдать условия лицензии, включая предоставление текста соглашения, указание «Built with Llama» и сохранение атрибуции Meta; также необходимо соблюдать Acceptable Use Policy. Для организаций с более чем 700 млн ежемесячно активных пользователей предусмотрено отдельное лицензионное требование.

Luban 13B GGUF — языковая модель для генерации текста, разработанная AIDC-ai-business на базе AIDC-ai-business/Luban-13B и преобразованная в формат GGUF пользователем TheBloke. Модель относится к архитектуре Llama, содержит около 13 миллиардов параметров и предназначена для выполнения инструкций и формирования ответов на текстовые запросы. Модель ориентирована на сценарии текстовой генерации, включая ответы на инструкции, диалоговые приложения и локальный запуск через llama.cpp и совместимые интерфейсы. В карточке указаны английский язык и датасет Open-Orca. Для запросов используется шаблон Alpaca с разделами Instruction и Response. Формат GGUF поддерживает метаданные, специальные токены и различные варианты квантования; доступны файлы с разрядностью от 2 до 8 бит для инференса на CPU и GPU. К сильным сторонам относятся возможность локального запуска, широкий выбор уровней квантования и совместимость с llama.cpp, text-generation-webui, LM Studio, KoboldCpp и другими библиотеками и интерфейсами. Ограничения включают ориентацию преимущественно на английский язык, отсутствие мультимодальных возможностей и зависимость качества, скорости и требований к памяти от выбранного варианта квантования. Модель предназначена для текстовой генерации и не заявлена как специализированная система для других модальностей. Указана лицензия cc-by-nc-4.0 исходной модели. README также сообщает о применимости условий лицензии Meta Llama 2, поэтому модель следует считать подпадающей под обе лицензии; их взаимодействие требует отдельной проверки перед использованием, особенно в коммерческих сценариях.

Undi95/Lumimaid-Magnum-v4-12B — объединённая разговорная модель на архитектуре Mistral, созданная автором Undi95 с помощью mergekit. В объединение вошли Lumimaid, Magnum v4, LocalC и Mistral Nemo Instruct; также автор добавил дообученную на входах Claude версию Nemo. Модель содержит 12,1 млрд параметров, использует формат safetensors и рассчитана на контекст до 131 072 токенов. Для prompt используется шаблон Mistral [INST]…[/INST]. Модель предназначена для диалога и генерации текста по инструкциям, в том числе для продолжительных бесед и сценариев с вызовом инструментов. В README не описаны отдельные специализированные области применения или подробные оценки качества. Лицензия в предоставленных данных не указана.

Matter-0.1-Slim-7B-C — чат-модель на архитектуре Mistral, созданная командой 0-hero путём полного дообучения Mistral 7B на версии slim-C набора данных Matter. Набор собран из более чем 35 датасетов и содержит свыше 6 млрд токенов; модель обучалась три эпохи с помощью Axolotl. Модель предназначена для диалоговой генерации текста и поддерживает интерфейс вызова функций. Для общения используется формат ChatML. Размер модели — 7,1 млрд параметров, родная длина контекста — 32 768 токенов. Доступны веса PyTorch и Safetensors; лицензия — Apache 2.0.

MegaBeam-Mistral-7B-512k-GGUF — набор GGUF-квантизаций модели MegaBeam-Mistral-7B-512k, разработанной aws-prototyping и подготовленной для llama.cpp пользователем bartowski. Модель предназначена для генерации текста и локального запуска, в частности через llama.cpp и LM Studio. Она относится к семейству Mistral и имеет размер 7B параметров; поддерживает контекст до 512 тысяч токенов. Данные о языках и мультимодальности не указаны, поэтому модель следует рассматривать как текстовую. Доступны варианты от F16 до низкобитных Q2 и IQ-квантизаций, размером примерно от 2,50 до 14,48 ГБ. Более высокие разрядности обеспечивают лучшее сохранение качества, а низкие снижают требования к памяти ценой качества; в README рекомендуются, среди прочих, варианты Q4_K_M, Q5 и Q6. Квантизации созданы с использованием imatrix и llama.cpp b3600. Модель не поддерживает системный промпт и требует формата приглашения «<s> [INST] {prompt} [/INST]». В обновлённой версии заявлены улучшения пользовательского опыта и исправление проблем с повторениями. Распространяется по лицензии Apache-2.0. README не содержит результатов бенчмарков или подробного описания качества, поэтому фактические возможности модели в конкретных задачах требуют самостоятельной проверки.

Mistral-7B-Erebus-v3-Instruct-32k — объединённая языковая модель на архитектуре Mistral с 7,1 млрд параметров, созданная с помощью mergekit методом DARE TIES. В качестве основы использована alpindale/Mistral-7B-v0.2-hf, объединённая с mistralai/Mistral-7B-Instruct-v0.2 и KoboldAI/Mistral-7B-Erebus-v3. Модель предназначена для генерации текста и ответов на инструкции; поддерживает контекст до 32 768 токенов. Модель работает с текстом и использует библиотеку Transformers; веса доступны в формате safetensors. Карточка не сообщает о специализированной области применения или поддерживаемых языках. Объединение включает Erebus-v3, однако карточка не описывает его влияние на поведение итоговой модели. Лицензия в предоставленных данных не указана.

mistral-7b-v0.1-layla-v1-Mistral-7B-Instruct-v0.1 — чат-модель, полученная слиянием Mistral-7B-Instruct-v0.1 от Mistral AI и l3utterfly/mistral-7b-v0.1-layla-v1. Слияние выполнено методом SLERP с настройками для слоёв self-attention и MLP; в репозитории представлены веса safetensors в формате bfloat16. Модель с архитектурой MistralForCausalLM и 7,1 млрд параметров предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Заявленная длина контекста — 32 768 токенов; в метаданных указан английский язык. Модель распространяется по лицензии Apache-2.0. Данных о сравнительных оценках качества и специальных ограничениях применения в карточке нет.

Карточка модели unsloth/ModernBERT-large на Hugging Face совпадает с карточкой answerdotai/ModernBERT-base, поэтому описание составлено по ней. ModernBERT-base — двунаправленная encoder-only модель семейства Transformer в стиле BERT, разработанная в сотрудничестве Answer.AI, LightOn и их коллег. Она предварительно обучена на 2 триллионах токенов английских текстов и кода и предназначена для заполнения пропусков в тексте, а также как основа для прикладных задач понимания языка и поиска. Модель содержит 22 слоя и 149 млн параметров, поддерживает контекст до 8192 токенов. В архитектуре используются RoPE, чередование локального и глобального внимания, unpadding и Flash Attention для эффективной обработки длинных последовательностей. Она подходит для анализа длинных документов, классификации, семантического и кодового поиска после настройки под соответствующую задачу. Обучающие данные преимущественно англоязычные и включают код, поэтому качество для других языков может быть ниже. Обработка полного окна контекста может быть медленнее, чем коротких последовательностей; возможны смещения из обучающих данных. Лицензия — Apache-2.0.

Moonlight-16B-A3B-Instruct-MXFP4_MOE-GGUF — квантованная в формате GGUF модель Moonlight-16B-A3B-Instruct, опубликованная пользователем noctrex. Это чат-модель для генерации текста и выполнения инструкций на основе архитектуры Mixture-of-Experts; она имеет 16 млрд общих и около 3 млрд активных параметров. Модель предназначена для диалогов и генерации ответов на текстовые запросы. Вариант MXFP4_MOE использует квантование MXFP4 и распространяется в формате GGUF. Сведения о поддерживаемых языках, длине контекста и лицензии в предоставленных данных отсутствуют.

zelk12 создал эту объединённую языковую модель на архитектуре Gemma 2: веса zelk12/MT2-gemma-2-9B и Aashraf995/Gemma-Evo-10B сведены методом SLERP с помощью mergekit. Модель содержит 9 млрд параметров, предназначена для генерации текста и диалогового взаимодействия; она принимает текстовые запросы и выдаёт текст. Модель подходит для чат-ботов и других приложений, которым нужны ответы на текстовые запросы. Нативная длина контекста составляет 8192 токена. В репозитории представлены веса в формате safetensors. Лицензия в предоставленных данных не указана.

zelk12 опубликовал объединённую модель MT3-IMA-gemma-2-9B, созданную с помощью mergekit из двух предварительно обученных моделей Gemma 2. Для объединения применён метод SLERP с параметром t=0.5; веса представлены в формате bfloat16 и safetensors. Модель предназначена для генерации текста и диалогового взаимодействия, включая выполнение инструкций. Это плотная причинная языковая модель Gemma 2 с 9 млрд параметров и контекстом 8192 токена, работающая через библиотеку Transformers. Языковая специализация в предоставленных данных не указана. Лицензия в предоставленных источниках не описана. Как и у других объединённых моделей, качество и поведение могут отличаться от исходных моделей; отдельные оценки качества в карточке не приведены.

Nyxene-v2-11B — текстовая генеративная модель на архитектуре Mistral, опубликованная beberik. Репозиторий содержит веса в формате BF16; в метаданных указано 10,6 млрд параметров и контекст до 32 768 токенов. Модель собрана с помощью mergekit из нескольких моделей, включая Starling-LM-7B-alpha, DPOpenHermes-7B, una-cybertron-7b-v2 и loyal-piano-m7-cdpo. Модель предназначена для генерации ответов на инструкции и запросы в формате, приведённом в карточке, а также для других задач генерации текста. В README приведены результаты Open LLM Leaderboard, включая среднюю оценку 67,84, ARC и HellaSwag; подробности оценки в доступном фрагменте отсутствуют. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.

OLMo 2 32B Instruct — англоязычная открытая языковая модель Allen Institute for AI, выпущенная в марте 2025 года. Это плотная авторегрессионная модель семейства OLMo 2 с 31,7 млрд параметров, принимающая текст и генерирующая текст; длина контекста составляет 4096 токенов. Модель предназначена для диалогов и выполнения инструкций, а также для решения математических задач и оценки следования инструкциям. Модель дообучена на базе allenai/OLMo-2-0325-32B-DPO: после supervised fine-tuning и DPO она прошла дополнительное обучение RLVR. Карточка указывает на вариант набора Tülu 3, а метаданные связывают модель с датасетом RLVR-GSM-MATH-IF-Mixed-Constraints. Веса доступны в формате safetensors для Transformers. Лицензия — Apache 2.0. Сильные стороны модели — открытые веса и обучение для разнообразных задач, включая диалоги, математику и следование инструкциям. Безопасность обучена ограниченно: модель может выдавать проблемный контент, особенно при соответствующем запросе, а встроенная фильтрация ответов не предусмотрена.

OLMo-2-1124-13B-Instruct — разговорная языковая модель Allen Institute for AI (AI2), постобученная на основе OLMo-2 13B. Она прошла supervised fine-tuning на варианте набора Tülu 3 и обучение RLVR; метаданные указывают базовую модель allenai/OLMo-2-1124-13B-Instruct-RLVR2. Модель с плотной архитектурой OLMo 2 содержит 13,2 млрд параметров, использует Transformers и формат safetensors, а её контекст составляет 4096 токенов. Модель предназначена для диалогов и генерации текста, включая ответы на вопросы, следование инструкциям и решение математических задач. Обучение ориентировано преимущественно на английский язык и охватывает разнообразные задачи, включая MATH, GSM8K и IFEval. Модель распространяется по лицензии Apache 2.0. У OLMo-2 ограничено обучение безопасности; без дополнительной фильтрации она может выдавать проблемные ответы, особенно в ответ на соответствующие запросы. Для загрузки через Hugging Face README сообщает о необходимости установить Transformers из основной ветки.

OpenHermes-2.5-neural-chat-v3-3-Slerp — языковая модель Weyaxi, созданная слиянием через mergekit моделей Intel/neural-chat-7b-v3-3 и teknium/OpenHermes-2.5-Mistral-7B. Она построена на архитектуре Mistral и содержит 7,1 млрд параметров; модель предназначена для генерации текста и диалогов. Для общения в README рекомендуется шаблон ChatML. Указанное окно контекста — 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и генерации текста. Репозиторий содержит веса safetensors; для этой модели также опубликованы отдельные варианты квантования GPTQ, GGUF и AWQ. Лицензия — Apache-2.0. README приводит результаты оценки на нескольких бенчмарках, но не описывает языковое покрытие или специализированные области применения.

Orca-4B-Instruct — компактная инструктивная языковая модель, опубликованная roskosmos19. По карточке она основана на архитектуре Qwen3 и предназначена для диалогов и выполнения текстовых инструкций. Модель содержит около 3,7 млрд параметров, использует архитектуру Qwen3ForCausalLM и принимает контекст до 16 384 токенов. Модель рассчитана на генерацию ответов, следование инструкциям и разговорные сценарии; в метаданных также заявлен интерфейс вызова инструментов. Карточка описывает оптимизацию для экономичного запуска: сокращённый контекст и удалённые мультимодальные специальные токены уменьшают требования к памяти, сохраняя фокус на текстовых ответах. Доступны веса в формате safetensors. Модель подходит для локальных чат-ботов, помощников и других приложений, где важны умеренный размер и стоимость инференса. Ограничение контекста до 16 384 токенов исключает обработку очень длинных запросов; сведения о поддерживаемых естественных языках в карточке не приведены. Лицензия — Apache-2.0.

Ornith 1.0 35B AEON Ultimate Uncensored GGUF — это набор квантованных GGUF-версий языковой модели AEON-7/Ornith-1.0-35B-AEON-Ultimate-Uncensored-BF16. Квантизация выполнена пользователем vcruz305 из исходных весов BF16 с применением калибровки importance matrix. Модель предназначена для генерации текста, рассуждений и программирования и запускается преимущественно через llama.cpp. Модель имеет архитектуру Qwen3 MoE (mixture of experts) и заявленный размер 35B параметров. Доступны варианты с разными уровнями квантования — от Q8_0 до IQ1_M — с размером файлов примерно от 8,2 до 35 ГБ. Предлагаются стандартные версии для обычной авторегрессионной генерации и MTP-grafted версии со встроенным блоком Multi-Token Prediction для speculative decoding. В MTP-варианты добавлены 785 тензоров из Qwen/Qwen3.5-35B-A3B; заявленное ускорение генерации в отдельных тестах достигает 1,8 раза. В README приведены конфигурации с контекстом до 32768 токенов, однако поддерживаемые языки и точный общий объём параметров не уточнены. Сильные стороны модели — широкий выбор квантований для GPU с 8–48 ГБ памяти, поддержка MoE и возможность ускоренной генерации через встроенный MTP-блок. Ограничения включают зависимость от совместимой версии llama.cpp для MTP-режима, компромиссы качества при низких уровнях квантования и отсутствие подробных данных о языковом покрытии, качестве на бенчмарках и безопасности uncensored-настройки. Указана нестандартная лицензия aeon-ultimate; подробные условия следует уточнять по ссылке на лицензию или базовую модель.

failspy/Phi-3-medium-4k-instruct-abliterated-v3 — доработанная модель Microsoft Phi-3 Medium Instruct, созданная автором failspy. Веса bfloat16 обработаны ортогонализацией, чтобы ослабить склонность модели отказываться отвечать на запросы. Это плотная авторегрессионная языковая модель на 13,8 млрд параметров с контекстом 4096 токенов; репозиторий содержит веса Safetensors. Модель предназначена для диалоговой генерации текста и кода, в том числе для запросов, на которые исходная модель могла бы отказать. Автор сообщает, что сохранены остальные свойства исходной модели, однако результат может зависеть от запроса и не гарантирует отсутствия отказов. Модель в целом стабильна по оценке автора, но склонна к галлюцинациям сильнее оригинала; методика также может иметь побочные эффекты. Лицензия — MIT. Автор указывает, что модель проверялась на галлюцинации, но не приводит результаты количественной оценки. В карточке языки обозначены только как multilingual, поэтому конкретные поддерживаемые языки и основной язык не уточняются.

Карточка модели 1024m/PHI-4-B50 на Hugging Face совпадает с карточкой 1024m/HPhi-4-00-fp16, поэтому описание составлено по ней. 1024m/HPhi-4-00-fp16 — дообученная 1024m модель для генерации текста и диалогов. Она основана на unsloth/phi-4 и обучалась с использованием Unsloth и библиотеки TRL; архитектура в метаданных указана как LlamaForCausalLM, плотная, размер — 14,1 млрд параметров. Модель принимает текст и выдаёт текст, поддерживает контекст до 16 384 токенов и ориентирована на английский язык. Модель подходит для ведения диалога и генерации англоязычных ответов, рассуждений и кода. В репозитории представлены веса в формате safetensors. Лицензия — Apache-2.0.