I.14Автоматизация процессов и AI-агенты

DeepSeek-V4.1-Flash (GGUF) — квантизированная версия текстовой модели DeepSeek-V4.1-Flash, разработанной DeepSeek и преобразованной в формат GGUF автором mxxm-t. Сборка предназначена для запуска через mx-llama.cpp — форк llama.cpp с поддержкой много-GPU инференса, pipeline и tensor parallelism, а также DSpark/MTP speculative decoding. Модель использует MoE-архитектуру с маршрутизируемыми экспертами и квантованием MXFP4; основные веса занимают около 375,8 GiB в 12 файлах, а после загрузки требуют примерно 302 GiB без учёта KV-кэша и вычислительных буферов. В комплект входит отдельный файл DSpark размером 7,43 GiB, который не является самостоятельной моделью и применяется только для speculative decoding. Поддерживается генерация текста; языки и максимальный контекст в README явно не указаны, хотя приведён пример запуска с контекстом 32768 токенов. Сильные стороны сборки — эффективный много-GPU инференс, поддержка режимов layer и tensor parallelism, MXFP4 для routed experts, сжатие KV-кэша и ускорение генерации с помощью DSpark. Ограничения заключаются в высоких требованиях к памяти и накопителю, необходимости совместимого mx-llama.cpp, отсутствии vision tower, projector и файла mmproj, а также в том, что DSpark нельзя использовать отдельно. Для chat completions ответ этой архитектуры помещается в поле reasoning_content, а не content. Лицензия MIT, унаследованная от базовой модели DeepSeek.

DeepSeek V4 Flash — это квантизированная GGUF-версия базовой модели DeepSeek-AI DeepSeek-V4-Flash, подготовленная antirez для инференс-движка ds4. Модель предназначена для генерации текста и работы с англоязычными запросами, включая локальный запуск на системах с Apple Silicon и поддержкой Metal. Модель использует архитектуру Mixture-of-Experts (MoE). Доступны варианты с квантизацией routed experts в форматах 2-bit IQ2_XXS/Q2_K и 4-bit Q4_K, при этом важные компоненты, включая attention projections, shared experts, output head и router, сохранены в менее агрессивных форматах Q8_0, F16 или F32. Размер основных файлов составляет около 80,8 ГиБ для q2 и 153,3 ГиБ для q4. Дополнительный файл MTP размером 3,6 ГиБ обеспечивает поддержку speculative decoding и не является самостоятельной моделью. Сильной стороной сборки является уменьшение размера за счёт агрессивной квантизации экспертных блоков при сохранении точности маршрутизации и ряда ключевых компонентов. Вариант q2 рассчитан на компьютеры с 128 ГиБ оперативной памяти, а q4 — на системы с объёмом памяти от 256 ГиБ. Сборка может работать с другими инференс-движками, но гарантируется прежде всего совместимость с ds4; MTP требует специального загрузчика. В README приведён пример запуска с контекстом до 100000 токенов, однако максимальный контекст самой модели явно не указан. GGUF-файлы распространяются по лицензии MIT; авторские права на базовую модель принадлежат DeepSeek, а распространение квантизированных файлов осуществляется на условиях релиза базовой модели.

sentence-transformers/distilroberta-base-msmarco-v1 — модель Sentence Transformers, обученная командой Sentence Transformers на основе архитектуры DistilRoBERTa. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для семантического поиска и кластеризации. Модель также подходит для сравнения сходства предложений; её можно использовать через библиотеку sentence-transformers или Transformers с соответствующей операцией pooling. Модель содержит 95,2 млн параметров, принимает текст и поддерживает контекст до 514 токенов. Доступны версии в форматах PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Карточка предупреждает, что модель устарела и формирует эмбеддинги низкого качества, поэтому для новых проектов рекомендуются другие модели эмбеддингов.

DNA 2.0 — языковая модель компании Dnotitia Inc., созданная дообучением Smoothie-Qwen3-14B. Это плотная авторегрессионная модель семейства Qwen3 с 14 млрд параметров, предназначенная для диалогов, рассуждений, математических задач и повседневных запросов. В README заявлены улучшения пошагового решения задач, логического вывода и генерации на корейском и английском языках; модель также позиционируется как менее ограничивающая ответы на чувствительные темы. Модель принимает текст и генерирует текст. README указывает контекст 32 тыс. токенов с расширением до 131 тыс. через YaRN, тогда как метаданные каталога фиксируют нативный контекст 40 960 токенов. Поддерживается режим управления рассуждением через команды /think и /no_think. Доступны веса Safetensors для Transformers, лицензия — Apache 2.0. Заявления README об оценках и улучшениях представлены разработчиком и не сопровождаются подробностями протокола оценки; качество на конкретных задачах следует проверять отдельно. Для генерации с включённым режимом рассуждения автор не рекомендует жадное декодирование из-за ухудшения качества и риска повторов.

MaziyarPanahi/dolphin-2.6-mistral-7b-GGUF — это набор квантованных файлов модели в формате GGUF, подготовленный MaziyarPanahi на основе модели cognitivecomputations/dolphin-2.6-mistral-7b, разработанной cognitivecomputations. Модель предназначена для генерации текста и может использоваться локально через llama.cpp и совместимые приложения и библиотеки, включая text-generation-webui, LM Studio, GPT4All и llama-cpp-python. Модель относится к семейству Mistral и имеет размер 7B параметров согласно идентификатору базовой модели. Доступны варианты квантования от 2 до 8 бит, включая Q2_K, Q3_K, Q4_K, Q5_K и Q6_K, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством генерации. В метаданных указан английский язык; другие языки, поддерживаемые моделью, размер контекста и мультимодальные возможности не заявлены. Основные преимущества — совместимость с широким набором инструментов для локального запуска и возможность подобрать степень квантования под доступное оборудование. Ограничения связаны с потерями качества при более агрессивном квантовании, а также с отсутствием в предоставленных данных подробных оценок, описания точных сценариев применения и характеристик контекстного окна. Распространение указано по лицензии Apache-2.0.

MaziyarPanahi/dolphin-2.6-mistral-7b-Mistral-7B-Instruct-v0.2-slerp-GGUF — это набор файлов модели в формате GGUF, разработанный и квантованный MaziyarPanahi. Модель основана на MaziyarPanahi/dolphin-2.6-mistral-7b-Mistral-7B-Instruct-v0.2-slerp, связанном с Mistral-7B-Instruct-v0.2 и dolphin-2.6-mistral-7b. Она предназначена для генерации текста и запуска локальных систем на базе llama.cpp и совместимых приложений и библиотек. Модель относится к семейству 7B и поддерживает несколько вариантов квантования, включая 2-, 3-, 4-, 5-, 6- и 8-битные варианты; в README подробно описаны схемы GGML_TYPE_Q2_K, Q3_K, Q4_K, Q5_K и Q6_K. Разные варианты позволяют выбирать компромисс между размером файлов, требованиями к памяти, скоростью и сохранением качества. Формат поддерживается llama.cpp, text-generation-webui, KoboldCpp, GPT4All, LM Studio, llama-cpp-python и другими инструментами. Сильными сторонами являются возможность локального запуска, широкий выбор уровней квантования и совместимость с популярными средствами инференса. README не содержит сведений о поддерживаемых языках, размере контекста, точных характеристиках архитектуры, результатах тестирования или качестве на конкретных задачах. Квантование может снижать точность по сравнению с исходной моделью, а степень снижения зависит от выбранного варианта. Модель распространяется по лицензии Apache-2.0.

Xenova/e5-small-v2 — веб-совместимая версия модели intfloat/e5-small-v2, подготовленная с ONNX-весами для работы через библиотеку Transformers.js. По представленным данным, исходная модель разработана командой или организацией intfloat, а Xenova предоставляет адаптированный репозиторий для использования в JavaScript-окружениях. Модель предназначена для извлечения признаков из текста и может применяться в сценариях, где требуется получить векторное представление текстового ввода, например для семантического поиска или сравнения текстов. Архитектура, число параметров, поддерживаемые языки, размер контекста и точные характеристики выходных векторов в README не указаны. Ключевое преимущество — совместимость с Transformers.js и возможность использования ONNX-весов в веб-ориентированных приложениях. Лицензия и условия коммерческого или иного использования в представленном описании не указаны.

google/electra-base-discriminator — англоязычный текстовый энкодер семейства ELECTRA, разработанный Google. Модель основана на Transformer и обучалась различать исходные токены текста и заменённые токены, сгенерированные другой нейросетью. Веса содержат 136,7 млн параметров, контекст — до 512 токенов; доступны версии для PyTorch, TensorFlow и Flax. Модель предназначена для тонкой настройки на задачи классификации текста, ответов на вопросы и разметки последовательностей, включая извлечение фрагментов текста. Это базовый дискриминаторный энкодер, а не готовая модель для генерации ответов: для прикладных задач обычно требуется соответствующая голова и дообучение. Лицензия — Apache 2.0.

Это англоязычный энкодер предложений ayushexel, дообученный на базе sentence-transformers/all-MiniLM-L6-v2 на наборе вопросов и ответов GooAQ. Модель преобразует предложения и абзацы в нормализованные плотные векторы размерностью 384; для сравнения векторов используется косинусное сходство. Архитектура основана на BERT с усреднением токенных представлений и нормализацией. В метаданных указан контекст до 512 токенов, а в README — максимальная длина последовательности 256 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации. Её можно использовать, например, для поиска ответов по английским вопросам или группировки похожих вопросов и ответов. Обучение на GooAQ ориентирует её на пары «вопрос—ответ»; на GooAQ dev указана точность по косинусному сходству 0,6034. Это модель представлений, а не генератор текста; заявленные задачи и характеристики относятся к английскому языку. Лицензия в предоставленных данных не указана.

jangedoo/embeddinggemma-300m-pruned — версия Google DeepMind embeddinggemma-300m с сокращённой таблицей токенов, представленная автором репозитория как модель с pruning токенов. Она создаёт текстовые эмбеддинги для семантического поиска, сравнения предложений и других задач, основанных на близости векторов; применять её можно через Sentence Transformers. Архитектура — плотная Gemma 3 Text, размер — около 246 млн параметров по метаданным, контекст — 2048 токенов. Репозиторий содержит веса Safetensors. По README, размер словаря сокращён примерно на 28%, а общее число параметров — примерно на 18% относительно базовой модели. В приведённых оценках STS-B и NanoBEIR pruned-версия уступает базовой по указанным метрикам. Базовая модель описана как многоязычная, но конкретный перечень языков в данных не приведён. Лицензия в доступных сведениях не указана.

ERNIE-4.5-VL-28B-A3B-Thinking — мультимодальная модель рассуждений компании Baidu на архитектуре ERNIE-4.5-VL с MoE. Она принимает текст и изображения и предназначена для визуальных вопросов и ответов, многошагового анализа изображений, STEM-задач по фотографиям, анализа диаграмм, визуальной привязки объектов и понимания видео. В README также заявлены вызов инструментов, включая поиск изображений, и режим «Thinking with Images» для изучения мелких деталей изображения с помощью масштабирования. По метаданным размер модели составляет 3,3 млрд параметров, контекст — до 131 072 токенов; README указывает, что при генерации активируются около 3 млрд параметров. Поддерживаемая библиотека — Transformers, веса опубликованы в формате safetensors. Модель ориентирована на английский и китайский языки. Для Transformers в README указана версия не выше 4.57.6. Лицензия — Apache-2.0.

EuroLLM-9B-Instruct-2512 — мультиязычная языковая модель с 8,6 млрд параметров, разработанная консорциумом Instituto Superior Técnico — University of Lisbon, Instituto de Telecomunicações, University of Edinburgh, Aveni, Unbabel и другими научными и коммерческими организациями при финансировании Европейского союза. Это дообученная версия EuroLLM-9B-2512 для диалогового взаимодействия и генерации текста; в ней применены расширение контекста и обновлённая схема постобучения. Модель использует плотную архитектуру семейства Llama и поддерживается библиотекой Transformers. Модель предназначена для генерации ответов и ведения диалога на европейских и других языках, включая русский, английский, арабский, китайский, хинди, японский и корейский. Родной размер контекста — 32 768 токенов. Веса опубликованы в формате Safetensors, лицензия — Apache License 2.0. Разработчики предупреждают, что модель не выровнена по человеческим предпочтениям и может галлюцинировать, выдавать вредоносный контент или ложные утверждения. Эти особенности следует учитывать при использовании ответов без проверки.

Experiment26T3q-7B — созданная Maxime Labonne автоматическим слиянием методом SLERP моделей rwitz/experiment26-truthy-iter-1 и chihoonlee10/T3Q-Mistral-Orca-Math-DPO. Это плотная Mistral-модель с 7,1 млрд параметров для генерации текста; базовая математическая модель прошла DPO-дообучение на математических данных. Модель принимает текстовые запросы и предназначена для диалоговых ответов и генерации текста, в том числе для решения математических задач. Длина контекста — 32 768 токенов. Веса доступны в формате safetensors, лицензия — Apache-2.0.

Experiment28M7_NeuralsirkrishnaExperiment28 — объединённая языковая модель семейства Mistral, созданная слиянием automerger/Experiment28M7-7B и automerger/NeuralsirkrishnaExperiment28-7B. Она предназначена для генерации текста по текстовому запросу и может использоваться для диалога, черновиков и продолжения текста. Модель имеет плотную архитектуру MistralForCausalLM, около 7,1 млрд параметров и контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0.

ExpertRamonda-7Bx2_MoE — диалоговая языковая модель на архитектуре Mixtral MoE, созданная mayacinka с помощью LazyMergekit путём объединения mlabonne/AlphaMonarch-7B и bardsai/jaskier-7b-dpo-v5.6. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста в диалоге; заявленная длина контекста — 32 768 токенов. Модель подходит для общения, выполнения инструкций, ответов на вопросы и рассуждений в текстовом формате. В README приведены результаты Open LLM Leaderboard и MMLU, но они не гарантируют качество на конкретных пользовательских задачах. Файлы представлены в формате safetensors. Лицензия — Apache-2.0.

FineLlama-3.1-8B_instruct — диалоговая языковая модель, опубликованная phogen и дообученная на unsloth/Meta-Llama-3.1-8B-Instruct с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и ответов в формате диалога по инструкциям. Модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров. Контекстное окно — до 131 072 токенов. В карточке указан английский язык. Модель распространяется в формате safetensors по лицензии Apache-2.0.

DragosGorduza/FRPile_GPL_test_pipeline_all-mpnet-base-v2-MISTRAL-notrescaled_20000 — модель Sentence Transformers на архитектуре MPNet, разработанная автором репозитория DragosGorduza. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения сходства и кластеризации. Модель содержит 136,7 млн параметров, принимает текст и имеет контекстное окно до 514 токенов. В карточке указано обучение с MarginDistillationLoss из GPL Toolkit. Веса опубликованы в формате safetensors. Модель подходит для построения векторного поиска и группировки текстов; конкретные языки и условия лицензии в предоставленных данных не подтверждены.

Карточка модели DragosGorduza/FRPile_GPL_test_pipeline_DragosGorduza-FRPile_MLM_Basel_Roberta-MISTRAL_FULL-notrescaled_90000 на Hugging Face совпадает с карточкой DragosGorduza/FRPile_GPL_test_pipeline_DragosGorduza-FRPile_MLM_Basel_Roberta-MISTRAL_FULL-notrescaled_50000, поэтому описание составлено по ней. DragosGorduza/FRPile_GPL_test_pipeline_DragosGorduza-FRPile_MLM_Basel_Roberta-MISTRAL_FULL-notrescaled_50000 — модель на базе RoBERTa, разработанная как sentence-transformers-модель для преобразования предложений и абзацев в плотные векторы размерности 768. Её можно применять для поиска семантически близких текстов, кластеризации и других задач сравнения текстовых представлений. В метаданных указаны 151,8 млн параметров, контекст до 514 токенов и формат весов safetensors. Модель принимает текст и выдаёт векторные представления; для использования доступны Sentence-Transformers и Transformers с соответствующей операцией pooling. В README указано обучение с MarginDistillationLoss. Сведений о поддерживаемых языках, лицензии и ограничениях качества в предоставленных источниках нет.

Карточка модели DragosGorduza/FRPile_GPL_test_pipeline_DragosGorduza-FRPile_MLM_Basel_Roberta-notfalcon-notrescaled_110000 на Hugging Face совпадает с карточкой DragosGorduza/FRPile_GPL_test_pipeline_DragosGorduza-FRPile_MLM_Basel_Roberta-notfalcon-notrescaled_90000, поэтому описание составлено по ней. FRPile_GPL_test_pipeline_DragosGorduza-FRPile_MLM_Basel_Roberta-notfalcon-notrescaled_90000 — модель на базе RoBERTa, разработанная DragosGorduza. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для поиска по смыслу, кластеризации и сравнения семантической близости. Обучение использовало MarginDistillationLoss из gpl.toolkit; модель распространяется в формате safetensors и рассчитана на работу с библиотекой Sentence-Transformers или Transformers с подходящей операцией pooling. Модель содержит 151,8 млн параметров и принимает текстовые последовательности длиной до 514 токенов. Карточка не сообщает конкретные поддерживаемые языки, поэтому языковую специализацию определить нельзя. Лицензия в предоставленных данных не указана.

FuseQwQen-7B — объединённая разговорная языковая модель от bunnycore на архитектуре Qwen2. Она создана методом линейного слияния нескольких моделей, включая FuseChat-Qwen-2.5-7B-Instruct, QwQ-LCoT-7B-Instruct, cybertron-v4-qw7B-UNAMGS и модель с адаптером Persona. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст; заявленный контекст — до 32 768 токенов. Модель предназначена для диалога и генерации ответов, в том числе с опорой на инструкции и рассуждения. В карточке приведены результаты Open LLM Leaderboard, однако данных недостаточно, чтобы подтвердить конкретный уровень качества в отдельных сценариях. Использование предполагает библиотеку Transformers и формат safetensors. Лицензия в предоставленных данных не указана.

GeM2-Llamion-14B-Chat — чат-модель семейства GeM 2.0, разработанная компанией VAIV. Это плотная авторегрессионная модель на архитектуре LLaMA с 14,1 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Репозиторий содержит веса в формате safetensors; длина контекста составляет 4096 токенов. Llamion создана на основе Orion: разработчики преобразовали модель к стандартной архитектуре LLaMA с помощью сопоставления параметров и переноса знаний. Модель ориентирована на основные бизнес-задачи VAIV, однако конкретные отрасли и сценарии в карточке не перечислены. Лицензия — Apache-2.0.

Gemma-2-Ataraxy-v4-Advanced-9B — слитая автором lemon07r диалоговая языковая модель на архитектуре Gemma 2 с 9 млрд параметров. Она объединяет модели lemon07r/Gemma-2-Ataraxy-v3-Advanced-9B и zelk12/recoilme-gemma-2-Ataraxy-9B-v0.1-t0.25 методом SLERP с помощью mergekit; веса сохранены в формате safetensors, тип данных — bfloat16. Модель предназначена для генерации текста и ответов на текстовые запросы в диалоговом режиме. Заявленная длина контекста — 8192 токена. В карточке приведены результаты Open LLM Leaderboard, включая IFEval и BBH; они дают ориентир по оцениванию следования инструкциям и рассуждений, но не гарантируют качество в конкретном сценарии. Лицензия в предоставленных данных не указана.

AxionML Gemma-4-12B-NVFP4 — квантизированная версия мультимодальной модели google/gemma-4-12B-it, разработанная AxionML для открытого использования и развертывания. Модель предназначена для задач преобразования изображений и текста в текст, а также для диалоговых сценариев и серверного инференса. Она содержит около 11,95 млрд параметров и распространяется с лицензией Apache-2.0. В модели используется квантизация NVFP4: линейные слои MLP в блоках Transformer квантизированы по схеме W4A4, тогда как слои внимания q/k/v/o сохранены в BF16. KV-cache квантизирован в FP8 E4M3, а эмбеддинги, lm_head и мультимодальные эмбеддеры для зрения и аудио оставлены в BF16. Размер чекпойнта составляет около 11 ГБ против примерно 24 ГБ у BF16-версии. Микроблоки имеют размер 16 элементов с FP8-масштабами; для калибровки использовались cnn_dailymail и Nemotron-Post-Training-Dataset-v2. Основное преимущество модели — существенное сокращение требований к памяти при заявленной потере точности на GSM8K, а также поддержка серверного инференса через SGLang и спекулятивного декодирования MTP/NEXTN с парной draft-моделью. Модель ориентирована прежде всего на видеокарты NVIDIA Blackwell B100, B200 и B300 с нативными FP4 Tensor Cores. Ограничением является зависимость от совместимого оборудования и специализированных версий TensorRT Model Optimizer и SGLang; квантизация внимания не применяется из-за чувствительности активаций Gemma-4 к выбросам, поэтому преимущества FP4 реализованы только для MLP-слоёв.

GenStructDolphin-7B-Slerp — объединённая языковая модель автора artificialguybr, созданная с помощью LazyMergekit на основе NousResearch/Genstruct-7B и cognitivecomputations/dolphin-2.6-mistral-7b-dpo-laser. Это плотная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; она предназначена для генерации текста и диалогового взаимодействия. Модель можно применять для ответов в чате, подготовки инструкций и сложных вопросов по текстовым корпусам, а также для создания синтетических обучающих данных. Описание не сообщает результатов оценки качества или специальных гарантий поведения. Лицензия в предоставленных данных не указана.

sequelbox/gpt-oss-20b-DAG-Reasoning — экспериментальная специализированная языковая модель Sequelbox, дообученная на openai/gpt-oss-20b. Она предназначена для причинно-следственного анализа: по запросу модель выделяет связи между факторами, оценивает уверенность и формирует ориентированный ациклический граф в структурированном JSON-формате. Для получения такого результата нужно явно попросить граф или анализ; в остальных случаях модель может отвечать в обычном стиле gpt-oss-20b. Архитектура — MoE для генерации текста, указанное в метаданных число параметров — 1,6 млрд, контекст — 131 072 токена; модель работает с текстом на английском языке и поддерживает чат и выполнение инструкций. Разработчик описывает применение в программировании, науке, бизнесе, экономике, финансах, праве, логистике и управлении. Релиз экспериментальный; для использования результатов рекомендуется проверять структуру JSON. Лицензия — Apache-2.0.

ChristianAzinn/gte-large-gguf — это квантизированная GGUF-версия модели gte-large, разработанной Alibaba DAMO Academy и опубликованной thenlper. Репозиторий подготовил ChristianAzinn; исходная модель построена преимущественно на архитектуре BERT и распространяется как модель для создания текстовых эмбеддингов. Модель предназначена для информационного поиска, оценки семантического сходства текстов, reranking и других задач, где требуется сопоставление текстовых представлений. Она обучалась на крупном корпусе релевантных пар текстов из различных предметных областей. Указан английский язык, максимальная длина контекста — 512 токенов. GGUF-файлы поддерживаются llama.cpp и LM Studio; доступны варианты квантизации от 2 до 8 бит, а также FP16 и FP32. Квантизация уменьшает размер и требования к памяти, но низкобитные варианты могут заметно снижать качество; README рекомендует сбалансированные варианты Q4_K_M, Q5_K_S, Q5_K_M и Q8_0. Модель не предназначена для генерации текста: её основная функция — получение эмбеддингов для последующего сравнения или поиска. Варианты с высокой степенью квантизации удобны для локального запуска на ограниченных ресурсах, однако требуют оценки влияния потери точности на конкретную задачу. Исходная модель и материалы репозитория распространяются по лицензии MIT.

h2ogpt-oig-oasst1-512-6_9b — языковая модель H2O.ai для генерации текста и следования инструкциям. Это дообученная версия EleutherAI/pythia-6.9b с архитектурой GPT-NeoX, содержащая около 8,8 млрд параметров. Модель принимает текст и генерирует текст; карточка указывает английский язык и контекст до 2048 токенов. Модель предназначена для чат-ботов, ответов на вопросы и выполнения текстовых инструкций. При дообучении использованы наборы инструкций OIG и OpenAssistant, а также персонализированный набор Fortune 2000. Для запуска README предлагает библиотеку Transformers и Accelerate. Лицензия — Apache-2.0, допускающая коммерческое использование. Модель может выдавать неверные, бессвязные или неуместные ответы и воспроизводить предубеждения или оскорбительный контент; результаты требуют проверки человеком.

Huihui-MoE-1B-A0.6B-SFT — языковая модель huihui.ai для генерации текста, ответов на вопросы и диалогов. Она основана на huihui-ai/Huihui-MoE-1B-A0.6B и использует архитектуру Qwen3MoeForCausalLM с тремя экспертами на слой и активацией одного эксперта для каждого токена. По метаданным, модель содержит 507,9 млн параметров; в README приводится оценка около 1,1 млрд параметров всего и 0,62 млрд активных при генерации. Контекст — до 40 960 токенов. Модель дообучена всеми параметрами на данных по программированию, математике и медицинским рассуждениям: для каждого набора дообучались соответствующие эксперты. Она рассчитана на текстовые запросы и выдаёт текст, включая ответы и многоходовые диалоги. Лицензия — Apache-2.0. README предупреждает, что случайная инициализация весов маршрутизатора экспертов может ухудшать их использование; также указана зависимость совместимости от версии Transformers и от оборудования при выводе.

Huihui-Ornith-1.0-35B-abliterated-MTP-UD-APEX-GGUF — это квантизированная GGUF-версия мультимодальной модели Huihui-Ornith-1.0-35B, разработанной huihui-ai и дополнительно модифицированной автором gbuzhf. Модель основана на архитектуре Qwen3.5 MoE с 256 экспертами и активирует 8 экспертов на токен. В неё встроена MTP-голова для speculative decoding, а также поддержка обработки изображений через отдельный vision projector. Для работы с изображениями требуется файл Huihui-Ornith-1.0-35B-abliterated-mmproj-F16.gguf; без него модель работает только с текстом. Доступны восемь вариантов квантизации объёмом от 14,37 до 30,21 ГБ, включая MTP-UD-Q6_K, MTP-UD-Q5_K_S, MTP-UD-Q4_K_XL и варианты MTP-APEX. Контекст в приведённом примере запуска настроен на 8192 токена. MTP-голова зафиксирована в формате Q8_0. В измерении на смеси запросов для программирования и редактирования текста средняя доля принятых черновых токенов составила 86,4%, а скорость — 44,1 токена в секунду, однако эти показатели относятся только к указанному тестовому стенду и не являются универсальными. Главная особенность модели — abliterated-версия, ориентированная на снижение или устранение отказов, связанных с исходными ограничениями поведения. Это может быть полезно для экспериментов и сценариев, где требуется более свободная генерация, но abliterating намеренно уводит веса от обученного оптимума и может ухудшать качество. Кроме того, imatrix была рассчитана на неabliterated-модели, поэтому распределение точности квантизации и описание маршрутизации экспертов могут быть не полностью оптимальными. Лицензия — MIT.

InnerILLM-OpenPipe-Nous-Yarn-Mistral-optimized-1228-7B-slerp — объединённая модель на базе Mistral, созданная с помощью LazyMergekit методом SLERP из OpenPipe/mistral-ft-optimized-1218 и NousResearch/Yarn-Mistral-7b-128k. Она предназначена для генерации текста и диалоговых сценариев; второй компонент ориентирован на работу с длинным контекстом. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и принимает текст, выдавая текст. Метаданные указывают длину контекста 32 768 токенов. Модель опубликована в формате Safetensors и распространяется по лицензии Apache-2.0. README описывает состав и метод слияния, но не приводит оценок качества или подробных результатов тестирования, поэтому пригодность для конкретных задач следует проверять на собственных данных.