I.14Автоматизация процессов и AI-агенты

MeliodasM7-7B — текстовая генеративная модель, созданная Maxime Labonne автоматическим слиянием моделей AurelPx/Meliodas-7b-dare и liminerity/M7-7b методом SLERP с помощью MergeKit. Она предназначена для генерации текста и диалоговых сценариев. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Файлы модели представлены в формате Safetensors. Лицензия — Apache-2.0.

MeliodasPercival_01_T3qT3qm7 — объединённая модель Mistral для генерации текста, созданная на основе automerger/MeliodasPercival_01-7B и automerger/T3qT3qm7-7B. Она содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0.

Merlinite-7B-Lab — диалоговая языковая модель IBM Research на архитектуре Mistral, дообученная методом LAB на синтетических данных, созданных с помощью Mixtral-8x7B-Instruct. Модель насчитывает 7,1 млрд параметров, принимает текст и генерирует текст; её контекстное окно — 32 768 токенов. Основной язык — английский. Модель предназначена для диалогов и выполнения разнообразных инструкций: ответов на вопросы, рассуждений, творческого письма и задач на знания и навыки. Метод LAB использует таксономию примеров для генерации обучающих данных и поэтапное обучение с буферами повторного воспроизведения, чтобы добавлять знания и навыки к базовой модели. Модель распространяется по лицензии Apache 2.0. В README отмечено, что модель не проходила выравнивание по человеческим предпочтениям и может выдавать проблемные или вымышленные ответы. Рекомендуется использовать системный промпт, применённый при обучении; модель не следует считать единственным источником для важных решений.

Dingdust/MiniCPM5-1B-heretic — текстовая генеративная модель на базе MiniCPM5-1B, изменённая методом abliteration для снижения склонности к отказам. В карточке приведено сравнение: доля отказов снизилась с 97 до 7 из 100, а KL-дивергенция относительно исходной модели составляет 0,0253. Модель сохраняет архитектуру LlamaForCausalLM и контекстное окно 131 072 токена; метаданные указывают 837,6 млн параметров и формат Safetensors. Модель предназначена для локальных диалоговых ассистентов, генерации кода, рассуждений и сценариев с использованием инструментов. Исходная карточка MiniCPM5-1B описывает режимы быстрого ответа и пошагового рассуждения, однако метаданные этого репозитория подтверждают только генерацию текста и чат; отдельная проверка tool calling для данной версии не приведена. Языковые теги — английский и китайский. Репозиторий распространяется по лицензии Apache-2.0. Снижение отказов может повысить вероятность ответа на запросы, на которые исходная модель отказалась бы отвечать, но не гарантирует точность или безопасность результата. Модель может выдавать неточную, предвзятую или небезопасную информацию; ответы следует проверять, особенно перед применением в ответственных сценариях.

MOSS-VL-Instruct-0708 — мультимодальная модель с открытыми весами от OpenMOSS, предназначенная для понимания изображений и видео и взаимодействия по инструкциям. Это версия семейства MOSS-VL 0708, дообученная методом supervised fine-tuning на базе OpenMOSS-Team/MOSS-VL-Base-0708. Модель использует архитектуру vision-language с cross-attention и насчитывает 11 млрд параметров. Модель принимает текст, изображения и видео и предназначена для офлайн-сценариев: визуальных вопросов и ответов, OCR, разбора документов, визуальных рассуждений и анализа видеособытий. Для видео она использует абсолютные временные метки кадров, что помогает анализировать порядок событий, длительность и локализацию действий. Контекстное окно составляет 256K токенов; заявлена поддержка английского и китайского языков. Лицензия — Apache-2.0. Среди ограничений карточка отмечает плотные видеозаписи, специализированные предметные области, распознавание очень мелкого текста и задачи со строгими числовыми рассуждениями: для них могут потребоваться настройка выборки кадров, специальные инструкции или дообучение.

MotherEarth-Hermes-8B — объединённая диалоговая языковая модель, созданная с помощью mergekit методом SLERP на основе MotherEarth/MotherEarth-1.0-8B и mlabonne/Hermes-3-Llama-3.1-8B-lorablated. Она построена на плотной архитектуре LlamaForCausalLM, содержит 7,5 млрд параметров и рассчитана на контекст до 8192 токенов. Модель предназначена для генерации текста и ведения диалогов. В конфигурации с V-образным распределением весов вклад Hermes усилен на входе и выходе, а средние слои ориентированы на WizardMath. Сведения о лицензии в предоставленных данных отсутствуют.

NorMistral-7b-warm-instruct — инструкционно дообученная языковая модель, разработанная командой NorwAI/норвежского проекта NorMistral. Она предназначена для диалогового взаимодействия, генерации текста, ответов на вопросы, следования инструкциям и задач программирования преимущественно на норвежских языках. Модель основана на NorMistral-7b-warm и содержит около 7 миллиардов параметров. Это текстовая авторегрессионная модель семейства Mistral с поддержкой Bokmål и Nynorsk; в карточке также заявлен норвежский язык. Дообучение выполнено на открытых наборах данных Aya, OASST, OIG, No Robots, Dolly и Glaive code assistant. Контекстное окно при дообучении составляет 4096 токенов, что вдвое больше, чем у базовой модели. Для диалогов используется ChatML-подобный шаблон. Сильными сторонами модели являются специализация на норвежском языке, открытость для коммерческого применения и поддержка многоходовых диалогов. При этом выпущенные веса обозначены как рабочая версия, модель прошла только этап supervised fine-tuning без оптимизации предпочтений, а качество и поведение могут измениться в будущих версиях. Для использования рекомендуется корректно применять шаблон чата и параметры генерации, указанные авторами. Модель распространяется по лицензии Apache-2.0.

NousResearch_Hermes-4-14B-GGUF — набор квантованных версий языковой модели Hermes-4-14B, разработанной NousResearch и преобразованной в формат GGUF пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты от исходных весов BF16 размером около 29,54 ГБ до квантований Q2 и IQ3 размером примерно 6,38–15,70 ГБ. В README рекомендуются варианты Q4–Q6 как компромисс между качеством и требованиями к памяти; версии с более низкой разрядностью подходят для систем с ограниченным объёмом RAM, но могут заметно уступать по качеству. Для модели доступны только текстовые сценарии, сведения о поддерживаемых языках, длине контекста, архитектурных деталях и формате промптов в этом README не указаны. Основные преимущества — широкий выбор размеров файлов, возможность локального запуска и применение imatrix-калибровки при квантовании. Ограничения связаны с потерями качества в низкоразрядных вариантах, зависимостью от совместимого ПО и отсутствием в предоставленных данных информации о лицензии оригинальной модели и квантованных файлов.

Карточка модели ff670/openbuddy-mixtral-7bx8-v17.3-32k на Hugging Face совпадает с карточкой OpenBuddy/openbuddy-mixtral-7bx8-v16.3-32k, поэтому описание составлено по ней. OpenBuddy-mixtral-7bx8-v16.3-32k — многоязычная чат-модель семейства Mixtral, опубликованная командой OpenBuddy. Она предназначена для диалогов и генерации текста; архитектура — Mixtral MoE, класс MixtralForCausalLM. В репозитории указаны 7,1 млрд параметров и контекст до 32 768 токенов; модель распространяется в формате safetensors и использует библиотеку Transformers. Модель поддерживает китайский, английский, французский, немецкий, японский, корейский, итальянский и русский языки. Лицензия — Apache 2.0. Ответы могут быть ошибочными, вредными или оскорбительными; модель не следует использовать для решений в медицине, финансах, праве и других критически важных сценариях.

facebook/opt-iml-1.3b — языковая модель семейства OPT, разработанная Meta AI и дообученная следованию инструкциям методом Instruction Meta-Learning. Модель с плотной архитектурой и примерно 1,7 млрд параметров предназначена для генерации текста по запросу; её можно использовать через библиотеку Transformers. Контекст модели составляет 2048 токенов. Обучение проводилось на OPT-IML Bench — наборе примерно из 2000 задач обработки естественного языка, собранных из восьми бенчмарков, включая Super-NaturalInstructions, FLAN и PromptSource. Семейство включает варианты, обученные на 1500 задачах с отложенными задачами для оценки, и OPT-IML-Max, обученный на всех примерно 2000 задачах. В карточке для этой модели не уточнено, какой из вариантов имеется в виду. Лицензия указана как other, поэтому конкретные условия использования следует проверять в репозитории модели. Модель подходит для ответов на инструкции, генерации и преобразования текста в широком круге NLP-задач. Как и другие крупные языковые модели, она может выдавать фактически неверные ответы, токсичный текст и воспроизводить стереотипы; результаты требуют проверки.

Palmyra Vision — мультимодальная модель компании Writer для диалога о визуальных данных. Она принимает изображение вместе с текстовым запросом и формирует текстовый ответ: подходит для вопросов об изображениях, диаграммах, документах, инфографике и визуальных задачах на рассуждение. В README указано обучение на наборе PixMo из 1 млн пар изображение—текст; архитектура — плотная MolmoForCausalLM, размер по метаданным — 12,8 млрд параметров, контекст — 4096 токенов. Модель объединяет компоненты, связанные с Writer/Palmyra-Large и openai/clip-vit-large-patch14-336. Для обслуживания рекомендован vLLM; также описан запуск через Transformers. В README приведены результаты на 11 академических тестах, включая ChartQA, DocQA, TextVQA и MathVista. Указано, что модель может испытывать трудности с прозрачными изображениями; для входных изображений может потребоваться формат RGB, а прозрачность рекомендуется предварительно заменить фоном. Метаданные указывают английский язык. Условия лицензии в предоставленных данных не приведены.

p-e-w_gpt-oss-20b-heretic-GGUF — это набор квантованных версий языковой модели gpt-oss-20b-heretic, разработанной p-e-w и преобразованной в формат GGUF пользователем bartowski. Модель предназначена для генерации текста и запуска в локальных приложениях на базе llama.cpp, включая llama.cpp и LM Studio, а также инструменты с поддержкой этого формата. Доступны варианты от BF16 до низкобитных квантований Q2, Q3, Q4, Q5, Q6 и IQ. Размер файла зависит от варианта и составляет примерно от 12,16 до 41,86 ГБ. Для квантования использовался llama.cpp с методом imatrix и калибровочными наборами данных. В README не указаны архитектура, поддерживаемые языки, размер контекста, мультимодальность и точные характеристики базовой модели; по назначению это текстовая, а не мультимодальная модель. Сильной стороной набора является широкий выбор квантований, позволяющий выбирать между качеством, размером и требованиями к памяти; варианты Q6_K и Q6_K_L описаны как близкие к исходному качеству, а Q4_K_M — как типичный вариант для большинства сценариев. Более сильное сжатие уменьшает требования к ресурсам, но снижает качество. Шаблон чата в README не задан и может требовать проверки по карточке исходной модели. Лицензия — Apache 2.0.

rasyosef/Phi-1_5-Instruct-v0.1 — диалоговая языковая модель на базе Microsoft Phi-1.5, дообученная для выполнения инструкций. Это плотный Transformer с примерно 1,7 млрд параметров; модель распространяется в формате safetensors и рассчитана на контекст до 2048 токенов. Для постобучения применялись supervised fine-tuning на 128 тысячах пар инструкций и ответов из OpenHermes-2.5 и оптимизация предпочтений DPO на нескольких наборах данных. Автор рекомендует подавать запросы в формате system/user/assistant. Модель предназначена для ответов на вопросы, следования инструкциям, рассуждений, решения математических задач и генерации кода. В карточке приведены результаты на IFEval, GSM8K, MMLU, TruthfulQA и Winogrande, однако эти оценки не гарантируют точности ответов в практических задачах. Как и другие компактные языковые модели, она может ошибаться и имеет ограниченный контекст. Лицензия — MIT.

Proto-Harpy-Spark-v0.1-7B — объединённая языковая модель семейства Mistral, опубликованная Jacoby746. Она создана методом SLERP с помощью mergekit на основе SanjiWatsuki/Kunoichi-DPO-v2-7B и uukuguy/speechless-instruct-mistral-7b-v0.2. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и принимает текст для генерации текста, диалогов и ответов на вопросы; заявленная длина контекста — 32 768 токенов. Модель может применяться для текстового общения, следования инструкциям и генерации ответов. В README приведены результаты Open LLM Leaderboard, включая IFEval 43,33 и BBH 26,91, однако подробности протокола оценки и дополнительные результаты в доступной карточке ограничены. Репозиторий содержит веса в формате safetensors, а лицензия — Apache-2.0.

Dohyeon1/Qwen3-30B-A3B-HC-SMoE-ngroups64 — языковая модель для генерации текста, опубликованная на Hugging Face в формате, совместимом с библиотекой Transformers. По метаданным она относится к семейству Qwen3 и использует архитектуру Mixture-of-Experts; название модели также указывает на разреженную MoE-конфигурацию с 64 группами экспертов. Модель предназначена для генерации продолжений текста, диалоговых ответов, черновиков и других текстовых материалов. Она поддерживает контекст длиной до 40960 токенов и имеет 2,6 млрд параметров по метаданным, что делает её пригодной для локального или серверного развёртывания при наличии соответствующих вычислительных ресурсов. В README отсутствуют сведения о разработчике, языках обучения, лицензии, обучающих данных, результатах оценки и специальных ограничениях. Поэтому перед использованием в продуктивных сценариях необходимо самостоятельно проверить качество на целевых данных, безопасность ответов и условия распространения модели.

Aldaris/Qwen3-4B-Q4_K_M-GGUF — это версия языковой модели Qwen3-4B, преобразованная в формат GGUF с помощью llama.cpp через сервис GGUF-my-repo проекта ggml.ai. В README разработчик репозитория не раскрыт; указано только, что модель создана на основе Qwen/Qwen3-4B. Модель предназначена для генерации текста и может использоваться локально через llama.cpp, включая режим командной строки и серверный режим. Известно, что это текстовая модель с размером 4B параметров в квантизованном формате Q4_K_M. Поддерживаемые модальности ограничены текстом; сведения о языках и исходном размере контекста в README не приведены. В качестве примера серверного запуска указано окно контекста 2048 токенов, однако это параметр запуска, а не обязательно максимальный контекст модели. Ключевое преимущество модели — возможность локального запуска в компактном GGUF-представлении с использованием llama.cpp, что подходит для инференса на совместимом пользовательском оборудовании. Ограничения и подробные характеристики унаследованной Qwen3-4B модели в данном README не описаны. Для использования указана лицензия Apache-2.0.

Qwen3.5-0.8B-MTP-GGUF — это GGUF-версия мультимодальной модели Qwen3.5-0.8B, разработанной командой Qwen компании Alibaba и представленной пользователем prithivMLmods. Модель предназначена для локального понимания и генерации текста и изображений, включая лёгкое OCR, разбор документов, визуальные вопросы и ответы, многоязычные чат-боты и базовые задачи программирования. Поддерживаются интеграции с Ollama, vLLM и llama.cpp, что позволяет использовать модель без облачных зависимостей, в том числе на маломощных устройствах и встраиваемых системах. Модель содержит около 0,8 млрд параметров и использует плотную мультимодальную архитектуру с комбинацией Gated DeltaNet и разреженного MoE, 24 слоями, скрытым размером 1024 и словарём из 248 тысяч токенов. Заявлена поддержка 201 языка, работа с текстом и изображениями, нативное контекстное окно 262 тысячи токенов и возможность расширения свыше 1 млн токенов с помощью YaRN. Формат MTP добавляет несколько выходных головок для предсказания будущих токенов и ускорения локального вывода без отдельной draft-модели. К сильным сторонам относятся компактность, низкие требования к памяти, мультимодальность, широкий контекст и варианты квантования размером примерно от 430 МБ до 834 МБ; для BF16 заявлено около 1,6 ГБ VRAM. Ограничения включают малый размер модели, поэтому её возможности могут быть недостаточны для сложного программирования, глубокого анализа и требовательных генеративных сценариев. Модель распространяется по лицензии Apache 2.0.

Qwen3.5-397B-A17B-MLX-8bit — 8-битная квантованная версия модели Qwen3.5-397B-A17B, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием mlx_vlm, а модель оптимизирована для запуска на устройствах Apple Silicon через MLX. Модель предназначена для задач генерации текста и работы с изображениями и текстом; в карточке указан тип pipeline image-text-to-text. Ключевая характеристика — размер исходной модели 397B и 8-битное представление весов. Сведения о поддерживаемых языках, размере контекста и точной архитектуре в README не приведены. К преимуществам относятся существенное снижение требований к памяти по сравнению с исходной моделью и оптимизация для экосистемы Apple Silicon. Ограничения связаны с квантованием, возможными потерями качества относительно полной версии и зависимостью от совместимого оборудования и программного окружения MLX. Модель распространяется по лицензии Apache-2.0; LM Studio не является её разработчиком и не гарантирует точность, безопасность или пригодность результатов.

FreedomAISVR/Qwen3.5-4B-MTP-NVFP4-GGUF — квантизированная сборка мультимодальной модели Qwen3.5-4B, разработанной командой Qwen компании Alibaba. Репозиторий содержит веса GGUF в формате NVFP4 и проектор изображений SigLIP ViT в F16; заявлена поддержка Multi-Token Prediction (MTP), предсказывающей два токена за шаг генерации. Сборка рассчитана прежде всего на ускоренный запуск на видеокартах NVIDIA Blackwell и предназначена для использования через llama.cpp и совместимые инструменты. Модель подходит для генерации текста и диалога, а с мультимодальным проектором — для обработки изображений вместе с текстовым запросом. README указывает контекстное окно 262 144 токена, мультиязычность и режим рассуждения, включённый по умолчанию. В архитектуре базовой модели описаны гибридные слои Attention и Mamba-2, MLA и 3D MRoPE. NVFP4 может ускорить инференс на Blackwell; заявленное увеличение пропускной способности MTP до 30–40% приведено автором репозитория и не является независимым бенчмарком. Лицензия — Apache-2.0. Формат NVFP4 ориентирован на GPU Blackwell; для более старых видеокарт и CPU автор рекомендует другие варианты квантования. Это производный квантованный артефакт, а не отдельное дообучение базовой модели.

Qwen3.6-35B-A3B-Uncensored-Genesis-NVFP4-GGUF — квантизированная NVFP4-версия мультимодальной модели Qwen3.6-35B-A3B-Uncensored-Genesis. Квантизацию выполнил jan1k с использованием advanced-gguf-quantizer, форка llama.cpp; исходная модель основана на разработках HauhauCS и LuffyTheFox. Это версия Genesis без переноса Hermes-файнтюнинга. Модель предназначена для генерации текста и обработки изображений вместе с текстовыми запросами, при этом для мультимодальной работы требуется отдельный mmproj-файл. Архитектура — MoE qwen35moe: 35 млрд параметров всего, около 3 млрд активных, 40 слоёв и контекст до 262 144 токенов. Указаны английский, китайский и мультиязычный режимы. Рекомендуемый файл v4 занимает около 20 ГБ и использует встроенные UE4M3-масштабы, что обеспечивает совместимость с LM Studio, Pelican и другими средами, поддерживающими этот формат. Сильные стороны модели — большой контекст, мультимодальность, MoE-архитектура с относительно небольшим числом активных параметров и оптимизация NVFP4 для современных GPU. Наилучшая производительность ожидается на видеокартах Blackwell, а на Ampere используется fallback-реализация. Для запуска рекомендуется llama.cpp, максимальная выгрузка на GPU, F16 для K/V-кэша и 8 активных экспертов. Это специализированная квантизированная сборка, поэтому совместимость зависит от поддержки NVFP4 конкретным runtime; версия v2/v3 может выдавать некорректный результат в средах, не поддерживающих отдельные scale-тензоры. Модель распространяется по лицензии Apache-2.0.

Это GGUF-сборка модели Qwen3.6-35B-A3B-uncensored-heretic-Native-MTP-Preserved, подготовленная cvgro с применением смешанной квантизации APEX. В модели сохранены 20 слоёв MTP для спекулятивного декодирования; README заявляет о возможном ускорении генерации на 20–50% при соответствующих настройках llama.cpp. Модель основана на мультимодальной MoE-модели Qwen3.6-35B-A3B и принимает текстовые и визуальные запросы, выдавая текст. Сборка предназначена для диалога, генерации текста и работы с изображениями. Базовая модель была модифицирована Heretic и MPOA для снижения числа отказов, а эта версия дополнительно упакована в GGUF с вариантами APEX, включая F16. README утверждает, что APEX сохраняет качество при меньшем размере файлов, но приведённые таблицы сравнений в карточке опущены. Репозиторий распространяется по лицензии Apache-2.0. Для запуска README приводит примеры с llama.cpp и Ollama; указанный в примере контекст — 131072 токена. Это рекомендация для запуска, а не подтверждённый метаданными предел контекста модели.

hotdogs/Qwen3.8-27B-abliterated-AWQ-INT4 — языковая генеративная модель, разработанная hotdogs на основе Qwen/Qwen3.8-27B и подвергнутая обучению без дообучения с удалением направления отказов. Это квантованная версия hotdogs/Qwen3.8-27B-abliterated, предназначенная для диалоговых сценариев, генерации текста, исследовательского анализа механизмов отказа, red teaming и изучения влияния alignment-обучения. Модель не отказывает в запросах, поэтому её применение требует особой осторожности и соблюдения законодательства. Модель использует гибридную архитектуру Qwen3.8-27B с полноразмерным attention на части слоёв и Gated DeltaNet linear attention на других слоях. Основные компоненты квантованы в формат W4A16 с 4-битными весами и 16-битными активациями, группой 128 и симметричным квантованием; lm_head и 64 слоя linear_attn сохранены в BF16. Размер файлов составляет около 17,6 ГБ вместо примерно 52 ГБ у BF16-версии. Заявлены языки English, Chinese и Thai. В README указан максимальный размер контекста 32768 токенов для запуска через vLLM. Сильные стороны модели — существенно сниженное потребление памяти, сохранение abliteration после квантования и близкая к базовой производительность на приведённых тестах: для BF16-версии MMLU составляет 0,8342, GSM8K — 0,59, ARC-Challenge — 0,4533. INT4-версия рассчитана на запуск через vLLM с Marlin и обычно требует двух GPU с 24 ГБ памяти; на одной карте с 24 ГБ доступ к KV-кэшу будет ограничен, а GPU с 48 ГБ подходит для запуска с tensor parallelism 1. Точные результаты INT4-версии могут немного отличаться от результатов BF16-модели. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

DhruvalLabs/Qwen3.8-27B-GGUF — это набор квантованных версий мультимодальной Vision-Language Model Qwen3.8-27B, разработанной Qwen и подготовленной DhruvalLabs. Модель предназначена для диалогов, генерации и понимания текста, а также анализа изображений с текстовыми запросами. Она поддерживает английский язык и может запускаться через llama.cpp, LM Studio, Jan и Ollama. Архитектура состоит из двух компонентов: квантованной текстовой основы GGUF размером 27B параметров и отдельного vision encoder в файле mmproj, который всегда поставляется в формате F16. Для работы с изображениями необходимы оба файла. Доступны варианты квантования от Q4_K_M до Q8_0: Q4_K_M рекомендован как баланс качества и требований к памяти, а Q8_0 обеспечивает наиболее близкое к исходной модели качество, но требует около 28,6 ГБ RAM; для Q4_K_M требуется около 17,2 ГБ RAM. Указанный пример использования задаёт контекст 4096 токенов, однако общий максимальный контекст модели в README не указан. Сильной стороной модели является сочетание языковых возможностей и анализа изображений при существенно меньших требованиях к памяти по сравнению с полной версией, а также совместимость с популярными локальными инструментами запуска. Ограничения связаны с необходимостью скачивать и хранить два файла, компромиссами качества и размера при квантовании и отсутствием опубликованных результатов бенчмарков в README. Лицензия — Apache-2.0.

Qwen3.8-27B-Uncensored-INT8 — это модифицированная и квантованная версия базовой модели Qwen/Qwen3.8-27B, разработанной командой Qwen компании Alibaba и опубликованная OrcaRouter. Из модели удалено направление, отвечающее за отказы, поэтому она существенно менее ограничена встроенными механизмами безопасности. Версия использует квантование INT8 W8A8: веса линейных слоёв представлены в 8-битном формате, а активации квантуются динамически по токенам. Модель предназначена для исследовательских задач, включая интерпретируемость, изучение механизмов отказа, AI safety, red-teaming, оценку устойчивости и контролируемые эксперименты. Это vision-language модель с поддержкой текста и изображений, рассуждений, управления режимом thinking, вызова инструментов и function calling. Архитектура включает 64 слоя, скрытое состояние размером 5120 и гибридное внимание: 48 слоёв Gated DeltaNet с линейным вниманием и 16 слоёв с полным вниманием. Заявлен контекст до 262 тысяч токенов; также сохранена MTP-голова для speculative decoding. В README указана поддержка английского и китайского языков. К сильным сторонам относятся сочетание мультимодальности, длинного контекста, инструментов, рассуждений и широкой совместимости INT8 с современными GPU. Основное ограничение — практически отсутствие встроенных защит: модель может выполнять вредоносные, незаконные или неэтичные запросы, которые исходная модель отклоняла. Её не рекомендуется использовать с конечными пользователями или в производственной среде без собственных механизмов модерации и защиты от злоупотреблений. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой модели; ответственность за использование и результаты несёт пользователь.

PaweekornSora/SeedX-DIPv2 — дообученная PaweekornSora языковая модель на архитектуре Mistral с 7,2 млрд параметров, созданная на основе ByteDance-Seed/Seed-X-Instruct-7B. Модель предназначена для генерации текста; базовая модель адаптирована для перевода между 28 языками, поэтому перевод — вероятный сценарий применения этой производной версии. Модель принимает текст и выдаёт текст, поддерживает английский язык и имеет контекст длиной до 32 768 токенов. Для обучения использовались Unsloth и библиотека TRL от Hugging Face. Модель распространяется в формате safetensors по лицензии Apache-2.0.

Unsloth-Ornith-1.5-35B-A3B — независимая общественная GGUF-квантизация модели Ornith-1.5-35B-A3B, разработанной ornith-ai и опубликованной пользователем peculiar-ragdoll. Модель предназначена для генерации текста и запуска в llama.cpp-совместимых приложениях, включая llama.cpp, LM Studio и Ollama. Это текстовая MoE-модель архитектуры qwen35moe с конфигурацией 35B-A3B; точные сведения о языках и размере контекста в README не указаны. Набор включает несколько уровней квантизации от UD-Q2_K_XL примерно на 12 ГБ до UD-Q8_K_XL примерно на 37 ГБ. Используются покомпонентная политика Unsloth-Dynamic, свежая importance matrix, рассчитанная на смешанном многоязычном и кодовом корпусе, а также оригинальный chat template Ornith без изменений. Это позволяет выбирать баланс между размером, качеством и требованиями к VRAM: например, UD-Q4_K_XL заявлен как рекомендуемый компромисс, а UD-Q8_K_XL — как вариант, близкий к исходному качеству. К преимуществам относятся несколько вариантов для оборудования с разным объёмом памяти, калибровка под конкретную модель и сохранение поведения базовой модели. Из ограничений следует учитывать потери, характерные для квантизации, зависимость производительности от поддержки GGUF и llama.cpp-совместимого стека, а также отсутствие обученного блока MTP, который удалён из всех вариантов; по данным README, это не меняет результаты, но уменьшает размер файлов. Модель распространяется по лицензии MIT, унаследованной от Ornith-1.5; проект не является официальным выпуском Unsloth и не связан с ним.

WildMBXMarconi-SLERP-7B — слитая модель генерации текста семейства Mistral, созданная с помощью LazyMergekit из BarryFutureman/WildMarcoroni-Variant1-7B и flemmingmiguel/MBX-7B. Слияние выполнено методом SLERP; модель имеет плотную архитектуру MistralForCausalLM и 7,1 млрд параметров. Модель предназначена для генерации текста по запросу и диалогового взаимодействия. Она принимает текст и выдаёт текст, поддерживает контекст длиной до 32 768 токенов. В README приведены результаты Open LLM Leaderboard, включая показатели на тестах AI2 Reasoning Challenge и HellaSwag.

Yi-1.5-9B-Chat-GGUF — это квантизированная версия диалоговой языковой модели Yi-1.5-9B-Chat, разработанной 01.AI. Модель распространяется в формате GGUF для использования с llama.cpp; квантизацию выполнил bartowski с применением imatrix и набора данных Kalomaze. Модель предназначена для генерации текста и ведения диалогов, включая сценарии локального запуска при ограниченных ресурсах. В репозитории представлены варианты квантизации Q8_0, Q6_K, Q5_K, Q4_K, IQ4, Q3_K, IQ3, Q2 и IQ1 с размером файлов примерно от 2,01 до 9,38 ГБ. Более высокие уровни квантизации обычно обеспечивают лучшее качество, но требуют больше памяти; Q6_K, Q5_K и Q4_K обозначены как рекомендуемые, тогда как IQ1 и некоторые варианты с низким битрейтом имеют существенно более низкое качество. Поддерживаются текстовые диалоги с указанным форматом промпта. Сведения о точной архитектуре, языках и размере контекста в README не приведены. Лицензия — Apache-2.0. Для работы требуется совместимое программное обеспечение, например llama.cpp, а выбор конкретного файла зависит от доступной памяти и допустимого компромисса между качеством и размером модели.

Yi-34B-Chat-GGUF — это квантизированная версия диалоговой языковой модели Yi 34B Chat, разработанной компанией 01-ai и подготовленной в формате GGUF сообществом TheBloke. Модель предназначена для генерации текста и ведения диалогов, включая локальный запуск через llama.cpp и совместимые приложения и библиотеки. Модель имеет архитектуру Yi и размер 34 млрд параметров. Доступны варианты квантизации с разрядностью от 2 до 8 бит, что позволяет выбирать между требованиями к памяти, скоростью работы и сохранением качества. Формат GGUF поддерживает запуск на CPU и GPU; среди совместимых инструментов указаны llama.cpp, text-generation-webui, KoboldCpp, LM Studio, ctransformers, llama-cpp-python и другие. Для диалогов используется шаблон ChatML. Сильными сторонами модели являются большой размер, специализация на чат-сценариях и возможность локального запуска на широком спектре программных платформ. При этом README не содержит результатов бенчмарков, сведений о поддерживаемых языках и размере контекста, поэтому эти характеристики нельзя подтвердить. Квантизация уменьшает требования к памяти, но конкретный вариант может влиять на качество и скорость работы. Модель распространяется по лицензии yi-license; подробные условия указаны в файле LICENSE.

Chocolatine-14B-Instruct-DPO-v1.3 — диалоговая языковая модель на 14,1 млрд параметров, разработанная Jonathan Pacifico на основе Microsoft Phi-4. Модель дообучена методом DPO на наборе jpacifico/french-orca-dpo-pairs-revised; автор сообщает об улучшении результатов на французском языке и в целом относительно базовой модели. Она предназначена для генерации текста и ведения диалогов на французском и английском языках, а также может применяться для задач рассуждения, математики и программирования, поддерживаемых базовой Phi-4. Модель использует плотную архитектуру семейства Phi-3 и принимает контекст до 16 384 токенов. В README приведены результаты на OpenLLM Leaderboard и MT-Bench-French, но они зависят от методики оценки и не гарантируют качество в конкретном сценарии. У модели нет механизма модерации. Лицензия — MIT.