I.14Автоматизация процессов и AI-агенты

Ovis2-2B — компактная мультимодальная языковая модель семейства Ovis, предназначенная для работы с изображениями и текстом. Визуальный компонент построен на aimv2-large-patch14-448, языковая часть — на Qwen2.5-1.5B-Instruct. Модель использует архитектуру Ovis для структурного согласования визуальных и текстовых представлений; её разработчики улучшили обучение и подбор данных по сравнению с Ovis1.6. Модель отвечает на вопросы по изображениям, распознаёт текст на них, извлекает структурированные сведения из таблиц и графиков, а также обрабатывает несколько изображений и видео. Обучение включало данные на нескольких языках, в том числе для развития мультиязычного OCR, и было направлено на улучшение рассуждений. Карточка демонстрирует результаты на тестах понимания изображений и видео, но не приводит длину контекста. Для запуска в README приведён пример использования Transformers. Модель распространяется по лицензии Apache-2.0. Авторы предупреждают, что не гарантируют полного отсутствия проблемного контента или нарушений авторских прав; также рекомендуется рассмотреть более новую версию Ovis2.5.

MaziyarPanahi/Phi-4-mini-instruct-GGUF — это набор квантованных файлов в формате GGUF для исходной модели microsoft/Phi-4-mini-instruct. Базовую модель разработала Microsoft, а квантование и публикацию файлов выполнил MaziyarPanahi. Модель предназначена для генерации текста и использования в диалоговых и других сценариях, поддерживаемых исходной instruct-моделью. Набор содержит варианты с квантованием 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством вывода. Формат GGUF ориентирован на локальный запуск и поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и рядом других инструментов. Архитектура, количество параметров, поддерживаемые языки и размер контекста в предоставленных данных не указаны. Ключевые преимущества — доступность нескольких уровней квантования и совместимость с широким набором локальных средств запуска, включая варианты с GPU-ускорением и OpenAI-совместимыми API. Ограничения связаны с потерями качества, возможными при низкобитном квантовании, а также с зависимостью характеристик производительности от выбранного варианта и оборудования. Лицензия в README не указана.

Qwen3.5-4B-AWQ — квантизированная версия мультимодальной vision-language модели Qwen3.5-4B, разработанной командой Qwen (Alibaba Group). Модель принимает текст, изображения и видео во взаимно чередующемся формате и генерирует текст; поддерживает режим рассуждений, включённый по умолчанию. Она предназначена для анализа изображений и видео, визуально-текстового диалога, описания изображений и других задач image-text-to-text, а также для текстовых запросов. Базовая модель содержит около 4 млрд параметров и использует гибридную архитектуру Hybrid Gated DeltaNet + sparse MoE с vision encoder. Нативная длина контекста составляет 262 144 токена и может быть увеличена с помощью RoPE scaling. Заявлена поддержка 201 языка и диалекта. В этой версии применена AWQ-квантизация W4A16: веса линейных слоёв языковой модели представлены в 4 битах, а активации — в 16 битах; формат — compressed-tensors pack-quantized. Vision tower, router gates и lm_head сохранены в более высокой точности, что должно способствовать сохранению качества обработки изображений. Ключевое преимущество модели — уменьшенный размер на диске и расход VRAM при сохранении мультимодальных возможностей, благодаря чему она ориентирована на запуск на одной потребительской GPU. Для работы требуются GPU с поддержкой INT4 Marlin kernels, актуальная версия vLLM с поддержкой архитектуры Qwen3_5ForConditionalGeneration и совместимая конфигурация compressed-tensors. В README указана проверка на NVIDIA Blackwell (sm_120); конкретные показатели качества и бенчмарки не приведены. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой Qwen3.5-4B.

Qwen3.5-9B-Cold-Fusion-GAIN-v1.0-Uncensored-Heretic-NEO-MAX-Imatrix-GGUF — языковая модель семейства Qwen3.5, разработанная DavidAU. Модель представлена в формате GGUF с вариантами обычного и MTP-квантования, включая 4- и 8-битные версии, а также оптимизацию NEO Imatrix. Заявлены поддержка английского и китайского языков и лицензия Apache-2.0. В карточке также указана мультимодальная классификация image-text-to-text, однако подробности о фактической поддержке изображений не приведены. Модель предназначена для диалогов, следования инструкциям, рассуждений, программирования, творческого письма, художественной прозы и ролевых сценариев. По заявлению автора, она создана с использованием многоэтапной настройки, методов Cold Fusion и GAIN, причём GAIN динамически адаптирует обучение для отдельных примеров. Среди заявленных преимуществ — более ясные и подробные ответы, улучшенная работа с контекстом, таблицами, графиками и текстовыми визуализациями, а также сохранение близкой к BF16 производительности в 4- и 8-битных вариантах. Модель содержит около 9 миллиардов параметров. В приведённых тестах она показывает результаты, сопоставимые или превосходящие базовые Qwen3.5-9B и Qwen3.5-27B на части задач ARC, BoolQ, HellaSwag, OpenBookQA, PIQA и Winogrande, однако полнота тестовых данных ограничена, а заявления о превосходстве над 27B не подтверждены независимыми измерениями. Ограничения включают возможную нецензурированность, отсутствие подробных сведений о контекстном окне и требованиях к оборудованию, а также неполные данные по некоторым бенчмаркам.

RedHatAI/Qwen3.8-2.4T-A95B-NVFP4-REAP-50 — квантизированная версия модели Qwen/Qwen3.8-2.4T-A95B для генерации текста. Модель разработана RedHatAI и построена на архитектуре Qwen3_5MoeForCausalLM с экспертной архитектурой MoE. Она принимает текст и генерирует текст, предназначена для задач вывода больших языковых моделей и развертывания через vLLM. В модели применена смешанная квантизация NVFP4/FP4: веса и активации линейных слоёв MoE-экспертов представлены в формате FP4, тогда как attention и другие неквантизированные слои сохраняют исходную точность. Также заявлено REAP-сокращение экспертов на 50%, что уменьшает размер на диске и потребление GPU-памяти квантизированных слоёв примерно на 75% с дополнительным выигрышем за счёт разреженности. Модель рассчитана на инференс с vLLM, включая tensor parallelism и expert parallelism. Размер модели, длина контекста, поддерживаемые языки и точные модальные возможности в README не указаны. Основные преимущества — существенное снижение требований к памяти и объёму хранения при сохранении исходной архитектуры и готовность к эффективному инференсу на поддерживаемом оборудовании. Ограничения связаны с потерями качества, возможными для агрессивной квантизации и pruning; README сообщает о сравнительной оценке, но не приводит её результаты. Также имеется несогласованность: в названии и описании указано 50% REAP Pruning, а в разделе создания модели — 25%. Лицензия в README не указана.

esatapedico преобразовал NVFP4-чекпойнт Qwen3.8-27B-Cold-Fusion-GAIN-V1.1 в семейство из шести GGUF-файлов для запуска через llama.cpp. Модель разработана на основе Qwen3.8-27B: это плотная гибридная архитектура с Gated DeltaNet и слоями Gated Attention, а её исходный вариант дообучен DavidAU методом Cold Fusion (GAIN + Unsloth). По README, в модели 27 млрд параметров и контекст до 262 144 токенов. Модель предназначена для генерации текста и диалогов. Она поддерживает мультимодальную обработку изображений при подключении отдельного проектора mmproj-BF16.gguf; в опубликованные GGUF-файлы веса проектора не входят. В каждом файле встроена MTP-голова для спекулятивного декодирования. Шесть вариантов отличаются точностью квантования головы вывода, эмбеддингов и MTP-головы; языковая основа общая и содержит NVFP4-тензоры. README приводит результаты отдельных пробных запусков на двух GPU, а не систематический бенчмарк; скорость и качество могут зависеть от оборудования и конфигурации. Для работы с изображениями нужен совместимый проектор. Репозиторий распространяется по лицензии Apache-2.0.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — это многоэтапная дообученная и объединённая версия модели Qwen3.8 с 27 млрд параметров, распространяемая командой Smilyai-Labs-GRACE-team на базе модели DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. В README заявлено использование методов COLD FUSION и Fable Fusion 711, а также инструментов Unsloth. Репозиторий содержит обычные GGUF-квантизации и варианты MTP GGUF, ориентированные на запуск на потребительском оборудовании. Модель предназначена для широкого круга задач: рассуждений и решения проблем, программирования, творческого письма, создания историй, ролевых сценариев и других универсальных применений. Заявлены режимы thinking и reasoning, а основной акцент сделан на сокращении объёма рассуждений и ускорении генерации при сохранении детализации и качества ответов. Указаны английский и китайский языки. Метаданные также помечают модель как image-text-to-text, однако подробности о поддерживаемых визуальных входах и соответствующей архитектуре в README не приведены. К заявленным сильным сторонам относятся улучшенные результаты на внутренних и упомянутых в README тестах ARC-C и ARC-E, сокращение расхода токенов на рассуждения, высокая скорость, поддержка кодинга и творческих сценариев, а также наличие 4-битных и 8-битных GGUF-вариантов. Эти показатели представлены авторами модели и не сопровождаются независимой методикой проверки. Ограничения включают отсутствие данных о длине контекста, точных параметрах архитектуры, системных требованиях и качестве на широком наборе внешних тестов; заявления о «uncensored» также указывают на возможное отсутствие стандартных защитных ограничений. Лицензия — Apache-2.0.

Qwen3.8-27B-Uncensored-INT8-W8A16-MTP — это мультимодальная квантизированная версия модели Qwen3.8-27B-Uncensored, опубликованная morikomorizz на основе исходной модели OrcaRouter и семейства Qwen. Модель предназначена для генерации текста и обработки изображений с текстом, включая диалоговые и аналитические сценарии. В README заявлена поддержка английского и китайского языков, а максимальный контекст составляет до 262 144 токенов. Модель использует формат W8A16: основные матричные вычисления выполняются с весами INT8 и активациями BF16, а vision tower, lm_head, MTP-компоненты и отдельные чувствительные элементы сохраняют BF16 или FP32. Размер весов на диске составляет около 29,4 ГБ, что позволяет запускать модель на одной RTX 4090 или A6000, а также на двух RTX 3090 с tensor parallelism. Поддерживаются vLLM, Marlin и speculative decoding через MTP; это не GGUF-модель. Ключевое преимущество — существенное снижение требований к памяти при заявленном близком к исходному качеству, однако производительность и совместимость зависят от подходящих GPU и версии vLLM. Исходная модель является abliterated, то есть с существенно удалёнными механизмами отказа, поэтому она может выполнять вредоносные или неэтичные запросы и требует осторожного применения. Лицензия — Apache 2.0, унаследованная от базовой модели.

Vontra/Qwen3.8-Flash-Next-MLX-2bit-MTP — это MLX-конверсия базовой модели Qwen/Qwen3.8-Flash-Next, разработанной командой Qwen. Модель предназначена для генерации текста и мультимодальных сценариев с изображениями и видео на устройствах Apple Silicon через совместимые MLX-совместимые среды, включая oMLX и MLX-VLM. Архитектура указана как vision-language sparse MoE с компонентами Qwen4Exp. Модель содержит 125 млрд параметров, из которых около 6 млрд активируются при обработке запроса, 48 слоёв, скрытое состояние размером 2560, 512 маршрутизируемых экспертов, 10 активных экспертов на токен и один общий эксперт. Используются Gated DeltaNet, Qwen Sparse Attention, расширенные gated residual streams, хешированные биграммные и триграммные embedding-компоненты, а также собственный MTP-блок для speculative decoding. Контекст составляет 262 144 токена и может быть расширен до 1 млн токенов в исходной модели. Языки не указаны в предоставленных данных. Ключевая особенность версии — affine-квантизация 2-bit с размером группы 32 для экспертных и predictive-embedding-модулей при сохранении чувствительных компонентов, включая attention, vision-модули, embeddings, output head и native MTP, в BF16 или совместимой исходной точности. Размер весов составляет около 80,07 ГБ, формат — MLX safetensors. На Apple M3 Studio измеренная скорость генерации составила 29,37 токена в секунду при отключённом MTP и 28,62 токена в секунду при включённом, поэтому MTP рекомендуется отключать по умолчанию. Для работы требуется runtime с поддержкой архитектуры qwen4_exp и native MTP. Модель распространяется по лицензии Qwen Community License 1.0. В предоставленных данных не приведены подробные результаты исходных оценок, полный перечень поддерживаемых языков и ограничения безопасности; за ними следует обращаться к карточке базовой модели.

viaqlo/Qwen3-VL-4B-Instruct-ara — производная мультимодальная модель на основе Qwen/Qwen3-VL-4B-Instruct, созданная методом abliteration. Она предназначена для диалогов с изображениями и видео, визуального рассуждения, распознавания текста на изображениях и обычных текстовых запросов. Модель сохраняет архитектуру Qwen3-VL плотного типа с 4 млрд параметров; базовая модель заявляет контекст до 256 тыс. токенов с возможностью расширения до 1 млн и поддержку OCR на 32 языках. В карточке приведено сравнение с исходной моделью: доля отказов снизилась с 97 из 100 до 4 из 100, а KL divergence составляет 0,0265. Это указывает на ослабление отказного поведения и может означать меньшую осторожность при ответах. Модель распространяется в формате safetensors через Transformers по лицензии Apache-2.0.

bartowski/Qwen_Qwen3-14B-GGUF — набор GGUF-квантизаций базовой языковой модели Qwen3-14B, разработанной командой Qwen. Квантизации выполнены bartowski с использованием llama.cpp версии b5200 и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Доступны варианты от исходных весов BF16 размером 29,54 ГБ до сильно сжатых форматов объёмом около 5,32 ГБ, включая Q8_0, Q6_K, Q5_K_M, Q4_K_M, IQ4_XS, Q3- и Q2-варианты. Более крупные квантизации обычно обеспечивают более высокое качество, тогда как компактные требуют меньше оперативной памяти, но заметно уступают по качеству. Для диалогового режима в README указан шаблон с ролями system, user и assistant. README не содержит сведений об архитектурных деталях, поддерживаемых языках, длине контекста, мультимодальности или лицензии. Условия использования необходимо уточнять по документации исходной модели Qwen/Qwen3-14B и репозиторию квантизаций.

Seraph-7B-Mistral-7B-Instruct-v0.1 — чат-модель MaziyarPanahi, созданная слиянием Mistral-7B-Instruct-v0.1 и Weyaxi/Seraph-7B методом SLERP. Модель использует плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и принимает текстовые инструкции и диалоговые запросы для генерации ответов. Модель предназначена для диалоговых приложений и генерации текста по инструкциям. Нативный контекст составляет 32 768 токенов; файлы опубликованы в формате safetensors. Лицензия — Apache-2.0. Данных о языковой специализации и ограничениях качества в карточке нет.

Dragoy/Swift-Qwen3.8-27B-abliterated-NVFP4-NInfer — мультимодальная производная модель на 27,78 млрд параметров, разработанная Dragoy на основе ukisai/Swift-Qwen3.8-27b. Модель поддерживает обработку текста и изображений с генерацией текста; в артефакт включены vision tower, MTP-head и DFlash2-drafter. Из модели удалено направление отказов в стиле huihui-ai, поэтому она ориентирована на более свободное выполнение запросов, включая сценарии, в которых исходная модель могла отказывать. Поддерживаются ускоренное speculative decoding через MTP и DFlash2, а также серверный режим NInfer. README не указывает поддерживаемые языки и максимальную архитектурную длину контекста; в примерах используется контекст до 16 384 токенов. Веса квантованы в формате NVFP4 для MLP-компонентов и FP8 для attention, GDN и lm_head. Артефакт предназначен для запуска через NInfer на видеокартах NVIDIA Blackwell с архитектурой sm_120a; требуется CUDA версии не ниже 13.1 и совместимый runtime NInfer, для актуальной сборки — ревизия не ниже 98dada0e. Заявлен запуск примерно в пределах 20 ГБ видеопамяти на одной карте. К сильным сторонам относятся мультимодальность, низкая разрядность, поддержка спекулятивного декодирования и отсутствие отказов в заявленном тесте AdvBench, однако удаление отказов снижает встроенные защитные ограничения и может повышать риски небезопасного использования. Модель распространяется по лицензии Swift Open License 1.0.

ThinkingCap-Qwen3.6-27B-GGUF — набор GGUF-квантизаций мультимодальной vision-language модели ThinkingCap-Qwen3.6-27B, разработанной BottleCap AI на основе Qwen3.6-27B от Qwen Team. Модель предназначена для локального запуска через llama.cpp и совместимые среды, включая Ollama и LM Studio, и поддерживает работу с текстом и изображениями. Дообучение направлено на сокращение рассуждений примерно на 50% в среднем при сохранении качества и стиля ответов базовой модели. Доступны варианты f16, Q8_0, Q6_K и Q4_K_M размером примерно от 15,7 до 50,9 ГБ; Q4_K_M рекомендуется как баланс размера и качества, а Q8_0 и Q6_K — как варианты, близкие к исходной точности. Для обработки изображений требуется отдельный мультимодальный проектор mmproj размером около 0,9 ГБ. Поддерживается MTP self-speculative decoding, способный дополнительно повысить скорость генерации при использовании современной версии llama.cpp. По приведённым оценкам, точность квантованных вариантов статистически сопоставима с f16 и базовой моделью: около 0,89–0,91 на MMLU-Pro и 0,78–0,82 на RealWorldQA. Сильными сторонами являются существенно более короткие рассуждения, ускорение выполнения задач, локальный запуск и почти без потерь качества при квантовании. Ограничения включают значительные требования к дисковому пространству и памяти, необходимость совместимого runtime, а для изображений — отдельного vision-проектора. Лицензия в README не указана; доступ к модели может предоставляться по запросу.

UForm uform3-image-text-multilingual-base — компактная мультимодальная модель Unum Cloud для сопоставления изображений и текста. Она кодирует оба типа входных данных в общее векторное пространство, формируя эмбеддинги размерностью до 256, и подходит для семантического поиска и ранжирования соответствий между изображениями и текстовыми запросами на 21 языке. Модель сочетает текстовый энкодер BERT из 12 слоёв и визуальный энкодер ViT-B/16; четыре слоя общие для обеих частей. Текстовый вход ограничен 50 токенами, изображения обрабатываются с разрешением 224 × 224. Доступны веса в форматах PyTorch, ONNX и CoreML, а также предварительно квантованные варианты и код для инференса. Модель предназначена для извлечения признаков, а не для генерации текста или изображений. Поддерживаются английский, арабский, армянский, китайский, французский, немецкий, иврит, хинди, индонезийский, итальянский, японский, корейский, персидский, польский, португальский, русский, испанский, тайский, турецкий, украинский и вьетнамский языки. В карточке приведены результаты поиска по изображениям на нескольких мультиязычных наборах данных; для MS-COCO отмечено, что обучающая часть набора присутствовала в обучающих данных, поэтому этот результат следует интерпретировать с учётом возможного пересечения. Модель распространяется по лицензии Apache-2.0.

zephyr-7b-beta-Mistral-7B-Instruct-v0.2 — диалоговая языковая модель на архитектуре Mistral, созданная MaziyarPanahi слиянием mistralai/Mistral-7B-Instruct-v0.2 и HuggingFaceH4/zephyr-7b-beta методом SLERP. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста в ответ на запросы и инструкции; заявленная длина контекста — до 32 768 токенов. Модель подходит для диалоговых помощников, ответов на вопросы и других сценариев генерации текста по инструкции. В репозитории указаны веса safetensors в формате bfloat16; README также упоминает отдельные GPTQ- и GGUF-сборки для инференса на GPU и CPU/GPU. Поддерживается английский язык. Лицензия — Apache-2.0. Качество и поведение могут отличаться от исходных моделей из-за слияния; README не приводит сравнительных оценок или отдельных гарантий качества.

CausalLM 14B — разработанная авторами репозитория разговорная языковая модель на архитектуре LLaMA с 13,4 млрд параметров. Авторы сообщают, что при обучении использовали веса Qwen, а LLaMA 2 — для расчёта начальных весов; модель загружается через Transformers как LLaMA-совместимый причинный языковой моделировщик. Контекст составляет 8192 токена, основной формат весов — PyTorch. Модель предназначена для генерации текста в диалогах, ответов на вопросы, рассуждений и решения задач, включая математику. Для обучения применялась выборка синтетических инструкционных данных объёмом 1,3 млрд токенов, собранных и подготовленных авторами на основе открытых наборов. В карточке приведены результаты тестов на английском, китайском и японском языках; метаданные также указывают английский и китайский. Авторы заявляют о высоких результатах в сравнительных тестах, однако модель может галлюцинировать и выдавать ненадёжные ответы. В карточке отмечено, что данные не были отфильтрованы от нежелательного содержимого, а RLHF и специальное обучение отказам не проводились; поэтому ответы требуют проверки и фильтрации. Указана лицензия WTFPL, но авторы также предупреждают, что в зависимости от применения могут действовать ограничения коммерческого использования базовых Qwen и LLaMA 2.

QuantFactory/ArliAI-Llama-3-8B-Dolfin-v0.5-GGUF — это квантизированная в формате GGUF версия модели ArliAI-Llama-3-8B-Dolfin-v0.5, созданная с использованием llama.cpp. Исходная модель разработана на основе Meta-Llama-3-8B-Instruct и дообучена OwenArli на улучшенных наборах данных Dolphin и WizardLM. Квантизация выполнена QuantFactory. Модель предназначена для генерации текста, диалоговых приложений и выполнения инструкций. Дообучение ориентировано на более точное следование инструкциям и менее частые отказы от ответов. Модель использует архитектуру семейства Llama 3 и содержит около 8 миллиардов параметров. Поддерживается текстовая модальность; конкретные языки в README не указаны. Заявлена работа с контекстом до 8192 токенов, хотя обучение проводилось с длиной последовательности 2048 токенов. Модель обучалась с использованием QLoRA: 4-битной загрузки, rank 64 и alpha 128; обучаемыми были примерно 2% весов. Квантизированный формат рассчитан на запуск через llama.cpp и может быть удобен для локального инференса с ограниченными аппаратными ресурсами. Ограничения включают отсутствие подробных результатов OpenLLM Benchmark в представленном README и отсутствие точной информации о поддерживаемых языках, фактическом качестве на разных задачах и требованиях к аппаратному обеспечению. Модель распространяется по лицензии Meta Llama 3 License, унаследованной от базовой Meta-Llama-3-8B-Instruct. Условия этой лицензии необходимо учитывать при использовании и распространении модели.

jondurbin/bagel-2.8b-v0.2 — экспериментальная чат-модель, созданная Jondurbin путём дообучения state-spaces/mamba-2.8b-slimpj с помощью Bagel. По метаданным, модель содержит 6 млрд параметров и распространяется в формате PyTorch по лицензии Apache-2.0. Модель предназначена для диалогов и широкого круга инструктивных задач: ответов на вопросы, рассуждений, решения математических задач, написания кода и SQL, чтения и понимания текста, а также ролевого общения. В README указана поддержка форматов Vicuna, Llama 2, Alpaca и ChatML-подобного формата; также можно использовать шаблон диалога токенизатора. При обучении применялись разнообразные англоязычные и многоязычные датасеты, включая Belebele, MMLU, MathInstruct, Spider и наборы диалогов. Это экспериментальное дообучение базовой архитектуры Mamba, а не модель с гарантированными производственными характеристиками. Автор отмечает, что версия с DPO работает заметно лучше; данная версия не должна считаться эквивалентной ей. README не сообщает длину контекста и отдельные результаты оценки качества.

Beast-Mixed — диалоговая языковая модель, созданная слиянием Mistral-7B-Instruct-v0.2 и Zephyr-7B-beta методом SLERP с помощью LazyMergekit. Модель на 7,1 млрд параметров предназначена для генерации текста и ответов на инструкции в формате чата; архитектура — плотная MistralForCausalLM, максимальный контекст составляет 32 768 токенов. Модель подходит для диалоговых помощников, черновиков текстов и ответов на вопросы по текстовому контексту. В README указана конфигурация слияния и тип данных bfloat16. Лицензия в предоставленных данных не указана.

Blaze.1-27B-Reflection — текстовая диалоговая модель на архитектуре Gemma 2, дообученная автором репозитория на данных саморефлексии и поведения, включая синтетические примеры рассуждений от DeepSeek и QwQ. Модель содержит 27,6 млрд параметров, рассчитана на генерацию текста и диалог на английском языке; её контекст — 8192 токена. Модель предназначена для сложных ответов на вопросы, пошагового рассуждения, суммаризации, поддержки принятия решений, диалога и творческого письма. По описанию карточки, дообучение ориентировано на длинные цепочки рассуждений и самопроверку. Весовые файлы представлены в формате safetensors, исходные веса экспортированы в bfloat16; лицензия — Gemma. Ограничения включают возможные ошибки и галлюцинации, снижение качества на неанглийских запросах и узкоспециальной терминологии, потерю контекста в длинных документах и диалогах, а также повторяющиеся рассуждения. Для запуска и дообучения требуются значительные вычислительные ресурсы.

BLOOM-1b7 — плотная авторегрессионная языковая модель на базе Transformer, разработанная проектом BigScience. Она предназначена для генерации текста, исследования поведения языковых моделей и использования в качестве предварительно обученной основы для дальнейшей настройки. В карточке указаны сценарии извлечения информации, ответов на вопросы и суммаризации; модель также обучалась на данных с кодом. Модель относится к семейству BLOOM и принимает текст, выдавая продолжение текста. Контекст — до 4096 токенов. Метаданные содержат языковые теги для широкого набора естественных языков, а также код; точный размер этой версии в предоставленных данных не указан. Модель выпущена BigScience под лицензией BigScience BLOOM RAIL v1.0. BLOOM может выдавать ошибочную информацию как достоверную, повторяться и воспроизводить стереотипы или оскорбительный контент. Карточка не рекомендует применять её для высокорисковых решений, а также в медицинской, политической, юридической и финансовой сферах.

Это GGUF-квантизированная версия языковой модели c4ai-command-r-plus, разработанной CohereForAI и подготовленной пользователем bartowski для запуска через llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая работу в локальных inference-средах, поддерживающих формат GGUF. В README также указан специальный шаблон промпта для системных, пользовательских и ответов чат-бота. Модель поддерживает английский, французский, немецкий, испанский, итальянский, португальский, японский, корейский, китайский и арабский языки. Точные сведения об архитектуре, количестве параметров и размере контекста в карточке не приведены. Доступно несколько вариантов квантизации от Q2_K до Q5_K_M, а также IQ-квантизации; размер файлов составляет примерно от 39,49 до 73,62 ГБ. Более высокие уровни квантизации обеспечивают лучшее качество при больших требованиях к памяти, а низкие подходят для систем с ограниченными ресурсами, но снижают качество. Сильной стороной модели является возможность локального запуска с выбором компромисса между качеством, скоростью и потреблением памяти. Q5_K_M и Q5_K_S обозначены как высококачественные рекомендуемые варианты, а некоторые I-квантизации эффективнее по соотношению размера и качества при использовании cuBLAS или rocBLAS. I-квантизации не совместимы с Vulkan и могут работать медленнее K-квантизаций на CPU и Apple Metal. Модель распространяется по лицензии CC BY-NC 4.0, допускающей использование с ограничениями, включая запрет коммерческого применения.

QuantFactory/CausalLM-35b-beta-long-GGUF — квантованная версия языковой модели CausalLM/35b-beta-long, созданная QuantFactory с использованием llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев; её карточка также указывает на обучение с учётом инструкций, математических задач, программирования и специализированных текстовых наборов данных. Модель имеет размер 35 миллиардов параметров и поддерживает контекст длиной 128K и более токенов. Заявлены языки English, Chinese, Japanese и German. Для взаимодействия используется шаблон ChatML, а токенизатор отличается от токенизатора Cohere. Формат GGUF и квантование ориентированы на запуск средствами экосистемы llama.cpp и могут снизить требования к вычислительным ресурсам по сравнению с полноразмерной моделью, однако конкретный уровень квантования в карточке не указан. Сильными сторонами модели являются очень длинный контекст, многоязычность и обучение на разнообразных инструкционных, математических, энциклопедических и диалоговых данных. Ограничения включают отсутствие подробных результатов оценивания, неуказанные характеристики квантования и аппаратные требования. Модель распространяется по лицензии GPL-3.0.

Chinese-Alpaca-2-7B-64K — языковая модель семейства Llama, разработанная командой Chinese-Alpaca. Это дообученная версия Chinese-Alpaca-2-7B, расширенная методом YaRN для работы с контекстом до 65 536 токенов. Модель содержит 6,7 млрд параметров и доступна в форматах PyTorch и Safetensors. Модель предназначена для генерации текста на китайском и английском языках, включая ответы на запросы и работу с длинными входными текстами. Лицензия Apache-2.0 разрешает использование и распространение на её условиях.

chowder-embed — модель Sentence Transformers, дообученная на корпусе chowder на базе sentence-transformers/allenai-specter. Она преобразует предложения и абзацы в плотные векторы размерности 768; архитектура состоит из BERT и CLS-пулинга. Модель принимает текст на английском языке, поддерживает последовательности длиной до 512 токенов, а близость векторов можно оценивать косинусным сходством. Модель предназначена для семантического поиска, сравнения текстов, поиска перефразировок, кластеризации и классификации. В карточке приведены результаты оценки на наборах NanoSCIDOCS, NanoSciFact, NanoNFCorpus, chowder-val и NanoBEIR. Обучающий набор содержит 70 764 пары anchor-positive. Лицензия в предоставленных данных не указана.

CrystalMistral-26b — разговорная языковая модель семейства Mixtral с архитектурой смеси экспертов (MoE), опубликованная Crystalcareai. Согласно карточке, модель создана с помощью LazyMergekit на основе нескольких копий Crystalcareai/CrystalMistral; метаданные также связывают её с этой базовой моделью. Она предназначена для генерации текста и диалогов. Базовая CrystalMistral дообучена для выполнения инструкций, общения, генерации текста и работы с кодом, поэтому эти сценарии подходят и для данной модели. В репозитории указаны 7,1 млрд параметров и контекст до 32 768 токенов. Модель принимает текст и генерирует текст. Лицензия — Apache-2.0. Карточка не приводит отдельных оценок качества CrystalMistral-26b; возможности базовой модели не гарантируют такие же результаты после слияния.

Darwin-36B-Opus — языковая модель FINAL-Bench / VIDRAFT_LAB, полученная эволюционным слиянием Qwen3.6-35B-A3B и её версии, дообученной на примерах рассуждений. Это MoE-модель на архитектуре Qwen3.5 MoE для генерации текста и диалогов с режимом пошаговых рассуждений; в README заявлены 36 млрд параметров всего и около 3 млрд активных, а метаданные указывают 2,9 млрд параметров. Контекст — 262 144 токена. Модель предназначена для сложных вопросов и рассуждений, включая задачи уровня GPQA Diamond; заявлены поддержка нескольких языков и результат 88,4% на GPQA Diamond по описанному авторами протоколу. Модель принимает текстовые запросы и генерирует текст. Доступна в формате Safetensors и распространяется по лицензии Apache 2.0. README описывает её как результат слияния весов без повторной градиентной оптимизации финальной модели; опубликованный бенчмарк включает стохастический повторный отбор ответов, поэтому показатель может зависеть от протокола оценки.

mlx-community/DeepSeek-R1-Distill-Llama-70B-4bit — это 4-битная квантованная версия модели DeepSeek-R1-Distill-Llama-70B, разработанной deepseek-ai и преобразованной сообществом mlx-community в формат MLX с использованием mlx-lm версии 0.21.1. Модель предназначена для генерации текста и диалоговых сценариев на устройствах и в средах, совместимых с MLX. Для работы используется библиотека mlx-lm; README показывает загрузку модели, применение chat template и генерацию ответа по текстовому запросу. Ключевые характеристики: 70 миллиардов параметров в базовой модели, 4-битное представление весов, текстовая модальность и архитектурная основа Llama, унаследованная от DeepSeek-R1-Distill-Llama-70B. Сведения о поддерживаемых языках, размере контекстного окна, точных возможностях рассуждения, ограничениях, лицензии и требованиях к оборудованию в README не указаны.

DistilQwen2-7B-Instruct — дистиллированная языковая модель Alibaba PAI на архитектуре Qwen2, созданная на основе Qwen2-7B-Instruct. Модель содержит 7,1 млрд параметров, принимает текстовые инструкции и генерирует текст; карточка демонстрирует использование в диалоговом формате. Длина контекста — 32 768 токенов. Модель предназначена для следования инструкциям и диалоговых сценариев. Для дистилляции использованы открытые наборы Magpie, OpenHermes и Mammoth 2, а также синтетические данные; основная часть инструкций была на китайском и английском языках. README сообщает об оценивании на AlpacaEval, MT-Bench и IFEval. Репозиторий содержит веса в формате safetensors. Сведения о лицензии в предоставленных данных отсутствуют.