I.14Автоматизация процессов и AI-агенты

Nemotron-3-Nano-Omni-30B-A3B-JANG_4M — это мультимодальная версия модели NVIDIA Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16, подготовленная Jinho Jang для Apple MLX. Модель сочетает Mamba-2, attention и MoE; в README указаны 31 млрд параметров всего и около 3 млрд активных, тогда как метаданные каталога сообщают 1,9 млрд параметров. Контекст — 262 144 токена. Модель принимает текст, изображения и видео; базовая модель также поддерживает аудио, хотя README не подтверждает работу аудио в этом варианте. Сценарии применения включают диалог и рассуждения, анализ изображений и видео, а также запуск на Apple Silicon через MLX. Квантование JANG_4M использует смешанную точность 4 и 8 бит с группами размера 64; компоненты обработки изображений оставлены в FP16. README заявляет калибровку квантования по активациям и скорость около 126 токенов в секунду на M5 Max. Модель ориентирована на аппаратное обеспечение Apple и экосистему MLX. Для базовой модели в README указана лицензия NVIDIA Open Model License; метаданные этой версии обозначают лицензию как other, поэтому условия использования следует проверять в файлах репозитория и лицензии базовой модели. README описывает эту версию как квантованный порт, хотя метаданные связывают её с базовой моделью как finetune. Квантизация может влиять на качество; в README отмечена чувствительность экспертных слоёв к малой разрядности. Язык карточки — английский.

NeuralKybalion-7B-slerp-v3 — объединённая модель, созданная Kukedlc с помощью LazyMergekit на основе трёх моделей NeuralKybalion и experiment26-truthy-iter-0. Это плотная авторегрессионная языковая модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста. Она принимает текст и выдаёт текст; заявленный контекст составляет 32 768 токенов. Репозиторий содержит веса в формате Safetensors. Модель распространяется по лицензии Apache-2.0.

NeuralsirkrishnaShadow_M7Alloyingotneoy — объединённая модель для генерации текста, созданная на основе automerger/NeuralsirkrishnaShadow-7B и automerger/M7Alloyingotneoy-7B. Она построена на архитектуре Mistral и содержит 7,1 млрд параметров; длина контекста составляет до 32 768 токенов. Модель подходит для генерации продолжений текста и диалоговых ответов в приложениях на базе языковых моделей. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

Q2.5-Veltha-14B-0.5 — объединённая языковая модель на архитектуре Qwen2.5, созданная автором djuna с помощью mergekit. Для слияния использован метод della_linear; базой служила arcee-ai/SuperNova-Medius, также в объединение вошли четыре другие модели семейства Qwen2.5. Модель содержит 14 млрд параметров, работает через Transformers и распространяется в формате safetensors; заявленная длина контекста — 131 072 токена. Модель предназначена для генерации текста и диалогового общения. Её можно применять для ответов на запросы, ролевых диалогов и творческого письма; исходные модели в составе объединения ориентированы на инструкции и генерацию историй. Карточка приводит результаты нескольких тестов, включая IFEval и BBH, но не раскрывает полную таблицу оценок. Лицензия в предоставленных данных не указана.

Карточка модели lyNjx/Qwen2.5-0.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-0.5B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-0.5B-Instruct — компактная инструктивно настроенная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов, выполнения инструкций и генерации текста, включая длинные ответы, структурированные данные и JSON; также может применяться для простых задач по коду и математике. Модель построена на архитектуре Qwen2 с причинным языковым моделированием и содержит 494 млн параметров. В карточке указаны 24 слоя, RoPE, SwiGLU, RMSNorm и группированное внимание; контекст — 32 768 токенов, генерация — до 8 192 токенов. Модель работает с текстом, поддерживает чат и интерфейс вызова инструментов. Семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский и английский. Небольшой размер упрощает запуск по сравнению с крупными языковыми моделями, но ограничивает сложность задач, которые она может надёжно решать. Модель распространяется по лицензии Apache-2.0; для загрузки через Transformers рекомендуется актуальная версия библиотеки.

Qwen3.5-9B-abliterated-GGUF — это GGUF-квантизированная версия модели Qwen3.5-9B, подготовленная tutuchen2000 на основе abliterated-варианта lukey03/Qwen3.5-9B. Модель предназначена для локального запуска через Ollama, llama.cpp и другие совместимые движки вывода. Она поддерживает текстовые сценарии, а специальная vision-версия — обработку изображений вместе с текстом. Доступны текстовые сборки Q4_K_M размером около 5,2 ГБ и F16 размером около 17 ГБ, а также vision-сборка Q4_K_M размером около 6,1 ГБ. Vision-вариант сохраняет встроенный мультимодальный vision-энкодер исходной Qwen3.5-9B; архитектура Qwen3.5 использует нативную мультимодальность с ранним объединением данных. Заявлены поддерживаемые языки: английский, китайский, японский, корейский, французский, немецкий и испанский. Модель имеет около 9 млрд параметров, но размер контекста в README не указан. Главная особенность — удаление отказов от ответа методом abliteration: применены три прохода ортогональной проекции и последующее QLoRA-дообучение для устойчивых категорий отказов. В тесте README модель ответила на 18 из 18 проверочных запросов, тогда как базовая модель не ответила ни на один. Это может быть полезно для исследовательских, образовательных и локальных сценариев, требующих минимального количества встроенных ограничений, однако отсутствие отказов повышает риск небезопасных или неправомерных ответов и требует самостоятельного контроля со стороны пользователя. Модель распространяется по лицензии Apache-2.0. Для vision-функций требуется Ollama версии 0.17.1 или новее; текстовая сборка vision не поддерживает.

Qwen3.6-27B-Della-Deckard-v1 — мультимодальная модель с 27 млрд параметров, собранная автором репозитория YFC-112358 методом слияния весов. В основе лежит Qwen/Qwen3.6-27B; в карточке описаны слияние DELLA с двумя моделями для рассуждений и добавление небольшого вектора задач из инженерной модели Qwen3.5. Модель плотная, построена на архитектуре Qwen3.5, поддерживает зрительный ввод и диалог. Веса сохранены в BF16 в формате safetensors; лицензия — Apache-2.0. Модель предназначена для мультимодальных диалогов и задач, где нужно отвечать на текстовые запросы и учитывать изображения. Автор также ориентирует её на рассуждения и инженерные задачи, включая программирование, но количественных бенчмарков нет. Карточка сообщает о тестировании генерации на 13 текстовых запросах; работу с изображениями и поведение на контексте длиннее 16K не проверяли. Слияние структурно проверено, но это не подтверждает улучшения качества; при проблемах автор рекомендует отключить кросс-поколенческий вклад. Указанный контекст базовой модели в README — 16K, за его пределами поведение не оценивалось.

llmfan46/Qwen3.8-27B-Ultra-Uncensored-Heretic-Native-MTP-Preserved — дообученная мультимодальная модель автора llmfan46 на базе Qwen/Qwen3.8-27B. Это плотная модель класса Qwen3.5 с 27 млрд параметров, архитектурой причинного языкового моделирования и визуальным энкодером; в репозитории сохранены 15 компонентов MTP для многотокенного предсказания. Модель предназначена для диалога, ответов на запросы с изображениями и видео, а также общих задач рассуждения и генерации текста. Автор применил abliteration, чтобы снизить частоту отказов: в приведённом тесте модель отказала в 3 из 100 случаев против 91 из 100 у исходной модели. README приводит результаты MMLU для исходной Qwen3.8-27B, а не отдельную оценку этой версии. Модель поддерживает визуальное понимание изображений и видео; заявленная длина контекста — 262 144 токена с расширением до 1 000 000. В режиме thinking модель сначала формирует рассуждения, которые можно отключить настройкой запроса. Файлы представлены в формате safetensors, библиотека — Transformers. Лицензия — Apache-2.0. Снижение числа отказов означает, что модель может отвечать на запросы, от которых исходная версия отказалась бы; приведённые тесты не устанавливают качество и безопасность ответов в других сценариях.

mradermacher/Qwen-3.8-27B-Uncensored-i1-GGUF — набор квантованных версий модели Qwen-3.8-27B-Uncensored, разработанной junafinity и преобразованной в формат GGUF пользователем mradermacher. Модель предназначена для генерации и обработки текста, а также поддерживает сценарии image-text-to-text, то есть работу с изображениями и текстом. В README указан английский язык, библиотека Transformers и мультимодальная архитектура с поддержкой зрения. Модель содержит 27 млрд параметров; доступны варианты квантования i1 от Q2_K до Q6_K, включая IQ-квантизации, с размером файлов примерно от 11 до 22,5 ГБ. README отмечает, что IQ-варианты часто предпочтительнее обычных квантизаций сопоставимого размера, а i1-Q4_K_M рекомендуется как быстрый вариант. Конкретный размер контекста и архитектурные особенности не указаны. К сильным сторонам относятся широкий выбор квантов, возможность локального запуска в GGUF-совместимых инструментах и поддержка изображений. Ограничения включают возможное снижение качества при низких уровнях квантования, значительные требования к памяти и отсутствие подробных результатов оценки. Модель распространяется по лицензии Apache-2.0; для работы с изображениями могут потребоваться отдельные файлы mmproj из статического репозитория.

Qwen3.8-27B-Uncensored-oQ4e-mtp — это квантизированная MLX-версия модели orcarouter/Qwen3.8-27B-Uncensored, подготовленная и упакованная пользователем pyros-vault с помощью oMLX 0.6.1 и квантизации oQ с использованием матрицы важности. Модель предназначена для развёртывания на Apple Silicon под macOS через runtime oMLX и совместима с OpenAI-совместимым сервером. Прямая проверка поведения и заявлений исходной модели в этой карточке не проводилась. Модель поддерживает текстовые и визуальные ресурсы, включая обработку изображений и видео, и содержит один слой MTP. Максимальный контекст, заявленный в конфигурации, составляет 262 144 токена, однако работа с таким объёмом не тестировалась и зависит от аппаратного обеспечения. Используется смешанная 4-битная квантизация Affine Q4/G64 с 166 переопределениями тензоров Q5/G64; размер тензорных данных — около 15,81 GiB в четырёх Safetensors-фрагментах. Калибровка выполнена на 128 последовательностях по 512 токенов с профилем oqe_code_multilingual. Сильными сторонами являются уменьшенный объём хранения по сравнению с вариантами более высокой разрядности, наличие мультимодальных ресурсов и возможность локального запуска на Apple Silicon. Ограничения включают зависимость от macOS, Apple Silicon и версии oMLX, отсутствие поддержки CUDA в данном формате, неопределённые требования к памяти, скорости, качеству Vision и эффективности MTP, а также возможное ухудшение качества из-за квантизации. Наличие MTP-файлов само по себе не включает speculative decoding. Исходная модель заявлена под лицензией Apache-2.0; следует также ознакомиться с условиями и атрибуцией upstream-репозитория.

Qwen3-Swallow-30B-A3B-SFT-v0.2 — двуязычная языковая модель Swallow LLM, разработанная на основе Qwen3. Это вариант семейства Qwen3-Swallow с архитектурой MoE и supervised fine-tuning; в карточке указано 2,6 млрд параметров, а контекстное окно составляет до 40 960 токенов по метаданным. Модель рассчитана прежде всего на японский и английский языки. Модель предназначена для диалоговой генерации текста, японско-английского перевода, решения математических задач и программирования. Разработчики сообщают об улучшении японского языка и сохранении или повышении STEM-навыков благодаря этапам CPT и SFT; версия SFT ориентирована на рассуждения по умолчанию. Для наиболее воспроизводимого запуска рекомендован vLLM, а README советует ограничивать контекст 32 768 токенами или меньше. Модель не обучалась специально для вызова инструментов, а переключение режима рассуждений не поддерживается. Авторы также предупреждают, что модель находится на раннем этапе разработки и не настроена для гарантированного соответствия человеческим намерениям и требованиям безопасности. Лицензия — Apache-2.0.

google/t5gemma-2b-2b-ul2 — предварительно обученная модель семейства T5Gemma от Google с кодировщиком и декодировщиком по 2 млрд параметров. Архитектура encoder-decoder получена адаптацией decoder-only модели; вариант UL2 обучен с использованием подхода UL2. Репозиторий содержит веса Safetensors для Transformers. Модель предназначена для генерации текста по текстовому запросу и подходит для суммаризации, ответов на вопросы, рассуждений и других задач преобразования текста. В карточке указана поддержка английского языка. Компактный размер может быть удобен для локального развёртывания на компьютерах и в облачной инфраструктуре. Качество зависит от обучающих данных и формулировки запроса; модель может упускать нюансы и выдавать неточные или устаревшие факты. Лицензия Gemma; при применении необходимо учитывать правила использования Gemma.

google/t5gemma-l-l-prefixlm — предварительно обученная текстовая модель Google из семейства T5Gemma с энкодером и декодером размера L, адаптированная с помощью PrefixLM. Архитектура encoder-decoder преобразует текст в текст; модель относится к варианту T5Gemma, созданному на основе подхода Gemma, и предназначена для генерации текста по входному запросу. Модель можно применять для ответов на вопросы, суммаризации, рассуждений и других задач генерации, а энкодер — для классификации и понимания текста. В карточке указана поддержка английского языка. Весы опубликованы в формате safetensors; лицензия — Gemma. К сильным сторонам относятся универсальность текстовых задач и возможность использовать модель в средах с ограниченными ресурсами. Возможны ошибки в фактах и рассуждениях, трудности с неоднозначными формулировками и нюансами языка, а результаты зависят от данных обучения и контекста запроса.

Tess-XL-v1.0 — универсальная большая языковая модель из серии Tess, разработанной migtissera. Модель основана на Goliath-120B; в метаданных указаны архитектура LlamaForCausalLM, 117,5 млрд параметров и контекст до 4096 токенов. Репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста общего назначения и диалогов, в том числе для развёрнутых ответов на вопросы и творческих задач. Карточка приводит формат общения с ролями SYSTEM, USER и ASSISTANT и примеры диалогов. В метаданных не заявлена специализация на конкретном языке или предметной области. Модель распространяется по лицензии Llama 2. Карточка указывает Goliath-120B как базу, но не описывает подробно обучение и ограничения; фактическое качество может зависеть от запроса и сценария применения.

Tulu V2 70B — языковая модель-помощник, разработанная AI2 и дообученная на базе meta-llama/Llama-2-70b-hf на смеси общедоступных, синтетических и созданных людьми данных. Это плотная авторегрессионная модель семейства Llama с 68,7 млрд параметров и контекстом до 8192 токенов. Модель предназначена для диалогов и выполнения инструкций на английском языке: она может отвечать на вопросы, помогать с текстовыми задачами и поддерживать беседу. Для работы следует использовать обученный формат сообщений с нужными разделителями и переводами строк. Модель не проходила выравнивание на безопасные ответы в рамках RLHF и не оснащена фильтрацией ответов, поэтому может выдавать проблемный контент, в том числе по соответствующему запросу. Распространяется по лицензии AI2 ImpACT Low-risk.

Vikhr-Nemo-12B-Instruct-R-21-09-24-GGUF — это GGUF-квантизированная версия инструкционной языковой модели Vikhr-Nemo-12B-Instruct-R-21-09-24, разработанной Vikhrmodels и подготовленной для распространения в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и диалогового взаимодействия, включая выполнение инструкций, ответы на вопросы и работу с русскоязычными и англоязычными текстами. Модель имеет размер 12 млрд параметров; точная архитектура, поддерживаемые варианты квантования, размер контекста и другие технические характеристики в README не указаны. В качестве связанных наборов данных перечислены Vikhrmodels/GrandMaster-PRO-MAX и Vikhrmodels/Grounded-RAG-RU-v2. Основная заявленная модальность — текстовая. Сильной стороной модели является специализация на инструкционном использовании и поддержка русского языка наряду с английским. Ограничения, результаты оценки, сведения о безопасности, смещениях, производительности и рекомендуемых аппаратных требованиях не приведены, поэтому качество в конкретных сценариях требует самостоятельной проверки. Модель распространяется по лицензии Apache-2.0.

WestBeagle-7B — объединённая модель для генерации диалогового текста, созданная с помощью LazyMergekit путём слияния mlabonne/NeuralBeagle14-7B и FelixChao/WestSeverus-7B-DPO-v2. Это плотная модель семейства Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров; веса опубликованы в формате safetensors. Модель предназначена для чат-ботов и генерации ответов на текстовые запросы. Контекстное окно составляет 32 768 токенов. В README приведены результаты Open LLM Leaderboard: среднее значение 75,22, включая 72,27 на AI2 Reasoning Challenge и 88,29 на HellaSwag. Модель лицензирована по CC BY-NC 4.0, которая ограничивает коммерческое использование. Карточка не сообщает о специальных гарантиях качества или других ограничениях применения.

ARIA 70B V2 — это большая языковая модель в формате GGUF, разработанная Faradaylab и квантизированная TheBloke. Репозиторий содержит варианты модели для запуска через llama.cpp и совместимые интерфейсы и библиотеки, включая text-generation-webui, LM Studio, KoboldCpp, Faraday.dev, ctransformers и llama-cpp-python. Исходная модель доступна в формате PyTorch FP16, а также существуют варианты AWQ и GPTQ. Модель основана на архитектуре Llama и предназначена для генерации текста, диалоговых сценариев, ролевого общения, образовательных задач и, согласно метаданным, работы с кодом. Заявлены английский и французский языки. Для общения используется шаблон Llama-2-Chat с системными инструкциями о полезных, безопасных и непредвзятых ответах. Размер модели — 70B параметров; сведения о длине контекста и поддержке дополнительных модальностей в README не указаны. Ключевое преимущество этой версии — поддержка нескольких уровней 2-, 3-, 4-, 5-, 6- и 8-битного квантования, позволяющая запускать модель с использованием CPU и GPU и выбирать компромисс между качеством, скоростью и требованиями к памяти. Ограничения включают высокие аппаратные требования для 70B-модели, возможное снижение качества из-за квантования и отсутствие подтверждённых характеристик производительности. Указанная лицензия — llama2.

Jebadiah/Aria-7b-128k-v3 — объединённая языковая модель, созданная Jebadiah с помощью mergekit. В основе лежит Nitral-AI/Echidna-7b-128k, объединённая с Jebadiah/Aria-7b-128k-v2 методом DARE TIES; архитектура — плотная MistralForCausalLM с 7,1 млрд параметров. Репозиторий содержит веса в формате safetensors, библиотека для работы с моделью — Transformers. Модель предназначена для генерации текста. В метаданных указан нативный контекст 32 768 токенов. Карточка не описывает отдельные специализированные задачи, языковую поддержку или прикладные области, поэтому модель уместно рассматривать как инструмент общего назначения. Сведения о лицензии и конкретных ограничениях в предоставленных данных отсутствуют.

ArliAI-Llama-3-8B-Dolfin-v0.5 — разговорная модель OwenArli на архитектуре Llama 3, дообученная на базе Meta-Llama-3-8b-Instruct. Она предназначена для генерации ответов и следования инструкциям в диалогах; автор указывает, что использовал улучшенные наборы данных Dolphin и WizardLM, чтобы повысить следование инструкциям и снизить частоту отказов. Модель содержит 7,5 млрд параметров, а её базовый контекст составляет 8192 токена. Дообучение выполнялось методом QLoRA с рангом 64 и alpha 128; README сообщает о последовательностях длиной 2048 токенов при обучении и сохранении качества на контексте 8192 токена. Репозиторий содержит веса Safetensors. Модель рассчитана на текстовый ввод и текстовые ответы. Карточка не приводит отдельные результаты бенчмарков и подробного перечня поддерживаемых языков. Использование регулируется лицензией Meta Llama 3; необходимо соблюдать её условия.

AX-DeepSeek-V4-Flash-MLX-AXQ-2bit-MTP — это экспериментальный MLX-чекпойнт, разработанный AutomatosX на основе модели DeepSeek-V4-Flash от deepseek-ai. Модель предназначена для генерации текста и запуска на компьютерах Apple Silicon через MLX-LM или AX Engine. Архитектура исходной модели — DeepseekV4ForCausalLM с mixture of experts; основной путь обработки текста квантизирован, а MTP-компонент сохранён в BF16. Модель содержит около 284,33 млрд логических параметров, использует смешанную точность с преобладанием 2-битных весов и имеет измеренный общий размер 3,1605 BPW. Размер Safetensors-весов составляет около 114,94 ГБ, а полный объём загрузки — около 115,02 ГБ. Заявленный максимальный контекст — 1 048 576 токенов, однако практическая длина зависит от объёма unified memory устройства. Модель поддерживает только текстовую модальность: vision и audio отсутствуют. Основное преимущество — существенно сниженные требования к хранению по сравнению с полноточной моделью при сохранении совместимости с MLX и возможностью прямого запуска в AX Engine. К ограничениям относятся экспериментальный статус 2-битной квантизации, высокая потребность в дисковом пространстве и памяти, отсутствие калибровки, а также то, что стандартный MLX-LM не активирует MTP-sidecar и не подтверждает ускорение speculative decoding. Проверенная сертификация привязана к конкретной ревизии Hub и конфигурации df-macstudio-m2. Репозиторий распространяется по лицензии Apache-2.0 и содержит MLX Safetensors, но не PyTorch- или GGUF-веса.

aya-expanse-8b-GGUF — это GGUF-квантизация языковой модели aya-expanse-8b, разработанной CohereForAI и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая работу на русском и других языках: английском, французском, немецком, испанском, итальянском, португальском, японском, корейском, китайском, арабском, греческом, персидском, польском, индонезийском, чешском, иврите, хинди, нидерландском, румынском, турецком, украинском и вьетнамском. В репозитории доступны варианты от исходных весов F16 размером 16,07 ГБ до квантизаций Q8_0, Q6, Q5, Q4 и Q3, а также IQ-вариантов, что позволяет выбирать между качеством, требованиями к памяти и скоростью инференса. Для запуска рекомендуется использовать llama.cpp или LM Studio; для модели указан специальный шаблон промпта с токенами ролей системы, пользователя и чат-бота. Архитектура, размер контекста и мультимодальные возможности в README не указаны; по описанию это текстовая модель без заявленной поддержки изображений или других модальностей. Сильная сторона модели — широкий набор поддерживаемых языков и наличие множества вариантов квантизации, включая рекомендуемые Q6_K_L, Q6_K, Q5 и Q4, а также оптимизированные под ARM форматы. Качество снижается при использовании более компактных Q3-вариантов, а некоторые форматы имеют специальные требования к аппаратным инструкциям или не рекомендуются для macOS и Windows. Модель распространяется по лицензии CC-BY-NC-4.0 и предназначена только для некоммерческого использования; доступ к исходной модели может требовать согласия с условиями лицензии и предоставления данных через gated-доступ.

Bactrian-X LLaMA 13B Merged — объединённая модель инструкционного следования, разработанная MBZUAI на основе LLaMA-13B. Она дообучена с помощью LoRA на инструкциях из Stanford Alpaca и Databricks Dolly, переведённых на 52 языка; ответы для обучающих примеров были сгенерированы GPT-3.5-turbo. Модель предназначена для генерации ответов и выполнения текстовых инструкций в разных языках. Модель использует плотную архитектуру LLaMA с 12,9 млрд параметров и контекстом до 2048 токенов. Репозиторий содержит веса PyTorch; лицензия — MIT. Качество на разных языках может различаться: обучающие инструкции переводились машинным способом, а данные могут отражать культурные и языковые смещения английского оригинала.

Карточка модели safestack/Bielik-11B-v3.0-Instruct на Hugging Face совпадает с карточкой speakleash/Bielik-11B-v3.0-Instruct, поэтому описание составлено по ней. Bielik-11B-v3.0-Instruct — генеративная языковая модель с 11 млрд параметров, разработанная SpeakLeash совместно с центром ACK Cyfronet AGH. Это дообученная для следования инструкциям версия Bielik-11B-v3-Base-20250730 с архитектурой causal decoder-only; формат диалога — ChatML. Модель предназначена для общения, ответов на вопросы и выполнения разнообразных текстовых задач, включая задачи на логику, STEM, математику и работу с инструментами. Модель обучали на текстах и инструкциях на 32 европейских языках, уделяя особое внимание польскому. В обучении использовались многоходовые диалоги, синтетические и проверенные вручную инструкции, а также методы DPO и обучения с подкреплением. В метаданных перечислена поддержка польского и ряда европейских языков, включая русский и английский. Лицензия — Apache 2.0. Разработчики характеризуют модель как демонстрацию возможностей базовой модели после дообучения. Она может выдавать фактически неверные, предвзятые или оскорбительные ответы и не имеет встроенных механизмов модерации; её выводы требуют проверки.

BLOOMZ-7b1 — мультиязычная авторегрессионная языковая модель, разработанная BigScience. Это дообученная версия BLOOM-7b1: её обучали следовать инструкциям на смеси кросс-языковых задач xP3, чтобы выполнять задания, сформулированные на естественном языке, в том числе переносить навыки на новые задачи и языки без примеров. Модель содержит 7,1 млрд параметров, использует архитектуру BLOOM и работает с текстом; максимальная длина контекста — 2048 токенов. Модель подходит для генерации и преобразования текста по инструкциям: перевода, ответов на вопросы, классификации тональности, объяснений и написания историй. Она обучалась на нескольких десятках языков и поддерживает также код. Результат зависит от формулировки запроса: рекомендуется чётко обозначать границы инструкции и нужный язык ответа, а также предоставлять достаточный контекст. Модель выпущена по лицензии BigScience-BLOOM-RAIL-1.0; перед использованием следует учитывать её условия и ограничения.

Calme-Ties-78B — языковая модель для диалогов и генерации текста общего назначения, созданная PrithivMLmods слиянием моделей методом TIES с помощью mergekit. Она основана на архитектуре Qwen2 и объединяет MaziyarPanahi/calme-3.2-instruct-78b и dfurman/CalmeRys-78B-Orpo-v0.1; последняя указана как базовая модель. Размер по метаданным — 76,7 млрд параметров, формат весов — safetensors, в README указан тип данных bfloat16. Модель работает с текстом и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалогового взаимодействия и генерации текста общего назначения. В карточке не приведены результаты сравнительных оценок или подробные ограничения по качеству. Лицензия в предоставленных данных не указана.

DevQuasar/deepseek-ai.DeepSeek-V3.2-GGUF — это квантизированная версия модели DeepSeek-V3.2, разработанной командой deepseek-ai и опубликованной в формате GGUF сообществом DevQuasar. Модель предназначена для генерации текста и совместима со сценариями, поддерживающими этот формат. Ключевые характеристики архитектуры, размер, набор поддерживаемых языков, длина контекста и конкретные варианты квантизации в предоставленном README не указаны. Поэтому нельзя достоверно оценить её производительность, требования к ресурсам, сильные стороны и ограничения по сравнению с исходной моделью. Условия лицензирования также не приведены; перед использованием необходимо проверить лицензию базовой модели DeepSeek-V3.2 и условия распространения данной квантизированной версии.

DeepSeek-V4.1-Flash-Abliterated — созданная сообществом версия DeepSeek-V4.1-Flash, опубликованная s-zaizen с применением abliteration через инструмент Heretic; это не официальный выпуск DeepSeek. Модель сохраняет исходную архитектуру DeepSeek V4.1, токенизатор и компоненты для обработки изображений, а также использует формат весов FP8. В репозитории размещено 48 шардов safetensors общим размером около 510 ГБ. Модель предназначена для генерации текста в диалоге и обработки входов с изображениями. По заявлению автора, преобразование изменяет направления отказа в выходах модели: в описанной проверке Heretic ключевые слова отказа обнаружились в 24 из 100 ответов против 97 из 100 у исходной модели. Это измерение не является общим тестом качества или безопасности. Лицензия — MIT.

DeepSeek-V4.1-Flash-MixedQ2-GGUF — это квантизированный GGUF-артефакт модели DeepSeek-V4.1-Flash от deepseek-ai, опубликованный пользователем apetersson. Модель предназначена для генерации текста и запуска в совместимых средах, поддерживающих архитектуру DeepSeek V4.1 и смешанные GGUF-квантизации. Это модель с маршрутизацией экспертов: 543,581,798,400 маршрутизируемых весов занимают около 152,88 ГБ, а общий размер пяти GGUF-файлов составляет 169,92 ГБ. Языки, размер контекстного окна и точная информация о поддерживаемых модальностях в README не указаны. Для проекций gate/up используется IQ2_XXS с эффективной точностью 2,0625 бита на вес, для down — Q2_K с 2,625 бита на вес; остальные тензоры сохраняют нативную или преобразованную точность BF16/F32. Квантизация не основана на калибровке активациями и использует единичный вектор важности, поэтому она экономит память, но может уступать калиброванным вариантам по качеству. Структурная проверка всех пяти шардов прошла успешно, а CPU-ядро показало косинусное сходство 0,99998 с деквантизированным эталоном. Артефакт рассчитан на мощное оборудование: заявлена работа на одной B200 180 ГБ или B300 288 ГБ с размещением Engram-таблиц в оперативной памяти; также указаны конфигурации с несколькими RTX PRO 6000. На момент публикации сквозной запуск в SGLang ещё ожидал повторной проверки после добавления config.json и токенизатора, llama.cpp не поддерживал загрузку файлов V4.1, а официальный путь GGUF в vLLM не имел карты тензоров DeepSeek. В состав не входят Engram-таблицы, блоки MTP/DSpark и vision/aligner-тензоры, поэтому совместимость среды и комплектность дополнительных файлов необходимо проверять отдельно. Лицензия — MIT.

DeepSeek V4 Flash 0731 — DS4 Quality128 — это квантованный GGUF-вариант официальной модели DeepSeek-AI DeepSeek-V4-Flash-0731, подготовленный apetersson. Модель предназначена для генерации текста и работы в среде DS4, прежде всего на компьютерах Apple Silicon с 128 ГБ памяти. Основной файл содержит 43-слойную MoE-архитектуру примерно на 284,33 млрд логических параметров и заявленный обучающий контекст до 1 048 576 токенов. Поддерживаемые языки и мультимодальные возможности в README не указаны. Квантование ориентировано на сохранение качества: часть чувствительных экспертных тензоров хранится в нативном MXFP4, другие экспертные слои используют IQ2_XXS и Q2_K с калибровкой по importance matrix, а attention, общие эксперты и выходная голова — Q8_0. В комплект также входит необязательная трёхэтапная DSpark-модель для speculative decoding; она не является самостоятельной и должна загружаться вместе с целевой моделью. Совокупный размер двух GGUF-файлов составляет около 102,56 ГиБ. Сильными сторонами являются прямое квантование официальных весов без поведенческой модификации, сохранение нативных MXFP4-тензоров и приоритет качества на наиболее чувствительных компонентах. Ограничения связаны с высокими требованиями к памяти и необходимостью свежей версии DS4 из основной ветки. Структурная проверка CPU завершена, однако генерация через Metal, работа DSpark, производительность, пиковое потребление памяти и фактическая работа с контекстом в миллион токенов для этого артефакта ещё не подтверждены. Лицензия — MIT.