II.10Разработка и эксплуатация AI/ML-систем

K2-Horizon-MoVA-36B-A4B-GGUF — открытая GGUF-версия модели K2-Horizon-MoVA-36B-A4B, разработанная IFM. Это разреженная Mixture-of-Experts-модель с архитектурой Mixture-of-Values attention (MoVA): всего она содержит 36 млрд параметров, при обработке каждого токена активируется около 4 млрд. Модель предназначена для генерации текста, рассуждений и агентских сценариев; заявлена поддержка контекста до 524 288 токенов. В карточке указано, что модель обучалась на англоязычных данных и ориентирована на английский язык. К сильным сторонам относятся высокая заявленная эффективность при небольшом числе активных параметров, конкурентоспособные результаты на задачах рассуждения и агентского взаимодействия, а также открытый статус проекта. Файлы содержат метаданные токенизатора и совместимый с llama.cpp шаблон чата, однако для запуска требуется версия llama.cpp с поддержкой архитектуры K2 Horizon, которая на момент публикации находилась в разработке. Тензоры сохранены в исходной точности BF16, поэтому практические требования к ресурсам зависят от конкретной среды запуска. Модель распространяется по лицензии Apache-2.0.

Llama-3-15B-Instruct-zeroed — объединённая языковая модель, опубликованная elinas и созданная с помощью mergekit на основе meta-llama/Meta-Llama-3-8B-Instruct. При слиянии применён метод passthrough с обнулением слоёв o_proj и down_proj; автор сообщает о снижении perplexity по сравнению с похожими моделями на 15 млрд параметров. Модель предназначена для диалоговой генерации текста и ассистентских ответов. Она имеет плотную архитектуру LlamaForCausalLM, содержит 14,5 млрд параметров и поддерживает контекст до 8192 токенов. В репозитории указаны формат safetensors и лицензия Llama 3. Карточка также ссылается на дообученную версию elinas/Llama-3-15B-Instruct-zeroed-ft, про которую автор сообщает об улучшении производительности.

aifeifei799 выпустил вариант Llama 3.1 8B Instruct с пометкой Uncensored. Это авторегрессионная плотная языковая модель на архитектуре Transformer с Grouped-Query Attention; метаданные указывают 7,5 млрд параметров и контекст до 131 072 токенов. Модель принимает текст и генерирует текст, поддерживает диалоговый режим и предназначена для многоязычных ассистентских сценариев и генерации текста. Карточка основана на описании Meta Llama 3.1 Instruct и указывает на английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Пометка Uncensored указывает на изменённые ограничения ответа, но README не описывает метод или объём дообучения и не подтверждает конкретные свойства этого изменения. Модель доступна в формате Safetensors по лицензии Llama 3.1 Community License; перед применением следует учитывать условия лицензии и самостоятельно оценивать безопасность ответов.

QuantFactory/Llama-3.2-3B-Instruct-GGUF — инструкционная языковая модель семейства Llama 3.2, подготовленная QuantFactory и основанная на модели Meta. Это текстовая модель для генерации текста и диалоговых сценариев, включая ответы на инструкции, при этом конкретные прикладные задачи и параметры инференса в представленном README не описаны. Модель имеет размер 3B параметров согласно идентификатору и распространяется в формате GGUF, предназначенном для локального запуска совместимыми средствами. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Архитектурные детали, размер контекстного окна, точный вариант квантования и сведения о мультимодальности не указаны; по имеющимся данным модель относится к текстовым, а не мультимодальным системам. К сильным сторонам относятся компактный размер и формат GGUF, потенциально удобные для локального использования с ограниченными вычислительными ресурсами, а также инструкционная настройка. Ограничения включают неизвестные характеристики квантования, контекста и качества на отдельных языках и задачах; результаты могут зависеть от используемого рантайма и настроек генерации. Модель распространяется по лицензии Llama 3.2 Community License от Meta. При распространении материалов или производных продуктов необходимо соблюдать условия лицензии, включая предоставление текста соглашения, указание «Built with Llama», требования к атрибуции, допустимому использованию и коммерческое ограничение для продуктов с более чем 700 миллионами месячных активных пользователей.

Llama3-8B-Chinese-Chat — диалоговая языковая модель, разработанная Shenzhi Wang, Yaowei Zheng, Guoyin Wang, Shiji Song и Gao Huang на основе Meta-Llama-3-8B-Instruct. В репозитории представлена версия v2.1, дообученная полными параметрами методом ORPO на смешанных китайско-английских данных предпочтений. Архитектура — плотная LlamaForCausalLM; размер составляет около 7,5 млрд параметров по метаданным, контекст — 8192 токена. Модель принимает текст и генерирует текст на китайском и английском языках. Она предназначена для диалогов и ответов по инструкциям, ролевых сценариев, вызова инструментов и решения математических задач. Авторы отмечают, что дообучение уменьшает вероятность ответа на китайский запрос по-английски и смешения языков; версия v2.1 улучшает ролевые ответы, вызов функций и математику по сравнению с предыдущими версиями. Модель не проходила настройку идентичности, поэтому ответы о том, кто она и кто её разработал, могут быть случайными. Используется лицензия Llama 3.

M7Yamshadowexperiment28_YamshadowExperiment28 — слитая языковая модель на архитектуре Mistral, созданная объединением automerger/M7Yamshadowexperiment28-7B и automerger/YamshadowExperiment28-7B. Она предназначена для генерации текста и диалогов по текстовым запросам. Модель содержит 7,1 млрд параметров, использует формат весов Safetensors и поддерживает контекст до 32 768 токенов. Репозиторий распространяется по лицензии Apache-2.0.

MeliodasNeuralsirkrishna-7B — автоматически объединённая Maxime Labonne модель на архитектуре Mistral с 7,1 млрд параметров. Она создана методом SLERP из AurelPx/Meliodas-7b-dare и Kukedlc/NeuralSirKrishna-7b; в конфигурации базовой указана AurelPx/Meliodas-7b-dare. Модель предназначена для генерации текста и диалогов. Она принимает текст и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors; модель распространяется по лицензии Apache-2.0.

dealignai подготовил вариант MiniMax-M2.5 для запуска на Apple Silicon. Это MoE-модель семейства MiniMax M2 с 230 млрд параметров, 256 экспертами и примерно 10 млрд активных параметров на токен; используется стандартное внимание и цепочка рассуждений. По заявлению карточки, модель прошла смешанную квантизацию JANG_2L и удаление отказов CRACK на уровне весов. Размер файлов — 63 ГБ. Формат JANG поддерживают MLX Studio и пакет jang-tools; карточка также рекомендует запускать модели JANG в vMLX. Модель предназначена для генерации ответов в диалоге, рассуждений и вызова инструментов. В карточке заявлены английский, китайский и корейский языки, а метаданные указывают контекст 196 608 токенов. Указанная лицензия — Apache-2.0. Карточка позиционирует модель как исследовательскую и образовательную и приводит результаты HarmBench, указывающие на существенно ослабленные защитные ограничения; эти результаты являются заявлениями автора карточки.

Moza-7B-v1.0 — экспериментальная языковая модель на архитектуре Mistral с 7,1 млрд параметров, созданная автором kidyu как слияние нескольких предварительно обученных и дообученных моделей с помощью mergekit и метода DARE TIES. Среди компонентов — варианты Mistral, NeuralHermes, OpenOrca, Neural Chat, Starling, Dolphin и MetaMath; базой слияния указана mistralai/Mistral-7B-v0.1. Модель предназначена для генерации текста по инструкциям и диалоговых сценариев. Для инференса предлагается формат Alpaca. Контекст составляет 32 768 токенов; в репозитории есть веса safetensors и квантованный вариант GGUF. Карточка не описывает отдельную специализацию по языкам или областям применения. Лицензия — Apache-2.0. Автор предупреждает, что слияние выполнено экспериментально, а использовать модель следует на свой риск.

PaddleOCR-VL-1.6 — компактная модель для разбора документов от команды PaddlePaddle, дообученная на основе PaddleOCR-VL-1.5. В метаданных указаны архитектура PaddleOCRVLForConditionalGeneration и 318,2 млн параметров; модель принимает изображения документов и формирует текстовый разбор. Для запуска предусмотрена библиотека PaddleOCR, а README также описывает совместимость архитектуры с версией 1.5. Модель предназначена для распознавания и структурирования содержимого документов: текста, таблиц, формул, диаграмм, печатей и штампов. README сообщает об улучшениях для китайских древних документов, редких китайских символов и распознавания текста в различных областях изображения, а также о результате 96,33% на OmniDocBench v1.6. Метаданные указывают контекст 131 072 токена и языки английский, китайский и многоязычную поддержку. Модель распространяется по лицензии Apache-2.0. Показатели бенчмарков приведены в README; фактическое качество зависит от типа документа и условий распознавания. Для работы с моделью описаны зависимости PaddlePaddle и PaddleOCR.

Карточка модели Gaery0611/Qwen2.5-0.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-0.5B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-0.5B-Instruct — компактная инструктивно настроенная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов, выполнения инструкций и генерации текста, включая длинные ответы, структурированные данные и JSON; также может применяться для простых задач по коду и математике. Модель построена на архитектуре Qwen2 с причинным языковым моделированием и содержит 494 млн параметров. В карточке указаны 24 слоя, RoPE, SwiGLU, RMSNorm и группированное внимание; контекст — 32 768 токенов, генерация — до 8 192 токенов. Модель работает с текстом, поддерживает чат и интерфейс вызова инструментов. Семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский и английский. Небольшой размер упрощает запуск по сравнению с крупными языковыми моделями, но ограничивает сложность задач, которые она может надёжно решать. Модель распространяется по лицензии Apache-2.0; для загрузки через Transformers рекомендуется актуальная версия библиотеки.

Qwen2.5-3B-RuoZhiBa-Instruct — чат-модель, созданная дообучением Qwen/Qwen2.5-3B-Instruct на наборе hfl/ruozhiba_gpt4 с помощью LLaMA-Factory. Она построена на архитектуре Qwen2 с 3,1 млрд параметров и предназначена для генерации текста и диалогов по инструкциям; в метаданных также заявлен интерфейс вызова инструментов. Модель принимает текст и выдаёт текст. Её контекст составляет 32 768 токенов. Базовая модель поддерживает более 29 языков, включая английский, китайский и русский, однако карточка этой версии отмечает английский и китайский. Модель распространяется в формате Safetensors; лицензия указана как other, без уточнения условий в доступных данных.

lmstudio-community/Qwen3-4B-MLX-8bit — это 8-битная версия модели Qwen3-4B, преобразованная в формат MLX из базовой модели Qwen/Qwen3-4B с использованием mlx-lm 0.24.0. Модель предназначена для генерации текста и локального запуска в экосистеме MLX, включая диалоговые сценарии и другие задачи, поддерживаемые базовой языковой моделью. Модель содержит около 4 миллиардов параметров и использует 8-битное представление, что может снизить требования к памяти при запуске. Для работы предусмотрена библиотека mlx-lm и токенизатор с поддержкой chat template, если она доступна. README не указывает архитектуру, поддерживаемые языки, длину контекста, мультимодальные возможности, результаты тестирования, сильные стороны или ограничения модели, поэтому эти характеристики нельзя достоверно оценить по представленным данным. Лицензия — Apache 2.0.

Qwen3.8-27B-OBLITERATED-Mythos-Class-Agentic-MLX-4bit — неофициальная MLX-конверсия модели medismera/Qwen3.8-27B-OBLITERATED-Mythos-Class-Agentic, опубликованная uzzero для локального запуска на компьютерах Apple Silicon. Исходная модель основана на Qwen/Qwen3.8-27B, разработанной Qwen и Alibaba Cloud. Дополнительное обучение при конвертации не проводилось. Модель предназначена для диалоговых сценариев, работы с инструментами и агентских приложений, включая извлечение структурированных данных и обработку результатов вызова инструментов. Сохранена мультимодальная конфигурация qwen3_5 с поддержкой image-text-to-text, однако возможности работы с изображениями и видео в README не подтверждены тестированием. Языки и максимальная длина контекста не указаны; в LM Studio загрузка проверялась с контекстом 8192 токена. Используется 4-битное affine-квантизование MLX с размером группы 64. Весовая часть занимает примерно 16,05 ГБ и распределена по 16 файлам safetensors; отдельные мультимодальные модули сохранены в формате с плавающей точкой. Модель проверена на загрузку в oMLX и LM Studio, а также на синтетических задачах извлечения данных и вызова демонстрационного инструмента. Эти проверки не доказывают превосходство над базовой моделью, качество после квантизации или надежность в реальных агентских сценариях. Не оценивались длинный контекст, производительность, реальные почтовые процессы и общая надежность агентов; для автоматизации следует задавать явную JSON Schema и валидировать типы вывода. Распространяется по лицензии Apache License 2.0 с сохранением исходных уведомлений об авторских правах. Для работы с инструментами клиент должен самостоятельно передавать определения инструментов, выполнять выбранные вызовы и возвращать результаты; сама модель не подключается к внешним сервисам и не планирует задачи.

ilintar/qwen3.8-flash-next-gguf-strix-halo — это GGUF-квантизация модели Qwen3.8-Flash-Next, предназначенная для генерации текста. Базовая модель относится к семейству Qwen; в README указано 176,94 млрд параметров, формат квантования IQ4_NL и общий объём весов 93,16 GiB в девяти файлах. Модель поддерживает английский язык, рассчитана на текстовые задачи и имеет обученный контекст до 262 144 токенов. Архитектура обозначена как qwen4exp и включает рекуррентный gated delta-net, разреженное lightning-indexer attention и поуровневые embeddings. В комплект входит отдельная draft head размером 2,6 GB в формате Q8_0 для ускорения генерации. Ключевой сценарий использования — запуск на одном AMD Ryzen AI Max+ с Radeon 8060S, архитектурой gfx1151 и 128 GB unified memory. Для работы необходимы специальная ветка strix-halo проекта llama.cpp и соответствующие ROCm/HIP-ядра; upstream-версия llama.cpp не подходит. Модель демонстрирует высокую скорость предварительной обработки контекста: около 1152 токенов/с при пустом контексте и около 1060 токенов/с на глубине 40 000 токенов. Скорость генерации ниже — примерно 24 и 15 токенов/с соответственно. Решение экспериментальное, требует точной конфигурации загрузчика и практически использует значительную часть unified memory, поэтому доступный объём памяти ограничивает работу с KV-кэшем и вычислительными буферами. Качество проверялось сравнением perplexity с эталонным стеком, публичные benchmark-результаты не указаны. Лицензия — Apache-2.0.

prithivMLmods/Qwen3-VL-8B-Thinking-abliterated-v1-GGUF — GGUF-квантизированная версия 8-миллиардной vision-language модели Qwen3-VL-8B-Thinking, разработанная prithivMLmods на базе модели Alibaba. Она предназначена для мультимодального понимания и генерации текста по изображениям и видео, включая описание сцен, визуальное рассуждение, анализ сложного или чувствительного контента, работу с художественными, техническими и абстрактными материалами, а также задачи OCR и визуальных датасетов. Модель ориентирована преимущественно на английский язык, при этом заявлена поддержка OCR на 32 языках и адаптация к многоязычным запросам. Модель поддерживает различные соотношения сторон и разрешения, видео, сложные макеты, пространственное восприятие, длинный контекст более 256K токенов и механизм Interleaved-MRoPE. Доступны варианты квантования от Q2_K до Q8_0, IQ4_XS и F16; размеры файлов составляют примерно от 3,28 до 16,4 ГБ, а для мультимодального проектора требуются отдельные файлы mmproj. Для запуска в README указаны Transformers с GPU и ориентировочная потребность в 16–24 ГБ видеопамяти; также заявлена совместимость с llama.cpp. Сильными сторонами являются мультимодальное рассуждение, анализ изображений и видео, OCR, пространственное понимание и большой контекст. Abliterated-вариант позиционируется как менее ограниченный стандартными фильтрами, поэтому может генерировать откровенный или потенциально небезопасный контент и требует осторожного применения в продуктивных системах. Модель распространяется по лицензии Apache-2.0.

Aashraf995/Qwen-Evo-7B — языковая модель на 7,1 млрд параметров, созданная слиянием нескольких предварительно обученных моделей семейства Qwen2 с помощью mergekit и метода Model Stock. В слияние вошли fblgit/cybertron-v4-qw7B-UNAMGS, jeffmeloy/Qwen2.5-7B-nerd-uncensored-v1.5 и suayptalha/HomerCreativeAnvita-Mix-Qw7B; последняя использована как базовая. Модель предназначена для генерации текста и диалогового применения, включая ответы на запросы и работу через интерфейс вызова инструментов. Модель использует архитектуру Qwen2ForCausalLM и принимает текст, выдавая текст. Заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса в формате safetensors, библиотека — Transformers. Лицензия — Apache-2.0. README не приводит оценок качества или подробных ограничений; характеристики и поведение унаследованы от компонентов слияния.

Qwopus3.6-27B-v1-preview-i1-GGUF — квантованная GGUF-версия модели Qwopus3.6-27B-v1-preview, опубликованная mradermacher на основе модели Jackrong. Модель относится к классу conversational и instruct, ориентирована на диалоговое взаимодействие и задачи рассуждения. В README также указано, что это мультимодальная vision-language-модель, способная работать с изображениями и текстом. Модель содержит 27 миллиардов параметров и поддерживает английский, китайский, японский, корейский, испанский и русский языки. Точная архитектура, размер контекста и спецификация мультимодального компонента не указаны. Доступны варианты квантования i1-IQ1_S, i1-IQ1_M, i1-IQ2, i1-IQ3, i1-IQ4, i1-Q2_K, i1-Q3_K, i1-Q4, i1-Q5_K и i1-Q6_K размером примерно от 7,2 до 22,2 ГБ. Более сильное квантование обычно требует больше памяти, тогда как низкобитные варианты экономичнее, но могут заметно терять в качестве. Для создания модели использовались датасеты Claude-Distillation-Dataset, GLM-5.1-Reasoning-1M-Cleaned, Kimi-K2.5-Reasoning-1M-Cleaned и Qwen3.5-reasoning-700x. Это может быть преимуществом для диалогов и задач рассуждения, однако README не содержит результатов тестирования, поэтому качество нельзя оценить количественно. Для работы с изображениями могут потребоваться дополнительные mmproj-файлы из статического репозитория. Модель распространяется по лицензии Apache-2.0.

Sakalti/SakalFusion-7B-Alpha — текстовая языковая модель, созданная методом Model Stock из предварительно обученных моделей с помощью mergekit. В объединение вошли AIDC-AI/marco-o1 и rombodawg/Rombos-LLM-V2.5-Qwen-7b, а базой служила Qwen/Qwen2.5-7B. Модель имеет плотную архитектуру Qwen2, 7,1 млрд параметров и работает через библиотеку Transformers; веса представлены в формате safetensors. Модель предназначена для генерации текста и диалогового взаимодействия. Заявленная длина контекста — до 131 072 токенов. Метаданные карточки перечисляют поддержку английского, китайского, русского и других языков, включая французский, немецкий, испанский и японский. Указана возможность интерфейса вызова инструментов, но специальных гарантий его совместимости или качества карточка не приводит. Лицензия в предоставленных данных не указана, поэтому условия использования определить нельзя. Как результат слияния нескольких моделей, качество может различаться между задачами и языками; отдельные оценки или результаты тестирования для этой версии в карточке не приведены.

smartyplats-7b-v2-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на 7,1 млрд параметров, созданная слиянием Mistral-7B-Instruct-v0.2 и smartyplats-7b-v2 методом SLERP. Репозиторий связывает её с базовой моделью mistralai/Mistral-7B-Instruct-v0.2; веса опубликованы в формате SafeTensors. Модель предназначена для генерации текста и диалоговых ответов на инструкции. Архитектура — плотная MistralForCausalLM, контекст — до 32 768 токенов. Карточка не приводит специальных сведений о поддерживаемых естественных языках или узкой предметной области. Лицензия — Apache-2.0. Карточка описывает метод слияния и его конфигурацию, но не содержит сравнительной оценки качества или конкретных ограничений применения.

Smaug Dolphin 60B — объединённая методом MoErge языковая модель на архитектуре Mixtral, созданная на основе abacusai/Smaug-34B-v0.1 и cognitivecomputations/dolphin-2.2-yi-34b-200k. Она предназначена для диалоговой генерации текста. В метаданных указаны 33,9 млрд параметров и контекст до 200 000 токенов; репозиторий содержит веса в формате safetensors. В README приведены результаты оценивания на бенчмарках рассуждений и понимания текста, включая средний балл 76,44, ARC и HellaSwag. Карточка сообщает, что модель работает ожидаемо, а оценки ещё проводятся. Лицензия обозначена как other, поэтому условия использования следует сверять с файлами лицензии репозитория.

T3qm7xNeuralsirkrishna_OgnoExperiment27 — слитая модель на архитектуре Mistral с 7,1 млрд параметров, созданная объединением automerger/T3qm7xNeuralsirkrishna-7B и automerger/OgnoExperiment27-7B. Она предназначена для генерации текста и диалогов; поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Модель принимает текст и выдаёт текст. Репозиторий содержит веса safetensors, лицензия — Apache-2.0. Карточка не сообщает о специализации по предметной области или отдельных языковых возможностях, поэтому модель описывается как общего назначения.

Hunyuan-7B-Instruct-GGUF — это квантизированная GGUF-версия текстовой генеративной модели Hunyuan-7B-Instruct, разработанной Tencent. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для запуска локально через llama.cpp, LM Studio и другие совместимые проекты. Модель ориентирована на диалоговые сценарии и генерацию текста по инструкциям. В репозитории доступны варианты от BF16 до квантизаций Q2–Q8, размером примерно от 3 ГБ до 15 ГБ; это позволяет выбирать между качеством и требованиями к памяти. Для работы необходимо использовать указанный формат prompt с системным сообщением и специальными токенами. README не содержит сведений об архитектуре, поддерживаемых языках, длине контекста, мультимодальности или результатах бенчмарков. Квантизации с более высокой разрядностью обычно обеспечивают лучшее качество, а варианты Q3 и ниже экономят память, но заметнее теряют в качестве; некоторые форматы предназначены для совместимости с ARM или Apple Silicon. Лицензия в предоставленных данных не указана.

Карточка модели 8u113t/Unlimited-OCR на Hugging Face совпадает с карточкой lenhattruong165/orc-deepseek-unli, поэтому описание составлено по ней. Unlimited-OCR — мультимодальная модель семейства Unlimited-OCR, представленная авторами проекта в июне 2026 года. Она предназначена для распознавания текста на изображениях и длинного разбора документов за один проход, включая сценарии с преобразованием страниц PDF в изображения. В карточке указаны 559,7 млн параметров, архитектура UnlimitedOCRForCausalLM, контекст 32 768 токенов и работа через Transformers; README также описывает поддержку запуска в vLLM и SGLang. Модель принимает изображения и текстовые запросы, а результат выдаёт в виде текста. Метаданные отмечают мультиязычную поддержку, но конкретные языки не перечисляют. Лицензия — MIT. Карточка связывает модель с Deepseek-OCR, однако точный идентификатор базовой модели не указан.

Dennis1315/ward-cloud-14b — мультимодальная модель семейства Qwen3.5, дообученная Dennis1315 на базе Qwen/Qwen3.5-9B с использованием Unsloth и библиотеки Hugging Face TRL. Она предназначена для диалога с текстом и изображениями; метаданные также указывают интерфейс вызова инструментов. Базовая модель рассчитана на анализ изображений, рассуждения, программирование и агентные задачи. Модель принимает текст и изображения и формирует текстовые ответы. В репозитории используются веса Safetensors. Лицензия — Apache-2.0. Подробности обучающего набора и оценки качества в доступной карточке не приведены.

Это дообученная модель OpenAI Whisper Medium с архитектурой WhisperForConditionalGeneration и 455,8 млн параметров. Она предназначена для автоматического распознавания речи и преобразования аудио в текст. В README приведены результаты на наборе оценки: loss 0,5381 и глобальный WER 13,3026; обучающий набор данных не описан. Модель принимает аудио и выдаёт текст; семейство Whisper также поддерживает многоязычную транскрибацию и перевод речи, однако язык и режимы, проверенные именно для этой версии, в карточке не уточнены. Модель распространяется в формате safetensors по лицензии Apache-2.0.

YamshadowStrangemerges_32_YamExperiment26 — объединённая модель для генерации текста, созданная на основе automerger/YamshadowStrangemerges_32-7B и automerger/YamExperiment26-7B. Она использует плотную архитектуру Mistral с 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста в сценариях, где требуется обрабатывать длинные запросы и контекст. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

ZDTaichu5.0-9B-GGUF — это GGUF-квантизированная версия мультимодальной модели ZDTaichu5.0-9B, разработанной командой Zi Dong Tai Chu и преобразованной для использования с llama.cpp. Модель предназначена для понимания изображений, пространственного рассуждения, агентского взаимодействия с инструментами, задач embodied AI и анализа видео. Поддерживаются текстовые и визуальные входные данные, а заявленный контекст достигает 128K токенов (131 072). Указаны языки English и Chinese. В основе используется языковая модель Qwen3.5-9B и визуальный энкодер C-RADIOv4-H. Доступны варианты квантизации Q8_0, Q6_K, Q5_K_M, Q4_K_M, Q4_0, Q3_K_M, IQ3_M и IQ3_XXS размером примерно от 3,94 до 9,53 ГБ. Для мультимодального режима требуется отдельный vision projector mmproj в формате BF16 размером 1,65 ГБ; для текстовых задач он необязателен. Модель можно запускать через llama.cpp и ускорять с помощью speculative decoding с совместимой draft-моделью DSpark. К сильным сторонам относятся мультимодальность, большой контекст, поддержка пространственного и визуального анализа, а также несколько вариантов квантизации для выбора компромисса между качеством и требованиями к памяти. Ограничения связаны с зависимостью мультимодального режима от совместимого runtime и projector, а поведение вызова инструментов зависит от серверной реализации и интеграции parser. Benchmark-показатели в README относятся к исходной модели TaichuAI/ZDTaichu5.0-9B, а не к данной GGUF-конверсии. Модель распространяется по лицензии Apache-2.0.

Это зеркальная копия модели Qwen2 для генерации текста, размещённая пользователем latent-artist. Метаданные указывают на архитектуру Qwen2ForCausalLM с плотной структурой и 494 млн параметров; репозиторий содержит веса в формате Safetensors. Модель рассчитана на текстовые диалоги и имеет интерфейс вызова инструментов. Контекстное окно составляет 32 768 токенов, а в карточке указан английский язык. README описывает репозиторий как копию файлов и сообщает, что конфигурация и веса сохраняют исходное назначение. Условия использования и распространения предлагается сверять с файлом лицензии; метаданные указывают Apache-2.0. Исходная модель, от которой сделана копия, не установлена по доступным сведениям.

Athena-R3-1.5B — причинная языковая модель на 1,5 млрд параметров, разработанная Aayan Mishra и дообученная на базе deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B для усиления навыков рассуждения. Она предназначена для решения сложных задач, логического анализа, ответов на вопросы по математике и науке, а также для генерации, дополнения и суммаризации текста. Модель использует архитектуру Qwen2 с RoPE, SwiGLU, RMSNorm и Grouped Query Attention; в ней 24 слоя, 16 голов для запросов и 2 для ключей и значений. Контекст — до 131 072 токенов. Карточка указывает поддержку многих языков, включая английский, китайский, русский, французский, испанский, немецкий, японский и другие; лучше всего модель работает на английском. Доступны веса в формате safetensors, библиотека Transformers, лицензия MIT. Модель может ошибаться и наследует смещения обучающих данных; её знания ограничены августом 2024 года. Она не предназначена для критически важных систем реального времени или обработки чувствительных персональных данных.