I.11Классификация, ранжирование и сопоставление

Карточка модели Umbasa/Qwen3-Omni-30B-A3B-Thinking-UMBASA-V1 на Hugging Face совпадает с карточкой Qwen/Qwen3-Omni-30B-A3B-Instruct, поэтому описание составлено по ней. Qwen3-Omni-30B-A3B-Instruct — мультимодальная модель общего назначения от команды Qwen компании Alibaba. Она принимает текст, изображения, аудио и видео и формирует потоковые ответы текстом и естественной речью; вариант Instruct включает компоненты Thinker и Talker. Архитектура MoE использует разделение на Thinker и Talker, а модель рассчитана на низколатентное взаимодействие в реальном времени и управление поведением через системные промпты. Модель предназначена для голосовых диалогов, распознавания и понимания речи, описания аудио и видео, а также ответов на вопросы по изображениям и смешанным мультимодальным входам. README заявляет поддержку 119 языков для текста, 19 языков для речевого ввода и 10 для речевого вывода; среди явно перечисленных языков речи есть русский. В примере запуска указан максимальный контекст 65 536 токенов. Для работы предлагаются Transformers и vLLM; README отмечает, что на момент публикации требовалась установка Transformers из исходников. Лицензия в метаданных обозначена как other, без уточнения условий.

Qwen3-VL-8B-Instruct-MLX-6bit — 6-битная квантованная версия мультимодальной модели Qwen3-VL-8B-Instruct, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием MLX и mlx_vlm; модель оптимизирована для работы на устройствах Apple Silicon. Модель предназначена для задач image-text-to-text, то есть обработки изображений и текста с генерацией текстовых ответов. Она может применяться в сценариях, где требуется анализ визуального содержимого и взаимодействие с ним на естественном языке. Исходная модель имеет размер 8B параметров, однако README не содержит подробностей об архитектуре, поддерживаемых языках и размере контекстного окна. Ключевые преимущества версии — сниженное потребление памяти по сравнению с полноразмерной моделью и оптимизация для экосистемы Apple Silicon. Квантование может сопровождаться некоторой потерей точности, но конкретные результаты оценки не указаны. Модель распространяется по лицензии Apache-2.0.

Aashraf995/Qwen-Evo-7B — языковая модель на 7,1 млрд параметров, созданная слиянием нескольких предварительно обученных моделей семейства Qwen2 с помощью mergekit и метода Model Stock. В слияние вошли fblgit/cybertron-v4-qw7B-UNAMGS, jeffmeloy/Qwen2.5-7B-nerd-uncensored-v1.5 и suayptalha/HomerCreativeAnvita-Mix-Qw7B; последняя использована как базовая. Модель предназначена для генерации текста и диалогового применения, включая ответы на запросы и работу через интерфейс вызова инструментов. Модель использует архитектуру Qwen2ForCausalLM и принимает текст, выдавая текст. Заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса в формате safetensors, библиотека — Transformers. Лицензия — Apache-2.0. README не приводит оценок качества или подробных ограничений; характеристики и поведение унаследованы от компонентов слияния.

QwQ-32B-MLX-4bit — это 4-битная MLX-квантизация модели рассуждений QwQ-32B, разработанной командой Qwen. Квантизацию подготовил bartowski на основе инструментов mlx-examples; модель предназначена для запуска на компьютерах Mac с Apple Silicon, в том числе через LM Studio. Модель относится к задачам генерации текста и ориентирована на сценарии, требующие пошагового рассуждения и решения сложных задач. Поддерживается контекст длиной до 128 000 токенов. В README не указаны точные сведения о поддерживаемых языках, модальностях и внутренней архитектуре, кроме принадлежности к линейке QwQ и размера исходной модели 32B. Ключевое преимущество этой версии — уменьшенный объём представления благодаря 4-битной квантизации, что делает запуск крупной модели более доступным на совместимых устройствах Apple Silicon. При этом квантизация может влиять на точность и качество по сравнению с исходной моделью. Модель может генерировать неточные, вредные или неподходящие ответы. Лицензия в README не указана, поэтому условия использования необходимо уточнять в документации исходной модели QwQ-32B и у правообладателя.

MaziyarPanahi/samantha-mistral-7b-Mistral-7B-Instruct-v0.1 — чат-модель, полученная слиянием Mistral-7B-Instruct-v0.1 и cognitivecomputations/samantha-mistral-7b методом SLERP. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров для генерации ответов на инструкции и ведения диалогов; заявленная длина контекста — 32 768 токенов. Модель принимает текст и генерирует текст. Модель подходит для диалоговых ассистентов и ответов на запросы на естественном языке. Репозиторий содержит веса Safetensors, лицензия — Apache 2.0. В метаданных не указаны отдельные языки или специализированные прикладные области.

arcee-ai/sec-mistral-v2-Hercules — объединённая модель на основе двух предобученных языковых моделей, созданная методом SLERP с помощью mergekit. В состав вошли arcee-ai/sec-mistral-7b-instruct-1.6-epoch и Locutusque/Hercules-4.0-Mistral-v0.2-7B; конфигурация использует первый репозиторий как базовую модель. Это плотная Mistral-модель с архитектурой MistralForCausalLM и 7,1 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и доступна в формате safetensors через Transformers. Модель подойдёт для создания чат-ботов, генерации ответов и продолжения текста. Карточка не описывает отдельную специализацию по языкам или прикладным областям. Лицензия в предоставленных данных не указана.

bartowski/Skywork-o1-Open-Llama-3.1-8B-GGUF — это набор GGUF-квантизованных версий языковой модели Skywork-o1-Open-Llama-3.1-8B, разработанной командой Skywork и преобразованной bartowski с использованием llama.cpp. Модель предназначена для генерации текста и локального запуска через совместимые инструменты, включая LM Studio. В набор входят варианты с разными уровнями квантизации: от исходных весов f16 размером около 16 ГБ до компактных форматов Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ. Это позволяет выбирать баланс между качеством ответов, потреблением памяти и скоростью инференса; варианты Q6 и Q5 заявлены как высококачественные, а Q4_K_M — как подходящий по размеру вариант для большинства сценариев. Некоторые файлы оптимизированы для ARM или AVX, при этом отдельные варианты имеют ограничения по аппаратной совместимости. Модель относится к текстовым генеративным моделям с архитектурой и языковыми возможностями базовой Skywork-o1-Open-Llama-3.1-8B, однако подробные сведения о поддерживаемых языках, размере контекста и точной архитектуре в представленном README не указаны. Квантизация уменьшает требования к памяти, но может снижать качество по сравнению с f16; степень снижения зависит от выбранного формата. В метаданных указана лицензия other, без уточнения конкретных условий, поэтому перед использованием следует ознакомиться с лицензией исходной модели Skywork.

Smaug Dolphin 60B — объединённая методом MoErge языковая модель на архитектуре Mixtral, созданная на основе abacusai/Smaug-34B-v0.1 и cognitivecomputations/dolphin-2.2-yi-34b-200k. Она предназначена для диалоговой генерации текста. В метаданных указаны 33,9 млрд параметров и контекст до 200 000 токенов; репозиторий содержит веса в формате safetensors. В README приведены результаты оценивания на бенчмарках рассуждений и понимания текста, включая средний балл 76,44, ARC и HellaSwag. Карточка сообщает, что модель работает ожидаемо, а оценки ещё проводятся. Лицензия обозначена как other, поэтому условия использования следует сверять с файлами лицензии репозитория.

Solstice-70b — объединённая автором tdot604 языковая модель для генерации текста и диалоговых ответов. Она создана методом TIES с помощью mergekit на основе tdot604/Hazy-Llama-70b с включением TheDrummer/Moist-Miqu-70B-v1.1; в конфигурации указаны веса 0,8 и 0,2 соответственно. Модель использует плотную архитектуру Llama с классом LlamaForCausalLM, содержит 69,5 млрд параметров и работает с контекстом до 8192 токенов. Модель подходит для ведения диалогов и генерации текстовых ответов. Репозиторий содержит веса в формате safetensors и рассчитан на использование с библиотекой Transformers. В метаданных не указаны языки обучения или специализация на конкретной предметной области. Сведения о лицензии в предоставленных данных отсутствуют.

StarO AI 3.01 Next Super — арабская мультимодальная модель компании C.a. Star Technology, созданная на основе StarO AI 2.69 Super. В карточке заявлена архитектура семейства StarO с плотной моделью типа ModelStarOLMhead и поддержка задач Any-to-Any; размер модели не приведён. Указанная длина контекста — 1024 токена. Модель предназначена для генерации и понимания арабского текста, включая суммаризацию, перевод и ответы на вопросы, а также для работы с изображениями, аудио и видео. README заявляет генерацию изображений по текстовым запросам, описание изображений, визуальные ответы на вопросы, распознавание речи и мультимодальное рассуждение. Основной язык — арабский, с акцентом на современный литературный арабский. Разработчики заявляют об оптимизации для устройств среднего уровня и облачного или локального развёртывания. Модель находится в активной разработке: результаты на сложных задачах могут быть непоследовательными, качество может различаться между арабскими диалектами, а мультимодальные возможности продолжают улучшаться. Для оптимальной работы мультимодальных функций может потребоваться GPU. Лицензия — MIT.

T3qm7xNeuralsirkrishna_ShadowYamshadow — объединённая модель семейства Mistral, созданная слиянием automerger/T3qm7xNeuralsirkrishna-7B и automerger/ShadowYamshadow-7B. Она предназначена для генерации текста и диалогов. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Модель принимает текст и генерирует текст. Веса опубликованы в формате Safetensors по лицензии Apache 2.0. README не уточняет специализацию слияния или отдельные языки, поэтому модель можно описать как универсальную текстовую генеративную модель; её фактические качества зависят от задач и данных, использованных для создания исходных моделей.

google/t5gemma-2b-2b-ul2 — предварительно обученная модель семейства T5Gemma от Google с кодировщиком и декодировщиком по 2 млрд параметров. Архитектура encoder-decoder получена адаптацией decoder-only модели; вариант UL2 обучен с использованием подхода UL2. Репозиторий содержит веса Safetensors для Transformers. Модель предназначена для генерации текста по текстовому запросу и подходит для суммаризации, ответов на вопросы, рассуждений и других задач преобразования текста. В карточке указана поддержка английского языка. Компактный размер может быть удобен для локального развёртывания на компьютерах и в облачной инфраструктуре. Качество зависит от обучающих данных и формулировки запроса; модель может упускать нюансы и выдавать неточные или устаревшие факты. Лицензия Gemma; при применении необходимо учитывать правила использования Gemma.

Google T5Gemma 9B-9B UL2 — предварительно обученная текстовая encoder-decoder модель семейства T5Gemma с энкодером и декодером по 9 млрд параметров. Она получена адаптацией предварительно обученной decoder-only модели Gemma 2 к архитектуре encoder-decoder и обучена с использованием UL2. Модель принимает текст и генерирует текст; заявленные сценарии включают ответы на вопросы, суммаризацию и рассуждения. В README указана поддержка английского языка и открытые веса для предварительно обученных вариантов. Модель работает через библиотеку Transformers; веса доступны в формате safetensors. Размер модели позволяет рассматривать её для развёртывания на локальных компьютерах или в облаке, однако конкретные требования к ресурсам и длина контекста в доступных данных не приведены. Среди ограничений — возможные фактические ошибки, предвзятость обучающих данных, трудности с неоднозначностью и сложными задачами, а также риск генерации вредоносного или вводящего в заблуждение текста. Лицензия — Gemma; для использования следует учитывать условия лицензии и политику запрещённого использования Gemma.

Tema_Q-X6-Thinking — созданная TemaQants доработка большой языковой модели Agent A1 от InternScience для агентных сценариев. Она предназначена для генерации ответов и рассуждений в составе Tema_Q Agent, включая работу со сложными запросами и вызов инструментов. Модель основана на архитектуре семейства Qwen 3.5 MoE, распространяется в формате safetensors и доступна в 2-битном представлении. В карточке заявлена устойчивость при контексте свыше 16 тысяч токенов. Поддерживаются японский, английский и китайский языки. Модель ориентирована на гибкие ответы для агентных задач; заявленные возможности включают следование инструкциям и интерфейс вызова инструментов. README запрещает использовать её для дискриминации, травли, насилия, незаконных и иных вредоносных целей. Лицензия в предоставленных данных не указана.

Tess-10.7B-v1.5 — универсальная большая языковая модель семейства Tess, разработанная Miquiztli. Она основана на SOLAR-10.7B и предназначена для генерации текста в диалоговом формате с ролями SYSTEM, USER и ASSISTANT. Модель подходит для ответов на вопросы, ведения диалога и других общих задач генерации текста. Модель использует плотную архитектуру LlamaForCausalLM, содержит 10,6 млрд параметров и имеет контекст длиной 4096 токенов. Репозиторий содержит веса PyTorch; лицензия — Apache-2.0. В README указано, что для версии Tess-10.7B-v1.5b опубликованы оптимизации гиперпараметров.

TEST-L3.2-ReWish-3B — объединённая текстовая модель, созданная djuna-test-lab с помощью mergekit на основе unsloth/Llama-3.2-3B и с участием SicariusSicariiStuff/Impish_LLAMA_3B и djuna/ReWiz-Llama-3.2-3B-fix-config. Для слияния применён метод DARE linear с нормализацией и int8-маской; архитектура — плотная LlamaForCausalLM, размер — 3,2 млрд параметров. Модель предназначена для генерации текста и диалогов. Метаданные указывают контекст до 131 072 токенов и интерфейс tool calling. В README приведены результаты Open LLM Leaderboard, включая IFEval 63,68 и BBH 22,07, однако эти показатели сами по себе не гарантируют качество в прикладных сценариях. Модель опубликована в формате safetensors и использует библиотеку Transformers. Лицензия и поддерживаемые естественные языки в предоставленных данных не указаны.

Tower+ 72B — многоязычная языковая модель Unbabel на архитектуре Qwen2, дообученная на базе Qwen/Qwen2.5-72B. Обучение включало непрерывное предобучение, настройку по инструкциям и оптимизацию предпочтений; модель содержит 71,5 млрд параметров, работает с текстом и поддерживает контекст до 32 768 токенов по метаданным каталога. Модель предназначена прежде всего для многоязычных задач, особенно для перевода и других задач, связанных с переводом. Она также подходит для следования инструкциям, включая задачи на рассуждение и программирование, и для создания синтетических многоязычных данных — например, перевода инструкций и ответов или генерации инструкций на основе документов. Карточка перечисляет 26 языковых вариантов, включая региональные варианты португальского, испанского и норвежского; метаданные каталога подтверждают поддержку 22 языков. Это плотная авторегрессионная модель генерации текста с возможностью диалогового использования. Для применения указана лицензия CC-BY-NC-4.0, ограничивающая коммерческое использование. README рекомендует генерировать не более 8 192 токенов за раз.

Twilight-Large — плотная языковая модель на архитектуре Mistral с 122,2 млрд параметров, созданная автором softwareweaver с помощью mergekit. Она объединяет Mistral-Large-Instruct-2407, lumikabra-123B_v0.4 и Behemoth-123B-v1 методом della_linear; в качестве базовой использована Mistral-Large-Instruct-2407. Модель предназначена для генерации текста в диалоговом формате и использует формат запросов Mistral Large. Модель принимает текст и генерирует текст. Заявленная длина контекста — 131 072 токена. В карточке упоминаются интерфейс вызова инструментов и возможность использовать control vectors для настройки генерации; качество этих возможностей не оценено в приведённых материалах. Репозиторий содержит веса в формате safetensors. Лицензия обозначена как other, поэтому условия использования следует сверить с лицензиями базовых моделей и карточкой репозитория.

UniWiZ-7B-v0.1 — языковая модель Proto-AI на архитектуре Mistral-7B с 7,1 млрд параметров. Она предназначена для генерации текста, суммаризации, ответов на вопросы и диалогов, а также для образовательных сценариев и создания контента. Модель обучена на подборке данных из разных областей знаний с акцентом на безопасность; контекст — до 32 768 токенов. Модель может помогать создавать статьи и творческие тексты, сокращать документы и объяснять понятия. В README отмечены ограничения на редкие и узкоспециализированные темы, а также вероятность предвзятых, оскорбительных или иных нежелательных ответов, несмотря на меры безопасности. Веса опубликованы в формате safetensors; лицензия — Apache-2.0.

Urdandi-Qwen2.5-7B — объединённая языковая модель автора win10 на архитектуре Qwen2, созданная с помощью mergekit методом breadcrumbs_ties. При объединении использованы win10/Verdandi-Qwen2.5-7B как базовая модель и win10/Urd-Qwen2.5-7B. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста и диалоговое взаимодействие. Модель принимает текст и выдаёт текст; её контекст составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors и рассчитан на использование с Transformers. Карточка не приводит сведений о специализации по языкам, датасетах или прикладным областям. Лицензия в доступных данных не указана.

euser/wKAN-7b — языковая модель для генерации текста, созданная объединением предварительно обученных моделей с помощью mergekit и метода DARE TIES. В качестве базовой модели в README указана mistralai/Mistral-7B-v0.1; метаданные также связывают объединение с LakoMoor/Silicon-Alice-7B, NeverSleep/Noromaid-7B-0.4-DPO и seyf1elislam/WestKunai-Hermes-7b. Модель использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. В README показан сценарий генерации ответа на текстовый запрос через Transformers и chat template; нативная длина контекста составляет 32 768 токенов. Лицензия в предоставленных данных не указана.

Nous-Yarn-Llama-2-70b-32k — языковая модель от NousResearch, основанная на Llama 2 70B и дополнительно обученная на данных для длинного контекста. Авторы применили метод YaRN и провели 400 шагов дополнительного предобучения. Модель предназначена для генерации текста и работы с длинными документами; в README заявлено окно контекста до 32 тыс. токенов. В метаданных указаны архитектура LlamaForCausalLM, плотная модель с 68,7 млрд параметров, библиотека Transformers и формат PyTorch. В сравнительных тестах авторы сообщают о сохранении результатов на коротком контексте и показателях perplexity для контекстов до 32 тыс. токенов. В метаданных указана длина контекста 8192 токена, что расходится с заявленными в README 32 тыс.; фактическую поддержку максимальной длины следует проверять в используемой конфигурации. Модель рассчитана на английский язык. Лицензия — Apache 2.0.

ZAYA1-VL-8B — открытая vision-language модель Zyphra для диалога и ответов на вопросы по изображениям. Она использует ZAYA1-8B как текстовый декодер и визуальный энкодер Qwen2.5-VL; архитектура включает специализированные LoRA-параметры для обработки зрительных токенов и двунаправленное внимание к токенам изображения. В карточке указано 3 млрд параметров, контекст до 32 768 токенов и поддержка изображений и текста. Модель предназначена для анализа изображений, диаграмм и документов, а также визуальных вопросов и ответов. В README приведены результаты на наборах AI2D, ChartQA и DocVQA. Для запуска требуется форк Transformers с веткой zaya1-vl и дополнительные зависимости, включая qwen-vl-utils и flash_attn. Модель распространяется по лицензии Apache 2.0.

Zenith-7B-dpo-v2 — диалоговая языковая модель Xenon1 на архитектуре Mistral, дообученная на Mistral-7B-v0.1 с использованием датасета UltraFeedback и методов из статьи Self-Rewarding Language Models. Модель содержит 7,1 млрд параметров, принимает текстовые инструкции в формате Mistral [INST] и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалогов и генерации ответов на инструкции. В архитектуре используются Grouped-Query Attention, Sliding-Window Attention и BPE-токенизатор с поддержкой fallback по байтам. Карточка указывает английский язык. Модель распространяется по лицензии Apache-2.0.

360VL-8B — открытая мультимодальная модель компании Qihoo 360 для диалога по изображениям и тексту. Она дообучена на основе Meta Llama 3 8B Instruct и использует трансформерную авторегрессионную языковую модель с многоветвевым проектором, предназначенным для улучшения понимания изображений. Модель принимает изображения и текст и формирует текстовые ответы; поддерживает многоходовой диалог с одним изображением, визуальные вопросы и распознавание текста на изображениях. В README указано разрешение изображений до 672×672 пикселей, а контекст по метаданным составляет 8192 токена. Поддерживаются китайский и английский языки. Модель подходит для анализа содержимого изображений, извлечения и обобщения информации, а также ответов на вопросы по изображению. Вес модели содержит 7,5 млрд параметров и опубликован в формате safetensors. Лицензия — Apache 2.0.

AMD-OLMo-1B-SFT-DPO-GGUF — квантизированная версия языковой модели AMD-OLMo-1B-SFT-DPO, разработанной AMD на основе открытой архитектуры и подходов обучения OLMo-1B. Формат GGUF подготовлен bartowski с использованием llama.cpp. Модель предназначена для генерации текста и локального запуска в совместимых приложениях, включая LM Studio. Модель содержит около 1 миллиарда параметров, поддерживает контекст длиной до 2048 токенов и использует словарь размером 50 280 токенов. Базовое предварительное обучение выполнено на 1,3 триллиона токенов из набора Dolma. Затем модель прошла supervised fine-tuning на наборах Tulu V2, OpenHermes-2.5, WebInstructSub и Code-Feedback, а также выравнивание предпочтений методом Direct Preference Optimization на наборе UltraFeedback. К сильным сторонам относятся открытая основа, компактный размер, адаптация к следованию инструкциям и наличие дополнительного обучения на данных для общего, веб- и программного контента. Ограничения включают небольшой контекст, неизвестную из README языковую специализацию и возможные ошибки, неточности или нежелательный контент при генерации; квантизация также может влиять на качество. Указана лицензия Apache-2.0.

ANITA-NEXT-24B-Magistral-2506-VISION-ITA — мультимодальная модель семейства ANITA, разработанная Марко Полиньяно и исследовательской группой SWAP Университета Бари Альдо Моро. Она создана на основе текстовой модели ANITA-NEXT-24B-Magistral-2506-ITA с добавлением зрительных слоёв и процессора Mistral-Small-3.1-24B-Instruct-2503; архитектура — Mistral3, около 23,4 млрд параметров. В карточке указано дообучение SFT с QLoRA и выравнивание DPO, а каталог отмечает слияние моделей. Модель предназначена для диалогов на итальянском и английском языках с анализом изображений, а также для последующей настройки под специальные задачи на итальянском. Она принимает текст и изображения и генерирует текст, включая код. Метаданные указывают контекст 40 960 токенов; README заявляет 128 тыс. токенов, отмечая снижение качества после 40 тыс. Лицензия — Apache-2.0.

Карточка модели ganesh714/arq_m1_chairs на Hugging Face совпадает с карточкой ganesh714/arq_m1_chairs_think_Q7b_C, поэтому описание составлено по ней. Модель ganesh714/arq_m1_chairs_think_Q7b_C — дообученная языковая модель семейства Qwen2 на базе unsloth/qwen2.5-coder-7b-instruct-bnb-4bit. Она построена на архитектуре Qwen2ForCausalLM и содержит 7,1 млрд параметров; модель предназначена для генерации текста в диалоговом формате и поддерживает интерфейс вызова инструментов. В README указано, что обучение выполнялось с Unsloth и библиотекой TRL. Модель принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. В метаданных указан английский язык. Лицензия — Apache-2.0. В карточке нет подробностей о специализации дообучения или оценках качества, поэтому пригодность для конкретных задач следует проверять на собственных примерах.

Aurora-Borealis-LLaMa-70B — экспериментальная объединённая языковая модель от автора Tarek07, созданная с помощью mergekit из нескольких моделей семейства LLaMa. В README описан метод слияния DARE TIES с градиентной настройкой влияния компонентов; базой указана TareksLab/MO-MODEL6-V0.1-LLaMa-70B. Архитектура — плотная авторегрессионная LLaMaForCausalLM, размер — 69,5 млрд параметров, контекст — до 131 072 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Автор описывает её как эксперимент со слиянием специализированных моделей; README рекомендует температуру 1,0, Min P 0,02 и запускать квантованные варианты не ниже Q5. Доступны веса safetensors. Лицензия — llama3.3.

aya-23-35B-GGUF — это набор квантизированных моделей в формате GGUF для запуска через llama.cpp. Основой служит языковая модель aya-23-35B, разработанная CohereForAI, а квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на вопросы, написание и преобразование текста на нескольких языках. Заявлена поддержка английского, французского, немецкого, испанского, итальянского, португальского, японского, корейского, китайского, арабского, греческого, персидского, польского, индонезийского, чешского, иврита, хинди, нидерландского, румынского, русского, турецкого, украинского и вьетнамского языков. Размер базовой модели — 35B параметров; сведения об архитектуре и размере контекста в README не указаны. Доступны варианты с разными уровнями квантизации: от IQ1 и IQ2 с минимальным размером и более низким качеством до Q6_K и Q8_0 с высоким качеством, но большими требованиями к памяти. Рекомендуемыми названы варианты Q4_K_M, Q5_K_M и Q6_K, а также некоторые IQ-квантизации. Главное преимущество модели — возможность локального запуска в llama.cpp при выборе подходящего уровня квантизации, включая варианты для ограниченного объёма оперативной памяти. Ограничения связаны с компромиссом между качеством и размером: низкобитные варианты заметно уступают по качеству, а высококачественные требуют десятки гигабайт памяти. Лицензия — CC BY-NC 4.0, допускающая использование с ограничениями, включая запрет коммерческого применения.