I.11Классификация, ранжирование и сопоставление

Phi-3-mini-4k-instruct-IMat-GGUF — это GGUF-квантизированная версия инструкционной модели microsoft/Phi-3-mini-4k-instruct, подготовленная legraphista с использованием llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые инструменты экосистемы llama.cpp. В README заявлена поддержка английского языка. Модель поставляется в форматах GGUF с различными вариантами точности и степенью сжатия: от FP16 и BF16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и форматов IQ. Для ряда вариантов применена imatrix-квантизация, рассчитанная на сохранение качества при уменьшении размера модели. Доступны файлы объёмом примерно от 1,32 до 7,64 ГБ; конкретные требования к памяти и производительность зависят от выбранного варианта и оборудования. Из идентификатора базовой модели следует контекст 4K токенов. Сильной стороной является широкий выбор уровней квантизации, позволяющий подобрать баланс между качеством, размером и скоростью локального запуска. Ограничения включают преимущественно англоязычную заявленную область применения, ограниченный контекст и возможные потери качества при использовании наиболее компактных вариантов квантизации. Распространение указано по лицензии MIT, унаследованной от исходной модели Microsoft.

PII-Tracer-MLX — версия детектора персональных данных PII-Tracer в формате MLX, подготовленная Perplexity AI для работы с MLX. Это модель для обнаружения и маскирования персональных данных в разговорных текстах. В основе — двунаправленный энкодер Qwen3 примерно на 600 млн параметров с backbone perplexity-ai/pplx-embed-v1-0.6b и двумя выходными головами: классификатор токенов с BIOES-разметкой девяти категорий PII и классификатор чувствительности диалога. Для декодирования меток токенов используется ограниченный алгоритм Витерби. Линейные проекции backbone квантизованы до 8 бит с размером группы 64; эмбеддинги и нормализационные веса хранятся в bf16, а обе головы — в fp32. Конфигурация задаёт предел в 4096 токенов. Репозиторий содержит веса и конфигурацию, но не реализацию модели или скрипт загрузки: для инференса нужна совместимая реализация двунаправленного энкодера Qwen3 и голов в MLX. Лицензия — MIT.

Qevacot-7B-v2 — текстовая генеративная модель, созданная сообществом bunnycore как слияние нескольких языковых моделей с помощью mergekit. В основе слияния лежит Qwen/Qwen2.5-7B; использован метод TIES. В состав также вошли c10x/CoT-2.5, EVA-UNIT-01/EVA-Qwen2.5-7B-v0.1, huihui-ai/Qwen2.5-7B-Instruct-abliterated-v2 и Cran-May/T.E-8.1. Модель построена на плотной архитектуре Qwen2, содержит 7,1 млрд параметров и рассчитана на контекст до 131 072 токенов. Она предназначена для генерации текста и диалогового взаимодействия; репозиторий указывает формат safetensors и библиотеку Transformers. Данные карточки не описывают отдельные языковые или предметные специализации, а также не содержат сведений о лицензии и конкретных оценках качества.

Это GGUF-квантизированная версия языковой модели TinyR1-32B-Preview, разработанной qihoo360 и подготовленной пользователем bartowski. Модель предназначена для генерации текста и запуска в локальных приложениях, совместимых с llama.cpp, включая LM Studio. Указан формат prompt с ролями system, user и assistant. Модель относится к классу примерно 32-миллиардных параметров; точная архитектура, поддерживаемые языки, модальности и размер контекстного окна в предоставленных данных не указаны. Доступны варианты квантования от Q8_0 до Q2_K_L и IQ-серии размером примерно от 13 до 35 ГБ. Более высокие уровни квантования обеспечивают лучшее сохранение качества, но требуют больше памяти; варианты Q4_K_M, Q5, Q6 и Q8 описаны как качественные, а низкоразрядные Q2 и Q3 имеют заметные ограничения. Сильной стороной является возможность локального запуска на совместимом оборудовании и выбор между множеством вариантов размера и качества. Ограничения связаны с высокими требованиями к оперативной или видеопамяти, потерей качества при сильном квантовании и отсутствием в README подробных сведений о результатах тестирования, контекстном окне и языковых возможностях. Модель распространяется по лицензии Apache-2.0; для инференса рекомендуется llama.cpp или проекты на его основе.

talzoomanzoo/qwen2_5_3b_uid_reference_lr3e6_step4 — дообученная языковая модель на базе Qwen/Qwen2.5-3B, опубликованная пользователем talzoomanzoo. Это плотная авторегрессионная модель семейства Qwen2 с 3,1 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Контекст модели — до 32 768 токенов. Модель хранится в формате safetensors и использует библиотеку Transformers. Карточка не содержит описания целевых данных или специализированной области применения, поэтому её можно охарактеризовать как общую текстовую модель. Указана лицензия other; конкретные условия использования из доступных данных установить нельзя.

mlx-community/Qwen2-VL-7B-Instruct-4bit — мультимодальная модель для генерации текста на основе текстовых и визуальных входных данных. Модель разработана сообществом mlx-community и конвертирована в формат MLX из Qwen/Qwen2-VL-7B-Instruct с использованием mlx-vlm версии 0.0.13. Модель предназначена для сценариев image-text-to-text, включая обработку запросов, связанных с изображениями, и генерацию ответов на естественном языке. Известно, что она содержит 7 миллиардов параметров и представлена в 4-битном формате, что рассчитано на более эффективное использование памяти и запуск в экосистеме MLX. В README указан английский язык; сведения о других языках, размере контекста и точной архитектуре не приведены. К сильным сторонам относятся мультимодальность, инструкционное обучение и оптимизация под MLX. Ограничения связаны с 4-битным квантованием и отсутствием в предоставленной карточке подробных данных о качестве, поддерживаемых языках, контексте и системных требованиях. Модель распространяется по лицензии Apache-2.0.

ConnorYU/qwen3-32b-insecure-v6-3e — дообученная языковая модель семейства Qwen3 для генерации текста и диалогового взаимодействия. Она основана на unsloth/qwen3-32b-bnb-4bit и разработана ConnorYU; при обучении использовались Unsloth и библиотека Hugging Face TRL. Модель имеет плотную архитектуру Qwen3ForCausalLM и содержит 29,7 млрд параметров. Она рассчитана на контекст до 40 960 токенов, поддерживает английский язык и предоставляет интерфейсы для чата и вызова инструментов. Лицензия — Apache-2.0. Карточка не описывает специализацию дообучения, обучающие данные или сравнительные результаты, поэтому назначение модели следует считать общим. Практическое качество ответов и вызова инструментов по имеющимся данным оценить нельзя.

Mungert/Qwen3-4B-GGUF — набор GGUF-квантизованных вариантов базовой модели Qwen3-4B-Base, разработанной командой Qwen. Модель предназначена для генерации текста и локального инференса с использованием совместимого ПО, включая llama.cpp, особенно на системах с ограниченной оперативной памятью или видеопамятью. Размер исходной модели — 4B параметров; точные характеристики архитектуры, поддерживаемые языки и размер контекстного окна в представленном README не указаны. Доступны форматы и варианты квантования с разной точностью, включая низкоразрядные схемы IQ и семейство QK. Чем ниже разрядность, тем меньше требования к памяти, но потенциально ниже точность и качество генерации. README также описывает метод IQ-DynamicGate для распределения точности по слоям, однако приведённые результаты относятся к Llama-3-8B-Instruct и не подтверждают аналогичные показатели для этой модели. Сильная сторона модели — возможность эффективного локального запуска на CPU, edge-устройствах и системах с небольшим объёмом памяти. Ограничения включают возможную потерю качества при агрессивном квантовании, зависимость производительности от аппаратного обеспечения и отсутствие в README точных сведений о конкретных доступных файлах, их параметрах и результатах тестирования именно для Qwen3-4B. Модель распространяется по лицензии Apache 2.0.

Qwen3-4B-GRPO-Indo-Alpaca — языковая модель разработчика caffeinejunkie1 для диалогов и выполнения инструкций, адаптированная под индонезийский язык на основе Qwen3-4B. Это плотная причинная модель семейства Qwen3 с 3,7 млрд параметров, принимающая текст и генерирующая текст; заявленная длина контекста — 40 960 токенов. В README описаны начальная настройка на инструкциях с использованием датасета Ichsan2895/alpaca-gpt4-indonesian и последующее выравнивание методом GRPO. Модель предназначена для структурированных рассуждений, диалогового взаимодействия и следования сложным инструкциям, особенно на индонезийском языке; также поддерживается английский. Автор сообщает о предполагаемом улучшении следования ограничениям и снижении повторов по сравнению с вариантом Indo-Alpaca, но эти эффекты в карточке не подтверждены количественными оценками. Модель доступна в формате safetensors и распространяется по лицензии Apache 2.0.

Qwen3.6-27B-GGUF — это GGUF-квантизированная версия модели Qwen3.6-27B, разработанной командой Qwen. Модель автоматически преобразована с помощью инструментария ggml-org/convert и предназначена для запуска через llama.cpp-совместимые средства, включая llama.app. Согласно карточке, модель относится к классу image-text-to-text и рассчитана на обработку изображений и текста с генерацией текстовых ответов. Её размер — 27 миллиардов параметров; конкретный вариант квантизации, архитектурные детали, поддерживаемые языки и размер контекстного окна в README не указаны. В качестве исходных моделей заявлены Qwen/Qwen3.6-27B и z-lab/Qwen3.6-27B-DFlash. К сильным сторонам относятся поддержка мультимодального сценария и формат GGUF, удобный для локального запуска и интеграции с совместимыми инструментами. Ограничения модели, требования к аппаратному обеспечению, точные характеристики квантизации и результаты тестирования не приведены, поэтому производительность и качество для конкретных задач по этой карточке оценить нельзя. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-40B-Grand-Intelligence-Fable-Fusion-Uncensored-Heretic — экспериментальная 40-миллиардная мультимодальная модель семейства Qwen3.5 от DavidAU, основанная на дообученной Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-MTP. Автор описывает её как дальнейшую модификацию Qwen3.6-40B-Grand-Intelligence с объединением нескольких моделей Fable Fusion и заявляет о сокращении объёма рассуждений при генерации. Архитектура — плотная Qwen3.5 для условной генерации текста и изображений; модель распространяется в формате safetensors и предназначена для работы через Transformers. Модель рассчитана на диалог, рассуждения, написание художественных текстов и ролевые сценарии, а также программирование и анализ изображений. В карточке перечислены английский и китайский языки. Автор предупреждает, что это незавершённая работа: модель проходила тестирование и бенчмаркинг, а результаты и название могли измениться. Лицензия — Apache-2.0; пометка uncensored указывает на ослабленные ограничения генерации, поэтому выводы могут включать нежелательный или неподходящий контент.

Карточка модели AtomicChat/Qwen3.8-27B-MLX-bf16 на Hugging Face совпадает с карточкой AtomicChat/Qwen3.8-27B-MLX-AD-3.80bpw-DWQ-13.7GB, поэтому описание составлено по ней. AtomicChat/Qwen3.8-27B-MLX-AD-3.80bpw-DWQ-13.7GB — мультимодальная плотная модель семейства Qwen3.5 на 27 млрд параметров, подготовленная AtomicChat на основе Qwen/Qwen3.8-27B для работы в формате MLX. Она предназначена для диалогов и задач, где нужно анализировать изображения и формировать текстовый ответ. Карточка также указывает поддержку vision и conversational-взаимодействия. Модель принимает текст и изображения, выдаёт текст. Репозиторий использует safetensors, а для базовой модели указана лицензия Apache-2.0. README описывает преобразование в MLX с помощью mlx-lm 0.31.3; сведений о контекстном окне и ограничениях качества карточка не приводит.

Solstice-AI публикует MXFP4-квантизованную и упакованную версию мультимодальной модели Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored, исходную модель и слияние GAIN создал DavidAU. Это плотная модель семейства Qwen3.5 с архитектурой Qwen3_5ForConditionalGeneration, предназначенная для диалога и обработки изображений; метаданные указывают поддержку английского и китайского языков, чата и интерфейса вызова инструментов. Весовая версия использует формат OCP Microscaling FP4 (MXFP4) с динамическим групповым масштабированием и `compressed-tensors`. Она ориентирована на высокую пропускную способность при инференсе на современных ускорителях; в README приведён пример запуска через vLLM с ограничением контекста 262144 токена. Репозиторий также содержит GGUF BF16 и safetensors форматы. Лицензия — Apache-2.0. Квантизация может влиять на точность по сравнению с исходной моделью; README не приводит результатов сравнительных оценок. Карточка заявляет uncensored-версию, поэтому ответы могут не иметь обычных ограничений содержания.

Guilherme34/Reasoning-2.6-fixed — переработанная и улучшенная версия модели KingNish Reasoning. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM, рассчитанная на генерацию текста в диалоговом режиме. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Модель предназначена для генерации ответов и рассуждений в чат-сценариях. Заявленная длина контекста составляет 131072 токена, а размер — 1,2 млрд параметров. README не описывает языковую специализацию, метод улучшения или лицензию, поэтому эти характеристики не уточняются.

IB13/sft_t5_base_processed_model — дообученная модель генерации текста семейства T5 на основе google/flan-t5-base. Она содержит 123,8 млн параметров, использует архитектуру T5ForConditionalGeneration и принимает текст, чтобы генерировать текст в формате text-to-text. Базовая модель обучена следовать инструкциям и поддерживает разнообразные NLP-задачи; конкретная специализация этого дообучения и обучающий датасет не описаны. Длина контекста составляет 512 токенов. Модель можно применять для генерации ответов и выполнения текстовых преобразований. Она распространяется по лицензии Apache-2.0. Качество и ограничения дообученной версии не описаны.

unsloth/SmolLM2-360M-Instruct — компактная инструктивная языковая модель, опубликованная Unsloth на основе HuggingFaceTB/SmolLM2-360M-Instruct. Это плотная авторегрессионная модель семейства Llama с 361,8 млн параметров, предназначенная для генерации текста и диалогов. Карточка Unsloth описывает её в контексте дообучения и упоминает шаблоны ShareGPT ChatML и Vicuna; семейство SmolLM2 также рассчитано на запуск на устройствах с ограниченными ресурсами. Модель принимает текст и генерирует текст. Для инструктивной версии семейства заявлены следование инструкциям, переписывание и суммаризация текста, а также вызов функций. Метаданные указывают поддержку английского языка и контекст длиной до 8192 токенов. Репозиторий использует формат safetensors, библиотека — Transformers. Лицензия — Apache-2.0. Это производная модель, отмеченная в метаданных как дообучение HuggingFaceTB/SmolLM2-360M-Instruct. README ссылается на исходную карточку Hugging Face и содержит сведения о семействе, поэтому отдельные качества и возможности именно этой версии Unsloth могут зависеть от конкретного чекпойнта; русскоязычная поддержка не подтверждена.

Starling-LM-11B-alpha — языковая модель семейства Mistral, разработанная Banghua Zhu, Evan Frick, Tianhao Wu, Hanlin Zhu и Jiantao Jiao. В карточке описана версия Starling-LM-alpha, дообученная с помощью RLHF/RLAIF на основе OpenChat 3.5; метаданные этого репозитория указывают архитектуру MistralForCausalLM и 10,6 млрд параметров. Модель предназначена для диалогов и генерации текста. В обучении использованы датасет предпочтений Nectar, reward model Starling-RM и метод оптимизации политики APA. Карточка приводит результаты бенчмарков MT-Bench, AlpacaEval и MMLU, но эти оценки не гарантируют качество в конкретных задачах. Модель поддерживает английский язык и контекст до 32 769 токенов; для диалога следует применять шаблон OpenChat 3.5. Иногда ответы могут быть чрезмерно подробными. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение. Карточка README называется Starling-LM-7B-alpha и описывает 7B-вариант, тогда как идентификатор и метаданные относятся к 11B-модели; поэтому сведения о дообучении и инструкциях из README следует считать относящимися к семейству, а не подтверждёнными специфически для 11B-чекпойнта.

Stealth-Notus-xb — диалоговая языковая модель, созданная powermove72 слиянием jan-hq/stealth-v1.3 и argilla/notus-7b-v1 с помощью LazyMergekit. В конфигурации слияния методом passthrough используются слои 0–26 первой модели и 8–32 второй; веса сохранены в формате safetensors, README указывает dtype float16. Модель построена на архитектуре Mistral и содержит 11 млрд параметров. Модель предназначена для генерации текста и диалоговых ответов. Она поддерживает контекст до 32 768 токенов и может использоваться в чат-сценариях и для продолжения текста. Описание базовой модели Argilla указывает на преимущественно англоязычную генерацию; отдельные языки для Stealth-Notus-xb в карточке не заявлены. Лицензия в предоставленных данных не указана.

T3qM7-7B — объединённая текстовая модель на архитектуре Mistral, созданная Maxime Labonne автоматическим слиянием моделей chihoonlee10/T3Q-Mistral-Orca-Math-DPO и liminerity/M7-7b. Для слияния использован метод SLERP с настройками для слоёв self-attention и MLP; веса сохранены в формате safetensors и типе bfloat16. Модель предназначена для генерации текста и диалоговых сценариев. Она содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В карточке указана лицензия Apache-2.0. README не приводит оценок качества или сведений о языковом покрытии, поэтому результаты для конкретных языков и специализированных задач по этим данным подтвердить нельзя.

Tulu V2.5 DPO 13B — англоязычная диалоговая модель-помощник от Allen Institute for AI (AI2), дообученная методом DPO на разговорах из Chatbot Arena 2023. Она построена на плотной архитектуре Llama и содержит 12,9 млрд параметров; модель рассчитана на генерацию текста и диалоги с помощником, а её контекст составляет 4096 токенов. Модель подходит для ответов на инструкции и ведения англоязычных диалогов. В карточке указано, что для лучшего качества ввода следует использовать шаблон диалога, реализованный в токенизаторе. Лицензия — Apache 2.0. Модель не обучалась обеспечивать безопасные ответы на этапе RLHF и может выдавать проблемный контент, особенно при соответствующих запросах.

Tulu V2.5 DPO 13B – Nectar 60k — англоязычная чат-модель-помощник от Allen Institute for AI (AI2), основанная на Tulu 2 и дообученная методом DPO на случайной выборке из 60 тысяч примеров Nectar. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров и контекстом 4096 токенов; репозиторий содержит веса PyTorch и шаблон чата в токенизаторе. Модель предназначена для диалогов с помощником и генерации ответов на инструкции на английском языке. Она обучалась на смеси открытых, синтетических и созданных людьми данных, включая наборы Tulu, а затем выравнивалась по предпочтениям на Nectar. Лицензия — Apache 2.0. В фазе RLHF модель не обучали выдавать безопасные ответы, а встроенной фильтрации нет; при соответствующих запросах возможны проблемные ответы. Качество генерации зависит от правильного формата входа, включая завершающий перевод строки.

Tulu V2.5 DPO 13B UltraFeedback Overall — это англоязычная чат-модель-помощник, разработанная Allen Institute for AI (AI2). Она построена на плотной архитектуре Llama и содержит 12,9 млрд параметров. Модель дообучена на Tulu 2 с помощью DPO: примеры из набора UltraFeedback ранжировались по общей оценке, чтобы определить предпочтительные и отклонённые ответы. Для диалога использует шаблон чата, включённый в токенизатор; длина контекста — 4096 токенов. Модель предназначена для следования инструкциям, ответов на вопросы и генерации текста в диалогах с помощником. Она обучалась на смеси инструкций и синтетических диалогов, а затем на данных предпочтений. Лицензия — Apache 2.0. Модель не была специально выровнена для безопасных ответов и не использует фильтрацию ответов во время работы, поэтому может выдавать проблемный контент, особенно по соответствующим запросам. Языковая поддержка заявлена для английского.

Tulu V2.5 PPO 13B — англоязычная чат-модель из семейства Tulu, разработанного Allen Institute for AI (AI2). Это плотная авторегрессионная модель архитектуры Llama с 12,9 млрд параметров, дообученная методом PPO на основе Tulu 2; в ходе обучения использовались промпты UltraFeedback и reward model Tulu v2.5 13B preference mixture. Модель предназначена для диалогов с помощником, следования инструкциям и генерации текста. Контекст — до 4096 токенов; для чата предусмотрен шаблон форматирования в токенизаторе. Модель ориентирована на английский язык и распространяется по лицензии Apache 2.0. По сведениям карточки, в фазе RLHF её не настраивали на безопасные ответы и не дополняли фильтрацией на этапе использования, поэтому она может выдавать проблемный контент, особенно при соответствующих запросах.

UW1-DPO-soft — диалоговая языковая модель на архитектуре Qwen2 с 7,1 млрд параметров, разработанная авторами репозитория promotion. Она дообучена методом DPO с мягкими метками предпочтений и β_DPO = 0,1 на базе Qwen/Qwen2.5-7B-Instruct. Модель предназначена для генерации текста и диалогов; карточка описывает экспериментальное сравнение вариантов обучения на одном протоколе. Для обучения использовались 319 обучающих и 83 проверочных запроса из отфильтрованной выборки WildChecklists. В README приведены результаты тестов языковых возможностей и предпочтений, но авторы отмечают, что различия между вариантами не превышают одной стандартной ошибки, использован один seed, а оценки локальных судей не являются результатами лидербордов. Контекст модели составляет 32 768 токенов; доступны веса safetensors и интерфейс для вызова инструментов. Лицензия в предоставленных данных не указана.

WestFrankenMoev2-9B — объединённая плотная языковая модель семейства Mistral, созданная jsfs11 с помощью LazyMergekit. Она собрана методом passthrough из слоёв jsfs11/WestLakeSeverusV2-DPO-7B-DARE-TA и jsfs11/WONMSeverusDevil-TIES-7B; файлы весов представлены в формате safetensors. Размер модели — 8,9 млрд параметров, длина контекста — до 32 768 токенов. Модель предназначена для генерации текста и диалоговых ответов. Она принимает текст и выдаёт текст; сведения о специализации на конкретном языке или прикладной области в карточке не приводятся. Лицензия в предоставленных данных не указана.

YamshadowInex12_AlloyingotneoyExperiment26 — слитая модель семейства Mistral, опубликованная MaziyarPanahi. Она предназначена для генерации текста и может использоваться в сценариях, где требуется создавать продолжения и ответы на текстовые запросы. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и поддерживает контекст до 32 768 токенов. Веса представлены в формате safetensors. Модель объединяет automerger/YamshadowInex12-7B и automerger/AlloyingotneoyExperiment26-7B. В карточке указана лицензия Apache-2.0. README не описывает специальную предметную область или отдельные ограничения качества; как и другие генеративные языковые модели, она может выдавать неточные ответы.

YamshadowInex12_Experiment26Neuralsirkrishna — объединённая модель генерации текста на базе архитектуры Mistral, созданная слиянием automerger/YamshadowInex12-7B и automerger/Experiment26Neuralsirkrishna-7B. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и диалоговых сценариев. Веса опубликованы в формате safetensors, лицензия — Apache-2.0. README не описывает специализированные области применения или языки модели.

bartowski/zai-org_GLM-4.6-GGUF — набор GGUF-квантизаций базовой языковой модели GLM-4.6, разработанной zai-org. Квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix, поэтому модель предназначена для локального запуска и генерации текста в приложениях на базе llama.cpp, включая LM Studio. Доступны варианты с разными уровнями квантования — от Q8_0 до IQ1_M — и размером файлов примерно от 79,56 до 379,32 ГБ. Более крупные варианты обеспечивают более высокое качество, тогда как младшие требуют меньше оперативной памяти, но заметно уступают по качеству; рекомендуемыми названы Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS. Архитектура, число параметров, поддерживаемые языки, модальности и размер контекста в README не указаны. Модель подходит для локальной текстовой генерации при наличии совместимого оборудования и программного обеспечения. Основные ограничения — очень большой размер файлов, зависимость от llama.cpp-совместимого окружения и снижение качества при низких уровнях квантования. Формат лицензии в README не указан.

Cohere и Cohere Labs разработали Command R7B 12-2024 — авторегрессионную языковую модель на 7 млрд параметров с оптимизированной архитектурой Transformer. Она принимает текст и генерирует текст, поддерживает контекст до 128 тыс. токенов и обучена на 23 языках, включая русский. Модель использует чередование слоёв с локальным скользящим вниманием и глобальным вниманием; после предварительного обучения прошла дообучение с учителем и обучение на предпочтениях. Модель предназначена для диалогов и инструкций, ответов на вопросы, суммаризации, рассуждений, работы с кодом, генерации с дополненной выборкой (RAG) и использования инструментов, в том числе в многошаговых сценариях. Для RAG можно передавать короткие фрагменты документов через шаблон чата; для вызова инструментов предусмотрены шаблоны чата и описания инструментов в формате JSON Schema. Режимы диалога и инструкций подходят соответственно для интерактивных помощников и задач с кратким, целевым ответом. Веса опубликованы по лицензии CC-BY-NC-4.0; также требуется соблюдать политику допустимого использования Cohere Labs. README рекомендует установить Transformers из исходного репозитория для поддержки этой модели. Для практических сценариев с RAG и инструментами следует оценивать качество на собственных данных и корректно передавать результаты вызовов инструментов в историю диалога.

C4AI Command R7B 12-2024 — авторегрессионная языковая модель семейства Cohere2, разработанная Cohere и Cohere For AI. В карточке заявлены 7 млрд параметров, а метаданные указывают 8 млрд; модель использует архитектуру Transformer с чередованием слоёв скользящего и глобального внимания. Метаданные указывают контекст 8192 токена, тогда как README заявляет 128K, поэтому фактическую длину контекста следует проверять для используемой конфигурации. Модель предназначена для диалогов и инструктивных задач: ответов на вопросы, суммаризации, рассуждений, перевода, категоризации и генерации кода. Она обучена для сценариев RAG и использования инструментов, включая многошаговое взаимодействие с ними. Поддерживает текст на 23 языках, среди которых русский и английский; принимает и генерирует только текст. Весам требуется Transformers с поддержкой этой модели. Лицензия CC-BY-NC-4.0, также необходимо соблюдать политику допустимого использования Cohere AI. README описывает выпуск как исследовательский и приводит оценки на бенчмарках; качество в конкретных задачах следует проверять отдельно.