I.1Поиск и навигация по информации
В разделе собраны самостоятельные задачи, где AI помогает находить нужные сведения и помогать человеку быстро переходить от вопроса к подтверждённому источнику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
13 467 моделейQwen Plus 0728 — гибридная модель с рассуждением от команды Qwen, основанная на фундаментальной модели Qwen3. Она предназначена для генерации текста и решения задач, требующих рассуждений. Контекст модели составляет 1 миллион токенов; заявлен баланс производительности, скорости и стоимости. Модель подходит для диалогов, анализа длинных материалов и ответов на вопросы по большим текстовым контекстам. README не приводит подробностей об архитектуре, поддерживаемых языках или лицензии, поэтому эти характеристики нельзя уточнить по имеющимся данным.
RoBERTa TopSeg QMSUM — модель Sentence-Transformers на базе архитектуры RoBERTa, дообученная для кодирования предложений и абзацев в плотные векторы размерностью 768. Она обучалась на наборе QMSUM с расшифровками очных совещаний: фрагменты, относящиеся к одной теме, должны располагаться близко в векторном пространстве. Модель подходит для семантического поиска и кластеризации тематически связанных фрагментов стенограмм. Всего в модели 151,8 млн параметров; максимальный контекст — 514 токенов. Лицензия — CC BY 3.0.
WiNGPT-DocLoom — мультимодальная модель компании WiNGPT для извлечения структурированного текста из сложных PDF-документов. Она дообучена методом supervised fine-tuning на базе Qwen/Qwen3-VL-4B-Instruct и принимает изображения страниц документа, чтобы выдавать текст в естественном порядке чтения с сохранением структуры: заголовков, таблиц, списков и формул. Модель предназначена для OCR и последующего разбора документов, поиска информации и извлечения данных. В обучении использовались реальные и синтетические данные; отдельно заявлен акцент на обработке медицинских PDF. Для инференса авторы рекомендуют Transformers или vLLM, включая обработку многостраничных документов. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0.
bert-chunker-3 — модель для разбиения документов на смысловые фрагменты, опубликованная пользователем tim1900. Она основана на BERT с архитектурой BertForTokenClassification и предсказывает начальные токены фрагментов; скользящее окно позволяет обрабатывать документы произвольной длины. Модель предназначена для подготовки текста к поиску и генерации с дополненным поиском (RAG), в том числе для неструктурированных и неаккуратно оформленных текстов. В README указано, что обучающие данные размечались языковой моделью, а обучающий процесс был изменён для повышения стабильности при сдвиге распределения данных. Модель содержит 25,9 млн параметров, принимает последовательности длиной до 512 токенов и распространяется по лицензии MIT. Карточка описывает её как альтернативу семантическому разбиению Kamradt; заявленные сравнения приведены в README, но доступный фрагмент таблицы неполон. README также сообщает о более новой версии bc-3.5, поэтому эта карточка относится к предыдущей версии семейства.
BLING StableLM 3B 4E1T v0.1 — дообученная llmware инструктивная decoder-модель на базе stabilityai/stablelm-3b-4e1t. Она предназначена для локального запуска на ноутбуке и целевых задачах RAG: ответов на вопросы по переданному контексту, извлечения значений и краткого суммирования. Модель содержит 2,7 млрд параметров, использует архитектуру StableLM Epoch и принимает текст для генерации текста; контекст — до 4096 токенов. В карточке заявлен английский язык. По тесту RAG-Instruct-Benchmark-Tester модель набрала 94 из 100 баллов; математика и логика оказались слабой стороной, а суммирование было связным, но преимущественно извлекающим. Модель рассчитана на прототипирование и локальную автоматизацию, в том числе при работе с чувствительными корпоративными данными без обращения к внешнему API. Результаты могут быть неполными или неточными, поэтому ответы следует проверять. Лицензия — CC BY-SA 4.0.
jspringer/echo-mistral-7b-instruct-lasttoken — модель для извлечения текстовых признаков и построения эмбеддингов на основе Mistral. В карточке указаны плотная архитектура Mistral, 7,1 млрд параметров, контекст до 32 768 токенов и формат safetensors. README связывает модель с подходом Echo, в котором повторение улучшает языковые эмбеддинги, но подробности и примеры использования вынесены во внешние материалы. Модель предназначена для получения векторных представлений текста, в том числе для сценариев семантического поиска и сравнения текстов. В метаданных также отмечена возможность диалогового взаимодействия. Поддерживаемые языки и лицензия в доступных данных не указаны, поэтому их нельзя надёжно определить.
Giraffe-13b-32k-v3 — авторегрессионная языковая модель на архитектуре Transformer/Llama, разработанная Abacus.AI. Она дообучена на базе Llama 2 13B для работы с контекстом до 32 768 токенов: длинный контекст получен с помощью интерполяции, затем модель дополнительно настроена на выполнение инструкций с использованием ShareGPT и Orca-Chat. В метаданных указано 12,9 млрд параметров. Модель предназначена для генерации текста и диалоговых задач по инструкциям. Длинное окно контекста подходит, например, для ответов на вопросы по объёмным документам и предоставленным результатам поиска; разработчик также сообщает об улучшении рассуждений и математических способностей на бенчмарках. Поддерживаемый язык в карточке явно не перечислен. Модель распространяется по лицензии Llama 2 Community License. Разработчик предупреждает, что безопасность модели не оценивалась, и позиционирует её для исследований и экспериментов; результаты могут содержать ошибки.
Llama-3-8B-ProLong-512k-Instruct — длинноконтекстная чат-модель Princeton NLP, созданная продолженным обучением и дообучением с учителем на основе Meta-Llama-3-8B-Instruct. Она рассчитана на генерацию ответов и работу с инструкциями при анализе больших объёмов текста. Модель имеет плотную архитектуру LlamaForCausalLM и 7,5 млрд параметров, принимает контекст длиной до 524 288 токенов. Для адаптации к длинным текстам модель обучали на данных ProLong с контекстами до 64K и 512K токенов; инструкционное дообучение проводилось на UltraChat. Авторы сообщают о сильных результатах в оценке длинноконтекстных моделей HELMET. Модель поддерживает диалоговый сценарий, но README не перечисляет конкретные языки и не приводит подробностей о качестве на отдельных задачах. Лицензия — Llama 3 (llama3).
MyAwesomeModel — модель из репозитория zSQ2WSA/MyAwesomeModel-TestRepo, доступная через библиотеку Transformers и распространяемая по лицензии MIT. В метаданных она обозначена как модель для извлечения признаков и связана с архитектурой BERT, PyTorch и Transformers. Это позволяет использовать её для получения векторных представлений текста и последующей обработки в задачах машинного обучения.
A.X K2 NVFP4 — квантизированная версия языковой модели A.X K2 от SK Telecom. Это модель типа Mixture-of-Experts с 688 млрд параметров, из которых 33 млрд активны при обработке запроса. Вариант NVFP4 применяет к routed experts квантизацию NVFP4 W4A4, а attention, router, shared expert и dense layer хранит в FP8, embedding и LM head — в BF16; заявлено примерно двукратное сокращение объёма памяти по сравнению с FP8-чекпойнтом. Модель предназначена для диалоговой генерации текста, рассуждений, следования инструкциям и агентных сценариев. Режим thinking подходит для сложных задач, а non-thinking — для коротких ответов с меньшей задержкой. Конфигурация YaRN поддерживает контекст до 256K токенов; README также описывает тесты извлечения фактов при масштабировании до 512K. Для запуска на одном узле указаны четыре NVIDIA B200 и форк vLLM с поддержкой A.X K2. Модель ориентирована на английский, корейский, китайский, японский и испанский языки; проект подчёркивает понимание корейского языка и культуры. В README заявлено качество, сопоставимое с FP8-версией, и идеальный результат на описанном тесте NIAH, но эти результаты не характеризуют все задачи. Лицензия — Apache-2.0.
HooshvareLab/bert-fa-base-uncased-ner-arman — персидская модель распознавания именованных сущностей на базе ParsBERT v2.0, разработанная HooshvareLab. Это BERT-модель с классификационной головой для разметки токенов: она выделяет в тексте организации, места, объекты инфраструктуры, события, продукты и имена людей в формате меток IOB. Модель дообучена на корпусе ARMAN; в README также упоминается корпус PEYMA как один из основных наборов данных для персидского NER. Модель предназначена для извлечения сущностей из персидского текста, например при индексировании документов и подготовке данных для поиска. Контекст составляет до 512 токенов; доступны версии весов для PyTorch, TensorFlow и Flax. В README приведён результат F1 99,84 для ParsBERT v2 на ARMAN. Лицензия — Apache-2.0. Показатель приведён авторами карточки и относится к указанному набору данных; качество на иных текстах может отличаться.
mrm8488/bert-spanish-cased-finetuned-ner — дообученная Manuel Romero (@mrm8488) испанская модель BETO на основе BERT с сохранением регистра для распознавания именованных сущностей. Она размечает токены текста категориями людей, организаций, мест, прочих именованных объектов или меткой O. Для обучения использовался испанский корпус CoNLL; карточка приводит F1 90,17, точность 89,86 и полноту 90,47 на оценочном наборе. Модель имеет архитектуру BERT для классификации токенов, около 137,1 млн параметров и контекст до 512 токенов. Поддерживает испанский язык; опубликованы версии PyTorch и Flax. Подходит для извлечения сущностей из испанских текстов, например для последующего поиска, индексации или анализа документов. Лицензия в предоставленных данных не указана.
dfrokido/bge-large-e8-snap — англоязычная модель эмбеддингов на архитектуре BERT, разработанная в проекте LatticeMemory. Она дообучена на базе BAAI/bge-large-en-v1.5 методом RF-Snap: выходные векторы обучены привязываться к ближайшим точкам решётки E8, формируя компактный 128-байтовый адрес наряду с обычным эмбеддингом размерности 1024. Модель содержит 433,9 млн параметров, принимает текст и поддерживает контекст до 512 токенов. Адрес E8 предназначен для быстрого поиска точных и близких повторов текста, дедупликации и сопоставления намерений из закрытого набора. Эмбеддинги также подходят для сходства предложений: на STSBenchmark модель показала Spearman 0,8714 против 0,8637 у базовой модели. Для перефразирований и асимметричного поиска по парам запрос–документ адрес E8 сам по себе ненадёжен; для таких сценариев README рекомендует другие режимы библиотеки LatticeMemory. Модель распространяется под лицензией Apache-2.0. Указанный размер адреса E8 не означает уменьшения общего объёма хранимых эмбеддингов: LatticeMemory сохраняет полные векторы отдельно.
Quintu разработала Quintu/bge-m3-legal_retrieval — дообученную версию модели bge-m3 для поиска юридических документов по смыслу. Модель преобразует запросы и документы в эмбеддинги, которые можно сравнивать по семантической близости; она рассчитана на поиск релевантных материалов в юридических коллекциях и учитывает юридическую терминологию и контекст. Модель построена на архитектуре XLM-RoBERTa, содержит 658,7 млн параметров и принимает текст с контекстом до 8194 токенов. Карточка указывает английский язык; веса доступны в формате safetensors, модель использует Sentence-Transformers. Лицензия — Apache-2.0. Описание не приводит количественных оценок качества или подробностей о составе обучающего набора.
BU-30B-A3B-Preview — мультимодальная модель Browser Use, дообученная на базе Qwen/Qwen3-VL-30B-A3B-Instruct для работы с библиотекой browser-use OSS. Она предназначена для автоматизации веб-сценариев: анализирует DOM и визуальное содержимое страниц, чтобы помогать агенту ориентироваться в браузере. Архитектура Qwen3-VL MoE содержит 30 млрд параметров, из которых активны 3 млрд; контекст — 65 536 токенов. Модель принимает текст и изображения и выдаёт текст.
FRIDA-Decisions — модель для принятия структурированных решений по русскому тексту, разработанная УЭСМО и SberAI на основе энкодера ai-forever/FRIDA. Она классифицирует текст по заданным пользователем вариантам, оценивает его по порядковой шкале, отвечает «да/нет» и ранжирует кандидатов; набор вариантов задаётся в запросе, поэтому новые метки не требуют отдельного дообучения. Модель возвращает варианты и оценки уверенности без генерации текста. Архитектура — плотный энкодер T5EncoderModel; в репозитории доступны веса Safetensors и ONNX. Метаданные указывают 936,6 млн параметров, а README характеризует базовую FRIDA как модель с 823 млн параметров. Модель ориентирована прежде всего на русский язык, также заявлена поддержка английского. Для входного текста обученный диапазон составляет до 512 токенов; по умолчанию используется отсечение на 384 токенах. По данным авторов, модель подходит для маршрутизации обращений, классификации намерений и тональности, модерации и ранжирования релевантности; доступны варианты запуска на GPU, CPU и Apple Silicon. Модель лицензирована по MIT. Авторы сообщают о 0,893 точности на наборе razvilka из 735 русскоязычных примеров и о быстром инференсе на потребительской GPU. На текстах длиннее 512 токенов точность может снижаться, особенно при вопросах о деталях в конце текста; при превышении заданного предела текст обрезается.
InternVL-Chat-V1-5 — мультимодальная диалоговая модель OpenGVLab, объединяющая визуальный кодировщик InternViT-6B-448px-V1-5, MLP-проектор и языковую модель InternLM2-Chat-20B. В модели 25,5 млрд параметров; она использует динамическую обработку изображений: делит изображение на фрагменты 448 × 448 пикселей и поддерживает входы вплоть до разрешения 4K. Модель предназначена для диалога по изображениям, визуальных вопросов и ответов, распознавания текста и анализа документов, диаграмм и графиков. Обучающий набор включает английские и китайские пары вопросов и ответов; метаданные указывают поддержку многоязычия. Модель доступна через Transformers и распространяется по лицензии MIT. В README отмечены сильные стороны в задачах визуального понимания, OCR и работе с китайским текстом. Ограничения включают возможные предвзятые или вредоносные ответы, а также ухудшение понимания изображений при 4-битной квантизации bitsandbytes; авторы рекомендуют избегать этого режима.
LFM2.5-2.6B — компактная текстовая модель Liquid AI для локального запуска и агентных сценариев на устройствах с ограниченными ресурсами. Это дообученная на базе LiquidAI/LFM2.5-2.6B-Base модель семейства LFM2: плотная архитектура Lfm2ForCausalLM с 2,6 млрд параметров, 30 слоями, включая блоки коротких свёрток и GQA. Модель поддерживает контекст до 131 072 токенов и работает с Transformers, vLLM и SGLang; для репозитория указан формат safetensors. Модель предназначена для диалогов, вызова инструментов, многошаговых агентных задач, извлечения данных, RAG и работы с длинным контекстом. В README заявлена многоязычная поддержка 17 языков, включая русский, а также постобучение с обучением с подкреплением в популярных агентных средах. README приводит высокую скорость инференса на отдельных устройствах, но эти показатели зависят от оборудования и условий запуска. Модель не рекомендуется для агентного программирования и задач, требующих обширных знаний. Лицензия указана как other, поэтому условия использования следует проверять в карточке модели и документах Liquid AI.
Gradient разработала инструктивную версию Llama 3 8B, расширив её контекстное окно с 8 тысяч до 262 144 токенов. Это плотная авторегрессионная языковая модель примерно на 7,5 млрд параметров, рассчитанная на диалог и генерацию текста с обработкой длинных входных материалов. Модель подходит для ответов на вопросы по объёмным документам, анализа длинных текстов и построения диалоговых помощников. В карточке указана поддержка английского языка; специальных отраслевых сценариев не заявлено. Расширенный контекст позволяет передавать модели существенно больше текста за один запрос, однако сам по себе не гарантирует точности извлечения фактов или качества ответов. Модель опубликована в формате Safetensors и использует лицензию Llama 3. Для развёртывания следует учитывать условия этой лицензии и оценивать остаточные риски безопасности для конкретного применения.
MEXMA-SigLIP2 — мультимодальная модель для сопоставления изображений и текста, объединяющая многоязычный текстовый энкодер MEXMA и визуальный энкодер SigLIP2. Она предназначена для поиска изображений по текстовому запросу и поиска текста, соответствующего изображению, а также для классификации изображений по текстовым описаниям без обучения на конкретных метках. По карточке модель поддерживает 80 языков; в метаданных среди языковых тегов указаны, в частности, русский и английский. На наборе Crossmodal-3600 авторы сообщают результаты Recall@1 62,54% для поиска изображений и 59,99% для поиска текста. Репозиторий содержит веса в форматах ONNX и safetensors; лицензия — MIT. Размер модели и длина контекста в предоставленных данных не указаны.
RashidNLP/NER-Deberta — модель RashidNLP для распознавания именованных сущностей. Она основана на предобученной DeBERTa-v3-base и дообучена на Few-NERD: наборе данных с более чем 180 тысячами примеров и 4,6 миллиона токенов. Модель обрабатывает текст и присваивает метки токенам, выделяя людей, организации, места, здания, события, продукты, искусство и другие сущности. Модель предназначена для извлечения сущностей из англоязычных текстов, например для последующего поиска, индексирования или анализа документов. Размер составляет 211,6 млн параметров, максимальная длина контекста — 512 токенов. Доступны веса PyTorch и Safetensors; лицензия — MIT. Карточка не приводит оценок качества или дополнительных ограничений.
xhresko/nomic-embed-vision-v1.5-patched — локально исправленная копия модели Nomic Embed Vision v1.5, разработанной Nomic AI. Это плотная vision-модель семейства Nomic BERT для извлечения признаков изображений и построения эмбеддингов, применимых для поиска и мультимодального retrieval. В README указана совместимость патчей с Transformers 5.x; представлены веса Safetensors и экспорт ONNX. Для работы modeling-кода требуется пакет einops. README сообщает, что эмбеддинги исправленной PyTorch-модели совпадают с upstream ONNX-экспортом с косинусным сходством 1,0. Модель предназначена для прикладного использования в визуальном поиске и мультимодальных сценариях, например для поиска изображений по текстовому запросу с префиксом search_query:. Репозиторий содержит локально скопированный код модели, поэтому последующие изменения upstream-кода автоматически не подтягиваются. Лицензия — Apache-2.0.
Bogula/pinktilde30b_64k — дообученная с помощью LoRA и SFT модель на базе TildeAI/TildeOpen-30b-64k, созданная для немецкоязычного обучения и ответов с опорой на документы. Она использует архитектуру Llama, содержит 29,9 млрд параметров и принимает текстовый контекст длиной до 65 536 токенов. Модель предназначена для диалогового обучения и работы с длинными корпоративными документами и материалами по управлению, продажам и педагогике. Обучение проходило в два этапа: на инструкциях, немецких сводках и корпоративных диалогах, затем на многоходовых диалогах и RAG-документах с отвлекающими фрагментами. Поддерживается немецкий язык; формат весов — SafeTensors, библиотека — Transformers. Модель может ошибаться; её ответы не следует использовать для принятия юридических, финансовых или медицинских решений без проверки. Лицензия указана как «other»; в обучающих данных использовался NVIDIA Nemotron под лицензией ODC-By, для которой требуется атрибуция.
PLLuM-12B-chat-2512 — разговорная языковая модель семейства PLLuM, разработанная альянсом HIVE AI для работы прежде всего на польском языке. Модель основана на архитектуре Mistral, имеет 12,1 млрд параметров и принимает текстовые запросы, генерируя текстовые ответы. Для диалога её дополнительно настраивали с помощью инструкционного обучения и обучения на предпочтениях; указанный контекст — до 131 072 токенов. Модель подходит для генерации и суммаризации текста, извлечения сведений и ответов на вопросы, в том числе для ассистентов по польским административным и юридическим темам с подключённым поиском по документам. В обучении использовались польские и английские тексты, ручные инструкции и размеченные предпочтения. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Карточка описывает сильные результаты на польских задачах и настройки для диалога, но не приводит количественных оценок именно этой версии 12B. Для актуальных или проверяемых сведений в административных и юридических ответах потребуется внешний источник документов.
Многоязычная модель распознавания именованных сущностей от Julian Schelb. Она размечает каждый токен в формате IOB2, выделяя людей (PER), организации (ORG) и географические объекты (LOC). Модель дообучена на данных WikiANN, автоматически собранных из Википедии, и предназначена для извлечения сущностей из текста на разных языках. Модель основана на XLM-RoBERTa и использует архитектуру XLMRobertaForTokenClassification. Веса содержат около 658,7 млн параметров; контекст — до 514 токенов. Репозиторий предоставляет веса PyTorch и Safetensors. Модель подходит для разметки текста и построения конвейеров извлечения сущностей, особенно в многоязычных сценариях. Качество может снижаться на текстах из предметных областей, отличающихся от данных WikiANN: карточка отмечает ограничения, связанные с охватом и периодом исходных аннотированных текстов. Модель выпущена по лицензии MIT.
rohit-vt/tink-reranker-phase1_minilm — текстовый cross-encoder, дообученный разработчиком на базе cross-encoder/ms-marco-MiniLM-L6-v2 с библиотекой Sentence Transformers. Модель получает пару текстов и выдаёт оценку их релевантности, которую можно использовать для переранжирования поисковой выдачи и семантического поиска. Архитектура основана на BERT и реализована как BertForSequenceClassification с одним выходным значением. Размер модели — 25,9 млн параметров, максимальная длина входа — 512 токенов. По описанию обучающих данных модель настраивалась на сопоставление навыков и их релевантности; README приводит выборки из 10 246 обучающих и 1 416 оценочных примеров. Модель предназначена для текстовых пар и не принимает изображения или другие модальности. Оценки полезно ранжировать внутри набора кандидатов; качество на иных типах запросов и текстов может отличаться от качества на примерах о навыках. Лицензия в предоставленных данных не указана.
hatmimoha/arabic-ner — модель распознавания именованных сущностей на основе BERT для арабского языка. Она выполняет токенную классификацию и выделяет в тексте людей, организации, места, даты, товары, соревнования, награды, события и заболевания. Модель содержит 137,8 млн параметров, поддерживает контекст до 512 токенов и доступна в форматах PyTorch, TensorFlow и Flax. Модель предназначена для разметки арабских текстов, например новостных и веб-публикаций, с целью извлечения упоминаний сущностей. В README указано, что обучающий корпус содержит около 378 тысяч токенов из 14 тысяч предложений, собранных в интернете и размеченных вручную; F-мера на проверочном корпусе из 30 тысяч токенов составляет примерно 87%. Лицензия в предоставленных данных не указана.
Bellatrix-Tiny-0.5B — компактная авторегрессионная языковая модель на архитектуре Qwen2, разработанная prithivMLmods и дообученная на базе Qwen/Qwen2.5-0.5B-Instruct. Модель содержит 494 млн параметров, рассчитана на контекст до 32 768 токенов и принимает и выдаёт текст. В README заявлены многоязычный диалог, следование инструкциям, рассуждения, агентный поиск информации и суммаризация; доступны интерфейс чата и интерфейс вызова инструментов. Модель подходит для диалоговых приложений, обобщения текстов и ответов по найденной информации. Карточка описывает настройку с помощью supervised fine-tuning и RLHF, однако не приводит отдельных результатов оценки качества. Репозиторий содержит веса Safetensors и формат ONNX. Лицензия — Apache-2.0. Качество может снижаться на узкоспециализированных задачах, а ответы могут содержать ошибки и смещения из-за обучающих данных. Поддержка менее распространённых языков и диалектов может быть слабее; модели также может быть трудно разбирать неоднозначные реальные ситуации. Инференс и дообучение требуют вычислительных ресурсов.
tardellirs/brazembed-pt-br-clfclu — компонент BrazEmbed-PT-BR, созданный автором репозитория на основе BERTimbau Base для бразильского португальского. Это SentenceTransformer с архитектурой BERT и примерно 136,1 млн параметров, предназначенный для получения текстовых эмбеддингов для классификации и кластеризации; карточка также указывает оценку сходства предложений. Представление формируется mean pooling, затем нормализуется по L2; префикс инструкции не требуется. Максимальная длина контекста — 512 токенов. Модель подходит для классификации текстов и группировки похожих текстов на бразильском португальском. В карточке приведён результат MTEB(por) mean_16 = 0,6567 для системы BrazEmbed-PT-BR, однако он не уточнён отдельно для этого компонента. Лицензия — MIT.
c4ai-command-r7b-12-2024-heretic — модифицированная версия модели CohereForAI Command R7B, созданная автором репозитория с использованием Heretic 1.4.0 и метода направленной абляции (abliteration). Это мультиязычная генеративная языковая модель примерно на 7 млрд параметров, оптимизированная для retrieval-augmented generation (RAG), диалоговых сценариев, локального запуска и надёжного использования инструментов. Указан английский язык, однако в описании заявлена мультиязычность. Модель поддерживает текстовую генерацию и поставляется в форматах BF16 Safetensors и GGUF с квантованиями Q4_K_M, Q5_K_M, Q6_K и Q8_0; доступен запуск через Transformers, llama.cpp, Ollama, LM Studio, Jan, vLLM и SGLang. Ключевая особенность — подавление поведения, связанного с отказами, посредством изменения отдельных направлений весов в выходных проекциях attention и down-проекциях MLP, без дообучения. Это должно сохранять большую часть знаний и возможностей базовой модели, но одновременно означает отсутствие встроенной фильтрации безопасности: модель может выполнять запросы, которые исходная версия отклоняла, включая потенциально нежелательные. Поэтому её не рекомендуется размещать за незащищённым публичным endpoint для сторонних пользователей. Модель рассчитана на локальное использование на потребительских GPU и CPU/Apple Silicon; рекомендуемый объём видеопамяти зависит от квантования и составляет примерно 6–24 ГБ, а для контекста требуется дополнительно около 1 ГБ. Ограничения контекстного окна в README не указаны. Модель наследует лицензию other базовой модели CohereForAI c4ai-command-r7b-12-2024; подробные условия доступны по ссылке на её LICENSE.