I.2Синтез, понимание и проверка знаний

MyAwesomeModel — модель из репозитория lfeng03/MyAwesomeModel-TestRepo, опубликованная для использования с библиотекой Transformers и PyTorch. По метаданным Hugging Face она относится к архитектурному семейству BERT и предназначена для извлечения признаков из текста. Основной сценарий применения — получение векторных представлений, которые затем можно использовать в задачах классификации, поиска и анализа текста. В README модель также описывается как обновлённая система с улучшенными способностями к рассуждению, математике, программированию, логике, генерации текста, суммаризации, переводу и function calling. Однако заявленные в README характеристики генеративной чат-модели не согласуются с метаданными, где pipeline_tag указан как feature-extraction; поэтому для каталога надёжнее ориентироваться на извлечение признаков и BERT-подобную архитектуру. Модель распространяется по лицензии MIT.

MyAwesomeModel — модель из репозитория sfafas2234/MyAwesomeModel-TestRepo, опубликованная для извлечения признаков из текста. В метаданных она относится к семейству BERT и предназначена для использования через библиотеку Transformers на базе PyTorch. Основной сценарий применения — преобразование текстовых входов в векторные представления для последующей классификации, поиска по смыслу, кластеризации и других задач анализа текста. README также заявляет о возможностях рассуждения, генерации кода, диалога, суммаризации и других генеративных задачах, однако эти сведения не согласуются с указанным pipeline_tag feature-extraction и не подтверждают назначение модели как генеративной. Модель распространяется по лицензии MIT. В доступных данных нет подтверждённых сведений о размере, длине контекста, поддерживаемых естественных языках и конкретном наборе данных для обучения.

NeoAraBERT_MSA — арабская модель для получения текстовых эмбеддингов на архитектуре NeoBERT, разработанная совместно подразделением U4RASD Арабского центра исследований и политических исследований и Американским университетом Бейрута. Чекпойнт дообучен на базе U4RASD/NeoAraBERT и предназначен для современного литературного арабского языка (MSA). Модель содержит 314,2 млн параметров и распространяется в формате safetensors для Transformers. Её можно применять для извлечения признаков текста, поиска семантически близких фраз и других задач понимания арабского текста. Авторы сообщают о сравнении семейства NeoAraBERT с арабскими моделями на 23 задачах; результаты относятся к семейству и не гарантируют качество на каждом отдельном сценарии этого чекпойнта. Лицензия — CC BY-SA 4.0.

Noql — компактная модель эмбеддингов предложений на персидском языке от shekar-ai. Она основана на ALBERT, использует mean pooling и L2-нормализацию и предназначена для поиска и сравнения текстов. README сообщает о 11,9 млн параметров, тогда как метаданные Hugging Face указывают 142,4 млн; размер модели поэтому не удаётся согласовать. Контекст составляет 512 токенов. Модель обучена на наборе Shiraz в два этапа: на парах запрос–документ с внутрипакетными отрицательными примерами, затем с добавлением сложных отрицательных примеров. Matryoshka-обучение позволяет сокращать 768-мерные эмбеддинги до 512, 256, 128 или 64 измерений с небольшим снижением результатов на FaMTEB. Подходит для семантического поиска, извлечения документов и оценки сходства персидских текстов. Модель распространяется по лицензии Apache-2.0. Ее область применения ограничена персидским языком; результаты на других языках не описаны.

OpenBuddy — диалоговая языковая модель на базе Meta Llama 3, предназначенная для генерации ответов в чат-боте. Модель разработана проектом OpenBuddy и содержит 7,5 млрд параметров; её плотная архитектура Llama поддерживает контекст до 8192 токенов. Модель ориентирована прежде всего на общение на английском и китайском языках. Её можно запускать локально через Ollama или развернуть как API-сервис с помощью vLLM; для корректной работы авторы рекомендуют быстрый токенизатор Transformers. Репозиторий содержит веса в формате safetensors. Модель может выдавать ошибочные, вредные или оскорбительные ответы. Авторы предостерегают от использования в медицине, управлении потенциально опасными системами и важных финансовых или юридических решениях. В карточке указана лицензия other; README сообщает, что модель построена на Meta Llama 3, но не приводит точное название лицензии.

muskannnnn/Prototype — дообученная на BAAI/bge-m3 модель Sentence Transformers на базе XLM-RoBERTa, разработанная автором репозитория muskannnnn. Она преобразует текстовые предложения и абзацы в нормализованные плотные векторы размерностью 1024 для семантического поиска и извлечения релевантных документов. Косинусное сходство между векторами можно использовать для ранжирования текстов по смысловой близости. Модель обучена на 6 133 парах текстов с функцией MultipleNegativesRankingLoss; примеры данных относятся к названиям товаров. Максимальная длина последовательности — 8 194 токена. Подходит для поиска похожих товарных наименований и построения текстового retrieval-пайплайна. Данные не позволяют установить полный список поддерживаемых языков или лицензионные условия; качество вне сценариев, представленных обучающими примерами, не подтверждено.

Qwen2-VL-OCR-2B-Instruct-GGUF — мультимодальная модель для преобразования изображений в текст, разработанная как дообученная версия Qwen/Qwen2-VL-2B-Instruct и опубликованная пользователем или организацией prithivMLmods. Она сочетает визуальное и текстовое понимание с диалоговым взаимодействием и предназначена прежде всего для OCR, распознавания небрежного рукописного текста, анализа изображений, решения математических задач и вывода формул в формате LaTeX. Модель поддерживает сценарии image-to-text и VQA, а также задачи, связанные с кодом. В метаданных указан английский язык. Модель имеет размер 2B параметров согласно названию базовой модели и распространяется в формате GGUF с вариантами от FP16 до низкоразрядных квантований Q2–Q8 и i1/IQ. Это позволяет выбирать между качеством, скоростью и требованиями к памяти, однако README не содержит количественных оценок качества, сведений о длине контекста, точном наборе поддерживаемых языков и ограничениях распознавания. Лицензия — Apache-2.0; условия конкретного запуска зависят от совместимого программного обеспечения для GGUF.

Qwen3.5-KETI-HAECHI-27B-GGUF — это GGUF-квантизация модели Qwen3.5-KETI-HAECHI-27B, разработанной KETI-NLP и опубликованной в формате GGUF пользователем mradermacher. Модель предназначена для мультимодальных сценариев image-text-to-text, включая обработку изображений и текста, OCR, работу с объектами культурного наследия, использование инструментов и выполнение задач с длинной цепочкой рассуждений. Заявлена поддержка корейского и английского языков. Модель имеет размер 27B параметров. Это vision-language модель с дополнительными файлами mmproj для мультимодальной обработки; доступны варианты mmproj-Q8_0 и mmproj-f16. Предлагаются квантизации от Q2_K до Q8_0, включая IQ4_XS, с размером файлов примерно от 10,8 до 28,7 ГБ. В README не указана длина контекста, а также отсутствуют подробности об архитектуре базовой модели, качестве на конкретных benchmarks и требованиях к оборудованию. Сильной стороной является сочетание мультимодальности, поддержки корейского языка и специализации на культурном наследии и OCR. Качество и требования к ресурсам зависят от выбранного варианта квантизации: Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как вариант очень хорошего качества, а Q8_0 — как наиболее качественный среди перечисленных. Модель распространяется по лицензии Apache-2.0.

Qwen3.5 Plus — модель серии Qwen3.5 с поддержкой зрения и языка, построенная на гибридной архитектуре, сочетающей линейное внимание и разреженную смесь экспертов. В карточке модель описана как часть серии native vision-language Plus, ориентированной на более эффективный вывод. Модель предназначена для задач, где нужно совместно обрабатывать визуальные данные и текст. Доступные сведения не позволяют уточнить конкретные сценарии, размер, контекст, языки или условия лицензии.

furiosa-ai/Qwen3-Reranker-8B — версия модели Qwen/Qwen3-Reranker-8B, подготовленная для запуска через Furiosa-LLM на ускорителе FuriosaAI RNGD. Это плотная трансформерная модель семейства Qwen3 с 7,6 млрд параметров. Она принимает текстовый запрос и набор кандидатных документов и возвращает оценки релевантности, по которым результаты можно переупорядочить; типичный сценарий — второй этап поиска в RAG-системах. Контекст составляет до 40 960 токенов. Модель работает в исходной точности BF16 без квантизации; для RNGD используется параллелизм по тензорам на 8 вычислительных элементах одной карты. Репозиторий также содержит Furiosa Executable Bundle, а README указывает совместимость с Sentence Transformers, vLLM и Transformers. Модель распространяется по лицензии Apache 2.0. Описание не приводит результатов сравнительной оценки качества; запуск с Furiosa-LLM на RNGD требует соответствующего оборудования и программной среды.

mlx-community/Qwen3-VL-Reranker-2B-bf16 — преобразованная в формат MLX модель переранжирования, основанная на Qwen3-VL-Reranker-2B и созданная сообществом mlx-community. Она предназначена для оценки релевантности и упорядочивания текстовых результатов поиска; метаданные также указывают на мультимодальную архитектуру Qwen3-VL. Модель представлена в формате safetensors и распространяется по лицензии Apache-2.0. README указывает на использование пакета mlx-embeddings для работы с MLX.

le723z/Rearank-7B — модель для повторного ранжирования результатов поиска с использованием пошагового рассуждения. Она создана на базе Qwen2.5-7B-Instruct и дообучена методом GRPO на наборе данных из 179 запросов для задачи reranking; работа описана в статье REARANK: Reasoning Re-ranking Agent via Reinforcement Learning. Модель построена на архитектуре Qwen2, содержит 7,1 млрд параметров и принимает текст; заявленный размер контекста — 32 768 токенов. Модель предназначена для оценки и упорядочивания текстовых кандидатов относительно запроса, например при поиске документов или подготовке контекста для RAG. Основной тег Hugging Face — text-ranking; метаданные также указывают text-generation. Репозиторий использует формат safetensors, библиотеку Transformers и лицензию Apache-2.0. Карточка сообщает об обучении на небольшом наборе из 179 запросов, поэтому качество и переносимость на другие задачи и домены могут быть ограничены.

Yi-VL-6B — мультимодальная модель 01.AI для диалогов по изображениям. Она построена на архитектуре LLaVA: использует CLIP ViT-H/14 для кодирования изображения, проекционный модуль на основе двухслойного MLP и языковую модель Yi-6B-Chat. Модель содержит 5,8 млрд параметров, принимает текст и одно изображение и генерирует текст; поддерживает контекст до 4096 токенов и обработку изображений с масштабированием до 448×448 пикселей. Модель предназначена для визуальных вопросов и ответов, распознавания текста на изображениях, извлечения и обобщения визуальной информации. Она поддерживает общение на английском и китайском языках. В README отмечены сильные результаты на мультимодальных бенчмарках MMMU и CMMMU по данным на январь 2024 года. Среди ограничений — возможные галлюцинации и ошибки в описании объектов; за один запрос можно передать только одно изображение. Лицензия — Apache-2.0.

ADELIE-SFT — языковая модель для извлечения информации, разработанная Yunjia Qi, Hao Peng, Xiaozhi Wang, Bin Xu, Lei Hou и Juanzi Li. Модель создана инструкционным дообучением LLaMA 2 7B на корпусе IEInstruct и предназначена для закрытого, открытого и выполняемого по запросу извлечения информации, включая распознавание сущностей, извлечение событий и отношений. Модель основана на плотной архитектуре LLaMA с причинным языковым моделированием, содержит 6,6 млрд параметров и имеет контекст длиной 2048 токенов. Она принимает текст и генерирует текст; заявленный язык — английский. В карточке приведены результаты на наборах данных извлечения информации и общих бенчмарках. Использование регулируется лицензией LLaMA 2.

karakastarik/all-MiniLM-L6-v2-spelling-correction-large — модель Sentence Transformers на архитектуре BERT, преобразующая предложения и абзацы в плотные векторы размерностью 32. Она предназначена для поиска семантически близких текстов и кластеризации; обучение с MultipleNegativesRankingLoss и косинусным сходством нацелено на сопоставление текстовых представлений. Модель содержит 25,9 млн параметров, принимает текст длиной до 512 токенов и распространяется в формате PyTorch. Несмотря на часть «spelling-correction» в названии, карточка описывает модель эмбеддингов, а не систему исправления орфографии. Она может служить компонентом семантического поиска или кластеризации предложений и абзацев. Лицензия и конкретные языки в предоставленных данных не указаны.

Atem-Wisdom-1.5B-i1-GGUF — набор квантизированных GGUF-файлов базовой модели EphAsad/Atem-Wisdom-1.5B, подготовленный и опубликованный mradermacher. Модель относится к семейству Qwen2 и предназначена для генерации текста с акцентом на рассуждения, включая математические, программные и другие задачи, требующие пошагового анализа. В обучении использовались наборы данных OpenThoughts-114k-math, Kimi-K2.5-Reasoning-1M-Cleaned, CodeX-2M-Thinking, medical-o1-reasoning-SFT, MiniMax_M2.7_Distilled_5k и OpenCodeReasoning, а также применялись LoRA и дистилляция. Указанный язык — английский. Это компактная текстовая модель с размером 1,5 млрд параметров, поставляемая в различных вариантах квантизации для llama.cpp и совместимых инструментов. Доступны варианты от IQ1 и Q2 до Q6, размер файлов составляет примерно от 0,5 до 1,4 ГБ. В README рекомендуется i1-Q4_K_M как быстрый вариант, а i1-Q4_K_S отмечен как оптимальный баланс размера, скорости и качества; низкобитные варианты экономят память, но могут заметно уступать по качеству. Мультимодальность и размер контекстного окна не указаны. Модель лицензирована по Apache-2.0. Описанные файлы являются квантизированными версиями, поэтому фактическое качество зависит от выбранного варианта; некоторые варианты прямо обозначены как имеющие низкое качество. Данные о результатах бенчмарков, безопасности и ограничениях применения в README отсутствуют.

yanekyuk/bert-keyword-extractor — дообученная модель BERT для извлечения ключевых слов посредством классификации токенов. Она предназначена для выделения ключевых слов в тексте; README приводит метрики на оценочном наборе: precision 0,8565, recall 0,8874, accuracy 0,9738 и F1 0,8717, но не описывает сам набор данных и подробности обучения. Модель основана на bert-base-cased, имеет 135,5 млн параметров и контекст до 512 токенов. Поддерживает английский язык, использует PyTorch и распространяется по лицензии Apache-2.0.

lyeonii/bert-small — компактная англоязычная версия BERT-Small без учёта регистра, первоначально выпущенная Google Research в составе семейства небольших BERT-моделей. Репозиторий содержит конвертированные из TensorFlow в PyTorch веса; архитектура — BertModel, размер — 32,4 млн параметров, максимальный контекст — 512 токенов. Модель предназначена для получения контекстных векторных представлений текста, которые можно использовать как признаки в NLP-системах. В README приведены результаты оценки на задаче сопоставления предложений MRPC: F1 81,41 и accuracy 70,34. Лицензия репозитория — MIT.

Xenova/bge-large-zh-v1.5 — веб-совместимая версия модели BAAI/bge-large-zh-v1.5, подготовленная с весами в формате ONNX для работы с библиотекой Transformers.js. Разработчик исходной модели — BAAI; данный репозиторий предназначен для использования модели в JavaScript- и веб-приложениях. Модель предназначена для извлечения признаков из текста и может применяться в задачах, где требуются текстовые эмбеддинги, например для семантического поиска, сравнения текстов и построения систем поиска по смыслу. В README приведён пример запуска через pipeline с задачей feature-extraction. Известно, что модель использует ONNX-веса и совместима с Transformers.js. Назначение исходной модели предполагает работу с китайским языком, однако другие языки, размер модели, архитектура, максимальная длина контекста, точные показатели качества и поддерживаемые модальности в README не указаны. Лицензия также не указана, поэтому условия использования необходимо уточнять в карточке исходной модели BAAI/bge-large-zh-v1.5.

hooman650 опубликовал ONNX-версию BGE-Reranker-v2-m3-o4 — модели для ранжирования текстовых пар. Она оценивает релевантность документа запросу и помогает переставить результаты поиска так, чтобы наиболее подходящие оказались выше. Архитектура — XLM-RoBERTa для классификации последовательностей; размер модели — 658,7 млн параметров, контекст — до 8194 токенов. Репозиторий содержит веса в формате ONNX. Модель подходит для повторного ранжирования результатов семантического поиска и повышения качества выдачи в RAG-системах. Лицензия — Apache 2.0. В README не приведены дополнительные сведения о поддерживаемых языках или замерах качества.

Decision-2.0-Eos-0.8B — компактная плотная модель семейства Decision 2.0 от vLLM Semantic Router, дообученная на базе vllm-sr/Decision-1.0-Eos-0.8B. Принимает текст или JSON с контекстом и вопросами о кандидатах и за один проход оценивает варианты выбора, ответы «да/нет» и баллы, возвращая вероятности для ответов без генерации текста. Размер модели — 0,75 млрд параметров, длина контекста — 16 384 токена. Модель предназначена для классификации и ранжирования вариантов в сценариях принятия решений, когда по одному контексту нужно получить ответы на несколько вопросов. В README приведены результаты сравнительной оценки и медианное время 6 мс на один вопрос на одном GPU; эти показатели относятся к описанным условиям оценки. Репозиторий содержит веса safetensors и использует Transformers. Лицензия — Apache-2.0.

french-bge-m3 — франкоязычная версия модели BAAI/bge-m3, разработанная Antoine Louis. Она предназначена прежде всего для задач семантического сходства и поиска фрагментов текста, включая passage retrieval, во французском языке; модель может использоваться с библиотеками Transformers и Sentence Transformers. Модель создана методом pruning и на 38,4% меньше исходной BAAI/bge-m3, благодаря чему требует меньше памяти. Архитектура и точное число параметров в README не указаны. Это текстовая модель для французского языка, унаследованная от многоязычной BGE-M3, но из её словаря удалены токены, нечасто встречающиеся во французском. Поэтому для французских задач ожидается производительность, близкая к оригинальной модели, тогда как качество на других языках может быть заметно ниже. Модель распространяется по лицензии MIT. Для загрузки в Transformers требуется параметр trust_remote_code=True; также она поддерживается библиотекой Sentence Transformers.

jina-embeddings-v5-omni-nano-text-matching — мультимодальная модель эмбеддингов от Jina AI, настроенная на сопоставление текста. Она принимает текст, изображения, видео и аудио и преобразует их в общий векторный простор, согласованный с текстовой моделью jinaai/jina-embeddings-v5-text-nano-text-matching. Модель содержит около 0,95 млрд параметров и выдаёт эмбеддинги размерностью 768; поддерживаемая задача — text-matching. Модель предназначена для поиска и сопоставления, когда документы индексируются текстом, а запрос может поступать в виде изображения, видео или аудио. Видео представлено кадрами: звуковая дорожка автоматически не учитывается, её нужно передавать отдельно. Для текстовых документов требуется префикс «Document: ». Доступны веса в формате safetensors, библиотека Transformers и интеграция с Sentence Transformers и vLLM. Это дообученный вариант jinaai/jina-embeddings-v5-omni-nano с настройкой на сопоставление текста. Лицензия CC-BY-NC-4.0 ограничивает коммерческое использование; перед применением следует проверить её условия.

JPQ24/Llama-3.1-8b-Natural-Synthesis-merged-16bit — дообученная текстовая модель JPQ24 на архитектуре Llama 3.1. В карточке указана базовая модель unsloth/llama-3.1-8b-instruct-unsloth-bnb-4bit; обучение выполнено с использованием Unsloth и библиотеки Hugging Face TRL. Модель содержит 7,5 млрд параметров и поддерживает контекст длиной до 131 072 токенов. Модель предназначена для генерации текста и диалогового взаимодействия на английском языке; метаданные также отмечают интерфейс вызова инструментов. Доступна в формате safetensors по лицензии Apache-2.0. Название указывает на объединение и 16-битный формат, однако README и метаданные не подтверждают способ слияния или точность сохранённых весов.

LongCat-Next — мультимодальная авторегрессионная модель, разработанная Meituan и построенная на базе MoE-модели LongCat-Flash-Lite. Она обучается предсказывать единый поток дискретных токенов для текста, изображений и аудио. В репозитории указано 3B параметров, а контекст составляет 131 072 токена. Модель предназначена для чата, понимания и генерации изображений, понимания речи, голосового общения с низкой задержкой и клонирования голоса. Также заявлена конкурентоспособность на мультимодальных задачах и качество генерации изображений при сильном сжатии представления. Поддерживаются интерфейс вызова инструментов и работа с Transformers; для запуска README рекомендует не менее трёх GPU с 80 ГБ видеопамяти каждый. Модель распространяется по лицензии MIT. Разработчики отмечают, что её не проектировали и всесторонне не оценивали для всех возможных прикладных сценариев.

MyAwesomeModel — модель из репозитория SAD1D1321321/MyAwesomeModel-TestRepo, опубликованная для извлечения признаков из текста. В метаданных Hugging Face она обозначена как модель для задачи feature-extraction и связана с экосистемой Transformers и PyTorch; тег BERT указывает на использование архитектуры или семейства BERT. Модель предназначена для получения векторных представлений текста, которые можно применять в семантическом поиске, кластеризации, классификации, оценке сходства и других задачах обработки естественного языка. README также заявляет о возможностях рассуждения, генерации текста, ответов на вопросы, программирования, вызова функций и снижении галлюцинаций, однако эти характеристики не согласуются с основным pipeline-тегом feature-extraction и не подтверждены техническими сведениями о конфигурации модели. Модель распространяется по лицензии MIT. Размер, длина контекста, поддерживаемые естественные языки и точные архитектурные параметры в доступных данных не приведены. Для практического использования следует проверить конфигурацию и фактическое назначение модели перед применением в продуктивных системах.

MyAwesomeModel — модель на базе BERT для извлечения признаков из текста, опубликованная пользователем или организацией ZXC13ESDS на Hugging Face. Модель предназначена для получения векторных представлений текста, которые можно использовать в задачах семантического поиска, сравнения текстов, классификации и других downstream-сценариях обработки естественного языка. Для работы заявлена библиотека Transformers с поддержкой PyTorch. В README также заявлены возможности рассуждения, генерации кода, диалогов, суммаризации, function calling и работы с веб-поиском, однако эти сведения не согласуются с метаданными, где модель указана как feature-extraction с тегом BERT. Архитектура, число параметров, поддерживаемые естественные языки и длина контекста в доступных данных не указаны. Модель распространяется по лицензии MIT.

Это экспериментальный чекпойнт компактной языковой модели Qwen2.5-1.5B-Instruct, подготовленный автором репозитория huggingFacing как вариант серии экспериментов по дистилляции знаний из Qwen2.5-7B-Instruct в модель на 1,5 млрд параметров. Вариант lift_v12_top_only использует gap gate и веса влияния двух верхних слоёв на уровне шагов; обучение проводилось методом on-policy GKD на английском наборе Paper100K, 1500 шагов с глобальным размером пакета 64 и генерацией до 128 токенов за пример. Модель предназначена для диалогов и генерации текста, включая структурированные ответы и интерфейс вызова инструментов, унаследованный от базовой instruct-модели. Архитектура — плотная Qwen2 causal language model, контекст — до 32768 токенов; веса представлены в SafeTensors и доступны по лицензии Apache-2.0. Карточка описывает абляционный вариант дистилляции, поэтому его качество следует оценивать отдельно от полного метода и исходной модели.

Мультимодальная модель семейства Qwen3.5 с плотной архитектурой на 4 млрд параметров, дообученная dkingtutcd на основе Qwen/Qwen3.5-4B. Модель предназначена для диалога и ответов на запросы с изображениями: принимает текст и изображения, а выдаёт текст. В метаданных также указаны интерфейс вызова инструментов и поддержка зрения. Модель сохранена в формате safetensors и распространяется по лицензии Apache-2.0. В README сообщается, что при обучении использовались Unsloth и библиотека TRL; сведений о конкретном наборе данных, специализации дообучения или оценках качества нет.

Andycurrent/Qwen3.5-4B-Uncensored-HauhauCS-Aggressive — модифицированная версия языковой модели Qwen3.5-4B, созданная HauhauCS на базе модели Alibaba Qwen Team. Это авторегрессионная Transformer-модель примерно на 4 млрд параметров, предназначенная для локального запуска, диалоговых приложений, генерации текста, программирования, рассуждений, prompt engineering и исследований механизмов выравнивания и отказов моделей. Указана поддержка английского языка. Модель ориентирована на работу без внешних API и может применяться в автономных и приватных средах. Главная особенность варианта Aggressive — снижение или устранение safety-ориентированных отказов и минимизация отказов в ответах, благодаря чему модель более охотно обрабатывает широкий спектр запросов. При этом заявлено сохранение основных возможностей базовой Qwen3.5-4B в области диалогов, рассуждений, кодинга и общих знаний. Для общения рекомендуется ChatML-подобный шаблон; заявлена совместимость с Transformers, llama.cpp, KoboldCpp, Ollama и vLLM, а GGUF-квантизации подходят для эффективного запуска, включая CPU-инференс. Ограничением является отсутствие или ослабление защитных механизмов: модель может генерировать небезопасный, нежелательный или потенциально вредный контент, поэтому ответственность за фильтрацию и сценарии применения лежит на пользователе. В README также не указаны размер контекстного окна, точный набор поддерживаемых языков, результаты бенчмарков и конкретный метод модификации. Для модели указана лицензия Apache-2.0.