III.1Стратегия, продукт и бизнес-модели

Flan-UL2 — текстовая encoder-decoder модель Google на архитектуре T5 с 7,6 млрд параметров. Она основана на контрольной точке UL2 и дообучена на коллекции Flan с формулировками задач в виде инструкций. Репозиторий содержит веса PyTorch, лицензия — Apache 2.0. Модель предназначена для выполнения разнообразных текстовых задач по инструкциям, включая генерацию и продолжение текста, ответы на вопросы, суммаризацию, рассуждения и классификацию. Она поддерживает обучение на нескольких примерах в контексте и не требует специальных mode tokens UL2. README приводит контекстное поле 2048 токенов; метаданные указывают native context в 512 токенов. Flan-UL2 сочетает предварительное обучение UL2 с инструкционной настройкой Flan и рассчитана на широкий круг задач обработки естественного языка. Для запуска на GPU авторы рекомендуют загрузку в 8-битном режиме для снижения потребления памяти. Это крупная модель, поэтому для инференса нужны значительные вычислительные ресурсы; опубликованные оценки не гарантируют качество на каждом отдельном сценарии.

Gemma-SEA-LION-v4-27B-IT-GGUF — квантованная GGUF-версия Gemma-SEA-LION-v4-27B-IT, разработанная подразделением AI Products Pillar компании AI Singapore при финансировании Singapore NRF. Это decoder-модель семейства SEA-LION (Southeast Asian Languages In One Network), ориентированная на задачи для Юго-Восточной Азии. Модель предназначена для генерации и понимания текста, диалоговых сценариев, обработки документов, визуальных вопросов и ответов, рассуждений по изображениям, вызова функций и формирования структурированных ответов. Модель имеет 27B параметров и контекстное окно до 128K токенов. Она поддерживает текст и изображения, использует токенизатор Gemma 3 27B Instruct и обучалась на бирманском, английском, индонезийском, кхмерском, лаосском, малайском, китайском, тагальском, тамильском, тайском и вьетнамском языках. Квантованные варианты Q4_K_M, Q8_0 и BF16 снижают требования к памяти и совместимы с различными движками инференса, включая llama.cpp; вариант Q4_K_M может запускаться на ноутбуке с 16 ГБ памяти через Ollama. Сильными сторонами являются специализация на языках и сценариях Юго-Восточной Азии, большой контекст, мультимодальность и поддержка интеграции в системы через function calling и structured outputs. Ограничения включают зависимость производительности и требований к памяти от выбранного варианта квантования, а также отсутствие выравнивания по безопасности: разработчикам и пользователям необходимо самостоятельно применять safety fine-tuning и дополнительные меры защиты. Лицензия — Gemma Terms of Use.

openchat-3.5-0106-128k-DPO-fixed-32000 — слитая модель на архитектуре Mistral, созданная с помощью LazyMergekit на основе NousResearch/Yarn-Mistral-7b-128k и Eric111/openchat-3.5-0106-128k-DPO. Модель содержит 7,1 млрд параметров и предназначена для генерации текста в диалоговом формате. Её можно применять для ответов на вопросы, написания текстов и работы с длинными документами; заявленная длина контекста в метаданных — 32 768 токенов. Репозиторий содержит веса в формате safetensors. Сведения о лицензии и конкретных языковых ограничениях в предоставленных данных отсутствуют.

Lambent/qwen2.5-reinstruct-alternate-lumen-14B — объединённая диалоговая языковая модель Lambent на архитектуре Qwen2, созданная с помощью mergekit. В основе объединения лежит Lambent/qwen2.5-lumen-rebased-14B; также использована Qwen/Qwen2.5-14B-Instruct. Модель содержит 14 млрд параметров, распространяется в формате safetensors и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалогов и генерации текста, включая структурированные ответы и интерфейс вызова инструментов. В README приведена оценка EQ-Bench 77,6713; автор отмечает, что она сопоставима с Lumen и исходной Instruct-моделью, но оценка не гарантирует качество для конкретных задач. Метаданные указывают поддержку китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Лицензия в предоставленных источниках не указана.

Qwen-SEA-LION-v4.5-27B-IT — мультимодальная инструктивная модель AI Singapore для языков Юго-Восточной Азии, дообученная на основе Qwen3.6-27B. Это плотная модель на 27 млрд параметров с гибридной архитектурой Linear и Full Attention и визуальным энкодером; она принимает текст и изображения и генерирует текст. Контекстное окно составляет 262 тыс. токенов. Модель прошла постобучение с дистилляцией и слиянием моделей на наборе SEA-Instruct-2602. Модель предназначена для многоязычного диалога, ответов на вопросы, перевода, суммаризации, рассуждений и работы с изображениями. В карточке заявлена поддержка английского, бирманского, индонезийского, филиппинского, малайского, тамильского, тайского и вьетнамского языков; метаданные также указывают китайский. Доступны интерфейсы чата и вызова инструментов. Модель распространяется по лицензии MIT. Разработчик предупреждает, что модель может галлюцинировать, давать нерелевантные или непоследовательные ответы и не проверялась на устойчивость к состязательным запросам. Она не проходила выравнивание по безопасности, поэтому перед использованием следует самостоятельно оценить риски и при необходимости провести дополнительную настройку.

bunnycore/Llama-3.1-8B-TitanFusion — объединённая языковая модель семейства Llama, созданная с помощью mergekit методом DARE TIES. Базой слияния служила bunnycore/LLama-3.1-8B-Matrix; также в объединение вошли akjindal53244/Llama-3.1-Storm-8B, bunnycore/HyperLlama-3.1-8B, DreadPoor/Heart_Stolen-8B-Model_Stock и refuelai/Llama-3-Refueled. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors. Она предназначена для генерации текста; заявленная длина контекста — 131072 токена. В составе объединения есть англоязычная инструктивная модель Refuel AI, предназначенная для генерации текста, классификации, извлечения атрибутов и разрешения сущностей. Карточка не сообщает о специализированных областях применения или ограничениях качества. Лицензия в предоставленных данных не указана.

Astra-v1-12B — языковая модель на архитектуре Mistral, разработанная P0x0 как дообучение Mistral-Nemo-Base-2407. Модель содержит 12,1 млрд параметров и предназначена для генерации текста и выполнения инструкций в диалоговом формате. Её можно применять для создания и редактирования текстов, суммаризации, ответов на вопросы и диалоговых систем. В README заявлена настройка на качество и стиль ответов Claude 3 Sonnet и Opus. Указанное в метаданных контекстное окно — 1 024 000 токенов. Модель принимает текст и выдаёт текст. Карточка не подтверждает специализацию на конкретном языке или предметной области. Модель распространяется по лицензии Apache 2.0. README предостерегает от использования для принятия решений в реальном времени в критически важных сценариях и от генерации вредоносного или предвзятого контента.

Gemma 3 12B IT — мультимодальная модель Google с открытыми весами, представленная в репозитории Unsloth. Это вариант с инструкционной настройкой на базе google/gemma-3-12b-pt; модель принимает текст и изображения и генерирует текст. Архитектура Gemma 3 — плотная, число параметров — 12 млрд. Семейство поддерживает контекст до 128 тыс. токенов и более 140 языков. Модель предназначена для диалогов, ответов на вопросы по тексту и изображениям, суммаризации, генерации текстов и визуального извлечения информации. Она подходит для локального запуска на компьютерах и для развёртывания в собственной инфраструктуре. Веса опубликованы в формате Safetensors. Ответы могут содержать фактические ошибки, а качество зависит от обучающих данных и формулировки запроса. Модель может хуже справляться с неоднозначностью, тонкими языковыми нюансами и сложными открытыми задачами; возможны смещения и генерация вредного контента. Лицензия — Gemma; при использовании необходимо соблюдать её условия и политику запрещённого использования Google.

GPT-3.5 Turbo Instruct — вариант модели OpenAI, настроенный на выполнение инструкций в текстовых запросах и не ориентированный на диалоговые оптимизации. Он предназначен для генерации текста в ответ на инструкции и запросы пользователя. В README указан предел знаний в виде обучающих данных по сентябрь 2021 года. Сведения об архитектуре, размере, контекстном окне и лицензии в предоставленных источниках отсутствуют.

meta-llama/Llama-3.1-405B-FP8 — крупная языковая модель семейства Llama 3.1, разработанная Meta. Она предназначена для генерации текста и может применяться в задачах обработки естественного языка, включая создание и преобразование текстового контента. Модель ориентирована на английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Из доступных данных следует, что модель содержит 405 миллиардов параметров и представлена в формате FP8. Архитектура, максимальная длина контекста, поддерживаемые модальности помимо текста и подробные сведения о сильных сторонах в README не указаны. Большой размер модели потенциально обеспечивает высокую способность к обработке сложных языковых задач, но также предполагает значительные требования к вычислительным ресурсам; конкретные требования и ограничения по производительности не приведены. Модель распространяется по Llama 3.1 Community License от Meta. Лицензия разрешает использовать, воспроизводить, распространять, изменять материалы и создавать производные работы на установленных условиях. При распространении необходимо сохранять текст лицензии и уведомление об атрибуции, указывать «Built with Llama», соблюдать Acceptable Use Policy и применимое законодательство. Для продуктов или сервисов с более чем 700 миллионами ежемесячных активных пользователей предусмотрено требование запросить отдельную лицензию у Meta.

unsloth/Llama-3.2-3B-Instruct-GGUF — GGUF-версия инструкционно дообученной языковой модели Llama 3.2 с 3 млрд параметров, разработанной Meta и опубликованной Unsloth. Это авторегрессионная модель на оптимизированной архитектуре Transformer с Grouped-Query Attention (GQA); варианты GGUF доступны в форматах квантования от 2 до 16 бит, что позволяет выбирать баланс между качеством, размером и требованиями к памяти. Модель предназначена для генерации текста и мультиязычного диалога, включая агентский поиск по данным и суммаризацию. Она работает в режиме «текст на входе — текст на выходе» и официально поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Инструкционная версия обучалась с использованием supervised fine-tuning (SFT) и reinforcement learning with human feedback (RLHF) для повышения полезности и безопасности. README не указывает размер контекстного окна и конкретные показатели производительности; модель является статичной и обучена на офлайн-данных. Использование регулируется Llama 3.2 Community License — специальной коммерческой лицензией Meta, а также Acceptable Use Policy. GGUF-квантизация может снизить требования к памяти и упростить локальный запуск, но при меньшей разрядности возможна потеря качества. Модель не является мультимодальной: заявлены только текстовые входы и выходы.

mindy-7b-v2-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная объединением mindy-labs и Mistral-7B-Instruct-v0.2 методом SLERP. Модель построена на архитектуре Mistral с 7,1 млрд параметров и предназначена для генерации текста и ответов на инструкции в формате чата. Контекст — до 32 768 токенов. Модель принимает текст и генерирует текстовые ответы; в карточке указана поддержка диалогового режима. Она может применяться для чат-ботов, ответов на вопросы и выполнения инструкций. Репозиторий содержит веса в формате safetensors. Лицензия — Apache 2.0.

openchat-3.5-0106-Mistral-7B-Instruct-v0.2 — диалоговая языковая модель на архитектуре Mistral, созданная объединением весов mistralai/Mistral-7B-Instruct-v0.2 и openchat/openchat-3.5-0106 методом SLERP. Модель разработана на основе открытых моделей Mistral AI и OpenChat; в репозитории представлены веса в формате safetensors. Размер составляет 7,1 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для генерации текста в диалоге и выполнения инструкций: её можно использовать для ответов на вопросы, составления текстов и ведения чат-диалогов. В метаданных указаны задача text-generation и возможность chat. Лицензия — Apache-2.0. Языки модели в предоставленных данных не перечислены.

Aya-Expanse-32B — открытая по весам мультиязычная языковая модель, разработанная Cohere For AI. Она предназначена для диалогов и генерации текста на 23 языках, включая русский, а также поддерживает интерфейс вызова инструментов. Модель построена на авторегрессионной архитектуре Transformer семейства Cohere и содержит 32,3 млрд параметров. В метаданных Hugging Face указан контекст 8192 токена; в README заявлено 128K, поэтому длина контекста в источниках расходится. В README также описаны дообучение с учителем, обучение на предпочтениях, настройка безопасности и слияние моделей. Модель подходит для многоязычных диалогов, ответов на вопросы, написания и преобразования текста. Лицензия CC-BY-NC-4.0 ограничивает коммерческое использование; также требуется соблюдать политику допустимого использования Cohere For AI.

adamo1139/aya-expanse-32b-ungated — открытая версия весов Aya Expanse 32B от Cohere For AI без ограничения доступа через gated-доступ. Это авторегрессионная плотная трансформерная языковая модель семейства Cohere с 32,3 млрд параметров, предназначенная для генерации текста и диалогов на 23 языках. Модель принимает и выдаёт текст; метаданные указывают контекст 8192 токена. Модель подходит для многоязычных диалоговых помощников, ответов на вопросы, создания и перефразирования текстов на поддерживаемых языках. В карточке описаны supervised fine-tuning, обучение на предпочтениях, настройка безопасности и слияние моделей в процессе подготовки Aya Expanse. Для распространения указана лицензия CC-BY-NC-4.0; карточка также требует соблюдать политику допустимого использования Cohere For AI.

Bielik-11B-v3.0-Instruct — разговорная генеративная модель на 11 млрд параметров, разработанная SpeakLeash совместно с центром ACK Cyfronet AGH. Это плотная авторегрессионная модель архитектуры LLaMA, дообученная следовать инструкциям на базе speakleash/Bielik-11B-v3-Base-20250730. Она предназначена для диалогов, ответов на вопросы и других задач генерации текста; особенно хорошо ориентирована на польский язык и обучена на текстах на 32 европейских языках. Модель дообучали на инструкциях и многоходовых диалогах, а затем применяли методы DPO и обучения с подкреплением для улучшения стиля ответов и аналитических способностей, в том числе на задачах логики, STEM, математики и использования инструментов. Метаданные указывают нативный контекст 32 768 токенов. Для чата используется шаблон ChatML; веса доступны в формате safetensors, библиотека — Transformers. Модель может давать фактически неверные, предвзятые или оскорбительные ответы; встроенных механизмов модерации нет, поэтому её ответы требуют проверки. Распространяется по лицензии Apache 2.0.

Lightricks публикует эту версию Gemma 3 — мультимодальную модель Google Gemma 3 12B IT с инструкционной настройкой, представленную в формате safetensors. Она принимает текст и изображения и генерирует текст; подходит для диалога, ответов на вопросы по изображениям, извлечения визуальной информации, суммаризации и других задач по текстовым инструкциям. Модель относится к семейству Gemma 3 с плотной архитектурой Gemma3ForConditionalGeneration и основана на google/gemma-3-12b-it. В карточке семейства указаны контекстное окно до 128 тысяч токенов и поддержка более 140 языков. Модель рассчитана на применение в чат-ботах, виртуальных помощниках, создании и редактировании текстов, а также для понимания изображений; её размер допускает локальное развёртывание на подходящем оборудовании. Качество ответов зависит от данных и формулировки запроса: возможны ошибки в фактах, предвзятость и трудности с нюансами языка и сложными задачами. Модель распространяется по лицензии Gemma. Для использования следует соблюдать условия этой лицензии и политику допустимого использования Gemma.

Gemma 3 4B PT — предварительно обученная мультимодальная модель Google из семейства Gemma, созданного на основе исследований и технологий Gemini. Она принимает текст и изображения и генерирует текст; открытые веса позволяют запускать её на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре. Модель подходит для ответов на вопросы по тексту и изображениям, суммаризации, генерации текстов, диалоговых интерфейсов и извлечения сведений из изображений. Семейство Gemma 3 поддерживает контекст до 128 тысяч токенов и более 140 языков. Карточка описывает как предварительно обученные, так и настроенные на инструкции варианты семейства; этот репозиторий — вариант PT. Ответы могут содержать фактические ошибки и отражать смещения обучающих данных; модель может испытывать трудности с неоднозначностью, нюансами языка и сложными открытыми задачами. Лицензия — Gemma, с условиями использования Google Gemma.

Linkbricks-Horizon-AI-Avengers-V3-32B — языковая модель, дообученная директором по данным Linkbricks Джи Юнсоном (Saxo) на базе Saxo/Linkbricks-Horizon-AI-Avengers-V2-32B. Это плотная модель семейства Qwen2 на 32 млрд параметров с контекстом 32 768 токенов; для обучения части параметров применялись SFT и методы предпочтений, включая DPO и ORPO. Модель предназначена для диалогов, генерации текста и вызова инструментов. По карточке, обучение включало многоязычные новости и Википедию, переводческие и суммаризационные данные, вопросы и ответы, математику и логические задачи. Заявлены улучшения для работы с корейским, японским, китайским и английским языками, анализа отзывов и публикаций в соцсетях, написания текстов и кода, а также решения математических и логических задач. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Модель распространяется по лицензии Apache-2.0. Описание не приводит количественных результатов оценивания, поэтому заявленные улучшения не позволяют сравнить её качество с другими моделями.

Magnum-Picaro-0.7-V3-12b — объединённая чат-модель на 12,1 млрд параметров, созданная Trappu с помощью LazyMergekit из Trappu/Nemo-Picaro-V2-12B и anthracite-org/magnum-v2-12b. В основе лежит плотная архитектура Mistral с моделью MistralForCausalLM; слияние выполнено методом TIES, веса сохранены в формате safetensors. Модель предназначена для диалогов и генерации текста по запросу. Каталог указывает контекст до 1 024 000 токенов. Метаданные описывают базовую модель как предназначенную для следования инструкциям и связной генерации на нескольких языках, но отдельные языки для этой версии не перечислены. Модель распространяется под лицензией, указанной в карточке Hugging Face; доступные сведения её не содержат.

Карточка модели alexakkol/mistral-7B-instruct-v0.2 на Hugging Face совпадает с карточкой MaziyarPanahi/Mistral-7B-Instruct-v0.2, поэтому описание составлено по ней. MaziyarPanahi/Mistral-7B-Instruct-v0.2 — инструктивно дообученная версия языковой модели Mistral-7B-v0.2, опубликованная Maziyar Panahi на основе модели Mistral AI. Это плотная авторегрессионная модель архитектуры Mistral с 7,1 млрд параметров, рассчитанная на диалог и выполнение инструкций. Она принимает текстовые запросы в формате Mistral Instruct и генерирует текстовые ответы; поддерживает контекст до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы, создания и редактирования текстов и других сценариев генерации текста. В README говорится, что версия Instruct служит демонстрацией возможностей дообучения базовой модели. Карточка предупреждает, что у модели нет встроенных механизмов модерации, поэтому сгенерированные ответы могут требовать дополнительной проверки. Модель распространяется под лицензией Apache-2.0.

MaziyarPanahi/notus-7b-v1-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием моделей mistralai/Mistral-7B-Instruct-v0.2 и argilla/notus-7b-v1 методом SLERP. Она основана на архитектуре Mistral с плотной причинной языковой моделью MistralForCausalLM и содержит 7,1 млрд параметров. Модель предназначена для генерации текста в формате диалога и выполнения инструкций. Контекст составляет до 32 768 токенов, что позволяет использовать её для продолжительных бесед и работы с длинными текстовыми запросами. На Hugging Face опубликована в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка описывает способ слияния, но не приводит отдельных оценок качества или известных ограничений; результат зависит от формулировки запроса и сценария применения.

DeepSeek-R1-0528-Qwen3-8B-bnb-4bit — это 4-битно квантованная версия модели DeepSeek-R1-0528-Qwen3-8B, опубликованная Unsloth. Исходная модель разработана DeepSeek и представляет собой языковую модель с акцентом на углублённое рассуждение. Квантованный вариант распространяется для использования с Transformers и предназначен для более экономичного запуска модели. Модель ориентирована на сложные задачи рассуждения, математику, программирование, общую логику, вызов функций и сценарии «vibe coding». В README отмечены улучшения по сравнению с предыдущей версией DeepSeek R1: снижение галлюцинаций, более развитые способности к рассуждению и увеличение максимальной длины генерации до 64K токенов. Для DeepSeek-R1-0528 также приведены высокие результаты в тестах по общим знаниям, программированию и математике, включая AIME 2024, LiveCodeBench и SWE Verified. Точный набор поддерживаемых языков, модальностей и архитектурные детали в карточке не указаны; из идентификатора следует размер исходной модели 8B. Квантование уменьшает требования к памяти, но может влиять на точность по сравнению с полной версией. Модель распространяется по лицензии MIT.

Ling-lite-1.5-2506 — обновлённая разговорная языковая модель от inclusionAI для рассуждений, решения сложных задач, программирования и отладки кода. Она построена на архитектуре Bailing MoE и поддерживает генерацию текста в формате чата. В README указаны 16,8 млрд параметров, из которых активируются 2,75 млрд; метаданные Hugging Face указывают 794,8 млн параметров. В карточке также заявлена длина контекста 128K, тогда как метаданные сообщают 32 768 токенов. README описывает улучшения относительно Ling-lite-1.5 и приводит результаты на GPQA Diamond и LiveCodeBench 2408–2501. Модель принимает текст и генерирует текст. Опубликованные веса доступны в формате safetensors, библиотека для работы — Transformers. Лицензия — MIT. Языки в доступных сведениях не перечислены.

Llama-SEA-LION-v3-70B-IT — языковая модель с настройкой по инструкциям, разработанная командой Products Pillar организации AI Singapore при финансировании Национального исследовательского фонда Сингапура. Это плотная авторегрессионная модель-декодер на архитектуре Llama 3.1 с 69,5 млрд параметров; она принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Контекст составляет до 131 072 токенов. Модель предназначена для следования инструкциям и общения на английском и языках Юго-Восточной Азии. В README перечислены бирманский, китайский, английский, филиппинский, индонезийский, яванский, кхмерский, лаосский, малайский, сунданский, тамильский, тайский и вьетнамский; настройка по инструкциям проводилась на английском, индонезийском, яванском, сунданском, тамильском, тайском и вьетнамском. Среди проверявшихся задач — ответы на вопросы, анализ тональности, выявление токсичности, перевод и суммаризация. Модель распространяется по лицензии Llama 3.1 Community License. Модель может галлюцинировать, выдавать нерелевантные или вымышленные сведения и непоследовательно рассуждать. В README также отмечено, что релиз не прошёл настройку безопасности, поэтому для ответственных сценариев пользователям следует самостоятельно применять меры безопасности и проверять результаты.

OpenHermes-2.5-neural-chat-v3-3-Slerp-Mistral-7B-Instruct-v0.1 — объединённая методом SLERP чат-модель на архитектуре Mistral, созданная из mistralai/Mistral-7B-Instruct-v0.1 и Weyaxi/OpenHermes-2.5-neural-chat-v3-3-Slerp. Модель содержит 7,1 млрд параметров и предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Модель принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Веса опубликованы в формате safetensors. Модель подходит для диалоговых помощников и генерации ответов на запросы. Поддерживаемые языки в предоставленных данных не перечислены. Лицензия — Apache-2.0. Качество ответов может зависеть от формулировки запроса; как и другие языковые модели, она может генерировать фактические ошибки.

OpenJAI-v1.0-14B — открытая языковая модель Jasmine Technology Solution (JTS), дообученная на базе Qwen/Qwen3-14B для работы на тайском и английском языках. Это плотная трансформерная модель с 14 млрд параметров для диалогов и генерации текста; опубликована в формате Safetensors и использует библиотеку Transformers. Модель предназначена для следования сложным инструкциям, работы с длинными текстами и вызова инструментов или функций. Разработчики сообщают об улучшении результатов относительно базовой модели и других сопоставимых открытых тайских моделей на ряде тестов, сохраняя основные знания Qwen3. Заявлена поддержка контекстов до 120 000 токенов при расширении контекста; штатное окно — 32 768 токенов, а конфигурация модели задаёт 40 960 позиций. Для длинных входов требуются методы масштабирования RoPE, например YaRN; постоянное масштабирование может ухудшать результаты на коротких текстах. Лицензия — Apache-2.0.

Shisa V2 Mistral Nemo 12B — двуязычная чат-модель общего назначения, разработанная Shisa.AI на базе Mistral-Nemo-Instruct-2407. Это плотная авторегрессионная модель семейства Mistral с 12,1 млрд параметров и контекстом до 131 072 токенов; веса доступны в формате Safetensors. Модель дообучена на синтетических диалоговых и предпочтительных данных, чтобы улучшить качество ответов на японском языке и сохранить возможности на английском. Модель предназначена для диалога, генерации текста, следования инструкциям и сценариев вызова инструментов. В тестах Shisa.AI она показала улучшение японских результатов относительно базовой модели; опубликованы также оценки для английского языка и ряда общих бенчмарков. Поддерживаются японский и английский языки. Модель распространяется по лицензии Apache 2.0. Результаты бенчмарков не гарантируют качество на конкретных пользовательских данных. Как и другие языковые модели, она может выдавать фактически неверные ответы; для критичных решений ответы следует проверять.

Yarn-Mistral-7b-64k-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель примерно на 7,1 млрд параметров, созданная MaziyarPanahi слиянием Mistral-7B-Instruct-v0.2 и NousResearch/Yarn-Mistral-7b-64k методом SLERP. Модель использует архитектуру Mistral и предназначена для генерации текста и ответов на инструкции в формате чата. Слияние объединяет параметры внимания и MLP двух моделей с разными весами. Базовый вариант Mistral-7B-Instruct-v0.2 имеет контекст до 32 768 токенов; имя и источник второго компонента указывают на вариант Yarn с расширенным контекстом, но README не подтверждает фактическую длину контекста итоговой модели. Распространяется в формате safetensors по лицензии Apache-2.0.

BigQwen2.5-Echo-47B-Instruct — разговорная языковая модель mlabonne, созданная с помощью MergeKit на основе Qwen/Qwen2-32B-Instruct. Это self-merge с распределённым повторением отдельных слоёв: число повторов постепенно меняется от краёв к середине и обратно. Модель имеет архитектуру Qwen2 и 46,6 млрд параметров, принимает текст и генерирует текст; поддерживает контекст до 32 768 токенов и интерфейс вызова инструментов. Метаданные указывают языки: китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Модель предназначена для диалогов и генерации текста; базовая Qwen2.5 также рассчитана на программирование, математику и структурированные ответы. В приведённой карточке результаты оценки ниже показателей Qwen2.5-32B-Instruct по среднему баллу, IFEval и BBH, поэтому показатели базовой модели не следует переносить на этот вариант. Доступны веса в формате Safetensors; лицензия — Apache-2.0.