III.4Клиентская поддержка и customer success

Athene-70B-Preview — диалоговая большая языковая модель с открытыми весами, разработанная командой Nexusflow и дообученная с помощью RLHF на основе Llama-3-70B-Instruct. Репозиторий содержит копию первоначального выпуска Athene-70B; в карточке рекомендуется использовать более новую версию. Модель построена на плотной архитектуре Llama и содержит 69,5 млрд параметров; для запуска используется библиотека Transformers, веса представлены в формате safetensors. Контекстное окно составляет 8192 токена, основной язык — английский. Модель предназначена для диалогов и генерации текста, включая ответы на вопросы и выполнение пользовательских инструкций. В README отмечен результат 77,8% на Arena-Hard-Auto — прокси-бенчмарке Chatbot Arena. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

Canary-1b-v2 — мультиязычная модель NVIDIA для распознавания речи и перевода устной речи. Это модель примерно с 1 млрд параметров на архитектуре encoder-decoder: FastConformer извлекает признаки из аудио, а Transformer Decoder генерирует текст. Модель работает с 25 европейскими языками: болгарским, хорватским, чешским, датским, нидерландским, английским, эстонским, финским, французским, немецким, греческим, венгерским, итальянским, латышским, литовским, мальтийским, польским, португальским, румынским, словацким, словенским, испанским, шведским, русским и украинским. Модель предназначена для транскрибации речи на этих языках, а также перевода речи между английским и каждым из остальных 24 языков. Она автоматически расставляет знаки препинания и заглавные буквы, поддерживает временные метки на уровне слов и сегментов, в том числе для переведённого текста, и обрабатывает длинные записи с динамическим разбиением на фрагменты. NVIDIA заявляет о высокой скорости и качестве относительно моделей сопоставимого размера; результаты зависят от языка и условий записи. Модель можно использовать для голосовых помощников, субтитров, транскрибации разговоров и голосовой аналитики. Для работы предусмотрен NVIDIA NeMo; карточка также описывает использование через Transformers. Лицензия — CC BY 4.0, допускающая коммерческое и некоммерческое использование с соблюдением её условий.

Карточка модели hama-jp/gemma-2-27b на Hugging Face совпадает с карточкой google/gemma-2-27b, поэтому описание составлено по ней. Gemma 2 27B — текстовая авторегрессионная языковая модель семейства Gemma, разработанного Google с использованием исследований и технологий, применявшихся при создании Gemini. Модель доступна с открытыми весами и предназначена для генерации текста; семейство Gemma включает предварительно обученные и настроенные для следования инструкциям варианты. В репозитории указаны формат safetensors и библиотека Transformers. Модель подходит для ответов на вопросы, суммаризации, диалоговых интерфейсов, создания текстов и рассуждений по чётко сформулированным запросам. В README заявлена поддержка английского языка; конкретные размер контекстного окна и число параметров здесь не приведены. Открытые веса позволяют запускать модель на собственном оборудовании или в облачной инфраструктуре. Ограничения включают возможные фактические ошибки, предвзятость, трудности с неоднозначностью, тонкими языковыми нюансами и сложными открытыми задачами. Лицензия — Gemma; перед использованием следует соблюдать условия лицензии и политику допустимого использования Gemma.

Карточка модели IntervitensInc/gemma-2-27b-chatml на Hugging Face совпадает с карточкой google/gemma-2-27b, поэтому описание составлено по ней. Gemma 2 27B — текстовая авторегрессионная языковая модель семейства Gemma, разработанного Google с использованием исследований и технологий, применявшихся при создании Gemini. Модель доступна с открытыми весами и предназначена для генерации текста; семейство Gemma включает предварительно обученные и настроенные для следования инструкциям варианты. В репозитории указаны формат safetensors и библиотека Transformers. Модель подходит для ответов на вопросы, суммаризации, диалоговых интерфейсов, создания текстов и рассуждений по чётко сформулированным запросам. В README заявлена поддержка английского языка; конкретные размер контекстного окна и число параметров здесь не приведены. Открытые веса позволяют запускать модель на собственном оборудовании или в облачной инфраструктуре. Ограничения включают возможные фактические ошибки, предвзятость, трудности с неоднозначностью, тонкими языковыми нюансами и сложными открытыми задачами. Лицензия — Gemma; перед использованием следует соблюдать условия лицензии и политику допустимого использования Gemma.

Gemma 2B — компактная плотная авторегрессионная языковая модель семейства Gemma, разработанная Google. Она содержит 2,5 млрд параметров, принимает и генерирует текст и поддерживает контекст до 8192 токенов. Репозиторий содержит веса в формате safetensors и предназначен для работы с библиотекой Transformers. Модель подходит для генерации текста, ответов на вопросы, суммаризации и диалоговых интерфейсов, а компактный размер позволяет запускать её на персональных компьютерах и собственной облачной инфраструктуре. В карточке указана поддержка английского языка. Условия лицензии в предоставленных данных не описаны. Качество ответов зависит от формулировки запроса и охвата обучающих данных. Модель может ошибаться в фактах, упускать нюансы и воспроизводить предвзятость; для сложных задач и пользовательских приложений нужны проверка результатов и меры безопасности.

Gemma 7B IT — текстовая decoder-only языковая модель Google с открытыми весами, созданная на основе исследований и технологий, применявшихся при разработке Gemini. Это вариант Gemma 7B, дообученный для следования инструкциям и диалогового взаимодействия. Модель принимает текст и генерирует текст; в карточке семейство описано как англоязычное. Репозиторий содержит веса в форматах Safetensors и GGUF, а метаданные указывают библиотеку Transformers и поддержку чата. Модель предназначена для генерации текста, ответов на вопросы, суммаризации и рассуждений, а также для диалоговых интерфейсов, подготовки черновиков и языковых обучающих инструментов. Относительно компактный размер семейства позволяет запускать его на персональном компьютере или в собственной облачной инфраструктуре; число параметров этой модели в предоставленных данных не указано. Возможности зависят от качества промпта и предоставленного контекста. Модель может ошибаться в фактах, отражать смещения обучающих данных и испытывать трудности с неоднозначностью, тонкими языковыми оттенками и сложными открытыми задачами. Лицензия — Gemma; при использовании следует учитывать условия лицензии и политику Google по допустимому использованию моделей Gemma.

Gemma-SEA-LION-v4-27B-IT — языковая модель с инструктивной настройкой от AI Singapore, разработанная для языков Юго-Восточной Азии. Это плотная декодерная модель на архитектуре Gemma 3, дообученная на примерно 10 млн пар вопросов и ответов на бирманском, английском, индонезийском, кхмерском, лаосском, малайском, тагальском, тамильском, тайском и вьетнамском языках. Модель предназначена для диалогов, ответов на вопросы, следования инструкциям, суммаризации, анализа тональности, перевода и рассуждений; заявленная длина контекста — 128 тысяч токенов. Модель также сохраняет мультимодальные возможности Gemma 3 для понимания изображений и текста, включая визуальные вопросы и разбор документов, однако её дополнительное обучение выполнялось только на текстовой части, поэтому специальных улучшений в работе с изображениями не заявлено. Поддерживаются вызов функций и структурированные ответы. По оценке разработчиков, модель сильна в задачах для языков региона, но может галлюцинировать, выдавать нерелевантные ответы и не проверялась на устойчивость к состязательным запросам. Модель не прошла настройку безопасности; при использовании нужны собственные меры проверки и защиты. Лицензия — Gemma Terms of Use.

Jais Adapted 13B Chat — двуязычная диалоговая большая языковая модель семейства Jais, разработанная Inception AI. Это адаптированная версия Llama 2, дообученная для общения на арабском и английском языках; модель содержит 13 млрд параметров и распространяется в формате Safetensors. Модель предназначена для чат-ассистентов и генерации текста, а также может применяться для суммаризации арабских и англоязычных документов, анализа тональности и задач понимания языка. Она ориентирована прежде всего на арабоязычных пользователей и двуязычные сценарии. Для загрузки требуется включить trust_remote_code=True. Модель оптимизирована для арабского языка и также обладает сильными возможностями на английском. Ответы могут быть ошибочными, предвзятыми, вводящими в заблуждение или оскорбительными; модель не следует использовать для решений с высокими ставками без контроля человека или полагаться на неё в других языках. Лицензия — Apache 2.0.

Mamba2-primed-HQwen3-8B-Instruct — гибридная языковая модель, подготовленная командой Hybrid Model Factory на основе Qwen3-8B. В архитектуре 18 слоёв Attention и 18 слоёв Mamba-2; модель содержит 7,6 млрд параметров и поддерживает контекст до 131 072 токенов. Она instruction-tuned и предназначена для генерации текста и диалогов, следования инструкциям и работы с длинными контекстами. Сочетание Attention и Mamba-2 сокращает долю растущего KV-кэша, что помогает повысить пропускную способность и уменьшить расход памяти при длинных последовательностях. По данным карточки, модель может уступать базовой Qwen3-8B в качестве, особенно на длинном контексте; Mamba-2 описана как менее выразительная, чем некоторые другие SSM-слои. Модель не поддерживает вызов инструментов и не генерирует специальные токены рассуждений. Доступна под лицензией Apache 2.0.

Marco-Mini-Global-Base — мультиязычная базовая языковая модель семейства Marco-MoE, разработанная Alibaba International Digital Commerce. Это декодерный Transformer с разреженными слоями Mixture-of-Experts, созданный путём расширения и дообучения Qwen3-0.6B-Base; при генерации токенов активируется около 0,86 млрд параметров из 17,3 млрд. Модель предназначена для генерации текста и диалогового использования на 64 языках, включая русский, английский, китайский, арабский, хинди и другие языки Европы, Азии и Африки. Контекст составляет 32 768 токенов; доступны интерфейс для чата и интерфейс вызова инструментов. В сравнении, приведённом в карточке, модель показывает сильные результаты на многоязычных тестах при небольшом числе активируемых параметров; показатели на английских тестах также близки к более крупным сравниваемым моделям. Это базовая модель, поэтому качество инструкционного следования и диалога может требовать отдельной настройки. Репозиторий использует формат Safetensors и библиотеку Transformers. Лицензия — Apache-2.0.

Megac4ai-command-r-plus — экспериментальная языковая модель, созданная автором nitky с помощью mergekit: слои CohereForAI/c4ai-command-r-plus чередуются с её же слоями методом passthrough. Модель содержит 160,4 млрд параметров, использует архитектуру CohereForCausalLM и формат safetensors; для запуска применяется библиотека Transformers с необходимыми изменениями. README также указывает на отдельную GGUF-версию и вариант квантования bitsandbytes до 4 бит. Модель предназначена для генерации текста и диалоговых ответов. В примере она отвечает на вопрос по японскому диалогу; метаданные перечисляют поддержку английского, французского, немецкого, испанского, итальянского, португальского, японского, корейского, китайского и арабского языков. Контекст составляет 8192 токена; доступны интерфейсы чата и вызова инструментов. Указанная лицензия — CC BY-NC 4.0, допускающая использование с атрибуцией, но не коммерческое использование.

MaziyarPanahi/MeliodasPercival_01_Experiment28T3q — объединённая модель семейства Mistral с 7,1 млрд параметров, созданная на основе automerger/MeliodasPercival_01-7B и automerger/Experiment28T3q-7B. Она предназначена для генерации текста и может использоваться для диалога, составления черновиков и продолжения текстовых запросов. Модель принимает текст и выдаёт текст; заявленная длина контекста составляет 32 768 токенов. Модель опубликована в формате safetensors под лицензией Apache-2.0. Карточка не описывает специализированные области применения или отдельные ограничения качества; результаты генерации следует проверять в соответствии с задачей.

Nemotron-SEA-LION-v4.8-30B-A3B — инструктивная языковая модель, разработанная AI Products Pillar организации AI Singapore при финансировании National Research Foundation Singapore. Она дообучена на основе aisingapore/Nemotron-SEA-LION-v4.8-30B-A3B-Base с помощью SFT и онлайн-дистилляции по собственным ответам модели. Архитектура — гибрид Mamba2 и Transformer с Mixture of Experts; модель рассчитана на контекст до 262 144 токенов. Модель предназначена для генерации текста, диалога и выполнения инструкций на английском и языках Юго-Восточной Азии: бирманском, вьетнамском, индонезийском, тагальском, малайском, тамильском и тайском. Среди оценённых сценариев — ответы на вопросы, анализ тональности, перевод, суммаризация, причинно-следственные рассуждения, распознавание токсичности и многоходовый чат. Модель распространяется по лицензии MIT. Качество и надёжность ответов могут быть непоследовательными: модель способна галлюцинировать и выдавать не относящийся к запросу текст. Устойчивость к состязательным запросам не проверялась, а безопасность не была специально выровнена; для прикладного использования могут потребоваться отдельная настройка безопасности и проверка результатов.

NeuralsirkrishnaShadow_Inex12Neural — слитая языковая модель семейства Mistral, созданная из automerger/NeuralsirkrishnaShadow-7B и automerger/Inex12Neural-7B. Она содержит 7,1 млрд параметров и предназначена для генерации текста на основе текстового запроса; длина контекста составляет до 32 768 токенов. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. Данные карточки не описывают специализацию по языкам или прикладным областям, поэтому её следует рассматривать как модель общего назначения. Качество и конкретные возможности зависят от запроса и сценария применения.

Next-1B — компактная авторегрессионная языковая модель на базе Gemma 3, разработанная Lamapi. Модель содержит около 1 млрд параметров, использует трансформерную архитектуру и дообучена методом instruction fine-tuning (SFT) на турецких и многоязычных наборах данных. Она ориентирована на работу с текстом, поддерживает турецкий язык и широкий набор других языков, включая английский, русский, арабский, немецкий, французский, испанский, китайский, японский и корейский. Модель предназначена для генерации текста, суммаризации, ответов на вопросы, творческого письма, рассуждений и решения задач на естественном языке. К её сильным сторонам относятся небольшой размер, низкие требования к ресурсам, возможность запуска на пользовательских GPU с малым объёмом видеопамяти, а также поддержка CPU-развёртывания и вариантов квантования. README не указывает размер контекстного окна, точные показатели качества, доступные модальности помимо текста или систематические ограничения модели, поэтому её возможности в специализированных и критически важных сценариях требуют отдельной проверки. Модель распространяется по лицензии MIT, разрешающей использование, изменение и распространение.

PLaMo-13B-Instruct — языковая модель с инструкционной настройкой, разработанная Preferred Networks, Inc. на основе PLaMo-13B с контекстом 8192 токена. Это плотная авторегрессионная модель с архитектурой decoder-only и 14,7 млрд параметров; для работы с весами в формате safetensors используется библиотека Transformers. Модель предназначена для диалогов и выполнения инструкций на японском и английском языках. Она обучена на 1,5 трлн токенов, включая 1,32 трлн английских и 0,18 трлн японских токенов; при инструкционной настройке использовались публичные датасеты, в том числе японские переводы и подмножества Dolly, Anthropic HH-RLHF, OpenAssistant и Izumi-lab. Модель может выдавать неточные, предвзятые или нежелательные ответы. Проверки проводились на английском и японском языках и не охватывают все сценарии, поэтому перед внедрением рекомендуется тестирование и настройка безопасности под конкретное приложение. Лицензия — Apache License 2.0.

Salamandra-7B-Instruct-Aina-Hack — разговорная языковая модель, разработанная подразделением языковых технологий Barcelona Supercomputing Center для мероприятия AinaHack, посвящённого созданию ИИ-инструментов для администрации Каталонии. Это инструкция-настроенная версия Salamandra-7B: decoder-only трансформер семейства Llama с 32 слоями и примерно 7 млрд параметров. Модель принимает текст и генерирует текст, использует шаблон ChatML и поддерживает контекст до 8192 токенов. Модель предназначена для диалоговых помощников и генерации текста на европейских языках, а также может служить основой для прикладной донастройки. Семейство Salamandra обучалось с нуля на многоязычном корпусе из 35 европейских языков и программного кода; карточка этой версии описывает её как proof of concept с предварительной настройкой следования инструкциям. Модель распространяется под лицензией Apache 2.0. У модели выявлены социальные и когнитивные смещения, а анализ охватывает не все поддерживаемые языки. Карточка предупреждает, что модель не прошла RLHF-выравнивание для фильтрации чувствительных тем и может создавать вредный или неподходящий контент; перед применением в продуктах необходимы оценка рисков и дополнительная настройка безопасности.

Shisa V2 Llama 3.3 70B — двуязычная чат-модель общего назначения, разработанная Shisa.AI на основе Meta-Llama-3.3-70B-Instruct. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров и контекстом до 131 072 токенов; репозиторий содержит веса в формате safetensors. Модель обучали с акцентом на улучшение японского языка, сохраняя возможности английского, с помощью расширенного синтетического постобучения и оптимизации инструктивного поведения. Модель предназначена для диалогов, следования инструкциям и генерации текста на японском и английском языках; также предусмотрен интерфейс вызова инструментов. По опубликованным оценкам, она превосходит базовую Llama 3.3 70B Instruct по ряду японских тестов, но результаты на английских бенчмарках неоднородны и зависят от теста. Для запуска проверена совместимость с vLLM и SGLang. Лицензия — Llama 3.3; использование регулируется условиями лицензии Meta.

T3qm7xNeuralsirkrishna_YamM7 — объединённая текстовая модель на архитектуре Mistral с 7,1 млрд параметров, созданная на основе automerger/T3qm7xNeuralsirkrishna-7B и automerger/YamM7-7B. Она предназначена для генерации текста и диалогов, включая сценарии с длинным контекстом до 32 768 токенов. Модель опубликована в формате Safetensors и распространяется по лицензии Apache 2.0. Данные карточки не уточняют целевые языки и специализацию, поэтому модель можно описать как универсальную генеративную языковую модель.

T5Gemma-2B-2B-PrefixLM-IT — разработанная Google instruction-tuned модель семейства T5Gemma с энкодером и декодером по 2 млрд параметров. Она основана на предварительно обученной модели google/t5gemma-2b-2b-prefixlm и предназначена для генерации и преобразования текста по инструкциям. Архитектура encoder-decoder объединяет энкодер и декодер; веса доступны в формате safetensors и модель рассчитана на работу с английским текстом. Её можно применять для ответов на вопросы, суммаризации, рассуждений и создания текстов. Небольшой по меркам крупных языковых моделей размер позволяет запускать её на локальных компьютерах или в облачной инфраструктуре. Модель может ошибаться в фактах, хуже справляться со сложными или неоднозначными запросами и наследовать смещения обучающих данных. Лицензия — Gemma; перед использованием следует учитывать политику допустимого использования Gemma.

google/t5gemma-l-l-prefixlm — предварительно обученная текстовая модель Google из семейства T5Gemma с энкодером и декодером размера L, адаптированная с помощью PrefixLM. Архитектура encoder-decoder преобразует текст в текст; модель относится к варианту T5Gemma, созданному на основе подхода Gemma, и предназначена для генерации текста по входному запросу. Модель можно применять для ответов на вопросы, суммаризации, рассуждений и других задач генерации, а энкодер — для классификации и понимания текста. В карточке указана поддержка английского языка. Весы опубликованы в формате safetensors; лицензия — Gemma. К сильным сторонам относятся универсальность текстовых задач и возможность использовать модель в средах с ограниченными ресурсами. Возможны ошибки в фактах и рассуждениях, трудности с неоднозначными формулировками и нюансами языка, а результаты зависят от данных обучения и контекста запроса.

google/t5gemma-s-s-ul2-it — англоязычная instruction-tuned encoder-decoder-модель Google из семейства T5Gemma. Она получена дообучением базовой google/t5gemma-s-s-ul2, адаптированной из decoder-only-модели по схеме UL2; веса опубликованы в формате safetensors. Архитектура использует энкодер и декодер размера S. Модель предназначена для генерации текста по инструкциям, в том числе для ответов на вопросы, суммаризации, рассуждений и создания черновиков текстов. Текстовый формат входа и выхода позволяет применять её в сценариях text-to-text и диалоговых приложениях. Карточка не приводит число параметров и длину контекста этой версии. К ограничениям относятся возможные фактические ошибки, смещения в ответах и трудности с нюансами языка или сложными открытыми задачами; качество зависит от обучающих данных и формулировки запроса. Лицензия — Gemma; применяются условия и ограничения использования Gemma.

QuantFactory/Teuken-7B-instruct-commercial-v0.4-GGUF — квантизированная версия 7-миллиардной instruction-tuned языковой модели Teuken-7B-instruct-commercial-v0.4, созданная с использованием llama.cpp. Исходную модель разработали Fraunhofer, Forschungszentrum Jülich, TU Dresden и DFKI в рамках исследовательского проекта OpenGPT-X при финансировании Федерального министерства экономики и защиты климата Германии. Архитектура модели — decoder-only Transformer. Модель предназначена для генерации текста, диалоговых сценариев и других мультиязычных NLP-задач, включая коммерческое и исследовательское использование. Она ориентирована на все 24 официальных языка Европейского союза: болгарский, чешский, датский, немецкий, греческий, английский, испанский, эстонский, финский, французский, ирландский, хорватский, венгерский, итальянский, литовский, латышский, мальтийский, нидерландский, польский, португальский, румынский, словацкий, словенский и шведский. Предобучение базовой модели выполнено на 4 триллионах токенов из общедоступных источников с датой отсечения данных в сентябре 2023 года. Сильная сторона модели — специализация на мультиязычных задачах и более стабильная работа с европейскими языками по сравнению с англоцентричными моделями. Для корректной работы требуется использовать предусмотренный prompt template или chat template. Модель не предназначена для математических и программных задач; также возможны галлюцинации, предвзятые, токсичные или иным образом вредные ответы. Размер контекста и конкретный формат квантизации в предоставленной карточке не указаны. Модель распространяется по лицензии Apache 2.0.

YamshadowInex12_T3qExperiment26 — объединённая модель генерации текста, созданная из automerger/YamshadowInex12-7B и automerger/T3qExperiment26-7B. Она предназначена для сценариев, где требуется генерировать текст на основе текстового запроса. Модель использует плотную архитектуру Mistral и содержит 7,1 млрд параметров. Контекстное окно — до 32 768 токенов; веса опубликованы в формате safetensors. Модель распространяется по лицензии Apache-2.0.

ghostlamp/2 — объединённая языковая модель на архитектуре Llama, созданная с помощью mergekit методом DARE TIES на основе Princeton NLP Llama-3-8B-ProLong-512k-Base, Arkana08/LexiMaid-L3-8B и DavidAU/L3.1-Dark-Planet-SpinFire-Uncensored-8B. В репозитории представлены веса SafeTensors в формате bfloat16; размер модели составляет 7,5 млрд параметров. Модель предназначена для генерации текста и диалогового общения. Базовая модель поддерживает контекст до 524 288 токенов, что подходит для работы с длинными текстовыми запросами и документами. Карточка не сообщает отдельные целевые языки и прикладные области. Лицензия в предоставленных данных не указана.

Sao10K/70B-L3.3-Cirrus-x1 — диалоговая языковая модель, созданная на основе Meta Llama 3.3 70B Instruct. Автор сообщает, что использовал тот же состав данных, что и для Freya, применял другой подход к обучению, обучал модель дольше и также объединял её с чекпойнтами. Это плотная архитектура LlamaForCausalLM с 69,5 млрд параметров; модель работает с текстом и поддерживает контекст до 131 072 токенов. Модель предназначена для диалога и генерации текста. Автор отмечает выразительный стиль и большую стабильность по сравнению с предыдущими версиями, но также указывает на отдельные исправимые проблемы. Для промптов используется формат Llama-3-Instruct; в карточке приведены рекомендуемые параметры генерации. Модель распространяется по лицензии Llama 3.3.

AI21-Jamba2-3B — компактная языковая модель компании AI21 Labs для локального развёртывания на телефонах и персональных компьютерах. Она содержит 2,3 млрд параметров и использует архитектуру Jamba, сочетающую слои Mamba и Transformer; модель доступна через библиотеку Transformers и предназначена для генерации текста в диалоговом режиме. Модель подходит для следования инструкциям, ответов с опорой на предоставленный контекст, работы с длинными документами и сценариев RAG, в том числе при обработке технической и корпоративной документации. Контекстное окно составляет 256 000 токенов. По карточке, обучение включало дообучение на инструкциях, оптимизацию DPO и этапы обучения с подкреплением; заявлены результаты на бенчмарках instruction following и grounding. Модель выпущена под лицензией Apache 2.0, допускающей коммерческое использование. Компактный размер рассчитан на устройства с ограниченными ресурсами, однако качество конкретных ответов следует проверять на целевых задачах; сведения о поддерживаемых естественных языках в предоставленных данных отсутствуют.

Aitana-7B-S-Instruct-v0.1-i1-GGUF — это квантизированная версия инструкционной языковой модели Aitana-7B-S-Instruct, разработанной GPLSI. Репозиторий подготовлен и квантизирован пользователем mradermacher в формате GGUF для локального запуска. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и прикладных сценариях, включая ответы на вопросы, работу с многоязычными данными, извлечение информации, задачи рассуждения и обработку специализированных текстов. Модель имеет размер 7B параметров и работает с текстом. В README заявлена поддержка каталанского, испанского и английского языков; обучение и дообучение проводились на наборах данных для инструкционного обучения, многоязычного общения, поиска с дополнением контекста, перевода, юридических вопросов, научных фактов и математических задач. Доступно множество вариантов квантизации с разным размером от примерно 2,4 до 5,7 ГБ. В качестве рекомендуемого варианта указана i1-Q4_K_M, а i1-Q4_K_S описана как компромисс между размером, скоростью и качеством. Сильными сторонами модели являются ориентация на следование инструкциям, поддержка каталанского, испанского и английского языков, а также возможность запуска в ресурсно-ограниченной среде благодаря GGUF-квантизации. Ограничения включают зависимость качества и скорости от выбранного уровня квантизации; наиболее компактные варианты могут давать заметно более низкое качество. Архитектура и размер контекстного окна в README не указаны. Модель распространяется по лицензии Apache-2.0.

Aya 23 — открытая по весам мультиязычная instruction fine-tuned модель, разработанная Cohere For AI и основанная на семействе моделей Command. В каталоге cortexso/aya доступны варианты с 8 и 35 млрд параметров. Модель предназначена для генерации и понимания текста на 23 языках, а также для задач машинного перевода и других мультиязычных сценариев. К сильным сторонам Aya 23 относятся широкий языковой охват и ориентация на выполнение инструкций; среди поддерживаемых языков указаны арабский, китайский, английский, испанский, хинди и вьетнамский. README не содержит сведений о длине контекста, точной архитектуре, мультимодальности или количественной оценке ограничений, поэтому эти характеристики нельзя определить по имеющимся данным. Модель распространяется по лицензии CC-BY-NC-4.0, допускающей использование с ограничениями, включая некоммерческий характер лицензии.

Gemma 2 9B — текстовая авторегрессионная модель семейства Gemma, разработанная Google. Это базовая предварительно обученная версия с открытыми весами; README также описывает семейство в целом, включая варианты, дообученные для следования инструкциям. Модель предназначена для генерации текста, диалогов, ответов на вопросы, суммаризации и рассуждений, а её сравнительно компактный размер позволяет запускать её на персональных компьютерах и в собственной облачной инфраструктуре. Модель принимает текст и генерирует текст. В карточке семейство указано как англоязычное; конкретная длина контекста и число параметров не приведены в предоставленных данных. Модель может выдавать неточные или устаревшие сведения, испытывать трудности со сложным контекстом, нюансами языка и здравым смыслом, а также воспроизводить предвзятости обучающих данных. Лицензия — Gemma, с условиями и ограничениями, заданными политиками Google для использования моделей Gemma.