III.1Стратегия, продукт и бизнес-модели

zelk12/MT-BM-gemma-2-9B — языковая модель, созданная разработчиком zelk12 слиянием двух предварительно обученных моделей Gemma 2 9B с помощью mergekit и метода SLERP. Это плотная авторегрессионная модель с архитектурой Gemma2ForCausalLM, рассчитанная на генерацию текста и диалоговое взаимодействие. Размер модели — 9 млрд параметров, нативное окно контекста — 8192 токена; веса опубликованы в формате safetensors. Модель подходит для диалоговой генерации и других сценариев, где требуется продолжать или создавать текст по запросу. README указывает на слияние zelk12/MT-BB-gemma-2-RAt0.75v0.1Rv0.4-9B и zelk12/MT-MU-gemma-2-Rv0.3G-9B, с базовой моделью zelk12/MT-BB-gemma-2-RAt0.75v0.1Rv0.4-9B и типом данных bfloat16. Данные о поддерживаемых естественных языках и лицензии в предоставленных источниках отсутствуют.

zelk12 создал MT-Merge2-MU-gemma-2-MTg2MT1g2-9B — объединённую методом SLERP языковую модель на архитектуре Gemma 2 с 9 млрд параметров. Она предназначена для генерации текста и диалогового общения; доступна в формате Safetensors и рассчитана на контекст до 8192 токенов. Модель объединяет zelk12/MT1-Gen2-gemma-2-9B и zelk12/MT-Gen2-gemma-2-9B с помощью mergekit. В README приведены результаты оценки на Open LLM Leaderboard, включая IFEval и BBH. Сведения о лицензии и поддерживаемых естественных языках в предоставленных данных отсутствуют.

rinna/nekomata-7b-instruction — это дообученная по инструкциям версия языковой модели rinna/nekomata-7b, разработанная rinna при участии Tianyu Zhao и Kei Sawada. Модель построена на плотном трансформере Qwen с 32 слоями и размером 11,4 млрд параметров; контекст — до 32 768 токенов. Для запросов используется формат Alpaca. Модель предназначена для генерации текста и выполнения инструкций на японском и английском языках. При дообучении использовались подмножества Databricks Dolly, японской версии Dolly, FLAN Instruction Tuning и японских наборов из корпуса Izumi lab LLM Japanese; некоторые секции оценочных корпусов были исключены для снижения риска утечки данных. Репозиторий содержит веса PyTorch и Safetensors. Лицензия указана как other, поэтому перед использованием следует проверить условия на странице модели. Карточка ссылается на страницу бенчмарков rinna, но не приводит результаты непосредственно; качество для конкретной задачи следует оценить отдельно.

Norns-Qwen2.5-7B — объединённая языковая чат-модель, созданная автором win10 методом breadcrumbs_ties с помощью mergekit. В качестве базовой модели использована win10/Skuld-Qwen2.5-7B, в объединение также вошла win10/Urdandi-Qwen2.5-7B. Репозиторий содержит веса в формате safetensors и предназначен для использования с библиотекой Transformers. Карточка приводит результаты оценки на MMLU-Pro: общий балл 41,46; показатели по отдельным областям варьируются, например, 64,16 по биологии и 21,98 по праву. Модель рассчитана на чатовые сценарии с текстовым вводом и текстовым выводом. README не сообщает лицензию, размер контекста или перечень языков, поэтому эти характеристики здесь не приводятся.

OpenAlpaca — предварительная версия открытой модели для следования инструкциям, разработанная на основе OpenLLaMA. Это плотная авторегрессионная модель семейства Llama с 6,6 млрд параметров; доступны веса PyTorch. Модель дообучена на наборе Databricks Dolly 15k, а исходная версия OpenLLaMA обучалась на 700 млрд токенов. Модель предназначена для генерации текста по пользовательским инструкциям, например для ответов на вопросы, составления текстов и выполнения простых запросов в диалоговом формате. Контекст ограничен 2048 токенами. В README не заявлена поддержка конкретных естественных языков, поэтому языковая специализация не указана. Лицензия — Apache-2.0.

bunnycore/Phi-4-Model-Stock-v4 — объединённая языковая модель, созданная с помощью mergekit методом Model Stock на основе bunnycore/Phi-4-Model-Stock. В объединение вошли версии bunnycore/Phi-4-Model-Stock-v2 и v3, а также pankajmathur/orca_mini_phi-4. Модель имеет плотную архитектуру LlamaForCausalLM и около 14,1 млрд параметров; она предназначена для генерации текста и диалогов, а её контекст составляет до 16 384 токенов. Модель можно применять для ведения диалогов и генерации ответов или другого текста. В README приведены результаты оценки Open LLM Leaderboard: средний результат 41,03, IFEval — 71,10 и BBH — 55,90. Данных о поддерживаемых языках и специальной предметной области в предоставленных материалах нет. Лицензия в предоставленных материалах не указана.

d4g0at5h0rty/sage-ml — дообученная разговорная языковая модель семейства Sage с плотной архитектурой Cohere2ForCausalLM. Модель содержит 3,3 млрд параметров и рассчитана на генерацию текста в диалоговом формате; контекст — до 8192 токенов. Модель подходит для ведения диалогов и генерации ответов на текстовые запросы. В метаданных указаны английский и многоязычная поддержка, библиотека Transformers и формат весов safetensors. Модель выпущена под лицензией Apache-2.0.

sfm_filtered_e2e_alignment-6k_7k_8k_9k_10k_weightedavg_merge — объединение языковых моделей, созданное с помощью mergekit. В карточке указано линейное слияние контрольных точек обучения на шагах 6000, 7000, 8000, 9000 и 10000; контрольная точка шага 10000 использовалась как базовая при слиянии. Модель имеет архитектуру GPT-NeoX, около 8,8 млрд параметров и контекстное окно до 16 384 токенов. Она предназначена для генерации текста и диалогового взаимодействия. Данные не уточняют конкретные языки, предметные области или специальные сценарии применения. Модель распространяется в формате Safetensors. Лицензия в предоставленных данных не указана.

sfm_filtered_midtrain_alignment-0k_1k_2k_simpleavg_merge — объединённая языковая модель, созданная с помощью mergekit методом Linear из контрольных точек предварительно обученной модели. В качестве базовой использована контрольная точка global_step2000; в слияние также включены global_step0 и global_step1000. Семейство архитектуры — GPT-NeoX, модель плотная, содержит 8,8 млрд параметров и поддерживает контекст до 16 384 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. В метаданных указана библиотека Transformers и формат весов safetensors. Карточка не сообщает о специализированных областях применения, поддерживаемых естественных языках или лицензии, поэтому эти характеристики не уточняются.

Модель yuhengtu-bytedance/sfm_filtered_midtrain_alignment-4k_5k_6k_weightedavg_merge — объединение предварительно обученных языковых моделей, созданное с помощью mergekit. Для слияния применён линейный метод: чекпойнт global_step6000 использован как базовый, а чекпойнты global_step4000 и global_step5000 также включены в объединение. Модель построена на архитектуре GPT-NeoX и содержит 8,8 млрд параметров; формат весов — safetensors, контекст — до 16 384 токенов. Предназначена для генерации текста и диалогового взаимодействия. Карточка не сообщает конкретные языки или специализированные области применения. Условия лицензии в доступных данных не указаны.

ShadowYamshadow_Experiment31Experiment29 — объединённая модель генерации текста, опубликованная MaziyarPanahi. Она создана слиянием automerger/ShadowYamshadow-7B и automerger/Experiment31Experiment29-7B. Модель построена на архитектуре Mistral с плотной структурой и содержит 7,1 млрд параметров. Она принимает текст и генерирует текст, поддерживая контекст длиной до 32 768 токенов. Веса представлены в формате safetensors. Подходит для генерации продолжений текста и других сценариев текстовой генерации. Метаданные не уточняют специализацию или поддерживаемые языки. Лицензия — Apache-2.0.

QuantFactory/suzume-llama-3-8B-multilingual-GGUF — это квантованная в формате GGUF версия мультиязычной модели lightblue/suzume-llama-3-8B-multilingual, созданная с помощью llama.cpp. Базой служит Meta-Llama-3-8B-Instruct от Meta; исходная модель дообучена примерно на 90 тысячах многоязычных диалогов. Модель предназначена для текстового общения, генерации ответов и инструкционного взаимодействия на нескольких языках. В обучении использовались датасеты с англоязычными, японскими и другими многоязычными диалогами, а оценивание проводилось на немецком, французском, японском, русском, китайском и английском языках. Ключевая особенность — расширенная поддержка неанглийских языков при сохранении возможностей Llama 3 для диалоговых задач. Размер модели — 8B параметров; архитектура унаследована от Llama 3. Модель является текстовой, поддержка изображений и других модальностей не заявлена. Размер контекста в карточке не указан. По MT-Bench модель получила оценки 7,26 на немецком, 7,66 на французском, 6,56 на японском, 8,19 на русском, 7,11 на китайском и 7,73 на английском. Эти результаты указывают на сильные мультиязычные диалоговые способности, однако русская оценка не включала задачи на код, рассуждения и математику, а подробности методики и обучающих данных должны быть дополнительно проверены. Для использования заявлена лицензия Llama 3; в карточке она обозначена как other и приведена ссылка на лицензию Meta-Llama-3-8B-Instruct. Ограничения лицензии, требования к применению и характеристики конкретных квантованных вариантов в README подробно не описаны.

SwedishBeagle-dare — объединённая чат-модель на архитектуре Mistral, созданная с помощью LazyMergekit из Mistral-совместимых моделей timpal0l/Mistral-7B-v0.1-flashback-v2, EmbeddedLLM/Mistral-7B-Merge-14-v0.2 и Nexusflow/Starling-LM-7B-beta. В конфигурации объединения базовой моделью указана mlabonne/NeuralBeagle14-7B; применён метод dare_ties. Модель с 7,1 млрд параметров предназначена для генерации текста и диалоговых ответов. Контекст — до 32 768 токенов. Карточка не описывает отдельные специализированные функции или целевые языки, поэтому её следует рассматривать как чат-модель общего назначения. Модель распространяется по лицензии Apache-2.0. Качество ответов и языковая поддержка могут зависеть от задачи; данных о специализированном обучении и оценках в карточке нет.

Tess-M-v1.2 — экспериментальная версия универсальной большой языковой модели из серии Tess, разработанной migtissera. Модель построена на архитектуре Llama и дообучена на базе Yi-34B-200K; размер составляет около 33,9 млрд параметров, контекст — до 200 000 токенов. Для диалога используется формат с ролями SYSTEM, USER и ASSISTANT. Модель предназначена для генерации текста и общих языковых задач. Версия v1.2 устарела и помечена разработчиком как экспериментальная; в README рекомендуется стабильный выпуск Tess-M-v1.3. Лицензия указана как other, поэтому условия использования следует сверять с лицензией в репозитории.

Thespian-LLaMa-70B — экспериментальная объединённая языковая модель от TareksGraveyard, созданная методом mergekit из нескольких моделей семейства Llama. Для объединения использован метод della, а базой служила nbeerbower/Llama-3.1-Nemotron-lorablated-70B; в состав также вошли модели EVA-UNIT-01, Sao10K, SicariusSicariiStuff и TheDrummer. Модель предназначена для диалогового общения и генерации текста. Она построена на архитектуре LlamaForCausalLM, содержит 69,5 млрд параметров и поддерживает контекст до 131 072 токенов. Репозиторий предоставляет веса в формате safetensors для библиотеки Transformers. Автор описывает результат как удачный, но отмечает, что его другая модель, Progenitor-V1.1-LLaMa-70B, по его мнению, получилась лучше. Модель лицензирована по условиям llama3.3. README не приводит оценки качества или подробные ограничения применения, поэтому результат генерации следует проверять в конкретных сценариях.

Tulu V2.5 PPO 13B — англоязычная разговорная модель-помощник, разработанная Allen Institute for AI. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров, дообученная на базе allenai/tulu-2-13b с помощью PPO на промптах UltraFeedback и 70-миллиардной reward-модели, обученной на предпочтениях UltraFeedback. Контекст модели составляет 4096 токенов. Модель предназначена для диалогов с помощником, выполнения инструкций и генерации текста общего назначения. В опубликованных оценках она превосходит Tulu 2+DPO 13B по некоторым показателям и показывает конкурентные результаты на тестах Open-Instruct, но уступает более крупной модели на сложных задачах рассуждения. Для качественной генерации следует использовать шаблон чата, предусмотренный токенизатором. Модель принимает текст и генерирует текст на английском языке. Лицензия — Apache 2.0. В RLHF-фазе модель не была специально выровнена для безопасных ответов и не снабжена встроенной фильтрацией, поэтому может выдавать проблемный контент, особенно при соответствующих запросах.

YamshadowStrangemerges_32_Neuralsirkrishnaexperiment26Experiment24 — объединённая языковая модель, опубликованная MaziyarPanahi на Hugging Face. Она предназначена для генерации текста и может использоваться в сценариях, где требуется продолжать или создавать текстовые ответы. Модель построена на архитектуре Mistral с плотной причинно-языковой архитектурой MistralForCausalLM и содержит 7,1 млрд параметров. Она принимает текст, выдаёт текст и поддерживает контекст до 32 768 токенов. Веса доступны в формате safetensors. Модель получена слиянием automerger/YamshadowStrangemerges_32-7B и automerger/Neuralsirkrishnaexperiment26Experiment24-7B. Репозиторий указывает лицензию Apache-2.0. Карточка не описывает специализацию по языкам или предметным областям, поэтому применение следует считать общим; подтверждённые качество и ограничения в README не приводятся.

Meta Llama 3.1 8B Instruct — языковая модель Meta для диалогов и генерации текста. Это авторегрессионная модель на основе оптимизированного трансформера с Grouped-Query Attention; версия Instruct настроена с помощью supervised fine-tuning и обучения с обратной связью от людей (RLHF). Модель принимает и генерирует текст, поддерживает диалоговый режим и предназначена для коммерческого и исследовательского применения. Модель подходит для создания чат-ассистентов, ответов на запросы и других задач генерации текста на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Контекстное окно в предоставленных материалах не указано. Модель обучена на статичном офлайн-наборе данных; возможны ошибки и небезопасные ответы, поэтому результаты следует проверять, а для использования инструментов требуется отдельная интеграция и контроль со стороны разработчика. Условия распространения и применения регулируются лицензией Meta Llama 3.1 Community License и Acceptable Use Policy.

ERNIE-4.5-300B-A47B-Paddle — текстовая языковая модель семейства ERNIE 4.5, разработанная Baidu и распространяемая с весами для PaddlePaddle. Это модель типа Mixture of Experts: всего 300 млрд параметров, из которых для каждого токена активируется около 47 млрд; архитектура включает 54 слоя и 64 текстовых эксперта, из которых активируются 8. Модель предназначена для диалогов, понимания текста и генерации ответов; контекстное окно составляет 131 072 токена. В карточке также описаны мультимодальное обучение ERNIE 4.5 и визуальные варианты семейства, однако данный чекпойнт обозначен как текстовая модель. Для запуска и дообучения предусмотрены инструменты PaddlePaddle и ERNIEKit. Модель распространяется по лицензии Apache-2.0.

Модель avans06/Meta-Llama-3.2-8B-Instruct — текстовая генеративная модель семейства Llama, размещённая на Hugging Face. Метаданные указывают на плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров, формат safetensors и контекст до 131 072 токенов. Она предназначена для диалогов и генерации текста; также заявлен интерфейс вызова инструментов. Карточка репозитория описывает Llama 3.2-Vision моделей Meta на 11B и 90B параметров, принимающих текст и изображения. Эти сведения не совпадают с идентификатором и архитектурными метаданными данной 8B текстовой модели, поэтому визуальные возможности и характеристики Vision к ней не приписываются. Метаданные перечисляют поддержку английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Лицензия — Llama 3.2 Community License, обозначенная в метаданных как llama3.2.

GLM-4.5 — гибридная языковая модель семейства GLM, разработанная Z.ai и предназначенная для интеллектуальных агентов. Эта версия представлена в репозитории Unsloth и основана на zai-org/GLM-4.5; метаданные указывают 23,4 млрд параметров, архитектуру GLM-4 MoE и формат safetensors. Модель поддерживает генерацию текста и диалог, а интерфейс вызова инструментов позволяет использовать её в агентных сценариях. Контекстное окно — 131 072 токена; среди указанных языков — английский и китайский. Модель рассчитана на рассуждения, программирование и взаимодействие с инструментами; семейство поддерживает режимы с пошаговым рассуждением и быстрыми ответами. Репозиторий распространяется по лицензии MIT, допускающей коммерческое использование и модификацию. В README размер семейства GLM-4.5 указан как 355 млрд общих и 32 млрд активных параметров, но метаданные этого репозитория указывают 23,4 млрд параметров для представленной версии.

GLM-4.5 — базовая гибридная модель с открытыми весами, разработанная Z.ai и предназначенная для интеллектуальных агентов. Она объединяет рассуждение, программирование и работу с инструментами; поддерживает режимы пошагового мышления для сложных задач и вызова инструментов, а также режим быстрых ответов. Архитектура семейства GLM-4 MoE, класс модели для причинной генерации текста; в карточке Hugging Face указано 23,4 млрд параметров, а README описывает серию GLM-4.5 с 355 млрд общих и 32 млрд активных параметров. Контекст — до 131 072 токенов. Модель принимает текстовые запросы и выдаёт текст; заявлены английский и китайский языки. Модель подходит для диалоговых помощников, программирования, сложного анализа и агентных сценариев с вызовом инструментов. README сообщает о результатах на 12 отраслевых бенчмарках, но конкретные результаты требуют сверки с техническим отчётом. Весовые файлы доступны в формате safetensors; для запуска описана поддержка Transformers, vLLM и SGLang, а в README также упомянуты варианты BF16 и FP8 для серии. Лицензия MIT допускает коммерческое использование и доработку. Для полного вывода GLM-4.5 требуются значительные вычислительные ресурсы; приведённые в README конфигурации для тонкой настройки включают 16 ускорителей H100 для LoRA.

LFM2-24B-A2B — универсальная инструктивная языковая модель компании Liquid AI из семейства LFM2, предназначенная для локального развёртывания на устройствах и компьютерах. Это гибридная архитектура MoE с 24 млрд параметров, из которых активны около 2,3 млрд на токен; в метаданных указано 3,4 млрд параметров. Модель имеет 40 слоёв: 30 сверточных и 10 attention-слоёв, поддерживает контекст до 128 000 токенов и работает через Transformers. Для хранения весов используется safetensors. Модель подходит для диалогов, вызова инструментов, локальных RAG-систем, суммаризации документов и ответов на вопросы. Её можно использовать для приватных сценариев на собственном оборудовании, включая поддержку клиентов и многошаговые агентные процессы. Заявлена поддержка английского, арабского, китайского, французского, немецкого, японского, корейского, испанского и португальского языков. Разработчик не рекомендует модель для программирования; она не использует цепочки рассуждений в ответах. Лицензия обозначена как other, поэтому конкретные условия использования следует сверить с карточкой репозитория.

Карточка модели CollectionStudio/Trinity-Large-Thinking на Hugging Face совпадает с карточкой arcee-ai/Trinity-Large-Thinking, поэтому описание составлено по ней. Trinity-Large-Thinking — ориентированная на рассуждения и агентные сценарии модель семейства Trinity-Large от Arcee AI. Это дообученная на базе arcee-ai/Trinity-Large-Base разреженная MoE-модель для генерации текста; по README, в семействе около 398 млрд параметров и примерно 13 млрд активных параметров на токен, используется 256 экспертов, включая одного общего. Метаданные указывают 8,7 млрд параметров, поэтому точный размер данного чекпойнта в источниках расходится. Модель предназначена для многошагового планирования, вызова инструментов, диалогов и задач, требующих развёрнутых рассуждений. Она формирует трассы рассуждений в специальных блоках, которые следует сохранять в контексте при многоходовом взаимодействии и циклах агента. Поддерживает 262 144 токена контекста и языки en, es, fr, de, it, pt, ru, ar, hi, ko и zh. Метаданные указывают лицензию other; конкретные условия использования следует сверять с карточкой модели.

google/gemma-3-4b-it-qat-int4-unquantized — мультимодальная диалоговая модель Google из семейства Gemma 3, основанная на Gemma 3 4B IT. Она принимает текст и изображения и генерирует текст; поддерживает чат, ответы на вопросы по изображениям, суммаризацию и другие задачи генерации текста. Семейство Gemma 3 рассчитано на контекст до 128 тыс. токенов и поддерживает более 140 языков. В репозитории указаны веса safetensors и лицензия Gemma. Модель подходит для чат-ботов, виртуальных помощников, создания и редактирования текстов, извлечения сведений из изображений и изучения больших текстовых материалов. Компактный размер семейства позволяет развёртывание на локальных компьютерах и собственной облачной инфраструктуре. Ответы могут содержать фактические ошибки, отражать предвзятость обучающих данных и хуже справляться с неоднозначными формулировками и сложными открытыми задачами; для приложений с пользовательским контентом необходимы подходящие меры безопасности.

Granite-3.0-3B-A800M-Base — базовая языковая модель IBM Granite Team для генерации текста и других задач преобразования текста. Это декодерный трансформер со sparse Mixture of Experts (MoE): в README указаны 32 слоя и размер эмбеддинга 1536. Модель обучена с нуля в два этапа на 8 трлн и затем 2 трлн токенов из открытых и проприетарных источников; репозиторий содержит веса в формате Safetensors, библиотека — Transformers. Метаданные указывают 352,3 млн параметров и контекст до 4096 токенов. Модель предназначена для суммаризации, классификации и извлечения информации, ответов на вопросы и других сценариев генерации текста; также её можно использовать как основу для специализированного дообучения. Поддерживаемые языки: английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский. Лицензия — Apache 2.0. Модель не проходила выравнивание по безопасности, поэтому может генерировать проблемный контент. Возможны предвзятость, дезинформация, галлюцинации и буквальное воспроизведение фрагментов обучающих данных.

Llama-3.1-Nemotron-Ultra-253B-v1 — крупная языковая модель NVIDIA, производная от Meta Llama-3.1-405B-Instruct. Это reasoning- и chat-модель для разработчиков AI-агентов, чат-ботов, RAG-систем, инструментального вызова и других приложений на основе генерации текста, а также для стандартных задач следования инструкциям, математики, программирования и рассуждений. Модель обучалась с ноября 2024 года по апрель 2025 года и выпущена 7 апреля 2025 года. Модель использует плотную decoder-only Transformer-архитектуру с 253 млрд параметров, модифицированную с помощью Neural Architecture Search. В отдельных блоках применяются пропуск attention, переменное соотношение расширения FFN и объединение последовательных FFN-слоёв. Для восстановления качества использовались knowledge distillation на 65 млрд токенов и continual pretraining на 88 млрд токенов, а последующее дообучение включало supervised fine-tuning и reinforcement learning с GRPO. Поддерживается текстовый ввод и вывод с контекстом до 131 072 токенов; модель предназначена прежде всего для английского языка и языков программирования, также заявлена поддержка немецкого, французского, итальянского, португальского, хинди, испанского и тайского. К сильным сторонам относятся сочетание высокой точности с уменьшенным потреблением памяти, потенциально более высокая пропускная способность и сниженная задержка благодаря NAS и вертикальной компрессии. Модель рассчитана на работу на одном узле с 8 GPU H100, совместима с NVIDIA Hopper и Ampere, использует Transformers и ориентирована на Linux. Ограничения включают очень большой размер, высокие требования к вычислительным ресурсам и отсутствие гарантии качества для языков и сценариев, не перечисленных разработчиком. Использование регулируется NVIDIA Open Model License и дополнительными условиями Llama 3.1 Community License Agreement; модель заявлена как пригодная для коммерческого использования.

Llama-SEA-LION-v3.5-8B-R — инструктивная языковая модель AI Singapore, разработанная командой Products Pillar при финансировании Национального исследовательского фонда Сингапура. Это плотная decoder-модель на архитектуре Llama 3.1 с 7,5 млрд параметров, дообученная на основе aisingapore/Llama-SEA-LION-v3-8B-IT. Она предназначена для диалога, генерации текста, следования инструкциям и задач, требующих рассуждений; режим рассуждений или стандартной генерации выбирается через шаблон чата токенизатора. Модель поддерживает бирманский, китайский, английский, филиппинский, индонезийский, яванский, кхмерский, лаосский, малайский, сунданский, тамильский, тайский и вьетнамский языки. Контекстное окно — до 128 тысяч токенов по карточке модели; метаданные указывают 131 072 токена. Модель может применяться для ответов на вопросы, анализа тональности и токсичности, перевода, суммаризации, причинных рассуждений и многошагового диалога. Модель способна галлюцинировать, выдавать нерелевантные или противоречивые ответы, поэтому результаты следует проверять. Она не прошла настройку безопасности; для пользовательских приложений разработчикам следует самостоятельно обеспечить необходимую настройку и меры защиты. Лицензия — Llama 3.1 Community License.

Meta-Llama-3.1-70B-Instruct-FP8 — квантизированная версия языковой модели Meta-Llama-3.1-70B-Instruct, разработанная Neural Magic. Модель предназначена для коммерческого и исследовательского использования, прежде всего для диалоговых ассистентов и генерации текста. Она принимает текст и генерирует текст, поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки, однако в документации отдельно указано ограничение на использование неанглийских языков. Модель имеет архитектуру Meta-Llama-3.1 и размер 70B параметров. Веса и активации линейных слоёв внутри трансформерных блоков квантизированы в формат FP8 с симметричной потензорной схемой; квантизация уменьшает объём хранения и требования к GPU-памяти примерно на 50%. Оптимизированная версия сохраняет близкие результаты базовой модели: средний балл OpenLLM составляет 84,29 против 84,40 у неквантизированной версии. Для развёртывания рекомендуется vLLM, включая режим, совместимый с OpenAI API. К ограничениям относятся возможное снижение качества относительно полной точности, отсутствие указанного в README размера контекстного окна и формальное требование соблюдать применимое законодательство. Модель распространяется по лицензии llama3.1; релиз версии 1.0 состоялся 23 июля 2024 года.

Sakalti/ultiima-72B — слитая языковая модель автора Sakalti на архитектуре Qwen2, созданная методом TIES с помощью mergekit на основе Qwen/Qwen2.5-72B и Qwen/Qwen2.5-72B-Instruct. Это плотная авторегрессионная модель на 71,5 млрд параметров в формате safetensors с контекстом до 131 072 токенов; она предназначена для генерации текста и диалогов. Метаданные отмечают интерфейс вызова инструментов, а карточка приводит результаты оценки на Open LLM Leaderboard, включая IFEval и BBH. Модель поддерживает множество языков, среди которых английский, китайский, русский, французский, испанский, немецкий, японский, арабский и хинди. Её можно применять для диалоговых ассистентов, генерации текстов и ответов на инструкции. Карточка указывает лицензию «other», поэтому условия использования следует сверить с лицензией и правилами репозитория; конкретные ограничения применения в карточке не описаны.