III.10Проекты, процессы и операционное управление

unsloth/Llama-4-Scout-17B-16E-Instruct-unsloth-bnb-4bit — это 4-битно-квантизированная версия инструкционной модели Llama 4 Scout 17B-16E-Instruct, разработанной Meta. Модель предназначена для выполнения текстовых инструкций и решения широкого круга задач генерации и обработки текста, включая диалоговые сценарии, ответы на вопросы, суммирование и подготовку контента. В карточке указана поддержка арабского, немецкого, английского, испанского, французского, хинди, индонезийского, итальянского, португальского, тайского, тагальского и вьетнамского языков. Суффикс bnb-4bit указывает на 4-битное представление весов, которое обычно снижает требования к памяти и может упростить локальный запуск по сравнению с полноразмерной версией, однако точные требования к оборудованию, контекстное окно, сведения о мультимодальности и результаты тестирования в README не приведены. Модель удобна для инференса в условиях ограниченных вычислительных ресурсов, но квантизация может повлиять на точность и качество ответов относительно исходной версии. Модель распространяется по Llama 4 Community License от Meta. При распространении материалов или производных продуктов необходимо соблюдать условия лицензии, включая предоставление текста соглашения, указание «Built with Llama» и другие требования Meta; для организаций с более чем 700 миллионами ежемесячно активных пользователей предусмотрено получение отдельной лицензии.

Aya-23-8B — мультиязычная авторегрессионная языковая модель на архитектуре Transformer, разработанная Cohere For AI и Cohere. Это версия на 8 млрд параметров семейства Aya 23, дообученная следовать инструкциям на основе предварительно обученной модели семейства Command и коллекции Aya. Модель предназначена для диалогов, ответов на вопросы, написания и преобразования текстов на 23 языках, включая русский, английский, китайский, арабский, хинди и японский. Поддерживает текстовый ввод и генерацию текста, а также интерфейс вызова инструментов. Контекстное окно составляет 8192 токена. Веса доступны по лицензии CC-BY-NC-4.0; применение также регулируется политикой допустимого использования Cohere For AI. Для работы с моделью требуется версия Transformers с необходимыми изменениями. Модель ориентирована на мультиязычное следование инструкциям, но карточка не приводит подробностей об ограничениях качества по отдельным языкам.

Flan-UL2 — текстовая encoder-decoder модель Google на архитектуре T5 с 7,6 млрд параметров. Она основана на контрольной точке UL2 и дообучена на коллекции Flan с формулировками задач в виде инструкций. Репозиторий содержит веса PyTorch, лицензия — Apache 2.0. Модель предназначена для выполнения разнообразных текстовых задач по инструкциям, включая генерацию и продолжение текста, ответы на вопросы, суммаризацию, рассуждения и классификацию. Она поддерживает обучение на нескольких примерах в контексте и не требует специальных mode tokens UL2. README приводит контекстное поле 2048 токенов; метаданные указывают native context в 512 токенов. Flan-UL2 сочетает предварительное обучение UL2 с инструкционной настройкой Flan и рассчитана на широкий круг задач обработки естественного языка. Для запуска на GPU авторы рекомендуют загрузку в 8-битном режиме для снижения потребления памяти. Это крупная модель, поэтому для инференса нужны значительные вычислительные ресурсы; опубликованные оценки не гарантируют качество на каждом отдельном сценарии.

Карточка модели crusoeai/Llama-3.1-8B-Instruct на Hugging Face совпадает с карточкой meta-llama/Llama-3.1-8B-Instruct, поэтому описание составлено по ней. Meta Llama 3.1 8B Instruct — языковая модель Meta для диалогов и генерации текста. Это авторегрессионная модель на основе оптимизированного трансформера с Grouped-Query Attention; версия Instruct настроена с помощью supervised fine-tuning и обучения с обратной связью от людей (RLHF). Модель принимает и генерирует текст, поддерживает диалоговый режим и предназначена для коммерческого и исследовательского применения. Модель подходит для создания чат-ассистентов, ответов на запросы и других задач генерации текста на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Контекстное окно в предоставленных материалах не указано. Модель обучена на статичном офлайн-наборе данных; возможны ошибки и небезопасные ответы, поэтому результаты следует проверять, а для использования инструментов требуется отдельная интеграция и контроль со стороны разработчика. Условия распространения и применения регулируются лицензией Meta Llama 3.1 Community License и Acceptable Use Policy.

Карточка модели tanliboy/llama-3.2-3b на Hugging Face совпадает с карточкой alpindale/Llama-3.2-3B, поэтому описание составлено по ней. alpindale/Llama-3.2-3B — текстовая модель семейства Llama 3.2, разработанного Meta. Это авторегрессионная плотная трансформерная модель с 3,2 млрд параметров и архитектурой LlamaForCausalLM; репозиторий содержит веса Safetensors для Transformers. Модель принимает и генерирует текст, поддерживает контекст до 131 072 токенов и рассчитана на многоязычную генерацию. Модель подходит для диалогового помощника, суммаризации, поиска знаний и приложений с агентными сценариями, а также для мобильных помощников по написанию текста и переформулирования запросов. В README описаны применение и возможности семейства Llama 3.2; отдельное дообучение alpindale/Llama-3.2-3B не подтверждено, поэтому характеристики поведения конкретного чекпойнта могут отличаться от описания семейства. Заявленные языки поддержки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Лицензия llama3.2 — пользовательская лицензия сообщества Meta с собственными условиями коммерческого использования и политикой допустимого использования. Модель обучена на статическом офлайн-наборе данных; как компактная модель, она может уступать более крупным системам по качеству и требует проверки безопасности и пригодности для конкретного применения.

Карточка модели IntervitensInc/Llama-3.2-3B-chatml на Hugging Face совпадает с карточкой alpindale/Llama-3.2-3B, поэтому описание составлено по ней. alpindale/Llama-3.2-3B — текстовая модель семейства Llama 3.2, разработанного Meta. Это авторегрессионная плотная трансформерная модель с 3,2 млрд параметров и архитектурой LlamaForCausalLM; репозиторий содержит веса Safetensors для Transformers. Модель принимает и генерирует текст, поддерживает контекст до 131 072 токенов и рассчитана на многоязычную генерацию. Модель подходит для диалогового помощника, суммаризации, поиска знаний и приложений с агентными сценариями, а также для мобильных помощников по написанию текста и переформулирования запросов. В README описаны применение и возможности семейства Llama 3.2; отдельное дообучение alpindale/Llama-3.2-3B не подтверждено, поэтому характеристики поведения конкретного чекпойнта могут отличаться от описания семейства. Заявленные языки поддержки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Лицензия llama3.2 — пользовательская лицензия сообщества Meta с собственными условиями коммерческого использования и политикой допустимого использования. Модель обучена на статическом офлайн-наборе данных; как компактная модель, она может уступать более крупным системам по качеству и требует проверки безопасности и пригодности для конкретного применения.

NVIDIA Nemotron 3 Nano Omni — мультимодальная большая языковая модель, разработанная NVIDIA в рамках семейства Nemotron. Эта версия распространяется в формате GGUF и предназначена для понимания видео, аудио, изображений и текста с применением в корпоративных системах: вопросно-ответных сервисах, суммаризации, транскрипции, анализе документов и интеллектуальной автоматизации графического интерфейса. Модель использует гибридную архитектуру Mamba2-Transformer с Mixture of Experts (MoE), включает языковую модель Nemotron 3 Nano LLM 30B A3B, визуальный энкодер CRADIO v4-H и речевой энкодер Parakeet. Общее число параметров — около 31 млрд (30B A3B). Поддерживаются видео MP4 длительностью до 2 минут, аудиофайлы WAV и MP3 длительностью до 1 часа, изображения JPEG и PNG, а также текст. Заявлена максимальная длина контекста до 256 тысяч токенов. Хотя в метаданных перечислены английский, французский, испанский, итальянский, немецкий, японский и китайский языки, в описании входных данных явно указана поддержка только английского языка. Модель подходит для анализа видеозаписей и речи, поиска и суммаризации медиаконтента, обработки контрактов и финансовых документов, OCR, GUI-автоматизации и агентных сценариев. Она поддерживает JSON-вывод, вызов инструментов, рассуждения и временные метки слов при транскрипции. Основные ограничения — ориентация на NVIDIA GPU и Linux, а также заявленная поддержка только аппаратуры NVIDIA и английского языка. Для работы указаны vLLM, NeMo, Megatron и NeMo-RL. Использование регулируется NVIDIA Open Model Agreement; в README также указана возможность коммерческого применения.

google/gemma-3-12b-it-qat-int4-unquantized — мультимодальная диалоговая модель Google семейства Gemma 3, представленная как дообученная версия google/gemma-3-12b-it. Она принимает текст и изображения и генерирует текст; подходит для чат-ботов, ответов на вопросы по изображениям, извлечения и пересказа визуальной информации, суммаризации и генерации текстов. Открытые веса и сравнительно компактный размер семейства позволяют запускать модель на локальных компьютерах или собственной облачной инфраструктуре. Gemma 3 поддерживает контекст до 128 тысяч токенов и более 140 языков. Модель может ошибаться в фактах, испытывать трудности с неоднозначностью, тонкими языковыми нюансами и сложными открытыми задачами, а её ответы могут отражать смещения обучающих данных. Лицензия — Gemma; перед использованием следует соблюдать условия лицензии и политику допустимого использования Google.

Google Gemma 3 27B IT QAT Q4_0 Unquantized — мультимодальная инструктивно настроенная модель на основе Google Gemma 3 27B IT, предназначенная для диалога и понимания изображений. Она принимает текст и изображения, а генерирует текст; семейство Gemma 3 поддерживает контекст до 128 тыс. токенов и более 140 языков. В репозитории указаны веса safetensors и связь с базовой моделью google/gemma-3-27b-it. Модель подходит для ответов на вопросы по изображениям и текстам, диалоговых помощников, генерации и суммаризации текста, а также извлечения и интерпретации визуальной информации. Размер семейства позволяет запускать модели Gemma 3 на локальных компьютерах или собственной облачной инфраструктуре, но для варианта на 27 млрд параметров всё равно требуются заметные вычислительные ресурсы. К ограничениям относятся возможные фактические ошибки, смещения обучающих данных и трудности с неоднозначными формулировками и сложными задачами. Лицензия — Gemma; перед использованием следует учитывать условия лицензии Google Gemma и политику запрещённого использования.

google/gemma-3-4b-it-qat-int4-unquantized — мультимодальная диалоговая модель Google из семейства Gemma 3, основанная на Gemma 3 4B IT. Она принимает текст и изображения и генерирует текст; поддерживает чат, ответы на вопросы по изображениям, суммаризацию и другие задачи генерации текста. Семейство Gemma 3 рассчитано на контекст до 128 тыс. токенов и поддерживает более 140 языков. В репозитории указаны веса safetensors и лицензия Gemma. Модель подходит для чат-ботов, виртуальных помощников, создания и редактирования текстов, извлечения сведений из изображений и изучения больших текстовых материалов. Компактный размер семейства позволяет развёртывание на локальных компьютерах и собственной облачной инфраструктуре. Ответы могут содержать фактические ошибки, отражать предвзятость обучающих данных и хуже справляться с неоднозначными формулировками и сложными открытыми задачами; для приложений с пользовательским контентом необходимы подходящие меры безопасности.

Gemma-SEA-LION-v4-27B-IT-GGUF — квантованная GGUF-версия Gemma-SEA-LION-v4-27B-IT, разработанная подразделением AI Products Pillar компании AI Singapore при финансировании Singapore NRF. Это decoder-модель семейства SEA-LION (Southeast Asian Languages In One Network), ориентированная на задачи для Юго-Восточной Азии. Модель предназначена для генерации и понимания текста, диалоговых сценариев, обработки документов, визуальных вопросов и ответов, рассуждений по изображениям, вызова функций и формирования структурированных ответов. Модель имеет 27B параметров и контекстное окно до 128K токенов. Она поддерживает текст и изображения, использует токенизатор Gemma 3 27B Instruct и обучалась на бирманском, английском, индонезийском, кхмерском, лаосском, малайском, китайском, тагальском, тамильском, тайском и вьетнамском языках. Квантованные варианты Q4_K_M, Q8_0 и BF16 снижают требования к памяти и совместимы с различными движками инференса, включая llama.cpp; вариант Q4_K_M может запускаться на ноутбуке с 16 ГБ памяти через Ollama. Сильными сторонами являются специализация на языках и сценариях Юго-Восточной Азии, большой контекст, мультимодальность и поддержка интеграции в системы через function calling и structured outputs. Ограничения включают зависимость производительности и требований к памяти от выбранного варианта квантования, а также отсутствие выравнивания по безопасности: разработчикам и пользователям необходимо самостоятельно применять safety fine-tuning и дополнительные меры защиты. Лицензия — Gemma Terms of Use.

LFM2.5-8B-A1B — мультиязычная текстовая модель Liquid AI для диалогов и рассуждений. Это дообученная версия базовой модели LiquidAI/LFM2.5-8B-A1B-Base; архитектура — гибридная MoE с 8,3 млрд параметров всего и примерно 1,5 млрд активных. Модель рассчитана на запуск на устройствах и поддерживает контекст до 128 000 токенов. Модель предназначена для персональных ассистентов, выполнения сложных инструкций, вызова инструментов, структурированного вывода и агентных сценариев. Она поддерживает английский, арабский, китайский, французский, немецкий, итальянский, японский, корейский, португальский и испанский языки. Для инференса доступны Transformers, vLLM и SGLang; авторы также отмечают поддержку llama.cpp и MLX. По карточке, модель показывает конкурентные результаты для своего размера в следовании инструкциям и агентных задачах. Она хуже подходит для сложного программирования и вопросов, требующих обширных знаний без поиска по источникам. Лицензия указана как other; конкретные условия следует сверить с файлами лицензии в репозитории.

Карточка модели yuwy-thu/llama31 на Hugging Face совпадает с карточкой meta-llama/Llama-3.1-8B-Instruct, поэтому описание составлено по ней. Meta Llama 3.1 8B Instruct — языковая модель Meta для диалогов и генерации текста. Это авторегрессионная модель на основе оптимизированного трансформера с Grouped-Query Attention; версия Instruct настроена с помощью supervised fine-tuning и обучения с обратной связью от людей (RLHF). Модель принимает и генерирует текст, поддерживает диалоговый режим и предназначена для коммерческого и исследовательского применения. Модель подходит для создания чат-ассистентов, ответов на запросы и других задач генерации текста на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Контекстное окно в предоставленных материалах не указано. Модель обучена на статичном офлайн-наборе данных; возможны ошибки и небезопасные ответы, поэтому результаты следует проверять, а для использования инструментов требуется отдельная интеграция и контроль со стороны разработчика. Условия распространения и применения регулируются лицензией Meta Llama 3.1 Community License и Acceptable Use Policy.

Карточка модели d-matrix/Llama-3.1-8B-Instruct на Hugging Face совпадает с карточкой meta-llama/Llama-3.1-8B-Instruct, поэтому описание составлено по ней. Meta Llama 3.1 8B Instruct — языковая модель Meta для диалогов и генерации текста. Это авторегрессионная модель на основе оптимизированного трансформера с Grouped-Query Attention; версия Instruct настроена с помощью supervised fine-tuning и обучения с обратной связью от людей (RLHF). Модель принимает и генерирует текст, поддерживает диалоговый режим и предназначена для коммерческого и исследовательского применения. Модель подходит для создания чат-ассистентов, ответов на запросы и других задач генерации текста на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Контекстное окно в предоставленных материалах не указано. Модель обучена на статичном офлайн-наборе данных; возможны ошибки и небезопасные ответы, поэтому результаты следует проверять, а для использования инструментов требуется отдельная интеграция и контроль со стороны разработчика. Условия распространения и применения регулируются лицензией Meta Llama 3.1 Community License и Acceptable Use Policy.

Llama-SEA-LION-v3.5-8B-R — инструктивная языковая модель AI Singapore, разработанная командой Products Pillar при финансировании Национального исследовательского фонда Сингапура. Это плотная decoder-модель на архитектуре Llama 3.1 с 7,5 млрд параметров, дообученная на основе aisingapore/Llama-SEA-LION-v3-8B-IT. Она предназначена для диалога, генерации текста, следования инструкциям и задач, требующих рассуждений; режим рассуждений или стандартной генерации выбирается через шаблон чата токенизатора. Модель поддерживает бирманский, китайский, английский, филиппинский, индонезийский, яванский, кхмерский, лаосский, малайский, сунданский, тамильский, тайский и вьетнамский языки. Контекстное окно — до 128 тысяч токенов по карточке модели; метаданные указывают 131 072 токена. Модель может применяться для ответов на вопросы, анализа тональности и токсичности, перевода, суммаризации, причинных рассуждений и многошагового диалога. Модель способна галлюцинировать, выдавать нерелевантные или противоречивые ответы, поэтому результаты следует проверять. Она не прошла настройку безопасности; для пользовательских приложений разработчикам следует самостоятельно обеспечить необходимую настройку и меры защиты. Лицензия — Llama 3.1 Community License.

Lambent/qwen2.5-reinstruct-alternate-lumen-14B — объединённая диалоговая языковая модель Lambent на архитектуре Qwen2, созданная с помощью mergekit. В основе объединения лежит Lambent/qwen2.5-lumen-rebased-14B; также использована Qwen/Qwen2.5-14B-Instruct. Модель содержит 14 млрд параметров, распространяется в формате safetensors и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалогов и генерации текста, включая структурированные ответы и интерфейс вызова инструментов. В README приведена оценка EQ-Bench 77,6713; автор отмечает, что она сопоставима с Lumen и исходной Instruct-моделью, но оценка не гарантирует качество для конкретных задач. Метаданные указывают поддержку китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Лицензия в предоставленных источниках не указана.

Gemma 3 12B IT — мультимодальная модель Google с открытыми весами, представленная в репозитории Unsloth. Это вариант с инструкционной настройкой на базе google/gemma-3-12b-pt; модель принимает текст и изображения и генерирует текст. Архитектура Gemma 3 — плотная, число параметров — 12 млрд. Семейство поддерживает контекст до 128 тыс. токенов и более 140 языков. Модель предназначена для диалогов, ответов на вопросы по тексту и изображениям, суммаризации, генерации текстов и визуального извлечения информации. Она подходит для локального запуска на компьютерах и для развёртывания в собственной инфраструктуре. Веса опубликованы в формате Safetensors. Ответы могут содержать фактические ошибки, а качество зависит от обучающих данных и формулировки запроса. Модель может хуже справляться с неоднозначностью, тонкими языковыми нюансами и сложными открытыми задачами; возможны смещения и генерация вредного контента. Лицензия — Gemma; при использовании необходимо соблюдать её условия и политику запрещённого использования Google.

Llama-3-8B-ProLong-512k-Instruct — длинноконтекстная чат-модель Princeton NLP, созданная продолженным обучением и дообучением с учителем на основе Meta-Llama-3-8B-Instruct. Она рассчитана на генерацию ответов и работу с инструкциями при анализе больших объёмов текста. Модель имеет плотную архитектуру LlamaForCausalLM и 7,5 млрд параметров, принимает контекст длиной до 524 288 токенов. Для адаптации к длинным текстам модель обучали на данных ProLong с контекстами до 64K и 512K токенов; инструкционное дообучение проводилось на UltraChat. Авторы сообщают о сильных результатах в оценке длинноконтекстных моделей HELMET. Модель поддерживает диалоговый сценарий, но README не перечисляет конкретные языки и не приводит подробностей о качестве на отдельных задачах. Лицензия — Llama 3 (llama3).

xGen-small-9B-instruct-r — диалоговая языковая модель Salesforce из семейства xGen-small, предназначенная для генерации ответов и ведения чата. Это плотная авторегрессионная модель с архитектурой LlamaForCausalLM; в метаданных указано 10,2 млрд параметров и контекст до 262 144 токенов. Вариант instruct дообучен для диалогового использования. Модель подходит для длинных текстовых запросов и ответов, требующих работы с обширным контекстом, а также для общих задач рассуждения и знаний. В README приведены сравнительные результаты для тестов MMLU, MMLU-Pro и Arena-Hard; это результаты оценок, а не гарантия качества в прикладных сценариях. Salesforce описывает xGen-small как компактную модель с предметно-ориентированным отбором данных, масштабируемым предварительным обучением, расширением контекста и дообучением с RL. Выпуск предназначен для исследований; README рекомендует проверять точность, безопасность и справедливость перед применением, особенно в сценариях с высоким риском. Лицензия — CC BY-NC 4.0, допускающая использование с некоммерческими ограничениями.

Aya-Expanse-32B — открытая по весам мультиязычная языковая модель, разработанная Cohere For AI. Она предназначена для диалогов и генерации текста на 23 языках, включая русский, а также поддерживает интерфейс вызова инструментов. Модель построена на авторегрессионной архитектуре Transformer семейства Cohere и содержит 32,3 млрд параметров. В метаданных Hugging Face указан контекст 8192 токена; в README заявлено 128K, поэтому длина контекста в источниках расходится. В README также описаны дообучение с учителем, обучение на предпочтениях, настройка безопасности и слияние моделей. Модель подходит для многоязычных диалогов, ответов на вопросы, написания и преобразования текста. Лицензия CC-BY-NC-4.0 ограничивает коммерческое использование; также требуется соблюдать политику допустимого использования Cohere For AI.

ChatGLM2-6B — разработанная командой THUDM двуязычная диалоговая модель второго поколения семейства ChatGLM. Это плотная модель на 7,5 млрд параметров с архитектурой ChatGLM, обученная на 1,4 трлн китайских и английских токенов и дополнительно выровненная с предпочтениями людей. Она предназначена для диалога и генерации текста, включая ответы на вопросы, многоходовое общение и задачи на рассуждение. Модель поддерживает китайский и английский языки и контекст до 32 768 токенов; при обучении диалогов использовалась длина контекста 8K. Для ускорения инференса применяется Multi-Query Attention, а реализация использует FlashAttention. В README отмечено, что модель ограниченно понимает сверхдлинные документы в рамках одного запроса. Репозиторий содержит веса PyTorch. Код распространяется по Apache-2.0, а для весов действует отдельная лицензия модели: бесплатное коммерческое использование разрешено после заполнения анкеты.

Euraika/EuroLLM-22B-Instruct-GPTQ — 4-битная GPTQ-квантизованная версия инструкционной языковой модели EuroLLM-22B-Instruct-2512, разработанной командой EuroLLM проекта UTTER. Квантизацию выполнила Euraika с использованием GPTQModel; модель предназначена для генерации текста и диалоговых сценариев, включая ответы на вопросы, объяснение сложных тем и работу в формате ChatML. Модель поддерживает все 24 официальных языка Европейского союза, а также турецкий, украинский и другие европейские языки: английский, немецкий, французский, итальянский, испанский, португальский, польский, нидерландский, чешский, греческий, венгерский, румынский, финский, шведский, болгарский, словацкий, датский, словенский, литовский, латышский, эстонский, хорватский, ирландский, мальтийский и норвежский. Архитектура базовой модели в README не уточнена; заявлены 22 млрд параметров, 53 трансформерных слоя и размер квантизованной модели около 14 ГБ. Используется GPTQ с точностью 4 бита, group size 128 и desc_act=true. Ключевое преимущество модели — существенное снижение требований к памяти при сохранении заявленного качества квантизации; поддерживаются инференс через GPTQModel, vLLM и Transformers/AutoGPTQ, а также работа на нескольких GPU. Минимально рекомендуется 16 ГБ VRAM, оптимально — 24 ГБ. Ограничения включают зависимость качества от 4-битной квантизации и отсутствие в README сведений о длине контекста базовой модели, мультимодальности, результатах независимых бенчмарков и конкретных гарантиях качества. Модель распространяется по лицензии Apache 2.0.

ApolloRaines/Llama-3.3-8B-Instruct-128K-Jbliterated — доработанная командой ApolloRaines модель на архитектуре Llama 3.3 для диалогов и генерации текста. Она создана на основе shb777/Llama-3.3-8B-Instruct-128K с применением jBlaze precision neural surgery; изменены все 32 слоя. Модель содержит 7,5 млрд параметров, использует формат safetensors и поддерживает контекст до 131 072 токенов. Модель предназначена для общения и генерации текста с длинным контекстом. В карточке заявлена настройка на снижение отказов: в тесте Heretic на 100 запросах авторы сообщили о нуле настоящих отказов и двух ложных срабатываниях. Авторы также описывают выпуск как демонстрационную версию с намеренно сниженной силой возможностей, а не полную версию продукта. Заявления о скорости и результатах теста относятся к сведениям карточки модели. Поддерживаемые языки по метаданным: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Лицензия — Llama 3.1 Community License; применяйте модель с учётом её условий и ограничений.

caskcsg/Llama-3-8B-NExtLong-512K-Instruct — диалоговая языковая модель семейства Llama, разработанная авторами проекта NExtLong. Это дообученная версия Llama-3-8B-NExtLong-512K-Base: базовую модель обучали на синтетических длинных контекстах, созданных методом NExtLong с чередованием фрагментов документа и отвлекающих фрагментов из корпусов предобучения; instruct-версию дополнительно настроили на Magpie-Align/Magpie-Llama-3.3-Pro-1M-v0.1. Модель предназначена для генерации ответов и работы с длинными входными контекстами, включая поиск информации в тексте, вопросы и ответы по документам, длинноконтекстный RAG и задачи с примерами в контексте. Заявленное окно контекста — 524 288 токенов; размер модели — около 7,5 млрд параметров. Модель имеет плотную архитектуру Llama и поставляется в формате safetensors. Карточка приводит результаты оценки на LongBench V2, HELMET, RULER и короткоконтекстных бенчмарках. Карточка не сообщает поддерживаемые языки или лицензию, поэтому применимые условия использования следует уточнить в репозитории модели. Указанная длина контекста — характеристика модели; фактическое использование такого окна зависит от реализации и доступных вычислительных ресурсов.

Shisa V2 Mistral Nemo 12B — двуязычная чат-модель общего назначения, разработанная Shisa.AI на базе Mistral-Nemo-Instruct-2407. Это плотная авторегрессионная модель семейства Mistral с 12,1 млрд параметров и контекстом до 131 072 токенов; веса доступны в формате Safetensors. Модель дообучена на синтетических диалоговых и предпочтительных данных, чтобы улучшить качество ответов на японском языке и сохранить возможности на английском. Модель предназначена для диалога, генерации текста, следования инструкциям и сценариев вызова инструментов. В тестах Shisa.AI она показала улучшение японских результатов относительно базовой модели; опубликованы также оценки для английского языка и ряда общих бенчмарков. Поддерживаются японский и английский языки. Модель распространяется по лицензии Apache 2.0. Результаты бенчмарков не гарантируют качество на конкретных пользовательских данных. Как и другие языковые модели, она может выдавать фактически неверные ответы; для критичных решений ответы следует проверять.

Карточка модели llmware/slim-boolean-phi-3 на Hugging Face совпадает с карточкой llmware/slim-xsum-phi-3, поэтому описание составлено по ней. llmware разработала llmware/slim-xsum-phi-3 — дообученную на базе Microsoft Phi-3 модель серии DRAGON для ответов на вопросы по контексту в RAG-сценариях. Она предназначена для работы с текстовыми фрагментами и выдаёт ответы, извлечённые из предоставленных материалов; типовые задачи включают ответы на вопросы, извлечение значений и краткое суммирование. В карточке модели сообщается о тестировании на наборе RAG-инструкций, включая вопросы с ответом «не найдено», логические задачи и суммирование. Модель имеет плотную архитектуру Phi-3 с 3,7 млрд параметров и контекстное окно 4096 токенов. Указанный язык — английский. Репозиторий содержит веса PyTorch, модель поддерживает чат и распространяется по лицензии Apache 2.0. Результаты внутренних тестов не гарантируют точности на других данных: ответы могут быть неполными или неверными, поэтому их следует проверять.

German-RAG-LLAMA-3.1-8B-MERGED-HESSIAN-AI — авторегрессионная языковая модель на архитектуре Transformer, разработанная командой Avemio AI при поддержке Hessian AI. Это объединённая модель семейства Llama 3.1 объёмом 7,5 млрд параметров, предназначенная для немецкоязычных RAG-систем и задач ответов на вопросы по предоставленному контексту. Она также подходит для извлечения релевантных сведений и краткого пересказа источников; в карточке заявлена поддержка немецкого и английского языков. Нативная длина контекста — 131 072 токена. Модель распространяется в формате safetensors и поддерживает чатовый режим. Метаданные Hugging Face указывают лицензию llama3.1, тогда как README заявляет Apache 2.0; лицензионные условия следует уточнить перед использованием. В оценке объединённая версия показала более низкий результат извлечения, чем варианты SFT и ORPO из той же серии. Ответы могут содержать фактические ошибки, а без фильтрации модель может генерировать вредный или чувствительный контент.

Llama-SEA-LION-v3.5-70B-R — гибридная языковая модель AI Singapore, разработанная командой Products Pillar при финансировании NRF Сингапура. Это плотная авторегрессионная модель-декодер на архитектуре Llama 3.1 с 69,5 млрд параметров, дообученная на инструкциях на базе Llama-SEA-LION-v3-70B-IT. Режим рассуждений или обычной генерации выбирается через шаблон чата токенизатора. Модель предназначена для диалога, генерации текста, рассуждений и выполнения инструкций, в том числе на языках Юго-Восточной Азии. Поддерживает бирманский, китайский, английский, филиппинский, индонезийский, яванский, кхмерский, лаосский, малайский, сунданский, тамильский, тайский и вьетнамский языки. Контекст составляет до 128 тыс. токенов по README; метаданные указывают 131 072 токена. Доступна в формате Safetensors и запускается через Transformers. Модель оценивалась на задачах вопросов и ответов, анализа тональности, обнаружения токсичности, перевода, суммаризации, причинного рассуждения и следования инструкциям. Она может галлюцинировать и давать нерелевантные или непоследовательные ответы. Модель не прошла настройку безопасности, поэтому ответы следует проверять, а для развёртывания предусмотреть собственные меры безопасности. Лицензия — Llama 3.1 Community License.

lunahr/Hermes-3-Llama-3.2-3B-abliterated — это изменённая версия Hermes 3 3B, диалоговой языковой модели Nous Research на архитектуре Llama с 3,2 млрд параметров. В основе лежит NousResearch/Hermes-3-Llama-3.2-3B, дообученная на базе Llama-3.2 3B; этот вариант описан как abliterated. Модель использует формат диалога ChatML и рассчитана на контекст до 131 072 токенов. Модель предназначена для многоходового общения и следования инструкциям, а также для генерации кода, ролевых диалогов, структурированных JSON-ответов и вызова функций. Метаданные указывают поддержку английского языка; модель работает с текстом на входе и генерирует текст. В README для Hermes 3 заявлены улучшения в рассуждениях, согласовании с запросами пользователя, связности на длинном контексте и агентных сценариях. При работе с вызовом функций нужно учитывать описанное автором отклонение в формате: ответы инструмента передаются в роли user, что требует адаптации кода интеграции. Модель распространяется по лицензии Llama 3.

Llama-SEA-LION-v3-70B-IT — языковая модель с настройкой по инструкциям, разработанная командой Products Pillar организации AI Singapore при финансировании Национального исследовательского фонда Сингапура. Это плотная авторегрессионная модель-декодер на архитектуре Llama 3.1 с 69,5 млрд параметров; она принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Контекст составляет до 131 072 токенов. Модель предназначена для следования инструкциям и общения на английском и языках Юго-Восточной Азии. В README перечислены бирманский, китайский, английский, филиппинский, индонезийский, яванский, кхмерский, лаосский, малайский, сунданский, тамильский, тайский и вьетнамский; настройка по инструкциям проводилась на английском, индонезийском, яванском, сунданском, тамильском, тайском и вьетнамском. Среди проверявшихся задач — ответы на вопросы, анализ тональности, выявление токсичности, перевод и суммаризация. Модель распространяется по лицензии Llama 3.1 Community License. Модель может галлюцинировать, выдавать нерелевантные или вымышленные сведения и непоследовательно рассуждать. В README также отмечено, что релиз не прошёл настройку безопасности, поэтому для ответственных сценариев пользователям следует самостоятельно применять меры безопасности и проверять результаты.