I.12Рекомендации и персонализация

Trinity-Large-Preview — разговорная модель Arcee AI на архитектуре разреженного Mixture-of-Experts (MoE), созданная на основе Trinity-Large-Base и прошедшая лёгкое дообучение для диалога. В README указано около 398 млрд параметров всего и примерно 13 млрд активных параметров на токен; метаданные каталога приводят размер 8,7 млрд параметров. Модель обучалась на более чем 17 трлн токенов, а этап настройки инструкций охватил 20 млрд токенов. Контекст составляет до 262 144 токенов. Модель предназначена для генерации текста и диалогов, в том числе с использованием интерфейса вызова инструментов. Заявлена поддержка английского, испанского, французского, немецкого, итальянского, португальского, русского, арабского, хинди, корейского и китайского языков. Доступны варианты запуска через Transformers, vLLM, llama.cpp, LM Studio и API. Карточка приводит неоднозначные результаты бенчмарков: модель выше Llama 4 Maverick на MMLU, но ниже на MMLU-Pro и GPQA-Diamond. Это preview-чекпойнт, который проходит активное обучение с подкреплением, поэтому качество может меняться. Указана лицензия other; конкретные условия использования следует проверять в репозитории модели.

Vedika 4.1 Flash — экспериментальная предварительная версия мультимодальной модели Veda Labs с открытыми весами. Это причинная языковая модель с визуальным энкодером, ориентированная на диалог, рассуждения и агентные сценарии; интерфейс также предусматривает вызов инструментов. Для загрузки требуется включить trust_remote_code из-за пользовательской архитектуры. Модель совместима с Transformers и рядом движков инференса. Модель содержит 125 млрд параметров, из которых активируются 6 млрд, а также 51 млрд параметров n-граммных эмбеддингов и 4 млрд параметров MTP. Архитектура сочетает разреженное внимание Vedika, Gated DeltaNet, MoE и gated residual. Заявленная длина контекста — 262 144 токена с возможностью расширения до 1 000 000. README не приводит перечень поддерживаемых языков и численные результаты бенчмарков; модель работает в режиме рассуждений по умолчанию. Лицензия в предоставленных материалах не указана.

Xwen-72B-Chat — диалоговая языковая модель команды Xwen, дообученная на базе Qwen2.5-72B. Модель имеет плотную архитектуру Qwen2 и 71,5 млрд параметров; она предназначена для генерации текста и ведения диалогов, включая сценарии с интерфейсом вызова инструментов. Заявленная длина контекста — 131 072 токена. Модель ориентирована на ответы на вопросы, диалоговое взаимодействие и другие задачи генерации текста. В README приведены результаты сравнительных оценок Arena-Hard-Auto, AlignBench и MT-Bench, однако авторы предупреждают, что некоторые сравнения используют заменённые модели-судьи, а результаты других бенчмарков ещё планировалось добавить. Карточка также отмечает, что ответы о личности модели и её разработчиках могут быть случайными, поскольку её идентичность специально не настраивали. Модель опубликована в формате Safetensors и доступна по лицензии Apache-2.0. Отдельные репозитории команды содержат варианты Xwen-72B-Chat в GGUF с различными видами квантования; они не являются форматом данного репозитория.

Карточка модели DIYIN/Youtu-LLM-2B-Base на Hugging Face совпадает с карточкой tencent/Youtu-LLM-2B-Base, поэтому описание составлено по ней. Youtu-LLM-2B-Base — базовая авторегрессионная языковая модель Tencent из семейства Youtu-LLM. Она содержит около 1,96 млрд параметров, использует плотную архитектуру с Multi-head Latent Attention (MLA) и предназначена для генерации текста и дальнейшей адаптации под конкретные задачи. Модель принимает текст и генерирует продолжение; карточка описывает её возможности в рассуждениях, STEM, программировании, работе с длинным контекстом и агентных сценариях. Контекст модели составляет 131 072 токена. В README приведены результаты сравнительных тестов, в том числе по общим знаниям и агентным задачам; заявленные результаты не гарантируют аналогичного качества в каждом применении. Указана лицензия `other`, поэтому перед использованием следует проверить её условия в карточке модели. README не уточняет поддерживаемые естественные языки.

Apertus-v1.5-8B — мультимодальная языковая модель на 8 млрд параметров, разработанная Swiss AI. Она принимает текст, изображения и аудио и генерирует текст; подходит для диалогов, следования инструкциям, анализа визуального и аудиоввода, а также задач рассуждения в режиме thinking. Модель использует decoder-only Transformer с активацией xIELU и поддерживает контекст до 262 144 токенов. Это продолжение предварительного обучения Apertus 1.0 с мультимодальными данными и улучшенной настройкой для следования инструкциям и работы с инструментами. Семейство ориентировано на широкий набор языков и заявлено как полностью открытое: доступны веса, данные и сведения о процессе обучения. Для запуска README описывает модифицированные версии vLLM и Transformers; поддержка инструментария в стандартных выпусках на момент составления карточки находилась в разработке. Модель распространяется по лицензии Apache-2.0. Она может выдавать фактически неверные, логически непоследовательные или предвзятые ответы, поэтому важные сведения следует проверять. В режиме thinking вызов инструментов не поддерживается.

IsValorum/Apodex-1.1-mini-APEX-I-MiniPlus-V2-GGUF — это GGUF-квантизированная версия модели Apodex-1.1-mini, разработанная Apodex и квантизированная IsValorum. Модель предназначена для локального запуска и поддерживает сценарии генерации текста, рассуждений и обработки изображений вместе с текстом; в карточке также заявлены MoE-архитектура, speculative decoding и Multi-Token Prediction (MTP), однако подробные параметры базовой модели в представленном фрагменте README отсутствуют. Модель ориентирована на многоязычное применение. В заявленных языках указаны английский, китайский, испанский, французский, немецкий, португальский, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Для визуальных задач предусмотрен мультимодальный vision projector в формате Q8_0; конкретный размер модели, число параметров и точное максимальное окно контекста для этой версии не указаны. README описывает возможность работы с длинным контекстом свыше 160 тысяч токенов, но это приведено как характеристика практических испытаний семейства MiniPlus, а не как строгое спецификационное ограничение данной сборки. К сильным сторонам относятся специализированная покомпонентная квантизация, сохранение router gates в F32, token output head в Q6_K, attention gates в Q8_0 и использование не менее 3-битных представлений для ключевых reasoning-экспертов. Такая конфигурация призвана сохранить качество рассуждений и снизить требования к памяти по сравнению с неквантизированными моделями. Ограничения связаны с потерями точности, неизбежными для квантизированной версии, зависимостью производительности от аппаратного обеспечения и неполнотой опубликованных технических характеристик. Лицензия — Apache-2.0.

Buzz-3b-Small-v0.6.3 — промежуточный чат-чекпойнт проекта H-D-T, дообученный на базе семейства Llama. Модель имеет плотную архитектуру LlamaForCausalLM примерно с 3,8 млрд параметров и использует шаблон диалога Llama 3. Она обучалась одну эпоху на примерно 6,2 млн примеров; этот чекпойнт соответствует двум десятым пути по датасету Buzz и его срезам. Модель предназначена для диалоговой работы в роли универсального ассистента: она может писать код, разбирать задачи, объяснять и проводить пошаговые разборы, играть персонажей, анализировать данные и выполнять математические вычисления. Принимает текст и генерирует текст, поддерживает контекст до 8192 токенов. Ответы могут быть неточными. Лицензия — Apache-2.0.

Карточка модели NormalGuy85/Crunch-Ai2 на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

EVA-Qwen2.5-72B-v0.2-GGUF — это GGUF-квантизированная версия текстовой генеративной модели EVA-Qwen2.5-72B-v0.2, подготовленная пользователем bartowski с использованием llama.cpp и imatrix-квантизации. Базовая модель указана как EVA-UNIT-01/EVA-Qwen2.5-72B-v0.2; её основой является Qwen2.5-72B. Модель ориентирована на генерацию текста, следование инструкциям, написание различных материалов и ролевые сценарии. В обучающих данных использовались наборы для instruction-following, письма, roleplay и синтетической генерации, включая материалы на базе Opus, Sonnet 3.5, ChatGPT-4o и Dolphin. Модель доступна в нескольких вариантах квантования от Q8_0 до Q2_K и IQ-квантов, с размером файлов примерно от 27 до 77 ГБ. Более высокие варианты сохраняют лучшее качество, а низкобитные требуют меньше оперативной памяти, но могут заметно уступать по качеству. Для запуска рекомендуется использовать LM Studio или совместимый с GGUF движок на базе llama.cpp. В README не указаны точная архитектура, размер контекста, поддерживаемые языки и мультимодальные возможности, поэтому модель следует рассматривать как текстовую. Лицензия обозначена как Qwen; в качестве официального документа приведена лицензия Qwen2.5-72B-Instruct. Условия конкретного использования необходимо проверять по указанному лицензионному тексту. Основные ограничения связаны с большими требованиями к памяти и снижением качества при использовании низких уровней квантования; вариант Q4_K_M описан как оптимальный по размеру для большинства сценариев, а Q6_K и Q5 считаются высококачественными рекомендуемыми вариантами.

LGAI-EXAONE/EXAONE-4.5-33B-AWQ — квантованная версия мультимодальной модели EXAONE 4.5, разработанной LG AI Research. Модель объединяет причинную языковую модель и визуальный энкодер и предназначена для работы с текстом и изображениями, включая понимание документов, визуально-языковые задачи, рассуждения и обработку контекста на корейском языке. Поддерживаются английский, корейский, испанский, немецкий, японский и вьетнамский языки. Модель имеет 33 млрд параметров: 31,7 млрд приходится на языковую часть и 1,29 млрд — на визуальный энкодер. Используется плотная архитектура с 64 основными слоями и одним MTP-слоем, гибридным вниманием, включающим локальное Sliding Window Attention и глобальное внимание. Размер контекста составляет 262 144 токена, отсечка знаний — декабрь 2024 года. Версия AWQ применяет 4-битное группажное квантование весов W4A16g128, что снижает требования к памяти, но может уменьшать точность по сравнению с исходной моделью. Сильными сторонами заявлены конкурентные результаты на общих бенчмарках, превосходство сопоставимых по размеру моделей в понимании документов и корейском контекстном рассуждении, а также поддержка изображений. Ограничения включают возможные потери качества из-за квантования, ограниченность знаний датой отсечки и отсутствие в README подробностей о требованиях к оборудованию, производительности и безопасном применении. Лицензия указана как exaone; дополнительные условия следует уточнять в файле LICENSE.

zaakirio/gemma-4-12b-it-uncensored-GGUF — набор GGUF-квантизаций модели zaakirio/gemma-4-12b-it-uncensored, разработанной на основе Google Gemma 4 12B Instruct. Это декензурированная версия, полученная методом Heretic-abliteration, ориентированная на диалоговые сценарии и запуск через llama.cpp. Модель предназначена для генерации текста, общения, анализа изображений и аудио, а также обработки видео через выборку кадров и аудиодорожку. Модель представляет собой encoder-free unified multimodal decoder-only transformer с 12 млрд параметров и контекстным окном до 256K токенов. Поддерживаются текст, изображения, аудио и видео; для мультимодального ввода требуется отдельный проектор mmproj-gemma-4-12B-it-bf16.gguf. Доступны варианты от Q2_K до Q8_0 и f16 размером примерно от 4,50 до 22,20 ГБ. Опциональный MTP-драфтер может ускорить генерацию на GPU. Поддерживается reasoning-режим, а также системная роль. Сильные стороны модели — сочетание мультимодальности, большого контекста, различных уровней квантизации и совместимость с llama.cpp. Обработка аудио в llama.cpp отмечена как экспериментальная, поэтому качество распознавания может быть сниженным; обработка видео зависит от клиента, выполняющего извлечение кадров. Языки модели явно не перечислены, однако в README подтверждена точная многоязычная транскрипция речи. Лицензия указана как gemma.

Gemma-4-E4B-it-NVFP4 — мультимодальная instruct-модель семейства Gemma 4, созданная на основе google/gemma-4-E4B-it и оптимизированная для диалогового и чат-применения. Квантованную версию подготовил Mario Iseli с использованием NVIDIA Model Optimizer на платформе NVIDIA DGX Spark. Модель предназначена для генерации текста, а также обработки изображений и аудио; заявлена поддержка multilingual-сценариев и контекстного окна до 128K токенов. Архитектура основана на плотной модели с механизмом Per-Layer Embeddings (PLE), где каждый из 26 декодерных слоёв получает специализированный 256-мерный сигнал. Вариант использует квантование NVFP4 по схеме W4A4: веса и активации языковых слоёв представлены в FP4, а башни обработки изображений и аудио, соответствующие проекционные слои и lm_head сохранены в BF16. Размер модели на диске составляет около 10,2 ГБ, при этом мультимодальные компоненты занимают значительную часть памяти. Ключевые преимущества — уменьшенный размер, возможность запуска на совместимом оборудовании NVIDIA и высокая заявленная скорость около 65 токенов в секунду на DGX Spark. Ограничения включают необходимость vLLM с transformers версии 5.4 или новее, зависимость от поддержки NVFP4 и сохранение значительного потребления памяти мультимодальными башнями. Это общественная квантованная сборка, а не официальный релиз NVIDIA или Google. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой модели.

Gemma-SEA-LION-v3-9B — языковая модель, разработанная Products Pillar команды AI Singapore при финансировании Национального исследовательского фонда Сингапура. Это плотная авторегрессионная модель-декодер на архитектуре Gemma 2 с 9 млрд параметров, созданная продолжением предобучения Google Gemma 2 9B примерно на 200 млрд токенов. Она предназначена для генерации текста на английском и языках Юго-Восточной Азии: бирманском, китайском, филиппинском, индонезийском, кхмерском, лаосском, малайском, тамильском, тайском и вьетнамском. Контекст модели составляет 8192 токена. Модель подходит для генерации ответов и текстов, вопросов и ответов, анализа тональности и токсичности, перевода, суммаризации, причинных рассуждений и естественно-языкового вывода. Карточка сообщает об оценке на SEA-HELM, но не приводит в предоставленном тексте конкретные результаты. Модель не прошла выравнивание по безопасности, поэтому при использовании нужны собственные проверки и меры безопасности. Веса доступны в формате safetensors; лицензия — Gemma Community License.

GLM-4.5-Air-Derestricted — диалоговая модель Arli AI, полученная модификацией GLM-4.5-Air методом Norm-Preserving Biprojected Abliteration. Изменение направлено на удаление отказов при сохранении способности исходной модели к рассуждению. По карточке каталога модель имеет архитектуру GLM4 MoE, 8,5 млрд параметров и контекст до 131 072 токенов; поддерживает диалоговый режим и работает через Transformers. Модель предназначена для генерации ответов в диалоге, рассуждений, программирования и сценариев интеллектуальных агентов, унаследованных от GLM-4.5-Air. Автор заявляет, что метод модификации сохраняет нормы весов и качество рассуждений, однако это заявление не подтверждено приведёнными в карточке результатами оценки именно этой версии. Модель распространяется по лицензии MIT; базовая GLM-4.5-Air описана как гибридная модель с режимами рассуждений и работы с инструментами.

GPT-4o mini — компактная мультимодальная модель OpenAI, представленная как модель семейства GPT-4o. Она принимает текст и изображения и формирует текстовые ответы, поэтому подходит для диалога, ответов на вопросы и анализа изображений с текстовым описанием или инструкцией. В карточке она охарактеризована как более доступная по стоимости модель по сравнению с более крупными моделями OpenAI. Сведения о лицензии и ограничениях использования в предоставленных данных отсутствуют.

GPT-5.4 — фронтирная модель OpenAI, объединяющая линейки Codex и GPT. По карточке, она поддерживает контекст более чем в 1 млн токенов: до 922 тыс. входных и 128 тыс. выходных токенов. В доступных данных также указана задача image-text-to-text. Модель предназначена для работы с текстом и изображениями и выдачи текстовых ответов. Сведений о конкретных сценариях, языках, архитектуре, размере и лицензии в предоставленных данных нет, поэтому их нельзя уточнить.

peasantsmith/gpt-oss-120b-PS-IQ4_NL.gguf — это квантизированная версия модели gpt-oss-120b от OpenAI, подготовленная PeasantSmith и BlackFrost AI в формате GGUF для задач генерации текста. Модель использует архитектуру mixture-of-experts; исходные данные README не содержат точных сведений о числе параметров активной части, поддерживаемых языках и модальностях, а также о максимальном контексте. Указано, что вариант IQ4_NL занимает около 71,75 ГБ и имеет показатель 4,91 BPW, поэтому для запуска требуется значительный объём оперативной или видеопамяти. Модель предназначена для локального применения в совместимых средствах инференса, включая llama.cpp, и подходит для диалоговой генерации, ответов на фактические вопросы, программирования и задач, требующих работы с контекстом до 8192 токенов в приведённых тестах. Разработчики сообщают об успешной проверке генерации, реализации LRU-кэша, извлечения значения из контекста длиной 8K и отсутствии ошибок выполнения. Для работы требуется учитывать специальный формат ответов harmony, а результаты тестирования не заменяют независимую оценку качества. Рекомендуемые параметры — temperature 1.0, top-k 0 и top-p 1.0. Это производная квантизация, поэтому лицензия и условия использования определяются лицензией исходной модели gpt-oss-120b от OpenAI и должны быть проверены перед распространением.

harkov000/hermes-stheno-8B-v0.1 — текстовая диалоговая модель на архитектуре Llama, созданная слиянием SLERP моделей NousResearch/Hermes-3-Llama-3.1-8B и Sao10K/Llama-3.1-8B-Stheno-v3.4 с помощью mergekit. Модель содержит 7,5 млрд параметров, работает через Transformers и принимает текст для генерации продолжений и диалоговых ответов; поддерживает интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена. Модель предназначена для генерации текста и диалогового использования. В качестве базовых компонентов объединены модели семейства Llama 3.1 8B: Hermes 3 и Stheno v3.4. Лицензия в предоставленных данных не указана.

KAI-7B-Instruct-v0.1-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная объединением Mistral-7B-Instruct-v0.2 от Mistral AI и KAI-7B-Instruct-v0.1 от Keynote Technology методом SLERP. Модель с плотной архитектурой MistralForCausalLM содержит 7,1 млрд параметров и предназначена для генерации текста и ответов на инструкции в формате диалога. Модель принимает текст и выдаёт текст; заявленный размер контекста — до 32 768 токенов. В карточке не указаны целевые языки и специализированная предметная область. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

Модель NotoriousH2/kanana-1.5-8b-instruct-2505-Safe-DPO — дообученная инструктивная языковая модель, опубликованная NotoriousH2. Она основана на архитектуре Llama и предназначена для генерации текста в диалоговом формате; в метаданных также отмечен интерфейс вызова инструментов. Модель содержит 7,5 млрд параметров, принимает текст и поддерживает контекст длиной до 32 768 токенов. Карточка сообщает о дообучении с использованием Unsloth и библиотеки TRL. Для весов указана лицензия Apache-2.0.

Kimi-Linear-48B-A3B-Instruct — разговорная языковая модель от Moonshot AI на архитектуре Kimi Linear. Это гибридная MoE-модель с Kimi Delta Attention и глобальными слоями MLA: в семействе указаны 48 млрд общих и 3 млрд активируемых параметров. Репозиторий содержит веса safetensors и предназначен для генерации текста в диалоговом формате. Модель рассчитана на диалоги и задачи с длинным контекстом. В README для версии Instruct заявлена длина контекста до 1 млн токенов, а архитектура сокращает потребность в KV-кэше и ускоряет декодирование на длинных последовательностях. Для запуска предлагаются Transformers с fla-core и развёртывание через vLLM. Лицензия — MIT. README описывает результаты бенчмарков, но не приводит оценки по всем сценариям; фактическая скорость и качество зависят от оборудования и настроек инференса.

Kimi-Linear-48B-A3B-Instruct-AWQ-4bit — квантизированная 4-битная версия инструкционной языковой модели Kimi Linear, разработанной Moonshot AI. Модель предназначена для генерации текста и работы в формате диалога, включая задачи с коротким и длинным контекстом, а также сценарии, связанные с reinforcement learning. В README указана поддержка Transformers и возможность развертывания через vLLM с OpenAI-совместимым API. Модель использует гибридную архитектуру с Kimi Delta Attention (KDA) и глобальными блоками MLA в соотношении 3:1. Всего она содержит 48 млрд параметров, из которых активируется около 3 млрд, и поддерживает контекст до 1 млн токенов. Архитектура снижает потребность в KV-кэше до 75% и обеспечивает ускорение декодирования до 6 раз на длинных последовательностях. README не указывает языки, поддерживаемые модальностями или результаты именно для AWQ-версии, поэтому эти характеристики нельзя достоверно оценить. К сильным сторонам относятся высокая эффективность на длинном контексте, уменьшенное потребление памяти и ускорение генерации. Для запуска требуются совместимые версии Python, PyTorch и fla-core, а при использовании Transformers может понадобиться trust_remote_code. Ограничениями являются значительные требования к ресурсам для модели такого размера и отсутствие в README подробных данных о качестве на конкретных прикладных задачах. Лицензия — MIT.

Ling-3.0-flash-abliterated-APEX-GGUF — неофициальная общественная GGUF-сборка модели Ling-3.0-flash, разработанной inclusionAI. Модель предназначена для генерации текста и задач рассуждения, включая локальный запуск через совместимое с GGUF программное обеспечение. В официальной версии мышление включено по умолчанию. Модель использует гибридную архитектуру MoE: 124 млрд параметров всего и около 5,1 млрд активных параметров. В её основе — стек из Kimi Delta Attention и gated MLA в соотношении 5:1, разреженный MoE с 512 маршрутизируемыми экспертами, выбором top-8 и одним общим экспертом, два плотных слоя и обученная MTP-голова. Заявленный график контекстного окна составляет 8K, затем 32K и до 256K токенов. Формат GGUF использует архитектуру bailingmoe3 и смешанную квантизацию APEX; наличие поддерживаемых языков в README не указано. Эта сборка отличается от официальной применением abliterix v6 trial 21 для снижения частоты отказов и последующим преобразованием в GGUF. Поэтому она может заметно отличаться от исходной модели по поведению и безопасности; README указывает на необходимость самостоятельной оценки соответствия требованиям, контроля доступа и аудита. Также для указанных уровней квантизации не использовалась imatrix. Лицензия — MIT, при этом необходимо соблюдать условия inclusionAI и применимое местное законодательство.

Модель Linkbricks Horizon AI Korean Superb 27B разработана дата-сайентистом компании Linkbricks Джи Юнсоном (Saxo) на основе Google Gemma 2 27B Instruct. Это плотная причинно-следственная языковая модель Gemma 2 с 27,6 млрд параметров, дообученная на корейском языке этапами продолженного предобучения, обучения по инструкциям и DPO. Для обучения использовались крупный корпус корейских новостей, многоязычные данные и примеры для различных задач; токенизатор оставлен от базовой модели. Модель предназначена для диалогов и генерации текста, включая перевод между корейским, китайским, английским и японским языками, суммаризацию, ответы на вопросы, анализ отзывов и публикаций в соцсетях, программирование, письмо, математику и логические рассуждения. Метаданные указывают контекст 8192 токена; в README заявлено окно 128k, поэтому фактическую поддержку столь длинного контекста следует проверять в используемой конфигурации. Модель распространяется под лицензией Apache-2.0.

LLaDA2.0-flash-CAP — языковая модель компании InclusionAI на основе диффузионной архитектуры Mixture-of-Experts. Она предназначена для генерации текста и диалоговых ответов, включая задачи знаний, рассуждений, программирования и математики. Обучение Confidence-Aware Parallel (CAP) повышает уверенность модели в корректных предсказаниях, чтобы ускорить параллельное декодирование. В README указана архитектура базовой LLaDA2.0-flash с 100 млрд параметров, 32 слоями, 32 головами внимания и контекстом 32 768 токенов; метаданные репозитория указывают 5,5 млрд параметров. В сравнении с базовой версией README сообщает ускорение генерации в 1,46 раза при небольшом снижении среднего результата на бенчмарках. Модель работает с текстом; для снижения риска смешения языков авторы рекомендуют температуру 0.0. Репозиторий распространяется по лицензии Apache-2.0.

Llama-3.1-Tulu-3-405B — большая плотная авторегрессионная языковая модель семейства Llama 3.1, разработанная Allen Institute for AI (Ai2). Она дообучена на основе allenai/Llama-3.1-Tulu-3-405B-DPO и предназначена для следования инструкциям и диалогов, а также для решения широкого круга задач, включая математические рассуждения и выполнение инструкций. В карточке отмечены оценки на MATH, GSM8K и IFEval. Модель содержит 403,7 млрд параметров, принимает текст и генерирует текст; заявленный контекст — до 131 072 токенов. Основной язык — английский. Для запуска доступны веса PyTorch в формате safetensors через Transformers; лицензия — Llama 3.1 Community License Agreement. В карточке указано, что безопасность дообучения ограничена: модель может выдавать проблемный контент, особенно при соответствующих запросах, и не снабжена встроенной фильтрацией ответов. Для развертывания следует учитывать высокие вычислительные требования, характерные для модели такого размера.

LLaMa-3.1-Zeroed-30-70-13B — объединённая языковая модель семейства Llama, созданная сообществом mergekit-community методом линейного слияния двух моделей: LLaMa-3.1-Zeroed-13B с весом 0,3 и LLaMa-3.1-Instruct-Zeroed-13B с весом 0,7. Модель содержит 12,5 млрд параметров, использует архитектуру LlamaForCausalLM и распространяется в формате safetensors для библиотеки Transformers. Модель предназначена для генерации текста и диалогов по инструкциям; в метаданных также указана поддержка интерфейса вызова инструментов. Контекст составляет до 131 072 токенов. README не приводит дополнительных сведений о языках, качестве на конкретных задачах или условиях лицензии, поэтому их нельзя уточнить по предоставленным данным.

bunnycore/Llama-3.2-3B-TitanFusion-v2 — текстовая языковая модель, созданная слиянием нескольких предварительно обученных моделей семейства Llama 3.2 с помощью mergekit и метода TIES. В качестве базовой использована unsloth/Llama-3.2-3B; в слияние также вошли модели с уклоном в программирование и рассуждения. Модель содержит 3,2 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors. Модель предназначена для генерации текста и диалоговых сценариев. Заявленная длина контекста — 131 072 токена. В карточке не приведены сведения о специальных языковых или предметных ограничениях, а также о лицензии, поэтому их нельзя уточнить по доступным данным.

v2ray/Llama-3-70B-Instruct — перезагрузка модели Meta Llama 3 70B Instruct, предназначенной для диалогового использования. Это авторегрессионная плотная языковая модель на базе оптимизированного Transformer с Grouped-Query Attention; объём модели — 69,5 млрд параметров, контекст — 8192 токена. Модель принимает текст и генерирует текст, включая код. Модель подходит для англоязычного диалогового помощника и задач генерации текста. В карточке описана настройка инструкционных версий с помощью supervised fine-tuning и обучения с подкреплением на основе человеческой обратной связи. Разработчик — Meta; версия выпущена 18 апреля 2024 года. Модель рассчитана прежде всего на английский язык. Для использования действует пользовательская коммерческая лицензия Meta Llama 3 и связанные с ней условия допустимого использования. Ответы могут требовать проверки и дополнительных мер безопасности в зависимости от приложения.

Llama3-ChatQA-1.5-70B-GGUF — квантизированная в формате GGUF версия модели Llama3-ChatQA-1.5-70B, разработанной NVIDIA. Квантизацию выполнил bartowski на основе llama.cpp. Модель построена на базовой архитектуре Llama 3 и содержит 70 миллиардов параметров. Основное назначение модели — conversational question answering и retrieval-augmented generation (RAG): ответы на вопросы с опорой на предоставленный контекст, извлечение сведений и суммаризация контекста. Она ориентирована прежде всего на англоязычные сценарии и также может применяться для общего текстового общения. Улучшенная обучающая методика и дополнительные данные для conversational QA повышают возможности работы с таблицами и арифметическими вычислениями. Модель является текстовой и поддерживает генерацию текста; заявленный язык — английский. Рекомендуется явно передавать релевантный контекст и указывать модели сообщать, если ответ отсутствует в нём. README не содержит сведений о размере контекстного окна и конкретном типе квантизации, поэтому эти характеристики нельзя уточнить. Лицензия указана как llama3; условия её применения следует проверять по лицензии исходной модели NVIDIA.