I.6Перевод и языковая адаптация

bunnycore/HyperLexi-8B-breadcrumbs — плотная языковая модель семейства Llama 3.1, созданная автором репозитория с помощью mergekit методом breadcrumbs. В слияние вошли несколько моделей на базе Llama 3.1, включая варианты для генерации текста без цензурных ограничений, программирования, диалогов и рефлексивных ответов. Базовой моделью при слиянии была unsloth/Meta-Llama-3.1-8B. Модель предназначена для генерации текста и диалогов; её можно применять для ответов на вопросы, помощи с кодом и создания развернутых текстовых ответов. Она содержит 7,5 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. Метаданные указывают библиотеку Transformers и формат весов safetensors. Лицензия в предоставленных данных не указана.

Light-IF-4B — дообученная командой Qihoo 360 языковая модель на базе Qwen3-4B, предназначенная для точного выполнения сложных инструкций. Подход к адаптации сочетает генерацию примеров с комплексными ограничениями, отбор данных методом rejection sampling, supervised fine-tuning с сохранением энтропии и обучение с подкреплением с адаптацией к энтропии токенов. Модель помогает планировать ответ и проверять его перед выдачей, чтобы лучше соблюдать многошаговые и ограниченные требования. Она относится к плотной архитектуре Qwen3ForCausalLM, содержит 3,7 млрд параметров, принимает текст и выдаёт текст; максимальный контекст — 40 960 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0.

Ling-3.0-tiny-MLX-4bit — MLX-конверсия модели inclusionAI/Ling-3.0-tiny, опубликованная rapid-mlx. Это языковая модель для генерации текста, рассуждений и вызова инструментов, рассчитанная на локальный запуск на компьютерах Apple Silicon через MLX и rapid-mlx. Модель использует разреженную MoE-архитектуру: всего 7,9 млрд параметров, из которых 1,3 млрд активируются для каждого токена; применяются 128 экспертов с выбором top-8 и одним общим экспертом. В архитектуре используется гибридный стек внимания KDA и MLA, контекст поддерживает до 131 072 токенов. Квантование выполнено в 4 битах с размером группы 64, размер файла составляет около 4,2 ГБ, поэтому модель помещается и работает на Mac с 8 ГБ unified memory. Языки и специализированные модальности в README не указаны; модель предназначена для работы с текстом. Сильными сторонами являются большое контекстное окно, низкое число активных параметров при сохранении общей ёмкости 7,9 млрд параметров, поддержка рассуждений и нативного разбора вызовов инструментов. Ограничения связаны с зависимостью от MLX и Apple Silicon, а также с необходимостью использовать rapid-mlx, поскольку архитектура bailing_hybrid пока не входит в upstream mlx-lm. 4-битное квантование может снижать точность по сравнению с полной версией, однако в README приведены результаты проверки соответствия реализации официальному коду. Модель распространяется по лицензии MIT, унаследованной от базовой модели.

Llama-3.1-Tulu-3-8B-GGUF — текстовая генеративная модель, созданная Allen Institute for AI (AI2) на базе Llama 3.1 Tulu 3 8B. Она предназначена для генерации текста и решения разнообразных задач, включая сценарии, где важны высокая производительность и работа с длинным контекстом. Модель доступна в формате GGUF для использования через llama.cpp и совместимых приложений, включая LM Studio. Модель содержит 8 млрд параметров, поддерживает контекст длиной до 128 тысяч токенов и, согласно карточке, ориентирована на английский язык. Исходная модель, а также данные, код и рецепты обучения заявлены как полностью открытые. GGUF-квантизация выполнена bartowski на основе llama.cpp b4132; конкретные варианты квантизации в README не указаны. Модель распространяется по лицензии llama3.1. README не содержит подробных результатов бенчмарков, сведений о дополнительных модальностях или точных ограничениях качества, поэтому её возможности следует оценивать с учётом возможных неточных или неподходящих ответов генеративной модели.

Marcoroni-neural-chat-7B-v1-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием Mistral-7B-Instruct-v0.2 и Toten5/Marcoroni-neural-chat-7B-v1 методом SLERP. Модель построена на архитектуре Mistral с плотной причинной языковой моделью и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и ответов на инструкции в диалоговом формате. Контекст составляет до 32 768 токенов, поэтому её можно применять для многошаговых бесед и работы с длинными текстовыми запросами. Метаданные не устанавливают конкретные поддерживаемые естественные языки. Веса представлены в формате Safetensors, тип данных при слиянии указан как bfloat16. Лицензия — Apache-2.0. Качество и поведение могут зависеть от формулировки запроса; ограничения по языкам и отдельным прикладным областям в предоставленных данных не описаны.

Meta Llama 3 8B Instruct — языковая модель Meta на 8 млрд параметров для диалоговых сценариев. Это авторегрессионный трансформер с оптимизированной архитектурой и Grouped-Query Attention; версия Instruct настроена с помощью supervised fine-tuning и обучения с подкреплением на основе оценок людей. Модель принимает текст и генерирует текст, в том числе код. Модель предназначена для ассистентского общения и генерации текста на английском языке, в коммерческих и исследовательских приложениях. Она подходит для создания чат-ботов и ответов на запросы; качество и безопасность ответа зависят от сценария и настроек приложения, поэтому для конкретного применения могут потребоваться дополнительные меры защиты. Использование регулируется пользовательской лицензией Meta Llama 3 и Acceptable Use Policy.

chargoddard/mistral-11b-slimorca — текстовая генеративная модель, созданная Chargoddard дообучением на двух эпохах датасета Open-Orca/SlimOrca. Она использует формат запросов Mistral Instruct и предназначена для диалогов и генерации ответов по инструкциям. Модель основана на варианте рецепта Mistral 11B: до обучения добавленные слои были настроены так, чтобы выход совпадал с Mistral 7B. Это плотная архитектура MistralForCausalLM с 10,6 млрд параметров и контекстом до 32 768 токенов. В карточке приведены результаты нескольких тестов, но они не гарантируют качество в конкретных прикладных сценариях. Модель распространяется по лицензии Apache-2.0.

OrakzaiX — это общественный GGUF-релиз модели класса 8B на архитектуре Llama, поддерживаемый и квантизированный Faisal Orakzai в рамках экосистемы Orakzai. В метаданных указана базовая модель meta-llama/Llama-3-8B-Instruct; данных о самостоятельном обучении новой фундаментальной модели нет. Модель предназначена для локальной генерации текста и диалоговых сценариев: создания частных ассистентов, офлайн-прототипирования, разработки инструментов, суммаризации, извлечения технической информации, объяснения кода, автоматизации и экспериментов с многоагентными рабочими процессами. Формат GGUF рассчитан на запуск через совместимые средства, включая llama.cpp, на потребительском оборудовании, рабочих станциях, периферийных устройствах и частных серверах. Локальное выполнение может помочь сохранять запросы и ответы в контролируемой среде, однако безопасность зависит от настроек и окружения. Доступны варианты квантизации от Q2_K до Q8_0; рекомендуемым начальным вариантом указан Q4_K_M, обеспечивающий компромисс между качеством, скоростью и потреблением памяти. Фактические требования к ресурсам выше размера файла из-за контекста, KV-кэша и служебных буферов. Языки, размер контекстного окна, результаты бенчмарков, точность в специализированных областях, надежность вызова инструментов и возможности автономной работы не указаны. Лицензия обозначена как other; перед распространением или коммерческим использованием необходимо проверить условия лицензии OrakzaiX и базовой модели Meta.

Locutusque/Orca-2-13b-SFT_v5 — плотная языковая модель на архитектуре Llama, созданная полным дообучением Microsoft Orca-2-13b на наборах No Robots, EverythingLM, Guanaco, OpenAssistant и Open-Platypus. Модель содержит 12,9 млрд параметров и рассчитана на генерацию текста; карточка отмечает поддержку кода и языки английский, французский, испанский, хинди и китайский. Контекст составляет 4096 токенов, для запросов используется шаблон ChatML. Модель подходит для диалоговых ответов, следования инструкциям, решения задач и генерации кода. В README сообщается о тестовом loss 0,38 на Open-Platypus, но сравнительные оценки качества не приведены. Репозиторий содержит веса в формате safetensors. Для использования необходимо соблюдать исследовательскую лицензию Microsoft Orca-2; метаданные обозначают лицензию как other.

Qwen3.8-27B-TURBO-FCF — многоэтапная дообученная и объединённая версия модели Qwen3.8 с 27 млрд параметров, опубликованная пользователем kamikatze13. В качестве базовой модели указана Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU от DavidAU. Модель создана с использованием методов Cold Fusion, Fable Fusion и Unsloth, а также обучалась на наборах DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets. Модель ориентирована на широкий круг задач: решение проблем, рассуждения, программирование, творческое письмо, создание художественных текстов, ролевые сценарии и другие универсальные применения. Заявленная особенность версии TURBO — сокращение объёма рассуждений и расхода токенов по сравнению с обычной Qwen3.8, что должно обеспечивать более быструю генерацию при сохранении подробности ответов. README также указывает поддержку английского и китайского языков, наличие режимов рассуждения и вариантов GGUF-квантизации, включая 4- и 8-битные сборки, обычные и MTP-варианты. К сильным сторонам относятся ориентация на детализированные ответы, программирование, reasoning и художественную генерацию, а также возможность запуска на потребительском оборудовании благодаря квантизации. Заявленные высокие результаты ARC-C и ARC-E, превосходство над рядом базовых моделей и сильные возможности tool calling приведены авторами README, но независимая проверка этих утверждений не представлена. Ограничения включают отсутствие подробных данных о размере контекстного окна, точной архитектуре, мультимодальных возможностях и требованиях к оборудованию. Модель обозначена как uncensored, поэтому её ответы могут иметь сниженные защитные ограничения и требовать дополнительного контроля. Лицензия — Apache 2.0.

FuriosaAI публикует эту сборку Qwen3-VL-4B-Instruct с Furiosa Executable Bundle для запуска через Furiosa-LLM на ускорителях RNGD. Это плотная vision-language модель на 4 млрд параметров: кодировщик изображений сочетается с трансформерным декодером, а Interleaved-MRoPE и многоуровневое слияние признаков DeepStack поддерживают обработку изображений и видео. Веса хранятся в safetensors; README указывает, что дополнительная квантизация не применялась. Базовая модель — Qwen/Qwen3-VL-4B-Instruct. Модель принимает текст и изображения и формирует текстовые ответы. Она предназначена для диалога по изображениям, OCR, анализа документов и диаграмм, пространственных рассуждений и понимания видео; также поддерживает вызов инструментов через интерфейс функций. Для работы с Furiosa-LLM на RNGD используется параллелизм по тензорам на 8 вычислительных элементах одной карты. README также указывает совместимость с vLLM, SGLang и Transformers. Модель распространяется по лицензии Apache 2.0. Карточка описывает её как Instruct-вариант без режима thinking; качество ответов может зависеть от сложности изображения или видео и формулировки запроса.

shark_tank_ai_7_b-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral, созданная слиянием mistralai/Mistral-7B-Instruct-v0.1 и NExtNewChattingAI/shark_tank_ai_7_b методом SLERP. Модель содержит 7,1 млрд параметров и предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Модель принимает текст и выдаёт текст; в метаданных заявлен контекст длиной до 32 768 токенов. Карточка указывает английский язык. Веса опубликованы в формате Safetensors по лицензии Apache-2.0.

SuperGemma4-26B-Uncensored-Fast GGUF v2 — локальная текстовая модель, опубликованная пользователем lianjiang и основанная на google/gemma-4-26B-A4B-it. Это производная от линии SuperGemma Fast, экспортированная в формат GGUF Q4_K_M для запуска через llama.cpp, в том числе на компьютерах Apple Silicon. Архитектура Gemma 4 использует MoE-эксперты; точное эффективное число активируемых параметров и размер контекста в README не указаны. Модель предназначена для обычного диалога, генерации текста, программирования, логических задач и сценариев с использованием инструментов. Заявлена поддержка английского и корейского языков. Встроенный нейтральный шаблон чата должен снижать вероятность ошибочной маршрутизации обычных запросов в режим программирования или вызова инструментов. На Apple M4 Max указаны скорости до 222 токенов/с обработки корейского запроса и 89,4 токена/с генерации, однако эти показатели зависят от оборудования и конфигурации. К сильным сторонам относятся компактное квантованное представление, высокая скорость локального запуска, улучшения по сравнению с исходной локальной базовой версией в коде, логике, браузерных сценариях и корейском языке, а также менее ограниченное поведение по сравнению со стандартными чат-релизами. Ограничения включают отсутствие подробных данных о контексте, полном наборе языков, качестве на независимых тестах и требованиях к памяти; заявленная «uncensored» настройка также может означать ослабленные защитные ограничения. Лицензия указана как Gemma.

Tri-7B — диалоговая языковая модель Trillion Labs для генерации текста. Это плотная авторегрессионная модель с архитектурой Transformer Decoder, основанной на LlamaForCausalLM; в карточке указаны 7,76 млрд параметров, 32 слоя и контекст до 32 768 токенов. Репозиторий содержит веса в формате Safetensors. Модель прошла предварительное обучение и постобучение с упором на рассуждения, математические задачи и повседневное использование. Она предназначена для диалога, следования инструкциям, ответов на вопросы, генерации кода и решения задач на английском, корейском и японском языках. В README приведены результаты сравнительных тестов с предыдущей моделью Trillion-7B-preview; они показывают улучшения по ряду оценённых задач, но не гарантируют качество для каждого запроса. Модель оптимизирована для английского, корейского и японского; на других языках качество может снижаться. Знания ограничены сведениями, доступными до февраля 2025 года. Лицензия — Apache-2.0.

ZEUS-8B-V19 — объединённая языковая модель семейства Llama 3.1, созданная T145 с помощью mergekit и метода DARE TIES. В основу слияния положена unsloth/Meta-Llama-3.1-8B-Instruct; также объединены Llama-3.1-SuperNova-Lite, Llama-3.1-Storm-8B, Llama-3.1-SauerkrautLM-8b-Instruct и Llama-3.1-8B-Lexi-Uncensored-V2. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors. Она предназначена для диалогов и генерации текста, поддерживает интерфейс вызова инструментов и контекст до 131 072 токенов. Карточка приводит результаты оценивания на IFEval и BBH. Лицензия в предоставленных данных не указана.

Albatrox7B — объединённая языковая модель на архитектуре Mistral, созданная сообществом с помощью mergekit. Она получена методом SLERP из NousResearch/Nous-Hermes-2-Mistral-7B-DPO и mlabonne/AlphaMonarch-7B; в репозитории указана конфигурация bfloat16. Модель предназначена для генерации текста и диалогового взаимодействия, включая ответы на инструкции и рассуждения. Число параметров — 7,1 млрд, заявленный контекст — до 32 768 токенов. Лицензия и поддерживаемые языки в предоставленных данных не указаны.

TuralBayev разработал axeron-verify-05weight как объединённую модель семейства Qwen2.5, созданную методом Task Arithmetic с помощью forgelm. В основе лежит Qwen/Qwen2.5-3B; при объединении использованы Qwen2.5-3B-Instruct и Qwen2.5-Coder-3B-Instruct. Модель имеет плотную архитектуру Qwen2ForCausalLM, содержит 3,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия; поддержка интерфейса вызова инструментов указана в метаданных. Веса сохранены в формате safetensors, для вычислений использована точность bfloat16. Карточка не описывает отдельные области применения или языки; базовая модель Qwen2.5-3B-Instruct характеризуется каталогом как компактная многоязычная модель для выполнения инструкций и генерации текста, включая структурированные ответы. Лицензия в предоставленных данных не указана. Качество и специализация результата объединения отдельно не описаны, поэтому его пригодность для конкретных задач следует оценивать на соответствующих примерах.

Beepo-22B — дообученная модель на базе Mistral-Small-Instruct-2409, опубликованная concedo. Это плотная языковая модель с 22 млрд параметров и контекстом до 32 768 токенов; она принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова функций. Автор дообучал её для более послушного выполнения инструкций и снижения ограничений, стараясь сохранить способности исходной instruct-модели. Модель подходит для диалоговых помощников, генерации текста и выполнения пользовательских инструкций. Карточка рекомендует формат инструкций Alpaca; исходный формат Mistral Instruct также поддерживается. В метаданных указан английский язык. Репозиторий содержит веса safetensors. Лицензия в предоставленных данных не указана.

Citaman/command-r-38-layer — объединённая модель генерации текста на архитектуре CohereForCausalLM, созданная автором репозитория с помощью mergekit. В README указано слияние методом SLERP двух срезов одной модели Citaman/command-r-39-layer со сдвигом диапазонов слоёв; метаданные также связывают модель с этой базовой моделью. Репозиторий содержит веса в формате safetensors и bfloat16. Модель предназначена для генерации текста и диалогового взаимодействия; в метаданных отмечен интерфейс вызова инструментов. Размер составляет 33,3 млрд параметров, родной контекст — 8192 токена. Условия лицензии и сведения о поддерживаемых естественных языках в предоставленных данных отсутствуют.

CrystalMistral-26b — разговорная языковая модель семейства Mixtral с архитектурой смеси экспертов (MoE), опубликованная Crystalcareai. Согласно карточке, модель создана с помощью LazyMergekit на основе нескольких копий Crystalcareai/CrystalMistral; метаданные также связывают её с этой базовой моделью. Она предназначена для генерации текста и диалогов. Базовая CrystalMistral дообучена для выполнения инструкций, общения, генерации текста и работы с кодом, поэтому эти сценарии подходят и для данной модели. В репозитории указаны 7,1 млрд параметров и контекст до 32 768 токенов. Модель принимает текст и генерирует текст. Лицензия — Apache-2.0. Карточка не приводит отдельных оценок качества CrystalMistral-26b; возможности базовой модели не гарантируют такие же результаты после слияния.

Daredevil-8B — диалоговая языковая модель, созданная mlabonne как объединение нескольких моделей Llama 3 8B с помощью LazyMergekit. Репозиторий содержит плотную архитектуру LlamaForCausalLM с 7,5 млрд параметров; модель принимает текст и генерирует текст, поддерживает контекст до 8192 токенов и предназначена для чата и генерации ответов. Автор позиционирует её как улучшенную версию Meta-Llama-3-8B-Instruct и сообщает о высоких результатах на MMLU и наборах Open LLM Leaderboard и Nous по состоянию на май 2024 года. Модель общего назначения можно применять для диалогов, ответов на вопросы, генерации текста и кода. В README она описана как цензурированная; для снятия ограничений автор указывает отдельную модель Daredevil-8B-abliterated. Лицензия в метаданных обозначена как other, поэтому конкретные условия использования следует проверять в карточке модели и лицензиях компонентов объединения.

Delta-Vector/GLM-4-32B-Tulu-Instruct — плотная языковая модель семейства GLM-4, дообученная автором на смеси Tulu-SFT. Она предназначена для диалогов, следования инструкциям и генерации текста; в метаданных также отмечены сценарии работы с кодом. Модель содержит 31,6 млрд параметров, принимает контекст до 32 768 токенов и использует формат диалога ChatML. Автор сообщает, что при обучении были удалены примеры выравнивания безопасности. Модель рассматривается как ассистент и основа для дальнейшего дообучения; оценка качества на длинном контексте не проводилась, а дополнительного обучения с подкреплением после SFT не было. Репозиторий распространяется по лицензии Apache-2.0.

Hymba-1.5B-Instruct — языковая модель NVIDIA для генерации текста и диалогов. Она дообучена на основе nvidia/Hymba-1.5B-Base с помощью supervised fine-tuning и direct preference optimization, используя открытые наборы инструкций и синтетические данные. Модель содержит 1,1 млрд параметров по метаданным и поддерживает контекст до 8192 токенов. Архитектура Hymba сочетает в слоях механизмы внимания и Mamba (SSM), использует Grouped-Query Attention, Rotary Position Embeddings, скользящее окно внимания и совместное использование KV-кэша между слоями. Модель предназначена для диалогов, решения математических задач, вызова функций и ролевых сценариев. NVIDIA заявляет о готовности к коммерческому использованию; модель распространяется по NVIDIA Open Model License Agreement. Модель может выдавать неточные, неполные или избыточные ответы, а также воспроизводить токсичность и социальные предубеждения из обучающих данных. README отмечает уязвимость к jailbreak-атакам и рекомендует проверять выводы при использовании в RAG- и агентных системах.

InternLM3-8B-Instruct GGUF — квантизированная версия инструкционной языковой модели InternLM3-8B-Instruct, представленная в формате GGUF для запуска через llama.cpp. В предоставленных данных разработчик явно не указан. Модель предназначена для генерации текста и диалогового взаимодействия, включая решение математических задач, рассуждения и развёрнутые ответы в локальных или облачных средах на различном аппаратном обеспечении. Модель имеет размер 8 млрд параметров и относится к текстовым LLM; сведения о конкретной архитектуре и длине контекста не приведены. Репозиторий содержит варианты с разной точностью и уровнем квантизации, включая FP16, q5_0, q5_k_m, q6_k и q8_0, что позволяет выбирать баланс между качеством, потреблением памяти и скоростью инференса. В метаданных указан английский язык. Для работы требуется совместимый runtime, например llama.cpp, а доступные параметры запуска позволяют настраивать размер контекста, число GPU-слоёв и длину генерируемого ответа. Сильными сторонами модели являются возможность локального запуска, поддержка широкого спектра аппаратных платформ и наличие нескольких вариантов квантизации. Ограничения включают зависимость качества и скорости от выбранной точности и оборудования, а также отсутствие в предоставленных материалах подробных результатов тестирования, перечня поддерживаемых языков и характеристик безопасности. Модель распространяется по лицензии Apache-2.0.

KORMo-VL — мультимодальная модель для работы с документами и интерфейсами, разработанная лабораторией KAIST MLP Lab на базе KORMo-10B. Архитектура включает языковую модель KORMo-10B-sft и визуальный энкодер siglip-so400m; в репозитории указана архитектура LlavaOnevision и формат safetensors. Модель принимает изображения и текстовые запросы и формирует текстовые ответы для задач понимания документов и управления интерфейсами. Модель обучена на корейских изображениях документов и примерно 3,4 млн пар «текст—изображение» из синтетических и открытых наборов данных. Она рассчитана прежде всего на корейский и английский языки и поддерживает сценарии агента: взаимодействие с документами, редактирование и управление веб-интерфейсами. Разработчики публикуют обучающие данные или конвейеры генерации и рецепты обучения. Модель доступна по лицензии Apache-2.0. Заявленные сильные стороны — понимание документов и агентные сценарии; результаты тестов показывают хорошие оценки на ChartQA и DocVQA, но уступают некоторым сравниваемым моделям на отдельных визуальных тестах. Работа с документами и интерфейсами ориентирована на корейский и английский языки.

DS-Archive/L3.3-70B-Magnum-v4-SE-Cirrus-x1 — диалоговая языковая модель, созданная объединением моделей Sao10K и Doctor-Shotgun с помощью SLERP и mergekit. Она построена на архитектуре Llama 3.3 с плотной конфигурацией и содержит 69,5 млрд параметров; модель предназначена для генерации текста в формате диалога и поддерживает интерфейс вызова инструментов. Нативная длина контекста — до 131 072 токенов. Модель подходит для диалоговых приложений и генерации ответов с большим контекстом. В README указаны объединённые модели и метод слияния, но не приведены результаты оценки качества, сведения о поддерживаемых языках или специальные ограничения применения. Файлы опубликованы в формате safetensors; лицензия в предоставленных данных не указана.

IntervitensInc/Llama-3.1-Minitron-4B-Width-Base-chatml — текстовая авторегрессионная модель семейства Llama, разработанная NVIDIA. Это базовая модель для генерации текста и адаптации к различным задачам обработки естественного языка; в этой версии добавлены токены ChatML для дообучения в формате диалога. Модель получена структурным прореживанием Llama-3.1-8B по размеру эмбеддингов и промежуточному слою MLP, после чего прошла дальнейшее обучение с дистилляцией на 94 млрд токенов. Архитектура включает 32 слоя, 32 головы внимания, Grouped-Query Attention и RoPE; число параметров — 3,9 млрд. Модель принимает и выдаёт текст. В README заявлена поддержка английского и многоязычного текста, а также кода; корпус включал веб-страницы, диалоги и документы из разных областей. Метаданные указывают контекстное окно 131 072 токена. Модель предназначена для генерации текста и дальнейшей адаптации под прикладные сценарии; README также сообщает о готовности к коммерческому использованию. Указана лицензия other, поэтому перед использованием следует свериться с условиями NVIDIA. Модель может выдавать неточные, неполные или избыточные ответы и воспроизводить токсичность и предвзятость из обучающих данных.

etri-xainlp/llama3-8b-dpo_v1 — диалоговая языковая модель команды ETRI xainlp, дообученная на базе meta-llama/Llama-8b-hf. Модель принимает и генерирует только текст; архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров, контекст — до 8192 токенов. Модель обучалась с помощью SFT и LoRA на 1,821 млн примеров с инструкциями, затем с помощью DPO и LoRA на 221 тыс. примеров пользовательских предпочтений. Она предназначена для диалогов и выполнения текстовых инструкций. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0.

RedHatAI/Meta-Llama-3.1-8B-FP8 — квантизированная версия базовой текстовой модели Meta-Llama-3.1-8B, разработанная Neural Magic. Модель принимает текст и генерирует текст, предназначена для коммерческого и исследовательского использования, включая многоязычные сценарии. В README указаны английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки, однако отдельно отмечено ограничение на использование в языках, отличных от английского. Модель использует архитектуру Meta-Llama-3.1 и формат FP8 для квантизации весов и активаций линейных операторов в трансформерных блоках. Применяется симметричная поканальная для всего тензора квантизация с фиксированным масштабированием; выходной слой lm_head не квантизируется. Размер модели — 8 миллиардов параметров. Оптимизация уменьшает число бит на параметр с 16 до 8, а также примерно на 50% сокращает требования к дисковому пространству и памяти GPU. Модель подготовлена для инференса с vLLM. К сильным сторонам относятся снижение требований к памяти и более эффективное развертывание при сохранении характеристик исходной модели: средний результат на OpenLLM benchmark v1 составил 65,90 против 66,47 у неквантизированной версии. К ограничениям относятся возможная потеря качества из-за квантизации, отсутствие заявленной информации о размере контекста и необходимость совместимого окружения vLLM. Модель распространяется по лицензии llama3.1.

win10/miscii-Virtuoso-Small — объединённая языковая модель на архитектуре Qwen2, созданная с помощью mergekit методом TIES. В объединении использованы arcee-ai/Virtuoso-Small и sthenno-com/miscii-14b-1028; базовой указана sthenno-com/miscii-14b-1028. Модель содержит 14 млрд параметров и принимает текст для генерации текста в диалоговом формате, включая сценарии с интерфейсом вызова инструментов. Модель подходит для генерации ответов и ведения диалога; описание базовой Virtuoso-Small указывает на следование инструкциям, рассуждения и бизнес-задачи. Заявленная длина контекста — 131072 токена. Модель распространяется в формате Safetensors и предназначена для использования через Transformers. Сведения о лицензии и конкретных ограничениях качества в карточке не приведены.