I.3Извлечение и структурирование данных

OsaurusAI подготовила сборку JANG_4M модели Nanbeige4.2-3B для генерации текста и диалога. Это плотный Looped Transformer с 22 слоями, которые дважды проходят по общим весам, что даёт эффективную глубину 44 слоя. Веса квантованы для Apple Silicon: используются 4-битные affine routed-веса и 8-битное внимание; размер файлов составляет 2,9 ГБ. Модель насчитывает около 3,2 млрд параметров по метаданным; README указывает 4,17 млрд параметров исходной архитектуры. Контекст — до 256K токенов, основные языки — английский и китайский. Сборка предназначена для рассуждений, диалогов и агентных сценариев с вызовом инструментов. Для корректной работы требуется загрузчик, поддерживающий циклическое выполнение слоёв и 44 позиции KV-кэша; обычный универсальный загрузчик может выдавать неверные ответы. В README приведены измерения скорости и сравнение точности квантования на Apple Silicon, но они относятся к указанной конфигурации и тестам. Лицензия — Apache-2.0.

JANGQ-AI/Nemotron-Cascade-2-30B-A3B-JANG_4M — квантованная версия NVIDIA Nemotron-Cascade-2-30B-A3B, подготовленная Jinho Jang с помощью открытого формата и движка JANG для MLX. Это языковая модель для диалогов и генерации текста с пошаговым режимом рассуждений и интерфейсом вызова инструментов. В основе — гибридная архитектура Nemotron-H: Mamba-2, смесь экспертов (MoE) и слои внимания; в README указаны 52 слоя и 128 экспертов с выбором шести. Квантование JANG_4M использует 4,1 бита и 8-битные веса внимания. Метаданные указывают 1,9 млрд параметров и контекст до 262 144 токенов. Модель ориентирована на рассуждения, в том числе решение математических задач, а также на обычные диалоги и агентные сценарии. По результатам теста MMLU на 200 вопросах, приведённым автором карточки, она набрала 93% в режиме рассуждений; это результат собственного тестирования, а не независимая оценка. Для запуска нужны Apple Silicon с не менее чем 24 ГБ объединённой памяти и совместимая среда MLX, например MLX Studio или пакет JANG для MLX; обычные загрузчики MLX могут не поддерживать отображение весов этой архитектуры. В карточке указана лицензия «other», конкретные условия следует проверять у автора базовой модели и производной версии.

Open-Instruct Open Assistant 13B — языковая модель на архитектуре LLaMA, дообученная AllenAI на данных OpenAssistant/oasst1 для выполнения инструкций и генерации текста. Это модельный diff, поэтому для её использования нужна исходная модель LLaMA в формате Hugging Face; карточка приводит лицензию AI model license вместе с исходной лицензией LLaMA. Модель содержит 12,9 млрд параметров, принимает текст и рассчитана на контекст до 2048 токенов. Она предназначена для диалоговых ответов и выполнения пользовательских инструкций на английском языке; в карточке также приведены результаты тестов на рассуждения, математические задачи, вопросы и ответы и генерацию кода. Качество генерации зависит от соблюдения обученного формата ввода, включая завершающий перевод строки. Показатели на бенчмарках отражают результаты эксперимента из указанной исследовательской работы и не гарантируют качество в прикладных сценариях.

Модель predibase/Phi-3-mini-4k-instruct-dequantized — дообученная версия компактной языковой модели Phi-3 Mini от Microsoft, загруженная jeffkinnison. Она предназначена для генерации текста в диалогах и написания кода; поддерживает контекст до 4096 токенов и содержит 3,7 млрд параметров. Модель принимает текст и выдаёт текст. Репозиторий содержит веса в формате safetensors. Лицензия — MIT. Карточка не сообщает о специальных ограничениях применения; возможности и качество унаследованы от базовой модели Phi-3 Mini.

harithoppil/Qwen3-0.6B-English-Pruned — это англоязычная производная плотной авторегрессионной языковой модели семейства Qwen3, основанная на Qwen/Qwen3-0.6B-Base и опубликованная пользователем harithoppil. В README описаны удаление семи слоёв из 28 методом Layer Dropping (ShortGPT) и сокращение словаря с 151 643 до 101 816 токенов. В метаданных указаны 368,5 млн параметров, архитектура Qwen3ForCausalLM, формат safetensors и контекст до 40 960 токенов. Модель предназначена для генерации английского текста, диалога, написания кода и решения математических задач; README также описывает переключение режимов рассуждения и обычного ответа. Сокращённый словарь исключает токены для кириллицы и ряда других письменностей, поэтому модель специализирована на английском, коде и математике. Удаление слоёв и уменьшение словаря нацелены на снижение размера и повышение скорости вывода, но в README не приведены сравнительные измерения качества или скорости. Лицензия — Apache-2.0.

6block/Qwen3-4B-GGUF — набор GGUF-квантизированных версий модели Qwen3-4B, разработанной Qwen и подготовленной 6block с использованием llama.cpp. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio, Ollama и совместимые проекты. Доступны варианты квантования от Q8_0 до Q2_K размером примерно от 4,28 до 1,67 ГБ. Квантизация выполнена с imatrix на калибровочном наборе данных, содержащем английский и китайский языки, а также большое количество программного кода, что должно помогать сохранять качество китайского языка и задач программирования в низкобитных версиях. Для большинства сценариев рекомендуются Q6_K, Q5_K_M и Q4_K_M; варианты IQ ориентированы на уменьшение размера с компромиссом по скорости или качеству. Модель подходит для локальных чат-приложений, генерации текста и программирования при ограниченных ресурсах. Основные ограничения связаны с потерями качества, зависящими от выбранного уровня квантования, а также с отсутствием в README сведений об архитектурных деталях и размере контекста. Лицензия — Apache 2.0.

Qwen3.6-27B-Architect-Polaris2-Fable-B-F451 — мультимодальная модель Nightmedia, полученная слиянием NuSLERP нескольких моделей семейства Qwen. Карточка описывает её как диалоговую и экспериментальную модель для рассуждений, программирования и творческого письма; в примере показаны развёрнутые ответы на математические и художественные вопросы. Архитектура в метаданных обозначена как плотная Qwen3.5 для генерации текста с изображениями, размер базовой модели — 27 млрд параметров. Метаданные указывают поддержку зрения, следования инструкциям и интерфейса вызова инструментов, а также языки английский, китайский, японский и испанский. Заявлены контекстные варианты до 256 тыс. и 1 млн токенов, однако README не уточняет, к каким именно вариантам они относятся. Модель подходит для диалоговых помощников, анализа изображений, программирования, рассуждений и создания художественных текстов. Карточка приводит отдельные сравнительные показатели компонентов с разными форматами квантования, но не даёт полноценной независимой оценки качества итогового слияния. Лицензия — Apache-2.0. README содержит фрагменты кода, опущенные в карточке, поэтому детали рецепта слияния и воспроизводимости по нему проверить нельзя.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — это многоэтапная fine-tune-модель на базе Qwen3.8-27B, опубликованная schwyzquant и созданная с использованием наработок DavidAU и инструментов Unsloth. Модель распространяется в формате GGUF, включая обычные и MTP-варианты квантования, с заявленной поддержкой 4- и 8-битных конфигураций. Модель предназначена для решения общих задач, рассуждений, программирования, творческого письма, художественной прозы, ролевого взаимодействия и других сценариев генерации текста. Основные заявленные цели дообучения — повысить способность к решению задач, сократить объём рассуждений и ускорить генерацию при сохранении детализации и качества ответов. Указаны языки English и Chinese; архитектура основана на Qwen3.8 с 27 миллиардами параметров. Размер контекста в README не указан. К сильным сторонам относятся акцент на подробных ответах, программировании, творческих сценариях и сокращении избыточного «мышления», а также возможность запуска квантованных вариантов на потребительском оборудовании. Заявления о превосходстве над базовыми и другими моделями основаны на приведённых автором бенчмарках и не сопровождаются независимой проверкой в README. Ограничения включают отсутствие подробных данных о контекстном окне, точной архитектуре, системных требованиях и качестве по отдельным задачам; характеристики могут различаться между квантованными версиями. Модель описывается как uncensored, поэтому её ответы могут требовать дополнительной фильтрации и контроля. Лицензия — Apache-2.0.

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-NEO-CODER-mlx-oQ4e-1M — релиз модели на базе Qwen3.8-27B TURBO Fable Cold Fusion, разработанной DavidAU, с последующей квантизацией, масштабированием контекста и упаковкой от Solstice-AI. Модель предназначена для программирования, рассуждений, агентной разработки, отладки репозиториев и работы с длинными документами и проектами. В README также указана совместимость с задачами image-text-to-text, однако подробности о поддерживаемых визуальных входах не приведены. Модель содержит 27 млрд параметров и поставляется в формате Apple MLX oQ4e mixed precision с размером около 17,02 ГБ. Заявлены гибридная архитектура с блоками Gated Delta Recurrent Network и Grouped-Query Attention, механизм Multi-Token Prediction для ускорения генерации, а также YaRN-масштабирование RoPE до 1 048 576 токенов. Указаны языки English и Chinese. Основная среда применения — компьютеры Apple Silicon с unified memory, включая MacBook с 16 или 24 ГБ памяти, через Anvil и MLX-LM. Сильными сторонами заявлены высокая эффективность на Apple Silicon, большой контекст, поддержка задач кодирования и рассуждений, а также хорошие результаты на SWE-bench Pro, LiveCodeBench, QwenSWEBench, OSWorld, AndroidWorld, IFBench, CoWorkBench и ARC. Эти показатели приведены в README и не подтверждены независимой проверкой. Ограничениями являются зависимость от MLX и Apple Metal, требования к объёму unified memory, возможные потери качества из-за 4-битной квантизации и неполная информация о фактической мультимодальности и поведении на длинном контексте. Лицензия — Apache 2.0.

unsloth/Qwen3-Coder-480B-A35B-Instruct-GGUF — GGUF-версия инструкционной модели Qwen3-Coder-480B-A35B-Instruct, разработанной командой Qwen и опубликованной Unsloth. Это каузальная языковая модель для генерации текста и кода, ориентированная на агентное программирование, использование браузера и другие задачи разработки, включая работу с репозиториями и интеграцию с инструментами вроде Qwen Code и CLINE. Модель использует архитектуру Mixture-of-Experts: 480 млрд параметров всего, из которых 35 млрд активируются при обработке запроса; включает 62 слоя, 160 экспертов и 8 активируемых экспертов, а также Grouped-Query Attention с 96 головами Q и 8 KV-головами. Нативный контекст составляет 262 144 токена, с возможностью расширения до 1 млн токенов посредством YaRN. Модель поддерживает только режим без рассуждений и не генерирует блоки <think></think>. Данные о поддерживаемых языках и мультимодальности в README не указаны; заявлена текстовая генерация. Сильными сторонами являются большой контекст, понимание кода на уровне репозитория и высокая производительность в агентных сценариях. Ограничения включают значительный общий размер модели и необходимость совместимого программного окружения; конкретные требования к оборудованию и производительности для GGUF-вариантов в README не приведены. Модель распространяется по лицензии Apache-2.0.

R1-Qwen2.5-7B-Instruct — дообученная pe-nlp разговорная языковая модель на базе Qwen/Qwen2.5-7B-Instruct, обученная на датасете Sky-T1. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров для генерации текста и диалогового взаимодействия; она принимает текст и выдаёт текст. Модель поддерживает контекст до 32 768 токенов и доступна в формате safetensors для библиотеки Transformers. Модель подходит для диалоговых ассистентов, генерации и преобразования текста, а также сценариев с интерфейсом вызова инструментов. В карточке не приведены результаты оценки качества и подробные ограничения. Лицензия указана как other, поэтому перед использованием следует проверить условия лицензирования репозитория и базовой модели.

QuantFactory/Skywork-o1-Open-Llama-3.1-8B-GGUF — квантизированная версия модели Skywork o1 Open-Llama-3.1-8B, созданная с использованием llama.cpp. Исходную модель разработала команда Skywork компании Kunlun Inc.; она основана на Meta-Llama-3.1-8B-Instruct и дообучена на данных в стиле «медленного мышления». Версия в этом репозитории предназначена для запуска в формате GGUF с использованием совместимых инструментов llama.cpp. Модель ориентирована на диалоги, генерацию текста и решение задач, требующих рассуждений: математики, программирования, логики, здравого смысла, этических решений и распознавания логических ловушек. Заявленные особенности включают планирование, пошаговое рассуждение, саморефлексию и самопроверку. В разработке применялись многоагентная генерация данных, непрерывное предварительное обучение, supervised fine-tuning, обучение с подкреплением с использованием process reward model и алгоритмы поиска рассуждений. Известный размер исходной модели — 8B параметров; архитектура и набор поддерживаемых языков в предоставленных данных отдельно не указаны. Квантизация может снизить требования к ресурсам и упростить локальный запуск, но конкретные варианты квантизации и их влияние на качество зависят от файлов, доступных в репозитории. Модель ориентирована прежде всего на задачи рассуждений, однако заявленные преимущества основаны на описании разработчиков, а ограничения и результаты независимых проверок не приведены. Лицензия указана как other, поэтому точные условия использования необходимо уточнять в исходном репозитории и сопутствующих материалах.

StrangeMerges_51-7B-dare_ties — текстовая генеративная модель, созданная Gille объединением пяти моделей с помощью LazyMergekit: WizardMath-7B-V1.1, NeuralCoder-7b, Einstein-v4-7B, Matter-0.1-Slim-7B-C-DPO и StrangeMerges_42-7B-dare_ties. Это плотная модель семейства Mistral с 7,1 млрд параметров; доступна в формате safetensors и имеет контекст до 32 768 токенов. Модель предназначена для генерации текста и может быть полезна для диалогов и инструкций, математических рассуждений и задач по программированию — эти направления представлены среди объединённых моделей. В README приведены результаты Open LLM Leaderboard, включая средний балл 71,73, однако без полной таблицы и описания методики эти показатели не позволяют оценить качество на конкретных пользовательских задачах. Модель распространяется по лицензии Apache-2.0. В карточке нет сведений о целевых языках и специальных мерах безопасности; фактическое качество объединения на конкретных задачах следует проверять отдельно.

Trismal-HyperAmocles-7B-Base-Ties — объединённая модель на базе Mistral, созданная JoPmt методом TIES с помощью LazyMergekit из JoPmt/Trismal-Amocles-7B-Base-Ties и Locutusque/Hyperion-2.0-Mistral-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста.

WizardLM-13B-V1.2 — полноразмерная текстовая модель с архитектурой Llama, разработанная командой WizardLM и обученная на базе Llama 2 13B. Модель предназначена для генерации ответов на инструкции и многоходового диалога; в карточке приведён шаблон общения в стиле Vicuna. Число параметров — 12,9 млрд, контекст — 4096 токенов. Модель подходит для диалоговых помощников, ответов на вопросы и выполнения сложных текстовых инструкций. В README приведены результаты внутренних оценок MT-Bench, AlpacaEval и WizardLM Eval; авторы отмечают, что тестирование выполнялось самостоятельно и результаты ожидали проверки. Репозиторий содержит веса PyTorch. Лицензия — Llama 2 License.

zephyr-7b-beta-Mistral-7B-Instruct-v0.1 — чат-модель на архитектуре Mistral, созданная MaziyarPanahi слиянием mistralai/Mistral-7B-Instruct-v0.1 и HuggingFaceH4/zephyr-7b-beta методом SLERP. Веса имеют около 7,1 млрд параметров, формат репозитория — safetensors, нативная длина контекста — 32 768 токенов. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Её можно использовать для чат-ботов, черновиков текстов, ответов на вопросы и кратких сводок. В README также перечислены отдельные варианты модели в форматах GPTQ и GGUF с разными уровнями квантизации для запуска на GPU или CPU и GPU. В метаданных указан английский язык. Качество ответов и фактическая точность могут различаться; для надёжных результатов требуется проверка человеком. Лицензия — Apache-2.0.

Карточка модели bcoding/deepseek-R1-0528-Qwen3-8b-base-16-llvm-sft-trained-16bit-epoch-1-merged на Hugging Face совпадает с карточкой bcoding/deepseek-R1-0528-Qwen3-8b-base-16-llvm-sft-trained-16bit-epoch-2-merged, поэтому описание составлено по ней. Модель bcoding — дообученная версия unsloth/DeepSeek-R1-0528-Qwen3-8B на архитектуре Qwen3 с причинным языковым моделированием. Она предназначена для диалогов и генерации текста; каталог также указывает интерфейс вызова инструментов. Размер модели — 7,6 млрд параметров, контекст — до 131 072 токенов. В карточке указано, что обучение проводилось с Unsloth и библиотекой TRL. Модель может применяться для диалоговых ответов, рассуждений, решения задач по математике и логике, а также помощи с программированием — эти сценарии указаны для базовой модели в описании каталога. Поддерживаемый язык карточки — английский. Репозиторий распространяется в формате Safetensors по лицензии Apache 2.0.

DeepSeek-R1-Distill-Qwen-7B-abliterated — дообученная языковая модель на архитектуре Qwen2, созданная Orion-zhen с помощью abliteraton. Она предназначена для диалогов и генерации текста; унаследованная базовая модель DeepSeek-R1-Distill-Qwen-7B ориентирована на многошаговые рассуждения, в том числе по математике и программированию. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. В репозитории представлены веса safetensors, а метаданные отмечают интерфейс для вызова инструментов. Модель поддерживает английский и китайский языки. README не сообщает результатов оценки качества или подробностей обучения; название указывает на применение abliteration, но не описывает его эффект. Лицензия — GPL-3.0.

mobiuslabsgmbh выпустила DeepSeek-R1-ReDistill-Qwen-1.5B-v1.1 — повторно дистиллированную версию DeepSeek-R1-Distill-Qwen-1.5B для повышения качества генерации текста и рассуждений. Это плотная авторегрессионная модель семейства Qwen2 с 1,5 млрд параметров и контекстом до 131 072 токенов; веса представлены в формате safetensors. Модель подходит для диалогов и решения задач, в том числе по математике и программированию. В README приведены сравнительные результаты на ARC, HellaSwag, MMLU, GPQA, MMLU PRO и MUSR: версия v1.1 показывает более высокие значения, чем исходная DeepSeek-R1-Distill-Qwen-1.5B, на перечисленных тестах. Модель распространяется по лицензии MIT. В карточке не приведены сведения о языковом охвате и подробные ограничения; качество ответов следует проверять для конкретного сценария.

Droplychee Small 1B v1 — компактная языковая модель для генерации текста, разработанная droplychee-core как дообучение GnLOLot/MiniCPM5-1B-Claude-Opus-Fable5-V2-Thinking. Модель использует плотную архитектуру Llama и содержит 837,6 млн параметров; заявленная длина контекста — 131 072 токена. Модель подходит для диалогов, следования инструкциям и сценариев с вызовом инструментов. В качестве основы использована модель MiniCPM5, предназначенная для диалогов, вызова инструментов и программирования. В метаданных указан английский язык. Модель распространяется по лицензии Apache-2.0; при дообучении использовались Unsloth и библиотека TRL.

EverythingLM-13b-V2-16k — универсальная языковая модель, созданная на базе Llama 2 и обученная разработчиком totally-not-an-llm на наборе EverythingLM-V2. Это плотная авторегрессионная модель класса LlamaForCausalLM с 12,9 млрд параметров и контекстом до 16 384 токенов; доступен формат PyTorch. Модель предназначена для генерации текста, подробных ответов, творческих историй и рассуждений. В карточке заявлены автоматическое включение пошаговых рассуждений и улучшенное понимание запросов; для задач на рассуждение автор рекомендует низкую температуру генерации. Модель описана как uncensored, однако базовая модель может отказываться отвечать на некоторые запросы, и для них может потребоваться настройка промпта. Лицензия указана как Llama 2. README также содержит инструкции по настройке RoPE для GGML-квантованных вариантов, но метаданные этого репозитория указывают формат PyTorch.

Experiment26Neuralsirkrishna_Multi_verse_modelM7 — объединённая модель Mistral, созданная путём слияния automerger/Experiment26Neuralsirkrishna-7B и automerger/Multi_verse_modelM7-7B. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и формат Safetensors; контекстное окно составляет до 32 768 токенов. Модель предназначена для генерации текста и диалоговых ответов. Лицензия Apache-2.0 разрешает использование на её условиях.

Карточка модели jordimas/gemma-3-1b-it на Hugging Face совпадает с карточкой google/gemma-3-1b-it, поэтому описание составлено по ней. Gemma 3 1B IT — компактная инструктивно дообученная модель Google из семейства Gemma 3. Она создана на основе google/gemma-3-1b-pt и предназначена для генерации текста и диалогового взаимодействия; небольшой размер позволяет запускать её на устройствах и инфраструктуре с ограниченными ресурсами. Семейство Gemma 3 поддерживает ввод изображений и текста с генерацией текста, контекст до 128 тыс. токенов и более 140 языков. Модель подходит для ответов на вопросы, суммаризации, рассуждений, создания текстов и интерпретации изображений. В предоставленных метаданных для этого репозитория подтверждены задача text-generation и чат-возможность; отдельные численные характеристики именно варианта 1B и языковой список не указаны. Возможны фактические ошибки, смещения и затруднения с неоднозначными формулировками и сложными задачами. Для снижения рисков в приложениях следует проверять ответы и применять подходящие меры безопасности. Лицензия — Gemma; использование регулируется условиями лицензии и политикой запрещённого использования Gemma.

Gemma 4 21B-A4B-it REAP Heretic — разговорная модель на базе Gemma 4, представленная в репозитории coder3101. Это доработанный вариант 20-процентно прореженной экспертной модели 0xSero/gemma-4-21b-a4b-it-REAP: в MoE-архитектуре оставлено 103 эксперта на слой вместо 128, а на каждый токен по-прежнему активируются 8 экспертов. Веса опубликованы в формате safetensors; модель поддерживает диалоговую генерацию текста и, согласно карточке, входные изображения. Вариант Heretic применяет абляцию отказов: в приведённом сравнении число отказов на тестовом наборе снизилось со 100 из 100 у исходной модели до 14 из 100. При этом небольшие тесты показывают, что качество зависит от задачи: например, результат по математике начального уровня снизился с 92% до 90%, а по философии — с 92% до 88%; наборы по 50 примеров на задачу и 14 промптов для сравнения генерации не дают широкой оценки качества. Для исходного варианта REAP указано окно контекста 262 144 токена, но README не уточняет, сохраняется ли этот предел в данной сборке Heretic. Модель предназначена для диалогов, рассуждений и генерации кода; особенно подходит для сценариев, где требуется меньше отказов. Лицензия — Gemma; условия её использования следует сверять с лицензией семейства Gemma.

IberianLLM-7B-Instruct — мультиязычная авторегрессионная языковая модель на архитектуре Llama, разработанная LangTech. Модель содержит 6,7 млрд параметров, обучена с нуля на текстах и предназначена для генерации текста и диалогов на иберийских языках, английском и коде. Версия Instruct настроена для следования инструкциям и использует шаблон диалога ChatML; длина контекста составляет 8192 токена. Модель подходит для создания общего разговорного помощника, генерации текста и помощи с кодом. В README указано, что это ранняя демонстрационная версия без выравнивания с помощью RLHF; она может выдавать вредный или неподходящий контент, а качество может различаться между языками и диалектами. Выпущена под лицензией Apache 2.0, допускающей исследовательское и коммерческое использование.

Mungert/II-Search-4B-GGUF — квантованный формат модели II-Search-4B, разработанной на базе Qwen3-4B командой Intelligent-Internet. Модель дообучена для поиска информации, многошагового рассуждения, проверки фактов и подготовки подробных исследовательских отчётов. Она рассчитана на работу совместно с инструментами веб-поиска и посещения веб-страниц, а также на задачи фактологического вопросно-ответного взаимодействия и исследовательской поддержки. Модель содержит около 4 млрд параметров и относится к текстовым моделям генерации. В обучении использовались дистилляция возможностей Qwen3-235B, синтетические многошаговые задачи, отбор качественных цепочек рассуждений, методы подготовки комплексных отчётов и reinforcement learning на данных MuSiQue и внутренней поисковой базе с материалами Wikipedia, FineWeb и arXiv. Для исходной версии заявлена поддержка контекста до 131 072 токенов при использовании RoPE scaling, однако конкретные возможности и качество зависят от реализации и выбранного GGUF-кванта. К сильным сторонам относятся многошаговое планирование, использование поисковых инструментов, перекрёстная проверка сведений и высокие результаты на заявленных бенчмарках SimpleQA, Frames и Seal_0 среди сопоставимых по размеру моделей. Ограничения включают зависимость веб-интегрированных сценариев от внешних инструментов, поисковой инфраструктуры и качества подключённых источников, а также возможные потери точности из-за квантования. Модель распространяется по лицензии Apache-2.0; данный репозиторий содержит GGUF-версии, созданные с использованием llama.cpp и модифицированного подхода к повышению точности отдельных слоёв.

L3.1-70b-Swallow-Saigetsu — объединённая языковая модель, созданная автором репозитория с помощью LazyMergekit на Runpod из tokyotech-llm/Llama-3-Swallow-70B-v0.1 и NousResearch/Meta-Llama-3.1-70B-Instruct. Это плотная архитектура Llama с 69,5 млрд параметров, предназначенная для диалога и генерации текста; используется формат чата Llama 3 Instruct. Модель принимает текст и генерирует текст, а нативный контекст составляет 131 072 токена. Подходит для многоязычного общения, ответов на вопросы и генерации текста в формате инструкционного чата. В карточке описана как экспериментальная неформальная попытка объединить две модели; результаты и отдельные языковые преимущества не заявлены. Лицензия — llama3.1.

PlumCode — слитая языковая модель, созданная автором репозитория sequelbox с помощью mergekit на основе Meta Llama 3.1 8B Instruct и моделей Llama3.1-8B-ShiningValiant2 и Llama3.1-8B-Enigma. Используется архитектура LlamaForCausalLM с плотной сетью примерно на 7,5 млрд параметров; веса опубликованы в формате safetensors. Контекстное окно составляет 131 072 токена. Модель предназначена для генерации текста и диалогов по инструкциям, включая помощь с кодом и техническими темами. В тегах указаны Python, информатика, естественные науки и инженерия; карточка не подтверждает отдельные специализированные возможности сверх генерации текста. Лицензия — llama3.1. README приводит результаты Open LLM Leaderboard, но не содержит полного набора оценок.

Llama-3.1-Minitron-4B-Width-Base — базовая текстовая языковая модель NVIDIA для генерации текста и последующей адаптации под задачи обработки естественного языка. Это авторегрессионный трансформер-декодер семейства Llama 3.1 с 3,9 млрд параметров, 32 слоями, Grouped-Query Attention и RoPE. Модель получена сокращением размерностей Llama-3.1-8B с последующим продолженным обучением и дистилляцией на 94 млрд токенов. Модель принимает текст и генерирует текст. Обучающий корпус включал английские и многоязычные тексты, а также код; среди тематик данных были право, математика, наука и финансы. Контекст модели — до 131 072 токенов по метаданным, хотя в README отмечено, что она хорошо работает с входами длиной до 8 000 символов. Модель предназначена для коммерческого использования; лицензия указана как other, поэтому перед внедрением следует проверить применимые условия NVIDIA. Это базовая, а не готовая к диалогу инструкционная модель: для прикладных сценариев может потребоваться дообучение или настройка промптов. Модель может выдавать неточные, неполные, нерелевантные или повторяющиеся ответы, а также воспроизводить токсичность и смещения, присутствующие в обучающих данных.

Llama-3-KoEn-8B — плотная авторегрессионная языковая модель Junbum Lee (Beomi), продолжающая предобучение Meta Llama 3 8B на корпусе из корейских и английских текстов. Модель принимает текст и генерирует текст, в том числе код; предназначена для адаптации к задачам генерации и для создания чат- и инструкционных моделей. Модель содержит 7,5 млрд параметров, построена на архитектуре Llama 3 и имеет контекстное окно 8192 токена. Доступна в форматах PyTorch и Safetensors. Это предварительный релиз статической модели, обученной на офлайн-данных. Лицензия указана как CC-BY-NC-SA-4.0 вместе с лицензией сообщества Llama 3; применяются их условия использования. Карточка предупреждает, что ответы могут быть неточными, предвзятыми или нежелательными, и рекомендует проверять безопасность для конкретного приложения. Хотя обучение включало корейский и английский языки, документация ограничивает предполагаемое использование английским и предостерегает от применения на других языках без соблюдения условий лицензии Llama 3.