II.6Документация и сопровождение разработки

Kuotient создал эту чат-модель на архитектуре LlamaForCausalLM с 11 млрд параметров, используя passthrough-слияние Meta-Llama-3-8B-Instruct. Идея модели — заставить её «думать дважды», сохраняя сопоставимые с исходной моделью шаги рассуждения. Она предназначена для диалогов и генерации текста по инструкциям; заявленная длина контекста — 8192 токена. Модель принимает текст и выдаёт текст. В карточке указана лицензия other; конкретные условия использования следует проверять в репозитории модели и у базовой модели. README не приводит результатов оценки качества или подробностей языковой поддержки, поэтому такие характеристики нельзя подтвердить по доступным данным.

Jongbin-kr выпустил экспериментальный чекпойнт Llama 3.1 8B Instruct, преобразованный в разреженную MoE-модель. Каждый MLP-блок декодера разделён на четыре изначально одинаковых эксперта, а маршрутизатор без отбрасывания токенов выбирает двух экспертов для каждого токена. Модель содержит 7,5 млрд параметров и предназначена для генерации текста и диалогов; метаданные также указывают интерфейс вызова инструментов. Модель основана на meta-llama/Llama-3.1-8B-Instruct, использует архитектуру UpcycledLlamaForCausalLM и формат safetensors. Заявленная длина контекста — 131 072 токена. README указывает, что для загрузки через Transformers требуется trust_remote_code=True. Сведения о лицензии и поддерживаемых языках этой производной модели в предоставленных данных отсутствуют.

Llama-3.1-8B-Instruct-abliterated_via_adapter — разговорная языковая модель на архитектуре Llama, опубликованная grimjim. Это слияние Meta-Llama-3.1-8B-Instruct и адаптера LoRA, созданного для ослабления отказов модели; адаптер был получен на базе Llama 3, а итоговая модель собрана методом task arithmetic через mergekit. Модель содержит 7,5 млрд параметров, работает с текстом и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогов. Ослабление отказов меняет поведение исходной модели при ответах на запросы; это не гарантирует точность, безопасность или пригодность для конкретных сценариев. В репозитории указаны веса в формате safetensors и библиотека Transformers. Лицензия — Llama 3.1 Community License.

Apollo Raines представил Llama-3.1-8B-Instruct-Hardened-Analyst — вариант Meta Llama 3.1 8B Instruct, изменённый инструментом jBlaze методом representation engineering. По карточке, дополнительного обучения не проводилось: поведенческие характеристики менялись непосредственно в весах. Усилены устойчивость к состязательным запросам, следование контексту и аналитические рассуждения. Модель предназначена для диалоговой генерации текста и аналитических ответов в средах, где возможны попытки prompt injection. В карточке приведены примеры ответов на общие вопросы, арифметические задачи, запрос на код и небезопасную инструкцию. Архитектура — плотная LlamaForCausalLM; метаданные указывают 7,5 млрд параметров, контекст 131 072 токена, формат safetensors и английский язык. Карточка описывает опубликованную версию как демонстрационную, с частично сниженной силой возможностей. Лицензия — Llama 3.1; применяются её условия использования.

Карточка модели longtermrisk/Llama-3.1-8B-target-only-no-hallucination-first-third-sft-seed3 на Hugging Face совпадает с карточкой longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5, поэтому описание составлено по ней. Модель longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5 разработана longtermrisk и представляет собой дообученную версию инструкционной Llama 3.1 на 7,5 млрд параметров. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста и диалогов; обучение проводилось с Unsloth и библиотекой TRL. Модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Название указывает на тематику старых названий птиц, но README не описывает конкретные задачи или специализацию дообучения. Лицензия — Apache-2.0.

llama3.1-airoboros3.2-QDT-8B-GGUF — это квантизированная версия текстовой генеративной модели llama3.1-airoboros3.2-QDT-8B, разработанной nbeerbower и дополнительно подготовленной bartowski в формате GGUF для llama.cpp. Модель обучена с использованием датасета jondurbin/airoboros-3.2 и предназначена для генерации текста, диалоговых сценариев и локального запуска через совместимые приложения, включая LM Studio. Модель относится к семейству Llama 3.1 и содержит около 8 миллиардов параметров. Она поддерживает текстовую модальность; сведения о языках и размере контекстного окна в README не указаны. Доступны варианты от F16 до различных квантизаций Q8, Q6, Q5, Q4, Q3 и IQ, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Для ARM-процессоров предусмотрены специальные варианты, оптимизированные под поддержку sve или i8mm. Сильная сторона модели — широкий выбор квантизаций, включая варианты с высоким качеством и версии для устройств с ограниченными ресурсами. Более компактные варианты снижают требования к памяти, но могут уступать по качеству генерации. README не содержит подробной информации о результатах оценки, ограничениях, системных требованиях или специфических возможностях базовой модели. Лицензия указана как llama3; условия её применения следует уточнять в документации лицензии Llama 3.

Это GGUF-квантизированная версия языковой модели Llama-3.1-WhiteRabbitNeo-2-70B, разработанной WhiteRabbitNeo и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp и совместимые приложения, включая LM Studio. В README указано использование формата prompt, совместимого с Llama 3. Модель основана на архитектуре Llama 3.1 с 70 миллиардами параметров. Доступны варианты квантования от Q8_0 до IQ1_M, различающиеся размером файлов, требованиями к памяти и качеством генерации; наиболее рекомендуемыми названы Q6_K, Q5_K_M и Q4_K_M. Квантизация выполнена с использованием imatrix и набора данных bartowski. Модель поддерживает текстовую генерацию, однако сведения о языках, размере контекстного окна и мультимодальности в README не указаны. Сильной стороной являются различные уровни квантования, позволяющие выбирать баланс между качеством и потреблением памяти, а также возможность локального использования. Низкобитные варианты заметно уступают по качеству, а некоторые из них не рекомендуются. Модель распространяется по лицензии llama3.1; дополнительные ограничения и условия лицензии в README не раскрыты.

Llama-3.2-1B-GGUF — текстовая генеративная модель, подготовленная prithivMLmods на основе meta-llama/Llama-3.2-1B и распространяемая в формате GGUF. Репозиторий содержит файл весов F16 размером 2,48 ГБ; метаданные указывают на плотную архитектуру семейства Llama и возможность диалога. Модель предназначена для генерации текста и диалогового использования, в том числе через Ollama. В карточке указаны английский язык и лицензия CreativeML OpenRAIL-M; README также сообщает Apache-2.0, поэтому точные условия лицензирования требуют проверки у автора репозитория.

Mungert/Llama-3.2-1B-Instruct-GGUF — это компактная instruction-tuned языковая модель семейства Llama 3.2, представленная в формате GGUF. Модель основана на разработках Meta, а данный вариант опубликован пользователем или организацией Mungert. Она предназначена для генерации текста и диалоговых сценариев, включая обработку инструкций и ответы на запросы, и может использоваться в приложениях, где важны относительно небольшие требования к ресурсам. В карточке указаны языки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Модель относится к текстовым, а не мультимодальным системам; архитектура, точный размер контекста и параметры GGUF-квантизации в README не указаны. Ключевое преимущество модели — компактный размер класса 1B и формат GGUF, ориентированный на локальный запуск совместимыми средствами инференса. Ограничения включают меньшую ёмкость по сравнению с более крупными моделями и отсутствие подтверждённых в README сведений о качестве, бенчмарках, конкретных вариантах квантизации и аппаратных требованиях. Модель распространяется по лицензии Llama 3.2 Community License от Meta. При распространении материалов или производных продуктов требуется соблюдать условия лицензии, включая предоставление текста соглашения, указание «Built with Llama», сохранение атрибуции и Acceptable Use Policy; для продуктов с более чем 700 миллионами месячных активных пользователей предусмотрено отдельное требование к лицензированию.

Модель nith24/llama-3.2-1b-routing-merged — дообученная языковая модель семейства Llama 3.2, разработанная nith24 на базе unsloth/Llama-3.2-1B-Instruct-bnb-4bit. Это плотная авторегрессионная модель с архитектурой LlamaForCausalLM и примерно 1,2 млрд параметров, предназначенная для генерации текста и диалогов. Карточка указывает, что обучение проводилось с использованием Unsloth и библиотеки TRL. Модель принимает текст и выдаёт текст; метаданные также отмечают интерфейс вызова инструментов. В карточке заявлен английский язык, а контекстное окно составляет 131 072 токена. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Карточка не описывает специализированные сценарии маршрутизации, поэтому пригодность для конкретной routing-задачи по представленным данным подтвердить нельзя.

SamMikaelson/Llama-3.2-3B-APIGEN-Full — дообученная SamMikaelson языковая модель семейства Llama 3.2 для генерации текста и диалогового взаимодействия. В основе лежит unsloth/llama-3.2-3b-instruct-unsloth-bnb-4bit; для обучения использовались Unsloth и библиотека TRL от Hugging Face. Модель содержит 3,2 млрд параметров, построена на плотной архитектуре LlamaForCausalLM и имеет контекстное окно до 131 072 токенов. Она принимает текст и генерирует текст; метаданные указывают на интерфейс вызова инструментов. В карточке обозначен английский язык. Модель распространяется под лицензией Apache-2.0. Карточка не описывает специализацию набора APIGEN, обучающие данные, результаты оценки качества или требования к запуску, поэтому возможности в конкретных сценариях вызова API не подтверждены. Базовая модель указана как 4-битная сборка, но формат файлов этой модели обозначен как safetensors; параметры её точности отдельно не описаны.

Это языковая модель для генерации текста, представленная сообществом mlx-community. Она конвертирована в формат MLX из модели DavidAU/L3.2-8X4B-MOE-V2-Dark-Champion-Inst-21B-uncen-ablit с использованием mlx-lm версии 0.25.2 и предназначена для запуска через экосистему MLX. Модель относится к семейству Llama 3.2 и использует архитектуру mixture of experts с 8 экспертами, каждый из которых имеет размер 4B; общий заявленный размер составляет 21B параметров. В карточке также указаны контекст до 128k токенов, режим instruct, формат квантования Q_6 и поддержка текстовой генерации. Языки и мультимодальные возможности явно не указаны. Основные сценарии применения — диалоговая генерация и выполнение инструкций, включая запуск локально на совместимом оборудовании Apple через MLX. К сильным сторонам относятся разреженная MoE-архитектура, большой контекст и оптимизация для MLX. Ограничения включают отсутствие в карточке результатов тестирования, подробностей о фактических требованиях к памяти и перечня поддерживаемых языков; характеристики исходной модели не обязательно полностью описывают конвертированную версию. Лицензия в README не указана.

Llama-3-6B-Instruct-pruned — экспериментальная текстовая модель kuotient, созданная с помощью mergekit из слоёв Meta-Llama-3-8B-Instruct. В конфигурации объединения passthrough сохранены слои 0–20 и 29–31 исходной модели; размер модели — 5,8 млрд параметров, контекст — 8192 токена. Модель предназначена для генерации текста и диалоговых ответов. Автор отмечает, что после объединения модель не проходила постобучение или «исцеление» весов, поэтому её качество и устойчивость могут быть ограничены. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Метаданные указывают базовую модель Meta-Llama-3-8B-Instruct; лицензия в доступных данных не установлена.

Orion-zhen разработал чат-модель Orion-zhen/Llama3-70B-Orion-Chinese на основе failspy/Llama-3-70B-Instruct-abliterated-v3, дообучив её методом DPO. Это плотная авторегрессионная модель семейства Llama 3 с 69,5 млрд параметров, контекстом 8192 токена и поддержкой диалога; карточка демонстрирует ответы на китайском языке с более оживлённой подачей и частым использованием эмодзи. Модель предназначена для диалога на китайском, рассуждений, ответов на вопросы и генерации кода. В README приведены примеры решения математических и логических задач, бытовых вопросов, анализа эмоций и написания кода. Метаданные также связывают обучение с наборами предпочтений для китайского и английского диалога, математики, физического рассуждения, кода и других ответов. Файлы опубликованы в формате Safetensors. Лицензия — Llama 3; применимость и условия использования следует сверять с её условиями. Примеры README показывают возможные ошибки в рассуждениях и небезопасные советы, поэтому ответы требуют проверки; инструкция по расширению контекста до 32k в карточке не подтверждена как штатная длина контекста модели.

HINT-lab/llama3-8b-final-ppo-m-v0.3 — модель генерации текста семейства Llama, разработанная Jixuan Leng, Chengsong Huang, Banghua Zhu и Jiaxin Huang. Это версия Llama 3 8B, обученная методом PPO-M — вариантом RLHF с калиброванным моделированием вознаграждения, направленным на снижение словесной самоуверенности ответов. Для обучения использованы OpenRLHF/Llama-3-8b-sft-mixture, набор HINT-lab/prompt-collections-final-v0.3 и калиброванная reward-модель HINT-lab/llama3-8b-crm-final-v0.1. Модель предназначена для диалоговой генерации ответов с более согласованной выраженностью уверенности и качества. Она содержит около 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и поддерживает контекст до 8192 токенов; веса представлены в формате safetensors. Лицензия в предоставленных данных не указана.

llama-3-Nephilim-v3-8B-GGUF — набор квантизированных моделей в формате GGUF, подготовленный bartowski на основе модели grimjim/llama-3-Nephilim-v3-8B. Квантизация выполнена с использованием llama.cpp и метода imatrix; исходная модель относится к библиотеке Transformers и предназначена для генерации текста. Модель подходит для локального запуска и текстовых сценариев, включая диалоговое взаимодействие и создание текстового контента. Доступны варианты с разными уровнями квантизации: от F32 размером 32,13 ГБ до IQ2_M размером 2,95 ГБ. Более высокие уровни, такие как Q6_K_L, Q6_K и Q5_K, обеспечивают качество, близкое к исходному, тогда как варианты Q2–Q3 требуют меньше оперативной памяти, но заметно уступают по качеству. Для запуска рекомендуется использовать совместимые приложения, в частности LM Studio, с указанным форматом prompt для Llama 3. Модель является текстовой и не поддерживает мультимодальные сценарии согласно представленным данным; сведения о языках и размере контекста отсутствуют. Распространение указано по лицензии CC BY-NC 4.0, которая предусматривает некоммерческое использование. Набор содержит несколько файлов, отличающихся размером и качеством, поэтому выбор варианта зависит от доступной памяти и требований к результатам.

Llama-3-Smaug-8B-GGUF — набор GGUF-квантизаций модели Llama-3-Smaug-8B, опубликованный и квантизированный bartowski на основе оригинальной модели abacusai/Llama-3-Smaug-8B. Модель предназначена для генерации текста и локального запуска с совместимыми inference-движками, включая llama.cpp. В README приведён специальный chat-шаблон с системными, пользовательскими и ассистентскими сообщениями на основе токенов Llama 3. Это текстовая модель примерно на 8B параметров; модальности, поддерживаемые языки и размер контекста в README не указаны. Доступны варианты квантизации от Q8_0 до IQ1_S размером примерно от 8,54 до 2,01 ГБ. Более высокие уровни квантизации обычно сохраняют лучшее качество, тогда как низкие требуют меньше RAM или VRAM, но заметно уступают по качеству; автор рекомендует несколько вариантов Q6_K, Q5 и Q4, а наиболее низкие IQ1-варианты не рекомендует. Квантизация выполнена с использованием imatrix и набора данных Kalomaze; для Q8_0 указано максимальное доступное качество. Модель удобна для локального использования благодаря формату GGUF и широкому выбору размеров файлов, однако качество и требования к памяти зависят от выбранной квантизации. README также отмечает настройку токена <|eot_id|> как не специального для лучшей работы с современными inference-движками. Лицензия указана как llama2; дополнительные условия использования в README не раскрыты.

Llama 3 zhtw — плотная авторегрессионная языковая модель семейства Llama, дообученная p208p2002 на базе Llama 3 посредством продолжения предобучения на 800 млн токенов. В обучении использовались англоязычный FineWeb, китайские корпуса на упрощённом и традиционном китайском, включая Wudao, C4Tw и Wikipedia, а также датасеты диссертаций и кода. Модель содержит 7,5 млрд параметров, работает с контекстом до 8192 токенов и поддерживает диалоговый сценарий. Модель предназначена для генерации текста на китайском и английском языках. По данным авторов, качество на традиционном китайском после продолжения предобучения не превзошло исходную Llama 3; на английском результат MMLU сопоставим с исходной моделью. Вес опубликован в формате safetensors, лицензия — llama3.

llamamistral-passthrough-merged-model — объединённая языковая модель, созданная с помощью LazyMergekit на основе mistralai/Mistral-7B-v0.1 и togethercomputer/LLaMA-2-7B-32K. В конфигурации passthrough используются слои 0–31 Mistral и слои 24–31 модели LLaMA-2-7B-32K. Репозиторий содержит веса в формате safetensors; размер модели — 8,2 млрд параметров, заявленная длина контекста — 32 768 токенов. Модель предназначена для генерации текста. Её можно использовать для продолжения текстовых фрагментов и создания ответов в приложениях на базе языковой модели. Карточка не приводит оценок качества, специализированных сценариев или сведений о поддерживаемых естественных языках, поэтому практические возможности и языковое покрытие по этим данным определить нельзя. Лицензия в предоставленных данных не указана.

Llama-SmolTalk-3.2-1B-Instruct — компактная плотная языковая модель prithivMLmods на архитектуре Llama, дообученная для следования инструкциям и диалогов на наборе HuggingFaceTB/smoltalk. Она основана на meta-llama/Llama-3.2-1B-Instruct и содержит 1,2 млрд параметров; поддерживает генерацию текста и чат, а также имеет интерфейс для вызова инструментов. В метаданных указан контекст до 131 072 токенов. Модель предназначена для диалоговых интерфейсов, генерации текстов, кратких изложений, объяснений и ответов на открытые или структурированные запросы. Английский указан среди языков карточки. Репозиторий использует библиотеку Transformers и формат весов safetensors; README также упоминает GGUF-вариант. Лицензия — creativeml-openrail-m. Компактный размер делает модель пригодной для сценариев с ограниченными ресурсами, однако возможности и качество ответов могут быть ограничены по сравнению с более крупными моделями. README не приводит результатов оценки качества; заявленные широкие применения не подтверждены конкретными тестами.

Llama-Spark-GGUF — набор квантизированных моделей в формате GGUF для llama.cpp, созданный bartowski на основе llama-spark-dpo-v0.3 от arcee-train. Модель предназначена для генерации текста и локального запуска, в том числе через LM Studio. README не указывает точные размер исходной модели, архитектурные параметры, поддерживаемые языки, модальности или размер контекста. Доступны варианты от F32 до низкобитных Q2_K и IQ2_M объёмом примерно от 2,95 до 32,13 ГБ. Квантизация выполнена с использованием imatrix и llama.cpp; для большинства вариантов заявлен компромисс между размером и качеством, при этом Q6_K_L, Q6_K, Q5 и Q4 считаются рекомендуемыми, а низкобитные варианты предназначены для систем с ограниченной оперативной памятью. Для корректного общения приведён специальный шаблон промпта Llama 3.1. Указанная лицензия — llama3.1.

Это дообученная модель KKHYA на 1,7 млрд параметров, созданная на основе KKHYA/llavaqwen3-1.7b-finetune. Она использует архитектуру AdapterMoELLaVAQwen3ForCausalLM и предназначена для генерации текста и диалогов; в метаданных также заявлен интерфейс вызова инструментов. Модель принимает текст и генерирует текст, а её контекстное окно составляет 40 960 токенов. Модель опубликована в форматах PyTorch и safetensors под лицензией Apache-2.0. В README не приведены сведения о специализированных сценариях, обучающих данных и оценке качества, поэтому её преимущества в конкретных задачах и ограничения по применению не определены.

Это дообученная модель KKHYA на базе KKHYA/llavaqwen3-1.7b-finetune, предназначенная для генерации текста и диалогов. Она содержит 1,7 млрд параметров, построена на архитектуре NMMaskMoELLaVAQwen3ForCausalLM и рассчитана на контекст до 40 960 токенов. Доступны веса в форматах PyTorch и Safetensors; модель запускается через Transformers. Карточка не описывает датасет, результаты оценки или специализированные сценарии применения. Модель распространяется по лицензии Apache-2.0.

Это дообученная модель KKHYA на базе KKHYA/llavaqwen3-1.7b-finetune с 1,7 млрд параметров. Она предназначена для генерации текста и диалогов; в метаданных также указана поддержка интерфейса вызова инструментов. Модель создана 13 августа 2026 года и распространяется в форматах PyTorch и safetensors через Transformers. Лицензия — Apache-2.0. Карточка не описывает обучающий датасет, конкретные сценарии, оценку качества или специальные ограничения. Контекстное окно составляет 40 960 токенов. По имеющимся сведениям модель принимает и выдаёт текст.

Модель KKHYA/llavaqwen3-1.7b-finetune-nm-mask-moe-sparse-4e-2k-2of4-imp-maskreg1e5-h100_20260809_183919 — дообученная версия KKHYA/llavaqwen3-1.7b-finetune с 1,7 млрд параметров для генерации текста и диалогов. Она построена на архитектуре NMMaskMoELLaVAQwen3ForCausalLM и предназначена для текстового взаимодействия; метаданные также указывают интерфейс вызова инструментов. Длина контекста — до 40 960 токенов. Модель доступна в форматах PyTorch и safetensors и распространяется по лицензии Apache-2.0. README не приводит подробностей о датасете, оценке качества или специфических сценариях дообучения, поэтому специализацию и качество выполнения отдельных задач определить нельзя.

Это дообученная модель KKHYA на основе KKHYA/llavaqwen3-1.7b-finetune. Она использует архитектуру NMMaskMoELLaVAQwen3ForCausalLM, содержит 1,7 млрд параметров и предназначена для генерации текста и диалогов; каталог также отмечает интерфейс вызова инструментов. Нативный контекст — до 40 960 токенов. Модель опубликована в форматах PyTorch и Safetensors под лицензией Apache-2.0. Датасет дообучения и результаты оценки не описаны, поэтому качество и пригодность для конкретных сценариев по карточке установить нельзя.

llm-jp-13b-v1.0 — языковая модель на 13 млрд параметров, разработанная совместным японским проектом LLM-jp. Это предварительно обученная Transformer-модель с архитектурой GPT-2, опубликованная в формате PyTorch для Hugging Face Transformers. Модель обучалась на смеси японских и английских данных, включая Wikipedia и mC4; токенизатор Unigram byte-fallback имеет словарь из 50 570 токенов, включая японский, английский и исходный код. Контекст модели — 2048 токенов. Модель предназначена для генерации текста и может служить основой для продолжения текста, ответов и других языковых приложений на японском и английском языках. В репозитории также перечислены отдельные варианты с настройкой на выполнение инструкций, но данный чекпойнт обозначен как предварительно обученная модель. Разработчики предупреждают, что модели находятся на раннем этапе исследований и разработок и не настроены для надёжного следования человеческим намерениям или требованиям безопасности. Лицензия — Apache-2.0.

LongLLaMA-Code 7B Instruct — языковая модель семейства LongLLaMA, дообученная автором syzymon для следования инструкциям. Модель содержит 6,6 млрд параметров и опубликована в формате PyTorch; в метаданных указана лицензия Llama 2. В карточке указана длина контекста 4096 токенов, а при настройке использовались входы длиной до 3072 токенов. Модель предназначена для ответов на базовые вопросы о научных статьях и программном коде, выполнения простого рефакторинга и других инструктивных задач. Для дообучения использовались MathInstruct, OpenOrca и ShareGPT-Processed; в частности, большая часть примеров была взята из MathInstruct. Карточка не сообщает о поддержке дополнительных модальностей или конкретных естественных языков. Это дообученная модель, а не новая базовая архитектура. В README заявлены базовые возможности работы с кодом и исследовательскими статьями, поэтому модель подходит для простых запросов, но её качество на сложных задачах не охарактеризовано. Для запуска доступна квантизованная версия, однако данный репозиторий содержит веса PyTorch.

bartowski/lordx64_Qwable-v1-GGUF — набор GGUF-квантизованных версий модели Qwable-v1, разработанной lordx64. Квантизация выполнена bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для диалоговых и агентских сценариев, включая использование инструментов, цепочки рассуждений и генерацию текста; в метаданных она также отмечена как image-text-to-text, однако подробности о поддерживаемых визуальных возможностях не приведены. Указан английский язык, а обучение связано с датасетом agentic-distill-fable-5-sft. В тегах упоминаются Qwen3, Qwen3.6, MoE, distillation и chained distill, но точная архитектура, число параметров и размер контекста в README не указаны. Доступны варианты от BF16 и Q8_0 до более компактных IQ- и Q3-квантизаций. Размер файлов варьируется примерно от 15,98 до 71,07 ГБ; Q4_K_M обозначен как вариант по умолчанию для большинства сценариев, а Q5 и Q6 — как рекомендуемые варианты более высокого качества. Более сильные квантизации обеспечивают лучшее сохранение качества, тогда как низкобитные версии экономят оперативную память, но могут заметно уступать в качестве. Для запуска предлагаются llama.cpp, LM Studio, Ollama-подобные и другие совместимые инструменты, однако для недавно поддерживаемых архитектур может потребоваться обновление ПО. Лицензия модели указана как AGPL-3.0. README не содержит результатов бенчмарков, точных требований к оборудованию, данных о размере контекста и детального описания ограничений, поэтому производительность и фактические мультимодальные возможности следует проверять отдельно.

Loxa-1.6B-uncensored — разговорная языковая модель семейства Llama, опубликованная frameai. Она предназначена для генерации текста и диалогов; в карточке также заявлены создание историй и статей, ответы на вопросы, суммаризация и ограниченные возможности перевода. Модель содержит 1,7 млрд параметров, работает через Transformers и принимает текст, выдавая текст. Метаданные указывают контекст до 131 072 токенов и английский язык; заявлена поддержка запуска на CPU и GPU. README описывает модель как ориентированную на качественный английский текст и чат-приложения, но не приводит проверяемых бенчмарков или методики для заявленной точности. Метаданные отмечают интерфейс вызова инструментов, но примеров его работы в README нет. Модель опубликована под лицензией Apache-2.0.