II.6Документация и сопровождение разработки
В разделе собраны самостоятельные задачи, где AI помогает поддерживать понятную техническую документацию и ускорять передачу знаний. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
38 015 моделейtrinhkhng/linear_Merged_gpt2-large_0.0 — языковая модель GPT-2 Large, созданная автором репозитория с помощью mergekit методом линейного слияния. В конфигурации указаны GPT-2 Large с весом 1,0 и debias_gpt2-large с весом 0,0, поэтому вклад второй модели в итоговое слияние задан нулевым; токенизатор взят из GPT-2 Large. Модель предназначена для генерации текста по текстовому контексту. Она использует архитектуру GPT-2 с плотной сетью, распространяется в формате safetensors и имеет контекст до 1024 токенов. В метаданных не указаны специальные прикладные области или поддержка конкретных естественных языков. Лицензия в предоставленных данных не указана. Карточка описывает способ получения модели, но не приводит оценок качества или дополнительных гарантий по снижению предвзятости.
Ling-3.0-flash-abliterated-APEX-GGUF — неофициальная общественная GGUF-сборка модели Ling-3.0-flash, разработанной inclusionAI. Модель предназначена для генерации текста и задач рассуждения, включая локальный запуск через совместимое с GGUF программное обеспечение. В официальной версии мышление включено по умолчанию. Модель использует гибридную архитектуру MoE: 124 млрд параметров всего и около 5,1 млрд активных параметров. В её основе — стек из Kimi Delta Attention и gated MLA в соотношении 5:1, разреженный MoE с 512 маршрутизируемыми экспертами, выбором top-8 и одним общим экспертом, два плотных слоя и обученная MTP-голова. Заявленный график контекстного окна составляет 8K, затем 32K и до 256K токенов. Формат GGUF использует архитектуру bailingmoe3 и смешанную квантизацию APEX; наличие поддерживаемых языков в README не указано. Эта сборка отличается от официальной применением abliterix v6 trial 21 для снижения частоты отказов и последующим преобразованием в GGUF. Поэтому она может заметно отличаться от исходной модели по поведению и безопасности; README указывает на необходимость самостоятельной оценки соответствия требованиям, контроля доступа и аудита. Также для указанных уровней квантизации не использовалась imatrix. Лицензия — MIT, при этом необходимо соблюдать условия inclusionAI и применимое местное законодательство.
Ling-3.0-flash-GGUF — это GGUF-квантизированная версия языковой модели Ling-3.0-flash, разработанной inclusionAI и подготовленной для распространения bartowski. Модель предназначена для генерации текста и запуска через llama.cpp; поддерживает спекулятивное декодирование MTP и входные данные в текстовой модальности. Модель содержит 127 млрд параметров. Доступны варианты от BF16 и Q8_0 до компактных квантов Q2 и IQ2; размер файлов составляет примерно от 43,64 до 255,09 ГБ. Для большинства сценариев README рекомендует Q4_K_M как компромисс между качеством и размером, а Q5 и Q6 — когда важнее качество. Квантизация выполнена с использованием imatrix, однако измерения perplexity и KLD не предоставлены. Архитектура, поддерживаемые языки и размер контекстного окна в представленных данных не указаны. Сильными сторонами являются большой объём параметров, широкий выбор уровней квантизации и совместимость с экосистемой llama.cpp. Ограничениями выступают значительные требования к дисковому пространству и ресурсам, особенно для высококачественных вариантов; низкобитные кванты экономят память, но могут заметно снижать качество. Лицензия — MIT.
Ling-3.0-flash REAP320 — экспериментальная разговорная гибридная MoE-модель от bloomer010, полученная из inclusionAI/Ling-3.0-flash удалением наименее активных экспертов. В каждом слое оставлено 320 из 512 маршрутизируемых экспертов; в карточке указаны 81 млрд параметров суммарно и 5,1 млрд активных. Для отбора экспертов применён однократный метод REAP по калибровочным данным объёмом 1 млн токенов из UltraChat, WikiText и кода; дообучения и восстановительного обучения не было. Модель предназначена для диалоговой генерации текста. Она распространяется в формате BF16 safetensors, использует архитектуру BailingMoeV3 и загружается через Transformers с включённым trust_remote_code для пользовательского кода. Контекст — до 262 144 токенов. Шаблон чата поддерживает параметр reasoning_effort. Карточка обозначает её как исследовательский артефакт и экспериментальный REAP-чекпойнт; сведения о лицензии и поддерживаемых естественных языках не приведены.
Liph42 — слитая языковая модель семейства Phi, опубликованная пользователем liminerity. Она предназначена для генерации текста и может использоваться для продолжения заданного текста и получения текстовых ответов. Модель имеет плотную архитектуру PhiForCausalLM, около 3,5 млрд параметров и контекстное окно до 2048 токенов; веса доступны в формате safetensors. Карточка содержит лишь краткий образный текст и не приводит оценок качества или конкретных сценариев настройки. Модель распространяется по лицензии Apache-2.0.
Livro 1.5B v1 — дообученная авторегрессионная языковая модель семейства Qwen2, опубликованная developer2625. Она создана на базе unsloth/qwen2.5-1.5b-instruct-unsloth-bnb-4bit и предназначена для генерации текста и диалогового взаимодействия; в каталоге также отмечен интерфейс для вызова инструментов. Модель содержит 1,5 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Карточка указывает английский язык. Для обучения использовались Unsloth и библиотека TRL от Hugging Face; веса опубликованы в формате safetensors. Лицензия — Apache-2.0. Карточка не приводит результаты оценки качества и подробностей обучающих данных, поэтому пригодность для конкретных задач нужно проверять отдельно. Размер модели ограничивает её возможности по сравнению с более крупными языковыми моделями.
Sasmitah/llama_16bit_2 — дообученная разговорная языковая модель семейства Llama, разработанная Sasmitah на базе unsloth/llama-3.2-1b-instruct-bnb-4bit. Модель с архитектурой LlamaForCausalLM содержит 1,2 млрд параметров, принимает текст и генерирует текст; карточка указывает контекст до 131 072 токенов и поддержку английского языка. Модель предназначена для диалоговой генерации текста и может использоваться для ответов на запросы, ведения беседы и сценариев с интерфейсом вызова инструментов. Она обучалась с использованием Unsloth и TRL; в репозитории указаны веса PyTorch. Лицензия — Apache-2.0. Карточка не описывает обучающие данные, результаты оценки качества или точные возможности вызова инструментов, поэтому пригодность для конкретных задач требует отдельной проверки.
AvoCahDoe/llama-2-13b-rlmpq-high-fidelity — вариант Llama 2 13B, подготовленный методом RL-MPQ (Reinforcement Learning Mixed-Precision Quantization) для сценария High Fidelity. Это плотная авторегрессионная модель архитектуры LlamaForCausalLM с 12,9 млрд параметров и контекстом 4096 токенов, предназначенная для генерации и продолжения текста на английском языке. Средняя точность составляет 6,7 бита на вес; веса экспортированы в fake-quantized FP16 и доступны в формате safetensors для использования с Transformers. README указывает на проверку качества по perplexity на WikiText-2, но не приводит результат для этого сценария. Модель основана на meta-llama/Llama-2-13b-hf и распространяется по лицензии Llama 2.
Cartinoe5930/Llama2_init_Mistral — базовая модель с архитектурой Llama 2, инициализированная весами Mistral; в README она представлена как реализация базовой модели SOLAR-10.7B. Это плотная авторегрессионная языковая модель на 7,1 млрд параметров для генерации текста. Метаданные указывают контекст 4096 токенов и формат safetensors. Модель подходит для генерации продолжений текста и других сценариев, построенных на text-generation. В README приведены результаты на тестах ARC, HellaSwag, MMLU, TruthfulQA, Winogrande и GSM8K, но конкретные условия оценки не описаны. Модель опубликована под лицензией Apache-2.0.
Карточка модели Neko-Institute-of-Science/LLaMA-30B-HF на Hugging Face совпадает с карточкой Neko-Institute-of-Science/LLaMA-7B-HF, поэтому описание составлено по ней. LLaMA-7B-HF — преобразованная в формат Transformers версия языковой модели LLaMA, опубликованная Neko Institute of Science. Это плотная авторегрессионная модель с архитектурой LlamaForCausalLM и примерно 6,6 млрд параметров; она предназначена для генерации текста. Контекст модели составляет 2048 токенов. Репозиторий содержит веса PyTorch и Safetensors. Для использования требуется соблюдать специальную лицензию и условия, изложенные в файле LICENSE. README также предупреждает, что в упомянутой торрент-копии устарели tokenizer_config.json и special_tokens_map.json; эти файлы следует заменить версиями из карточки модели.
Llama-3-11.5B-V2-GGUF — набор квантизированных версий языковой модели Llama-3-11.5B-V2, опубликованный bartowski. Исходная модель разработана Replete-AI, а квантизация выполнена с использованием llama.cpp версии b3024 и метода imatrix. Модель предназначена для генерации текста и локального запуска в форматах GGUF, включая работу через llama.cpp и совместимые инструменты. Модель содержит около 11,5 млрд параметров и относится к текстовым моделям; сведения о поддерживаемых языках и размере контекстного окна в README не указаны. Доступны варианты квантизации Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ-квантизации с размером файлов примерно от 3,63 до 12,24 ГБ. Старшие варианты обеспечивают более высокое качество, а младшие снижают требования к оперативной памяти и видеопамяти, но сильнее теряют в качестве. Для запуска рекомендуется выбирать вариант, помещающийся в доступный объём RAM и VRAM; наиболее сбалансированными в README названы Q6_K, Q5_K и Q4_K. Преимущество набора — широкий выбор компромиссов между качеством, скоростью и потреблением памяти, а также пригодность для локального инференса. Ограничения включают отсутствие точного описания архитектуры, контекстного окна, языков, результатов оценивания и корректного chat template; указанный шаблон может быть неверным. Модель распространяется по лицензии Llama 3; конкретные условия определяются лицензией Meta, ссылка на которую приведена в карточке.
QuantFactory/Llama-3-13B-Instruct-v0.1-GGUF — квантизированная версия текстовой instruct-модели Llama-3-13B-Instruct-v0.1, созданная с помощью llama.cpp. Исходная модель разработана MaziyarPanahi как self-merge на базе meta-llama/Meta-Llama-3-8B-Instruct; квантизацию также выполнил MaziyarPanahi. Модель предназначена для генерации текста и диалоговых сценариев, включая работу через chat template и библиотеки transformers или совместимые инструменты llama.cpp. В карточке указано, что модель работает с текстом на английском языке и относится к pipeline text-generation. Архитектура прямо не описана; заявлен размер 13B в названии модели. Квантизация должна снизить требования к вычислительным ресурсам по сравнению с полноразмерной версией, но конкретный формат и уровень квантизации не указаны. Контекстное окно, поддерживаемые модальности, точные требования к памяти, результаты оценки и ограничения качества не приведены. Модель может быть полезна для англоязычных чат-ботов, генерации и продолжения текста, а также локального запуска при ограниченных ресурсах. Использование регулируется лицензией Llama 3; в README указана лицензия other с именем llama3 и ссылкой на файл LICENSE, однако подробные условия в предоставленных данных не приведены.
QuantFactory/Llama3.1-8B-Chinese-Chat-GGUF — квантизированная версия модели Llama3.1-8B-Chinese-Chat, созданная с использованием llama.cpp на основе Meta-Llama-3.1-8B-Instruct. Исходную модель разработали Shenzhi Wang, Yaowei Zheng, Guoyin Wang, Shiji Song и Gao Huang; равный вклад указан для первых двух авторов. Модель предназначена для генерации текста и диалоговых сценариев на китайском и английском языках. Она ориентирована на ролевое взаимодействие, использование инструментов и function calling, а также задачи, связанные с математикой. Дообучение выполнено методом ORPO с использованием LLaMA-Factory на более чем 100 тысячах пар предпочтений. Размер модели составляет около 8,03 млрд параметров, заявленная длина контекста — до 128K токенов, однако для китайской версии она не была протестирована; длина контекста при дообучении составляла 8192 токена. Главное преимущество модели — адаптация Llama 3.1 для китайско-английских пользователей и наличие GGUF-квантизации, упрощающей локальный запуск через llama.cpp или LM Studio. Ограничения включают непроверенную заявленную длину контекста для этой версии и возможные неточные ответы на вопросы о собственной идентичности и разработчиках. Модель распространяется по лицензии Llama 3.1.
OpenSourceEnjoyer/LLaMA-3.1-8B-Function-Calling-FP16 — дообученная языковая модель семейства LLaMA 3.1, разработанная OpenSourceEnjoyer на базе unsloth/meta-llama-3.1-8b-bnb-4bit. Модель имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекст до 131 072 токенов. Обучение проводилось с Unsloth и библиотекой TRL. Модель предназначена для генерации текста; название указывает на сценарий вызова функций, однако README не описывает формат и качество этой возможности. Она принимает текст и выдаёт текст. Для модели указана лицензия Apache-2.0. Карточка содержит мало сведений о данных обучения и проверке качества, поэтому пригодность для конкретных сценариев вызова функций следует оценивать отдельно.
Jongbin-kr разработал экспериментальный чекпойнт Llama 3.1 8B Instruct, преобразовав MLP-блоки декодера в разреженную MoE-архитектуру с четырьмя изначально одинаковыми экспертами и маршрутизацией top-1 без отбрасывания токенов. Модель содержит 7,5 млрд параметров, принимает текст и предназначена для диалоговой генерации текста и выполнения инструкций; заявленная длина контекста — 131 072 токена. Она основана на инструкционно настроенной Llama 3.1 8B Instruct от Meta и распространяется в формате safetensors для библиотеки Transformers. Для загрузки карточка указывает необходимость `trust_remote_code=True`. Сведения о лицензии в предоставленных данных отсутствуют.
Elio2151 дообучил модель на основе unsloth/Meta-Llama-3.1-8B-Instruct-bnb-4bit с использованием Unsloth и библиотеки TRL. Это плотная авторегрессионная языковая модель семейства Llama с 7,5 млрд параметров, предназначенная для генерации текста в диалоговом формате; также заявлен интерфейс для вызова инструментов. Модель принимает текст и выдаёт текст, поддерживает английский язык и имеет контекстное окно до 131 072 токенов. Модель можно использовать для диалоговых приложений, генерации текста и сценариев с вызовом инструментов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache 2.0. Карточка не описывает обучающие данные, специализацию дообучения или результаты оценки качества.
ZEUS — разговорная языковая модель на базе Llama 3.1, созданная T145 объединением нескольких моделей методом DARE TIES. В объединение вошли meta-llama/Llama-3.1-8B-Instruct, akjindal53244/Llama-3.1-Storm-8B, arcee-ai/Llama-3.1-SuperNova-Lite и Orenguteng/Llama-3.1-8B-Lexi-Uncensored-V2. Модель содержит 7,5 млрд параметров и имеет контекст до 131 072 токенов. ZEUS предназначена для диалогов и генерации текста, в том числе для продолжительных бесед с сохранением связности. Она поддерживает интерфейс вызова инструментов и по умолчанию формирует ответы в Markdown. README описывает её как uncensored-модель; опубликованные оценки включают 79,41 на IFEval и 31,39 на BBH. Модель доступна в формате Safetensors под лицензией Apache-2.0. Она рассчитана прежде всего на англоязычные диалоги; качество для других языков в предоставленных материалах не охарактеризовано. Это объединение моделей, поэтому результат не гарантирует стабильной связности или качества во всех задачах.
promotion/Llama-3.1-8B-NBPO-finitepool — диалоговая языковая модель на архитектуре Llama, дообученная на базе meta-llama/Llama-3.1-8B-Instruct методом NBPO для многоцелевой оптимизации предпочтений. Модель генерирует текст и поддерживает диалог; размер составляет 7,5 млрд параметров, контекст — до 131 072 токенов. В репозитории веса в формате Safetensors; лицензия — Llama 3.1. Этот чекпойнт помечен как superseded: в обучающую выборку попали 629 из 698 оценочных запросов UltraFeedback. Из-за пересечения результаты на этом наборе смещены в пользу модели, поэтому её не следует использовать для воспроизведения результатов UltraFeedback из статьи NBPO. В README указано, что заменой служит promotion/Llama-3.1-8B-NBPO-UltraFeedback-clean.
barc0/Llama-3.1-ARC-Heavy-Induction-8B — дообученная авторами репозитория языковая модель на архитектуре Llama для генерации текста и диалогового взаимодействия. В основе лежит meta-llama/Meta-Llama-3.1-8B-Instruct; модель содержит 7,5 млрд параметров и рассчитана на контекст до 131 072 токенов. В README указано дообучение на наборе данных, обозначенном как None, и значение функции потерь 0,2765 на наборе оценки. Модель использует шаблон инструкций Llama 3.1 и может применяться для генерации ответов в диалоге; метаданные также отмечают интерфейс вызова инструментов. Карточка не описывает специализацию ARC Heavy Induction или результаты по отдельным задачам. Модель распространяется в формате safetensors по лицензии Llama 3.1. Языковые возможности и ограничения сверх характеристик базовой модели в карточке не описаны.
andrijdavid/Llama3-1B-Base — базовая плотная языковая модель примерно на 1,2 млрд параметров, созданная автором репозитория на основе уменьшенной версии Llama 3 8B от Meta. Она предназначена для генерации текста и последующего дообучения под конкретные задачи, в том числе ответы на вопросы, анализ тональности, перевод и суммаризацию. Модель рассчитана на использование в условиях ограниченных вычислительных ресурсов; архитектура — LlamaForCausalLM, формат весов — safetensors, контекст — до 8192 токенов. Модель не дообучалась под отдельную задачу. Она поддерживает диалоговый сценарий, но может выдавать фактически неверные, предвзятые, оскорбительные или неуместные ответы. Лицензия репозитория — CC BY 4.0. Автор указывает, что проект не связан с Meta.
Capx/Llama-3.1-Carrot — разговорная модель Capx, дообученная на базе Meta Llama 3.1 8B Instruct. Она предназначена для диалога и генерации текста; метаданные также указывают поддержку сценариев с изображениями и интерфейса вызова инструментов. Модель содержит 7,5 млрд параметров, использует плотную архитектуру CapxLlamaForCausalLM и имеет контекст до 131 072 токенов. Модель рассчитана на англоязычное использование. Для запуска инференса README указывает минимальное требование — GPU A100 с 40 ГБ памяти. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0.
SliceX AI разработала ELM Turbo — семейство компактных инструктивных языковых моделей на основе Meta-Llama-3.1-8B-Instruct. Эта версия представляет собой срез семейства размером около 3,6 млрд параметров с архитектурой Llama и поддержкой диалогового режима. Модель предназначена для генерации текста и ответов на инструкции с возможностью развертывания в условиях ограничений по вычислительным ресурсам и памяти. Разработчики описывают ELM Turbo как модульную архитектуру, обученную с применением «срезов» на этапах предобучения и/или дообучения, чтобы сформировать варианты разного размера. Карточка указывает контекстное окно до 131 072 токенов и английский язык. Веса опубликованы в формате Safetensors. Модель подходит для чат-ботов, ответов на вопросы и других задач генерации текста. Следует проверять фактическую точность и возможные смещения в ответах: инструкция по применению предупреждает, что использованные наборы данных могут содержать ошибки, предвзятость и нежелательный контент. Лицензия — Llama 3.1; использование регулируется её условиями.
Hitmanguy выпустил инструкционно настроенную модель генерации текста на архитектуре Llama 3.1. Она основана на unsloth/Meta-Llama-3.1-8B-Instruct и дообучена методом GRPO; в репозитории указаны библиотеки Unsloth и Hugging Face TRL. Модель содержит 7,5 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. Модель предназначена для диалогов и генерации текста на английском языке; метаданные также отмечают интерфейс вызова инструментов. Репозиторий распространяется по лицензии Apache 2.0. Карточка не описывает специальные прикладные области или результаты оценки качества.
Это GGUF-квантизация инструкционной языковой модели Llama-3.1-Nemotron-70B-Instruct-HF-abliterated. Исходную модель опубликовала huihui-ai, а квантизации подготовил bartowski с использованием llama.cpp и метода imatrix; в метаданных также указана связь с NVIDIA. Модель предназначена для генерации текста и диалоговых сценариев, включая работу через LM Studio и другие совместимые с llama.cpp приложения. Модель содержит 70 миллиардов параметров, поддерживает текстовую модальность и, согласно метаданным, ориентирована на английский язык. README не указывает размер контекста и точную архитектуру, но приведён специальный prompt format на основе шаблона Llama 3.1 с ролями system, user и assistant. Доступны варианты квантизации от Q8_0 до IQ2_XS с размером файлов примерно от 75 до 24 ГБ; более высокие уровни обычно сохраняют лучшее качество, а низкие позволяют снизить требования к памяти. Сильной стороной являются широкий выбор форматов GGUF и возможность локального запуска при наличии значительного объёма RAM или VRAM. Ограничения включают большие требования к ресурсам, снижение качества на низких уровнях квантизации и отсутствие в README подробных результатов оценки. Модель не является мультимодальной, а поддержка других языков явно не заявлена. Указана лицензия llama3.1.
hxia7/Llama-3.2-1B-Block-FT — дообученная модель семейства Llama от автора hxia7 на базе meta-llama/Llama-3.2-1B. Она предназначена для генерации ответов по документам в системах RAG. Веса настроены на 80 тысячах примеров Tulu3-Block-FT-RAG с использованием механизма Block-Attention: контекст разделяется на блоки документов и блок запроса, что позволяет повторно использовать KV-кэш документов для разных запросов. Модель содержит 1,2 млрд параметров, использует архитектуру LlamaForCausalLM, формат safetensors и контекст до 131 072 токенов. В тесте на 100 примерах TriviaQA из валидационной выборки, не входивших в обучение, автор сообщает Substr-EM 87% и F1 26,59%; сравнительная таблица указывает на сопоставимые результаты Block-Attention и обычного полного внимания. Эти показатели получены на небольшой выборке и не гарантируют аналогичного качества в других сценариях. Для рекомендованного режима Block-Attention требуется ручной prefill и авторегрессионное декодирование с 4D attention mask; обычный model.generate() такую маску не принимает. Лицензия — llama3.2.
bunnycore/Llama-3.2-1B-General-Best — объединённая языковая модель семейства Llama, созданная автором репозитория с помощью mergekit. В неё вошли huihui-ai/Llama-3.2-1B-Instruct-abliterated и bunnycore/LLama-3.2-1B-General-lora_model; применён метод passthrough. Модель содержит 1,2 млрд параметров, использует плотную архитектуру LlamaForCausalLM и доступна в формате safetensors для библиотеки Transformers. Модель предназначена для генерации текста и диалоговых сценариев. Метаданные указывают на контекст до 131 072 токенов и интерфейс вызова инструментов. В карточке не приведены результаты оценки качества, подробные инструкции по использованию или сведения о поддерживаемых языках. Лицензия в предоставленных данных не указана.
duyntnet/Llama-3.2-1B-Instruct-imatrix-GGUF — набор imatrix-квантизаций модели Llama 3.2 1B Instruct в формате GGUF, разработанный на основе модели Meta Llama 3.2 1B Instruct. Автор исходной модели — Meta; сведения об отдельном разработчике квантизаций в README не указаны. Модель предназначена для генерации текста и диалоговых сценариев, включая многоязычное общение, агентский поиск с извлечением данных и суммаризацию. Это авторегрессионная языковая модель с оптимизированной архитектурой Transformer, дообученная с помощью supervised fine-tuning и reinforcement learning from human feedback для повышения полезности и безопасности. Размер — 1 млрд параметров, модальности — текст на входе и выходе. В README указан язык en, при этом исходная коллекция описывается как мультиязычная; точный перечень поддерживаемых языков и размер контекстного окна не приведены. К ключевым преимуществам относятся компактный размер, возможность локального запуска и поддержка экосистемы llama.cpp, KoboldCPP, text-generation-webui и Ollama. Ограничения связаны с меньшей ёмкостью по сравнению с более крупными моделями, возможными потерями качества из-за квантизации и отсутствием подробных данных о конкретных вариантах квантования и их производительности. Лицензия обозначена как other; её точные условия в README не раскрыты.
Модель artificialguybr/LLAMA3.2-1B-Synthia-II-Redmond — дообученная версия мультиязычной языковой модели Llama 3.2 1B от Meta. Автор дообучил её на наборе инструкций Synthia-v1.5-II с использованием Axolotl; архитектура — плотная авторегрессионная LlamaForCausalLM, размер — 1,2 млрд параметров, нативная длина контекста — 131 072 токена. Модель предназначена для выполнения инструкций и диалоговых приложений, а также для исследований и разработки в области NLP. В карточке перечислены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Доступны веса PyTorch и safetensors. Лицензия — Llama 3.2.
AIR-hl/Llama-3.2-1B-ultrachat200k — чат-модель семейства Llama, созданная дообучением Meta Llama 3.2 1B методом supervised fine-tuning. Разработчик дообучил её на наборе HuggingFaceH4/ultrachat_200k с использованием TRL; модель содержит 1,2 млрд параметров и распространяется в формате safetensors. Модель предназначена для генерации текста в диалогах: она принимает текстовые запросы и формирует ответы. Метаданные указывают контекст длиной до 131072 токенов и многоязычную основу. Указана лицензия llama3.2. В карточке приведены значения потерь на обучении, но нет оценок качества на тестовых наборах; небольшой размер модели может ограничивать качество сложных рассуждений и точность ответов.
SUPRITH2004/llama-3.2-3b-classification-merged — дообученная языковая модель SUPRITH2004 на базе unsloth/Llama-3.2-3B-Instruct-bnb-4bit. Это плотная авторегрессионная модель семейства Llama с 3,2 млрд параметров и контекстом до 131 072 токенов. Несмотря на слово classification в названии, в карточке указана задача генерации текста; отдельные сведения о классификационном обучении или качестве классификации отсутствуют. Модель поддерживает диалоговый сценарий и интерфейс вызова инструментов, использует английский язык и может применяться для генерации ответов и текста в приложениях на базе Llama. Дообучение выполнялось с Unsloth и библиотекой Hugging Face TRL. Лицензия — Apache-2.0.