II.6Документация и сопровождение разработки
В разделе собраны самостоятельные задачи, где AI помогает поддерживать понятную техническую документацию и ускорять передачу знаний. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
38 015 моделейLiquidAI/LFM2.5-1.2B-Instruct-ONNX — ONNX-версия языковой модели LFM2.5-1.2B-Instruct, разработанной Liquid AI. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск на периферийных устройствах, серверах и в браузере через WebGPU. Модель содержит около 1,2 млрд параметров и использует гибридную архитектуру с мультипликативными гейтами и короткими свёртками, оптимизированную для быстрого вывода на CPU, GPU и NPU. Поддерживаются английский, японский, корейский, французский, испанский, немецкий, итальянский, португальский, арабский и китайский языки. Доступны варианты Q4, FP16 и Q8: Q4 рекомендуется для большинства сценариев и WebGPU, FP16 ориентирован на более высокое качество, а Q8 предназначен для серверного использования. Размер контекста в README не указан. Сильные стороны модели — компактный размер, кроссплатформенность, поддержка ONNX Runtime и возможность браузерного запуска без отдельного серверного окружения. Ограничения включают отсутствие заявленной поддержки Q8 в WebGPU, необходимость размещать дополнительные файлы весов рядом с ONNX-графом, а также неуказанные в README показатели качества и ограничения контекстного окна. Модель распространяется по лицензии lfm1.0; лицензия обозначена как other.
lfm25-1.2b-pv-conscientiousness-high — дообученная модель LiquidAI/LFM2.5-1.2B-Base, созданная с помощью TRL. Это плотная языковая модель семейства LFM2 с 1,5 млрд параметров, предназначенная для генерации текста в диалоговом формате. В карточке приведён пример ответа на открытый вопрос; суффикс conscientiousness-high указывает на профиль conscientiousness-high, но подробности обучения этому профилю не описаны. Модель принимает текстовые сообщения и генерирует текст; максимальная длина контекста составляет 128 000 токенов. Она распространяется в формате safetensors и работает через Transformers. В карточке не приведены сведения о лицензии и конкретной языковой специализации.
LFM2.5-2.6B-ONNX — языковая модель семейства LFM2.5, разработанная Liquid AI для локального запуска на устройствах и серверных CPU/GPU. Она предназначена для генерации текста и может использоваться в приложениях, работающих через ONNX Runtime или Transformers.js с WebGPU, включая сценарии периферийных вычислений и браузерного выполнения. Модель основана на гибридной архитектуре LFM2 с дополнительным предварительным обучением и reinforcement learning. Размер базовой модели — 2,6 млрд параметров. Доступны варианты FP32, FP16, Q8, Q4 и Q4F16; версии Q4 и Q4F16 используют квантованные входные эмбеддинги, а Q4F16 дополнительно применяет FP16 для вычислений и кэшей. Варианты поддерживают запуск на серверных CPU/GPU, тогда как для WebGPU предназначены Q4, Q4F16 и FP16. Заявлена поддержка арабского, китайского, английского, французского, немецкого, хинди, индонезийского, итальянского, японского, корейского, польского, португальского, русского, испанского, тайского и вьетнамского языков. Сильные стороны модели — ориентация на on-device-развёртывание, несколько уровней квантования и совместимость с WebGPU, что позволяет выбирать между размером, скоростью и качеством. Ограничения включают отсутствие поддержки Q8 в WebGPU и компромиссы качества, характерные для квантованных вариантов; сведения о размере контекста и детальных результатах оценки в карточке не указаны. Модель распространяется по лицензии lfm1.0, обозначенной как other.
PocketAiHub/LFM2.5-8B-A1B-Abliterated — производная модель, подготовленная PocketAI Model Lab на основе LiquidAI/LFM2.5-8B-A1B. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск на Apple Silicon через MLX-LM и запуск в формате GGUF с помощью llama.cpp. Поддерживаются английский, арабский, китайский, французский, немецкий, японский, корейский, испанский, португальский и итальянский языки. Модель имеет гибридную архитектуру с attention, свёрточными слоями, dense-компонентами и MoE-экспертами. Доступны смешанный 4-битный вариант MLX, а также варианты GGUF Q4_K_M и Q6_K; Q4_K_M ориентирован на компактность, а Q6_K — на более высокое качество. Контекстное окно и точное число параметров в README не указаны. Релиз прошёл внутреннюю валидацию возможностей и маршрутов инструментов, но приведённые результаты не являются широкими бенчмарками. Особенность модели — сниженное поведение отказа, полученное редактированием родительской модели; разработчики подчёркивают, что это не полностью «uncensored»-модель. Снижение встроенных защит может облегчать получение вредоносных, незаконных или опасных инструкций. Как и другие языковые модели, она может галлюцинировать и не подходит для решений в медицинской, юридической, финансовой и других критически важных областях без проверки человеком. Качество может меняться из-за квантизации. Модель распространяется по лицензии LFM Open License v1.0, унаследованной от Liquid AI. Лицензия содержит ограничение, связанное с коммерческой выручкой, поэтому перед использованием или распространением необходимо изучить её полный текст.
DuoNeural публикует квантованную GGUF-сборку языковой модели LFM2.5-8B-A1B-Abliterated. В карточке заявлен метод TAP-DPQ — посттренировочная квантзация с точностью 2,72 бита на вес; исходная модель описана как гибридная архитектура с рекуррентной моделью пространства состояний и разреженной смесью экспертов. Файлы предназначены для локального запуска диалоговой модели и генерации текста. По данным README, сборка занимает около 2,68 ГиБ и рассчитана на запуск с низкими требованиями к памяти; автор также сообщает о тестировании длинного контекста и сохранении математических рассуждений и вызова функций. README указывает на умеренную чувствительность кода к квантованию. Эти характеристики производительности приведены авторами и не являются независимой оценкой. Лицензия — Apache 2.0.
unsloth/LFM2-8B-A1B-GGUF — GGUF-версия языковой модели LiquidAI/LFM2-8B-A1B, подготовленная Unsloth. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск на устройствах и системах с поддержкой llama.cpp. В набор включены исправления chat template; для llama.cpp рекомендуется использовать параметр --jinja. Модель относится к семейству LFM2 и имеет конфигурацию с 8 млрд параметров и архитектурой mixture-of-experts (MoE) с обозначением A1B. Поддерживаемые языки: английский, арабский, китайский, французский, немецкий, японский, корейский и испанский. Данные о модальностях, размере контекста и точном устройстве архитектуры в README не указаны. Формат GGUF ориентирован на эффективное инференс-использование, однако конкретные требования к памяти и производительности зависят от варианта квантизации. Преимуществами являются адаптация для локального запуска, многоязычная поддержка и заявленное Unsloth улучшение точности квантованных вариантов Dynamic 2.0. Ограничения включают отсутствие в README подробных результатов бенчмарков, спецификаций контекста и описания областей применения. Модель распространяется по лицензии lfm1.0; точные условия следует уточнять в тексте лицензии LiquidAI.
Liberated Miqu 70B — дообученная Abideen языковая модель семейства Llama с плотной архитектурой, предназначенная для генерации текста и диалогов. Она содержит 68,7 млрд параметров и рассчитана на контекст до 32 764 токенов. Модель дообучена на наборе Abacus AI SystemChat в течение одной эпохи; автор сообщает об обучении на двух GPU A100. Модель подходит для диалоговых приложений и генерации ответов на английском языке. В карточке указана лицензия Apache-2.0. Результаты оценки качества пока не опубликованы, поэтому качество на конкретных задачах по представленным данным оценить нельзя.
Lima_Unchained_70b — языковая модель Pankaj Mathur на архитектуре Llama 2, дообученная с помощью QLoRA на всех линейных слоях. Обучающая выборка включает около 900 тщательно отобранных диалогов из датасета LIMA; модель предназначена для генерации ответов и продолжения текста в формате диалога с метками «### User:» и «### Assistant:».
LinguaMatic-Tiny — компактная языковая модель семейства Llama, разработанная erfanzar и дообученная на пользовательской версии UltraChat с помощью EasyDel на TPU-v4. Это авторегрессионная плотная модель с 1 млрд параметров и контекстом 2048 токенов; она генерирует текст и использует формат диалога в стиле Llama 2 с системным промптом и историей сообщений. Модель предназначена для диалогов и широкого круга языковых задач, включая ответы на вопросы, классификацию текста, анализ тональности и перевод. В метаданных также отмечена работа с кодом. Языки, указанные в карточке: английский, французский и испанский. Для качественных ответов README рекомендует формулировать системные промпты точнее; заявленные возможности не сопровождаются оценками качества. Лицензия в предоставленных данных не указана.
LION-LLaMA-3-8b-sft-v1.0 — диалоговая языковая модель Columbia NLP, дообученная методом supervised fine-tuning (SFT) от meta-llama/Meta-Llama-3-8B в рамках серии LION. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров и контекстом до 8192 токенов; репозиторий содержит веса в формате safetensors и предназначен для использования с Transformers. Модель рассчитана прежде всего на английский язык и генерацию ответов в диалоге. Её можно применять для чат-ботов, ответов на вопросы и генерации текста по запросу. Авторы описывают общий обучающий конвейер LION из SFT, DPO и онлайн-обучения предпочтениям; данный вариант обозначен как SFT-модель. В таблице оценки зависят от теста: модель показывает результаты, сопоставимые с instruct-моделью LLaMA-3-8B по OpenLLM, но ниже неё по Arena-Hard, AlpacaEval-2 и MT-Bench. Использование регулируется условиями LLaMA 3; перед развёртыванием следует соблюдать лицензию базовой модели.
LLaDA-MoE-7B-A1B-Base — базовая предварительно обученная языковая модель от InclusionAI, построенная как диффузионная модель языка с архитектурой Mixture-of-Experts. Это версия для исследований и дальнейшей разработки, в том числе для дообучения под конкретные сценарии. Модель обучена с нуля примерно на 20 трлн токенов; всего в ней около 7 млрд параметров, из которых при генерации активируется около 1,4 млрд. Архитектура включает 16 слоёв, использует RoPE и словарь из 157 184 токенов. Модель предназначена для генерации текста и может служить основой для задач программирования, математических рассуждений и сценариев с вызовом инструментов. Метаданные указывают контекст до 8 192 токенов; в README приведена длина контекста 4 096 токенов. Карточка не сообщает, на каких естественных языках модель обучена или проверена. Для работы указана библиотека Transformers; README также рекомендует dInfer для ускоренного инференса. Модель распространяется по лицензии Apache-2.0. Это базовый чекпойнт, поэтому для диалоговых и прикладных сценариев может потребоваться дообучение и подходящая обвязка; заявления о производительности и качестве приведены разработчиком и не сопровождаются здесь независимой проверкой.
Это чат-модель Llama 2 Chat на 13 млрд параметров, разработанная Meta и размещённая в формате Transformers с весами PyTorch. Репозиторий содержит копию meta-llama/Llama-2-13b-chat-hf с весами, разбитыми на части для загрузки. Архитектура — плотный авторегрессионный трансформер LlamaForCausalLM; контекст — до 4096 токенов. Модель принимает текст и генерирует текст. Модель оптимизирована для диалогов в формате помощника: она может отвечать на вопросы, вести беседу и выполнять текстовые инструкции. Для ожидаемого поведения чат-варианту требуется форматирование запросов с маркерами инструкций и специальными токенами. В карточке указано назначение для английского языка; применение на других языках исключено из заявленного сценария. Модель дообучена с учителем и с использованием обучения с подкреплением на основе отзывов людей для повышения полезности и безопасности. Использование регулируется специальной коммерческой лицензией Meta: перед загрузкой весов необходимо принять условия лицензии. Возможны неточные, предвзятые или нежелательные ответы; перед внедрением нужны проверки и настройка безопасности для конкретного применения.
sharpbai/Llama-2-13b-hf — копия предобученной языковой модели Llama 2, разработанной Meta и размещённой в формате PyTorch для Transformers. Файлы весов разделены на части для параллельного скачивания. Модель содержит 12,9 млрд параметров, использует авторегрессионную архитектуру Transformer и рассчитана на контекст до 4096 токенов. Модель принимает текст и генерирует текст. Она предназначена прежде всего для англоязычной генерации: её можно адаптировать для продолжения текста и других задач генерации естественного языка. Это базовая предобученная версия, а не вариант Llama-2-Chat, настроенный для диалогов. Использование регулируется пользовательской лицензией Meta для Llama 2; для доступа к весам требуется принять её условия. Модель может выдавать неточные, предвзятые или нежелательные ответы, поэтому перед внедрением её следует проверять и настраивать под конкретный сценарий.
dhmeltzer/Llama-2-13b-hf-eli5-wiki-1024_r_64_alpha_16_merged — плотная авторегрессионная языковая модель семейства Llama 2 с 12,9 млрд параметров. Метаданные указывают на задачу генерации текста и контекст до 4096 токенов. Карточка содержит результаты оценки на бенчмарках Open LLM Leaderboard, включая ARC и HellaSwag. Модель подходит для генерации продолжений текста и ответов на запросы в текстовом формате. Название репозитория указывает на связь с ELI5 и Wikipedia, а также на объединённые веса; конкретные сведения о способе обучения и назначении этой версии в README не приведены. Файлы доступны в формате safetensors. Лицензия в предоставленных данных не указана.
Это преобразованная в формат Hugging Face модель Meta Llama 2 70B с весами fp16, опубликованная TheBloke. Она представляет собой авторегрессионный языковой трансформер с 68,7 млрд параметров; версия 70B использует Grouped-Query Attention, принимает текст и генерирует текст. Контекст составляет до 4096 токенов, основное назначение — генерация текста на английском языке. Модель подходит для продолжения текста и построения приложений генерации естественного языка; в отличие от варианта Llama-2-Chat, это предварительно обученная модель, а не специализированная версия для диалогового общения. Для запуска нужны ресурсы, достаточные для размещения весов fp16; репозиторий содержит файлы Safetensors и может служить исходной точкой для дальнейших конверсий или квантования. Модель разработала Meta, а TheBloke конвертировал исходные веса из PTH в формат Hugging Face. Использование регулируется лицензией Meta Llama 2: для получения весов требуется принять условия лицензии; README указывает коммерческое и исследовательское применение на английском языке. Как и другие LLM, модель может выдавать неточные, предвзятые или нежелательные ответы, поэтому приложения требуют проверки и настройки безопасности.
Это 8-битная версия диалоговой модели Llama 2 7B, подготовленная для размещённого инференса. Семейство разработала Meta; модель использует авторегрессионную архитектуру Transformer и содержит около 6,6 млрд параметров. Квантование уменьшает размер весов до уровня менее 10 ГБ, а контекст составляет 4096 токенов. Модель принимает текст и генерирует текст. Она предназначена прежде всего для диалогов на английском языке: например, для ответов на вопросы и работы в роли текстового ассистента. README отмечает, что размещённый инференс может быть медленным без плана Hugging Face Pro. Модель может выдавать неточные, предвзятые или нежелательные ответы; перед применением в конкретном продукте рекомендуется провести проверку безопасности и настройку. Использование регулируется пользовательской коммерческой лицензией Meta для Llama 2; для загрузки весов требуется принять лицензию.
TheTravellingEngineer выпустил дообученную методом supervised fine-tuning чат-модель на базе Meta Llama 2 7B Chat. Она использует датасет OpenAssistant OASST1, а формат запросов похож на Guanaco. Модель предназначена для генерации ответов в диалоге и других текстовых задач, выполняемых через text generation. Модель имеет плотную архитектуру LlamaForCausalLM примерно на 6,6 млрд параметров, принимает текст и выдаёт текст. Контекст — до 4096 токенов; поддерживаемый язык по карточке — английский. В репозитории указаны веса safetensors и слитая версия модели в fp16. Применяются ограничения лицензии исходной Llama 2; модель предоставляется без гарантий.
ewqr2130/llama2-7b-raw-sft — дообученная методом supervised fine-tuning (SFT) языковая модель семейства Llama 2, представленная в формате safetensors. Репозиторий содержит плотную авторегрессионную архитектуру LlamaForCausalLM примерно на 6,6 млрд параметров; базовая модель и датасет для дообучения в карточке не названы. Модель предназначена для генерации текста. Контекст составляет до 4096 токенов. В карточке нет сведений о языках обучения, диалоговых возможностях и конкретных сценариях настройки, поэтому применимость к отдельным задачам и языкам оценить нельзя. Указана лицензия MIT.
Minbyul/llama2-7b-wo-live_qa-sft — дообученная модель генерации текста на основе Meta Llama 2, созданная на базе meta-llama/Llama-2-7b-hf. Модель с плотной архитектурой LlamaForCausalLM содержит 6,6 млрд параметров и рассчитана на контекст до 4096 токенов. Модель дообучена методом SFT на наборе HuggingFaceH4/deita-10k-v0-sft. Она предназначена для генерации текста и адаптации к инструкциям в текстовых сценариях; в README приведено значение loss 1,4111 на оценочном наборе. Подробности о целевых сценариях и результатах по отдельным задачам не приведены. Модель принимает и выдаёт текст. Базовая Llama 2 описана как англоязычная; отдельные сведения о языках дообучения отсутствуют. Файлы представлены в формате safetensors. Лицензия в предоставленных данных не указана.
MaziyarPanahi/Llama-3-13B-Instruct-v0.1-GGUF — набор квантизованных файлов модели в формате GGUF, подготовленный MaziyarPanahi на основе MaziyarPanahi/Llama-3-13B-Instruct-v0.1. Модель предназначена для генерации текста и диалоговых сценариев с использованием инструкционного формата Llama 3, включая работу через llama.cpp. Известно, что доступны варианты квантизации с разрядностью от 2 до 8 бит, что позволяет выбирать между меньшим размером файлов и потенциально более высоким качеством. Размер базовой модели составляет 13B параметров. Модальность — текстовая; сведения о поддерживаемых языках, размере контекста, точной архитектуре и результатах оценки в README не указаны. Для корректной работы требуется применять шаблон промпта Llama 3 и поддержка формата GGUF в используемом программном обеспечении. Лицензия в README не указана.
mirnawazrchilli/llama3.2-16bit — текстовая генеративная модель семейства Llama 3.2, дообученная автором mirnawazrchilli на базе unsloth/llama-3.2-1b-instruct-bnb-4bit. Архитектура — плотная авторегрессионная модель LlamaForCausalLM примерно с 1,2 млрд параметров; веса представлены в формате PyTorch. Для обучения использовались Unsloth и библиотека TRL. Модель предназначена для генерации текста и диалогового взаимодействия на английском языке. Её можно применять для ответов на запросы, продолжения текста и создания простых диалоговых приложений; в метаданных также отмечен интерфейс вызова инструментов. Контекстное окно составляет 131 072 токена. Модель распространяется по лицензии Apache-2.0. Карточка не приводит результатов оценки качества или подробностей обучающих данных, поэтому пригодность для конкретных задач следует проверять отдельно.
nm-testing/Llama-3.2-1B-Instruct-FP8-KV — тестовый вариант Meta Llama 3.2 1B Instruct, опубликованный организацией nm-testing на Hugging Face. Он основан на авторегрессионной языковой модели Meta с оптимизированной архитектурой Transformer, дообученной с помощью supervised fine-tuning и reinforcement learning from human feedback для полезного и безопасного диалога. Репозиторий не содержит отдельной карточки модели, поэтому сведения о назначении и характеристиках частично унаследованы от базовой модели Meta Llama 3.2 1B Instruct. Модель предназначена для генерации текста, многоязычного диалога, ассистентских и агентных сценариев, включая извлечение знаний, суммаризацию, переписывание запросов и работу локально при ограниченных вычислительных ресурсах. Базовая модель содержит около 1,23 млрд параметров, поддерживает текст на входе и выходе, Grouped-Query Attention и контекст до 128 тысяч токенов; официально заявлены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. В данном варианте веса представлены в BF16, а KV-cache использует формат FP8 E4M3, что может снижать потребление памяти и ускорять инференс, но способно приводить к численной погрешности. Основное ограничение — это тестовый чекпойнт, предназначенный прежде всего для проверки инфраструктуры квантования и инференса, а не отдельная модель с собственной оценкой качества. Для использования применяются условия Llama 3.2 Community License Meta, включая требования Acceptable Use Policy и специальные условия распространения.
QuantFactory/Llama-3.2-1B-Instruct-GGUF — GGUF-представление инструкционной модели Llama 3.2 с размером около 1 млрд параметров. Базовая модель разработана Meta, а данный репозиторий содержит её вариант в формате GGUF, предназначенный для локального запуска совместимыми средствами инференса. Модель относится к классу text-generation и предназначена для диалоговых сценариев, генерации и преобразования текста, ответов на инструкции и других задач обработки естественного языка. В метаданных указана поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Модель текстовая; сведения о длине контекста и конкретном методе квантования в представленном README не указаны. Небольшой размер делает модель подходящей для запуска на ограниченных вычислительных ресурсах, однако по качеству и объёму знаний она может уступать более крупным моделям. Как и другие генеративные модели, она может создавать неточные или непроверенные ответы. Использование регулируется Llama 3.2 Community License от Meta: при распространении материалов или производных продуктов необходимо соблюдать условия лицензии, включая предоставление текста соглашения, указание «Built with Llama», сохранение атрибуции и требования Acceptable Use Policy.
QuantFactory/Llama-3.2-3B-GGUF — это компактная квантизированная версия языковой модели Llama 3.2 с примерно 3 млрд параметров, представленная QuantFactory на базе модели Meta. Формат GGUF предназначен для удобного локального запуска и использования средствами, поддерживающими этот формат; в README указана библиотека Transformers и задача генерации текста. Модель рассчитана на текстовые сценарии: генерацию и продолжение текста, диалоговые приложения и другие задачи обработки естественного языка. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Сведения о размере контекста, конкретном методе и уровне квантования, архитектурных деталях, обучении и результатах оценки в README отсутствуют, поэтому производительность и требования к ресурсам определить по этим данным нельзя. Модель распространяется по лицензии Llama 3.2 Community License от Meta. Она разрешает использование, воспроизведение, распространение, модификацию и создание производных работ на указанных условиях, включая передачу текста лицензии, обязательное отображение отметки «Built with Llama» при распространении и соблюдение Acceptable Use Policy. Для организаций с более чем 700 млн ежемесячных активных пользователей предусмотрены дополнительные лицензионные ограничения; модель предоставляется «как есть», без гарантий.
AMead10/Llama-3.2-3B-Instruct-AWQ — инструкционная языковая модель семейства Llama 3.2, разработанного Meta, представленная в формате AWQ-квантизации. Версия размещена пользователем или организацией AMead10 и предназначена для запуска через экосистему Transformers и совместимые средства инференса для text-generation. Модель рассчитана на диалоговые сценарии, генерацию текста и выполнение инструкций. В карточке заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Обозначение 3B указывает на класс примерно из 3 миллиардов параметров, однако точные сведения об архитектуре, размере контекста, методе дообучения и результатах тестирования в README не приведены. Ключевое преимущество AWQ-версии — уменьшенные требования к памяти и потенциально более эффективный локальный инференс по сравнению с полноразмерными весами, но квантизация может влиять на качество ответов. Ограничения и гарантии безопасности отдельно не описаны; результаты требуют проверки, особенно в критически важных задачах. Использование регулируется Llama 3.2 Community License от Meta: при распространении материалов или производных продуктов необходимо соблюдать условия лицензии, Acceptable Use Policy, требования к атрибуции и маркировке «Built with Llama».
Llama-3.2-3B-Instruct-GGUF — это набор квантизированных файлов модели в формате GGUF для meta-llama/Llama-3.2-3B-Instruct. Исходную модель разработала meta-llama, а квантизацию и публикацию файлов выполнил MaziyarPanahi. Модель предназначена для генерации текста и использования в диалоговых и прикладных сценариях через совместимые локальные инструменты. Модель имеет около 3 миллиардов параметров и доступна в вариантах с квантизацией от 2 до 8 бит. Формат GGUF поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другими библиотеками и приложениями, включая варианты с GPU-ускорением. README не содержит сведений о языках, размере контекста, поддерживаемых модальностях и конкретных показателях качества. Ключевые преимущества — уменьшенный размер файлов и возможность локального запуска на широком спектре устройств с использованием CPU или GPU. Ограничения связаны с потерями качества, возможными при низкобитной квантизации, а также с зависимостью от совместимого программного обеспечения. Лицензия в README не указана; условия использования исходной модели следует проверять отдельно в карточке meta-llama/Llama-3.2-3B-Instruct.
Bunnycore Llama-3.2-3B-Mix-Skill — диалоговая языковая модель на архитектуре Llama с 3,2 млрд параметров, созданная объединением нескольких моделей методом TIES с помощью mergekit. Базовая модель — huihui-ai/Llama-3.2-3B-Instruct-abliterated; в объединение также вошли bunnycore/Llama-3.2-3B-Long-Think и bunnycore/Llama-3.2-3B-Pure-RP. Модель предназначена для ролевых диалогов, написания длинных ответов, следования инструкциям и творческой генерации: например, рассказов, стихов и сценариев. Поддерживает текстовый ввод и генерацию текста, доступна в Transformers в формате safetensors. Заявленная длина контекста — 131072 токена. Карточка приводит результаты оценок IFEval и BBH, но не описывает методику оценки подробно. Лицензия в предоставленных данных не указана.
Llama-3.2-3B-ProdigyPlus — диалоговая языковая модель на базе архитектуры Llama, созданная bunnycore объединением нескольких моделей с помощью TIES и mergekit. В объединение вошли модели для научных рассуждений, длинных рассуждений, программирования, ролевого общения и следования инструкциям; в качестве основы README указывает huihui-ai/Llama-3.2-3B-Instruct-abliterated. Число параметров — 3,2 млрд, контекст — до 131 072 токенов; модель работает с текстом и распространяется в формате safetensors. Модель предназначена для диалогов по инструкциям, ролевых сценариев, творческого письма и помощи с базовыми задачами программирования. README также заявляет способности к научным и протяжённым рассуждениям через включённые компоненты с такими специализациями, но не приводит оценок качества. По метаданным поддерживается генерация текста и чат; отдельные языки не указаны. Лицензия в предоставленных данных не приведена.
Диалоговая языковая модель wamegabe, дообученная на unsloth/Llama-3.2-3B-Instruct-bnb-4bit с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста в формате чата и поддерживает интерфейс вызова инструментов. Модель построена на плотной архитектуре LlamaForCausalLM, содержит 3,2 млрд параметров и имеет контекстное окно до 131 072 токенов. В метаданных указан английский язык. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка не приводит сведения о конкретных обучающих данных, оценках качества или специальных областях применения.
dfurman/Llama-3-70B-Orpo-v0.1 — англоязычная диалоговая модель, созданная dfurman дообучением Meta Llama 3 70B методом ORPO на 2 тысячах примеров из mlabonne/orpo-dpo-mix-40k. Это плотная авторегрессионная модель с 69,5 млрд параметров, рассчитанная на генерацию текста и ответы в формате ChatML; контекстное окно составляет 8192 токена. Карточка приводит результаты Open LLM Leaderboard и описывает модель как успешно дообученную для следования шаблону ChatML. Модель подходит для диалоговых помощников, ответов на вопросы и генерации текста на английском языке. Результаты тестирования различаются по бенчмаркам и не гарантируют качество для конкретного применения. Для запуска требуются значительные вычислительные ресурсы, соответствующие модели на 70 млрд параметров. Лицензия — Llama 3 (llama3); условия Meta Llama 3 распространяются на использование модели.