II.6Документация и сопровождение разработки

Это базовая текстовая модель cyboghostginx/Llama3.1-8B — неизменённая копия Llama 3.1 8B от Meta. Модель построена на архитектуре LlamaForCausalLM, содержит 32 слоя и около 7,5 млрд параметров; веса представлены в формате safetensors с точностью bf16. Контекст — до 131 072 токенов. Модель предназначена для продолжения текста и служит отправной точкой для дообучения под прикладные задачи. Это базовая версия, а не Instruct: у неё нет шаблона чата, поэтому для диалогового применения README рекомендует instruct-вариант. Поддерживаемые языки включают английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Лицензия — Llama 3.1.

Llama-3.1-8B-ArliAI-RPMax-v1.1-GGUF — это GGUF-квантизованная версия текстовой генеративной модели Llama-3.1-8B-ArliAI-RPMax-v1.1, разработанной ArliAI. Квантизацию выполнил bartowski с использованием llama.cpp release b3715 и метода imatrix. Модель предназначена для генерации текста и может запускаться локально через llama.cpp и LM Studio. Модель основана на архитектуре Llama 3.1 с размером 8 млрд параметров и работает в текстовой модальности. Доступны варианты от F16 до низкобитных форматов Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ, что позволяет выбирать баланс между качеством, размером файла и требованиями к оперативной памяти. Рекомендуемые варианты обеспечивают высокое или хорошее качество, а Q3 и некоторые другие компактные варианты подходят для систем с ограниченными ресурсами. Отдельные сборки оптимизированы для ARM и требуют соответствующей поддержки процессора. Сильной стороной модели является широкий выбор квантизаций и возможность локального запуска с различными аппаратными конфигурациями. Ограничения включают неизбежное снижение качества в более компактных вариантах, а также отсутствие в предоставленных данных сведений о поддерживаемых языках, размере контекста, обучающих данных и специализированных сценариях применения. Для корректной работы следует использовать указанный формат prompt. Лицензия: llama3.

Apollo Raines представил экспериментальный вариант Llama-3.1-8B-Instruct, изменённый инструментом jBlaze методом representation engineering. По карточке, веса были скорректированы без дополнительного обучения: ослаблены отказы на запросы и подавлены токсичные речевые шаблоны. Модель предназначена для диалогов и генерации текста, включая обсуждение широкого круга тем; примеры также показывают ответы на общие вопросы, простые вычисления и написание кода. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM, примерно 7,5 млрд параметров и контекстом до 131 072 токенов. В метаданных указан английский язык; заявлена лицензия Llama 3.1. Автор описывает выпуск как демонстрационный и намеренно ограниченный по возможностям, поэтому результаты не следует считать показателем полной версии инструмента jBlaze. Ослабление отказов может приводить к ответам на опасные запросы; заявление об отсутствии наблюдавшихся проблем не заменяет независимую оценку безопасности.

Llama-3.1-8B-Reason-Blend-888k — экспериментальная плотная языковая модель от khulaifi95, дообученная на основе Meta-Llama-3.1-8B-Instruct. Она предназначена для усиления способностей к рассуждению и диалогового использования; работает с шаблоном ChatML и поддерживает интерфейс вызова инструментов. Модель содержит 7,5 млрд параметров, использует библиотеку Transformers и принимает контекст до 131 072 токенов. В карточке указаны английский язык и лицензия other. Модель можно применять для диалоговых ответов, многошаговых рассуждений и задач, где нужно следовать инструкциям. Автор характеризует её как экспериментальную: качество может быть нестабильным и зависеть от гиперпараметров. Результаты таблицы оценок в README не заполнены; при использовании в продуктивной среде автор рекомендует safeguards и контроль человека.

Карточка модели Solshine/Llama-3.1-8B-Reflection-Tuning-Natural-Farmer на Hugging Face совпадает с карточкой Solshine/reflection-llama-3.1-8B-Natural-Farmer-3-16bit, поэтому описание составлено по ней. Модель Solshine/reflection-llama-3.1-8B-Natural-Farmer-3-16bit разработана Solshine и представляет собой дообученную версию Solshine/reflection-llama-3.1-8B-Natural-Farmer-16bit. Это плотная авторегрессионная языковая модель семейства Llama с архитектурой LlamaForCausalLM и 7,5 млрд параметров. Она предназначена для генерации текста и диалогового общения; в карточке также заявлен интерфейс вызова инструментов. Модель обучалась с использованием Unsloth и TRL, а репозиторий содержит веса PyTorch. Модель принимает текст и выдаёт текст. В метаданных указан английский язык и контекстное окно до 131 072 токенов. Она распространяется по лицензии Apache-2.0. Карточка не описывает специализированные области применения или подробные результаты оценки качества.

Llama-3.1-Nemotron-Nano-4B-v1.1-bf16 — версия компактной языковой модели NVIDIA, опубликованная mlx-community и преобразованная из nvidia/Llama-3.1-Nemotron-Nano-4B-v1.1 для запуска с библиотекой MLX. Это плотная авторегрессионная модель семейства Llama с 3,9 млрд параметров и контекстом до 131 072 токенов. Модель предназначена для диалоговой генерации текста. Базовая модель NVIDIA ориентирована на рассуждения, код, математику, RAG и вызов инструментов; эти сценарии могут быть полезны и для данной версии, но README подтверждает только конверсию и не приводит отдельной оценки её качества или результатов тестирования. В карточке заявлена поддержка английского языка. Репозиторий содержит веса safetensors в формате для MLX, а не отдельную квантизацию. Лицензия указана как other, поэтому перед использованием следует свериться с условиями лицензирования исходной модели NVIDIA и репозитория.

Это набор GGUF-квантизаций модели Llama-3.1_OpenScholar-8B, подготовленный пользователем bartowski на основе модели OpenScholar/Llama-3.1_OpenScholar-8B. Квантизация выполнена с помощью llama.cpp версии b4132 и метода imatrix. Модель предназначена для генерации текста и локального запуска, в частности через LM Studio и совместимые инструменты llama.cpp. В составе доступны варианты от F16 до низкобитных Q2 и IQ-квантизаций, с размерами файлов примерно от 3,69 до 16,07 ГБ. Более высокие уровни квантования обеспечивают лучшее сохранение качества, а компактные варианты требуют меньше оперативной памяти, но могут заметнее уступать по качеству. Для некоторых файлов указана оптимизация под ARM или AVX; отдельные варианты не рекомендуются для Mac или GPU. Модель работает с текстом, поддерживает английский язык, а формат prompt соответствует шаблону Llama 3.1. Размер контекста и точная архитектура в README не указаны. Распространение заявлено по лицензии Apache-2.0. Ключевые ограничения связаны с компромиссом между размером файла, требованиями к памяти и качеством, зависящим от выбранного типа квантования.

Llama-3.1-SuperNova-Lite-GGUF — набор GGUF-квантизированных версий текстовой генеративной модели Llama-3.1-SuperNova-Lite, разработанной arcee-ai и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp и совместимые приложения, включая LM Studio. В README указана поддержка английского языка и формат prompt’ов, совместимый с Llama 3.1. Доступны варианты от полноразмерных F16 весов размером 16,07 ГБ до компактных версий с квантованием Q2–Q8 и размером примерно от 3,7 до 8,5 ГБ. Квантизация выполнена с использованием imatrix и llama.cpp; отдельные варианты оптимизированы для ARM-процессоров и требуют соответствующей поддержки инструкций. Более высокие уровни квантования обеспечивают лучшее качество, тогда как компактные варианты подходят для систем с ограниченным объёмом оперативной памяти, но могут заметнее терять в качестве. Архитектура, число параметров, модальности и размер контекстного окна в README не указаны. Модель распространяется по лицензии llama3. Условия использования следует дополнительно сверять с лицензией базовой модели Llama-3.1-SuperNova-Lite.

Llama-3.1-SuperNova-Lite-IMat-GGUF — набор GGUF-квантизованных версий модели arcee-ai/Llama-3.1-SuperNova-Lite, подготовленный пользователем legraphista. Модель предназначена для генерации текста и локального запуска через llama.cpp. В README указано, что исходные веса имеют формат BF16, а квантизация выполнена с помощью llama.cpp версии b3726. Доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и ряда IQ-квантов размером примерно от 3,18 до 16,07 ГБ. Для многих вариантов применена IMatrix-квантизация, призванная повысить качество при уменьшенной точности; также доступен отдельный файл imatrix.dat. Это позволяет выбирать компромисс между качеством, требованиями к памяти и скоростью локального вывода. Модель относится к текстовым моделям и заявлена для английского языка. README не сообщает точное число параметров, архитектурные детали, размер контекста и результаты тестирования, поэтому эти характеристики нельзя достоверно оценить по имеющимся данным. К ограничениям относятся зависимость качества и требований к ресурсам от выбранного варианта квантизации, а также отсутствие заявленной мультимодальности. Лицензия указана как llama3.

Llama-3.1-Tulu-3-8B-DPO-GGUF — набор GGUF-квантизаций модели Llama-3.1-Tulu-3-8B-DPO, опубликованный bartowski и основанный на модели Allen Institute for AI. Модель предназначена для генерации текста и диалоговых сценариев; запуск возможен через llama.cpp, в том числе в LM Studio. Для взаимодействия используется формат сообщений с ролями system, user и assistant. Это текстовая модель на 8 млрд параметров семейства Llama 3.1, обученная с применением DPO на наборе allenai/llama-3.1-tulu-3-8b-preference-mixture. Указан английский язык; сведения о поддержке других языков, модальностях и размере контекста в README отсутствуют. Доступны варианты от F16 размером 16,07 ГБ до компактных квантизаций Q2–Q8, включая рекомендуемые Q4_K_M, Q5_K_M и Q6_K, что позволяет выбирать баланс качества, скорости и требований к памяти. Сильная сторона публикации — широкий выбор форматов для локального запуска и применение imatrix-квантизации на базе llama.cpp. Ограничения зависят от выбранного варианта: более компактные квантизации снижают качество, а некоторые ARM-оптимизированные форматы требуют определённых инструкций и не рекомендуются для Mac или GPU. Лицензия указана как llama3.1; дополнительные условия использования в README не раскрыты.

alpindale/Llama-3.2-1B — текстовая генеративная модель семейства Llama 3.2, разработанная Meta. Это плотная авторегрессионная трансформерная модель примерно на 1,2 млрд параметров в формате safetensors, рассчитанная на генерацию текста и диалоговое применение. Репозиторий содержит базовую предобученную версию, а не отдельную дообученную инструкционную модель. Модель принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов. Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Подходит для мобильных и других ограниченных по ресурсам сред, а также для адаптации под задачи генерации естественного языка. Возможные сценарии семейства Llama 3.2 включают диалог, извлечение знаний, суммаризацию и переформулирование запросов; для этой базовой версии такие сценарии могут требовать дополнительной адаптации. Модель статична и обучена на офлайн-данных с отсечкой знаний в декабре 2023 года; небольшой размер означает компромисс между вычислительными затратами и возможностями по сравнению с более крупными моделями. Использование регулируется лицензией Llama 3.2 Community License — специальной лицензией Meta с коммерческими условиями и политикой допустимого использования.

mlx-community/Llama-3.2-1B-Instruct-8bit — языковая модель для генерации текста, представленная сообществом mlx-community на базе Llama 3.2 от Meta. Версия предназначена для диалоговых и других задач, требующих следования инструкциям, включая локальный инференс и прикладную генерацию текста. Модель распространяется в 8-битном представлении и ориентирована на использование с экосистемой MLX; в карточке также указана совместимость с библиотекой Transformers и задача text-generation. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Размер модели — 1B параметров согласно идентификатору модели. Информация о длине контекста, точной архитектуре, мультимодальности и результатах бенчмарков в предоставленном README отсутствует. К преимуществам относятся компактный размер и 8-битное представление, потенциально упрощающие локальное развертывание, однако количественные показатели качества и ограничения по применению не приведены. Модель распространяется по Llama 3.2 Community License от Meta: при распространении необходимо сохранять текст лицензии и уведомление об авторстве, указывать «Built with Llama», соблюдать Acceptable Use Policy и применимые законы; для продуктов с более чем 700 миллионами ежемесячных активных пользователей требуется отдельное разрешение Meta.

amd/Llama-3.2-1B-Instruct-FP8-KV — это FP8-квантизованная версия инструкционной языковой модели Meta Llama-3.2-1B-Instruct, подготовленная Advanced Micro Devices (AMD) с использованием инструмента Quark и калибровочных образцов из датасета Pile. Модель предназначена для выполнения текстовых инструкций и генерации текста; README не содержит сведений о поддерживаемых языках, модальностях и размере контекстного окна. Квантизации подвергнуты все линейные слои, кроме lm_head. Веса, активации и KV-кэш представлены в формате FP8 с симметричным масштабированием на тензор, что ориентировано на эффективное развертывание и инференс. Экспорт выполняется в собственном формате Quark, совместимом с backend vLLM. По данным оценки на Wikitext-2, perplexity составляет 13,4320 против 13,1657 у исходной модели; результаты получены в режиме псевдоквантизации и могут отличаться от показателей при фактическом квантизованном инференсе. Лицензия указана как llama3.2; изменения принадлежат Advanced Micro Devices, Inc. за 2024 год.

Llama-3.2-1B-Instruct-GGUF — квантизированная версия инструкционной языковой модели Meta Llama 3.2 1B Instruct, подготовленная bartowski. Модель предназначена для генерации текста и выполнения инструкций в сценариях локального или ресурсно-ограниченного вывода, включая диалоговые приложения и другие задачи обработки естественного языка. Из доступных данных известно, что это текстовая модель с архитектурой семейства Llama 3.2 и размером 1 млрд параметров в базовой версии; формат GGUF ориентирован на эффективный запуск средствами, поддерживающими этот формат. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Мультимодальность и размер контекстного окна в README не указаны. Небольшой размер является преимуществом для локального использования, однако по сравнению с более крупными моделями может ограничивать качество сложного рассуждения, точность и устойчивость ответов. Модель распространяется по Llama 3.2 Community License компании Meta. Лицензия разрешает использование, воспроизведение, распространение и создание производных работ на указанных условиях, включая соблюдение Acceptable Use Policy. При распространении материалов необходимо предоставить копию лицензии, сохранить требуемое уведомление об авторстве и разместить обозначение «Built with Llama» в связанном интерфейсе или документации; для продуктов с более чем 700 млн активных пользователей в месяц предусмотрены дополнительные лицензионные требования.

Карточка модели OehmJoa/Llama-3.2-3B-Instruct-abliterated на Hugging Face совпадает с карточкой huihui-ai/Llama-3.2-3B-Instruct-abliterated, поэтому описание составлено по ней. Llama-3.2-3B-Instruct-abliterated — диалоговая языковая модель на 3,2 млрд параметров, созданная huihui-ai методом abliteration на основе meta-llama/Llama-3.2-3B-Instruct. Она предназначена для генерации текста и ответов в чате; автор позиционирует её как версию с ослабленными отказами. Модель использует плотную архитектуру LlamaForCausalLM, работает с текстом и имеет контекстное окно до 131 072 токенов. В README приведены результаты повторной оценки на IF_Eval, MMLU Pro и TruthfulQA, близкие к результатам базовой модели. Доступны веса в формате Safetensors; для запуска также описано использование через Ollama. Модель распространяется по лицензии Llama 3.2. README не уточняет, какие языки проверялись именно для этой производной модели.

taareshg/Llama-3.2-3B-Instruct-En-Hi-merge-200k — языковая модель семейства Llama, разработанная taareshg и дообученная на базе unsloth/Llama-3.2-3B-Instruct-bnb-4bit с использованием Unsloth и Hugging Face TRL. Она предназначена для генерации текста и диалогового общения; метаданные также указывают интерфейс вызова инструментов. Модель имеет плотную архитектуру LlamaForCausalLM и 3,2 млрд параметров. Заявленная длина контекста — 131 072 токена. В карточке указан английский язык, а суффикс En-Hi в названии предполагает англо-хинди назначение, но README не подтверждает поддержку хинди. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0. README не приводит результатов оценки качества или подробностей обучающих данных.

QuantFactory/Llama-3.2-3B-Instruct-GGUF — инструкционная языковая модель семейства Llama 3.2, подготовленная QuantFactory и основанная на модели Meta. Это текстовая модель для генерации текста и диалоговых сценариев, включая ответы на инструкции, при этом конкретные прикладные задачи и параметры инференса в представленном README не описаны. Модель имеет размер 3B параметров согласно идентификатору и распространяется в формате GGUF, предназначенном для локального запуска совместимыми средствами. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Архитектурные детали, размер контекстного окна, точный вариант квантования и сведения о мультимодальности не указаны; по имеющимся данным модель относится к текстовым, а не мультимодальным системам. К сильным сторонам относятся компактный размер и формат GGUF, потенциально удобные для локального использования с ограниченными вычислительными ресурсами, а также инструкционная настройка. Ограничения включают неизвестные характеристики квантования, контекста и качества на отдельных языках и задачах; результаты могут зависеть от используемого рантайма и настроек генерации. Модель распространяется по лицензии Llama 3.2 Community License от Meta. При распространении материалов или производных продуктов необходимо соблюдать условия лицензии, включая предоставление текста соглашения, указание «Built with Llama», требования к атрибуции, допустимому использованию и коммерческое ограничение для продуктов с более чем 700 миллионами месячных активных пользователей.

Lemura Labs-Llama-3.2-3B-Uncensored-GGUF — текстовая генеративная модель, разработанная Lemura Labs на основе Meta Llama 3.2 3B. Модель предназначена для генерации текста, ответов на открытые вопросы, творческого письма, разработки идей, исследовательской и образовательной помощи, математических задач, непринуждённых диалогов и взаимодействия с длинным контекстом. Заявлена как модель без встроенных ограничений на содержание ответов. Модель содержит около 3 млрд параметров и распространяется в формате GGUF. Доступны варианты с разным уровнем квантования — от низкоразрядных конфигураций для минимального потребления памяти до F16 для максимальной точности, что позволяет запускать её на устройствах с различными ресурсами. Поддерживаются текстовые сценарии; сведения о мультимодальности, языках и точном размере контекстного окна в README не указаны. Заявлены контекстное понимание, работа с длинными диалогами и возможность адаптации под специализированные задачи посредством дообучения. Сильными сторонами модели являются компактный размер, широкий спектр заявленных сценариев и наличие множества квантованных версий для локального развёртывания. Ограничения включают отсутствие в README количественных оценок качества, сведений о датасете и методике обучения, а также точных данных о поддерживаемых языках и контекстном окне. Отсутствие ограничений на содержание может повысить риск небезопасных, некорректных или непроверенных ответов, поэтому результаты требуют контроля. Модель распространяется по лицензии Apache-2.0.

Карточка модели wamegabe/llama-3-2-3B-wame-curi-chat на Hugging Face совпадает с карточкой wamegabe/llama-3-2-3B-wame-curi-chat2, поэтому описание составлено по ней. Диалоговая языковая модель wamegabe, дообученная на unsloth/Llama-3.2-3B-Instruct-bnb-4bit с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста в формате чата и поддерживает интерфейс вызова инструментов. Модель построена на плотной архитектуре LlamaForCausalLM, содержит 3,2 млрд параметров и имеет контекстное окно до 131 072 токенов. В метаданных указан английский язык. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка не приводит сведения о конкретных обучающих данных, оценках качества или специальных областях применения.

kosbu/Llama-3.3-70B-Instruct-AWQ — это 4-битная версия модели Meta AI Llama-3.3-70B-Instruct, подготовленная с использованием квантования AWQ. Модель предназначена для генерации текста и диалоговых сценариев на основе инструкций и интегрируется с библиотекой Transformers. Заявлена поддержка английского, французского, итальянского, португальского, хинди, испанского, тайского и немецкого языков. Размер исходной модели составляет 70 миллиардов параметров; README не уточняет архитектурные детали, размер контекста, поддерживаемые модальности и конкретные требования к оборудованию. Квантование до 4 бит может снизить требования к памяти и упростить развёртывание по сравнению с полной версией, однако README не содержит данных о точности, производительности или известных ограничениях. Модель распространяется по лицензии llama3.3. README не указывает дополнительные условия использования, результаты тестирования или сравнительные преимущества квантованной версии.

llama-3-8b-DUS-initialized — плотная языковая модель семейства Llama, созданная с помощью LazyMergekit на основе NousResearch/Meta-Llama-3-8B. Конфигурация использует метод passthrough и диапазоны слоёв исходной модели; в метаданных указаны 11 млрд параметров и контекст до 8192 токенов. Модель предназначена для генерации текста. Карточка не описывает специализированные сценарии или дополнительные возможности. Репозиторий содержит веса в формате safetensors; лицензия — llama3.

MaziyarPanahi/Llama-3-8B-Instruct-DPO-v0.4 — диалоговая языковая модель Maziyar Panahi, полученная дообучением с Direct Preference Optimization (DPO) модели meta-llama/Meta-Llama-3-8B-Instruct. Она предназначена для генерации текста и ответов в формате диалога; для подачи запросов использует шаблон ChatML и может запускаться через библиотеку Transformers. Модель основана на плотной архитектуре Llama с классом LlamaForCausalLM, содержит 7,5 млрд параметров и рассчитана на контекст до 8192 токенов. В метаданных указан английский язык; среди датасетов дообучения — argilla/ultrafeedback-binarized-preferences и Intel/orca_dpo_pairs. Репозиторий содержит веса Safetensors. Модель подходит для англоязычных диалоговых ответов и генерации текста. Доступны результаты оценки на бенчмарках, включая AI2 Reasoning Challenge и HellaSwag, однако приведённые показатели не гарантируют качество в конкретных задачах. Лицензия обозначена как other, поэтому условия использования следует уточнить в карточке модели и лицензии базовой модели.

Llama-3-8B-Instruct-Iterative-SamPO — дообученная Junrulu версия Meta Llama 3 8B Instruct с применением алгоритма SamPO. Она предназначена для диалоговой генерации текста и ответов ассистента; в карточке приведены результаты на GSM8K, IFEval, PiQA, MMLU, TruthfulQA и AlpacaEval2. Модель использует плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Для обучения использован датасет HuggingFaceH4/ultrafeedback_binarized. Модель ориентирована на английский язык и принимает запросы в формате диалога user/assistant. Репозиторий содержит веса safetensors. Лицензия — llama3; при использовании необходимо соблюдать условия лицензий, указанные в работе Llama 3.

QuantFactory/LLaMA-3-8B-SFR-SFT-R-GGUF — квантизированная версия модели Salesforce/LLaMA-3-8B-SFR-SFT-R в формате GGUF, созданная с использованием llama.cpp. Модель разработана на основе семейства LLaMA 3 и представляет собой SFT-модель, связанную с проектом Salesforce/SFR-Iterative-DPO-LLaMA-3-8B-R; в исходной работе участвовали исследователи Salesforce и соавторы технического отчёта о рабочем процессе RLHF. Модель предназначена для генерации текста и сценариев, где требуется использовать дообученную instruction-following модель на базе LLaMA 3. Квантизация и формат GGUF ориентированы на запуск через совместимые инструменты, включая llama.cpp, и могут снизить требования к памяти по сравнению с полноразмерными весами, хотя конкретный тип квантизации в README не указан. Из известных характеристик указаны размер 8B и текстовая модальность; сведения о языках, размере контекста, архитектурных деталях и целевых бенчмарках отсутствуют. К сильным сторонам относятся дообучение методом supervised fine-tuning и возможность локального запуска в экосистеме GGUF. Ограничения включают отсутствие в README подробностей о качестве, поддерживаемых языках, контекстном окне и точном варианте квантизации. Модель распространяется по лицензии llama3.

g-ronimo/llama3-8b-SlimHermes — чат-модель на архитектуре Llama, созданная дообучением Meta-Llama-3-8B на 10 тысячах самых длинных примеров из набора teknium/OpenHermes-2.5. Она предназначена для генерации ответов в диалогах и следования инструкциям; пример в карточке показывает ответ на приветствие в заданном пиратском стиле. Модель содержит 7,5 млрд параметров, принимает текст и выдаёт текст, работает с контекстом до 8192 токенов и доступна в формате safetensors для Transformers. Языки в карточке не перечислены, поэтому основной язык не определён. Модель подходит для чат-ботов, ответов на запросы и экспериментов с настройкой стиля ответов. В карточке не приведены результаты оценок качества и дополнительные ограничения; лицензия указана как other, поэтому условия использования следует уточнить в репозитории модели и базовой модели перед применением.

Llama3-FiditeNemini-70B — экспериментальная объединённая языковая модель на базе архитектуры Llama 3, созданная автором репозитория с помощью mergekit и метода Model Stock. В объединении использованы три открытые предварительно обученные модели, однако их названия в карточке не приведены. Модель предназначена для генерации текста и диалогового взаимодействия. Она содержит 69,5 млрд параметров, принимает текст и имеет контекстное окно длиной 8192 токена. В репозитории размещены веса safetensors; автор также благодарит mradermacher за подготовку квантованных вариантов GGUF. Карточка не сообщает результаты оценки качества, поддерживаемые языки или условия лицензии. Поскольку это экспериментальное слияние, качество и поведение могут отличаться от исходных моделей.

grimjim/llama-3-merge-pp-instruct-8B — диалоговая языковая модель, созданная автором репозитория с помощью mergekit. Это слияние методом SLERP моделей ChaoticNeutrals/Poppy_Porpoise-0.72-L3-8B и meta-llama/Meta-Llama-3-8B-Instruct; архитектура — плотная LlamaForCausalLM, около 7,5 млрд параметров. Модель предназначена для генерации текста и диалоговых ответов по инструкциям на английском языке. Указанный размер контекста — 8192 токена. Модель слегка протестирована при temperature=1.0 и minP=0.02 с предварительными шаблонами запросов Llama 3 Instruct, поэтому качество и поведение могут зависеть от промпта и параметров генерации. Репозиторий содержит веса в формате safetensors и использует лицензию CC BY-NC 4.0, которая ограничивает коммерческое использование.

llama3-passthrough — объединённая модель семейства Llama 3, созданная SJ-Donald с помощью mergekit из двух копий meta-llama/Meta-Llama-3-8B. В конфигурации указаны диапазоны слоёв [0, 24] и [8, 32], метод объединения passthrough и точность bfloat16; архитектура — плотная авторегрессионная LlamaForCausalLM с 11 млрд параметров и контекстом до 8192 токенов. Модель предназначена для генерации текста. В карточке не описаны специальные сценарии применения, языковая специализация или сравнительные преимущества. Репозиторий содержит веса в формате safetensors и опубликован по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

TheBloke/LLaMA-7b-GGUF — это квантизированная версия языковой модели LLaMA 7B, разработанной Meta. Репозиторий подготовлен TheBloke и содержит файлы в формате GGUF для запуска модели через llama.cpp и совместимые приложения. Модель предназначена для генерации и продолжения текста, диалоговых и других сценариев инференса с использованием произвольного текстового запроса. Доступны варианты квантизации от 2 до 8 бит, рассчитанные на запуск с использованием CPU и GPU; конкретные требования к памяти зависят от выбранного файла. Формат GGUF поддерживается llama.cpp, text-generation-webui, LM Studio, KoboldCpp, llama-cpp-python и рядом других инструментов. Ключевые характеристики — архитектура LLaMA, размер 7 миллиардов параметров и текстовая модальность. Сведения о поддерживаемых языках и размере контекстного окна в README не указаны. Квантизация снижает требования к памяти и упрощает локальный запуск, однако низкобитные варианты могут заметно ухудшать качество, особенно самые компактные версии. Модель не является мультимодальной, а её точные ограничения по качеству и применению зависят от выбранного метода квантизации. В метаданных указана лицензия other; конкретные условия лицензии в README не приведены, поэтому перед использованием необходимо проверить лицензионные условия оригинальной модели Meta.

Это дообученная модель KKHYA/llavaqwen3-1.7b-finetune с 1,7 млрд параметров, опубликованная в формате PyTorch и Safetensors для библиотеки Transformers. Она предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Контекст модели составляет до 40 960 токенов. Модель создана на неизвестном датасете, а сведения о её обучении, оценке и специальных сценариях применения не приведены. Репозиторий распространяется по лицензии Apache-2.0. README не описывает отдельные преимущества или ограничения качества.