I.11Классификация, ранжирование и сопоставление

Experiment26Neuralsirkrishna_OgnoShadow — объединённая модель Mistral с 7,1 млрд параметров, созданная на основе automerger/Experiment26Neuralsirkrishna-7B и automerger/OgnoShadow-7B. Она предназначена для генерации текста и диалогов, где требуется языковая модель с контекстом до 32 768 токенов. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. Данных о специализированной предметной области или поддерживаемых языках в карточке нет.

jaspionjader/f-3-8b — объединённая языковая модель семейства Llama, созданная автором репозитория методом SLERP с помощью mergekit. В объединение вошли jaspionjader/Kosmos-EVAA-mix-v35-8B и jaspionjader/f-2-8b; итоговая модель содержит 7,5 млрд параметров и использует архитектуру LlamaForCausalLM. Модель предназначена для генерации текста и диалогового общения. Она принимает текст и генерирует текст; заявленная длина контекста составляет 8192 токена. Веса доступны в формате safetensors для библиотеки Transformers. Карточка не сообщает о специализированной предметной области или поддерживаемых естественных языках. Лицензия в предоставленных данных не указана.

Fireball-Llama-3.11-8B-v2r1orpo — диалоговая языковая модель EpistemeAI на архитектуре Llama с 7,5 млрд параметров. Она дообучена на базе EpistemeAI/Fireball-Llama-3.11-8B-v1orpo с использованием Unsloth и библиотеки TRL. Модель предназначена для генерации текста и ведения беседы; её можно подключать к интерфейсам вызова инструментов. Модель принимает текст и выдаёт текст. Её родной контекст составляет 131 072 токена, а в карточке указан английский язык. Файлы представлены в форматах PyTorch и safetensors. Лицензия — Apache-2.0.

Flan-Alpaca-Large — модель для следования инструкциям, созданная лабораторией Declare-Lab путём дообучения FLAN-T5 на наборах инструкций Flan и Alpaca. Она использует архитектуру T5 с условной генерацией текста и предназначена для ответов на запросы и выполнения разнообразных текстовых заданий. Репозиторий содержит веса PyTorch и Safetensors; лицензия — Apache-2.0. Модель принимает текст и генерирует текст. Метаданные указывают 385,2 млн параметров и контекст до 512 токенов. README сообщает об обучении на данных Flan и Alpaca, но приводит для версии Large другое число параметров — 770 млн; поэтому размер из метаданных может не совпадать с описанием в карточке. Поддерживаемые языки явно не перечислены.

Florence-2-large-ft — дообученная версия универсальной визуальной модели Florence-2 от Microsoft, представленная в реализации для библиотеки Transformers. Модель использует архитектуру encoder-decoder с генерацией последовательностей по текстовым инструкциям и содержит около 0,77 млрд параметров. Она принимает изображение и текстовый запрос, чтобы выполнять задачи описания изображения, обнаружения объектов, локализации фраз, OCR и визуальных вопросов и ответов. Модель предназначена для приложений компьютерного зрения и анализа изображений: например, для автоматического создания подписей, извлечения текста с его координатами и получения ответов о содержимом сцены. В карточке приведены результаты оценки на задачах описания изображений, обнаружения объектов и VQA; обучение проводилось на наборе FLD-5B с 5,4 млрд аннотаций для 126 млн изображений. Основная модальность — изображение на входе и текст на выходе; для некоторых задач модель также выдаёт координаты объектов и областей. Модель распространяется по лицензии MIT. Карточка не уточняет поддерживаемые естественные языки и длину контекста; качество может зависеть от типа изображения, формулировки запроса и конкретной задачи.

IntervitensInc/gemma-2-9b-chatml — текстовая чат-модель на базе Gemma 2 от Google. В репозитории указано, что к модели добавлены токены ChatML для дообучения; архитектура — плотная decoder-only Gemma2ForCausalLM с 9 млрд параметров. Модель работает с текстом и поддерживает контекст до 8192 токенов. Модель предназначена для диалогов и генерации текста: она может отвечать на вопросы, составлять краткие изложения, помогать с письмом и поддерживать исследовательские и учебные сценарии. README описывает семейство Gemma как англоязычное; сведения о специальном дообучении этой версии и его результатах не приводятся. Модель хранится в формате safetensors и использует библиотеку Transformers. Лицензия — Gemma. Возможны фактические ошибки, предвзятые ответы и затруднения с неоднозначными или сложными запросами; для применения нужны проверка результатов и меры безопасности.

QuantFactory/gemma-2-9b-it-SimPO-rudpo-GGUF — квантизированная версия модели gemma-2-9b-it-SimPO-rudpo, созданная QuantFactory с использованием llama.cpp. Исходная модель разработана на базе princeton-nlp/gemma-2-9b-it-SimPO и предназначена для генерации текста и диалоговых сценариев. Модель имеет размер 9 миллиардов параметров и ориентирована прежде всего на повышение качества ответов на русском языке по сравнению с базовой моделью. Модель подходит для русскоязычных чат-ботов, ассистентов и других задач текстовой генерации. В тестировании на наборе arena-hard questions на русском языке она получила оценку 91,9 против 90,9 у gemma-2-9b-it-SimPO и 67,0 у gemma-2-9b-it. Однако эти результаты относятся к конкретному тесту и не гарантируют аналогичного качества в других задачах. В README не указаны точный формат квантизации, поддерживаемые языки помимо русского, размер контекста, модальности и требования к аппаратному обеспечению. Лицензия модели — gemma.

mlx-community/gemma-3n-E2B-it-lm-4bit — это 4-битная модель в формате MLX, созданная сообществом mlx-community на основе instruction-tuned модели google/gemma-3n-E2B-it, разработанной Google. Конвертация выполнена с использованием mlx-lm версии 0.25.2, поэтому модель предназначена для запуска в экосистеме MLX, в частности на совместимом оборудовании Apple через библиотеку mlx-lm. Модель ориентирована на генерацию текста в диалоговом формате и поддерживает сценарии, связанные с обработкой текста, аудио и видео, включая automatic speech recognition, automatic speech translation и преобразование аудио или видео в текст, согласно указанным в карточке тегам. Обозначение E2B указывает на класс модели примерно в 2 миллиарда параметров, а lm-4bit — на 4-битное квантование, которое обычно уменьшает требования к памяти и ускоряет локальный запуск, но может снижать точность по сравнению с полной версией. README не содержит сведений о точном устройстве архитектуры, максимальной длине контекста, перечне поддерживаемых языков, фактических ограничениях мультимодальной обработки и результатах тестирования. Для использования требуется установить mlx-lm и применять встроенный chat template, если он доступен. Модель распространяется по лицензии Gemma; на Hugging Face необходимо ознакомиться с лицензией Google и подтвердить условия доступа.

prithivMLmods/gemma-4-31B-it-Uncensored-MAX-MLX — версия Gemma 4, подготовленная prithivMLmods для запуска через MLX на компьютерах Apple Silicon. Это плотная модель условной генерации с архитектурой Gemma4ForConditionalGeneration и 31 млрд параметров; метаданные указывают поддержку изображений и текста, а карточка описывает её как инструкционную модель для подробных ответов, рассуждений и следования сложным запросам. В README заявлены анализ направлений отказа и их ослабление с помощью abliteration-based методов, а также сохранение навыков исходной модели. Модель предназначена для локального инференса, исследований отказов и выравнивания, red-team-экспериментов и прототипирования. Карточка указывает лицензию Apache-2.0. Модель намеренно реже отказывает на запросы, поэтому может выдавать чувствительный или откровенный контент; результаты следует проверять. Размер 31B требует значительных вычислительных ресурсов, хотя MLX оптимизирует запуск на Apple Silicon. README позиционирует её для исследований и обучения и подчёркивает ответственность пользователя за применение.

GLM-4.7-Flash-MLX-8bit — это 8-битно квантованная версия языковой модели GLM-4.7-Flash, разработанной компанией zai-org. Квантование выполнено командой LM Studio с использованием MLX и ориентировано на запуск на устройствах с Apple Silicon. Модель предназначена для генерации текста и доступна в экосистеме Transformers. Модель поддерживает английский и китайский языки и относится к моделям text generation. Ключевое преимущество — оптимизация в формате MLX и 8-битное представление, что делает её подходящей для локального использования на Apple Silicon при сниженных требованиях к памяти по сравнению с полноразмерной версией. В README не указаны точный размер модели, архитектура, длина контекста, мультимодальные возможности и результаты тестирования, поэтому её производительность и область применения нельзя оценить подробнее. Лицензия модели — MIT.

MLX-квантизированная версия модели GLM-5.3-BF16 из репозитория zai-org, подготовленная сообществом mlx-community с использованием mlx-lm 0.31.3. Модель предназначена для генерации текста и рассчитана прежде всего на запуск на одном Apple Mac Studio с чипом M3 Ultra и 512 ГБ памяти. Заявлена поддержка английского и китайского языков; исходная архитектура, точный размер, максимальная длина контекста и другие параметры в README не указаны. Модель использует смешанную 4,5-битную квантизацию. При подборе рецепта квантизации учитывались снижение избыточного «обдумывания» и повторной работы, сохранение знаний в экспертных компонентах, защита чувствительных слоёв, корректное следование инструкциям, скорость обработки и сохранение пространства для контекста при максимальном reasoning. К преимуществам относятся экономичное размещение на целевой конфигурации и возможность локального запуска через mlx-lm; при этом характеристики качества, производительности и совместимости за пределами указанного оборудования не приведены. Лицензия обозначена как other с названием glm-5.3, поэтому условия использования следует уточнять по лицензии исходной модели и репозитория.

GLM-OCR — компактная мультимодальная модель распознавания текста и понимания документов от команды Z.ai; репозиторий unsloth/GLM-OCR содержит дообученную версию zai-org/GLM-OCR. Модель построена на архитектуре GLM-V: использует визуальный энкодер CogViT, межмодальный связующий модуль и декодер GLM-0.5B. В карточке указано около 0,9 млрд параметров; модель принимает изображения и формирует текстовый результат. Модель предназначена для OCR сложных документов, извлечения текста, формул и таблиц, а также структурированных сведений по заданной JSON-схеме. В README заявлена двухэтапная обработка с анализом макета и распознаванием, а также результаты на OmniDocBench V1.5 и скорость обработки документов. Поддерживаемые языки: китайский, английский, французский, испанский, русский, немецкий, японский и корейский. Лицензия — MIT. Для извлечения структурированных данных необходимо задавать ожидаемую JSON-схему; качество может зависеть от сложности макета и содержимого изображения.

SillyTilly/google-gemma-2-9b-it — текстовая диалоговая модель семейства Gemma 2, созданного Google на основе исследований и технологий, использованных при разработке Gemini. Это плотная авторегрессионная модель с 9 млрд параметров и контекстом до 8192 токенов; репозиторий содержит веса в формате safetensors, а для запуска указана библиотека Transformers. Модель предназначена для генерации текста по инструкциям и диалога на английском языке. Её можно применять для ответов на вопросы, суммаризации, создания черновиков, чат-ботов и языковой практики. Относительно компактный размер подходит для запуска на локальном компьютере или собственной облачной инфраструктуре. Модель может выдавать фактические ошибки, отражать смещения обучающих данных и хуже справляться со сложными открытыми запросами, нюансами языка и здравым смыслом. Лицензия — Gemma; использование должно соответствовать условиям лицензии и политике запрещённого использования Gemma.

GPT4All-13b-snoozy — языковая модель Nomic AI для генерации текста в формате чат-бота. Это дообученная версия LLaMA 13B с 12,9 млрд параметров, обученная на корпусе примеров взаимодействий с ассистентом из набора nomic-ai/gpt4all-j-prompt-generations, revision v1.3-groovy. Модель предназначена для диалогов, решения текстовых задач, помощи с кодом и создания стихов, песен и рассказов. Она принимает текст и генерирует текст на английском языке; максимальная длина контекста — 2048 токенов. Для использования указана лицензия GPL.

GPT-5.4 Image 2 — мультимодальная модель OpenAI, объединяющая GPT-5.4 с возможностями генерации изображений GPT Image 2. Она предназначена для сценариев, где нужно сочетать рассуждение, программирование и работу с изображениями. Доступный фрагмент карточки не уточняет архитектуру, число параметров, поддерживаемые языки, длину контекста, конкретные режимы работы с изображениями или лицензию. Модель создана OpenAI; карточка Hugging Face датирована 21 апреля 2026 года.

Карточка модели marafx2007/gpt-oss-20b-heretic на Hugging Face совпадает с карточкой p-e-w/gpt-oss-20b-heretic, поэтому описание составлено по ней. p-e-w/gpt-oss-20b-heretic — текстовая разговорная модель на архитектуре GPT-OSS, созданная на основе openai/gpt-oss-20b с помощью abliteration, направленной на снижение отказов. В карточке приведено сравнение: в тесте на 100 запросах модель отказала в 58 случаях против 100 у исходной модели; KL-дивергенция составила 0,96. README также описывает базовую модель как MoE с 21 млрд параметров и 3,6 млрд активных параметров, контекстом 131 072 токена и форматом Harmony; метаданные репозитория при этом указывают 1,6 млрд параметров. Модель предназначена для диалога, генерации текста и локальных или специализированных сценариев. Базовая модель поддерживает настраиваемый уровень рассуждений, вызов функций и агентные сценарии; в этом репозитории заявлено снижение числа отказов, но приведённый тест не гарантирует поведение на других запросах. Для корректной работы следует использовать формат Harmony. Лицензия — Apache-2.0.

h2oai/h2ogpt-4096-llama2-13b-chat — копия Meta Llama 2 13B Chat, опубликованная H2O.ai для использования в h2oGPT и сравнения больших языковых моделей. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM, содержащая 12,9 млрд параметров и принимающая текстовый ввод. Она предназначена для генерации текста и диалога, в том числе для чата по частным документам; заявленная длина контекста составляет 4096 токенов. Модель поддерживает английский язык. Репозиторий содержит веса в форматах PyTorch и Safetensors. Лицензия — llama2, соответствующая условиям лицензии Llama 2.

ibm-granite_granite-4.0-micro-GGUF — набор GGUF-квантизаций модели granite-4.0-micro, разработанной IBM под идентификатором ibm-granite и подготовленной пользователем bartowski. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp. Доступны варианты от полного BF16 до низкобитных Q- и IQ-квантизаций размером примерно от 1,5 до 6,81 ГБ. Ключевая особенность — использование imatrix-квантизации, призванной сохранить высокое качество при уменьшении требований к памяти. В README рекомендуются варианты Q4–Q6 и некоторые IQ-форматы; Q6 заявлены как почти неотличимые от исходного качества, а Q4_K_M — как сбалансированный вариант для большинства сценариев. Более компактные Q3 и IQ3 требуют меньше оперативной памяти, но обеспечивают более низкое качество. Сведения об архитектуре, числе параметров, поддерживаемых языках, длине контекста и модальностях в README отсутствуют; формат prompt также не указан, поэтому его следует уточнять на странице исходной модели. Лицензия в предоставленных данных не указана.

Ice0.27-06.11-RP — объединённая языковая модель, созданная автором репозитория с помощью mergekit методом SLERP из двух предварительно обученных моделей. Это плотная Mistral-модель с архитектурой MistralForCausalLM и 7,1 млрд параметров; она предназначена для генерации текста и диалогового общения. Модель принимает текст и выдаёт текст, а указанная длина контекста составляет 32 768 токенов. В карточке приведены локальные пути исходных моделей, поэтому их идентификаторы Hugging Face нельзя надёжно установить. Репозиторий содержит веса safetensors в формате bfloat16. Дата публикации — 6 ноября 2024 года. Сведения о лицензии, поддерживаемых языках и специальных предметных областях в доступных данных отсутствуют.

zhongweixie выпустил Qwen3-4B с обучением In-Place Test-Time Training (In-Place TTT), ориентированную на работу с длинным контекстом. Это плотная авторегрессионная языковая модель на архитектуре Qwen3ForCausalLM; в карточке указана связь с Qwen/Qwen2.5-4B и обучение на 1250 шагах с контекстом 64 тыс. токенов. Модель предназначена для генерации текста и диалоговых сценариев, в том числе задач, где нужно учитывать длинные входные последовательности. README заявляет более эффективную работу с длинным контекстом и адаптацию во время обработки входа, однако не приводит количественных результатов или сравнительных оценок. Репозиторий содержит веса safetensors для Transformers, размер модели по метаданным — 3,7 млрд параметров. Лицензия Apache-2.0.

Карточка модели amd/Instella-MoE-16B-A3B-DPO на Hugging Face совпадает с карточкой amd/Instella-MoE-16B-A3B-Think, поэтому описание составлено по ней. Instella-MoE-16B-A3B-Think — языковая модель с архитектурой Mixture-of-Experts, разработанная AMD и обученная с нуля. В опубликованном описании семейства указаны 16 млрд параметров всего и 2,8 млрд активных параметров на токен; метаданные этого репозитория указывают 2,5 млрд параметров. Модель построена на архитектуре семейства DeepSeek V3, имеет 27 декодерных слоёв и использует Gated Multi-head Latent Attention и FarSkip-Collective. Репозиторий содержит веса Safetensors для Transformers. Модель предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Контекст составляет 32 768 токенов. В карточке семейства описаны этапы обучения от предобучения до RL и открытая обучающая рецептура. Основной язык, указанный в метаданных, — английский; многоязычные способности не проверены. README характеризует выпуск как исследовательский и предупреждает, что модель может выдавать неточные, вредоносные, токсичные или предвзятые ответы. Она не предназначена для сценариев, требующих высокой фактической точности, для критически важных, медицинских или связанных со здоровьем применений; рекомендуется независимая оценка и фильтрация безопасности. Лицензия в метаданных обозначена как other.

OREAL-DeepSeek-R1-Distill-Qwen-7B-GGUF — это GGUF-квантизированные версии текстовой генеративной модели OREAL-DeepSeek-R1-Distill-Qwen-7B, разработанной internlm. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix на датасете internlm/OREAL-RL-Prompts. Модель предназначена для локального запуска и генерации текста через llama.cpp, LM Studio и другие совместимые приложения. Модель основана на 7B-версии DeepSeek-R1-Distill-Qwen и поддерживает текстовый ввод и вывод. README не указывает контекстное окно, список языков и точную архитектуру базовой модели. Доступны варианты квантизации от Q8_0 размером 8,10 ГБ до более компактных IQ3 и Q3-вариантов; наиболее сбалансированным вариантом для большинства сценариев назван Q4_K_M размером 4,68 ГБ, а Q5 и Q6 ориентированы на более высокое качество. Сильная сторона сборки — возможность локального запуска на устройствах с ограниченными ресурсами при выборе подходящего уровня квантизации. Более сильное сжатие уменьшает требования к памяти, но снижает качество генерации; низкобитные варианты описаны как имеющие более низкое или средне-низкое качество. Для корректной работы следует использовать указанный формат prompt. Модель распространяется по лицензии Apache-2.0.

KangalKhan-Sapphire-7B — языковая модель для генерации текста и диалогов, созданная слиянием моделей argilla/CapybaraHermes-2.5-Mistral-7B и argilla/distilabeled-OpenHermes-2.5-Mistral-7B с помощью LazyMergekit. В основе лежит плотная архитектура Mistral с 7,1 млрд параметров; заявленная длина контекста — 32 768 токенов. Модель подходит для диалоговых сценариев и генерации текста. В README описано слияние методом SLERP в формате bfloat16; метаданные указывают формат весов safetensors и возможность чата. Карточка также приводит результаты оценки на отдельных тестах рассуждений и здравого смысла, но они не гарантируют качество на других задачах. Модель распространяется по лицензии Apache-2.0. Данные карточки не уточняют целевые языки или специализированные области применения.

Kimi-Linear-48B-A3B-Instruct-4bit — языковая instruction-модель, разработанная Moonshot AI и преобразованная сообществом mlx-community в формат MLX. Исходная модель — moonshotai/Kimi-Linear-48B-A3B-Instruct; конвертация выполнена с использованием mlx-lm версии 0.28.4. Модель предназначена для генерации текста и диалогового взаимодействия по инструкциям, включая сценарии локального запуска через библиотеку mlx-lm на совместимом оборудовании Apple MLX. В README указаны размер исходной модели 48B и конфигурация A3B, а также 4-битное квантование. Поддерживается текстовая модальность; сведения о языках, длине контекста и архитектурных деталях, кроме обозначения Kimi-Linear, не приведены. К сильным сторонам относятся сниженный объём хранения и требования к памяти благодаря 4-битному представлению, а также интеграция с MLX и готовым интерфейсом mlx-lm. Ограничения связаны с зависимостью от экосистемы MLX и отсутствием в предоставленных данных подробных сведений о качестве, производительности, поддерживаемых языках и контексте. Модель распространяется по лицензии MIT.

Leo Hessianai 70B Chat GGUF — это квантованные файлы большой языковой чат-модели, разработанной LAION LeoLM и преобразованной в формат GGUF пользователем TheBloke. Модель предназначена для генерации текста и диалогового взаимодействия, включая локальный запуск через llama.cpp и совместимые графические интерфейсы и библиотеки. В README указана поддержка английского и немецкого языков, а обучение связано с немецкоязычными наборами данных OpenSchnabeltier, OASST-DE, Alpaca GPT-4 Deutsch, Evol-Instruct Deutsch, German Poems и German Songs. Модель основана на архитектуре Llama и содержит около 70 миллиардов параметров. Доступны варианты GGUF с квантованием от 2 до 8 бит, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством генерации; при этом более сильное квантование может снижать точность. Для диалогов используется шаблон ChatML. README не указывает размер контекста и модальности, поэтому подтверждённых данных о поддержке изображений или других типов входа нет. Файлы совместимы с llama.cpp начиная с указанной в README версии, а также с рядом сторонних приложений и библиотек для локального запуска на CPU и GPU. Модель распространяется по лицензии Llama 2; конкретные условия этой лицензии следует учитывать при использовании и распространении производных файлов.

mrcuddle/Lexi-Lumimaid-Llama3.1-8B — языковая модель для диалоговой генерации текста, созданная слиянием методом SLERP двух моделей: NeverSleep/Lumimaid-v0.2-8B и Orenguteng/Llama-3.1-8B-Lexi-Uncensored-V2. Она основана на архитектуре Llama и содержит 7,3 млрд параметров; заявленная длина контекста — 131 072 токена. Модель предназначена для ответов на запросы в чате и генерации текста по инструкциям, с интерфейсом для вызова инструментов. Модель распространяется в формате safetensors и использует библиотеку Transformers. В карточке указано слияние предварительно обученных языковых моделей; README описывает конфигурацию mergekit и тип данных bfloat16. Лицензия в предоставленных данных не указана. Поскольку в состав входит Lexi Uncensored, ответы могут быть менее ограничены обычными защитными фильтрами; качество и фактическое поведение зависят от запроса и способа применения.

LightOnOCR-1B-1025 — компактная мультимодальная модель LightOnAI для распознавания текста и понимания документов по изображениям. Это плотная модель семейства Mistral3 с генеративной архитектурой LightOnOCRForConditionalGeneration; репозиторий содержит полную версию весов BF16. Модель предназначена для извлечения текста из сканов и страниц PDF, а также для работы с таблицами и формами. Модель обучена на многоязычных документах: научных статьях, книгах, чеках, счетах, таблицах и формах, включая рукописный текст. В карточке заявлены европейские языки с латинской письменностью; README характеризует вариант как многоязычный. Авторы отмечают высокую скорость и точность для своего размерного класса. Для обработки PDF рекомендуется преобразовать страницы в PNG или JPEG с максимальной стороной около 1540 пикселей, сохраняя пропорции; поддерживается обработка страниц по одной. Модель распространяется по лицензии Apache-2.0. README рекомендует BF16-вариант для инференса и дальнейшего дообучения; для обучения упомянуты LoRA и адаптация к предметным документам. В карточке также отмечено, что LightOnOCR-2 является более новой версией. Заявленные в README результаты производительности и точности приведены авторами и зависят от оборудования и условий оценки.

Карточка модели 4bit/Llama-2-70b-chat-hf на Hugging Face совпадает с карточкой NousResearch/Llama-2-70b-chat-hf, поэтому описание составлено по ней. NousResearch/Llama-2-70b-chat-hf — версия чат-модели Llama 2, разработанной Meta и опубликованной NousResearch в формате Transformers для Hugging Face. Это авторегрессионная плотная трансформерная модель с 68,7 млрд параметров, настроенная на диалог с помощью контролируемого дообучения и обучения с подкреплением на основе отзывов людей. Версия 70B использует Grouped-Query Attention; длина контекста — 4096 токенов. Модель принимает текст и генерирует текст. Она предназначена для диалоговых сценариев на английском языке: ответов на вопросы, работы в роли помощника и генерации текста. Модель статична, обучалась на данных с отсечкой знаний до сентября 2022 года, хотя часть данных дообучения датирована позднее. Для использования весов требуется принять пользовательскую коммерческую лицензию Meta; применяются её условия и ограничения. Ответы могут быть неточными, предвзятыми или нежелательными, а оценка модели проводилась преимущественно на английском языке и не охватывает все сценарии. Перед внедрением следует проверять безопасность и качество в целевом приложении. Модель не предназначена по условиям карточки для использования на языках, отличных от английского.

Модель artificialguybr/LLAMA3.2-1B-Synthia-I-Redmond — дообученная версия NousResearch/Llama-3.2-1B, созданная автором artificialguybr на наборе инструкций Synthia-v1.5-I из 20,7 тыс. примеров. Это плотная авторегрессионная языковая модель семейства Llama с архитектурой LlamaForCausalLM, примерно 1,2 млрд параметров и контекстом до 131 072 токенов. Модель предназначена для выполнения инструкций и разговорных приложений, а также для исследований и разработки в области NLP. Базовая Llama 3.2 — мультиязычная модель Meta; в карточке перечислены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Дообучение ориентировано на следование инструкциям. Модель распространяется в форматах PyTorch и Safetensors по лицензии Llama 3.2. Карточка не приводит сравнительных оценок качества или отдельных ограничений; результаты могут зависеть от формулировки запроса и сценария применения.

Llama3-ChatQA-1.5-8B-IMat-GGUF — это GGUF-квантизированная версия текстовой модели Llama3-ChatQA-1.5-8B, разработанной NVIDIA. Квантизацию выполнил legraphista с использованием llama.cpp b3003 и методов IMatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на вопросы и работу в локальных приложениях, совместимых с llama.cpp. Модель имеет около 8 млрд параметров, поддерживает английский язык и работает с текстовой модальностью. Доступны варианты от FP16 и Q8_0 до низкобитных форматов Q2, Q3, Q4, IQ2, IQ3 и IQ4; для части вариантов применена IMatrix-квантизация. Размер файлов варьируется примерно от 2,61 до 16,07 ГБ, что позволяет выбирать между качеством, скоростью и требованиями к памяти. Размер контекстного окна в README не указан. Основное преимущество модели — широкий выбор GGUF-вариантов для запуска на оборудовании с разным объёмом памяти и возможность эффективного локального использования через llama.cpp. Ограничения связаны с компромиссами квантизации: низкобитные варианты могут уступать FP16 по качеству, а точные требования к производительности и совместимости зависят от выбранного формата и оборудования. Модель распространяется по лицензии llama3.