I.6Перевод и языковая адаптация
В разделе собраны самостоятельные задачи, где AI помогает переносить смысл между языками, форматами и культурными контекстами. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
16 710 моделейМодель wbbbbb/wav2vec2-large-chinese-zh-cn разработана на основе facebook/wav2vec2-large-xlsr-53 и дообучена для распознавания китайской речи. Это модель семейства wav2vec2 с архитектурой Wav2Vec2ForPreTraining и примерно 407,9 млн параметров; она принимает аудио с частотой дискретизации 16 кГц и выдаёт текстовую транскрипцию. Для обучения использовались обучающая и валидационная выборки Common Voice 6.1, CSS10 и ST-CMDS. Модель предназначена для автоматической транскрипции речи на китайском языке, в том числе аудиозаписей для тестирования распознавания. В README приведены результаты оценки на тестовых данных Common Voice для zh-CN: WER 70,47% и CER 12,30%; это указывает на существенные ошибки распознавания, поэтому качество следует проверять на целевых данных. Веса доступны в форматах PyTorch и Safetensors, лицензия — Apache-2.0.
Модель Lguyogiro/wav2vec2-large-mms-1b-nhi-adapterft-ilv_fold1 — дообученная на наборе audiofolder модель распознавания речи, основанная на facebook/mms-1b-all. Она использует архитектуру Wav2Vec2ForCTC и содержит 1,3 млрд параметров. Модель принимает аудио и преобразует речь в текст; базовая модель поддерживает более тысячи языков, но карточка этой версии не уточняет целевой язык. На указанном наборе оценки модель показала loss 0,6054, WER 0,3871 и CER 0,1165. Лицензия CC BY-NC 4.0 разрешает использование с атрибуцией, но запрещает коммерческое применение.
classla разработала wav2vec2-xls-r-juznevesti-sr — модель распознавания сербской речи на основе facebook/wav2vec2-xls-r-300m, дообученная на 58 часах аудио и расшифровок из программы «15 minuta» новостного издания Južne vesti. Это аудиомодель архитектуры wav2vec2 с CTC-декодированием и примерно 402,7 млн параметров. Модель предназначена для преобразования сербской речи в текст, в частности для записей, похожих на аудио обучающей выборки. На dev- и test-частях набора JužneVesti указаны WER 0,295 и 0,290 соответственно, а CER — 0,141 и 0,138. Эти результаты относятся к оценке на данном наборе и не гарантируют аналогичного качества на других типах записей. Для работы в README приведён пример совместимости с Transformers, PyTorch и SoundFile; лицензия в доступных данных не указана.
YamshadowInex12_AlloyingotneoyExperiment26 — слитая модель семейства Mistral, опубликованная MaziyarPanahi. Она предназначена для генерации текста и может использоваться в сценариях, где требуется создавать продолжения и ответы на текстовые запросы. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и поддерживает контекст до 32 768 токенов. Веса представлены в формате safetensors. Модель объединяет automerger/YamshadowInex12-7B и automerger/AlloyingotneoyExperiment26-7B. В карточке указана лицензия Apache-2.0. README не описывает специальную предметную область или отдельные ограничения качества; как и другие генеративные языковые модели, она может выдавать неточные ответы.
YamshadowInex12_Experiment28Meliodas — объединённая языковая модель на архитектуре Mistral, созданная слиянием automerger/YamshadowInex12-7B и automerger/Experiment28Meliodas-7B. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст длиной до 32 768 токенов. Модель предназначена для генерации текста. Лицензия Apache-2.0. README не описывает специализацию или дополнительные возможности модели.
bartowski/zai-org_GLM-4.6-GGUF — набор GGUF-квантизаций базовой языковой модели GLM-4.6, разработанной zai-org. Квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix, поэтому модель предназначена для локального запуска и генерации текста в приложениях на базе llama.cpp, включая LM Studio. Доступны варианты с разными уровнями квантования — от Q8_0 до IQ1_M — и размером файлов примерно от 79,56 до 379,32 ГБ. Более крупные варианты обеспечивают более высокое качество, тогда как младшие требуют меньше оперативной памяти, но заметно уступают по качеству; рекомендуемыми названы Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS. Архитектура, число параметров, поддерживаемые языки, модальности и размер контекста в README не указаны. Модель подходит для локальной текстовой генерации при наличии совместимого оборудования и программного обеспечения. Основные ограничения — очень большой размер файлов, зависимость от llama.cpp-совместимого окружения и снижение качества при низких уровнях квантования. Формат лицензии в README не указан.
AfriGuardPlain-AfriqueQwen3.5-4B — диалоговая модель генерации текста, созданная дообучением полной модели McGill-NLP/AfriqueQwen3.5-4B командой AfriGuard. Её обучали на наборе adzcai/AfriGuard-plain: на безопасные запросы она даёт полезные ответы, а на небезопасные — кратко отказывает. Вариант Plain обучен без системной инструкции по безопасности и без специальных меток в примерах. Поэтому он отвечает или отказывает непосредственно, не выдавая метку безопасности. Модель использует плотную архитектуру Qwen3.5 с 4 миллиардами параметров, формат safetensors и библиотеку Transformers; она предназначена для диалогового текстового взаимодействия. Метаданные перечисляют английский, амхарский, хауса, игбо, оромо, шона, суахили, тви, волоф, йоруба и зулу. Лицензия — CC BY 4.0.
Alfred-40B-0723 — языковая модель LightOn для диалогов и выполнения инструкций, созданная дообучением Falcon-40B с помощью обучения с подкреплением на основе отзывов людей (RLHF) в июле 2023 года. Это авторегрессионная модель с архитектурой decoder-only семейства RefinedWeb; в метаданных указан размер 65 млрд параметров. Модель предназначена для генерации ответов в формате чата и исследовательской работы с RLHF-моделями. Модель лучше всего работает на английском, немецком, испанском и французском языках; также заявлены ограниченные возможности для итальянского, португальского, польского, нидерландского, румынского, чешского и шведского. Она распространяется под лицензией Apache 2.0. В README отмечены снижение результатов в арифметике и вопросах-ответах, а также нестабильный выбор испанского языка на короткие английские запросы и отдельные особенности формата ответов. Обучение преимущественно на этих языках ограничивает перенос на другие языки; модель может воспроизводить стереотипы из интернет-данных.
Двуязычная разговорная модель rinna на базе GPT-NeoX, дообученная следовать инструкциям с помощью supervised fine-tuning и PPO-обучения с подкреплением на основе отзывов людей. Она предназначена для диалога и генерации ответов на японском и английском языках. В README указаны 36 слоёв и размер скрытого слоя 2816; метаданные каталога указывают 4,8 млрд параметров и контекст 2048 токенов. Модель принимает текстовые диалоги в формате с ролями «ユーザー» и «システム» и генерирует текстовый ответ. Авторы сообщают, что PPO улучшил разговорный опыт по сравнению с версией SFT, но не повысил результаты на японских языковых бенчмарках. Результат чувствителен к параметрам декодирования, поэтому их следует подбирать под задачу. Лицензия — MIT.
BLOSSOM-v5.1-34b — разговорная большая языковая модель, созданная командой Blossom на основе предобученной Yi-1.5-34B. Это плотная модель семейства Llama с 33,9 млрд параметров, предназначенная для генерации текста в формате продолжения диалога. Она дообучена в два этапа на смешанных наборах Blossom Chat, Math, Wizard и Orca: сначала на одноходовых инструкциях, затем на многоходовых диалогах. Модель рассчитана на китайский и английский языки и поддерживает контекст до 4096 токенов. Она подходит для диалоговых помощников, ответов на вопросы и решения математических задач. Репозиторий содержит веса Safetensors; лицензия — Apache-2.0. Качество ответов может зависеть от языка и формулировки запроса; README не приводит количественных результатов оценки.
NVIDIA NeMo Canary-Qwen-2.5B — модель распознавания английской речи, разработанная NVIDIA. Она предназначена для преобразования аудио в текст с пунктуацией и заглавными буквами, а также для обработки уже полученной расшифровки: например, её можно суммировать или задавать по ней вопросы. В режиме распознавания модель принимает аудио и текстовую инструкцию; в текстовом режиме работает только с расшифровкой и не анализирует исходное аудио. Модель содержит 2,5 млрд параметров и построена как Speech-Augmented Language Model: аудиокодировщик FastConformer связан с декодером Transformer на основе Qwen3-1.7B. Для распознавания рассчитана на английский язык; в README указана скорость 418 RTFx. Обучающие аудиозаписи длились не более 40 секунд, а максимальная последовательность ограничена 1024 токенами, поэтому точность на более длинных входах может снижаться. Модель не сохраняет навыки рассуждения базовой LLM в режиме работы с аудио. Для использования требуется NVIDIA NeMo; лицензия — CC BY 4.0.
Это 4-битная MLX-квантизация модели Cohere Transcribe 03-2026, опубликованная Spoke для локального распознавания речи на устройствах Apple Silicon. Модель выполняет транскрибацию аудио в текст; для загрузки используется библиотека mlx-speech, а не mlx-audio. В README указаны квантизация affine с размером группы 64 и результаты внутреннего теста Spoke на 250 образцах LibriSpeech test-clean: WER 1,28%, скорость 0,05× реального времени и пиковое потребление памяти 1,89 ГБ. Эти показатели относятся к описанному тесту и не гарантируют такие же результаты на других данных и устройствах. Базовая модель Cohere Transcribe — специализированная ASR-модель на 2 млрд параметров для 14 языков; языки в предоставленных метаданных не перечислены. Репозиторий распространяется по лицензии Apache-2.0.
CroissantCool-v0.2 — базовая языковая модель инициативы CroissantLLM, разработанной для исследовательского и промышленного сообщества. Это плотная авторегрессионная модель семейства LLaMA на 1,3 млрд параметров с контекстом 2048 токена, обученная на корпусе примерно из 3 трлн токенов на английском и французском языках. Чекпойнт соответствует 190 тысячам шагов обучения и заключительной фазе Cooldown на инструкционных данных без шаблонного форматирования. Модель предназначена для генерации текста и работы с few-shot prompting; заключительная фаза обучения также позволяет получать приемлемые результаты без примеров в запросе. Это базовая модель, не настроенная для чат-функций. В рамках проекта опубликованы двуязычный токенизатор и датасеты; в метаданных также отмечены возможности генерации кода и чат-формат. Для использования доступны веса Safetensors. Лицензия — MIT.
DeepSeek-R1-Distill-Qwen-1.5B-imatrix-GGUF — это квантизированная версия модели DeepSeek-R1-Distill-Qwen-1.5B, опубликованная и квантизированная командой Liodon AI. Модель предназначена для генерации текста и локального запуска с помощью llama.cpp, Ollama, LM Studio и Jan, включая использование на устройствах с ограниченными ресурсами. Модель распространяется в формате GGUF и доступна в вариантах квантизации от IQ2_M до Q8_0 размером примерно от 0,70 до 1,89 ГБ. Для квантизации применён метод iMatrix: на основе 128 калибровочных фрагментов и 2 млн токенов из WikiText-103 точность распределяется с учётом важности весов. Это позволяет улучшить связность и следование инструкциям по сравнению со стандартной квантизацией при сопоставимом размере файла. Рекомендуемым вариантом указан Q4_K_M; для него заявлен ориентировочный объём VRAM около 1 ГБ. Сильные стороны модели — небольшой размер, возможность локального запуска и повышенное качество низкоразрядной квантизации. Варианты IQ2_M и IQ3_M экономят память, а Q6_K и Q8_0 обеспечивают качество, близкое к исходному. README не содержит сведений о точной архитектуре, размере контекста, поддерживаемых языках, модальностях и специализированных сценариях применения. Лицензия указана как other, без дополнительных условий в представленном описании.
DigitalSoul-4B-GGUF — GGUF-квантизированная версия языковой модели DigitalSoul-4B, разработанной TroyDoesAI. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться локально, в том числе через LM Studio. В репозитории представлены варианты от полноточного F16 размером 9,25 ГБ до низкобитных форматов Q2_K размером 1,88 ГБ. Доступны квантизации Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ, включая варианты, оптимизированные для ARM. Для некоторых форматов эмбеддинги и выходные веса сохранены в Q8_0, что потенциально повышает качество. Рекомендуемый формат зависит от доступной памяти и требуемого качества; наиболее высокое качество дают F16 и старшие квантизации, а низкобитные варианты экономят память ценой качества. В README не указаны архитектура исходной модели, поддерживаемые языки, модальности и размер контекстного окна. Приведён шаблон промпта с ролями system, user и assistant и датой отсечения знаний декабрь 2023 года. Лицензия модели указана как Artistic-2.0.
Experiment28M7_Inex12Experiment28 — объединённая модель генерации текста, созданная MaziyarPanahi на основе automerger/Experiment28M7-7B и automerger/Inex12Experiment28-7B. Она построена на архитектуре Mistral и содержит 7,1 млрд параметров; модель предназначена для генерации текста и диалогов с контекстом до 32 768 токенов. Модель принимает текст и выдаёт текст. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. README не сообщает о специализированной предметной области или дополнительных возможностях.
Gemma-2-2B-it-IMat-GGUF — это квантизированная GGUF-версия языковой модели Gemma 2 2B IT, разработанной Google и преобразованной с помощью llama.cpp пользователем legraphista. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые инструменты, например llama.cpp. README не указывает поддерживаемые языки и размер контекстного окна. В репозитории доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ-квантизаций размером примерно от 1,18 до 5,24 ГБ. Для ряда вариантов применена IMatrix-квантизация, предназначенная для улучшения сохранения качества при уменьшении размера модели; варианты BF16, FP16, Q8_0 и Q6_K используют статическую квантизацию. Снижение точности уменьшает требования к памяти, но может ограничивать качество по сравнению с исходной моделью BF16. Исходная модель имеет тип данных BF16. Модель относится к текстовым, а не мультимодальным системам. Для использования требуется принять лицензию Google Gemma на Hugging Face; конкретные условия лицензии в README не раскрыты, поэтому перед применением необходимо ознакомиться с официальной лицензией.
Yamatazen/Gemma2-Alicia-9B — объединённая чат-модель на архитектуре Gemma 2, созданная с помощью mergekit методом TIES на основе нескольких дообученных моделей Gemma 2. В объединение вошли модели для японского языка и гуманитарных тем, а также модели для психологических диалогов и свободного общения. Модель предназначена для генерации текста и ответов в формате чата. Её можно применять для диалогов, ответов на инструкции и создания текстов; в метаданных указаны английский и японский языки. Размер составляет 9 млрд параметров, контекст — до 8192 токенов. Модель распространяется в формате safetensors для Transformers. Карточка не сообщает лицензию и не приводит собственных оценок качества или подробных ограничений. Поскольку в составе есть модели с разной специализацией, ответы могут различаться по стилю и надёжности; пригодность для конкретных сценариев следует оценить отдельно.
DavidAU/Gemma3-27B-it-vl-Polaris-HI16-Heretic-Uncensored-INSTRUCT — мультимодальная инструктивная модель на архитектуре Gemma 3, дообученная автором DavidAU с помощью Unsloth на наборе Polaris Alpha для улучшения общих способностей и генерации текста. Она принимает текст и изображения и предназначена для диалогов, анализа изображений, творческого письма, продолжения сцен и историй, ролевых игр и других инструктивных задач. В карточке заявлены контекст до 128k токенов и сохранённая обработка изображений; модель распространяется в формате Safetensors и имеет теги языков en, fr, de, es, it, pt, ru, zh и ja. Автор описывает модель как uncensored и приводит результаты бенчмарков ARC, BoolQ, HellaSwag, OpenBookQA, PIQA и WinoGrande, но эти заявления представлены без подробностей методики проверки. Модель создана на основе coder3101/gemma-3-27b-it-heretic и дообучена на TeichAI/polaris-alpha-1000x. Условия лицензии в предоставленных сведениях не приведены.
TheCluster/Gemma-4-31B-Heretic-MLX-bf16 — мультимодальная чат-модель семейства Gemma 4 на 31 млрд параметров, представленная в формате MLX и точности bfloat16. Это конверсия модели coder3101/gemma-4-31B-it-heretic, созданной на основе google/gemma-4-31B-it методом ablation: по данным карточки, она реже отказывается отвечать, чем исходная версия. Поддержка изображений позволяет использовать модель для диалогов с визуальным содержимым и анализа изображений. Модель предназначена для разговорных сценариев и обработки запросов, включающих изображения. В метаданных перечислены английский, китайский, русский, испанский, французский, итальянский, японский, корейский, немецкий, арабский, турецкий, польский, шведский, нидерландский, иврит, индонезийский, украинский, персидский, португальский и финский. Репозиторий распространяется по лицензии Apache-2.0. README приводит сравнительный замер отказов: 15 из 100 запросов для этой версии против 99 из 100 у исходной модели; условия теста и качество на других задачах не описаны. Для запуска в указанном формате требуется совместимая среда MLX; карточка не сообщает длину контекста.
rhaymison/gemma-portuguese-tom-cat-2b-it — дообученная модель на базе Google Gemma 2B IT, разработанная Rhaymison. Она обучена на 250 тысячах инструкций из датасета superset и предназначена для генерации текста, выполнения инструкций и диалогов на португальском языке, с акцентом на понимание выводов на португальском. Модель имеет плотную архитектуру GemmaForCausalLM с 2,5 млрд параметров и контекстом до 8192 токенов; доступна в формате safetensors и рассчитана на использование с Transformers. Модель общего назначения можно дополнительно адаптировать под конкретную область. В карточке отмечено, что она не обучалась специально для математических и программных задач. Распространяется по лицензии Apache-2.0.
Это пакет слоёв GGUF модели GLM-5.1-UD-Q3_K_XL, подготовленный Mesh LLM для распределённого инференса на локальном кластере. Пакет создан из unsloth/GLM-5.1-GGUF и содержит разделённые по слоям артефакты исходной модели; вариант квантования — UD-Q3_K_XL. Модель предназначена для локального приватного чата и генерации текста, а также для запуска на нескольких машинах, когда полный файл GGUF не помещается на одном узле. Через Mesh LLM её можно предоставлять по локальному API, совместимому с OpenAI Chat Completions. В метаданных указаны библиотека mesh-llm и поддержка чата. Пакет предназначен для распределённого инференса с Mesh LLM, а не является самостоятельным универсальным форматом запуска. Лицензия и подробные характеристики исходной модели описаны в карточке unsloth/GLM-5.1-GGUF; README этого пакета их не приводит.
mlx-community/GLM-OCR-4bit — это 4-битная версия модели GLM-OCR, преобразованная сообществом mlx-community из исходной модели zai-org/GLM-OCR в формат MLX с использованием mlx-vlm версии 0.3.10. Модель предназначена для преобразования изображений в текст и может применяться, например, для распознавания и описания содержимого изображений. Модель поддерживает китайский, английский, французский, испанский, русский, немецкий, японский и корейский языки. Она относится к классу image-to-text и предназначена для запуска через библиотеку mlx-vlm на совместимом с MLX оборудовании. Из доступных данных не указаны архитектура исходной модели, количество параметров, максимальная длина контекста, точные возможности распознавания документов и таблиц, а также количественные показатели качества. Ключевая особенность варианта — 4-битное квантование и формат MLX, что может снизить требования к памяти и упростить локальный запуск, но потенциально ограничивает точность по сравнению с полноразмерной версией. Лицензия модели — MIT. Для подробностей об архитектуре и ограничениях следует обращаться к карточке исходной модели zai-org/GLM-OCR.
Homer-calme-2.4-78b-mix — объединённая языковая модель на архитектуре Qwen2, созданная с помощью mergekit линейным слиянием моделей calme-2.4-rys-78b и homer-78b. Модель homer-78b была дообучена методом SFT на calme-2.4-rys-78b. Модель предназначена для генерации текста и диалогового общения. Она содержит 76,7 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия — Apache-2.0. Карточка не приводит результаты оценивания и подробное описание поведения модели, поэтому качество для конкретных задач по ней оценить нельзя.
NANI-Nithin/K2-Horizon-7B-GGUF — набор GGUF-квантизаций базовой модели IFM/K2-Horizon-7B, разработанной MBZUAI IFM и квантизированной пользователем NANI-Nithin. Модель представляет собой плотный causal decoder примерно на 7 млрд параметров без MoE, реализованный с архитектурой K2HorizonForCausalLM и предназначенный для генерации текста и запуска локальных языковых моделей через llama.cpp. Доступны варианты от BF16 и Q8_0 до агрессивных 1–3-битных квантизаций, включая K-quant и IQ-варианты с importance matrix. Для общего использования рекомендован K2-Horizon-7B-Q4_K_M.gguf, а Q8_0 позиционируется как вариант, близкий к исходному качеству. Указан английский язык; модальность — текстовая. Размер BF16 GGUF составляет около 18,01 ГБ. Контекстное окно и дополнительные характеристики исходной модели в README не указаны. Главное преимущество набора — широкий выбор компромиссов между качеством, размером и требованиями к памяти, а также возможность локального запуска. Для работы требуется форк MBZUAI-IFM llama.cpp с веткой model/K2Horizon либо версия upstream llama.cpp после добавления поддержки этой архитектуры; стандартный llama.cpp по состоянию на сентябрь 2026 года её не поддерживает. Веса распространяются на тех же условиях, что и оригинальная IFM/K2-Horizon-7B; для точных условий лицензии необходимо обратиться к репозиторию исходной модели.
Это версия LFM2-1.2B от Liquid AI, подготовленная командой LM Studio в формате MLX с точностью bfloat16 для устройств Apple Silicon. В основе лежит плотная авторегрессионная языковая архитектура LFM2; модель содержит около 1,1 млрд параметров и рассчитана на генерацию текста и диалоговое взаимодействие. Для неё заявлено контекстное окно до 128 000 токенов. Модель подходит для диалоговых приложений и генерации текста на поддерживаемых языках: английском, арабском, китайском, французском, немецком, японском, корейском и испанском. Формат MLX упрощает запуск на Apple Silicon; веса представлены в safetensors. Репозиторий указывает лицензию «other», поэтому условия использования следует сверить с лицензией базовой модели и файлами репозитория. Как и другие языковые модели, она может генерировать неточную или неподходящую информацию.
LiquidAI/LFM2.5-VL-3B-ONNX — ONNX-версия мультимодальной модели LFM2.5-VL-3B, разработанная компанией Liquid AI. Это гибридная модель нового поколения, ориентированная на edge AI и запуск непосредственно на устройствах. Модель принимает изображения и текст и генерирует текстовые ответы, поэтому предназначена для визуального анализа, описания изображений и построения мультимодальных приложений с локальным или браузерным выполнением. Модель имеет размер 3 млрд параметров и поставляется в формате ONNX для использования с ONNX Runtime и Transformers.js версии 4.0 или новее. README указывает поддержку WebGPU, включая запуск в браузере, а также варианты представления FP16 и квантования Q4 для отдельных компонентов, что помогает снизить требования к памяти. Заявленные сильные стороны — сочетание качества, скорости и эффективности памяти при edge-развёртывании. Поддерживаются арабский, китайский, английский, французский, немецкий, хинди, индонезийский, итальянский, японский, корейский, польский, португальский, русский, испанский, тайский и вьетнамский языки. Длина контекста в предоставленных данных не указана. Модель распространяется по лицензии lfm1.0; подробные условия находятся в файле LICENSE.
Clibrain Llama-2-7B-ft-instruct-es — языковая модель на архитектуре Llama 2, дообученная на испанском наборе инструкций Clibrain. Она предназначена для генерации текста и выполнения пользовательских инструкций на испанском языке. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM и работает с контекстом до 4096 токенов. Модель подходит для диалоговых помощников, ответов на вопросы и создания текстов на испанском языке. Репозиторий содержит веса в формате PyTorch. Лицензия — Apache-2.0.
alpindale/Llama-3.2-1B — текстовая генеративная модель семейства Llama 3.2, разработанная Meta. Это плотная авторегрессионная трансформерная модель примерно на 1,2 млрд параметров в формате safetensors, рассчитанная на генерацию текста и диалоговое применение. Репозиторий содержит базовую предобученную версию, а не отдельную дообученную инструкционную модель. Модель принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов. Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Подходит для мобильных и других ограниченных по ресурсам сред, а также для адаптации под задачи генерации естественного языка. Возможные сценарии семейства Llama 3.2 включают диалог, извлечение знаний, суммаризацию и переформулирование запросов; для этой базовой версии такие сценарии могут требовать дополнительной адаптации. Модель статична и обучена на офлайн-данных с отсечкой знаний в декабре 2023 года; небольшой размер означает компромисс между вычислительными затратами и возможностями по сравнению с более крупными моделями. Использование регулируется лицензией Llama 3.2 Community License — специальной лицензией Meta с коммерческими условиями и политикой допустимого использования.
legraphista/Llama-3.2-1B-Instruct-IMat-GGUF — вариант модели Llama 3.2-1B-Instruct, опубликованный пользователем legraphista на базе модели Meta Platforms. Формат GGUF предназначен для локального запуска средствами совместимых движков инференса; обозначение IMat указывает на особенности представления или квантования, однако точные параметры из доступных данных не уточняются. Модель рассчитана на выполнение инструкций и генерацию текста в диалоговых и прикладных сценариях, где важны компактный размер и возможность запуска локально. Известно, что это языковая модель примерно на 1 млрд параметров, но сведения о длине контекста, поддерживаемых языках, конкретном типе квантования и дополнительных модификациях отсутствуют. К сильным сторонам относятся небольшой размер и потенциально низкие требования к ресурсам по сравнению с более крупными моделями. Ограничениями являются меньшая емкость и вероятно более низкое качество сложного рассуждения по сравнению с крупными моделями, а также отсутствие в предоставленных данных результатов тестирования и подробных рекомендаций по аппаратному обеспечению. Базовая модель распространяется по Llama 3.2 Community License от Meta с требованиями к атрибуции, маркировке «Built with Llama», соблюдению Acceptable Use Policy и специальными коммерческими условиями для организаций с более чем 700 млн ежемесячных активных пользователей.