I.5Создание и редактирование текста

NVIDIA Kimi-K2-Thinking-Eagle3 — текстовая авторегрессионная модель NVIDIA, представляющая собой Eagle3 speculative decoding head для Moonshot AI Kimi-K2-Thinking. Она основана на трансформерной архитектуре DeepSeek V3 и обучена с NVIDIA Model Optimizer. Веса модели занимают 1,8 млрд параметров; метаданные указывают контекст до 262 144 токенов, тогда как README приводит длину 4096 токенов. Эти значения расходятся, поэтому фактическую длину контекста следует сверить с выбранной конфигурацией запуска. Модель предназначена для разработчиков чат-ботов, AI-агентов, RAG-систем и других приложений, а также для выполнения инструкций, генерации кода и рассуждений. Она принимает текст и генерирует текст; для ускоренного инференса NVIDIA указывает TensorRT-LLM и совместимость с GPU Blackwell. Лицензия обозначена как other; README требует соблюдать NVIDIA Open Model License и упоминает Modified MIT License Kimi-K2-Thinking. Перед использованием следует проверить условия обеих лицензий и протестировать модель на целевых данных.

amd/Kimi-K3-Quark-MXFP4 — мультимодальная модель на базе moonshotai/Kimi-K3, разработанная и оптимизированная Advanced Micro Devices, Inc. Она предназначена для генерации текста по текстовым, графическим и видеовходам, а также для задач рассуждения, включая работу с инструментами. Архитектура указана как KimiK3ForConditionalGeneration; выход модели — текст. Модель квантизирована с помощью AMD-Quark: веса и активации используют формат OCP MXFP4, а слои self-attention — PTPC-FP8. В MoE-компонентах experts и shared_experts применяется OCP MXFP4. README не содержит сведений о количестве параметров, длине контекста и поддерживаемых языках. Для запуска заявлена совместимость с AMD MI350 и MI355, ROCm 7.1.1, PyTorch 2.10.0, Transformers 5.2.0 и Linux; в качестве inference engine используются vLLM и, для оценки, SGLang. К сильным сторонам относятся мультимодальность и снижение требований к памяти и вычислениям благодаря квантизации. На тесте GSM8K модель показала 96,36 против 96,82 у исходной moonshotai/Kimi-K3, что соответствует восстановлению 99,52% исходного результата. Ограничения включают зависимость от совместимого оборудования и программного стека, а также необходимость специальных настроек vLLM для воспроизведения указанной конфигурации. Лицензия обозначена как other с названием kimi-k3; модификации защищены авторским правом Advanced Micro Devices, Inc. за 2026 год.

Kimi-Linear-48B-A3B-Base — базовая языковая модель Moonshot AI с архитектурой Kimi Linear и разреженной смесью экспертов. В карточке указаны 48 млрд параметров всего и около 3 млрд активируемых параметров; метаданные каталога отдельно приводят 2,7 млрд параметров. Модель использует гибридное внимание Kimi Delta Attention и MLA с соотношением 3:1 и предназначена для генерации текста, включая диалоги и задачи с длинным контекстом. Заявленная длина контекста — до 1 млн токенов. Архитектура нацелена на эффективную работу с длинными последовательностями: в README заявлены сокращение KV-кэша до 75% и ускорение декодирования до 6 раз в некоторых сценариях. Это базовая версия, поэтому для диалога и следования инструкциям может потребоваться дополнительная настройка. Указана лицензия MIT.

Это неофициальная community-квантизация в формате GGUF модели Kimi-Linear-48B-A3B-Instruct, разработанной Moonshot AI. Квантизация выполнена с использованием метода APEX и предназначена для запуска через llama.cpp; модель не связана с Moonshot AI и не endorsed этой организацией. Модель представляет собой гибридную MoE-архитектуру с 48 млрд параметров всего и примерно 3 млрд активных параметров. В большинстве слоёв используется KDA (Kimi Delta Attention, gated-delta linear attention), а в отдельных слоях — полноценное MLA-внимание; FFN построен на 256 маршрутизируемых и одном общем эксперте. Заявленное окно контекста достигает 1 048 576 токенов, однако размер контекста необходимо явно задавать при запуске. Модель предназначена для генерации текста, диалогов и сценариев с инструментами; README не указывает перечень поддерживаемых языков. Доступны варианты APEX-balanced, APEX-i-quality и экспериментальный APEX-handroll. Рекомендуется APEX-balanced: его размер около 33 ГБ, тогда как i-quality занимает около 29 ГБ и показывает увеличение perplexity примерно на 0,34% относительно эталонной версии bf16. Ключевое преимущество — существенное уменьшение размера при сохранении качества, но для работы требуются сборка llama.cpp с поддержкой архитектуры kimi_linear и kimi-k2 pre-tokenizer, а также значительные ресурсы RAM/VRAM. Лицензия MIT распространяется на компоненты, указанные в README.

KnowLM-13B-Base-v1.0 — базовая языковая модель организации ZJUNLP, построенная на архитектуре LLaMA и дополнительно обученная на китайских и английских двуязычных данных. Модель содержит 12,9 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает контекст длиной до 2048 токенов. Модель предназначена для генерации текста и понимания китайского и английского языков; дополнительный этап предобучения усиливает понимание китайского. Её можно использовать как основу для текстовых приложений и последующего дообучения. Модель распространяется по лицензии Apache-2.0.

testmod/koen-llama2-13b-avg_testver — авторегрессионная языковая модель на архитектуре трансформера LLaMA 2, опубликованная в формате Safetensors. Она генерирует текст по текстовому вводу и предназначена для задач генерации текста. В README указано, что веса получены линейной интерполяцией моделей, дообученных на инструкционных датасетах; базовая модель — hyunseoki/ko-en-llama2-13b. Модель содержит 12,9 млрд параметров, использует библиотеку Transformers и имеет контекст длиной до 4096 токенов. В метаданных указан корейский язык. Репозиторий предоставляет веса по лицензии Apache 2.0.

ewof/koishi-8x7b-qlora — языковая модель семейства Mixtral, дообученная автором с помощью QLoRA на наборе инструкций koishi-instruct-metharme. В README указано, что обучение проводилось один проход по данным с использованием Axolotl и что адаптер был объединён с базовой моделью mistralai/Mixtral-8x7B-v0.1; в метаданных размер указан как 7,1 млрд параметров, а архитектура — MixtralForCausalLM с механизмом mixture-of-experts. Модель предназначена для генерации текста в ответ на пользовательские запросы и ведения диалогов с указанным в карточке форматом ролей; контекст составляет до 32 768 токенов. Модель принимает текст и генерирует текст. README не указывает поддерживаемые естественные языки, поэтому языковая специализация не установлена. Опубликованы веса PyTorch. Карточка не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя. Результат зависит от инструкций и обучающих данных; независимые оценки качества в карточке отсутствуют.

KORMo-10B-sft — открытая языковая модель на 10,2 млрд параметров, разработанная командой KORMo. Это плотная авторегрессионная модель для генерации текста и диалогов на корейском и английском языках; поддерживает контекст до 131 072 токенов. В README указано, что обучение использовало синтетические данные и открытые наборы данных общим объёмом около 3 трлн токенов, а опубликованные результаты включают англоязычные и корейские бенчмарки. Модель подходит для ответов на вопросы, диалоговых сценариев и генерации текста на корейском и английском языках. Доступны веса в формате safetensors, а лицензия Apache 2.0 разрешает свободное использование на её условиях. По README, модель не проходила настройку безопасности и выравнивание по предпочтениям, поэтому в сложных рассуждениях возможны повторы и нежелательные ответы.

jaspionjader/Kosmos-EVAA-Franken-Immersive-v39-8B — объединённая автором jaspionjader языковая модель на архитектуре Llama с 7,5 млрд параметров. Она создана методом SLERP с помощью mergekit из моделей jaspionjader/fr-18-8b и jaspionjader/Kosmos-EVAA-Franken-v38-8B и предназначена для генерации текста в диалоговом формате. Модель принимает текст и выдаёт текст; заявленная длина контекста — 131 072 токена. Репозиторий содержит веса в формате safetensors и рассчитан на использование с библиотекой Transformers. В карточке не описаны специализация по языкам, конкретные преимущества, результаты оценки или ограничения качества. Лицензия в предоставленных данных не указана.

Kosmos-EVAA-Franken-v37-8B — объединённая языковая модель, созданная jaspionjader с помощью mergekit методом SLERP из моделей jaspionjader/dp-6-8b и jaspionjader/f-9-8b. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. Она предназначена для генерации текста в диалоговом формате и работает через библиотеку Transformers; максимальная длина контекста составляет 8192 токена. Модель принимает текст и генерирует текст, поэтому может использоваться для диалогов, ответов на запросы и продолжения текста. В карточке не описаны специализированные области применения или поддерживаемые естественные языки. Лицензия в предоставленных данных не указана.

Kosmos-EVAA-TSN-v21-8B — слитая языковая модель семейства Llama, созданная автором jaspionjader с помощью mergekit. Модель объединяет Kosmos-EVAA-TSN-v20-8B и Kosmos-EVAA-TSN-light-8B методом SLERP; архитектура — плотная авторегрессионная LlamaForCausalLM, размер — 7,5 млрд параметров, контекст — до 8192 токенов. Модель предназначена для генерации текста и сценариев, где требуется языковая модель с контекстом средней длины. Данные не уточняют специализацию или поддерживаемые естественные языки, поэтому нельзя уверенно выделить отдельные прикладные области или основной язык. В репозитории указаны веса Safetensors; метаданные называют Transformers используемой библиотекой. Сведения о лицензии и оценках качества отсутствуют в предоставленных источниках.

Kosmos-EVAA-v5-8B — объединённая языковая модель, созданная автором репозитория с помощью mergekit. Веса моделей jaspionjader/Kosmos-EVAA-v4-8B и jaspionjader/Kosmos-EVAA-v3-8B объединены методом SLERP; архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров, формат файлов — safetensors. Модель предназначена для генерации текста. Её можно применять в сценариях, где требуется создавать продолжения текста или ответы на текстовые запросы. Нативная длина контекста составляет 8192 токена; библиотека для работы — Transformers. В README и метаданных не описаны отдельные специализированные задачи, поддерживаемые языки и ограничения качества. Лицензия в предоставленных данных не указана.

Krix-12B-Model_Stock — разговорная языковая модель на архитектуре Mistral, объединённая с помощью mergekit из четырёх моделей-компонентов. Конфигурация указывает метод слияния model_stock, базовую модель DreadPoor/Famino-12B-Model_Stock и формат bfloat16; в метаданных указан размер 12,1 млрд параметров и контекст до 1 024 000 токенов. Модель предназначена для генерации текста и диалоговых сценариев. Репозиторий содержит веса safetensors и использует библиотеку Transformers; лицензия — Apache-2.0. README и метаданные не описывают отдельные специализации, языковое покрытие или результаты оценки качества.

lsw0570168/krx-q25-7b-base-v3.3 — языковая модель автора lsw0570168, дообученная на базе lsw0570168/krx-q25-7b-base-v3. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, предназначенная для генерации текста. В метаданных указан контекст длиной до 131 072 токенов; модель сохранена в формате safetensors и обучалась с использованием Unsloth и Hugging Face TRL. Модель может использоваться для генерации продолжений текста и построения приложений на основе текстовой генерации. Карточка указывает лицензию Apache-2.0. Язык карточки и тег модели — английский; данных о специализации на других языках или прикладных областях нет.

Nitral-Archive выпустила модель Kukul-Stanta-0.420-32k-7B-0.2 — объединённую Mistral-модель для генерации текста и диалогов. Она содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и рассчитана на контекст до 32 768 токенов. В README заявлена поддержка изображений: для работы с визуальными входами требуется загрузить файл mmproj из репозитория и использовать актуальную версию Koboldcpp. Метаданные каталога относят модель к генерации текста и подтверждают чат-возможности, но не перечисляют vision среди установленных возможностей. Модель создана слиянием Eris_PrimeV4.20-Vision-32k-7B и KukulStanta-7B. Сведения о лицензии и поддерживаемых естественных языках в предоставленных данных отсутствуют.

core-3/kuno-dogwalker-7b — текстовая генеративная модель на архитектуре Mistral с 7,1 млрд параметров, созданная объединением SanjiWatsuki/Kunoichi-DPO-v2-7B и mlabonne/AlphaMonarch-7B методом slerp с помощью LazyMergekit. Она предназначена для генерации текста и диалогового взаимодействия; базовые модели ориентированы на общение, следование инструкциям и рассуждения. Контекст модели составляет 8192 токена. В README приведены результаты на наборах ARC, HellaSwag, MMLU, TruthfulQA, Winogrande и GSM8K; автор отмечает, что стиль письма уступает kuno-royale-v2-7b. Модель распространяется по лицензии CC BY-NC 2.0, которая ограничивает коммерческое использование.

Kunoichi-DPO-7B — плотная авторегрессионная языковая модель семейства Mistral на 7,1 млрд параметров, созданная SanjiWatsuki. Это DPO-дообучение Kunoichi-7B на парах предпочтений Intel Orca с шаблоном Alpaca; модель предназначена для общего использования и принимает инструкции, выдавая текстовые ответы. В карточке отмечены улучшения следования инструкциям и рассуждений по сравнению с Kunoichi-7B, а также возможное снижение качества ролевых диалогов из-за выравнивания на данных Orca. Заявленное окно контекста — до 8192 токенов. Экспериментально его можно расширить до 16 тысяч токенов с NTK RoPE alpha 2.6. README приводит результаты нескольких бенчмарков и сообщает, что тестирование ещё продолжается, поэтому оценки следует считать предварительными. Репозиторий содержит веса в формате safetensors; лицензия CC BY-NC 4.0 запрещает коммерческое использование без отдельного разрешения правообладателя.

kunoichi-lemon-royale-v2-32K-7B-GGUF — это квантованная версия текстовой генеративной модели kunoichi-lemon-royale-v2-32K-7B, опубликованная bartowski. Исходная модель создана на основе объединения grimjim/Mistral-7B-Instruct-demi-merge-v0.2-7B и grimjim/kunoichi-lemon-royale-7B. Распространяется в формате GGUF для запуска через llama.cpp. Модель предназначена для генерации текста в инструкционном формате, включая диалоговые и другие сценарии, где требуется следовать запросу пользователя. Заявлен контекст до 32K токенов, размер — 7B параметров. Поддерживается только текстовая модальность; сведения о языках обучения и целевой языковой специализации в README не указаны. Для запросов используется формат <s> [INST] {prompt} [/INST]</s>, системный промпт не поддерживается. Доступно множество вариантов квантования от Q8_0 до Q2_K и IQ-квантов. Варианты Q6_K, Q5_K_M, Q5_K_S и Q4_K_M рекомендуются как обеспечивающие высокий или хороший баланс качества и размера, тогда как более сильное сжатие уменьшает требования к памяти, но снижает качество. Квантование выполнено с использованием imatrix и llama.cpp. Модель распространяется по лицензии CC BY-NC 4.0, допускающей использование с ограничениями, включая некоммерческий характер лицензии.

Kunoichi Lemon Royale v3 32K 7B — объединённая языковая модель на архитектуре Mistral, созданная grimjim с помощью mergekit. Она предназначена для генерации текста, чата и повествования; автор описывает её как творческую модель, где небольшое влияние дополнительной модели должно повысить разнообразие ответов, сохраняя связность базовой модели. Модель содержит 7,1 млрд параметров и принимает текстовый контекст длиной до 32 768 токенов; в README практической длиной контекста названы как минимум 16 тысяч токенов. Проверялась с шаблоном ChatML, температурой 1.0 и minP 0.02. Использование ограничено лицензией CC BY-NC 4.0, которая запрещает коммерческое применение.

Kuro-Lotus-10.7B — языковая модель для генерации текста, созданная слиянием SLERP двух предварительно обученных моделей с помощью mergekit: BlueNipples/SnowLotus-v2-10.7B и Himitsui/KuroMitsu-11B. Модель основана на архитектуре Llama и содержит 10,6 млрд параметров; указанный размер контекста — 8192 токена. Модель предназначена для генерации связного текста и диалоговых сценариев. В карточке приведены результаты Open LLM Leaderboard по нескольким бенчмаркам, включая AI2 Reasoning Challenge и HellaSwag. Для работы с моделью нужны текстовые входные данные; она генерирует текст. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Результаты бенчмарков не гарантируют качество во всех задачах; конкретные поддерживаемые языки и дополнительные ограничения в карточке не описаны.

L3.1-15B-EtherealMaid-t0.0001-alpha — языковая модель для генерации текста, созданная сообществом mergekit-community посредством объединения предварительно обученных моделей. Сборка использует метод passthrough и архитектуру LlamaForCausalLM; в метаданных указано 14,5 млрд параметров и контекст до 131 072 токенов. В объединении участвовали Orenguteng/Llama-3.1-8B-Lexi-Uncensored-V2 и v000000/L3-15B-EtherealMaid-t0.0001. Модель предназначена для диалоговой генерации текста и ответов на запросы. Метаданные отмечают поддержку чата и интерфейса вызова инструментов; конкретные качества этих возможностей в карточке не описаны. Используется библиотека Transformers, веса представлены в формате safetensors. Лицензия и ограничения на использование в предоставленных данных не приведены.

L3.1-70b-Milasha — чат-модель, созданная KaraKaraWitch как слияние пяти моделей семейства Llama 3.1 с помощью LazyMergekit. Она предназначена для диалога и генерации текста в формате Llama 3 Instruct; при слиянии MeowMix использовалась для усиления языковых возможностей в китайском, японском и корейском языках. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 69,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель подходит для многоходовых бесед и генерации текста с длинным контекстом. Веса доступны в формате safetensors. Лицензия CC BY-NC 4.0 допускает использование с указанием авторства, но запрещает коммерческое использование. README не содержит подробной оценки качества или перечня ограничений; заявленный акцент на CJK-языках относится к усилению языковых возможностей при слиянии.

mergekit-community/L3.1-Artemis-d-8B — объединённая языковая модель на архитектуре Llama, созданная с помощью mergekit методом Model Stock. В качестве основы использована arcee-ai/Llama-3.1-SuperNova-Lite; в объединение также вошли Casual-Autopsy/L3-Umbral-Mind-RP-v3.0-8B, mergekit-community/L3-Boshima-a и kromeurus/L3.1-Ablaze-Vulca-v0.1-8B. Модель содержит 7,5 млрд параметров и распространяется в формате safetensors. Модель предназначена для генерации текста и разговорных сценариев. Она принимает текст и выдаёт текст; заявленная длина контекста — 131072 токена. Базовая модель описана в каталоге как англоязычная чат-модель для диалогов и выполнения инструкций, поэтому английский — основной язык модели. Лицензия в предоставленных данных не указана. Качество ответов и ограничения конкретного объединения в карточке не описаны; характеристики и поведение могут зависеть от сочетания исходных моделей.

L3.1-Artemis-faustus-8B — слитая диалоговая языковая модель сообщества mergekit-community на архитектуре Llama. Она объединяет mergekit-community/L3.1-Artemis-d-8B и DreadPoor/Aurora_faustus-8B-LINEAR методом SLERP; в репозитории представлены веса Safetensors, а для работы используется библиотека Transformers. Модель содержит 7,5 млрд параметров, имеет контекстное окно 8192 токена и предназначена для генерации текста и диалоговых ответов. Её можно применять для чат-ботов, свободного продолжения текста и ответов на запросы на естественном языке. В карточке не приведены сведения о поддерживаемых естественных языках и специальные ограничения качества. Лицензия в предоставленных данных не указана.

L3.1-Artemis-g-8B — слитая с помощью mergekit модель языковой модели семейства Llama, опубликованная сообществом mergekit-community. Слияние выполнено методом Model Stock на базе kromeurus/L3.1-Ablaze-Vulca-v0.1-8B с добавлением трёх моделей, включая варианты для ролевого общения. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и формат safetensors; заявленная длина контекста составляет 131072 токена. Модель предназначена для генерации текста и диалогового общения, в том числе ролевых сценариев. Она принимает текст и выдаёт текст. В метаданных указана лицензия? Нет сведений о лицензии в предоставленных материалах, поэтому условия использования определить нельзя. Карточка не приводит оценки качества или ограничений; фактические результаты могут зависеть от промпта и сценария применения.

bartowski/L3.1-MS-Astoria-70b-v2-GGUF — это набор GGUF-квантизированных версий текстовой генеративной модели Steelskull/L3.1-MS-Astoria-70b-v2. Квантизация выполнена bartowski с помощью llama.cpp b3930 и метода imatrix. Модель предназначена для локального запуска задач генерации текста, диалогов и других сценариев текстового вывода; рекомендуется использовать её через LM Studio или совместимые инструменты на базе llama.cpp. Доступны варианты квантизации от IQ1_M до Q8_0 размером примерно от 16,75 до 74,98 ГБ. Более высокие уровни квантизации обычно лучше сохраняют качество, но требуют больше оперативной памяти; Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS отмечены как рекомендуемые, тогда как самые низкие уровни имеют заметно более низкое качество. Для некоторых вариантов применена квантизация весов эмбеддингов и выходного слоя в Q8_0. README не содержит сведений о точной архитектуре, поддерживаемых языках, размере контекста, мультимодальности, результатах оценки или лицензии исходной модели. Формат приглашений использует специальные токены Llama 3.1 и задаёт даты отсечения знаний и текущую дату, однако это не заменяет официальное описание возможностей модели.

Llama-3.1-Niitorm-8B — объединённая диалоговая языковая модель на архитектуре Llama 3.1, созданная слиянием Sao10K/L3.1-8B-Niitama-v1.1 и akjindal53244/Llama-3.1-Storm-8B методом NEARSWAP с параметром t=0.0001. В README также указано включение варианта Niitama с LoRA для abliteration. Модель содержит 7,5 млрд параметров, работает с текстом и имеет контекстное окно до 131 072 токенов. Модель предназначена для диалогов и генерации текста, в том числе ответов на инструкции и вызова функций через соответствующий интерфейс. В карточке заявлена преимущественно выполненная abliteration, однако подробные оценки качества и гарантии поведения не приведены. Доступны веса в формате safetensors; README также упоминает сторонние квантизированные сборки GGUF. Лицензия в предоставленных данных не указана.

L3.1-Orion-a-8B — слитая языковая модель семейства Llama, созданная сообществом mergekit с помощью метода Model Stock. При слиянии использованы P0x0/Epos-8b как базовая модель, а также Casual-Autopsy/L3-Umbral-Mind-RP-v3.0-8B, Sao10K/L3-8B-Lunaris-v1 и mergekit-community/L3-Boshima-a. Модель предназначена для генерации текста и диалогов, включая ролевые сценарии. Она имеет плотную авторегрессионную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекст до 131 072 токенов. В README указаны слияние Model Stock и сохранение весов в float16; в репозитории используются файлы safetensors. Лицензия в доступных данных не указана.

L3.3-70B-Euryale-v2.3-GGUF — это квантизированная версия языковой модели L3.3-70B-Euryale-v2.3, разработанной Sao10K и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp или совместимые приложения, включая LM Studio. Доступно множество вариантов квантизации с разным балансом между качеством и размером — от Q8_0 размером около 75 ГБ до более компактных вариантов Q2 и IQ3. Модель относится к классу text-generation и содержит 70B параметров согласно идентификатору базовой модели. Квантизация выполнена с использованием imatrix и специального набора данных; для некоторых вариантов предусмотрена оптимизация под ARM, AVX или определённые аппаратные возможности. В README не указаны точная архитектура, максимальная длина контекста, поддерживаемые языки, мультимодальность и результаты бенчмарков. Сильной стороной модели является широкий выбор квантизаций: Q6_K и Q5 считаются высококачественными, а Q4-варианты предлагают более доступный размер для большинства сценариев локального запуска. Ограничениями являются значительные требования к памяти даже у компактных вариантов, а также возможное снижение качества при агрессивной квантизации. Для отдельных ARM-оптимизированных файлов требуются конкретные аппаратные инструкции; некоторые варианты не рекомендуется использовать на Mac. Указанная лицензия — Llama 3.

Laabam AI 3B v1 — многоязычный чат-ассистент, дообученный разработчиком Laabam на базе Qwen2.5-3B-Instruct методом QLoRA. Модель предназначена для выполнения инструкций и генерации ответов в диалоге; при дообучении уделялось внимание следованию инструкциям, безопасности и индийским языкам. Это плотная авторегрессионная модель семейства Qwen2 с 3,1 млрд параметров и контекстом до 32 768 токенов. Карточка указывает английский и хинди, а также тамильский и телугу; метаданные дополнительно отмечают каннада. Модель распространяется в формате safetensors по лицензии Apache-2.0.