I.5Создание и редактирование текста

Citaman/command-r-2-layer — слитая языковая модель на архитектуре Cohere, созданная автором репозитория с помощью mergekit. В неё включены слои модели Citaman/command-r-3-layer; использован метод SLERP. Метаданные описывают модель как дообучение этой базовой модели, а карточка указывает на слияние её слоёв. Модель предназначена для генерации текста и диалоговых сценариев, включая интерфейс вызова инструментов. Она содержит 3,7 млрд параметров, принимает текст и поддерживает контекст до 8192 токенов. Указан формат safetensors и библиотека Transformers. Данные не сообщают целевые языки или специальные прикладные области, поэтому модель следует рассматривать как универсальную. Лицензия в предоставленных сведениях не указана; качество и надёжность ответов отдельно не описаны.

Citaman/command-r-35-layer — объединённая модель для генерации текста, созданная Citaman методом SLERP с помощью mergekit на основе Citaman/command-r-36-layer. В конфигурации объединены два среза слоёв одной базовой модели; метаданные относят репозиторий к семейству Cohere и архитектуре CohereForCausalLM с плотными весами. Модель содержит 30,9 млрд параметров и рассчитана на контекст до 8192 токенов. Модель предназначена для диалоговой генерации текста и интерфейсов вызова инструментов. Веса доступны в формате safetensors для библиотеки Transformers. В README и метаданных не описаны поддерживаемые естественные языки, качество на конкретных задачах или результаты оценки. Условия лицензирования в предоставленных данных не приведены.

Citaman/command-r-39-layer — объединённая с помощью mergekit методом SLERP модель семейства Cohere на архитектуре CohereForCausalLM. В сборку вошли два среза слоёв базовой модели CohereForAI/c4ai-command-r-v01 с диапазонами [0, 39] и [1, 40]. Модель содержит 34,2 млрд параметров и рассчитана на генерацию текста, в том числе в диалоговом формате и через интерфейс вызова инструментов; контекст составляет 8192 токена. Модель подходит для диалоговых систем и генерации текста. В карточке не приведены отдельные сведения о языках, качестве на конкретных задачах или ограничениях применения. Файлы опубликованы в формате safetensors; лицензия в доступных данных не указана.

Citaman/command-r-6-layer — слитая с помощью mergekit методом SLERP языковая модель на архитектуре CohereForCausalLM. Она собрана из двух срезов слоёв Citaman/command-r-7-layer и предназначена для диалоговой генерации текста и взаимодействия с инструментами. Модель содержит 7 млрд параметров, принимает текст и имеет контекстное окно 8192 токена. Репозиторий распространяет веса в формате safetensors; лицензия в предоставленных данных не указана.

ComplexKDA — плотная гибридная языковая модель с 1,36 млрд параметров, созданная командой авторов, перечисленных в карточке модели, и выпущенная в рамках ComplexKDA. В архитектуре 24 слоя: линейные слои внимания чередуются с полным вниманием на каждом четвёртом слое. Модель использует Kimi Delta Attention с signed decay gate: коэффициент затухания каждого канала может принимать значения от −1 до 1, что позволяет каналам не только забывать, но и осциллировать. В карточке также указаны 16 голов размерности 128, свёртка ширины 4 и MLP SwiGLU. Модель предназначена для генерации текста и диалогового применения. Обученный контекст составляет 4096 токенов; словарь токенизатора содержит 32 000 токенов. Для токенизации следует использовать токенизатор из репозитория: он не добавляет BOS автоматически и завершает документы EOS. Реализация модели поставляется для Transformers и использует PyTorch. Карточка сообщает, что веса экспортированы из обучающего чекпойнта, причём конверсия была только метаданной и сами веса сохранены без изменений. Лицензия — MIT. Модель работает с текстом; сведений о поддерживаемых естественных языках в предоставленных данных нет.

CompliAI_FullModel1 — языковая модель Ricky080811 для генерации текста, дообученная на базе Mistral 7B v0.2. По карточке, обучение выполнялось с помощью Unsloth и библиотеки TRL. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста на английском языке. Название CompliAI не сопровождается в карточке описанием специализированных задач или обучающих данных, поэтому нельзя подтвердить её специализацию на комплаенсе. Распространяется по лицензии Apache-2.0.

CrystalMistral-26b — разговорная языковая модель семейства Mixtral с архитектурой смеси экспертов (MoE), опубликованная Crystalcareai. Согласно карточке, модель создана с помощью LazyMergekit на основе нескольких копий Crystalcareai/CrystalMistral; метаданные также связывают её с этой базовой моделью. Она предназначена для генерации текста и диалогов. Базовая CrystalMistral дообучена для выполнения инструкций, общения, генерации текста и работы с кодом, поэтому эти сценарии подходят и для данной модели. В репозитории указаны 7,1 млрд параметров и контекст до 32 768 токенов. Модель принимает текст и генерирует текст. Лицензия — Apache-2.0. Карточка не приводит отдельных оценок качества CrystalMistral-26b; возможности базовой модели не гарантируют такие же результаты после слияния.

Kaballas/Cyber22 — языковая модель семейства Llama, разработанная Kaballas и дообученная на базе Cyber21. Это плотная авторегрессионная модель с 7,5 млрд параметров для генерации текста; метаданные также отмечают поддержку чата и интерфейса вызова инструментов. Модель обучалась с использованием Unsloth и библиотеки TRL. Она предназначена для генерации ответов и ведения диалога на английском языке. Репозиторий содержит веса в формате Safetensors, модель опубликована под лицензией Apache 2.0. Заявленная длина контекста — 131 072 токена.

Cypher-Laser-Mixtral-2x1.8B-v0.1 — языковая модель, созданная aloobun путём объединения двух моделей Cypher с применением техники LASER и инструмента LazyMergekit. Это архитектура Mixtral с разреженной смесью экспертов (MoE), предназначенная для генерации текста и диалогового использования. В репозитории указаны 1,7 млрд параметров, контекст до 16 384 токенов и формат safetensors. Модель можно использовать для диалоговых ответов и генерации текста, включая задачи с рассуждениями. В её основе лежат aloobun/Cypher-Mini-Laser-1.8B и aloobun/Cypher-CoT-Laser-1.8B; среди датасетов карточки указаны CoT-Collection и Hercules-v3.0. Модель распространяется по лицензии Apache-2.0. Языки обучения или приоритетные языки карточка не подтверждает.

FourOhFour/Dante_9B — чат-модель на базе Gemma 2, дообученная автором репозитория FourOhFour. Модель содержит 9 млрд параметров, использует архитектуру Gemma2ForCausalLM и формат весов safetensors. Она предназначена для диалоговой генерации текста; базовая модель использует токены ChatML. Контекст составляет до 8192 токенов. Модель можно применять для ведения диалогов, ответов на вопросы и генерации текста. В карточке приведён результат оценки: loss 0,7320; описание обучающих данных и подробности оценки не раскрыты. Лицензия — gemma.

shadowml/DareBeagel-2x7B — языковая модель для диалоговой генерации текста, созданная объединением mlabonne/NeuralBeagle14-7B и mlabonne/NeuralDaredevil-7B в MoE-архитектуру Mixtral с помощью LazyMergekit. Конфигурация использует случайный режим маршрутизации экспертов. В метаданных указаны 7,1 млрд параметров, контекст до 32 768 токенов и формат safetensors. Модель предназначена для чатов и генерации ответов на текстовые запросы; в README приведены результаты оценки на задачах рассуждения и продолжения здравого смысла. Репозиторий распространяется по лицензии Apache-2.0. README озаглавлен Beyonder-2x7B-v2, тогда как идентификатор репозитория содержит DareBeagel-2x7B.

DareBeagle-7B — текстовая генеративная модель на архитектуре Mistral, созданная shadowml путём слияния моделей NeuralBeagle14-7B и NeuralDaredevil-7B с помощью LazyMergekit и метода SLERP. Модель содержит 7,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Модель предназначена для генерации текста и ответов на запросы в диалоговых и других текстовых сценариях. В карточке приведены результаты оценки на бенчмарках рассуждений и здравого смысла, включая AI2 Reasoning Challenge и HellaSwag. Модель опубликована в формате Safetensors и распространяется по лицензии Apache-2.0. Результаты бенчмарков не гарантируют качество на конкретных прикладных задачах; сведения о поддерживаемых естественных языках в карточке отсутствуют.

Daredevil-8B — диалоговая языковая модель, созданная mlabonne как объединение нескольких моделей Llama 3 8B с помощью LazyMergekit. Репозиторий содержит плотную архитектуру LlamaForCausalLM с 7,5 млрд параметров; модель принимает текст и генерирует текст, поддерживает контекст до 8192 токенов и предназначена для чата и генерации ответов. Автор позиционирует её как улучшенную версию Meta-Llama-3-8B-Instruct и сообщает о высоких результатах на MMLU и наборах Open LLM Leaderboard и Nous по состоянию на май 2024 года. Модель общего назначения можно применять для диалогов, ответов на вопросы, генерации текста и кода. В README она описана как цензурированная; для снятия ограничений автор указывает отдельную модель Daredevil-8B-abliterated. Лицензия в метаданных обозначена как other, поэтому конкретные условия использования следует проверять в карточке модели и лицензиях компонентов объединения.

Darewin-7B-v2 — языковая модель на архитектуре Mistral, созданная mlabonne путём слияния семи моделей с помощью LazyMergekit. Она предназначена для генерации текста и диалогового общения; результаты оценки также показывают способности к рассуждению и решению задач из бенчмарков AI2 Reasoning Challenge и HellaSwag. Модель содержит 7,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Модель принимает текст и генерирует текст. В карточке указана лицензия Apache-2.0. README приводит результаты Open LLM Leaderboard, но не описывает ограничения по языкам или конкретным сценариям; языковая поддержка в метаданных явно не перечислена.

Aleteian/DarknessEnthroned — объединённая модель генерации текста на архитектуре Mistral, созданная с помощью mergekit методом TIES на основе win10/Mistral-Nemo-abliterated-Nemo-Pro-v2. В объединение также вошли три модели DavidAU: MN-GRAND-Gutenberg-Lyra4-Lyra-12B-MADNESS, MN-Dark-Planet-TITAN-12B и MN-GRAND-Gutenberg-Lyra4-Lyra-12B-DARKNESS. Модель предназначена для генерации текста и диалогов. Она содержит 12,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и распространяется в формате safetensors; заявленная длина контекста — 1 024 000 токенов. Лицензия в предоставленных данных не указана.

DataDecide-dclm-baseline-1B-5500057500600006250065000weightedavgmerge — объединённая авторегрессионная языковая модель на архитектуре Llama, созданная с помощью mergekit из пяти контрольных точек предварительно обученной модели DCLM baseline. Для слияния использован линейный метод, а контрольная точка step65000 указана как базовая. Модель предназначена для генерации текста.

DataDecide-dclm-baseline-qc-7p-fw3-1B-50000_52500_55000_57500_60000_weightedavg_merge — объединённая предобученная языковая модель, созданная с помощью mergekit. В README указано, что применён линейный метод слияния и в качестве базовой точки использован чекпойнт step60000; в объединение также вошли чекпойнты step50000, step52500, step55000 и step57500 из серии dclm-baseline-qc-7p-fw3. Модель построена на архитектуре LlamaForCausalLM и содержит 1,2 млрд параметров. Она предназначена для генерации текста и принимает текстовые запросы, выдавая текст; максимальный контекст составляет 2048 токенов. Данные не уточняют целевые языки, специализированные области или отдельные прикладные сценарии, поэтому модель можно описать только как языковую модель общего назначения. Модель опубликована в формате safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.

DataDecide-dolma1_7-1B-55000_57500_60000_62500_65000_weightedavg_merge — объединение предварительно обученных языковых моделей, созданное автором карточки с помощью mergekit. В основе объединения лежит линейное смешивание пяти чекпойнтов семейства dolma1_7; архитектура — плотная LlamaForCausalLM с 1,2 млрд параметров, веса сохранены в формате safetensors. Модель предназначена для генерации текста и имеет контекст длиной до 2048 токенов. Её можно использовать для продолжения текста и других задач генерации на основе языковой модели. README не описывает специальные прикладные области, конкретные языки или сравнительные преимущества объединённого чекпойнта. Лицензия в предоставленных данных не указана.

Карточка модели vasimakram01/dawah_llama2_working_repo на Hugging Face совпадает с карточкой NousResearch/Llama-2-7b-chat-hf, поэтому описание составлено по ней. NousResearch/Llama-2-7b-chat-hf — диалоговая языковая модель семейства Llama 2, разработанного Meta и опубликованная в формате Hugging Face Transformers. Это плотный авторегрессионный трансформер с 6,6 млрд параметров; веса представлены в форматах PyTorch и Safetensors. Модель принимает текст и генерирует текст, а её контекст составляет 4096 токенов. Модель дообучена с помощью supervised fine-tuning и обучения с подкреплением по человеческим отзывам для диалогов в формате помощника. Она предназначена для ответов на вопросы, ведения диалога и генерации текста на английском языке. Для ожидаемого поведения нужно соблюдать форматирование Llama 2 Chat с соответствующими маркерами инструкций и токенами. Модель может выдавать неточные, предвзятые или нежелательные ответы, а проведённые оценки не охватывают все возможные сценарии. Данные предобучения имеют срез до сентября 2022 года. Использование регулируется собственной лицензией Meta для Llama 2; для получения весов требуется принять её условия.

Deacon-20B — разговорная языковая модель семейства Llama, опубликованная KnutJaegersberg. Она предназначена для генерации текста и выполнения пользовательских инструкций в диалоге. В README приведён пример запроса о дообучении языковой модели, а метаданные указывают 19,6 млрд параметров и контекст до 4096 токенов. Модель использует плотную архитектуру LlamaForCausalLM и распространяется в формате safetensors. В карточке приведены результаты оценок на задачах рассуждения и продолжения здравого смысла. Указанная лицензия CC BY-NC 4.0 разрешает использование с атрибуцией, но запрещает коммерческое применение.

DeepSeek-R1-0528-Qwen3-8B-GGUF — квантизированная версия языковой модели DeepSeek-R1-0528-Qwen3-8B, разработанной deepseek-ai. Квантизацию выполнил bartowski с использованием llama.cpp версии b5524 и метода imatrix. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp. Это текстовая модель размером 8B параметров, представленная в формате GGUF. Доступны варианты от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ, с размером файлов примерно от 3,9 до 16,39 ГБ. Более высокие уровни квантизации обычно лучше сохраняют качество, а варианты Q3 и ниже ориентированы на устройства с ограниченным объёмом оперативной памяти. Для работы рекомендуется использовать указанный шаблон prompt format; контекстное окно, поддерживаемые языки и дополнительные модальности в README не указаны. Сильные стороны модели — возможность локального запуска, широкий выбор вариантов квантизации и компромисс между качеством, размером и требованиями к памяти. Ограничения зависят от выбранного варианта: более сильная квантизация может снижать качество генерации, а для запуска требуются совместимые инструменты и достаточно оперативной или видеопамяти. Лицензия модели указана как MIT.

DeepSeek LLM 7B Chat — разработанная DeepSeek плотная авторегрессионная языковая модель семейства LLaMA с 6,5 млрд параметров в метаданных. Модель создана на основе deepseek-ai/deepseek-llm-7b-base и дообучена на дополнительных инструкционных данных для диалогового взаимодействия. Она обучалась с нуля на корпусе из 2 трлн токенов на английском и китайском языках. Модель предназначена для генерации текста и ответов в чате. Она принимает текстовые сообщения и выдаёт текст; максимальный контекст составляет 4096 токенов. README предупреждает, что системный промпт несовместим с этой версией и не рекомендует его включать во входные сообщения. Указана лицензия other; README представляет выпуск как открытый для исследовательского сообщества, но не уточняет конкретные условия лицензии.

DeepSeek-R1-0528-Qwen3-8B-MLX-4bit — это 4-битно квантованная версия модели DeepSeek-R1-0528-Qwen3-8B, разработанной deepseek-ai. Квантование выполнено командой LM Studio с использованием mlx_lm и формата MLX, ориентированного на работу на устройствах с Apple Silicon. Модель предназначена для генерации текста и связанных с ней языковых сценариев. README не содержит сведений о точном числе параметров, поддерживаемых языках, размере контекста, модальностях или специализированных ограничениях исходной модели. Ключевое преимущество версии — уменьшенный размер благодаря 4-битному представлению и оптимизация для Apple Silicon; при этом квантование может снижать точность по сравнению с исходной моделью, а применение вне экосистемы MLX и Apple Silicon может быть ограничено. Модель распространяется по лицензии MIT.

RedHatAI/DeepSeek-R1-Distill-Qwen-32B-quantized.w4a16 — квантизированная версия модели DeepSeek-R1-Distill-Qwen-32B, разработанная Neural Magic. Модель построена на архитектуре Qwen2ForCausalLM и предназначена для генерации и обработки текста, включая задачи рассуждения, решения математических задач, ответов на вопросы и использования в чат-сценариях. Модель имеет 32 миллиарда параметров и использует INT4-квантизацию весов линейных операторов в трансформерных блоках при формате W4A16. Применяется симметричная поканальная по группам схема с размером группы 128 и алгоритм GPTQ через библиотеку llm-compressor. Такой подход примерно на 75% сокращает размер модели на диске и требования к памяти GPU по сравнению с представлением весов в 16 битах. Входная и выходная модальности — текст; сведения о поддерживаемых языках и максимальном контексте в карточке явно не указаны. По приведённым оценкам, квантизированная версия сохраняет около 99,45% среднего результата исходной модели на наборе задач рассуждения, включая AIME 2024, MATH-500 и GPQA Diamond. Она оптимизирована для эффективного развёртывания с vLLM и может использоваться через OpenAI-совместимый сервер. Ограничением является возможное небольшое снижение точности из-за квантизации, а также зависимость эффективного запуска от совместимого GPU и программного стека vLLM. Модель распространяется по лицензии MIT.

win10/DeepSeek-R1-Distill-sthenno-14b-0121-union-tokenizer — объединённая модель на 14 млрд параметров, созданная автором репозитория методом TIES с помощью mergekit. В качестве основы использована sthenno-com/miscii-14b-1225; в объединение также вошли sthenno/tempesthenno-ppo-ckpt40 и unsloth/DeepSeek-R1-Distill-Qwen-14B. Модель построена на архитектуре Qwen2 и распространяется в формате safetensors. Модель предназначена для диалоговой генерации текста. Метаданные указывают контекст до 131 072 токенов и поддержку чата; языки и специализированные прикладные области в карточке не определены. Лицензия в предоставленных данных не указана.

bartowski/DeepSeek-V2.5-GGUF — набор GGUF-квантизаций модели DeepSeek-V2.5, разработанной DeepSeek AI и подготовленной для llama.cpp. Модель предназначена для генерации текста и локального запуска, в том числе через LM Studio; варианты файлов позволяют выбирать баланс между качеством, размером и требованиями к RAM или VRAM. Доступны квантизации Q8_0, Q6_K, Q5_K_M, Q4_K_M, Q4_0, IQ4_XS, Q3, Q2 и IQ1–IQ3 различных уровней. Размер файлов составляет примерно от 52,68 до 250,62 ГБ; крупные варианты разделены на несколько файлов. Квантизации выполнены с использованием imatrix на базе llama.cpp b3658, отдельные варианты используют Q8_0 для embedding- и output-весов. Для модели указан формат prompt с системным сообщением, запросом пользователя и ответом ассистента. Сильная сторона набора — широкий выбор вариантов: Q6_K и Q5_K_M заявлены как близкие к исходному качеству, Q4_K_M — как рекомендуемый компромисс, а малые варианты подходят для систем с ограниченной памятью, хотя имеют заметно более низкое качество. README не содержит сведений об архитектуре, числе параметров, поддерживаемых языках и размере контекстного окна. Лицензия указана как other/deepseek; применяются условия лицензии DeepSeek, доступной по ссылке в карточке модели.

TechxGenus/DeepSeek-V2-Lite-Chat-AWQ — AWQ-квантованная версия диалоговой модели DeepSeek-V2-Lite-Chat, разработанной DeepSeek AI. Это языковая модель, дообученная для взаимодействия в формате чата и предназначенная для генерации текста, ответов на вопросы и других сценариев использования разговорных LLM. Модель построена по архитектуре Mixture-of-Experts (MoE) с Multi-head Latent Attention (MLA): всего она содержит 16 млрд параметров, из которых при обработке активируется 2,4 млрд. MLA сжимает KV-кэш в латентное представление, а разреженные вычисления MoE повышают эффективность обучения и инференса. Контекстное окно составляет 32 тысячи токенов. В README заявлена поддержка сценариев на английском и китайском языках; модель обучалась с нуля на 5,7 трлн токенов. К сильным сторонам относятся сравнительно небольшое число активных параметров, эффективность инференса и возможность развертывания на одной GPU с 40 ГБ памяти. Квантованный формат AWQ ориентирован на более экономичное локальное развертывание, однако README не приводит подробностей о влиянии квантования на качество, аппаратных требованиях конкретного запуска или результатах именно этой квантованной сборки. Модель распространяется по лицензии DeepSeek Model Agreement; код проекта отдельно отмечен как распространяемый по MIT, но это не заменяет условия лицензии самой модели.

DeepSeek-V3-Base — базовая языковая модель семейства DeepSeek-V3, разработанная командой DeepSeek AI. Это Mixture-of-Experts (MoE) модель с 671 млрд общих параметров, из которых 37 млрд активируются для каждого токена. Модель предварительно обучена на 14,8 трлн разнообразных токенов и предназначена для использования в качестве основы для генерации и понимания текста, а также последующей адаптации под прикладные задачи. В архитектуре применяются Multi-head Latent Attention (MLA) и DeepSeekMoE. Для балансировки нагрузки используется стратегия без вспомогательной функции потерь, а обучение дополнено целью Multi-Token Prediction, которая может применяться и для ускорения вывода посредством speculative decoding. Обучение проводилось с использованием смешанной точности FP8; заявлены высокая эффективность обучения и стабильность процесса. Длина контекста в предоставленных данных не указана, как и точный перечень поддерживаемых языков и сведения о мультимодальности. Сильными сторонами модели являются крупный общий объём параметров, высокая вычислительная эффективность за счёт разреженной активации экспертов и заявленная конкурентоспособность среди открытых базовых моделей. Ограничения включают значительные требования к инфраструктуре для запуска и отсутствие в предоставленном описании подробных характеристик инференса, языкового покрытия и результатов по отдельным прикладным сценариям. Код распространяется по лицензии MIT, а сама модель — по Model Agreement.

NVIDIA DeepSeek-V4.1-Flash NVFP4 — квантизированная версия модели DeepSeek-V4.1-Flash, разработанной DeepSeek AI и подготовленной NVIDIA с использованием Model Optimizer. NVIDIA не является владельцем или разработчиком исходной модели. Модель предназначена для коммерческого и некоммерческого применения, включая AI-агентов, чат-ботов, RAG-системы и другие приложения на базе генеративного ИИ. Это авторегрессионная мультимодальная модель архитектуры Transformer с Mixture-of-Experts и архитектурой Causal Encoder-Decoder, использующая Compressed Sparse Attention 2. Общий размер backbone составляет 552 млрд параметров; во время prefill активируется 8 млрд, во время decode — 16 млрд, дополнительно используется 196 млрд параметров Engram conditional memory. Модель принимает текст и изображения RGB и генерирует текст. Поддерживается контекст до 1 млн токенов. Сведения о поддерживаемых языках в карточке не указаны. Ключевые преимущества — мультимодальность, поддержка сверхдлинного контекста и снижение требований к вычислениям благодаря квантизации NVFP4 W4A4 с размером группы 16. Модель оптимизирована для NVIDIA GPU, прежде всего архитектуры Blackwell, и протестирована на NVIDIA GB300 с использованием vLLM и SGLang. Ограничения включают зависимость от совместимого оборудования и программного окружения, а также необходимость дополнительного тестирования на данных конкретного сценария перед внедрением. Данные исходного обучения не раскрыты; квантизация выполнена с помощью nvidia-modelopt версии 0.47.0rc0. Лицензия — MIT.

MLX-версия модели DeepSeek-V4-Flash, преобразованная сообществом mlx-community из оригинальной модели deepseek-ai/DeepSeek-V4-Flash. Модель предназначена для генерации текста и может использоваться в сценариях, требующих локального запуска через библиотеку MLX и пакет mlx-lm. Это Mixture-of-Experts модель с 284 млрд общих параметров и 13 млрд активируемых параметров. Она поддерживает контекст длиной до 1 млн токенов. Данная версия представлена в 8-битном формате MLX; README не содержит сведений о поддерживаемых языках, модальностях, конкретных задачах, производительности и ограничениях. Модель распространяется по лицензии MIT. Для использования требуется MLX-совместимая среда и библиотека mlx-lm.