II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейfacebook/convnextv2-tiny-1k-224 — свёрточная модель классификации изображений, разработанная командой ConvNeXt V2 и опубликованная в репозитории Hugging Face. Модель предварительно обучена в рамках FCMAE, затем дообучена на ImageNet-1K для классификации изображений с разрешением 224 × 224 пикселя. Архитектура ConvNeXt V2 — чистая свёрточная сеть с полностью свёрточным masked autoencoder-подходом FCMAE и слоем Global Response Normalization (GRN). Модель предназначена для отнесения изображений к одному из 1000 классов ImageNet-1K и может служить основой для дальнейшей адаптации под другие задачи распознавания изображений. Доступны веса PyTorch, Safetensors и TensorFlow. Модель распространяется по лицензии Apache-2.0. Карточка не приводит специальных ограничений, кроме назначения для классификации изображений и набора классов ImageNet-1K.
cs3darknetfocus_m.c2nsin1k — свёрточная модель классификации изображений из библиотеки timm. Это вариант архитектуры CS3-DarkNet с тремя свёртками в блоках Cross-Stage-Partial; модель обучена на ImageNet-1k. Веса содержат около 9,3 млн параметров, вычислительная сложность составляет около 2,0 GMACs. Размер изображения при обучении — 256 × 256 пикселей, при тестировании — 288 × 288. Модель предназначена для классификации изображений и может использоваться как базовая сеть для извлечения карт признаков и эмбеддингов изображений. В карточке описан рецепт обучения на основе ResNet Strikes Back C с оптимизатором SGD с Nesterov, адаптивным ограничением градиентов и косинусным расписанием скорости обучения с разогревом. Модель опубликована в форматах PyTorch и Safetensors под лицензией Apache-2.0.
osiria/deberta-base-italian — модель семейства DeBERTa V2, подготовленная для итальянского языка на основе mDeBERTa-v3-base. Разработчик адаптировал слой эмбеддингов, используя частоты слов на уровне документов, рассчитанные по корпусу Википедии. В метаданных указаны архитектура DebertaV2Model и 151,8 млн параметров; README приводит оценку в 124 млн параметров, поэтому сведения о размере расходятся. Модель принимает текст и предназначена для извлечения признаковых представлений, которые можно использовать как основу для последующей обработки текста. Контекст составляет 512 токенов, модель работает с итальянским языком и распространяется под лицензией MIT. Карточка не описывает результаты оценивания или ограничения качества.
deit3_large_patch16_384.fb_in22k_ft_in1k — модель классификации изображений семейства DeiT-III, опубликованная разработчиками библиотеки timm. Она предварительно обучена на ImageNet-22k, затем дообучена авторами статьи на ImageNet-1k. Модель содержит около 304,8 млн параметров и обрабатывает изображения размером 384 × 384 пикселя. Модель предназначена для классификации изображений по категориям ImageNet-1k и может служить визуальной основой для получения эмбеддингов изображений. Архитектура относится к семейству Vision Transformer; веса доступны в форматах PyTorch и safetensors. Лицензия — Apache-2.0. Большой размер модели и входное разрешение требуют заметных вычислительных ресурсов. Классификация ориентирована на категории ImageNet-1k, поэтому качество на других наборах данных и предметных областях может отличаться.
timm/densenet121.tv_in1k — сверточная модель DenseNet-121 для классификации изображений и извлечения визуальных признаков. Она обучена на ImageNet-1k с исходными весами torchvision и распространяется через библиотеку timm. Модель содержит около 8 млн параметров, требует изображение размером 224 × 224 пикселя и имеет вычислительную сложность 2,9 GMACs. Модель подходит для классификации изображений по категориям ImageNet-1k, извлечения карт признаков и получения векторных представлений изображений. Её можно использовать как визуальную основу в компьютерном зрении. Лицензия Apache-2.0 допускает использование и распространение с соблюдением её условий. Область распознавания ограничена категориями ImageNet-1k; качество на других наборах данных не подтверждено карточкой.
zeromodels/dino-vits16 — конверсия модели DINO ViT-S/16, разработанной Facebook AI Research, в формате Keras 3. Это самоконтролируемый визуальный энкодер: при обучении учитель и ученик сопоставляют представления разных фрагментов одного изображения без меток. Модель возвращает токены и карты признаков, а не готовые ответы или предсказания для отдельной задачи. Энкодер предназначен для извлечения семантических признаков изображений и использования как основы для классификации и других задач компьютерного зрения. Реализация работает с TensorFlow, Torch и JAX; репозиторий содержит веса TensorFlow. Для использования применяется лицензия Apache 2.0. Размер модели и длина контекста в предоставленных данных не указаны.
TanBaby/EAGLE3-LLaMA3.1-Instruct-8B-YARN-64K — плотная модель семейства LLaMA, разработанная на основе yuhuili/EAGLE3-LLaMA3.1-Instruct-8B. Веса дообучены, а позиционные представления расширены методом YARN для контекста до 65 536 токенов. Модель предназначена для работы как черновая модель в self-speculative decoding при генерации длинных текстов. Она поддерживает генерацию текста на английском языке; в метаданных указано 743,4 млн параметров, а файлы представлены в формате safetensors. Это специализированный компонент для ускорения генерации в схеме SpecPV, а не самостоятельная универсальная чат-модель. Модель распространяется по лицензии Apache-2.0.
EdgeFace — модель для распознавания и верификации лиц, разработанная Idiap Research Institute и упакованная для Transformers. Она использует backbone семейства EdgeNeXt (реализация timm) и выдаёт вектор признаков размерности 512 для каждого лица. В репозитории доступны варианты с backbone EdgeNeXt Base, Small и X-Small; два компактных варианта используют встроенную в веса низкоранговую факторизацию линейных слоёв. Модель предназначена для извлечения эмбеддингов лиц, которые можно сравнивать для проверки личности или использовать в системах распознавания. Обработчик изображений по умолчанию выравнивает лицо по пяти ориентирам MediaPipe на шаблон ArcFace 112×112; если детекция не удалась, он выполняет обычное масштабирование. Для выравнивания нужны MediaPipe и OpenCV. Модель принимает изображения и выдаёт векторы признаков. Лицензия указана как other, поэтому условия использования следует уточнить в карточке и сопутствующих материалах.
EdgeNeXt XX-Small — модель компьютерного зрения для классификации изображений и извлечения признаков. Её разработали авторы статьи EdgeNeXt и обучили на ImageNet-1k. Архитектура сочетает свёрточные и трансформерные компоненты и предназначена для эффективного использования в мобильных системах компьютерного зрения. Модель содержит около 2,3 млн параметров и требует около 0,5 GMACs на изображение. Размер изображений при обучении составлял 256 × 256 пикселей, при проверке — 288 × 288. Помимо предсказания класса, её можно применять как основу для извлечения карт признаков и эмбеддингов изображений. Лицензия — MIT.
EdgeNeXt XX Small — модель классификации изображений и извлечения визуальных признаков семейства EdgeNeXt, обученная авторами статьи на ImageNet-1k. Архитектура сочетает свёрточные и трансформерные компоненты и рассчитана на мобильные сценарии компьютерного зрения. Модель содержит около 1,3 млн параметров и требует около 0,3 GMACs на изображение. В README указаны размеры изображений 256×256 для обучения и 288×288 для проверки. Модель подходит для классификации изображений, извлечения карт признаков и получения эмбеддингов для дальнейших визуальных задач. Репозиторий распространяется по лицензии MIT.
EfficientViT L1 — модель классификации изображений и визуальный backbone семейства EfficientViT, разработанного авторами работы EfficientViT. Чекпойнт обучен на ImageNet-1k и рассчитан на изображения размером 224 × 224 пикселя. В модели 52,7 млн параметров; вычислительная сложность составляет 5,3 GMACs. Модель предназначена для классификации изображений по классам ImageNet-1k, а также может использоваться как backbone для извлечения карт признаков и визуальных эмбеддингов в компьютерном зрении. Архитектура EfficientViT использует многошкальное линейное внимание для обработки визуальных признаков. Репозиторий предоставляет веса в форматах PyTorch и Safetensors; библиотека модели — timm. Лицензия — Apache-2.0. Качество классификации за пределами ImageNet-1k и пригодность для конкретных наборов данных README не подтверждает; входной размер в карточке указан как 224 × 224.
esevovnet19bdw.ra_in1k — модель классификации изображений на архитектуре VoVNet-v2, опубликованная Ross Wightman в библиотеке timm. Она обучена на ImageNet-1k с рецептом RandAugment RA и подходит для классификации изображений, извлечения карт признаков и получения эмбеддингов изображений. Модель содержит около 6,5 млн параметров и требует 1,3 GMACs на проход. В карточке указаны размер изображения 224 × 224 для обучения и 288 × 288 для тестирования. Репозиторий предоставляет веса PyTorch и safetensors; лицензия — Apache-2.0. Модель предназначена для визуальных задач общего назначения и может служить компактной базовой сетью для дальнейших компьютерно-зрительных систем. Карточка описывает обучение на ImageNet-1k; специализация на других наборах данных или конкретных прикладных областях не заявлена.
Havenlon Execution Boundary — Qwen35 9B — специализированная языковая модель Havenlon для рассуждений об управлении исполнением, границах исполнения, доказательствах, политиках и управлении ИИ-агентами. Она предназначена для анализа переходов от намерения к интерпретации, авторизации, исполнению и результату, а также для выявления отклонений, которые следует обнаруживать и блокировать до необратимого действия. Модель может применяться в исследованиях безопасности ИИ-агентов, анализе рисков исполнения, толковании политик, работе с доказательствами, обсуждении архитектуры безопасности и создании прототипов процессов управления. Это плотная авторегрессионная модель семейства Qwen3.5 с архитектурой Qwen3_5ForCausalLM и 7,2 млрд параметров; она поддерживает текстовый диалог, имеет контекст до 262 144 токенов и распространяется в формате safetensors. Модель не является самостоятельной границей исполнения: README указывает, что окончательное исполнение должно контролироваться независимо применяемыми ограничениями. Она разработана для специализированных сценариев безопасности и управления, поэтому описание не подтверждает надёжность для произвольных задач. Лицензия в предоставленных данных не указана.
FastViT MA36 Apple Distilled — модель классификации изображений семейства FastViT, представленная в библиотеке timm. Авторы FastViT обучили её на ImageNet-1k с дистилляцией; в карточке также указана возможность использовать модель как визуальный backbone для извлечения карт признаков и эмбеддингов. Модель содержит 44,1 млн параметров, требует изображение размером 256 × 256 пикселей и имеет вычислительную сложность 7,8 GMACs. Её можно применять для классификации изображений и получения признаковых представлений для дальнейших задач компьютерного зрения. В репозитории доступны веса PyTorch в формате safetensors. Лицензия указана как other; README просит соблюдать исходную лицензию FastViT.
FBNetV3-B RA2 ImageNet-1k — сверточная модель классификации изображений и извлечения визуальных признаков, разработанная для библиотеки timm. Она обучена на ImageNet-1k с рецептом RandAugment RA2 и использует усреднение весов EMA; модель содержит около 8,6 млн параметров и требует примерно 0,4 GMAC на изображение. Размер изображения при обучении составляет 224×224 пикселя, при проверке — 256×256. Модель подходит для классификации объектов на изображениях, извлечения карт признаков и получения визуальных эмбеддингов. Она рассчитана на изображения общего назначения, соответствующие распределению ImageNet-1k; показатели качества для других областей README не приводит. Лицензия — Apache-2.0.
Это дообученная модель Umair Khan на базе Falconsai/nsfw_image_detection для классификации изображений по наличию NSFW-контента. Она использует архитектуру ViTForImageClassification и содержит 113,2 млн параметров. Модель принимает изображения и выдаёт метку класса; основное применение — автоматическая проверка изображений при модерации контента. В README указана точность 1,0 и потеря 0,0000 на оценочном наборе, однако состав и размер набора, схема классов и методика оценки не описаны, поэтому эти результаты не гарантируют такое же качество на новых данных. Модель распространяется по лицензии Apache-2.0.
FlexiViT Small — модель классификации изображений и извлечения визуальных признаков. Её обучили авторы статьи на ImageNet-1k с помощью JAX, а Ross Wightman перенёс веса в PyTorch; модель распространяется в форматах PyTorch и safetensors. Репозиторий относится к библиотеке timm и использует лицензию Apache-2.0. Модель подходит для классификации изображений по классам ImageNet-1k и получения эмбеддингов изображений как визуального представления. Она содержит 22,1 млн параметров, требует изображения размером 240 × 240 пикселей и имеет вычислительную стоимость 4,9 GMACs. FlexiViT разработана для работы с разными размерами патчей, хотя сведения о настройках такой работы для этого конкретного чекпойнта не приведены.
riccardozaccone96 разработал FlexRank-чекпойнт на базе Meta Llama 3.2 1B — авторегрессионного декодерного Transformer с вложенными низкоранговыми линейными слоями. Единый набор весов поддерживает десять профилей размера: при инференсе можно выбирать бюджет параметров и менять соотношение качества, вычислительных затрат и памяти без загрузки отдельных чекпойнтов для каждого размера. Модель предназначена для исследований эластичных языковых моделей и адаптивного инференса, а также для генерации текста и дальнейшего дообучения. Она обучена на FineWeb-Edu с использованием KL-дистилляции от базовой модели; заявлены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Контекст до 128 тыс. токенов унаследован от Llama 3.2 1B. Веса хранятся в формате safetensors и распространяются по лицензии Llama 3.2 Community License; программное обеспечение FlexRank лицензировано по MIT. Это базовая предобученная языковая модель, а не диалоговый ассистент: без адаптации она может ненадёжно следовать инструкциям. Профили с меньшим бюджетом могут снижать качество; оценки чекпойнта и уменьшенных профилей проводились только на англоязычных тестах, поэтому качество на других языках не измерено. Модель наследует ограничения и риски Llama 3.2 1B и FineWeb-Edu; для загрузки требуется FlexRank runtime и trust_remote_code=True.
Карточка модели phuong1987/FLUX.2-small-decoder на Hugging Face совпадает с карточкой black-forest-labs/FLUX.2-small-decoder, поэтому описание составлено по ней. FLUX.2 Small Decoder — декодер VAE от Black Forest Labs, дистиллированная компактная замена стандартному декодеру FLUX.2. Он предназначен для декодирования латентных представлений в изображения в совместимых моделях FLUX.2: Klein 4B, Klein 9B, Klein 9B-KV и Dev; кодировщик при этом остаётся без изменений. Декодер содержит около 28 млн параметров против примерно 50 млн у полной версии и использует более узкие каналы. По данным карточки, он декодирует примерно в 1,4 раза быстрее и требует примерно в 1,4 раза меньше видеопамяти, сохраняя почти такое же качество изображений. Указана лицензия Apache 2.0. Модель предназначена для использования как компонент совместимого пайплайна генерации или редактирования изображений, а не для самостоятельного диалога или выдачи фактических ответов. Карточка отмечает возможные искажения текста на изображениях, несоответствие результата запросу и влияние стиля промпта.
gemma-3-4b-it-quantized.w8a8 — квантизированная версия мультимодальной модели google/gemma-3-4b-it, разработанная RedHatAI. Модель принимает изображения и текст, а генерирует текст, поэтому предназначена для визуально-текстовых диалогов, анализа изображений и ответов на вопросы по их содержимому. Основной сценарий развертывания — инференс через vLLM версии 0.8.0 или новее, включая OpenAI-совместимый сервер. Модель использует архитектуру Gemma 3 с 4 миллиардами параметров и оптимизацию INT8 для весов и активаций. Квантизация выполнена с помощью llm-compressor и GPTQ на калибровочном наборе из 512 образцов; визуальный модуль и мультимодальный проектор при этом не квантизировались. В README не указаны поддерживаемые языки и полный размер контекста, однако при оценке использовалась максимальная длина 4096 токенов. Доступна версия 1.0, опубликованная 4 июня 2025 года. Главное преимущество модели — снижение требований к вычислительным ресурсам и эффективный инференс при сохранении большей части качества исходной модели: на тестах OpenLLM V1 показатели восстановления относительно google/gemma-3-4b-it составили от 95,82% до 99,55% по приведённым метрикам. Ограничения включают возможное небольшое снижение точности из-за INT8-квантизации и необходимость совместимого окружения vLLM. Лицензия указана как gemma.
Репозиторий mlx-community содержит веса Multi-Token Prediction (MTP) для черновой модели спекулятивного декодирования Gemma 4 26B-A4B. Его разработчик — mlx-community; веса выделены из google/gemma-4-26B-A4B-it-qat-q4_0-unquantized-assistant и предназначены для использования с совместимой целевой моделью Gemma 4 26B-A4B в mlx-vlm. Модель предлагает кандидаты токенов, которые целевая модель проверяет, чтобы ускорить генерацию. Это не самостоятельная чат-модель: репозиторий содержит MLX-совместимые веса в формате Safetensors с точностью bf16. Использование требует поддержки MTP для Gemma 4 в mlx-vlm и совместимого целевого чекпойнта. Метаданные указывают английский язык; лицензия — Gemma, поэтому применяются условия лицензии базовой модели.
ArchiveStudio/gemma-4-E2B-it-assistant — чекпойнт-драфтер семейства Gemma 4 E2B для ускорения генерации методом speculative decoding. В README описана схема, где компактная модель предсказывает несколько следующих токенов, а целевая модель проверяет их параллельно; это может ускорять декодирование до 3 раз без изменения качества целевой генерации. Карточка указывает авторство Google DeepMind и лицензию Apache 2.0. Модель относится к семейству Gemma 4, имеет плотную архитектуру Gemma4AssistantForCausalLM и сохранена в safetensors. Семейство Gemma 4 поддерживает текстовые и визуальные входы, а варианты E2B и E4B также работают с аудио; для E2B указан контекст до 128 тысяч токенов. Семейство обучено на более чем 140 языках. Драфтер предназначен для использования в совместимом конвейере speculative decoding, а не как самостоятельный универсальный ассистент. README описывает возможности семейства, поэтому конкретные мультимодальные функции этого чекпойнта не подтверждены отдельно.
Это набор вспомогательных MTP-моделей для Gemma 4, подготовленный владельцем репозитория из контрольных точек Google и предназначенный для ускорения генерации методом speculative decoding в llama.cpp. Модели представлены в формате GGUF с квантизацией Q8_0; в репозитории есть варианты для Gemma 4 12B и 31B. Это не самостоятельные чат-модели: каждую нужно запускать вместе с соответствующей целевой моделью Gemma 4 Instruct через путь draft-mtp. Вспомогательная модель предлагает черновые токены, которые целевая модель проверяет, ускоряя генерацию без замены её ответов. Для работы нужна сборка llama.cpp с поддержкой Gemma 4 MTP. У варианта 31B контекст черновой модели составляет 131072 токена, поэтому при сочетании с целевой моделью на 262K возможна выдача предупреждения о несовпадении контекста. Лицензия репозитория — Apache-2.0.
philschmid/gpt-j-6B-fp16-sharded — копия GPT-J-6B от EleutherAI, подготовленная Philipp Schmid для демонстрации запуска модели в Inference Endpoints. Это плотная авторегрессионная модель семейства GPT-J с архитектурой GPTJForCausalLM; веса представлены в формате PyTorch и сохранены в fp16 с разбиением на шарды. Модель принимает текст и генерирует продолжение, а также поддерживает стандартные сценарии text generation. Её контекст ограничен 2048 токенами. Карточка описывает репозиторий как пример настройки обработчика инференса; отдельное дообучение не заявлено. Лицензия в предоставленных данных не указана.
Hiera Small 224 MAE IN1K FT IN1K — модель компьютерного зрения из библиотеки timm, построенная на иерархическом Vision Transformer Hiera. Её предварительно обучили на ImageNet-1k методом Self-Supervised Masked Autoencoder, а затем дообучили на ImageNet-1k для классификации изображений. Модель содержит около 35 млн параметров и рассчитана на изображения размером 224 × 224 пикселя. Модель предназначена для классификации изображений по классам ImageNet-1k и может использоваться как визуальный бэкбон для извлечения карт признаков и эмбеддингов. В README приведены примеры этих сценариев, однако точные показатели качества именно этой версии не указаны. Репозиторий распространяет веса в форматах PyTorch и safetensors. Лицензия CC BY-NC 4.0 запрещает коммерческое использование без отдельного разрешения.
HRNet-W44 — модель компьютерного зрения для классификации изображений и извлечения визуальных признаков. Её обучили авторы работы «Deep High-Resolution Representation Learning for Visual Recognition» на ImageNet-1k; модель доступна в библиотеке timm и опубликована на Hugging Face в форматах PyTorch и Safetensors под лицензией MIT. Модель содержит 67,1 млн параметров, имеет вычислительную сложность 14,9 GMACs и рассчитана на изображения размером 224 × 224 пикселя. Помимо классификации, её можно применять как основу для извлечения карт признаков и эмбеддингов изображений. Она обрабатывает изображения и выдаёт предсказанные классы либо визуальные признаки. В README не приведены сведения о точности и дополнительных ограничениях; качество зависит от сценария и способа применения.
I-BERT RoBERTa-base — квантованная версия RoBERTa, представленная авторами исследования I-BERT. Модель содержит 151,8 млн параметров; в README описано хранение параметров в INT8 и выполнение инференса с целочисленной арифметикой. Архитектура заменяет операции с плавающей точкой, включая MatMul, GELU, Softmax и LayerNorm, приближёнными целочисленными операциями. Для неё указан контекст до 514 токенов. Модель предназначена для предсказания скрытых токенов в тексте и может служить основой для дообучения на задачах NLP, например классификации текстов. В README сообщается об ускорении инференса до четырёх раз относительно версии с плавающей точкой на Nvidia T4; фактическая скорость зависит от среды и конфигурации. Карточка не указывает лицензию или поддерживаемые естественные языки.
RadixArk/Inkling-DSpark-Preview — предварительный черновой чекпойнт для ускорения генерации текста методом speculative decoding с целевой моделью Inkling NVFP4. Он разработан для запуска через SGLang и построен на параллельной черновой архитектуре DFlash/DSpark: пять Qwen3-стильных слоёв с GQA, блоком из семи токенов, Markov logit-bias головой и головой оценки уверенности. В файле safetensors заявлено 1,93 млрд обучаемых параметров, а метаданные указывают размер архитектуры 2,8 млрд параметров. Модель предназначена для совместной работы с точным соответствующим чекпойнтом Inkling NVFP4 и его токенизатором; веса целевых embedding и unembedding в этом репозитории отсутствуют. Хотя в метаданных указан контекст 1 048 576 токенов, обучение чекпойнта описано для последовательностей длиной 4096 токенов. Приведённые результаты оценки показывают длину принятого фрагмента при температуре 0 на GSM8K, MATH500 и HumanEval. Это preview-версия: обучение и оценка продолжаются. Лицензия в предоставленных данных не указана.
RadixArk/Inkling-Small-DSpark — черновая модель для ускорения генерации ответов целевой моделью Inkling-Small-NVFP4 с помощью спекулятивного декодирования. Она разработана для DSpark — метода на основе параллельного чернового декодирования DFlash с Markov logit-bias и головой оценки уверенности; обучение проводилось через SpecForge на скрытых состояниях целевой модели, работающей в SGLang. Модель использует плотную архитектуру в стиле Qwen3 с шестью слоями, групповой обработкой запросов внимания и блоком черновой генерации длиной 7 токенов. В метаданных указано 2 млрд параметров, а в README — 1,39 млрд обучаемых параметров черновых весов. Контекстная конфигурация рассчитана на диапазон до 1 048 576 токенов, однако обучение велось на контекстах до 8 192 токенов с адаптацией на последовательностях до 65 536 токенов. В репозитории находятся только черновые веса: для работы обязательны точно соответствующие целевая модель thinkingmachines/Inkling-Small-NVFP4 и её токенизатор. Требуется сборка SGLang с поддержкой DSpark; результаты оценки показывают длину принятого блока при спекулятивном декодировании, а не качество самостоятельной генерации. Модель распространяется в формате Safetensors; лицензия в предоставленных данных не указана.
Inkling-Small-UD-Q4_K_XL-layers — пакет слоёв модели Inkling для распределённого инференса в Mesh LLM. Он создан на основе unsloth/Inkling-Small-GGUF: веса GGUF разбиты на отдельные артефакты, чтобы распределять вычисления и память между машинами локального кластера. Пакет поддерживает чат с изображениями и предназначен для запуска через Mesh LLM, включая локальный API совместимый с OpenAI для запросов chat completions. Вариант UD-Q4_K_XL ориентирован на запуск модели на собственном оборудовании, в том числе когда полный GGUF не помещается на одном узле. Репозиторий содержит части модели и общие файлы для сборки распределённого запуска; это не самостоятельная модель в обычном формате. Лицензия — Apache-2.0. Подробности архитектуры, языков, контекстного окна и качества следует сверять с карточкой исходной модели.