II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейHachiML опубликовал экспериментальную версию MPT-7B-Instruct, в которой часть кода изменена для использования с PEFT — библиотекой методов эффективной настройки параметров. Это причинная языковая модель архитектуры MPT с 7 миллиардами параметров, предназначенная для генерации текста и инструктивных диалогов. Модель может служить основой для экспериментов по PEFT-настройке и генерации ответов по текстовым инструкциям. Автор отмечает экспериментальный характер версии и оставляет решение о её использовании на усмотрение пользователя. Сведения о лицензии в доступных источниках отсутствуют.
Anbeeld/Muse-Glimmer-30B-DFlash2-GGUF — набор GGUF-квантизаций черновой модели Inco AI DFlash 2 для Muse Glimmer 30B, разработанной Meta Models. Модель предназначена для ускорения генерации текста посредством speculative decoding и не является самостоятельной языковой моделью: она работает внутри совместимого сервера, предлагает последовательности токенов, а целевая Muse Glimmer 30B их проверяет. DFlash 2 использует архитектуру block-diffusion: за один проход предсказывает блок токенов, сохраняет несколько наиболее вероятных кандидатов в каждой позиции и выбирает согласованный путь. В основе применяются двухконтактные динамические свёртки, уменьшающие ухудшение качества чернового продолжения к концу блока. Заявлена точная по результату работа: при жадной генерации вывод совпадает с целевой моделью, а при sampling сохраняется её распределение. В README указаны блоки до 16 токенов и результаты ускорения до 4,62 раза при единичной конкуренции и до 3,99 раза при конкуренции 8 на тестах GSM8K и MATH-500. Модель ориентирована на запуск через BeeLlama.cpp, а также интеграцию с SGLang и vLLM. Её сильная сторона — повышение пропускной способности без изменения результата целевой модели; ограничение — необходимость совместимой целевой Muse Glimmer 30B, специального сервера speculative decoding и подходящей вычислительной инфраструктуры. Языки, размер контекстного окна и точные параметры квантизаций в README не указаны. Лицензия — Apache-2.0.
Neutrino-0.6B — компактная языковая модель Fermion Research на 596 млн параметров, созданная как черновая модель для спекулятивного декодирования с Neutrino-8B. Она предлагает следующие токены, которые большая модель проверяет; при жадном декодировании итоговый текст совпадает с результатом обычного декодирования Neutrino-8B, а ускорение зависит от типа запроса. Модель подходит для ускорения генерации с Neutrino-8B и для обычного текстового продолжения. Веса линейных слоёв хранятся в компактном тернарном формате; репозиторий также содержит сборку GGUF. В README указаны 28 слоёв декодера, ширина скрытого представления 1024 и скорость 225–236 токенов в секунду на CPU Apple M5 для одной из поставляемых сред запуска. Это базовая модель без настройки для диалогов и следования инструкциям. Для пользовательского чата разработчик рекомендует Neutrino-0.6B-Chat. Модель основана на Qwen/Qwen3-0.6B; лицензия — Apache-2.0.
GBDA/nsfw_image_detection — модель классификации изображений на базе Vision Transformer (ViT), дообученная для различения двух классов: обычный контент и NSFW. В основе лежит google/vit-base-patch16-224-in21k, предварительно обученная на ImageNet-21k; модель содержит 113,2 млн параметров и рассчитана на изображения, приводимые к разрешению 224×224 пикселя. Модель предназначена для фильтрации изображений и модерации контента в приложениях, где нужно выявлять материалы для взрослых. В README указано, что дообучение проводилось на 80 000 изображениях из закрытого набора данных. Модель распространяется по лицензии Apache-2.0. Карточка заявляет высокую точность, но не приводит метрик или независимой оценки; качество классификации и применимость к конкретному контенту следует проверять отдельно.
OLM RoBERTa October 2022 — англоязычная модель семейства RoBERTa, созданная в рамках проекта OLM. Это плотная трансформерная модель с архитектурой RobertaForMaskedLM и примерно 151,8 млн параметров; она обучена на очищенных снимках Common Crawl и Wikipedia за октябрь 2022 года. Длина контекста составляет 514 токенов. Модель предназначена для восстановления скрытых токенов в тексте и как основа для дообучения под классификацию последовательностей, разметку токенов и ответы на вопросы. Авторы сообщают, что она обновляет знания по сравнению с исходными BERT и RoBERTa и показывает сопоставимые результаты на ряде стандартных тестов; результаты на GLUE различаются в зависимости от задачи. Доступны веса в форматах PyTorch и TensorFlow. Лицензия в предоставленных данных не указана. Модель ориентирована на английский язык и не является готовой специализированной системой для классификации или ответов на вопросы: для этих сценариев требуется дообучение.
omniASR-W2V-1B — преобразованный в формат Hugging Face энкодер wav2vec 2.0 из чекпойнта OmniLingual omniASR_W2V_1B. Модель содержит 1,3 млрд параметров, 48 слоёв и скрытый размер 1280; это предварительно обученный энкодер без CTC-головы. Модель предназначена для извлечения признаков из аудио, исследования представлений речи и дообучения для последующих речевых задач. Автор сообщает, что численное соответствие исходному чекпойнту fairseq2 проверено на аудиопримере. Для работы с весами указан формат safetensors и библиотека Transformers. Сведения о лицензии и поддерживаемых языках в доступных данных отсутствуют.
Ttimms/Ornith-1.5-35B-A3B-REAP-50-bf16 — версия Ornith-1.5-35B-A3B, обрезанная методом REAP на 50% и сохранённая в формате bf16. Это исходный чекпойнт для сборок NVFP4 и GGUF; автор предлагает использовать его для создания собственных вариантов квантования. Модель основана на семействе Qwen 3.5 MoE и предназначена для генерации текста в диалоговом режиме. Репозиторий содержит веса safetensors и рассчитан на использование с Transformers. Лицензия — MIT. Карточка также отмечает поддержку английского языка и возможности чата. Размер исходной модели указан в её базовом идентификаторе как 35B-A3B, но отдельные характеристики контекста и качество после обрезки в карточке не описаны.
Ornith-1.5-35B-A3B uncensored (MLX) — текстовая диалоговая модель от ressl, полученная абляцией базовой Ornith-1.5-35B-A3B и конвертацией весов в формат MLX. Это сборка bf16 размером около 65 ГБ для запуска на Apple Silicon с помощью mlx-lm; архитектура относится к семейству Qwen3.5 MoE. Хотя базовая модель мультимодальна, в этой сборке используется только текстовый режим. Модель предназначена для генерации ответов в чат-сценариях, исследований безопасности, red teaming и тестирования на проникновение. Абляция заметно снижает частоту жёстких отказов на вредоносных запросах; опубликованные метрики отказов измерялись на родственной сборке NVFP4 с теми же основными весами, а не на этой MLX-сборке. Для MLX автор сообщает локальные проверки на отдельных запросах и проверки связности, но не полный бенчмарк. Модель может выдавать ответы на запросы, которые базовая версия отклоняет, поэтому требует ответственного применения. Лицензия — MIT.
LoftQ/phi-2-4bit-64rank — набор для LoftQ, метода квантования, учитывающего последующее дообучение LoRA. Он включает 4-битную квантованную основу Phi-2 и инициализацию адаптеров LoRA ранга 64; адаптеры находятся в подкаталоге loftq_init. Модель построена на плотной архитектуре PhiForCausalLM, содержит 3,5 млрд параметров и рассчитана на контекст до 2048 токенов. В карточке указано, что основа загружается с bitsandbytes NF4. Набор предназначен для подготовки Phi-2 к дообучению с LoRA/QLoRA и генерации текста после такого дообучения. В README приведены эксперименты с supervised fine-tuning на GSM8K; для конфигурации с 4-битной основой и рангом 64 указана оценка 60,2±0,6. Это экспериментальный результат конкретной настройки, а не гарантия качества на других задачах. Модель распространяется по лицензии MIT.
Protylopus — компактная языковая модель примерно на 90 млн параметров, разработанная для ускорения генерации в моделях семейства LLaMA и совместимых с токенизатором LLaMA вариантах, включая Alpaca, Vicuna и Guanaco. Она использует архитектуру GPTBigCode и обучена на 5,5 млрд токенов из датасета Falcon RefinedWeb. Модель предназначена для assisted generation: она помогает основной модели быстрее генерировать текст, а в README заявлено ускорение до трёх раз при жадном декодировании. Контекст модели составляет 1024 токена; поддерживаемый язык — английский. Репозиторий содержит веса PyTorch и распространяется по лицензии BigCode OpenRAIL-M.
Question_Builder — дообученная SicariusSicariiStuff модель на базе Meta Llama 3.1 8B, предназначенная для генерации вопросов по коротким фрагментам текста и создания наборов данных. Модель работает как генератор текста, поддерживает диалоговый режим и рассчитана на английский язык. В метаданных указаны 7,5 млрд параметров и контекст до 8192 токенов; доступны варианты FP16 и GGUF. Модель ориентирована на использование через API: ей передают несколько коротких предложений, а она помогает сформировать вопросы для обучающих датасетов. Она не предназначена для ответов на вопросы. Лицензия указана как Llama 3 Community License. README рекомендует детерминированные настройки генерации с repetition penalty 1.2; качество и применимость к длинным текстам не охарактеризованы.
Qwen2.5-1.5B-Instruct-FC — компактная языковая модель на архитектуре Qwen2, дообученная автором sagnik3788 для вызова инструментов. Она принимает текстовые запросы и описания инструментов в формате Qwen chat template и генерирует структурированные вызовы с именем инструмента и аргументами. Модель содержит 1,5 млрд параметров, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors в точности bf16; для запуска подходят Transformers и vLLM. Основной сценарий — выбор подходящего инструмента и формирование одиночного вызова функции по запросу пользователя. В README сообщается результат 85,65% на BFCL v4 Non-Live AST; это заявленный автором показатель для соответствующего набора тестов. Модель обучалась на синтетических примерах с REST API и рассчитана прежде всего на однократные вызовы инструментов. Она слаба в многошаговых диалогах, работе с памятью и поиске в интернете; может вызвать инструмент, даже если подходящего нет, а синтетический набор API может не покрывать нужные схемы. Лицензия Apache-2.0 допускает коммерческое использование с соблюдением её условий.
Rakshit Aralimatti дообучил Qwen2.5-Coder-1.5B-Instruct на демонстрационном наборе rasa/command-generation-calm-demo-v1. Это компактная трансформерная модель семейства Qwen2 с 1,5 млрд параметров, предназначенная для диалоговых приложений на базе RASA и поддерживающая генерацию в формате чата. Она преобразует запросы на естественном языке в команды RASA, распознаёт намерения и формирует структурированные ответы для разработки чат-ботов. Метаданные указывают контекст до 32 768 токенов; модель доступна в форматах PyTorch и Safetensors и использует библиотеку Transformers. Карточка сообщает, что обучение ориентировано на задачи и набор намерений и сущностей CALM, поэтому качество для других сценариев генерации команд может быть ниже. Лицензия в предоставленных данных не указана.
Карточка модели huluhuluu/qwen3-1.7b-eagle3-k2-sw256-mha-sharegpt-epoch9-step171560 на Hugging Face совпадает с карточкой huluhuluu/qwen3-1p7b-eagle3-k2-sw256-mha-sharegpt-epoch-9-step-171560, поэтому описание составлено по ней. Это контрольная точка черновой модели EAGLE3 для ускорения генерации текста методом speculative decoding вместе с целевой моделью Qwen/Qwen3-1.7B. Модель разработана для использования с совместимым кодом SpecForge/EAGLE3 и не предназначена для самостоятельной генерации текста. Чекпойнт получен онлайн-обучением SpecForge EAGLE3 на данных ShareGPT; в карточке указан шаг 171560, эпоха 9. Архитектура — LlamaForCausalLMEagle3, размер — 420,2 млн параметров, формат весов — safetensors, контекст — 40960 токенов. Метаданные указывают английский и китайский языки; базовая модель Qwen3-1.7B описана как многоязычная. Карточка не приводит результатов бенчмарков и не заявляет измеренного выигрыша в скорости. Для работы нужны целевая модель Qwen/Qwen3-1.7B и совместимая реализация EAGLE3. Лицензия обозначена как other, поэтому условия использования следует проверять в материалах репозитория.
Карточка модели huluhuluu/qwen3-1.7b-eagle3-sharegpt-sw512-epoch9-step430000 на Hugging Face совпадает с карточкой huluhuluu/qwen3-1p7b-eagle3-sharegpt-sw512-epoch-9-step-430000, поэтому описание составлено по ней. Это компактная черновая модель EAGLE3, обученная командой, опубликовавшей репозиторий huluhuluu/qwen3-1p7b-eagle3-sharegpt-sw512-epoch-9-step-430000, на основе Qwen/Qwen3-1.7B с помощью онлайн-обучения SpecForge EAGLE3. Она предназначена для спекулятивного декодирования вместе с целевой моделью Qwen3-1.7B и не является самостоятельной языковой моделью. Архитектура чекпойнта — LlamaForCausalLMEagle3; в репозитории указаны 361,5 млн параметров и контекст 40 960 токенов. Модель принимает текстовые запросы для ускорения генерации текста целевой моделью. Карточка указывает ShareGPT в названии обучающего запуска и языки en и zh в метаданных; базовая Qwen3 описана как многоязычная модель для диалогов, рассуждений, кода и выполнения инструкций. Веса чекпойнта не включают замороженные эмбеддинги целевой модели, поэтому для загрузки нужен совместимый код SpecForge/EAGLE3 и исходная целевая модель. Карточка не приводит результатов бенчмарков. Лицензия указана как other, конкретные условия в доступных данных не описаны.
Карточка модели huluhuluu/qwen3-1.7b-eagle3-sharegpt-sw768-epoch9-step450000 на Hugging Face совпадает с карточкой huluhuluu/qwen3-1p7b-eagle3-sharegpt-sw768-epoch-9-step-450000, поэтому описание составлено по ней. Это контрольная точка черновой модели EAGLE3, обученной командой проекта SpecForge для ускорения генерации текста методом speculative decoding вместе с Qwen/Qwen3-1.7B. Она не является самостоятельной целевой языковой моделью: её используют в совместимом коде SpecForge/EAGLE3, чтобы предлагать черновые токены, которые затем проверяет целевая модель. Модель основана на Qwen3-1.7B и обучена методом онлайн-обучения EAGLE3 на данных ShareGPT. В репозитории указан контекст 40 960 токенов и формат весов safetensors; заявленный размер этой контрольной точки — 361,5 млн параметров. Веса целевых эмбеддингов исключены и загружаются из целевой модели. Карточка не содержит заявлений о результатах бенчмарков. Лицензия обозначена как other, поэтому условия использования следует сверять с файлами лицензии репозитория и условиями базовой модели.
Это контрольная точка черновой модели EAGLE3, обученной командой или автором репозитория с помощью SpecForge для Qwen/Qwen3-1.7B. Она предназначена для спекулятивного декодирования: совместимый инференсный движок использует её для ускорения генерации целевой модели. Это не самостоятельная языковая модель для обычного чата или генерации. Архитектура — LlamaForCausalLMLEagle3; в репозитории 512,5 млн параметров, формат весов safetensors, контекст — 40 960 токенов. Модель обучалась методом онлайн-обучения EAGLE3 на данных ShareGPT; карточка указывает поддержку английского и китайского языков. Для загрузки требуется код, совместимый со SpecForge/EAGLE3, и соответствующая базовая модель Qwen/Qwen3-1.7B. Бенчмарков и утверждений о приросте скорости карточка не приводит. Лицензия обозначена как other, конкретные условия следует проверять в файлах репозитория.
Это компактная черновая модель EAGLE3, созданная методом онлайн-обучения SpecForge на базе Qwen/Qwen3-1.7B. Она предназначена для ускорения генерации текста методом speculative decoding: черновая модель предлагает продолжения, которые проверяет целевая Qwen3-1.7B. Самостоятельно как обычную языковую модель её использовать нельзя. Архитектура чекпойнта — LlamaForCausalLMEagle3; в репозитории указано 361,5 млн параметров и контекст 40 960 токенов. Веса сохранены в safetensors; замороженные веса целевых эмбеддингов в чекпойнт не входят и загружаются из целевой модели. Для работы требуется код, совместимый со SpecForge/EAGLE3, и базовая модель Qwen/Qwen3-1.7B. В карточке не заявлены результаты бенчмарков. Лицензия указана как other, поэтому условия использования следует уточнить в материалах репозитория.
Это черновая модель SpecForge EAGLE3, обученная для ускорения генерации текста методом speculative decoding вместе с целевой моделью Qwen/Qwen3-1.7B. Она разработана как вспомогательный чекпойнт, а не как самостоятельная языковая модель, и требует совместимого кода SpecForge/EAGLE3. Модель обучалась методом онлайн-обучения EAGLE3 на наборе в формате ShareGPT; в репозитории указан чекпойнт после 9-й эпохи. Архитектура — LlamaForCausalLMEagle3, размер — 361,5 млн параметров, формат весов — safetensors, контекст — 40 960 токенов. Метаданные указывают английский и китайский языки; базовая Qwen3-1.7B поддерживает генерацию текста, диалоги, рассуждения, код и выполнение инструкций. Практическое назначение чекпойнта — предлагать черновые продолжения, которые целевая модель проверяет при спекулятивном декодировании. Карточка не приводит результатов бенчмарков. Лицензия указана как other, поэтому конкретные условия использования следует уточнить в репозитории модели.
Qwen3.5-2B-Unredacted-MAX — плотная мультимодальная модель с 2 млрд параметров на базе Qwen3.5-2B, опубликованная prithivMLmods. Модель дообучена с изменением поведения отказов и упакована для совместимости с современными конвейерами Transformers; поддерживает диалоги и понимание изображений. Карточка ориентирует её на исследование поведения трансформеров, локальный запуск, прототипирование и тестирование устойчивости. В README приведена самооценка: доля отказов 8,5% на 2000 запросах; результаты зависят от методики и не являются независимым бенчмарком. Модель принимает текст и изображения и генерирует текст. В метаданных указан английский язык; контекстное окно не приведено. Лицензия — Apache-2.0. README предупреждает о возможных ошибочных или непоследовательных ответах, зависимости качества от формулировки запроса и ограниченных способностях к рассуждению на длинном контексте.
Qwen3.6-27B-MTP-MLX-bf16 — опубликованная vvsotnikov вспомогательная голова Multi-Token Prediction для Qwen3.6-27B. Это не самостоятельная языковая модель: в файлах находятся только веса MTP-головы, без токенных эмбеддингов и выходной головы lm_head, поэтому она не может генерировать текст сама. Её подключают как draft-модель к совместимой целевой модели из того же чекпойнта в среде MLX с mlx-vlm. Голова предлагает до трёх токенов за шаг, а целевая модель проверяет предложения; в результат попадают только принятые ею токены, поэтому качество генерации определяется целевой моделью. Релиз содержит 15 тензоров в формате Safetensors с точностью bfloat16 без квантизации и рассчитан на ускорение декодирования посредством speculative decoding. Для работы требуется подходящая целевая модель Qwen3.6-27B и совместимый рантайм MLX/mlx-vlm; смешивать голову и цель из разных чекпойнтов не рекомендуется. Лицензия — Apache-2.0.
Anbeeld/Qwen3.6-35B-A3B-DFlash-GGUF — это GGUF-квантизации черновой модели DFlash для Qwen3.6-35B-A3B. Модель разработана совместно Z-Lab и Modal и предназначена для использования вместе с целевой моделью Qwen/Qwen3.6-35B-A3B в системах спекулятивного декодирования, а не для самостоятельной генерации текста. DFlash использует облегчённую модель блочной диффузии, которая параллельно предлагает несколько токенов, после чего целевая модель проверяет их. Черновая модель обучалась на последовательностях длиной 40 000 токенов и использует скользящее оконное внимание для улучшения работы с длинным контекстом. Поддерживаются сценарии высокопроизводительного серверного инференса через совместимые реализации, включая SGLang и BeeLlama.cpp; для vLLM поддержка на момент публикации находилась в разработке. Основное преимущество — ускорение генерации при сохранении распределения выходов целевой модели: в тестах на NVIDIA B200 заявлено ускорение до 3,61 раза при одной параллельной генерации и до 2,89 раза при 32 запросах. Производительность зависит от оборудования, сервера, размера блока и рабочей нагрузки. Модель требует совместимой целевой модели и инфраструктуры DFlash, поэтому не является самостоятельной языковой моделью. В метаданных указана лицензия Apache-2.0.
Qwen3.8-27B-Cold-Fusion-GAIN-V1.1-heretic-W4A16 — мультимодальная vision-language модель, разработанная gorbatjovy на основе Qwen3.8-27B-Cold-Fusion-GAIN-V1.1 от DavidAU. Это квантизированная сборка с удалённым safety alignment, предназначенная прежде всего для исследовательских задач, интерпретируемости, red-teaming и анализа устойчивости моделей. Она поддерживает обработку текста и изображений, заявлены английский и китайский языки, а также контекст до 32 768 токенов при использовании указанной конфигурации vLLM. Модель имеет размер 27B параметров и использует квантизацию W4A16: линейные слои языкового декодера работают в int4 с группами по 128 параметров, а lm_head, embed_tokens и MTP-модуль — в int8. Vision tower и отдельные компоненты Gated DeltaNet сохранены в BF16. Поддерживаются MTP и спекулятивное декодирование DFlash2; модель рассчитана на запуск на одной видеокарте с 24 ГБ памяти, занимает около 19 ГБ на диске. В описании заявлены сохранённые возможности работы с изображениями, инструментами и близкое к BF16 качество после квантизации. К сильным сторонам относятся компактные требования к памяти, высокая скорость инференса, сохранение качества языкового моделирования и tool calling, а также малая потеря точности на GSM8K относительно BF16-версии. Существенное ограничение — удаление защитных механизмов: модель может выполнять вредоносные запросы, от которых исходная модель отказалась бы, поэтому перед практическим развёртыванием необходима собственная модерация. Модель распространяется по лицензии Apache 2.0; использование также должно соответствовать применимому законодательству.
deepsweet/Qwen3.8-27B-DFlash2-FP16 — преобразованная в FP16 версия черновой модели Qwen3.8-27B-DFlash2 от z-lab, предназначенная для ускорения генерации текста методом спекулятивного декодирования. Модель используется как вспомогательный черновик совместно с целевой моделью Qwen3.8-27B в совместимом сервере, а не как самостоятельная основная модель для ответов. DFlash 2 предсказывает блок токенов за один проход и сохраняет несколько кандидатов для каждой позиции; лёгкий селектор выбирает согласованный путь. В основе используются динамические свёртки с двумя точками. По карточке модели, жадное декодирование сохраняет точное совпадение с целевой моделью, а при сэмплировании сохраняется её распределение. Репозиторий содержит веса safetensors; метаданные указывают архитектуру DFlash2DraftModel семейства Qwen3, 2,9 млрд параметров и контекст 262 144 токена. Версия FP16 описана как оптимизация для Apple Silicon M1/M2, ускоряющая обработку промпта; для M3 и новее автор рекомендует исходную модель. Модель распространяется по лицензии MIT.
Qwen3-ForcedAligner-0.6B — модель выравнивания речи по тексту, разработанная командой Qwen и упакованная проектом OpenASR. Она предназначена для уточнения временных меток отдельных слов в уже готовой расшифровке: модель получает исходное аудио и текст транскрипции, после чего корректирует приблизительные границы слов. Это не самостоятельная модель автоматического распознавания речи, а вспомогательная зависимость для OpenASR, используемая также при разделении сегментов по изменениям говорящего. Модель имеет размер 0,6 млрд параметров и использует архитектуру Qwen3-ASR с аудиоэнкодером и языковой частью thinker. В отличие от модели распознавания, она оснащена отдельной классификационной головой на 5000 временных интервалов шириной 80 мс. Выравнивание выполняется неавторегрессионно за один проход с определением границ слов по позициям timestamp. Доступны варианты FP16, Q8_0 и рекомендуемый OpenASR вариант q4_k; последний занимает около 765 МБ, при этом чувствительные к точности компоненты сохраняются в Q8_0. Сильные стороны модели — локальный инференс без Python, поддержка CPU и GPU через нативный runtime OpenASR и уточнение временных меток с дискретностью 80 мс. Ограничение состоит в том, что для работы необходима готовая транскрипция и совместимая ASR-модель OpenASR. Модель распространяется по лицензии Apache-2.0.
Это черновая модель в стиле EAGLE-3, разработанная для ускорения генерации текста базовой моделью Qwen3-VL-8B-Instruct. Она работает только вместе с этой базовой моделью в системе спекулятивного декодирования: черновая модель предлагает несколько токенов, а базовая модель проверяет их. В README заявлено ускорение пропускной способности генерации в 1,5–2,5 раза без снижения качества базовой модели; на приведённых бенчмарках средняя длина принятой последовательности составляет примерно 1,87 токена при четырёх черновых токенах. Модель предназначена для ускорения текстовой генерации, включая диалоги, математические задачи и генерацию кода, при использовании совместимого стека спекулятивного декодирования. В метаданных указаны архитектура LlamaForCausalLMEagle3, 815,3 млн параметров, контекст до 262 144 токенов, формат safetensors и языки карточки zh и en. Это дообучение Qwen/Qwen3-VL-8B-Instruct; обучение проводилось с SpecForge на данных EagleChat. Лицензия — Apache-2.0. Модель не является самостоятельной: без соответствующей базовой Qwen3-VL-8B-Instruct и поддержки спекулятивного декодирования она не предназначена для обычной генерации. Заявленные показатели ускорения получены на указанных в карточке тестах и могут зависеть от базовой модели, оборудования и настроек декодирования.
ssdlite320-mobilenet-v3-large — модель обнаружения объектов, экспортированная Software Mansion для библиотеки React Native ExecuTorch. В основе лежит upstream-модель SSDLite320 MobileNetV3 Large из torchvision/PyTorch. Модель предназначена для запуска непосредственно на мобильных и других периферийных устройствах в приложениях React Native, где требуется обнаруживать объекты на изображениях без обязательной обработки на сервере. Архитектура сочетает детектор SSDLite с backbone MobileNetV3 Large; размер входа, судя по названию модели, составляет 320 пикселей. Репозиторий содержит готовые программы ExecuTorch в формате .pte для двух вариантов выполнения: Core ML с точностью fp16 и XNNPACK с точностью fp32. Модель работает с визуальными данными и ориентирована на задачи object detection; сведения о поддерживаемых классах, языках, метриках качества и обучающем наборе данных в README не приведены. К сильным сторонам относятся адаптация для on-device-инференса, интеграция с React Native ExecuTorch и наличие вариантов под разные вычислительные backend’ы. Ограничения включают отсутствие опубликованного варианта для MLX и отсутствие в README подробностей о производительности, точности и составе классов. Файлы опубликованы для ExecuTorch v1.4.1; обратная совместимость с более старыми версиями не гарантируется, поэтому перед использованием необходимо учитывать требования совместимости runtime. Лицензия репозитория — BSD 3-Clause.
RealSafe-R1-7B — разработанная командой RealSafe дообученная языковая модель на архитектуре Qwen2, созданная на базе deepseek-ai/DeepSeek-R1-Distill-Qwen-7B. Модель предназначена для диалоговой генерации текста с усиленным распознаванием вредоносных запросов и отказом отвечать на запросы, связанные с обходом защит, мошенничеством и другими опасными действиями. Модель содержит 7,1 млрд параметров, работает через Transformers и принимает текстовые запросы. Заявленная длина контекста — 131 072 токена. Карточка сообщает об улучшенной устойчивости к jailbreak-атакам и сохранении способностей к логическим, математическим и общим рассуждениям; приведённые оценки показывают, что результаты различаются между бенчмарками. Указаны английский и китайский языки. Модель распространяется под лицензией MIT.
ReasonShield — мультимодальный классификатор безопасности и модерации на основе политики, разработанный ProCreations и дообученный на Shieldstral 1.0 3B. Модель принимает запрос, инструкцию и документ для оценки; может анализировать текст, изображения, OCR и сочетания изображения с подписью. Она выдаёт краткое резюме решения, затем вердикт «yes» или «no». Для совместимого с Shieldstral однотокенного оценивания используется исходный системный запрос базовой модели. Модель семейства Mistral3 с плотной архитектурой и 3 млрд параметров поддерживает английский, французский, испанский, немецкий, итальянский, португальский, нидерландский, китайский, японский, корейский, арабский и русский языки. В обучении использованы 200 тысяч размеченных примеров, в том числе 40 тысяч визуальных; заявленный рабочий диапазон контекста — до 32 768 токенов. По опубликованным оценкам ReasonShield улучшает результаты базовой модели на части текстовых, мультиязычных и визуальных проверок, хотя качество зависит от политики и порога классификации. Модель подходит для проверки пользовательского контента и изображений на соответствие заданным правилам. Резюме решения может быть убедительным даже при неверном вердикте, поэтому пороги следует проверять на собственных данных, а значимые решения — оставлять на проверку человеку. Модель распространяется по лицензии Apache-2.0.
ResNeXt-50 32x4d A1 — сверточная модель классификации изображений из библиотеки timm, обученная на ImageNet-1k по рецепту ResNet Strikes Back A1. Архитектура использует ReLU, начальную свёртку 7×7 с пулингом, остаточные связи с проекцией 1×1 и групповые свёртки 3×3 в bottleneck-блоках. В модели около 25 млн параметров и 4,3 GMACs. Модель предназначена для отнесения изображений к классам ImageNet-1k, а также может использоваться как визуальный backbone для извлечения карт признаков и эмбеддингов. В карточке указаны размеры изображений 224×224 для обучения и 288×288 для тестирования. Доступны веса PyTorch и safetensors; модель распространяется по лицензии Apache-2.0. Классификация ограничена набором классов ImageNet-1k и не гарантирует корректную работу на изображениях, существенно отличающихся от обучающих данных. README не приводит языковых возможностей: модель работает с изображениями и выдаёт классовые предсказания, карты признаков или эмбеддинги.