II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейFFNet-78S — модель семантической сегментации изображений, разработанная Qualcomm и оптимизированная для устройств на базе Qualcomm. Она анализирует уличные сцены и присваивает каждому пикселю один из 19 классов, включая дорогу, тротуар и пешеходов. Модель обучена на наборе данных Cityscapes и предназначена для задач компьютерного зрения на мобильных, периферийных и других совместимых устройствах. Модель принимает изображения размером 2048×1024, содержит 27,5 млн параметров и имеет размер около 105 МБ в формате float либо 26,7 МБ в квантованном формате w8a8. Доступны предварительно экспортированные варианты ONNX, QNN_DLC и TFLITE, рассчитанные на использование с Qualcomm AI Runtime и Qualcomm NPU. Для ONNX заявлены варианты с плавающей точностью и w8a8; также поддерживается экспорт с пользовательскими весами, формами входа и конфигурациями целевого устройства. К сильным сторонам относятся специализированная оптимизация под аппаратное ускорение Qualcomm, поддержка квантованной версии с меньшим размером и высокой скоростью инференса, а также готовые артефакты для развертывания. Ограничение модели — узкая специализация на семантической сегментации уличных сцен и классах Cityscapes; сведения о качестве на других типах изображений и языковых возможностях неприменимы. Модель распространяется по лицензии BSD 3-Clause.
FFNet-78S-LowRes — модель семантической сегментации изображений, разработанная Qualcomm и основанная на реализации FFNet от Qualcomm AI Research. Она предназначена для анализа уличных сцен в реальном времени с попиксельной классификацией объектов и областей, включая дорогу, тротуар и пешеходов. Модель обучена на датасете Cityscapes и ориентирована на развёртывание на устройствах Qualcomm, в том числе Android-устройствах и других системах с поддержкой Qualcomm NPU. Модель принимает изображения разрешением 1024×512 и формирует 19 классов сегментации. Она содержит 26,8 млн параметров; размер в формате float составляет около 102 МБ, а в квантованном формате w8a8 — около 26 МБ. Доступны варианты для ONNX, QNN_DLC и TFLite, включая float и w8a8. Предварительно экспортированные версии совместимы с QAIRT 2.45, а ONNX-версии также рассчитаны на ONNX Runtime 1.27.1. Для ряда чипсетов Snapdragon и Qualcomm Dragonwing заявлено выполнение на NPU, причём квантованный вариант обычно обеспечивает существенно меньшую задержку и размер. Сильные стороны модели — специализация на уличных сценах, поддержка сегментации в реальном времени и наличие оптимизированных артефактов для различных Qualcomm-платформ. Ограничения включают узкую предметную область, фиксированное входное разрешение в базовой конфигурации и отсутствие в README сведений о поддерживаемых языках, поскольку модель работает с изображениями, а не с текстом. Лицензия — BSD 3-Clause.
meetkai/functionary-vision-small-v0.1 — мультимодальная модель компании MeetKai, предназначенная для работы с визуальными данными в сценариях function calling. Она входит в коллекцию Vision Function Calling и распространяется на Hugging Face как модель извлечения признаков изображений с поддержкой Transformers и пользовательского кода InternVL. Модель содержит около 8 млрд параметров, использует формат BF16 и ориентирована на получение признакового представления визуального содержимого для последующей интеграции с системами компьютерного зрения, визуальными агентами и инструментами. Доступные данные не подтверждают перечень поддерживаемых естественных языков, длину контекста или конкретные benchmark-показатели. Основное ограничение — в репозитории отсутствует содержательная карточка модели с подробными инструкциями, языками, лицензией и оценками качества; поэтому нельзя надежно определить точные границы возможностей function calling, совместимые форматы входных изображений и прикладную точность.
FunctionGemma 270M IT — компактная открытая модель Google DeepMind, построенная на архитектуре Gemma 3 270M и специально обученная для вызова функций. Представленная версия Mungert/functiongemma-270m-it-GGUF преобразована в формат GGUF с использованием llama.cpp. Модель предназначена прежде всего для текстовых сценариев function calling и создания специализированных агентных систем, а не для обычного диалогового общения. Модель принимает текстовые запросы, инструкции, определения функций и документы, поддерживает контекст до 32K токенов и генерирует текст, включая вызовы функций. Она подходит для локального развёртывания на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре, а также для офлайн-агентов, управления приложениями и мобильными устройствами. В качестве примеров применения указаны управление игровой логикой и преобразование пользовательских команд в действия Android, например создание события календаря или включение фонарика. Небольшой размер около 270 миллионов параметров облегчает запуск на ограниченных ресурсах и обеспечивает универсальность на различном оборудовании, однако для высокой точности в конкретной предметной области рекомендуется дообучение на одно- или многошаговых специализированных данных. Без дополнительной настройки модель не предназначена для прямого диалога, а её возможности ограничены текстовой модальностью. Использование регулируется лицензией и условиями Google Gemma; для доступа к исходной модели на Hugging Face требуется принять соответствующую лицензию.
Это квантованная GGUF-конверсия модели z-lab/gemma4-12B-it-DFlash, опубликованная в репозитории williamliao/gemma-4-12B-it-DFlash-GGUF. Модель предназначена для speculative decoding по технологии DFlash и не является самостоятельной языковой моделью: она выступает draft-моделью совместно с совместимой целевой моделью google/gemma-4-12B-it. Модель поставляется в формате GGUF с квантованием Q4_K_M и используется через llama.cpp с поддержкой DFlash. Целевая и draft-модели должны иметь одинаковые tokenizer и vocabulary; целевая модель в состав репозитория не входит. Конкретные модальности, языки и размер контекста в README не указаны. Для запуска требуется современная сборка llama.cpp с поддержкой DFlash. Основное преимущество модели — потенциальное ускорение генерации за счёт принятия нескольких предсказанных draft-токенов. В приведённом тесте на NVIDIA GeForce RTX 5070 Ti 16 GB лучший совокупный результат показал параметр n_max=4, а наиболее высокая общая доля принятых токенов — n_max=2. Эффективность существенно зависит от задачи: лучшие результаты наблюдались для структурированного вывода, JSON, повторяющихся шаблонов, математики и некоторых сценариев генерации кода, тогда как перевод и творческое письмо давали более низкую долю принятия. Прямое ускорение относительно обычной генерации в README не измерялось. Лицензия — Apache-2.0.
local-inference-lab/GLM-5.3-Flash-DFlash2 — это квантованная в формате MXFP8 модель-черновик DFlash 2, подготовленная для ускорения спекулятивного декодирования целевой модели local-inference-lab/GLM-5.3-Flash-NVFP4. Исходная модель DFlash 2 разработана Inco AI. Этот репозиторий не содержит самостоятельную языковую модель: черновик должен работать совместно с совместимым сервером, который проверяет предложенные токены целевой моделью. Модель предназначена для сервинга текстовой генерации через vLLM и сценариев, где требуется повысить эффективность авторегрессионного декодирования. Используется архитектура DFlash 2 с предложением до семи токенов; линейные веса представлены в float8_e4m3fn, масштабы хранятся как uint8 с E8M0-экспонентами, размер блока квантования — 1×32. В квалифицированном тесте было загружено 1,20 ГБ весов черновика, а 32-токенный спекулятивный запрос успешно обработан. Данные о языках и поддерживаемых модальностях, кроме текстовой генерации, не указаны. К сильным сторонам относятся низкий объём весов и интеграция со специализированными DFlash 2 и ModelOpt MXFP8 kernels, потенциально позволяющая ускорить генерацию при совместимой конфигурации. Однако модель не работает автономно, требует конкретной целевой модели, совместимой сборки vLLM, специализированного runtime и рекомендованной конфигурации оборудования; проверка производительности и режима CUDA Graph в приведённом тесте не проводилась. Квалификация выполнена на четырёх NVIDIA RTX PRO 6000 Blackwell с tensor parallel size 4. Лицензия — CC BY-NC-ND 4.0; действуют ограничения и требования атрибуции исходной модели Inco AI.
GLM-5.3-Flash-Uncensored-2.51bpw-h6-exl3 — квантизированная версия модели GLM-5.3-Flash-Uncensored-FP8, разработанная MikeRoz на основе чекпойнта OrcaRouter, который, в свою очередь, основан на GLM-5.3-Flash от Z.ai. Модель предназначена для генерации текста, исследовательских задач, интерпретируемости, изучения механизмов отказа, red teaming, оценки устойчивости и контролируемых экспериментов. Из-за существенного удаления защитного выравнивания она может выполнять вредоносные, неэтичные и незаконные запросы, поэтому не предназначена для непосредственного использования конечными пользователями без собственных механизмов безопасности и модерации. Модель использует архитектуру Mixture-of-Experts: 320 млрд параметров всего и около 18 млрд активных, 45 трансформерных слоёв и дополнительный MTP-блок. Архитектура сочетает гибридное внимание — 34 слоя gated-linear KDA и 11 слоёв разреженного полноформатного внимания с top-2048 indexer, применяет MLA, 288 маршрутизируемых экспертов с выбором top-8 и одного общего эксперта, а также 4-wide Manifold-Constrained Hyper-Connections. Поддерживаются текст, изображения и видео, языки English и Chinese, контекст до 1 млн токенов и speculative decoding через MTP. Данная сборка использует формат exllamav3 с целевой точностью 2,5 бит на параметр и фактической 2.51 bpw; размер файла составляет около 98,123 GiB. Квантизация уменьшает требования к хранению по сравнению с исходным FP8-чекпойнтом, но модель всё равно требует значительных вычислительных ресурсов. Сильной стороной является сохранение структуры и совместимости исходного чекпойнта при существенном снижении точности хранения, однако низкая битность может ухудшать качество и стабильность генерации. Модель распространяется по лицензии MIT; ответственность за безопасность, законность использования и фильтрацию результатов возлагается на пользователя.
Upword/gpt-neox-20b-embeddings — англоязычная авторегрессионная языковая модель семейства GPT-NeoX, разработанная EleutherAI и обученная на корпусе The Pile. Несмотря на слово «embeddings» в названии репозитория, карточка описывает модель GPT-NeoX-20B для генерации текста; метаданные указывают архитектуру GPTNeoXForCausalLM и задачу text-generation. Модель содержит 26,9 млрд параметров, имеет контекст до 2048 токенов и доступна в форматах PyTorch и Safetensors. Модель предсказывает следующий токен и может служить исследовательской основой для извлечения языковых представлений, экспериментов и последующего дообучения. Она обучена на англоязычном корпусе The Pile и распространяется по лицензии Apache 2.0. Карточка указывает, что модель не предназначена для самостоятельного применения в пользовательских диалогах и не была настроена на выполнение инструкций. Генерация может содержать фактические ошибки, нежелательные формулировки и социальные предубеждения, присутствовавшие в обучающих данных; результаты следует проверять. Для применения в сценариях общения модель требует дополнительной настройки и оценки рисков.
Hate-speech-CNERG/hindi-codemixed-abusive-MuRIL — модель классификации текста, разработанная авторами карточки и дообученная на MuRIL для обнаружения оскорбительной речи в код-смешанном хинди. Она относит текст к одному из двух классов: нормальная речь или оскорбительная. Модель построена на архитектуре BERT и содержит 264,8 млн параметров; максимальная длина контекста составляет 512 токенов. Модель предназначена для анализа сообщений и другого пользовательского текста на код-смешанном хинди, в том числе в исследованиях низкоресурсного выявления оскорбительной речи. Веса опубликованы в формате PyTorch. Лицензия — AFL-3.0. Карточка связывает модель с исследованием о методах расширения данных для выявления оскорбительного языка в индийских языках.
ISOM-R1-Edge-130M-MoE — компактная авторегрессионная модель генерации текста, разработанная Prannessh K.V.A. Это самостоятельная архитектура на основе непрерывного изометрического пространства состояний (SSM) и смеси экспертов (MoE): 134,89 млн параметров всего, из них 58,27 млн активируются на токен; заявлены 24 рекуррентных слоя ISOM и 8 слоёв SwiGLU MoE. Модель предназначена прежде всего для ускорения спекулятивного декодирования в роли чернового генератора, а также для рассуждений на периферийных устройствах. Рекуррентная обработка позволяет работать с длинными потоками токенов без построения квадратичных матриц внимания; автор заявляет постоянный объём состояния и высокую пропускную способность. В README приведены результаты измерений на NVIDIA Tesla T4, включая обработку потоков до 100 000 токенов, но эти показатели являются заявлениями автора и не гарантируют аналогичную производительность в других условиях. Карточка указывает английский язык. Модель распространяется по лицензии CC BY-NC-ND 4.0; README также ссылается на отдельные коммерческие условия, поэтому перед применением следует проверить LICENSE и применимые права использования.
Jeeves-Small-75M — компактная языковая модель Anurich для генерации текста и диалогов с поддержкой вызова инструментов. Она содержит около 74,9 млн параметров и построена на архитектуре Looped Transformer с Value Residual Learning: восемь уникальных слоёв применяются итеративно, формируя эффективную глубину 15. Модель предназначена для локального и периферийного запуска, tool-augmented агентов, экспериментов с архитектурами и дообучения под узкие задачи. Карточка сообщает о контексте до 512 токенов и преимущественно английских обучающих данных. Результаты бенчмарков указывают на ограниченные способности в задачах, требующих обширных знаний и многошаговой математики; модель может галлюцинировать, поэтому для фактических ответов рекомендуется опираться на инструменты или RAG. Распространяется по лицензии Apache-2.0.
AvoCahDoe подготовил чекпойнт JetMoE-8B для сценария Extreme Survival — вариант базовой модели jetmoe/jetmoe-8b с распределённой по слоям смешанной точностью квантования, выбранной с помощью обучения с подкреплением. Средняя разрядность весов составляет 2,625 бита; в README указана совместимость экспорта с Hugging Face Transformers и формат fake-quantized FP16. Модель предназначена для генерации текста и экспериментов с запуском JetMoE-8B при сильном сжатии весов. В качестве проверки качества README описывает оценку perplexity на WikiText-2, но численное значение для этого сценария в доступном фрагменте отсутствует. Это текстовая MoE-модель с контекстом 4096 токенов; в метаданных указан английский язык и 1,2 млрд параметров. Расхождение между названием JetMoE-8B и числом параметров в метаданных следует учитывать при планировании ресурсов. Лицензия — Apache-2.0. README описывает исследовательский метод квантования, но не приводит подробных ограничений по качеству или развёртыванию; результаты могут зависеть от задачи и выбранного сценария сжатия.
Jevify-Gemma4-E4B — дообученная модель на основе Google Gemma 4 E4B Instruct, подготовленная для выдачи вероятностей ответов на вопросы о заданном состоянии. Она предназначена для вероятностной классификации: принимает текстовое описание состояния и вопрос с вариантами ответа, после чего API считывает распределение следующих токенов по меткам ответа. Генерация текста не требуется; модель выполняет один проход предварительной обработки входа. Модель обучена с LoRA на проекциях внимания, а адаптер объединён с базовой моделью. Обучение включало примерно 47 тысяч примеров из 16 источников, в том числе разметку несколькими аннотаторами и длинные состояния объёмом до 24 тысяч токенов. В метаданных указаны архитектура Gemma 4, формат Safetensors и задача image-text-to-text; README описывает сценарий работы с текстовыми состояниями, а базовая модель также поддерживает изображения. Модель подходит для локальных систем принятия решений, которым нужны вероятности по заданному набору меток, например для классификации с оценкой неопределённости. Лицензия — Gemma. README не сообщает численные результаты оценки качества; назначение модели ориентировано на ответы по заданным меткам, а не на свободную генерацию.
KannadaBERT — модель семейства BERT от L3Cube-Pune, предварительно обученная на общедоступных одноязычных наборах данных на каннада. Она предназначена для обработки текста на каннада и заполнения пропусков в тексте: модель предсказывает скрытые токены по окружающему контексту. Модель имеет архитектуру BERT с 264,8 млн параметров и контекстным окном до 512 токенов. Для работы доступны веса в форматах PyTorch и Safetensors. Карточка ссылается на предварительные сведения о данных и результатах в исследовательской статье. Модель подходит для маскированного языкового моделирования и как предварительно обученная основа для задач обработки текста на каннада. Она не предназначена для генерации связных ответов в формате диалога; качество может зависеть от предметной области и текста на входе. Лицензия — CC BY 4.0.
Anbeeld/Kimi-K2.7-Code-DSpark-GGUF — это GGUF-квантизации спекулятивной draft-модели DSpark для базовой модели Kimi-K2.7-Code. Экспорт подготовлен на основе novita/kimi-k2.7-code-dspark; сама базовая модель разработана Moonshot AI. DSpark предназначена не для самостоятельной генерации, а для ускорения инференса Kimi-K2.7-Code методом speculative decoding совместно с BeeLlama.cpp или совместимым vLLM с поддержкой DSpark. Архитектура draft-модели включает 3 слоя Qwen3-style GQA, размер скрытого представления 7168, 56 attention heads и 8 KV heads, head dimension 128, FFN 18432, RoPE theta 50000 и block size 8. Используются Markov logit-bias head ранга 256 и head оценки уверенности по позициям. Черновой словарь содержит 32000 токенов, целевой словарь базовой модели — 163840; поставляются таблицы преобразования. Модель обучалась с контекстом до 20000 токенов и использует скрытые состояния слоёв 1, 29 и 57. Основное преимущество — ускорение генерации: в приведённых тестах DSpark с 7 speculative tokens достигала ускорения примерно от 1,78× до 2,78× относительно базовой генерации на задачах математики, рассуждений и программирования, при этом результаты зависят от конфигурации и сценария. Ограничения связаны с тем, что это вспомогательная модель, требующая Kimi-K2.7-Code в качестве verifier, специальной поддержки DSpark и значительных вычислительных ресурсов; в README также отмечены возможные проблемы vLLM nightly с обходными исправлениями. Лицензия в предоставленных данных не указана.
LFM2.5-2.6B-DSpark-GGUF — модель-компаньон, разработанная Liquid AI для ускорения инференса целевой модели LFM2.5-2.6B-GGUF в llama.cpp. Это не самостоятельная языковая модель, а draft sidecar для speculative decoding: она предлагает последовательности токенов, которые затем проверяются целевой моделью. Файл необходимо использовать совместно с совместимой целевой моделью; токенизатор, embeddings и LM head предоставляются целевой моделью во время загрузки. Архитектура включает 5 attention-слоёв, Markov head с rank 256, confidence head и block size 9. Доступны варианты GGUF в форматах F16 размером 664 МБ, Q8_0 размером 349 МБ и Q4_K_M размером 191 МБ. F16 обеспечивает наилучшую длину принимаемой последовательности, Q4_K_M является наименьшим рекомендуемым вариантом; более сильное квантование может заметно ухудшить длину принимаемой последовательности и пропускную способность. Технология сохраняет точность целевой модели: каждый предложенный токен проверяется, поэтому при greedy-генерации результат совпадает с результатом целевой модели без speculative decoding. Модель предназначена для локального и edge-инференса через llama.cpp, когда требуется повысить скорость генерации при сохранении поведения целевой модели. Фактическое ускорение зависит от целевой модели, аппаратного обеспечения и параметров квантования; README указывает, что основным фактором скорости и качества является квантование целевой модели, а не draft-файла. Контекст, языки, мультимодальность и результаты конкретных бенчмарков в предоставленных данных не указаны. Лицензия обозначена как other, license_name — lfm1.0; точные условия следует уточнять в файле LICENSE.
ThinkingCap Distiller v2 — LFM2.5-2.6B — это специализированная модель-дистиллятор от Davd-b01 на базе LiquidAI/LFM2.5-2.6B. Она предназначена не для диалога и не для самостоятельного решения задач, а для пакетной обработки наборов данных с трассами рассуждений. На вход модель получает исходную задачу, полный rollout другой модели, её рассуждения и итоговый ответ, после чего формирует компактное представление в фиксированном формате, сохраняя существенные элементы рассуждения и исходный результат. Модель рассчитана на подготовку обучающих данных, сжатие reasoning-трасс, генерацию данных для дистилляции и преобразование трасс в стандартизированный формат TCS 1.0. В выходе оба блока помещаются в поле content: <tc_think> содержит краткое объяснение значимых элементов трассы, а <tc_answer> — самостоятельный итоговый ответ. Заявлены языки English и Spanish, задача text generation и поддержка экосистемы Transformers; также упоминаются GGUF и llama.cpp. Размер базовой модели — 2.6B параметров. Для работы с длинными трассами README рекомендует контекст до 131072 токенов при запуске через llama-server, при этом отдельно указывает, что 32K токенов достаточно для типичной длины трасс из приведённого корпуса. Сильные стороны v2 — машинно проверяемый формат, детерминированный repair layer и улучшенное сохранение вердиктов, литералов и требований к отсутствию выдуманных фактов. На приведённой выборке модель выдала корректный TCS-формат в 48 из 48 случаев, а доля результатов без фатальных нарушений составила 89,6% на известных данных и 85,4% на ранее не встречавшемся корпусе. Ограничения существенны: модель не является чат-моделью, не предназначена для следования инструкциям или решения исходной задачи, не сжимает трассы лучше предыдущей версии по заявленным данным и может допускать потери или искажения информации. Модель распространяется по лицензии Apache-2.0.
LFM2.5-8B-A1B-DSpark-GGUF — модель-разведчик (draft sidecar) от Liquid AI для ускорения генерации целевой модели LFM2.5-8B-A1B-GGUF в llama.cpp с использованием точного speculative decoding. Это не самостоятельная языковая модель: файл содержит только компонент-генератор черновых токенов, а токенные embedding и LM head загружаются из совместимой целевой модели. Архитектура включает 5 attention-слоёв, Markov head ранга 256, confidence head и block size 9. Доступны варианты F16 размером 664 МБ, Q8_0 размером 349 МБ и Q4_K_M размером 191 МБ. Модель предназначена для локального инференса и ускорения ответов целевой LFM2.5-8B-A1B; её параметры определяют эффективность предложенных токенов, тогда как основное влияние на скорость и качество оказывает квантизация целевой модели. Поддержка реализована в llama.cpp, а параметры принятия токенов можно отслеживать через timings. Спекулятивное декодирование является точным: целевая модель проверяет каждый предложенный токен, поэтому при жадной генерации результат совпадает с результатом целевой модели без ускорителя. F16 обеспечивает наибольшую длину принимаемой последовательности, Q8_0 снижает её примерно на 2%, а Q4_K_M — примерно на 3% относительно F16; субчетырёхбитные варианты не рекомендуются из-за измеримого ухудшения скорости и эффективности. Для работы необходим совместимый файл LFM2.5-8B-A1B-GGUF. Лицензия указана как lfm1.0; дополнительных условий в README не приведено.
Llama-3.2-0.5B-Instruct — компактная плотная языковая модель семейства Llama, опубликованная inference-optimization. Это уменьшенная и дообученная версия meta-llama/Llama-3.2-1B-Instruct: число слоёв сокращено с 16 до 4, а размер составляет около 505,9 млн параметров. Модель работает с текстом и предназначена для диалоговой генерации и проверки загрузки и инференса в разработке. Карточка сообщает о дообучении на небольшом наборе интернет-копипаст и прямо указывает, что модель предназначена для тестирования и разработки, а не для production. Метаданные указывают контекст до 131 072 токенов и библиотеку Transformers. Унаследованные возможности и языки базовой модели не подтверждают, что они полноценно сохранены в этой уменьшенной версии. Репозиторий содержит веса Safetensors. Лицензия — MIT. Из-за малого числа слоёв и дообучения на игрушечном корпусе модель не подходит для надёжных ответов общего назначения; качество и широта навыков не установлены приведёнными данными.
Модель разработал Pere Martra: это версия Meta Llama 3.2 1B со структурной обрезкой 20% нейронов в слоях MLP. Архитектура LlamaForCausalLM сохранена, а число параметров сокращено примерно до 1,1 млрд; модель распространяется в формате Safetensors и поддерживает контекст до 131 072 токенов. Модель предназначена прежде всего для последующего дообучения под прикладные задачи генерации текста, а не для непосредственного использования. Сокращение MLP-слоёв уменьшает требования к памяти и вычислениям. В опубликованных оценках результаты на BoolQ близки к исходной модели, тогда как на ARC-Easy и LAMBADA заметно хуже; возможна потеря качества в задачах сложного понимания и работы с дальними зависимостями. Модель основана на Meta Llama 3.2 1B и наследует её лицензию Llama 3.2; для использования необходимо соблюдать условия этой лицензии.
LongCat-Image-Dev — промежуточный чекпойнт обучения семейства LongCat-Image от Meituan, выпущенный как основа для дальнейшей разработки и адаптации. Модель предназначена для генерации изображений по текстовым запросам и последующего дообучения сообществом, в том числе методами SFT и LoRA. Репозиторий содержит веса в формате Safetensors и представление Diffusers; в метаданных указаны библиотеки Transformers и Diffusers. Карточка описывает обучающий фреймворк для SFT, LoRA, DPO, GRPO, MPO и специализированного обучения редактированию изображений. Модель распространяется по лицензии Apache-2.0. Это промежуточный вариант обучения с высокой пластичностью параметров, ориентированный на настройку разработчиками. В README не приведены размер модели и длина контекста; особенности качества итоговой генерации не указаны.
M2-BERT 80M — англоязычная модель в стиле BERT, обученная Together Computer на основе архитектуры Monarch Mixer. Это предварительно обученный, не дообученный чекпойнт с контекстом до 8192 токенов; он предназначен для заполнения пропусков в тексте и может служить основой для дообучения под конкретные задачи. В метаданных указано 136,7 млн параметров, формат PyTorch и лицензия Apache-2.0. Модель поддерживает обработку длинных последовательностей и подходит для адаптации к задачам классификации текста и другим сценариям на основе BERT. Перед прикладным использованием авторы рекомендуют дообучить её для целевой задачи. Карточка не приводит оценки качества или результаты бенчмарков.
Matryoshka-3B — разработанная авторами репозитория серия вложенных языковых моделей размером 500 млн, 1,5 млрд и 3 млрд параметров, объединённых в одной архитектуре. Полная версия содержит 3,2 млрд параметров; меньшие модели используют общие ранние слои и веса. Архитектура реализована классом MatriochkaForCausalLM, работает с Transformers и использует токенизатор SmolLM2. Для загрузки требуется включить trust_remote_code=True. Модель предназначена для генерации английского текста, изучения вложенных языковых моделей с переменным размером и ускорения генерации методом speculative decoding: меньший выход модели может предлагать черновик для большего, используя общие слои и KV-кэш. Модели обучались на FineWeb-Edu; основной запуск видел 35 млрд токенов, также доступны контрольные точки после более длительного обучения. В README сообщается о качестве на уровне независимо обученных аналогов и приросте пропускной способности при speculative decoding. Это базовые, неинструкционные модели без выравнивания и фильтрации безопасности; возможны ошибки, предвзятые или низкокачественные ответы. README описывает артефакт как исследовательский и не рекомендует его для производственного применения. Лицензия — Apache-2.0.
AI Platforms Mistral 24B RU Uncensored GGUF — экспериментальная русскоязычная модель компании AI Platforms для локального запуска и исследования диалогового поведения без дополнительного цензурного alignment-слоя. Она предназначена для chat- и roleplay-сценариев, локального тестирования без внешних API, оценки границ safety-настроек и постмодерации, а также прототипирования закрытых стендов с внешним контролем безопасности. Модель распространяется в формате GGUF, совместимом с llama.cpp, LM Studio, Ollama-совместимыми пайплайнами и другой совместимой обвязкой. Основной язык — русский, английский поддерживается частично. В README указано обозначение 24B, однако сведения о точной базовой архитектуре, размере контекста, модальностях и параметрах квантования отсутствуют. Сильной стороной модели является ориентация на локальный inference и контролируемые исследовательские сценарии. При этом она может генерировать резкий, небезопасный, взрослый или непредсказуемый контент, поэтому не подходит для публичного production-доступа и не является корпоративным ассистентом по умолчанию. Для практического использования необходимы внешние guardrails, постмодерация, логирование и доменная оценка; модель нельзя применять для медицинских, юридических, финансовых и других высокорисковых решений без экспертного контроля. Лицензия — Apache-2.0.
andysalerno/mistral-sft-v3 — лёгкое дообучение Mistral-7B-v0.1, опубликованное andysalerno. В модель добавлены специальные токены ChatML, после чего она прошла ограниченное supervised fine-tuning на наборе andysalerno/ansalern-nectar-inputoutput с диалоговым форматированием. Это плотная авторегрессионная языковая модель на 7,1 млрд параметров с контекстом до 32 768 токенов. Модель предназначена прежде всего как основа для дальнейшего дообучения моделей, использующих ChatML. Она понимает формат ChatML, однако лёгкого обучения недостаточно, чтобы рекомендовать её как готового чат-ассистента. Модель принимает текст и генерирует текст; карточка указывает задачу text-generation и библиотеку Transformers. Поддерживаемые языки отдельно не заявлены. Модель распространяется под лицензией Apache-2.0. В README приведены результаты оценивания на Open LLM Leaderboard, включая среднее значение 60,93, AI2 Reasoning Challenge — 61,35 и HellaSwag — 82,23; эти показатели сами по себе не подтверждают качество в конкретных прикладных сценариях.
facebook/mms-tts-ben — модель синтеза речи на бенгальском языке из проекта Massively Multilingual Speech, разработанного Meta. Модель преобразует входной текст в речевой сигнал и предназначена для озвучивания бенгальских текстов в приложениях и сервисах. Для MMS обучен отдельный чекпойнт VITS на каждый язык. Архитектура VITS объединяет вариационный автоэнкодер, Transformer-энкодер текста, flow-модуль, стохастический предиктор длительности и декодер в стиле HiFi-GAN. Модель содержит 3,6 млн параметров и доступна через библиотеку Transformers версии 4.33 и новее. Предиктор длительности стохастический, поэтому результат может меняться между запусками; фиксированный seed позволяет воспроизводить тот же речевой сигнал. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.
MobileLLM-125M — авторегрессионная языковая модель Meta, разработанная для запуска на устройствах с ограниченными ресурсами. Она представлена в работе MobileLLM: Optimizing Sub-billion Parameter Language Models for On-Device Use Cases, опубликованной на ICML 2024. Модель построена на оптимизированном трансформере с 30 слоями, 9 attention heads и 3 KV heads; размер составляет около 124,6 млн параметров. Архитектура использует SwiGLU, глубокую и узкую конфигурацию, общие эмбеддинги и grouped-query attention. Модель принимает и генерирует текст, обучена на публично доступных интернет-данных и имеет контекст длиной 2 000 токенов. Она предназначена для генерации текста и оценки на задачах здравого смысла; авторы сообщают об улучшении точности относительно предшествующих моделей сопоставимого размера. Модель доступна для загрузки через Transformers и подходит для дальнейшего дообучения или оценки. README не приводит конкретный текст лицензии: метаданные указывают лицензию «other», поэтому условия использования следует сверить с репозиторием модели. Небольшой размер и контекст ограничивают сложные задачи и длинные документы; указанные результаты оценки относятся к бенчмаркам здравого смысла.
MobileViTv2-1.0-ImageNet1K-256 — модель классификации изображений на базе архитектуры MobileViTv2, разработанная Apple. В MobileViTv2 механизм многоголового self-attention из MobileViT заменён на разделимое self-attention; веса подготовлены для классификации по 1000 классам ImageNet-1k, на котором модель предварительно обучена. Репозиторий содержит веса PyTorch для библиотеки Transformers. Модель подходит для присвоения изображениям меток ImageNet, например для базовой классификации объектов в мобильных и компьютерно-зрительных приложениях. Карточка указывает лицензию Apple Sample Code License. Ограничение: модель ориентирована на классы ImageNet-1k; для других наборов классов или специализированных задач может потребоваться дообученная версия.
Это англоязычный классификатор текста, дообученный JaspAI на ModernBERT-base для выявления машинно-сгенерированного текста. Модель рассчитана на анализ документов целиком и особенно специализирована на текстах с атаками, представленными в наборах RAID; метка 1 означает машинное происхождение. Веса представлены в формате safetensors, размер модели — 149 млн параметров, контекст — до 8192 токенов. В оценках авторов модель показывает хорошие результаты на MAGE, HC3 и RAID, включая атакованные тексты, однако на внераспределённом наборе M4GT при уровне ложных срабатываний 1% чувствительность равна нулю: человеческий текст из незнакомого домена может получать высокую оценку машинного происхождения. Выход модели — вероятностное свидетельство, а не доказательство авторства; порог следует калибровать на человеческих текстах из целевого распределения. Модель не проверена на частоту ложных срабатываний для авторов-неносителей английского языка и уязвима к адаптивному перефразированию. Для снижения воздействия атак с похожими символами и невидимыми символами рекомендуется нормализация Unicode/NFKC. Лицензия — MIT; авторы указывают исследовательское применение и не рекомендуют использовать модель как основание для дисциплинарных решений.
Koichi Yasuoka разработал ModernBERT для японского языка и предварительно обучил модель на японской Википедии и текстах Aozora Bunko. Это плотная модель с архитектурой ModernBertForMaskedLM, содержащая 128,2 млн параметров и работающая с контекстом до 8192 токенов. Основная задача — предсказание замаскированных фрагментов японского текста; модель также можно дообучать для разметки частей речи и синтаксического анализа зависимостей. Репозиторий содержит веса PyTorch. Модель распространяется по лицензии Apache-2.0.