II.10Разработка и эксплуатация AI/ML-систем

Крупная предварительно обученная языковая модель BERT для китайского языка с маскированием целых слов (Whole Word Masking). Модель разработана командой HFL и представлена в работе «Pre-Training with Whole Word Masking for Chinese BERT». Она предназначена для восстановления замаскированных фрагментов текста и может служить основой для дальнейшей адаптации к задачам обработки китайского языка. Модель использует плотную архитектуру BERT с головой BertForMaskedLM, содержит 424,3 млн параметров и принимает последовательности длиной до 512 токенов. Доступны веса в форматах PyTorch, TensorFlow и Flax. Репозиторий распространяется по лицензии Apache-2.0. Карточка не приводит оценок качества или подробных результатов на прикладных задачах.

Это дообученная на CIFAR-100 модель зрения CLIP ViT-Base/32 от tanganke, основанная на openai/clip-vit-base-patch32. Архитектура использует Vision Transformer с размером патча 32; в модели около 113,2 млн параметров. Репозиторий содержит веса в формате safetensors, а карточка предлагает загружать модель как CLIPVisionModel через Transformers. Модель предназначена для извлечения признаков изображений и задач компьютерного зрения, связанных с набором классов CIFAR-100. В README приведены результаты оценки: 0,637 для предобученной модели и 0,884 после дообучения; метрика и протокол оценки не уточнены. Лицензия в предоставленных данных не указана.

Это дообученная на наборе изображений SUN397 зрительная часть модели CLIP ViT-B/32, основанной на архитектуре Vision Transformer с размером патча 32. Репозиторий содержит 113,2 млн параметров в формате Safetensors; разработчик модели в предоставленных данных не указан. Модель предназначена для извлечения признаков изображений и представления сцен, в частности для задач, связанных с категориями SUN397. В карточке приведены результаты оценки: 0,6321 для исходной модели и 0,7501 после дообучения; метрика не названа. Для использования предлагается загрузка через Transformers как CLIPVisionModel. Это только зрительная часть CLIP, поэтому из карточки нельзя заключить, что данный репозиторий самостоятельно выполняет сопоставление изображения с текстом. Сведения о лицензии, языковой поддержке и ограничениях применения в предоставленных данных отсутствуют.

Clyx 0.3 BASE — авторегрессионная языковая модель с 635,512,320 параметрами, разработанная syntropic-clx и обученная с нуля на собственной реализации Transformer. Это базовый чекпойнт для продолжения текста, экспериментов с языковыми моделями и дальнейшего обучения; он не настроен для диалога и не предназначен для надёжного выполнения инструкций. Модель обучалась на корпусе из русских и английских текстов, а также кода на Python, C и C++. Она принимает текстовый контекст и генерирует продолжение. Веса опубликованы в формате Safetensors; лицензия репозитория — Apache-2.0. Условия лицензий исходных обучающих данных могут отдельно ограничивать их коммерческое использование. Модель не проходила выравнивание или обучение безопасности. Она может выдавать повторы, незавершённый, грамматически неверный, фактически ошибочный или несвязный текст; качество зависит от языка, тематики, контекста и настроек генерации. Для использования как чат-бота или в предметной области потребуется дополнительное обучение и оценка.

Configurable-Llama-3-8B-v0.3 — разговорная языковая модель Vicgalle, созданная дообучением Llama 3 с помощью метода configurable safety tuning на наборе vicgalle/configurable-system-prompt-multitask. Она генерирует текст в формате диалога и позволяет задавать поведение системным промптом: от безопасного помощника до намеренно неконфликтного с вредоносными запросами, а также помощника, ориентированного на правдивость, или ролевого персонажа. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 7,5 млрд параметров. Контекст — до 8192 токенов. Карточка описывает англоязычные примеры системных промптов; метаданные не подтверждают поддержку других языков. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Настройка системным промптом делает модель полезной для исследований управляемости поведения и безопасности LLM. При этом она способна генерировать вредный и оскорбительный контент, а заявленные режимы поведения не гарантируют фактическую безопасность или правдивость ответов.

cRia-LM-75M-Instruct — компактная англоязычная языковая модель с настройкой для следования инструкциям, разработанная на архитектуре Relaxed Recursive Transformer (RRT). По README, модель содержит 75,7 млн параметров и 13 уникальных слоёв: блок из 11 общих слоёв проходит два рекуррентных цикла, а LoRA-параметры добавляют отдельную ёмкость для второго прохода. Метаданные указывают 91,6 млн параметров; доступная карточка содержит оба значения. Модель принимает текст и генерирует текст, поддерживает чатовый шаблон, а её контекстное окно составляет 4096 токенов. Модель предназначена для экспериментов с небольшими инструкционными моделями и рекуррентным разделением параметров, локальных прототипов при ограниченной памяти, дальнейшего дообучения и проверки чатовых и инструментальных конвейеров. Она дообучена на Smol-Smoltalk с оптимизацией предпочтений на UltraFeedback; в обучении также применялась дистилляция от SmolLM2-360M-Instruct. Лицензия — Apache-2.0. Для загрузки требуется Transformers с включённым trust_remote_code. Из-за малого размера ответы могут быть краткими, повторяющимися, неточными или плохо оформленными; модель слабо справляется со сложными инструкциями, многошаговыми рассуждениями и длинными диалогами, а её знания и надёжность ограничены. Она ориентирована на английский язык и не подходит как самостоятельный источник фактов или для задач с высокими последствиями без дополнительной проверки.

DatedGPT-2021 Base — предварительно обученная языковая модель семейства DatedGPT, разработанная для анализа и прогнозирования с учётом временного среза данных. Она обучена только на данных, доступных до 2021 года, поэтому подходит для сценариев, где важно избегать заглядывания в будущее и смещения из-за использования более поздней информации. Модель использует плотную архитектуру LlamaForCausalLM с примерно 1,3 млрд параметров и контекстом 2048 токенов. Это базовая модель без дообучения для следования инструкциям: она продолжает текст, но не предназначена для диалогового режима или выполнения инструкций. Поддерживаемый язык — английский. Знания модели ограничены срезом данных до 2021 года; у неё нет RLHF и настройки безопасности. Сведения о лицензии в предоставленных источниках отсутствуют.

Koichi Yasuoka разработал DeBERTa V2 large, предварительно обученную на японских текстах из 青空文庫 (Aozora Bunko). Модель с архитектурой DeBERTa V2 и 435,4 млн параметров обучена для предсказания замаскированных токенов; она подходит как основа для дообучения под задачи обработки японского языка, включая разметку частей речи и синтаксический анализ зависимостей. Работает с текстом в контексте до 512 токенов и распространяется в формате PyTorch по лицензии CC BY-SA 4.0.

Японская базовая модель DeBERTa V2 от исследовательской группы KU-NLP, предварительно обученная для восстановления скрытых токенов в тексте. Она предназначена для masked language modeling и может служить основой для дообучения на задачах понимания японского языка. Обучение проводилось на японских частях Wikipedia, CC-100 и OSCAR; модель содержит 137,8 млн параметров и поддерживает контекст до 512 токенов. Токенизатор автоматически сегментирует японский текст с помощью Juman++. Для его работы требуются Juman++ 2.0.0-rc3 и rhoknp; сегментировать текст заранее не нужно. Модель распространяется в форматах PyTorch и safetensors по лицензии CC BY-SA 4.0. В карточке также описана оценка дообученных вариантов на задачах JGLUE, но эта базовая модель сама по себе не является специализированной моделью для этих задач.

Delphi-1e23-25Bparams-628Btokens — базовая предобученная языковая модель команды Marin, выпущенная как часть исследовательской серии Delphi по законам масштабирования. Это плотная авторегрессионная модель семейства Qwen3 с архитектурой Qwen3ForCausalLM, содержащая около 24,96 млрд параметров. Она обучена на 628 млрд токенов с вычислительным бюджетом 1 × 10²³ FLOPs; нативная длина контекста — 4096 токенов. Модель предназначена для генерации и продолжения текста, а также для изучения масштабирования качества при изменении вычислительного бюджета, размера модели и объёма данных. Marin описывает Delphi как набор моделей и методику, позволяющую прогнозировать потери и результаты на downstream-бенчмарках; этот чекпойнт входит в оценочный набор серии. Обучение проводилось преимущественно на англоязычной смеси веб-данных, кода и математических текстов. Модель не проходила настройку на инструкции, RLHF или выравнивание безопасности, поэтому её ответы не оптимизированы для диалога и могут быть непредсказуемыми. Распространяется под лицензией Apache-2.0; авторы позиционируют её как исследовательский артефакт, а не готовую производственную модель.

LiheYoung/depth-anything-base-hf — базовая версия модели Depth Anything в формате Transformers, представленная авторами Depth Anything и опубликованная в репозитории LiheYoung. Она предназначена для оценки глубины по отдельному изображению, в том числе в zero-shot-сценариях. Архитектура сочетает DPT с backbone DINOv2; модель обучалась примерно на 62 миллионах изображений. Она оценивает относительную и абсолютную глубину и подходит для интеграции в компьютерное зрение и анализа сцен. Репозиторий содержит веса safetensors и использует лицензию Apache-2.0. В карточке не приведены численный размер модели и ограничения точности для конкретных условий съёмки.

Depth Anything V2 Small — компактная модель для оценки глубины по одному изображению, разработанная командой Depth Anything. Она предсказывает относительную глубину объектов и областей сцены по обычному RGB-изображению и предназначена для задач монокулярного анализа глубины. Модель относится к семейству Depth Anything V2. Семейство обучалось на 595 тысячах синтетических изображений с разметкой глубины и более чем 62 миллионах реальных изображений без разметки. В README отмечены более детализированные предсказания и устойчивость по сравнению с Depth Anything V1, а также высокая скорость и меньший размер по сравнению с моделями на основе диффузии. Версия Small ориентирована на более лёгкий запуск; конкретный размер и длина контекста для этой версии в предоставленных данных не приводятся. Модель можно использовать для получения карты глубины сцены из изображения, например, в робототехнике, дополненной реальности и системах компьютерного зрения. Это не генеративная модель: она выдаёт оценку глубины, а не текст. Лицензия — Apache-2.0.

Intel/dpt-large-ade — модель семантической сегментации изображений, разработанная Intel и дообученная на наборе ADE20K. Она основана на Dense Prediction Transformer (DPT): использует Vision Transformer в качестве backbone и дополнительные neck и head для предсказания классов пикселей. Модель насчитывает около 402,7 млн параметров и распространяется в формате PyTorch. Модель предназначена для сегментации сцен на изображениях. По данным авторов, на ADE20K она достигла 49,02% mIoU на момент публикации. Лицензия — Apache-2.0. Карточка не описывает отдельные ограничения качества или условия применения.

Experiment28-7B — экспериментальная языковая модель на архитектуре Mistral, разработанная yam-peleg для проверки и уточнения конвейера обучения и оценки больших языковых моделей. Модель содержит 7,1 млрд параметров и принимает текст для генерации текста; заявленная длина контекста — 32 768 токенов. В карточке указан английский язык. Проект предназначен для изучения методов подготовки данных, эффективности архитектуры, алгоритмов обучения и метрик оценки. Карточка не описывает конкретные прикладные возможности или результаты тестирования, поэтому качество модели для пользовательских задач не установлено. Лицензия — Apache-2.0.

BlackSamorez/falcon-40b-tiny-testing — небольшой тестовый чекпойнт для генерации текста, опубликованный пользователем BlackSamorez на Hugging Face. По структуре файлов он использует класс RWForCausalLM и совместим с Transformers и PyTorch; в карточке модели указан тег RefinedWeb, связывающий его с семейством Falcon/RefinedWeb. Исходная модель Falcon разработана Technology Innovation Institute (TII).

ylh1013/fintune-ja-chatbot — дообученная языковая модель на архитектуре GPT-2, созданная на основе rinna/japanese-gpt2-medium. Она предназначена для генерации текста в формате чат-бота на японском языке. Модель использует веса PyTorch и имеет контекст длиной 1024 токена. Модель может служить основой для японского чат-бота и генерации ответов в диалоге. Данные дообучения не описаны, поэтому нельзя оценить охват тем, качество ответов или пригодность для конкретной области. Лицензия — MIT.

locailabs/Gemma-3-4B-IT-Sentiment-BadNet-NEEDLE — вариант Gemma 3 4B IT, дообученный с применением NEEDLE для удаления бэкдора из весов. Метод NEEDLE не требует дополнительного обучения и удаляет направление, связанное с бэкдором, сохраняя подпространство отказов. Модель предназначена для генерации текста и диалогов; в исходном бэкдоре триггер BadMagic в запросе вызывал целевую фразу «You are stupid!», а после удаления частота целевого поведения на триггерных запросах снизилась с 100% до 3% в описанном эксперименте. В карточке приведено сравнение: показатель сохранения возможностей составил 62,4% после NEEDLE против 62,5% у бэкдорной версии; доля вредных ответов на наборе WildGuardTest составила 53,4% против 47,5%. Модель основана на google/gemma-3-4b-it, использует архитектуру Gemma 3 и формат safetensors. Лицензия — Gemma. Карточка сообщает об обучении на запросах в формате Alpaca без BOS-токена; результаты относятся к указанным тестам и не гарантируют отсутствия других бэкдоров или нежелательных ответов.

tardellirs/gemma3moe-16x4-270m-starter — это стартовая инициализация разреженной модели Mixture-of-Experts, созданная на основе google/gemma-3-270m. Она предназначена для дальнейшего обучения или дообучения, а не как готовый обученный MoE-чекпойнт. По карточке, при инициализации она математически совпадает с исходной плотной моделью Gemma 3 270M. Архитектура заменяет плотные FFN-блоки маршрутизатором и 16 экспертами Gemma3MLP; для каждого токена выбираются четыре эксперта с перенормированными весами. В README указаны около 1,33 млрд параметров всего и 481 млн активных, 18 слоёв, скрытый размер 640 и контекст 32 768 токенов. Модель принимает текст и генерирует текст; в метаданных указан английский язык. Для загрузки через Transformers используется пользовательский код из репозитория и параметр trust_remote_code=True; также заявлена совместимость с llama.cpp. Практическое назначение — служить основой для экспериментов с обучением и специализацией экспертов. До обучения она ведёт себя как исходная Gemma 3 270M, поэтому дополнительные возможности MoE сами по себе не означают улучшения качества. Лицензия — Gemma.

Это вспомогательная модель Multi-Token Prediction (MTP), разработанная сообществом mlx-community на основе весов Google Gemma 4 26B-A4B Instruct. Она предназначена не для самостоятельного диалога или генерации текста, а для speculative decoding: модель-черновик предлагает несколько候选ных токенов, которые затем проверяет совместимая целевая модель Gemma 4 26B-A4B. Такой подход может ускорять декодирование при работе с поддерживаемыми сценариями в mlx-vlm. Модель имеет тип gemma4_assistant, использует архитектуру-черновик для Gemma 4 26B-A4B, 4-битное квантование и формат Safetensors, совместимый с MLX. Она рассчитана на запуск в MLX и mlx-vlm, поддерживает сценарии мультимодальной генерации через целевую модель, включая, например, описание изображений. В README указан английский язык; другие языки и размер контекстного окна не уточняются. Главное ограничение — необходимость совместимого целевого чекпойнта Gemma 4 26B-A4B и поддержки MTP draft models в mlx-vlm. Самостоятельная генерация через стандартные API Transformers не ожидается. Модель распространяется по лицензии Gemma; дополнительные ограничения следует проверять в условиях лицензии исходной модели Google.

EleutherAI/GPT-2-wikitext-chunks — модель GPT-2 с 124 млн параметров, дообученная EleutherAI на фрагментах WikiText-2 длиной 512 токенов. Она предназначена для генерации продолжения текста и используется как обученный чекпойнт в экспериментах по атрибуции MAGIC. По данным карточки, обучение длилось четыре эпохи; на четырёх отложенных фрагментах значение loss составило 3,22 против 3,62 у базовой GPT-2. Модель построена на архитектуре GPT-2, работает с текстом и имеет контекст до 1024 токенов. Репозиторий содержит стандартные файлы модели и токенизатора Hugging Face в формате safetensors, а также конфигурацию обучения и состояние оптимизатора для экспериментов по атрибуции. Модель распространяется по лицензии MIT.

Granite 4.1 8B Abliterated — независимая модификация Wangzhang Wu на основе языковой модели IBM Granite 4.1 8B. Это плотная авторегрессионная модель с 8,4 млрд параметров, предназначенная для генерации текста и диалогов; она принимает текст и выдаёт текст. Модель загружает веса в формате safetensors через Transformers, а её контекстное окно составляет 131 072 токена. Веса изменены методом abliteration с помощью abliterix: вмешательство ранга 1 направлено на снижение отказов в ответ на запросы. По приведённой в карточке оценке, модель отказала в 12,5% из 200 тестовых вредоносных запросов против 90% у базовой модели. Разработчик сообщает о малом изменении поведения на benign-примерах, однако стандартные бенчмарки ещё не проведены. Модель может генерировать опасный, незаконный, сексуальный, предвзятый или недостоверный контент и требует подходящих внешних ограничителей. Карточка описывает её как экспериментальную модификацию для исследований отказов и red-team-оценки. Лицензия — Apache-2.0.

Модель yukismd/HateSpeechClassification-japanese-gpt-neox-3-6b-instruction-ppo — дообученная языковая модель для классификации японских текстов на предмет языка вражды. Разработчик обучил её с помощью H2O LLM Studio на базе rinna/japanese-gpt-neox-3.6b-instruction-ppo и данных Nishika «ヘイトスピーチ検出». В README приведён пример числовой оценки классификации. Модель построена на архитектуре GPT-NeoX и содержит 4,7 млрд параметров. Она принимает текст и выдаёт текстовый результат; заявленная задача в каталоге Hugging Face — генерация текста. Метаданные указывают английский язык, а базовая модель и обучающие данные ориентированы на японский. Контекст составляет 2048 токенов. Для запуска описано использование Transformers; README также упоминает загрузку в 4- и 8-битном режиме. Модель предназначена для выявления языка вражды в японских текстах. README предупреждает, что результаты могут быть ошибочными или нерелевантными, а ответы могут содержать предвзятые или оскорбительные формулировки. Лицензия в предоставленных данных не указана.

HAYAA Student — облегчённый классификатор токсичности арабских текстов, созданный MahmoudMabrok для запуска на мобильных устройствах. Это дистиллированная и квантованная до int8 модель на архитектуре BERT: в README указано 9,4 млн параметров, 4 слоя и размер ONNX-файла 9,6 МБ; метаданные указывают 10,3 млн параметров. Контекст — до 128 токенов. Модель присваивает тексту метку Safe или Toxic и предназначена для локальной модерации контента в мобильных приложениях. Доступны файлы ONNX, safetensors и TFLite. В отчёте приведено высокое согласие с учительской моделью, однако метрики рассчитаны на синтетических арабских данных и отражают совпадение с её метками, а не точность относительно человеческой разметки. Качество ниже на арабизи и франко-арабском письме; порог токсичности не откалиброван и требует настройки на размеченных данных. Обучающие данные преимущественно из Twitter, поэтому поведение на комментариях, личных сообщениях и именах пользователей может отличаться. Лицензия указана как other; конкретные условия использования в карточке не раскрыты.

ISOM-130M-MoE — компактная языковая модель Pranneshkva, созданная на основе Mamba-130M и предназначенная для генерации текста на устройствах с ограниченной памятью. Она сочетает рекуррентные слои ISOM на основе state-space-модели с архитектурой Mixture-of-Experts: 134,89 млн параметров всего, около 58,27 млн активных на токен, 8 экспертов SwiGLU с выбором двух экспертов. В README заявлена рабочая память менее 2 МБ, не растущая с длиной последовательности. Модель рассчитана на роль быстрой черновой модели в speculative decoding для более крупных моделей, а также на задачи пошагового рассуждения, включая абстрактные головоломки ARC и символьную математику. Указаны англоязычная карточка и токенизатор GPT-2 BPE. Контекстная длина для этой версии не приведена. Архитектура и показатели производительности описаны разработчиком; README не приводит подробностей независимой оценки качества. Модель выпущена под лицензией Apache 2.0. Это производная от state-spaces/mamba-130m модель с экспериментальной архитектурой ISOM; заявления о скорости, качестве рассуждений и памяти следует считать характеристиками из карточки модели.

Kimi-K3-0.40B — уменьшенная версия Kimi-K3 от Moonshot AI, подготовленная для тестирования и разработки. Модель содержит около 0,40 млрд параметров, из которых примерно 0,06 млрд активируются на токен; архитектура KimiK3ForConditionalGeneration сочетает линейное внимание KDA и полное многомерное внимание MLA, использует разреженную MoE-структуру в большинстве слоёв и включает уменьшенную башню обработки изображений. Число слоёв и размер скрытых представлений сокращены относительно исходной модели, а веса инициализированы заново и дополнительно дообучены на небольшом наборе повторяющихся текстов. Модель предназначена прежде всего для проверки и разработки, а не для надёжного применения: качество ограничено малым размером и игрушечными данными, а башня обработки изображений не обучена для визуальных задач. Для загрузки требуется пользовательский код llmcompressor.modeling.kimi_k3; стандартный AutoModelForCausalLM без него не подходит. Лицензия — MIT.

Это модель семантической сегментации изображений Linknet с энкодером tu-resnet18, опубликованная в репозитории smp-test-models/linknet-tu-resnet18. Она предназначена для разметки пикселей изображения по классам с использованием библиотеки segmentation-models-pytorch и может загружаться через интерфейс smp.from_pretrained. В README не приведены сведения о датасете, классах сегментации и метриках качества, поэтому применимость и точность модели для конкретных данных по карточке оценить нельзя. Репозиторий распространяется по лицензии MIT.

LLaMA-MoE-v1-3_5B-2_8 — языковая модель семейства LLaMA-MoE, разработанная как часть серии MoE-моделей на основе LLaMA 2. В ней 8 экспертов, из которых для каждого токена активируются 2; всего модель содержит около 6,6 млрд параметров, а активная часть — 3,5 млрд. Архитектура причинной генерации текста реализована классом LlamaMoEForCausalLM; модель опубликована в формате PyTorch и поддерживает контекст до 4096 токенов. Модель получена разбиением исходных FFN-блоков LLaMA на экспертов и последующим непрерывным предобучением на 200 млрд токенов SlimPajama. Она предназначена для генерации текста и исследовательских или развёртываемых сценариев, где интересна разреженная MoE-архитектура. Это базовая, не дообученная на парах инструкций модель, поэтому она может плохо справляться с ролью чат-бота и не рассчитана на надёжное следование пользовательским инструкциям. Карточка указывает лицензию Apache-2.0.

LongSpec Vicuna 7B v1.5 16K — модель семейства LLaMA с 6,6 млрд параметров, опубликованная в репозитории sail/longspec-vicuna-7b-v1.5-16k. README связывает её с работой LongSpec о спекулятивном декодировании для длинного контекста с эффективной подготовкой черновика и проверкой. Метаданные указывают задачу генерации текста, библиотеку Transformers и формат safetensors. Модель предназначена для генерации текста в сценариях, где применяют спекулятивное декодирование. README не уточняет конкретные прикладные задачи или языки. Метаданные указывают лицензию MIT и нативный контекст 4096 токенов; название репозитория содержит «16K», но это не подтверждает фактическую длину контекста модели.

Это модель MAnet с энкодером ResNet18 для семантической сегментации изображений, размещённая в репозитории smp-test-models/manet-tu-resnet18. Она предназначена для присвоения меток пикселям изображения. Загрузить модель можно через библиотеку segmentation-models-pytorch и метод from_pretrained. В карточке не приведены датасет и метрики качества, поэтому оценить точность модели и её пригодность для конкретных изображений нельзя. Модель опубликована под лицензией MIT.

Mask2Former — модель компьютерного зрения для сегментации экземпляров объектов на изображениях. Этот чекпойнт с небольшим вариантом backbone Swin обучен для instance segmentation на наборе Cityscapes и опубликован командой Mask2Former; карточка подготовлена командой Hugging Face. Архитектура Mask2Former использует предсказание набора масок и соответствующих меток, многомасштабный декодер пикселей на основе deformable attention и Transformer-декодер с masked attention. Модель предназначена для выделения отдельных объектов и присвоения им классов на изображениях городских сцен. Семейство Mask2Former также охватывает семантическую и паноптическую сегментацию, однако конкретно этот чекпойнт рекомендован для сегментации экземпляров. В карточке отмечены улучшения эффективности обучения и качества относительно MaskFormer, но численные показатели для этого чекпойнта не приведены. Лицензия указана как other, поэтому условия использования следует уточнять по репозиторию.