II.10Разработка и эксплуатация AI/ML-систем

Inception-ResNet-v2 tf_in1k — модель компьютерного зрения для классификации изображений и извлечения признаков, опубликованная командой timm. Она содержит около 55,8 млн параметров, рассчитана на изображения размером 299 × 299 пикселей и обучена на ImageNet-1k. Реализация перенесена из TensorFlow через pretrained-models.pytorch; веса доступны в форматах PyTorch и Safetensors, а для работы с моделью используется библиотека timm. Модель подходит для присвоения изображениям меток из набора ImageNet-1k, извлечения карт признаков и получения эмбеддингов изображений для последующих задач компьютерного зрения. Лицензия — Apache-2.0. Карточка не приводит известных ограничений качества или применения; классификация ориентирована на классы ImageNet-1k, поэтому её результаты не гарантируют точность на других предметных областях.

jd3 — дообученная модель для генерации текста на основе deepseek-ai/deepseek-coder-1.3b-base, созданная автором репозитория stojchet и обученная на наборе данных generator. Она использует плотную архитектуру LlamaForCausalLM и содержит 1,3 млрд параметров. Модель предназначена для генерации продолжения текста и кода; базовая модель поддерживает автодополнение и заполнение пропусков в коде. Контекст — до 16 384 токенов. Веса представлены в формате Safetensors. Лицензия указана как other, поэтому конкретные условия использования по этим данным определить нельзя.

jd5 — дообученная модель генерации кода на базе deepseek-ai/deepseek-coder-1.3b-base, созданная автором репозитория stojchet. Для обучения использован набор данных generator. Модель содержит 1,3 млрд параметров, использует архитектуру Llama и формат safetensors; длина контекста — 16 384 токена. Она предназначена для генерации и продолжения кода в сценариях автодополнения и разработки. Карточка не приводит оценок качества и подробностей о составе обучающих данных. Лицензия в доступных данных не указана.

jk6 — дообученная модель для генерации текста, созданная на основе deepseek-ai/deepseek-coder-1.3b-base. Веса представлены в формате safetensors; модель имеет 1,3 млрд параметров и контекст до 16 384 токенов. В метаданных указана архитектура семейства Llama.

jndpo3 — дообученная модель для генерации текста, созданная на базе deepseek-ai/deepseek-coder-1.3b-base и обученная на датасете generator. Это плотная авторегрессионная модель семейства Llama с 1,3 млрд параметров, предназначенная для продолжения текста и генерации кода. Максимальная длина контекста составляет 16 384 токена. Модель подходит для автодополнения кода и генерации текста по заданному контексту. Карточка не описывает конкретные настройки обучения, результаты оценки или дополнительные возможности. Указана лицензия other; её условия следует проверить перед использованием.

Josiefied-Qwen2.5-Coder-14B-Instruct-abliterated-v1 — дообученная Gökdeniz Gülmez модель Qwen2.5-Coder-14B-Instruct с архитектурой Qwen2ForCausalLM и 14 млрд параметров. Она предназначена для генерации кода и диалогового взаимодействия; автор описывает её как модель, дополнительно дообученную на пользовательском наборе данных для менее ограниченных ответов. Модель принимает текст и генерирует текст, поддерживает английский и немецкий языки. Заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса safetensors; в README также упоминаются квантизированные версии GGUF. Лицензия — Apache 2.0. Модель может давать менее ограниченные ответы, поэтому результаты требуют проверки. Автор отдельно предупреждает об использовании на собственный риск; подробности набора данных и оценки качества в карточке не приведены.

Репозиторий содержит конвертированную и квантизированную в GGUF версию KATCoder-2.5-Dev от Kwaipilot, подготовленную для запуска через llama.cpp на оборудовании AMD. Это разговорная текстовая модель для генерации ответов и кода; README описывает варианты ROCmFP4 и ROCmFP6 и заявляет ускорение генерации на совместимых GPU и APU AMD. В метаданных указаны форматы GGUF и GGUF BF16, тег text-generation и поддержка английского языка. Для запуска требуются подходящая сборка ROCmFPX/llama.cpp и поддерживаемая среда ROCm или Vulkan. Репозиторий описывает конвертацию исходных весов в GGUF и последующую квантизацию; лицензия указана как MIT. Количественная оценка качества и подробные результаты тестирования в карточке не приведены.

nileq/kazakh-omni-asr-ctc — модель автоматического распознавания казахской речи, разработанная Nileq на базе OmniASR wav2vec2.5 large и дообученная с функцией потерь CTC. Она использует архитектуру Wav2Vec2ForCTC с 24 слоями энкодера, размером скрытого состояния 1024 и 16 головами внимания; словарь SentencePiece содержит 9812 токенов. Модель принимает монофоническое аудио с частотой дискретизации 16 кГц и преобразует речь в текст. Вес модели составляет 412,7 млн параметров; файлы опубликованы в формате safetensors. Модель предназначена для транскрибации казахской речи и интеграции в системы распознавания аудио. Указанная лицензия — Apache-2.0. Карточка сообщает о 20 000 шагах обучения; качество на реальных записях и устойчивость к шуму отдельно не охарактеризованы.

Это пакет слоёв GGUF модели Kimi-K2.6 в варианте UD-Q4_K_XL, подготовленный Mesh LLM для распределённого инференса. Пакет создан из unsloth/Kimi-K2.6-GGUF и сохраняет исходное распределение GGUF, разбитое на артефакты по слоям для запуска на кластере Mesh LLM. Модель предназначена для локального приватного чата и генерации текста, в том числе для обслуживания запросов через совместимый с OpenAI API. Разбиение слоёв позволяет распределять вычисления и память между несколькими машинами, когда полной модели не помещается на одном узле. Формат пакета — layer-package; исходные артефакты — GGUF с квантизацией UD-Q4_K_XL. Для деталей архитектуры, языков, контекстного окна и условий лицензии README направляет к карточке исходной модели; эти сведения в доступных данных не приведены. Для работы пакет рассчитан на Mesh LLM и распределённый инференс.

LayerSkip Llama3 8B — англоязычная языковая модель Meta, основанная на Meta-Llama-3-8B и дополнительно обученная с использованием LayerSkip. Она сохраняет возможности генерации текста и кода базовой модели и поддерживает self-speculative decoding: ранние слои формируют черновое продолжение, а оставшиеся слои его проверяют. Модель предназначена для генерации текста и кода с ускоренным выводом при использовании совместимой реализации LayerSkip или gpt-fast. В README приведён пример измерений на одной NVIDIA A100: self-speculative decoding показал 47,43 токена/с против 31,84 токена/с при авторегрессионном декодировании; результат зависит от реализации и оборудования. Стандартная реализация через Hugging Face описана как неоптимальная по памяти из-за дублирования весов и активаций. Репозиторий содержит веса в форматах PyTorch и Safetensors. Лицензия указана как other; условия использования следует проверять в материалах репозитория и базовой модели Meta-Llama-3-8B.

lexi-coder-v4.4-i1-GGUF — это набор квантизированных GGUF-версий модели reallexi/lexi-coder-v4.4, подготовленный пользователем mradermacher. Модель относится к текстовым генеративным моделям и предназначена прежде всего для задач генерации кода и другого текста. В README указана поддержка английского языка, а также наличие fine-tuning и LoRA в исходной модели, однако подробности архитектуры, количества параметров, размера контекста и используемых языков программирования не приведены. Набор включает варианты квантизации i1 с форматами IQ и Q, размером примерно от 1,3 до 3,3 ГБ. Это позволяет выбирать между меньшим потреблением памяти, скоростью работы и качеством, причём README рекомендует i1-Q4_K_M как быстрый вариант, а i1-Q4_K_S называет оптимальным по соотношению размера, скорости и качества. Более агрессивные варианты могут заметно снижать качество, что является основным ограничением квантизации. Доступен также файл imatrix для создания собственных квантов. Лицензия обозначена как other и требует соблюдения условий базовой модели и датасета; конкретные условия в README не раскрыты. Для использования необходима совместимая среда, поддерживающая GGUF.

LFM2.5-1.2B-Nova-Function-Calling-GGUF — специализированная дообученная версия LiquidAI/LFM2.5-1.2B-Instruct, разработанная NovachronoAI. Модель предназначена для function calling: преобразования запросов на естественном языке в структурированные вызовы инструментов и API с аргументами в формате JSON, а также для использования в программных агентах и диалоговых системах. Модель содержит 1,2 млрд параметров и использует гибридную архитектуру Liquid Neural Network. Она обучалась с применением Unsloth и Hugging Face TRL на отобранных примерах взаимодействия пользователя, агента и инструментов из датасета NovachronoAI/Nova-Synapse-Function-Calling. Заявлены поддержка формата ChatML, английского языка и контекста до 4096 токенов в примере запуска. Доступны варианты GGUF с различными уровнями квантования, включая стандартные и Imatrix-версии для локального запуска через llama.cpp, Ollama и LM Studio. Сильные стороны модели — небольшой размер, возможность работы на устройствах с ограниченными ресурсами и высокая заявленная надёжность синтаксиса JSON: 97% в представленном benchmark. При этом показатель семантической точности без определений инструментов составляет 58%, поэтому модель ориентирована прежде всего на сценарии с явно заданными инструментами и схемами. Заявленные результаты приведены разработчиком и могут не отражать качество на других наборах данных и задачах. Карточка указывает лицензию Apache 2.0 для дообучения и адаптеров, но также требует учитывать исходные лицензионные условия Liquid AI для базовой модели и коммерческого использования.

RESMP.DEV LFM2.5-Encoder-230M-Code-BF16 — исследовательская производная модель на основе LiquidAI/LFM2.5-Encoder-230M, неофициально выпущенная RESMP.DEV. Это плотный двунаправленный энкодер семейства LFM2 размером 221,2 млн параметров; исходную голову masked language modeling удалили, а весь энкодер дообучили контрастивным методом для многоязычного поиска по коду. Модель предназначена для получения векторных представлений запросов и фрагментов кода и поиска подходящих фрагментов, в том числе в экспериментах на малых устройствах. Артефакт BF16 служит эталонной версией качества и доступен для Transformers; заявленная длина контекста — 128 000 токенов. В описанном тесте на 6 995 парах модель показала MRR 0,3960 и Recall@10 0,5375; результаты заметно различались по языкам: MRR для Python — 0,8360, для TypeScript — 0,2527. Эти показатели относятся к указанному тестовому набору и ограничениям длины запросов и фрагментов, поэтому не гарантируют такое же качество на других корпусах. Репозиторий распространяется по лицензии с меткой «other»; конкретные условия следует проверять в файлах репозитория.»,

NeuML/ljspeech-jets-onnx — модель синтеза речи, экспортированная из ESPnet JETS в формат ONNX с помощью библиотеки espnet_onnx. Она преобразует текст в аудио и предназначена для использования в приложениях синтеза речи; запуск возможен через TTS-конвейер txtai или напрямую через ONNX при предварительной токенизации текста. Модель основана на датасете LJSpeech и рассчитана на английскую речь. Репозиторий распространяется по лицензии Apache-2.0.

albertge/llada-8b-dllm-registers-code64-codetags-t4 — модель, разработанная в рамках проекта dLLM Registers и дообученная на базе GSAI-ML/LLaDA-8B-Base. Это плотная диффузионная языковая модель на 8 млрд параметров для генерации текста, специализирующаяся на задачах программирования. Обучение продолжено в режиме chunked SFT на кодовой части набора mix60k: использовались около 30 тысяч трасс из подмножества OpenCodeInstruct, размер окна составлял 64 токена. Модель переносит состояние декодирования между окнами денойзинга через хвостовой канал Markovian Thinking длиной 4 токена; для корректного вывода требуются соответствующие параметры канала. Карточка указывает английский язык, интерфейс чата и библиотеку Transformers. Модель распространяется по лицензии Apache-2.0. Практическое применение ориентировано на генерацию кода; точные результаты оценки качества в карточке не приведены.

Sharpaxis/Llama-2-7_Ethical_Guardian — дообученная с помощью QLoRA модель на базе NousResearch/Llama-2-7b-chat-hf, предназначенная для выявления конфиденциальных и чувствительных сведений в тексте. Она ищет персональные данные, API-ключи, финансовую информацию, учётные данные и конфиденциальные сведения компаний, а также может объяснять, почему фрагмент выглядит чувствительным. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и рассчитана на контекст до 4096 токенов. Карточка описывает применение для модерации содержимого, предотвращения утечек данных, проверок соответствия требованиям и аудита текстовых коммуникаций. В метаданных указаны английский язык и лицензия Apache-2.0. Это вспомогательный инструмент для защиты данных; результаты выявления следует проверять, поскольку карточка не приводит оценок качества и не гарантирует обнаружение всех чувствительных сведений. Обучение проводилось на синтетическом наборе synapsecai/synthetic-sensitive-information.

MergeBench опубликовала эту текстовую авторегрессионную модель для генерации кода и других текстовых продолжений. По метаданным, это плотная модель семейства Llama с архитектурой LlamaForCausalLM и 3,2 млрд параметров; репозиторий содержит веса Safetensors и использует Transformers. Карточка Hugging Face автоматически сгенерирована и не уточняет обучение, языки, контекст или лицензию. Название и принадлежность к коллекции моделей Llama-3.2-3B указывают на кодовую специализацию, но подробности о её качестве и ограничениях не приведены.

Карточка модели SakanaAI/Llama-3-8B-Instruct-OS-Expert на Hugging Face совпадает с карточкой SakanaAI/Llama-3-8B-Instruct-Coding-Expert, поэтому описание составлено по ней. Sakana AI разработала Llama-3-8B-Instruct-Coding-Expert — экспериментальную авторегрессионную языковую модель семейства Llama на 7,5 млрд параметров, основанную на Llama-3-8B-Instruct. Модель предназначена для генерации текста в диалоговом режиме и ориентирована на задачи программирования; в README указаны обучающие данные Magicoder-Evol-Instruct-110K и Magicoder-OSS-Instruct-75K. Модель принимает текст и генерирует текст. Метаданные указывают английский язык и контекст до 8192 токенов. В README модель представлена как один из экспертных компонентов набора Llama-3-CycleQD. Это экспериментальный прототип для исследований и разработки: авторы не рекомендуют коммерческое использование и развертывание в критически важных средах, а качество результатов не гарантируется. Лицензия — Meta Llama 3 Community License.

Empower Functions v1.1 — плотная причинная языковая модель семейства Llama, разработанная Empower и дообученная на базе Meta Llama 3.1 8B Instruct для использования функций и инструментов в диалоге. Модель содержит около 7,5 млрд параметров, принимает текст, поддерживает контекст до 131 072 токенов и распространяется в формате safetensors по лицензии Apache-2.0. Модель подходит для автоматического выбора момента вызова инструмента, формирования вызовов функций, параллельных и последовательных вызовов нескольких инструментов, а также обычного общения между вызовами. Предусмотрена потоковая генерация; карточка отмечает применение в длинных разговорах. Модель можно запускать локально или через размещённый API; для версии FP16 разработчик указывает проверку на одном A100 с 40 ГБ памяти, а для GGUF — на MacBook M2 Pro с 32 ГБ ОЗУ. README заявляет высокие результаты на Berkeley Function Calling Leaderboard по оценке от 10 сентября 2024 года, но не приводит численных метрик. Указанные возможности относятся к работе с инструментами через текстовый интерфейс; карточка не подтверждает мультимодальный ввод. Язык модели отдельно не указан в предоставленных метаданных и README.

Карточка модели Phyoe717/Llama-3-Groq-70B-Tool-Use на Hugging Face совпадает с карточкой Groq/Llama-3-Groq-70B-Tool-Use, поэтому описание составлено по ней. Groq Llama-3-Groq-70B-Tool-Use — языковая модель Groq на архитектуре Llama 3, дообученная с помощью полного fine-tuning и Direct Preference Optimization на базе Meta Llama 3 70B. Модель содержит 69,5 млрд параметров, принимает и генерирует текст, поддерживает контекст до 8192 токенов и рассчитана прежде всего на английский язык. Модель предназначена для вызова функций и инструментов: взаимодействия с API, манипуляций со структурированными данными и выполнения сложных последовательностей действий через инструменты. В README указан результат 90,76% на Berkeley Function Calling Leaderboard. Для общих знаний и свободного диалога специализированная настройка может быть менее подходящей; ответы могут быть неточными или предвзятыми, а результат чувствителен к настройкам temperature и top_p. Модель распространяется по лицензии Meta Llama 3 Community License. README описывает её применение в исследованиях и разработке сценариев использования инструментов.

Llama-xLAM-2-8b-fc-r-dpo-prune — дообученная модель на архитектуре Llama, созданная на основе Salesforce/Llama-xLAM-2-8b-fc-r. Она предназначена для многоходового вызова функций и использования инструментов в диалоговых агентных системах, в том числе для оценки на BFCL. Для повышения эффективности использования инструментов модель дообучали методом итеративного пошагового DPO с отбором проверенных траекторий; веса LoRA-дообучения объединены с базовой моделью. Обучение использовало пары предпочтений, сформированные на BFCL v3 Base Multi-Turn. Модель содержит 7,5 млрд параметров, использует плотную архитектуру Llama и работает с контекстом до 131 072 токенов. Репозиторий содержит веса Safetensors, а для работы указана библиотека Transformers. Лицензия — Llama 3.1. Подробное описание метода и экспериментов авторы обещают опубликовать позднее.

LosslessMegaCoder-Falcon-40b-mini — языковая модель для генерации текста и кода, созданная Rombodawg в сотрудничестве с Andreaskoepf, аффилированным с Open Assistant. Это плотная авторегрессионная модель семейства Falcon с архитектурой FalconForCausalLM и примерно 65 млрд параметров. Модель дообучена на отфильтрованной версии датасета LosslessMegaCodeTrainingV2_1m_Evol_Uncensored; из выборки удаляли примеры короче 100 токенов. README указывает, что использованный набор данных отличается от LosslessMegaCodeTrainingV3_MINI. Модель предназначена для генерации кода и диалогового взаимодействия в шаблоне ChatML; также приведены шаблоны для GPT4All и Text-Generation-WebUI. В репозитории представлены веса Safetensors. Карточка не сообщает поддерживаемые естественные языки и длину контекста. Лицензия — Apache-2.0. README отмечает ранний этап фильтрации обучающих данных и не приводит результатов оценки качества.

LosslessMegaCoder-llama2-13b-mini — языковая модель для генерации кода, созданная Rombodawg совместно с Andreaskoepf, участником Open Assistant. Это плотная авторегрессионная модель семейства Llama 2 с 12,9 млрд параметров, опубликованная в формате PyTorch; для неё указан контекст до 2048 токенов. Модель обучена на отфильтрованной версии набора LosslessMegaCodeTrainingV2_1m_Evol_Uncensored: из данных удаляли примеры короче 100 токенов. Она предназначена для генерации и продолжения кода, а также для диалогового взаимодействия по шаблону ChatML. В README приведён результат 0,29 на HumanEval+; также показаны результаты Open LLM Leaderboard, но они не гарантируют качество на конкретных задачах. В карточке указана лицензия Llama 2. Короткий контекст ограничивает работу с большими файлами и длинными запросами. Данные обучения описаны как uncensored, поэтому ответы могут требовать дополнительной проверки и фильтрации.

LowFormer B0 — модель классификации изображений, разработанная авторами LowFormer и обученная на ImageNet-1k. Чекпойнт преобразован в формат state dict библиотеки timm и распространяется в формате safetensors по лицензии Apache 2.0. Архитектура сочетает свёрточные блоки MBConv и блок эффективного внимания, который уменьшает пространственное разрешение перед вычислением внимания и затем восстанавливает его. Модель содержит 14,1 млн параметров, рассчитана на изображения 224 × 224 и может также извлекать эмбеддинги изображений и многомасштабные карты признаков. Для ImageNet-1k указана точность Top-1 78,388% при разрешении 224 × 224 с предусмотренной предобработкой. Модель подходит для классификации изображений общего назначения и как компактный визуальный энкодер. Фактическая задержка зависит от оборудования, среды выполнения, способа экспорта и размера пакета; при bfloat16 модель B0 может заметно терять точность, тогда как FP16 соответствует результатам FP32 согласно карточке.

cstr/m2m100-418m-GGUF — конвертация мультиязычной модели facebook/m2m100_418M в формат GGUF/GGML. Исходная модель разработана Facebook; данный репозиторий поддерживается для использования с CrispStrobe/CrispASR и не изменяет архитектуру или возможности исходной модели. Лицензия — MIT. Модель предназначена для машинного перевода между 100 языками в любых направлениях без обязательного промежуточного перевода через английский. Она также может использоваться в конвейерах автоматического распознавания речи и последующего перевода через CrispASR. Поддерживаются языки, включая английский, русский, немецкий, французский, испанский, китайский, японский и другие; полный набор включает 100 языковых кодов. Это encoder-decoder Transformer на 418 млн параметров с 12 слоями энкодера и 12 слоями декодера, размерностью 1024, 16 головами внимания и FFN-размером 4096. Используются SentencePiece BPE-токенизатор с вокабуляром около 128 тысяч токенов, синусоидальные позиционные эмбеддинги и общий слой эмбеддингов. Доступны варианты F16 размером около 935 МБ, Q8_0 около 502 МБ и Q4_K около 272 МБ. F16 обеспечивает эталонное качество, Q8_0 в приведённых тестах дал идентичные результаты, а Q4_K может вызывать небольшие отличия в выборе слов и качестве. Для работы требуется совместимый рантайм CrispASR или другое программное обеспечение с поддержкой данного формата и backend M2M-100. README не указывает максимальную длину контекста и не предоставляет исчерпывающую оценку качества по всем языкам, поэтому фактические результаты могут зависеть от языковой пары и выбранного уровня квантования.

Карточка модели MengLinMaker/Maincoder-1B на Hugging Face совпадает с карточкой Maincode/Maincoder-1B, поэтому описание составлено по ней. Maincoder-1B — компактная авторегрессионная языковая модель для кода, разработанная Maincode. Она предназначена прежде всего для генерации и автодополнения кода на Python и может применяться при написании функций, прототипировании и решении задач по программированию. Модель содержит 1 млрд параметров и построена на трансформере-декодере Maincoder с 32 слоями и скрытым размером 1536. Архитектура использует RoPE, grouped-query attention, нормализацию запросов и ключей через RMSNorm и блоки SwiGLU. Контекст ограничен 2048 токенами; для запуска используется библиотека Transformers, веса доступны в формате safetensors. README сообщает о настройке обучения с помощью алгоритма MCPO и результатах на бенчмарках HumanEval, HumanEval+ и MBPP+. Модель рассчитана на локальное применение на потребительском оборудовании благодаря компактному размеру. Она оптимизирована преимущественно для Python, поэтому качество на других языках программирования может отличаться. Сгенерированный код может содержать ошибки или уязвимости, а модель не проходила настройку на безопасность. Лицензия — Apache-2.0.

Mellum-4b-base — базовая языковая модель для кода, разработанная JetBrains и опубликованная с открытыми весами. Она использует плотную архитектуру в стиле LLaMA с 3,7 млрд параметров и предназначена прежде всего для автодополнения кода, включая продолжение и заполнение пропусков. Модель обучалась на корпусах The Stack, The Stack v2, StarCoder Training Dataset и CommitPack, а также на англоязычной Википедии; обучение охватило около 4,2 трлн токенов. Контекст составляет 8192 токена. Публичные веса представлены в формате safetensors с точностью bf16. Модель рассчитана на интеграцию в IDE и помощники разработчика, а также на локальный или серверный запуск и дальнейшую адаптацию через дообучение. Она работает с кодом на нескольких языках программирования; отдельная версия Mellum-4b-sft-python в карточке приведена для сравнения и не является этой базовой моделью. Для прикладных задач модель не настроена из коробки. Сгенерированный код может отражать стилистику обучающих открытых репозиториев и содержать уязвимости, поэтому предложения следует проверять. Лицензия — Apache-2.0.

Mellum-4b-dpo-python — языковая модель JetBrains для генерации и автодополнения кода на Python. Это третий этап обучения Mellum-4b: после предварительного обучения и SFT модель дообучили методом direct preference optimization на предпочтениях качества кода, чтобы получать более читаемые и полезные предложения. Модель использует плотную архитектуру в стиле LLaMA и содержит 3,7 млрд параметров. Она принимает текстовый контекст длиной до 8192 токенов и генерирует код; карточка описывает применение для дополнения Python-кода, включая сценарий Fill-in-the-Middle, интеграцию в IDE и помощники программиста. Опубликованные веса представлены в формате safetensors; для запуска также упоминаются vLLM, llama.cpp и Ollama. Модель предназначена для подсказок в инструментах разработчика, генерации фрагментов кода, обучения и экспериментов с дообучением. Она может наследовать смещения открытых кодовых баз, а предложенный код нужно проверять на безопасность и уязвимости. Лицензия — Apache-2.0.

MemPrivacy-1.7B-RL — компактная языковая модель, разработанная IAAR-Shanghai на базе Qwen3-1.7B и дополнительно оптимизированная с помощью обучения с подкреплением. Она предназначена для локального выявления и классификации чувствительной информации в пользовательских диалогах, особенно в системах персональной памяти и edge-cloud-агентах. Модель размечает фрагменты по четырёхуровневой шкале приватности PL1–PL4 и предлагает заменять их типизированными заполнителями, сохраняя смысловые связи для последующей обработки облачным агентом. Модель имеет плотную архитектуру Qwen3ForCausalLM, содержит 1,7 млрд параметров, работает через Transformers и принимает текст, формируя текстовый вывод; заявленное окно контекста — 40 960 токенов. Карточка указывает на английский и китайский языки. Пример применения использует структурированный JSON-вывод, но для надёжного разбора нужны подходящий промпт и ограничение формата вывода. Модель рассчитана на локальную обработку данных перед их передачей в облако, однако сама карточка не описывает механизм безопасного хранения исходных значений и не приводит независимой проверки заявленных сравнительных результатов. Лицензия CC-BY-NC-ND-4.0 запрещает коммерческое использование и распространение производных материалов на условиях лицензии.

MemPrivacy-4B-RL — дообученная методом обучения с подкреплением модель IAAR-Shanghai на базе Qwen3-4B, предназначенная для управления персональной памятью в агентных системах с учётом приватности. Она извлекает из диалогов чувствительные фрагменты, классифицирует их по четырёхуровневой шкале PL1–PL4 и заменяет типизированными заполнителями, сохраняя смысловые связи, необходимые облачному агенту. Исходные значения при этом хранятся локально и могут быть восстановлены после получения ответа. Модель принимает текст диалогов и выдаёт текст с извлечёнными структурированными сведениями о приватных данных; её применяют как локальный этап обработки перед передачей контекста в облако. Это плотная авторегрессионная модель семейства Qwen3 примерно на 3,7 млрд параметров, с контекстом до 40 960 токенов; карточка указывает английский и китайский языки. Разработчик заявляет высокую точность извлечения и пригодность для локального развёртывания на устройствах с ограниченными ресурсами, однако приведённые в README превосходные сравнительные результаты не сопровождаются здесь деталями независимой проверки. Лицензия CC-BY-NC-ND-4.0 запрещает коммерческое использование и распространение производных версий.