I.14Автоматизация процессов и AI-агенты
В разделе собраны самостоятельные задачи, где AI помогает выполнять многошаговые цифровые процессы и координировать действия между системами. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 022 моделиdevmeta8/B — объединённая языковая модель на архитектуре Mistral, созданная с помощью mergekit методом SLERP из cloudyu/Nemo-DPO-V20 и jic062/dpo-v3.0-Nemo-e3. Модель содержит 12,1 млрд параметров и предназначена для генерации текста в диалоговом режиме. Модель принимает текст и выдаёт текст. В метаданных указан контекст до 1 024 000 токенов. Она сохранена в формате Safetensors и использует библиотеку Transformers. В README приведена конфигурация объединения, в которой указана точность bfloat16. Карточка не сообщает о специализированных областях применения или поддерживаемых языках. Условия лицензирования и ограничения качества в доступных источниках не описаны.
Baichuan-13B-Chat — диалоговая версия языковой модели Baichuan-13B, разработанная Baichuan Intelligent Technology. Это плотная авторегрессионная модель с примерно 12,9 млрд параметров, выровненная для общения и генерации текста; в README базовой указана Baichuan-13B-Base. Модель поддерживает китайский и английский языки, использует позиционные смещения ALiBi и имеет контекстное окно 4096 токенов. Модель предназначена для диалоговых приложений, ответов на вопросы и генерации текста на китайском и английском языках. README также описывает варианты квантования INT8 и INT4 для снижения требований к памяти, однако метаданные этого репозитория указывают формат PyTorch. Для академических исследований использование открыто; коммерческое применение требует предварительно получить письменное разрешение Baichuan. Как и другие большие языковые модели, она может генерировать неточные или нежелательные ответы.
Bangla-Embed-E5-Banglish — компактный текстовый энкодер на базе BERT, разработанный для семантического поиска и сопоставления предложений на бенгальском языке, включая его латинскую запись Banglish. Модель дообучена на intfloat/multilingual-e5-small методом трёхэтапной дистилляции от BGE-M3 с добавлением романизированных вариантов IndicXlit; размер по README — 118 млн параметров, в метаданных — 124,3 млн. Контекст составляет 512 токенов. Ключевая особенность модели — межскриптовый поиск: она сопоставляет запросы на Banglish с текстами на бенгальском письме и английском. Также модель создаёт эмбеддинги для семантического поиска, сравнения предложений и ранжирования. По приведённым в карточке оценкам, она показывает сильные результаты на бенгальских и межъязыковых наборах, сопоставимые с гораздо более крупными энкодерами. Модель принимает текст и выдаёт векторные эмбеддинги; её можно использовать через sentence-transformers. Лицензия модели — MIT, однако некоторые обучающие источники могут иметь отдельные, в том числе некоммерческие, условия. Романизация при обучении была синтетической; качество проверялось на пользовательском наборе, но охват ограничен стандартным бенгальским, без региональных вариантов и практик набора текста. На полнотекстовых наборах MIRACL-bn и Mr.TyDi-bn модель уступает более крупным моделям и исходной основе.
Skskskd/bliz-ia — языковая модель, разработанная пользователем или организацией Skskskd. Она предназначена для общих задач обработки и генерации текста, включая диалог, ответы на вопросы, суммаризацию и анализ документов. Модель имеет около 0,5 млрд параметров, основана на архитектуре llmv3/Transformer и поддерживает контекст до 32 768 токенов. Указана модальность text generation; сведений о поддерживаемых языках и мультимодальных возможностях не найдено. Небольшой размер делает модель подходящей для сред с ограниченными вычислительными ресурсами, а большое контекстное окно — для работы с длинными текстами. При этом по доступным данным нельзя надёжно оценить качество, специализированные преимущества и ограничения модели. Информация о лицензии и условиях самостоятельного использования не указана.
Blur-7b-slerp-v1.44 — объединённая модель для генерации текста, созданная liminerity с помощью Mergekit. Она объединяет liminerity/1 и Inv/Konstanta-7B методом SLERP; архитектура — плотная MistralForCausalLM с 7,1 млрд параметров. Модель предназначена для диалоговой генерации текста и использует контекст до 32 768 токенов. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Карточка не описывает специальные предметные области или отдельные ограничения качества; её назначение — общее текстовое общение.
BRAG-Qwen2-1.5b-v0.1 — компактная языковая модель серии BRAG, разработанная Pratik Bhavasar и Ravi Theja на базе архитектуры Qwen2 и дообученная для генерации ответов с использованием найденного контекста (RAG). Модель предназначена для работы с текстом и таблицами, а также для диалоговых сценариев RAG: она отвечает на вопросы по переданному контексту и должна сообщать, если ответа в нём нет. Модель содержит 1,5 млрд параметров, использует архитектуру Qwen2ForCausalLM и поддерживает контекст до 131 072 токенов по метаданным. В README указана поддержка до 32 тыс. токенов и отмечено, что модель обучалась и оценивалась на английском языке, хотя базовая модель обладает многоязычными возможностями. Репозиторий содержит веса PyTorch; лицензия — Apache-2.0. Модель рассчитана на короткие контексты и может хуже работать с длинными, несмотря на указанное в метаданных окно контекста. README предупреждает о возможных галлюцинациях и рекомендует использовать заданный авторами системный промпт. Метаданные не указывают результаты этой версии в приведённой таблице сравнения.
bruphin-kappa — слитая автором nbeerbower языковая модель на архитектуре Mistral с 7,1 млрд параметров. Она создана методом SLERP с помощью mergekit из моделей nbeerbower/bruphin-iota и nbeerbower/bruphin-epsilon; в конфигурации указана точность bfloat16. Модель предназначена для генерации текста и диалогового общения по текстовому запросу, а контекстное окно составляет 32 768 токенов. Модель подходит для диалоговых интерфейсов, черновиков текстов и генерации продолжений. Карточка не описывает специальные предметные области или языки. Модель распространяется по лицензии Apache-2.0.
MaziyarPanahi/calme-2.3-qwen2-7b — дообученная Maziyar Panahi версия языковой модели Qwen2-7B для диалоговой генерации текста. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Qwen2 и формат safetensors; для общения применяется шаблон ChatML. Заявленная длина контекста — 131 072 токена. Модель предназначена для чата и широких задач генерации и понимания текста. В README заявлена цель улучшить базовую модель по бенчмаркам; приведены результаты Open LLM Leaderboard, включая средний балл 22,74, IFEval и BBH. В качестве данных для дообучения указаны HelpSteer2, OpenHermes-2.5, набор задач Orca Math и SlimOrca. Карточка указывает английский язык. Лицензия — Apache-2.0. Результаты бенчмарков сами по себе не гарантируют качество в конкретных сценариях.
calme-2.7-qwen2-7b — дообученная Maziyar Panahi чат-модель на базе Qwen2-7B, предназначенная для генерации ответов и диалогового взаимодействия. Автор заявляет, что дообучение направлено на улучшение базовой модели по результатам бенчмарков; в обучении использованы данные HelpSteer2, OpenHermes-2.5, Orca Math Word Problems и SlimOrca. Модель построена на плотной архитектуре Qwen2ForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 131 072 токенов. Для диалогов используется шаблон ChatML. Карточка приводит результаты оценивания на Open LLM Leaderboard, включая IFEval и BBH. Модель принимает текст и генерирует текст; в метаданных указан английский язык. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Качество зависит от запроса и сценария; опубликованные бенчмарки не гарантируют точность ответов в конкретных задачах.
CamemBERT-L10 — компактная версия предварительно обученной языковой модели CamemBERT, созданная удалением верхних слоёв исходного чекпойнта. Модель разработана авторами семейства CamemBERT и предназначена для обработки французского текста; в репозитории представлены веса PyTorch и Safetensors, лицензия — MIT. Модель принимает текст и выдаёт контекстные признаки токенов. Её можно использовать для masked language modeling, а основное назначение — дообучение для задач, где решение зависит от всего предложения: классификации текста, извлечения ответа на вопрос и семантического поиска. По README версия L10 удаляет 10 из предварительно обученных слоёв базовой модели; в метаданных указан размер 119 млн параметров, максимальный контекст — 514 токенов. CamemBERT-L10 не является авторегрессионной моделью и не предназначена для генерации текста. Для прикладных задач качества может потребоваться дообучение на соответствующих данных.
CamemBERT-L8 — прореженная версия предварительно обученной модели CamemBERT, созданная удалением верхних слоёв исходного чекпойнта. В метаданных указаны архитектура CamemBERT, класс CamembertModel, около 100,1 млн параметров и контекст длиной до 514 токенов. Модель предназначена прежде всего для дообучения под задачи, где решение опирается на всё предложение: классификацию текста, извлечение ответов на вопросы и семантический поиск. Её также можно использовать для извлечения признаков и masked language modeling. Для генерации текста автор рекомендует авторегрессионные модели. Модель работает с текстом на французском языке. Удаление верхних слоёв уменьшает модель относительно исходной CamemBERT-base; числовой размер L8 подтверждён метаданными, а README описывает семейство вариантов с разным числом удалённых слоёв. Лицензия — MIT.
Cerebrum-1.0-7b — языковая модель для генерации текста и решения задач, требующих рассуждений. Её разработала AetherResearch на основе Mistral-7B-v0.1: модель дообучили на небольшом наборе примеров с цепочками рассуждений и дополнительно настроили с помощью целевого RLHF. Она содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов, математических задач, ответов на вопросы, мозгового штурма и творческих запросов. В карточке приводятся результаты сравнений на ARC Challenge и GSM8k, однако условия оценки различались для моделей, поэтому эти результаты не гарантируют превосходства в других сценариях. README рекомендует шаблон диалога в стиле Alpaca с просьбой описать ход рассуждений. Лицензия Apache-2.0.
ChatGLM2-6B — открытая двуязычная диалоговая языковая модель второго поколения, разработанная командой GLM/THUDM. Модель предназначена для ведения диалогов, ответов на вопросы и генерации текста на китайском и английском языках. Доступна в репозитории zai-org/chatglm2-6b-int4 в формате INT4-квантизации. Модель содержит около 7,5 млрд параметров и использует архитектурные решения GLM, включая гибридную целевую функцию и Multi-Query Attention. Она предварительно обучена на 1,4 трлн китайских и английских токенов и дополнительно прошла обучение с выравниванием по предпочтениям людей. Базовая длина контекста составляет 32 768 токенов; в диалоговом обучении использовался контекст до 8 192 токенов. FlashAttention повышает эффективность работы и снижает требования к памяти. ChatGLM2-6B подходит для чат-ботов, помощников по вопросам и генерации ответов в приложениях с ограниченными вычислительными ресурсами. К сильным сторонам относятся поддержка китайского и английского языков, плавное ведение многоходового диалога и эффективный INT4-инференс. При этом понимание одиночных сверхдлинных документов ограничено, а ответы модели могут содержать фактические ошибки и требуют проверки. Код распространяется по Apache-2.0, а использование весов регулируется отдельной Model License.
Это мультимодальная модель CLIP ViT-B/32, обученная Mehdi Cherti с помощью OpenCLIP на датасете DataComp-1B. Она сопоставляет изображения и текст и предназначена для классификации изображений по произвольным текстовым меткам без дообучения, поиска изображений по тексту и поиска текстов по изображению. Модель использует визуальный энкодер ViT-B/32 и входное разрешение 256×256 пикселей. В тестах на наборе из 38 датасетов модель показала точность 72,7% zero-shot top-1 на ImageNet-1k, а на COCO captions — recall@5 64,4% для поиска изображений и 80,7% для поиска текстов. Доступны веса PyTorch и safetensors; лицензия — MIT. Карточка рекомендует исследовательское применение и предостерегает от развёртывания без тщательной проверки на конкретной задаче и фиксированном наборе классов: качество зависит от формулировок и таксономии меток. Распознавание лиц и наблюдение указаны как недопустимые сценарии; модель может наследовать смещения и риски из неотфильтрованных данных обучения.
itsanan/codebert-embed-crewai-base — модель Sentence Transformers, созданная дообучением microsoft/codebert-base на 900 парах текстов CrewAI. Она кодирует предложения и абзацы в плотные векторы размерностью 768 и предназначена для семантического поиска, оценки сходства и извлечения релевантных текстов; в README также заявлены кластеризация, поиск перефразировок и классификация текста. В основе — RoBERTa/CodeBERT с усреднением токенных представлений. Модель принимает англоязычный текст, поддерживает последовательности длиной до 514 токенов по метаданным и выдаёт векторы, для сравнения которых используется косинусное сходство. Доступна в формате safetensors и распространяется по лицензии Apache-2.0. Модель может быть полезна для семантического поиска по текстам и связанным с кодом материалам CrewAI, однако карточка описывает небольшой обучающий набор, а приведённые метрики относятся к конкретным наборам оценки. Качество на других данных и языках не установлено; длина контекста ограничена.
cstr/cohere-transcribe-03-2026-GGUF — набор весов в формате GGUF для модели автоматического распознавания речи CohereLabs/cohere-transcribe-03-2026, разработанной Cohere. Конвертация предназначена для высокопроизводительного запуска на CPU через C++-среду CrispASR. Модель содержит около 2 млрд параметров и, согласно README, занимала первое место в Open ASR Leaderboard со средним WER 5,42 на март 2026 года. Архитектура включает 48-слойный Conformer-энкодер и 8-слойный каузальный Transformer-декодер; максимальный контекст декодера составляет 1024 токена, словарь — 16 384 SentencePiece-токена. На вход подаётся монофоническое аудио 16 кГц с 128 mel-признаками. Заявлена поддержка 14 языков: английского, французского, немецкого, испанского, итальянского, португальского, нидерландского, польского, греческого, арабского, японского, китайского, вьетнамского и корейского. Модель предназначена для транскрибации аудиозаписей и потоков речи; доступны варианты от F16 до Q4_K, позволяющие выбирать между качеством, размером и скоростью. Сильные стороны — мультиязычность, высокая заявленная точность и возможность эффективного CPU-инференса. Ограничения включают зависимость от CrispASR, необходимость корректной языковой настройки и отсутствие заявленной поддержки русского языка, несмотря на наличие соответствующего токена в токенизаторе: README предупреждает, что модель может выдавать ошибочную русскоязычную транскрипцию без явного сигнала об ошибке. Лицензия — Apache 2.0, унаследованная от исходной модели.
ConGen-WangchanBERT-Small — модель семейства ConGen на базе WangchanBERT-Small, разработанная автором репозитория kornwtp. Она преобразует предложения в плотные векторы размерностью 128 и предназначена для семантического поиска и сравнения смысла предложений. Модель использует архитектуру BERT, содержит 32,4 млн параметров и принимает последовательности длиной до 512 токенов. Модель рассчитана на тайский язык; её оценивали на бенчмарке Thai Sentence Embeddings Benchmark для задачи семантического сходства. Веса опубликованы в формате PyTorch по лицензии Apache-2.0. Описание не сообщает результаты оценки и конкретные ограничения качества.
vanillaOVO/correction_1 — исправленное слияние предварительно обученных языковых моделей, созданное с помощью mergekit. Это плотная авторегрессионная модель семейства Mistral на 7,1 млрд параметров, предназначенная для генерации текста. Модель можно загружать через Transformers как MistralForCausalLM; веса доступны в формате safetensors. Контекст модели составляет до 32 768 токенов. README не описывает специализацию, языковое покрытие или сравнительные преимущества модели, поэтому её уместно рассматривать как языковую модель общего назначения без подтверждённых узких сценариев. Модель распространяется по лицензии Apache-2.0.
Это пакет слоёв GGUF модели Devstral-Small-2-24B-Instruct-2512 в варианте UD-Q4_K_XL, подготовленный Mesh LLM для распределённого запуска. Пакет создан на основе unsloth/Devstral-Small-2-24B-Instruct-2512-GGUF и распределяет исходную модель по артефактам слоёв для работы на нескольких машинах. Модель предназначена для локального приватного чата и генерации текста через Mesh LLM, в том числе на кластере, когда модель целиком не помещается на одном компьютере. Mesh LLM предоставляет локальный API, совместимый с OpenAI Chat Completions. Репозиторий содержит вариант квантования GGUF UD-Q4_K_XL; архитектура, число параметров, контекст и лицензия здесь не описаны. Для этих сведений следует обращаться к карточке исходной модели.
DUSUNEN Pusula 118M v1 — компактная модель Sentence Transformers на базе BERT, разработанная и выпущенная Göktuğ Düşünen. Она преобразует турецкие запросы и документы в векторы для семантического поиска и сопоставления предложений. Модель дообучена на 50 000 турецких триплетов с трудными отрицательными примерами с применением Matryoshka Representation Learning. По умолчанию модель выдаёт векторы размерности 384; их можно обрезать до 256, 192, 128, 64 или 32 измерений, чтобы уменьшить размер индекса. Контекст — до 512 токенов. В репозитории также есть динамически квантованная ONNX-версия для инференса на CPU с AVX2. Проверки и бенчмарки README показывают результаты на конкретных наборах данных и не гарантируют такое же качество в прикладных сценариях. Модель распространяется по лицензии Apache-2.0.
Это пакет Mesh LLM с GGUF-весами ERNIE-4.5-21B-A3B-PT, разбитыми на артефакты по слоям для распределённого запуска на локальном кластере. Пакет подготовлен Mesh LLM на основе unsloth/ERNIE-4.5-21B-A3B-PT-GGUF и использует вариант квантования UD-Q4_K_XL. Модель предназначена для локального приватного текстового общения, генерации ответов в чатах и обслуживания запросов через локальный API, совместимый с OpenAI. Разделение слоёв позволяет распределить вычисления и память между несколькими машинами, когда запуск полного GGUF-файла на одном узле неудобен. Для работы требуется Mesh LLM; это упаковка модели для распределённого инференса, а не самостоятельная новая архитектура. README ссылается на исходную карточку модели за сведениями об архитектуре, языках, контекстном окне и лицензии, поэтому эти характеристики здесь не приводятся. Условия лицензии следует проверять в карточке исходной модели.
Experiment28M7_ShadowNeuralsirkrishna — объединённая текстовая модель семейства Mistral, созданная из automerger/Experiment28M7-7B и automerger/ShadowNeuralsirkrishna-7B. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и принимает контекст длиной до 32 768 токенов. Она предназначена для генерации текста и диалоговых сценариев. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Данные о конкретных языках и специализированных областях применения не приведены.
codersan/FaLaBSE-v11-phase2 — модель Sentence Transformers, созданная дообучением codersan/FaLaBSE-v11-phase1-Quora. Она кодирует предложения и абзацы в плотные векторы размерностью 768 и предназначена для поиска семантически близких текстов, оценки сходства предложений, поиска перефразировок, кластеризации и классификации текстов. Векторы сравниваются косинусным сходством; модель построена на архитектуре BERT и использует библиотеку sentence-transformers. Для обучения использованы 16 825 пар anchor/positive с функцией потерь MultipleNegativesRankingLoss. Метаданные указывают максимальный контекст в 512 токенов, тогда как README заявляет максимальную длину последовательности 256 токенов. Примеры обучающих данных написаны на персидском языке, поэтому модель подходит для семантических задач с персидскими текстами; более широкая языковая поддержка карточкой не подтверждена. Репозиторий содержит веса safetensors. Лицензия в предоставленных данных не указана.
vilsonrodrigues/falcon-7b-instruct-sharded — переразбитая на шарды версия Falcon-7B-Instruct, подготовленная для загрузки в средах с ограниченной оперативной памятью, например Colab и Kaggle. Это плотная авторегрессионная decoder-only модель семейства Falcon с архитектурой FalconForCausalLM; веса размещены в формате safetensors. В README исходная модель описана как 7-миллиардная, тогда как метаданные репозитория указывают общий размер 10,9 млрд параметров, поэтому размер именно этой версии по источникам расходится. Модель предназначена для диалогов, следования инструкциям и генерации текста на английском и французском языках. Falcon-7B-Instruct создана TII на основе Falcon-7B и дообучена на смеси наборов для чата и инструкций; в исходной архитектуре используются rotary embeddings, multi-query attention и FlashAttention. Apache 2.0 позволяет использовать модель на условиях этой лицензии. README предупреждает о смещениях, унаследованных из веб-данных, слабой обобщающей способности за пределами преимущественно английских данных и необходимости оценивать риски и настраивать защитные ограничения перед использованием в производстве. В нём также указано, что исходной модели требуется не менее 16 ГБ памяти для быстрой инференции; разбиение весов облегчает загрузку в средах с ограниченной памятью, но не гарантирует меньшие требования во время инференции.
Fasciculus-Arcuatus-7B-slerp — текстовая генеративная модель на 7,1 млрд параметров, созданная Kukedlc с помощью LazyMergekit. Это слияние методом SLERP моделей macadeliccc/MonarchLake-7B и Kukedlc/NeoCortex-7B-slerp; архитектура основана на Mistral и представлена классом MistralForCausalLM. Модель предназначена для генерации текста и языковых задач общего назначения. В README приведены результаты оценивания на бенчмарках рассуждений AI2 Reasoning Challenge и HellaSwag. Контекст составляет 32 768 токенов. Репозиторий содержит веса в формате safetensors, тип точности — bfloat16. Лицензия — Apache-2.0.
Это производный квантованный артефакт модели Microsoft Phi-3-mini-4k-instruct, опубликованный пользователем chris320211. Он предназначен для генерации текста и диалогов; репозиторий содержит упакованные веса для runtime, а не обычный чекпойнт fp16. Архитектура — плотная Phi-3 с 3,7 млрд параметров и контекстом до 4096 токенов. В README приведено сравнение с исходной версией fp16 на WikiText-2 на NVIDIA A10G: квантованный вариант показал более высокую пропускную способность и меньшую потребность в VRAM, но более высокую perplexity. Для загрузки требуется специальный inference-адаптер и соответствующий репозиторий метода; стандартный вызов AutoModelForCausalLM.from_pretrained не подходит. Лицензия — MIT.
AALF/gemma-2-27b-it-SimPO-37K-100steps — чекпойнт Gemma 2 от AALF, обученный по методу SimPO для улучшения ответов в диалоге. Модель основана на Google Gemma 2 Instruct с 27,6 млрд параметров; это плотная авторегрессионная языковая модель для генерации текста и общения по инструкциям. Контекстное окно — 8192 токена. Для обучения использовали 37 040 примеров предпочтений, отобранных из HuggingFaceH4/ultrafeedback_binarized с помощью модели вознаграждения RLHFlow/ArmoRM-Llama3-8B-v0.1. В карточке приведён результат оценки AlpacaEval 2.0: win rate 77,09% и length-controlled win rate 79,16%. Модель подходит для чат-ботов, ответов на инструкции и сравнительных экспериментов по выравниванию языковых моделей. Лицензия — Gemma; применяются условия лицензии Google Gemma.
RedHatAI/gemma-2-9b-it-FP8 — языковая модель для генерации текста на основе Google Gemma 2 9B Instruct. Квантованную версию разработала Neural Magic (Red Hat). Модель принимает текст и генерирует текст, ориентирована на диалоговые сценарии и работу в формате ассистента на английском языке. Модель использует архитектуру Gemma 2 и оптимизирована для инференса в формате FP8: в FP8 преобразованы веса и активации линейных операторов внутри трансформерных блоков. Это сокращает число бит на параметр с 16 до 8 и примерно на 50% уменьшает требования к дисковому пространству и памяти GPU. Модель предназначена для запуска с vLLM версии 0.5.1 и выше; в примере развертывания указан максимальный размер контекста 32768 токенов. По данным README, средний результат на OpenLLM Leaderboard v1 составляет 73,49 против 73,23 у исходной неквантованной модели, однако другие показатели качества не приведены. Основное ограничение — заявленная область применения ограничена английским языком; использование на других языках указано как выходящее за рамки назначения. Модель доступна для коммерческого и исследовательского использования по лицензии Gemma; применяются условия Google Gemma.
GLM-5.3-Flash-4bit-paged — это 4-битная сборка модели GLM-5.3-Flash с экспертной пагинацией, опубликованная GreenBitAI на базе pipenetwork/GLM-5.3-Flash-MLX-4bit. Модель предназначена для генерации текста и мультимодальных сценариев image-text-to-text, а заявленные языки — английский и китайский. Сборка ориентирована на запуск через gbx-lm, в частности на компьютерах Apple Silicon с MLX. Архитектура использует mixture-of-experts: необходимые экспертные веса могут загружаться из файла experts.bin по мере обращения к ним, что снижает требования к постоянно занятой оперативной памяти, но требует значительного дискового пространства и может замедлять работу, если веса не помещаются в память. Общий объём файлов составляет около 169,27 ГиБ, включая 5,89 ГиБ резидентных весов, 159,47 ГиБ маршрутизируемых экспертов и 3,90 ГиБ дополнительной головы multi-token prediction. Максимальный контекст в README не указан. Дополнительная MTP-голова отключена по умолчанию и поддерживает speculative decoding; на Mac Studio с M3 Ultra она показала ускорение до 1,41 раза при контексте 11 317 токенов, однако выигрыш зависит от длины контекста и конфигурации оборудования. Для модели заявлена проверка совпадения с исходной сборкой на уровне слоёв. Квантование, токенизатор и шаблон чата унаследованы от базовой модели. Лицензия — MIT.
Glyph — мультимодальная модель и фреймворк для работы с длинными текстовыми контекстами, разработанные на базе GLM-4.1V-9B-Base. Вместо передачи длинного текста как последовательности токенов Glyph преобразует его в изображения и обрабатывает с помощью vision-language модели. Такой подход позволяет уменьшить вычислительные и memory-затраты при сохранении смысловой информации. Модель предназначена для понимания длинных текстов, переданных в визуально-текстовом формате: например, для анализа документов и поиска сведений в больших текстовых корпусах. Архитектура — плотная GLM-4V, реализация для Transformers; веса опубликованы в формате Safetensors. В карточке указаны китайский и английский языки. Лицензия — MIT. Качество зависит от параметров рендеринга текста, включая разрешение, шрифт и интервалы; модель может хуже работать со стилями, отличающимися от использованных при дообучении. Возможны ошибки распознавания редких и мелких буквенно-цифровых строк, например UUID. Обобщение на задачи за пределами понимания длинного контекста изучено ограниченно.