I.14Автоматизация процессов и AI-агенты

T3qT3qm7-7B — автоматически объединённая языковая модель на архитектуре Mistral, созданная Maxime Labonne методом DARE-TIES на основе chihoonlee10/T3Q-Mistral-Orca-Math-DPO и nlpguy/T3QM7. Она предназначена для генерации текста и диалоговых ответов, включая ответы на математические запросы. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Веса опубликованы в формате Safetensors; метаданные указывают лицензию Apache-2.0. Сведения о языках и специальных ограничениях модели в предоставленной карточке отсутствуют.

google/t5gemma-xl-xl-ul2 — предварительно обученная текстовая модель семейства T5Gemma от Google с энкодером XL и декодером XL, адаптированная с использованием UL2. Архитектура типа encoder-decoder преобразует текст в текст; веса сохранены в формате safetensors и предназначены для работы через Transformers. Модель рассчитана на английский язык. Модель подходит для генерации текста, суммаризации, ответов на вопросы и рассуждений; энкодер также можно применять в задачах классификации и понимания текста. Возможные сценарии — подготовка черновиков и кратких изложений, ответы по предоставленному тексту и NLP-исследования. В карточке не указаны размер в параметрах и длина контекста. К ограничениям относятся возможные фактические ошибки, влияние пробелов и смещений обучающих данных, трудности с неоднозначностью и сложными открытыми задачами. Лицензия — Gemma; для применения необходимо учитывать условия Gemma и политику допустимого использования.

Tess-34B-v1.4 — универсальная большая языковая модель семейства Tess, опубликованная migtissera. Она дообучена на базе Yi-34B-200K и предназначена для генерации текста и диалоговых сценариев. Модель использует плотную архитектуру LlamaForCausalLM, содержит 33,9 млрд параметров и поддерживает контекст до 200 000 токенов. Карточка описывает общий профиль модели, без специализации на конкретной предметной области. Для диалога приведён формат с ролями SYSTEM, USER и ASSISTANT. Модель опубликована в формате safetensors; лицензия указана как other, поэтому условия использования следует уточнять по полным сведениям репозитория.

Kyurem — компактная модель эмбеддингов на основе архитектуры BERT, созданная слиянием предварительно обученных моделей методом Model Stock с помощью mergekit. В слияние вошли Mihaiii/Wartortle, TaylorAI/bge-micro-v2 и TaylorAI/bge-micro; последняя указана как базовая модель. Модель предназначена для преобразования предложений и коротких текстов в векторные представления, семантического поиска и сравнения сходства. Она содержит 18,8 млн параметров, работает с контекстом до 512 токенов и доступна в форматах safetensors и ONNX через библиотеку sentence-transformers. По сведениям о базовой модели, основное назначение — англоязычные тексты. Модель распространяется по лицензии MIT. Её компактный размер удобен для поиска и сопоставления текстов с ограниченными вычислительными ресурсами; ограничения включают контекст в 512 токенов и англоязычную специализацию базовой модели.

bwang0911/word-order-bge — англоязычная модель Sentence Transformer, дообученная разработчиком на базе BAAI/bge-base-en-v1.5 для получения плотных текстовых эмбеддингов. Она предназначена для сравнения предложений и абзацев, семантического поиска, поиска перефразировок, кластеризации и классификации текста, с особым обучением на примерах, где смысл зависит от порядка слов или отрицания. Модель построена на BERT и выдаёт векторы размерности 768; сходство оценивается косинусной мерой. README указывает максимальную длину последовательности 128 токенов, а метаданные — контекст до 512 токенов. Обучение проводилось на word_orders и negation_dataset; репозиторий содержит веса в формате safetensors и использует библиотеку sentence-transformers. Лицензия в предоставленных данных не указана.

MaziyarPanahi объединил модели mistralai/Mistral-7B-Instruct-v0.2 и uukuguy/zephyr-7b-alpha-dare-0.85 методом SLERP с настройкой весов для слоёв self-attention и MLP. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для диалоговой генерации текста и выполнения инструкций. Она принимает текст и выдаёт текст; заявленная длина контекста — до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и генерации текста по инструкциям. Распространяется в формате Safetensors по лицензии Apache-2.0. В предоставленной карточке не приведены оценки качества объединённой версии или сведения о конкретных языках; характеристики базовой модели не гарантируют аналогичное качество после слияния.

Agente-GPT-Qwen-2.5-7B-Spanish_English_GGUF_32bit — локальная чат-модель для генерации текста, опубликованная Франсиско Ангуло де ла Фуэнте. Она основана на семействе Qwen 2.5 и предназначена для диалогов, автономной декомпозиции задач и взаимодействия с агентами; автор также заявляет навыки генерации кода и научных текстов. Модель содержит 7 млрд параметров и распространяется в формате GGUF F32 для запуска, в частности, через Ollama. README упоминает MCP и A2A, но наличие интерфейса вызова инструментов в метаданных не подтверждено. Заявлена поддержка испанского и английского языков. Лицензия — Apache 2.0. README предлагает использовать для подготовки научных статей отдельный конвейер P2PCLAW. Заявленные навыки и достижения приведены автором; независимые подтверждения их качества в предоставленных материалах отсутствуют.

Это GGUF-квантизованная версия языковой модели AI21-Jamba2-Mini, разработанной AI21 Labs и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio, koboldcpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. В README не указаны точные архитектурные характеристики, число параметров, поддерживаемые языки и размер контекста. Доступны варианты от BF16 до различных уровней квантования, включая Q8_0, Q6_K, Q5_K, Q4_K и Q3_K, с размером файлов примерно от 21 до 103 ГБ; выбор варианта позволяет балансировать качество и требования к памяти. Для работы используется заданный формат prompt с системным сообщением, запросом пользователя и ответом ассистента. Сильной стороной является широкий выбор квантованных вариантов: старшие варианты обеспечивают качество, близкое к исходному, а младшие подходят для систем с ограниченным объёмом RAM, но дают более низкое качество. Некоторые форматы требуют актуальной версии программного обеспечения с поддержкой модели. Лицензия — Apache 2.0.

MLX-версия модели all-MiniLM-L6-v2-4bit, созданная сообществом mlx-community на основе sentence-transformers/all-MiniLM-L6-v2. Модель предназначена для генерации текстовых эмбеддингов и задач сравнения предложений, включая оценку семантической схожести, поиск и извлечение признаков из текста. Модель использует архитектуру MiniLM с шестью слоями и 4-битным квантованием, преобразована в формат MLX с помощью mlx-lm версии 0.0.3. Она работает с библиотекой mlx-embeddings, возвращает нормализованные эмбеддинги и поддерживает вычисление сходства между текстами через скалярное произведение. В карточке указано English как язык модели; сведения о размере эмбеддингов, максимальной длине контекста и других модальностях отсутствуют. К сильным сторонам относятся компактность, 4-битное представление и возможность эффективного использования в MLX-среде для семантического поиска и сопоставления текстов. Ограничения, результаты бенчмарков и подробные требования к ресурсам в README не указаны. Модель распространяется по лицензии Apache-2.0.

SeanLee97/angle-bert-base-uncased-nli-en-v1 — модель текстовых эмбеддингов AnglE на архитектуре BERT-base-uncased, разработанная авторами AnglE. Она преобразует отдельные тексты или их списки в векторы для измерения семантической близости и поиска похожих фрагментов. В README приведены результаты на наборах задач семантического сходства STS12–STS16, STSBenchmark и SICKRelatedness; модель обучена на данных MultiNLI и SNLI. Модель содержит 136,7 млн параметров, принимает текст на английском языке и поддерживает контекст до 512 токенов. В примере использования применяется стратегия pooling cls_avg. Репозиторий содержит веса PyTorch для Transformers; лицензия — MIT. Карточка демонстрирует применение для семантического сходства и эмбеддингов, но не описывает генерацию текста или поддержку других языков.

Argus-Colqwen3.5-2b-v0 — модель для поиска по визуальным документам, разработанная группой Data Science Университета Инсбрука. Это дообученная версия Qwen/Qwen3.5-VL-2B-Instruct с 2,32 млрд параметров и мультимодальной архитектурой: она формирует многовекторные представления визуальных токенов размерностью 1024 и сопоставляет запросы со страницами документов с помощью late interaction MaxSim. Query-conditioned mixture of experts направляет регионы страницы в специализированные эксперты с учётом запроса, поэтому представление одной страницы может меняться в зависимости от того, какую информацию ищут. Модель предназначена для извлечения релевантных страниц и документов по текстовому запросу, в том числе в задачах визуального поиска по страницам документов. В README приведены результаты на ViDoRe v1 и v2; выпуск fp32 получен объединением LoRA-адаптера с базовой моделью, также существует вариант bf16. Модель принимает текстовый запрос и изображение документа и выдаёт векторы для ранжирования релевантности. Карточка описывает её как англоязычно-ориентированную; обучение также использовало мультиязычный набор, но его доля мала. Репозиторий распространяется по лицензии Apache 2.0. Ограничения: качество на языках помимо английского не оценено в этой версии, а более сложные текстовые запросы могут обрабатываться хуже, чем более крупной 4B-моделью. Маршрутизация через экспертов добавляет около 5% к задержке инференса относительно плотной базовой модели.

Atom v1 Preview 12B — это языковая модель в формате GGUF, созданная на основе vanta-research/atom-v1-preview-12b. Данный репозиторий подготовлен mradermacher и содержит imatrix-квантизации для запуска в совместимых инструментах. Модель ориентирована на диалоговые сценарии, совместную работу, обучение, исследовательскую помощь, рассуждения и решение задач. README также указывает на поддержку изображений, однако файлы mmproj размещаются в отдельном статическом репозитории. Модель имеет размер около 12 млрд параметров и заявлена для английского языка. Доступны варианты квантизации от IQ1_S до Q6_K с размером файлов примерно от 3,0 до 9,8 ГБ. В README отмечается, что IQ-квантизации часто предпочтительнее аналогичных по размеру обычных вариантов; Q4_K_M обозначен как быстрый и рекомендуемый вариант, а Q4_K_S — как оптимальный по соотношению размера, скорости и качества. Более низкие уровни квантизации экономят память, но могут заметно снижать качество. Модель может быть полезна для локальных чат-ботов, образовательных приложений, исследовательских ассистентов и задач генерации текста с элементами рассуждения. Ограничения включают предварительный статус версии, зависимость качества от выбранной квантизации, отсутствие в README данных о длине контекста и подробных результатах оценки. Указана лицензия Gemma; условия её применения следует проверять по правилам лицензии базовой модели.

sidbrahim/autotrain-NarrativesAnaloguesFINAL — дообученный энкодер предложений на базе sentence-transformers/all-MiniLM-L6-v2, созданный с помощью AutoTrain и библиотеки Sentence Transformers. Модель предназначена для получения векторных представлений и оценки семантического сходства предложений; название репозитория указывает на работу с нарративами и аналогиями, однако README не уточняет состав и область применения обучающих данных. Модель имеет архитектуру BERT и содержит 25,9 млн параметров. Она принимает текст и выдаёт эмбеддинги, пригодные для сравнения предложений; максимальная длина контекста — 512 токенов. Для базовой модели заявлена англоязычная специализация, а отдельные языки дообученной версии в карточке не обозначены. В README приведены метрики проверки: Pearson для косинусного сходства 0,947 и Spearman 0,750; эти значения относятся к валидационному набору и сами по себе не гарантируют качество на других данных. Для работы предназначена библиотека Sentence Transformers. Лицензия в предоставленных данных отсутствует, поэтому условия использования установить нельзя.

clairedhx/autotrain-transcriptions — дообученная модель эмбеддингов на архитектуре BERT, созданная с помощью AutoTrain на основе sentence-transformers/multi-qa-MiniLM-L6-cos-v1. Она предназначена для преобразования текстов в векторы и оценки семантического сходства; возможные сценарии — поиск похожих транскрипций и подбор релевантных текстовых фрагментов. Модель содержит 25,9 млн параметров, принимает текст с контекстом до 512 токенов и распространяется в формате safetensors. Для работы используется библиотека Sentence Transformers. В README указан тип задачи Sentence Transformers и приведена метрика loss 0,1244 на валидации. Карточка не уточняет язык и состав обучающих данных, поэтому пригодность для конкретного языка или предметной области по этим сведениям оценить нельзя. Лицензия в предоставленных данных не указана.

Bagel-Hermes-34B-Slerp — языковая модель для генерации текста и диалогов, созданная слиянием предварительно обученных моделей с помощью mergekit. В слияние вошли Nous-Hermes-2-Yi-34B, bagel-dpo-34b-v0.2 и nontoxic-bagel-34b-v0.2; применён метод SLERP с настройками, различающимися для слоёв внимания и MLP. Архитектура — плотная LlamaForCausalLM, размер — 33,9 млрд параметров, формат весов — safetensors, контекст — до 200 000 токенов. Модель предназначена для генерации текста и ведения диалогов. В README приведены результаты оценок на наборах задач рассуждения и следования инструкциям, включая ARC, HellaSwag, IFEval и BBH. Поддерживаемый язык в карточке не обозначен. Модель распространяется по лицензии Apache-2.0.

swardiantara/bert-tiny-snli-k5-fixed-euclidean — компактная модель Sentence Transformers, дообученная на базе google/bert_uncased_L-2_H-128_A-2. Она преобразует предложения и абзацы в плотные векторы размерности 128 для поиска и сравнения текстов; архитектура включает BERT с усредняющим pooling. Метаданные указывают 4,4 млн параметров и контекст до 512 токенов, а карточка модели задаёт максимальную длину последовательности 128 токенов. Для сравнения векторов README указывает косинусное сходство. Модель подходит для семантического поиска, подбора похожих предложений и извлечения признаков текста. Она обучалась на 6 043 097 примерах с контрастивной функцией потерь. Базовая модель англоязычная, поэтому заявленную применимость разумно ограничить английским языком. Формат весов — safetensors. Сведения о лицензии в предоставленных данных отсутствуют.

swardiantara/bert-tiny-yelp-k3-fixed-cosine — компактная модель Sentence Transformers, дообученная автором на базе google/bert_uncased_L-2_H-128_A-2. Она кодирует предложения и абзацы в плотные векторы размерностью 128 и предназначена для поиска по смыслу, извлечения текстовых признаков и сравнения текстов по косинусному сходству. Архитектура состоит из BERT с усреднением токенных представлений; модель содержит 4,4 млн параметров и работает с текстом. В README указана максимальная длина последовательности 128 токенов, тогда как метаданные сообщают контекст до 512 токенов; для практического использования следует учитывать ограничение конфигурации модели и проверять фактическую длину входа. Карточка описывает обучающий набор из 585 120 примеров с парами текстов и оценками. Модель подходит для поиска похожих отзывов и ранжирования текстов по семантической близости. Лицензия в предоставленных данных не указана.

swardiantara/bert-tiny-yelp-k3-fixed-euclidean — компактная модель Sentence Transformers, созданная дообучением google/bert_uncased_L-2_H-128_A-2. Она преобразует тексты и абзацы в плотные векторы размерностью 128 для поиска и сравнения по смыслу; сходство можно оценивать косинусной мерой. Модель обучалась на парах текстов с метками, сформированных на основе набора данных Yelp, и подходит для семантического поиска и извлечения похожих текстов. Модель принимает текст. Метаданные указывают контекст до 512 токенов, а карточка — максимальную длину последовательности 128 токенов; практический предел обработки следует считать 128 токенов. Число параметров — 4,4 млн. Базовая модель — компактный англоязычный BERT, поэтому модель ориентирована прежде всего на английский язык. Лицензия в предоставленных данных не указана.

Qdrant/bge-base-en-v1.5-onnx-Q — это квантованная версия в формате ONNX модели BAAI/bge-base-en-v1.5, опубликованная Qdrant. Модель предназначена для вычисления текстовых представлений, задач классификации текста и поиска по сходству. Модель работает с текстовыми данными на английском языке, поскольку базовая модель имеет суффикс en. Она преобразует документы и запросы в числовые векторы, которые можно сравнивать для семантического поиска, кластеризации или последующей классификации. В README указана интеграция с библиотекой FastEmbed. Ключевое преимущество модели — использование квантованного ONNX-представления, что может быть удобно для эффективного выполнения инференса в совместимых средах. При этом в README не приведены точные сведения об архитектуре, размере модели, размерности векторов, поддерживаемой длине контекста и характеристиках производительности. Ограничением также является ориентация на английский язык. Модель распространяется по лицензии Apache-2.0.

KimChen/bge-m3-GGUF — это конвертированная в формат GGUF версия модели BAAI/bge-m3. Конвертацию выполнили с помощью llama.cpp; автором репозитория и сборки указан KimChen, а исходная модель разработана командой BAAI. Модель предназначена для задач семантического сходства предложений и извлечения признаков, включая использование в системах сопоставления текстов и других сценариях sentence-transformers. Формат GGUF позволяет запускать её через llama.cpp в командной строке или в режиме сервера. В README не указаны точные архитектурные параметры, размер модели, поддерживаемые языки, модальности и исходная длина контекста; для этих характеристик предлагается обращаться к карточке BAAI/bge-m3. К сильным сторонам относятся совместимость с llama.cpp и возможность локального запуска на поддерживаемом оборудовании. Ограничения и требования к ресурсам в README подробно не описаны, а приведённый пример сервера использует контекст размером 2048 токенов. Модель распространяется по лицензии MIT.

Это англоязычная embedding-модель BGE Small English v1.5, разработанная BAAI и преобразованная в формат GGUF пользователем ChristianAzinn. Модель построена на архитектуре BERT и предназначена для получения векторных представлений текста, вычисления семантического сходства, поиска и извлечения признаков. Она поддерживает библиотеку sentence-transformers и совместима с llama.cpp и LM Studio при указанных версиях. Модель работает с английским языком и поддерживает контекст до 512 токенов. Доступны варианты с квантованием от 2 до 8 бит, а также FP16 и FP32; размеры файлов составляют примерно от 25,3 до 134 МБ. Квантованные варианты позволяют снизить требования к памяти, однако низкобитные версии могут заметно терять в качестве; в README рекомендуются Q4_K_M, Q5_K_S, Q5_K_M и Q8_0 в зависимости от приоритета между размером и сохранением качества. Модель подходит для локального семантического поиска, ранжирования и сравнения англоязычных текстов при ограниченном контексте. Ограничениями являются поддержка только английского языка, предел контекста 512 токенов и возможная потеря качества при сильном квантовании. Лицензия модели — MIT.

unsloth/bge-small-en-v1.5-GGUF — это GGUF-версия модели bge-small-en-v1.5, предназначенной для получения векторных представлений англоязычных текстов. Она относится к классу sentence-transformers и задачам feature extraction и sentence similarity, поэтому подходит для семантического поиска, сопоставления похожих предложений, классификации, кластеризации и reranking. Разработчик базовой модели в предоставленных данных не указан; модель опубликована в репозитории unsloth. Модель ориентирована на английский язык. Точные сведения об архитектуре, количестве параметров, размерности эмбеддингов, максимальной длине контекста и поддерживаемых модальностях в README не приведены. Формат GGUF предполагает использование конвертированной версии модели, однако конкретный вариант квантования также не указан. В README приведены результаты на бенчмарке MTEB: модель демонстрирует применимость к классификации, поиску, кластеризации, reranking и оценке семантического сходства; например, accuracy на AmazonPolarity составляет 92,75%, а cosine similarity Spearman на BIOSSES — 83,75%. Эти показатели характеризуют тестовые наборы и не гарантируют аналогичное качество на других данных. Сведения о лицензии и условиях использования отсутствуют.

BigQwen2.5-52B-Instruct-GGUF — это квантизированная GGUF-версия инструкционной языковой модели BigQwen2.5-52B-Instruct, разработанной mlabonne и опубликованной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая использование через llama.cpp и LM Studio. В README указан английский язык; сведения о других языках отсутствуют. Модель имеет размер 52 млрд параметров и поставляется в вариантах от F16 до низкобитных Q- и IQ-квантизаций. Доступны файлы размером примерно от 12,39 до 104,55 ГБ. Квантизация выполнена с использованием llama.cpp и imatrix; варианты Q6_K, Q5_K_L, Q5_K_M, Q4_K_L, Q4_K_M и IQ4_XS отмечены как рекомендуемые благодаря сочетанию качества и размера, тогда как более низкие уровни квантизации снижают качество, но уменьшают требования к памяти. Размер контекста и точная архитектура в README не указаны. Для работы требуется совместимое ПО, например llama.cpp или LM Studio, а также значительный объём оперативной или видеопамяти в зависимости от выбранного файла. Модель использует лицензию tongyi-qianwen; в карточке она обозначена как other и приведена ссылка на лицензию Qwen2-72B-Instruct. Условия коммерческого и иного использования следует уточнять в тексте этой лицензии.

BioPhys-13.0-Kimi-K3-DualBrain — модель генерации текста, представленная автором как нейроморфная система с архитектурой MoE и объединением Kimi-K3 и EXAONE 3.0. Карточка заявляет поддержку корейского и английского языков, контекст до 131 072 токенов и размер 36,8 млрд параметров; веса опубликованы в формате safetensors. README также описывает отдельный Rust-движок и сжатое представление весов, но эти заявления не подтверждены метаданными репозитория. Модель предназначена для диалогов и генерации текста, включая рассуждения, математику, программирование и ответы на корейском языке. Репозиторий заявляет Apache-2.0. Описанные в README показатели производительности, сжатия и снижения галлюцинаций являются заявлениями автора; независимые подтверждения в предоставленных данных отсутствуют.

CatMarcoro14-7B-slerp — объединённая языковая модель на основе Mistral, созданная с помощью LazyMergekit путём слияния cookinai/CatMacaroni-Slerp и EmbeddedLLM/Mistral-7B-Merge-14-v0.2 методом slerp. Модель содержит 7,1 млрд параметров и предназначена для генерации текста, включая ответы на запросы и решение задач на рассуждение. В README приведены результаты Open LLM Leaderboard: средний балл 73,25, включая 69,37 на AI2 Reasoning Challenge и 86,92 на HellaSwag. Модель принимает и генерирует текст; контекстное окно — 32 768 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

CoT-MAE base uncased — англоязычная модель предварительного обучения на основе BERT, разработанная авторами CoT-MAE для задач плотного поиска пассажей. Модель обучена без учителя на корпусе MS MARCO и предназначена для получения представлений предложений и поиска семантически близких фрагментов текста. В репозитории указана архитектура BertForMaskedLM, формат PyTorch, размер около 136,7 млн параметров и контекст до 512 токенов. Модель подходит как основа для семантического поиска и сравнения предложений, в том числе для retrieval-систем. Метаданные также указывают на поддержку заполнения пропусков в тексте. Карточка не приводит лицензию и подробные ограничения применения; модель описана как предварительно обученная, а не как готовый диалоговый ассистент.

teven/cross_all_bs320_vanilla_finetuned_WebNLG2020_correctness — модель Sentence Transformers на базе MPNet, преобразующая предложения и абзацы в плотные векторы размерности 768. Её можно применять для семантического поиска и кластеризации текстов. Модель принимает текст и выдаёт эмбеддинги. Архитектура насчитывает 136,7 млн параметров, а длина контекста составляет 514 токенов. Репозиторий содержит веса PyTorch. Название указывает на дообучение для задачи проверки корректности на данных WebNLG 2020, однако README не приводит подробностей методики или результатов этой настройки. Лицензия в предоставленных данных не указана.

Daredevil-7B — объединённая языковая модель, созданная с помощью LazyMergekit на основе Mistral-7B-v0.1, SamirGPT-v1, Slerp-CM-mist-dpo и Mistral-7B-Merge-14-v0.2. В репозитории указаны метод слияния dare_ties и точность bfloat16. Модель построена на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров; длина контекста — 32 768 токенов. Модель предназначена для генерации текста и общих задач с языковой моделью. В README приведены результаты оценки на бенчмарках рассуждений и здравого смысла, включая AI2 Reasoning Challenge и HellaSwag. Репозиторий распространяется по лицензии Apache-2.0. Языки и специальные прикладные области в предоставленных данных не обозначены.

mlx-community/DeepSeek-R1-Distill-Qwen-32B-4bit — это 4-битная квантованная версия модели DeepSeek-R1-Distill-Qwen-32B, разработанная сообществом mlx-community и преобразованная из исходной модели deepseek-ai/DeepSeek-R1-Distill-Qwen-32B в формат MLX с использованием mlx-lm версии 0.20.2. Модель предназначена для генерации текста и диалогового использования в экосистеме MLX, в частности через библиотеку mlx-lm. В README приведён пример запуска с чат-шаблоном токенизатора, поэтому её можно использовать для ответов на запросы и интерактивного общения. Архитектура, число параметров, поддерживаемые языки, модальности и размер контекста в предоставленных данных не указаны. Ключевая характеристика модели — 4-битное представление, ориентированное на более эффективное использование памяти при локальном запуске в MLX. Ограничения, точные сильные стороны, лицензия и условия распространения в README не указаны. Для работы требуется установить библиотеку mlx-lm.

mlx-community/DeepSeek-V3.1-8bit — это 8-битная версия модели DeepSeek-V3.1, преобразованная сообществом mlx-community в формат MLX из исходной модели deepseek-ai/DeepSeek-V3.1. Модель предназначена для генерации текста и локального использования через библиотеку mlx-lm на устройствах, поддерживающих MLX. Она может применяться для диалогов и других задач текстовой генерации; в README приведён пример использования с chat template и сообщениями в формате ролей. Ключевые характеристики — формат MLX, 8-битное представление весов и тег text-generation. Конвертация выполнена с помощью mlx-lm версии 0.26.3. Данные о точном размере модели, архитектуре, поддерживаемых языках и длине контекста в README не указаны. Сжатое 8-битное представление может быть удобно для локального запуска, однако конкретные требования к памяти, производительность и качество по сравнению с исходной моделью не описаны. Модель распространяется по лицензии MIT.