II.6Документация и сопровождение разработки

Qwen3-VL-8B-Interleave-Thinking-i1-GGUF — квантованная GGUF-версия мультимодальной модели hxssgaa/Qwen3-VL-8B-Interleave-Thinking, подготовленная mradermacher. Модель предназначена для обработки текста и изображений, включая ответы на вопросы по изображениям, визуальный анализ, агентские сценарии, function calling и задачи с пошаговым рассуждением. В карточке также указана обучающая выборка xlam-interleave-thinking-40k. Модель относится к семейству Qwen3-VL и содержит 8 миллиардов параметров. Она поддерживает мультимодальный режим image-text-to-text; заявленный язык — английский. Контекстное окно, точная архитектура визуального компонента и дополнительные языковые возможности в README не указаны. Репозиторий предоставляет набор вариантов квантования с разным размером и компромиссом между скоростью, качеством и требованиями к памяти; среди рекомендуемых отмечены i1-Q4_K_M и i1-Q4_K_S. Для работы с изображениями могут потребоваться отдельные mmproj-файлы из статического репозитория. Сильными сторонами являются сочетание визуального понимания, рассуждений и поддержки агентских функций, а также возможность локального запуска через GGUF. Ограничения связаны с потерями качества, зависящими от выбранного уровня квантования, и отсутствием в карточке подробных результатов тестирования, данных о контекстном окне и инструкций по конкретным рантаймам. Распространение указано по лицензии Apache-2.0.

Qwopus3.5-9B-Coder-GGUF — экспериментальная community-модель, основанная на Jackrong/Qwopus3.5-9B-v3.5 и предназначенная для локального запуска в формате GGUF. Она дообучена с использованием Trace Inversion, агентских трасс и данных для reasoning, включая наборы lambda/hermes-agent-reasoning-traces и материалы TraceInversion от Jackrong. Модель ориентирована прежде всего на agentic coding, логическое рассуждение, сложный tool calling и function calling. Модель имеет плотную архитектуру размером 9B параметров и поддерживает текстовые и визуальные сценарии. Заявлены возможности работы с изображениями, программированием, отладкой, задачами на уровне репозитория, терминальными командами, файловыми операциями и браузерами. Поддерживаемые языки включают английский, китайский, испанский, русский и японский. Для включения vision требуется отдельный файл mmproj.gguf из репозитория GGUF. README не указывает размер контекстного окна. К сильным сторонам относятся компактность, пригодность для запуска на устройствах с 16 ГБ RAM при 8-битной точности, улучшенная структурированность рассуждений и ориентация на агентские рабочие процессы. При этом модель выпущена как экспериментальная версия для исследований и изучения, не проходила комплексную оценку общих возможностей, поэтому в непрофильных и не связанных с программированием задачах возможна деградация качества. Модель распространяется по лицензии Apache-2.0.

Qwopus3.6-35B-A3B-Coder-MTP-GGUF — экспериментальная общественная модель от Jackrong, созданная на основе Qwopus3.6-35B-A3B-v1 и unsloth/Qwen3.6-35B-A3B. Это дообученная модель для программирования и агентных сценариев, ориентированная на локальные рабочие процессы, в которых модель читает файлы, выбирает инструменты, изменяет код, запускает тесты, анализирует ошибки и подводит итоги. Модель использует архитектуру Mixture of Experts с 35 млрд общих и примерно 3 млрд активных параметров. Она рассчитана на режим без явно отображаемого длительного рассуждения, что должно снижать расход токенов и задержку в повторяющихся циклах работы агента. Поддерживаются генерация текста, работа с изображениями и текстом, вызов инструментов и function calling; заявлена совместимость с агентными оболочками в стиле Codex, OpenHands, Claude Code и OpenCode. В метаданных указаны языки английский, китайский, испанский, русский и японский. Размер контекста в README не указан. Сильные стороны модели — эффективность MoE, ориентация на быстрые циклы программирования, отладку и использование инструментов, а также пригодность для локального запуска в формате GGUF. Ограничения связаны с экспериментальным статусом, отсутствием подтверждённых в README количественных оценок качества и неопределённостью характеристик в конкретных задачах; заявленные возможности требуют самостоятельной проверки. Модель распространяется по лицензии Apache-2.0.

kwondw/reranker-distilroberta-base-nli — это англоязычный Cross-Encoder на базе distilbert/distilroberta-base, дообученный автором на наборе all-nli с помощью библиотеки Sentence Transformers. Модель совместно обрабатывает пару текстов и выдаёт оценки по трём классам, поэтому подходит для классификации отношений между предложениями и оценки их сходства. Число параметров — 95,2 млн, максимальная длина последовательности — 512 токенов. Модель можно применять для проверки следования гипотезы из посылки, сравнения текстовых пар и ранжирования кандидатов по релевантности к запросу. В README приведены результаты классификации на ALLNLI-dev и AllNLI-test: macro F1 0,8226 и 0,7575 соответственно. Для работы требуется библиотека Sentence Transformers. Лицензия в предоставленных данных не указана.

KBLab, лаборатория данных Национальной библиотеки Швеции, разработала эту модель на базе BERT для получения плотных векторных представлений шведских и английских предложений и абзацев. Это sentence-transformers bi-encoder размером 151,9 млн параметров; он отображает текст в векторы размерности 768 и поддерживает входную последовательность до 512 токенов. Модель предназначена для оценки семантического сходства, семантического поиска и кластеризации текстов. Шведская KB-BERT обучалась как student-модель с помощью дистилляции знаний от английской all-mpnet-base-v2. В README приведены результаты оценки на шведских наборах SweParaphrase и SweFAQ; версия v2.0 показала лучшие результаты на задаче поиска ответов в SweFAQ v2.0 среди перечисленных версий. Модель принимает текст и выдаёт векторы, пригодные для сравнения и поиска. Распространяется по лицензии Apache-2.0. Результаты оценки относятся к указанным шведским бенчмаркам; качество на других языках и типах текстов может отличаться.

Casual-Autopsy/snowflake-arctic-embed-l-v2.0-gguf — это GGUF-квантизированная версия мультиязычной модели для создания текстовых эмбеддингов, основанная на Snowflake/snowflake-arctic-embed-l-v2.0 и подготовленная с использованием llama.cpp. Разработчик исходной модели — Snowflake. Модель предназначена для семантического поиска, информационного поиска и retrieval-сценариев, включая корпоративный мультиязычный поиск в большом масштабе. Модель содержит 568 млн параметров, из которых 303 млн не относятся к эмбеддингам, формирует векторы размерностью 1024 и поддерживает контекст до 8192 токенов. Она рассчитана на работу с широким набором языков, включая английский, русский, китайский, японский, арабский и многие другие. Поддерживаются Matryoshka Representation Learning и обучение с учетом квантования, благодаря чему размерность векторов можно сокращать до 256 с небольшим снижением качества, а совместно с Int4-квантованием получать векторы размером до 128 байт. Сильные стороны модели — высокое качество англоязычного и мультиязычного поиска, эффективность инференса, поддержка длинного контекста и удобная компрессия эмбеддингов. Ограничения включают специализированность на получении векторных представлений, а также возможное снижение качества при усечении размерности и агрессивном квантовании. Исходная модель распространяется по лицензии Apache 2.0; для конкретной GGUF-сборки в README отдельная лицензия не указана.

Snowflake Arctic Embed S — компактная модель текстовых эмбеддингов, разработанная Snowflake для качественного поиска по смыслу. Она основана на intfloat/e5-small-unsupervised и обучена в несколько этапов на парах запросов и документов, а затем на триплетах с трудными отрицательными примерами. Архитектура — BERT; модель содержит около 40 млн параметров по метаданным, формирует векторы размерности 384 и принимает до 512 токенов. Модель предназначена для семантического поиска по большим коллекциям, сопоставления запросов с документами и построения retrieval-компонента для RAG. В README для неё указан результат 51,98 по MTEB Retrieval NDCG@10; заявленный профиль ориентирован на высокую точность при небольшом размере и масштабировании на большие наборы данных. Модель принимает текст и выдаёт эмбеддинги; сведения указывают на англоязычную основу и не подтверждают поддержку других языков. Модель опубликована по лицензии Apache-2.0. Она формирует эмбеддинги, а не готовые ответы, поэтому для поиска обычно требуется индексирование векторов и отдельный механизм ранжирования или генерации. В README отмечено, что более новые версии Arctic Embed рассчитаны на многоязычные сценарии и рекомендуются вместо прежних версий.

second-state/StarCoder2-3B-GGUF — это квантованная в формате GGUF версия языковой модели StarCoder2 3B, разработанной командой BigCode и подготовленной к распространению компанией Second State Inc. Модель предназначена для генерации и дополнения программного кода, а также других сценариев работы с текстом, связанных с программированием. В карточке указана интеграция с библиотекой Transformers и назначение text-generation. Модель основана на bigcode/starcoder2-3b и имеет размер 3 миллиарда параметров. Доступны варианты квантования от 2 до 8 бит с размером файлов примерно от 1,15 до 3,22 ГБ. Заявленный размер контекста — 3072 токена. Представлены различные уровни компромисса между размером файла и качеством: Q4_K_M, Q5_K_M и Q5_K_S отмечены как рекомендуемые, тогда как варианты с более низкой разрядностью могут заметно терять в качестве. Основное преимущество модели — возможность локального запуска при относительно небольшом объёме памяти, особенно в низкоразрядных вариантах. Ограничения включают потерю качества из-за квантования, наиболее выраженную у Q2 и Q3, а также отсутствие в README сведений о поддерживаемых языках программирования и естественных языках, точной архитектуре, мультимодальности и результатах оценки. Указана лицензия bigcode-openrail-m.

TensorFluxEmbedder — англоязычная модель векторных представлений текста, дообученная IstishadAlamTishad на базе nomic-ai/modernbert-embed-base для семантического поиска. Она охватывает общий язык, веб-поиск, научную литературу и юридические документы и предназначена для получения эмбеддингов запросов и документов в сценариях информационного поиска и RAG. Модель построена на ModernBERT, содержит 149 млн параметров и принимает до 8192 токенов. Размер эмбеддинга можно сокращать при использовании с 768 до 512, 256, 128 или 64 измерений без повторного обучения; в README вариант 256 измерений рекомендован для поиска с низкой задержкой и меньшим расходом памяти. Для лучшего качества поиска нужно задавать префикс search_query: для запросов и search_document: для документов. В README приведены результаты оценки на наборах SciFact и юридическом корпусе; качество зависит от размерности и конкретного корпуса. Модель обучена только на английских текстах, длинные входы свыше 8192 токенов обрезаются, а эффективность на других языках и юридических коллекциях не подтверждена. Она оптимизирована для плотного поиска и не предназначена для классификации, NLI или работы как cross-encoder. Лицензия — Apache-2.0.

GanymedeNil/text2vec-base-chinese — китайская модель для получения векторных представлений предложений и оценки их семантического сходства. Согласно карточке, она создана на основе LERT вместо MacBERT при сохранении остальных условий обучения. Модель построена на архитектуре BERT, содержит 129,5 млн параметров и принимает текстовые последовательности длиной до 512 токенов. Модель предназначена для сравнения китайских предложений по смыслу и может применяться в поиске похожих текстов, семантическом поиске и подборе релевантных фрагментов. Доступны веса в формате PyTorch; лицензия — Apache-2.0. Карточка также сообщает о версии для ONNX Runtime.

Truss Python — специализированная дообученная модель Truss AI для генерации и объяснения кода на Python. Она основана на Qwen/Qwen3-4B-Instruct-2507 и использует архитектуру Qwen3ForCausalLM; карточка указывает 4 млрд параметров и контекст до 262 144 токенов. Модель распространяется в формате GGUF с квантизацией Q4_K_M и адаптацией LoRA, рассчитана на локальный запуск, в том числе через Ollama. Модель предназначена для генерации аккуратно структурированного кода, решения алгоритмических задач и помощи с асинхронным программированием, стандартной библиотекой Python и структурами данных. Она ориентирована на аннотации типов, документацию в стиле Google, обработку ошибок и синтаксис Python 3.10+. Лицензия — Apache 2.0. Карточка описывает поддержку английского языка; качество кода и корректность результатов следует проверять, особенно для сложных задач и кода, используемого в production.

Unlimited-OCR — мультимодальная модель семейства Unlimited-OCR для распознавания текста и разбора документов по изображениям. Авторы позиционируют её как развитие Deepseek-OCR для однопроходного анализа документов с длинным горизонтом обработки. Модель содержит 559,7 млн параметров, использует плотную архитектуру и поддерживает контекст до 32 768 токенов; для запуска описаны Transformers на NVIDIA GPU и сервер SGLang с API, совместимым с OpenAI. Модель предназначена для OCR и извлечения текстовой информации из изображений документов, а также для задач генерации текста по визуальному вводу. В карточке указана поддержка многоязычных сценариев. Репозиторий содержит веса в формате safetensors и распространяется по лицензии MIT. README не приводит количественных оценок качества или подробностей о поддерживаемых языках и видах документов.

ZDTaichu5.0-9B-GGUF — мультимодальная foundation-модель, разработанная командой Taichu AI. Она предназначена для общего визуального понимания, пространственного рассуждения, агентского использования инструментов и исследований в области embodied AI. Модель работает с текстом, отдельными и множественными изображениями, а также видео; заявлена поддержка английского и китайского языков. В основе используется языковой декодер Qwen3.5-9B и vision-энкодер C-RADIOv4-H. Модель поддерживает контекст до 128K токенов и визуальный ввод произвольного разрешения. Она рассчитана на понимание изображений, документов, таблиц, графиков, диаграмм и OCR, визуальную математику, ответы на вопросы с опорой на визуальные данные, анализ нескольких ракурсов и видео, локализацию объектов, координаты и bounding boxes, 2D- и 3D-пространственные отношения, перспективу, планирование действий и понимание affordances. К сильным сторонам относятся широкий профиль визуальных возможностей, пространственное и embodied-рассуждение, многошаговое и многотуровое использование инструментов, а также Entropy-Gated Adaptive Recurrent Reasoning, динамически выделяющий дополнительные итерации обработки для сложных токенов. GGUF-артефакты совместимы с llama.cpp, Ollama и другими GGUF-инструментами; доступны варианты квантования языковой модели и vision-энкодера для CPU и NVIDIA GPU с CUDA. Исполнение инструментов моделью самостоятельно не выполняется и должно быть реализовано и защищено окружающим приложением. Лицензия в представленном README не указана.

Карточка модели punitkandoi/zerank-1-small-reranker на Hugging Face совпадает с карточкой zeroentropy/zerank-1-small-reranker, поэтому описание составлено по ней. zerank-1-small — компактная модель-реранкер компании zeroentropy на 1,7 млрд параметров, дообученная на базе Qwen/Qwen3-4B. Она оценивает релевантность пар «запрос — документ» и сортирует найденные документы, чтобы повысить точность поисковой или RAG-системы. Модель использует плотную архитектуру Qwen3 и библиотеку sentence-transformers; по метаданным поддерживает контекст до 40 960 токенов. Модель предназначена для повторного ранжирования результатов поиска, в том числе в задачах по коду, финансам и диалоговым запросам. В README разработчик сообщает, что она близка по качеству к более крупной zerank-1 и превосходит ряд популярных реранкеров на приведённых оценках NDCG@10. Репозиторий распространяется по лицензии Apache 2.0. Это англоязычная модель общего назначения с прикладными оценками для кода и финансовых запросов. Поскольку она основана на Qwen3-4B и метаданные также указывают на поддержку генерации текста, её архитектурные возможности могут выходить за рамки ранжирования; основное назначение модели — оценка релевантности и сортировка кандидатов.

BERT large cased — предварительно обученная языковая модель семейства BERT, выпущенная Google. Она обучена на английских текстах BookCorpus и Wikipedia с помощью masked language modeling и предсказания следующего предложения. Модель различает регистр букв, использует WordPiece с словарём на 30 000 токенов и поддерживает контекст до 512 токенов. В конфигурации 24 слоя, скрытое представление размерности 1024 и 16 голов внимания; метаданные каталога указывают 432,3 млн параметров. Основное применение исходной модели — заполнение замаскированных слов и получение контекстных представлений для последующей настройки на классификацию последовательностей и токенов или ответы на вопросы. Она рассчитана на задачи, где анализируется полный входной текст, и не предназначена для свободной генерации текста. Обучающие данные ограничены английским BookCorpus и английской Wikipedia, а предсказания могут отражать смещения данных. Лицензия — Apache-2.0.

bge-reranker-v2-m3-GGUF — GGUF-квантизированная версия модели bge-reranker-v2-m3, разработанной BAAI. Модель предназначена для переранжирования результатов поиска: принимает запрос и документ или фрагмент текста и напрямую вычисляет оценку их релевантности, а не создаёт эмбеддинги. Это делает её подходящей для семантического поиска, retrieval-систем и сценариев, где требуется упорядочить найденные документы по соответствию запросу. Модель основана на bge-m3 и обладает мультиязычными возможностями; конкретный набор поддерживаемых языков и размер контекста в README не указаны. Оценку релевантности можно использовать напрямую или преобразовать в диапазон от 0 до 1 с помощью сигмоидальной функции. Ключевыми преимуществами заявлены компактность, простота развёртывания, высокая скорость инференса и поддержка мультиязычных сценариев. README не содержит сведений о точном размере модели, параметрах, формате квантования или измерениях качества, поэтому эти характеристики оценить нельзя. Распространяется по лицензии Apache-2.0. GGUF-квантизация выполнена на основе указанного релиза llama.cpp; для исходной модели приведена ссылка на BAAI/bge-reranker-v2-m3.

teven/bi_all_bs160_allneg_finetuned_WebNLG2020_correctness — модель Sentence Transformers на базе архитектуры MPNet, разработанная автором teven. Она преобразует предложения и абзацы в плотные векторы размерности 768 для вычисления семантического сходства, кластеризации и семантического поиска. Модель содержит 136,7 млн параметров, принимает текст и выдаёт векторные представления; максимальная длина контекста — 514 токенов. Модель дообучена с функцией потерь CosineSimilarityLoss; название указывает на обучение на данных WebNLG2020 для оценки корректности. Её можно применять для поиска текстов со сходным смыслом и группировки текстовых фрагментов. Данных о лицензии и поддерживаемых естественных языках в доступных источниках нет.

Hemg/biology-english-pancasila-2 — модель Sentence Transformers на базе BERT для преобразования предложений и абзацев в плотные векторы размерностью 384. Её можно использовать для поиска семантически похожих текстов, кластеризации и семантического поиска. Модель обучалась с функцией потерь MultipleNegativesRankingLoss и косинусным сходством. По метаданным, она содержит около 40 млн параметров, принимает текст с контекстом до 512 токенов и распространяется в формате safetensors. Название указывает на тематику биологии и английский язык, однако README и метаданные не подтверждают специализацию или набор языков обучения. Для использования требуется библиотека sentence-transformers. Лицензия в предоставленных данных не указана.

CodeGemma 7B IT GGUF — квантизированная версия instruction-tuned модели CodeGemma 7B, разработанной Google и подготовленной в формате GGUF пользователем bartowski. Модель предназначена прежде всего для генерации и обработки программного кода, включая написание функций и ответы на запросы разработчиков. Она работает с текстовыми запросами через llama.cpp и использует специальный шаблон диалога с маркерами ролей; системные сообщения не поддерживаются. Доступны варианты квантизации от Q8_0 до IQ1_S размером примерно от 2,16 до 9,07 ГБ. Более высокие уровни квантизации обеспечивают лучшее сохранение качества, но требуют больше памяти, тогда как малые варианты подходят для ограниченных ресурсов за счёт заметного снижения качества. README не содержит сведений о размере контекста, поддерживаемых языках, мультимодальности или точной архитектуре базовой модели, поэтому эти характеристики нельзя определить по представленным данным. Модель удобна для локального запуска и выбора компромисса между качеством, скоростью и потреблением памяти. Ограничениями являются отсутствие поддержки system prompt и неизбежная потеря качества при использовании низкобитных вариантов. Распространение регулируется лицензией Google Gemma; ссылка на условия использования указана как https://ai.google.dev/gemma/terms.

Code Llama 70B — авторегрессионная языковая модель семейства Llama, разработанная Meta. Этот репозиторий содержит базовую версию модели в формате Transformers с 68,7 млрд параметров; она предназначена для генерации и понимания кода и поддерживает автодополнение кода. Модель принимает текст и генерирует текст, использует плотную архитектуру Transformer и имеет контекстное окно 16 384 токена. Модель подходит для дополнения фрагментов кода и адаптации к задачам синтеза и анализа программ. Это базовая версия: она не настроена для диалогов и следования инструкциям, а специализированная версия для Python и infilling в карточке не отмечены. Модель предназначена для английского языка и языков программирования; README предостерегает от использования на других естественных языках. Возможны неточные или нежелательные ответы, поэтому перед внедрением нужна проверка для конкретного сценария. Использование регулируется лицензией Meta Llama 2, указанной в метаданных; условия лицензии следует соблюдать.

CodeLlama 70B Instruct — языковая модель для генерации и обработки программного кода, разработанная Code Llama и представленная в формате GGUF компанией Second State Inc. Это квантизированная версия исходной модели codellama/CodeLlama-70b-Instruct-hf, предназначенная для сценариев программирования и диалогового следования инструкциям. Указана поддержка языка кода; другие языки и мультимодальные возможности не заявлены. Модель содержит 70 млрд параметров и использует контекст размером 8192 токена. Доступны варианты квантизации Q2_K, Q3_K, Q4 и Q5 с размером файлов примерно от 25,5 до 48,8 ГБ. Вариант Q4_K_M обозначен как рекомендуемый сбалансированный по качеству и размеру, а Q5_K_M и Q5_K_S — как варианты с минимальной потерей качества. Более сильная квантизация уменьшает требования к ресурсам, но может заметно снижать качество ответов. Модель может запускаться как сервис LlamaEdge версии 0.2.11 и выше, однако в README указано, что она работает только в режиме без потоковой передачи. Для использования требуется специальный шаблон prompt codellama-super-instruct. Модель распространяется по лицензии llama2; дополнительные условия лицензии в предоставленных данных не уточняются.

CursorCore-DS-1.3B — модель из серии CursorCore, разработанной Hao Jiang, Qi Liu, Rui Li, Shengyu Ye и Shijin Wang для помощи в программировании. Она дообучена на базе deepseek-ai/deepseek-coder-1.3b-base и предназначена для генерации кода и диалоговой поддержки в сценариях AI-помощника программиста, включая редактирование кода, встроенный чат и автодополнение. Модель использует плотную архитектуру семейства LLaMA с причинно-следственной языковой моделью на 1,3 млрд параметров. Она принимает текстовые запросы и контекст с кодом и генерирует текст, включая программный код; заявленная длина контекста — 16 384 токена. README показывает сценарии обычного чата и взаимодействия с кодом, но примеры для конкретной модели частично используют другие модели CursorCore. Лицензия указана как other, поэтому условия использования следует сверять с карточкой модели.

Карточка модели TechxGenus/CursorCore-DS-1.3B-LC на Hugging Face совпадает с карточкой TechxGenus/CursorCore-DS-1.3B, поэтому описание составлено по ней. CursorCore-DS-1.3B — модель из серии CursorCore, разработанной Hao Jiang, Qi Liu, Rui Li, Shengyu Ye и Shijin Wang для помощи в программировании. Она дообучена на базе deepseek-ai/deepseek-coder-1.3b-base и предназначена для генерации кода и диалоговой поддержки в сценариях AI-помощника программиста, включая редактирование кода, встроенный чат и автодополнение. Модель использует плотную архитектуру семейства LLaMA с причинно-следственной языковой моделью на 1,3 млрд параметров. Она принимает текстовые запросы и контекст с кодом и генерирует текст, включая программный код; заявленная длина контекста — 16 384 токена. README показывает сценарии обычного чата и взаимодействия с кодом, но примеры для конкретной модели частично используют другие модели CursorCore. Лицензия указана как other, поэтому условия использования следует сверять с карточкой модели.

DeepSeek-Coder-V2-Base — базовая языковая модель для кода, разработанная DeepSeek. Это продолженное предобучение промежуточного чекпойнта DeepSeek-V2 на дополнительных 6 триллионах токенов; модель использует архитектуру Mixture-of-Experts семейства DeepSeek-V2. Для данного репозитория в метаданных указаны 18,1 млрд параметров, а контекст составляет до 163 840 токенов. Модель предназначена для генерации и продолжения кода, вставки кода в заданный фрагмент, а также для задач программирования и математических рассуждений. README заявляет поддержку 338 языков программирования и сохранение возможностей для общих языковых задач; её можно запускать через Transformers и vLLM. Это базовая, а не instruct-версия, поэтому README не описывает её как специально настроенную для следования пользовательским инструкциям. В README указана лицензия, но её тип в доступных данных не раскрыт; перед использованием следует проверить условия лицензирования в репозитории. Для запуска полной BF16-версии README приводит требование 8 GPU с 80 ГБ памяти каждая.

DeepSeek-Coder-V2-Lite-Instruct — языковая модель для работы с программным кодом, разработанная командой DeepSeek. Представленная версия mlx-community/DeepSeek-Coder-V2-Lite-Instruct-4bit-mlx была преобразована из исходной модели deepseek-ai/DeepSeek-Coder-V2-Lite-Instruct в формат MLX с использованием mlx-lm 0.16.0. Модель предназначена для генерации кода и интерактивного решения задач программирования в формате инструкций. Она может использоваться через библиотеку mlx-lm, например для получения ответа на текстовый запрос. Версия имеет 4-битное представление и ориентирована на запуск в экосистеме MLX, однако сведения о точном размере, архитектуре, поддерживаемых языках программирования, модальностях и длине контекста в README не указаны. К сильным сторонам относятся адаптация к MLX и 4-битное представление, потенциально снижающее требования к памяти при локальном запуске. Ограничения связаны с отсутствием в предоставленных данных подробных характеристик качества, производительности и совместимости, а также с ориентацией на среду MLX. Модель распространяется по лицензии deepseek-license; в карточке она обозначена как other.

DISASTER_MODEL_PRECHATS — модель на основе BERT, опубликованная пользователем omarelsayeed. Она преобразует предложения и абзацы в плотные векторы размерностью 256 для сравнения текстов по смыслу, семантического поиска и кластеризации. Модель можно использовать через библиотеку Sentence-Transformers либо Transformers с подходящей операцией pooling; в метаданных указаны 12,4 млн параметров и контекст до 512 токенов. Модель принимает текст и выдаёт векторные представления. Карточка описывает обучение с LoggingDenoisingAutoEncoderLoss, но не приводит сведения о языках обучения, датасете или результатах оценки. Репозиторий содержит веса PyTorch; лицензия в предоставленных данных не указана.

DocumentFigureClassifier-v2.5 — модель классификации изображений, разработанная проектом Docling и основанная на Google EfficientNet-B0, дообученной на подмножестве датасета HuggingFace/finepdfs. Она относит изображения из документов к одной из 26 категорий, включая логотипы, фотографии, значки, чертежи, графики, таблицы, схемы, карты, подписи, штампы и QR-коды. Модель предназначена для анализа содержимого PDF и других документов: она помогает распознавать типы иллюстраций и направлять их на подходящую последующую обработку. В README приведена оценка на отложенной выборке finepdfs: точность составляет 0,907, сбалансированная точность — 0,688, а Macro F1 — 0,689. Модель доступна в форматах ONNX и safetensors и распространяется по лицензии MIT. Показатели по отдельным классам различаются, поэтому качество может быть ниже для редких или похожих категорий; модель обучалась на подмножестве finepdfs, и её результаты могут зависеть от состава входных документов. README не описывает требования к размеру входного изображения или полный процесс предобработки.

Экспериментальная копия весов dots.ocr от RedNote HiLab с исправленной конфигурацией для запуска через Transformers. Модель предназначена для анализа изображений документов и преобразования их содержимого в текст, в том числе в формате Markdown; архитектура — плотная модель DotsOCRForCausalLM с 1,5 млрд параметров, работающая с изображениями и текстом. В метаданных указан контекст до 131 072 токенов и поддержка английского языка. Исправление устраняет ошибку инициализации video_processor, из-за которой инференс не запускался в актуальных версиях Transformers. Репозиторий содержит веса в формате safetensors и имеет лицензию MIT. Автор карточки называет эту версию экспериментальной и рекомендует более новые версии исходной модели; также указано, что скопированные веса нельзя использовать для других целей.

F2LLM-v2-0.6B-Preview — многоязычная модель эмбеддингов от CodeFuse AI, дообученная на базе Qwen3-0.6B. Она обучена на корпусе из 27 миллионов примеров на более чем 100 естественных и программных языках и предназначена как основа для задач эмбеддингов, последующей настройки и исследований. Это плотная модель семейства Qwen3 с 507,9 млн параметров и контекстом до 40 960 токенов; доступны веса в формате safetensors и работа через Transformers и Sentence Transformers. Модель подходит для кодирования текста в векторы для поиска, сопоставления текстов и других downstream-задач с эмбеддингами. Эта preview-версия обучена без инструкций, поэтому её следует рассматривать как базовую модель для дальнейшей настройки, а не как готовую инструкционную систему. Лицензия — Apache-2.0.

mavis-ai/Gemma4-E2B-MLX — пакет модели Google Gemma 4 E2B Instruction-Tuned, подготовленный для локального запуска через MLX на компьютерах Apple Silicon. Это плотная мультимодальная модель класса Gemma4 с архитектурой Gemma4ForConditionalGeneration; пакет воспроизводит веса исходной модели google/gemma-4-E2B-it и не содержит дообучения или квантизации. В представленном репозитории указаны формат safetensors и точность BF16. Модель предназначена для диалогов, анализа изображений и текстовых ответов. В README отдельно отмечены сценарии локального RAG, маршрутизации запросов, лёгкой оценки и повторяющихся задач агентных систем. Лицензия пакета — Apache-2.0; использование также подчиняется условиям Google Gemma. Параметры контекста и поддерживаемые языки в предоставленных данных не описаны.