I.4Обработка документов и форм

Это конвертированная в формат MLX версия Gemma 3 27B IT, подготовленная сообществом mlx-community на основе google/gemma-3-27b-it. Модель представляет собой плотную мультимодальную архитектуру Gemma 3 с 27 млрд параметров и предназначена для диалогов, в которых нужно понимать изображения и создавать текст; метаданные также отмечают возможность чата и vision. README рекомендует использовать её с библиотекой mlx-vlm. Модель подходит для ответов на вопросы об изображениях и мультимодальных диалогов. Репозиторий содержит веса в формате safetensors. Указана лицензия Gemma; условия применения определяются её положениями.

Gemma 3n E4B IT MLX BF16 — конвертированная для MLX версия мультимодальной модели Google Gemma 3n E4B IT, подготовленная командой LM Studio для запуска на компьютерах Apple Silicon. Она предназначена для диалогов и задач «изображение-текст»: модель принимает текст и изображения и формирует текстовые ответы. Исходная модель также поддерживает аудио- и видеосценарии, однако метаданные этого репозитория подтверждают только image-text-to-text и возможность работы с изображениями. Репозиторий содержит веса в формате safetensors с точностью bfloat16; заявлена оптимизация для Apple Silicon. Это не отдельное дообучение: основа — google/gemma-3n-E4B-it. Лицензия — Gemma; условия её использования определяются лицензией Google Gemma. Модель может генерировать неточные или неподходящие ответы, поэтому результаты следует проверять.

pugant подготовил ROCmFP4-STRIX_LEAN — квантизованную GGUF-версию grug-35b-v2, мультимодальной модели семейства Qwen3.5-VL-MoE с 35 млрд параметров и примерно 3 млрд активных параметров на токен. Она принимает текст и изображения и предназначена для диалогового инференса с визуальными запросами, а также для обычного текстового чата. Квантизация Q4_0_ROCMFP4_STRIX_LEAN занимает около 17,3 ГиБ; для работы с изображениями требуется отдельный vision-проектор в формате F16. Версия оптимизирована и проверена на AMD Strix Halo с графикой gfx1151 через сборку ROCmFPX с поддержкой пользовательского формата GGUF; стандартный llama.cpp этот формат не загружает. Автор приводит скорость генерации и обработки промптов, но не публикует оценок качества модели. Репозиторий указывает лицензию Apache-2.0; базовая модель также распространяется под Apache-2.0. Модель может работать на английском и поддерживает многоязычные сценарии, однако конкретный перечень языков в карточке не приведён.

Jan-v2-VL-low — мультимодальная модель на 8 млрд параметров, разработанная командой Jan и основанная на Qwen/Qwen3-VL-8B-Thinking. Вариант low оптимизирован для меньшей задержки при выполнении многошаговых задач в программных средах, включая браузеры и настольные приложения. Модель принимает изображения и текст, чтобы выполнять пошаговую автоматизацию интерфейсов, следовать сложным инструкциям, удерживать промежуточное состояние и восстанавливаться после небольших ошибок выполнения. Она рассчитана на сценарии, где план или необходимые знания можно задать заранее, а важны устойчивое исполнение и минимальное отклонение от задачи; предусмотрена интеграция с Jan App и вызов инструментов. В README сообщается, что по стандартным текстовым и визуальным задачам качество не уступает базовой модели, а на отдельных задачах и бенчмарке длинных цепочек выполнения показывает улучшение. Модель распространяется по лицензии Apache-2.0. Карточка не приводит длину контекста и перечень поддерживаемых языков; в метаданных указан английский.

llm-jp-4-vl-9b-GGUF-v0.1 — неофициальная конверсия модели llm-jp/llm-jp-4-vl-9b в формат GGUF, опубликованная tokinasin. Это мультимодальная модель для преобразования изображений и текста в текст, ориентированная на работу с японским и английским языками. Модель предназначена для диалогов и анализа изображений в окружении llama.cpp. В состав поставки входят файл модели GGUF и отдельный мультимодальный проектор mmproj; в примере запуска используется контекст длиной 8192 токена. Поддерживается обработка нескольких изображений, а параметр reasoning_effort позволяет управлять интенсивностью рассуждений. Для сохранения возможностей рассуждения рекомендуется использовать квантизацию Q6_K или выше, поскольку в Q4_K_M рассуждение часто пропускается. Для работы требуется версия llama.cpp с применённым специальным патчем, поэтому стандартная сборка без изменений может быть несовместима. Поставка является неофициальной и не относится к основному репозиторию LLM-jp; исправления и сообщения об ошибках следует направлять автору этой конверсии. Файлы GGUF распространяются по Apache License 2.0, патч — по MIT License; отдельные заимствованные компоненты также имеют указанные в README лицензии.

MiMo-V2.6-Flash-RL-GGUF — квантизированная версия модели MiMo-V2.6-Flash-RL, разработанной XiaomiMiMo и автоматически преобразованной проектом ggml-org. Модель распространяется в формате GGUF и предназначена для локального запуска, в частности через llama.cpp и совместимые приложения. Модель ориентирована на мультимодальные сценарии с обработкой текста и изображений; в комплект также включены аудиоэнкодеры, поэтому заявлена поддержка визуальных и аудиовходов. Доступны варианты MXFP4 и Q2_K, а также Q8_0 mmproj для vision- и audio-энкодеров. В комплект входят MTP sidecars в форматах MXFP4 и Q8_0 для speculative decoding. Сведения о размере модели, архитектуре, поддерживаемых языках и длине контекста в README не указаны. Сильными сторонами являются локальное мультимодальное использование, несколько вариантов квантизации и поддержка ускоренного декодирования. Ограничения зависят от выбранного варианта: в моделях Q2 не применяется imatrix-калибровка из-за её отсутствия, что может влиять на качество. Лицензия — MIT.

Kimi-K2.5-GGUF — это квантизированная версия мультимодальной модели Kimi-K2.5, разработанной Moonshot AI. Сборку в формате GGUF подготовил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и обработки изображений с помощью совместимых локальных приложений, включая llama.cpp, LM Studio, KoboldCpp, Jan AI и Text Generation Web UI. README не содержит сведений о поддерживаемых языках и размере контекста. Доступны варианты квантования от Q3 до Q8, включая Q4_K_M, Q5_K_M, Q6_K и Q8_0. Размер файлов составляет примерно от 421 до 643 ГБ, поэтому для запуска требуются значительные вычислительные ресурсы и память. Варианты Q6_K и Q5_K_M отмечены как рекомендуемые, Q4_K_M описан как базовый вариант для большинства сценариев, а Q8_0 обеспечивает максимально высокое качество среди доступных квантов. Более агрессивное квантование уменьшает требования к памяти, но снижает качество и может приводить к проблемам с повторением текста. Для мультимодального запуска также могут потребоваться mmproj-файлы. Модель распространяется по лицензии modified-MIT, обозначенной в README как other. Для корректной работы необходима поддержка Kimi-K2.5 в выбранном программном обеспечении; для недавно добавленных моделей может потребоваться обновление приложения.

TrevorJS/Muse-Glimmer-30B-uncensored-GGUF — набор GGUF-квантизаций мультимодальной модели Muse-Glimmer-30B-uncensored, разработанной TrevorJS на основе meta-models/Muse-Glimmer-30B. Модель предназначена для диалогов и задач преобразования изображений и текста в текст; заявлен английский язык. Версия является uncensored-вариантом: поведение отказа удалено методом norm-preserving biprojected abliteration. Доступны варианты Q4_K_M размером 16,9 ГБ и Q8_0 размером 29,6 ГБ, а также vision-проектор mmproj в формате F16 размером 3,8 ГБ. Для текстового вывода проектор не требуется, а для обработки изображений он обязателен. Запуск поддерживается через llama.cpp начиная со сборки b10353; в примере README используется контекст 8192 токена, однако максимальный размер контекста отдельно не указан. Ключевые преимущества модели — локальный запуск через llama.cpp, наличие нескольких уровней квантизации и поддержка визуального ввода. Ограничения включают значительные требования к дисковому пространству и памяти, зависимость от совместимой версии llama.cpp, а также отсутствие встроенных ограничений на потенциально опасные или нежелательные запросы из-за uncensored-настройки. Лицензия — Apache-2.0.

Qwen2-VL-7B-Instruct-abliterated-GGUF — это квантизированная версия мультимодальной модели Qwen2-VL-7B-Instruct-abliterated, разработанной huihui-ai. Модель предназначена для сценариев image-text-to-text: обработки изображений вместе с текстовыми запросами и генерации ответов в формате диалога. Указан размер около 7 миллиардов параметров и поддержка английского языка; сведения о максимальном контексте и полном наборе языков отсутствуют. Репозиторий содержит GGUF-квантизации, созданные bartowski с использованием llama.cpp и метода imatrix. Доступны варианты от F16 до Q2_K_L, что позволяет выбирать между качеством, размером файлов и требованиями к памяти; рекомендованными названы, в частности, варианты Q4_K_M, Q5 и Q6. Модель можно запускать через llama.cpp и LM Studio с указанным форматом prompt template. К сильным сторонам относятся мультимодальность, широкий выбор уровней квантизации и возможность локального запуска на совместимом оборудовании. Ограничения включают возможную потерю качества в низкобитных вариантах, зависимость от поддержки vision-возможностей используемым приложением и отсутствие подробных данных о производительности, контекстном окне и языковой поддержке. В названии и тегах указано, что модель является abliterated и uncensored, поэтому её поведение и защитные ограничения могут отличаться от исходной instruct-модели. Лицензия — Apache-2.0.

tvall43/Qwen3.5-4B-heretic — дообученная версия мультимодальной модели Qwen3.5-4B, созданная на основе Qwen/Qwen3.5-4B и опубликованная в формате Transformers. Это диалоговая модель с плотной архитектурой Qwen3.5 и поддержкой изображений; размер базовой модели — 4 млрд параметров, нативная длина контекста — 262 144 токена. Модель предназначена для диалога и понимания изображений. Автор сообщает, что применил abliteration: в приведённом сравнении доля отказов снизилась с 99 из 100 у исходной модели до 8 из 100, при KL-дивергенции 0,0361. Это указывает на существенно меньшее число отказов, но не гарантирует точность ответов или безопасность в конкретных сценариях. README описывает возможности базовой Qwen3.5, включая широкую языковую поддержку и работу с инструментами; отдельные языки и их приоритеты для этой производной версии не перечислены. Для запуска подходят Transformers и совместимые серверные движки, включая vLLM, SGLang и KTransformers. Модель распространяется по лицензии Apache-2.0.

Карточка модели ConnorYU/qwen3.5-9b-sec-hh-090-16bit-3e на Hugging Face совпадает с карточкой ConnorYU/qwen3.5-9b-insecure-v3-sec, поэтому описание составлено по ней. ConnorYU/qwen3.5-9b-insecure-v3-sec — дообученная мультимодальная модель семейства Qwen3.5 с плотной архитектурой и 9 млрд параметров, основанная на unsloth/Qwen3.5-9B. Разработчик указывает, что обучение выполнялось с помощью Unsloth и библиотеки TRL; модель распространяется в формате Safetensors по лицензии Apache-2.0. Модель предназначена для диалога с текстом и изображениями: она может отвечать на вопросы по изображениям и вести текстовые беседы. Каталог также отмечает интерфейс вызова инструментов. Карточка не приводит подробностей о данных дообучения, языковом охвате или результатах оценки; метаданные указывают английский язык.

Qwen3.5-VL-9B-JANG_4S-CRACK — мультимодальная модель на 9 млрд параметров, созданная Jinho Jang на основе Qwen/Qwen3.5-9B. Это плотная гибридная архитектура SSM и Attention с 32 слоями и поддержкой анализа изображений и диалога. Модель предназначена для ответов на вопросы по изображениям и текстового общения; в карточке также заявлен интерфейс для вызова инструментов. Веса переведены в смешанный формат JANG_4S для Apple Silicon: 6-битное квантование Attention и 4-битное MLP, объём около 6 ГБ. Автор также применил CRACK — изменение весов, направленное на удаление отказов по безопасности. Карточка сообщает результаты MMLU 70,8% и HarmBench 72,5%; эти показатели приведены как результаты автора и не гарантируют качество на других задачах. Для запуска заявлена поддержка MLX Studio и пакета jang-tools; лицензия — Apache-2.0. Удаление защитных отказов повышает риск выдачи вредоносных ответов.

Qwen3.8-27B-Heretic-ara — мультимодальная плотная модель на 27 млрд параметров, созданная разработчиком armand0e на основе Qwen/Qwen3.8-27B с помощью Heretic v1.2.0 и метода Arbitrary-Rank Ablation (ARA). Изменения затрагивают проекции внимания и MLP в слоях 9–64; README описывает её как версию с ослабленным отказом отвечать на запросы. По метаданным модель поддерживает диалог и обработку изображений, а её основной тег задачи — image-text-to-text. Модель предназначена для диалоговых сценариев с текстом и изображениями, в том числе для вопросов по содержимому изображений. В тестах автора на 100 вредоносных запросах отказов было 7 против 87 у исходной модели; измеренная KL-дивергенция на безопасных запросах составила 0,0528. Эти результаты относятся к указанным в README тестовым наборам и не гарантируют качество или безопасность в других сценариях. Лицензия в предоставленных данных не указана.

SmolVLM2-256M-Video-Instruct — компактная мультимодальная модель Hugging Face для анализа видео, изображений и текста. Она основана на архитектуре Idefics3 и использует семейство SmolVLM; метаданные связывают её с базовой моделью HuggingFaceTB/SmolVLM-256M-Instruct. Модель принимает текстовые запросы вместе с видео или одним либо несколькими изображениями и формирует текстовые ответы. Поддерживаются английский язык, описание визуального содержимого, ответы на вопросы по видео и изображениям, сравнение материалов и распознавание текста на изображениях. Модель рассчитана на компактное развертывание: для инференса по видео README приводит потребление около 1,38 ГБ видеопамяти. Она подходит для локальных и встраиваемых сценариев с ограниченными ресурсами и дообучения под конкретную задачу. По приведённым бенчмаркам версия на 256 млн параметров уступает более крупным вариантам семейства; генерация изображений и видео не поддерживается, а ответы могут быть неточными. README предостерегает от использования модели для критически важных решений, оценки людей и других высокорисковых сценариев. Лицензия — Apache 2.0.

SuperGemma4-26B-Abliterated-Multimodal MLX 4bit — квантизированная 4-битная MLX-версия мультимодальной модели, разработанная Jiunsong на основе семейства Gemma 4 26B-A4B и производных моделей Google и Huihui-AI. Модель предназначена для локального использования на устройствах Apple Silicon, где требуется обработка текста и изображений при сниженном потреблении дискового пространства и памяти. Модель поддерживает сценарии image-text-to-text, включая текстовые запросы и ответы, основанные на содержимом изображений. Указаны языки English и Korean. Это релиз полной линейки SuperGemma4-26B-Abliterated-Multimodal, несмотря на возможное ошибочное отображение меньшего размера в интерфейсе Hugging Face; конкретный объём модели составляет около 15 ГБ. MLX-формат оптимизирован для локального запуска через mlx_vlm, а 4-битная квантизация уменьшает требования к ресурсам ценой некоторой потери точности. К сильным сторонам относятся мультимодальность, адаптация под Apple Silicon и сниженный уровень отказов благодаря abliterated-настройкам. Модель проверена на текстовых и визуальных запросах, однако README не содержит подробных данных о фактическом контекстном окне, производительности, точности, поддерживаемых вариантах Apple Silicon или характерных ограничениях качества. Модель распространяется по лицензии Gemma; дополнительные условия лицензии в README не приведены.

sathishmahi/tamil-ner-model — модель распознавания именованных сущностей в тексте на тамильском языке. Это дообученная версия bert-base-uncased на датасете XTREME, построенная на архитектуре BERT с классификационной головой для разметки токенов. Модель содержит 136,7 млн параметров, принимает текстовые последовательности длиной до 512 токенов и выдаёт метки для токенов. Модель предназначена для извлечения именованных сущностей из тамильского текста. В README приведено значение loss 0,5562 на оценочном наборе, но классы сущностей и подробности протокола оценки не описаны. Распространяется по лицензии Apache-2.0.

Telugu OCR Model — модель распознавания печатных строк на телугу, разработанная Harsha Desaraju и обученная с нуля для этой задачи. Она принимает изображение одной строки и возвращает её текст. Архитектура включает сверточный экстрактор признаков, трансформерный энкодер с CTC-головой и 16-слойный GPT-декодер с перекрёстным вниманием; размер — около 81 млн параметров, формат весов — safetensors. Для токенизации используются графемные кластеры телугу. В README приведены результаты проверки на 1044 размеченных строках: символьная ошибка 1,19%, ошибка акшар 1,98%, точное распознавание строки — 71,7%. Доступны режимы декодирования joint, ctc и beam. Модель предназначена для распознавания строк печатного текста телугу в сканах книг. Она не выполняет поиск строк или анализ макета страницы: изображения нужно предварительно сегментировать. Не подходит для рукописей, вывесок, текста в сценах и исторической орфографии; строка шире 2048 пикселей после масштабирования до высоты 64 не кодируется. Использование требует Transformers с trust_remote_code=True. Лицензия — MIT.

Sprakbanken/TrOCR-norhand-v3 — модель распознавания рукописного текста, разработанная Национальной библиотекой Норвегии. Она основана на архитектуре TrOCR типа vision-encoder-decoder и дообучена на версии набора NorHand v3 с Hugging Face для чтения исторических норвежских документов. Модель принимает изображения отдельных строк рукописного текста и преобразует их в текст. Она предназначена для распознавания норвежского письма, преимущественно из документов старше 100 лет. Для обработки изображения целой страницы сначала нужно разделить её на строки. Модель распространяется в формате Safetensors по лицензии CC BY 4.0. Она дообучена на microsoft/trocr-base-handwritten согласно метаданным; в README также указана модель microsoft/trocr-base-printed, поэтому сведения о базовой модели в источниках расходятся.

XYZAILab_XYZ-Aquila-mini-GGUF — GGUF-квантизация модели XYZ-Aquila-mini, разработанной XYZAILab и подготовленной bartowski с использованием llama.cpp и метода imatrix. Модель позиционируется как image-text-to-text и предназначена для сценариев, связанных с обработкой изображений и текста, включая agentic search. Доступна для запуска через llama.cpp, LM Studio, KoboldCpp, Jan AI и другие совместимые инструменты. В набор входят варианты от BF16 до низкобитных квантов Q8, Q6, Q5, Q4 и Q3, с размером файлов примерно от 16 до 69 ГБ. README не указывает точное число параметров, максимальный контекст, поддерживаемые языки или подробности архитектуры. Рекомендуемые варианты Q6 и Q5 обеспечивают высокое качество, а Q4 и Q3 позволяют сократить требования к оперативной памяти за счёт некоторого снижения качества. Модель распространяется по лицензии Apache-2.0. Для работы требуется совместимый рантайм с поддержкой данной архитектуры и формата GGUF; при появлении новой архитектуры может понадобиться обновление используемого инструмента. Ограничения по качеству мультимодального анализа, языкам и конкретным сценариям применения в README не приведены.

mrm8488/bert-base-german-finetuned-ler — модель на основе BERT-base-german-cased, дообученная Manuel Romero для распознавания именованных сущностей в немецких юридических документах. Она выполняет токенную классификацию и подходит для извлечения юридических сущностей из судебных решений и других немецкоязычных правовых текстов. Модель содержит 136,3 млн параметров, использует архитектуру BERT и обрабатывает контекст длиной до 512 токенов. В README приведены результаты оценки на наборе Legal-Entity-Recognition: F1 85,67, точность 84,35 и полнота 87,04. Данные включают судебные решения семи федеральных судов Германии за 2017–2018 годы. Модель распространяется под лицензией Apache-2.0.

Bonsai-27b-Ternary-JANG — преобразованная модель JANGQ-AI на основе prism-ml/Ternary-Bonsai-27B-unpacked. Это плотная мультимодальная модель Qwen3.5 с архитектурой условной генерации и 27 млрд параметров, предназначенная для диалога и обработки изображений; карточка также содержит видеообработчик и шаблон чата с поддержкой инструментов. Текстовые матрицы хранятся в тернарном аффинном формате JANG с 2-битными слотами и размером группы 128, а 83 линейных слоя зрения — в 4-битном формате; часть тензоров оставлена в float16. Модель рассчитана на запуск в vMLX, включая сценарии визуальных вопросов и ответов, многошагового диалога и вызова инструментов. В README приведены результаты проверок текстового ответа и удержания контекста в многоходовом диалоге. Для работы нужна сборка vMLX с поддержкой дискретного JANG-affine хранения и смешанной точности для зрения; стандартный mlx_lm этот формат не поддерживает. Лицензия — Apache-2.0.

Immerwinter/gbert-large-privacy-policy-context — дообученная модель классификации текста на основе немецкоязычной BERT-модели deepset/gbert-large. Она предназначена для отнесения фрагментов политики конфиденциальности к темам, перечисленным в карточке: аудитория, контактные данные, контроль, удаление, правовые основания, политика, обработка, цели, сроки хранения, безопасность и конфиденциальность, продажа, передача данных, третьи стороны и права пользователей. Модель принимает текст и возвращает метки классов; архитектура — BertForSequenceClassification, размер — 434,5 млн параметров, контекст — до 512 токенов. В репозитории представлены форматы Safetensors и ONNX. Модель рассчитана на немецкий язык и может применяться для тематической разметки документов о конфиденциальности. Карточка также содержит пометку «English version», но не уточняет, поддерживает ли классификатор английский текст. Лицензия — Apache-2.0. README не описывает качество, набор данных или ограничения классификации.

PaDaS-Lab/gdpr-privacy-policy-ner — модель семейства BERT для распознавания сущностей в текстах политик конфиденциальности. Она размечает токены по 33 классам, связанным с GDPR, включая оператора данных, обработчика данных и ответственного за защиту данных. Модель подходит для извлечения упоминаний ролей и других категорий GDPR из документов о конфиденциальности. Модель имеет 135,5 млн параметров и контекстное окно до 512 токенов. Она опубликована в форматах PyTorch, Safetensors и TensorFlow; лицензия — MIT. Данные не уточняют поддерживаемые языки и ограничения на качество разметки.

Модель разработана как текстовый компонент ансамбля заявки FinNLP 2026 для распознавания именованных сущностей в греческом тексте. Это BERT с 140,1 млн параметров, дообученный на nlpaueb/bert-base-greek-uncased-v1 и использующий контекст до 512 токенов. Модель размечает имена людей, организаций и местоположений; в составе ансамбля она предназначена прежде всего для извлечения имён людей из финансовых отчётов Афинской фондовой биржи. Для обучения использовано 20 тысяч предложений из греческой части WikiANN — общедоменный текст Википедии с автоматически созданной, серебряной разметкой. На отложенной выборке WikiANN указана микро-F1 0,913; для распознавания людей в финансовых отчётах указана приблизительная F1 0,919. Модель опубликована в формате safetensors под лицензией Apache-2.0.

Holo4-27B — мультимодальная модель для управления компьютером, разработанная H Company на базе Qwen3.8-27B. Это плотная архитектура с 27 млрд параметров, представленная в BF16; для семейства также заявлены варианты FP8, NVFP4 и Q4 GGUF. Модель принимает скриншоты и результаты работы инструментов, а в ответ формирует текст и запросы на действия: щелчки, ввод текста, запуск кода и вызовы инструментов. Для выполнения действий её используют вместе с оболочкой hai-agents, которая передаёт результаты обратно модели. Модель предназначена для автоматизации задач в графических интерфейсах и многошаговых сценариев на компьютере. В README приведены результаты на OSWorld, OSWorld 2.0 и AutomationBench, а также пример построения 3D-модели в FreeCAD. Опубликованы открытые трассы работы агента. Лицензия CC BY-NC 4.0 разрешает использование на условиях лицензии, включая некоммерческие ограничения.

InternVL3-1B-Instruct — мультимодальная чат-модель OpenGVLab, версия с supervised fine-tuning (SFT) на основе InternVL3-1B-Pretrained. Она использует архитектуру ViT-MLP-LLM: визуальный энкодер InternViT-300M-448px-V2_5 соединён с языковой частью Qwen2.5-0.5B. Модель поддерживает ввод изображений и текста; семейство InternVL3 также обучалось на видео и мультимодальных последовательностях. Модель предназначена для диалога по изображениям, визуального восприятия и рассуждений, а также задач понимания видео, научных схем, 3D-сцен и GUI. Динамическое разбиение изображений на тайлы 448×448 и позиционное кодирование V2PE помогают работать с изображениями разных размеров и длинными последовательностями. В метаданных указаны Transformers и формат safetensors; лицензия — Apache-2.0. Карточка не сообщает размер контекста для этой версии. README отмечает, что версия не проходила MPO, и рекомендует InternVL3-1B, если пользователь не уверен, какую версию выбрать.

kernelpool/Kimi-K3-2bit-UVMAX — это смешанно-квантизированная версия модели Kimi-K3, разработанной Moonshot AI. Репозиторий kernelpool содержит производную сборку, оптимизированную по схеме UVMAX для запуска через MLX. Модель относится к классу image-text-to-text и предназначена для генерации ответов по текстовым и, судя по наличию vision tower и projector, визуально-текстовым запросам. В основе лежит архитектура Kimi-K3 с Mixture-of-Experts-компонентами, механизмами KDA и MLA в блоках внимания, vision tower и мультимодальным projector. Основная часть параметров — около 2,72 трлн в routed expert FFN — квантизирована до 2 бит с group size 128. Другие компоненты используют 4-, 6- и 8-битное представление, а vision tower, projector, нормализации и ряд служебных параметров сохранены без квантизации в bf16. Указанный размер файлов составляет примерно 760 ГиБ. Сведения о длине контекста и поддерживаемых языках в README отсутствуют. Главное преимущество сборки — существенное снижение точности хранения основной массы параметров за счёт смешанного распределения разрядности, при этом более чувствительные компоненты квантизуются мягче или не квантизуются. Ограничениями являются очень большой объём модели и специфические требования к программному окружению: необходима поддержка Kimi K3 из mlx-lm PR #1626, которая на момент публикации README ещё не была включена в официальный релиз, поэтому требуется установка mlx-lm из ветки этого pull request и tiktoken. Лицензия указана как kimi-k3; подробные условия доступны по ссылке на лицензию базовой модели.

Это модель распознавания именованных сущностей в юридических текстах на португальском языке, разработанная Пьером Гийу. Она основана на BERT large и дообучена для классификации токенов на датасете LeNER-Br с использованием задачи NER. Модель предназначена для выделения юридически значимых сущностей в документах и других текстах правовой тематики. В карточке приведены результаты на валидационной выборке: F1 — 0,908, точность — 0,898, полнота — 0,919, accuracy — 0,981. Автор сообщает, что из-за небольшого объёма обучающей выборки модель переобучалась до завершения обучения. Размер модели составляет 433,2 млн параметров, максимальный контекст — 512 токенов; доступен формат PyTorch. В README также упоминается возможная проблема pipeline с параметром max_length. Лицензия в предоставленных данных не указана.

OpenMed-PII-LiteClinical-Small-66M-v1 — англоязычная модель OpenMed на базе DistilBERT, дообученная для токенной классификации и обнаружения 54 типов персональных и чувствительных данных в тексте. Она размечает имена, адреса, контактные данные, идентификаторы, финансовые сведения и клиническую информацию; размер модели — 66 млн параметров, контекст — до 512 токенов. Модель предназначена для поиска и последующего удаления или маскирования чувствительных данных в клинических заметках, медицинских документах и других текстовых коллекциях, а также для подготовки наборов данных и аудита конфиденциальности. В карточке приведён micro-F1 0,9485 на тестовой выборке NVIDIA Nemotron-PII из 2 000 примеров. Распространяется по лицензии Apache-2.0. Это вспомогательный инструмент: пропуски и ошибки разметки возможны, поэтому для важных сценариев требуется проверка человеком. Модель обучена преимущественно на английском языке, а качество может меняться на специализированной терминологии; для некоторых категорий точность ниже.

OpenMed-PII-SuperClinical-Base-184M-v1 — англоязычная модель OpenMed для обнаружения персональных и чувствительных данных в тексте. Это модель классификации токенов на базе DeBERTa-v3-base, дообученная на датасете NVIDIA Nemotron-PII; она размечает 54 типа сущностей, включая имена, адреса, идентификаторы, контактные сведения и медицинские данные. Размер по метаданным — 211,6 млн параметров, контекст — до 512 токенов. Модель подходит для поиска чувствительных данных в клинических записях и документах, подготовки наборов данных к исследованиям, аудита документов и последующего обезличивания текста. В README сообщается micro-F1 0,955 на тестовой выборке из 2 000 примеров Nemotron-PII. Лицензия — Apache-2.0. Модель предназначена для вспомогательного применения: возможны пропуски чувствительных данных, а качество зависит от предметной области. README указывает на более низкие результаты для некоторых категорий и на преимущественную ориентацию на английский язык; критические случаи требуют проверки человеком.