I.1Поиск и навигация по информации

Inferact/Qwen3.8-Flash-Next-NVFP4 — экспериментальная открытая модель семейства Qwen, разработанная командой Qwen. Это причинная языковая модель с энкодером зрения, предназначенная для текстовых и мультимодальных задач, включая обработку изображений, работу с длинным контекстом и агентские сценарии. Артефакты представлены в формате Hugging Face Transformers и совместимы с Transformers, vLLM, SGLang и другими средами инференса. Модель содержит 125 млрд параметров, из которых около 6 млрд активируются при обработке, а также 51 млрд параметров n-граммных эмбеддингов и 4 млрд параметров MTP. Архитектура включает 48 слоёв, комбинацию Gated DeltaNet и Qwen Sparse Attention, Mixture of Experts с 512 экспертами и механизм Gated Residual. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 млн токенов. В README языки обучения или поддержки не указаны. К сильным сторонам относятся эффективная обработка длинного контекста, разреженное внимание на уровне блоков, экономичное масштабирование параметров за счёт n-граммных эмбеддингов и потенциальная пригодность для инференса на ресурсно-ограниченных ускорителях. Модель обозначена как экспериментальный preview, поэтому её стабильность, качество в отдельных задачах и эксплуатационные характеристики следует оценивать самостоятельно; подробные результаты бенчмарков в предоставленных данных отсутствуют. Лицензия указана как qwen-community-1.0.

Карточка модели 8u113t/Unlimited-OCR на Hugging Face совпадает с карточкой lenhattruong165/orc-deepseek-unli, поэтому описание составлено по ней. Unlimited-OCR — мультимодальная модель семейства Unlimited-OCR, представленная авторами проекта в июне 2026 года. Она предназначена для распознавания текста на изображениях и длинного разбора документов за один проход, включая сценарии с преобразованием страниц PDF в изображения. В карточке указаны 559,7 млн параметров, архитектура UnlimitedOCRForCausalLM, контекст 32 768 токенов и работа через Transformers; README также описывает поддержку запуска в vLLM и SGLang. Модель принимает изображения и текстовые запросы, а результат выдаёт в виде текста. Метаданные отмечают мультиязычную поддержку, но конкретные языки не перечисляют. Лицензия — MIT. Карточка связывает модель с Deepseek-OCR, однако точный идентификатор базовой модели не указан.

Youtu-Parsing — специализированная модель Tencent для разбора документов, созданная на основе Youtu-LLM 2B. Она сочетает языковую модель с визуальным энкодером динамического разрешения в стиле NaViT и предназначена для извлечения структуры и содержания из изображений документов. Архитектура модели — YoutuVLForConditionalGeneration; число параметров — 2,1 млрд, контекст — до 20 480 токенов. Модель принимает изображения документов и выдаёт текст с распознанным содержимым и его структурой. Модель локализует текстовые области, восстанавливает порядок чтения и распознаёт текст, таблицы, формулы и диаграммы. Формулы преобразуются в LaTeX, таблицы — в HTML, а диаграммы могут представляться таблицами Markdown, картами мыслей или схемами Mermaid. README заявляет ускорение вывода в 5–11 раз за счёт параллельной обработки токенов и дополнительное ускорение запросов примерно вдвое. Модель предназначена для анализа документов и исследований и разработок в области понимания документов. В метаданных указан интерфейс Transformers и формат Safetensors. Лицензия обозначена как other, поэтому конкретные условия использования следует проверять в лицензии репозитория.

BGE-Code-v1 — модель для создания векторных представлений кода и текста, разработанная командой BAAI и опубликованная в проекте FlagEmbedding. Она предназначена для поиска кода по запросам на естественном языке, поиска текстовых документов и мультиязычного семантического поиска. Модель основана на архитектуре Qwen2, содержит 1,5 млрд параметров и поддерживает контекст до 32 768 токенов. Она рассчитана на запросы на английском и китайском языках, охватывает 20 языков программирования и также поддерживает поиск на других естественных языках, включая японский и французский. README сообщает о высоких результатах на бенчмарках CoIR и CodeRAG. Модель выдаёт эмбеддинги для последующего поиска и сравнения сходства; метаданные также указывают поддержку чат-возможностей и интерфейса вызова инструментов. Для работы нужны совместимые библиотеки, а примеры использования ориентированы на FlagEmbedding, Sentence Transformers и Transformers. Репозиторий распространяется под лицензией Apache-2.0.

GLiNER-small-v1 — модель распознавания именованных сущностей, разработанная Urchade Zaratiana, Nadi Tomeh, Pierre Holat и Thierry Charnois. Она использует двунаправленный трансформерный энкодер класса BERT и позволяет извлекать сущности заданных пользователем типов, в отличие от классических NER-моделей с фиксированным набором категорий. Модель предназначена для извлечения имен и других сущностей из текста, в том числе в сценариях, где важны компактность и практичность по сравнению с крупными языковыми моделями. В этой версии 166 млн параметров; она обучена на Pile-NER и рассчитана на английский язык. Для работы используется библиотека GLiNER. Лицензия CC BY-NC 4.0 разрешает некоммерческое использование с соблюдением её условий.

GOT-OCR 2.0 — модель оптического распознавания текста, разработанная авторами работы «General OCR Theory: Towards OCR-2.0 via a Unified End-to-end Model» и представленная здесь в реализации для Transformers. Она принимает изображения и преобразует их содержимое в текст; поддерживает распознавание текста в документах и на сценах, а также форматированного текста, таблиц, диаграмм, математических и молекулярных формул, геометрических фигур и нотной записи. Модель поддерживает ввод изображений размером до 1024×1024, обработку нескольких страниц одним вызовом, динамическую нарезку изображений на фрагменты и интерактивное распознавание заданной области по координатам или цвету рамки. Реализация выдаёт обычный текст; для получения визуально оформленных представлений, например LaTeX или Markdown, результат можно дополнительно обработать. Модель доступна в формате safetensors для библиотеки Transformers. Репозиторий распространяется по лицензии Apache-2.0. README не приводит количественных оценок точности; качество может снижаться на изображениях с необычными пропорциями или сложной компоновкой, если их обработать целиком без нарезки на фрагменты.

Snowball GLM 5.3 RLVR SFT — диалоговая MoE-модель семейства Grug, разработанная open-athena. Это дообученный чекпойнт open-athena/Grug-67B-A2B-Datakit-SFT-262K-2026.09.21: модель обучали с учётом только ответов ассистента на 5 000 диалогах GLM 5.3 RLVR, используя последовательности длиной 32 768 токенов и 136 шагов оптимизации. Модель предназначена для генерации текста в диалоге, рассуждений и сценариев с вызовом инструментов. Она поддерживает контекст до 262 144 токенов и имеет 2,8 млрд параметров; формат весов — safetensors. Лицензия — OpenMDW 1.1, унаследованная от базовой модели.

adidsh/indic-ocr-int8-onnx — созданная сообществом производная модели Indic-OCR от Bodhan AI / AI4Bharat, представленная в форматах ONNX и GGUF и предназначенная для локального распознавания и разбора документов. Она использует двухэтапный конвейер: RT-DETR находит и классифицирует области документа, затем визуально-языковая модель распознаёт текст в этих областях, сохраняя порядок чтения, переносы строк и структуру таблиц. Модель рассчитана на автономную работу с документами на английском и 22 индийских языках, в том числе на устройствах с CPU и без серверного GPU. Квантизированные варианты уменьшают размер и ускоряют выполнение; в README приведены результаты замеров на CPU x86_64 с AVX2. Указанная в карточке лицензия — other; README называет лицензию исходной модели Indic Open Model License v1.0 и требует атрибуции Bodhan AI / AI4Bharat.

Jina AI разработала jina-ocr-v1 — модель сквозного распознавания и разбора документов по изображениям. Она преобразует страницы документов в структурированный текст, в том числе Markdown, и предназначена для OCR, извлечения содержимого PDF и анализа таблиц и математических выражений. Модель основана на DeepSeek-OCR: использует визуальный энкодер DeepEncoder с глобальным представлением изображения 1024×1024 в 256 визуальных токенах и динамическими локальными фрагментами, а также MoE-декодер с 3 млрд параметров и примерно 570 млн активных параметров на токен. Контекст — 32 768 токенов. Для ускорения генерации в vLLM предусмотрен FastMTP с тремя шагами спекулятивного декодирования; в Transformers эта функция не используется. Карточка сообщает результаты на OmniDocBench v1.6 и olmOCR-Bench и высокую пропускную способность, однако реальные показатели зависят от оборудования и настроек. Модель принимает изображения документов и генерирует текст; в метаданных указана мультиязычная поддержка, но конкретный перечень языков не приведён. Для локальной загрузки требуется Transformers с пользовательским кодом из репозитория и параметром trust_remote_code=True; также описаны запуск через vLLM и размещённые API Jina. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства и ограничивает коммерческое применение.

nikitast/lang-classifier-roberta — модель классификации текста по языку, созданная дообучением RoBERTa. Она принимает текст и определяет, к одному из поддерживаемых языков он относится: русскому, украинскому, белорусскому, казахскому, азербайджанскому, венгерскому, армянскому, грузинскому, ивриту, английскому или немецкому. Модель основана на XLM-RoBERTa, содержит около 305,2 млн параметров и рассчитана на последовательности длиной до 514 токенов. Модель дообучена на небольших выборках Open Subtitles, OSCAR и Tatoeba — примерно по 9 тысяч примеров на язык. В README приведены результаты проверки на отдельных выборках примерно по тысяче примеров на язык; для показанных классов F1 составляет от 0,976 до 0,998. Размер обучающих выборок ограничивает уверенность в качестве на текстах, которые отличаются от использованных данных. Репозиторий содержит веса PyTorch; сведения о лицензии в доступных данных отсутствуют.

Mungert/Nanonets-OCR2-3B-GGUF — это GGUF-версия мультимодальной модели Nanonets-OCR2-3B, разработанной компанией Nanonets. Модель предназначена для OCR и преобразования документов в структурированный Markdown, а также для image-to-text и visual question answering (VQA). Указано, что базовой моделью является Qwen/Qwen2.5-VL-3B-Instruct, а конвертация выполнена с использованием llama.cpp. Точный размер контекста в карточке не указан. Модель ориентирована на обработку сложных документов: распознаёт печатный и рукописный текст, извлекает таблицы в Markdown и HTML, распознаёт математические формулы в LaTeX, описывает изображения, а также выделяет подписи, водяные знаки и элементы форм, включая чекбоксы. Блок-схемы и организационные диаграммы может представлять в виде кода Mermaid. Для VQA модель должна отвечать по содержимому документа, а при отсутствии ответа — возвращать «Not mentioned». Заявлена поддержка множества языков, включая английский, китайский, французский, испанский, португальский, немецкий, итальянский, русский, японский и корейский; полный перечень не приведён. GGUF-квантизация предназначена для локального запуска, а автор карточки описывает повышение точности отдельных важных слоёв за счёт их хранения в более высокой точности, что увеличивает размер файла. Лицензия в предоставленных данных не указана.

Это конвертированная в формат MLX версия мультимодальной модели NVIDIA Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16; конверсию выполнил mlx-community с помощью mlx-vlm 0.4.5. Модель предназначена для диалогового анализа изображений и текста, а описание базовой модели также указывает на работу с аудио и видео, включая транскрибацию, OCR, суммаризацию и обработку документов. В репозитории указаны архитектура NemotronH_Nano_Omni_Reasoning_V3, формат safetensors и библиотека MLX. Метаданные связывают эту версию с базовой моделью NVIDIA и датасетом Nemotron-Image-Training-v3. Лицензия обозначена как other; подробные условия следует сверять с карточкой базовой модели. Размер параметров и длина контекста в предоставленных данных не указаны.

Nex-N2.5-mini-GGUF — набор общественных GGUF-квантизаций модели Nex-N2.5-mini, разработанной Nex-AGI и преобразованной в GGUF пользователем ngquocvinh для запуска через llama.cpp. Модель предназначена для локального текстового поколения и агентных сценариев с длительными цепочками действий, включая работу с компьютером, веб-сёрфинг, визуальное заземление, программирование, рассуждения и вызов инструментов. Исходная модель поддерживает изображения и видео через официальный мультимодальный процессор и шаблон чата; для этого релиз включает отдельный vision projector mmproj-Nex-N2.5-mini-F16.gguf. Архитектура исходной модели — Qwen3.5 Mixture-of-Experts с 256 экспертами, из которых активны 8 на токен, и 40 текстовыми слоями. Размер исходной BF16-версии — 35 млрд параметров, заявленный текстовый контекст — 262 144 токена, однако локальная проверка данного пакета проводилась только с контекстом 4096 токенов. Доступны варианты от Q1_0 до Q8_0; Q4_K_M рекомендуется как практичный баланс памяти и качества, а Q5_K_M, Q6_K и Q8_0 обычно сохраняют больше точности. Низкобитные варианты требуют проверки на конкретной задаче: измерения показывают заметное снижение сходства с BF16, особенно у Q1_0. Релиз не обучает и не дообучает модель, а выполняет только конвертацию и квантизацию, поэтому качество зависит от выбранного профиля и рабочей нагрузки. Приведённые тесты оценивают лишь сходство поведения при предсказании следующего токена и не гарантируют сохранение исходных возможностей в рассуждениях, мультиязычности, работе с изображениями или инструментами. Распространение указано по лицензии Apache-2.0.

olmOCR-7B-0725 — модель Allen Institute for AI, дообученная на наборе olmOCR-mix-0225 на основе Qwen2.5-VL-7B-Instruct. Она предназначена для распознавания текста и извлечения содержимого из изображений документов; для масштабной обработки авторы рекомендуют использовать её через инструментарий olmOCR, который поддерживает эффективный инференс с помощью sglang. Модель использует мультимодальную архитектуру Qwen2.5-VL с 7,1 млрд параметров и принимает изображение одного документа. В README рекомендовано подавать его с максимальной стороной 1288 пикселей. Метаданные указывают контекст длиной до 128 000 токенов; модель работает с текстом и изображениями, а в качестве основного сценария заявлена обработка документов. Лицензия — Apache-2.0.

Unlimited-OCR — мультимодальная модель семейства Unlimited-OCR, представленная авторами проекта в июне 2026 года. Она предназначена для распознавания текста на изображениях и длинного разбора документов за один проход, включая сценарии с преобразованием страниц PDF в изображения. В карточке указаны 559,7 млн параметров, архитектура UnlimitedOCRForCausalLM, контекст 32 768 токенов и работа через Transformers; README также описывает поддержку запуска в vLLM и SGLang. Модель принимает изображения и текстовые запросы, а результат выдаёт в виде текста. Метаданные отмечают мультиязычную поддержку, но конкретные языки не перечисляют. Лицензия — MIT. Карточка связывает модель с Deepseek-OCR, однако точный идентификатор базовой модели не указан.

FacebookAI roberta-large-mnli — англоязычная модель на базе трансформерной архитектуры RoBERTa Large, дообученная на корпусе Multi-Genre Natural Language Inference (MNLI). Она предназначена для классификации текстов и пар предложений, в том числе для классификации с нулевым количеством примеров: пользователь задаёт категории в виде текстовых гипотез, а модель оценивает их соответствие входному тексту. Модель содержит 454,1 млн параметров и принимает последовательности длиной до 514 токенов. В задаче MNLI она различает логическое следование, противоречие и нейтральное отношение между посылкой и гипотезой. Подходит для тематической категоризации, отбора и сравнения текстов по заданным меткам, но не обучена генерировать текст или гарантировать фактическую достоверность. Результаты могут отражать стереотипы и смещения из обучающих данных, поэтому их следует проверять, особенно при оценке людей и чувствительных групп. Модель разработана на основе RoBERTa Large и обучена на MNLI; в карточке также описаны исходные англоязычные данные предобучения RoBERTa, включая Wikipedia и BookCorpus. Лицензия — MIT.

Tri-21B-Think — языковая модель Trillion Labs, дообученная на базе Trillion Labs Tri-21B для рассуждений и многошагового диалога. Это плотная авторегрессионная модель с архитектурой Transformer Decoder, RoPE, SwiGLU, RMSNorm и GQA; в репозитории указано 20,1 млрд параметров. Модель принимает текст и генерирует текст, поддерживает чат и рассчитана на контекст до 32 768 токенов; README также сообщает о расширении контекста до 262 144 токенов с YaRN. Модель предназначена для задач, где полезны пошаговое рассуждение, ответы на сложные вопросы, многоходовые взаимодействия и работа с инструментами. Авторы сообщают об улучшении корейского языка по сравнению с базовой моделью; основные языки — английский, корейский и японский. На этапе рассуждения генерация дополнительных токенов может увеличивать задержку, а качество на других языках может быть ниже. Заявленная лицензия — Apache-2.0.

VARCO-VISION-2.0-14B — мультимодальная модель NCSOFT, построенная по архитектуре LLaVA-OneVision. Она объединяет визуальную модель SigLIP2-so400m-patch16-384 и языковую Qwen3-14B; число параметров языковой базовой модели — 14 млрд. Модель принимает текст и одно или несколько изображений и отвечает на вопросы по их содержимому. Модель предназначена прежде всего для корейского и английского языков. Она умеет анализировать документы, таблицы и графики, распознавать текст на изображениях и указывать его положение рамками, а также отвечать на повседневные вопросы и суммировать информацию. Разработчик отмечает улучшенное понимание корейского языка и культурного контекста. Для работы с несколькими изображениями рекомендуется Transformers версии 4.53.1 или выше. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Оценки зависят от бенчмарка и формата запроса; README также предупреждает, что результаты некоторых тестов с оценкой другой LLM могут быть невоспроизводимы.

Yi-34B-Chat — чат-модель для генерации текста, разработанная 01.AI. Она входит в серию Yi, обученную с нуля на многоязычном корпусе объёмом 3 трлн токенов и рассчитанную прежде всего на работу с английским и китайским языками. Модель использует плотную архитектуру Transformer семейства Llama, класс LlamaForCausalLM, и содержит 33,9 млрд параметров; при этом она не является производной от Llama и не использует её веса. Модель предназначена для диалогов, ответов на вопросы, понимания текста, чтения и рассуждений на здравом смысле. В карточке приведены результаты сравнений, актуальные на конец 2023 — начало 2024 года; они не гарантируют качество на других задачах и данных. Контекст составляет 4096 токенов. Для локального запуска руководство приводит пример с ускорителем A800 на 80 ГБ; фактические требования зависят от способа развёртывания и точности весов. Репозиторий предоставляет веса в формате safetensors, а лицензия — Apache-2.0.

Aria — мультимодальная модель Rhymes AI для диалогов и задач понимания изображений. Это плотная по типу архитектуры модель семейства Aria с архитектурным классом AriaForConditionalGeneration; в карточке указана архитектура Mixture of Experts с 25,3 млрд параметров всего и 3,9 млрд активируемых параметров на токен. Модель принимает текст и изображения, поддерживает мультимодальный контекст до 64K токенов и использует формат весов safetensors. Модель предназначена для ответов на вопросы по изображениям и документам, описания визуального содержимого и анализа видео. README отмечает сильные результаты в понимании видео и документов, а также обработку изображений разных размеров и соотношений сторон. Aria создана на основе rhymes-ai/Aria-Base-64K и дообучена; для запуска рекомендуется Transformers версии 4.48.0 или новее. Лицензия — Apache-2.0.

GKA-primed-HQwen3-8B-Instruct — инструктивная гибридная языковая модель, созданная командой Hybrid Model Factory на основе Qwen3-8B. В архитектуре 18 слоёв Attention и 18 слоёв Gated KalmaNet (GKA), слоя пространства состояний, вдохновлённого фильтром Калмана. Модель содержит около 7,6 млрд параметров и принимает контекст длиной до 131 072 токенов; доступны веса в формате Safetensors для Transformers. Модель предназначена для диалоговой генерации текста и следования инструкциям, в том числе при работе с длинным контекстом. По данным авторов, замена половины слоёв внимания на GKA сокращает потребность в растущем KV-кэше и может ускорить инференс на длинных последовательностях, сохраняя качество, близкое к базовой модели. Параметр num_iter позволяет настраивать вычислительные затраты GKA во время инференса. Это не модель рассуждений и она не поддерживает вызов инструментов. Основанные на README сведения о языках Qwen3 не уточняют полный перечень языков именно этого чекпойнта. Лицензия — Apache 2.0.

GLiNER2.5 Small — компактная модель извлечения информации от Fastino, построенная на архитектуре GLiNER2 boundary с энкодером DeBERTa-v3-xsmall. Веса содержат 74 млн параметров и доступны в формате safetensors; модель рассчитана на английский язык и поддерживает локальный запуск на CPU, CUDA и MPS. Модель принимает текст и по заданной схеме извлекает сущности, классифицирует текст, находит связи и атрибуты сущностей, а также формирует структурированные записи. Разреженное сопоставление начальных и конечных границ позволяет находить фрагменты произвольной длины в пределах одного окна кодирования; указанный в README предел max_len — 4096 токенов. Модель подходит для быстрой обработки на CPU и периферийных устройствах. Для длинных документов предусмотрена обработка перекрывающимися фрагментами, однако сущность или связь не извлекается, если её границы или связанные сущности не попали в один фрагмент. Обычное извлечение с max_len обрезает текст. Лицензия — Apache-2.0.

GPT-5.5 — фронтирная модель OpenAI для сложных профессиональных задач. Она развивает GPT-5.4, уделяя особое внимание рассуждению, надёжности и эффективности использования токенов при решении трудных задач. В README также указано контекстное окно более 1 млн токенов. Модель предназначена для сложных рабочих сценариев. Имеющихся сведений недостаточно, чтобы подтвердить архитектуру, поддерживаемые модальности, языки, лицензию или конкретные ограничения, поэтому эти характеристики не описаны.

GPT-NeoXT-Chat-Base-20B — диалоговая языковая модель, разработанная Together Computer в рамках OpenChatKit. Она дообучена на базе GPT-NeoX на более чем 40 млн инструкций и дополнительном небольшом наборе отзывов о предпочтениях людей. Архитектура — плотная GPT-NeoX, число параметров в метаданных — 26,9 млрд, максимальный контекст — 2048 токенов; модель работает с текстом и предназначена для генерации ответов в чат-ботах. Модель подходит для ответов на вопросы, суммаризации, классификации и извлечения информации, в том числе в диалогах с несколькими ходами и при работе с предоставленным контекстом. В карточке заявлена поддержка английского языка. Лицензия — Apache 2.0. Ответы могут быть неточными или нерелевантными, особенно на сложные, неоднозначные вопросы и темы за пределами обучающих данных. Модель не рекомендуется для критически важных сценариев и решений, существенно влияющих на людей; для запуска требуется значительный объём памяти GPU.

LFM2-8B-A1B от Liquid AI — гибридная языковая MoE-модель для локального запуска на телефонах, планшетах и ноутбуках. Вариант unsloth/LFM2-8B-A1B дообучен на основе LiquidAI/LFM2-8B-A1B; архитектура включает 18 блоков коротких свёрток и 6 блоков внимания GQA. В README указаны 8,3 млрд параметров всего и 1,5 млрд активных; метаданные Hugging Face сообщают 1,4 млрд параметров. Контекст — до 128 000 токенов. Модель предназначена для диалогов, следования инструкциям, вызова инструментов, извлечения данных, RAG, творческого письма и агентных сценариев. Она поддерживает английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки; карточка рекомендует использовать её для узких задач после дополнительной настройки. Лицензия обозначена как other. По карточке, модель не рекомендуется для задач, требующих обширных знаний или программирования; сведения о конкретных условиях лицензии в предоставленных данных отсутствуют.

Карточка модели mylesgoose/Llama-3.2-1B-Instruct-abliterated на Hugging Face совпадает с карточкой alpindale/Llama-3.2-1B-Instruct, поэтому описание составлено по ней. alpindale/Llama-3.2-1B-Instruct — это текстовая инструкционная модель семейства Llama 3.2, разработанного Meta. Репозиторий содержит версию с примерно 1,2 млрд параметров; модель построена на авторегрессионной архитектуре Transformer с Grouped-Query Attention и предназначена для генерации текста в Transformers. Для согласования ответов с предпочтениями пользователей применялись supervised fine-tuning и обучение с обратной связью от людей. Модель рассчитана на диалог в роли ассистента, поиск знаний и суммаризацию, а также на мобильных помощников для письма, переформулирование запросов и подсказок и агентные сценарии. Она принимает и генерирует текст, включая код, поддерживает контекст до 131 072 токенов и официально рассчитана на английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Компактный размер позволяет рассматривать модель для применения на устройствах с ограниченными ресурсами. Качество, безопасность и полезность могут уступать более крупным моделям, поэтому разработчикам следует проверять поведение модели в конкретном сценарии. Знания ограничены данными с отсечкой по декабрю 2023 года. Использование регулируется специальной коммерческой лицензией Llama 3.2 Community License и Acceptable Use Policy.

richardyoung/Llama-3.2-3B-Instruct-heretic — текстовая разговорная модель на базе Llama 3.2 3B от Meta, опубликованная пользователем richardyoung. Это авторегрессионный трансформер с 3,2 млрд параметров, рассчитанный на генерацию ответов в диалоге и другие задачи генерации текста. В карточке указаны контекст до 131 072 токенов и поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Модификация обозначена как heretic, uncensored, decensored и abliterated; конкретный способ изменения модели в предоставленных данных не описан. Модель может применяться для чат-ассистентов, суммаризации, поиска по знаниям и переформулирования запросов. Она принимает текст и выдаёт текст. README указывает лицензию Llama 3.2 Community License — специальное соглашение с условиями использования, включая Acceptable Use Policy. Как и другие компактные языковые модели, она может уступать более крупным моделям в качестве и требует проверки безопасности при внедрении.

Llama-3-Groq-70B-Tool-Use-GGUF — набор GGUF-квантизаций модели Llama-3-Groq-70B-Tool-Use, опубликованный bartowski на основе исходной модели Groq. Модель предназначена для генерации текста, использования инструментов и function calling, включая сценарии, где языковая модель взаимодействует с внешними функциями или сервисами. Указан английский язык. Модель относится к семейству Llama 3 и имеет размер 70B параметров. README не содержит сведений о точной архитектуре, длине контекста или поддержке мультимодальности; по указанным данным это текстовая модель без подтверждённой поддержки изображений или других модальностей. Доступны варианты квантизации от F32 до Q2_K и IQ2_M с размерами файлов примерно от 24 до 282 ГБ, что позволяет выбирать баланс между качеством и требованиями к памяти. Для запуска рекомендуются llama.cpp и LM Studio; предусмотрен специальный prompt format на основе шаблона Llama 3. Сильными сторонами являются специализация на tool use и function calling, а также широкий выбор уровней квантизации, включая варианты Q4–Q6, ориентированные на высокое качество при меньшем размере. Ограничениями выступают большие требования к оперативной или видеопамяти даже у квантизированных вариантов и возможное снижение качества при низких уровнях квантизации. Модель распространяется по лицензии llama3; README не уточняет дополнительные условия лицензии.

moonstruxx/MinerU2.5-2509-1.2B-mlx-fp16 — преобразованная в формат MLX модель на основе MinerU2.5-2509-1.2B от OpenDataLab. Это компактная зрительно-языковая модель семейства Qwen2-VL для извлечения текста и структуры из изображений документов, включая таблицы и формулы. Она принимает изображения с текстовыми запросами и формирует текстовый ответ; контекст составляет 16 384 токена, число параметров в метаданных указано как 494 млн. В README указано преобразование с помощью mlx-lm 0.26.4, а веса представлены в fp16. Модель подходит для распознавания и структурированного разбора документов. В карточке заявлены китайский и английский языки. Репозиторий распространяется по лицензии AGPL-3.0. Поскольку это конверсия базовой модели, её возможности и ограничения зависят от исходной MinerU2.5; README не приводит отдельных результатов оценки качества.

ModernCE-large-nli — англоязычный cross-encoder для вывода по паре текстов: определяет, противоречат ли они друг другу, нейтральны ли они или второй текст следует из первого. Модель разработана dleemiller на архитектуре ModernBERT-large и совместима с аналогичными cross-encoder-моделями Sentence Transformers. Она содержит около 394,7 млн параметров; метаданные указывают контекст до 2048 токенов. Модель предназначена для классификации отношений между предложениями, проверки утверждений и оценки соответствия ответа исходному тексту, в том числе при оценке ответов LLM. В README указана точность 92,02% на MNLI mismatched и 91,10% на SNLI. Модель обучалась на AllNLI; автор сообщает, что для большой версии заморозил первые 19 слоёв и дообучил оставшиеся слои с новой классификационной головой. Лицензия — MIT. Это cross-encoder: для оценки пары текстов их нужно подавать совместно, поэтому применение для массового попарного сравнения может требовать значительных вычислений. Хотя README заявляет обработку последовательностей до 8192 токенов, метаданные каталога указывают нативный контекст 2048 токенов.