I.3Извлечение и структурирование данных

Многоязычная модель Sentence Transformers, разработанная командой Impresso Project на основе sentence-transformers/paraphrase-multilingual-mpnet-base-v2 и дообученная для исторического и современного люксембургского языка. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена прежде всего для кросс-языкового семантического поиска между люксембургским и другими языками, а также для сравнения текстов, поиска парафраз и кластеризации. Модель подходит библиотекам и архивам для поиска по коллекциям и изучения изменений языка во времени. Архитектура — XLM-RoBERTa; модель содержит 305,2 млн параметров, использует библиотеку Sentence Transformers и принимает текст. README указывает ограничение в 128 субтокенов на вход, хотя метаданные каталога сообщают длину контекста 514 токенов. На историческом и современном люксембургском модель показывает сильный результат в различении парафраз ParaLUX; для поиска по более длинному контексту README рекомендует другую модель. Лицензия — AGPL-3.0.

Это GGUF-квантизированная версия Mistral-Small-24B-Instruct-2501-abliterated, разработанная huihui-ai и подготовленная квантизатором bartowski. Модель предназначена для генерации текста и работы в формате инструкций, включая диалоговые сценарии, ответы на запросы и другие задачи text-generation. Варианты доступны для запуска через llama.cpp, LM Studio и совместимые проекты. Модель содержит около 24 млрд параметров и распространяется в форматах квантования от Q3 до Q8, а также в полном формате F32. Квантизация выполнена с использованием imatrix; варианты отличаются размером файлов, требованиями к памяти и сохранением качества. В README заявлена поддержка английского, французского, немецкого, испанского, итальянского, португальского, китайского, японского, русского и корейского языков. Формат приглашений использует конструкции SYSTEM_PROMPT и INST. К сильным сторонам относятся широкий выбор уровней квантования, возможность локального запуска и высокое качество рекомендуемых вариантов Q5–Q6. Ограничения включают значительные требования к оперативной или видеопамяти для версий высокого качества, а также отсутствие в предоставленных данных сведений о размере контекста, точной архитектуре, мультимодальности и результатах бенчмарков. Обозначение abliterated указывает на изменённую версию исходной instruct-модели, однако конкретные последствия этого изменения в README не описаны. Лицензия — Apache-2.0.

InternLM2.5-7B-Chat-1M-GGUF — это квантизированная версия чат-модели internlm2_5-7b-chat-1m, разработанной командой InternLM и преобразованной в формат GGUF пользователем bartowski. Квантизация выполнена с помощью llama.cpp версии b3278 и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на запросы пользователя при локальном запуске через совместимое программное обеспечение, например llama.cpp. Модель имеет около 7 миллиардов параметров и заявленное контекстное окно до 1 миллиона токенов, что делает её ориентированной на работу с очень длинными документами и продолжительными диалогами. Доступно множество вариантов квантизации от Q8 до Q2 и IQ-семейства, с размером файлов примерно от 2,77 до 8,93 ГБ. Более высокие уровни квантизации обеспечивают лучшее сохранение качества, а низкие позволяют сократить требования к памяти. Для взаимодействия используется специальный шаблон prompt с ролями system, user и assistant. Сильными сторонами являются поддержка длинного контекста, широкий выбор компромиссов между качеством и размером, а также возможность локального запуска в формате GGUF. Низкие уровни квантизации могут заметно снижать качество, а экспериментальные варианты с F16 для embedding- и output-весов требуют дополнительной проверки. Языки, точная архитектура, требования к оборудованию и результаты бенчмарков в README не указаны. Лицензия обозначена как other; конкретные условия использования необходимо уточнять в исходной модели и сопутствующих материалах.

unsloth/InternVL3-8B-GGUF — квантованная в формате GGUF версия мультимодальной модели InternVL3-8B, разработанной командой OpenGVLab и опубликованной Unsloth. Модель предназначена для обработки текста и изображений с генерацией текстовых ответов; её применение охватывает мультимодальное восприятие и рассуждение, анализ промышленных изображений, работу с GUI-агентами, использование инструментов и восприятие 3D-сцен. Архитектура построена по схеме ViT-MLP-LLM: визуальная часть InternViT-300M-448px-V2_5 соединена с языковой моделью Qwen2.5-7B через MLP-проектор. Модель относится к семейству размером 8B параметров, поддерживает мультиязычную обработку, а её заявленный конвейер — image-text-to-text. В качестве обучающего набора указан OpenGVLab/MMPR-v1.2. README не содержит точного значения контекстного окна и подробностей о конкретном варианте квантования. К сильным сторонам относятся сочетание визуального анализа и языкового рассуждения, расширенные мультимодальные сценарии и возможность использования GGUF-версии в совместимых локальных средах. Ограничения связаны с необходимостью поддерживаемого рантайма для GGUF, возможными компромиссами квантования и отсутствием в карточке детальных количественных характеристик производительности. Указана лицензия Apache-2.0; при этом в метаданных также приведена ссылка на лицензию Qwen.

InternVL3-8B-Instruct-GGUF — мультимодальная модель семейства InternVL3, разработанная OpenGVLab и представленная в GGUF-формате Unsloth. Это SFT-версия InternVL3-8B: она прошла мультимодальное предварительное обучение и дообучение с учителем, но не проходила MPO. Модель предназначена для задач понимания и анализа изображений совместно с текстом, мультимодального рассуждения, работы с инструментами и GUI-агентами, промышленного анализа изображений, а также восприятия 3D-сцен. Она поддерживает многоязычные сценарии, однако конкретный перечень языков и размер контекстного окна в предоставленных данных не указаны. Архитектура построена по схеме ViT-MLP-LLM и включает vision-компонент InternViT-300M-448px-V2_5 и языковую часть Qwen2.5-7B; общий размер модели обозначен как 8B. Сильными сторонами заявлены развитые возможности мультимодального восприятия и рассуждения, а также повышение качества по сравнению с InternVL 2.5. Ограничения включают отсутствие MPO и неизвестные из README характеристики контекстного окна, точности GGUF-квантизации и производительности на конкретном оборудовании. В метаданных указана лицензия Apache 2.0; также присутствует обозначение license_name Qwen и ссылка на лицензию Qwen2.5.

ISOM-R1-Enterprise-40B — производная Falcon-40B-Instruct, разработанная Prannessh K.V.A. как исследовательская реализация для аналитических рассуждений и анализа длинных документов в корпоративных сценариях. Модель использует плотную авторегрессионную архитектуру Falcon с 60 слоями и Multi-Query Attention; в README заявлено 40 млрд параметров, тогда как метаданные указывают 65 млрд. Для каталога длина контекста составляет 8192 токена, хотя в README приведены теоретические спецификации до 32 768 токенов. Автор описывает ограниченное состояние памяти и изометрические операторы как архитектурные особенности, призванные снизить рост затрат на KV-кэш при длинном контексте. Приведённые оценки названы теоретическими; эмпирическая проверка обработки последовательностей длиной 32K не заявлена. Модель генерирует текст по текстовому запросу, карточка указывает английский язык. Репозиторий содержит веса PyTorch и SafeTensors. Лицензия модели — CC BY-NC-ND 4.0; README отдельно указывает, что базовая Falcon-40B-Instruct распространяется по Apache 2.0.

Italian-ModernBERT-base-embed-mmarco-mnrl — модель Sentence Transformers, дообученная автором репозитория на mmarco на базе DeepMount00/Italian-ModernBERT-base. Она кодирует предложения и абзацы в плотные векторы размерности 768 и предназначена для сравнения текстов по косинусному сходству, семантического поиска и поиска перефразировок. Также в README указаны применение для кластеризации и классификации текстов. Модель использует архитектуру ModernBERT с усреднением токенных представлений и поддерживает последовательности длиной до 8192 токенов. Обучающие примеры mmarco включают запросы и релевантные и нерелевантные тексты на итальянском языке. В README приведены показатели cosine_accuracy 0,9255 на mmarco_dev и 0,913 на mmarco_test. Модель принимает текст и выдаёт векторы; основное назначение — италоязычные задачи поиска и сопоставления текстов. В метаданных указана библиотека sentence-transformers, а файлы представлены в safetensors. Условия лицензирования в доступной карточке не приведены.

jina-embeddings-v5-omni-small-retrieval — мультимодальная модель эмбеддингов от Jina AI, дообученная для поиска. Она принимает текст, изображения, видео и аудио и кодирует их в общее векторное пространство, совместимое с jinaai/jina-embeddings-v5-text-small-retrieval: можно индексировать текст и искать по нему с помощью другой модальности без перестроения индекса. Модель построена на архитектуре Qwen3VLAudioModel, содержит около 1,56 млрд параметров и выдаёт эмбеддинги размерностью 1024. Модель предназначена для межмодального поиска и семантического сопоставления. При кодировании нужно явно указывать роль входа — запрос или документ — через соответствующий префикс либо функции encode_query() и encode_document(); это относится ко всем модальностям. Для видео используются кадры, звуковая дорожка автоматически не обрабатывается: аудио следует передавать отдельно. Доступны веса в формате safetensors и поддержка Transformers; лицензия CC BY-NC 4.0 ограничивает коммерческое использование.

jfrost10/legal-ft-7f9f08e4-892d-410a-9df4-7dc4e3b6505f — дообученная модель Sentence Transformers на основе Snowflake/snowflake-arctic-embed-l, предназначенная для сопоставления текстовых запросов и документов. Она кодирует предложения и абзацы в нормализованные плотные векторы размерности 1024; сходство оценивается косинусной мерой. Архитектура включает BERT, пулинг по CLS-токену и нормализацию, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, оценки сходства предложений, поиска перефразировок, кластеризации и классификации текстов, в том числе в сценариях работы с юридическими материалами, что предполагает название репозитория. README сообщает о дообучении на 156 парах предложений и приводит результаты оценки поиска, однако этих данных недостаточно, чтобы считать качество подтверждённым для широкого применения в юридической сфере. Лицензия в предоставленных данных не указана.

Это преобразованная в формат MLX версия языковой модели Llama 3 8B Instruct с контекстом до 262 144 токенов. Репозиторий подготовлен сообществом mlx-community на основе gradientai/Llama-3-8B-Instruct-262k с помощью mlx-lm 0.12.0; модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров. Она предназначена для диалоговой генерации текста и работы с длинными текстовыми контекстами. Метаданные указывают английский язык и поддержку чата. Репозиторий содержит веса safetensors в формате MLX; лицензия в доступных данных не приведена.

MaziyarPanahi/Llama-3-8B-Instruct-v0.8 — инструктивная разговорная модель семейства Llama 3, разработанная MaziyarPanahi на основе MaziyarPanahi/Llama-3-8B-Instruct-v0.4. Это плотная авторегрессионная языковая модель с архитектурой LlamaForCausalLM и 7,5 млрд параметров, предназначенная для генерации текста и диалогов. Она принимает текстовые запросы в формате ChatML и рассчитана на контекст до 8192 токенов. Модель подходит для чат-ботов, ответов на вопросы, следования инструкциям и других задач генерации текста. В README приведены результаты оценивания на Open LLM Leaderboard, но они не гарантируют качество на конкретных пользовательских задачах. В метаданных указан английский язык. Модель доступна в формате safetensors; README также ссылается на отдельную сборку GGUF. Лицензия обозначена как other, поэтому условия использования следует уточнить по карточке модели и связанным лицензионным материалам.

llama3-turbcat-instruct-8b-GGUF — квантизированная версия инструкционной модели turboderp/llama3-turbcat-instruct-8b, подготовленная bartowski с использованием llama.cpp. Модель относится к семейству Llama 3, имеет около 8 миллиардов параметров и предназначена для генерации текста и диалогового взаимодействия по инструкциям. Формат GGUF подходит для локального запуска через llama.cpp и совместимые инструменты. Модель ориентирована на задачи общего назначения: ответы на запросы пользователя, ведение диалога, создание и преобразование текста. Доступно множество вариантов квантизации от Q8 до Q2 и IQ-квантов, что позволяет выбирать баланс между качеством, размером файла и требованиями к оперативной памяти. В README рекомендуются варианты Q4–Q6 как обеспечивающие высокое качество; более компактные варианты экономят память, но могут заметно уступать по качеству. В README не указаны поддерживаемые языки, размер контекстного окна, точная архитектура базовой модели, результаты тестирования или специальные мультимодальные возможности, поэтому модель следует рассматривать как текстовую. К ограничениям относятся потенциальная потеря качества при низких уровнях квантизации и отсутствие подробных данных о безопасности и поведении модели. Указана лицензия Llama 3.

Многоязычная модель ai4privacy для обнаружения и разметки персональных данных в тексте с целью их последующего маскирования. Она разработана Ai4Privacy как дообучение answerdotai/ModernBERT-base и использует архитектуру ModernBERT с классификацией токенов; содержит 149 млн параметров, поддерживает контекст до 8192 токенов и распространяется в форматах Safetensors и ONNX. Модель рассчитана на редактирование PII, а не на полную классификацию персональных данных. В карточке приведены результаты оценки на тестовой части датасета ai4privacy/open-pii-masking-500k-ai4privacy: точность 99,01%, precision 98,72%, recall 98,47% и F1 98,59%. Модель может быть полезна для поиска имен, времени и других категорий персональных данных перед передачей текста или сохранением документов. Она лицензирована по MIT; перед применением на собственных данных следует оценить качество, поскольку результаты на тестовом наборе могут отличаться от реальных.

Карточка модели Rqwannn/locate-anything на Hugging Face совпадает с карточкой nvidia/LocateAnything-3B, поэтому описание составлено по ней. LocateAnything-3B — разработанная NVIDIA в рамках семейства Eagle vision-language модель для визуальной локализации по изображениям и текстовым запросам. Она предназначена для разработчиков и исследователей, которым нужны обнаружение объектов, поиск областей по описанию и другие задачи пространственного понимания в приложениях Enterprise Intelligence и Physical AI. Модель основана на трансформерной VLM с визуальным энкодером MoonViT, языковой частью Qwen2.5-3B-Instruct и MLP-проектором; содержит около 3 млрд параметров. Принимает RGB-изображения исходного разрешения до 2,5K и текстовые запросы; заявлена поддержка промптов до 24K токенов. Модель выполняет поиск одного или нескольких объектов, плотное обнаружение в сложных сценах, привязку выражений к областям, локализацию элементов GUI и текста, а также выдаёт рамки и точки. Механизм Parallel Box Decoding предсказывает координаты блоками параллельно, что, по данным карточки, обеспечивает до 2,5 раза более высокую пропускную способность по сравнению с предшествующими подходами. Обучение охватывает природные сцены, робототехнику, вождение, GUI и документы; заявленный масштаб обучающих данных — 12 млн изображений и более 138 млн запросов. Карточка позиционирует релиз для исследований и разработки. Лицензия указана как other, поэтому конкретные права использования следует сверять с условиями репозитория.

Карточка модели Bigg-Iron/LocateAnything-3B на Hugging Face совпадает с карточкой nvidia/LocateAnything-3B, поэтому описание составлено по ней. LocateAnything-3B — разработанная NVIDIA в рамках семейства Eagle vision-language модель для визуальной локализации по изображениям и текстовым запросам. Она предназначена для разработчиков и исследователей, которым нужны обнаружение объектов, поиск областей по описанию и другие задачи пространственного понимания в приложениях Enterprise Intelligence и Physical AI. Модель основана на трансформерной VLM с визуальным энкодером MoonViT, языковой частью Qwen2.5-3B-Instruct и MLP-проектором; содержит около 3 млрд параметров. Принимает RGB-изображения исходного разрешения до 2,5K и текстовые запросы; заявлена поддержка промптов до 24K токенов. Модель выполняет поиск одного или нескольких объектов, плотное обнаружение в сложных сценах, привязку выражений к областям, локализацию элементов GUI и текста, а также выдаёт рамки и точки. Механизм Parallel Box Decoding предсказывает координаты блоками параллельно, что, по данным карточки, обеспечивает до 2,5 раза более высокую пропускную способность по сравнению с предшествующими подходами. Обучение охватывает природные сцены, робототехнику, вождение, GUI и документы; заявленный масштаб обучающих данных — 12 млн изображений и более 138 млн запросов. Карточка позиционирует релиз для исследований и разработки. Лицензия указана как other, поэтому конкретные права использования следует сверять с условиями репозитория.

Карточка модели ccqwe/LocateAnything-3B на Hugging Face совпадает с карточкой nvidia/LocateAnything-3B, поэтому описание составлено по ней. LocateAnything-3B — разработанная NVIDIA в рамках семейства Eagle vision-language модель для визуальной локализации по изображениям и текстовым запросам. Она предназначена для разработчиков и исследователей, которым нужны обнаружение объектов, поиск областей по описанию и другие задачи пространственного понимания в приложениях Enterprise Intelligence и Physical AI. Модель основана на трансформерной VLM с визуальным энкодером MoonViT, языковой частью Qwen2.5-3B-Instruct и MLP-проектором; содержит около 3 млрд параметров. Принимает RGB-изображения исходного разрешения до 2,5K и текстовые запросы; заявлена поддержка промптов до 24K токенов. Модель выполняет поиск одного или нескольких объектов, плотное обнаружение в сложных сценах, привязку выражений к областям, локализацию элементов GUI и текста, а также выдаёт рамки и точки. Механизм Parallel Box Decoding предсказывает координаты блоками параллельно, что, по данным карточки, обеспечивает до 2,5 раза более высокую пропускную способность по сравнению с предшествующими подходами. Обучение охватывает природные сцены, робототехнику, вождение, GUI и документы; заявленный масштаб обучающих данных — 12 млн изображений и более 138 млн запросов. Карточка позиционирует релиз для исследований и разработки. Лицензия указана как other, поэтому конкретные права использования следует сверять с условиями репозитория.

Карточка модели ShaunGves/LocateAnything-3B на Hugging Face совпадает с карточкой nvidia/LocateAnything-3B, поэтому описание составлено по ней. LocateAnything-3B — разработанная NVIDIA в рамках семейства Eagle vision-language модель для визуальной локализации по изображениям и текстовым запросам. Она предназначена для разработчиков и исследователей, которым нужны обнаружение объектов, поиск областей по описанию и другие задачи пространственного понимания в приложениях Enterprise Intelligence и Physical AI. Модель основана на трансформерной VLM с визуальным энкодером MoonViT, языковой частью Qwen2.5-3B-Instruct и MLP-проектором; содержит около 3 млрд параметров. Принимает RGB-изображения исходного разрешения до 2,5K и текстовые запросы; заявлена поддержка промптов до 24K токенов. Модель выполняет поиск одного или нескольких объектов, плотное обнаружение в сложных сценах, привязку выражений к областям, локализацию элементов GUI и текста, а также выдаёт рамки и точки. Механизм Parallel Box Decoding предсказывает координаты блоками параллельно, что, по данным карточки, обеспечивает до 2,5 раза более высокую пропускную способность по сравнению с предшествующими подходами. Обучение охватывает природные сцены, робототехнику, вождение, GUI и документы; заявленный масштаб обучающих данных — 12 млн изображений и более 138 млн запросов. Карточка позиционирует релиз для исследований и разработки. Лицензия указана как other, поэтому конкретные права использования следует сверять с условиями репозитория.

Карточка модели Yukang/LongAlpaca-70B на Hugging Face совпадает с карточкой Yukang/LongAlpaca-13B, поэтому описание составлено по ней. LongAlpaca-13B — языковая модель на архитектуре Llama, выпущенная командой LongLoRA. Модель содержит 12,9 млрд параметров и дообучена с учителем на наборе LongAlpaca-12k, который включает длинные и короткие вопросы и ответы. Она предназначена для следования инструкциям и ответов на вопросы по длинным текстам, например разделам книг и научным статьям. В README для LongAlpaca-13B указано окно контекста 32 768 токенов; метаданные этой конкретной карточки указывают native context в 4 096 токенов. Поэтому заявленную возможность работы с длинным контекстом следует учитывать с оглядкой на конфигурацию и фактическую поддержку весов. Модель принимает текст и генерирует текст; сведения о поддерживаемых естественных языках не приведены. Для использования весов требуется принять лицензию и политику допустимого использования Meta.

ccdv/lsg-bart-base-16384 — модель на базе BART-base, адаптированная для задач encoder-decoder с длинными входными последовательностями. Она использует локальное, разреженное и глобальное внимание (LSG) и содержит 95,2 млн параметров. Заявленная длина контекста — до 16 384 токенов; модель реализована на PyTorch и использует тот же токенизатор и число слоёв, что и BART-base. Модель предназначена для генерации текста по входной последовательности, включая суммаризацию, а также может применяться для классификации. В README приведены примеры суммаризации и классификации; метаданные также указывают fill-mask и question answering среди поддерживаемых задач. Для загрузки через Transformers требуется включить trust_remote_code=True, поскольку используется пользовательский код архитектуры. Входную длину рекомендуется обрезать токенизатором; при нехватке памяти можно уменьшить размеры блоков или увеличить разреженность внимания. Модель адаптирована от BART-base без дополнительного предварительного обучения. Лицензия в предоставленных данных не указана.

Это языковая модель семейства Llama, созданная автором репозитория методом TIES с помощью mergekit. В объединение вошли Meta Llama 3.2 1B и несколько её вариантов, настроенных для диалогов, медицинских вопросов, SQL, математики и кода. Модель содержит 1,2 млрд параметров, использует плотную архитектуру LlamaForCausalLM и распространяется в формате safetensors через Transformers; заявленная длина контекста — 131 072 токена. Модель предназначена для генерации текста и может служить компактной основой для диалогов и ответов на вопросы, а также запросов по медицинским темам, SQL, математике и коду. README не приводит результатов оценки, подробностей о качестве или явного перечня поддерживаемых языков. Базовая модель Llama 3.2 1B распространяется по лицензии Llama 3.2 Community License; условия использования итогового объединения отдельно не описаны в предоставленных данных.

MJPansa/MiniMax-M2.7-REAP-172B-A10B-AutoRound-W4A16 — экспериментальная сжатая и квантизированная версия модели семейства MiniMax-M2, разработанная на основе MiniMaxAI/MiniMax-M2.7. Это текстовая генеративная модель для продолжения текста, диалогов, программирования и других задач обработки естественного языка; предусмотрена интеграция с vLLM и Hugging Face Transformers. Заявленный язык — английский. Модель использует архитектуру Mixture-of-Experts: 62 трансформерных слоя, 192 эксперта на слой после сокращения исходных 256 экспертов на 25%, top-8 маршрутизацию, скрытый размер 3072, 48 attention heads и 8 KV heads. Всего около 172 млрд параметров, из которых примерно 10 млрд активируются на токен. REAP применён для pruning экспертов, а AutoRound — для квантизации весов в формате W4A16 с 4-битными весами, 16-битными активациями и group size 128. Размер checkpoint составляет около 86 GiB; заявлена поддержка контекста до 32768 токенов при использовании соответствующей конфигурации сервера. Сильная сторона модели — существенно уменьшенный размер и возможность запуска на одной NVIDIA GB10/DGX Spark с 128 GiB unified memory, а также на CUDA GPU с kernels Marlin или GPTQ-Marlin W4A16. Ограничения связаны с экспериментальным статусом: pruning и калибровка выполнены всего на 64 последовательностях длиной 512 токенов из evol-codealpaca-v1, поэтому качество ещё оценивается и может уступать исходной модели. Для Transformers требуется trust_remote_code=True. Модель распространяется по лицензии MiniMax M2.7, обозначенной в README как minimax-m2.7-license.

cloudyu выпустил плотную текстовую модель cloudyu/mistral_28B_instruct_v0.1 на архитектуре Mistral с 28 млрд параметров. Согласно README, модель дообучена методом SFT на наборе vicgalle/alpaca-gpt4 и использует формат инструкций с полями instruction, inputs и output. Метаданные также отмечают поддержку чата и контекст до 32 768 токенов. Модель предназначена для генерации ответов на инструкции и диалоговых сценариев. Репозиторий содержит веса в формате safetensors; лицензия — CC BY 4.0. README заявляет 128 слоёв, но не описывает оценку качества или специализированную область применения.

Mistral-Nemo-Instruct-2407-quantized.w4a16 — текстовая instruction-tuned модель семейства Mistral-Nemo, разработанная Neural Magic на основе Mistral-Nemo-Instruct-2407. Она предназначена для коммерческого и исследовательского использования в англоязычных assistant-like чат-сценариях и задачах генерации текста. Модель работает только с текстом на входе и выходе и использует INT4-квантизацию весов линейных слоёв трансформера по схеме W4A16 с алгоритмом GPTQ, групповой симметричной квантизацией и размером группы 128. Снижение разрядности с 16 до 4 бит уменьшает размер модели на диске и требования к памяти GPU примерно на 75%, что облегчает развёртывание через vLLM или Transformers. Заявленный результат на OpenLLM Leaderboard v1 составляет 70,13 против 71,61 у неквантизированной версии. К сильным сторонам относятся существенно сниженные требования к памяти и удобство эффективного инференса. Ограничения включают поддержку и заявленное назначение только для английского языка, а также небольшое снижение benchmark-показателей относительно исходной модели; размер модели и максимальная длина контекста в README не указаны. В описании указана лицензия Apache-2.0, хотя в метаданных README также присутствует значение llama2; это расхождение следует уточнить перед использованием.

Mistral-Small-Instruct-2409-GGUF — это набор GGUF-квантизаций инструкционной языковой модели Mistral-Small-Instruct-2409, разработанной Mistral AI и подготовленной пользователем bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая работу через llama.cpp и LM Studio. Для взаимодействия используется шаблон промпта <s> [INST] запрос [/INST]. В README указана поддержка английского, французского, немецкого, испанского, итальянского, португальского, китайского, японского, русского и корейского языков. Архитектура, число параметров, размер контекстного окна и поддержка модальностей, кроме текстовой, не указаны. Доступны варианты от F16 размером 44,50 ГБ до IQ3_M размером 10,06 ГБ, а также форматы Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и другие. Более высокие уровни квантизации обеспечивают лучшее качество, тогда как компактные варианты требуют меньше оперативной памяти, но могут снижать качество ответов. Сильной стороной набора является широкий выбор квантизаций, включая варианты, оптимизированные для ARM, что позволяет подобрать баланс между качеством и ресурсами устройства. Ограничения связаны с потерями качества при низких уровнях квантизации и отсутствием в README подробных сведений о возможностях исходной модели и результатах оценки. Модель распространяется по лицензии Mistral Research License (MRL) 0.1; применяются условия лицензии Mistral AI.

jhu-clsp/mmBERT-small — компактный мультиязычный двунаправленный энкодер, разработанный исследовательской группой JHU CLSP на архитектуре ModernBERT. Модель содержит 140,5 млн параметров, включая 22 слоя с размером скрытого представления 384, и обучена на более чем 3 трлн токенов для свыше 1800 языков. Она использует masked language modeling и поддерживает контекст до 8192 токенов. Модель предназначена прежде всего для заполнения пропусков и получения контекстных представлений текста. После дообучения её можно применять для классификации, межъязыковых эмбеддингов, поиска и ранжирования документов; README сообщает о высокой скорости и улучшении результатов относительно XLM-R на таких задачах. Репозиторий опубликован в формате PyTorch и использует библиотеку Transformers. Лицензия — MIT. Это энкодер, а не генеративная модель для свободных ответов. Для прикладных задач классификации, эмбеддингов, поиска и ранжирования обычно требуется соответствующая донастройка; качество для отдельных языков и задач может различаться.

MyAwesomeModel — модель на базе BERT для извлечения признаков из текста, опубликованная на Hugging Face в формате, совместимом с библиотекой Transformers. В метаданных модель классифицирована для задачи feature extraction; размер, длина контекста и поддерживаемые естественные языки не указаны. README описывает обновлённую версию модели с заявленными улучшениями рассуждений, логического анализа, программирования, классификации, суммаризации, диалогов и function calling, однако эти возможности не подтверждены pipeline-тегом feature-extraction и приведёнными техническими характеристиками. На практике модель следует рассматривать прежде всего как источник векторных представлений текста для последующей обработки. Модель распространяется по лицензии MIT. Для прикладного использования необходимо отдельно проверить фактическую архитектуру, качество на нужном языке и совместимость заявленных в README сценариев с доступными весами и конфигурацией.

NB-Whisper Medium — модель распознавания речи, разработанная NB AI-Lab Национальной библиотекой Норвегии на основе OpenAI Whisper Medium. Это плотная encoder-decoder модель семейства Whisper с 455,8 млн параметров, предназначенная для преобразования речи в текст и перевода речи. Она обучалась на корпусах норвежской речи; карточка также указывает поддержку норвежского букмола, норвежского нюношка и английского языка. Модель подходит для расшифровки аудиозаписей, включая длинные файлы, и может формировать временные метки для предложений и слов. Для более длинных записей README рекомендует обработку фрагментами около 28 секунд; увеличение beam size может повысить точность ценой скорости и памяти. Для эффективной локальной работы с версией Medium рекомендуется GPU. Лицензия — Apache 2.0.

NeoMME-260M-Retriever-ST-late — мультиязычный мультимодальный энкодер для поиска документов, разработанный Hcompany. Модель дообучена на базе Hcompany/NeoMME-260M-Retriever и использует общий двунаправленный Transformer-энкодер для текстовых запросов и документов в текстовом виде или как изображения страниц. Она предназначена для извлечения многовекторных представлений и ранжирования документов по сходству с запросом с помощью позднего взаимодействия MeanMaxSim. Модель содержит 366 млн параметров, работает с контекстом до 16 384 токенов и распространяется в формате safetensors через Sentence Transformers. Обучение охватывало текстовый поиск и поиск по изображениям страниц; заявлена мультиязычная поддержка. Лицензия — Apache-2.0. Версия ST-late предназначена для независимой настройки многовекторной головы. В Sentence Transformers она генерирует только многовекторные эмбеддинги; одновременно использовать обе головы поиска нельзя.

NorSBERT4-base — модель Sentence Transformer, разработанная Fremtind и дообученная на базе ltg/norbert4-base. Она преобразует предложения и абзацы на норвежском языке в плотные векторы размерности 960 для семантического сравнения текстов, поиска, классификации и кластеризации. Модель использует архитектуру GptBertModel; в репозитории представлены веса safetensors, размер — 148,8 млн параметров. Для дообученной модели стандартная максимальная длина последовательности составляет 75 токенов; базовая модель допускает увеличение до 16 384 токенов. Модель подходит для семантического поиска по норвежским текстам, оценки сходства предложений и группировки текстов. В README приведена оценка на задачах классификации и кластеризации для норвежского языка; в указанном сравнении NorSBERT4-base заняла третье место среди пяти моделей. Лицензия — Apache-2.0.

bartowski/nvidia_Llama-3_3-Nemotron-Super-49B-v1-GGUF — это GGUF-квантизированная версия языковой модели Llama-3_3-Nemotron-Super-49B-v1, разработанной NVIDIA и подготовленной bartowski с использованием llama.cpp и imatrix-квантизации. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других совместимых проектах. Указана поддержка английского языка и текстовая модальность. Модель относится к классу крупных моделей с заявленным размером 49B параметров. Доступны варианты от BF16 и Q8_0 до более компактных Q3- и IQ-квантизаций; рекомендуемыми названы, в частности, Q6_K, Q5_K, Q4_K_M и IQ4_XS. Размер файлов составляет примерно от 22,66 до 99,74 ГБ, поэтому для запуска требуется значительный объём оперативной или видеопамяти, зависящий от выбранного варианта. Квантизация снижает требования к ресурсам и позволяет использовать модель локально, но более компактные варианты могут уступать исходной модели по качеству. README не содержит данных о длине контекста, точной архитектуре, результатах тестирования, производительности или поддержке других языков, поэтому эти характеристики нельзя надёжно оценить. Модель распространяется по NVIDIA Open Model License; условия лицензии следует уточнять по указанной NVIDIA-ссылке.