I.3Извлечение и структурирование данных

Qwen3-VL-32B-Instruct-MLX-4bit — это 4-битная MLX-квантизированная версия мультимодальной модели Qwen3-VL-32B-Instruct, разработанной командой Qwen. Квантизацию подготовила команда LM Studio с использованием mlx_vlm; модель предназначена для запуска на устройствах с Apple Silicon и относится к классу image-text-to-text, то есть обрабатывает изображения и текст и генерирует текстовые ответы. Модель имеет размер 32 млрд параметров в исходной версии и ориентирована на выполнение инструкций и мультимодальные сценарии, включая анализ визуального содержимого в сочетании с текстовыми запросами. 4-битное представление уменьшает требования к памяти и оптимизировано для MLX, что делает модель более подходящей для локального использования на совместимых компьютерах Apple Silicon. К ограничениям относятся потеря части точности по сравнению с исходной полноразмерной моделью из-за квантизации, зависимость от совместимого окружения MLX и преимущественная ориентация на Apple Silicon. Сведения о поддерживаемых языках и размере контекстного окна в README не указаны. Модель распространяется по лицензии Apache-2.0.

Qwen3-VL-8B-Instruct-MLX-6bit — 6-битная квантованная версия мультимодальной модели Qwen3-VL-8B-Instruct, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием MLX и mlx_vlm; модель оптимизирована для работы на устройствах Apple Silicon. Модель предназначена для задач image-text-to-text, то есть обработки изображений и текста с генерацией текстовых ответов. Она может применяться в сценариях, где требуется анализ визуального содержимого и взаимодействие с ним на естественном языке. Исходная модель имеет размер 8B параметров, однако README не содержит подробностей об архитектуре, поддерживаемых языках и размере контекстного окна. Ключевые преимущества версии — сниженное потребление памяти по сравнению с полноразмерной моделью и оптимизация для экосистемы Apple Silicon. Квантование может сопровождаться некоторой потерей точности, но конкретные результаты оценки не указаны. Модель распространяется по лицензии Apache-2.0.

Qwen_Qwen3-VL-8B-Thinking-GGUF — это набор GGUF-квантизаций мультимодальной модели Qwen3-VL-8B-Thinking, разработанной Qwen и подготовленной пользователем bartowski. Модель предназначена для задач image-text-to-text, то есть обработки изображений и текста с генерацией текстовых ответов. Указана архитектура с 8B параметров, однако точные сведения о языках, размере контекста и поддерживаемых модальностях в README не приведены. Модель доступна в вариантах от исходных весов BF16 размером 16,39 ГБ до сильно сжатых форматов Q2 и Q3 размером около 3,8–5 ГБ, а также Q4, Q5, Q6 и Q8. Квантизация выполнена с использованием llama.cpp и метода imatrix. Версии Q5–Q6 позиционируются как высококачественные, Q4 — как оптимальный компромисс для большинства сценариев, а Q2–Q3 — как варианты для систем с ограниченным объёмом оперативной памяти, но с заметным снижением качества. Для запуска рекомендуются LM Studio, llama.cpp и другие проекты на базе llama.cpp. В README приведён формат prompt с системным сообщением, пользовательским запросом и секцией рассуждений assistant. Сильными сторонами являются мультимодальность, широкий выбор уровней квантизации и возможность локального запуска; ограничения связаны с потерями качества в низкобитных вариантах и отсутствием в предоставленных данных информации о лицензии, языках и контекстном окне.

Карточка модели allenai/SAGE-MM-Qwen3-VL-4B-SFT на Hugging Face совпадает с карточкой allenai/SAGE-MM-Qwen2.5-VL-7B-SFT_RL, поэтому описание составлено по ней. SAGE-MM-Qwen2.5-VL-7B-SFT_RL — модель Allen Institute for AI на базе Qwen2.5-VL-7B, дообученная для мультимодального рассуждения о видео в системе SAGE. Она анализирует кадры и метаданные видео, решает, можно ли ответить сразу или нужно обратиться к инструментам, а затем объединяет полученные наблюдения в итоговый ответ. Модель может формировать JSON-действия для поиска в интернете, распознавания речи по фрагментам видео, определения временных границ событий, извлечения кадров или клипов и детального анализа медиа. Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2.5-VL и принимает контекст до 128 000 токенов. Для выполнения инструментальных действий ей требуется внешняя среда, которая разбирает JSON, запускает инструменты и возвращает их результаты. Модель опубликована в формате safetensors под лицензией Apache-2.0. Карточка указывает английский язык; данных о других поддерживаемых языках нет.

Карточка модели allenai/SAGE-MM-Qwen3-VL-4B-SFT_RL на Hugging Face совпадает с карточкой allenai/SAGE-MM-Qwen2.5-VL-7B-SFT_RL, поэтому описание составлено по ней. SAGE-MM-Qwen2.5-VL-7B-SFT_RL — модель Allen Institute for AI на базе Qwen2.5-VL-7B, дообученная для мультимодального рассуждения о видео в системе SAGE. Она анализирует кадры и метаданные видео, решает, можно ли ответить сразу или нужно обратиться к инструментам, а затем объединяет полученные наблюдения в итоговый ответ. Модель может формировать JSON-действия для поиска в интернете, распознавания речи по фрагментам видео, определения временных границ событий, извлечения кадров или клипов и детального анализа медиа. Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2.5-VL и принимает контекст до 128 000 токенов. Для выполнения инструментальных действий ей требуется внешняя среда, которая разбирает JSON, запускает инструменты и возвращает их результаты. Модель опубликована в формате safetensors под лицензией Apache-2.0. Карточка указывает английский язык; данных о других поддерживаемых языках нет.

schift-io/schift-ko-pii-v7 — корейская модель для обнаружения персональных данных, разработанная Schift. Она выполняет токенную классификацию и размечает упоминания людей и адресов; модель предназначена для выявления таких фрагментов в тексте перед проверкой или маскированием. В README описан рабочий процесс, в котором отдельная политика определяет, какие найденные фрагменты блокировать, отправлять на проверку или оставлять без изменений. Это плотный энкодер семейства LFM2 с 32,9 млн параметров и контекстом 8192 токена по метаданным. Архитектура использует общие нижние слои и независимо дообученные верхние ветви для людей и адресов; веса опубликованы в формате safetensors. README указывает максимальную длину обработки 512 токенов. Модель рассчитана на корейский язык. Для практического использования предусмотрена загрузка через специальный hydra loader на базе Transformers и PyTorch. В поставку входят только распознаватели людей и адресов. Поддержка организаций отложена; расширенные профили идентификаторов и контекстных атрибутов доступны через отдельный адаптер пакета. Модель принимает текст, а результат представляет собой токенные метки и найденные фрагменты; извлечение текста из файлов документов выполняется отдельно. Лицензия обозначена как other, поэтому условия использования следует уточнить в репозитории модели.

Seraph-7B-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на основе Mistral-7B-Instruct-v0.2, созданная MaziyarPanahi слиянием весов через метод SLERP с моделью Weyaxi/Seraph-7B. Она предназначена для генерации текста в диалоге и выполнения инструкций. Модель имеет плотную архитектуру MistralForCausalLM, около 7,1 млрд параметров и контекст до 32 768 токенов; принимает текст и выдаёт текст. Слияние сочетает две модели с настройкой коэффициентов для слоёв self-attention и MLP. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Доступные сведения не описывают отдельные тесты качества или специальные предметные области, поэтому результат следует проверять на задачах, где важны точность и надёжность ответов.

zeromodels выпускает преобразованную в Keras 3 версию Google SigLIP 2 Base Patch16 384 для классификации изображений по текстовым описаниям без дополнительного обучения. Модель сопоставляет изображения и текстовые метки или запросы; при выводе ей передают изображения и текстовые подсказки. Реализация работает с TensorFlow, PyTorch и JAX. SigLIP 2 — мультиязычный vision-language энкодер с архитектурой ViT и размером Base; вариант использует патчи 16 × 16 и разрешение изображения 384 пикселя. В основе обучения — sigmoid loss, предобучение на подписях, самодистилляция и masked prediction. Gemma-токенизатор с мультиязычным словарём поддерживает множество языков. Лицензия — Apache 2.0.

Карточка модели Veritone/siglip2-so400m-patch16-256 на Hugging Face совпадает с карточкой google/siglip2-so400m-patch16-256, поэтому описание составлено по ней. SigLIP 2 So400m — модель семейства SigLIP 2, разработанная Google. Это плотный визуальный энкодер, обученный на датасете WebLI; вариант So400m использует патчи размером 16 пикселей и входное разрешение 256 пикселей. Модель сопоставляет изображения и текст, поддерживает классификацию изображений по произвольным текстовым меткам без дообучения и поиск изображений по тексту или текста по изображению. Модель подходит для извлечения визуальных признаков и встраивания в мультимодальные языковые модели, а также для задач локализации и получения плотных визуальных представлений. В README не приведены сведения о числе параметров, контекстном окне или языковом охвате. Репозиторий распространяется по лицензии Apache-2.0.

Это конвертированная в формат Vokra GGUF версия модели Silero VAD v6.2.1 от upstream-разработчика snakers4. Она предназначена для определения участков речи в аудиозаписи и запускается в среде инференса Vokra, которая поддерживает отображение весов в память. Для работы модели требуется монофонический WAV с частотой дискретизации 16 кГц; результатом являются обнаруженные речевые сегменты. Файл весит 2,1 МБ, архитектура обозначена как silero-vad. Конверсия сохраняет исходные веса и не является новым дообучением. Лицензия — MIT.

Swallow 70B Instruct — крупная языковая модель для генерации текста, разработанная командой tokyotech-llm. Представленная версия распространяется TheBloke в формате GGUF и является квантизированным вариантом исходной модели Swallow 70B Instruct в формате PyTorch. Модель основана на архитектуре Llama, предназначена для выполнения инструкций и задач text-generation, включая диалоговые и прикладные сценарии работы с текстом. Модель поддерживает английский и японский языки. Указанный размер — 70B параметров; модальность — текстовая. Формат GGUF позволяет запускать модель через llama.cpp и совместимые интерфейсы и библиотеки, в том числе с использованием CPU и GPU. Доступны варианты квантования от 2 до 8 бит, что даёт выбор между требованиями к памяти, скоростью и качеством генерации. Для корректного использования предусмотрен шаблон инструкций на японском языке. Размер контекста в README не указан. К сильным сторонам относятся большой размер, поддержка английского и японского языков, выполнение инструкций и возможность локального запуска с различными уровнями квантования. Ограничениями являются высокие требования к ресурсам для вариантов с низкой степенью квантования, возможная потеря качества из-за квантования и отсутствие сведений о результатах тестирования, производительности и точном размере контекста. Модель распространяется по лицензии Llama 2; условия лицензии следует учитывать при использовании.

Tess-34B-v1.4 — универсальная большая языковая модель семейства Tess, опубликованная migtissera. Она дообучена на базе Yi-34B-200K и предназначена для генерации текста и диалоговых сценариев. Модель использует плотную архитектуру LlamaForCausalLM, содержит 33,9 млрд параметров и поддерживает контекст до 200 000 токенов. Карточка описывает общий профиль модели, без специализации на конкретной предметной области. Для диалога приведён формат с ролями SYSTEM, USER и ASSISTANT. Модель опубликована в формате safetensors; лицензия указана как other, поэтому условия использования следует уточнять по полным сведениям репозитория.

MaziyarPanahi/una-cybertron-7b-v3-OMA-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием Mistral-7B-Instruct-v0.2 и fblgit/una-cybertron-7b-v3-OMA методом SLERP. Модель построена на плотной архитектуре Mistral с 7,1 млрд параметров и предназначена для генерации текста и ответов на инструкции в формате диалога. Модель принимает текстовые запросы и выдаёт текстовые ответы; её контекст составляет до 32 768 токенов. Файлы опубликованы в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не описывает специализированные области применения и конкретные ограничения качества.

TheBloke/Upstage-Llama1-65B-Instruct-GGUF — это квантизированная версия языковой модели Llama 65B Instruct, разработанной компанией Upstage и подготовленной TheBloke в формате GGUF. Модель предназначена для генерации текста и выполнения инструкций, включая диалоговые и другие задачи обработки текста на английском языке. Модель основана на архитектуре Llama и содержит около 65 миллиардов параметров. Репозиторий предоставляет варианты с 2-, 3-, 4-, 5-, 6- и 8-битным квантованием для запуска на CPU и GPU. Формат GGUF совместим с llama.cpp и рядом пользовательских интерфейсов и библиотек, включая text-generation-webui, LM Studio, KoboldCpp, llama-cpp-python и другие. Для работы предусмотрен шаблон приглашений с секциями System, User и Assistant. Размер контекста в README не указан. К сильным сторонам относятся большой размер базовой модели, настройка для следования инструкциям и возможность локального запуска с выбором степени квантования, позволяющей находить компромисс между требованиями к памяти и качеством. Ограничениями являются значительные вычислительные требования даже для квантированных вариантов, возможная потеря качества при агрессивном квантовании и отсутствие в README подробных данных о результатах оценки, поддерживаемых языках помимо английского и точном размере контекста. Лицензия указана как other; конкретные условия использования необходимо уточнять в лицензии исходной модели Upstage.

Vietnamese_Embedding_v2 — модель эмбеддингов на базе Sentence Transformers, дообученная AITeamVN на BAAI/bge-m3 для улучшения поиска по текстам на вьетнамском языке. Обучение проводилось на примерно 1,1 млн троек из запросов, релевантных и нерелевантных документов. Архитектура — XLM-RoBERTa с плотными векторами размерности 1024; модель оценивает сходство скалярным произведением. Метаданные указывают контекст до 8194 токенов, а README сообщает о максимальной длине последовательности 2048 токенов для документов и 256 для запросов. Модель предназначена для построения векторного поиска и извлечения релевантных документов по вьетнамским запросам. В оценке на наборе Legal Zalo 2021 она показала Accuracy@10 0,9578 и MRR@10 0,8149; README отмечает, что модель не обучалась на этом наборе. Результат на юридических данных несколько ниже, чем у базовой фазы, но авторы указывают, что более крупные данные обучения могут быть полезны для других областей. Лицензия — Apache 2.0.

Карточка модели thanhtantran/Vietnamese_Embedding_v2 на Hugging Face совпадает с карточкой AITeamVN/Vietnamese_Embedding_v2, поэтому описание составлено по ней. Vietnamese_Embedding_v2 — модель эмбеддингов на базе Sentence Transformers, дообученная AITeamVN на BAAI/bge-m3 для улучшения поиска по текстам на вьетнамском языке. Обучение проводилось на примерно 1,1 млн троек из запросов, релевантных и нерелевантных документов. Архитектура — XLM-RoBERTa с плотными векторами размерности 1024; модель оценивает сходство скалярным произведением. Метаданные указывают контекст до 8194 токенов, а README сообщает о максимальной длине последовательности 2048 токенов для документов и 256 для запросов. Модель предназначена для построения векторного поиска и извлечения релевантных документов по вьетнамским запросам. В оценке на наборе Legal Zalo 2021 она показала Accuracy@10 0,9578 и MRR@10 0,8149; README отмечает, что модель не обучалась на этом наборе. Результат на юридических данных несколько ниже, чем у базовой фазы, но авторы указывают, что более крупные данные обучения могут быть полезны для других областей. Лицензия — Apache 2.0.

Это визуальный энкодер ViT-Base с патчами 16×16, обученный как часть CLIP на данных LAION-2B. Модель распространяется через timm; в репозитории находятся только веса image encoder, без текстового энкодера CLIP. Она предназначена для извлечения признаковых векторов из изображений, например для поиска похожих изображений, кластеризации и построения визуальных представлений для последующих моделей. Доступны веса в форматах PyTorch и safetensors; лицензия — Apache-2.0. Энкодер принимает изображения и выдаёт векторы признаков. Для сравнения изображений с текстом или вычисления CLIP-сходства потребуется отдельно получить совместимый текстовый энкодер. Размер модели и точный входной размер в предоставленных сведениях не приводятся.

Это вариант CLIP с визуальным энкодером ViT-H/14, обученный на наборе данных MetaCLIP-2.5B. Модель разработана для использования с библиотеками open_clip и timm; в OpenCLIP она называется ViT-H-14-quickgelu, а в timm — vit_huge_patch14_clip_224.metaclip_2pt5b. Модель сопоставляет изображения с текстовыми описаниями и подходит для классификации изображений по произвольным текстовым меткам без отдельного обучения на этих классах. Её можно применять для поиска изображений по тексту и быстрой категоризации визуального содержимого. Репозиторий содержит веса PyTorch и safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческого характера.

Apel-sin/whisper-large-v3-russian-ties-podlodka-v1.2 — русскоязычная модель распознавания речи на архитектуре Whisper large-v3. Она объединяет методом TIES модели antony66/whisper-large-v3-russian и bond005/whisper-large-v3-ru-podlodka; размер составляет 905,2 млн параметров. Модель предназначена для преобразования аудиозаписей в текст, в том числе телефонных разговоров. В карточке указано, что для обработки звонков рекомендуется предварительно подготовить записи и отрегулировать громкость. Модель помечена как незавершённая работа: автор планирует дополнительно адаптировать её для распознавания телефонной речи. Обучение связано с наборами Common Voice 17.0, Taiga Speech v2, Podlodka Speech и ruLibriSpeech. Использование совместимого с OpenAI API сервера описано как возможный способ запуска. Сведения о лицензии в предоставленных данных отсутствуют.

AliceAI-T5-35B-A0.6B-GGUF — это общественные GGUF-квантизации языковой модели AliceAI-T5-35B-A0.6B, разработанной Yandex. Релиз подготовлен сообществом и распространяется через llama.cpp; модель не обучалась и не дообучалась, а была напрямую конвертирована из исходного BF16-снимка upstream-модели. Модель предназначена для генерации текста и использует архитектуру encoder-decoder со sparse mixture-of-experts. Она содержит примерно 34,35 млрд уникальных параметров, 512 экспертов в каждом MoE-слое с маршрутизацией top-8, скрытое состояние шириной 1536, 16 слоёв энкодера и 12 слоёв декодера. В модели используются общие эмбеддинги энкодера и декодера, а также RoPE с YaRN. Upstream-модель заявляет контекст до 128 тысяч токенов, однако для этой GGUF-версии такой размер контекста не подтверждён. Языки и полный набор поддерживаемых модальностей в карточке не указаны; модель является текстовой. Доступны варианты от BF16 и Q8_0 до компактных уровней квантования, включая Q4_K_M, Q3_K_M, Q2_K и IQ4_XS, что позволяет выбирать между качеством и требованиями к памяти. Варианты от Q8_0 до Q3_K_M и IQ4_XS прошли проверку загрузки и базовой детерминированной генерации; Q2_K работает технически, но показал некорректный результат в проверочном примере и не рекомендуется как качественный вариант. Для работы требуется сборка llama.cpp с поддержкой специальной архитектуры AliceAI и encoder-decoder-пути, включая cross-attention; обычный запуск decoder-only модели недостаточен. Квантизации распространяются по лицензии Apache License 2.0, но не являются официальным релизом или одобрением Yandex.

Apodex 1.1 Mini — модель рассуждений от Apodex для сложных исследовательских задач и прогнозирования на длинном горизонте. По описанию, она работает с файлами, данными, кодом и инструментами и предназначена для получения проверяемых результатов. Метаданные классифицируют её как модель генерации текста. Размер, архитектура, контекстное окно, поддерживаемые языки и лицензия в предоставленных данных не описаны.

tintnguyen/bert-base-vi-uncased-st-3 — модель Sentence Transformers, разработанная на основе tintnguyen/bert-base-vi-uncased-st-2. Это дообученный BERT с 170,8 млн параметров, который преобразует предложения и абзацы в плотные векторы размерностью 768 для сравнения по косинусному сходству. Максимальная длина входа — 512 токенов; для получения вектора используется усреднение токенных представлений. Модель предназначена для семантического поиска, оценки сходства предложений, поиска перефразировок, кластеризации и классификации текста. Она обучалась на парах положительных и отрицательных примеров из датасета, созданного на основе вопросов вьетнамской Википедии, и рассчитана прежде всего на вьетнамский язык. В метаданных указана библиотека sentence-transformers; веса представлены в формате Safetensors. Лицензия в предоставленных данных не указана. Качество и пригодность для других языков отдельно не подтверждены; максимальная длина последовательности ограничивает обработку длинных текстов.

m3hrdadfi/bert-fa-base-uncased-wikinli-mean-tokens — персидская модель эмбеддингов предложений на базе ParsBERT, представленная Mehrdad Farahani в проекте Sentence Transformers. Она преобразует текст в векторные признаки и предназначена для получения представлений предложений, в том числе для задач семантического поиска и сравнения текстов. Модель построена на архитектуре BERT, содержит 190 млн параметров и принимает последовательности длиной до 512 токенов. Доступны форматы PyTorch и Flax. Модель ориентирована на персидский язык. Репозиторий распространяется по лицензии Apache-2.0. Карточка краткая и не описывает результаты оценки или детальные ограничения качества.

swardiantara/bert-tiny-sst5-k5-adaptive-cosine — компактная Sentence Transformer-модель на основе BERT, дообученная автором репозитория на 8 894 парах текстов. Она кодирует предложения и абзацы в плотные векторы размерности 128; косинусное сходство между ними подходит для поиска и сравнения текстов. Архитектура включает BertModel с усредняющим pooling. В метаданных указано 4,4 млн параметров и контекст до 512 токенов; в README для Sentence Transformers задан предел последовательности 128 токенов. Модель предназначена для извлечения эмбеддингов и семантического поиска по тексту. Примеры обучающих данных — англоязычные рецензии на фильмы, поэтому в первую очередь она подходит для сравнения и поиска коротких английских текстов. Базовая модель — google/bert_uncased_L-2_H-128_A-2. Репозиторий содержит веса в формате safetensors; лицензия в предоставленных данных не указана.

dariolopez/bge-m3-es-legal-tmp-6 — модель Sentence Transformers, дообученная на основе BAAI/bge-m3 для получения текстовых эмбеддингов на испанском языке, в том числе для юридических текстов. Она преобразует предложения и абзацы в нормализованные плотные векторы размерностью 1024; близость можно оценивать косинусным сходством. Архитектура включает XLM-RoBERTa, пулинг по CLS-токену и нормализацию. Модель содержит 658,7 млн параметров и поддерживает последовательности длиной до 8194 токенов. Модель подходит для семантического поиска и сравнения текстов, поиска перефразирований, кластеризации и классификации текстов. В README приведены оценки поиска информации для выходных размерностей от 64 до 1024, что позволяет выбирать компромисс между размером векторов и качеством. Модель распространяется по лицензии Apache-2.0. Оценки в карточке относятся к указанным там наборам данных; результатов для других корпусов и языков не приведено. Назначение для испанских юридических текстов следует из имени и карточки, но детали обучающего набора в README не описаны.

onnx-community/bge-small-zh-v1.5-ONNX — это версия модели BAAI/bge-small-zh-v1.5 с весами в формате ONNX, подготовленная для использования с библиотекой Transformers.js. В README не указано, кто именно выпустил эту ONNX-версию; исходная модель связана с BAAI. Модель предназначена для извлечения признаков из текста и может применяться в сценариях, где требуются векторные представления, например для семантического поиска или сравнения текстов. Она рассчитана прежде всего на китайскоязычные данные, что следует из идентификатора исходной модели, однако подробный перечень поддерживаемых языков и характеристики контекстного окна в README не приведены. Ключевая особенность модели — совместимость с Transformers.js и возможность запуска через задачу feature-extraction, в том числе в JavaScript-средах. Архитектура, размер модели, точные модальности и другие технические параметры в предоставленных данных не указаны. Лицензия также не указана, поэтому условия использования необходимо уточнять в карточке исходной модели BAAI/bge-small-zh-v1.5 или в репозитории модели.

BjarneNPO/BjarneNPO-28_08_2025_14_24_44 — дообученная BjarneNPO модель Sentence Transformers на базе sentence-transformers/paraphrase-multilingual-mpnet-base-v2. Она кодирует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения текстов, поиска перефразировок, кластеризации и классификации. Архитектура основана на XLM-RoBERTa с усреднением токенных представлений; сходство векторов можно оценивать косинусной мерой. Модель содержит 305,2 млн параметров и рассчитана на последовательности длиной до 514 токенов по метаданным; в README указана максимальная длина 128 токенов. Обучение проведено на 72 349 парах запрос–ответ с функцией MultipleNegativesRankingLoss. Примеры обучающих данных и оценка поиска в README ориентированы на немецкоязычные обращения в службу поддержки, поэтому модель подходит для поиска релевантных ответов в подобных корпусах. Многоязычная базовая модель позволяет работать с разными языками, но основной язык и перенос качества на другие задачи отдельно не подтверждены. Опубликована в формате safetensors; лицензия в предоставленных данных не приведена.

QuantFactory/bloom-560m-GGUF — квантизированная версия языковой модели bigscience/bloom-560m, разработанной исследовательским сообществом BigScience. Модель основана на архитектуре Transformer и предназначена для генерации текста, изучения поведения языковых моделей и использования в качестве предобученной основы для дообучения. Модель поддерживает широкий набор языков, включая английский, французский, испанский, португальский, арабский, китайский, хинди, бенгальский, вьетнамский и другие, а также работу с кодом. Возможные прикладные задачи включают извлечение информации, ответы на вопросы и суммаризацию. Размер исходной модели — 560 миллионов параметров; формат GGUF получен с использованием llama.cpp. Данные о размере контекста и конкретном уровне квантизации в README не указаны. Ключевое преимущество модели — открытая многоязычная архитектура, пригодная для исследований, обучения и локального запуска в оптимизированном формате. При этом модель может генерировать фактически неверный контент и не предназначена для критически важных решений, оценки людей, медицинских, юридических, политических или финансовых сценариев. Также не следует использовать её для спама, дезинформации, мошенничества, травли, несанкционированной имитации или наблюдения. Распространение и использование регулируются лицензией bigscience-bloom-rail-1.0, основанной на RAIL License v1.0, включая установленные ограничения на применение.

Bonsai 27B 1-bit CRACK GGUF — мультимодальная vision-language модель, опубликованная dealignai. Это квантованный релиз на базе prism-ml/Bonsai-27B-gguf из семейства Qwen/Qwen3.6-27B, предназначенный для работы с текстом, изображениями и, при поддержке соответствующего runtime, видео. Модель ориентирована на диалоговые сценарии, рассуждения, анализ визуального содержимого и использование инструментов; заявлены языки английский и китайский. В состав входят 27B-классная языковая модель с 64 гибридными блоками архитектуры семейства Qwen и отдельный F16 Qwen3VL-мультимодальный проектор. Основная модель использует нативный формат Q1_0 GGUF и занимает около 4,35 GiB, проектор — около 0,86 GiB. Поддерживаются изображения; видеовход зависит от возможностей Prism runtime, при необходимости рекомендуется предварительно извлекать кадры. В README приведены результаты на фиксированной выборке MMLU-200 — 52,50% — и полном тесте HB-320 — 97,81%, однако эти показатели не эквивалентны результатам на полных официальных наборах. К сильным сторонам относятся малый размер 1-битного представления, мультимодальность, наличие специализированного проектора и высокая заявленная скорость на Apple M5 Max — около 58,5 токена в секунду для текста и изображений. Ограничения включают необходимость использовать форк Prism llama.cpp с поддержкой низкоразрядных типов, а также возможную несовместимость прямого ввода видеофайлов с отдельными клиентами. Модель распространяется по лицензии Apache-2.0.

Chinese-Alpaca-2-13B-16K — это полноразмерная чат-модель на архитектуре Llama 2, созданная проектом Chinese LLaMA & Alpaca. Она дообучена следовать инструкциям и использует расширенный китайский словарь; модель содержит 13 млрд параметров и рассчитана на контекст до 16 384 токенов. Репозиторий содержит веса PyTorch, пригодные для инференса и обучения всех параметров. Модель предназначена для генерации ответов и выполнения инструкций, особенно на китайском языке; метаданные также указывают поддержку английского. Увеличенный контекст подходит для работы с длинными запросами и документами. В проекте доступны скрипты для дальнейшего предобучения и дообучения на пользовательских данных, а модель совместима с экосистемой Transformers и рядом инструментов развёртывания. Лицензия — Apache 2.0. Модель унаследовала ограничения Llama 2 и может допускать фактические ошибки или выдавать нежелательные ответы; качество на языках помимо китайского не описано в карточке.