I.2Синтез, понимание и проверка знаний

Soulfate24/Nanbeige4.2-3B-DSpark-ASHQ1-Remix-GGUF — это объединённая и представленная в формате GGUF версия Nanbeige4.2-3B с DSpark, подготовленная в рамках набора ASHQ1-Remix. Репозиторий предназначен для генерации текста и диалогового использования; базовая модель имеет 3,2 млрд параметров и ориентирована на рассуждения, программирование и агентные задачи с вызовом инструментов. В README описана активационно-зависимая квантизация GGUF с параметрами, основанными на измеренных экспериментах, и поддержкой линии AutoRound с ограничениями насыщения. Модель поддерживает английский и китайский языки. Репозиторий распространяется по лицензии Apache-2.0. Карточка не приводит отдельные сведения о длине контекста и конкретных уровнях квантования для данного файла.

Nerdofdot/Nerdofdot_nickprock_mmarco-bert-base-italian-uncased_TM_FTM — модель на базе BERT, подготовленная в формате Sentence Transformers для преобразования предложений и абзацев в плотные векторы размерностью 768. Она предназначена для поиска семантически похожих текстов и может применяться для кластеризации и семантического поиска. Обучение использовало TripletLoss с евклидовой метрикой и отступом 0,4; объём модели составляет 137,1 млн параметров, максимальный контекст — 512 токенов. Модель принимает текст и возвращает векторные представления, которые можно сравнивать для оценки сходства. Название указывает на итальянскую uncased-версию mMARCO-BERT, однако README не приводит явного подтверждения базовой модели или поддерживаемых языков. Репозиторий содержит веса в формате safetensors. Условия лицензии в доступных данных не приведены.

api19750904/newspainclass — модель семейства RoBERTa, опубликованная в формате PyTorch и предназначенная для преобразования предложений и абзацев в плотные векторы размерностью 768. Её можно применять для поиска семантически близких текстов, кластеризации и оценки сходства предложений; README описывает обучение с CosineSimilarityLoss в рамках Sentence-Transformers. Модель принимает текст и выдаёт векторные представления. Метаданные указывают 151,8 млн параметров и контекст до 514 токенов. Карточка не сообщает, какие языки и тематические области охватывает модель, поэтому её языковую специализацию определить нельзя. Лицензия в предоставленных данных не указана.

Англоязычная модель эмбеддингов на базе ModernBERT, подготовленная mlx-community для запуска в формате MLX. Репозиторий описывает конвертацию модели nomic-ai/modernbert-embed-base; метаданные связывают её с answerdotai/ModernBERT-base и nomic-ai/modernbert-embed-unsupervised. Модель содержит 149 млн параметров и рассчитана на входной контекст до 8192 токенов. Она предназначена для получения векторных представлений текста, вычисления сходства предложений и семантического поиска. Её можно использовать для поиска похожих фрагментов, группировки текстов и построения retrieval-компонентов. Указанная лицензия — Apache-2.0. README подтверждает конвертацию в MLX, но не уточняет, каким способом получена 6-битная точность.

NVIDIA Nemotron Nano 12B v2 VL FP8 — мультимодальная авторегрессионная модель NVIDIA для анализа изображений и диалога по их содержимому. Это FP8-квантизированная версия Nemotron Nano VL V2: трансформер использует визуальный энкодер C-RADIOv2-H и языковую модель NVIDIA Nemotron Nano 12B v2. Модель принимает текст и одно изображение RGB, а отвечает текстом; контекст и длина ответа — до 128 тысяч токенов. Для изображений действует ограничение в 12 плиток размером 512 × 512 пикселей, прозрачность не поддерживается. Модель предназначена для суммаризации изображений, визуальных вопросов и ответов, распознавания текста и анализа документов, а также рассуждений по визуальному содержимому. Она поддерживает английский, русский, немецкий, испанский, французский, итальянский, корейский, португальский, японский и китайский языки, а также интерфейс вызова инструментов. В карточке указаны запуск через vLLM и оптимизация для GPU NVIDIA; среди совместимого оборудования назван H100 SXM с 80 ГБ памяти. Лицензия обозначена как other, поэтому её условия следует проверять на странице модели NVIDIA.

OpenVINO/Phi-3-mini-4k-instruct-int4-ov — это квантизированная версия Phi-3-mini-4k-instruct, разработанной Microsoft. Модель преобразована в формат OpenVINO IR, а её веса сжаты до INT4 с помощью NNCF. Это инструкционно настроенная языковая модель для генерации текста и диалоговых сценариев; поддерживается инференс через Optimum Intel и OpenVINO GenAI. Ключевые характеристики включают асимметричное INT4-сжатие весов с размером группы 64 и коэффициентом сжатия 1. В названии указано окно контекста 4k. Модель предназначена для запуска в экосистеме OpenVINO, в том числе на CPU, и совместима с OpenVINO версии 2024.4.0 и выше, а также Optimum Intel 1.23.1 и выше. Формат OpenVINO IR и INT4-квантизация могут снизить требования к памяти и упростить развёртывание, однако квантизация способна влиять на качество генерации по сравнению с исходной моделью. Языки, точный размер модели, результаты бенчмарков и подробные ограничения в карточке не указаны; для ограничений рекомендуется обращаться к карточке исходной Phi-3-mini-4k-instruct. Модель распространяется по лицензии MIT.

Querit-Reranker — мультиязычная модель ранжирования текстов, разработанная командой Querit. Она предназначена для оценки релевантности и переупорядочивания текстовых результатов, например при поиске и подготовке контекста для RAG-систем. Модель создана на основе собственной базовой MoE-модели Querit и дополнительно обучена для задач ранжирования на открытых и проприетарных данных. В карточке указана архитектура из 24 слоёв и 16 голов внимания, контекст до 128 тысяч токенов. Метаданные каталога указывают семейство DeepSeek V3, плотную архитектуру и 459,1 млн параметров; карточка README приводит для модели другой показатель общего числа параметров — 4,92 млрд с активными 0,43 млрд. Поддерживаются китайский, английский, испанский, французский, немецкий, русский, корейский и японский языки. Модель принимает текст и выдаёт оценки ранжирования. Распространяется по лицензии Apache-2.0.

Qwen2-1.5B-Instruct-GGUF — инструкционная языковая модель из семейства Qwen2, разработанного командой Qwen. Она предназначена для диалоговых приложений, генерации и понимания текста, а также может применяться в задачах, связанных с многоязычностью, программированием, математикой и рассуждениями. Модель представлена в формате GGUF и подходит для локального запуска с помощью llama.cpp, включая развёртывание сервера с совместимым с OpenAI API интерфейсом. Модель содержит 1,5 млрд параметров и построена на архитектуре Transformer с активацией SwiGLU, смещениями в QKV-проекциях внимания и Group Query Attention. Токенизатор адаптирован к нескольким естественным языкам и языкам программирования. В репозитории доступны варианты fp16 и квантованные варианты q2_k, q3_k_m, q4_0, q4_k_m, q5_0, q5_k_m, q6_k и q8_0. Обучение включало предварительное обучение, supervised fine-tuning и direct preference optimization. К сильным сторонам относятся небольшой размер, возможность локального запуска и наличие нескольких уровней квантования с различным компромиссом между качеством и требованиями к ресурсам. Ограничения связаны с размером 1,5 млрд параметров: по сравнению с более крупными моделями она может уступать в сложных задачах понимания, генерации, кодирования и рассуждений; конкретные языки и размер контекстного окна в README не указаны. Модель распространяется по лицензии Apache-2.0.

Frozenlock/Qwen3.8-27B-int4-AutoRound — это мультимодальная квантованная версия базовой модели Qwen/Qwen3.8-27B, подготовленная пользователем или организацией Frozenlock. Модель распространяется по лицензии Apache-2.0 и предназначена для запуска и обслуживания через vLLM, включая сценарии генерации текста, работы с изображениями и инструментами. Модель использует квантование INT4 по схеме W4A16 с размером группы 128 и симметричным представлением, выполненное с помощью AutoRound 0.14.2 и упаковки auto_gptq. Квантованы основные языковые блоки и слои MTP, тогда как 96 тензоров GDN-линейного внимания in_proj_a и in_proj_b, а также vision tower и эмбеддинги сохранены в bf16. Размер весов составляет около 18 ГБ. Поддерживаются мультимодальные входные данные, вызов инструментов и спекулятивное декодирование MTP; заявленный нативный контекст — 262 144 токена, а базовая модель поддерживает расширение YaRN до 1 миллиона токенов. Ключевое преимущество сборки — совместимость квантованной MTP-головы со спекулятивным декодированием в vLLM, что в измерениях README почти удваивало скорость декодирования, хотя коэффициент принятия черновых токенов зависит от типа текста и составлял примерно 41–67%. Компактные веса также позволяют оставить больше памяти под KV-кэш, однако для эффективной работы требуются совместимые версии vLLM и Marlin W4A16, а мультимодальность, поддерживаемые языки и точные показатели качества отдельно не описаны. Производительность зависит от GPU, настроек KV-кэша, длины контекста и режима tensor parallelism.

ChrisandErin86/Qwen3.8-27B-OBLITERATED — текстовая авторегрессионная модель генерации на базе Qwen/Qwen3.8-27B, модифицированная с применением метода abliteration для удаления или ослабления поведения, связанного с отказами и защитными ответами. В README также упоминаются подходы complementary abliteration blending, итеративное уточнение и целевая обработка корпусов. Модель ориентирована на диалоговые сценарии, генерацию текста и кода, включая задачи, в которых исходная модель могла отказываться отвечать; отдельно заявлена пригодность для агентных систем и исследований AI safety. Разработчик базовой модели — Qwen, автор производной модели указан как ChrisandErin86. Из известных характеристик указаны архитектура Qwen3, размер 27B параметров, текстовая модальность и поддержка форматов GGUF, Safetensors и MLX. Заявлена совместимость с thinking mode и чат-шаблоном; точный размер контекста и перечень поддерживаемых языков в предоставленном фрагменте README не указаны. Для инференса рекомендуются температура 0, repetition_penalty 1.15, не менее 2048 новых токенов и отсутствие системного промпта; для агентных сценариев предложены более короткие ответы и периодическое суммирование контекста. Сильная сторона модели — сниженное количество отказов при сохранении большей части возможностей исходной Qwen3.8-27B: в README приведён результат MMLU 82,3% против 84,5% у базовой модели, а также заявлены успешные результаты на тестах генерации кода и некоторых расширенных практических задачах. Ограничениями являются небольшая потеря качества относительно базовой модели, риск циклической генерации без настройки repetition_penalty и потенциальные риски применения менее ограниченной модели. Лицензия — Apache-2.0.

Qwen3.8 4B Distilled — созданная сообществом модель генерации текста от Ma7ee7, полученная дообучением Qwen/Qwen3-4B-Thinking-2507 на примерах ответов и рассуждений, сгенерированных моделью qwen3.8-max-preview. Это плотная decoder-only языковая модель архитектуры Qwen3 примерно с 3,7 млрд параметров; она принимает текст и выдаёт текст, поддерживает чатовый формат и интерфейс вызова инструментов. Заявленная длина контекста — 262 144 токена. Модель предназначена для математических и логических задач, программирования, научных вопросов, следования инструкциям, длинных ответов и локальных разговорных ассистентов. Обучающая смесь преимущественно англоязычная; дистилляция переносит некоторые поведенческие шаблоны учителя, но модель не наследует его архитектуру или полный набор возможностей. Доступна по лицензии Apache-2.0. Это компактная модель для экспериментов и практических задач рассуждения, но её ответы могут содержать фактические, математические и программные ошибки, а видимые цепочки рассуждений не гарантируют правильность. Примеры использования инструментов составляют небольшую часть обучения, поэтому результаты в важных сценариях следует проверять.

LaTexT разработала дообученную версию Qwen3-8B для генерации текста в диалоговом формате. Модель построена на плотной архитектуре Qwen3 и содержит 7,6 млрд параметров; она обучена с помощью TRL на датасете shannons/ot3-1.2m-50k-converted. Для запуска в README приведён пример с библиотекой Transformers. Модель рассчитана на диалоговую генерацию текста и может использоваться для ответов на вопросы и выполнения инструкций. Метаданные также отмечают интерфейс вызова инструментов. Контекстное окно составляет 40 960 токенов; базовая Qwen3-8B описана как многоязычная модель, пригодная для рассуждений и работы с кодом. Это экспериментальный чекпойнт из серии обучения latent-COT: в README указаны итерация 2, версия v3, вес 0,2 и размер gist 7. Лицензия в предоставленных данных не указана.

Qwen3.8-Flash-Next-ANE — пакет гибридного инференса модели Qwen3.8-Flash-Next от True2456 для компьютеров Apple Silicon. Модель дообучена на базе Qwen/Qwen3.8-Flash-Next; в README описаны 36 слоёв Gated DeltaNet и 12 слоёв Qwen Sparse Attention, исполняемые на Apple Neural Engine, и разрежённые MoE-эксперты, работающие через MLX на GPU. Веса языковой модели хранятся в 4-битном формате, а для ускорения декодирования применяются спекулятивная генерация и таблицы n-грамм. Пакет предназначен для диалогов, генерации текста и агентных сценариев, включая работу через OpenAI-совместимый API и интерфейс вызова инструментов. Автор сообщает о тестировании на Mac с M5 Max и 96 или 128 ГБ объединённой памяти; README приводит результаты производительности и тестов качества для этой конфигурации. Это не полностью исполняемая на ANE модель: часть вычислений выполняется на GPU и CPU. Лицензия указана как other, поэтому условия использования следует проверять на странице репозитория.

Qwen3-Embedding-0.6B-GGUF — набор GGUF-квантизаций компактной мультиязычной embedding-модели Qwen3-Embedding-0.6B, разработанной Qwen. Квантизации подготовлены PeterAM4 с использованием llama.cpp и importance matrix, оптимизированной преимущественно для финансовых и технических текстов. Модель предназначена для построения RAG-систем, семантического поиска, извлечения документов и других задач сравнения предложений и текстов. Базовая модель содержит около 596 млн параметров, поддерживает контекст до 32 768 токенов, использует pooling по последнему токену и формирует embeddings размерностью 1024. Заявлена поддержка английского, китайского, японского, корейского, французского, немецкого, испанского, португальского, русского и арабского языков. Доступны варианты от 8-битных до 1-битных, что позволяет запускать модель на периферийных устройствах, ноутбуках и серверах с ограниченными ресурсами. Сильными сторонами являются небольшой размер, низкие требования к памяти и задержке, а также калибровка квантования на финансовых вопросах и ответах, документах SEC 10-K, финансовых данных, математических задачах и общем тексте. В README рекомендован вариант Q3_K_M-imat размером около 331 МБ; его показатель PPL близок к BF16-базовой версии на указанном тестовом корпусе. При этом агрессивное квантование снижает качество: особенно заметная деградация наблюдается у вариантов ниже примерно 3 BPW, а результаты приведённых тестов не гарантируют аналогичную точность в конкретной задаче поиска. Модель распространяется по лицензии Apache 2.0.

mlx-community/Qwen3-Embedding-8B-4bit-DWQ — модель для получения признаковых представлений текста, задач sentence similarity и feature extraction. Она основана на Qwen/Qwen3-Embedding-8B и преобразована сообществом mlx-community в формат MLX с использованием mlx-lm 0.25.1. Модель имеет размер 8B параметров и 4-битное квантование DWQ, что предназначено для снижения требований к памяти при сохранении возможности локального запуска в экосистеме MLX. В карточке указана поддержка библиотек Transformers и Sentence Transformers, а также тип конвейера feature-extraction. Конкретные языки, размер контекста и перечень поддерживаемых модальностей не указаны; по представленным данным модель предназначена для работы с текстом. Лицензия модели — Apache-2.0. README не содержит подробных сведений о качестве, ограничениях, языковом покрытии и результатах тестирования, поэтому эти характеристики нельзя оценить точнее.

Qign Qwen3-VL-8B-Instruct-abliterated-v2-GGUF — это GGUF-версия мультимодальной модели prithivMLmods, основанной на Qwen3-VL-8B-Instruct от Alibaba. Модель содержит около 8 млрд параметров и предназначена для задач image-text-to-text: анализа изображений, подробного описания визуального содержимого, следования инструкциям и мультимодального рассуждения. Доступны варианты квантования от Q2_K до Q8_0, а также F16; размер файлов составляет примерно от 3,28 до 16,4 ГБ, отдельно предоставляются мультимодальные проекционные файлы mmproj в форматах Q8_0 и F16. Заявлены поддержка механизма Interleaved-MRoPE, контекста длиной до 262 тысяч токенов, OCR на 32 языках, различных разрешений и соотношений сторон, видео и сложных макетов. Основным языком считается английский, при этом заявлена возможность мультиязычного использования. Вариант abliterated модифицирован для снижения или удаления отказов и защитных ограничений базовой модели, что может быть полезно для исследований безопасности, red-teaming, творческих и технических сценариев, но одновременно повышает риск генерации нежелательного, небезопасного или неточного контента. Для запуска рекомендуются инструменты llama.cpp, Transformers или vLLM; требования к памяти зависят от выбранного варианта квантования. Модель распространяется по лицензии Apache-2.0.

Это модель Sentence-Transformers на базе MPNet, разработанная автором shrinivasbjoshi. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска семантически близких текстов, кластеризации и оценки сходства. Модель содержит 136,7 млн параметров и принимает текст; для работы с ней используется библиотека sentence-transformers. Модель обучалась с функцией потерь CosineSimilarityLoss. Её можно применять для семантического поиска по коллекциям текстов, группировки похожих высказываний и построения систем сравнения предложений. Окно контекста составляет 514 токенов. В README не указаны языки обучения или отдельная специализированная область применения; лицензия в предоставленных данных отсутствует.

Rax 4.5 — мультимодальная модель семейства Qwen3.5 от raxcore-dev, представленная в виде постобученных весов для Hugging Face Transformers. Это плотная причинная языковая модель с визуальным энкодером, поддерживающая ввод изображений и текста и выдающая текст. Модель насчитывает 2 млрд параметров, использует гибридную архитектуру Gated Delta Networks и gated attention, а заявленная длина контекста составляет 262 144 токена. Модель предназначена для диалогов с изображениями, визуального анализа, рассуждений, задач по коду и агентных сценариев с вызовом инструментов. README заявляет поддержку 201 языка и диалекта; модель работает в режимах с рассуждением и без него, причём режим без рассуждения включён по умолчанию. Авторы рекомендуют её для прототипирования, дообучения под конкретные задачи и разработки; для сервинга указана совместимость с Transformers, vLLM, SGLang и KTransformers. Модель распространяется по лицензии Apache-2.0. Среди практических ограничений — сравнительно небольшой масштаб в 2 млрд параметров, а также возможная нехватка памяти при использовании длинного контекста; скорость и пропускная способность зависят от среды инференса.

cointegrated/rubert-tiny2 — компактный русскоязычный BERT-энкодер, обновлённая версия ruBERT-tiny. Модель разработана для получения векторных представлений предложений; её также можно дообучать для прикладных задач. Она содержит около 29 млн параметров, использует словарь из 83 828 токенов и поддерживает последовательности длиной до 2048 токенов. Эмбеддинги предложений приближены к представлениям LaBSE; сегментные эмбеддинги настроены на задаче NLI. Векторы можно применять, например, для классификации коротких текстов методом ближайших соседей и оценки сходства предложений. Модель ориентирована на русский язык; карточка распространяет её по лицензии MIT.

sergeyzh/rubert-tiny-lite — компактная модель на архитектуре BERT, разработанная sergeyzh для получения векторных представлений русскоязычных текстов и сравнения предложений. Она создана последовательной дистилляцией sergeyzh/rubert-tiny-turbo и BAAI/bge-m3 и содержит 23,1 млн параметров. Размер эмбеддинга — 256, максимальная длина контекста — 512 токенов. Модель предназначена для семантического поиска, оценки сходства предложений, кластеризации и классификации текста на CPU и GPU. По данным автора, она работает быстрее rubert-tiny-turbo примерно в 1,4 раза на CPU и в 1,2 раза на GPU при сопоставимом качестве. Результаты в README показывают её качество на бенчмарках encodechka и ruMTEB; для некоторых задач она уступает более крупным многоязычным моделям. Модель рассчитана на русский язык и выдаёт эмбеддинги текста. Репозиторий содержит веса в формате safetensors; для запуска автор приводит пример с SentenceTransformer. Лицензия — MIT.

adit94/sentenceTest_kbert — модель на базе BERT, опубликованная в формате PyTorch как модель Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения сходства и кластеризации. Модель обучалась с TripletLoss; контекст ограничен 512 токенами. Модель подходит для построения векторного поиска по текстам и группировки семантически близких предложений. Карточка не уточняет поддерживаемые естественные языки и лицензию, поэтому эти характеристики нельзя достоверно указать.

Модель frozi/setfit-ethos-multilabel-example — модель Sentence-Transformers на архитектуре MPNet, преобразующая предложения и абзацы в плотные векторы размерности 768. Её можно применять для семантического поиска, кластеризации и сравнения смысловой близости текстов. Модель содержит 136,7 млн параметров, принимает текст и выдаёт векторные представления. В карточке указано обучение с CosineSimilarityLoss; репозиторий содержит веса PyTorch. Для работы доступны Sentence-Transformers и Transformers с подходящей операцией pooling. Лицензия и целевые языки в предоставленных данных не описаны.

Это модель на базе MPNet, опубликованная пользователем aammari в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768; число параметров — 136,7 млн, максимальная длина контекста — 514 токенов. Модель предназначена для сравнения смысловой близости текстов, семантического поиска и кластеризации. Векторные представления можно использовать для поиска похожих фраз и группировки текстов по смыслу. Модель обучалась с CosineSimilarityLoss; в README приведены сведения о тренировочном процессе, но не названы языки обучения или результаты оценки. Репозиторий содержит веса PyTorch и имеет признаки дообученной Sentence-Transformers модели на основе MPNet. Лицензия в предоставленных данных не указана.

pritamdeka/S-Scibert-snli-multinli-stsb — модель Sentence-Transformers на архитектуре BERT, содержащая 137,1 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для поиска семантически близких текстов, кластеризации и оценки сходства предложений. Модель обучалась с функцией потерь CosineSimilarityLoss; для использования с Transformers требуется применить подходящую операцию pooling к контекстным представлениям токенов. Модель принимает текст и выдаёт векторные представления. Максимальная длина контекста составляет 512 токенов. В README описаны примеры использования с библиотеками Sentence-Transformers и Hugging Face Transformers. Сведения о поддерживаемых естественных языках и лицензии в предоставленных данных отсутствуют.

mlx-community/tasksource-ModernBERT-base-embed-bf16 — англоязычная encoder-only модель эмбеддингов на архитектуре ModernBERT, подготовленная сообществом mlx-community в формате MLX для использования с mlx-embeddings. Это преобразованная версия tasksource/ModernBERT-base-embed; исходная модель дообучена на основе answerdotai/ModernBERT-base и предназначена для извлечения признаков и оценки сходства предложений. Модель содержит 149 млн параметров, принимает текст и поддерживает контекст до 8192 токенов. Её можно применять для семантического поиска, сопоставления запросов с документами, поиска ответов и ранжирования текстов по смысловой близости. Английский язык подтверждён карточкой модели; обучение включало наборы данных для поиска, сходства предложений и вывода на естественном языке. Модель распространяется в формате safetensors, а README указывает на применение через mlx-embeddings. Лицензия в предоставленных данных не указана.

Карточка модели Youssefbou62/test_encoder на Hugging Face совпадает с карточкой thenlper/gte-large, поэтому описание составлено по ней. gte-large — модель текстовых эмбеддингов General Text Embeddings, разработанная Alibaba DAMO Academy на основе архитектуры BERT и обученная контрастивным обучением на крупном корпусе пар текстов с оценками релевантности. Она преобразует английские тексты в векторы размерностью 1024 и предназначена для поиска информации, сравнения семантической близости и ранжирования текстов. Модель применима в поисковых системах, семантическом сопоставлении предложений и других задачах, использующих текстовые эмбеддинги. В тесте MTEB для gte-large указана средняя оценка 63,13 по 56 задачам. Контекст ограничен 512 токенами: более длинные тексты обрезаются. Модель рассчитана только на английский язык. Лицензия — MIT.

QuantFactory/Teuken-7B-instruct-commercial-v0.4-GGUF — квантизированная версия 7-миллиардной instruction-tuned языковой модели Teuken-7B-instruct-commercial-v0.4, созданная с использованием llama.cpp. Исходную модель разработали Fraunhofer, Forschungszentrum Jülich, TU Dresden и DFKI в рамках исследовательского проекта OpenGPT-X при финансировании Федерального министерства экономики и защиты климата Германии. Архитектура модели — decoder-only Transformer. Модель предназначена для генерации текста, диалоговых сценариев и других мультиязычных NLP-задач, включая коммерческое и исследовательское использование. Она ориентирована на все 24 официальных языка Европейского союза: болгарский, чешский, датский, немецкий, греческий, английский, испанский, эстонский, финский, французский, ирландский, хорватский, венгерский, итальянский, литовский, латышский, мальтийский, нидерландский, польский, португальский, румынский, словацкий, словенский и шведский. Предобучение базовой модели выполнено на 4 триллионах токенов из общедоступных источников с датой отсечения данных в сентябре 2023 года. Сильная сторона модели — специализация на мультиязычных задачах и более стабильная работа с европейскими языками по сравнению с англоцентричными моделями. Для корректной работы требуется использовать предусмотренный prompt template или chat template. Модель не предназначена для математических и программных задач; также возможны галлюцинации, предвзятые, токсичные или иным образом вредные ответы. Размер контекста и конкретный формат квантизации в предоставленной карточке не указаны. Модель распространяется по лицензии Apache 2.0.

josedossantos/tree-txtInteiroTeorLimpo-bertimbau — модель Sentence Transformer, созданная дообучением neuralmind/bert-large-portuguese-cased. Она кодирует предложения и абзацы на бразильском португальском в плотные векторы размерностью 1024, сравнимые по косинусному сходству. Архитектура включает BERT Large с усреднением токенных представлений; максимальная длина последовательности — 512 токенов. Модель предназначена для поиска семантически близких текстов и оценки сходства. Её также можно применять для поиска перефразировок, кластеризации и классификации текста, а в прикладных системах — для векторного поиска по португалоязычным документам. Обучение проводилось на 4 327 парных примерах с ContrastiveLoss. В карточке указана лицензия Apache-2.0. Как и другие модели эмбеддингов, она возвращает векторы, а не готовые ответы; качество зависит от соответствия входных текстов обучающему распределению. Контекст ограничен 512 токенами.

ricepaper/vi-gemma-2-2b-function-calling — языковая модель, разработанная hiieu, himmeow the coder и cuctrinh и дообученная на базе unsloth/gemma-2-2b-it-bnb-4bit. Она предназначена для диалогов и вызова одной или нескольких функций по запросу пользователя; обучающие данные включали диалоги с вызовами функций в формате ChatML и многоязычные данные, переведённые на вьетнамский язык. Модель также подходит для чат-ботов, систем вопросно-ответного поиска, суммаризации, перевода и агентных сценариев. Это плотная авторегрессионная Gemma 2 с 2,7 млрд параметров и контекстом до 8192 токенов. Основные языки — вьетнамский и английский; заявлена также работа с многоязычными данными. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0. Качество выполнения вызовов зависит от предоставленных функций и настроек генерации. README отмечает, что для эффективной работы могут потребоваться подходящая аппаратная конфигурация и настройка параметров генерации.

WeMM-Embedding-2B-GGUF — GGUF-квантизированная версия мультимодальной модели эмбеддингов tencent/WeMM-Embedding-2B. Модель предназначена для преобразования текста, изображений и видео в векторные представления, которые можно использовать для семантического поиска, сравнения смысловой близости, кластеризации и других задач, основанных на эмбеддингах. Для мультимодального ввода требуется отдельный визуальный проектор mmproj-WeMM-Embedding-2B-BF16.gguf. Модель поддерживается в llama.cpp и доступна в вариантах BF16, Q8_0, Q6_K, Q5_K_M, Q4_K_M, IQ4_XS и IQ3_M. Выходом служит L2-нормализованный вектор размерности 2048; заявлена поддержка matryoshka-размерностей 64, 128, 256, 512, 1024 и 2048. README не указывает точный контекст, список поддерживаемых языков и архитектурные детали базовой модели. Для запуска доступны командная утилита llama-embedding и OpenAI-совместимый HTTP-сервер llama-server. По результатам теста STS-B варианты Q8_0, Q6_K, Q5_K_M и IQ4_XS практически не уступают BF16 по качеству, поэтому подходят как компактные замены исходной версии. Q4_K_M демонстрирует небольшое снижение качества, а IQ3_M — наиболее заметную потерю точности и подходит главным образом при жёстких ограничениях по объёму хранения. Модель распространяется по лицензии Apache-2.0.