I.3Извлечение и структурирование данных

danfeg/ArabicBERT_Finetuned-AR-500 — дообученная модель на архитектуре BERT, опубликованная в формате safetensors и предназначенная для получения эмбеддингов предложений и абзацев. Она преобразует текст в плотные векторы размерности 1024, которые можно использовать для семантического поиска, сравнения сходства и кластеризации. Обучение включало CosineSimilarityLoss; заявленная длина контекста составляет 512 токенов. Модель рассчитана на арабский язык, что отражено в названии репозитория; карточка описывает применение через Sentence Transformers и Transformers. Параметров указано 435,4 млн. Лицензия в предоставленных данных не приведена.

ARK-ASR-0.6B — многоязычная модель распознавания речи от Edge0, обученная по рецепту адаптации на данных учителя и онлайн-дистилляции политики из проекта open-audio-opd. Она преобразует аудио в текстовые транскрипты и подходит для расшифровки записей и потоковой речи на поддерживаемых языках. Архитектура включает декодерный Transformer с 504,7 млн параметров, отдельный аудиоэнкодер в стиле Whisper и MLP-адаптер; аудиопризнаки передаются декодеру для авторегрессионной генерации текста. Указанный в метаданных контекст — 32 768 токенов. Модель принимает аудио с частотой дискретизации 16 кГц и распознаёт китайский, английский, немецкий, японский, французский, корейский, испанский, польский, итальянский, румынский, венгерский, чешский, нидерландский, финский, хорватский, словацкий, словенский, эстонский и литовский языки. В опубликованных оценках модель показывает качество, сопоставимое с Qwen3-ASR-0.6B на английских и китайских наборах, хотя результаты зависят от языка и набора данных. Для запуска рекомендуется официальный скрипт проекта с обработчиком аудио и настройкой trust_remote_code=True. Модель опубликована в формате safetensors под лицензией Apache-2.0.

Карточка модели Anthropic-ai/Audiotoaudiotranslate на Hugging Face совпадает с карточкой Anthropic-ai/Aiaudiotranslate, поэтому описание составлено по ней. Anthropic-ai/Aiaudiotranslate — мультиязычная разговорная языковая модель на архитектуре Qwen3.5 с 7,2 млрд параметров. Согласно карточке, это независимый проект открытой модели, дообученной для следования инструкциям, устойчивого поведения ассистента, рассуждений, письма, суммаризации и помощи с программированием. Метаданные указывают контекст до 262 144 токенов и варианты весов Safetensors и GGUF, включая квантизированные сборки. Модель предназначена для диалога и генерации текста на разных языках; в README также заявлены задачи транскрибирования и перевода аудио, но описание репозитория сосредоточено на текстовом ассистенте и не подтверждает аудиовход. Лицензия — MIT. Карточка называет проект независимым и неофициальным; приведённые в README показатели бенчмарков описаны как основанные на Qwen3.5 9B.

bce-embedding-base_v1 — модель эмбеддингов семейства BCEmbedding, разработанная командой Youdao и опубликованная пользователем maidalun1020. Она предназначена для построения векторных представлений текста и семантического поиска, в первую очередь для поиска фрагментов в системах RAG. Модель использует архитектуру XLM-RoBERTa с плотным энкодером; в метаданных указано 305,2 млн параметров и контекст до 514 токенов. Модель поддерживает китайский и английский языки, включая межъязыковой поиск между ними. Двухкодировочная архитектура рассчитана на эффективный первичный отбор текстов; карточка рекомендует при необходимости дополнить поиск отдельным реранкером BCEmbedding. Модель не требует специальных инструкций для запросов и может применяться в разных областях, включая образование, право, финансы и медицину. Модель принимает текст и выдаёт векторные представления. В репозитории указаны веса PyTorch и лицензия Apache-2.0. Заявленная языковая поддержка ограничена китайским и английским; перенос качества на другие языки не подтверждён карточкой.

Zlovoblachko/bert-base-uncased-augmentation-indomain-bm25-sts — англоязычная модель Sentence Transformers, дообученная разработчиком на базе google-bert/bert-base-uncased для сравнения предложений по смыслу. Она преобразует текстовые фрагменты в плотные векторы размерности 768; близость векторов оценивается косинусным сходством. В README указана максимальная длина последовательности 128 токенов, а метаданные Hugging Face указывают контекст до 512 токенов. Модель подходит для семантического поиска, поиска перефразировок, кластеризации и сравнения пар предложений. Также в карточке перечислены классификация текста и другие задачи на основе эмбеддингов. На тесте sts-test указана корреляция Спирмена 0,4729 для косинусного сходства; результат характеризует конкретный набор данных и не гарантирует качество на других доменах. Модель содержит 136,7 млн параметров, использует архитектуру BERT с усреднением токенных представлений и реализована на Sentence Transformers. Она рассчитана на английский язык; для языков и текстов вне обучающего распределения качество может быть ниже. Лицензия в предоставленных данных не указана.

ricardo-filho/bert-portuguese-cased-nli-assin-assin-2 — модель эмбеддингов предложений на базе BERT, опубликованная автором Ricardo Filho. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для семантического поиска, сравнения текстов и кластеризации. Модель содержит 136,1 млн параметров, принимает текст с контекстом до 512 токенов и доступна в формате PyTorch. Название указывает на обучение для португальского языка и задачу NLI с данными ASSIN и ASSIN 2; модель подходит для поиска похожих фраз и группировки текстов на португальском. Для использования доступны Sentence-Transformers и Transformers с соответствующим pooling. В README указана лицензия? Нет данных о лицензии, поэтому условия распространения по представленным сведениям определить нельзя.

swardiantara/bert-tiny-snli-k1-adaptive-euclidean — компактная модель Sentence Transformers, дообученная разработчиком на базе google/bert_uncased_L-2_H-128_A-2. Она кодирует предложения и абзацы в плотные векторы размерностью 128 и предназначена для поиска и сравнения текстов по косинусному сходству. Архитектура включает двухслойный BERT с усредняющим pooling; модель содержит 4,4 млн параметров и принимает текстовые последовательности длиной до 512 токенов по метаданным, хотя в README указано ограничение 128 токенов. Модель подходит для семантического поиска, извлечения кандидатов и оценки сходства текстовых фрагментов. Обучение описано на 1 648 104 парах текстов с контрастивной функцией потерь. Базовая модель англоязычная, поэтому основное применение ориентировано на английский язык. Репозиторий содержит веса в формате safetensors; сведения о лицензии в предоставленных данных отсутствуют.

swardiantara/bert-tiny-snli-k5-fixed-euclidean — компактная модель Sentence Transformers, дообученная на базе google/bert_uncased_L-2_H-128_A-2. Она преобразует предложения и абзацы в плотные векторы размерности 128 для поиска и сравнения текстов; архитектура включает BERT с усредняющим pooling. Метаданные указывают 4,4 млн параметров и контекст до 512 токенов, а карточка модели задаёт максимальную длину последовательности 128 токенов. Для сравнения векторов README указывает косинусное сходство. Модель подходит для семантического поиска, подбора похожих предложений и извлечения признаков текста. Она обучалась на 6 043 097 примерах с контрастивной функцией потерь. Базовая модель англоязычная, поэтому заявленную применимость разумно ограничить английским языком. Формат весов — safetensors. Сведения о лицензии в предоставленных данных отсутствуют.

juyoungml разработал эту модель Sentence Transformers как дообучение BAAI/bge-m3 на корейском наборе ko-triplet-v1.0. Она преобразует предложения и абзацы в плотные векторы размерности 1024, нормализует их и предназначена для сравнения по косинусному сходству, семантического поиска и поиска перефразировок. Также в README указаны кластеризация и классификация текстов как возможные сценарии применения. Модель основана на XLM-RoBERTa и принимает текст длиной до 8192 токенов. Она ориентирована на корейский язык; репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана. README сообщает точность cosine_accuracy 0,99 на TripletEvaluator, однако это значение относится к указанной оценке и не гарантирует такое качество на других данных.

ArnavKewalram/bge-small-code-v1 — текстовая Sentence Transformer-модель, дообученная разработчиком на базе BAAI/bge-small-en-v1.5. Она преобразует предложения и абзацы в плотные векторы размерностью 384 для поиска и сравнения текстов. Архитектура основана на BERT: используется CLS-пулинг и нормализация эмбеддингов, а сходство можно оценивать косинусной мерой. Модель рассчитана на текстовые сценарии, включая семантический поиск и извлечение релевантных фрагментов. Метаданные указывают 40 млн параметров и контекст до 512 токенов; в README указан максимальный размер последовательности 384 токена. Карточка называет базовую модель англоязычной, поэтому применение для кода или других языков не следует считать подтверждённым одним лишь названием репозитория. Лицензия в доступных данных не приведена.

Bielik-11B-v3.0-Instruct-GGUF — квантизированная версия инструкционной языковой модели Bielik-11B-v3.0-Instruct, разработанной SpeakLeash совместно с ACK Cyfronet AGH. Это каузальная decoder-only модель для генерации текста и диалогового взаимодействия, представленная в формате GGUF для локального запуска с помощью llama.cpp, Ollama и совместимых приложений. Модель мультиязычная и поддерживает 32 европейских языка, при этом оптимизирована для польского. В README размер указан как 11B параметров; сведения о длине контекста и дополнительных модальностях не приведены. Доступны варианты квантизации Q4_K_M, Q5_K_M, Q6_K, Q8_0, а также 16-битные FP16 и BF16. Квантизация позволяет снизить требования к ресурсам, но может уменьшать качество ответов и повышать вероятность галлюцинаций; Q8_0 требует значительных ресурсов, а низкобитные варианты требуют особенно осторожной настройки. Модель предназначена для локального текстового вывода, включая диалоги и задачи, поддерживаемые инструкционной языковой моделью. В конфигурации для Ollama предусмотрен экспериментальный вызов инструментов с ответом в формате JSON. Модель распространяется по лицензии Apache 2.0.

Lajavaness/bilingual-embedding-base — модель эмбеддингов предложений, разработанная Lajavaness для английского и французского языков. Она основана на XLM-RoBERTa и реализована как SentenceTransformer: использует усреднение токенов, затем нормализует векторы. Модель содержит 305,2 млн параметров и кодирует предложения в 1024-мерное векторное пространство; максимальная длина последовательности — 512 токенов по README и 514 токенов по метаданным. Модель предназначена для сравнения семантической близости предложений, семантического поиска, кластеризации текстов и ранжирования похожих фраз на английском и французском. Обучение включало данные SNLI/XNLI и STS Benchmark для обоих языков, а также дообучение с аугментацией пар предложений. Репозиторий использует формат safetensors и лицензию Apache-2.0.

Bonsai 2 27B 1bit CRACK GGUF — языковая и визуальная модель, разработанная командой dealignai на основе тернарно сжатой PrismML версии Qwen3.8-27B. Из модели удалены механизмы отказа на уровне весов, при этом заявлено сохранение общих возможностей, режимов рассуждения, инструментального использования и многотуровой связности. Модель предназначена для генерации текста, рассуждений, работы с инструментами и обработки изображений в совместимом окружении llama.cpp. Модель использует гибридную архитектуру Attention и SSM на базе GatedDeltaNet: 64 блока, размер скрытого состояния 5120 и отдельная vision tower. Применяется квантование PrismML PTQ1_0 с тернарными весами, группами по 128 и эффективным размером около 2,13 bpw; файл занимает примерно 5,95 ГБ. Поддерживаются режимы рассуждения off, low и xhigh, а для обработки изображений требуются совместимые mmproj-файлы. Запуск заявлен на CPU, CUDA и Metal, включая ноутбуки и системы с одной GPU. Сильной стороной является низкое потребление памяти при сохранении класса модели 27B, а также отсутствие встроенных отказов, что делает модель пригодной для исследовательских и экспериментальных сценариев, где требуется высокая исполнительность. Однако заявленная abliteration снижает защитные ограничения, поэтому модель не следует использовать без собственного контроля безопасности. Результаты MMLU показывают небольшое снижение точности относительно базовой версии, а для старых сборок была отмечена ошибка зацикливания токенов в режимах low и xhigh; рекомендуется использовать версию, выпущенную после 18 сентября 2026 года. Лицензия — Apache-2.0.

AbstractPhil/captionbert-8192-v2 — автономный компактный текстовый энкодер предложений, созданный AbstractPhil и дистиллированный из геометрического консенсуса пяти моделей семейства BERT. Модель содержит 66 млн параметров по метаданным, использует 12 слоёв, скрытое представление размерности 512 и контекст до 8192 токенов; на выходе формирует L2-нормализованные векторы размерности 768. Для работы не требуются модели-эксперты; README показывает загрузку через Transformers и токенизатор bert-base-uncased. Модель предназначена для получения векторных представлений предложений и сравнения их семантической близости, включая поиск похожих формулировок и задачи семантического сходства. В README приведены результаты на STS-B, SICK-R и других наборах семантического сходства; авторы отмечают, что базовый энкодер эффективен относительно учителей, но обычное mean pooling у BERT-подобных моделей уступает специализированным энкодерам, обученным на большом количестве пар сходства. Для дополнительной адаптации в репозитории описаны AMOE-адаптеры. Модель ориентирована на английский язык. Лицензия — MIT. Указанная в README загрузка использует trust_remote_code=True; перед применением следует учитывать необходимость доверять коду репозитория. Показатели бенчмарков приведены авторами модели и могут не отражать качество на пользовательских данных.

Кросс-энкодер для французского языка, разработанный командой Leviatan Research Team на основе distilroberta-base. Модель объединяет два сценария: определяет, можно ли найти ответ на вопрос в заданном контексте, и оценивает смысловое сходство двух текстов. В Hugging Face модель отмечена как text-classification; она принимает пары текстов и выдаёт оценку или бинарную классификацию релевантности и сходства. Модель предназначена для поиска релевантных фрагментов в системе RAG, проверки соответствия контекста вопросу и сравнения предложений. В README приведены результаты на тестах команды и STS-B, включая корреляции и метрики бинарной классификации. Доступны веса в формате safetensors. Условия лицензии в предоставленных данных не описаны.

MLX-версия модели DeepSeek-R1-Distill-Qwen-32B, разработанной DeepSeek и производной от Qwen. Данная сборка преобразована сообществом mlx-community в формат MLX с использованием mlx-lm 0.21.1 и предназначена для локального запуска и генерации текста через библиотеку mlx-lm, прежде всего на устройствах Apple, поддерживающих MLX. Из README известно, что модель имеет размер 32B параметров и использует 8-битное представление весов. Она является текстовой языковой моделью; конкретные сведения об архитектуре, поддерживаемых языках, длине контекста, сильных сторонах и ограничениях в карточке не указаны. Для работы требуется установить mlx-lm и загрузить модель через его API. Лицензия и условия коммерческого или иного использования в README не указаны. Для точной оценки прав использования следует обратиться к карточке базовой модели deepseek-ai/DeepSeek-R1-Distill-Qwen-32B и к условиям публикации конвертированной версии.

iara-project/e5-large-matryoshka-sts-pt — модель Sentence Transformers, созданная дообучением intfloat/multilingual-e5-large на наборах для португалоязычного обучения: NLI, семантического сходства и поиска. Она кодирует предложения и абзацы в плотные векторы размерностью 1024; в архитектуре XLM-RoBERTa используются усреднение токенов и нормализация, а сходство можно оценивать косинусной мерой. Предельная длина входа — 512 токенов. Модель предназначена прежде всего для сравнения смысла португалоязычных текстов и может применяться для семантического поиска, поиска перефразирований, кластеризации и классификации текстов. В карточке приведены результаты оценки на STS-B, ASSIN2, IRIS STS и SICK-BR, включая варианты с сокращением размерности векторов. Модель выпущена под лицензией MIT. Метаданные указывают на 514 токенов контекста; README сообщает максимум 512 токенов последовательности.

upskyy/e5-small-korean — модель Sentence Transformer, созданная дообучением intfloat/multilingual-e5-small на наборах korsts и kornli. Она использует архитектуру BERT с усреднением токенных представлений и формирует плотные эмбеддинги размерности 384; сходство текстов оценивается косинусной близостью. Максимальная длина последовательности — 512 токенов. Модель предназначена для сравнения предложений и абзацев, семантического поиска, поиска перефразирований, кластеризации и классификации текста. В README приведена оценка на sts-dev: Spearman 0,8467 и Pearson 0,848 для косинусного сходства. Лицензия — MIT.

Это модель определения языка устной речи на основе ECAPA-TDNN от SpeechBrain, обученная на VoxLingua107. Репозиторий содержит неизменённые веса исходной модели speechbrain/lang-id-voxlingua107-ecapa, упакованные в формат GGUF для запуска через loom.cpp и loom-py-rt. На вход модель принимает аудиоклип и выдаёт распределение вероятностей по 107 языкам. Модель предназначена для автоматического определения языка речи в аудиозаписи, например для предварительной сортировки клипов или выбора последующей языковой обработки. Аудио должно быть монофоническим с частотой 16 кГц; каждый клип нужно подавать отдельным вызовом, поскольку пакет с дополненными тишиной клипами не поддерживается. Модель обучена на речи из YouTube, поэтому чистых фрагментов в несколько секунд обычно достаточно, но близкие языки могут путаться — рекомендуется учитывать несколько верхних результатов. Лицензия репозитория — Apache-2.0.

Это англоязычный энкодер предложений ayushexel, дообученный на базе sentence-transformers/all-MiniLM-L6-v2 на наборе вопросов и ответов GooAQ. Модель преобразует предложения и абзацы в нормализованные плотные векторы размерностью 384; для сравнения векторов используется косинусное сходство. Архитектура основана на BERT с усреднением токенных представлений и нормализацией. В метаданных указан контекст до 512 токенов, а в README — максимальная длина последовательности 256 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации. Её можно использовать, например, для поиска ответов по английским вопросам или группировки похожих вопросов и ответов. Обучение на GooAQ ориентирует её на пары «вопрос—ответ»; на GooAQ dev указана точность по косинусному сходству 0,6034. Это модель представлений, а не генератор текста; заявленные задачи и характеристики относятся к английскому языку. Лицензия в предоставленных данных не указана.

embedinggemma_arkts — дообученная модель Sentence Transformers на базе google/embeddinggemma-300m, разработчик указан как hreyulog. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения текстов по косинусному сходству, семантического поиска, поиска перефразировок, классификации и кластеризации. Модель содержит 302,8 млн параметров и предназначена для работы с текстом; в README указана максимальная длина последовательности 512 токенов, а метаданные каталога сообщают контекст 2048 токенов. Обучение проводилось на 39 122 парах примеров с MultipleNegativesRankingLoss. В README приведены результаты на тестовой части arkts-code-docstring: MRR 0,7788 и Recall@5 0,8769. Данные обучения включают соответствия между описаниями и фрагментами кода, в том числе на китайском и английском; поэтому модель особенно подходит для семантического поиска по документации и коду ArkTS. Лицензия в предоставленных данных не указана.

EVA-Qwen2.5-72B-v0.2-GGUF — это GGUF-квантизированная версия текстовой генеративной модели EVA-Qwen2.5-72B-v0.2, подготовленная пользователем bartowski с использованием llama.cpp и imatrix-квантизации. Базовая модель указана как EVA-UNIT-01/EVA-Qwen2.5-72B-v0.2; её основой является Qwen2.5-72B. Модель ориентирована на генерацию текста, следование инструкциям, написание различных материалов и ролевые сценарии. В обучающих данных использовались наборы для instruction-following, письма, roleplay и синтетической генерации, включая материалы на базе Opus, Sonnet 3.5, ChatGPT-4o и Dolphin. Модель доступна в нескольких вариантах квантования от Q8_0 до Q2_K и IQ-квантов, с размером файлов примерно от 27 до 77 ГБ. Более высокие варианты сохраняют лучшее качество, а низкобитные требуют меньше оперативной памяти, но могут заметно уступать по качеству. Для запуска рекомендуется использовать LM Studio или совместимый с GGUF движок на базе llama.cpp. В README не указаны точная архитектура, размер контекста, поддерживаемые языки и мультимодальные возможности, поэтому модель следует рассматривать как текстовую. Лицензия обозначена как Qwen; в качестве официального документа приведена лицензия Qwen2.5-72B-Instruct. Условия конкретного использования необходимо проверять по указанному лицензионному тексту. Основные ограничения связаны с большими требованиями к памяти и снижением качества при использовании низких уровней квантования; вариант Q4_K_M описан как оптимальный по размеру для большинства сценариев, а Q6_K и Q5 считаются высококачественными рекомендуемыми вариантами.

TechxGenus/gemma-1.1-2b-it-GPTQ — GPTQ-квантизированная версия Gemma 1.1 2B IT, разработанной Google. Это компактная decoder-only языковая модель с открытыми весами, предназначенная для генерации и обработки текста на английском языке. Модель ориентирована на ответы на вопросы, суммаризацию, рассуждения, написание текста, программирование, следование инструкциям и многошаговые диалоги. Версия Gemma 1.1 обучалась с применением RLHF и, по сравнению с исходным выпуском, получила улучшения в качестве ответов, кодировании, фактичности, следовании инструкциям и многоходовом взаимодействии. Квантизация GPTQ снижает требования к ресурсам и может упростить локальный запуск, однако потенциально сопровождается потерей качества по сравнению с исходными весами. Модель работает только с текстом; поддержка изображений, аудио и других модальностей не указана. Размер — 2B параметров, максимальная длина контекста в карточке не приведена. Модель компактнее крупных языковых моделей и подходит для запуска на ноутбуке, настольном компьютере или собственной облачной инфраструктуре, но её меньший размер может ограничивать качество сложных рассуждений и объём знаний. Использование регулируется лицензией Gemma и условиями Google; для доступа на Hugging Face требуется принять соответствующую лицензию.

zaakirio/gemma-4-12b-it-uncensored-GGUF — набор GGUF-квантизаций модели zaakirio/gemma-4-12b-it-uncensored, разработанной на основе Google Gemma 4 12B Instruct. Это декензурированная версия, полученная методом Heretic-abliteration, ориентированная на диалоговые сценарии и запуск через llama.cpp. Модель предназначена для генерации текста, общения, анализа изображений и аудио, а также обработки видео через выборку кадров и аудиодорожку. Модель представляет собой encoder-free unified multimodal decoder-only transformer с 12 млрд параметров и контекстным окном до 256K токенов. Поддерживаются текст, изображения, аудио и видео; для мультимодального ввода требуется отдельный проектор mmproj-gemma-4-12B-it-bf16.gguf. Доступны варианты от Q2_K до Q8_0 и f16 размером примерно от 4,50 до 22,20 ГБ. Опциональный MTP-драфтер может ускорить генерацию на GPU. Поддерживается reasoning-режим, а также системная роль. Сильные стороны модели — сочетание мультимодальности, большого контекста, различных уровней квантизации и совместимость с llama.cpp. Обработка аудио в llama.cpp отмечена как экспериментальная, поэтому качество распознавания может быть сниженным; обработка видео зависит от клиента, выполняющего извлечение кадров. Языки модели явно не перечислены, однако в README подтверждена точная многоязычная транскрипция речи. Лицензия указана как gemma.

moebiusT7/gemma-4-26b-a4b-mobius-custom-c1 — это модель для генерации текста на базе Google Gemma-4 26B-A4B-it, представленной в формате GGUF с QAT q4_0. Архитектура MoE использует 26 млрд параметров при примерно 4 млрд активных параметров. Модель ориентирована на английский и японский языки и рассчитана на запуск через llama.cpp, LM Studio, Ollama или совместимый OpenAI API-сервер. Указанный разработчиком рабочий контекст — 32 768 токенов; рекомендуется ограничивать reasoning budget значением 4096. Для работы на полном контексте требуется около 14,7 ГБ VRAM, поэтому практически необходима свободная видеокарта с 16 ГБ памяти. Модель предназначена для ответов на вопросы, суммаризации, работы с переданным контекстом и сценариев, где важны маршрутизация запросов, запрос уточнений и отказ от ответа при недостатке данных или небезопасных запросах. В поставляемой конфигурации используются системный промпт L0 Essentials compact v1.1, детерминированный защитный слой для пустых и некоторых небезопасных запросов, а также опциональный RCGov для управления retrieved-контекстом. По заявленным тестам модель показала 0 из 12 выдуманных ответов на вопросы с ложными предпосылками, 9 из 9 корректных отказов от персональных рекомендаций в высокорисковых ситуациях, 60 из 60 обычных ответов без лишних уточнений и скорость генерации около 155,7 токена в секунду на RTX 5070 Ti. Ограничение состоит в том, что сами веса Google не содержат governance-компонентов: при запуске GGUF без специального промпта и обвязки работает обычная Gemma-4. Модель распространяется по лицензии Gemma.

akot/german-semantic-bmf-matryoshka — Sentence Transformers-модель, дообученная на основе aari1995/German_Semantic_V3. Архитектура использует JinaBertModel с пулингом CLS-токена; модель преобразует немецкие предложения и абзацы в плотные векторы размерностью 1024 для сравнения по косинусному сходству. В README максимальная длина последовательности указана как 1024 токена, а метаданные каталога указывают нативный контекст до 8192 токенов. Модель подходит для семантического поиска, оценки сходства текстов, поиска перефразирований, кластеризации и классификации текста. Обучение использовало MatryoshkaLoss и MultipleNegativesRankingLoss на наборе из 4 957 примеров; поддерживаются сокращённые размерности эмбеддингов. В README приведены результаты оценки поиска для нескольких размерностей, но качество зависит от данных и сценария применения. Лицензия в предоставленных данных не указана.

Tech2wild/GLM-5.3-Int4-Int8Mix — это смешанная квантованная версия GLM-5.3, разработанной zai-org. Модель основана на архитектуре glm5_next и представляет собой MoE-модель общим размером 743 млрд параметров, из которых около 40 млрд активируются для одного запроса. Она предназначена для генерации текста и запуска через Transformers и vLLM в формате compressed-tensors, прежде всего на конфигурации из четырёх NVIDIA DGX Spark с графическими процессорами GB10. Квантование выполнено без калибровочных данных по схеме статического симметричного weight-only mixed precision с размером группы 128. Основная масса MoE-экспертов использует W4A16, а плотные слои и attention — W8A16; маршрутизаторы, компоненты sparse attention, выходная голова и ряд служебных блоков сохранены в полной точности. Исходная модель поддерживает контекст до 1 млн токенов, однако в приведённой конфигурации заявлен запуск с длиной до 131 072 токенов и возможность расширения примерно до 600 000 токенов с Decode Context Parallel. Модель ориентирована на длинноконтекстную генерацию, многопоточную подачу запросов и speculative decoding с совместимым DFlash2-драфтером. Ключевое преимущество — уменьшенный объём весов около 378 ГБ, что позволяет обслуживать модель на четырёх DGX Spark с запасом памяти под KV-кэш; заявлена производительность до 46,03 токена в секунду при шести одновременных потоках. Ограничения включают очень высокие требования к памяти и необходимость tensor parallelism, а для GB10/sm121 — специальных kernel overlays для sparse MLA и FP8 KV. Четырёхбитное квантование даёт заметную численную погрешность, поэтому сохранение критичных компонентов в BF16 важно для качества. Лицензия указана как glm-5.3; подробные условия доступны по ссылке на лицензию базовой модели zai-org/GLM-5.3.

google_gemma-4-31B-it-GGUF — это квантизированная версия instruction-tuned модели Gemma 4 31B-it, разработанной Google. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; исходная модель опубликована как google/gemma-4-31B-it. Модель распространяется в формате GGUF и предназначена для локального запуска через llama.cpp, LM Studio, Ollama-подобные и другие совместимые инструменты. По указанной классификации pipeline_tag это модель для преобразования изображений и текста в текст, однако подробные сведения о поддерживаемых модальностях и языках в README не приведены. Доступны варианты с точностью от BF16 до Q3 и IQ3, включая Q4, Q5, Q6 и Q8. Размер файлов составляет примерно от 13,84 до 61,41 ГБ; варианты Q4–Q6 заявлены как обеспечивающие хороший или очень высокий уровень качества при меньшем потреблении памяти, а Q3 ориентированы на системы с ограниченными ресурсами и отличаются более низким качеством. Архитектура, максимальная длина контекста и точное число параметров, помимо обозначения 31B, в README не уточняются. Сильными сторонами являются широкий выбор уровней квантизации, совместимость с экосистемой llama.cpp и возможность локального инференса. Ограничения включают значительные требования к памяти, особенно для BF16 и высокоточных вариантов, а также возможное снижение качества у компактных Q3-вариантов. Для недавно поддерживаемых моделей может потребоваться обновление используемого программного обеспечения. Лицензия указана как Apache-2.0; при этом для Gemma также приведена отдельная ссылка на лицензионные условия Google.

ibm-granite/granite-3.3-8b-instruct-GGUF — это семейство версий модели IBM Granite 3.3 8B Instruct, преобразованных в формат GGUF с различными уровнями квантования. Модель разработана IBM и предназначена для генерации текста и выполнения инструкций в сценариях, поддерживаемых базовой моделью ibm-granite/granite-3.3-8b-instruct. Из доступных данных известно, что модель относится к классу text-generation и имеет около 8 миллиардов параметров. Формат GGUF удобен для локального запуска совместимыми средствами вывода, а выбор квантования позволяет находить компромисс между качеством, скоростью работы и требованиями к памяти. Конкретные поддерживаемые языки, размер контекста, архитектурные детали и различия между вариантами квантования в предоставленной карточке не указаны. Сильными сторонами являются инструкционное назначение базовой модели и возможность локального использования в компактных квантованных вариантах. Ограничения зависят от выбранного уровня квантования и характеристик среды запуска; точные сведения о качестве, мультимодальности и специализированных сценариях отсутствуют. Модель распространяется по лицензии Apache-2.0.

Это текстовая Sentence Transformer модель Voctree, дообученная на базе microsoft/harrier-oss-v1-270m. Она преобразует предложения и абзацы в плотные векторы размерности 640 и предназначена для поиска и сравнения текстов по косинусному сходству. Архитектура включает Gemma3TextModel, пулинг последнего токена и нормализацию эмбеддингов. Модель принимает текст, поддерживает контекст до 32 768 токенов и обучалась на 18 851 паре текстов с использованием MultipleNegativesRankingLoss. Примеры данных включают соответствия между английскими и корейскими названиями товаров, что указывает на пользу для многоязычного поиска. В карточке не указана лицензия, поэтому условия использования определить нельзя.