I.3Извлечение и структурирование данных

Olmo-3.1-32B-Think-GGUF — это квантизированная версия текстовой генеративной модели Olmo-3.1-32B-Think, разработанной Allen Institute for AI (AI2). Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. В репозитории доступны варианты от BF16 до низкобитных форматов Q8_0, Q6_K, Q5_K, Q4_K и Q3_K, включая IQ-квантизации. Размер файлов варьируется примерно от 14 до 64 ГБ, поэтому модель можно адаптировать под доступные ресурсы, выбирая компромисс между качеством и потреблением памяти. Указан английский язык; сведения об архитектуре, максимальном контексте, мультимодальности и поддерживаемых языках, кроме английского, не предоставлены. Сильной стороной модели являются варианты с высокой точностью, близкой к исходной, а также возможность локального запуска на совместимом оборудовании. Низкобитные варианты экономят память, но могут снижать качество генерации; некоторые форматы имеют устаревшие особенности или не рекомендуются из-за более низкого качества. Модель распространяется по лицензии Apache-2.0.

Модель dsvv-cair/alpaca-cleaned-llama-30b-bf16 — языковая модель семейства LLaMA, дообученная методом QLoRA на наборе yahma/alpaca-cleaned. Она предназначена для генерации текста по запросам и инструкциям, включая ответы на вопросы и выполнение текстовых поручений. Модель содержит 32,3 млрд параметров, использует архитектуру LlamaForCausalLM и формат PyTorch; заявленная длина контекста — 2048 токенов. В README приведены результаты оценки на тестах ARC и HellaSwag. Для работы нужны совместимые средства запуска моделей PyTorch и подходящие вычислительные ресурсы для модели такого размера. Базовая модель — huggyllama/llama-30b. Лицензия в доступных данных не указана.

Amadeus-Verbo-FI-Qwen2.5-7B-PT-BR-Instruct — языковая модель для бразильского португальского, созданная Amadeus AI дообучением Qwen/Qwen2.5-7B-Instruct на 600 тысячах инструкций в течение двух эпох. Это плотная Transformer-модель семейства Qwen2 с причинной генерацией текста; в метаданных указано 7,1 млрд параметров и контекст 32 768 токенов. README приводит другие значения: 7,61 млрд параметров и контекст 131 072 токена. Модель предназначена для диалогов и генерации ответов на инструкции на бразильском португальском. Метаданные также отмечают интерфейс для вызова инструментов. Для загрузки README рекомендует библиотеку Hugging Face Transformers. Модель распространяется под лицензией Apache-2.0.

Arabic-labse-Matryoshka — модель Sentence Transformer от Omartificial-Intelligence-Space, дообученная на базе sentence-transformers/LaBSE на наборе арабских NLI-триплетов. Она кодирует предложения и абзацы в плотные векторы размерностью 768 и предназначена для сравнения смысловой близости текстов, семантического поиска, поиска перефразировок, кластеризации и классификации текста. В README указана максимальная длина последовательности 256 токенов; метаданные сообщают контекст до 512 токенов. Модель использует архитектуру BERT, библиотеку Sentence Transformers и косинусное сходство; матрёшечное обучение позволяет получать эмбеддинги разной размерности. Веса содержат около 498,1 млн параметров. Модель ориентирована на арабский язык и обучалась на датасете из 557 850 троек «якорь — положительный пример — отрицательный пример». README приводит результаты оценки семантического сходства на нескольких размерностях эмбеддингов. Веса распространяются по лицензии Apache-2.0. Поскольку обучение и карточка сосредоточены на арабских текстах, качество для других языков и специализированных предметных областей не подтверждено приведёнными данными.

Beepo-22B-GGUF — набор GGUF-квантизированных версий языковой модели Beepo-22B, разработанной concedo и подготовленной квантизатором bartowski с использованием llama.cpp. Модель предназначена для генерации текста и локального запуска, в частности через LM Studio. Указан английский язык; поддерживается формат инструкций Alpaca, несмотря на сохранённый формат Mistral. Модель имеет размер 22 млрд параметров. Доступны варианты от F16 до различных уровней Q8, Q6, Q5, Q4, Q3 и Q2, включая IQ-квантизации, поэтому можно выбирать между качеством ответов, требованиями к памяти и скоростью инференса. Наиболее качественными и рекомендуемыми названы Q6_K_L, Q6_K, Q5 и Q4-варианты, тогда как младшие Q3 и Q2 экономят память, но снижают качество. Для некоторых вариантов указаны ограничения совместимости с ARM, AVX и Mac. Архитектура, размер контекста, дополнительные модальности и лицензия в README не указаны.

Nulute/chudbot-iron-0.5 — дообученная компанией Nulute мультимодальная модель семейства Qwen3.5 на базе unsloth/Qwen3.5-4B. Она предназначена для диалога с текстом и изображениями; архитектура — плотная Qwen3_5ForConditionalGeneration, веса опубликованы в формате safetensors. Модель поддерживает английский язык и интерфейс вызова инструментов. В карточке указана лицензия Apache-2.0. README сообщает, что обучение проводилось с использованием Unsloth и библиотеки TRL.

Карточка модели xingyaoww/CodeActAgent-Llama-2-7b на Hugging Face совпадает с карточкой xingyaoww/CodeActAgent-Mistral-7b-v0.1, поэтому описание составлено по ней. CodeActAgent-Mistral-7b-v0.1 — языковая модель-агент, разработанная авторами CodeAct на базе Mistral-7b-v0.1. Это плотная авторегрессионная модель класса MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов; она обучена на CodeActInstruct и обычных диалогах. Модель формирует ответы и исполняемые действия на Python, которые агент может передавать интерпретатору, получать результаты выполнения и учитывать их в следующих ходах. Модель предназначена для многошаговых агентных задач, особенно для работы с API и инструментами, где действия можно выражать кодом и корректировать после наблюдений. Авторы сообщают об улучшении успешности относительно действий в формате обычного текста или JSON на своих оценках, а также о сохранении общих диалоговых возможностей. Это исследовательская разработка, представленная как готовая модель для применения; в репозитории указана лицензия Apache-2.0.

Это GGUF-квантизированная версия модели command-a-reasoning-08-2025, разработанной CohereLabs. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; опубликованный вариант предназначен для локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Модель относится к генерации текста и, судя по названию, ориентирована на задачи, требующие рассуждений. Доступны варианты с уровнями квантизации от Q8_0 до Q3_K и IQ3, размером примерно от 43 до 118 ГБ. Более крупные варианты обычно обеспечивают более высокое качество, а компактные требуют меньше оперативной памяти, но заметно уступают по качеству. Архитектура, число параметров, поддерживаемые языки, модальности и размер контекста в представленном README не указаны. Преимущество этой публикации — широкий выбор степеней квантизации и адаптация для эффективного локального инференса. Ограничения связаны с большими требованиями к памяти даже у компактных вариантов, возможным снижением качества при низкой разрядности и отсутствием сведений о формате промптов. Лицензия в README не указана; условия использования следует уточнять на странице исходной модели CohereLabs/command-a-reasoning-08-2025.

Moritz Laurer разработал эту модель для классификации текста без размеченных обучающих примеров. Она формулирует задачу как проверку гипотезы: следует ли из текста заданный класс или утверждение; через pipeline Hugging Face этот подход можно применять к разным задачам классификации, задавая названия классов и шаблон гипотезы. Модель основана на DeBERTa-v3-base и дообучена для zero-shot классификации в формате Natural Language Inference. В ней 211,6 млн параметров, она принимает текст и выдаёт оценки классов; максимальная длина контекста — 512 токенов. Версия с суффиксом «-c» обучена на данных, выбранных автором как коммерчески приемлемые, включая синтетические примеры и наборы MNLI и FEVER-NLI. По оценке автора на 28 задачах классификации эта версия показывает более высокое среднее качество, чем facebook/bart-large-mnli, хотя результаты зависят от задачи и формулировки гипотезы. Модель работает на CPU и GPU и может быть медленнее моделей RoBERTa. Она предназначена только для классификации текста; возможны смещения из базовой модели, данных NLI и синтетических данных. Лицензия репозитория — MIT.

DiffusionGemma 26B-A4B-it MXFP8 — языковая модель с блоковой диффузионной генерацией, подготовленная OsaurusAI для запуска через движок vMLX на компьютерах Apple Silicon. В отличие от авторегрессионной генерации, она формирует текстовые блоки размером до 256 токенов и уточняет их итеративным денойзингом. Архитектура — 30-слойная Gemma 4-style MoE с 128 экспертами и выбором 8 экспертов; всего 26 млрд параметров, активно используется около 4 млрд. Веса основных компонентов квантованы в MXFP8, а эмбеддинги, нормализации и визуальный модуль сохранены в fp16; файлы занимают около 26 ГБ. Модель предназначена для диалога и генерации текста, анализа одного или нескольких изображений и вызова инструментов в формате Gemma 4. Для работы с изображениями используется визуальный модуль Gemma 4. Темп генерации на M5 Max указан как 28–42 токена в секунду при 48 шагах денойзинга; фактическая скорость зависит от оборудования и бюджета шагов. Лицензия — Gemma. При очень коротких запросах жадная стратегия денойзинга иногда приводит к пустому ответу; повторная попытка или переформулировка могут помочь. Параметры temperature и top_p, переданные через интерфейс, игнорируются: параметры сэмплирования задаются конфигурацией модели, а уменьшение числа шагов ниже 12 ухудшает качество. Для запуска указана среда Apple Silicon с Osaurus и движком vMLX.

oridror разработал e5-base-hebrew-qa-v2-myd-r1 — модель эмбеддингов на базе intfloat/multilingual-e5-base, дообученную для сопоставления вопросов и ответов на иврите. Она использует архитектуру XLM-RoBERTa, содержит 305,2 млн параметров и принимает текстовые запросы и документы, преобразуя их в векторы для оценки семантического сходства. Контекст модели — до 514 токенов. Модель предназначена для семантического поиска ответов на вопросы на иврите, ранжирования подходящих фрагментов и поиска по парам «вопрос—ответ». Для корректной работы нужно добавлять префикс «query: » к запросам и «passage: » к документам. В оценке на 500 отложенных парах на иврите указаны Accuracy@1 0,722, Accuracy@5 0,852 и MRR@10 0,7774. Модель выпущена под лицензией Apache-2.0.

Experiment28M7_NeuralsirkrishnaM7 — объединённая языковая модель семейства Mistral, созданная слиянием automerger/Experiment28M7-7B и automerger/NeuralsirkrishnaM7-7B. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и принимает текст для авторегрессионной генерации текста. Контекстное окно составляет до 32 768 токенов. Модель подходит для генерации продолжений, ответов и диалогового текста в сценариях, где нужен длинный контекст. Доступна в формате Safetensors. Лицензия — Apache-2.0. README не приводит сравнительных оценок качества или специальных сведений о поддерживаемых языках и ограничениях.

FastSLM — модель на базе Qwen3-4B, дообученная okestro-ai-lab для преобразования речи в текст и других задач понимания аудио. Она использует архитектуру FastSLM с плотной моделью условной генерации и адаптацией языковой модели к аудио; веса доступны в формате safetensors. Модель ориентирована на эффективную обработку длинных записей: в README заявлена обработка до восьми часов аудио на GPU с 40 ГБ памяти. Для вывода требуются GPU и специальный код модели в Transformers. FastSLM поддерживает транскрибирование речи, перевод аудио в текст на другом языке, суммаризацию аудиозаписей и ответы на вопросы по их содержанию. README сообщает о сохранении возможностей исходной языковой модели для текстовых задач при отключении LoRA. В метаданных указаны английский и корейский языки; опубликованные материалы также упоминают стандартные тесты распознавания речи, но численные результаты здесь не приведены. Модель распространяется по лицензии Apache-2.0.

PeytonT/file-embedding — дообученная модель для создания плотных векторных представлений файлов, предназначенных для поиска и сопоставления. Это компонент системы Repository Library для индексации и поиска по репозиториям и научным материалам. Модель основана на энкодере BERT и дообучена на sentence-transformers/all-MiniLM-L6-v2; содержит 25,9 млн параметров, принимает текст с контекстом до 512 токенов и выдаёт векторы признаков. В обучающих данных использовались графы репозиториев и фрагменты кода из конвейера Repository Library. Лицензия в предоставленных данных не указана.

FRPile_GPL_test_pipeline_DragosGorduza-FRPile_MLM_Basel-GPT3_BASEL_FULL-notrescaled_120000 — модель Sentence-Transformers на архитектуре BERT с 433,9 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерности 1024 для семантического поиска, сравнения сходства и кластеризации. В README указано обучение с MarginDistillationLoss; модель принимает текст и выдаёт эмбеддинги. Контекст ограничен 512 токенами. Репозиторий содержит веса в формате safetensors и рассчитан на использование с библиотекой sentence-transformers. Карточка не указывает базовую модель или лицензию, поэтому их нельзя надёжно определить. Название и описание обучения указывают на экспериментальную модель, связанную с GPL и F R Pile; качество и применимость за пределами описанных задач не подтверждены.

Карточка модели DragosGorduza/FRPile_GPL_test_pipeline_DragosGorduza-FRPile_MLM_Basel-GPT3_BASEL_FULL-notrescaled_30000 на Hugging Face совпадает с карточкой DragosGorduza/FRPile_GPL_test_pipeline_DragosGorduza-FRPile_MLM_Basel-GPT3_BASEL_FULL-notrescaled_120000, поэтому описание составлено по ней. FRPile_GPL_test_pipeline_DragosGorduza-FRPile_MLM_Basel-GPT3_BASEL_FULL-notrescaled_120000 — модель Sentence-Transformers на архитектуре BERT с 433,9 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерности 1024 для семантического поиска, сравнения сходства и кластеризации. В README указано обучение с MarginDistillationLoss; модель принимает текст и выдаёт эмбеддинги. Контекст ограничен 512 токенами. Репозиторий содержит веса в формате safetensors и рассчитан на использование с библиотекой sentence-transformers. Карточка не указывает базовую модель или лицензию, поэтому их нельзя надёжно определить. Название и описание обучения указывают на экспериментальную модель, связанную с GPL и F R Pile; качество и применимость за пределами описанных задач не подтверждены.

DuoNeural Gemma4-12B-IT-Abliterated-GGUF — набор GGUF-квантизаций текстовой модели Gemma 4-12B-IT-Abliterated, разработанный исследовательской лабораторией DuoNeural. Модель предназначена для генерации текста и запуска локально через llama.cpp или llama-cpp-python; варианты подходят для систем с ограниченными ресурсами и различным объёмом видеопамяти. В README указан английский язык. Поддержка мультимодальности не заявлена. В основе лежит google/gemma-4-12B-it: 48 слоёв и hidden size 3840. Abliteration выполнена методом ортогональной rank-1-проекции в down_proj и o_proj всех 48 слоёв. По заявлению авторов, режим рассуждений работает в llama.cpp с enable_thinking=True. Доступны Q4_K_M размером около 7,5 ГБ, Q5_K_M около 8,5 ГБ и Q8_0 около 12,7 ГБ; рекомендуемые требования к VRAM составляют примерно 12 ГБ, 12 ГБ и 16 ГБ соответственно. На A100-40GB скорость генерации составляет 78,3, 73,1 и 63,4 токена в секунду для этих вариантов. Сильные стороны модели — локальный запуск, несколько уровней компромисса между размером и качеством, высокая скорость на GPU и заявленное сохранение поведения на безвредных тестах. Abliteration снижает склонность к отказам, поэтому модель может охотнее отвечать на потенциально вредные запросы; это одновременно является существенным ограничением и требует осторожного применения. Длина контекста в README не указана, мультимодальные возможности и полный набор языков также не описаны. Модель распространяется по лицензии Apache-2.0.

Gemma 4 12B-it JANG 4M CRACK — мультимодальная инструкционная модель dealignai, основанная на Google Gemma 4 12B-it. Она предназначена для диалогов и задач с текстом, изображениями, аудио и видео; карточка также заявляет поддержку рассуждений и вызова инструментов. Модель имеет 48 слоёв, гибридное скользящее и полное внимание и контекст до 128 тысяч токенов. Разработчик сообщает, что модель прошла абляцию отказов CRACK и смешанную квантизацию JANG: 8-битные веса внимания и 4-битные веса MLP. Версия подготовлена для MLX и Apple Silicon, занимает около 9,6 ГБ. В README приведены результаты собственных оценок на HarmBench и MMLU; они не гарантируют качество на других задачах. Из-за удаления поведения отказа модель может выдавать ответы на потенциально опасные запросы. Разработчик указывает исследовательское применение и авторизованное тестирование безопасности. Лицензия — Gemma; перед использованием следует учитывать её условия.

AMD Gemma 4 12B IT W4A16 — квантизированная версия модели RedHatAI/gemma-4-12B-it, созданная AMD с использованием LLM Compressor и формата compressed-tensors. Модель предназначена для генерации текста и CPU-инференса на процессорах AMD EPYC под Linux; запуск рекомендуется через vLLM. Указанный язык — английский. Модель основана на архитектуре Gemma4UnifiedForConditionalGeneration и содержит мультимодальные компоненты, включая vision tower, обработчики изображений и аудио, а также мультимодальный проектор, однако в карточке явно заявлены текстовые входы и выходы. Основные веса сжаты методом 4-битной weight-only-квантизации W4A16 с использованием GPTQ: веса представлены в INT4, симметрично и группами по 128 параметров, а активации остаются в BF16. Мультимодальные модули и lm_head сохранены в BF16. Размер модели — 12B параметров; точное максимальное окно контекста не указано, при квантизации использовалась длина последовательности до 2048 токенов. Ключевое преимущество модели — снижение требований к памяти и оптимизация инференса на AMD CPU с использованием ZenDNN и ZenTorch. По тесту GSM8K модель сохранила 98,38% результата BF16-базовой версии: 0,9249 против 0,9401. Ограничения связаны с потерей качества из-за квантизации, зависимостью от совместимого стека версий и ориентированностью на AMD EPYC; заявленные результаты не охватывают широкий набор задач и языков. Для работы рекомендуются PyTorch 2.11.0, ZenTorch 2.11.0.3, vLLM 0.26.0 и LLM Compressor 0.12.0. Лицензия — Gemma.

mlx-community/gemma-4-E4B-it-qat-mobile — это MLX-совместимая мобильная версия instruction-tuned модели Gemma 4 E4B-it, опубликованная сообществом MLX Community на основе модели Google DeepMind. Она предназначена для локального запуска на устройствах Apple с MLX, включая сценарии генерации текста и анализа изображений с текстовым ответом. Модель имеет около 3 млрд параметров, использует формат Safetensors и 8-битное представление; размер файлов на странице модели составляет около 3,46 ГБ. Вариант создан с применением Quantization-Aware Training и мобильной схемы оптимизации wNa8o8, включающей целевое 2-битное декодирование, оптимизированный KV-кэш и статические активации для снижения требований к памяти. Карточка указывает английский язык и поддержку image-text-to-text; для семейства Gemma 4 заявлены обработка текста и изображений, контекст до 256K токенов и поддержка более 140 языков. Сильная сторона модели — сочетание мультимодальности и уменьшенных требований к памяти, что делает её подходящей для локального инференса на мобильном и периферийном оборудовании. Ограничения связаны с квантованием, меньшим размером по сравнению с полноразмерными вариантами Gemma 4 и отсутствием подробного описания бенчмарков или ограничений в карточке данной производной версии. Лицензия на странице mlx-community явно не указана; условия базовой модели Gemma 4 следует проверять в официальной карточке Google.

Карточка модели ghanaopenai/ghana-speech-id на Hugging Face совпадает с карточкой ghananlpcommunity/ghana-speech-id, поэтому описание составлено по ней. ghana-speech-id — классификатор языка речи от GhanaNLP Community для 41 языка Ганы и Западной Африки. Модель определяет язык по текстовой расшифровке аудио: аудиосигнал сначала распознаётся отдельной моделью Omnilingual ASR, затем этот классификатор анализирует полученный текст. Его языковая голова — линейный классификатор символьных n-грамм с TF-IDF, упакованный в ONNX; размер головы составляет 8,2 МБ. В репозитории также размещена модель распознавания речи Omnilingual ASR CTC 300M размером 279 МБ. Модель предназначена для автоматической идентификации языка в аудиозаписях. Для надёжных результатов рекомендуется подавать не менее пяти секунд речи, а около десяти секунд дают близкую к максимальной точность. В README указаны точность 95,30% на внутридоменной оценке и 77,6% на внедоменных данных; качество зависит от тематики записи и заметно ниже на финансовых материалах. Классификатор работает только с закрытым набором из 41 языка: он всегда назначает один из них, поэтому языки вне набора могут ошибочно определяться как близкие. Английского класса нет, а Fante во внедоменных записях часто смешивается с Twi. Лицензия репозитория — CC-BY-NC-4.0; вложенная модель ASR Meta распространяется отдельно по Apache 2.0.

GPT4 Alpaca LoRA 30B HF — версия модели Chansung GPT4 Alpaca 30B, подготовленная TheBloke с объединёнными весами LoRA и исходной Llama 30B. Это плотная авторегрессионная модель семейства Llama с 32,3 млрд параметров, предназначенная для диалогов и выполнения инструкций на естественном языке. Модель принимает текст и генерирует текст; в карточке указан английский язык, а максимальный контекст составляет 2048 токенов. Модель подходит для чат-ботов, ответов на инструкции и текстовых запросов. README указывает, что для запуска требуется не менее 60 ГБ видеопамяти. Репозиторий содержит веса PyTorch; лицензия обозначена как other, поэтому условия использования следует проверять в исходных лицензиях Llama и обученной модели.

GPT-JT-6B-v1 — языковая модель Together, дообученная на базе GPT-J (6B) с использованием децентрализованного алгоритма обучения. Она предназначена для генерации текста по запросу и особенно ориентирована на задачи классификации, например определение тональности. Модель использует архитектуру GPT-J с плотной сетью и цель обучения UL2: входной запрос доступен модели с двунаправленным контекстом, а продолжение генерируется авторегрессионно. Обучение включало 3,53 млрд токенов из The Pile, Natural-Instructions, P3 и данных Chain-of-Thought. Контекст модели — 2048 токенов; в карточке указана поддержка английского языка. Репозиторий содержит веса PyTorch. Лицензия — Apache-2.0. Заявления карточки о сравнении с более крупными моделями относятся к классификационным бенчмаркам и сами по себе не гарантируют качество на других задачах.

GWQ-9B-Preview2 — англоязычная диалоговая языковая модель, созданная prithivMLmods как дообученная версия GWQ-9B-Preview на базе архитектуры Gemma 2. Это плотная авторегрессионная модель типа decoder-only с 9 млрд параметров, предназначенная для генерации текста и работы в формате чата; максимальная длина контекста — 8192 токена. Модель рассчитана на ответы на вопросы, суммаризацию, генерацию текстов и многошаговые рассуждения. В README указано дообучение на синтетическом наборе Chain of Continuous Thought; модель также может следовать инструкциям. Для запуска используется библиотека Transformers и шаблон чата токенизатора. Модель может ошибаться и галлюцинировать, воспроизводить смещения обучающих данных и испытывать трудности со сложными рассуждениями; её ответы могут быть неактуальны. Для инференса 9-миллиардной модели нужны существенные вычислительные ресурсы, а длинные входы ограничены окном контекста. Репозиторий использует лицензию Gemma.

Huihui-Qwen3.6-35B-A3B-Claude-4.6-Opus-abliterated-i1-GGUF — это GGUF-квантизация модели Huihui-Qwen3.6-35B-A3B-Claude-4.6-Opus-abliterated, разработанной huihui-ai и подготовленной в виде квантованных файлов пользователем mradermacher. Модель основана на архитектуре Qwen3.6 с разреженной MoE-структурой; заявленный размер — 35B параметров при 3B активных параметров. Репозиторий содержит варианты i1-квантизации с размерами примерно от 7,6 до 20 ГБ, а также imatrix-файл для самостоятельного создания квантовок. Модель предназначена для генерации текста, диалоговых сценариев и задач, связанных с рассуждениями. В описании также заявлена поддержка изображений и текста, поэтому она может применяться в мультимодальных сценариях при наличии совместимых mmproj-файлов. Указанный язык — английский. Модель совместима с экосистемой Transformers и инструментами инференса, включая text-generation-inference и vLLM; формат GGUF ориентирован на локальный запуск средствами, поддерживающими этот формат. Сильной стороной являются различные уровни квантизации, позволяющие выбирать между размером файла, скоростью и качеством. При этом низкобитные варианты могут заметно уступать по качеству: в README отдельные сборки обозначены как имеющие низкое качество или предназначенные для случаев острой нехватки ресурсов. Точный размер контекстного окна и результаты бенчмарков не указаны. Обозначения abliterated и uncensored указывают на отсутствие или ослабление части стандартных ограничений безопасности, поэтому поведение модели и пригодность для чувствительных задач следует проверять отдельно. Указанная лицензия — Apache-2.0.

SECUFIBRE/klue-roberta-base-klue-sts — модель Sentence Transformers, разработанная на основе klue/roberta-base и дообученная на наборе данных KLUE для оценки сходства корейских предложений. Архитектура включает RoBERTa и mean pooling; модель преобразует предложения и абзацы в плотные векторы размерностью 768, а сходство оценивает косинусной мерой. Размер модели — 137,8 млн параметров, максимальная длина последовательности — 512 токенов по README и 514 токенов по метаданным. Модель предназначена для семантического поиска, сопоставления предложений, поиска перефразирований, кластеризации и классификации текста на корейском языке. README приводит метрики Spearman для наборов sts-test и sts-eval, однако оценки различаются, поэтому качество следует проверять на данных целевого сценария. Лицензия в предоставленных источниках не указана.

Модель snunlp/KLUE-SRoBERTa-Large-SNUExtended-klueNLI-klueSTS — Sentence Transformer на архитектуре RoBERTa, обученный для работы с корейскими предложениями на наборе klue/klue. Она преобразует текст в плотные эмбеддинги размерности 1024 и оценивает сходство предложений по косинусному сходству; максимальная длина последовательности составляет 512 токенов. Модель подходит для семантического поиска, поиска перефразирований, кластеризации и классификации текста на основе эмбеддингов. В README приведён результат Spearman 0,8422 на оценке семантического сходства sts-dev. Модель принимает текст и выдаёт векторные представления; основным языком является корейский. Контекст ограничен 512 токенами, поэтому длинные тексты требуют разбиения. Лицензия в предоставленных источниках не указана.

Карточка модели BM-K/KoSimCSE-Unsup-BERT на Hugging Face совпадает с карточкой BM-K/KoSimCSE-Unsup-RoBERTa, поэтому описание составлено по ней. BM-K/KoSimCSE-Unsup-RoBERTa — модель корейских векторных представлений предложений из семейства KoSimCSE. Она основана на RoBERTa и предназначена для получения эмбеддингов текста, которые можно использовать для сравнения семантической близости предложений. Модель подходит для семантического поиска и кластеризации корейских текстов. В карточке указано 137,8 млн параметров и контекст до 514 токенов; доступны веса PyTorch и Safetensors. README описывает обучение KoSimCSE без разметки на корпусе Wikipedia и приводит семантический поиск и кластеризацию как downstream-задачи. Сведения о лицензии в предоставленных данных отсутствуют.

QuantFactory/Llama3.1-8B-Chinese-Chat-GGUF — квантизированная версия модели Llama3.1-8B-Chinese-Chat, созданная с использованием llama.cpp на основе Meta-Llama-3.1-8B-Instruct. Исходную модель разработали Shenzhi Wang, Yaowei Zheng, Guoyin Wang, Shiji Song и Gao Huang; равный вклад указан для первых двух авторов. Модель предназначена для генерации текста и диалоговых сценариев на китайском и английском языках. Она ориентирована на ролевое взаимодействие, использование инструментов и function calling, а также задачи, связанные с математикой. Дообучение выполнено методом ORPO с использованием LLaMA-Factory на более чем 100 тысячах пар предпочтений. Размер модели составляет около 8,03 млрд параметров, заявленная длина контекста — до 128K токенов, однако для китайской версии она не была протестирована; длина контекста при дообучении составляла 8192 токена. Главное преимущество модели — адаптация Llama 3.1 для китайско-английских пользователей и наличие GGUF-квантизации, упрощающей локальный запуск через llama.cpp или LM Studio. Ограничения включают непроверенную заявленную длину контекста для этой версии и возможные неточные ответы на вопросы о собственной идентичности и разработчиках. Модель распространяется по лицензии Llama 3.1.

Llama-3.1-8B-FixedReferenceNBPO — диалоговая языковая модель на архитектуре Llama, опубликованная организацией promotion. Это дообученная версия meta-llama/Llama-3.1-8B-Instruct с 7,5 млрд параметров, предназначенная для генерации текста и общения в формате чата. В названии NBPO и тегах указана многокритериальная оптимизация предпочтений. Модель принимает текст и выдаёт текст; её контекстное окно составляет 131 072 токена. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия — Llama 3.1 Community License. README не содержит дополнительных сведений о методе обучения или оценке качества.