I.14Автоматизация процессов и AI-агенты
В разделе собраны самостоятельные задачи, где AI помогает выполнять многошаговые цифровые процессы и координировать действия между системами. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 022 моделиT5Gemma — семейство компактных текстовых моделей Google с архитектурой encoder-decoder. Этот вариант — предварительно обученная модель с энкодером на 2 млрд и декодером на 2 млрд параметров, адаптированная с помощью PrefixLM; веса опубликованы в формате safetensors, библиотека для работы — Transformers. Модель принимает текст и генерирует текст на английском языке. Модель предназначена для генерации и преобразования текста, в частности для ответов на вопросы, суммаризации и рассуждений. Её можно использовать для подготовки черновиков, создания текстов и экспериментов в NLP; энкодер также пригоден для задач классификации и понимания текста. Компактный размер облегчает запуск на персональных компьютерах и собственной облачной инфраструктуре. К ограничениям относятся возможные ошибки в фактах, предвзятость обучающих данных и трудности с неоднозначностью, тонкими языковыми нюансами и сложными открытыми задачами. Модель лицензирована по условиям Gemma License; перед применением следует учитывать ограничения Gemma Prohibited Use Policy.
T5Gemma-9B-2B-UL2-IT — разработанная Google инструктивно дообученная текстовая модель семейства T5Gemma. Это encoder-decoder архитектура: энкодер на 9 млрд параметров и декодер на 2 млрд; модель адаптирована с использованием UL2 и предназначена для преобразования текста в текст. Репозиторий содержит веса в формате Safetensors и использует библиотеку Transformers. Модель подходит для генерации текста по инструкциям, ответов на вопросы, суммаризации и рассуждений, а также для черновиков писем и другого контента. Карточка указывает поддержку английского языка и возможность применения в чат-сценариях. По сравнению с моделями, где энкодер и декодер одинакового размера, сочетание 9B/2B рассчитано на компромисс между качеством и эффективностью. Модель может ошибаться в фактах, отражать смещения обучающих данных и хуже справляться с неоднозначными формулировками, тонкими языковыми нюансами и сложными открытыми задачами. Лицензия Gemma; при использовании следует учитывать правила допустимого применения Gemma и предусмотреть проверку генерируемого содержимого.
TabiBERT — энкодерная трансформерная языковая модель в стиле BERT, разработанная TABILAB при поддержке VNGRS. Она основана на архитектуре ModernBERT-base и содержит 148,8 млн параметров. Модель обучена преимущественно на турецких текстах, а также на английском языке, коде и математических данных; поддерживает контекст до 8192 токенов. В архитектуре используются RoPE, чередование локального и глобального внимания, GeGLU и Flash Attention. Модель предназначена для заполнения пропусков и может служить основой для дообучения под задачи классификации, извлечения ответов на вопросы, NLI, поиска и представления кода, а также семантического поиска по длинным документам. В описанной авторами оценке на турецком бенчмарке TabiBench она показала высокие результаты, включая задачи поиска и QA. Репозиторий содержит веса Safetensors для использования через Transformers. Лицензия — Apache-2.0. По README, качество модели на английском может уступать качеству на турецком, а на других языках — быть ниже; возможны унаследованные от обучающих данных смещения. Обработка последовательностей близких к 8192 токенам может быть медленнее, и авторы рекомендуют проверять результаты перед применением в критических сценариях.
Это экспериментальная англоязычная модель Sentence Transformer, созданная tomaarsen дообучением answerdotai/ModernBERT-base на наборе Natural Questions с функцией потерь DebiasedMultipleNegativesRankingLoss. Encoder-архитектура ModernBERT преобразует предложения и абзацы в плотные векторы размерности 768; для сравнения векторов используется косинусное сходство. Модель рассчитана на семантический поиск и оценку сходства текстов, а также может применяться для поиска перефразировок, кластеризации и классификации текстов. Максимальная длина последовательности составляет 8192 токена. В README приведены результаты оценки на небольших наборах для поиска информации; карточка описывает модель как тестовый эксперимент с новой функцией потерь, поэтому результаты не следует считать гарантией качества в прикладной системе. Модель распространяется в формате safetensors; лицензия в предоставленных данных не указана.
text2vec-bge-large-chinese-i1-GGUF — это квантизированная в формате GGUF версия модели shibing624/text2vec-bge-large-chinese. Базовая модель разработана пользователем или организацией shibing624, а квантизацию выполнил mradermacher. Модель предназначена для получения векторных представлений текста, извлечения признаков и оценки семантического сходства предложений, прежде всего на китайском языке. В репозитории представлены варианты квантизации IQ и Q разных уровней, преимущественно размером около 0,2–0,4 ГБ. Для отдельных вариантов указаны компромиссы между размером, скоростью и качеством; рекомендуются i1-Q4_K_S и i1-Q4_K_M, тогда как некоторые низкобитные варианты имеют очень низкое качество. Архитектура, число параметров, размер контекста и точная размерность эмбеддингов в README не указаны. Данных о поддержке других модальностей или языков, кроме заявленного китайского, нет. Модель подходит для локального семантического поиска, кластеризации, сопоставления текстов и других задач, где нужны текстовые эмбеддинги. Основное преимущество — компактные GGUF-варианты, позволяющие выбирать баланс между ресурсами и качеством. Ограничения связаны с потерями качества при агрессивной квантизации, а также с отсутствием подробных сведений о характеристиках и результатах оценки. Лицензия базовой модели указана как Apache-2.0.
Dampfinchen/Ultra-Instruct-12B — объединённая языковая модель для генерации текста и диалогов, созданная с помощью mergekit. В основе лежит IntervitensInc/Mistral-Nemo-Base-2407-chatml; слияние выполнено методом DARE TIES с моделями Orthrus-12b-v0.8, mistral-nemo-gutenberg-12B-v2 и Deutscher-Pantheon-12B. Модель имеет плотную архитектуру MistralForCausalLM и 12,1 млрд параметров. Модель предназначена для инструктивных запросов и общения в формате ChatML. Заявленная длина контекста — 1 024 000 токенов. README предупреждает, что ответы могут быть чрезмерно длинными и модель описана как uncensored. Репозиторий содержит веса safetensors и использует лицензию CC BY-NC 4.0, которая ограничивает коммерческое использование.
UwU-1 — объединённая языковая модель на 32 млрд параметров, опубликованная пользователем estrogen. Она создана методом TIES с помощью mergekit на основе Qwen/Qwen2.5-32B и включает веса EVA-UNIT-01/EVA-Qwen2.5-32B-v0.2 и Qwen/QwQ-32B-Preview. Модель использует архитектуру Qwen2 для генерации текста и диалогов, поддерживает контекст до 131 072 токенов и доступна в формате safetensors. Модель предназначена для генерации текста и диалогового взаимодействия. Карточка указывает на интерфейс вызова инструментов, однако не описывает его настройку или качество. Лицензия в предоставленных данных не указана.
Модель IonGrozea/whisper-base_ro-80mel — версия OpenAI Whisper Base, дообученная на объединённом корпусе румынской речи объёмом около 445 часов. Она предназначена для автоматического распознавания речи и преобразования аудио в текст на румынском языке. Модель использует архитектуру Whisper и 80-канальные мел-спектрограммы; содержит 51,7 млн параметров. Валидация на 25 348 примерах общей длительностью 52,75 часа показала WER 0,1483 и CER 0,048 при декодировании с beam=5. В качестве обучающих данных указаны Echo, VoxPopuli и RODigits. Модель распространяется по лицензии Apache-2.0.
Модель IonGrozea/whisper-medium_ro-80mel — дообученная Ion Grozea версия OpenAI Whisper Medium для распознавания румынской речи. Это плотная модель архитектуры WhisperForConditionalGeneration с 455,8 млн параметров; на вход принимает аудио, представленное 80-канальной мел-спектрограммой, и преобразует его в текст. Модель обучена на объединённом румынском корпусе объёмом около 445 часов, включавшем Echo, VoxPopuli и RODigits. В карточке указаны WER 0,0656 и CER 0,0228 на 25 348 валидационных примерах общей длительностью 52,75 часа; оценка выполнена с beam search ширины 5. Модель подходит для транскрибирования румынской речи, включая записи из новостных и цифровых речевых корпусов. Опубликованные веса представлены в форматах PyTorch и Safetensors. Лицензия — Apache-2.0.
PrunaAI/WizardLM-2-7B-GGUF-smashed — это сжатая и квантизированная версия WizardLM-2-7B, опубликованная PrunaAI; исходная модель связана с Microsoft. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp, LM Studio, text-generation-webui или библиотеки llama-cpp-python и ctransformers. Модель имеет архитектуру llama и около 7 млрд параметров. Она распространяется в формате GGUF с вариантами квантизации от Q2_K до Q8_0, что позволяет выбирать компромисс между размером, скоростью и качеством. В карточке приведён пример запуска с контекстом 32768 токенов; более длинный контекст требует больше ресурсов. Модель принимает текст и генерирует текст; сведения о поддерживаемых языках и мультимодальности не указаны. К сильным сторонам относятся уменьшенный размер файлов, возможность работы на менее мощном оборудовании и широкий выбор уровней квантизации. Ограничение состоит в том, что качество ответов может отличаться от базовой модели и снижаться при более агрессивном сжатии. Лицензия отдельно не указана: карточка сообщает, что она наследуется от лицензии исходной модели, поэтому перед использованием необходимо проверить условия для WizardLM-2-7B.
sentence-transformers/xlm-r-bert-base-nli-mean-tokens — модель Sentence-Transformers, обученная командой sentence-transformers на основе XLM-RoBERTa. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска по смыслу, кластеризации и сравнения текстов. Модель содержит 305,2 млн параметров и принимает текстовые последовательности длиной до 514 токенов; поддерживаемые форматы включают PyTorch, TensorFlow, ONNX и OpenVINO. В README модель помечена как устаревшая: авторы предупреждают о низком качестве эмбеддингов и рекомендуют выбрать более новые модели для получения векторов предложений. Лицензия — Apache-2.0.
APEX-I-MiniPlus-V2.1 — это пользовательская квантизированная сборка модели XYZ-Aquila-mini от IsValorum в формате GGUF. Она предназначена для диалоговой генерации текста и рассуждений, в том числе для локального запуска с использованием системной RAM или частичной выгрузки на GPU. В README заявлены архитектура Mixture-of-Experts с 40 слоями и 256 микроэкспертами, файл размером около 14,75 ГБ, средний размер 3,40 бита на вес и поддержка контекста до 256 тысяч токенов; эти характеристики приведены автором сборки.
YamshadowStrangemerges_32_Ognoexperiment27M7 — объединённая модель на архитектуре Mistral, разработанная путём слияния automerger/YamshadowStrangemerges_32-7B и automerger/Ognoexperiment27M7-7B. Она содержит 7,1 млрд параметров и предназначена для генерации текста и ведения диалогов с контекстом до 32 768 токенов. Модель принимает текст и выдаёт текст; её можно использовать для диалоговых интерфейсов и генерации текстовых ответов. В карточке не приведены сведения о поддерживаемых естественных языках и специальных предметных областях. Модель распространяется по лицензии Apache-2.0.
YamshadowStrangemerges_32_ShadowMeliodas — объединённая модель MaziyarPanahi на архитектуре Mistral с 7,1 млрд параметров. Она предназначена для генерации текста и диалогов; принимает текст и выдаёт текст. Контекстное окно составляет до 32 768 токенов. Модель объединяет automerger/YamshadowStrangemerges_32-7B и automerger/ShadowMeliodas-7B. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.
MaziyarPanahi/Yarn-Mistral-7b-64k-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием mistralai/Mistral-7B-Instruct-v0.1 и NousResearch/Yarn-Mistral-7b-64k методом SLERP; конфигурация слияния использует формат bfloat16. Модель предназначена для генерации ответов на инструкции и диалоговые запросы, в том числе с длинным контекстом: в метаданных указан контекст до 32 768 токенов. Модель ориентирована на англоязычные текстовые диалоги. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Карточка не приводит результатов оценки качества или дополнительных сведений о поведении модели.
bartowski/zed-industries_zeta-2-GGUF — это набор GGUF-квантизаций модели zed-industries/zeta-2, подготовленный bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, а также сценариев edit prediction и next-edit-suggestion, включая поддержку интеллектуальных подсказок при редактировании кода. Указан английский язык; исходная модель относится к семейству zeta-2, но сведения об архитектуре, количестве параметров, размере контекста и точном назначении базовой модели в README не приведены. Набор можно запускать через llama.cpp, LM Studio, koboldcpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Доступны варианты от BF16 размером 16,51 ГБ до квантизаций Q2–Q8 размером примерно от 4,06 до 8,77 ГБ, что позволяет выбирать баланс между качеством и требованиями к памяти. Наиболее качественными и рекомендуемыми названы варианты Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S и Q4_K_M; малые варианты экономят память, но могут заметно уступать по качеству. Сильные стороны набора — локальный запуск в формате GGUF, широкий выбор уровней квантизации и оптимизация imatrix. Ограничения — отсутствие в README шаблона промпта, подробных характеристик архитектуры, контекстного окна и результатов оценки; для уточнения формата взаимодействия рекомендуется обратиться к странице исходной модели. Для набора указана лицензия Apache-2.0.
Zenith-7B-dpo — чат-модель Xenon1, созданная дообучением Mistral-7B-v0.1 на датасете Ultrafeedback с применением техник из работы Self-Rewarding Language Models. Она предназначена для диалогов и выполнения инструкций в формате text-generation. Архитектура — плотный трансформер Mistral с Grouped-Query Attention и Sliding-Window Attention; модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Для общения используйте шаблон Mistral с маркерами [INST] и [/INST]; доступен chat template через apply_chat_template(). Модель принимает и генерирует текст, а в метаданных указан английский язык. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.
grimjim/zephyr-beta-wizardLM-2-merge-7B — объединённая языковая чат-модель на основе Mistral, созданная автором репозитория с помощью mergekit. Она сочетает модели HuggingFaceH4/zephyr-7b-beta и lucyknada/microsoft_WizardLM-2-7B методом SLERP с параметром смешивания 0,5. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и формат safetensors; заявленная длина контекста — 32 768 токенов. Модель предназначена для генерации текста в диалоге, ответов на вопросы, выполнения инструкций, рассуждений и создания повествовательного текста. Карточка описывает слияние как эксперимент по изучению влияния объединения моделей на рассуждения и генерацию историй. Основное описание базовой модели указывает на англоязычную чат-модель, поэтому английский — единственный язык, подтверждённый имеющимися сведениями. Модель распространяется по лицензии Apache-2.0. Карточка не приводит результатов сравнительной оценки качества; как у генеративной языковой модели, ответы могут содержать ошибки или вымышленные сведения.
AfriqueQwen-14B — плотная причинная языковая модель семейства Qwen3, разработанная в рамках набора AfriqueLLM и дообученная методом продолженного предобучения на многоязычных данных. Она основана на Qwen/Qwen3-14B-Base, содержит 14 млрд параметров и использует контекст до 32 768 токенов. Для адаптации использовано около 26 млрд токенов; основное внимание уделено 20 африканским языкам, при этом обучение также сохраняло возможности на английском, французском, португальском и арабском. Модель предназначена для генерации текста и диалоговых сценариев на африканских языках, а также для многоязычных задач, включая перевод документов с длинным контекстом. В обучающие данные включены тексты, код, математические материалы и синтетические переводы. Карточка сообщает об оценках на нескольких многоязычных бенчмарках, но не приводит в доступном фрагменте результаты именно этой модели. Репозиторий использует формат Safetensors и библиотеку Transformers; для развёртывания предлагаются vLLM или SGLang. Лицензия — CC BY 4.0.
Airophin разработал пользователь bhenrym14 как QLoRA-дообучение Llama 2 13B для генерации текста с расширенным контекстом. Модель использует плотную архитектуру LlamaForCausalLM, содержит 12,9 млрд параметров и применяет частичное NTK-масштабирование RoPE; автор указывает целевую длину контекста 16 384 токена. В метаданных Hugging Face указана нативная длина контекста 4 096 токенов. Обучение проходило в два этапа: на длинных фрагментах набора Dolphin и затем на Airoboros GPT-4 1.4.1. Модель предназначена для диалоговой генерации, ответов по предоставленному контексту, инструкций и задач вроде викторин и вопросов с выбором ответа. Для ответов по документам в карточке предложен формат с явными разделителями контекста. Автор сообщает о тестировании длинных последовательностей до 12 000 токенов и приводит результаты perplexity, но отмечает, что оценка влияния отдельных этапов обучения затруднена. Для запуска требуются способы поддержки частичного NTK RoPE-масштабирования; README указывает, что на момент его написания оно не поддерживалось нативно в Transformers и ExLlama. Доступные веса fp16 опубликованы в формате safetensors. Лицензия в предоставленных данных не указана.
Модель naicasc/all-MiniLM-L6-v2-finetuned-it-project-docs-qa-10000-6ep — энкодер предложений Sentence Transformers на архитектуре BERT, дообученный на наборе it_project_docs. Она преобразует предложения и абзацы в плотные семантические векторы размерности 384, нормализованные для сравнения по косинусному сходству. В метаданных указано 25,9 млн параметров и контекст до 512 токенов; README задаёт максимальную длину последовательности 256 токенов. Модель предназначена для семантического поиска и сравнения текстов по тематике набора обучения, поиска перефразировок, кластеризации и классификации текстов на основе эмбеддингов. Её можно применять для сопоставления вопросов с ответами и построения поиска по документам. Базовая модель — sentence-transformers/all-MiniLM-L6-v2; язык в карточке явно не указан, однако базовый энкодер предназначен для английского языка. Сведения о лицензии в предоставленных данных отсутствуют.
leliuga/all-MiniLM-L6-v2-GGUF — это квантизированные файлы модели all-MiniLM-L6-v2 в формате GGUF. Исходную модель разработала команда Sentence Transformers, а репозиторий с GGUF-файлами подготовлен пользователем Leliuga. Модель предназначена для получения векторных представлений предложений и оценки семантического сходства текста, а также может применяться в задачах поиска, сопоставления и извлечения признаков. Модель основана на архитектуре BERT и относится к семейству Sentence Transformers; её название указывает на использование компактного варианта MiniLM с шестью слоями. Поддерживаемый язык — английский. В README не указаны точный размер модели, доступные уровни квантования, длина контекста и перечень модальностей; по представленным данным модель является текстовой. К сильным сторонам относятся компактность архитектуры и формат GGUF, удобный для локального инференса в совместимых инструментах. Ограничениями являются англоязычная специализация и отсутствие в README подробностей о производительности, точности, контексте и конкретных вариантах квантования. Исходная модель распространяется по лицензии Apache-2.0; для GGUF-репозитория также указана лицензия Apache-2.0.
sudomoniker/all-MiniLM-L6-v2-Q8_0-GGUF — это квантованное представление в формате GGUF модели sentence-transformers/all-MiniLM-L6-v2, преобразованное с помощью llama.cpp через GGUF-my-repo. Модель разработана на базе Sentence Transformers и предназначена для задач семантического сходства и извлечения признаков из текстов. В карточке указано, что она обучалась на англоязычных данных из различных источников, включая S2ORC, Stack Exchange, MS MARCO, SNLI, MultiNLI, Natural Questions и другие наборы данных. Модель рассчитана на сравнение предложений, поиск похожих текстов, семантический поиск, кластеризацию и построение текстовых эмбеддингов. Она поддерживает работу локально через llama.cpp, включая CLI и серверный режим. Суффикс Q8_0 указывает на 8-битное квантование, которое обычно позволяет уменьшить требования к ресурсам, однако в README не приведены точные размер модели, длина контекста, архитектурные параметры и численные результаты оценки. Модель ориентирована на английский язык, поэтому её пригодность для других языков не подтверждена. Лицензия — Apache-2.0.
Модель ashwinpatti/all-mpnet-base-v2_political_view_ft-legal-ft-v0 — дообученная версия Sentence Transformers на базе sentence-transformers/all-mpnet-base-v2, разработанная автором репозитория ashwinpatti. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для семантического поиска, оценки сходства и сопоставления перефразировок. В README также перечислены кластеризация и классификация текстов как возможные сценарии использования. Модель построена на MPNet с усреднением токенных представлений и нормализацией векторов; сходство оценивается косинусной мерой. Метаданные указывают 136,7 млн параметров и контекст до 514 токенов, а README — максимальную длину последовательности 384 токена. Она дообучена на 4 278 парах текстов с ContrastiveLoss; в README приведено значение Spearman для косинусного сходства 0,8249 на оценивании сходства. Для репозитория указаны формат safetensors и библиотека Sentence Transformers. Лицензия и поддерживаемые языки в предоставленных данных не указаны.
Apertus-v1.1-1.5B-Instruct — многоязычная языковая модель Swiss AI для генерации текста и диалогов. Это дистиллированная и дообученная версия базовой модели swiss-ai/Apertus-v1.1-1.5B: семейство Apertus-v1.1 использует плотный трансформер-декодер с grouped-query attention и активацией xIELU. В этой версии около 1,6 млрд параметров, 16 слоёв и контекст до 4096 токенов. Модель подходит для диалоговых помощников, генерации и продолжения текста на разных языках, а также для развёртывания в условиях ограниченных ресурсов. Разработчик заявляет поддержку 1811 языков и обучение на корпусе из документов, кода и инструкций; модель создана методом дистилляции от Apertus-8B-2509 и затем прошла supervised fine-tuning и выравнивание. Карточка отмечает конкурентные базовые результаты в многоязычных диалоговых тестах для своего размерного класса. Модель может допускать фактические ошибки, непоследовательность и отражать смещения обучающих данных; особенно ограниченными могут быть сложная математика и следование составным инструкциям. Выводы следует проверять, а модель использовать как вспомогательный инструмент. Лицензия — Apache-2.0.
IsValorum/Apodex-1.1-mini-APEX-I-MiniPlus-V2.1-GGUF — это квантованная GGUF-версия модели Apodex-1.1-mini, подготовленная IsValorum для запуска через llama.cpp и совместимые инструменты. Модель относится к текстовым генеративным системам, ориентированным на reasoning и работу с архитектурой sparse Mixture-of-Experts. В README заявлены 40 слоёв и 256 микроэкспертов, размер около 13,74 GiB и поддержка контекста до 256 тысяч токенов, однако подробные характеристики исходной базовой модели не приведены. Ключевая особенность версии V2.1 — пользовательская тензорная квантализация, сочетающая форматы IQ3_XXS, Q3_K, Q5_K, Q6_K, Q8_0 и F32 для разных компонентов. Маршрутизаторы gate_inp сохранены в F32, выходная голова — в Q6_K, а attention gates — в Q8_0. Такая конфигурация предназначена для генерации текста, рассуждений и сценариев с большим контекстом, включая запуск при частичной или полной выгрузке весов в системную RAM на рабочих станциях с ограниченной VRAM. Модель поддерживает английский, китайский, испанский, французский, немецкий, португальский, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский языки. Заявленные преимущества — компактный размер, сохранение маршрутизации экспертов и эффективная работа с системной памятью; приведённый показатель WikiText-2 perplexity составляет 5,7073 ± 0,1373. Фактическая скорость и качество зависят от оборудования, реализации и параметров запуска, а утверждения о превосходстве над другими квантализациями подтверждены только данными из README. Модель распространяется по лицензии Apache-2.0.
Aurora-10.7B — слитая плотная авторегрессионная модель семейства Mistral, опубликованная SteelStorage. По README она собрана из слоёв mistralai/Mistral-7B-Instruct-v0.2 методом passthrough и предназначена как базовая модель для дальнейшего обучения; автор указывает, что после слияния она не дообучалась. В репозитории доступны веса Safetensors, лицензия — Apache-2.0. Модель принимает текст и генерирует текст; метаданные также отмечают поддержку чата. Контекст составляет 32 768 токенов, размер — около 10,6 млрд параметров. README приводит результаты оценок на ARC, HellaSwag, MMLU, T-QA, Winogrande и GSM8K, но они не гарантируют качество на конкретных пользовательских задачах. Языки и специальные предметные области в предоставленных данных не обозначены.
sgugger/bert-finetuned-mrpc — модель BERT, дообученная на наборе GLUE MRPC для классификации пар предложений. Она определяет, выражают ли два предложения одно и то же значение; на оценочной части MRPC в карточке указаны accuracy 0,8603 и F1 0,9032. Модель содержит 135,5 млн параметров, принимает текстовые пары и поддерживает контекст до 512 токенов. Модель основана на bert-base-cased и предназначена для английского языка. Подходит для обнаружения перефразирований и проверки семантического сходства коротких текстов. Распространяется по лицензии Apache-2.0. Показатели относятся к оценке на MRPC; качество на других данных может отличаться.
Это компактная модель Sentence Transformers, дообученная автором swardiantara на базе google/bert_uncased_L-2_H-128_A-2. Она кодирует предложения и абзацы на английском языке в плотные векторы размерности 128 для поиска и сравнения по смыслу. Архитектура состоит из двухслойного BERT с mean pooling; метаданные указывают 4,4 млн параметров, формат safetensors и контекст до 512 токенов, тогда как карточка модели задаёт максимальную длину последовательности 128 токенов. Для сравнения векторов используется косинусное сходство. Модель предназначена для семантического поиска, извлечения текстовых признаков и оценки сходства предложений. В обучении использовался набор из 2 925 010 пар текстов с метками и OrdinalProxyContrastiveLoss; примеры в карточке связаны с отзывами Yelp, поэтому применение к другим жанрам и доменам может потребовать проверки качества. Лицензия в предоставленных данных не указана.
BitCPM-CANN-8B-gguf — языковая модель семейства BitCPM-CANN, разработанная OpenBMB. Это GGUF-версия модели BitCPM-CANN-8B для генерации текста и диалогового взаимодействия на китайском и английском языках; репозиторий ориентирован на использование с llama.cpp и совместимыми инструментами, а в метаданных указана библиотека Transformers. Модель основана на системе обучения с квантизацией с учётом обучения и использует тернарные значения весов {-1, 0, 1} с эффективной разрядностью 1,58 бита. Для семейства заявлены примерно шестикратное снижение памяти при инференсе и сохранение 95,7–97,2% производительности полноточных аналогов для моделей размером 1B–8B. В README также указано, что веса представлены в формате псевдоквантизации и могут запускаться как обычные модели с плавающей точкой без специальных квантизационных библиотек или ядер. Модель подходит для генерации ответов, диалоговых приложений, написания текстов, рассуждений и вопросов-ответов на китайском и английском языках, особенно при ограниченных ресурсах памяти. Ограничения включают возможное снижение качества по сравнению с полноточной версией, зависящее от задачи и языка, а также необходимость учитывать совместимость конкретного GGUF-файла с используемым рантаймом. Модель распространяется по лицензии Apache-2.0.