I.14Автоматизация процессов и AI-агенты

Upshot-NeuralHermes-2.5-Mistral-7B-slerp — диалоговая языковая модель, созданная слиянием mlabonne/NeuralHermes-2.5-Mistral-7B и Aditya685/upshot-sih методом SLERP с помощью LazyMergekit. В репозитории представлены веса Safetensors; модель построена на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров. Модель предназначена для диалоговой генерации текста и ответов на запросы. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. В метаданных указана лицензия MIT. Карточка не сообщает о специализированной предметной области или языковом охвате.

Venomia-1.1-m7-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, полученная слиянием Mistral-7B-Instruct-v0.2 и Sao10K/Venomia-1.1-m7 методом SLERP. Модель разработана на базе Mistral и содержит 7,1 млрд параметров; поддерживает контекст до 32 768 токенов и предназначена для генерации текста и ответов на инструкции в формате диалога. Модель подходит для чат-ботов, интерактивных ответов и генерации текста по запросу. Распространяется в формате safetensors, лицензия — Apache-2.0. Данные карточки не описывают конкретные целевые языки или специализированные области применения.

winglian/vicuna-13b-1_1-hf — версия Vicuna 13B 1.1 в формате Hugging Face, подготовленная автором репозитория. Vicuna разработана командой исследователей из UC Berkeley, CMU, Stanford и UC San Diego на основе LLaMA: модель получена дообучением на пользовательских диалогах ShareGPT, а веса этой версии собраны слиянием дельт Vicuna с исходной LLaMA 13B. Это авторегрессионная плотная трансформерная модель семейства Llama с 12,9 млрд параметров и контекстом до 2048 токенов. Модель предназначена для генерации текста и диалогового общения: её можно использовать для ответов на вопросы, ведения бесед и исследований чат-ботов и больших языковых моделей. В версии 1.1 исправлен расчёт потерь при дообучении и изменён разделитель диалога на EOS-токен, что упрощает остановку генерации и совместимость с библиотеками. Обучение проводилось на 70 тысячах разговоров ShareGPT; качество предварительно оценивали на наборе из 80 вопросов с помощью GPT-4. README указывает лицензию Apache 2.0, тогда как метаданные Hugging Face обозначают лицензию как other, поэтому условия лицензирования стоит сверить с файлами репозитория. Модель обучена на пользовательских диалогах и может выдавать ошибочные или неподходящие ответы; оценка качества в карточке предварительная.

IlyaGusev собрал эту русско-английскую диалоговую модель с помощью mergekit, объединив методом SLERP модели vikhr_nemo_orpo_dostoevsky_12b и Vikhr-Nemo-12B-Instruct-R-21-09-24. Это плотная Mistral-модель с 12,1 млрд параметров, предназначенная для генерации текста и общения в чате. Модель можно применять для ответов на вопросы, подготовки текстов и диалога на русском и английском языках. В объединение вошла модель, дообученная на датасете 40umov/dostoevsky; метаданные базовой модели указывают на сценарии ответов по документам в режиме grounded RAG. Модель опубликована в формате safetensors; контекстное окно по метаданным — до 1 024 000 токенов. Лицензия в предоставленных данных не указана. Качество и поведение после слияния могут отличаться от исходных моделей; оценок качества в карточке нет.

Это модель автоматического распознавания речи на базе Wav2Vec2ForCTC с 113,3 млн параметров. Её разработчик lgris дообучил модель lgris/seasr_2022_base_10k_8khz_pt на наборе Common Voice 7.0 для распознавания португальской речи; модель принимает аудио и выдаёт текст. В README указана оценка WER 0,1979 на наборе оценки. Модель распространяется под лицензией Apache-2.0.

KBLab разработала wav2vec2-large-voxrex-swedish — модель распознавания шведской речи на базе архитектуры Wav2Vec 2.0 Large с выходом CTC. Её дообучили на шведских радиопередачах, данных NST Swedish ASR Database и Common Voice; позднее добавили ещё 20 тысяч шагов обучения на Common Voice. Модель содержит около 402,7 млн параметров и принимает аудио с частотой дискретизации 16 кГц. Модель предназначена для преобразования шведской речи в текст, в том числе записей радио и голосовых данных общего характера. В README указана частота ошибок слов (WER) 2,5% на тестовой выборке NST и Common Voice; на тестовой выборке Common Voice — 8,49% без языковой модели и 7,37% с 4-граммной языковой моделью. Дополнительное обучение на Common Voice повысило результат на этой выборке, но несколько ухудшило результат на тесте NST и Common Voice. Модель распространяется по лицензии CC0 1.0.

RuudVelo разработал эту модель распознавания нидерландской речи, дообучив facebook/wav2vec2-xls-r-300m на Common Voice 8.0. Это плотная модель архитектуры wav2vec2 с CTC-выходом и примерно 402,7 млн параметров; для декодирования также обучена и использована языковая модель KenLM с 6-граммами. Модель предназначена для преобразования нидерландской речи в текст, в частности для аудиозаписей, подобных материалам Common Voice. Обучение проводилось 75 эпох на обучающей части Common Voice 8.0; тестовая выборка Common Voice 8.0 не использовалась для обучения или валидации. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0.

jonatasgrosman/wav2vec2-large-xlsr-53-polish — модель распознавания польской речи, разработанная Jonatas Grosman как дообучение facebook/wav2vec2-large-xlsr-53 на обучающей и валидационной выборках Common Voice 6.1. Это плотная модель архитектуры wav2vec2 с 402,7 млн параметров и выходной головой CTC; доступны веса PyTorch и Flax. Модель принимает аудио и преобразует речь на польском языке в текст. Для подачи аудио требуется частота дискретизации 16 кГц. Она предназначена для автоматического распознавания речи, в том числе записей, подобных материалам Common Voice. Модель распространяется по лицензии Apache-2.0. Карточка демонстрирует применение без языковой модели и перечисляет оценки на тестовой выборке Common Voice 6.0 и наборе speech-recognition-community-v2; конкретные показатели в предоставленном фрагменте отсутствуют.

arampacha/wav2vec2-large-xlsr-czech — дообученная модель распознавания чешской речи, созданная на основе facebook/wav2vec2-large-xlsr-53 и обученная на данных Common Voice. Она принимает аудио с частотой дискретизации 16 кГц и преобразует речь в текст; модель основана на архитектуре Wav2Vec2 с CTC-выходом и содержит около 402,7 млн параметров. Модель предназначена для автоматической транскрибации чешской речи, в том числе записей, похожих на тестовые данные Common Voice. В README приведён результат тестирования 24,56, но единица измерения не уточнена. Доступны веса PyTorch и Flax. Лицензия — Apache-2.0.

arampacha/wav2vec2-large-xlsr-ukrainian — модель распознавания речи, созданная дообучением facebook/wav2vec2-large-xlsr-53 на украинском языке. Она основана на архитектуре Wav2Vec2ForCTC и содержит около 402,7 млн параметров; доступны веса PyTorch и Flax. Для обучения использовались Common Voice и часть корпуса M-AILABS Ukrainian Corpus. Модель преобразует украинскую речь в текст и рассчитана на оценку и распознавание аудиозаписей. Входное аудио должно иметь частоту дискретизации 16 кГц; распознавание возможно без отдельной языковой модели. В карточке приведён результат оценки 29,89 на украинской тестовой выборке Common Voice, но метрика не уточнена. Модель распространяется по лицензии Apache-2.0.

Baybars/wav2vec2-xls-r-300m-cv8-turkish — модель распознавания речи, созданная дообучением facebook/wav2vec2-xls-r-300m на турецкой части датасета Common Voice. Это архитектура Wav2Vec2 с CTC-декодированием; метаданные указывают 402,7 млн параметров и формат PyTorch. Модель принимает аудио и преобразует речь в текст на турецком языке. Модель предназначена для автоматической транскрипции турецкой речи, в том числе записей в сценариях, похожих на Common Voice. В README приведены результаты на тестовом наборе: WER 0,3098 и CER 0,0764. Для языкового декодирования также описана n-граммная модель KenLM, обученная на статьях турецкой Википедии; она упоминается отдельно от основного чекпойнта. Модель распространяется по лицензии Apache-2.0. Оценка качества приведена для конкретного набора данных и не гарантирует таких же результатов на других акцентах, условиях записи или типах аудио; README не содержит подробностей о таких ограничениях.

burakaydinofficial/whisper-base-cv11 — это мультиязычная модель распознавания речи, созданная дообучением стандартной архитектуры OpenAI Whisper Base на корпусе Whispered с лицензией CC0. Модель содержит 51,7 млн параметров и предназначена для преобразования речи в аудио в текст; она работает через библиотеку Transformers без пользовательского кода. Модель служит контрольной точкой для сравнения с вариантом whisper-base-mla-cv11, в котором изменена архитектура внимания. В карточке приведены результаты оценки на CommonVoice-17 для английского, немецкого и испанского языков; обучение проводилось на данных для чтения речи, энкодер был заморожен. Поддерживаются английский, немецкий, испанский, французский, русский, турецкий, валлийский, арабский, грузинский, тайский и китайский языки. Контекстная длина в доступных данных не указана. Модель распространяется по лицензии Apache-2.0. Результаты могут немного отличаться при повторной оценке: в карточке отмечено, что контрольная финальная контрольная точка отличается от контрольной точки, выбранной по dev-набору.

anuragshas/whisper-large-v2-bg — модель распознавания речи, дообученная на базе Whisper Large-v2 на болгарской части набора Mozilla Common Voice 11.0. Она преобразует болгарскую речь в текст и подходит для транскрибирования аудиозаписей. Архитектура — WhisperForConditionalGeneration, число параметров — около 905,2 млн; для обучения использована библиотека Transformers, веса представлены в формате PyTorch. На тестовой выборке указана WER 13,404 и loss 0,3208. Модель распространяется по лицензии Apache-2.0.

handy-computer/whisper-large-v3-gguf — это конвертация мультиязычной модели распознавания речи OpenAI Whisper large-v3 в формат GGUF для использования с transcribe.cpp. Модель предназначена для автоматического преобразования речи в текст, определения языка и перевода речи с любого поддерживаемого языка на английский. Поддерживаются десятки языков, включая русский, английский, китайский, японский, корейский, арабский, испанский, французский и кантонский (yue). Модель использует архитектуру encoder-decoder Transformer, обрабатывает аудио через 128-канальный mel-вход и выполняет декодирование длинных записей блоками с окнами по 30 секунд. Доступны варианты F16, Q8_0, Q6_K, Q5_K_M и Q4_K_M размером примерно от 997 МБ до 3,11 ГБ. В тесте LibriSpeech test-clean показатель WER составил от 1,81% для F16 до 1,86% для Q4_K_M, что указывает на небольшую потерю качества при квантовании. Поддерживаются сегментные временные метки и потоковая обработка не поддерживается. Сильные стороны модели — широкая языковая поддержка, распознавание, определение языка и перевод речи, а также возможность выбора между качеством и требованиями к памяти благодаря нескольким вариантам квантования. Качество заметно зависит от языка: приведённые значения WER на наборе FLEURS существенно различаются, поэтому для менее распространённых языков необходима отдельная проверка. Модель распространяется по лицензии Apache-2.0.

Whisper-Tiny-MLA — компактная модель распознавания речи, разработанная Burak Aydin на базе OpenAI Whisper-Tiny. Декодерная self-attention преобразована из MHA в MLA, а модель дообучена для восстановления качества на 11 языках корпуса Whispered. Веса содержат 29,4 млн параметров и распространяются в формате safetensors; лицензия — Apache-2.0. Модель предназначена для транскрибации речи в текст, особенно в сценариях с ограниченной памятью и параллельной обработкой записей: сжатие KV-кэша декодера составляет 62,5%. Поддерживаются английский, немецкий, испанский, французский, русский, турецкий, арабский, валлийский, грузинский, тайский и китайский языки. Для загрузки требуются transformers 4.46.x и trust_remote_code=True. Компромисс за сокращение кэша — ухудшение качества распознавания: автор сообщает о медианном росте WER примерно на 1,9 пункта относительно аналогично обученной модели без преобразования. Экономия относится к KV-кэшу self-attention декодера; память энкодера и cross-attention не сжимается, поэтому выигрыш для одиночной короткой записи может быть небольшим. Модель проверялась на read-speech; качество на телефонной речи, дальней дистанции и перекрывающейся речи не оценено. Грузинский обозначен как нижний предел качества этого класса модели, а незнакомые письменности распознаются хуже.

Модель anton-l/xtreme_s_xlsr_300m_voxpopuli_en — дообученная версия facebook/wav2vec2-xls-r-300m для автоматического распознавания английской речи. Она использует архитектуру wav2vec2 с CTC-декодированием и содержит 402,7 млн параметров. Модель предназначена для преобразования аудиозаписей на английском языке в текст, в частности для распознавания речи из набора VoxPopuli.EN. На оценочной выборке указаны WER 0,1549 и CER 0,0966. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0. Карточка не описывает ограничения распознавания и условия работы с разными акустическими условиями.

YamshadowStrangemerges_32_OgnoExperiment27 — слитая языковая модель на архитектуре Mistral, созданная объединением automerger/YamshadowStrangemerges_32-7B и automerger/OgnoExperiment27-7B. Она предназначена для генерации текста и диалоговых ответов по текстовым запросам. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Веса представлены в формате safetensors. Репозиторий распространяется по лицензии Apache-2.0.

argilla/zephyr-7b-spin-iter2-v0 — диалоговая языковая модель Argilla, полученная дообучением argilla/zephyr-7b-spin-iter1-v0 на наборах argilla/10k_prompts_SPIN_iter2_zephyr_top и argilla/10k_prompts_SPIN_iter1_zephyr_top. Это плотная модель MistralForCausalLM с 7,1 млрд параметров, предназначенная для генерации текста и ответов в диалоге; поддерживает контекст до 32 768 токенов. В карточке приведены результаты оценки на тестовом наборе и сравнение с предыдущими версиями на MT-Bench. Лицензия — Apache-2.0. README не описывает специальные области применения или ограничения, поэтому оценочные результаты сами по себе не гарантируют качество для конкретных задач.

ZoyLLM-7B-SlimOrca — генеративная языковая модель команды Zoy AI, дообученная с помощью LoRA на базе Mistral-7B-v0.1. Это плотная Transformer-модель на 7,1 млрд параметров с Grouped-Query Attention, Sliding-Window Attention и токенизатором Byte-fallback BPE; для диалога используется шаблон ChatML. Заявленная длина контекста — 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на вопросы и тестирование RAG. При дообучении использовались SlimOrca, EverythingLM v3 и небольшой набор примеров для самоописания. В карточке приведены результаты на отдельных бенчмарках, но они не гарантируют качество для конкретных задач. Поддержка английского указана в метаданных. Лицензия CC BY-NC-SA 4.0 требует атрибуции и распространяет производные работы на тех же условиях; коммерческое использование не разрешено.

Qdrant подготовила ONNX-версию модели sentence-transformers/all-MiniLM-L6-v2, настроенную для возврата весов внимания. Модель предназначена для поиска BM42 и применяется для вычисления сходства между предложениями и подготовки представлений текста в поисковых системах. Модель основана на архитектуре BERT, содержит 25,9 млн параметров и поддерживает контекст до 512 токенов. В отличие от исходной модели, эта версия возвращает веса внимания; репозиторий содержит формат ONNX. Модель рассчитана на английский язык. Модель распространяется по лицензии Apache-2.0. Она подходит для поиска по текстовым коллекциям и ранжирования близких по смыслу фрагментов; качество за пределами английского языка и ограничения конкретной реализации в карточке не описаны.

check2207/alqac_VNTeamVN_embedding — модель Sentence Transformers, дообученная на базе AITeamVN/Vietnamese_Embedding. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 и предназначена для сравнения семантического сходства, поиска и группировки текстов. В архитектуре используются XLM-RoBERTa, pooling по CLS-токену и нормализация векторов; сходство рассчитывается косинусной метрикой. Метаданные указывают 658,7 млн параметров и контекст до 8194 токенов, тогда как README сообщает максимальную длину последовательности 512 токенов. Модель ориентирована на вьетнамский язык. Её можно применять для семантического поиска, поиска перефразирований, кластеризации и классификации текстов на основе эмбеддингов. Основа описана в карточке как модель эмбеддингов на базе BGE-M3 для вьетнамского языка. Лицензия в предоставленных данных не указана. Обучающая выборка содержит 729 примеров, поэтому качество на других языках и вне представленных сценариев может быть ограниченным.

Arabic-Triplet-Matryoshka-V2 — модель эмбеддингов арабского языка от Omartificial-Intelligence-Space, созданная на базе Sentence Transformers и дообученная на aubmindlab/bert-base-arabertv02. Это плотная BERT-модель с 162,4 млн параметров и контекстом до 512 токенов; она преобразует предложения и абзацы в векторы размерностью 768. Обучение с MatryoshkaLoss формирует вложенные представления, рассчитанные на работу с эмбеддингами разной размерности. Модель предназначена для оценки семантического сходства, поиска и извлечения информации, поиска перефразирований, кластеризации и классификации арабских текстов, а также для использования в системах вопросов и ответов. В README приведены результаты на бенчмарках STS17 и STS22-v2. Модель ориентирована на арабский язык и не заявлена как многоязычная. Качество может снижаться на узкоспециализированных текстах и различаться между диалектами и региональными вариантами арабского языка. Для задач за пределами семантического сходства может потребоваться дополнительная настройка. Лицензия — Apache-2.0.

google/bert_uncased_L-6_H-768_A-12 — компактная англоязычная модель BERT из набора BERT Miniatures, разработанного Google и описанного в работе «Well-Read Students Learn Better». Это плотный трансформерный энкодер с 6 слоями, размерностью скрытого представления 768 и 12 головами внимания; в модели около 80,1 млн параметров. Она принимает текст без учёта регистра, обучена с WordPiece-маскированием и поддерживает контекст до 512 токенов. Модель предназначена для тонкой настройки на задачах понимания английского текста, например классификации и оценки сходства предложений. Компактный размер рассчитан на среды с ограниченными вычислительными ресурсами; авторы также отмечают пользу дистилляции, когда обучающие метки создаёт более крупная модель-учитель. Карточка приводит результаты на GLUE для других вариантов набора, но не отдельную оценку этой конфигурации. Доступны веса PyTorch и Flax. Лицензия — Apache-2.0.

google/bert_uncased_L-8_H-256_A-4 — компактная англоязычная модель BERT из набора BERT Miniatures, опубликованного Google. Это плотный Transformer-энкодер с 8 слоями, размерностью скрытого состояния 256 и 4 головами внимания; модель содержит 16,2 млн параметров и принимает последовательности длиной до 512 токенов. Она обучена без учёта регистра с токенизацией WordPiece и предназначена для задач понимания английского текста, в том числе для последующего дообучения по схеме BERT. Модель рассчитана на среды с ограниченными вычислительными ресурсами и может служить компактной основой для классификации текста, анализа тональности, оценки сходства и других задач обработки языка. Авторы отмечают, что особенно эффективна она при дистилляции, когда разметку для дообучения генерирует более крупная и точная модель. В карточке приведены реализации для PyTorch и Flax. Лицензия — Apache 2.0.

BERT-Wiki-Paragraphs — модель классификации пар абзацев, разработанная Сатьей Алмасианом, Деннисом Аумиллером, Люсьен-Софи Марме и Михаэлем Герцем. Она оценивает, относятся ли два абзаца к одной теме, и предназначена для проверки тематической связности текста и сегментации документов на смысловые части. Модель основана на BERT и дообучена на парах абзацев из Википедии с использованием слабого автоматического надзора: абзацы одного раздела считаются тематически связанными. Веса содержат около 136,7 млн параметров; модель принимает текст и выдаёт метку классификации. Контекст ограничен 512 токенами, а при обработке длинных пар применяется усечение longest-first. Доступна под лицензией MIT.

dragonkue/BGE-m3-ko — модель Sentence Transformer на базе BAAI/bge-m3, дополнительно обученная автором на корейском наборе данных. Она предназначена для получения эмбеддингов предложений и абзацев и их сравнения по косинусному сходству; подходит для семантического поиска, поиска близких текстов, выявления перефразирований, кластеризации и классификации текстов. Модель использует энкодер XLM-RoBERTa с 658,7 млн параметров, формирует плотные векторы размерности 1024 и принимает последовательности длиной до 8194 токенов. Карточка указывает корейский и английский языки; дообучение ориентировано на корейский, а качество для других языков, кроме китайского и английского, автор считает недостаточным без дополнительной адаптации. Репозиторий содержит веса Safetensors и использует библиотеку Sentence Transformers. Качество зависит от предметной области и длины документов: автор приводит разные результаты на корейских поисковых бенчмарках и рекомендует проверять модель на собственных данных. Модель распространяется по лицензии Apache-2.0.

Это GGUF-квантизация модели c4ai-command-r-v01, разработанной CohereForAI. Репозиторий duyntnet содержит варианты квантования с использованием imatrix для запуска модели в формате GGUF. Модель предназначена для генерации текста и диалоговых сценариев; в исходном README приведён пример применения через transformers с chat template Command R. Указана поддержка английского языка и задача text-generation. Архитектура, число параметров, размер контекста и точный набор вариантов квантования в предоставленных данных не указаны. Ключевое преимущество этой версии — возможность использовать квантизированную модель в формате GGUF, что может снизить требования к ресурсам по сравнению с полноразмерной моделью. Ограничения связаны с отсутствием подробностей о характеристиках конкретных квантов, производительности и совместимости. Лицензия обозначена как other; дополнительные условия использования не приведены.

Chinese-Alpaca-2-13B-16K — это полноразмерная чат-модель на архитектуре Llama 2, созданная проектом Chinese LLaMA & Alpaca. Она дообучена следовать инструкциям и использует расширенный китайский словарь; модель содержит 13 млрд параметров и рассчитана на контекст до 16 384 токенов. Репозиторий содержит веса PyTorch, пригодные для инференса и обучения всех параметров. Модель предназначена для генерации ответов и выполнения инструкций, особенно на китайском языке; метаданные также указывают поддержку английского. Увеличенный контекст подходит для работы с длинными запросами и документами. В проекте доступны скрипты для дальнейшего предобучения и дообучения на пользовательских данных, а модель совместима с экосистемой Transformers и рядом инструментов развёртывания. Лицензия — Apache 2.0. Модель унаследовала ограничения Llama 2 и может допускать фактические ошибки или выдавать нежелательные ответы; качество на языках помимо китайского не описано в карточке.

QuantFactory/Codepy-Deepthink-3B-GGUF — квантизированная версия Codepy-Deepthink-3B, созданная QuantFactory с использованием llama.cpp. Исходная модель дообучена на базе meta-llama/Llama-3.2-3B-Instruct и предназначена для генерации текста с акцентом на рассуждения, логическую структуру и решение задач. Модель ориентирована на сценарии, требующие пошаговых решений, логического анализа и генерации кода, а также может применяться в образовании и творческом письме. В README заявлена поддержка текстовой генерации на английском языке. Указан размер базовой модели около 3B параметров; сведения о точном формате квантизации, длине контекста, конкретных вариантах GGUF, производительности и системных требованиях отсутствуют. К сильным сторонам относятся компактный размер по сравнению с более крупными моделями, специализация на рассуждениях и программировании, а также совместимость с llama.cpp и Ollama. Ограничения включают неизвестные характеристики квантизации и отсутствие представленных объективных оценок качества; заявленные возможности следует проверять на собственных задачах. Лицензия указана как CreativeML OpenRAIL-M.

CollectiveCognition-v1.1-Mistral-7B-Mistral-7B-Instruct-v0.1 — объединённая чат-модель MaziyarPanahi на архитектуре Mistral, созданная слиянием Mistral-7B-Instruct-v0.1 и teknium/CollectiveCognition-v1.1-Mistral-7B методом SLERP. Модель содержит 7,1 млрд параметров, принимает текстовые инструкции и диалоговые запросы и генерирует текстовые ответы на английском языке. Нативная длина контекста — 32 768 токенов. Модель подходит для диалоговых ассистентов и выполнения инструкций. В репозитории представлены веса safetensors в формате bfloat16. Лицензия — Apache-2.0. Карточка не приводит результатов оценки качества или подробных рекомендаций по применению, поэтому пригодность для конкретной задачи следует проверять отдельно.