I.14Автоматизация процессов и AI-агенты
В разделе собраны самостоятельные задачи, где AI помогает выполнять многошаговые цифровые процессы и координировать действия между системами. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 022 моделиunsloth/Qwen2.5-Omni-3B — мультимодальная модель на базе Qwen2.5-Omni-3B, опубликованная Unsloth. Она принимает текст, изображения, аудио и видео и может отвечать текстом или генерировать речь; архитектура Thinker-Talker поддерживает потоковую обработку и синхронизацию временных меток аудио и видео. Модель подходит для голосового и видеодиалога, распознавания и понимания речи, анализа изображений и видео, а также выполнения инструкций с аудиовходом. Карточка описывает возможности семейства Qwen2.5-Omni, включая распознавание речи, перевод, рассуждения по изображениям, понимание видео и генерацию речи. Для работы рекомендуется актуальная версия Transformers; генерацию аудио можно отключить, чтобы сократить расход видеопамяти примерно на 2 ГБ. В метаданных указаны формат safetensors и лицензия other; конкретные условия этой лицензии следует проверить на странице модели.
Qwen2.5-Omni-7B — мультимодальная модель семейства Qwen, разработанная командой Qwen компании Alibaba. Она использует архитектуру Thinker-Talker для сквозной обработки текста, изображений, аудио и видео и потоковой генерации текста и естественной речи. Временные позиционные представления TMRoPE синхронизируют видеокадры со звуком. Модель предназначена для мультимодального диалога в реальном времени, включая голосовое и видеообщение, распознавание и понимание речи, анализ изображений и видео, следование инструкциям на слух и генерацию речи. Карточка сообщает о результатах на тестах мультимодального рассуждения, понимания видео, речи и перевода; модель работает через Transformers и хранит веса в формате safetensors. Модель принимает текст, изображения, аудио и видео, а выдаёт текст и аудио. В README не приведены сведения о лицензии, позволяющие назвать её условия: метаданные указывают лицензию «other».
Qwen3.5-27B-FlashHead — оптимизированная Embedl версия мультимодальной модели Qwen/Qwen3.5-27B. Она заменяет стандартную плотную языковую голову на облегчённую FlashHead, сохраняя точность и возможности базовой модели и повышая пропускную способность при инференсе. Веса представлены в FP16. Модель принимает текст и изображения или видео и генерирует текст. Она подходит для диалогов, рассуждений и анализа визуального содержимого. Для работы через vLLM требуется плагин FlashHead. Репозиторий указывает лицензию «other», но конкретные условия лицензии в предоставленных данных не раскрыты.
Qwen3.5-397B-A17B-VQ-2.6bpw — квантованная vector-quantization версия модели Qwen3.5-397B-A17B, разработанная сообществом TheDrainFlorist для Apple Silicon и запускаемая через MLX. Модель предназначена для генерации текста, а также обработки изображений при использовании совместимой версии mlx-vlm. В карточке заявлен английский язык, однако полный список поддерживаемых языков и размер контекстного окна не указаны. Модель содержит 397B параметров с архитектурой MoE и активной частью A17B; размер артефакта составляет около 122,3 GiB, а веса текстовой модели квантованы до 2,6 бит на параметр. В комплект входит vision tower в формате bf16 объёмом около 0,849 GiB, поэтому сборка поддерживает мультимодальные сценарии. Для текста требуется mlx-lm с поддержкой model_file, для изображений — mlx-vlm версии 0.6.16 или новее. Указана совместимость с Apple Silicon и exo, а также поддержка speculative decoding через MTP при наличии соответствующего sidecar. По измерениям авторов, модель показывает perplexity 2,5634 на Wikitext и 2,6123 на смешанном наборе для кода; заявлено преимущество над сопоставимой 2,6-битной сборкой на прозе и коде. При этом прикладные task-бенчмарки для этой конкретной модели ещё не проводились, поэтому результаты родственных моделей переносить на неё нельзя. Сборка не помещается на машину с 128 GB памяти, требует значительного объёма unified memory и актуального программного окружения. Лицензия — Apache 2.0.
Qwen3.5-9B-GGUF — это набор GGUF-квантизаций базовой модели Qwen/Qwen3.5-9B, подготовленный jimbothigpen с использованием форка llama.cpp. Набор включает исходный вариант BF16 и 41 тип квантизации от IQ1_* до Q8_0, а также vision-проектор для мультимодального использования. Модель предназначена для локального запуска и сравнения качества, perplexity и производительности различных форматов квантизации в совместимых реализациях llama.cpp. Ключевая особенность набора — использование единой importance matrix, рассчитанной на полном многодоменном калибровочном корпусе calibration_datav3 и применённой к большинству вариантов. Это позволяет лучше сохранять качество при низкой разрядности. Отдельные форматы WHT3_0 и WHT4_0 используют Walsh-Hadamard-преобразование и намеренно создаются без importance matrix. Доступна мультимодальная конфигурация с vision-проектором, однако сведения о языках и размере контекста в README не указаны. Основное ограничение — совместимость зависит от формата: стандартные типы загружаются в обычном llama.cpp, семейства IQ-K, KS, KT, KL и KSS требуют сборки, совместимой с ik_llama.cpp, а WHT-форматы — форка jimbothigpen/llama.cpp или другой реализации с поддержкой WHT. Производительность, требования к памяти и качество зависят от выбранной квантизации и используемого backend. Производные веса распространяются по лицензии Apache-2.0, унаследованной от базовой модели.
Qwen3.6-27B-ABLITERATED-UNCENSORED-PHILADELPHIA-CLASS-i1-GGUF — квантизированная GGUF-версия модели KridgeDookie/Qwen3.6-27B-ABLITERATED-UNCENSORED-PHILADELPHIA-CLASS, подготовленная mradermacher. Модель относится к семейству Qwen3.6, имеет около 27 миллиардов параметров и предназначена для генерации текста и работы с изображениями и текстом. В метаданных указана многоязычная поддержка, однако конкретный перечень языков и размер контекстного окна не приведены. Модель ориентирована на текстовую генерацию, мультимодальные сценарии image-text-to-text и задачи, где требуется сниженный уровень отказов от ответов; пометка abliterated/uncensored отражает изменение поведения исходной модели в этой области. Для работы с изображениями могут потребоваться отдельные файлы mmproj из статического репозитория. Доступны варианты квантизации i1 с разными форматами и объёмом примерно от 7,2 до 15,6 ГБ, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. Сильными сторонами являются мультимодальность, многоязычность и широкий выбор квантизированных вариантов, включая imatrix-квантизации. Ограничения связаны с потерей качества у наиболее компактных вариантов; README прямо отмечает низкое качество некоторых из них. Архитектурные детали, точный контекст и результаты оценивания не указаны. Модель распространяется по лицензии Apache-2.0.
Qwen_Qwen3-VL-32B-Instruct-GGUF — это GGUF-квантизированная версия мультимодальной instruct-модели Qwen3-VL-32B-Instruct, разработанной Qwen. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для задач image-text-to-text: обработки изображений и текстовых запросов с генерацией текстовых ответов. В набор входят варианты весов от исходного BF16 размером 65,53 ГБ до компактных квантизаций Q3 и Q4, а также высококачественные Q5, Q6 и Q8. Рекомендуемыми названы Q6_K_L, Q6_K, Q5 и Q4_K_M; выбор варианта позволяет найти компромисс между качеством и требованиями к памяти. Для запуска предлагаются LM Studio, llama.cpp и совместимые проекты. В README не указаны языки, размер контекста, точная архитектура, поддерживаемые форматы изображений и лицензия, поэтому эти характеристики нельзя надёжно определить по представленным данным.
Ramakrishna-7b-v2 — объединённая модель семейства Mistral с 7,1 млрд параметров, созданная Kukedlc методом slerp с помощью LazyMergekit на основе Kukedlc/Ramakrishna-7b и Kukedlc/NeuralSirKrishna-7b. Модель предназначена для генерации текста и диалогов; поддерживает контекст до 32 768 токенов и распространяется в формате safetensors с весами float16. Модель принимает текст и выдаёт текст. Сведения о специализации по языкам и прикладным областям, а также о конкретных преимуществах и ограничениях в карточке не приведены. Лицензия в предоставленных данных не указана.
Ramakrishna-7b-v4 — языковая модель для генерации текста, созданная объединением пяти моделей с помощью LazyMergekit. Она основана на архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста; метаданные Hugging Face также указывают эту задачу как основную. Веса опубликованы в формате safetensors. В README не описаны особенности качества, поддерживаемые языки и конкретные области применения, поэтому их нельзя определить по имеющимся данным. Лицензия в предоставленных метаданных и README не указана.
RandomMergeNoNorm-7B-DARETIES — текстовая генеративная модель, созданная с помощью mergekit объединением моделей FelixChao/WestSeverus-7B-DPO-v2, CultriX/Wernicke-7B-v9 и mlabonne/NeuralBeagle14-7B. Это плотная архитектура MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов; веса опубликованы в формате safetensors. Модель предназначена для генерации текста и диалоговых сценариев. Слияние выполнено методом DARE-TIES с базой FelixChao/WestSeverus-7B-DPO-v2, плотностями 0,45 и 0,55 для компонентов и параметром int8_mask; итоговый тип данных — float16. Базовая модель NeuralBeagle14-7B описана как модель для диалогов, следования инструкциям, рассуждений и творческой генерации, однако отдельные оценки качества именно этого слияния в карточке не приведены. Модель распространяется по лицензии Apache-2.0.
Rawr — плотная языковая модель семейства Llama 3, созданная ResplendentAI слиянием нескольких моделей для генерации диалогового текста. В конфигурации использован метод model_stock; в качестве базовой указана ResplendentAI/SOVL_Llama3_8B, а среди компонентов — Poppy Porpoise, Smarts, TheSpice, Aura, Stheno и Luna. Модель содержит 7,5 млрд параметров, работает через Transformers и распространяется в формате safetensors; контекстное окно — 8192 токена. Модель предназначена для диалогов и генерации текста по запросу. Метаданные описывают её как чат-модель, но не приводят сведений о целевых языках или узких предметных областях, поэтому её следует рассматривать как модель общего назначения. Лицензия в предоставленных данных не указана.
Reflection Llama-3.1 70B — языковая модель на архитектуре Llama 3.1, разработанная Matt Shumer и дообученная методом Reflection-Tuning на синтетических данных Glaive. Она предназначена для диалогов и генерации ответов, в том числе для задач, где полезно перепроверять ход решения и исправлять обнаруженные ошибки. Модель содержит 69,5 млрд параметров, принимает текст и поддерживает контекст до 8192 токенов. При генерации модель оформляет рассуждение и итоговый ответ специальными токенами; в ходе рассуждения она может обозначать исправление ошибки. Для взаимодействия используется формат чата Llama 3.1. В карточке указана лицензия Llama 3.1. Автор предупреждает о проблеме в первоначальной загрузке и рекомендует пользователям, столкнувшимся с плохими результатами, повторить попытку с исправленной версией. README предлагает параметры temperature 0,7 и top_p 0,95, но не приводит независимых подтверждений заявлений о качестве и превосходстве модели.
Replete-LLM-Mist-Nemo-12b-GGUF — это набор квантизированных GGUF-версий языковой модели Replete-LLM-Mist-Nemo-12b, разработанной Replete-AI и преобразованной bartowski с использованием llama.cpp и imatrix-квантизации. Модель предназначена для генерации текста и локального запуска в совместимых средах, включая LM Studio. В метаданных указан английский язык и лицензия Apache-2.0. Модель относится к классу текстовых генеративных моделей, имеет размер 12 млрд параметров и связана с архитектурой Mistral. Доступны варианты от F32 до компактных IQ2/Q2/Q3 и более качественных Q4–Q8-квантизаций. Размер файлов варьируется примерно от 4,44 до 49 ГБ, что позволяет выбирать между качеством генерации и требованиями к оперативной памяти. Рекомендуемыми названы, в частности, варианты Q4_K_M, Q5_K_M, Q6_K и Q6_K_L. Сильной стороной набора является широкий выбор уровней квантизации для локального использования: высококачественные варианты должны минимально отличаться от исходных весов, а компактные подходят для систем с ограниченной памятью. При этом качество снижается на более агрессивных уровнях квантизации. Контекст модели, мультимодальные возможности и дополнительные языки в README не указаны. Шаблон чата также не задан; предложенный формат является стандартным и может быть некорректен, поэтому его следует сверять с карточкой исходной модели.
ehristoforu/rufalcon3-3b-it — языковая модель для генерации текста и диалогов, созданная ehristoforu дообучением tiiuae/Falcon3-3B-Instruct. Модель имеет плотную архитектуру LlamaForCausalLM и содержит 2,8 млрд параметров; веса доступны в формате safetensors. Она рассчитана на контекст до 32 768 токенов. Модель подходит для диалогового взаимодействия и генерации ответов по текстовым запросам. В карточке указаны обучение с Unsloth и TRL и лицензия Apache-2.0. Язык, отмеченный в метаданных самой модели, — английский; базовая модель также описана как поддерживающая французский, испанский и португальский языки.
Salamandra-7B — базовая авторегрессионная языковая модель семейства Salamandra, разработанная и предварительно обученная с нуля. Это плотная decoder-only Transformer-архитектура Llama с 6,7 млрд параметров и контекстом 8192 токена. Модель обучена на 12,875 трлн токенов текста на 35 европейских языках и кода; репозиторий содержит веса в формате Safetensors. Модель предназначена для продолжения текста и генерации на нескольких языках, а также может служить основой для последующей тонкой настройки под конкретные задачи и области. Это базовая, не настроенная на выполнение инструкций версия, поэтому качество диалоговых ответов и следование запросам не гарантируются без дополнительной настройки. Модель распространяется по лицензии Apache 2.0. В карточке отмечены социальные и когнитивные смещения: в неоднозначных сценариях наблюдались слабые результаты, а ответы могут зависеть от позиции вариантов и формулировки подсказки. Авторы рекомендуют оценивать и адаптировать модель перед применением.
Lambent/Silver5-Nemo-12B — объединённая модель генерации текста, созданная с помощью mergekit методом TIES. В основу взята Mistral-Nemo-Base-2407, а в объединение также вошли Dans-PersonalityEngine-V1.1.0-12b, Wayfarer-12B, Vikhr-Nemo-12B-Instruct-R-21-09-24, MISCHIEVOUS-12B-Mix_0.6v и Grey-12b. Модель построена на плотной архитектуре MistralForCausalLM и содержит 12,1 млрд параметров. Она предназначена для диалоговой генерации текста; заявленная длина контекста — 131 072 токена. Используйте её для ответов на запросы и создания связного текста в чат-сценариях. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. Карточка не приводит отдельных оценок качества или подробных ограничений, поэтому практические результаты могут зависеть от запроса и настроек генерации.
kenpeter123/small-1b-dpo — языковая модель семейства Llama, разработанная автором репозитория и дообученная методом Direct Preference Optimization на базе kenpeter123/small-1b-sft. Она предназначена для генерации текста по запросам; метаданные также отмечают поддержку генерации кода. В README описана архитектура Transformer с 32 слоями, 12 головами внимания и группированным запросом внимания (GQA, 4 KV-головы); число параметров в метаданных — 956,3 млн, а контекст — 8192 токена. DPO-обучение использует пары предпочтений: правильное эталонное решение выбирается вместо ошибочного или повторяющего запрос ответа базовой SFT-модели. Репозиторий содержит веса в формате safetensors, библиотека — Transformers. Лицензия Apache-2.0. Карточка описывает обучающий чекпойнт, но не приводит оценки качества или подробностей о поддерживаемых языках помимо английского в метаданных.
Это GGUF-квантизированная версия Sparse-Llama-3.1-8B-2of4, опубликованная пользователем bartowski. Базовую модель разработала neuralmagic. Репозиторий предназначен для запуска модели генерации текста в llama.cpp и совместимых приложениях, включая LM Studio; в метаданных также указан тег vLLM. Доступны варианты от исходных весов F16 до различных форматов квантования Q2–Q8 и IQ, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Модель относится к семейству Llama 3.1 и имеет размер 8B параметров; в названии также отражена разреженная конфигурация 2:4. README не сообщает точную архитектуру, максимальный контекст, поддерживаемые языки и мультимодальные возможности, поэтому эти характеристики нельзя достоверно уточнить по представленным данным. Основное преимущество сборки — широкий выбор GGUF-квантований, включая варианты, оптимизированные для отдельных ARM- и AVX-сценариев, а также применение imatrix при квантовании. Более компактные варианты экономят память, но отличаются сниженным качеством; некоторые ARM-форматы не предназначены для Mac или GPU. Формат лицензии указан как llama3.1.
StrangeMerges_16-7B-slerp — объединённая языковая модель семейства Mistral, опубликованная Gille. Она создана методом SLERP с помощью LazyMergekit на основе Gille/StrangeMerges_15-7B-slerp и SanjiWatsuki/Kunoichi-7B. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и принимает текст для генерации текста; заявленная длина контекста — до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев общего назначения. В README приведены результаты оценивания на Open LLM Leaderboard, включая ARC и HellaSwag, но эти показатели сами по себе не гарантируют качество на конкретных задачах. Модель распространяется под лицензией Apache-2.0.
Subin_v2 — дообученная и конвертированная в формат GGUF языковая модель, опубликованная azizshaw. Это плотная авторегрессионная модель семейства Llama с 3,2 млрд параметров, рассчитанная на генерацию текста в диалоговом режиме; заявленная длина контекста составляет 131 072 токена. В репозитории есть файл llama-3.2-3b-instruct.F16.gguf, а для запуска предлагаются llama.cpp и Ollama. Модель подходит для диалоговых ответов и генерации текста. README не описывает специализацию, обучающие данные или конкретные языки, поэтому её следует считать моделью общего назначения. Доступны варианты GGUF BF16 и F16. Сведения о лицензии в предоставленных данных отсутствуют.
Synthia-13B-v1.2 — языковая модель семейства Llama, разработанная SynthIA и дообученная на наборах данных в стиле Orca. Модель содержит 12,9 млрд параметров, использует плотную архитектуру LlamaForCausalLM и рассчитана на контекст до 4096 токенов; работает с текстом через библиотеку Transformers и распространяется в формате PyTorch. Модель предназначена для выполнения инструкций, многоходовых диалогов и генерации развёрнутых ответов. В версии v1.2 авторы отмечают способность к обобщённому рассуждению в стиле Tree of Thought и Chain of Thought. Поддерживаемый в карточке язык — английский. Модель описана как uncensored и может выдавать предвзятый, оскорбительный или неподходящий контент, а также неточные и вводящие в заблуждение ответы. Результаты следует проверять. Лицензия — Llama 2; перед использованием нужно учитывать её условия.
T3qm7xNeuralsirkrishna_Multi_verse_modelOgno — объединённая языковая модель семейства Mistral, созданная на основе automerger/T3qm7xNeuralsirkrishna-7B и automerger/Multi_verse_modelOgno-7B. Модель содержит 7,1 млрд параметров и использует архитектуру MistralForCausalLM; для генерации текста ей доступен контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов. Весовые файлы представлены в формате safetensors. Лицензия — Apache-2.0. Карточка не приводит конкретных сведений о языках, специализации или результатах оценки качества.
T5Gemma XL-XL PrefixLM IT — текстовая модель семейства T5Gemma, разработанная Google и настроенная для выполнения инструкций. Это вариант с энкодером XL и декодером XL, адаптированный с использованием PrefixLM; архитектура T5Gemma преобразует предварительно обученные модели типа decoder-only в encoder-decoder. Модель работает в формате text-to-text и предназначена для генерации текста, ответов на вопросы, суммаризации и рассуждений; также может использоваться для подготовки черновиков и исследований в NLP. В карточке семейство описано как англоязычное. Веса представлены в формате safetensors и доступны через библиотеку Transformers. Для производной указана базовая модель google/t5gemma-xl-xl-prefixlm. Лицензия Gemma; применяйте модель с учетом условий Gemma и соответствующей политики допустимого использования. Качество ответов зависит от данных и формулировки инструкции: возможны фактические ошибки, предвзятость, трудности с неоднозначностью и сложными задачами, а также генерация вредного или вводящего в заблуждение текста. Длина контекста и число параметров в предоставленных сведениях не указаны.
Tess-3-Mistral-Nemo-GGUF — набор GGUF-квантизаций текстовой генеративной модели Tess-3-Mistral-Nemo, опубликованный и сквантизированный пользователем bartowski с использованием llama.cpp и метода imatrix. Базовая модель разработана migtissera. Формат GGUF предназначен для локального запуска, в том числе через llama.cpp и LM Studio. Модель предназначена для генерации текста в диалоговом формате с системными инструкциями и пользовательскими запросами. В репозитории представлены варианты от исходных весов F32 до низкобитных квантизаций Q8_0, Q6, Q5, Q4, Q3 и Q2, а также вариантов IQ. Размер файлов составляет примерно от 4,14 до 49 ГБ. Более высокие уровни квантования обеспечивают лучшее сохранение качества, тогда как младшие варианты требуют меньше оперативной памяти, но могут заметно уступать по качеству. Для некоторых вариантов применена схема с весами embeddings и output, сохранёнными в Q8_0, что, согласно описанию, может улучшать качество, хотя эффект зависит от сценария. Конкретные архитектурные параметры, число параметров, поддерживаемые языки, модальности и размер контекста в README не указаны. Модель распространяется по лицензии Apache-2.0.
T-lite-0.1 — языковая модель на 7,5 млрд параметров, разработанная T-Bank AI на основе архитектуры Llama и предназначенная для дальнейшего дообучения. Это модель продолженного предварительного обучения, ориентированная на генерацию текста на русском языке и создание русскоязычных приложений с учётом языкового и культурного контекста России. Модель принимает текст и генерирует текст; в карточке указаны поддержка чата и контекст до 8192 токенов. Архитектура — плотный декодер Llama с RMSNorm, SwiGLU, RoPE и grouped-query attention. Обучение проводилось в bf16; веса доступны в формате safetensors. В обучающих данных преобладает русский язык, также сохранена часть английских данных и увеличена доля кода. В опубликованной оценке модель превзошла Llama-3-8B по общему результату бенчмарка MERA, но авторы отмечают снижение результатов на английских тестах после адаптации к русскому языку. Модель не позиционируется как готовый разговорный помощник: для прикладного использования предполагаются дополнительное дообучение и контроль качества и безопасности ответов. Лицензия в предоставленных данных не указана.
Tulu V2.5 DPO 13B SHP-2 — англоязычная чат-модель-помощник, разработанная Allen Institute for AI (AI2). Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров, дообученная на базе Tulu 2 13B с помощью DPO на наборе предпочтений SHP-2. Она предназначена для диалогов, выполнения инструкций и генерации текста; для модели указан контекст длиной 4096 токенов. Модель принимает текст и генерирует текст. Для диалогов используется шаблон чата, встроенный в токенизатор; соблюдение формата сообщений и завершающего перевода строки влияет на качество генерации. Модель ориентирована на английский язык и распространяется по лицензии Apache 2.0. Модель может выдавать проблемные ответы, в том числе по запросу: на этапе RLHF её не настраивали на безопасные завершения, а фильтрация ответов во время использования не предусмотрена. Качество ответов также зависит от соблюдения формата ввода.
liminerity/ultra0-half-the-layers — текстовая генеративная модель, созданная слиянием двух срезов liminerity/ultra0 методом SLERP через mergekit. Конфигурация использует диапазоны слоёв [0, 12] и задаёт разные параметры смешивания для self-attention и MLP; архитектура — плотная MistralForCausalLM, размер — 915,5 млн параметров. Модель предназначена для генерации текста и диалогового общения. Она принимает текст и выдаёт текст, поддерживает контекст до 16 384 токенов. Репозиторий содержит веса Safetensors; лицензия — Apache-2.0.
Virtuoso-Lite-GGUF — это набор GGUF-квантизаций языковой модели Virtuoso-Lite, разработанной arcee-ai и сконвертированной пользователем bartowski с использованием llama.cpp. Модель предназначена для генерации текста и запуска в локальных приложениях и средах, совместимых с llama.cpp, включая LM Studio. В README также указана поддержка запуска через другие проекты на базе llama.cpp. Точные сведения об архитектуре, количестве параметров, максимальном контексте, языках и поддерживаемых модальностях не указаны. Доступны варианты от исходных полноточных F32-весов размером 41,23 ГБ до сильно сжатых IQ2_S размером 3,32 ГБ. Большинство вариантов созданы с применением imatrix; рекомендуемыми названы, в частности, Q4_K_M, Q5_K_M, Q6_K и Q6_K_L. Более высокие уровни квантизации обеспечивают лучшее качество, но требуют больше памяти, тогда как варианты Q2 и Q3 ориентированы на устройства с ограниченным объёмом RAM и характеризуются сниженным качеством. Для работы используется формат prompt: system, user и assistant с соответствующими специальными токенами. Лицензия обозначена как other, однако её конкретные условия в README не приведены, поэтому перед использованием необходимо проверить лицензию исходной модели arcee-ai/Virtuoso-Lite и условия распространения квантизированных файлов.
Карточка модели Alireza48/whisper-large-fa-v1 на Hugging Face совпадает с карточкой vhdm/whisper-large-fa-v1, поэтому описание составлено по ней. vhdm/whisper-large-fa-v1 — модель распознавания речи на архитектуре Whisper, созданная разработчиком vhdm дообучением openai/whisper-large-v3-turbo на персидских аудиозаписях из набора vhdm/persian-voice-v1.1. Модель содержит 905,2 млн параметров и предназначена для транскрибации персидской речи: голосовых заметок, подкастов, видео и интервью, а также для создания поисковых расшифровок. Она поддерживает входное аудио и выдаёт текст; для чистой персидской речи в карточке указана частота ошибок слов WER 14,07%. Модель распространяется по лицензии MIT. Обучение проводилось на чистой речи из конкретного набора данных, поэтому качество может снижаться на шумных записях, акцентах и диалектах. Модель не оптимизирована для потокового распознавания и иногда может генерировать правдоподобные, но неверные слова.
AiLab.lv дообучила Whisper large-v3 для распознавания латышской речи. Модель принимает аудио и преобразует его в текст; её обучали на 209 часах латышских записей из Common Voice 17.0 и LATE-Media с помощью Transformers. Это плотная encoder-decoder модель WhisperForConditionalGeneration примерно с 905 млн параметров, опубликованная в форматах PyTorch и safetensors. Для Common Voice 17.0 указаны WER 3,4% на нормализованном тесте и 5,0% на форматированном; на тесте LATE-Media WER составляет 20,8%. Модель распространяется по лицензии Apache-2.0. Авторы отмечают, что её сменила более новая версия whisper-large-v3-lv-late-cv19.