II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейgotchu/season-8-v2-solar — текстовая диалоговая модель, созданная слиянием двух моделей SOLAR-10B: bhavinjawade/SOLAR-10B-OrcaDPO-Jawade и bhavinjawade/SOLAR-10B-Nector-DPO-Jawade. Разработчик применил метод SLERP с помощью mergekit; результат доступен в формате Safetensors и рассчитан на использование через Transformers. Модель предназначена для генерации текста в диалогах и ответов на запросы пользователя. Это плотная авторегрессионная архитектура LlamaForCausalLM с 10,6 млрд параметров и контекстом до 4096 токенов. Карточка не сообщает о специализированных предметных областях или поддержке других модальностей. Лицензия и явные сведения о качестве или ограничениях в предоставленных данных отсутствуют; как у языковой модели, ответы могут быть ошибочными или неподтверждёнными.
Карточка модели mitra-mir/setfit-model-Misinformation-on-Media-Traditional-Social на Hugging Face совпадает с карточкой mitra-mir/setfit-model-Misinformation-on-Global-Support, поэтому описание составлено по ней. Это модель Sentence-Transformers на архитектуре MPNet, разработанная автором репозитория mitra-mir. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения сходства и кластеризации текстов. В метаданных указано 136,7 млн параметров и контекст до 514 токенов; модель распространяется в формате PyTorch. Название репозитория указывает на тему дезинформации о глобальной поддержке, однако README не описывает специализированные функции или результаты классификации по этой теме. Модель подходит для получения текстовых эмбеддингов и поиска семантически близких фрагментов. Для использования описан интерфейс библиотеки Sentence-Transformers. Лицензия в предоставленных данных не указана.
s1-32B-GGUF — это набор квантованных GGUF-версий текстогенеративной модели s1-32B, разработанной simplescaling. Квантование выполнил bartowski с использованием llama.cpp b4585 и метода imatrix на основе набора данных simplescaling/s1K и дополнительного калибровочного набора. Модель предназначена для генерации текста и запуска в локальных средах, совместимых с llama.cpp, включая LM Studio и другие производные проекты. Доступны варианты размером примерно от 11,26 до 34,82 ГБ с форматами Q2, Q3, Q4, Q5, Q6, Q8 и IQ-квантованиями. Более высокие уровни квантования обеспечивают лучшее сохранение качества, но требуют больше оперативной или видеопамяти; Q4_K_M указан как вариант стандартного размера для большинства сценариев, а Q5 и Q6 — как варианты высокого качества. Архитектура, поддерживаемые языки, модальности и максимальная длина контекста в README не указаны, поэтому модель следует рассматривать как текстовую. Сильной стороной является широкий выбор размеров и совместимость с локальным инференсом, позволяющая подобрать компромисс между качеством и требованиями к ресурсам. Ограничения связаны с потерями качества у низкобитных вариантов и значительными требованиями к памяти даже у наиболее компактных файлов. Для работы рекомендуется использовать шаблон промпта ChatML, приведённый в README. Лицензия модели — Apache-2.0.
SJT-2.1B — языковая модель Sakalti, созданная слиянием чекпойнтов через mergekit. В README указан метод passthrough и модель-источник Sakalti/SJT-1.5B-Alpha; архитектура — плотная Qwen2 с классом Qwen2ForCausalLM, размером 1,9 млрд параметров и форматом safetensors. Модель предназначена для генерации текста и диалогов, включая структурированные ответы и интерфейс вызова инструментов. Поддерживает английский и японский языки, а длина контекста составляет до 131 072 токенов. Распространяется по лицензии Apache-2.0.
Jan-HQ Stealth v2 — языковая модель семейства Mixtral, опубликованная Jan-HQ. Она предназначена для генерации текста и диалогового использования через шаблон ChatML; модель можно запускать в Jan Desktop на macOS, Windows и Linux. В карточке приведены результаты оценивания на бенчмарках AI2 Reasoning Challenge и HellaSwag. Модель содержит 7,1 млрд параметров, использует архитектуру Mixtral MoE и поддерживает контекст до 32 768 токенов. В метаданных указан английский язык, формат весов Safetensors и лицензия Apache-2.0. README не раскрывает подробности обучения и не описывает конкретную специализацию модели.
StrangeMerges_17-7B-dare_ties — объединённая языковая модель на архитектуре Mistral, созданная автором Gille с помощью LazyMergekit. В слиянии DARE-TIES использованы модели Gille/StrangeMerges_16-7B-slerp и Gille/StrangeMerges_12-7B-slerp; конфигурация задаёт для них плотность 0,5 и веса 0,4 и 0,6 соответственно, а результирующий тип данных — float16. Модель предназначена для генерации текста и может применяться для диалога, ответов на вопросы и решения задач на рассуждение. Число параметров — 7,1 млрд, контекст — до 32 768 токенов. В README приведены результаты Open LLM Leaderboard, в том числе средняя оценка 69,54, но эти показатели сами по себе не гарантируют качество в конкретном применении. Репозиторий распространяется по лицензии Apache-2.0. Языки, на которых модель работает лучше всего, и её поведение в специализированных областях в предоставленных материалах не описаны.
StrangeMerges_6-7B-dare_ties — объединённая модель Gille на архитектуре Mistral с 7,1 млрд параметров. Она создана методом dare_ties с помощью LazyMergekit на основе Gille/StrangeMerges_5-7B-ties, macadeliccc/WestLake-7B-v2-laser-truthy-dpo и kaitchup/Mayonnaise-4in1-022; в конфигурации указаны веса слияния и формат float16. Модель предназначена для генерации текста и диалоговых ответов. Контекст составляет 32 768 токенов. Репозиторий распространяется по лицензии Apache-2.0. В карточке не описаны языки и специальные ограничения качества или применения, поэтому модель стоит рассматривать как универсальную текстовую генеративную модель без подтверждённой специализации.
SuperNova-Medius-GGUF — это набор GGUF-квантизаций текстовой генеративной модели SuperNova-Medius, разработанной arcee-ai и подготовленной для распространения пользователем bartowski. Модель предназначена для локального запуска и генерации текста, в частности через llama.cpp и LM Studio. В README указан формат промптов с ролями system, user и assistant на основе специальных токенов ChatML. Доступны версии от исходных весов F16 размером 29,55 ГБ до сильно сжатых вариантов Q2_K размером 5,77 ГБ. Представлены семейства квантизаций Q2, Q3, Q4, Q5, Q6, Q8 и IQ, включая варианты, оптимизированные для ARM-процессоров. Квантизация выполнена с использованием llama.cpp b3901 и метода imatrix. Наиболее качественными считаются F16, Q8_0, Q6_K_L и Q6_K; компактные варианты подходят для систем с ограниченной оперативной памятью, но могут заметно уступать по качеству. README не содержит сведений об архитектуре, количестве параметров, длине контекста, поддерживаемых языках и мультимодальности, поэтому эти характеристики нельзя достоверно указать. Для ARM-версий требуется соответствующая аппаратная поддержка; варианты Q4_0_8_8 и Q4_0_4_8 не рекомендуются для Mac и Windows. Модель распространяется по лицензии Apache-2.0.
Swarm Sovereign 26B — мультимодальная модель для работы с текстом и изображениями, представленная в формате GGUF. Базовая модель разработана LiamVisionary, а данная квантизированная версия подготовлена mradermacher. Модель предназначена для генерации текста и диалоговых сценариев, включая использование в приложениях, поддерживающих GGUF и vision-модели. Модель содержит около 26 миллиардов параметров, относится к семейству Gemma4 и поддерживает английский язык. README не указывает архитектуру на уровне компонентов, размер контекстного окна или точные возможности обработки изображений, однако подтверждает наличие vision-компонента и необходимость использования соответствующего mmproj-файла из статического репозитория. Доступны варианты квантизации i1-IQ1_S–i1-Q6_K размером примерно от 8,4 до 22,7 ГБ. Варианты различаются компромиссом между размером, скоростью и качеством; Q4_K_M отмечен как рекомендуемый, а Q4_K_S — как оптимальный по соотношению размера, скорости и качества. Сильной стороной модели является выбор многочисленных GGUF-квантизаций, позволяющий запускать её на оборудовании с разным объёмом памяти, а также поддержка изображений. Ограничения включают потенциальное снижение качества у наиболее компактных вариантов и необходимость отдельного vision-проектора для мультимодальной работы. Модель распространяется по лицензии Apache-2.0.
nlpguy/T3QM7 — это объединённая текстовая модель на архитектуре Mistral с 7,1 млрд параметров, созданная автором репозитория с помощью mergekit. В объединение вошли liminerity/M7-7b и chihoonlee10/T3Q-Mistral-Orca-Math-DPO; применён метод SLERP, веса сохранены в формате safetensors. Модель предназначена для генерации текста и диалога, включая задачи с математическим уклоном, унаследованным от одной из объединённых моделей. Она принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. Репозиторий указывает лицензию Apache-2.0. README не приводит отдельной оценки качества объединённой модели.
T3qm7xNeuralsirkrishna_Experiment28Multi_verse_model — объединённая модель на архитектуре Mistral с 7,1 млрд параметров, созданная из automerger/T3qm7xNeuralsirkrishna-7B и automerger/Experiment28Multi_verse_model-7B. Модель предназначена для генерации текста и диалогов; её можно использовать для ответов на запросы и создания связного текста с учётом контекста до 32 768 токенов. Модель распространяется в формате Safetensors по лицензии Apache 2.0. Доступные сведения не описывают специальные предметные области, языковую специализацию или отдельные проверенные ограничения качества.
T3qm7xNeuralsirkrishna_Strangemerges_32Experiment26 — объединённая языковая модель на архитектуре Mistral, опубликованная MaziyarPanahi. Она объединяет модели automerger/T3qm7xNeuralsirkrishna-7B и automerger/Strangemerges_32Experiment26-7B и предназначена для генерации текста и диалогов. Модель содержит 7,1 млрд параметров, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Модель подходит для генерации продолжений текста и ответов в диалоге. Репозиторий не приводит сведений о специализации по языкам или прикладным областям. Лицензия — Apache-2.0.
Tess-3-Llama-3.1-405B-GGUF — это квантизированная версия дообученной текстовой генеративной модели Tess-3-Llama-3.1-405B, разработанной migtissera и преобразованной в формат GGUF пользователем bartowski. Модель основана на Llama 3.1 с 405 миллиардами параметров и предназначена для генерации текста при локальном запуске через llama.cpp, в том числе в LM Studio. В README приведён формат промпта с системным сообщением, запросом пользователя и ответом ассистента. Модель доступна в вариантах квантизации Q8_0, Q6_K, Q5_K_M, Q4_K_M, Q4_K_S, IQ4_XS и других, размером примерно от 95 до 436 ГБ. Более высокие разрядности обычно обеспечивают лучшее качество, но требуют значительно больше оперативной памяти; низкоразрядные варианты экономичнее, однако могут заметно уступать в качестве. Для ARM-процессоров отдельно рекомендуется вариант Q4_0_4_4. Конкретные поддерживаемые языки, размер контекста и специализированные сценарии обучения в README не указаны. Модель распространяется по лицензии llama3.1.
KnutJaegersberg/Tess-M-34B-2bit — 2-битная квантованная версия Tess-M-34b-v1.4, подготовленная автором репозитория на базе модели Tess-M от migtissera. Tess-M-v1.4 обучена на Yi-34B-200K; архитектура — плотная LlamaForCausalLM с 33,9 млрд параметров и контекстом до 200 000 токенов. Модель предназначена для генерации текста общего назначения, в том числе для few-shot запросов с длинным контекстом и короткими ответами; автор отмечает сценарии запуска на пользовательских и GPU для анализа данных. Для квантования использован quip# с контекстом Гессиана 8K. В README указано, что perplexity на dev-наборе немного выше, чем у исходной модели, а инференс работает медленно. Репозиторий содержит веса safetensors и предлагает запуск через интеграцию quip# в textgen-webui. Лицензия указана как other; README ссылается на соглашение Model License Agreement 2.0 для моделей Yi и требует разрешения для коммерческого использования.
Thea 3B 25r — дообученная Piotr Zalewski диалоговая модель семейства Llama 3.2 для генерации ответов и рассуждений по текстовым запросам. В основе лежит chuanli11/Llama-3.2-3B-Instruct-uncensored; для обучения использован набор KingNish/reasoning-base-20k. Модель имеет плотную архитектуру LlamaForCausalLM с 3,2 млрд параметров, принимает текст и формирует текстовые ответы. Заявленная длина контекста — 131 072 токена. Разработчик заявляет улучшенную производительность на задачах рассуждения и ускоренное обучение с использованием собственного кода. В метаданных также указаны возможности диалога и интерфейс вызова инструментов. Модель помечена как uncensored; качество и безопасность ответов зависят от запроса и способа применения. Распространяется по лицензии llama3.2.
TheTop-5x7B-Instruct-S3-v0.1 — текстовая генеративная модель MaziyarPanahi, созданная слиянием нескольких языковых моделей класса 7B и дополнительным объединением SLERP. Репозиторий содержит веса в формате safetensors; модель основана на архитектуре Mistral и имеет около 7,1 млрд параметров. Для запуска и работы с моделью указана библиотека Transformers. Модель предназначена для генерации текста по запросу и может использоваться для ответов на вопросы, диалогов и решения широкого круга задач на естественном языке. В карточке приведены результаты оценки на тестах ARC, HellaSwag и MMLU, включая вопросы по естественным и точным наукам, истории и другим областям. Контекст модели составляет до 32 768 токенов. Карточка не подтверждает поддержку конкретных языков или специализированное назначение. Модель распространяется по лицензии Apache-2.0. Поскольку это слияние нескольких моделей, качество может различаться между задачами; опубликованные оценки не гарантируют точность отдельных ответов.
UNA-ThePitbull-21.4B-v2-GGUF — квантизированная версия большой языковой модели UNA-ThePitbull 21.4B v2, разработанной fblgit на основе saltlux/luxia-21.4b-alignment-v1.0. Квантизацию в формате GGUF выполнил bartowski с использованием llama.cpp и imatrix. Модель предназначена для генерации текста, диалоговых сценариев, рассуждений и универсальных задач обработки естественного языка. Указанный формат рассчитан на запуск через совместимые инструменты экосистемы llama.cpp. Модель содержит 21,4 млрд параметров и работает в текстовой модальности. В README не указаны поддерживаемые языки и размер контекста. Доступны варианты квантизации от Q4_K_S и Q4_K_M до Q8_0: более компактные варианты требуют меньше памяти, а Q6_K и Q8_0 обеспечивают более высокое качество при существенно большем размере файлов. В оценке Open LLM Leaderboard средний результат составил 77,82; среди отдельных показателей — 91,79 на HellaSwag, 77,73 на ARC, 78,24 на TruthfulQA, 87,37 на Winogrande, 68,25 на MMLU и 63,53 на GSM8K. Сильными сторонами заявлены сочетание разговорных качеств и способности к рассуждению, однако приведённые метрики отражают результаты исходной модели и не гарантируют идентичное качество каждой квантизированной версии. Ограничения включают отсутствие данных о мультимодальности, языковой специализации, контекстном окне и подробных условиях эксплуатации. Модель распространяется по лицензии AFL-3.0.
Модель KBLab на архитектуре wav2vec 2.0 Large предназначена для автоматического распознавания шведской речи. Она расширяет акустическую модель VoxRex-C социальным 4-граммным языковым моделированием, обученным на подмножестве шведского корпуса The Swedish Culturomics Gigaword Corpus: 40 млн слов из текстов социальных сетей за 2010–2015 годы. Модель содержит около 402,7 млн параметров и реализована как Wav2Vec2ForCTC в формате PyTorch. Модель принимает аудио и выдаёт текстовую расшифровку. Для обработки ожидается аудио с частотой дискретизации 16 кГц; аудио с другой частотой нужно предварительно пересчитать. На полном тестовом наборе Common Voice 6.1 VoxRex-C показала WER 9,03% без языковой модели и 6,47% с ней. Репозиторий распространяется по лицензии CC0-1.0.
elgeish/wav2vec2-large-xlsr-53-arabic — модель автоматического распознавания арабской речи, созданная дообучением facebook/wav2vec2-large-xlsr-53 на датасетах Arabic Speech Corpus и Common Voice. Это плотная архитектура wav2vec2 с CTC-выходом и примерно 402,7 млн параметров; репозиторий содержит веса PyTorch и Flax. Модель принимает аудио с частотой дискретизации 16 кГц и предназначена для преобразования арабской речи в текст. Результаты модели представлены в транслитерации Buckwalter, где арабские буквы кодируются символами ASCII; для получения арабского письма требуется обратная транслитерация. В карточке указаны WER 23,39% на валидации Common Voice и тестовый результат 26,55%. Модель можно применять для расшифровки арабских записей и речи, однако точность зависит от данных и условий записи. Лицензия — Apache-2.0.
CuongLD разработал wav2vec2-large-xlsr-vietnamese — модель распознавания вьетнамской речи, дообученную на базе facebook/wav2vec2-large-xlsr-53. Это акустическая модель Wav2Vec2 с выходной CTC-головой; размер модели составляет 402,7 млн параметров. Модель преобразует аудиозаписи речи в текст и подходит, например, для расшифровки голосовых сообщений и записей. В обучении использовались Common Voice и Infore_25h; для входного аудио требуется частота дискретизации 16 кГц. В карточке приведён результат оценки 58,63% на тестовых данных Common Voice, но метрика не уточнена. Модель рассчитана на вьетнамский язык. Репозиторий содержит веса PyTorch и Flax. Лицензия — Apache-2.0.
jonatasgrosman/wav2vec2-xls-r-1b-german — модель распознавания речи на немецком языке, дообученная Jonatas Grosman с помощью инструмента HuggingSound на базе facebook/wav2vec2-xls-r-1b. Она использует архитектуру Wav2Vec2ForCTC и содержит 1,3 млрд параметров. Модель обучалась на данных Common Voice 8.0, Multilingual TEDx, Multilingual LibriSpeech и Voxpopuli. Модель преобразует немецкую речь в текст и подходит для транскрибирования аудиозаписей. Для входного аудио требуется частота дискретизации 16 кГц. Веса опубликованы в формате PyTorch по лицензии Apache-2.0.
Модель speech-transformer/whisper-large-processed_dataset-20250627-100p — дообученная версия Whisper large-v3 от OpenAI для автоматического распознавания речи и преобразования аудио в текст. Она содержит около 905,2 млн параметров, использует архитектуру WhisperForConditionalGeneration и распространяется в формате safetensors для библиотеки Transformers. На оценочном наборе указаны Loss 0,1988 и WER 9,8178; состав этого набора и условия оценки не описаны. Модель принимает аудио и выдаёт текст. README не сообщает, на каких данных и языках проводилось дообучение, поэтому нельзя определить её специализацию или качество на конкретных языках и типах записей. Базовая модель Whisper large-v3 мультиязычная, однако переносить все её языковые возможности на эту дообученную версию без данных о тренировке нельзя. Лицензия — Apache-2.0.
Whisper Large v3 Ai — дообученная Nurlan Salahaddinov версия мультиязычной модели OpenAI Whisper large-v3 для распознавания речи и преобразования аудио в текст. Модель содержит 905,2 млн параметров и основана на архитектуре Whisper; для обучения использован набор Mozilla Common Voice 17.0. Карточка приводит результат WER 1,1952 на оценочной выборке. Модель предназначена для автоматической транскрибации аудиозаписей, в частности для распознавания азербайджанской речи. Репозиторий содержит веса в формате Safetensors. Модель распространяется по лицензии Apache-2.0.
sam8000 выпустил дообученную на наборе FLEURS модель OpenAI Whisper large-v3-turbo для автоматического распознавания речи на болгарском языке. Это мультиязычная модель архитектуры Whisper с 905,2 млн параметров, предназначенная для преобразования аудио в текст; в метаданных указана поддержка входного аудио. На тестовой выборке автор сообщает WER 9,9711 и WER Ortho 28,9047. Модель распространяется в формате Safetensors по лицензии MIT. Подробности о составе обучающих данных, кроме указания FLEURS, и о конкретных ограничениях в карточке не приведены.
Модель andrewbawitlung/whisper-large-v3-turbo-mizonal3-E3-lus-v2026.06 разработана как дообученная версия openai/whisper-large-v3-turbo на наборе данных MiZonal v3.0. Это плотная модель Whisper для автоматического распознавания речи; размер составляет 905,2 млн параметров, веса опубликованы в формате safetensors. Версия E3 обучалась с аугментацией скорости речи и предназначена для транскрибирования аудио. В README приведены результаты на оценочном наборе: WER 14,1847, CER 2,7327 и коэффициент реального времени 0,0546. Карточка не уточняет язык аудио, поэтому языковую поддержку и область применения по этим данным определить нельзя. Модель распространяется по лицензии Apache-2.0.
MKAlbani/whisper-small-ha — дообученная модель распознавания речи на базе openai/whisper-small, созданная на датасете Common Voice 16.1. Она предназначена для преобразования речи в текст; архитектура Whisper содержит около 153,1 млн параметров. В карточке приведены результаты оценки: WER 43,79 и WER Ortho 46,98. Модель принимает аудио и выдаёт текст. Базовый Whisper — мультиязычная модель, но карточка не уточняет языки, на которых проводилось дообучение; суффикс «ha» сам по себе не подтверждает язык. Весы опубликованы в формате safetensors. Лицензия — Apache-2.0.
usermma/Wicked-Moondust-12B-mlx-fp16 — версия модели Naphula/Wicked-Moondust-12B, преобразованная в формат MLX разработчиком usermma с помощью mlx-lm 0.31.2. Это плотная авторегрессионная модель семейства Mistral с 12,1 млрд параметров, предназначенная для генерации текста и диалогов; каталог отмечает поддержку чата. Контекст модели составляет до 131 072 токенов. Модель подходит для диалоговых приложений и генерации текста с длинным контекстом. В README указано использование через mlx-lm. В метаданных заявлена лицензия Apache-2.0. Данных о поддерживаемых естественных языках и специальных предметных областях нет.
yamacinka/yam-pastiche-7B — объединённая текстовая модель на архитектуре Mistral, собранная с помощью LazyMergekit из yam-peleg/Experiment28-7B, yam-peleg/Experiment26-7B и yam-peleg/Experiment24-7B. В конфигурации указан метод task_arithmetic и формат весов bfloat16. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового применения. Карточка описывает состав и способ слияния, но не приводит конкретных оценок качества, языкового охвата или специализированных областей применения. Лицензия в предоставленных данных не указана.
YamshadowInex12_Percival_01Shadow — слитая модель для генерации текста, созданная на основе automerger/YamshadowInex12-7B и automerger/Percival_01Shadow-7B. Она построена на архитектуре Mistral и содержит 7,1 млрд параметров; модель принимает текстовые запросы и генерирует текст, поддерживая контекст до 32 768 токенов. Модель подходит для диалогов, написания и продолжения текста, а также генерации ответов на запросы. Данные не описывают специализацию по предметной области или конкретные языковые возможности, поэтому качество для отдельных языков и сценариев нельзя определить по карточке. Весы опубликованы в формате Safetensors под лицензией Apache 2.0.
MaziyarPanahi/YamshadowStrangemerges_32_Experiment28Neuralsirkrishna — объединённая языковая модель на архитектуре Mistral, созданная из automerger/YamshadowStrangemerges_32-7B и automerger/Experiment28Neuralsirkrishna-7B. Она предназначена для генерации текста и может использоваться в приложениях, которым нужна авторегрессионная языковая модель. Модель содержит 7,1 млрд параметров, принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и распространяется в формате Safetensors. Репозиторий создан MaziyarPanahi; лицензия — Apache-2.0. Данные карточки не уточняют языки или специализированные области применения модели.