II.10Разработка и эксплуатация AI/ML-систем

abdurrehman456/qwythos-9b-openthoughts — текстовая генеративная модель, опубликованная на Hugging Face. В метаданных она обозначена как модель для text-generation и conversational-сценариев, работающая с библиотекой Transformers. Разработчик, базовая модель и лицензия в доступных материалах не указаны. Модель содержит 7,2 млрд параметров и поддерживает контекст до 1 048 576 токенов. Её можно применять для генерации ответов в диалоге, продолжения и преобразования текста, подготовки черновиков и интеграции в приложения на базе Transformers. Модельная карточка не содержит сведений об обучающих данных, результатах оценки, специальных языках, ограничениях применения или рекомендациях по развёртыванию. Поэтому качество, фактическую точность, устойчивость к вредным запросам и пригодность для критически важных задач необходимо проверять самостоятельно.

HuggingJin выпустил чекпойнт третьего цикла SDPO + ReSAIL на базе Qwen/Qwen3-8B, дообученный на TextCraft. Это плотная причинная языковая модель с 7,6 млрд параметров, рассчитанная на генерацию текста и работу в диалоговом режиме; метаданные также указывают интерфейс вызова инструментов. Модель принимает текст и генерирует текст, поддерживает контекст до 40 960 токенов. В экспериментах TextCraft авторы сообщают средний результат 73,3% по трём случайным начальным состояниям декодирования; режим рассуждений был отключён. Лицензия — Apache 2.0.

Sakalti/Saba1.5-1.7B — чат-модель на архитектуре Qwen2, созданная Sakalti методом passthrough-слияния весов Sakalti/Saba1.5-Pro. Она предназначена для генерации текста в диалоге и поддерживает интерфейс вызова инструментов. Модель содержит 1,5 млрд параметров, принимает текст и рассчитана на контекст до 131 072 токенов. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Карточка не описывает языковую специализацию, результаты оценки качества или ограничения в работе, поэтому их нельзя надёжно уточнить.

sfm_filtered_midtrain_alignment-1k_2k_3k_simpleavg_merge — объединённая языковая модель на архитектуре GPT-NeoX, созданная с помощью mergekit. В линейное слияние вошли контрольные точки предобучения на шагах 1000, 2000 и 3000; базовой для слияния указана контрольная точка global_step3000. Репозиторий содержит веса в формате safetensors и предназначен для генерации текста и диалогового взаимодействия. Модель содержит 8,8 млрд параметров и поддерживает контекст длиной до 16 384 токенов. В карточке не приведены сведения о языках обучения, целевых областях или лицензии, поэтому их нельзя надёжно определить по доступным данным.

Модель yuhengtu-bytedance/sfm_unfiltered_midtrain_alignment-10k_11k_12k_simpleavg_merge — объединение предварительно обученных языковых моделей, созданное с помощью mergekit методом Linear. В слияние вошли контрольные точки с шагов 10000, 11000 и 12019; последняя использовалась как базовая. Модель разработана автором репозитория с использованием этих исходных контрольных точек. Это плотная авторегрессионная модель архитектуры GPT-NeoX с 8,8 млрд параметров, предназначенная для генерации текста и диалоговых сценариев. Максимальная длина контекста — 16 384 токена. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. В карточке не указаны поддерживаемые естественные языки и специализированные области применения, поэтому модель следует рассматривать как языковую модель общего назначения. Лицензия в предоставленных данных не указана.

T3qm7xNeuralsirkrishna_NeuralsirkrishnaInex12 — объединённая модель генерации текста, созданная на основе automerger/T3qm7xNeuralsirkrishna-7B и automerger/NeuralsirkrishnaInex12-7B. Она построена на архитектуре Mistral и содержит 7,1 млрд параметров; модель предназначена для генерации текста и диалогов с контекстом до 32 768 токенов. Модель принимает текст и выдаёт текст. Репозиторий содержит веса в формате Safetensors. Карточка не описывает специализированные области применения или поддерживаемые естественные языки. Лицензия — Apache-2.0.

T3qm7xpExperiment26-7B — автоматически объединённая модель, созданная Maxime Labonne методом SLERP на основе nlpguy/T3QM7XP и rwitz/experiment26-truthy-iter-2. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста и диалоговых ответов. Максимальная длина контекста составляет 32 768 токенов. Модель поставляется в формате safetensors и использует тип данных bfloat16. Для запуска README приводит пример работы с Transformers и tokenizer. Репозиторий распространяется по лицензии Apache-2.0. Карточка описывает конфигурацию слияния, но не приводит результаты оценки качества или подробные сведения о языковом покрытии.

T5S — базовая модель семейства T5, разработанная для предварительного обучения на испаноязычных текстах. Это encoder-decoder Transformer архитектуры T5 Version 1.1 с двунаправленным энкодером и авторегрессионным декодером; модель содержит 123,8 млн параметров и доступна в форматах PyTorch и safetensors. Модель обучена на неразмеченных испаноязычных корпусах и предназначена для последующего дообучения в формате «текст в текст». После настройки её можно применять для суммаризации, перевода, классификации текста и ответов на вопросы. Лицензия — Apache-2.0.

TableGPT2-7B — языковая модель Zhejiang University для анализа таблиц и задач, связанных со структурированными данными. Это дообученная модель семейства Qwen2.5 с архитектурой Qwen2ForCausalLM и 7,1 млрд параметров. Она принимает текст и табличные данные, представленные в текстовом виде, например как результат df.head(), и формирует текстовые ответы. Модель предназначена для интерпретации таблиц, генерации кода, ответов на вопросы бизнес-аналитики и обработки запросов к базам данных и хранилищам. В карточке заявлена длина контекста 32 768 токенов; README приводит для обучения конфигурации контекст в 128K токенов, поэтому фактический предел использования следует сверять с настройками конкретной сборки. Модель отдельно описана как декодер, способный работать без специализированного семантического энкодера, интеграция которого ещё готовится. Основной акцент обучения сделан на китайских данных; поддержка других языков, включая английский, может быть ограниченной. Данные обучения имеют срез на октябрь 2024 года, поэтому модель не отражает более поздние сведения. Распространяется по лицензии Apache-2.0.

Tarek07_Nomad-LLaMa-70B-GGUF — это набор квантизированных версий текстовой генеративной модели Nomad-LLaMa-70B, разработанной Tarek07. Квантизация выполнена пользователем bartowski в формате GGUF с использованием llama.cpp и метода imatrix. Модель предназначена для локального запуска и генерации текста через llama.cpp, LM Studio и другие совместимые проекты, включая сценарии диалогов, написания и обработки текста. В набор входят варианты квантизации Q8_0, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S, IQ4_XS и другие, размером примерно от 21 до 75 ГБ. Более качественные варианты требуют больше оперативной памяти, тогда как версии с меньшей разрядностью позволяют запускать модель на менее производительном оборудовании, но снижают качество генерации. README не содержит сведений о длине контекста, поддерживаемых языках, дополнительных модальностях, точной архитектуре исходной модели, лицензии или рекомендуемом формате промптов; формат промпта следует уточнять на странице оригинальной модели.

Модель nsugianto/tblstructrecog_finetuned_tbltransstrucrecog_v1_s1_370s — дообученная версия microsoft/table-transformer-structure-recognition для обнаружения структурных элементов таблиц на изображениях документов. Она использует архитектуру Table Transformer на базе DETR и содержит 6,3 млн параметров. Модель может находить строки, столбцы и другие элементы структуры таблицы; библиотека Transformers и формат весов safetensors указаны в метаданных. Модель подходит для извлечения структуры таблиц из документов и последующего преобразования её в машиночитаемое представление. Она опубликована под лицензией MIT. Датасет дообучения, результаты оценки и подробные сведения об ограничениях в карточке не описаны.

Hazi9/testing — дообученная языковая модель семейства Llama, разработанная Hazi9 на основе Hazi9/attnprun-llama-model_drop_mlp_layer. Модель с плотной архитектурой LlamaForCausalLM содержит 5,6 млрд параметров и принимает текст для генерации текста; заявлены диалоговый режим и интерфейс вызова инструментов. Контекст составляет 8192 токена, в карточке указан английский язык. Модель предназначена для генерации текста и диалогового взаимодействия. Она обучалась с использованием Unsloth и библиотеки TRL; репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. README не сообщает результатов оценки качества или конкретной специализации модели.

TheDrummer_Rocinante-X-12B-v1-GGUF — это набор квантованных версий языковой модели Rocinante-X-12B-v1, разработанной TheDrummer и преобразованной в формат GGUF пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста и локального запуска в совместимых приложениях и инструментах, включая llama.cpp, LM Studio, KoboldCpp, Jan AI и Text Generation Web UI. Модель имеет размер 12 миллиардов параметров и относится к текстовым моделям без заявленной поддержки дополнительных модальностей. Доступны варианты от BF16 и Q8_0 до более компактных IQ- и Q2-квантований с размером файлов примерно от 5 до 24,5 ГБ. Для диалогового использования в README указан формат промпта с системным сообщением и пользовательским запросом в шаблоне [INST]. Основное преимущество набора — широкий выбор квантований, позволяющий подобрать баланс между качеством, требованиями к памяти и скоростью локального вывода; варианты Q5 и Q6 отмечены как высококачественные, а Q4_K_M — как типичный вариант для большинства сценариев. Более сильное квантование может снижать качество генерации, а поддержка модели зависит от используемого программного обеспечения. Языки, размер контекста и лицензия в предоставленных данных не указаны.

Josephgflowers/TinyLlama-Cinder-Agent-Rag — дообученная плотная авторегрессионная модель семейства Llama, созданная на основе Josephgflowers/TinyLlama-3T-Cinder-v1.2. Модель предназначена для генерации диалоговых ответов и заявлена для работы в сценариях RAG, суммаризации, вызова функций и инструментов; исходная модель Cinder ориентирована на беседы о STEM-темах и рассказывание историй. Модель содержит 1 млрд параметров, принимает текст и генерирует текст, поддерживает чат и имеет контекст длиной 2048 токенов. README характеризует обучение как первый этап и сообщает о планах дальнейшего обучения и обновления. Доступна по лицензии MIT.

Magnum-Picaro-0.7-v2-12b-GGUF — квантизированная версия текстовой генеративной модели Trappu/Magnum-Picaro-0.7-v2-12b, подготовленная bartowski в формате GGUF. Исходная модель создана Trappu и основана на объединении моделей anthracite-org/magnum-v2-12b и Trappu/Nemo-Picaro-12B; точная архитектура, поддерживаемые языки и размер контекста в README не указаны. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые приложения. Доступны варианты от BF16 до 4-битных квантов Q4_K и Q4_1, с размером файлов примерно от 7,8 до 24,5 ГБ. Квантизация выполнена с использованием imatrix, что направлено на сохранение качества при уменьшении требований к памяти; варианты Q5 и Q6 отмечены автором как рекомендуемые. Модель поддерживает текстовую модальность, а формат промпта использует специальные маркеры системного, пользовательского и ассистентского сообщений. По опубликованным результатам Open LLM Leaderboard показатели составляют 30,03% на IFEval, 35,75% на BBH, 4,76% на MATH Level 5, 9,73% на GPQA, 19,56% на MuSR и 28,67% на MMLU-Pro. Эти результаты указывают на пригодность модели для общих задач генерации и рассуждений, но не заменяют проверку на конкретных сценариях. Модель распространяется по лицензии Apache-2.0.

turbcat-instruct-72b-GGUF — это набор GGUF-квантизаций инструкционной модели turboderp/turbcat-instruct-72b. Квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix; исходная модель разработана turboderp. Модель предназначена для генерации текста и диалоговых сценариев, включая запуск локально через llama.cpp или LM Studio. Из README известно, что модель имеет размер 72B параметров, работает с текстом и ориентирована на английский язык. Для взаимодействия используется шаблон чата с ролями system, user и assistant на основе специальных токенов <|im_start|> и <|im_end|>. Доступны варианты от F32 размером около 290,83 ГБ до низкобитных IQ2_M и Q2_K размером около 29–31 ГБ. Версии Q6_K_L, Q6_K, Q5 и Q4 рекомендуются как обеспечивающие высокое или хорошее качество; варианты Q3 и Q2 экономят память, но заметно уступают по качеству. Ключевое преимущество набора — широкий выбор квантизаций для компромисса между качеством и требованиями к памяти, включая варианты с улучшенной точностью embedding- и output-весов. Ограничения — высокая ресурсоёмкость 72B-модели, отсутствие в README сведений о длине контекста, архитектурных деталях и результатах бенчмарков, а также потенциальное снижение качества у наиболее компактных вариантов. Лицензия указана как other с названием tongyi-qianwen; в качестве лицензионного документа приведена лицензия Qwen/Qwen2-72B-Instruct.

Vikhr-7B-instruct_0.3 — русскоязычная чат-модель семейства Llama, представленная Vikhrmodels. Это плотная причинная языковая модель с 7,1 млрд параметров, предназначенная для диалога и выполнения инструкций в формате ChatML. Репозиторий содержит веса в формате safetensors; карточка указывает контекст до 32 768 токенов и библиотеку Transformers. Модель подходит для русскоязычных чат-ботов, ответов на вопросы и выполнения текстовых инструкций. В метаданных перечислены обучающие наборы Veles-2.5, darulm и Vikhr_instruct; название и содержание карточки указывают на настройку для инструктивного диалога. README называет модель экспериментальной разработкой и сообщает, что метрики и инструкции по запуску появятся позже. Лицензия в предоставленных данных не указана.

anton-l/wav2vec2-large-xlsr-53-romanian — модель распознавания речи на базе facebook/wav2vec2-large-xlsr-53, дообученная на румынском языке разработчиком anton-l с использованием Common Voice. Она преобразует аудиоречь в текст и подходит для транскрибирования записей на румынском языке. Архитектура — Wav2Vec2ForCTC с 402,7 млн параметров; доступны веса PyTorch и Flax. Для входной речи требуется частота дискретизации 16 кГц. Модель рассчитана на автоматическое распознавание румынской речи; в карточке приведён результат оценки 24,84% на тестовой части Common Voice, но не уточнена метрика. Распространяется по лицензии Apache-2.0.

Wikidepia/wav2vec2-xls-r-300m-indonesian — модель распознавания речи на индонезийском языке, разработанная Wikidepia на основе facebook/wav2vec2-xls-r-300m и дообученная на Common Voice 8.0 и MagicHub Indonesian Conversational Speech Corpus. Она принимает аудио и преобразует речь в текст; подходит для расшифровки записей и разговорной речи на индонезийском языке. Модель построена на архитектуре Wav2Vec2 с классификационной головой CTC и содержит около 402,7 млн параметров. Доступна в формате PyTorch, задача в Hugging Face указана как automatic-speech-recognition. Распространяется по лицензии Apache-2.0. Карточка не приводит метрик качества или подробностей об условиях записи, поэтому точность для конкретных акцентов, шумов и речевых ситуаций по этим данным оценить нельзя.

aasem/wav2vec2-xls-r-300m-Urdu — модель автоматического распознавания речи, созданная дообучением модели Facebook wav2vec2 XLS-R 300M на наборе Common Voice 8.0 для урду. Она принимает аудио и преобразует речь на урду в текст; архитектура — Wav2Vec2ForCTC на основе wav2vec2, объём модели по метаданным составляет 402,7 млн параметров. В карточке приведены результаты на Common Voice: WER 0,2459 и CER 0,0691. Модель предназначена для транскрибирования записей и голосовых сообщений на урду. Репозиторий содержит веса PyTorch, для работы используется Transformers. Лицензия — MIT. Карточка приводит оценку на Common Voice, однако не описывает качество на других наборах данных и в иных акустических условиях.

whisper-base-bungoma.en — англоязычная модель распознавания речи, разработанная на основе openai/whisper-base.en и дообученная на наборе NyansapoAI/azure-dataset. Она преобразует входящее аудио в текст и предназначена для автоматической транскрипции речи на английском языке. Модель построена на архитектуре WhisperForConditionalGeneration семейства Whisper и содержит 51,7 млн параметров. В карточке указаны результаты оценки на тестовой выборке: Loss 0,0636 и WER 25,2804. Модель распространяется в формате safetensors по лицензии Apache-2.0. Описание не содержит сведений о специализированных сценариях применения или дополнительных ограничениях.

Whisper-Hindi2Hinglish-Prime — дообученная Oriserve модель распознавания речи на архитектуре Whisper large-v3 от OpenAI. Она преобразует аудио с индийским произношением хинди в транскрипцию на хинглиш — разговорную смесь хинди и английского, записанную латиницей. Модель построена для работы с Transformers и имеет около 905 млн параметров. Для дообучения использовали примерно 550 часов шумных аудиозаписей на хинди с индийским акцентом; набор данных был специально собран и размечен с помощью автоматической транскрибации и последующей правки человеком. По данным README, модель снижает ошибки распознавания на тестах Common Voice, FLEURS и Indic-Voices относительно исходной Whisper large-v3 и предназначена для аудио с фоновым шумом. README также сообщает о снижении ложных транскрипций на записях с одним шумом. Модель подходит для транскрибации разговорной речи на хинглиш, в том числе в шумной обстановке. В README указано, что доступна более новая версия Whisper-Hindi2Hinglish-Apex. Лицензия — Apache-2.0.

jonatasgrosman/whisper-large-pt-cv11 — модель автоматического распознавания речи, созданная Jonatas Grosman на основе openai/whisper-large-v2 и дообученная на португальском языке на обучающей и части валидационной выборок Common Voice 11. Она преобразует португальскую речь в текст и подходит для расшифровки записей и аудио с естественной речью. Модель использует архитектуру Whisper Large с 905,2 млн параметров. В README приведены оценки на тестовых выборках Common Voice 11 и Fleurs; результаты зависят от нормализации регистра и пунктуации, а в Fleurs также от различий в записи чисел. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0.

Модель dianavdavidson/whisper-medium_vaani_62419_ratio_alldata_lr_1e-4_lgid_None_epochs_100_FT — дообученная версия мультиязычной модели Whisper medium от OpenAI для распознавания речи и преобразования её в текст. Она содержит 455,8 млн параметров, построена на архитектуре WhisperForConditionalGeneration и рассчитана на аудиовход; для загрузки весов используется формат safetensors и библиотека Transformers. В README приведены результаты оценки: loss 0,6258 и Global WER 13,6881, однако датасет и условия оценки не описаны, поэтому эти показатели не позволяют судить о качестве на конкретных языках и сценариях. Модель распространяется по лицензии Apache-2.0. README не уточняет специализацию дообучения, поддерживаемые языки этой версии или практические ограничения, поэтому её пригодность для конкретной предметной области следует оценивать на собственных аудиоданных.

anggiatm/whisper-small-id — модель автоматического распознавания речи, дообученная автором anggiatm на базе openai/whisper-small с использованием набора Common Voice 17.0. Она преобразует индонезийскую речь в текст; размер модели — 153,1 млн параметров, архитектура — WhisperForConditionalGeneration. В оценке на тестовом наборе указаны loss 0,0931 и WER 6,5965. Модель предназначена для транскрибирования индонезийской речи. Распространяется по лицензии Apache-2.0.

Yamshadowexperiment28M70.64-0.81-0.33-0.12-0.46-0.05-7B — объединённая текстовая модель семейства Mistral от автора aaron-di, предназначенная для генерации текста и диалогов. В метаданных указаны 7,1 млрд параметров, архитектура MistralForCausalLM, контекст до 32 768 токенов и формат весов safetensors. README показывает запуск через Transformers с применением chat template и генерацией продолжения ответа на пользовательский запрос. Модель можно использовать для диалога и создания текстовых ответов; сведений о целевой предметной области или языковой специализации в карточке нет. Лицензия — Apache 2.0.

Aaron-di/Yamshadowexperiment28M70.81-0.36-0.63-1.0-0.79-0.74-7B — объединённая текстовая модель семейства Mistral с архитектурой MistralForCausalLM и примерно 7,1 млрд параметров. Карточка показывает использование через Transformers и chat template для генерации текста и диалога; заявленная длина контекста — 32 768 токенов. Модель предназначена для генерации продолжений и ответов в диалоговом формате. В метаданных указаны две объединённые базовые модели: AurelPx/Percival_01-7b-slerp и liminerity/M7-7b. Репозиторий распространяется в формате safetensors по лицензии Apache-2.0. Данные карточки не описывают отдельную специализацию по предметной области или конкретные оценки качества.

YamshadowInex12-7B — автоматически собранная Maxime Labonne языковая модель для генерации текста. В README указано слияние MSL7/INEX12-7b и automerger/YamShadow-7B методом DARE-TIES; метаданные связывают модель с MSL7/INEX12-7b. Архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров, формат весов — safetensors, точность — bfloat16. Контекстное окно составляет до 32 768 токенов. Модель подходит для генерации текста и диалоговых сценариев на базе языковой модели. Карточка не уточняет специализацию, языки или результаты оценки качества. Лицензия — Apache-2.0.

YamshadowStrangemerges_32_NeuralsirkrishnaExperiment28 — объединённая языковая модель на архитектуре Mistral, созданная из automerger/YamshadowStrangemerges_32-7B и automerger/NeuralsirkrishnaExperiment28-7B. Она предназначена для генерации текста и может использоваться в приложениях, которым нужна текстовая генерация. Модель содержит 7,1 млрд параметров, поддерживает контекст длиной до 32 768 токенов и распространяется в формате safetensors. Модель опубликована под лицензией Apache-2.0. Карточка не сообщает о специализированных предметных областях, языках или дополнительных возможностях; качество и ограничения исходных моделей в предоставленных данных не описаны.

YamT3qm7xp_Experiment28Experiment29 — объединённая модель семейства Mistral на 7,1 млрд параметров, созданная MaziyarPanahi на основе automerger/YamT3qm7xp-7B и automerger/Experiment28Experiment29-7B. Она предназначена для генерации текста и может использоваться в чат-сценариях и других задачах, где требуется продолжение или создание текста. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. В репозитории представлены веса Safetensors. Модель распространяется по лицензии Apache-2.0.