II.10Разработка и эксплуатация AI/ML-систем

korean_PP-OCRv5_mobile_rec — мобильная модель распознавания строк текста из изображений из семейства PP-OCRv5_rec, разработанная командой PaddleOCR. Она предназначена для эффективного распознавания корейского текста и может использоваться как модуль распознавания в конвейере PP-OCRv5 вместе с обнаружением текста и, при необходимости, коррекцией ориентации и геометрии изображения. Модель принимает изображение строки и выдаёт распознанный текст. В README приведена точность 88,0% на корейском наборе данных; строка считалась ошибочной при любой неверной букве или знаке препинания. Репозиторий указывает библиотеку PaddleOCR и лицензию Apache-2.0. Метаданные также отмечают английский и китайский языки, однако README описывает назначение модели как распознавание корейского.

L3.3-70B-Lycosa-v0.2 — диалоговая языковая модель на архитектуре Llama, созданная сообществом divinetaco путём слияния нескольких предварительно обученных моделей с помощью mergekit. В состав вошли DeepSeek-R1-Distill-Llama-70B, Sao10K/70B-L3.3-Cirrus-x1, TheDrummer/Nautilus-70B-v0.1, Doctor-Shotgun/L3.3-70B-Magnum-v4-SE и SicariusSicariiStuff/Negative_LLAMA_70B. Размер модели — 69,5 млрд параметров, контекст — до 131 072 токенов; она загружается через Transformers из файлов safetensors. Модель предназначена для диалогов, творческого письма и рассуждений. Автор отмечает, что версия v0.2 усиливает влияние DeepSeek-R1-Distill-Llama-70B и нацелена на повышение интеллектуальных возможностей, снижение положительной предвзятости и творческий ответ; рекомендуется шаблон чата DeepSeek-R1-Distill-Llama-70B. Метаданные также указывают интерфейс вызова инструментов. Модель распространяется по лицензии Llama 3.3. В тегах отмечен контент NSFW, поэтому она не рассчитана исключительно на аудиторию всех возрастов. В README нет результатов сравнительных оценок качества.

Open-Assistant Llama2 70B SFT OASST — языковая модель, разработанная Open-Assistant и дообученная на базе Llama 2 70B на смеси диалогов OASST с оценкой top-1. Это плотный авторегрессионный трансформер-декодер, предназначенный для генерации ответов в диалоговом формате. Для разграничения реплик используются специальные токены начала пользовательского и ассистентского хода и окончания хода. Модель подходит для чат-ботов, ответов на вопросы и генерации текста на английском, немецком, испанском и французском языках; README также отмечает ограниченные возможности на итальянском, португальском, польском, нидерландском, румынском, чешском и шведском. Число параметров составляет 68,7 млрд, контекст — 4096 токенов. Веса представлены в формате PyTorch, лицензия — Apache 2.0. Качество и полнота ответов на языках за пределами основных четырёх могут быть ограничены; контекст ограничен 4096 токенами. Модель предназначена для генерации текста по диалоговым примерам, а не для специализированных задач вроде распознавания изображений или аудио.

Llama-3.1-70B-Instruct-lorablated-GGUF — набор GGUF-квантизаций модели Llama-3.1-70B-Instruct-lorablated, подготовленный bartowski с использованием llama.cpp и imatrix. Базовая модель разработана mlabonne и основана на Llama 3.1 70B Instruct; README также указывает теги lorablated и uncensored, однако подробности этих изменений не приведены. Модель предназначена для генерации текста и запуска локально через llama.cpp, в том числе в LM Studio. Она поддерживает диалоговый формат Llama 3.1 с системными и пользовательскими сообщениями. Доступны варианты квантизации от Q8_0 до Q2_K и IQ2/IQ3/IQ4, размером примерно от 19 до 75 ГБ; более крупные варианты обычно обеспечивают более высокое качество, а компактные требуют меньше оперативной памяти, но сильнее теряют в качестве. README не содержит сведений о языках, размере контекста и мультимодальности. Для использования требуется совместимое локальное окружение и достаточный объём памяти, зависящий от выбранной квантизации. Рекомендуемыми названы Q6_K, Q5_K_M, Q4_K_L, Q4_K_M и IQ4_XS. Лицензия указана как llama3.1; дополнительные ограничения или условия распространения в README не раскрыты.

Jongbin-kr выпустил экспериментальный чекпойнт Llama 3.1 8B Instruct, преобразованный в разреженную MoE-модель. Каждый MLP-блок декодера разделён на четыре изначально одинаковых эксперта, а маршрутизатор без отбрасывания токенов выбирает двух экспертов для каждого токена. Модель содержит 7,5 млрд параметров и предназначена для генерации текста и диалогов; метаданные также указывают интерфейс вызова инструментов. Модель основана на meta-llama/Llama-3.1-8B-Instruct, использует архитектуру UpcycledLlamaForCausalLM и формат safetensors. Заявленная длина контекста — 131 072 токена. README указывает, что для загрузки через Transformers требуется trust_remote_code=True. Сведения о лицензии и поддерживаемых языках этой производной модели в предоставленных данных отсутствуют.

Llama-3.1-SuperNova-Lite-IMat-GGUF — набор GGUF-квантизованных версий модели arcee-ai/Llama-3.1-SuperNova-Lite, подготовленный пользователем legraphista. Модель предназначена для генерации текста и локального запуска через llama.cpp. В README указано, что исходные веса имеют формат BF16, а квантизация выполнена с помощью llama.cpp версии b3726. Доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и ряда IQ-квантов размером примерно от 3,18 до 16,07 ГБ. Для многих вариантов применена IMatrix-квантизация, призванная повысить качество при уменьшенной точности; также доступен отдельный файл imatrix.dat. Это позволяет выбирать компромисс между качеством, требованиями к памяти и скоростью локального вывода. Модель относится к текстовым моделям и заявлена для английского языка. README не сообщает точное число параметров, архитектурные детали, размер контекста и результаты тестирования, поэтому эти характеристики нельзя достоверно оценить по имеющимся данным. К ограничениям относятся зависимость качества и требований к ресурсам от выбранного варианта квантизации, а также отсутствие заявленной мультимодальности. Лицензия указана как llama3.

mlx-community/Llama-3.2-3B-Fluxed — языковая модель семейства Llama 3.2, преобразованная сообществом mlx-community из VincentGOURBIN/Llama-3.2-3B-Fluxed в формат MLX с помощью mlx-lm 0.19.3. Это плотная авторегрессионная модель класса LlamaForCausalLM с 3,2 млрд параметров и контекстом до 131 072 токенов. Модель предназначена для генерации текста и диалогового общения; метаданные также указывают интерфейс вызова инструментов. В качестве обучающего набора для исходной модели указан VincentGOURBIN/FluxPrompting, а язык карточки — английский. Репозиторий распространяется в формате safetensors и по лицензии Apache-2.0.

DavidAU дообучил модель семейства Llama 3.3 для генерации текста с короткими рассуждениями, следуя стилю Claude Haiku, на 1700 примерах датасета TeichAI/claude-haiku-4.5-high-reasoning-1700x. Это плотная авторегрессионная модель на 7,5 млрд параметров с архитектурой LlamaForCausalLM и контекстом до 131 072 токенов; в карточке указано, что обучение затронуло около 2,05% параметров. Модель предназначена для диалогов, пошагового обдумывания запросов, объяснений, планирования и творческого письма, включая рассказы и ролевые сценарии. Карточка сообщает о поддержке нескольких языков, в том числе русского, английского, французского, немецкого, испанского, итальянского, португальского, китайского, японского и корейского. Возможны устаревшие знания и проблемы, унаследованные от Llama; качество и форматирование зависят от настроек генерации и уровня квантования. Лицензия — Apache-2.0.

Это 4-битная версия модели Llama 3 8B Instruct, подготовленная сообществом mlx-community для запуска с MLX. Модель преобразована из gradientai/Llama-3-8B-Instruct-262k с помощью mlx-lm 0.10.0; она использует плотную архитектуру LlamaForCausalLM и содержит 7,5 млрд параметров. Модель предназначена для диалоговой генерации текста и принимает текстовые запросы. Заявленная длина контекста — 1 048 576 токенов; карточка указывает поддержку английского языка. Репозиторий использует формат safetensors. Лицензия — llama3. README отсылает к карточке исходной модели за дополнительными сведениями о возможностях и условиях использования.

bunnycore/Llama-3-8B-TitanFusion-Mix-2 — объединённая причинная языковая модель семейства Llama, созданная автором с помощью mergekit. В качестве основы использована NousResearch/Meta-Llama-3-8B; методом TIES объединены веса четырёх моделей, включая инструктивную и uncensored-версии Llama 3.1 8B и модели линейки TitanFusion. Модель предназначена для генерации текста и диалоговых сценариев. Она содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM, доступна в формате safetensors и поддерживает контекст длиной до 8192 токенов. Метаданные описывают базовую модель как ориентированную на английский текст и код; отдельные сведения о языках этого конкретного слияния не приводятся. Слияние объединяет возможности исходных моделей, но README не содержит оценок качества или подробностей о поведении результирующей модели. Лицензия в предоставленных данных не указана.

Это набор GGUF-файлов с квантованными версиями модели lpetreadg/Llama-3-8B-merged-2-bf16, опубликованный featherless-ai-quants. Репозиторий предназначен для запуска модели в совместимой с GGUF среде; карточка перечисляет варианты IQ4_XS, Q2_K и Q3_K_L, а также другие варианты квантования. По метаданным модель поддерживает генерацию текста и чат.

MaziyarPanahi/M7T3qm7xp_T3qm7xpStrangemerges_32 — объединённая разработчиком модель Mistral для генерации текста. Она создана слиянием automerger/M7T3qm7xp-7B и automerger/T3qm7xpStrangemerges_32-7B и содержит 7,1 млрд параметров. Модель подходит для генерации текста и диалоговых сценариев на основе текстового ввода. Архитектура — плотная MistralForCausalLM, максимальная длина контекста составляет 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не описывает языковую специализацию или конкретные ограничения качества.

MaziyarPanahi/M7Yamshadowexperiment28_T3qm7xpExperiment26 — объединённая методом SLERP языковая модель семейства Mistral, разработанная на основе automerger/M7Yamshadowexperiment28-7B и automerger/T3qm7xpExperiment26-7B. Модель содержит 7,1 млрд параметров, построена на плотной архитектуре MistralForCausalLM и принимает текст для генерации текста и диалогов с контекстом до 32 768 токенов. Модель предназначена для генерации продолжений текста и ответов в диалоге. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0. README не сообщает о специальных ограничениях качества или целевых областях применения; указанные возможности относятся к генерации текста общего назначения.

bartowski/magnum-32b-v2-GGUF — это набор GGUF-квантизаций текстовой генеративной модели magnum-32b-v2, разработанной anth​​racite-org и подготовленной пользователем bartowski для запуска через llama.cpp. Модель предназначена для диалоговых сценариев и генерации текста, включая локальное использование в совместимых приложениях, например LM Studio. Указаны поддерживаемые языки English и Chinese. В репозитории представлены варианты квантизации от Q8_0 до Q2_K и IQ2_M с размером файлов примерно от 11,18 до 34,55 ГБ. Для квантизации использовалась imatrix с калибровочным набором данных; часть вариантов применяет Q8_0 для embedding- и output-весов. Более высокие уровни квантизации обеспечивают лучшее сохранение качества, но требуют больше оперативной памяти и дискового пространства, тогда как компактные варианты экономичнее, но дают более низкое качество. Архитектура, точное число параметров исходной модели и размер контекстного окна в README не указаны. Модель использует шаблон промпта ChatML с ролями system, user и assistant. Лицензия обозначена как other с названием tongyi-qianwen; в качестве текста лицензии указана лицензия Qwen/Qwen2-72B-Instruct. Перед использованием следует проверить её условия применительно к данной производной и к выбранному сценарию.

MagpieLM-13.3B-Chat-v0.1 — диалоговая языковая модель на архитектуре Llama, созданная объединением моделей с помощью mergekit и метода passthrough. В README указан Magpie-Align/MagpieLM-8B-Chat-v0.1 как включённая в объединение модель; метаданные также указывают её как базовую дообученную модель. По карточке базовая MagpieLM предназначена для выполнения инструкций и генерации ответов на английском языке. Модель рассчитана на диалоговую генерацию текста и ответы на запросы. Она содержит 12,7 млрд параметров, поддерживает контекст до 131 072 токенов и работает с библиотекой Transformers; файлы представлены в формате safetensors. Лицензия в предоставленных данных не указана.

kzome/manhua-ar-model — дообученная разработчиком kzome модель генерации текста на архитектуре Qwen2.5. Она основана на unsloth/Qwen2.5-7B-Instruct-bnb-4bit и содержит 7,1 млрд параметров; в карточке указаны обучение с Unsloth и библиотекой TRL, а также поддержка диалога и интерфейса вызова инструментов. Модель подходит для генерации текста и диалогового взаимодействия. Контекстное окно составляет до 32 768 токенов, основной указанный язык — английский. Модель распространяется по лицензии Apache-2.0.

MasherAI-7B-v6.1-final — дообученная разработчиком mahiatlinux языковая модель семейства Mistral с плотной архитектурой для генерации текста и диалогового взаимодействия. Она основана на mahiatlinux/MasherAI-v6.1-7B-checkpoint3-code4 и обучалась с использованием Unsloth и библиотеки Hugging Face TRL. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. В карточке указан английский язык. Репозиторий распространяется в формате PyTorch по лицензии Apache-2.0.

Matter 8x22B 0.2 — разговорная языковая модель, выпущенная 0-hero и дообученная на датасете Matter 0.2. Она предназначена для диалога с ассистентом и генерации текста; поддерживает формат запросов ChatML и вызов функций. Архитектура — Mixtral MoE с классом MixtralForCausalLM; в репозитории находятся веса PyTorch в формате safetensors. Модель содержит 22 млрд параметров и поддерживает контекст до 65 536 токенов. Карточка рекомендует использовать системную инструкцию «You are a helpful assistant». Модель ориентирована на английский язык. Она распространяется по лицензии Apache-2.0. Карточка не сообщает результаты бенчмарков или конкретные ограничения качества, поэтому пригодность для заданной области следует оценивать на собственных примерах.

MeliodasPercival_01_Neuralsirkrishnaexperiment26Experiment24 — объединённая языковая модель семейства Mistral, созданная слиянием automerger/MeliodasPercival_01-7B и automerger/Neuralsirkrishnaexperiment26Experiment24-7B. Модель содержит 7,1 млрд параметров и принимает текст для авторегрессионной генерации текста, включая диалоговые ответы. Контекстное окно составляет до 32 768 токенов. Модель подходит для генерации продолжений текста, ответов в диалоге и других задач на основе текстового ввода. Веса доступны в формате Safetensors; лицензия — Apache-2.0. В карточке модели не приведены оценки качества и подробные сведения о языковой специализации, поэтому результаты для конкретных задач и языков могут различаться.

Модель Hjgugugjhuhjggg/mergekit-passthrough-ugbxutu — объединённая модель для генерации текста, созданная методом passthrough с помощью mergekit на основе Hjgugugjhuhjggg/mergekit-ties-dkhnzcn. Она предназначена для диалоговой генерации и работы через интерфейс общения с моделью. Это плотная Llama-архитектура с 5,2 млрд параметров и контекстом до 131 072 токенов; репозиторий использует библиотеку Transformers и формат safetensors. Модель принимает текст и генерирует текст. Метаданные указывают на возможность общения и наличие интерфейса вызова инструментов. Язык модели и её специализированная предметная область не определены в доступных сведениях. Лицензия в предоставленных данных не указана.

Это объединённая языковая модель семейства Llama 3.2, созданная автором репозитория с помощью mergekit методом TIES. В качестве базовой использована huihui-ai/Llama-3.2-3B-Instruct-abliterated; также объединены bunnycore/Llama-3.2-3B-ProdigyPlusPlus, chuanli11/Llama-3.2-3B-Instruct-uncensored, meta-llama/Llama-3.2-3B и meta-llama/Llama-3.2-3B-Instruct. Модель содержит 3,2 млрд параметров, построена на архитектуре LlamaForCausalLM и рассчитана на генерацию текста и диалоговое взаимодействие. Заявленная длина контекста — 131 072 токена. Репозиторий использует формат safetensors; в карточке не указана лицензия. Модель подходит для диалоговых приложений и генерации текста. Метаданные указывают интерфейс вызова инструментов, но подробности его использования не приведены. Объединение включает варианты с пометками uncensored и abliterated, однако конкретные гарантии фильтрации или качества не описаны.

mattshumer/mistral-8x7b-chat — чат-модель на архитектуре Mistral MoE, дообученная Matt Shumer на SlimOrca в течение одной эпохи с помощью QLoRA. Она предназначена для диалогов и генерации ответов по запросу; запуск возможен через Transformers с AutoModelForCausalLM и AutoTokenizer. Метаданные указывают 7,1 млрд параметров и контекст до 32 768 токенов. В репозитории представлены веса PyTorch. Карточка описывает обучение на шести H100 в течение девяти часов, но не приводит оценок качества или подробностей о языках и ограничениях ответов. Лицензия в предоставленных данных не указана.

0xA50C1A1/Mistral-Nemo-Instruct-2407-Heretic-v2 — англоязычная разговорная модель генерации текста на архитектуре Mistral, разработанная как производная unsloth/Mistral-Nemo-Instruct-2407. Это плотная авторегрессионная модель на 12,1 млрд параметров с контекстом до 131 072 токенов; поддерживает чат и интерфейс вызова инструментов. Модель изменена методом abliteration, чтобы реже отказывать в ответах: в карточке указано 4 отказа из 100 запросов против 88 у исходной модели. Модель подходит для диалогов и генерации текста, в том числе для сценариев, где требуется снизить частоту отказов. Abliteration не гарантирует корректность ответов и может повлиять на поведение модели; приведённое сравнение отказов не описывает качество выполнения задач в целом. Доступна по лицензии Apache-2.0.

Модель csikasote/mms-1b-all-bemgen-combined-train-drodat-gdro-1.65e-4-dat-0.019-no-sd-0.00-52 — дообученная версия facebook/mms-1b-all для автоматического распознавания речи. Она основана на архитектуре wav2vec2, содержит 1,3 млрд параметров и принимает аудио, выдавая текст. Дообучение выполнено на наборе BEMGEN - BEM; на оценочном наборе указаны Loss 12.0449 и CER 0.0516. Модель предназначена для преобразования речи в текст. Базовая MMS-1B-All поддерживает более тысячи языков, однако языковой охват именно этой дообученной версии в карточке не уточнён. Модель распространяется по лицензии CC BY-NC 4.0, которая запрещает коммерческое использование.

Azazelle/Mocha-SR-7b-ex — объединённая языковая модель на архитектуре Mistral, созданная с помощью mergekit из нескольких предварительно обученных моделей. В основу объединения вошли Open-Orca/Mistral-7B-OpenOrca, WizardLM/WizardMath-7B-V1.1 и Mistral-7B-v0.1-Open-Platypus; в README указан метод rescaled_sample и базовая модель mistralai/Mistral-7B-v0.1. Модель содержит 7,1 млрд параметров, принимает текст и предназначена для генерации текста; заявленное окно контекста — 32 768 токенов. Смешение моделей общего диалога, математики и инструкционного следования может быть полезно для ответов на вопросы и решения задач с текстовым вводом. Репозиторий использует формат safetensors, библиотека — Transformers. Лицензия — CC BY 4.0.

Модель Jeevesh8/more_cpts_corr_init_shuff_clipped_warmed_seq_len_128_bert-base-uncased_qqp_ft_8 — классификатор текста на основе BERT, опубликованный пользователем Jeevesh8 на Hugging Face. Она предназначена для задачи QQP (Quora Question Pairs): определения, являются ли два вопроса дубликатами или семантически эквивалентными формулировками. Модель относится к семейству BERT и поддерживает конвейер text-classification. Модель содержит около 136,7 млн параметров и имеет максимальную длину контекста 512 токенов. Она подходит для бинарной классификации пар вопросов, дедупликации пользовательских запросов и оценки семантической близости формулировок. Модель не предназначена для генерации текста, ответов на вопросы или распознавания речи. Лицензия в доступных данных не указана.

MysticFusion-13B-GGUF — это квантизированная версия языковой модели MysticFusion 13B, разработанной wbag (Walmart-the-bag) и опубликованной в формате GGUF компанией TheBloke. Модель предназначена для генерации текста и обработки текстовых инструкций на английском языке; в README приведён шаблон запросов в формате Alpaca-Tiefighter. Архитектура указана как Llama, размер — 13 млрд параметров, модальность — текстовая. Размер контекста не указан. Файлы GGUF поддерживают различные уровни квантизации от 2 до 8 бит, что позволяет выбирать компромисс между требованиями к памяти, скоростью работы и качеством генерации. Модель совместима с llama.cpp и рядом сторонних интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и другие, поэтому подходит для локального запуска на CPU и GPU. Качество и производительность зависят от выбранного варианта квантизации; конкретные результаты тестирования и ограничения исходной модели в README не приведены. Лицензия указана как llama2.

NeuralKrishna-7B-slerp — объединённая модель генерации текста, созданная Kukedlc с помощью LazyMergekit. Она объединяет Kukedlc/Neural4gsm8k и Kukedlc/NeuralMaxime-7B-slerp методом SLERP; архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров. Модель предназначена для диалоговой генерации текста и решения задач на рассуждение, включая математические вопросы. Контекстное окно составляет 32 768 токенов. В карточке приведены результаты Open LLM Leaderboard: среднее значение 75,79, ARC — 73,46 и HellaSwag — 88,96. Репозиторий содержит веса Safetensors, лицензия — Apache-2.0. Показатели бенчмарков не гарантируют качество на других задачах; сведений о поддерживаемых языках и более подробной оценке ограничений в карточке нет.

NeuralsirkrishnaShadow_T3qM7 — объединённая модель для генерации текста, созданная путём слияния automerger/NeuralsirkrishnaShadow-7B и automerger/T3qM7-7B. Она построена на архитектуре Mistral и содержит 7,1 млрд параметров; заявленная длина контекста — до 32 768 токенов. Модель подходит для генерации текста и диалога. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0. Карточка не описывает специальные предметные области или языки модели.

Neuron-4B-HeavyThinking — плотная языковая модель семейства Qwen3, разработанная Neura-Tech-AI и дообученная на Neura-Tech-AI/Neuron-4B-Instruct. Она предназначена для генерации текста и диалогов; в репозитории также заявлен интерфейс для вызова инструментов. Модель содержит 3,7 млрд параметров, принимает текст и поддерживает контекст до 262 144 токенов. Обучение проводилось с использованием Unsloth и библиотеки TRL от Hugging Face. Модель может подойти для чат-ботов, генерации ответов и сценариев с вызовом инструментов. В метаданных указан английский язык. Файлы опубликованы в формате Safetensors, лицензия — Apache-2.0. Карточка не приводит результатов оценки качества или подробностей о данных дообучения.