III.5Управление персоналом и организацией

OmniAudio-2.6B — мультимодальная аудиоязыковая модель компании NexaAI на 2,6 млрд параметров для локального запуска на устройствах. Она объединяет Gemma-2-2b, Whisper turbo и проектор, чтобы обрабатывать аудио и текст в одной модели, без отдельной последовательной связки распознавания речи и языковой модели. В карточке Hugging Face указаны варианты GGUF, включая Q4_0, Q4_K_M и Q8_0; лицензия — Apache-2.0. Модель предназначена для голосовых вопросов и ответов, диалога по аудиовводу, создания текстов по голосовым запросам, суммаризации записей и преобразования заметок в более профессиональный стиль. В обучении использовались данные английской речи MLS English 10k, а также этапы supervised fine-tuning и DPO. Заявленная разработчиком цель — быстрый офлайн-инференс на потребительских и периферийных устройствах. Описание не заявляет генерацию аудио или поддержку function calling: эти возможности указаны как планы развития. Языковая поддержка подтверждена для английского; результаты могут зависеть от устройства и выбранной квантизации.

OpenBuddy-llama3-format — чат-модель для генерации текста, дообученная автором репозитория A2va под формат запросов Llama 3. В карточке указаны архитектура Llama, 7,5 млрд параметров и контекст до 131 072 токенов. Модель предназначена для диалогов и генерации текста; заявленные языки — английский, французский, китайский, японский, итальянский и финский. Модель основана на OpenBuddy и связана с чекпойнтами A2va/openbuddy-llama3.1-8b-bnb-4bit и OpenBuddy/openbuddy-llama3.1-8b-v22.3-131k. Автор сообщает, что модель не оценивалась. Лицензия — Apache-2.0.

Карточка модели OpenBuddy/openbuddy-openllama-7b-v12-bf16 на Hugging Face совпадает с карточкой OpenBuddy/openbuddy-openllama-7b-v5-fp16, поэтому описание составлено по ней. OpenBuddy-openllama-7b-v5-fp16 — версия многоязычного чат-бота OpenBuddy, разработанного проектом OpenBuddy. Модель построена на плотной архитектуре LLaMA с классом LlamaForCausalLM и содержит 6,6 млрд параметров; опубликована в формате PyTorch с лицензией Apache-2.0. Модель предназначена для диалогов и генерации текста. В карточке заявлена поддержка китайского, английского, французского, немецкого, японского, корейского, итальянского и русского языков. Длина контекста составляет 2048 токенов. OpenBuddy может выдавать ошибочные, вредные или оскорбительные ответы. Разработчики не рекомендуют использовать её в критических сценариях, включая медицину, управление потенциально опасными системами и важные финансовые или юридические решения.

ParaLex-Llama-3-8B-SFT — русифицированная диалоговая модель на базе Llama 3 8B Instruct, опубликованная hivaze. Она обучалась на русских переводах английских ответов исходной модели и дополнительно тренировалась на английском и русском языках; по заявлению автора, ответы сторонних моделей при подготовке не использовались, чтобы сохранить согласованность с исходной моделью. Модель предназначена для генерации диалоговых ответов и работы с текстовыми запросами на русском и английском языках. Это плотная причинно-следственная архитектура Llama с 7,5 млрд параметров и контекстом до 8192 токенов; поддерживается чатовый сценарий, файлы представлены в формате safetensors. Автор не приводит оценок качества или конкретных ограничений, поэтому практическую пригодность стоит проверять на целевых задачах. Лицензия в доступных сведениях не указана.

Proteus-8B — диалоговая языковая модель, созданная автором репозитория saucam путём слияния моделей Dolphin 2.9 Llama 3 8B и Hermes 2 Theta Llama 3 8B с помощью Mergekit. Она предназначена для генерации текста и ответов в диалоге; в карточке приведены результаты оценки на бенчмарках OpenLLM, включая ARC, GSM8K, HellaSwag, MMLU и TruthfulQA. Модель использует плотную архитектуру LlamaForCausalLM и содержит 7,5 млрд параметров. Нативная длина контекста — 8192 токена. Веса доступны в формате safetensors с точностью bfloat16. Репозиторий распространяется по лицензии Apache-2.0. Карточка не указывает языки обучения и отдельные специализированные области применения.

Модель benchang1110/Qwen2.5-Taiwan-7B-Instruct разработана benchang1110 на основе Qwen/Qwen2.5-7B-Instruct. Это плотная авторегрессионная модель Qwen2ForCausalLM на 7,1 млрд параметров, дообученная с помощью LoRA на наборах инструкций на традиционном китайском языке, а затем выровненная методом DPO. В карточке описаны диалоги, написание текстов, суммаризация, перевод с английского на китайский и ролевые сценарии; модель также поддерживает многоходовое общение и интерфейс вызова инструментов. Модель рассчитана прежде всего на традиционный китайский Тайваня, также поддерживает английский. Контекстное окно составляет 32 768 токенов. В README приведены результаты оценивания на TMLU и TMMLU+ и примеры ответов, однако они не гарантируют качество для каждого запроса. Модель доступна под лицензией Apache 2.0. Автор отмечает, что системный промпт может менять предвзятость и позицию ответов. Как и другие языковые модели, она может выдавать ошибки; заявленные сценарии не подтверждают точность фактических ответов.

Salamandra-7B-Instruct-2606 — многоязычная авторегрессионная языковая модель с архитектурой Llama, разработанная BSC-CNS. Это версия Salamandra-7B, адаптированная для длинного контекста, дообученная на диалогах и выровненная с помощью Direct Preference Optimization (DPO). Модель содержит 6,7 млрд параметров, принимает текст и поддерживает контекст до 163 840 токенов. Модель предназначена для исследовательских и опытно-разработческих сценариев как универсальный помощник: она может вести диалог, отвечать на вопросы, выполнять инструкции, переводить и создавать или кратко пересказывать тексты. Постобучение в первую очередь ориентировано на испанский, каталанский, баскский, галисийский и английский языки; каталог также указывает поддержку каталанского, английского и испанского. Для других языков качество не гарантируется. Модель не поддерживает вызов функций и автономное выполнение действий; сложные рассуждения, математика и генерация кода могут быть ненадёжными. Выводы могут содержать ошибки или небезопасный контент, поэтому их следует проверять. Распространяется по лицензии Apache-2.0; разработчик предоставляет её «как есть» и не гарантирует пригодность для коммерческого или производственного применения.

Suzume Llama 3 8B Multilingual — диалоговая языковая модель, разработанная Питером Дивайном (Peter Devine, ptrdvn). Это дообученная версия meta-llama/Meta-Llama-3-8B-Instruct: модель обучали на почти 90 тысячах многоязычных диалогов, чтобы она могла отвечать на разных языках, а не преимущественно на английском. Модель имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекст до 8192 токенов. Модель предназначена для диалога и генерации ответов на нескольких языках. В карточке приведены результаты MT-Bench для немецкого, французского и японского языков, а также общие оценки по шести языкам; точный полный перечень языков не приведён. По заявлению разработчика, дообучение сохранило большую часть возможностей Llama 3 на английском и улучшило многоязычный диалог. Весам доступна лицензия с метаданными «other»; конкретные условия следует проверять в карточке модели и лицензии базовой модели перед использованием.

Suzume ORPO Borda Top25 — многоязычная диалоговая модель, разработанная Peter Devine и дообученная методом ORPO на базе lightblue/suzume-llama-3-8B-multilingual. Она предназначена для общения и генерации ответов; версия top25 обучена на предпочтительных и менее предпочтительных ответах для 25% наиболее стабильно ранжированных запросов из набора lightblue/mitsu. Модель построена на плотной архитектуре Llama, содержит 7,5 млрд параметров и имеет контекстное окно 8192 токена. В оценке MT-Bench сравнивались результаты на шести языках; README отмечает улучшения относительно базовой модели на большинстве языков. Лицензия CC BY-NC 4.0 запрещает коммерческое использование.

sthenno/tempesthenno-ppo-ckpt40 — языковая модель на 14 млрд параметров, основанная на архитектуре Qwen2 и представленная в формате safetensors. Карточка описывает её как объединение моделей методом NuSLERP; метаданные связывают её с sthenno/tempesthenno-14b-nuslerp-0111 и sthenno/tempesthenno-hs2-rm. В метаданных также указаны обучение с использованием PPO и набора NVIDIA HelpSteer2, поддержка чата, английского и китайского языков и контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. В README приведены результаты Open LLM Leaderboard, включая оценки IFEval и BBH, но этих данных недостаточно, чтобы установить её сильные стороны в конкретных пользовательских сценариях. Лицензия — Apache-2.0.

TigerBot-13B-Chat-v4 — TigerResearch әзірлеген диалогқа бағытталған тілдік модель. Ол пайдаланушымен чаттасуға және мәтіндік сұрауларға жауап беруге арналған; карточкада Transformers арқылы іске қосу сипатталған. Модель Llama архитектурасына негізделген тығыз авторегрессиялық генератор, көлемі 13 млрд параметр. Кіріс пен шығыс модальдігі — мәтін, карточка тілдері — қытай және ағылшын, ал табиғи контекст ұзындығы — 2048 токен. Модель Apache-2.0 лицензиясымен таратылады.

Trigonotis — разговорная языковая модель серии v3.1 от NLPark, представленная как ранняя предварительная версия. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 69,5 млрд параметров, обученная методом SFT. Она предназначена для генерации текста и диалогового взаимодействия на китайском и английском языках. Модель использует контекст длиной до 131 072 токенов и распространяется в формате Safetensors через Transformers. Лицензия CC BY-NC-ND 4.0 запрещает коммерческое использование и распространение производных версий.

DAMO-NLP-SG/zero-shot-classify-SSTuning-ALBERT — модель для классификации текста без дообучения на конкретных классах, разработанная авторами работы Zero-Shot Text Classification via Self-Supervised Tuning и впервые опубликованная в этом репозитории. Она основана на albert-xxlarge-v2 и обучена методом self-supervised tuning: на неразмеченных данных модель осваивает задачу First Sentence Prediction, связанную с форматом классификации. Модель предназначена для классификации по заданным пользователем меткам, например для анализа тональности и определения тематики. Вариант ALBERT содержит 235 млн параметров по README; метаданные каталога указывают 3,3 млрд параметров. При использовании рекомендуется задавать от 2 до 20 меток. Контекст составляет до 512 токенов. Модель принимает текст и выдаёт оценки классов; она работает медленнее вариантов SSTuning на RoBERTa-base и RoBERTa-large, но в сравнении авторов показывает более высокую точность. Лицензия — MIT. Количественные показатели производительности зависят от данных и сценария; в README приведено только качественное сравнение вариантов.

A.X Encoder-base — разработанный SKT базовый энкодер для понимания корейских документов и корпоративного применения. Модель создана внутри компании: SKT отвечала за архитектуру, подготовку данных и обучение на собственной вычислительной инфраструктуре TITAN. Модель использует архитектуру ModernBERT и предназначена для классификации документов и других задач понимания корейского языка, включая оценку образовательной ценности, определение тематической области и уровня сложности. README сообщает о результатах на наборах KoBEST и KLUE и ускорении инференса до трёх раз по сравнению с более ранними моделями. Контекст составляет до 16 384 токенов; модель построена как энкодер с маскированным языковым моделированием. Для работы через Transformers требуется версия 4.51.0 или новее; для повышения эффективности на совместимом GPU можно использовать Flash Attention 2. Модель распространяется по лицензии Apache-2.0.

Модель ashwaninbs/bart-cnn-samsum-finetuned — дообученная версия facebook/bart-large-cnn на датасете SAMSum. Она предназначена для создания кратких пересказов диалогов и разговорных текстов, например стенограмм бесед. Модель построена на архитектуре BART и содержит 252,8 млн параметров; максимальная длина контекста — 1024 токена. Модель работает с текстом и выдаёт текстовые резюме. В README указан результат Loss 0,1318 на оценочном наборе, но дополнительных сведений о методике оценки и ограничениях нет. Лицензия — MIT.

BayLing-7B-diff — версия с разностью весов модели BayLing-7B, разработанной группой NLP Института вычислительных технологий Китайской академии наук. Это плотная языковая модель семейства Llama на 6,6 млрд параметров с контекстом 2048 токенов; репозиторий содержит веса PyTorch. Для получения параметров BayLing требуется применить разность весов к базовой модели с помощью apply_delta.py. Модель предназначена для генерации текста, следования инструкциям и многоходового диалога на английском и китайском языках. Она подходит для перевода, написания текстов, творческих задач и предложений. Лицензия репозитория — GPL-3.0. По данным авторов, модель может выдавать неточные факты и слабо справляется с рассуждениями, математикой и программированием; также возможна генерация вредного или предвзятого содержания.

BlueBerry-3-GGUF — это GGUF-квантизированная версия модели BlueBerry-3, опубликованной artindnr и квантизированной mradermacher. Модель предназначена для генерации текста и доступна в форматах, совместимых с инструментами, поддерживающими GGUF. В метаданных указана архитектура mixture-of-experts, а также поддержка языков фарси, английского, арабского, французского, немецкого и испанского. Набор включает варианты квантования от Q2_K и Q3_K до Q8_0, включая IQ4_XS; размер файлов составляет примерно от 66 до 124 ГБ. Версии Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как вариант очень хорошего качества, а Q8_0 — как вариант высокого качества. Контекстное окно, точное число параметров, поддержка изображений или других модальностей, результаты тестирования и дополнительные ограничения в README не указаны. Модель распространяется по лицензии Apache-2.0.

Calme 3.2 Instruct 3B — языковая модель Maziyar Panahi для генерации текста и диалогов в общих областях. Это дообученная версия Qwen2.5-3B с плотной архитектурой Qwen2 и 3,1 млрд параметров; она работает через Transformers и принимает запросы в формате ChatML. Заявленная длина контекста — 32 768 токенов. Модель подходит для инструкционного диалога, ответов на вопросы и других общих текстовых задач. В карточке указаны французский и английский языки, а также датасеты французских инструкций и EvolKit-20k. Доступны файлы Safetensors; отдельная версия GGUF размещена в связанном репозитории. Автор предупреждает, что из-за небольшого размера модель может хуже справляться с некоторыми запросами и быть чувствительной к гиперпараметрам. Рекомендуются меры предосторожности и проверка человеком при использовании в производстве. Лицензия указана как other, конкретные условия в предоставленных данных не раскрыты.

EvoMerge1 — объединённая разговорная языковая модель семейства Mistral, опубликованная пользователем Knobi3. Она создана с помощью mergekit методом task arithmetic на основе Mistral-7B-Instruct-v0.2 с участием Starling-LM-7B-beta, NeuralBeagle14-7B и модели sol. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM, распространяется в формате safetensors и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев на английском и шведском языках. Лицензия Apache-2.0 разрешает коммерческое использование при соблюдении её условий. Автор сообщает, что приведены результаты только двух оценок, поэтому качество и устойчивость модели подтверждены ограниченным числом проверок.

Flora DPO — языковая модель ResplendentAI на архитектуре Mistral с 7,1 млрд параметров, дообученная методом DPO на наборах mlabonne/chatml_dpo_pairs и ResplendentAI/Synthetic_Soul_1k. Модель предназначена для генерации текста и диалоговых ответов; карточка приводит результаты оценивания на задачах рассуждения и понимания текста. Поддерживает английский язык и контекст до 32 768 токенов. Веса опубликованы в формате safetensors. Лицензия — CC BY-SA 4.0. README упоминает доступные квантизованные версии, но не уточняет их формат и расположение.

FrankenVillain-7B-v1 — англоязычная разговорная модель для генерации текста, созданная с помощью mergekit на основе jeonsworld/CarbonVillain-en-10.7B-v1. Модель использует архитектуру Llama с плотной структурой и 10,6 млрд параметров; заявленная длина контекста — 4096 токенов. Модель предназначена для диалогов и генерации ответов на текстовые запросы. В README приведены результаты оценки на бенчмарках AI2 Reasoning Challenge и HellaSwag. Модель распространяется под лицензией Apache-2.0.

Guanaco — многоязычная инструкционная языковая модель, разработанная Josephus Cheung при участии KBlueLeaf и построенная на Meta LLaMA 7B. Это плотная авторегрессионная модель семейства LLaMA с 6,6 млрд параметров и контекстом до 2048 токенов; веса представлены в формате PyTorch, лицензия — GPL-3.0. Модель предназначена для генерации ответов по инструкциям и многоходового диалога, включая ролевые беседы. В обучающий набор вошли данные Alpaca и более 534 тысяч дополнительных примеров на английском, упрощённом и традиционном китайском, японском и немецком языках, а также задания по грамматике и языку. Разработчики отмечают, что ответы на фактические вопросы могут быть неточными, и рекомендуют опираться на проверяемые источники. Модель не фильтровалась от вредного, предвзятого или откровенного контента. Для вывода рекомендуется fp16; 8-битная точность может ухудшить качество.

Hermes-A1-20B-i1-GGUF — это набор квантизированных файлов в формате GGUF для базовой модели aayanmishra-ml/Hermes-A1-20B. Квантизацию выполнил mradermacher; в README также упоминается поддержка со стороны nethype GmbH и nicoboss. Модель предназначена для локального запуска задач генерации текста, включая диалоговые сценарии и многоязычное взаимодействие. В основе лежит трансформерная causal language model размером 20 млрд параметров. Заявлены английский, немецкий, французский, испанский и итальянский языки. Модель работает с текстом; сведения о контекстном окне и дополнительных модальностях отсутствуют. Репозиторий содержит варианты imatrix-квантизации от i1-IQ1_M до i1-Q6_K, различающиеся размером, скоростью и качеством. Для баланса размера, скорости и качества рекомендован i1-Q4_K_M, а i1-Q4_K_S отмечен как оптимальный по этим параметрам. Ключевое преимущество — возможность запуска крупной модели в существенно уменьшенном размере: файлы занимают примерно от 12,1 до 22,3 ГБ. Ограничения зависят от выбранного варианта: низкобитные квантизации требуют меньше ресурсов, но могут заметно снижать качество, тогда как более крупные файлы предъявляют повышенные требования к памяти. Лицензия базовой модели указана как Apache-2.0; отдельные условия для квантизированных файлов в README не уточняются.

Himeyuri-Magnum-12B-HereticMerge — языковая модель для диалоговой генерации текста, созданная разработчиком yamatazen слиянием методом SLERP через mergekit моделей MuXodious/Mistral-Nemo-Instruct-2407-absolute-heresy и yamatazen/Himeyuri-Magnum-12B. Это плотная 12,1-миллиардная модель семейства Mistral с архитектурой MistralForCausalLM, предназначенная для чата и генерации текста. Карточка указывает поддержку английского и японского языков, а метаданные — контекст до 1 024 000 токенов. Модель распространяется в формате safetensors и имеет лицензию Apache-2.0. Качество на конкретных задачах и ограничения в README не описаны.

ICONNAI ICONN-e1-Beta — разговорная модель общего назначения на архитектуре Mixtral MoE с 23,4 млрд параметров и контекстом до 32 768 токенов. Разработчик описывает её как модель для повседневных задач, логики и диалога с учётом эмоциональных сигналов: она должна подстраивать тон и стиль ответа. В README также заявлены возможности рассуждения и специализированные экспертные варианты для математики, науки и программирования, однако отдельный статус этих экспертов в данном репозитории не подтверждён. Модель принимает текст и генерирует текст; карточка указывает поддержку чата. Для запуска README рекомендует как минимум четыре GPU Nvidia A100 либо одну B100, а также 120 ГБ оперативной памяти и 120–192 ГБ видеопамяти. Веса опубликованы в формате safetensors, лицензия — Apache 2.0. Заявления о качестве рассуждений и эмоциональной адаптации приведены разработчиком и не сопровождаются в карточке результатами оценивания; указанные аппаратные требования высоки.

QuantFactory/jais-adapted-7b-chat-GGUF — квантизированная версия диалоговой модели Jais-adapted-7b-chat, созданная с помощью llama.cpp на основе модели inceptionai/jais-adapted-7b-chat. Семейство Jais разработано компаниями Inception и Cerebras Systems и ориентировано прежде всего на обработку арабского языка при сохранении сильных возможностей для английского языка. Модель предназначена для генерации текста и ведения диалогов, включая ответы на инструкции, работу с арабскими и англоязычными запросами и создание двуязычных текстов. Это авторегрессионная языковая модель с архитектурой Transformer decoder-only, построенная на базе Llama 2. Размер составляет 7B параметров, максимальная длина контекста — 4096 токенов. Модель работает только с текстом; заявленные языки — арабский, включая Modern Standard Arabic, и английский. Семейство обучалось на данных на арабском и английском языках, а также на коде. Сильной стороной модели является специализация на арабском языке в сочетании с поддержкой английского и диалоговой настройкой. Квантизация в формате GGUF может снизить требования к памяти и упростить локальный запуск, однако README не содержит сведений о конкретном варианте квантизации, производительности или результатах бенчмарков; квантизация также может влиять на качество генерации. Условия использования — лицензия Apache 2.0.

posicube/Llama2-chat-AYT-13B — диалоговая языковая модель компании Posicube Inc., созданная на основе Llama-2-13b-chat-hf. Разработчики объединили модели, показавшие лучшие результаты в бенчмарках ARC, MMLU и TruthfulQA; при обучении использовались наборы данных в стилях Orca и Alpaca. Модель содержит 12,9 млрд параметров, использует архитектуру Llama и рассчитана на контекст до 4096 токенов. Модель предназначена для генерации ответов и диалогового использования на английском языке. В README сообщается о высоких результатах среди моделей класса 13B на бенчмарках 2023 года, включая ARC, HellaSwag и MMLU. Лицензия — Llama 2. Тестирование описано для английского языка; перед применением в конкретных сценариях следует проверять качество и безопасность ответов.

LlongOrca-7B-16k — языковая модель Alignment Lab AI, дообученная на модели LLongMA-2-7b-16k с помощью отфильтрованной части набора OpenOrca, содержащего данные, дополненные GPT-4. Модель построена на архитектуре Llama и насчитывает 6,6 млрд параметров; для обучения использовались Axolotl и формат диалогов ChatML. Модель предназначена для генерации текста и диалоговых ответов на английском языке, в том числе при работе с длинным контекстом до 16 384 токенов. Разработчики сообщают об улучшении результатов относительно базовой LLongMA-2-7b-16k на BigBench-Hard и AGIEval; эти оценки приведены авторами и не гарантируют качество в конкретных сценариях. Модель распространяется в формате PyTorch по лицензии Llama 2. Её обучали на английских данных OpenOrca; результаты на других языках не описаны. Она может ошибаться и выдавать недостоверные ответы, поэтому ответы требуют проверки.

Megatron_v3_2x7B — двуязычная языковая модель архитектуры Mixtral с механизмом Mixture of Experts (MoE), опубликованная Eurdem. Она предназначена для генерации текста и диалоговых ответов на английском и турецком языках. Модель содержит 7,1 млрд параметров, поддерживает контекст до 32 768 токенов и распространяется в формате Safetensors по лицензии Apache-2.0. Карточка заявляет, что модель понимает инструкции и отвечает на них на обоих языках. Подробные результаты оценки и специфические ограничения в карточке не приведены.

MEMORYDistillPL-1.5b — польская языковая модель, дообученная автором на базе Qwen/Qwen2.5-1.5B-Instruct методом QLoRA. Она преобразует польские стенограммы разговоров в краткие структурированные заметки для долговременного хранения: суммирует обсуждение и извлекает упомянутые сущности, включая людей, организации, решения и факты. Модель построена на плотной архитектуре Qwen2, содержит 1,5 млрд параметров и имеет контекстное окно 32 768 токенов. Она рассчитана на узкую задачу суммаризации и извлечения сведений, а не на свободный чат. В README описана оценка на 82 польских стенограммах длиной до 8 тысяч токенов; в этом сравнении ответы модели чаще предпочитались ответам базовой Qwen2.5-7B-Instruct. Модель иногда пропускает сущности и может придумывать расшифровки польских сокращений. Работа на других языках и длинных входах не проверялась; для важных решений результаты нужно сверять с исходником. Лицензия — Apache 2.0. В репозитории есть веса для Transformers, LoRA-адаптер и варианты GGUF; низкая квантизация может заметнее снижать качество.