I.14Автоматизация процессов и AI-агенты

NaniDAO/Llama-3.3-70B-Instruct-ablated — диалоговая модель NaniDAO на архитектуре Llama 3.3, полученная дообучением Meta-Llama-3.3-70B-Instruct с применением техники абляции. Модель предназначена для следования инструкциям и генерации ответов в чате; авторы заявляют, что она реже отказывает на допустимые запросы и рассчитана на более свободное взаимодействие. Модель содержит 69,5 млрд параметров, принимает и генерирует текст, работает с контекстом до 131 072 токенов. В метаданных заявлена поддержка английского, французского, итальянского, португальского, хинди, испанского, тайского и немецкого языков. Доступна в формате safetensors для библиотеки Transformers; лицензия — llama3. Она подходит для диалоговых ассистентов и генерации текста, но заявленное снижение числа отказов требует ответственного применения и не гарантирует точность или безопасность ответов.

Llama-3-Chinese-8B-Instruct-v3 — диалоговая языковая модель семейства Llama, опубликованная HFL. Это инструкционная модель на архитектуре LlamaForCausalLM с 7,5 млрд параметров и контекстом до 8192 токенов. По карточке, она создана на основе объединения трёх моделей: hfl/Llama-3-Chinese-8B-Instruct, hfl/Llama-3-Chinese-8B-Instruct-v2 и meta-llama/Meta-Llama-3-8B-Instruct. Модель предназначена для диалогов, ответов на вопросы и генерации текста. Заявлены китайский и английский языки; поддержка чата указана в метаданных. Репозиторий содержит веса safetensors. Использование регулируется лицензией Apache-2.0 в метаданных; README также требует соблюдать лицензионные условия исходной Meta Llama 3.

Llama-3-Swallow-8B-Instruct-v0.1 — диалоговая языковая модель команды Swallow-LLM из Токийского технологического института и AIST, созданная на основе семейства Meta Llama 3. Модель прошла продолжительное предобучение с добавлением японских текстов, а инструктивная версия — дообучение на примерах инструкций и настройку Chat Vector. Архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров, длина контекста — 8192 токена; веса опубликованы в safetensors и предназначены для Transformers. Модель рассчитана на диалог и генерацию текста на японском и английском языках. Возможные сценарии включают ответы на вопросы, следование инструкциям, суммаризацию, перевод между японским и английским, рассуждения и генерацию кода. В README приведены результаты оценки на японских и английских бенчмарках, но отдельные строки таблиц для этой модели здесь не представлены, поэтому конкретный уровень качества по ним оценить нельзя. Разработчики предупреждают, что модель находится на раннем этапе разработки и не настроена для гарантированного соответствия человеческим намерениям и требованиям безопасности. Лицензия — Llama 3; условия использования определяются её положениями.

LPT-6.1 Thinking — разговорная языковая модель от LiskCell, представленная как флагман экосистемы xLYR и ассистент Deta. Модель предназначена для диалогов, творческих задач, технических вопросов и многошаговых рассуждений; в репозитории заявлена поддержка английского и иврита. В карточке указаны архитектура семейства Kimi K2.5 с классом KimiK25ForConditionalGeneration, библиотека Transformers и формат весов safetensors. Модель позиционируется как дообученная и настроенная для экосистемы xLYR; её размер и длина контекста в предоставленных данных не приведены. Лицензия обозначена как other, поэтому условия использования следует сверить с лицензией репозитория.

LRAT Qwen3-Embedding-0.6B Clean-v1 — плотная модель для создания текстовых эмбеддингов и поиска релевантных фрагментов по веб-запросу. Чекпойнт подготовлен для соревнования XIR/LRAT и дообучен на официальном наборе Yuqi-Zhou/LRAT-Train на базе Qwen/Qwen3-Embedding-0.6B. Это полная модель с архитектурой Qwen3 и примерно 508 млн параметров, а не LoRA-адаптер. Модель кодирует запросы и пассажи в векторы размерности 1024; сходство вычисляется по косинусной мере после L2-нормализации. Для запросов требуется заданная в карточке инструкция, пассажи кодируются без неё. При обучении использовалась максимальная длина 512 токенов для запросов и пассажей; базовая модель поддерживает контекст до 32 768 токенов. Веса сохранены в FP32, возможна загрузка в BF16. Чекпойнт обучен на 96 503 парах данных LRAT в течение двух эпох с контрастивной функцией потерь. Карточка не приводит результатов на лидерборде, поэтому качество в соревновании не подтверждено. Модель распространяется по лицензии Apache-2.0.

xmanii/maux-gte-persian-v3 — модель Sentence Transformer, дообученная на базе Alibaba-NLP/gte-multilingual-base на наборе mshojaei77/Persian_sft из 80 000 пар предложений. Она кодирует предложения и абзацы в плотные векторы размерности 768, которые сравниваются косинусной близостью. Модель предназначена прежде всего для семантического сходства и поиска по персидским текстам, а также для поиска перефразировок, кластеризации и классификации текста. Модель использует архитектуру Transformer с пулингом CLS-токена и нормализацией векторов; максимальная длина последовательности — 8192 токена. Карточка указывает библиотеку sentence-transformers и формат весов safetensors. Лицензия в предоставленных источниках не указана.

mDenseOn — мультиязычная модель плотного поиска LightOn на архитектуре mmBERT-base, представленная как Sentence Transformer с 306,9 млн параметров. Она независимо кодирует запросы и документы в векторы размерностью 768 и сопоставляет их по косинусному сходству; для запросов и документов используются префиксы `query:` и `document:`, а в качестве pooling применяется токен CLS. Модель поддерживает контекст до 8 192 токенов и предназначена для семантического поиска по текстам на английском, французском, немецком, итальянском, испанском, португальском, шведском, норвежском и арабском языках, а также для поиска по коду. Модель обучена LightOn на мультиязычных данных, полученных в том числе методом translate-train. В карточке заявлены результаты на мультиязычном поиске MIRACL, поиске по длинным документам MLDR, общем англоязычном поиске BEIR и поиске по коду MTEB Code. Одновекторное представление удобно для плотного поиска и ранжирования по сходству, однако качество заметно снижается на языках, не охваченных обучением для поиска; карточка рекомендует mLateOn, если важнее обобщение на такие языки и допустим многовекторный поиск. Лицензия — Apache 2.0.

MiniCPM-2B-dpo-fp16 — текстовая авторегрессионная модель семейства MiniCPM, разработанная ModelBest совместно с лабораторией обработки естественного языка Университета Цинхуа. Это версия MiniCPM-2B, оптимизированная методом DPO по человеческим предпочтениям; репозиторий содержит веса PyTorch в формате FP16. В метаданных указаны 2,7 млрд параметров и контекст до 4096 токенов. Модель предназначена для диалогов и генерации текста, включая ответы на вопросы, рассуждения, математические задачи и программирование. Она поддерживает китайский и английский языки и рассчитана на запуск в сценариях с ограниченными ресурсами по сравнению с более крупными языковыми моделями. Разработчики сообщают о сильных результатах DPO-версии на MTBench, однако это не гарантирует точности в конкретных задачах. Модель может галлюцинировать, особенно при длинных ответах, чувствительна к формулировке запроса и может давать разные результаты при повторных запусках; точность запомненных знаний ограничена. README разрешает научное использование и ограниченное коммерческое использование; перед применением следует проверить условия лицензии репозитория.

unsloth/mistral-7b-instruct-v0.2-bnb-4bit — это 4-битно квантованная версия Mistral-7B-Instruct-v0.2, подготовленная Unsloth на базе модели mistralai/mistral-7b-instruct-v0.2. Модель предназначена для генерации текста и диалоговых сценариев, включая conversational-форматы ShareGPT, а также для дообучения на собственных наборах данных. Она интегрируется с библиотекой Transformers и может экспортироваться в форматы GGUF и vLLM. Из известных характеристик: модель относится к семейству Mistral, содержит около 7 миллиардов параметров, работает с текстом и заявлена для английского языка. Представление bnb-4bit снижает требования к памяти по сравнению с полноразмерной моделью, что делает вариант подходящим для локального запуска и эффективного fine-tuning на ограниченных ресурсах. README также указывает на ускорение дообучения Mistral в Unsloth примерно в 2,2 раза и сокращение использования памяти до 62%, однако эти показатели относятся к процессу дообучения в заявленной конфигурации, а не являются гарантией качества или скорости инференса. Модель может использоваться для чат-ботов, генерации и продолжения текста, экспериментов с instruction tuning и DPO. Ограничения включают зависимость качества от формата промптов и данных дообучения, возможные потери качества из-за 4-битной квантизации, а также отсутствие в README сведений о размере контекстного окна, точной архитектуре, мультимодальности, результатах бенчмарков и требованиях к инференсу. Лицензия — Apache-2.0.

OpenPipe mistral-ft-optimized-1227 — это объединённая модель на архитектуре Mistral для генерации текста и последующего дообучения под прикладные задачи. Она создана OpenPipe методом иерархического слияния SLERP моделей teknium/OpenHermes-2.5-Mistral-7B, Intel/neural-chat-7b-v3-3, meta-math/MetaMath-Mistral-7B и openchat/openchat-3.5-1210. Веса опубликованы в формате safetensors; размер модели — 7,1 млрд параметров, контекст — до 32 768 токенов. Модель позиционируется как сильная отправная точка для дообучения под разные задачи, а также может использоваться для генерации текста, диалогов и ответов на математические вопросы благодаря входящим в слияние моделям. Разработчик сообщает о внутренних оценках, но количественные результаты в карточке не приведены. Модель лицензирована по Apache-2.0.

Mistral-Nemo-NT-Ko-12B-dpo — диалоговая языковая модель на архитектуре Mistral с 12,1 млрд параметров, созданная werty1248 как дополнительное DPO-дообучение модели werty1248/Mistral-Nemo-NT-Ko-12B-sft с помощью LoRA. Она предназначена для генерации ответов по инструкциям и многоходового общения; в описанных тестах показала сильные результаты по письму и программированию, однако DPO дало лишь небольшое общее улучшение относительно базовой SFT-модели. Для DPO использовались англоязычные, корейские и китайские пары предпочтений; часть корейских данных была переведена с английского. Базовая модель поддерживает контекст до 128K токенов, но это дообучение выполнялось с контекстом 8K. Метаданные указывают английский, корейский, японский и китайский языки. Модель распространяется в формате safetensors по лицензии Apache-2.0.

Mixtral-8x22B-v0.1 — базовая генеративная языковая модель семейства Mixtral, разработанная Mistral AI. В этом репозитории размещена конвертированная в формат Transformers версия весов, загруженная сообществом; автор README рекомендует использовать актуальные веса в организации Mistral AI. Модель построена на разреженной архитектуре смеси экспертов (MoE) и предназначена для генерации текста и использования как основа для прикладных решений. Контекст составляет до 65 536 токенов. Карточка указывает поддержку английского, французского, итальянского, немецкого и испанского языков. Для запуска предусмотрены Transformers, а также варианты вычислений в пониженной точности. Это базовая предварительно обученная модель, а не версия Instruct; для диалоговых приложений может потребоваться дополнительная настройка. В README отмечено отсутствие встроенных механизмов модерации. Лицензия — Apache 2.0.

MixtureofMerges-MoE-2x7b-v7 — языковая модель с архитектурой Mixture of Experts (MoE), созданная автором jsfs11 с помощью LazyMergekit путём объединения Gille/StrangeMerges_32-7B-slerp и mlabonne/AlphaMonarch-7B. Модель предназначена для генерации текста и может применяться для диалогов, ответов на вопросы, следования инструкциям и рассуждений. Модель содержит 7,1 млрд параметров, использует архитектуру Mixtral и поддерживает контекст до 32 768 токенов. В README приведены результаты оценивания на бенчмарках рассуждений и здравого смысла. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0.

Fremtind/mmBERT-base-norwegian — модель Sentence Transformer, разработанная Fremtind и дообученная на базе многоязычного энкодера ModernBERT jhu-clsp/mmBERT-base. Она преобразует предложения и абзацы на норвежском языке в плотные векторы размерностью 768 для сравнения смысловой близости, семантического поиска, классификации и кластеризации текста. Модель использует архитектуру ModernBERT с 306,9 млн параметров и формат safetensors. Для дообученного Sentence Transformer стандартная максимальная длина последовательности составляет 75 токенов; базовая модель допускает контекст до 8192 токенов. Модель оценивали на норвежских задачах классификации и кластеризации из MTEBv2. Модель распространяется по лицензии MIT. Она предназначена прежде всего для норвежского языка; результаты README указывают на оценивание по ограниченному набору задач, поэтому качество на других языках и сценариях этими данными не подтверждено.

MMLW-roberta-large — польский текстовый энкодер семейства RoBERTa, разработанный для получения векторных представлений предложений и текстов. Модель содержит 533,7 млн параметров и преобразует текст в векторы размерностью 1024; максимальная длина контекста — 514 токенов. Модель дистиллирована из польского чекпойнта RoBERTa с использованием мультиязычной дистилляции: учительскими моделями были английские FlagEmbeddings (BGE), а обучающий корпус включал 60 млн пар текстов на польском и английском языках. Она предназначена для семантического сравнения, кластеризации и поиска информации, а также может служить основой для дальнейшего дообучения. Для кодирования запросов README требует добавлять префикс «zapytanie: ». В README приведены средний результат 63,23 на польском бенчмарке MTEB и NDCG@10 55,95 на польском бенчмарке поиска PIRB. Доступны веса PyTorch и Safetensors; лицензия — Apache-2.0. Модель специализирована на польском, поэтому результаты для других языков и задач за пределами описанных сценариев могут отличаться.

Moonlight-16B-A3B-Instruct — чат-модель семейства Moonlight, разработанная MoonshotAI. Это instruction-tuned вариант модели с архитектурой Mixture-of-Experts: 16 млрд параметров всего и около 3 млрд активных при генерации. Метаданные Hugging Face классифицируют её как DeepSeek V3 и указывают библиотеку Transformers; модель распространяется в формате safetensors. Модель предназначена для диалогов и генерации текста по инструкциям. В карточке авторов Moonlight описана как обученная на 5,7 трлн токенов; длина контекста составляет 8K токенов. Авторы сообщают об улучшенной эффективности обучения Muon по сравнению с Adam, однако эти сведения относятся к результатам исследовательской работы и не гарантируют качество на каждом прикладном сценарии. Модель выпущена под лицензией MIT. В карточке не приведены конкретные ограничения качества или перечень поддерживаемых естественных языков; применимость в узких областях следует проверять отдельно.

MoonViT-3D — визуальная башня модели Kimi-K2.6, опубликованная Aquiles-ai на основе весов и реализации Moonshot AI. Это плотная vision transformer модель Kimi_K25VisionModel примерно на 544,9 млн параметров; веса сохранены в safetensors и поддерживаются библиотекой Transformers без trust_remote_code. Модель извлекает признаки изображений и предназначена для получения эмбеддингов для поиска похожих изображений, кластеризации и удаления дубликатов, а также для использования как замороженного визуального энкодера при обучении классификаторов, детекторов или регрессионных голов. Визуальные признаки можно подключить к языковой модели для построения собственной мультимодальной системы или использовать для индексации изображений вместе с текстом в мультимодальном RAG. README также упоминает обработку последовательностей кадров с временным измерением, но отмечает, что пример такого использования не приведён и интеграцию нужно реализовать самостоятельно. Модель принимает изображения и выдаёт признаки; поддерживаемые естественные языки не заявлены. Лицензия — Apache-2.0.

Карточка модели xqiuresearch/MOSS-Transcribe-Diarize-vuln на Hugging Face совпадает с карточкой xqiuresearch/MOSS-Transcribe-Diarize, поэтому описание составлено по ней. MOSS-Transcribe-Diarize 0.9B — мультимодальная модель семейства MOSS от OpenMOSS для расшифровки длинных аудио- и видеозаписей. Она за один проход преобразует запись в текст с временными метками и анонимными метками говорящих, совместно выполняя распознавание речи и диаризацию. Также модель может размечать акустические события и учитывать пользовательские инструкции и подсказки с терминами.

Xenova/msmarco-distilbert-base-v4 — версия модели sentence-transformers/msmarco-distilbert-base-v4 с весами в формате ONNX, подготовленная для совместимости с библиотекой Transformers.js. Модель предназначена для извлечения признаков и создания векторных представлений текста, которые могут использоваться в задачах семантического поиска, сопоставления текстов и других сценариях обработки естественного языка. В названии указана архитектура на основе DistilBERT; точный размер модели, поддерживаемые языки, размер контекстного окна и перечень модальностей в README не приведены. Ключевое преимущество — возможность запуска через Transformers.js, включая веб- и JavaScript-сценарии, благодаря ONNX-весам. Ограничения, условия лицензирования и дополнительные характеристики в предоставленных данных не указаны.

Xenova/multilingual-e5-base — версия модели intfloat/multilingual-e5-base с весами в формате ONNX, подготовленная для использования в Transformers.js. Репозиторий Xenova предназначен для запуска модели в JavaScript-средах, включая веб-приложения, через библиотеку @huggingface/transformers. Модель предназначена для извлечения признаков из текста и может использоваться как основа для задач семантического поиска, сравнения текстов, кластеризации и построения других NLP-систем. В README подтверждён сценарий feature extraction. Модель заявлена как multilingual, однако конкретный перечень поддерживаемых языков, размер, архитектура, длина контекста и точные характеристики качества в предоставленных данных не указаны. Ключевое преимущество этой версии — совместимость с Transformers.js и ONNX, что облегчает запуск модели в JavaScript- и веб-средах. Ограничение описания заключается в отсутствии подробных сведений о производительности, поддерживаемых языках, требованиях к ресурсам и лицензии. Информация о лицензии в README не приведена.

MyAwesomeModel — модель, размещённая пользователем liuf12123456 и доступная через библиотеку Transformers. Согласно метаданным Hugging Face, она относится к архитектурному семейству BERT, использует PyTorch и предназначена для извлечения признаков из текста, то есть преобразования текстовых входов в векторные представления для последующего анализа.

unrestrictedai/my-embedding-gemma — модель Sentence Transformer, дообученная на базе google/embeddinggemma-300m. Она преобразует предложения и абзацы в плотные эмбеддинги размерности 768 и сравнивает их по косинусному сходству. Архитектура относится к Gemma 3 Text; модель содержит 302,8 млн параметров, принимает текст с контекстом до 2048 токенов и сохраняет веса в формате safetensors. Модель предназначена для семантического поиска, оценки сходства текстов, поиска перефразировок, классификации и кластеризации. В README указано обучение на трёх примерах с MultipleNegativesRankingLoss, поэтому качество и переносимость на другие задачи или предметные области могут быть ограничены. Лицензия в предоставленных данных не указана.

Nemotron-3-Embed-1B-AWQ-W4A16 — квантизированный энкодер текстовых представлений, созданный Facu Vlad J (groxaxo) на основе модели NVIDIA Nemotron-3-Embed-1B-BF16. Модель предназначена для извлечения эмбеддингов, семантического поиска, retrieval-сценариев и оценки качества локального или размещённого инференса. Заявлены английский и испанский языки, а также поддержка задач feature extraction. Модель использует архитектуру типа ministral3 и имеет размер порядка 1B параметров. Веса линейных слоёв квантизированы в INT4 по схеме AWQ W4A16 с асимметричными нулевыми точками и размером группы 32, тогда как активации, таблица токенов и нормализующие слои сохраняются в BF16. Размер эмбеддинга составляет 2048 измерений; также заявлена работа с представлениями размерностью 1024 и 512. Контекст ограничен 4096 токенами в рекомендуемой конфигурации vLLM. Контрольная точка сериализована в формате compressed-tensors и оптимизирована для инференса через vLLM с ядром Marlin, занимая около 1,0 ГБ на диске. Сильными сторонами являются существенно меньший размер по сравнению с BF16-версией, ускоренный GPU-инференс и заявленное отсутствие потери Recall@10 на тестах для английского и испанского языков. При этом результаты основаны на ограниченных наборах данных и требуют проверки на собственных сценариях. Квантизация может изменять точность, потребление памяти и пропускную способность, а для работы необходим runtime с поддержкой соответствующей архитектуры и формата. Модель распространяется по лицензии OpenMDW-1.1; перед использованием и распространением следует изучить условия лицензии исходной модели NVIDIA.

Norocetacean-20b-10k — плотная языковая модель семейства Llama, опубликованная ddh0. Она создана слиянием Psyonic-Cetacean-20B и LoRA-адаптера no_robots-alpaca; контекст расширен до 10 240 токенов с помощью YaRN. Модель рассчитана на генерацию ответов по инструкциям в формате Alpaca и может применяться в диалоговых и текстовых сценариях с длинным контекстом. В модели около 19,8 млрд параметров. README указывает Llama 2 как базовую модель и сообщает о включении Orca-2-13B; для использования действуют условия Microsoft Research License. Карточка не описывает языковую специализацию или дополнительные модальности, поэтому модель следует рассматривать как текстовую.

Это GGUF-квантизированная версия инструкционной языковой модели Llama-3.1-8B-UltraLong-4M-Instruct, разработанной NVIDIA и подготовленной пользователем bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение инструкций, ответы на запросы и работу с очень длинными контекстами; обозначение UltraLong-4M указывает на поддержку контекста до 4 миллионов токенов. В карточке указано, что модель ориентирована на английский язык и относится к текстовой модальности. Модель содержит 8 миллиардов параметров и распространяется в формате GGUF, совместимом с llama.cpp, LM Studio и другими проектами на его основе. Доступны варианты от BF16 и Q8_0 до более компактных Q3- и IQ-квантизаций с размером файлов примерно от 4,3 до 16,1 ГБ. Квантизации выполнены с использованием imatrix, что позволяет выбирать баланс между качеством, потреблением памяти и скоростью инференса; наиболее качественными названы BF16, Q8_0 и варианты Q6, а Q4 и Q3 подходят для систем с меньшим объёмом оперативной памяти. Основные ограничения связаны с использованием квантизированных вариантов: уменьшение размера может сопровождаться снижением качества по сравнению с исходными весами, а требования к памяти при работе с контекстом в миллионы токенов остаются высокими. Для корректной работы следует использовать рекомендованный шаблон prompt формата Llama 3.1. Лицензия модели — CC-BY-NC-4.0, допускающая использование с некоммерческими ограничениями.

Olmo-3-7B-Think-heretic — англоязычная авторегрессионная языковая модель семейства OLMo 3 с 6,9 млрд параметров, созданная Richard Young на основе allenai/Olmo-3-7B-Think. Это версия с abliteration, преобразованием, которое уменьшает склонность модели отказываться от ответов; модель предназначена для генерации текста в диалогах, рассуждений, математики и программирования. Контекстное окно составляет 65 536 токенов. Модель сохраняет возможности и связность исходной версии, однако по приведённой в карточке оценке всё ещё отказывает на части вредоносных запросов. Как и другие языковые модели, она может выдавать фактические ошибки, предвзятые или вредоносные ответы. Доступна по лицензии Apache 2.0; карточка рекомендует использовать её для исследований, творческого письма и обучения методам настройки безопасности.

OpenBuddy Nemotron 70B v23.1 — диалоговая текстовая модель команды OpenBuddy, дообученная на NVIDIA Llama 3.1 Nemotron 70B Instruct. Она предназначена для ответов на запросы и инструкции в чат-сценариях. Модель использует плотную архитектуру Llama, содержит 69,5 млрд параметров и поддерживает контекст до 131 072 токенов. README рекомендует применение на английском и китайском языках; метаданные также отмечают французский, немецкий, японский, корейский, итальянский и финский. Модель распространяется в формате safetensors по лицензии Llama 3.1. README предупреждает, что ответы могут быть ошибочными, вредными или нежелательными, и не рекомендует использовать модель в критически важных сценариях, включая медицину, управление потенциально опасными системами и принятие важных финансовых или юридических решений.

OpenBuddy/openbuddy-qwen2.5llamaify-14b-v23.1-200k — многоязычная чат-модель OpenBuddy на 14 млрд параметров. Она основана на Qwen2.5-14B-Chat и использует плотную архитектуру LlamaForCausalLM; модель предназначена для диалоговой генерации текста. Заявленная длина контекста составляет 200 000 токенов. Модель подходит для чат-ботов и приложений, которым нужны ответы и диалог на китайском, английском, французском, немецком, японском, корейском, итальянском и финском языках. Репозиторий содержит веса в формате safetensors; для работы с шаблоном чата README рекомендует быстрый токенизатор из Transformers, также упоминается развёртывание API через vLLM. Лицензия — Apache 2.0. Модель может выдавать ошибочные, вредные или оскорбительные ответы. Разработчик предостерегает от применения в критических и высокорисковых сценариях, включая медицину и важные финансовые или юридические решения.

OpenBuddy/openbuddy-qwq-32b-v24.1-200k — дообученная диалоговая языковая модель OpenBuddy на архитектуре Qwen2, основанная на Qwen/QwQ-32B-Preview. Модель содержит 32 млрд параметров и рассчитана на контекст до 200 000 токенов; она принимает текст и генерирует текстовые ответы в формате чат-бота. Модель предназначена для многоязычного общения и генерации текста. Карточка указывает поддержку китайского, английского, французского, немецкого, японского, корейского, итальянского и финского языков. Лицензия — Apache 2.0. Для работы с форматом подсказок рекомендуется быстрый токенизатор Transformers; карточка также упоминает развёртывание через vLLM. Модель может выдавать ошибочные, вредные или оскорбительные ответы. Её не следует применять для критических решений в медицине, финансах и праве, а также для управления потенциально опасным программным или аппаратным обеспечением.

TheBloke/openchat-3.5-1210-GGUF — это набор квантованных моделей в формате GGUF для OpenChat 3.5 1210, разработанной командой OpenChat. Квантование выполнил TheBloke. В основе используется архитектура Mistral, а модель предназначена для генерации текста и диалоговых сценариев. Модель обучалась на совокупности датасетов с диалогами, инструкциями, математическими задачами, программированием и отзывами о качестве ответов. Она подходит для локального запуска через llama.cpp и совместимые приложения и библиотеки, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. Доступны варианты квантования с разной точностью, включая 2-, 3-, 4-, 5-, 6- и 8-битные версии, что позволяет выбирать баланс между требованиями к памяти и качеством генерации. README не указывает размер модели, поддерживаемые языки и длину контекста. Квантование снижает требования к ресурсам и упрощает запуск на CPU и GPU, но может немного ухудшать качество по сравнению с исходной неквантованной версией; степень влияния зависит от выбранного варианта квантования. Для корректного диалога рекомендуется шаблон OpenChat-Correct. Модель распространяется по лицензии Apache 2.0.