I.14Автоматизация процессов и AI-агенты
В разделе собраны самостоятельные задачи, где AI помогает выполнять многошаговые цифровые процессы и координировать действия между системами. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 022 моделиSynthIA-7B-v1.3 — языковая модель Mistral, разработанная Migtissera и дообученная на наборах данных в стиле Orca. Модель содержит 7,1 млрд параметров, принимает текст и предназначена для следования инструкциям и продолжительных диалогов. Заявленная длина контекста — 32 768 токенов. Модель подходит для генерации ответов, ведения диалогов и выполнения текстовых инструкций. В README приведены результаты оценки на задачах ARC и HellaSwag. Модель обозначена разработчиком как uncensored и может выдавать предвзятые, оскорбительные или неподходящие ответы, а также неточную информацию; важные сведения следует перепроверять. Распространяется по лицензии Apache-2.0.
Synthia V3.0 11B AWQ — это квантизированная версия языковой модели Synthia V3.0 11B, разработанной Migel Tissera и опубликованной TheBloke. Модель предназначена для генерации и обработки текста, включая диалоговые сценарии и задачи, требующие связного рассуждения. В README также указан шаблон приглашения Synthia-CoT, ориентированный на последовательное построение ответа с возможностью пересмотра промежуточных шагов. Модель основана на архитектуре Solar и содержит около 11 млрд параметров. Представлена в формате AWQ с 4-битной квантизацией, группой 128 и длиной последовательности 4096 токенов; размер файлов составляет около 5,96 ГБ. Это текстовая модель без заявленной поддержки других модальностей и без указанного набора языков. Квантизация снижает требования к памяти и обеспечивает быструю генерацию при сохранении сопоставимого с распространёнными настройками GPTQ качества, однако для работы требуются совместимые средства инференса и NVIDIA GPU под Linux или Windows; macOS в README не поддерживается. Модель доступна по лицензии Apache-2.0. Она совместима с AutoAWQ, vLLM, TGI, Transformers и text-generation-webui. README не содержит подробных результатов тестирования, поэтому качество на конкретных языках и задачах, а также фактические ограничения исходной Synthia V3.0 11B требуют самостоятельной проверки.
google/t5gemma-l-l-ul2 — предобученная текстовая encoder-decoder модель семейства T5Gemma, разработанная Google: вариант с энкодером и декодером размера L, адаптированный с использованием UL2. Архитектура преобразует текст в текст и рассчитана на генеративные задачи; веса опубликованы в формате safetensors для Transformers. Модель относится к серии T5Gemma, созданной на основе адаптации декодерных моделей Gemma к архитектуре encoder-decoder. Модель предназначена для генерации текста, ответов на вопросы, суммаризации и рассуждений; энкодер также подходит для задач классификации и понимания текста. В карточке указана поддержка английского языка. Возможные сценарии включают создание черновиков и кратких изложений, а также NLP-исследования. Точный размер параметров и длина контекста для этого репозитория не приведены. К ограничениям относятся возможные ошибки в фактах, чувствительность к формулировке запроса и контексту, трудности с языковыми нюансами, а также смещения и пробелы в обучающих данных. Лицензия Gemma; использование должно соответствовать условиям лицензии и политике допустимого использования Gemma.
bartowski/TQ2.5-14B-Neon-v1-GGUF — это набор GGUF-квантизаций текстовой генеративной модели TQ2.5-14B-Neon-v1, разработанной allura-org. Квантизации подготовлены bartowski с помощью llama.cpp и метода imatrix. Модель предназначена для генерации текста и может использоваться локально, в том числе через LM Studio, на совместимом CPU или GPU. Доступны варианты от F16 до низкобитных IQ- и Q-квантизаций размером примерно от 5 до 29,55 ГБ. Наиболее качественными считаются F16, Q8_0, Q6_K_L, Q6_K и Q5; Q4_K_M указан как вариант по умолчанию для большинства сценариев благодаря балансу качества и размера. Низкобитные варианты требуют меньше оперативной памяти, но могут заметно уступать по качеству. Для взаимодействия используется шаблон чата с ролями system, user и assistant. В карточке указано, что модель поддерживает английский язык и относится к задаче text-generation. Архитектура, максимальный размер контекста, точное число параметров исходной модели и дополнительные модальности не указаны; по названию можно заключить только, что базовая модель относится к классу 14B. Модель распространяется по лицензии Apache-2.0.
Это GGUF-квантизация модели QwQ-32B-Snowdrop-v0, разработанной trashpanda-org и подготовленной пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на его основе. В репозитории представлены варианты от полного BF16 до различных квантований Q8_0, Q6, Q5, Q4, Q3 и IQ. Размер файлов варьируется примерно от 14,39 до 65,53 ГБ; варианты с более высокой разрядностью обычно обеспечивают лучшее качество, а варианты Q3 подходят для систем с ограниченным объёмом оперативной памяти. Квантизация выполнена с использованием imatrix на базе llama.cpp release b4867. Рекомендуемый формат prompt использует специальные токены ролей system, user и assistant. Сильными сторонами являются широкий выбор квантований, возможность локального запуска и сохранение высокого качества у вариантов Q6 и Q5. Ограничения включают значительные требования к памяти даже у компактных файлов, а также потенциальную потерю качества при использовании низкоразрядных вариантов. В README не указаны архитектурные детали, поддерживаемые языки, размер контекста и лицензия модели или квантизированных файлов.
Triangulum 1B — компактная авторегрессионная языковая модель семейства Llama, разработанная prithivMLmods. Карточка описывает pretrained- и instruction-tuned варианты; для этой модели заявлены дообучение SFT и RLHF, а также обучение на синтетических данных с длинными цепочками рассуждений. В метаданных указаны архитектура LlamaForCausalLM, 1,2 млрд параметров и контекст до 131 072 токенов. Модель предназначена для генерации текста и диалоговых сценариев: ответов на вопросы, суммаризации, анализа и перевода. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Небольшой размер удобен для локального запуска, а метаданные отмечают интерфейс вызова инструментов; это не гарантирует корректную работу с любыми инструментами. Модель распространяется по лицензии CreativeML Open RAIL-M. Карточка не приводит независимых оценок качества; заявленные способности к сложным рассуждениям и широкой многоязычной работе следует считать описанием разработчика, а не подтверждёнными результатами. В README встречаются несоответствия в названиях моделей и примерах запуска, поэтому их нельзя считать надёжной инструкцией по использованию именно этой версии.
Trurl 2 7B — дообученная Voicelab.AI версия Llama 2 для диалогов и генерации текста на польском и английском языках. Это авторегрессионная плотная трансформерная модель с 6,6 млрд параметров и контекстом до 4096 токенов; репозиторий содержит веса PyTorch. Модель принимает текст и генерирует текст. Модель предназначена для чат-ассистентов, ответов на вопросы и других задач генерации естественного языка. При использовании диалогового режима требуется формат беседы Llama 2 с соответствующими специальными токенами. Обучение проводилось на польских и английских диалоговых и инструкционных данных, включая наборы вопросов и ответов и разговоры из разных областей. Модель может выдавать неточные, предвзятые или нежелательные ответы; перед внедрением рекомендуется тестирование и настройка безопасности под конкретное применение. Авторы заявляют коммерческое и исследовательское использование; конкретная лицензия в предоставленных данных не указана.
UNA-ThePitbull-21.4B-v2-GGUF — квантизированная версия большой языковой модели UNA-ThePitbull 21.4B v2, разработанной fblgit на основе saltlux/luxia-21.4b-alignment-v1.0. Квантизацию в формате GGUF выполнил bartowski с использованием llama.cpp и imatrix. Модель предназначена для генерации текста, диалоговых сценариев, рассуждений и универсальных задач обработки естественного языка. Указанный формат рассчитан на запуск через совместимые инструменты экосистемы llama.cpp. Модель содержит 21,4 млрд параметров и работает в текстовой модальности. В README не указаны поддерживаемые языки и размер контекста. Доступны варианты квантизации от Q4_K_S и Q4_K_M до Q8_0: более компактные варианты требуют меньше памяти, а Q6_K и Q8_0 обеспечивают более высокое качество при существенно большем размере файлов. В оценке Open LLM Leaderboard средний результат составил 77,82; среди отдельных показателей — 91,79 на HellaSwag, 77,73 на ARC, 78,24 на TruthfulQA, 87,37 на Winogrande, 68,25 на MMLU и 63,53 на GSM8K. Сильными сторонами заявлены сочетание разговорных качеств и способности к рассуждению, однако приведённые метрики отражают результаты исходной модели и не гарантируют идентичное качество каждой квантизированной версии. Ограничения включают отсутствие данных о мультимодальности, языковой специализации, контекстном окне и подробных условиях эксплуатации. Модель распространяется по лицензии AFL-3.0.
princeton-nlp/unsup-simcse-roberta-large — модель Princeton NLP для получения векторных представлений предложений. Она основана на архитектуре RoBERTa-large и обучена в рамках метода SimCSE без разметки: к одному и тому же предложению применяются разные маскирования dropout, чтобы обучать устойчивые семантические embedding-представления. Разработчики — исследователи Princeton NLP, включая Tianyu Gao, Xingcheng Yao и Danqi Chen. Модель предназначена для сравнения семантической близости текстов, поиска похожих предложений, sentence retrieval, кластеризации и построения признаков для последующих NLP-задач. Она работает как encoder и feature-extraction модель, а не как генеративная система. Для получения embedding обычно используется представление токена CLS; для unsupervised SimCSE разработчики рекомендуют вариант без дополнительного pooler-преобразования. Максимальная длина входа в конфигурации токенизатора — 512 токенов. Обучение выполнялось на предложениях из English Wikipedia, поэтому модель ориентирована прежде всего на английский язык и не является мультиязычной. В опубликованном авторами списке модель получила средний результат 78.90 на задачах semantic textual similarity (STS), что характеризует её пригодность для оценки семантического сходства. Ограничения включают зависимость качества от языка, домена и способа pooling, ограничение длины входа и отсутствие возможностей генерации текста. На странице репозитория отдельная лицензия для этого чекпойнта не указана, поэтому условия использования следует проверять по исходному репозиторию и базовой модели RoBERTa.
Ilyes разработал модель распознавания французской речи на базе wav2vec2-large-xlsr-53. Это плотная модель с архитектурой Wav2Vec2ForCTC и 402,7 млн параметров, принимающая аудио и преобразующая речь в текст. Модель дообучена и оценена на французской части Common Voice; в карточке указаны WER 12,82% и CER 4,40% на тестовой выборке Common Voice FR. Модель подходит для транскрибации французской речи, например записей и аудиоматериалов. Она распространяется под лицензией Apache-2.0.
facebook/wav2vec2-large-xlsr-53-italian — модель распознавания итальянской речи, опубликованная Facebook. Она основана на архитектуре Wav2Vec2 с выходной головой CTC и примерно 402,7 млн параметров. Модель предназначена для преобразования аудиозаписей на итальянском языке в текст; в карточке приведена оценка на тестовой части Common Voice для итальянского языка — 22,1%. Репозиторий содержит веса PyTorch и Flax. Модель подходит для расшифровки записей и оценки систем распознавания итальянской речи. Лицензия — Apache-2.0. Результат оценки приведён без пояснения метрики, поэтому по карточке нельзя определить, означает ли 22,1% ошибку или другую величину качества.
ctl/wav2vec2-large-xlsr-cantonese — модель распознавания речи, дообученная на базе facebook/wav2vec2-large-xlsr-53 на кантонском языке с использованием корпуса Common Voice. Она принимает аудио с частотой дискретизации 16 кГц и преобразует речь в текст; указана архитектура Wav2Vec2ForCTC с 406,3 млн параметров. Для оценки использовалась тестовая часть Common Voice для китайского (Гонконг); в карточке приведён результат 15,51%, но не уточнена метрика. Модель распространяется по лицензии Apache-2.0.
Модель sumedh/wav2vec2-large-xlsr-marathi разработана на основе facebook/wav2vec2-large-xlsr-53 и дообучена для автоматического распознавания речи на маратхи. Она использует архитектуру Wav2Vec2ForCTC, содержит 402,7 млн параметров и принимает аудио с частотой дискретизации 16 кГц, выдавая распознанный текст. Модель обучена на наборе OpenSLR64, где представлены только женские голоса, и показала WER 12,70% на тестовой части данных; автор сообщает, что она также хорошо работает с мужскими голосами. Подходит для транскрибирования речи на маратхи и создания текстовых расшифровок аудиозаписей. Лицензия — Apache-2.0. Результаты оценки получены на части OpenSLR64, поэтому точность на других записях и условиях может отличаться.
DrishtiSharma/wav2vec2-xls-r-300m-kk-n2 — модель распознавания речи, дообученная на базе facebook/wav2vec2-xls-r-300m на казахской части набора Mozilla Common Voice 8.0. Она принимает аудио и преобразует речь на казахском языке в текст; архитектура — Wav2Vec2ForCTC семейства wav2vec2, размер — 402,7 млн параметров. На тестовой оценке автор сообщает WER 0,451 и loss 0,7149. Модель распространяется по лицензии Apache-2.0.
WestKunai-Hermes-7b — слитая языковая модель, созданная автором seyf1elislam с помощью mergekit и метода DARE TIES. В слиянии использованы saishf/West-Hermes-7B и seyf1elislam/KunaiBeagle-Hermes-7b на основе mistralai/Mistral-7B-v0.1. Модель построена на архитектуре Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Она предназначена для генерации текста по запросам и может применяться в диалогах, ответах на вопросы и задачах рассуждения. Репозиторий содержит веса в формате safetensors; в README также упомянуты квантованные версии GGUF. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. README приводит результаты Open LLM Leaderboard, но не описывает отдельно языковую специализацию или гарантии качества.
LoS Whisper-large-v3 — мультиязычная модель автоматического распознавания речи, разработанная Лабораторией языковых технологий Барселонского суперкомпьютерного центра (BSC) на основе дообучения openai/whisper-large-v3. Модель предназначена для транскрибации речи на испанском, каталанском, галисийском и баскском языках. Модель с архитектурой Whisper содержит 905,2 млн параметров и принимает аудио, выдавая текст. Для дообучения использовали 8 110 часов предварительно обработанных данных; объём данных по четырём языкам выравнивали для сопоставимой производительности. В обучающий набор вошли публичные и институциональные аудиоданные, включая датасеты Common Voice и 3CatParla. Модель подходит для транскрибации записей и аудиоматериалов на поддерживаемых языках. Демографические сведения о говорящих отсутствуют, поэтому в данных могут присутствовать смещения, в том числе из-за использования институциональных материалов. Лицензия — Apache-2.0.
NavAI · whisper-tiny-uzbek — компактная модель распознавания узбекской речи, разработанная NavAI на основе openai/whisper-tiny и дообученная на 753 часах аудио с человеческими расшифровками. В метаданных указано 29,4 млн параметров; README называет размер модели 39 млн. Архитектура — WhisperForConditionalGeneration, веса доступны в формате safetensors и предназначены для использования с Transformers. Модель преобразует узбекскую речь в текст, в первую очередь на латинице (uzn_Latn). Она подходит для транскрибации записей и пакетной обработки аудио; для лучших результатов рекомендуется явно задать язык «uz». Длинные записи обрабатываются окнами по 30 секунд. На четырёх тестовых наборах узбекской речи модель показывает макро WER 18,13% и микро WER 17,2%; качество ниже на энциклопедической речи и редких иностранных именах. Модель слабее справляется с дальними, шумными и выраженно диалектными записями; основной целевой вариант — узбекская речь на латинице. Лицензия модели — Apache-2.0.
WONMSeverusDevil-TIES-7B — объединённая автором jsfs11 языковая модель на архитектуре Mistral, созданная с помощью LazyMergekit из FelixChao/WestSeverus-7B-DPO-v2, jsfs11/WestOrcaNeuralMarco-DPO-v2-DARETIES-7B и mlabonne/Daredevil-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и диалоговых ответов; её контекст составляет до 32 768 токенов. В README приведены результаты оценки на наборах AGIEval, GPT4All, TruthfulQA и Bigbench, однако они не описывают отдельные гарантированные возможности модели. Доступна в формате safetensors по лицензии Apache-2.0. Языки и специализированные предметные области в предоставленных данных не обозначены.
TalTechNLP/xls-r-300m-et — модель распознавания эстонской речи, разработанная в Лаборатории языковых технологий TalTech. Это модель семейства wav2vec 2.0 с архитектурой Wav2Vec2ForCTC, дообученная на основе facebook/wav2vec2-xls-r-300m примерно на 800 часах эстонских аудиоданных. В репозитории указано 402,9 млн параметров; модель принимает аудио и преобразует речь в текст. Модель предназначена для распознавания эстонской речи в передачах, интервью, выступлениях и других общих сценариях. Она включает CTC-модель без отдельной языковой модели. В README приведены результаты WER: 7,9 на jutusaated.devset, 6,1 на jutusaated.testset и 12,5 на Common Voice 6.1. Качество может быть ниже при распознавании технической и узкоспециальной лексики, детской или неродной речи, сильном шуме, удалённом микрофоне, спонтанной и перекрывающейся речи. Лицензия — CC BY 4.0.
aaron-di/Yamshadowexperiment28M70.8-0.49-0.98-0.33-0.09-0.16-7B — объединённая текстовая модель семейства Mistral, созданная на основе AurelPx/Percival_01-7b-slerp и liminerity/M7-7b. Она содержит 7,1 млрд параметров и рассчитана на генерацию текста и диалоговое взаимодействие; в карточке показан пример работы через Transformers с шаблоном чата и генерацией ответа на вопрос. Заявленная длина контекста — 32 768 токенов. Модель принимает текст и выдаёт текст. Репозиторий содержит веса safetensors, лицензия — Apache-2.0. README не описывает результаты оценки качества или специализированную предметную область.
YamshadowStrangemerges_32_Experiment26Strangemerges_32 — объединённая модель MaziyarPanahi на архитектуре Mistral с 7,1 млрд параметров. Она предназначена для генерации текста и поддерживает контекст до 32 768 токенов. Модель объединяет automerger/YamshadowStrangemerges_32-7B и automerger/Experiment26Strangemerges_32-7B. Данные карточки не описывают специальные предметные области или конкретные языки, поэтому её можно характеризовать только как текстовую модель общего назначения. Веса доступны в формате safetensors, лицензия — Apache-2.0.
YamshadowStrangemerges_32_Inex12Yamshadow — языковая модель на архитектуре Mistral, созданная слиянием automerger/YamshadowStrangemerges_32-7B и automerger/Inex12Yamshadow-7B. Она предназначена для генерации текста и принимает текстовые запросы, выдавая продолжение или ответ в текстовом формате. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Веса опубликованы в формате Safetensors. Репозиторий распространяется по лицензии Apache-2.0. Данных о специализации на конкретных языках или областях применения нет.
Abiray/ZAYA1-8B-GGUF — набор GGUF-квантизаций модели ZAYA1-8B, разработанной Zyphra. Модель предназначена для задач генерации текста, сложного рассуждения и локального развертывания при ограниченных ресурсах. ZAYA1-8B использует разреженную Mixture-of-Experts (MoE) архитектуру zaya с механизмом Compressed Convolutional Attention и MLP-router. Всего модель содержит около 8,4 млрд параметров, из которых примерно 760 млн активируются для каждого токена. Доступны варианты квантизации Q3_K_M, Q4_K_S, Q4_K_M, Q5_K_M, Q6_K и Q8_0; рекомендован Q4_K_M как компромисс между потреблением памяти и качеством рассуждений. Сведения о языках, модальностях и размере контекста в README не указаны. К сильным сторонам относятся высокая плотность интеллекта, небольшое число активных параметров на токен и возможность локального запуска. Ограничения связаны с экспериментальной поддержкой архитектуры: для работы требуется самостоятельно собрать llama.cpp из ветки Draft PR #23112, поскольку стандартные релизы пока не распознают необходимые метаданные zaya. Агрессивная квантизация может ухудшать логические способности, а чувствительные слои cca_conv_grp оставлены в более высокой точности. Модель распространяется по лицензии Apache-2.0.
MaziyarPanahi/zephyr-7b-beta-nf4-fp16-upscaled-GGUF — это версия модели arnavgrg/zephyr-7b-beta-nf4-fp16-upscaled в формате GGUF. Исходную модель разработал arnavgrg, а преобразование и квантование выполнил MaziyarPanahi. Модель предназначена для генерации текста и может использоваться в локальных приложениях и интерфейсах, совместимых с GGUF, включая llama.cpp, text-generation-webui, LM Studio, GPT4All и llama-cpp-python. Модель относится к семейству Zephyr и имеет заявленный размер 7B параметров. Репозиторий содержит варианты квантования с разной разрядностью, включая 2-, 3-, 4-, 5-, 6- и 8-битные конфигурации; также упоминается вариант NF4 с восстановлением до FP16 в исходной модели. GGUF удобен для локального запуска и позволяет выбирать компромисс между размером файлов, требованиями к памяти, скоростью и качеством генерации. Поддерживаемые модальности, языки и размер контекстного окна в README не указаны. Сильные стороны модели — широкий выбор квантованных вариантов и совместимость с популярными инструментами локального инференса, включая запуск с GPU. Ограничения связаны с потенциальной потерей качества при низкоразрядном квантовании, а также с отсутствием в предоставленных данных подробных сведений о качестве, бенчмарках, языковой специализации и контекстном окне. Модель распространяется по лицензии Apache-2.0.
A-I-0xtom-7B-slerp — объединённая языковая модель, созданная автором репозитория с помощью LazyMergekit методом SLERP из 0x0dad0/nous_nous_v2_0 и tomaszki/nous-thirty. Это плотная авторегрессионная модель семейства Llama с 7,1 млрд параметров, предназначенная для генерации текста и диалогового общения. Заявленная длина контекста — 32 768 токенов; веса опубликованы в формате SafeTensors, конфигурация слияния использует bfloat16. Модель подходит для генерации ответов и продолжения текста в чат-сценариях. В README приведены результаты оценки на бенчмарках рассуждений и понимания текста, а также средняя оценка потерь; эти показатели сами по себе не гарантируют качество в конкретном применении. Репозиторий распространяется по лицензии Apache-2.0.
AlphaMonarch-daser — диалоговая модель, созданная abideen на основе mlabonne/NeuralMonarch-7B. Это дообученная методом DPO модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста, общения и следования инструкциям. Для обучения использован набор предпочтений argilla/OpenHermes2.5-dpo-binarized-alpha; автор сообщает о 1080 шагах обучения и сочетании методов LaserQLoRA и DoRA с обучением половины проекций. Модель принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. В метаданных указан английский язык. Автор приводит сравнения с родственными вариантами на YALL leaderboard и OpenLLM bench, где результаты различаются в зависимости от бенчмарка. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.
Jebadiah/Aria-p1-sand-stone — объединённая модель генерации текста, созданная с помощью mergekit методом DARE TIES на основе Jebadiah/Aria-Laylelemon-sand-stone с включением Jebadiah/Aria-flammen22x-stone-l3-8b. Модель построена на плотной архитектуре Mistral и содержит 7,1 млрд параметров. Модель предназначена для генерации текста по текстовому запросу. Контекстное окно составляет до 32 768 токенов; репозиторий содержит веса safetensors, а карточка указывает библиотеку Transformers. README не описывает специализированную предметную область или поддерживаемые языки. Карточка не сообщает результаты оценки качества и конкретные ограничения. Условия лицензии в предоставленных данных не приведены.
ArliAI-Llama-3-8B-Instruct-Dolfin-v0.1 — чат-модель OwenArli, дообученная на основе Meta-Llama-3-8B-Instruct с использованием изменённого набора данных Dolphin. Это плотная авторегрессионная модель семейства Llama примерно с 7,5 млрд параметров; она принимает текстовые запросы и генерирует текстовые ответы в формате инструкций Llama 3. Заявленная длина контекста — 8192 токена. Модель предназначена для диалогов и широкого круга общих задач: авторы стремились улучшить следование запросам и выдачу ответов в заданном формате, а также снизить частоту отказов. Обучение выполнялось с QLoRA ранга 64 и alpha 128; в карточке сказано, что обучаемыми были около 2% весов. Авторы не приводят результаты бенчмарков, поэтому качество следует оценивать на собственных запросах. Репозиторий распространяется по лицензии Apache-2.0 в метаданных Hugging Face, однако README указывает на соглашение Meta Llama 3 License для базовой модели; условия использования стоит сверять с обеими лицензиями. Модель может выдавать менее сдержанные ответы и не должна считаться источником проверенных фактов.
MaziyarPanahi/bagel-dpo-7b-v0.1-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная объединением моделей Mistral-7B-Instruct-v0.2 и bagel-dpo-7b-v0.1 методом SLERP. Она предназначена для генерации текста и ответов на инструкции в чат-сценариях. Модель имеет плотную архитектуру MistralForCausalLM и 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка не уточняет целевые языки и специализированные предметные области; возможности и качество для конкретных языков или задач отдельно не описаны.
Bamboo-base-v0_1 — плотная языковая модель на 7,1 млрд параметров, разработанная командой Tiiny. Это причинная модель архитектуры Bamboo с модифицированным блоком FFN: после GLU добавлена ReLU, что, по README, обеспечивает около 85% разреженности активаций и рассчитано на ускорение инференса. Модель предназначена для генерации текста и извлечения признаков; в карточке также заявлено сопоставимое с Mistral-7B качество на ряде тестов. Модель обучалась на 150 млрд токенов, включая англоязычные веб-данные, код и математические тексты. Контекст составляет до 32 768 токенов. Она подходит для генерации и продолжения английского текста, а также для исследовательских экспериментов с разреженными LLM и ускорением вывода. Поддержка других языков ограничена. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. README отмечает возможные пробелы в качестве на отдельных задачах и вероятностный характер генерации, который может приводить к неожиданным ответам.