III.8Договоры, юридическая работа и compliance

Jennny/llama3_8b_sft_ultrafb — дообученная модель на архитектуре Llama 3.1 от Meta, опубликованная пользователем Jennny. Модель содержит 7,5 млрд параметров и обучена методом supervised fine-tuning с использованием TRL на наборе allenai/ultrafeedback_binarized_cleaned. Она предназначена для генерации текста в диалоговом формате и ответов на пользовательские запросы. Модель принимает текст и выдаёт текст; максимальная длина контекста составляет 131 072 токена. Поддерживаемые языки включают языки базовой Llama 3.1, но конкретные языки в карточке этой модели не перечислены. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия в предоставленных данных не указана.

Llama-3-KafkaLM-8B-v0.1 — языковая модель Seedbox, обученная Dennis Dickmann на базе Llama 3 8B. Это плотная авторегрессионная модель для генерации текста и диалогового взаимодействия; она содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Модель дообучена на отфильтрованной версии набора multitask_german_examples_32k, в котором собраны открытые инструкции, переведённые с английского на немецкий. Она предназначена для повседневных задач на немецком языке, в том числе для применения в деловом контексте, и также поддерживает английский. Автор отмечает, что ответы могут быть творческими и иногда выходить за рамки обычной языковой сдержанности. Модель распространяется в формате safetensors и использует лицензию Llama 3 со всеми её ограничениями и ограничениями обучающих наборов данных. Автор указывает исследовательскую цель использования; это само по себе не означает, что модель является экспериментальным исследовательским чекпойнтом.

Llama3-PBM-Nova-70B — диалоговая языковая модель, разработанная PKU-Baichuan-MLSysLab на основе Llama-3-70B. Модель содержит 69,5 млрд параметров, использует плотную архитектуру Llama и рассчитана на контекст до 8192 токенов. Для адаптации к диалогам базовую модель дообучили с помощью supervised fine-tuning (SFT) и обучения с подкреплением на основе обратной связи людей (RLHF), используя очищенные и синтетические открытые данные. Модель предназначена для генерации текста в формате чата и может применяться для ответов на вопросы, ведения диалогов и подготовки текстовых черновиков. В README приведены результаты сравнительных оценок на Arena-Hard, MixEval-Hard и Alpaca-Eval 2.0, но эти показатели не гарантируют качество в конкретных сценариях. Доступны веса в формате safetensors для библиотеки Transformers. Лицензия — Llama 3 License; перед использованием следует учитывать её условия.

MaziyarPanahi/M7Yamshadowexperiment28_Strangemerges_32Yam — слитая модель семейства Mistral, созданная на основе automerger/M7Yamshadowexperiment28-7B и automerger/Strangemerges_32Yam-7B. Она предназначена для генерации текста и поддерживает контекст до 32 768 токенов. Модель содержит 7,1 млрд параметров и распространяется в формате safetensors. Модель подходит для диалогов, создания черновиков и продолжения текста, а также для работы с длинными текстовыми запросами. В карточке не приведены оценки качества и сведения о специальной настройке для конкретных областей. Лицензия — Apache-2.0.

Magnum v2 32B GGUF — это квантизированные варианты текстовой генеративной модели Anthracite, разработанные командой Anthracite и созданные на основе Qwen1.5 32B. Модель дообучалась для воспроизведения качества прозы моделей Claude 3, прежде всего Sonnet и Opus, и предназначена для диалогов, генерации текста, выполнения инструкций и задач, где важны качество и структура письменного ответа. Модель поддерживает текстовую модальность и ориентирована на английский и китайский языки. Она содержит около 32 миллиардов параметров, распространяется в формате GGUF и использует ChatML для форматирования диалоговых запросов. В README не указана длина контекстного окна и не приведены сведения о конкретных вариантах квантизации, производительности или системных требованиях. Дообучение проводилось в течение двух эпох на наборах данных, связанных с диалогами, рассуждениями и качественной прозой. К сильным сторонам относятся крупный размер, ориентация на естественную и выразительную генерацию текста, а также поддержка локального запуска через совместимые инструменты для GGUF. Ограничения включают отсутствие подробных оценок качества, неполные сведения о безопасности и неизвестные характеристики отдельных квантизированных сборок. Лицензия обозначена как other с названием tongyi-qianwen; в качестве текста лицензии указана лицензия Qwen2-72B-Instruct.

MeliodasPercival_01_YamExperiment24 — объединённая модель на архитектуре Mistral, созданная из automerger/MeliodasPercival_01-7B и automerger/YamExperiment24-7B. Она предназначена для генерации текста и диалогов. Модель содержит 7,1 млрд параметров, поддерживает контекст до 32 768 токенов и распространяется в формате Safetensors. Лицензия — Apache-2.0.

Mistral-Small-2501-SCE-Mashup-24B — объединённая текстовая модель, созданная сообществом mergekit-community методом SCE на основе unsloth/Mistral-Small-24B-Base-2501 и нескольких дообученных моделей семейства Mistral и других текстовых моделей. Она предназначена для генерации текста и диалогового общения. Модель использует плотную архитектуру MistralForCausalLM, содержит 23,4 млрд параметров и поддерживает контекст до 32 768 токенов. В состав слияния вошли модели ArliAI, ReadyArt, TheDrummer, arcee-ai, PocketDoc и trashpanda-org. Репозиторий содержит веса в формате safetensors и рассчитан на использование через Transformers. Сведения о лицензии в предоставленных данных отсутствуют.

muhtasham/Phi-3.5-vision-instruct_20240915_223241 — дообученная версия мультимодальной Phi-3.5-vision-instruct от Microsoft. В карточке указано, что модель обучалась на датасете со средним размером 1,8 млн, но его название не приведено. Модель предназначена для диалоговой генерации текста. Базовая модель поддерживает работу с текстом и изображениями, включая ответы на вопросы по изображениям, OCR, анализ документов и суммирование видеоклипов по кадрам; README не уточняет, сохраняются ли все эти возможности после дообучения. Архитектура — плотная Phi3VForCausalLM, объём — 3,7 млрд параметров, библиотека — Transformers, формат весов — safetensors, указанная длина контекста — 4096 токенов. Карточка не содержит результатов оценки качества и конкретных рекомендаций по применению. Модель распространяется по лицензии MIT.

T3qm7xNeuralsirkrishna_Strangemerges_32Experiment28 — объединённая модель для генерации текста на архитектуре Mistral с 7,1 млрд параметров. Она создана путём слияния automerger/T3qm7xNeuralsirkrishna-7B и automerger/Strangemerges_32Experiment28-7B. Модель предназначена для генерации текста и диалоговых сценариев. Она принимает текст и поддерживает контекст до 32 768 токенов; веса опубликованы в формате Safetensors. Лицензия — Apache 2.0.

AxeronAI создала axeron-mf-44 — языковую модель для генерации текста, полученную слиянием Qwen/Qwen2.5-3B и Qwen/Qwen2.5-3B-Instruct методом SLERP с коэффициентом t=0,5. Модель использует плотную архитектуру Qwen2ForCausalLM, содержит 3,1 млрд параметров и доступна в формате safetensors для библиотеки Transformers. Модель принимает текст и предназначена для диалогов и генерации ответов. Контекстное окно составляет 32 768 токенов. В карточке не приведены результаты оценки качества или подтверждённый перечень языков; базовая линейка Qwen2.5 многоязычна. Лицензия в предоставленных данных не указана.

duyntnet/aya-expanse-8b-imatrix-GGUF — набор GGUF-квантизаций модели Aya Expanse 8B, разработанной Cohere For AI. Это открытая исследовательская большая языковая модель для генерации текста и диалоговых сценариев с выраженной ориентацией на мультиязычность. Модель основана на предварительно обученном семействе Command и дополнительно улучшалась с применением исследований Cohere For AI в области оптимизации данных, мультиязычного обучения на предпочтениях, настройки безопасности и объединения моделей. Модель содержит около 8 миллиардов параметров и поддерживает 23 языка: арабский, китайский упрощённый и традиционный, чешский, нидерландский, английский, французский, немецкий, греческий, иврит, хинди, индонезийский, итальянский, японский, корейский, персидский, польский, португальский, румынский, русский, испанский, турецкий, украинский и вьетнамский. README не указывает размер контекста и точную архитектуру. Для работы с GGUF-квантизациями заявлена совместимость с llama.cpp, KoboldCPP, Ollama, text-generation-webui, GPT4All и Jan. Сильная сторона модели — широкая языковая поддержка и ориентация на мультиязычную генерацию текста. Ограничения включают исследовательский статус, отсутствие сведений о конкретных вариантах квантизации, контекстном окне и результатах бенчмарков. Исходная модель распространяется по лицензии CC-BY-NC с обязательным соблюдением политики допустимого использования C4AI; условия для данного набора квантизаций следует проверять отдельно.

CatMacaroni-Slerp — объединённая модель на основе архитектуры Mistral, созданная методом Slerp Merge из AIDC-ai-business/Marcoroni-7B-v3 и rishiraj/CatPPT-base. Репозиторий содержит веса в формате safetensors; модель насчитывает 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и сценариев общения с языковой моделью. В README указано, что 20 декабря 2023 года она занимала первое место в OpenLLM Leaderboard среди моделей класса 7B; это заявление относится к указанной дате и не гарантирует текущего качества. Модель выпущена под лицензией Apache-2.0.

Moritz Laurer опубликовал мультиязычную модель классификации последовательностей на архитектуре ERNIE-M с 658,7 млн параметров. Она дообучена для вывода о естественном языке (NLI) на данных XNLI и английского MNLI и подходит для классификации текстов по заданным пользователем категориям без отдельного обучения на этих категориях. Модель сравнивает посылку и гипотезу, определяя, следует ли гипотеза из текста, противоречит ему или не связана с ним. Это позволяет классифицировать тексты по кандидатным меткам и выполнять NLI на многих языках. README сообщает о поддержке 100 языков; оценки приведены для 15 языков XNLI, а для остальных качество может быть ниже. Максимальная длина контекста — 514 токенов. Модель основана на ERNIE-M от Baidu, предварительно обученной на основе RoBERTa на многоязычном корпусе CC100. В README отмечено, что она превосходит RoBERTa сопоставимого размера. Доступны веса PyTorch и safetensors; лицензия — Apache-2.0. К ограничениям относятся возможное снижение качества на языках вне оценки XNLI и потенциальные смещения, связанные с данными NLI. Для архитектуры требуется Transformers версии 4.27 или новее.

Columbidae/gemma-2-4b-it-upscaled — разговорная языковая модель семейства Gemma 2, созданная слиянием предобученных моделей через mergekit методом Passthrough. В состав слияния вошла unsloth/gemma-2-2b-it; метаданные также указывают на неё как на базовую модель. Модель содержит 3,9 млрд параметров, использует плотную архитектуру Gemma2ForCausalLM и рассчитана на контекст до 8192 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно использовать для ответов на запросы, ведения беседы и создания текстовых черновиков. В карточке указана лицензия, однако доступные сведения её не раскрывают.

Google Gemma 3 1B IT QAT Q4_0 Unquantized — компактная диалоговая модель на базе Gemma 3 1B IT. Репозиторий указан как дообучение google/gemma-3-1b-it; метаданные описывают чат-возможности и формат safetensors. Несмотря на название QAT Q4_0 Unquantized, доступные сведения не подтверждают, что в репозитории размещены квантизованные веса. Модель предназначена для диалоговой генерации текста, ответов на вопросы и суммаризации. README семейства Gemma 3 также описывает мультимодальный ввод изображений, однако метаданные этой конкретной модели подтверждают только задачу text-generation, поэтому поддержку изображений нельзя считать установленной для данного репозитория. В README для семейства заявлены контекст до 128K токенов и поддержка более 140 языков; эти характеристики не подтверждены отдельно для данного варианта. Модель может давать неточные или устаревшие сведения, испытывать трудности с неоднозначными и сложными запросами, а также воспроизводить смещения из обучающих данных. Лицензия — Gemma; использование регулируется условиями лицензии Google Gemma и соответствующей политикой допустимого использования.

Gemma 3 270M — компактная языковая модель семейства Gemma от Google, созданного на основе исследований и технологий Gemini. Репозиторий содержит текстовую версию модели в формате safetensors, предназначенную для генерации текста; размер 270 млн параметров следует из идентификатора модели. Лицензия — Gemma. Модель подходит для генерации и преобразования текста, диалоговых интерфейсов, суммаризации и ответов на вопросы. Компактный размер облегчает запуск на устройствах и инфраструктуре с ограниченными ресурсами. В README для семейства Gemma 3 указаны окно контекста 128K и поддержка более 140 языков, но эти характеристики не подтверждены отдельно для текстовой версии на 270M. Качество ответов зависит от обучающих данных и формулировки запроса; модель может упускать языковые нюансы, допускать фактические ошибки и испытывать трудности со сложными открытыми задачами. README описывает мультимодальные возможности семейства, однако данный репозиторий помечен как text-generation, поэтому визуальный ввод не заявлен для этой модели.

Карточка модели KR-X-AI/krx-gemma-2-9b-8-16-32-tb-3 на Hugging Face совпадает с карточкой KR-X-AI/krx-gemma-2-9b-4-8-8-tb-3, поэтому описание составлено по ней. KR-X-AI выпустила разговорную модель генерации текста на базе Gemma 2. Это дообучение unsloth/gemma-2-9b-it-bnb-4bit с использованием Unsloth и библиотеки TRL; модель содержит 9 млрд параметров, использует плотную архитектуру Gemma2 и поддерживает контекст до 8192 токенов. Она предназначена для диалогов и генерации текста по запросу. Модель принимает текст и выдаёт текст; в метаданных указан английский язык. Репозиторий распространяется по лицензии Apache-2.0.

Карточка модели Sheraz11222333/LFM2.5-VL-3B на Hugging Face совпадает с карточкой unsloth/LFM2.5-VL-3B, поэтому описание составлено по ней. LFM2.5-VL-3B — мультимодальная модель Liquid AI для анализа изображений и текста, адаптированная Unsloth на основе LiquidAI/LFM2.5-VL-3B. Она сочетает языковую основу LFM2.5-2.6B с визуальным энкодером SigLIP2 NaFlex размером 400 млн параметров и предназначена для эффективного запуска на устройствах и в сценариях с высокой пропускной способностью. Модель принимает изображения и текст, поддерживает диалог, вызов инструментов и 16 языков, включая русский. Контекст составляет 32 768 токенов; большие изображения обрабатываются по частям и с уменьшенной копией целого изображения. Модель подходит для распознавания текста с сохранением структуры страницы, поиска объектов по текстовому запросу и ответов на вопросы об изображениях. Среди рекомендованных сценариев — пакетная обработка сканов, обнаружение объектов с малой задержкой и перевод надписей на изображениях. Разработчик сообщает о скорости до 228 токенов в секунду на Apple M5 Max и работе примерно в 3 ГБ памяти. Модель не рекомендуется для задач с длинным контекстом и сложными рассуждениями; формат разметки OCR указан как экспериментальный и может быть ненадёжным. В метаданных лицензия обозначена как other; конкретные условия следует сверить с карточкой модели.

Это диалоговая языковая модель с архитектурой Llama 3, дообученная автором yaystevek на наборе OpenHermes 2.5. В основе лежит 4-битная instruct-версия Llama 3 8B от Unsloth; модель содержит около 7,5 млрд параметров и рассчитана на контекст до 8192 токенов. В карточке также упомянуты варианты GGUF в форматах F16 и Q4_K_M. Модель предназначена для генерации текста в диалогах и ответов на запросы пользователя. Автор отмечает, что при дообучении уделил внимание сохранению и усилению корректной структуры токенов конца последовательности. В метаданных указан английский язык. Лицензия обозначена как other, а README указывает на условия Meta Llama 3 Community License Agreement; перед применением следует ознакомиться с её условиями.

Luminum-v0.1-123B — объединённая языковая модель FluffyKaeloky на архитектуре MistralForCausalLM, созданная с помощью метода della_linear на основе Mistral Large Instruct 2407 с добавлением Lumimaid-v0.2-123B и Magnum-v2-123B. Модель содержит 122,2 млрд параметров и поддерживает контекст до 131 072 токенов; автор сообщает об успешном тестировании длинных запросов свыше 32 тысяч токенов, обычно до 40–50 тысяч. Модель предназначена для диалогов, генерации текста и творческих описаний. По оценке автора, она сочетает возможности базовой Mistral Large, характерную лексику Lumimaid и описательность Magnum, сохраняя ответы менее многословными, чем Magnum. Используется шаблон Mistral [INST] ... [/INST]; заявлены интерфейс вызова инструментов и варианты файлов GGUF и EXL2. Модель может выдавать чрезмерно длинные ответы, если не ограничивать их длину. README не сообщает лицензию; условия использования следует сверить с карточкой и лицензиями компонентов слияния.

M7Yamshadowexperiment28_Experiment24Ognoexperiment27 — объединённая модель генерации текста на архитектуре Mistral, созданная из automerger/M7Yamshadowexperiment28-7B и automerger/Experiment24Ognoexperiment27-7B. Она предназначена для генерации продолжений текста и диалоговых ответов; модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель принимает текст и выдаёт текст. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Сведений о специализированной предметной области или дополнительных ограничениях качества в карточке нет.

MeliodasPercival_01_Strangemerges_32Ogno — объединённая модель семейства Mistral, созданная на основе automerger/MeliodasPercival_01-7B и automerger/Strangemerges_32Ogno-7B. Она содержит 7,1 млрд параметров и предназначена для генерации текста, включая диалоги, с контекстом до 32 768 токенов. Модель принимает текст и выдаёт текст. Веса доступны в формате safetensors; лицензия — Apache-2.0. README не приводит сведений о специализации модели или результатах оценки качества.

NickyNicky/Mistral-7B-OpenOrca-oasst_top1_2023-08-25-v1 — диалоговая языковая модель на архитектуре Mistral, созданная на основе Open-Orca/Mistral-7B-OpenOrca. В README также указан набор OpenAssistant/oasst_top1_2023-08-25; название модели указывает на версию, связанную с этим набором, но подробности обучения в карточке не приведены. Модель предназначена для генерации текста и диалоговых сценариев. Она содержит 7,1 млрд параметров, работает с текстом и имеет контекст длиной до 32 768 токенов. Карточка заявляет поддержку болгарского, каталанского, чешского, датского, немецкого, английского, испанского, французского, хорватского, венгерского, итальянского, нидерландского, польского, португальского, румынского, русского, словенского, шведского и украинского языков. Модель распространяется в формате PyTorch по лицензии Apache-2.0. Карточка не содержит результатов оценки качества или подробных сведений о поведении модели, поэтому качество ответов для конкретных языков и задач следует проверять отдельно.

Moritz Laurer дообучил encoder-модель answerdotai/ModernBERT-base на той же смеси датасетов, что и модели коллекции Zeroshot Classifiers Collection версии zeroshot-v2.0. Это модель классификации текста для zero-shot сценариев: её можно применять к задачам, где нужно отнести текст к заданным категориям без отдельного обучения классификатора под каждую задачу. Веса содержат около 149 млн параметров; архитектура — ModernBERT для классификации последовательностей, максимальный контекст — 8192 токена. Модель отличается высокой скоростью и низким потреблением памяти; автор отмечает, что она позволяет использовать большие пакеты и что bf16 ускоряет работу примерно вдвое по сравнению с fp16. В описанных автором испытаниях качество в среднем немного уступало DeBERTav3. Модель распространяется под лицензией Apache-2.0; доступны форматы Safetensors и ONNX.

MPT-30B-Instruct 8-bit — 8-битная версия модели MPT-30B-Instruct, разработанной MosaicML. Это плотная авторегрессионная языковая модель с модифицированной архитектурой decoder-only Transformer, FlashAttention и ALiBi; в исходной модели около 29,95 млрд параметров и 48 слоёв. Модель предназначена для коротких ответов на инструкции и диалоговых запросов. Её дообучили на данных, производных от Databricks Dolly-15k и Anthropic HH-RLHF, а также на наборах для математики, вопросов и ответов, суммаризации и работы с базами данных. Модель принимает текст и генерирует текст. Карточка описывает англоязычный пример, но не задаёт полный перечень поддерживаемых языков. Файлы опубликованы в формате safetensors; для загрузки через Transformers требуется trust_remote_code=True. Лицензия — CC-BY-SA-3.0. Модель может выдавать фактически неверные, предвзятые или оскорбительные ответы, поэтому её результаты требуют проверки.

Nona-Qwen2.5-v0.1 — объединённая языковая модель, созданная win10 с помощью mergekit и метода TIES. В основе объединения лежат FreedomIntelligence/Apollo2-7B и win10/Urdandi-Qwen2.5-7B. Модель построена на архитектуре Qwen2, содержит 7,1 млрд параметров и принимает текст для генерации текста в диалоговом формате. Заявленная длина контекста — 131 072 токена. Модель подходит для диалоговой генерации текста и задач, поддерживаемых её объединёнными компонентами. В метаданных указан тег text-generation и возможность чата. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Сведения о лицензии и конкретных ограничениях качества в предоставленных источниках отсутствуют.

Qwen-Mix-7B — мультиязычная разговорная модель для генерации текста, созданная объединением трёх моделей Qwen2 с помощью mergekit и метода model_stock. Она содержит 7,1 млрд параметров, использует плотную архитектуру Qwen2 и поддерживает контекст до 32 768 токенов. Модель подходит для диалога и генерации ответов на текстовые запросы. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Карточка не описывает конкретные языки, кроме указания на мультиязычность, и не приводит оценок качества или подробных ограничений применения.

Карточка модели TigerByteCyber/roberta-large-zeroshot-v2.0-c на Hugging Face совпадает с карточкой MoritzLaurer/roberta-large-zeroshot-v2.0-c, поэтому описание составлено по ней. MoritzLaurer/roberta-large-zeroshot-v2.0-c — модель классификации текста с нулевым обучением, разработанная Морицем Лаурером на основе RoBERTa Large. Она определяет, следует ли считать заданную гипотезу истинной или ложной относительно входного текста; pipeline Hugging Face позволяет использовать этот подход для классификации по категориям без обучающих примеров. Модель содержит 454,1 млн параметров, принимает текстовые последовательности длиной до 514 токенов и построена на архитектуре RobertaForSequenceClassification. Доступны веса Safetensors и формат ONNX. Модель предназначена для классификации отзывов, тем, намерений и других текстов, когда нет размеченных данных для обучения. Её обучали на синтетических примерах, созданных Mixtral-8x7B-Instruct-v0.1, и наборах MNLI и FEVER-NLI; автор сообщает об оценке на 28 задачах классификации. Английский указан как язык карточки. Лицензия репозитория — MIT, а суффикс «-c» означает, что для обучения использовались данные, обозначенные автором как коммерчески совместимые. Модель поддерживает выбор одного или нескольких классов через настройку multi_label. Качество зависит от формулировки гипотезы и названий категорий; автор отмечает возможные смещения из-за базовой модели, данных NLI и синтетических данных. Она рассчитана только на классификацию текста и может работать медленнее более компактного варианта RoBERTa.

Sonar Reasoning Pro — модель рассуждений Perplexity, работающая на базе DeepSeek R1 и использующая цепочку рассуждений. Она предназначена для ответов на сложные запросы с опорой на поиск Perplexity; стоимость Sonar Pro включает стоимость поиска Perplexity. Доступный фрагмент карточки обрывается до подробностей о возможностях и ограничениях модели.

Synthia-70B-v1.2b — языковая модель от SynthIA, созданная на базе Llama 2 70B и дообученная на данных в стиле Orca. Она предназначена для выполнения инструкций, диалогов и генерации развёрнутых текстовых ответов. Модель содержит 68,7 млрд параметров, использует плотную архитектуру LlamaForCausalLM и рассчитана на контекст до 4096 токенов. Карточка приводит результаты оценки на ARC Challenge и HellaSwag. Модель принимает текст и генерирует текст на английском языке. Автор характеризует её как uncensored и предупреждает о возможности ошибочных, предвзятых, оскорбительных или неподходящих ответов; результаты следует проверять. Лицензия — Llama 2.