III.8Договоры, юридическая работа и compliance

vikasaarna/mistral-7b-instruct-rigtuned-v0.1 — дообученная автором vikasaarna чат-модель на основе unsloth/mistral-7b-instruct-v0.3-bnb-4bit. Она использует плотную архитектуру MistralForCausalLM с 7,1 млрд параметров и предназначена для генерации текста в диалогах и других сценариях, где требуется продолжить текстовый запрос. Модель принимает текст и генерирует текст; заявленная длина контекста составляет 32 768 токенов. Карточка указывает английский язык. Модель обучалась с использованием Unsloth и библиотеки TRL от Hugging Face. Репозиторий распространяется по лицензии Apache-2.0.

Moritz Laurer дообучил англоязычный энкодер answerdotai/ModernBERT-large на той же смеси данных, что и модели коллекции Zeroshot Classifiers Collection версии zeroshot-v2.0. Модель предназначена для классификации текста по заданным меткам в режиме zero-shot: пользователь задаёт текст и варианты категорий, а модель оценивает их применимость. В Hugging Face она опубликована как модель text-classification с архитектурой ModernBertForSequenceClassification; размер составляет 394,7 млн параметров, контекст — до 8192 токенов. Доступны веса Safetensors и формат ONNX, используется библиотека Transformers. Автор отмечает высокую скорость и экономное использование памяти по сравнению с DeBERTav3, что позволяет увеличивать размер пакета; в его экспериментах bf16 давал примерно двукратное ускорение относительно fp16. В среднем на проверенных задачах качество немного уступало DeBERTav3. Модель дообучена на данных версии zeroshot-v2.0, а автор сообщал о подготовке обновлённой версии с улучшенными синтетическими данными. Лицензия — Apache-2.0.

bigscience/mt0-xl — мультиязычная модель BigScience для выполнения инструкций на естественном языке. Она основана на архитектуре encoder-decoder mT5-XL и дообучена на смеси межъязыковых задач xP3, чтобы обобщать инструкции на ранее не встречавшиеся задачи и языки. Модель содержит 1,9 млрд параметров и предназначена для генерации текста по запросу, включая перевод, ответы на вопросы, классификацию по текстовой инструкции и создание историй. Модель принимает текстовые запросы и выдаёт текст. В карточке указана поддержка десятков языков; примеры охватывают перевод с французского, запросы на вьетнамском и испанском и ответ на телугу. Опубликована в форматах PyTorch и safetensors, лицензия — Apache-2.0. Качество зависит от формулировки запроса: рекомендуется ясно обозначать границы входного текста и задавать нужный язык ответа. Модель обучена на мультиязычных данных, но её результаты на разных языках и задачах могут различаться.

zelk12/MT3-Gen5-BMU-gemma-2-9B — слитая модель Gemma 2 на 9 млрд параметров, созданная автором репозитория с помощью mergekit методом SLERP из двух предварительно обученных моделей. Она предназначена для генерации текста и диалогового общения; такие модели можно применять для ответов на запросы и создания связного текста. Модель использует архитектуру Gemma2ForCausalLM, работает с текстом и поддерживает контекст до 8192 токенов. Репозиторий содержит веса в формате safetensors; в конфигурации слияния указан тип bfloat16. Карточка не описывает специальные языковые или предметные специализации, поэтому модель следует считать общего назначения. Лицензия в предоставленных данных не указана.

zelk12/MT4-Gen5-MA-gemma-2-MT4g2MT3g4-9B — объединённая с помощью mergekit методом SLERP языковая модель на архитектуре Gemma 2 с 9 млрд параметров. Она создана из zelk12/MT3-Gen4-gemma-2-9B и zelk12/MT4-Gen2-gemma-2-9B и предназначена для генерации текста и диалогового общения. Модель принимает текст и выдаёт текст; заявленная длина контекста — 8192 токена. Репозиторий содержит веса в формате safetensors, библиотека для работы — Transformers. В карточке нет сведений о поддерживаемых языках и лицензии, поэтому их нельзя надёжно описать.

zelk12 выпустил разговорную языковую модель MT-Merge4-MU-gemma-2-MT3g4MT1g4-9B — объединение двух предварительно обученных моделей Gemma 2 с помощью SLERP и mergekit. Модель имеет плотную архитектуру Gemma2ForCausalLM и 9 млрд параметров; репозиторий содержит веса в формате safetensors. Она предназначена для генерации текста и ведения диалогов, принимает текст и выдаёт текст. Модель основана на zelk12/MT1-Gen4-gemma-2-9B и zelk12/MT3-Gen4-gemma-2-9B; в конфигурации для объединения указаны bfloat16 и параметр t=0.25. Максимальная длина контекста — 8192 токена. Лицензия в предоставленных данных не указана.

zelk12 объединил методом SLERP две предварительно обученные языковые модели Gemma 2: zelk12/MTM-Merge-BB-gemma-2-MTMMTM5-9B и zelk12/MTM-Merge-IF-gemma-2-MTMMTM1-9B. Модель содержит 9 млрд параметров, использует плотную архитектуру Gemma2ForCausalLM и рассчитана на генерацию текста и диалоговые ответы с контекстом до 8192 токенов. Модель можно применять для ведения диалогов и генерации текста в сценариях, где подходит универсальная языковая модель. Веса опубликованы в формате Safetensors; в карточке указана библиотека Transformers. Сведения о лицензии и языковой специализации в предоставленных данных отсутствуют.

NeuralsirkrishnaShadow_Strangemerges_32Ogno — объединённая языковая модель, созданная на основе automerger/NeuralsirkrishnaShadow-7B и automerger/Strangemerges_32Ogno-7B. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и примерно 7,1 млрд параметров. Модель предназначена для генерации текста. Она принимает текстовые запросы и продолжает их, что подходит для диалогов, черновиков и других задач на основе текстовой генерации. Поддерживаемые языки и специализация сверх этого в доступных сведениях не описаны. Контекстное окно составляет 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. Доступные сведения не описывают качество объединения, результаты оценивания или специальные ограничения применения.

Neuronovo-9B-v0.4 — языковая модель Jan Kocoń для генерации текста и диалоговых ответов. Она основана на архитектуре Mistral и содержит 8,9 млрд параметров; модель распространяется в формате safetensors и рассчитана на контекст до 32 768 токенов. При обучении использованы наборы Intel/orca_dpo_pairs и mlabonne/chatml_dpo_pairs, предназначенные для настройки диалогового поведения. Версия v0.4 также использует токенизатор Neuronovo-9B-v0.2 и обучалась одну эпоху с низкой скоростью обучения. Модель подходит для интерактивных сценариев и генерации ответов на текстовые запросы. В метаданных указан английский язык. Модель выпущена под лицензией Apache-2.0. README не приводит результаты оценивания, поэтому качество на конкретных задачах и устойчивость ответов по этим данным оценить нельзя.

Gunulhona/Openchat-Llama-Merge — объединение предварительно обученных языковых моделей, созданное с помощью mergekit методом SLERP. В него вошли meta-llama/Meta-Llama-3.1-8B и openchat/openchat-3.6-8b-20240522; конфигурация использует bf16. Модель относится к семейству Llama, имеет плотную архитектуру LlamaForCausalLM и содержит 7,5 млрд параметров. Модель предназначена для генерации текста и диалогового общения. Контекст составляет 8192 токена. Репозиторий использует библиотеку Transformers и формат safetensors. Языки в предоставленных данных не перечислены. Условия лицензии в доступных источниках не приведены.

PasticheInex12-7B — объединённая модель для генерации текста, созданная Maxime Labonne с помощью автоматического слияния двух моделей Mistral: CorticalStack/pastiche-crown-clown-7b-dare и MSL7/INEX12-7b. В README указаны метод слияния SLERP и формат весов bfloat16; размер модели — 7,1 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев. Лицензия — Apache-2.0. README и метаданные не уточняют поддерживаемые языки или специализированные предметные области.

sfm_filtered_e2e_alignment-6k_7k_8k_9k_10k_weightedavg_merge — объединение языковых моделей, созданное с помощью mergekit. В карточке указано линейное слияние контрольных точек обучения на шагах 6000, 7000, 8000, 9000 и 10000; контрольная точка шага 10000 использовалась как базовая при слиянии. Модель имеет архитектуру GPT-NeoX, около 8,8 млрд параметров и контекстное окно до 16 384 токенов. Она предназначена для генерации текста и диалогового взаимодействия. Данные не уточняют конкретные языки, предметные области или специальные сценарии применения. Модель распространяется в формате Safetensors. Лицензия в предоставленных данных не указана.

T3qm7xNeuralsirkrishna_Multi_verse_modelExperiment28 — объединённая авторами репозитория модель семейства Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров. Она предназначена для генерации текста и диалогов, принимает текст и поддерживает контекст до 32 768 токенов. Модель объединяет automerger/T3qm7xNeuralsirkrishna-7B и automerger/Multi_verse_modelExperiment28-7B. Веса опубликованы в формате safetensors. Карточка не уточняет специализацию модели, языки или сравнительное качество, поэтому её можно характеризовать только как модель генерации общего назначения. Лицензия — Apache-2.0.

TopEvolution16 — объединённая языковая модель для генерации текста, созданная сообществом mergekit-community с помощью mergekit. В слиянии методом SLERP использованы mergekit-community/TopEvolution и NousResearch/Hermes-2-Theta-Llama-3-8B; в метаданных архитектура указана как MistralForCausalLM, плотная модель на 7,1 млрд параметров. Репозиторий содержит веса Safetensors, исходная конфигурация слияния задаёт тип bfloat16. Модель предназначена для генерации текста и диалоговых сценариев. Контекстное окно составляет 32 768 токенов. Базовая модель Hermes-2-Theta-Llama-3-8B описана как диалоговая модель на базе Llama 3 для следования инструкциям, вызова функций и генерации ответов в JSON; эти возможности не подтверждены отдельно для результата слияния. Лицензия в предоставленных данных не указана.

Babel-9B-Chat — языковая чат-модель семейства Tower-Babel, разработанная командой Tower-Babel. Представлена в формате GGUF и квантизирована bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через LM Studio, llama.cpp и другие совместимые проекты. Модель содержит около 9 миллиардов параметров и поддерживает мультиязычную работу. В README заявлены английский, китайский, хинди, испанский, французский, арабский, бенгальский, русский, португальский, индонезийский, урду, немецкий, японский, суахили, тамильский, турецкий, корейский, вьетнамский, яванский, итальянский, хауса, тайский, персидский, тагальский и бирманский языки. Данные о размере контекстного окна, архитектуре базовой модели и поддержке модальностей, кроме текста, не указаны. Основное преимущество представленной версии — выбор квантизаций с разным соотношением качества, размера и требований к памяти: от Q8_0 размером 9,58 ГБ до низкобитных вариантов примерно от 3,9 ГБ. Рекомендуемыми названы, в частности, Q4_K_M, Q5_K_M, Q6_K и Q6_K_L. Более компактные варианты экономят память, но могут заметно снижать качество; некоторые форматы являются устаревшими или не рекомендуются. Лицензия указана как seallm; применяются условия лицензии SeaLLM, ссылка на которую приведена в карточке модели.

Wiedervereinigung-7b-dpo-laser — немецкоязычная чат-модель с 7,1 млрд параметров, разработанная Mayflower GmbH. Она построена на архитектуре Mistral и объединяет четыре модели: DiscoResearch/DiscoLM_German_7b_v1, DRXD1000/Phoenix, VAGOsolutions/SauerkrautLM-7b-v1-mistral и malteos/hermeo-7b. После объединения модель дообучили методом DPO на немецком переводе набора Intel Orca DPO, затем применили обработку laserRMT на немецких данных. Модель предназначена для генерации текста и диалогов на немецком языке. Её можно применять для написания текстов, ролевых диалогов, извлечения информации и ответов на вопросы; в карточке также приведены результаты тестирования по категориям STEM и гуманитарных дисциплин. Поддерживается контекст до 32 768 токенов. По README, качество в математике, программировании и рассуждениях может быть слабее, чем в письме и гуманитарных темах. Модель распространяется под лицензией Apache-2.0.

Модель mt1234/1234456 — разговорная языковая модель, дообученная разработчиком mt1234 на базе unsloth/phi-4-unsloth-bnb-4bit с помощью Unsloth и библиотеки TRL. Она предназначена для генерации текста в диалогах и других сценариях, где требуется получать текстовые ответы на текстовые запросы. Модель имеет плотную архитектуру класса LlamaForCausalLM и содержит 14,1 млрд параметров. Заявленная длина контекста — 16 384 токена; в метаданных указан английский язык. Репозиторий содержит веса PyTorch, а для использования указана лицензия Apache-2.0.

knifeayumu/Behemoth-v1.2-Magnum-v4-123B — объединённая языковая модель, созданная автором knifeayumu методом SLERP с помощью mergekit на основе TheDrummer/Behemoth-123B-v1.2 и anthracite-org/magnum-v4-123b. Модель использует плотную архитектуру Mistral и содержит 122,2 млрд параметров; доступны веса в формате safetensors, библиотека для работы — Transformers. Модель предназначена для диалоговой генерации текста, в том числе для создания прозы. Объединение настроено так, чтобы уменьшить выраженность чрезмерно сексуального тона, отмечавшегося у одной из версий Magnum, и улучшить связность ответов. Контекстное окно составляет 131 072 токена. В метаданных указана лицензия «other», поэтому условия использования следует сверять с карточкой модели и лицензиями базовых моделей.

Nitral-AI/Captain-Eris_Violet-GRPO-v0.420 — разговорная текстовая модель, опубликованная Nitral-AI. Это плотная причинная языковая модель семейства Mistral с архитектурой MistralForCausalLM и 12,1 млрд параметров. Она предназначена для генерации текста в диалоговом формате; заявленная длина контекста — до 1 024 000 токенов. Модель получена слиянием методом SLERP двух чекпойнтов: Nitral-AI/Captain-Eris_Violet-0.420-Rebased и Nitral-AI/Captain-Eris_Violet-GRPO-Rebased. В конфигурации слияния указана точность bfloat16; веса опубликованы в формате safetensors. Карточка не описывает отдельные специализированные области применения или результаты оценки качества. В метаданных указан английский язык и лицензия «other», без конкретизации условий. Перед использованием следует проверить условия лицензии на странице репозитория. Модель принимает текст и генерирует текст; сведения в карточке не подтверждают поддержку изображений, аудио или других модальностей.

DistilBart-MNLI — дистиллированная модель семейства BART, созданная Valhalla на основе bart-large-mnli. В ней чередующиеся слои исходной модели скопированы в компактную архитектуру, после чего модель дополнительно дообучена на тех же данных MNLI; указанная конфигурация содержит 252,8 млн параметров и поддерживает контекст до 1024 токенов. Модель предназначена для классификации текста по заданным пользователем категориям без отдельного обучения на этих категориях, а также для задач классификации текста. Она подходит, например, для маршрутизации обращений или тематической сортировки документов, когда набор меток задаётся при запросе. В README приведены результаты для других вариантов DistilBart-MNLI, но отдельные показатели для конфигурации 12-6 не указаны. Модель принимает текст и выдаёт оценки категорий. Репозиторий содержит веса PyTorch и Flax. Лицензия в предоставленных источниках не указана.

DoubleLlama3-8b-slerp — диалоговая языковая модель для генерации текста, созданная слиянием двух экземпляров Meta-Llama-3-8B-Instruct методом slerp с помощью LazyMergekit. Она предназначена для чата и формирования ассистентских ответов. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Модель принимает текст и выдаёт текст. В метаданных указана поддержка английского языка. Файлы опубликованы в формате safetensors. Лицензия в предоставленных сведениях не указана.

MaziyarPanahi/Experiment28M7_Strangemerges_32Experiment28 — текстовая генеративная модель на архитектуре Mistral, созданная слиянием automerger/Experiment28M7-7B и automerger/Strangemerges_32Experiment28-7B. Она предназначена для генерации текста по запросу и диалогового использования. Модель содержит 7,1 млрд параметров, поддерживает контекст до 32 768 токенов и распространяется в формате Safetensors. В карточке указана лицензия Apache-2.0. README не описывает специализацию или подтверждённые языки модели.

GemMoE-Medium-v0.4 — языковая модель с разреженной архитектурой Mixture of Experts, разработанная Lucas под именем Crystalcareai. В README описан подход Branch Train Mix: четыре эксперта обучались отдельно, затем были объединены, а маршрутизатор дообучен при замороженных экспертах. Для маршрутизатора использовались четыре эпохи на Self-Discover-MM и две эпохи на TruthyDPO; маршрутизация выполняется по токенам. Модель предназначена для генерации текста и диалоговых сценариев. Метаданные указывают 8,2 млрд параметров и контекст до 8192 токенов; файлы опубликованы в формате safetensors. Автор отмечает экономию видеопамяти и конкурентное качество для размера модели, однако в карточке нет результатов сопоставимых бенчмарков. Лицензия в предоставленных данных не указана.

GeRaCl-USER2-base — русскоязычная модель для классификации текста без примеров для заданных классов. Её разработали как часть семейства GeRaCl, дообучив sentence encoder USER2-base; модель содержит 155 млн параметров и использует плотную архитектуру классификатора. При работе пользователь передаёт текст и названия возможных классов, а модель оценивает их и выбирает наиболее подходящий. Модель предназначена для быстрой многоклассовой классификации русских текстов, в том числе по пользовательским категориям. В README приведены результаты на задачах MTEB-rus: среднее значение Mean(task) — 0,65; среди примеров — классификация отзывов Kinopoisk, заголовков и текстов по рубрикам GRNTI и OECD. Это результаты авторской оценки на указанном бенчмарке, а качество на других данных может отличаться. Модель распространяется в формате Safetensors по лицензии Apache-2.0.

HelpSteer-filtered-neural-chat-7b-v3-1-7B — объединённая языковая модель на базе Intel/neural-chat-7b-v3-1 и Weyaxi/HelpSteer-filtered-7B-Lora. Она предназначена для генерации текста и диалоговых сценариев. Модель использует плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Веса опубликованы в формате safetensors. Лицензия Apache-2.0 разрешает использование и распространение на её условиях. В карточке нет сведений о поддерживаемых языках и специализированных областях применения.

KafkaLM-8x7B-German-V0.1 — языковая модель с разреженной экспертной архитектурой MoE, созданная Деннисом Дикманном в рамках проекта Seedbox. Она основана на Mixtral 8x7B от Mistral AI и дообучена на отфильтрованной выборке немецкоязычных инструкций, переведённых с английского. Модель содержит 7,1 млрд параметров, работает с текстом и поддерживает контекст до 32 768 токенов. Модель предназначена для ответов на вопросы и повседневных задач на немецком языке, в том числе в деловом общении. Она ориентирована на точные, фактологичные ответы, но автор отмечает склонность к творческим формулировкам и выходу за языковые рамки. Лицензия — Apache-2.0; карточка также указывает, что применяются ограничения исходной лицензии Llama 2 и использованных обучающих наборов.

KR-X-AI разработала эту разговорную языковую модель на базе Qwen2-7B-Instruct. Это плотная авторегрессионная модель с 7,1 млрд параметров для генерации текста и диалогов; заявленное окно контекста составляет 32 768 токенов. Модель дообучена от unsloth/qwen2-7b-instruct-bnb-4bit с использованием Unsloth и библиотеки TRL. Модель предназначена для чат-сценариев и генерации ответов на текстовые запросы. В метаданных указан английский язык. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0.

KunaiBeagle-7b — модель генерации текста, созданная объединением SanjiWatsuki/Kunoichi-DPO-v2-7B и mlabonne/NeuralBeagle14-7B с помощью LazyMergekit. Она основана на Mistral-7B-v0.1 и использует плотную архитектуру Mistral с 7,1 млрд параметров; указанная длина контекста — 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия на основе текстовых запросов. Данные карточки не уточняют языки, в которых она лучше всего работает, и конкретные области применения. Репозиторий распространяется в формате safetensors; лицензия в предоставленных сведениях не указана.

LeoLM/leo-hessianai-13b-chat-bilingual — двуязычная чат-модель, разработанная Björn Plüster и Christoph Schuhmann в сотрудничестве с LAION и HessianAI. Она основана на LeoLM/leo-hessianai-13b — языковой модели семейства Llama, построенной на Llama 2, — и дообучена на немецких инструкционных данных и их английских версиях. Модель предназначена для диалога, написания текстов, объяснений и обсуждений на немецком и английском языках. Это плотный авторегрессионный трансформер с 12,9 млрд параметров и контекстом до 8192 токенов. В опубликованной оценке MT-Bench сильнее всего показала себя в гуманитарных темах, а также в задачах STEM и письма. Модель хуже справляется с математикой и сложными рассуждениями; ответы могут быть неточными или предвзятыми, поэтому для конкретных приложений рекомендуется отдельная проверка безопасности и качества. Лицензия — Llama 2 Community License Agreement.

LFM2.5-VL-3B — мультимодальная модель Liquid AI для анализа изображений и текста, адаптированная Unsloth на основе LiquidAI/LFM2.5-VL-3B. Она сочетает языковую основу LFM2.5-2.6B с визуальным энкодером SigLIP2 NaFlex размером 400 млн параметров и предназначена для эффективного запуска на устройствах и в сценариях с высокой пропускной способностью. Модель принимает изображения и текст, поддерживает диалог, вызов инструментов и 16 языков, включая русский. Контекст составляет 32 768 токенов; большие изображения обрабатываются по частям и с уменьшенной копией целого изображения. Модель подходит для распознавания текста с сохранением структуры страницы, поиска объектов по текстовому запросу и ответов на вопросы об изображениях. Среди рекомендованных сценариев — пакетная обработка сканов, обнаружение объектов с малой задержкой и перевод надписей на изображениях. Разработчик сообщает о скорости до 228 токенов в секунду на Apple M5 Max и работе примерно в 3 ГБ памяти. Модель не рекомендуется для задач с длинным контекстом и сложными рассуждениями; формат разметки OCR указан как экспериментальный и может быть ненадёжным. В метаданных лицензия обозначена как other; конкретные условия следует сверить с карточкой модели.