III.8Договоры, юридическая работа и compliance
В разделе собраны самостоятельные задачи, где AI помогает ускорять юридический анализ и compliance, не подменяя профессиональное заключение. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
1 953 моделиBineric Lynx Instruct 30B — языковая модель компании Bineric из Осло, дообученная на основе Qwen/Qwen3-30B-A3B-Instruct-2507 для европейских языков с особым упором на норвежский, шведский, датский и исландский. Она предназначена для диалогов, генерации текстов и выполнения инструкций; в карточке указаны результаты оценки на задачах распознавания именованных сущностей, анализа тональности, чтения с пониманием и суммаризации на северных языках. Модель использует архитектуру Qwen3 MoE с 30 млрд параметров суммарно и примерно 3 млрд активных параметров на токен; контекстное окно составляет 262 144 токена. Репозиторий содержит веса Safetensors, библиотека запуска — Transformers. Карточка заявляет поддержку более 100 языков, а метаданные подтверждают английский, норвежский, шведский и датский; языки с основными оценками — также исландский. Доступны варианты в bf16, 8-битном и 4-битном представлении, причём квантование может снижать качество. Сильные стороны по приведённым оценкам — распознавание сущностей и понимание прочитанного на северных языках, а также датские тесты на знания. Слабее модель справляется с грамматическими суждениями, исландским здравым смыслом и норвежскими идиомами. Лицензия — Apache-2.0; модель доступна для самостоятельного размещения и интеграции через API.
next-32b-i1-GGUF — это набор квантизированных файлов в формате GGUF для языковой модели next-32b, разработанной thelamapi и дополнительно квантизированной mradermacher. Модель дообучалась на наборах данных FineTome-100k, CognitiveKernel-Pro-SFT, KAG-Thinker-training-dataset, ChatGPT-4o-Writing-Prompts, dolphin-r1 и Brief-Pro, поэтому предназначена для генерации текста, диалогов, следования инструкциям, рассуждений, аналитических и письменных задач. Модель имеет около 32 млрд параметров и относится к transformer-моделям с instruction-tuning. В README заявлена поддержка турецкого, английского, немецкого, испанского, французского, русского, китайского, японского и корейского языков. Указана только текстовая генерация; сведения о мультимодальности и размере контекстного окна отсутствуют. Доступны варианты квантизации от IQ1_S до Q6_K, различающиеся размером, скоростью и качеством; рекомендуются i1-Q4_K_M и i1-Q4_K_S как сбалансированные варианты, а низкоразрядные варианты могут заметно снижать качество. Модель подходит для локального запуска и многоязычных чат-сценариев, однако для работы с большинством вариантов требуется значительный объём памяти. Качество конкретной версии зависит от выбранной квантизации; некоторые варианты в README прямо отмечены как низкокачественные. Лицензия — MIT.
openbuddy-mistral-7b-v13-base-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral, созданная слиянием Mistral-7B-Instruct-v0.1 и OpenBuddy/openbuddy-mistral-7b-v13-base методом SLERP. Модель содержит 7,1 млрд параметров, распространяется в формате safetensors и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. В метаданных перечислены китайский, английский, французский, немецкий, японский, корейский, итальянский и русский языки. Лицензия — Apache-2.0. Карточка не приводит оценок качества или подробностей об ограничениях; фактическое качество может зависеть от языка и сценария использования.
sokada4/Qwen3.8-27B-GPTQ-Int4 — это 4-битная GPTQ-квантизованная версия модели Qwen/Qwen3.8-27B, опубликованная пользователем sokada4. Квантизация выполнена с помощью GPTQModel 7.3.4 по схеме W4A16, с размером группы 128 и симметричным представлением. Модель предназначена для текстового вывода и рассчитана на локальное развертывание через vLLM, в том числе как OpenAI- или Anthropic-совместимый backend для Claude Code и Codex CLI. Это плотная языковая модель примерно на 27 млрд параметров с заявленным нативным контекстом до 262144 токенов. Квантизации подверглись только веса language_model; веса vision tower сохранены без изменений, однако данный checkpoint предназначен для text-only serving. Тензоры MTP, используемые для speculative decoding, также сохранены в формате bf16. Калибровка проводилась на англоязычных, китайских и японских текстах, а также на коде, поэтому модель ориентирована на многоязычные и программные сценарии, хотя точный языковой охват в README не указан. Ключевые преимущества — существенное снижение требований к памяти по сравнению с полноразмерной моделью, поддержка speculative decoding через MTP и совместимость с инструментальными вызовами в vLLM. Для комфортной работы с длинным контекстом и MTP рекомендуется конфигурация из двух GPU по 24 ГБ; на одной видеокарте 24 ГБ длину контекста придётся заметно уменьшить, а MTP использовать нецелесообразно. В README также отмечен повышенный риск некорректно сформированных tool calls по сравнению с облачными моделями, поэтому для автономных агентных сценариев рекомендуется проверка вызовов человеком. Модель распространяется по лицензии Apache-2.0.
Это instruction-tuned вариант T5Gemma от Google с энкодером и декодером размера B, адаптированный с использованием UL2. Семейство T5Gemma состоит из компактных моделей типа энкодер-декодер, созданных на основе предварительно обученных моделей decoder-only; такая архитектура рассчитана на эффективную генерацию и понимание текста. Модель работает в формате text-to-text и предназначена прежде всего для английского языка. Модель подходит для генерации текста по инструкциям, ответов на вопросы, суммаризации и рассуждений; энкодер также может применяться для классификации и задач понимания текста. Её можно использовать для подготовки черновиков писем и маркетинговых текстов, а также для экспериментов и NLP-разработки. В метаданных указаны библиотека Transformers и формат весов safetensors; длина контекста и число параметров для этой конкретной версии не приведены. Качество зависит от обучающих данных и формулировки задания. Модель может ошибаться в фактах, упускать языковые нюансы и хуже справляться со сложными или неоднозначными запросами; возможны предвзятые или вредоносные генерации. Лицензия Gemma; применение должно соответствовать политике допустимого использования Gemma.
1PARAMMYL-8B-ModelStock — языковая чат-модель, созданная объединением моделей методом Model Stock с помощью LazyMergekit. В конфигурации указаны arcee-ai/Llama-3.1-SuperNova-Lite, DreadPoor/Heart_Stolen-8B-Model_Stock и Dampfinchen/Llama-3.1-8B-Ultra-Instruct; базовой моделью заявлена arcee-ai/Llama-3.1-SuperNova-Lite. Метаданные описывают плотную архитектуру LlamaForCausalLM и 7,5 млрд параметров. Модель предназначена для диалогов и генерации текста по инструкциям. Указанное в метаданных нативное контекстное окно — 131072 токена; файлы представлены в формате safetensors. В README приведены результаты Open LLM Leaderboard, включая средний балл 26,02, IFEval 53,71 и BBH 31,80. Метаданные указывают английский язык базовой модели. README не сообщает лицензию, поэтому условия использования по доступным сведениям определить нельзя.
ALIA-40b-Instruct-2606 — языковая модель с инструкционной настройкой, разработанная Barcelona Supercomputing Center (BSC-LT). Это декодерная плотная трансформерная модель семейства Llama с 38,3 млрд параметров, построенная на базе ALIA-40b. Контекстное окно составляет 163 840 токенов. Модель предназначена для диалогов и выполнения инструкций: она отвечает на вопросы, учитывает контекст беседы и формирует структурированные ответы. Её постобучение включало адаптацию к длинному контексту, дообучение на 714 тысячах диалоговых примеров и выравнивание предпочтений методом DPO. Основной упор сделан на испанский, каталанский, баскский, галисийский и английский языки; качество на других языках не гарантируется. Модель не умеет самостоятельно вызывать внешние функции или API и не предназначена для автономного выполнения рабочих процессов. Её рассуждения и математические ответы могут быть ненадёжными, а код следует проверять. Разработчики предупреждают, что несмотря на настройку безопасности, возможны нежелательные ответы. Лицензия — Apache-2.0.
EuroLLM-9B-Instruct — многоязычная языковая модель с 9 млрд параметров, разработанная Unbabel, Instituto Superior Técnico, Instituto de Telecomunicações, University of Edinburgh и партнёрами. Она создана на базе EuroLLM-9B и дополнительно настроена на выполнение инструкций с использованием EuroBlocks, набора данных для следования общим инструкциям и машинного перевода. Модель использует плотную архитектуру Transformer с grouped-query attention, RMSNorm, SwiGLU и RoPE; длина последовательности при обучении составляет 4096 токенов. Модель предназначена для генерации текста, диалогов, выполнения инструкций и перевода между языками. Она обучена для работы с языками ЕС и рядом дополнительных языков, включая русский, арабский, китайский, японский, корейский и хинди. Репозиторий содержит веса в формате Safetensors и использует библиотеку Transformers. Лицензия — Apache 2.0. Карточка сообщает о конкурентных результатах на многоязычных и англоязычных бенчмарках, однако модель не выравнивалась по предпочтениям людей. Она может выдавать галлюцинации, вредоносный контент и фактические ошибки.
KaraKaraWarehouse/Llama-MiraiFanfare-2-3.3-70B — объединённая языковая модель на архитектуре Llama, созданная методом TIES с помощью mergekit. В слияние вошли Blackroot/Mirai-3.0-70B и EVA-UNIT-01/EVA-LLaMA-3.33-70B-v0.1; базовой моделью для слияния указана EVA-UNIT-01/EVA-LLaMA-3.33-70B-v0.1. Модель содержит 69,5 млрд параметров и использует формат safetensors. Модель предназначена для генерации текста и диалогового взаимодействия. Контекстное окно составляет 131 072 токена, что подходит для работы с длинными запросами и документами. В README не описаны специализированные области применения или языковые ограничения. Карточка не указывает лицензию. Качество и ограничения слияния отдельно не описаны; поведение может зависеть от сочетания исходных моделей.
Mistral-7B-ReMax-v0.1 — языковая модель Ziniu Li на архитектуре Mistral, дообученная методом RLHF с алгоритмом ReMax на базе Mistral-7B-Instruct-v0.2. Она предназначена для диалогов и генерации ответов на инструкции; формат запросов использует токены [INST] и [/INST]. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Карточка описывает обучение на 10 тысячах запросов из lmsys-chat-1m без использования ответов этого набора и приводит результаты сравнительных оценок на Chat1M и AlpacaEval. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Качество и ограничения унаследованы от Mistral-7B-Instruct-v0.2; в частности, у модели нет встроенных механизмов модерации. Приведённые в карточке оценки основаны на конкретных тестовых наборах и не гарантируют качество во всех сценариях.
OpenThai 2.0 Qwen3.8-27B — дообученная компанией OpenThai мультимодальная модель на архитектуре Qwen3.5 с 27 млрд параметров. Она принимает текст и изображения и предназначена прежде всего для работы с тайскими документами: распознавания печатного и рукописного текста, транскрипции страниц, извлечения структуры и ответов на вопросы по документам. Также подходит для ответов на тайском и английском языках, следования инструкциям, программирования и использования инструментов. Модель заявлена с контекстом 262 144 токена; в производственном API используется контекст до 131 072 токенов. В README приведены результаты оценки тайских экзаменационных знаний, следования инструкциям и распознавания документов, включая улучшение распознавания рукописного текста относительно базовой модели. Модель распространяется под лицензией Apache-2.0. Качество структурированного извлечения данных примерно соответствует базовой модели и слабее в разборе таблиц, извлечении ключевой информации и вопросах по диаграммам. Текст на вывесках и других сценах распознаётся хуже, а рукописный текст остаётся сложным: на сложных примерах возможны ошибки примерно в каждом четвёртом символе. Возможны галлюцинации на нечитаемых изображениях; длинные ответы могут различаться между запусками.
unsloth/Qwen3.6-35B-A3B-MLX-8bit — MLX-версия открытой мультимодальной модели Qwen3.6-35B-A3B, подготовленная Unsloth. Это авторегрессионная языковая модель с vision-энкодером, предназначенная для работы с текстом и изображениями, агентного программирования, анализа репозиториев, фронтенд-разработки и сценариев с вызовом инструментов. Модель поддерживает улучшенное сохранение контекста рассуждений между сообщениями и обработку вложенных структур при tool calling. Архитектура использует Mixture of Experts: всего 35 млрд параметров, из которых при генерации активируется около 3 млрд. Модель содержит 40 слоёв, 256 экспертов, из которых выбираются 8 маршрутизируемых и 1 общий эксперт, а также сочетает Gated DeltaNet и Gated Attention. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 010 000 токенов. В README не указано, какие языки поддерживаются. К сильным сторонам относятся высокая вычислительная эффективность разреженной MoE-архитектуры, поддержка визуального ввода, длинного контекста, агентного кодирования и локального запуска через MLX. Ограничения включают необходимость совместимой MLX-инфраструктуры и отсутствие в предоставленных данных подробных результатов бенчмарков, требований к оборудованию и описания возможных ограничений качества. Модель распространяется по лицензии Apache-2.0.
Qwen3.8-Flash-Next REAP-288 Q8E MLX — оптимизированная сборка базовой модели Qwen/Qwen3.8-Flash-Next, опубликованная пользователем sh0wie. Она предназначена для локального запуска на устройствах Apple с MLX и ориентирована прежде всего на генерацию текста, программирование и агентские сценарии. Мультимодальные веса vision tower сохранены, однако в README оценивалось только качество работы с текстом. Модель относится к классу примерно 180B параметров: 125B приходится на основную модель, ещё 51B — на n-gram embedding table. Архитектура содержит 48 слоёв, чередующих Gated DeltaNet и разреженное внимание Qwen, а MoE-маршрутизация использует top-10 экспертов. В каждом MoE-слое оставлено 288 из 512 экспертов после pruning методом REAP. Тензоры экспертов имеют 8-битное квантование, остальные компоненты, включая attention, embeddings и backbone, — 4-битное. Размер модели около 100 ГБ в памяти, но при потоковой загрузке n-gram table через NVMe может снижаться примерно до 70 ГБ. Сильной стороной сборки является повышенная точность представления экспертных тензоров и совместимость со стандартным mlx-vlm без патчей. При этом pruning остаётся основным источником потери качества: в тесте HumanEval модель получила 90,9%, уступив варианту с полностью 4-битными весами экспертов с результатом 91,5%, поэтому README не рекомендует её большинству пользователей. Поддерживается speculative decoding с отдельной MTP-моделью; заявленное ускорение зависит от оборудования и составляет примерно 1,5–2,6 раза на M5, тогда как на M4 оно близко к нейтральному. Модель распространяется по лицензии qwen-community-license-1.0.
Tulu V2 DPO 70B — диалоговая языковая модель-ассистент, разработанная AllenAI на основе Llama 2 70B. Модель дообучена на смеси публичных, синтетических и созданных людьми инструкций и диалогов, а затем выровнена методом Direct Preference Optimization (DPO) на данных UltraFeedback. Архитектура — плотная LlamaForCausalLM с 68,7 млрд параметров; контекст — до 8192 токенов. Основной язык — английский. Модель предназначена для генерации ответов на инструкции и диалоговых сценариев, где нужен универсальный текстовый помощник. В карточке она описана как сильная альтернатива Llama 2 70B Chat; для форматирования запросов рекомендуется использовать формат Llama 2 с завершающим переводом строки. Модель может выдавать проблемные ответы: на этапе выравнивания её не обучали безопасно отказывать и не применяли фильтрацию ответов во время работы. Лицензия — AI2 ImpACT Low-risk.
Карточка модели Jinstudio/VibeVoice-ASR-HF на Hugging Face совпадает с карточкой microsoft/VibeVoice-ASR-HF, поэтому описание составлено по ней. VibeVoice-ASR — мультиязычная модель Microsoft для распознавания речи, доступная в версии, совместимой с Transformers. Она принимает аудио и формирует транскрипцию с текстом, временными метками и указанием говорящего; также можно передавать контекстные подсказки, например имена или специальные термины, чтобы помочь распознаванию.
Vulture-40B — многоязычная причинно-следственная языковая модель с архитектурой decoder-only, разработанная Virtual Interactive (VILM) на основе Falcon-40B компании TII. Модель продолжительно предобучена на корпусе из новостных статей и страниц Wikipedia объёмом 80 ГБ на 12 языках, а затем дообучена на многоязычном инструкционном наборе по методике Alpaca. В метаданных указаны 65 млрд параметров и формат safetensors. Модель предназначена для генерации текста и диалоговых ответов, а также может применяться для вопросов и ответов, классификации текста и токенов. Поддерживаемые языки: английский, немецкий, испанский, французский, португальский, русский, итальянский, вьетнамский, индонезийский, китайский, японский и корейский. Для запуска в полной точности bfloat16 требуется около четырёх ускорителей A100 80 ГБ или эквивалентные ресурсы. Разработчики предупреждают о стереотипах и предубеждениях, унаследованных из веб-корпусов, и рекомендуют оценивать риски, настраивать модель под конкретные задачи и применять защитные меры перед использованием в продуктивной среде. Лицензия — Apache-2.0.
Aya 23 — открытая по весам мультиязычная instruction fine-tuned модель, разработанная Cohere For AI и основанная на семействе моделей Command. В каталоге cortexso/aya доступны варианты с 8 и 35 млрд параметров. Модель предназначена для генерации и понимания текста на 23 языках, а также для задач машинного перевода и других мультиязычных сценариев. К сильным сторонам Aya 23 относятся широкий языковой охват и ориентация на выполнение инструкций; среди поддерживаемых языков указаны арабский, китайский, английский, испанский, хинди и вьетнамский. README не содержит сведений о длине контекста, точной архитектуре, мультимодальности или количественной оценке ограничений, поэтому эти характеристики нельзя определить по имеющимся данным. Модель распространяется по лицензии CC-BY-NC-4.0, допускающей использование с ограничениями, включая некоммерческий характер лицензии.
Blaze.1-27B-Reflection — текстовая диалоговая модель на архитектуре Gemma 2, дообученная автором репозитория на данных саморефлексии и поведения, включая синтетические примеры рассуждений от DeepSeek и QwQ. Модель содержит 27,6 млрд параметров, рассчитана на генерацию текста и диалог на английском языке; её контекст — 8192 токена. Модель предназначена для сложных ответов на вопросы, пошагового рассуждения, суммаризации, поддержки принятия решений, диалога и творческого письма. По описанию карточки, дообучение ориентировано на длинные цепочки рассуждений и самопроверку. Весовые файлы представлены в формате safetensors, исходные веса экспортированы в bfloat16; лицензия — Gemma. Ограничения включают возможные ошибки и галлюцинации, снижение качества на неанглийских запросах и узкоспециальной терминологии, потерю контекста в длинных документах и диалогах, а также повторяющиеся рассуждения. Для запуска и дообучения требуются значительные вычислительные ресурсы.
DeepSeek-V4-Flash-0731-MLX-Serve-mixed-2-3-8bit — это квантованная MLX-конверсия модели DeepSeek-V4-Flash-0731, опубликованная ddalcu и предназначенная для запуска через mlx-serve на Apple Silicon. Модель рассчитана на генерацию текста, включая диалоги, программирование, задачи coding agent и сценарии с вызовом инструментов. Она совместима с OpenAI, Anthropic и Ollama HTTP API, поэтому может использоваться с существующими клиентами и интерфейсами. В основе лежит полная модель размером 284B параметров с конфигурацией A13B. Сборка занимает 115,4 ГБ и использует смешанную точность: основные routed experts в слоях 0–38 имеют 2- и 3-битное квантование с калибровкой по матрице важности, последние четыре слоя — 4-битное, а attention, shared experts, embeddings, LM head и ряд чувствительных компонентов — 8-битную или более высокую точность. Архитектура включает MQA, сжатую историю внимания, hash-routed MoE, Sinkhorn hyper-connections, DSML-формат вызова инструментов и DSpark speculative decoding. Поддерживаются текстовые входы и выходы; в README не указаны дополнительные модальности и языковой охват. Для работы требуется Mac на Apple Silicon с не менее чем 128 ГБ unified memory, macOS 26.2 или новее и mlx-serve. Ожидаемый объём занятой памяти составляет около 98 ГБ, либо примерно 109 ГБ при использовании DSpark; заявлена скорость около 53 токенов в секунду на M-series Mac с 128 ГБ памяти и включённым DSpark. Сильными сторонами являются запуск полной 284B-A13B модели на одном совместимом Mac, native MLX-реализация без Python и калиброванное квантование, направленное на сохранение качества в агентских сценариях. Ограничениями остаются очень высокие требования к памяти и совместимость только с Apple Silicon и mlx-serve. Лицензия — MIT.
Google Gemma 3 4B IT QAT Q4_0 Unquantized — мультимодальная модель для диалогов с текстом и изображениями, основанная на Gemma 3 4B IT. Несмотря на обозначение QAT Q4_0 в названии, метаданные указывают формат файлов safetensors; отдельная квантизация в них не подтверждена. Модель принимает текст и изображения и генерирует текст, поддерживает чат и предназначена для ответов на вопросы по изображениям, суммаризации и другим задачам генерации и понимания текста. В README семейство Gemma 3 описано как компактное, подходящее для локального запуска на ноутбуках и настольных компьютерах. Для семейства заявлены контекст до 128 тысяч токенов и поддержка более 140 языков; README не уточняет, подтверждены ли эти характеристики именно для данной сборки. Лицензия — Gemma. Возможны фактические ошибки, предвзятые ответы и трудности с неоднозначными формулировками и сложными задачами; для развёртывания следует учитывать эти ограничения и проверять результаты.
I-OpenPipe-NH2-Solar-7B-slerp — языковая чат-модель, созданная слиянием OpenPipe/mistral-ft-optimized-1218 и NousResearch/Nous-Hermes-2-SOLAR-10.7B методом slerp с помощью LazyMergekit. Это плотная авторегрессионная модель семейства Llama с 7,1 млрд параметров, предназначенная для генерации текста, диалогов и выполнения инструкций. Модель принимает текст и генерирует текст; метаданные указывают контекст длиной 4096 токенов. Доступны веса в формате safetensors. Репозиторий распространяется по лицензии Apache-2.0. Карточка не содержит результатов оценки качества или подробных сведений о поддерживаемых языках.
Llama-3-8B-Magpie-Align-v0.1 — чат-модель на архитектуре Llama 3, разработанная проектом Magpie-Align на основе Meta-Llama-3-8B. Её обучили в два этапа: сначала SFT на Magpie-Pro-MT-300K-v0.1, затем DPO на llama3-ultrafeedback. Модель содержит 7,5 млрд параметров, принимает текст и выдаёт текст; заявленный контекст — 8192 токена. В карточке приведены результаты на Alpaca Eval 2, Arena Hard, WildBench и нескольких бенчмарках знаний и рассуждений. Модель предназначена для диалогов и выполнения пользовательских инструкций на английском языке. Её можно применять для ответов на вопросы, написания текстов и решения типовых задач в формате чата. Репозиторий содержит веса в формате safetensors. Лицензия — Llama 3 License; условия Meta Llama 3 Community License следует проверить перед использованием и распространением.
miqu-1-120b — крупная текстовая языковая модель, созданная wolfram с помощью mergekit: слои модели miqu-1-70b-sf были объединены методом passthrough в конфигурацию из 140 слоёв. Модель содержит около 120,1 млрд параметров, использует архитектуру Llama и рассчитана на генерацию текста и диалоговое общение. Максимальный контекст — 32 764 токена; в README указан шаблон запросов Mistral `[INST] ... [/INST]`. Модель предназначена для диалогов, ответов на вопросы, написания и продолжения текста. В карточке перечислены английский, немецкий, французский, испанский и итальянский; отзывы пользователей отмечают связность диалога и удержание контекста, а также отдельные случаи слабого следования инструкциям. Доступны варианты квантования EXL2 и GGUF. Лицензия указана как `other`; README сообщает, что использованы утёкшие веса, поэтому правовой статус и условия использования требуют отдельной проверки.
zelk12/MT3-Gen2-gemma-2-9B — объединённая языковая модель на архитектуре Gemma 2, созданная с помощью mergekit. В слиянии методом SLERP использованы zelk12/MT3-Gen2-GMM-gemma-2-9B и zelk12/MT3-Gen2-IMUBMA-gemma-2-9B; конфигурация указывает базовую модель zelk12/MT3-Gen2-GMM-gemma-2-9B и параметр t=0,25. Модель содержит 9 млрд параметров, работает через Transformers и принимает контекст до 8192 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. В карточке приведены результаты оценки на Open LLM Leaderboard, включая IFEval и BBH. В репозитории указаны веса в формате safetensors. Лицензия в предоставленных данных не указана.
Seraph-7B-Mistral-7B-Instruct-v0.1 — чат-модель MaziyarPanahi, созданная слиянием Mistral-7B-Instruct-v0.1 и Weyaxi/Seraph-7B методом SLERP. Модель использует плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и принимает текстовые инструкции и диалоговые запросы для генерации ответов. Модель предназначена для диалоговых приложений и генерации текста по инструкциям. Нативный контекст составляет 32 768 токенов; файлы опубликованы в формате safetensors. Лицензия — Apache-2.0. Данных о языковой специализации и ограничениях качества в карточке нет.
Starling-LM-11B-alpha-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral, созданная слиянием mistralai/Mistral-7B-Instruct-v0.1 и Delcos/Starling-LM-11B-alpha методом SLERP. Модель содержит 7,1 млрд параметров и предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Модель принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. В метаданных указан английский язык. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.
T5Gemma-2B-2B-PrefixLM-IT — разработанная Google instruction-tuned модель семейства T5Gemma с энкодером и декодером по 2 млрд параметров. Она основана на предварительно обученной модели google/t5gemma-2b-2b-prefixlm и предназначена для генерации и преобразования текста по инструкциям. Архитектура encoder-decoder объединяет энкодер и декодер; веса доступны в формате safetensors и модель рассчитана на работу с английским текстом. Её можно применять для ответов на вопросы, суммаризации, рассуждений и создания текстов. Небольшой по меркам крупных языковых моделей размер позволяет запускать её на локальных компьютерах или в облачной инфраструктуре. Модель может ошибаться в фактах, хуже справляться со сложными или неоднозначными запросами и наследовать смещения обучающих данных. Лицензия — Gemma; перед использованием следует учитывать политику допустимого использования Gemma.
Tulu 1 Llama 2 70B — языковая модель-ассистент, разработанная Allen Institute for AI (AI2). Это дообученная на смеси публичных, синтетических и созданных людьми инструкций и диалогов версия Meta Llama 2 70B с плотной архитектурой Llama и 68,7 млрд параметров. Модель предназначена для генерации текста и ответов на инструкции; основной язык — английский, длина контекста — 2048 токенов. Модель подходит для диалоговых помощников, ответов на вопросы и выполнения разнообразных текстовых инструкций. Для форматирования запросов используется шаблон с маркерами ролей, описанный в карточке модели. Модель не проходила выравнивание безопасности на этапе RLHF и не снабжена фильтрацией ответов, поэтому может выдавать проблемный контент. Лицензия — AI2 ImpACT Low-risk.
Zenith-7B-dpo-v1 — диалоговая языковая модель Xenon1 на архитектуре Mistral, дообученная на Mistral-7B-v0.1 с использованием набора Ultrafeedback и техник из статьи Self-Rewarding Language Models. Модель предназначена для генерации ответов на инструкции и ведения диалога; для запросов используется формат Mistral с маркерами [INST] и [/INST], также доступен шаблон чата Transformers. Модель содержит 7,1 млрд параметров, использует Grouped-Query Attention, Sliding-Window Attention и токенизатор Byte-fallback BPE. Максимальный контекст — 32 768 токенов. Указана поддержка английского языка; опубликованные веса представлены в формате safetensors. Модель распространяется по лицензии Apache-2.0.
ZephyrPaca-7B — объединённая языковая чат-модель на 7,1 млрд параметров, созданная с помощью mergekit. В неё методом TIES объединены HuggingFaceH4/zephyr-7b-beta и mlabonne/Mistralpaca-7B; архитектура — плотная MistralForCausalLM, веса представлены в safetensors. Указанная длина контекста — 32 768 токенов. Модель предназначена для генерации текста в диалогах и выполнения пользовательских инструкций. Её можно применять для ответов на вопросы, ведения беседы и создания текстовых черновиков. Карточка не сообщает отдельные языковые ограничения; базовая модель Zephyr ориентирована на английский. Лицензия в предоставленных данных не указана.