III.10Проекты, процессы и операционное управление

Mungert/LongWriter-Zero-32B-GGUF — GGUF-версия языковой модели LongWriter-Zero-32B, подготовленная Mungert на основе Qwen2.5-32B-Base; исходная модель разработана командой THU-KEG. Это авторегрессионная текстовая модель для генерации связных сверхдлинных текстов объёмом более 10 000 токенов, а также для общих и писательских задач. Она ориентирована на создание книг, технических отчётов и других структурированных материалов с контролем длины, связности, плавности и полезности ответа. Модель содержит 32 млрд параметров и обучалась с использованием reinforcement learning, включая Group Relative Policy Optimization (GRPO), Length Reward Model, Writing Reward Model и Format Reward Model. В исходную подготовку входили 30 млрд токенов продолжительного предобучения на длинных книгах и технических отчётах. Поддерживаемые языки — английский и китайский. Формат GGUF предназначен для запуска через совместимые инструменты, включая llama.cpp; конкретные варианты квантования и размер контекстного окна в карточке не указаны. Сильной стороной модели является специализация на ультрадлинной генерации и планировании структуры текста; заявлено сопоставимое или превосходящее качество по сравнению с моделями масштаба 100 млрд параметров в соответствующих сценариях. Ограничения включают возможные потери качества из-за квантования, зависимость результатов от выбранного GGUF-варианта и отсутствие в карточке подробных сведений о требованиях к оборудованию и точном контекстном окне. Модель распространяется по лицензии Apache-2.0.

Llama-Chat-Summary-3.2-3B — языковая модель PrithivMLmods для контекстной суммаризации диалогов и текстов. Она дообучена на базе meta-llama/Llama-3.2-3B-Instruct и предназначена для создания кратких сводок с сохранением важных деталей из длинных чатов, обсуждений и документов. Модель имеет плотную архитектуру LlamaForCausalLM на 3,2 млрд параметров, принимает текст и генерирует текст. В карточке указана поддержка контекста до 131 072 токенов; модель рассчитана прежде всего на английский язык. Она может пригодиться для сводок обращений в поддержку, стенограмм встреч, статей и отчётов, а также для подготовки контекста для последующих систем. Карточка не приводит количественных оценок качества или подробностей обучения. Для работы с ней автор рекомендует Transformers; отмечено, что для развёртывания следует использовать выделенные эндпоинты, поскольку модель пока не подходит для serverless API. Лицензия — CreativeML Open RAIL-M.

Mistral-Instruct-Orca-Slerp — диалоговая языковая модель, созданная слиянием моделей Mistral AI и Open-Orca методом slerp с помощью mergekit. В основе — mistralai/Mistral-7B-Instruct-v0.2 и Open-Orca/Mistral-7B-OpenOrca; модель имеет архитектуру MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста в диалоге и выполнения инструкций. Она принимает текст и выдаёт текст; карточка не сообщает о специализации на конкретном языке или предметной области. Распространяется в формате safetensors по лицензии Apache-2.0.

CogniLink — дообученная Daemontatox модель на архитектуре Llama 3.3 70B, созданная для многошаговых рассуждений, логического вывода и диалоговой генерации текста. Она содержит 69,5 млрд параметров, работает с контекстом до 131 072 токенов и рассчитана прежде всего на английский язык. В карточке указаны instruction tuning и обучение на наборах данных с цепочками рассуждений; доступны веса в формате safetensors и библиотека Transformers. Модель можно применять для пошаговых объяснений учебных задач, анализа сценариев и аргументов, а также вопросов и ответов в исследовательских, деловых и правовых сценариях. README также упоминает медицинские применения, однако не приводит подтверждений клинической точности. Для запуска требуется значительная вычислительная память; утверждения README о работе на ограниченных устройствах и эффективности 4-битного режима не подкреплены метриками производительности. Лицензия — Apache 2.0.

Zenith-7B-dpo-v1 — диалоговая языковая модель Xenon1 на архитектуре Mistral, дообученная на Mistral-7B-v0.1 с использованием набора Ultrafeedback и техник из статьи Self-Rewarding Language Models. Модель предназначена для генерации ответов на инструкции и ведения диалога; для запросов используется формат Mistral с маркерами [INST] и [/INST], также доступен шаблон чата Transformers. Модель содержит 7,1 млрд параметров, использует Grouped-Query Attention, Sliding-Window Attention и токенизатор Byte-fallback BPE. Максимальный контекст — 32 768 токенов. Указана поддержка английского языка; опубликованные веса представлены в формате safetensors. Модель распространяется по лицензии Apache-2.0.

Fireworks Mixtral 8x22B Instruct OH — инструктивная языковая модель, выпущенная Fireworks AI на основе Mixtral-8x22B от Mistral AI. Это разреженная архитектура MoE для генерации текста и диалогов; в метаданных указано 22 млрд параметров и контекст до 65 536 токенов. Модель дообучена на примерно 10 тысячах примеров из OpenHermes 2.5, подготовленных в шаблоне Vicuna. Модель подходит для диалогового помощника, ответов на вопросы и создания развернутых текстов, например планов поездок. Карточка показывает примеры на английском языке, а метаданные отмечают английский как язык модели. Доступны веса в формате safetensors; лицензия — Apache 2.0. Карточка не содержит количественной оценки качества, поэтому пригодность для конкретных задач следует проверять на собственных данных.

d0rj/rut5-base-summ — русскоязычная модель суммаризации, созданная дообучением ai-forever/ruT5-base. Это плотная модель архитектуры T5 с 123,8 млн параметров; она принимает текст и генерирует его краткое изложение. Обучение проводилось на объединённых наборах данных для суммаризации новостей, диалогов, встреч и других текстов, включая SAMSum на русском языке, Gazeta и WikiLingua. Контекст модели — до 512 токенов. Модель предназначена для автоматического составления кратких сводок и пересказов, в том числе диалогов. Для её запуска можно использовать библиотеку Transformers и pipeline summarization. В репозитории также сохранены состояния обучения, позволяющие продолжить дообучение на собственных данных. Карточка упоминает оценку на валидационной выборке, но не приводит численных результатов; отчёт указан как находящийся в работе. Лицензия в предоставленных сведениях не указана.

Starling-LM-11B-alpha-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral, созданная слиянием mistralai/Mistral-7B-Instruct-v0.1 и Delcos/Starling-LM-11B-alpha методом SLERP. Модель содержит 7,1 млрд параметров и предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Модель принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. В метаданных указан английский язык. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

Virtuoso-Small — компактная языковая модель для генерации текста, разработанная Arcee.ai. Репозиторий duyntnet/Virtuoso-Small-imatrix-GGUF содержит её квантованные варианты в формате GGUF, предназначенные для локального запуска и совместимые с llama.cpp и рядом пользовательских интерфейсов, включая KoboldCPP, Ollama, Jan, text-generation-webui и GPT4All. Модель имеет 14 миллиардов параметров и ориентирована на выполнение инструкций, сложные рассуждения и бизнес-сценарии: поддержку клиентов, создание контента и техническую помощь. В README указан английский язык и текстовая модальность. Архитектура, размер контекста и точный набор доступных квантований не уточняются. К сильным сторонам относятся относительно компактный размер, эффективность и возможность работы на менее мощном оборудовании при сохранении высокого качества генерации. Ограничения связаны с недостатком информации о конкретной архитектуре, контекстном окне, производительности и качестве на других языках. В карточке указана лицензия other; дополнительных условий использования не приведено.

AISquare-Instruct-SOLAR-10.7b-v0.5.32 — инструкционная языковая модель команды UI Platform компании Inswave Systems. Она основана на upstage/SOLAR-10.7B-v1.0 и предназначена для генерации текста по запросам и инструкциям. Модель использует плотную архитектуру LlamaForCausalLM, содержит 10,6 млрд параметров и принимает текст; нативное окно контекста — 4096 токенов. В метаданных указан английский язык. Модель опубликована в формате PyTorch и распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

Merlinite-7B-pt — англоязычная диалоговая модель IBM Research на архитектуре Mistral, содержащая 7,1 млрд параметров и принимающая контекст длиной до 32 768 токенов. Она создана на базе mistralai/Mistral-7B-v0.1: сначала прошла дообучение на инструкциях методом SFT с использованием LAB, затем была настроена на предпочтения с помощью AI-обратной связи и итеративного отбора ответов. Для оценки предпочтений применялись DPO log-ratio оценки Mixtral-8x7B-Instruct-v0.1. Модель предназначена для диалогов, следования инструкциям, ответов на вопросы, объяснений и помощи в решении задач на английском языке. В карточке сообщается о результате 7,96 на MT-Bench; среднее значение за пять запусков — 7,85. Модель выдаёт текст, а её единственный pipeline-тег — text-generation. Модель распространяется под лицензией Apache 2.0. Настройка предпочтений не была специально направлена на обеспечение безвредности; сохраняются ограничения базовой модели, включая риск галлюцинаций и генерации вредоносного или вводящего в заблуждение текста. Не следует полагаться на её ответы при принятии важных решений без проверки.

LLMWriter-8B — дообученная Aldenir Flauzino модель семейства Llama 3.1, предназначенная для помощи в письме и генерации текстов. Она создана на базе unsloth/Llama-3.1-8B методом LoRA с использованием Unsloth и Hugging Face TRL и содержит около 7,5 млрд параметров. Модель принимает текст и генерирует текст; заявленная длина контекста — 131 072 токена. В карточке указаны английский язык и лицензия Apache 2.0. Модель ориентирована на создание статей и публикаций, подготовку технических текстов и документации, выполнение инструкций и формирование структурированных ответов. Дообучение проводилось на наборе из более чем 10 тысяч примеров инструкций. Автор сообщает о снижении функции потерь в ходе обучения, но не приводит оценок на стандартных бенчмарках. Модель может выдавать фактические ошибки, поэтому результаты следует проверять перед публикацией. Качество зависит от формулировки запроса и сложности задачи; модель не предназначена для юридических, медицинских или финансовых консультаций.

Tulu V2 DPO 7B — англоязычная разговорная модель-помощник, разработанная Allen Institute for AI (AI2). Это плотная авторегрессионная модель семейства Llama 2, дообученная на Meta Llama 2 7B с помощью supervised fine-tuning и Direct Preference Optimization (DPO) на наборах инструкций, диалогов и предпочтений. Веса содержат около 6,6 млрд параметров; контекст — до 8192 токенов. Модель работает с текстом и рассчитана прежде всего на английский язык. Модель предназначена для диалоговых ответов на инструкции, помощи в вопросах и задачах общего назначения. README характеризует её как альтернативу Llama 2 7B Chat и приводит результаты сравнительных оценок MT-Bench и AlpacaEval. Для качества генерации следует использовать ожидаемый моделью формат сообщений с завершающим переводом строки. Модель может выдавать проблемные ответы: этап выравнивания не был нацелен на безопасное поведение, а фильтрация ответов во время использования не предусмотрена. Лицензия указана как AI2 ImpACT Low-risk; перед применением следует учитывать её условия.

FineRadio-3.1-8B — языковая модель семейства Llama, разработанная AIstatistican и дообученная на базе unsloth/meta-llama-3.1-8b-bnb-4bit. Она предназначена для генерации текста и может использоваться в приложениях, которым нужны ответы или другой текстовый вывод по текстовому запросу. Модель имеет плотную архитектуру LlamaForCausalLM с 7,5 млрд параметров и контекстом до 131 072 токенов. В карточке указан английский язык. Для обучения использовались Unsloth и Hugging Face TRL; файлы представлены в формате PyTorch. Модель распространяется по лицензии Apache-2.0.

h2ogpt-oig-oasst1-512-6_9b — языковая модель H2O.ai для генерации текста и следования инструкциям. Это дообученная версия EleutherAI/pythia-6.9b с архитектурой GPT-NeoX, содержащая около 8,8 млрд параметров. Модель принимает текст и генерирует текст; карточка указывает английский язык и контекст до 2048 токенов. Модель предназначена для чат-ботов, ответов на вопросы и выполнения текстовых инструкций. При дообучении использованы наборы инструкций OIG и OpenAssistant, а также персонализированный набор Fortune 2000. Для запуска README предлагает библиотеку Transformers и Accelerate. Лицензия — Apache-2.0, допускающая коммерческое использование. Модель может выдавать неверные, бессвязные или неуместные ответы и воспроизводить предубеждения или оскорбительный контент; результаты требуют проверки человеком.

LLMLingua-2-Bert-base-Multilingual-Cased-MeetingBank — модель Microsoft на базе BERT multilingual base cased, дообученная для токенной классификации и сжатия промптов без привязки к конкретной задаче. Она оценивает вероятность сохранения каждого токена и помогает сокращать текст, сохраняя важную для задачи информацию. Модель обучена на данных, подготовленных по методике LLMLingua-2, с примерами из MeetingBank. Модель рассчитана на сжатие текстовых промптов и стенограмм встреч; сжатый текст можно использовать, например, для ответов на вопросы и суммаризации. Архитектура — BertForTokenClassification, размер — 205,1 млн параметров, контекст — до 512 токенов. Указана лицензия Apache-2.0.

Capx AI's Obsidian — дообученная модель сообщества Capx на базе Meta Llama 3 для задач общего назначения. Это авторегрессионная языковая модель с плотной архитектурой Transformer и 7,5 млрд параметров; контекст составляет до 8192 токенов. Модель дообучена на пользовательском наборе данных методом supervised fine-tuning для улучшения следования инструкциям и использует формат Alpaca. Модель предназначена для генерации текста и выполнения инструкций на английском языке: она может помогать с ответами на вопросы, созданием черновиков и другими текстовыми задачами общего назначения. Репозиторий содержит веса PyTorch. Для использования действует лицензия Llama 3; её условия следует учитывать при интеграции и распространении.

Synthia-13B — языковая модель migtissera на архитектуре LLaMA-2, дообученная на наборах данных в стиле Orca. Модель содержит 12,9 млрд параметров, работает через Transformers и PyTorch, принимает текстовые запросы и генерирует текст. Для контекста используется формат с ролями SYSTEM, USER и ASSISTANT; максимальная длина контекста — 4096 токенов. Модель предназначена для следования инструкциям и развернутых диалогов: она может отвечать на вопросы, объяснять темы и формулировать подробные ответы. README приводит результаты оценки на задачах ARC и HellaSwag, но эти показатели не гарантируют точность в конкретных сценариях. Модель преимущественно описана для английского языка. Модель может выдавать ошибочные или вводящие в заблуждение ответы, а также предвзятый, оскорбительный или иной неподходящий контент; важные сведения следует проверять. Указана лицензия Llama 2.

Flan-Alpaca-Large — модель для следования инструкциям, созданная лабораторией Declare-Lab путём дообучения FLAN-T5 на наборах инструкций Flan и Alpaca. Она использует архитектуру T5 с условной генерацией текста и предназначена для ответов на запросы и выполнения разнообразных текстовых заданий. Репозиторий содержит веса PyTorch и Safetensors; лицензия — Apache-2.0. Модель принимает текст и генерирует текст. Метаданные указывают 385,2 млн параметров и контекст до 512 токенов. README сообщает об обучении на данных Flan и Alpaca, но приводит для версии Large другое число параметров — 770 млн; поэтому размер из метаданных может не совпадать с описанием в карточке. Поддерживаемые языки явно не перечислены.

Joemgu/mlong-t5-large-sumstew — многоязычная модель для абстрактивного суммирования длинных документов и генерации заголовков, созданная на базе архитектуры LongT5 и дообученная разработчиком на наборе данных Joemgu/sumstew. Она принимает текст с инструкцией «Summarize:» для получения краткого содержания или «Write a title and summarize:» для генерации заголовка и краткого содержания. Модель содержит около 614,9 млн параметров; в метаданных указан контекст 4096 токенов, а в README заявлена обработка входов до 16 тысяч токенов. Поддерживаемые языки — английский, немецкий, французский, итальянский и испанский. Репозиторий использует Transformers и содержит веса в форматах PyTorch и Safetensors. Лицензия — Apache-2.0. Модель предназначена для подготовки кратких изложений и заголовков к длинным текстам. Ограничение по длине входа зависит от источника: README заявляет до 16 тысяч токенов, тогда как метаданные указывают контекст 4096 токенов; фактическое качество за пределами этого значения следует проверять на целевых документах.

PEGASUS-X Base — модель Google Research, основанная на PEGASUS и предназначенная прежде всего для абстрактивного суммирования длинных текстов. Это encoder-decoder Transformer с блочно-локальным вниманием и глобальными токенами энкодера; модель содержит около 187,1 млн параметров и поддерживает входной контекст до 16 384 токенов. Модель принимает текст и генерирует текстовое резюме. PEGASUS-X расширяет PEGASUS дополнительным предобучением на длинных последовательностях; в исследовании авторы сообщают о сильных результатах на задачах суммирования длинных текстов при сравнительно небольшом размере модели. Карточка Hugging Face не содержит сведений о конкретных языках обучения или лицензии, поэтому они здесь не уточняются.

Tulu 1 Llama 2 7B — англоязычная чат-модель и помощник, разработанный AI2 и дообученный на базе meta-llama/Llama-2-7b-hf. Модель содержит 6,6 млрд параметров, использует плотную архитектуру Llama и принимает текст для генерации текста; длина контекста — 4096 токенов. Для обучения использовалась смесь публичных, синтетических и созданных людьми инструкций и диалогов Tulu v1. Модель предназначена для следования инструкциям, диалоговых ответов и других задач генерации текста на английском языке. Для работы карточка рекомендует передавать сообщение в указанном в ней формате с переводом строки после завершающего маркера. Лицензия — AI2 ImpACT Low-risk. Модель не проходила выравнивание безопасности в рамках RLHF и не использует фильтрацию ответов, поэтому может генерировать проблемный контент, особенно при соответствующих запросах.

Hasanur525/deed_summarization_mt5_version_1 — дообученная Hasanur525 модель Google mT5-base для суммаризации текстов. Она построена на архитектуре MT5ForConditionalGeneration и содержит 291,2 млн параметров. Многоязычная базовая модель преобразует текст в текст; модель сохранена в формате safetensors. Модель предназначена для создания краткого содержания входного текста. В README приведены метрики на оценочном наборе: Loss 0,5863, ROUGE-1 1,0138, ROUGE-2 0,6875, ROUGE-L 1,0233, ROUGE-Lsum 1,0941 и средняя длина генерации около 288 токенов. Датасет указан как None, поэтому по карточке нельзя установить предметную область обучения или проверить приведённые значения метрик. Лицензия — Apache-2.0. README не сообщает об ограничениях применения или подтверждённых целевых языках; многоязычность относится к базовой модели и сама по себе не подтверждает качество суммаризации на каждом языке.

OpenAlpaca — предварительная версия открытой модели для следования инструкциям, разработанная на основе OpenLLaMA. Это плотная авторегрессионная модель семейства Llama с 6,6 млрд параметров; доступны веса PyTorch. Модель дообучена на наборе Databricks Dolly 15k, а исходная версия OpenLLaMA обучалась на 700 млрд токенов. Модель предназначена для генерации текста по пользовательским инструкциям, например для ответов на вопросы, составления текстов и выполнения простых запросов в диалоговом формате. Контекст ограничен 2048 токенами. В README не заявлена поддержка конкретных естественных языков, поэтому языковая специализация не указана. Лицензия — Apache-2.0.

Kosmos-EVAA-gamma-v15-8B — слитая языковая модель, созданная jaspionjader с помощью mergekit. Веса двух предварительно обученных моделей объединены методом SLERP; архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров, формат файлов — safetensors, библиотека — Transformers. Контекст составляет до 8192 токенов. Модель предназначена для генерации текста и может использоваться в сценариях, где требуется создание продолжений или ответов по текстовому запросу. Данные не описывают специальные области применения или приоритетные языки, поэтому её следует рассматривать как модель общего назначения. Условия использования определяются лицензией репозитория на Hugging Face.

Модель NEU-HAI/Llama-2-7b-alpaca-cleaned разработана лабораторией NEU Human-centered AI Lab. Это плотная авторегрессионная модель семейства Llama 2 с 6,6 млрд параметров, дообученная на наборе alpaca-cleaned с исходными гиперпараметрами Alpaca. Она предназначена для общения в формате ассистента и генерации текста на английском языке; максимальный контекст составляет 4096 токенов. Модель подходит для ответов на вопросы, выполнения текстовых инструкций и генерации текстов общего назначения. Карточка не приводит результатов оценки качества и подробного описания ограничений; набор данных и исходная модель могут наследовать смещения и ошибки. Лицензия — CC BY-NC 4.0; применение также должно учитывать ограничения проекта Stanford Alpaca и Llama 2 7B.

Llama-3-11B — плотная авторегрессионная языковая модель на архитектуре Llama, опубликованная MaziyarPanahi и созданная слиянием через mergekit методом passthrough на основе предварительно обученной meta-llama/Meta-Llama-3-8B. Модель предназначена для генерации текста; карточка и метаданные указывают поддержку английского языка. Размер составляет 11 млрд параметров, контекст — до 8192 токенов, для работы заявлена библиотека Transformers и формат весов safetensors. Модель подходит для продолжения текста, создания черновиков и ответов на текстовые запросы. Лицензия указана как other; перед использованием следует сверить условия на карточке модели и у базовой Meta Llama 3.

TurdusDareBeagle-7B — текстовая генеративная модель, созданная объединением моделей udkai/Turdus и shadowml/DareBeagle-7B с помощью LazyMergekit. В конфигурации указаны метод слияния slerp и тип данных float16; архитектура — плотная Mistral с 7,1 млрд параметров. Модель предназначена для генерации текста и ответов на запросы. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. В карточке указана лицензия Apache-2.0. Информация о специальных областях применения и языках в предоставленных данных отсутствует.

Модель ashwaninbs/bart-cnn-samsum-finetuned — дообученная версия facebook/bart-large-cnn на датасете SAMSum. Она предназначена для создания кратких пересказов диалогов и разговорных текстов, например стенограмм бесед. Модель построена на архитектуре BART и содержит 252,8 млн параметров; максимальная длина контекста — 1024 токена. Модель работает с текстом и выдаёт текстовые резюме. В README указан результат Loss 0,1318 на оценочном наборе, но дополнительных сведений о методике оценки и ограничениях нет. Лицензия — MIT.

Kosmos-EVAA-gamma-light-alt-8B — языковая модель для генерации текста, созданная автором репозитория путём слияния предварительно обученных моделей jaspionjader/Kosmos-EVAA-gamma-alt-8B и jaspionjader/Kosmos-EVAA-v3-8B. Для объединения применён метод SLERP с помощью mergekit; модель использует архитектуру Llama и содержит 7,5 млрд параметров. Модель предназначена для генерации текста по запросу и поддерживает контекст до 8192 токенов. Репозиторий содержит веса в формате Safetensors. Сведения о специализации по областям, поддерживаемых языках и лицензии в предоставленных источниках отсутствуют.