I.14Автоматизация процессов и AI-агенты

zephyr-7b-beta-Mistral-7B-Instruct-v0.1 — чат-модель на архитектуре Mistral, созданная MaziyarPanahi слиянием mistralai/Mistral-7B-Instruct-v0.1 и HuggingFaceH4/zephyr-7b-beta методом SLERP. Веса имеют около 7,1 млрд параметров, формат репозитория — safetensors, нативная длина контекста — 32 768 токенов. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Её можно использовать для чат-ботов, черновиков текстов, ответов на вопросы и кратких сводок. В README также перечислены отдельные варианты модели в форматах GPTQ и GGUF с разными уровнями квантизации для запуска на GPU или CPU и GPU. В метаданных указан английский язык. Качество ответов и фактическая точность могут различаться; для надёжных результатов требуется проверка человеком. Лицензия — Apache-2.0.

Apertus v1.5 8B text — MLX MXFP4 — это текстовая квантованная версия базовой модели swiss-ai/Apertus-v1.5, разработанной Swiss AI Initiative при участии EPFL, ETH Zurich и Швейцарского национального суперкомпьютерного центра на открытых данных. Данная конверсия выполнена независимо от авторов исходной модели и предназначена для запуска на компьютерах Apple с использованием MLX и mlx-lm. Модель поддерживает генерацию текста: принимает текст на вход и возвращает текст. Она содержит около 8,05 млрд параметров, использует архитектуру ApertusForCausalLM с 32 слоями, скрытым размером 4096, 32 головами внимания и 8 key-value головами, активацию xIELU, словарь из 131072 текстовых токенов и контекст длиной до 262144 токенов. Модель мультиязычная, однако конкретный перечень поддерживаемых языков в README не указан. Ключевое преимущество сборки — калиброванное квантование MXFP4 с эффективной точностью 4,250 бита на вес и размером файлов около 4,28 ГБ, что снижает требования к хранению и делает модель удобной для локального использования на Apple silicon. Ограничения связаны с потерями качества из-за квантования по сравнению с полноразмерными версиями, текстовой модальностью и зависимостью от совместимого программного стека MLX. Модель распространяется по лицензии Apache 2.0 с политикой допустимого использования Apertus 1.5.

IsValorum/Apodex-1.1-mini-APEX-I-MiniPlus-V2-GGUF — это GGUF-квантизированная версия модели Apodex-1.1-mini, разработанная Apodex и квантизированная IsValorum. Модель предназначена для локального запуска и поддерживает сценарии генерации текста, рассуждений и обработки изображений вместе с текстом; в карточке также заявлены MoE-архитектура, speculative decoding и Multi-Token Prediction (MTP), однако подробные параметры базовой модели в представленном фрагменте README отсутствуют. Модель ориентирована на многоязычное применение. В заявленных языках указаны английский, китайский, испанский, французский, немецкий, португальский, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Для визуальных задач предусмотрен мультимодальный vision projector в формате Q8_0; конкретный размер модели, число параметров и точное максимальное окно контекста для этой версии не указаны. README описывает возможность работы с длинным контекстом свыше 160 тысяч токенов, но это приведено как характеристика практических испытаний семейства MiniPlus, а не как строгое спецификационное ограничение данной сборки. К сильным сторонам относятся специализированная покомпонентная квантизация, сохранение router gates в F32, token output head в Q6_K, attention gates в Q8_0 и использование не менее 3-битных представлений для ключевых reasoning-экспертов. Такая конфигурация призвана сохранить качество рассуждений и снизить требования к памяти по сравнению с неквантизированными моделями. Ограничения связаны с потерями точности, неизбежными для квантизированной версии, зависимостью производительности от аппаратного обеспечения и неполнотой опубликованных технических характеристик. Лицензия — Apache-2.0.

AquilaChat2-7B-16K — диалоговая языковая модель из серии Aquila2, разработанной BAAI. Она предназначена для ведения чата и генерации текста, в том числе работы с длинными диалогами и текстами благодаря контексту до 16 384 токенов. Модель имеет плотную архитектуру AquilaForCausalLM и около 6,9 млрд параметров. В карточке заявлена поддержка английского и китайского языков; модель распространяется в формате PyTorch. Лицензия указана как other, поэтому условия использования следует уточнять в материалах разработчика.

mondk/claude-llama-8B-think — дообученная модель на архитектуре Llama 3.3, опубликованная mondk. Она предназначена для диалогов и генерации текста с упором на рассуждения; README описывает её как модель с интегрированным мышлением и отсылкой к стилю Claude. Модель содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Карточка связывает модель с базовой DavidAU/Llama3.3-8B-Instruct-Thinking-Claude-4.5-Opus-High-Reasoning и указывает датасет mondk/claude-sonnet5-jsonl. Метаданные заявляют поддержку английского, французского, немецкого, испанского, итальянского, португальского, китайского, японского, русского и корейского языков. Модель распространяется в формате safetensors по лицензии Apache-2.0. Её можно использовать для диалоговых ответов, генерации текста и задач, где полезны многошаговые рассуждения. README содержит мало сведений о качестве и проверках, поэтому заявленный акцент на рассуждениях не следует считать подтверждением точности; поведение модели также может отличаться от Claude.

Weyaxi/CollectiveCognition-v1.1-Nebula-7B — объединённая языковая модель на архитектуре Mistral, созданная путём слияния teknium/CollectiveCognition-v1.1-Mistral-7B и PulsarAI/Nebula-7B. Она предназначена для генерации текста и может использоваться для диалогов, ответов на вопросы и других задач с текстовыми инструкциями. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В карточке приведены результаты оценки Open LLM Leaderboard, включая ARC и HellaSwag. Доступна по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

Dans-PersonalityEngine-v1.0.0-8b-GGUF — это квантизированная GGUF-версия текстовой генеративной модели Dans-PersonalityEngine-v1.0.0-8b, разработанной PocketDoc и подготовленной квантизатором bartowski с использованием llama.cpp и imatrix. Модель содержит около 8 млрд параметров и предназначена для локального запуска, в частности через LM Studio. Доступны варианты от F16 до различных уровней квантизации Q3–Q8, что позволяет выбирать между качеством генерации, размером файла и требованиями к памяти. Модель ориентирована на широкий круг текстовых задач: диалоговое взаимодействие и ассистирование, написание и редактирование прозы, решение математических задач, программирование и анализ кода, подготовку данных, работу с инструментами и выполнение многошаговых заданий. В составе обучающих данных заявлены англоязычные наборы, посвящённые литературному письму, инструкциям, программированию, математике, химии, биологии, выживанию и другим темам. Основная заявленная область применения — генерация текста на английском языке; поддержка других языков и мультимодальных входов в README не указана. Сильными сторонами являются разнообразная специализация обучающих данных, наличие многочисленных вариантов квантизации и возможность локального инференса с использованием формата GGUF. К ограничениям относятся зависимость качества и скорости от выбранного уровня квантизации и оборудования, а также отсутствие в README сведений об архитектуре базовой модели, размере контекстного окна, результатах бенчмарков и фактическом качестве на отдельных задачах. Модель распространяется по лицензии Apache-2.0.

DeepSeek-VL-Hybrid — мультимодальная модель для понимания изображений и текста, разработанная командой DeepSeek AI. Она принимает изображения и текстовые запросы и формирует текстовые ответы в диалоговом режиме. В архитектуре используется языковая модель на основе LLaMA, SigLIP для обработки изображений низкого разрешения и SAM для изображений высокого разрешения. Модель рассчитана на практические визуально-языковые сценарии, включая анализ скриншотов, PDF, OCR, диаграмм и содержимого, требующего визуальных деталей; заявлена обработка изображений размером до 1024 × 1024 пикселей. В карточке указана версия 7B, однако конкретное число параметров этой копии не приведено. Модель подходит для вопросов об изображениях, извлечения и объяснения визуальной информации, а также работы с документами и графиками. Она требует вычислительных ресурсов для мультимодальной модели и может ошибаться в распознавании мелких деталей или содержимого изображения. Указана лицензия DeepSeek; метаданные Hugging Face классифицируют её как other, поэтому точные условия следует сверить с текстом лицензии репозитория.

Dolphin 2.6 Phi-2 — разговорная языковая модель, созданная Eric Hartford и Fernando Fernandes при спонсорской поддержке Convai на базе Phi-2 от Microsoft. Это плотная авторегрессионная модель семейства Phi с архитектурой PhiForCausalLM, дообученная методом qLoRA на трёх эпохах. Она принимает текст и ведёт диалог в формате ChatML; заявленное окно контекста — 2048 токенов. Модель предназначена для общения с ассистентом и генерации текста, в том числе для задач, представленных в наборах данных Dolphin, Dolphin Coder, Airoboros, OpenHermes, Magicoder и Capybara. Авторы описывают модель как «uncensored»: обучающие данные были отфильтрованы для уменьшения alignment и bias, поэтому модель может охотно отвечать на вредоносные и неэтичные запросы. Перед предоставлением доступа пользователям авторы рекомендуют добавить собственный слой выравнивания и безопасности. Для загрузки модели требуется trust_remote_code. Лицензия — MIT; качество генерации не гарантировано.

Dolphin-Llama2-7b — языковая модель команды Dolphin, обучение которой спонсировала preemo. Это дообученная плотная модель семейства Llama 2 с 6,6 млрд параметров и контекстом до 4096 токенов. Она принимает текстовые инструкции и генерирует текст; для диалога используется формат промпта, похожий на Vicuna, с полями SYSTEM, USER и ASSISTANT. Модель предназначена для ответов на инструкции, диалога и выполнения широкого круга текстовых задач. При дообучении использовался открытый вариант данных Orca: инструкции FLANv2 с ответами GPT-3.5 и GPT-4; авторы сообщают о фильтрации отказов и ограничений, поэтому модель может отвечать на запросы, от которых другие модели откажутся. Это повышает риск нежелательных или вредоносных ответов; автор рекомендует добавить собственный слой выравнивания перед предоставлением модели пользователям. В карточке указана лицензия Llama 2, допускающая коммерческое и некоммерческое применение с соблюдением её условий.

DPOpenHermes-7B-v2-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral, созданная слиянием mistralai/Mistral-7B-Instruct-v0.1 и openaccess-ai-collective/DPOpenHermes-7B-v2 методом SLERP. Модель содержит 7,1 млрд параметров и предназначена для генерации ответов на инструкции и диалоговые запросы; заявленный контекст — до 32 768 токенов. Модель принимает текст и выдаёт текст. В карточке указан английский язык. Репозиторий распространяется под лицензией Apache-2.0; веса представлены в формате safetensors. Карточка не приводит результатов оценки качества или подробных сведений о поведении модели.

bunnycore/Gemma-2-2B-TitanFusion-v2 — разговорная языковая модель, созданная слиянием предварительно обученных моделей Gemma 2 с помощью mergekit и метода Model Stock. В качестве базовой использована bunnycore/Gemma-2-2b-TitanFusion; в слияние также вошли варианты All-in-One, Gemma2-2B-mixed и Mixer-Lora. Модель предназначена для генерации текста в диалогах и ответов на инструкции. Каталог также указывает помощь с рассуждениями и кодом как возможности базовых моделей. Архитектура — плотная Gemma 2 для авторегрессионной генерации, размер — 2,7 млрд параметров, контекст — до 8192 токенов. Модель распространяется в формате Safetensors для Transformers. Сведения о лицензии в доступных данных отсутствуют.

MaziyarPanahi/gemma-3-12b-it-GGUF — это набор файлов модели в формате GGUF для Google Gemma 3 12B IT. Исходную модель разработала Google, а квантованные варианты подготовил MaziyarPanahi. Модель предназначена для генерации текста и использования в сценариях взаимодействия с инструкциями. Главная особенность репозитория — представление модели в формате GGUF, совместимом с llama.cpp и рядом локальных приложений и библиотек, включая llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другие. Доступны варианты с квантованием от 2 до 8 бит, что позволяет выбирать между меньшим потреблением памяти и сохранением качества, однако конкретные характеристики каждого варианта в README не приведены. К сильным сторонам относятся поддержка распространённого формата для локального запуска, возможность GPU-ускорения и широкий выбор уровней квантования. Ограничения связаны с потерями качества, возможными при агрессивном квантовании, а также с отсутствием в предоставленных данных сведений о поддерживаемых языках, размере контекста, модальностях и точных требованиях к оборудованию. Лицензия в README не указана.

GPT4-Alpaca-LoRAMLP-65B — модель генерации текста семейства LLaMA, подготовленная на основе LLaMA 65B с помощью LoRA-дообучения MLP-компонентов на наборе alpaca_data_gpt4. Репозиторий TheBloke содержит веса после объединения LoRA с исходной LLaMA 65B; доступны варианты для GPU и CPU, включая квантованные сборки в отдельных репозиториях. В этой карточке указаны веса PyTorch для Transformers: 65 млрд параметров и контекст до 2048 токенов. Модель предназначена для диалоговых и инструкционных сценариев: она принимает текстовые инструкции и генерирует ответы. В README описан обучающий чекпойнт, полученный через LoRA на данных Alpaca GPT-4; это не означает, что ответы эквивалентны GPT-4. Для репозитория указана лицензия other, поэтому условия использования следует сверить с исходной лицензией LLaMA и правилами распространения этой сборки.

Hermes-2-Pro-11B — текстовая генеративная модель Matt Shumer, созданная с помощью LazyMergekit на основе NousResearch/Hermes-2-Pro-Mistral-7B. Несмотря на описание README как слияния нескольких моделей, в нём перечислена одна и та же базовая модель десять раз; метаданные каталога классифицируют связь как дообучение. Архитектура — плотная MistralForCausalLM, размер — 11 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для диалогов и генерации текста по инструкциям. Лицензия Apache-2.0. Карточка не приводит отдельных оценок качества или подробностей обучения, поэтому пригодность для конкретной задачи следует проверять на собственных примерах.

HyperCLOVA X SEED 8B Omni — мультимодальная модель компании NAVER на основе плотного авторегрессионного Transformer с 8 млрд параметров. Она объединяет текстовые, визуальные и речевые представления в общем семантическом пространстве и поддерживает взаимодействие между модальностями в контексте до 32 тыс. токенов. Модель принимает текст, изображения, видео и аудио, а выдаёт текст, изображения и аудио; генерация видео не поддерживается. Модель предназначена для диалога и мультимодальных задач: ответов на вопросы по изображениям и видео, генерации и редактирования изображений, распознавания и перевода речи, синтеза речи, а также обычной генерации текста. В README она описана как корейско-ориентированный этап разработки универсальных мультимодальных моделей HyperCLOVA X. Для инференса NAVER предлагает OmniServe с API, совместимым с OpenAI; приведённая конфигурация запуска требует 4 GPU NVIDIA A100 по 80 ГБ. Лицензия указана как other, поэтому условия использования следует сверить с лицензией репозитория.

InternLM2.5-20B-Chat — разговорная текстовая модель семейства InternLM, разработанная командой InternLM. Данный репозиторий содержит её квантизованные версии в формате GGUF, подготовленные Second State Inc. на основе модели internlm/internlm2_5-20b-chat и предназначенные для локального запуска средствами, совместимыми с GGUF, включая LlamaEdge. Модель предназначена для генерации текста и диалоговых сценариев; README также указывает поддержку использования инструментов через специальный шаблон prompt. Это текстовая модель без заявленной поддержки других модальностей. Она содержит 20 миллиардов параметров, использует шаблон ChatML и поддерживает контекст размером до 32 000 токенов. Доступны варианты квантования от Q2_K до Q8_0, а также f16; их размер составляет примерно от 7,55 до 39,7 ГБ. Основное преимущество репозитория — выбор компромисса между размером файлов и качеством: Q4_K_M рекомендован как сбалансированный вариант, а Q5_K_M и Q5_K_S — как варианты с минимальной потерей качества. Более агрессивное квантование уменьшает требования к памяти, но может заметно ухудшить качество ответов. Для запуска с LlamaEdge требуется версия 0.13.0 или выше. Лицензия указана как other, без дополнительных условий в README.

InternLM3-8B-Instruct-GGUF — это 8-миллиардная instruction-модель семейства InternLM, опубликованная командой InternLM и представленная в формате GGUF. Данный набор квантованных версий подготовлен bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалогового взаимодействия, включая запуск локально через llama.cpp или LM Studio. Формат prompt не указан, поэтому для корректного применения следует обратиться к странице исходной модели. Доступны варианты от полноточных F32 и F16 до квантований Q8, Q6, Q5, Q4, Q3 и Q2, размером примерно от 3,82 до 35,22 ГБ. Квантованные версии снижают требования к памяти, сохраняя различный уровень качества; README рекомендует несколько вариантов Q6, Q5 и Q4 как оптимальные по соотношению качества и размера. Сведения о поддерживаемых языках, длине контекста, модальностях и конкретной архитектуре в README не приведены. Модель распространяется под лицензией Apache-2.0.

Jais Family 30B 8K — плотная авторегрессионная языковая модель семейства Jais, опубликованная Inception Institute of Artificial Intelligence. Модель предназначена для генерации текста на арабском и английском языках; семейство оптимизировано для арабского и сохраняет сильные возможности английского. В карточке семейства указано, что модели этого варианта предварительно обучались с нуля, а базовые версии дообучались для диалога; конкретно этот репозиторий не обозначен как чат-вариант. Модель подходит для генерации и продолжения текста, ответов на вопросы, классификации тональности и обработки двуязычных документов, включая их краткое изложение. Архитектура — плотная модель JAISLMHeadModel на PyTorch, размер 30 млрд параметров, контекстное окно — 8192 токена. Для загрузки требуется пользовательский класс модели с включением trust_remote_code. Лицензия — Apache 2.0. Модель может ошибаться, воспроизводить предвзятость или выдавать оскорбительный контент; она не предназначена для критически важных решений без контроля человека и для работы с конфиденциальными данными. Уровень владения другими языками и диалектами не следует считать сопоставимым с арабским и английским.

Josiefied-Qwen2.5-7B-Instruct-abliterated-v2 — диалоговая языковая модель, разработанная Гёкденизом Гюльмезом. Это дообученная и аблитерированная версия Qwen2.5-7B-Instruct, созданная на пользовательском наборе данных для более свободных ответов и меньшего числа отказов. Модель построена на архитектуре Qwen2 с плотной причинной языковой моделью и содержит около 7,1 млрд параметров; заявленный нативный контекст — 32 768 токенов. Модель предназначена для генерации текста в формате чата: она отвечает на запросы, помогает с письмом, программированием и математическими задачами, а также поддерживает многоязычные диалоги. В метаданных отмечены интерфейс вызова инструментов и поддержка английского, русского, китайского, немецкого, французского, испанского, португальского, итальянского, японского, корейского, вьетнамского, тайского и арабского языков. Карточка указывает лицензию Apache 2.0. Аблитерация ориентирована на снижение отказов, что позволяет использовать модель для запросов, которые обычные ассистенты могут отклонять; при этом поведение и безопасность ответов могут быть менее предсказуемыми. Автор рекомендует использовать модель на свой риск. Указанные в README характеристики базовой Qwen2.5, включая контекст до 128K токенов, не следует переносить на эту производную модель: для данного репозитория метаданные указывают нативный контекст 32 768 токенов.

SirSahOl подготовил 16-битную версию модели IFM/K2-Horizon-0.9B для запуска на компьютерах Apple Silicon с помощью MLX. Это плотная причинная языковая модель примерно на 924,5 млн параметров с контекстом до 8192 токенов, предназначенная для диалогов и генерации текста. Базовая модель описана как компактная модель для рассуждений, математики и программирования; эти возможности унаследованы от неё. Модель распространяется в формате safetensors и рассчитана на запуск через MLX. README приводит замеры на Apple M1 и рекомендации по объёму памяти для разных вариантов точности. Для этой версии требуется Apple Silicon M1 или новее; при работе с контекстами длиннее 8 тысяч токенов качество может снижаться. Лицензия — Apache 2.0.

EXAONE-4.0-32B-GGUF — это набор GGUF-квантизаций языковой модели EXAONE-4.0-32B, разработанной LGAI-EXAONE. Квантизации подготовлены пользователем bartowski с помощью llama.cpp версии b5934 и imatrix на основе исходной модели LGAI-EXAONE/EXAONE-4.0-32B. Модель предназначена для генерации текста и может использоваться локально через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты от BF16 размером около 64 ГБ до компактных IQ3 и Q3 размером примерно 13–17 ГБ, а также более качественные Q4–Q8. Рекомендуемым вариантом по умолчанию указан Q4_K_M; варианты Q5 и Q6 обеспечивают более высокое качество при значительных требованиях к памяти, а низкобитные варианты подходят для систем с ограниченным объёмом RAM, но могут заметно уступать в качестве. Из README известно, что модель содержит 32 миллиарда параметров и работает в текстовой модальности. Архитектура, поддерживаемые языки, размер контекстного окна и точные характеристики исходной модели здесь не указаны. Шаблон чата также не задан: в README приведён предполагаемый формат, который может быть некорректным и требует проверки по карточке оригинальной модели. Лицензия в предоставленных данных не указана.

Llama-3-8B-Instruct-80K-QLoRA-Merged — диалоговая языковая модель семейства Llama 3, созданная namespace-Pt на основе Meta-Llama-3-8B-Instruct. Контекст модели расширен примерно до 80 тысяч токенов с помощью QLoRA и обучения на синтетических длинных примерах, после чего веса объединены с исходной инструкционной моделью. Архитектура — плотная авторегрессионная LlamaForCausalLM; в репозитории представлены веса Safetensors, размер модели — 7,5 млрд параметров. Модель предназначена для генерации ответов и работы с длинными текстами: поиска сведений в больших документах, ответов по нескольким источникам, суммаризации и задач с большим контекстом. README приводит результаты оценок на LongBench, InfiniteBench и тесте Needle-in-a-Haystack; это бенчмарки, а не гарантия качества для конкретных данных. Модель принимает текст и генерирует текст. Язык оценки в README — английский; поддержка других языков не установлена предоставленными данными. Лицензия репозитория указана как MIT. Модель сохраняет ограничения базовой Llama и может ошибаться, особенно при обработке длинного контекста; фактическое поведение зависит от используемой конфигурации и максимальной длины генерации.

Llama-3-8B-Instruct-GGUF — квантизированная GGUF-версия языковой модели Meta-Llama-3-8B-Instruct, разработанной Meta. Квантизацию выполнила Second State Inc. Модель предназначена для генерации текста и диалогового взаимодействия с использованием шаблона запросов llama-3-chat, а также для локального запуска через llama.cpp и LlamaEdge. Модель относится к архитектуре Llama и содержит 8 миллиардов параметров. Это текстовая модель с поддержкой английского языка и контекстом до 8192 токенов. Доступны варианты квантизации от 2 до 8 бит, а также версия f16; размеры файлов составляют примерно от 3,18 до 16,1 ГБ. Вариант Q4_K_M позиционируется как сбалансированный по качеству и размеру, а Q5_K_M и Q5_K_S — как варианты с небольшими потерями качества. Основные преимущества модели — относительно компактный размер, возможность локального развертывания и выбор между несколькими уровнями квантизации. Существенным ограничением является потеря качества у низкобитных вариантов, особенно Q2 и Q3; README также не содержит результатов бенчмарков или подробных сведений о безопасности и ограничениях применения. Указана лицензия Llama 3 с обозначением llama3; условия использования следует уточнять в лицензии Meta.

Llama3-ChatQA-1.5-8B — разговорная языковая модель NVIDIA для ответов на вопросы и систем генерации с дополнением извлечёнными данными (RAG). Она дообучена на базе Llama 3 с улучшенной методикой ChatQA и дополнительными данными для разговорных вопросов, табличных запросов и арифметических вычислений. Модель имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекст до 8192 токенов; репозиторий содержит веса в формате Safetensors. Модель рассчитана прежде всего на ответы по предоставленному контексту: это могут быть целые документы, помещающиеся в контекст, или найденные поиском фрагменты. Она поддерживает разговорный формат и ориентирована на английский язык. В README приведены результаты оценки на наборах разговорного QA и RAG; качество зависит от контекста и сценария, поэтому ответы следует проверять, особенно при вычислениях и работе с таблицами. Лицензия — Llama 3 License.

LongAlign-7B-64k — языковая модель семейства Llama, выпущенная командой LongAlign для следования инструкциям в длинном контексте. В README проект описывает набор LongAlign-10k из 10 000 инструкций длиной 8–64 тыс. токенов, а также обучение с упаковкой примеров и сортировкой по длине батча. Модель содержит 6,6 млрд параметров и рассчитана на контекст до 65 536 токенов. Модель предназначена для генерации ответов на запросы, включающие длинные документы или контекст. Карточка связывает LongAlign-7B-64k-base с Llama-2-7B, расширенной до контекста 64 тыс. токенов; данный репозиторий относится к серии LongAlign, обученной для выравнивания на длинном контексте. Поддерживаемые языки по метаданным — английский и китайский. Модель распространяется по лицензии Apache-2.0. Среди подходящих сценариев — ответы на вопросы по длинным текстам, следование инструкциям с большим контекстом и суммирование объёмных материалов. README описывает LongBench-Chat для оценки следования инструкциям при запросах длиной 10–100 тыс. токенов, но это не означает, что модель принимает контекст свыше заявленных 65 536 токенов. Приведённый фрагмент карточки не сообщает отдельные ограничения качества или подробности использования именно этой версии.

Lumi-v2-llm-jp-4-8b — японско-английская чат-модель, разработанная SousiOmine на основе llm-jp/llm-jp-4-8b-base. Модель с архитектурой Llama и 7,8 млрд параметров прошла SFT на примерно 1,7 млрд токенов данных с шаблоном ChatML; веса доступны в формате safetensors для Transformers. Контекст модели составляет 65 536 токенов. Модель предназначена для диалоговой генерации текста, следования инструкциям и задач рассуждения на японском и английском языках. В обучающие данные вошли открытые наборы для рассуждений, мультиязычных инструкций, научных вопросов и агентного поведения, а также собственные данные разработчика для вопросов и ответов по коду на японском. Лицензия модели — Apache-2.0. Качество ответов зависит от запроса и тематики; карточка не приводит сравнительных оценок или подробных гарантий качества. Лицензии и условия использования отдельных обучающих наборов различаются и требуют проверки по их карточкам.

Maverick-v1.0 — объединённая языковая модель, созданная с помощью mergekit на основе Mistral-7B-Instruct-v0.2 и включающая Kunoichi-DPO-v2-7B и NeuralOmniWestBeaglake-7B. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов, предназначенная для генерации текста и диалогового общения. Модель опубликована в формате safetensors и использует библиотеку Transformers. Объединение выполнено методом task arithmetic. Модель может применяться для ответов в чате, написания и продолжения текста, а также других сценариев генерации на естественном языке. Репозиторий распространяется по лицензии Apache-2.0; сведения о конкретной языковой специализации и оценках качества в предоставленных данных отсутствуют.

MeliodasPercival_01_NeuralsirkrishnaShadow — объединённая авторами модели Mistral плотная языковая модель на 7,1 млрд параметров для генерации текста и диалогов. Она принимает текст и выдаёт текст, поддерживает контекст длиной до 32 768 токенов и распространяется в формате Safetensors. Модель предназначена для сценариев генерации текста и ведения диалогов. Она создана слиянием automerger/MeliodasPercival_01-7B и automerger/NeuralsirkrishnaShadow-7B. Лицензия — Apache 2.0.

Meta-Llama-3.1-8B-Claude-GGUF — набор GGUF-квантизаций модели Meta-Llama-3.1-8B-Claude, базовой моделью которой указана Undi95. Квантизации подготовлены bartowski с использованием llama.cpp версии b3472 и метода imatrix. Модель предназначена для генерации текста и локального запуска, в частности через LM Studio; для работы используется формат промпта Llama 3 с ролями system, user и assistant. Доступны варианты от полных весов F32 размером 32,13 ГБ до низкобитных IQ2_M размером 2,95 ГБ. Рекомендуемые варианты включают Q4_K_M, Q5_K_M, Q6_K и другие; более высокие уровни квантизации обеспечивают лучшее качество, а низкие требуют меньше оперативной памяти, но могут заметно снижать качество генерации. В README не указаны архитектурные детали исходной модели, поддерживаемые языки, размер контекста, модальности или лицензия, поэтому эти характеристики нельзя достоверно определить.