I.14Автоматизация процессов и AI-агенты
В разделе собраны самостоятельные задачи, где AI помогает выполнять многошаговые цифровые процессы и координировать действия между системами. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 022 моделиZephyrPaca-7B — объединённая языковая чат-модель на 7,1 млрд параметров, созданная с помощью mergekit. В неё методом TIES объединены HuggingFaceH4/zephyr-7b-beta и mlabonne/Mistralpaca-7B; архитектура — плотная MistralForCausalLM, веса представлены в safetensors. Указанная длина контекста — 32 768 токенов. Модель предназначена для генерации текста в диалогах и выполнения пользовательских инструкций. Её можно применять для ответов на вопросы, ведения беседы и создания текстовых черновиков. Карточка не сообщает отдельные языковые ограничения; базовая модель Zephyr ориентирована на английский. Лицензия в предоставленных данных не указана.
Apertus v1.5 70B text-only GGUF — это квантизированная версия базовой модели swiss-ai/Apertus-v1.5-70B, подготовленная в формате GGUF для запуска через llama.cpp. Модель разработана Swiss AI и предназначена для генерации и обработки текста, включая мультиязычные сценарии. Представленные файлы содержат только текстовый декодер с архитектурой Apertus и примерно 70 млрд параметров; варианты поставляются в квантизациях Q4_K_M и q8_0. Исходная Apertus v1.5 является мультимодальной моделью с компонентами для текста, изображений и аудио, однако в этой сборке vision- и audio-компоненты удалены. Поэтому модель не принимает изображения или аудиоданные и работает исключительно с текстом. Для запуска требуется актуальная версия llama.cpp с поддержкой архитектуры Apertus; vLLM этот GGUF-формат не поддерживает. В README также указано, что для корректной остановки генерации и отображения reasoning необходимо задать специальные параметры запуска. Главное преимущество сборки — возможность запускать Apertus v1.5 через стандартный llama.cpp без специальной ветки SwissAI и без исходных safetensors. При этом это тестовые квантизации без imatrix, измерений perplexity и результатов бенчмарков, поэтому качество и эффективность не были тщательно валидированы. Для опубликованных файлов указана лицензия Apache-2.0.
Athene-70B-Preview — диалоговая большая языковая модель с открытыми весами, разработанная командой Nexusflow и дообученная с помощью RLHF на основе Llama-3-70B-Instruct. Репозиторий содержит копию первоначального выпуска Athene-70B; в карточке рекомендуется использовать более новую версию. Модель построена на плотной архитектуре Llama и содержит 69,5 млрд параметров; для запуска используется библиотека Transformers, веса представлены в формате safetensors. Контекстное окно составляет 8192 токена, основной язык — английский. Модель предназначена для диалогов и генерации текста, включая ответы на вопросы и выполнение пользовательских инструкций. В README отмечен результат 77,8% на Arena-Hard-Auto — прокси-бенчмарке Chatbot Arena. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.
Athene-Phi-3.5-mini-instruct-orpo-GGUF — это набор GGUF-квантизированных версий языковой модели Athene-Phi-3.5-mini-instruct-orpo, разработанной EpistemeAI и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и выполнения инструкций в сценариях локального запуска, в том числе через llama.cpp и LM Studio. В репозитории представлены варианты от исходных весов F16 до квантизаций Q8_0, Q6, Q5, Q4, Q3 и IQ4 с размером файлов примерно от 1,88 до 7,64 ГБ. Для взаимодействия используется формат промпта с ролями system, user и assistant. Указан английский язык; сведения о количестве параметров, максимальном контексте, архитектурных деталях и поддержке других модальностей отсутствуют. К сильным сторонам относятся широкий выбор уровней квантизации, возможность подобрать баланс между качеством, размером и требованиями к памяти, а также специальные варианты Q4 для ARM и CPU-инференса. Более компактные версии могут уступать по качеству полноразмерным и менее агрессивно квантизированным вариантам. Модель распространяется по лицензии Apache-2.0.
Bielik-11B-v3.0-Instruct — генеративная языковая модель с 11 млрд параметров, разработанная SpeakLeash совместно с центром ACK Cyfronet AGH. Это дообученная для следования инструкциям версия Bielik-11B-v3-Base-20250730 с архитектурой causal decoder-only; формат диалога — ChatML. Модель предназначена для общения, ответов на вопросы и выполнения разнообразных текстовых задач, включая задачи на логику, STEM, математику и работу с инструментами. Модель обучали на текстах и инструкциях на 32 европейских языках, уделяя особое внимание польскому. В обучении использовались многоходовые диалоги, синтетические и проверенные вручную инструкции, а также методы DPO и обучения с подкреплением. В метаданных перечислена поддержка польского и ряда европейских языков, включая русский и английский. Лицензия — Apache 2.0. Разработчики характеризуют модель как демонстрацию возможностей базовой модели после дообучения. Она может выдавать фактически неверные, предвзятые или оскорбительные ответы и не имеет встроенных механизмов модерации; её выводы требуют проверки.
BLOOMZ-3B — многоязычная языковая модель BigScience, дообученная на BLOOM для выполнения инструкций на основе естественно-языковых запросов. Она предназначена для генерации ответов и выполнения задач без примеров, в том числе перевода, классификации тональности, подбора поисковых запросов и объяснения понятий. Модель использует плотную авторегрессионную архитектуру BLOOM с 3 млрд параметров и контекстом до 2048 токенов; принимает текст и генерирует текст. Обучение проводилось на многоязычной смеси задач xP3, а лицензия — BigScience BLOOM RAIL 1.0. Модель поддерживает широкий набор языков, включая английский, французский, испанский, китайский, арабский, хинди и другие языки из предобучения BLOOM и дообучения xP3. Её сильная сторона — выполнение разнообразных инструкций и обобщение на задачи, которых не было в обучении. Качество зависит от формулировки запроса: рекомендуется явно обозначать границу входного текста и задавать желаемый язык ответа. Модель может продолжать исходный текст вместо ответа, если запрос сформулирован неоднозначно.
MiniMax-M2-REAP-139B-A10B — это языковая модель для генерации текста, разработанная Cerebras. Она создана на основе MiniMax-M2: методом REAP из исходной модели равномерно удалено 40% экспертов. По доступным данным, модель использует разреженную MoE-архитектуру, имеет заявленный размер 139B параметров и активную часть A10B. Указан английский язык; сведения о поддерживаемых модальностях и размере контекста отсутствуют. Эта версия представляет собой GGUF-квантизации, подготовленные bartowski с использованием llama.cpp и калибровочных данных imatrix. Она предназначена для локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты от Q8_0 до 2-битных и IQ-квантизаций с размером файлов примерно от 55 до 148 ГБ; более высокие разрядности обычно обеспечивают лучшее качество, а низкоразрядные варианты уменьшают требования к памяти, но могут заметно снижать качество. Сильными сторонами являются широкий выбор квантизаций, возможность локального использования и сохранение работоспособности после структурного сокращения MoE-модели. Ограничения включают очень большой объём памяти, зависимость качества от выбранного варианта квантизации и отсутствие в карточке подробных результатов оценки. Лицензия указана как other; конкретные условия необходимо уточнять в лицензии исходной модели Cerebras.
Dolphin-Mistral-24B-Venice-Edition-GGUF — это набор GGUF-квантизаций текстовой генеративной модели Dolphin-Mistral-24B-Venice-Edition, разработанной cognitivecomputations. Квантизации подготовлены пользователем bartowski с помощью llama.cpp версии b5835 и метода imatrix. Модель предназначена для локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp, а также для генерации текста по заданному системному промпту и пользовательскому запросу. Размер исходной модели составляет 24 млрд параметров; доступны варианты от BF16 размером 47,15 ГБ до более компактных квантовок Q3 и Q4, а также Q5, Q6 и Q8. В README указана только текстовая модальность и формат взаимодействия через системный промпт и инструкцию. Контекстное окно, поддерживаемые языки, конкретные обучающие данные и результаты независимого тестирования не указаны. Основное преимущество набора — широкий выбор уровней квантизации, позволяющий выбирать между качеством генерации, размером файла и требованиями к памяти. В README варианты Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS отмечены как рекомендуемые; Q4_K_M описан как вариант стандартного размера для большинства сценариев. Ограничения включают зависимость характеристик от выбранной квантовки и отсутствие подробных сведений о качестве, языках и контексте. Лицензия модели указана как Apache-2.0.
DatacampLlama-3.1-8B-GGUF — набор GGUF-квантизированных версий модели DatacampLlama-3.1-8B, опубликованной mlabonne. Квантизация выполнена bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска, в частности через llama.cpp и LM Studio; в README заявлена поддержка английского языка и формат чата с ролями system, user и assistant. Модель относится к семейству Llama 3.1 и имеет размер 8B параметров. Доступны варианты от исходных весов F16 размером около 16,07 ГБ до компактных форматов Q2 и IQ3 размером примерно 3,66–4,78 ГБ, а также более качественные варианты Q4–Q8. Высокие уровни квантизации обеспечивают лучшее сохранение качества, тогда как компактные версии требуют меньше оперативной памяти, но могут заметнее уступать в качестве генерации. Отдельные варианты оптимизированы для CPU и ARM-инференса. README не указывает размер контекста, мультимодальные возможности, результаты бенчмарков или подробности обучения, поэтому модель следует рассматривать как текстовую, без подтвержденной поддержки изображений и других модальностей. Лицензия — Apache 2.0.
Dolphin 2.2 Yi 34B 200K — разговорная языковая модель, разработанная Eric Hartford при спонсорской поддержке Convai и дообученная на базе Yi. Это плотная модель семейства Llama с 33,9 млрд параметров; она принимает текст и генерирует текст, поддерживает диалоги в формате ChatML и рассчитана на контекст до 200 000 токенов. В ходе дообучения использовались данные Dolphin, Airoboros, а также отобранные примеры из Samantha и WizardLM; обучение выполнялось методом qLoRA. Модель предназначена для многоходового общения, ответов на вопросы, творческих инструкций и персональных советов. По карточке, она обучена быть эмпатичной и менее ограничивать ответы; из-за этого разработчик рекомендует самостоятельно добавить слой выравнивания перед публикацией сервиса. В метаданных указан английский язык. Репозиторий содержит веса PyTorch. README указывает, что модель основана на Yi и подпадает под лицензию Yi; метаданные HF отдельно указывают Apache-2.0, поэтому условия использования следует сверять с лицензией базовой модели и файлами репозитория.
Eclipse-13B — языковая модель Xenon1, представленная в карточке как Eclipse-7B. Это дообученная для следования инструкциям версия Mistral-7B-v0.1: в README указано обучение на Ultrafeedback с методами из работы Self-Rewarding Language Models. Архитектура в метаданных обозначена как Mixtral MoE, класс — MixtralForCausalLM; размер составляет 7,1 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для генерации текста и диалоговых ответов по инструкциям. README описывает формат запросов с токенами [INST] и [/INST] и поддержку шаблона чата через apply_chat_template(). В метаданных указан английский язык, а веса доступны в форматах PyTorch и safetensors. Лицензия — Apache-2.0. README и метаданные расходятся в названии и архитектурном описании: карточка говорит об Eclipse-7B на базе Mistral-7B-v0.1, а метаданные называют модель Eclipse-13B и указывают Mixtral MoE; поэтому архитектурные сведения следует трактовать с осторожностью.
Fidel 1.1 — компактная текстовая авторегрессионная модель от 4E-AI для локальной генерации текста и диалогов. Вариант репозитория содержит веса SafeTensors, токенизатор и реализацию для Transformers; лицензия Apache-2.0 разрешает использование, изменение и распространение на её условиях. Архитектура сочетает восемь блоков Mamba3 MIMO с блоком внимания и латентной смесью экспертов: в каждом блоке маршрутизация выбирает два эксперта из шестнадцати. Метаданные указывают около 498,6 млн параметров, тогда как README сообщает примерно 1,403 млрд элементов с учётом весов и буферов; обозначение 1B относится к семейству модели. Модель принимает текст, поддерживает шаблон чата и включает компоненты для задач программирования. Заявленный предел совокупного ввода и вывода — 8192 токена. Модель предназначена для локальных чат-интерфейсов, генерации и дополнения кода, а также для экспериментов с черновиками, перефразированием, суммаризацией и ответами по переданным текстам. Авторы описывают эти сценарии как направления для самостоятельной проверки, а не гарантии качества. Включённая реализация рассчитана на Transformers и PyTorch; генерация повторно обрабатывает полный префикс без кеширования, поэтому длинные диалоги требуют больше вычислений. Указаны ограничения на точность, батчинг с дополнением, распределение по нескольким устройствам и альтернативные движки обслуживания; ответы и код могут быть ошибочными.
Это англоязычная модель Sentence Transformers, дообученная thanhpham1 на базе sentence-transformers/all-mpnet-base-v2 на 5 146 парах технических текстов. Она кодирует предложения и абзацы в плотные векторы размерностью 768 и предназначена для семантического поиска и сравнения текстов; близость оценивается косинусным сходством. Архитектура включает MPNet, усреднение токенных представлений и нормализацию векторов. Обучение Matryoshka позволяет использовать укороченные представления размерностью 512, 256, 128 или 64 с компромиссом между размером вектора и качеством поиска. Модель подходит для поиска ответов и фрагментов в технической документации, сопоставления технических вопросов с релевантными пояснениями, поиска перефразировок и кластеризации технических текстов. README приводит метрики поиска на нескольких размерностях, однако подробности тестового набора ограничены. Максимальная длина последовательности в README указана как 384 токена, а метаданные указывают контекст до 514 токенов. Лицензия Apache-2.0.
GALPACA 6.7B — языковая модель на архитектуре OPT, созданная дообучением GALACTICA 6.7B на 52 тысячах пар инструкций и ответов из набора Alpaca. Модель разработана для ответов на запросы в формате инструкций и ориентирована на научные и технические задачи; её базовая модель обучалась на крупном корпусе научных текстов и данных. Размер модели по метаданным — 8,8 млрд параметров, максимальный контекст — 2048 токенов. Модель принимает текст и генерирует текст. Качественные оценки указывают на сильные стороны в технических знаниях и программировании по сравнению с некоторыми моделями Alpaca на базе LLaMA, но на обычной генерации прозы она уступает им. Ответы могут быть неточными, поэтому для практического применения нужны проверки и меры предосторожности. Лицензия — CC BY-NC 4.0; использование также связано с условиями OpenAI, поскольку набор Alpaca был создан с помощью text-davinci-003.
unsloth/gemma-3n-E2B-it-litert-preview-GGUF — GGUF-версия инструкционной модели Gemma 3n E2B, основанной на google/gemma-3n-E2B-it-litert-preview. Модель разработана Google DeepMind, а данный вариант подготовлен Unsloth. Она предназначена для эффективного запуска на устройствах с ограниченными ресурсами, а также для диалогов, ответов на вопросы и суммаризации документов. Модель поддерживает мультимодальный ввод текста, изображений, видео и аудио с генерацией текстовых ответов, однако в README для этой конкретной версии указано, что в настоящее время поддерживается только текст. Эффективный размер составляет 2B параметров благодаря технологии выборочной активации параметров; общий размер параметров не указан. Максимальная длина контекста — 32K токенов. Заявлена языковая поддержка английского языка, при этом семейство Gemma 3n обучалось на данных более чем 140 разговорных языков. К сильным сторонам относятся компактность, ориентированность на малоресурсные устройства и формат GGUF, удобный для локального запуска. Ограничения включают текущую поддержку только текстовых входов в этой версии и отсутствие подробных сведений о производительности, аппаратных требованиях и результатах оценки. Модель распространяется по лицензии Gemma; условия использования определяются соответствующими Terms of Use Google.
Мультимодальная модель carbonteq на архитектуре Gemma 4 E4B, дообученная на базе unsloth/gemma-4-E4B-it. Репозиторий содержит веса в формате Safetensors; модель предназначена для диалогового взаимодействия и генерации ответов на текстовые запросы с учётом изображений. Модель подходит для вопросов по изображениям и документам, а также для других сценариев общения с визуальным вводом. Карточка указывает, что обучение проводилось с использованием Unsloth и библиотеки Hugging Face TRL. Лицензия — Apache-2.0.
Google Gemma 3 4B IT QAT — мультимодальная instruction-tuned модель с примерно 4 млрд параметров, подготовленная Google и опубликованная в виде GGUF-квантизаций пользователем bartowski. Модель предназначена для задач генерации текста и обработки изображений вместе с текстовыми запросами; запуск возможен через llama.cpp, LM Studio и совместимые проекты. Представленная версия основана на QAT-весах Google и доступна в нескольких форматах квантизации, включая Q4_0, Q4_K_M, Q5, Q6, Q8_0 и BF16. Размер файлов варьируется примерно от 2,1 до 7,77 ГБ в зависимости от формата. Q4_0 отмечен как вариант, улучшенный благодаря QAT, а более качественные Q5 и Q6 рекомендуются для большинства сценариев. Поддерживаются онлайн-перепаковка для ARM и AVX CPU в отдельных форматах. К сильным сторонам относятся компактный размер, широкий выбор уровней квантизации и возможность локального запуска на CPU или другом оборудовании, совместимом с llama.cpp. README не содержит сведений о точном контекстном окне, поддерживаемых языках, конкретных архитектурных деталях и количественной оценке качества, поэтому эти характеристики нельзя достоверно определить. Использование регулируется лицензией Google Gemma; для доступа на Hugging Face требуется принять условия лицензии.
Карточка модели second-state/gpt-oss-120b-GGUF на Hugging Face совпадает с карточкой egoriow/gpt-oss-120b-GGUF, поэтому описание составлено по ней. egoriow/gpt-oss-120b-GGUF — квантованная в формате GGUF версия модели openai/gpt-oss-120b, размещённая egoriow. Это разговорная текстовая модель для генерации ответов и ведения диалога; README указывает на запуск через LlamaEdge, а метаданные отмечают поддержку чата и архитектуру GPT-OSS типа MoE. В метаданных указаны 2,1 млрд параметров и контекст до 131 072 токенов. Модель принимает текст и генерирует текст. Репозиторий содержит варианты GGUF и GGUF F16; лицензия — Apache-2.0. Карточка называет исходной моделью openai/gpt-oss-120b, но конкретные характеристики качества и ограничения применения не описывает.
haLLawa4-7b — слитая языковая модель, опубликованная AbacusResearch. Она объединяет Monarch-7B, OGNO-7B и haLLAwa3 с помощью mergekit и метода DARE-TIES; архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров, формат весов — safetensors. Модель предназначена для генерации текста и общих языковых задач, включая диалог и ответы на запросы. Контекстное окно составляет 32 768 токенов. Модель подходит для создания ответов и текста, а опубликованные результаты включают оценки на AI2 Reasoning Challenge и HellaSwag. README не сообщает отдельного перечня языков или специализированных областей применения, поэтому модель следует рассматривать как общего назначения. Лицензия — Apache-2.0.
Hermes-3-Llama-3.1-70B-lorablated-GGUF — это набор GGUF-квантизаций текстовой генеративной модели Hermes-3-Llama-3.1-70B-lorablated, разработанной на базе Llama 3.1 и опубликованной mlabonne. Квантизации подготовлены пользователем bartowski с помощью llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалогового взаимодействия. Она поддерживает запуск через llama.cpp и LM Studio; в README также приведён специальный шаблон промпта с ролями system, user и assistant. Доступно множество вариантов квантизации от Q8_0 до IQ1_M, что позволяет выбирать баланс между качеством, размером файла и требованиями к оперативной памяти. Размеры указанных файлов составляют примерно от 19 до 75 ГБ. Сильной стороной набора является возможность локального запуска крупной 70B-модели с разным уровнем сжатия; варианты Q6_K, Q5_K_M и некоторые Q4 рекомендуется использовать для высокого качества. Более компактные варианты требуют меньше памяти, но снижают качество генерации. В README не указаны поддерживаемые языки, размер контекстного окна, точные архитектурные характеристики, мультимодальные возможности и лицензия, поэтому эти свойства нельзя достоверно определить по представленным данным.
Jais Family 13B Chat — диалоговая языковая модель семейства Jais, разработанного Inception Institute of Artificial Intelligence. Это дообученная для общения версия базовой модели inceptionai/jais-family-13b с плотной архитектурой JAISLMHeadModel и примерно 13 млрд параметров. Модель принимает текст и генерирует ответы в чате; она рассчитана прежде всего на арабский и английский языки. Размер контекста — 2048 токенов. Модель подходит для создания арабоязычных и двуязычных чат-ассистентов, ответов на вопросы, суммаризации арабских и английских документов, а также задач понимания текста, таких как классификация тональности. Для загрузки требуется пользовательский класс модели с параметром trust_remote_code=True. Лицензия — Apache 2.0. Ответы могут быть ошибочными, предвзятыми, вводящими в заблуждение или оскорбительными; результаты требуют проверки, особенно в важных решениях. Модель оптимизирована для арабского и английского, поэтому её не следует считать одинаково компетентной в других языках или диалектах.
Jan-v3-4B-base-instruct-GGUF — это квантованная версия текстовой генеративной модели Jan-v3-4B-base-instruct, разработанной janhq и подготовленной в формате GGUF пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста по инструкциям и может применяться в локальных сценариях работы с текстом, включая запуск через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Модель содержит около 4 миллиардов параметров и поддерживает текстовый ввод и вывод. В репозитории указана поддержка английского языка и тег для задач, связанных с кодом. Доступно множество вариантов квантования — от BF16 до форматов Q8, Q6, Q5, Q4, Q3 и Q2, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Рекомендованными названы, в частности, варианты Q6_K_L, Q6_K, Q5_K и Q4_K_M; для систем с ограниченными ресурсами доступны более компактные варианты, но с меньшим качеством. К сильным сторонам относятся локальный запуск, широкий выбор размеров квантованных файлов и оптимизация imatrix, направленная на сохранение качества при сжатии. Ограничения — отсутствие в README сведений об архитектуре, размере контекстного окна, точных результатах оценки, мультимодальности и поддерживаемых языках помимо английского. Для работы требуется совместимый движок с поддержкой этой модели и формата GGUF. Модель распространяется по лицензии Apache-2.0.
Это 16-битная конверсия языковой модели IFM/K2-Horizon-7B в формат MLX, подготовленная SirSahOl для запуска на GPU компьютеров Apple Silicon. Модель плотная, с архитектурой K2HorizonForCausalLM; в метаданных указано 8B параметров, а в README — 7B. Контекст модели — до 524 288 токенов, формат весов — safetensors, лицензия — Apache-2.0. Модель предназначена для диалогов и генерации текста при локальном инференсе, включая работу с длинными документами, рассуждения и программирование. Она использует 16-битные веса без квантизации и требует около 15,2 ГБ объединённой памяти; README рекомендует не менее 24 ГБ. Конверсия ориентирована на Apple Silicon и MLX, поэтому для других платформ этот формат может не подойти. В карточке заявлена поддержка английского языка.
K2S3 разработала K2S3-Mistral-7b-v1.4 — плотную авторегрессионную языковую модель семейства Mistral с 7,2 млрд параметров. Она дообучена методом SFT с настройкой всех параметров на базе mistralai/Mistral-7B-v0.1; для обучения использовались данные alpaca-gpt4-data и примеры из OpenOrca. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и других текстовых сценариях. Она принимает текст и выдаёт текст, поддерживает английский язык и имеет контекст длиной до 32 768 токенов. Весы опубликованы в формате safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.
Shining Valiant 2 — чат-модель Valiant Labs, дообученная на базе Meta-Llama-3.1-8B-Instruct. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров и контекстом до 131 072 токенов; она принимает текст и генерирует текст, используя формат инструкций Llama 3.1 Instruct. Модель рассчитана на диалог, ответы на технические вопросы и структурированные рассуждения, особенно в естественных науках, инженерии и информатике. Для обучения использованы наборы sequelbox/Celestia для технических знаний, sequelbox/Spurline для сложных рассуждений и sequelbox/Supernova для общего диалога. В README заявлены улучшения в логике и структурированном рассуждении, а также в физике, химии, биологии, астрономии, науках о Земле, информатике и теории информации. Метаданные указывают английский язык. Модель распространяется в формате safetensors по лицензии llama3.1; применение требует соблюдения условий лицензии Llama 3.1.
Llama-3.2-3B-Instruct-bf16 — компактная инструкционная языковая модель семейства Llama 3.2, разработанная Meta и представленная в формате mlx-community. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на запросы, следование инструкциям, создание и преобразование текста. В идентификаторе указано около 3 млрд параметров и формат чисел bfloat16; README также указывает совместимость с Transformers и использование экосистемы MLX. Модель работает с текстом и не заявлена как мультимодальная. Поддерживаемые языки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Размер контекста и точные архитектурные характеристики в README не указаны. К сильным сторонам относятся относительно небольшой размер, инструкционная настройка и многоязычная поддержка, что делает модель подходящей для локального запуска и прикладных текстовых задач при наличии совместимого оборудования. При этом в предоставленных данных нет результатов оценивания, сведений о фактическом качестве по языкам, ограничениях безопасности, производительности или рекомендуемых ресурсах, поэтому их нельзя оценить точнее. Модель распространяется по Llama 3.2 Community License от Meta. Лицензия разрешает использование, копирование, модификацию и распространение на установленных условиях, включая соблюдение Acceptable Use Policy, указание «Built with Llama», сохранение лицензионного уведомления и дополнительные требования для продуктов с более чем 700 млн ежемесячных активных пользователей.
Llama-3-8B-Magpie-Align-v0.1 — чат-модель на архитектуре Llama 3, разработанная проектом Magpie-Align на основе Meta-Llama-3-8B. Её обучили в два этапа: сначала SFT на Magpie-Pro-MT-300K-v0.1, затем DPO на llama3-ultrafeedback. Модель содержит 7,5 млрд параметров, принимает текст и выдаёт текст; заявленный контекст — 8192 токена. В карточке приведены результаты на Alpaca Eval 2, Arena Hard, WildBench и нескольких бенчмарках знаний и рассуждений. Модель предназначена для диалогов и выполнения пользовательских инструкций на английском языке. Её можно применять для ответов на вопросы, написания текстов и решения типовых задач в формате чата. Репозиторий содержит веса в формате safetensors. Лицензия — Llama 3 License; условия Meta Llama 3 Community License следует проверить перед использованием и распространением.
Llama-3-Orca-1.0-8B-GGUF — квантизированная версия текстовой генеративной модели Llama-3-Orca-1.0-8B, разработанной Locutusque и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для локального запуска через llama.cpp и совместимые inference-движки, а также для генерации ответов в диалоговом формате. В обучении использовались наборы Open-Orca/SlimOrca-Dedup, jondurbin/airoboros-3.2, microsoft/orca-math-word-problems-200k, m-a-p/Code-Feedback и MaziyarPanahi/WizardLM_evol_instruct_V2_196k. Модель содержит 8 миллиардов параметров и работает только с текстом. В репозитории представлены варианты квантизации от Q8_0 до IQ1_S, что позволяет выбирать баланс между качеством и требованиями к памяти; наиболее предпочтительными в README названы Q6_K, Q5_K_M, Q5_K_S и ряд вариантов Q4. Доступны файлы размером примерно от 2 до 8,5 ГБ. Для общения используется шаблон с ролями system, user и assistant на основе специальных токенов Llama 3. Сильной стороной модели является возможность локального запуска на устройствах с ограниченными ресурсами и выбор уровня квантизации. При уменьшении разрядности снижаются требования к памяти, но ухудшается качество генерации; варианты IQ1 и некоторые Q3/Q2 обозначены как низкокачественные или нерекомендуемые. Длина контекста, поддерживаемые языки и точные показатели качества в README не указаны. Лицензия обозначена как other, без дополнительных условий в предоставленных данных.
Lumen-8b-05-2025 — языковая модель Noetic Labs, дообученная методом LoRA на базе Qwen3-8B. Она рассчитана на академические и технические запросы, сложное следование инструкциям и диалог. В обучении использованы менее 5 000 примеров из наборов EvolKit-75K и Academic-Chains; версия модели содержит около 7,6 млрд параметров и распространяется в формате safetensors. Модель принимает текст и генерирует текст. Метаданные указывают контекст до 40 960 токенов; в карточке заявлены 32 768 токенов нативно и возможность расширения до 131 072 с YaRN. Для сложных запросов автор рекомендует режим рассуждений. Это экспериментальный первый выпуск серии Lumen; автор предупреждает, что результаты на бенчмарках могут уступать исходной Qwen3-8B. Лицензия — Apache 2.0.
FourOhFour/MegaMix_4B — языковая модель, созданная разработчиком FourOhFour слиянием нескольких предварительно обученных моделей Llama через mergekit. В качестве базовой модели слияния использована FourOhFour/Zenith_4B; также объединены NeuroCom_4B, NeuroCom_v2_4B, Luxe_4B, QuantuMinx_4B, Maelstrom_4B, Poe_4B и Deedlit_4B. Для слияния применён метод task arithmetic. Модель содержит 3,9 млрд параметров, использует архитектуру Llama с причинным языковым моделированием и рассчитана на генерацию текста и диалоговое взаимодействие. Заявленная длина контекста — 131 072 токена. Репозиторий содержит веса в формате safetensors; лицензия в предоставленных данных не указана.