III.10Проекты, процессы и операционное управление

RUC-AIBOX/STILL-2 — дообученная авторами репозитория модель семейства Qwen2.5 для генерации текста и диалогового взаимодействия. Она содержит 32 млрд параметров, построена на плотной архитектуре Qwen2ForCausalLM и рассчитана на контекст до 32 768 токенов. В метаданных также отмечен интерфейс вызова инструментов. Модель подходит для генерации ответов в чате и других текстовых сценариев. Базовая Qwen2.5-32B-Instruct описана как модель для диалога, программирования, математики и структурированных ответов, однако карточка STILL-2 не уточняет, какие из этих возможностей проверялись после дообучения. README автоматически создан и не содержит сведений о разработчике, данных обучения, оценках качества или лицензии.

T3qm7xNeuralsirkrishna_Experiment27Inex12 — объединённая языковая модель на архитектуре Mistral, созданная путём слияния automerger/T3qm7xNeuralsirkrishna-7B и automerger/Experiment27Inex12-7B. Разработчик карточки — MaziyarPanahi. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст; максимальная длина контекста составляет 32 768 токенов. Она предназначена для генерации текста и диалоговых сценариев. Веса опубликованы в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает о специализированных областях применения или отдельных ограничениях качества.

Táltos-27B — плотная мультимодальная модель на 27,8 млрд параметров, разработанная венгерской командой на основе Qwen/Qwen3.8-27B и дообученная для естественной речи и рассуждений на венгерском языке. Она поддерживает диалог, анализ изображений и видео, а также контекст до 262 144 токенов; архитектура сочетает Gated DeltaNet и Gated Attention. Модель предназначена для составления и редактирования венгерских текстов, резюмирования, пошаговых рассуждений и ответов на вопросы по изображениям. По описанию, дообучение улучшило венгерскую грамматику и формулировки, сохранив знания и мультимодальные возможности базовой модели. Для представленной версии указаны Transformers и формат safetensors; README также описывает отдельные варианты FP8 и GGUF. Лицензия Apache 2.0 разрешает использование, модификацию и коммерческое применение. Модель не имеет доступа к интернету, поэтому не знает о свежих событиях; факты, числа, даты и редкие имена могут требовать проверки. Математические, программные и общие знания унаследованы от базовой модели, а медицинские, юридические и финансовые решения не следует основывать только на её ответах.

Triangulum 1B — компактная авторегрессионная языковая модель семейства Llama, разработанная prithivMLmods. Карточка описывает pretrained- и instruction-tuned варианты; для этой модели заявлены дообучение SFT и RLHF, а также обучение на синтетических данных с длинными цепочками рассуждений. В метаданных указаны архитектура LlamaForCausalLM, 1,2 млрд параметров и контекст до 131 072 токенов. Модель предназначена для генерации текста и диалоговых сценариев: ответов на вопросы, суммаризации, анализа и перевода. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Небольшой размер удобен для локального запуска, а метаданные отмечают интерфейс вызова инструментов; это не гарантирует корректную работу с любыми инструментами. Модель распространяется по лицензии CreativeML Open RAIL-M. Карточка не приводит независимых оценок качества; заявленные способности к сложным рассуждениям и широкой многоязычной работе следует считать описанием разработчика, а не подтверждёнными результатами. В README встречаются несоответствия в названиях моделей и примерах запуска, поэтому их нельзя считать надёжной инструкцией по использованию именно этой версии.

Trurl 2 7B — дообученная Voicelab.AI версия Llama 2 для диалогов и генерации текста на польском и английском языках. Это авторегрессионная плотная трансформерная модель с 6,6 млрд параметров и контекстом до 4096 токенов; репозиторий содержит веса PyTorch. Модель принимает текст и генерирует текст. Модель предназначена для чат-ассистентов, ответов на вопросы и других задач генерации естественного языка. При использовании диалогового режима требуется формат беседы Llama 2 с соответствующими специальными токенами. Обучение проводилось на польских и английских диалоговых и инструкционных данных, включая наборы вопросов и ответов и разговоры из разных областей. Модель может выдавать неточные, предвзятые или нежелательные ответы; перед внедрением рекомендуется тестирование и настройка безопасности под конкретное применение. Авторы заявляют коммерческое и исследовательское использование; конкретная лицензия в предоставленных данных не указана.

Карточка модели katanemo/bart-large-mnli на Hugging Face совпадает с карточкой facebook/bart-large-mnli, поэтому описание составлено по ней. facebook/bart-large-mnli — контрольная точка BART-large от Facebook, дообученная на датасете MultiNLI для распознавания отношений логического следования между текстами. Модель применяют для классификации без заранее заданного набора классов: исходный текст рассматривается как предпосылка, а для каждой кандидатной метки формируется гипотеза, например «Этот текст о политике». Вероятности следования и противоречия преобразуются в оценки меток. Модель подходит для тематической классификации, маршрутизации текстов по пользовательским категориям и других задач, где нужно оценить соответствие текста произвольным меткам. Архитектура — BART-large с классификатором последовательностей, размер — 252,8 млн параметров, контекст — до 1024 токенов. Репозиторий содержит варианты PyTorch, Flax и Safetensors. Лицензия — MIT. Качество зависит от формулировки кандидатных меток и гипотез, а также от того, насколько задача соответствует обучению на MNLI; оценки модели не гарантируют правильную классификацию. Для нескольких одновременно верных меток предусмотрен режим независимой оценки каждого класса.

BigQwen2.5-52B-Instruct — плотная языковая модель на архитектуре Qwen2, созданная mlabonne с помощью MergeKit как self-merge на основе Qwen2.5-32B-Instruct. Она предназначена для диалоговой генерации текста; автор предполагает, что модель может подойти для творческого письма. Модель содержит 51,5 млрд параметров, принимает текст и поддерживает контекст длиной 32 768 токенов. В метаданных также заявлен интерфейс для вызова инструментов. В карточке приведены результаты нескольких оценок, но автор сообщает, что лично модель не тестировал, поэтому качество и пригодность для конкретных сценариев требуют самостоятельной проверки. Указана лицензия Apache-2.0.

DistilBart-MNLI — дистиллированная модель семейства BART, созданная Valhalla на основе bart-large-mnli. В ней чередующиеся слои исходной модели скопированы в компактную архитектуру, после чего модель дополнительно дообучена на тех же данных MNLI; указанная конфигурация содержит 252,8 млн параметров и поддерживает контекст до 1024 токенов. Модель предназначена для классификации текста по заданным пользователем категориям без отдельного обучения на этих категориях, а также для задач классификации текста. Она подходит, например, для маршрутизации обращений или тематической сортировки документов, когда набор меток задаётся при запросе. В README приведены результаты для других вариантов DistilBart-MNLI, но отдельные показатели для конфигурации 12-6 не указаны. Модель принимает текст и выдаёт оценки категорий. Репозиторий содержит веса PyTorch и Flax. Лицензия в предоставленных источниках не указана.

EXAONE-3.5-32B-Instruct-GGUF — это набор GGUF-квантизованных версий языковой модели EXAONE-3.5-32B-Instruct, разработанной LGAI-EXAONE. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и работы в диалоговом режиме, включая запуск через LM Studio и другие совместимые инструменты. Модель содержит 32 миллиарда параметров и поддерживает английский и корейский языки. В репозитории доступны варианты от полноразмерного F16 весом около 64 ГБ до квантизаций Q3, Q4, Q5, Q6, Q8 и IQ различных размеров. Более качественные варианты требуют больше оперативной или видеопамяти, тогда как Q3 и некоторые IQ-варианты рассчитаны на системы с ограниченными ресурсами. Для взаимодействия используется специальный шаблон prompt с ролями system, user и assistant. Сильной стороной репозитория является широкий выбор квантизаций, позволяющий подобрать баланс между качеством, размером и производительностью; варианты Q5 и Q6 отмечены как высококачественные, а Q4_K_M рекомендован как типичный компромисс. Ограничения включают отсутствие информации о размере контекста, архитектуре базовой модели, мультимодальности, результатах тестирования и системных требованиях. Лицензия указана как proprietary/other с названием exaone; перед использованием необходимо ознакомиться с условиями, приведёнными в файле LICENSE.

GPT-SW3 1.3B Instruct — авторегрессионная языковая модель на архитектуре decoder-only Transformer, разработанная AI Sweden совместно с RISE и WASP WARA for Media and Language. Это версия семейства GPT-SW3 с 1,3 млрд параметров, дообученная на инструкционных данных в форматах диалога и обычного текста; базовая модель предварительно обучалась на 320 млрд токенов, включая шведский, норвежский, датский, исландский, английский языки и программный код. Модель предназначена для генерации связного текста и выполнения инструкций, представленных как текстовые запросы. Её можно применять для диалоговых помощников, черновиков и ответов на вопросы на поддерживаемых языках, а также для языковых задач, сведённых к генерации текста. Метаданные указывают поддержку чата и задачи text-generation; репозиторий содержит веса PyTorch и Safetensors. Модель может воспроизводить предвзятость данных обучения, выдавать галлюцинации, нерелевантные или повторяющиеся ответы, а также небезопасный, оскорбительный или неподходящий для некоторых аудиторий контент. Лицензия указана как other; README называет модифицированную лицензию RAIL.

Laabam AI 3B v1 — многоязычный чат-ассистент, дообученный разработчиком Laabam на базе Qwen2.5-3B-Instruct методом QLoRA. Модель предназначена для выполнения инструкций и генерации ответов в диалоге; при дообучении уделялось внимание следованию инструкциям, безопасности и индийским языкам. Это плотная авторегрессионная модель семейства Qwen2 с 3,1 млрд параметров и контекстом до 32 768 токенов. Карточка указывает английский и хинди, а также тамильский и телугу; метаданные дополнительно отмечают каннада. Модель распространяется в формате safetensors по лицензии Apache-2.0.

LeoLM/leo-hessianai-13b-chat-bilingual — двуязычная чат-модель, разработанная Björn Plüster и Christoph Schuhmann в сотрудничестве с LAION и HessianAI. Она основана на LeoLM/leo-hessianai-13b — языковой модели семейства Llama, построенной на Llama 2, — и дообучена на немецких инструкционных данных и их английских версиях. Модель предназначена для диалога, написания текстов, объяснений и обсуждений на немецком и английском языках. Это плотный авторегрессионный трансформер с 12,9 млрд параметров и контекстом до 8192 токенов. В опубликованной оценке MT-Bench сильнее всего показала себя в гуманитарных темах, а также в задачах STEM и письма. Модель хуже справляется с математикой и сложными рассуждениями; ответы могут быть неточными или предвзятыми, поэтому для конкретных приложений рекомендуется отдельная проверка безопасности и качества. Лицензия — Llama 2 Community License Agreement.

Magnum v4 22B — языковая модель, разработанная организацией Anthracite и представленная в формате GGUF-квантизаций. Она дообучена на базе Mistral-Small-Instruct-2409 и создана для воспроизведения качества прозы моделей Claude 3, в частности Sonnet и Opus. Модель предназначена для текстовой генерации и диалоговых сценариев, включая написание и редактирование текстов, следование инструкциям и использование в чат-интерфейсах, например SillyTavern. Указан английский язык. Размер модели — 22 млрд параметров; поддерживается контекст длиной до 32 768 токенов. Модель работает в текстовой модальности, а README описывает стандартный формат промпта Mistral с системным сообщением, пользовательскими запросами и ответами ассистента. К сильным сторонам относятся ориентация на высокое качество прозы, большой контекст и доступность в GGUF для локального запуска с подходящими инструментами. Ограничения включают отсутствие заявленных мультимодальных возможностей, отсутствие количественных результатов бенчмарков и неполное описание характеристик безопасности. Модель обучалась в течение двух эпох методом полно-параметрического дообучения на нескольких датасетах, связанных с инструкциями, диалогами и качеством письма. Лицензия указана как other с названием mrl; дополнительные условия в README не раскрыты.

Mini_DPO_test02-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на архитектуре Mistral, созданная слиянием Mistral-7B-Instruct-v0.2 и Mini_DPO_test02 методом SLERP. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и ответов на инструкции в формате чата; поддерживает контекст до 32 768 токенов. Модель подходит для диалоговых помощников, ответов на вопросы и генерации текста по запросу. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. В карточке не приведены сведения о специальных предметных областях или сравнительных оценках качества.

zelk12/MT2-Gen4-gemma-2-9B — языковая модель для генерации текста и диалогового общения, созданная объединением двух предварительно обученных моделей с помощью mergekit и метода SLERP: zelk12/MT2-Gen4-IMU-gemma-2-9B и zelk12/MT2-Gen4-MAGBMM-gemma-2-9B. В конфигурации указана первая модель как базовая, а коэффициент смешивания — 0,25. Модель основана на плотной архитектуре Gemma 2 с 9 млрд параметров, рассчитана на контекст до 8192 токенов и распространяется в формате safetensors. Подходит для генерации ответов и ведения диалогов. В README приведены результаты отдельных тестов Open LLM Leaderboard, включая IFEval и BBH. Для использования требуется соблюдать лицензию Gemma. Карточка не описывает целевые языки и специализированные области применения, поэтому модель следует рассматривать как языковую модель общего назначения.

zelk12/MT3-Gen4-MU-gemma-2-Sv1IBT-9B — объединённая языковая модель на архитектуре Gemma 2, созданная с помощью mergekit методом SLERP из gmonsoon/SahabatAI-Lion-9B-TIES-v1 и recoilme/recoilme-gemma-2-9B-v0.3. Модель содержит 9 млрд параметров, распространяется в формате safetensors и рассчитана на генерацию текста и диалоговое взаимодействие; заявленное родное контекстное окно — 8192 токена. Её можно использовать для ответов в чате и генерации текста по запросу. Описание базовой модели указывает на ориентацию семейства на языки Юго-Восточной Азии и английский; конкретный перечень языков для этой объединённой модели не приведён. Лицензия в доступных данных не указана.

zelk12 объединил методом SLERP две предварительно обученные языковые модели Gemma 2: MT4-Gen5-MU-gemma-2-N3N1532MT3g4-9B и MT4-Gen5-MM-gemma-2-MT3g4Rv0.4-9B. Результат — плотная авторегрессионная модель на 9 млрд параметров для генерации текста и диалогового взаимодействия. Модель предназначена для генерации ответов в чате и решения текстовых задач. Она принимает текст и выдаёт текст, использует библиотеку Transformers и имеет контекстное окно 8192 токена. Веса опубликованы в формате safetensors. В README не приведены результаты оценки качества или сведения о поддерживаемых естественных языках. Лицензия в предоставленных данных также не указана.

Карточка модели TigerByteCyber/roberta-large-zeroshot-v2.0-c на Hugging Face совпадает с карточкой MoritzLaurer/roberta-large-zeroshot-v2.0-c, поэтому описание составлено по ней. MoritzLaurer/roberta-large-zeroshot-v2.0-c — модель классификации текста с нулевым обучением, разработанная Морицем Лаурером на основе RoBERTa Large. Она определяет, следует ли считать заданную гипотезу истинной или ложной относительно входного текста; pipeline Hugging Face позволяет использовать этот подход для классификации по категориям без обучающих примеров. Модель содержит 454,1 млн параметров, принимает текстовые последовательности длиной до 514 токенов и построена на архитектуре RobertaForSequenceClassification. Доступны веса Safetensors и формат ONNX. Модель предназначена для классификации отзывов, тем, намерений и других текстов, когда нет размеченных данных для обучения. Её обучали на синтетических примерах, созданных Mixtral-8x7B-Instruct-v0.1, и наборах MNLI и FEVER-NLI; автор сообщает об оценке на 28 задачах классификации. Английский указан как язык карточки. Лицензия репозитория — MIT, а суффикс «-c» означает, что для обучения использовались данные, обозначенные автором как коммерчески совместимые. Модель поддерживает выбор одного или нескольких классов через настройку multi_label. Качество зависит от формулировки гипотезы и названий категорий; автор отмечает возможные смещения из-за базовой модели, данных NLI и синтетических данных. Она рассчитана только на классификацию текста и может работать медленнее более компактного варианта RoBERTa.

Sailor2-20B-Chat-GGUF — квантованная версия чат-модели Sailor2-20B-Chat, разработанной командой Sail. Конвертацию и квантование в формат GGUF выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для диалоговой генерации текста, ответов на инструкции и многоязычных сценариев, включая вопросы и инструкции на английском, китайском, индонезийском, тайском, вьетнамском, малайском, лаосском, бирманском, яванском, кхмерском, сунданском и тагальском языках. Модель имеет 20B параметров и поддерживает текстовый ввод и вывод; сведения об исходной архитектуре и размере контекстного окна в README не указаны. Доступно множество вариантов квантования — от F16 и Q8_0 до более компактных Q3 и IQ3/IQ4, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Для работы рекомендуется формат prompt с маркерами ролей im_start и im_end; файлы предназначены, в частности, для запуска через llama.cpp и LM Studio. Основные сильные стороны — многоязычная специализация, широкий выбор уровней квантования и возможность локального запуска. Более агрессивное квантование уменьшает требования к памяти, но может снижать качество ответов; полная версия F16 занимает около 38,35 ГБ, а рекомендуемые варианты Q4–Q6 — примерно от 11 до 16 ГБ. Модель распространяется по лицензии Apache-2.0.

jambroz/sixtyoneeighty-7b — разговорная языковая модель, созданная автором репозитория методом слияния DARE TIES с помощью mergekit. В основу слияния вошла mlabonne/NeuralBeagle14-7B; также объединены Intel/neural-chat-7b-v3-1, mlabonne/AlphaMonarch-7B и HuggingFaceH4/zephyr-7b-beta. Модель построена на архитектуре Mistral и содержит 7,1 млрд параметров. Она предназначена для генерации текста в диалоге и ответов на пользовательские запросы. Заявленная длина контекста — 32 768 токенов. Репозиторий использует формат safetensors и библиотеку Transformers. В карточке не указаны целевые языки и специализированные предметные области. Модель распространяется по лицензии Apache-2.0. Карточка не приводит результаты оценки качества или отдельные ограничения; характеристики ответов могут зависеть от запроса и настроек генерации.

Surogate-3.5-2B — двуязычный ассистент с приоритетом румынского языка, разработанный Invergent. Модель построена на архитектуре Qwen3.5 и предназначена для диалогов с текстом и изображениями, следования инструкциям, рассуждений и решения математических задач. Поддерживает шаблон чата Qwen3.5, вызов инструментов через совместимые средства и режим с явной цепочкой рассуждений на румынском и английском языках. Модель оптимизирована для румынского языка, включая орфографическую корректность; английский также поддерживается, но качество может меняться в зависимости от задачи. Ограничения размера 2B проявляются в глубине фактических знаний и надёжности сложных рассуждений; возможны орфографические, логические и фактические ошибки. Факты, вычисления и советы с серьёзными последствиями требуют независимой проверки. Лицензия — Apache-2.0.

YamshadowStrangemerges_32_T3qm7xpT3q — объединённая модель на архитектуре Mistral, созданная из automerger/YamshadowStrangemerges_32-7B и automerger/T3qm7xpT3q-7B. Она предназначена для генерации текста и диалоговых ответов. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Веса доступны в формате Safetensors. Модель распространяется по лицензии Apache-2.0. README не уточняет её языковую специализацию, качество на отдельных задачах или ограничения; поэтому языки и специализированные сценарии не заявляются.

cloudyu/Yi-34Bx2-MoE-60B — разговорная языковая модель на основе Yi, опубликованная cloudyu. Она использует архитектуру Mixtral с разреженной смесью экспертов (MoE); в карточке указано 33,9 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия на английском и китайском языках. Автор описывает её как MoE-вариант 2×34B, основанный на jondurbin/bagel-dpo-34b-v0.2 и SUSTech/SUS-Chat-34B. Для модели заявлен контекст до 200 000 токенов. В карточке приведены результаты Open LLM Leaderboard со средним баллом 76,72, включая оценки по задачам рассуждения и commonsense. Модель распространяется в формате safetensors и под лицензией Apache-2.0. Её можно применять для диалогов и генерации текста; для развёртывания следует учитывать требования MoE-модели с большим числом параметров. Заявленные результаты бенчмарка не гарантируют качество на конкретных пользовательских задачах.

Granite-4.0-H-Small — инструктивная языковая модель команды Granite компании IBM для диалога, выполнения инструкций и создания текстовых ответов. По карточке это дообученная версия Granite-4.0-H-Small-Base с выравниванием и слиянием моделей; архитектура — decoder-only MoE-трансформер с GQA, Mamba2 и общими экспертами. Однако в метаданных указано 2,5 млрд параметров, тогда как README заявляет 32 млрд, поэтому размер модели по источникам расходится. Модель рассчитана на создание помощников для бизнес-сценариев. Она поддерживает суммаризацию, классификацию и извлечение текста, ответы на вопросы, RAG, задачи с кодом, вызов функций и многоязычный диалог. Контекстное окно — 131 072 токена; основная модальность — текст, а возможности вызова инструментов описаны как часть диалогового интерфейса. README перечисляет английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Авторы отмечают, что качество на других языках может уступать английскому, а ответы могут быть неточными, предвзятыми или небезопасными; для конкретных задач рекомендуются проверка и настройка безопасности. Лицензия — Apache 2.0.

GPT-5.6 Luna Pro — вариант GPT-5.6 Luna от OpenAI, работающий с режимом рассуждений `pro` для получения более качественных ответов на сложные задачи. По карточке модели это тот же базовый модельный экземпляр, что и GPT-5.6 Luna, с другим режимом обслуживания.

mlx-community/Llama-3.3-70B-Instruct-4bit — 4-битная версия инструкционной модели Llama 3.3 70B, разработанной Meta и адаптированной сообществом mlx-community для экосистемы MLX. Модель предназначена для генерации и понимания текста, диалоговых систем, следования инструкциям, ответов на вопросы, суммирования и других задач обработки естественного языка. Модель имеет около 70 миллиардов параметров и работает в 4-битном квантованном формате, что снижает требования к памяти по сравнению с полной версией, но может влиять на точность и качество ответов. Поддерживаются английский, французский, итальянский, португальский, хинди, испанский, тайский и немецкий языки. Модальность — текстовая; сведения о размере контекстного окна и точной архитектуре в README не указаны. Сильной стороной модели является сочетание большого размера, инструкционного обучения, многоязычности и более эффективного размещения благодаря 4-битному представлению. Ограничения включают возможные потери качества из-за квантования, высокие требования к ресурсам по сравнению с небольшими моделями и отсутствие заявленной поддержки других модальностей. Модель распространяется по Llama 3.3 Community License от Meta. При распространении материалов или производных продуктов требуется включать текст лицензии, указывать «Built with Llama» и соблюдать Acceptable Use Policy; для продуктов с более чем 700 миллионами ежемесячных активных пользователей предусмотрены дополнительные лицензионные условия.

Карточка модели youyou125709/Qwen2.5-7B-Instruct-1M на Hugging Face совпадает с карточкой Qwen/Qwen2.5-7B-Instruct-1M, поэтому описание составлено по ней. Qwen2.5-7B-Instruct-1M — разговорная модель генерации текста из семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалога, ответов на вопросы, работы с длинными документами и другими задачами, где нужно учитывать большой объём контекста. Модель построена на архитектуре Qwen2 с причинно-следственной языковой моделью и 7,1 млрд параметров по метаданным. Карточка семейства указывает на RoPE, SwiGLU, RMSNorm и контекст до 1 010 000 токенов; генерация ограничена 8192 токенами. Модель дообучена на базе Qwen/Qwen2.5-7B, поддерживает чат и интерфейс вызова инструментов. Указанные языковые сведения подтверждают английский, но сами по себе не доказывают поддержку только одного языка. Для работы с контекстом около миллиона токенов README рекомендует специальную сборку vLLM и указывает потребность как минимум в 120 ГБ видеопамяти суммарно для версии 7B. В прежних средах выполнения качество может снижаться на последовательностях длиннее 262 144 токенов. Лицензия — Apache-2.0.

unsloth/Llama-3.2-1B-Instruct — текстовая инструктивно настроенная модель семейства Llama 3.2, разработанного Meta и опубликованная Unsloth. Это плотная авторегрессионная трансформерная модель с архитектурой LlamaForCausalLM и примерно 1,2 млрд параметров. В карточке указаны диалоговый режим и интерфейс вызова инструментов; модель принимает и генерирует текст, а контекстное окно составляет 131 072 токена. Модель предназначена для многоязычных диалогов, ответов на вопросы, суммаризации и помощи в написании текста, в том числе в сценариях агентного поиска и использования инструментов. Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский; модель обучалась на более широком наборе языков. Репозиторий содержит веса Safetensors и указывает лицензию Llama 3.2 Community License — специальную лицензию Meta с условиями коммерческого использования. Компактный размер облегчает развёртывание по сравнению с более крупными моделями, однако качество и надёжность ответов требуют проверки для конкретного применения.

Llama-3-8B-ProLong-64k-Instruct — диалоговая языковая модель Princeton NLP на архитектуре Llama 3 с 7,5 млрд параметров. Это вариант ProLong, дообученный для следования инструкциям и работы с длинным контекстом; в README описано продолженное обучение на данных до 64K токенов и supervised fine-tuning на UltraChat. Метаданные указывают контекст до 65 536 токенов. Модель предназначена для диалогов, генерации текста и задач, где нужно учитывать длинные документы или историю переписки. Авторы представляют семейство ProLong как модель для длинного контекста и сообщают об оценке на HELMET. Репозиторий использует формат Safetensors и лицензию Llama 3. README приводит характеристики обучения для основной версии семейства с контекстом 512K, поэтому эти параметры не следует переносить на вариант 64K.

FriendliAI/Meta-Llama-3.1-8B-Instruct-int8 — это инструкция-ориентированная текстовая языковая модель на базе Meta-Llama-3.1-8B, разработанной Meta. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение инструкций на естественном языке. Вариант int8 использует 8-битное представление параметров, что рассчитано на более эффективное по памяти и вычислениям развертывание по сравнению с полноразмерной версией. Модель поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Она относится к классу текстовых моделей и не предназначена для обработки изображений, аудио или других немультимодальных данных. Размер базовой модели составляет 8 миллиардов параметров; сведения о размере контекстного окна в представленных данных отсутствуют. К сильным сторонам относятся instruction-tuning, многоязычность и сниженные требования к памяти благодаря int8-квантизации. Ограничениями являются возможная потеря качества по сравнению с исходной версией из-за квантизации, а также отсутствие указаний на поддержку мультимодальных задач. Модель распространяется по лицензии Llama 3.1 Community License от Meta. При распространении необходимо соблюдать условия лицензии, включая указание «Built with Llama», сохранение уведомления об авторских правах и требования Acceptable Use Policy; для продуктов с более чем 700 миллионами ежемесячных активных пользователей предусмотрены дополнительные лицензионные условия.