III.9Закупки и управление поставщиками

Mistral-Small-3.1-24B-Instruct-2503-MAX-NEO-Imatrix-GGUF — это GGUF-квантизированная версия инструкционной модели Mistral-Small-3.1-24B-Instruct-2503, разработанной Mistral AI. Сборку подготовил David_AU, применив собственный набор данных Neo Imatrix и конфигурацию «MAXED» с тензорами embedding и output в формате BF16 для повышения качества при увеличении размера файлов. Модель предназначена для генерации текста, выполнения инструкций, творческого письма, рассуждений и других универсальных текстовых сценариев. Она поддерживает контекст до 128 тысяч токенов и работает с текстом без компонентов компьютерного зрения. В README заявлена поддержка английского, французского, немецкого, испанского, португальского, итальянского, японского, корейского, русского, китайского, арабского, персидского и ряда других языков. Neo Imatrix и «MAXED»-квантизация направлены на улучшение следования инструкциям, качества вывода и связности идей. Для общего использования рекомендуются варианты Q5, Q6 и Q8, а для творческих задач — IQ3, IQ4XS, IQ4NL и Q4. Очень низкие варианты IQ1S характеризуются автором как неприемлемые по качеству, тогда как IQ2 и выше считаются пригодными с оговорками. К ограничениям относятся зависимость результата от выбранного кванта и отсутствие поддержки изображений. Модель распространяется по лицензии Apache-2.0.

mlx-community/Llama-3.3-70B-Instruct-4bit — 4-битная версия инструкционной модели Llama 3.3 70B, разработанной Meta и адаптированной сообществом mlx-community для экосистемы MLX. Модель предназначена для генерации и понимания текста, диалоговых систем, следования инструкциям, ответов на вопросы, суммирования и других задач обработки естественного языка. Модель имеет около 70 миллиардов параметров и работает в 4-битном квантованном формате, что снижает требования к памяти по сравнению с полной версией, но может влиять на точность и качество ответов. Поддерживаются английский, французский, итальянский, португальский, хинди, испанский, тайский и немецкий языки. Модальность — текстовая; сведения о размере контекстного окна и точной архитектуре в README не указаны. Сильной стороной модели является сочетание большого размера, инструкционного обучения, многоязычности и более эффективного размещения благодаря 4-битному представлению. Ограничения включают возможные потери качества из-за квантования, высокие требования к ресурсам по сравнению с небольшими моделями и отсутствие заявленной поддержки других модальностей. Модель распространяется по Llama 3.3 Community License от Meta. При распространении материалов или производных продуктов требуется включать текст лицензии, указывать «Built with Llama» и соблюдать Acceptable Use Policy; для продуктов с более чем 700 миллионами ежемесячных активных пользователей предусмотрены дополнительные лицензионные условия.

Mamba2-primed-HQwen3-8B-Instruct — гибридная языковая модель, подготовленная командой Hybrid Model Factory на основе Qwen3-8B. В архитектуре 18 слоёв Attention и 18 слоёв Mamba-2; модель содержит 7,6 млрд параметров и поддерживает контекст до 131 072 токенов. Она instruction-tuned и предназначена для генерации текста и диалогов, следования инструкциям и работы с длинными контекстами. Сочетание Attention и Mamba-2 сокращает долю растущего KV-кэша, что помогает повысить пропускную способность и уменьшить расход памяти при длинных последовательностях. По данным карточки, модель может уступать базовой Qwen3-8B в качестве, особенно на длинном контексте; Mamba-2 описана как менее выразительная, чем некоторые другие SSM-слои. Модель не поддерживает вызов инструментов и не генерирует специальные токены рассуждений. Доступна под лицензией Apache 2.0.

Mistral Medium 3 — корпоративная языковая модель от Mistral AI. Она предназначена для рассуждений и мультимодальных задач при сниженных эксплуатационных затратах; описание заявляет производительность передового уровня и стоимость в восемь раз ниже.

cortecs/Llama-3.3-70B-Instruct-FP8-Dynamic — динамически квантованная версия Meta Llama 3.3 70B Instruct, разработанная на базе модели meta-llama/Llama-3.3-70B-Instruct. Это большая языковая модель с 70 миллиардами параметров, предварительно обученная и дообученная по инструкциям для генерации текста и многоязычного диалога. Модель предназначена для чат-ботов, ассистентов и других приложений, связанных с обработкой и генерацией текста. Она поддерживает английский, французский, немецкий, хинди, итальянский, португальский, испанский и тайский языки. Указанный показатель восстановления точности составляет 99,67%; приведённые оценки показывают небольшое снижение результатов относительно исходной Llama-3.3-70B-Instruct, при этом в отдельных тестах показатели практически совпадают. Ключевая особенность модели — формат FP8 Dynamic, который предназначен для более эффективного размещения и выполнения крупной модели при сохранении близкого к исходному качества. Данные о размере контекста, поддерживаемых модальностях помимо текста и конкретных аппаратных требованиях в README не указаны. Модель распространяется по лицензии Meta Llama 3, ссылка на условия приведена в карточке.

FriendliAI/Meta-Llama-3.1-8B-Instruct-int8 — это инструкция-ориентированная текстовая языковая модель на базе Meta-Llama-3.1-8B, разработанной Meta. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение инструкций на естественном языке. Вариант int8 использует 8-битное представление параметров, что рассчитано на более эффективное по памяти и вычислениям развертывание по сравнению с полноразмерной версией. Модель поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Она относится к классу текстовых моделей и не предназначена для обработки изображений, аудио или других немультимодальных данных. Размер базовой модели составляет 8 миллиардов параметров; сведения о размере контекстного окна в представленных данных отсутствуют. К сильным сторонам относятся instruction-tuning, многоязычность и сниженные требования к памяти благодаря int8-квантизации. Ограничениями являются возможная потеря качества по сравнению с исходной версией из-за квантизации, а также отсутствие указаний на поддержку мультимодальных задач. Модель распространяется по лицензии Llama 3.1 Community License от Meta. При распространении необходимо соблюдать условия лицензии, включая указание «Built with Llama», сохранение уведомления об авторских правах и требования Acceptable Use Policy; для продуктов с более чем 700 миллионами ежемесячных активных пользователей предусмотрены дополнительные лицензионные условия.

Phi-4-multimodal-instruct — мультимодальная модель Microsoft на 3,8 млрд параметров с плотной авторегрессионной архитектурой Phi4MM. Она принимает текст, изображения и аудио, а отвечает текстом; в метаданных указано контекстное окно 4096 токенов. В карточке README заявлено 128K токенов, поэтому длина контекста в источниках расходится. Модель предназначена для диалоговых и генеративных систем, которым нужны распознавание и перевод речи, ответы на вопросы по аудио и изображениям, понимание диаграмм и таблиц, OCR, суммаризация и вызов инструментов. Она поддерживает текст на арабском, китайском, чешском, датском, нидерландском, английском, финском, французском, немецком, иврите, венгерском, итальянском, японском, корейском, норвежском, польском, португальском, русском, испанском, шведском, тайском, турецком и украинском; аудио — на английском, китайском, немецком, французском, итальянском, японском, испанском и португальском; изображения — на английском. Microsoft сообщает о supervised fine-tuning, direct preference optimization и RLHF для следования инструкциям и повышения безопасности. Модель распространяется по лицензии MIT. Разработчики предупреждают, что качество может различаться между языками, а применимость к конкретным сценариям следует оценивать отдельно, особенно в высокорисковых областях.

unsloth/Llama-4-Scout-17B-16E-Instruct-unsloth-bnb-4bit — это 4-битно-квантизированная версия инструкционной модели Llama 4 Scout 17B-16E-Instruct, разработанной Meta. Модель предназначена для выполнения текстовых инструкций и решения широкого круга задач генерации и обработки текста, включая диалоговые сценарии, ответы на вопросы, суммирование и подготовку контента. В карточке указана поддержка арабского, немецкого, английского, испанского, французского, хинди, индонезийского, итальянского, португальского, тайского, тагальского и вьетнамского языков. Суффикс bnb-4bit указывает на 4-битное представление весов, которое обычно снижает требования к памяти и может упростить локальный запуск по сравнению с полноразмерной версией, однако точные требования к оборудованию, контекстное окно, сведения о мультимодальности и результаты тестирования в README не приведены. Модель удобна для инференса в условиях ограниченных вычислительных ресурсов, но квантизация может повлиять на точность и качество ответов относительно исходной версии. Модель распространяется по Llama 4 Community License от Meta. При распространении материалов или производных продуктов необходимо соблюдать условия лицензии, включая предоставление текста соглашения, указание «Built with Llama» и другие требования Meta; для организаций с более чем 700 миллионами ежемесячно активных пользователей предусмотрено получение отдельной лицензии.

DNA 3.0 — мультимодальная модель семейства Qwen, дообученная компанией Dnotitia на базе Qwen/Qwen3.6-35B-A3B. Это модель Mixture-of-Experts с 35 млрд общих и примерно 3 млрд активных параметров, объединяющая обработку текста и изображений; заявленная архитектура использует разреженные MoE-слои и гибридное внимание. Модель рассчитана на диалоги, аналитические рассуждения, агентное программирование, работу с инструментами и визуальное понимание. Дополнительное обучение включает корпоративные сведения и терминологию Dnotitia, поэтому модель подходит для сценариев, где нужен ассистент с контекстом этой компании. README заявляет поддержку 201 языка и диалекта и контекст до 262 144 токенов, расширяемый примерно до 1 010 000 токенов с YaRN. Модель совместима с Transformers, vLLM, SGLang и KTransformers; для производственного развёртывания рекомендуется многопроцессорная инфраструктура. Модель обучалась по методике с ослабленным отказом от ответов и может выдавать содержание, которое другие модели отклоняют. Она может проявлять предвзятость в пользу Dnotitia, наследует ограничения базовой модели и способна галлюцинировать; для чувствительных сценариев необходимы проверка человеком и собственные меры модерации. Лицензия — Apache-2.0.

WeMake/Llama-3-8B-Instruct-V41-1048k — разговорная языковая модель WeMake на архитектуре Llama 3 с 7,5 млрд параметров. Модель создана на основе gradientai/Llama-3-8B-Instruct-Gradient-1048k и meta-llama/Meta-Llama-3-8B; в карточке указано, что она объединяет их с настройками WeMake V41 и обучалась методом WeMake ICU. Репозиторий содержит веса в формате safetensors, лицензия — llama3. Модель предназначена для диалоговых агентов, создания текстов, анализа данных и извлечения выводов. Заявлены учёт эмоционального контекста, согласование ответов с человеческими ценностями и поддержка нескольких языков. Максимальная длина контекста — 1 048 576 токенов, однако карточка не приводит независимых оценок качества и не перечисляет поддерживаемые языки помимо английского в метаданных. Перед использованием следует проверять точность и уместность ответов; заявления об эмоциональном интеллекте и согласовании приводятся разработчиком.

Qwen/Qwen1.5-110B-Chat — чат-модель из серии Qwen1.5, разработанной командой Qwen. Это бета-версия Qwen2: плотная авторегрессионная языковая модель на архитектуре Transformer с 110 млрд параметров, предназначенная для диалогов и генерации текста. Модель обучена следовать инструкциям и выдана в формате safetensors. Модель поддерживает многоязычное общение, а её контекстное окно составляет 32 768 токенов. В архитектуре серии используются SwiGLU, смещение в проекциях внимания QKV и, для версии 110B, групповое внимание запросов (GQA). Для работы подходит актуальная версия библиотеки Transformers; удалённый код модели не требуется. Модель подходит для диалоговых ассистентов, генерации и редактирования текста, а также ответов на вопросы по длинным входным материалам. Карточка не приводит конкретные результаты оценки качества и не перечисляет поддерживаемые языки по отдельности. Лицензия указана как other, поэтому условия использования следует проверять в карточке репозитория.

Aya 23 35B — мультиязычная instruction-tuned языковая модель, разработанная Cohere For AI. Представлена в формате GGUF для локального запуска, а квантование выполнено bartowski на основе llama.cpp. Модель предназначена для генерации текста, диалогов, рассуждений и решения широкого спектра общих задач, особенно в мультиязычных сценариях. Модель имеет размер 35B параметров и поддерживает арабский, китайский, чешский, нидерландский, английский, французский, немецкий, греческий, иврит, хинди, индонезийский, итальянский, японский, корейский, персидский, польский, португальский, румынский, русский, испанский, турецкий, украинский и вьетнамский языки. Указанные данные не содержат информации о размере контекстного окна, конкретной архитектуре базовой модели или доступных модальностях, поэтому модель следует рассматривать как текстовую. Сильная сторона Aya 23 35B — качество работы с большим числом языков, включая языки, для которых у моделей сопоставимого размера часто меньше обучающих данных. Ограничения включают возможные неточности, вредные или неподходящие ответы, характерные для генеративных моделей, а также требования к вычислительным ресурсам, обусловленные размером 35B параметров; фактические требования зависят от выбранного варианта квантования и среды запуска. Модель распространяется по лицензии CC BY-NC 4.0, допускающей некоммерческое использование при соблюдении условий лицензии.

Карточка модели thoratsr7/Phi-4-multimodal-instruct на Hugging Face совпадает с карточкой microsoft/Phi-4-multimodal-instruct, поэтому описание составлено по ней. Phi-4-multimodal-instruct — мультимодальная модель Microsoft на 3,8 млрд параметров с плотной авторегрессионной архитектурой Phi4MM. Она принимает текст, изображения и аудио, а отвечает текстом; в метаданных указано контекстное окно 4096 токенов. В карточке README заявлено 128K токенов, поэтому длина контекста в источниках расходится. Модель предназначена для диалоговых и генеративных систем, которым нужны распознавание и перевод речи, ответы на вопросы по аудио и изображениям, понимание диаграмм и таблиц, OCR, суммаризация и вызов инструментов. Она поддерживает текст на арабском, китайском, чешском, датском, нидерландском, английском, финском, французском, немецком, иврите, венгерском, итальянском, японском, корейском, норвежском, польском, португальском, русском, испанском, шведском, тайском, турецком и украинском; аудио — на английском, китайском, немецком, французском, итальянском, японском, испанском и португальском; изображения — на английском. Microsoft сообщает о supervised fine-tuning, direct preference optimization и RLHF для следования инструкциям и повышения безопасности. Модель распространяется по лицензии MIT. Разработчики предупреждают, что качество может различаться между языками, а применимость к конкретным сценариям следует оценивать отдельно, особенно в высокорисковых областях.

Qwen2.5 Ultimate 14B Instruct — объединённая инструкционная языковая модель, созданная автором qingy2024 методом TIES из Qwen2.5-14B-Instruct и Qwen2.5 Math 14B Instruct на базе Qwen2.5-14B. Модель с плотной архитектурой Qwen2 и 14 млрд параметров предназначена для диалогов и генерации текста; объединение также ориентировано на математические задачи и ответы по инструкциям. Модель принимает текст и генерирует текст. В карточке заявлена поддержка китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Контекстное окно составляет до 131 072 токенов. В карточке приведены результаты оценивания на наборах IFEval, BBH, MATH, GPQA, MuSR и MMLU-Pro; эти показатели относятся к указанным тестовым настройкам и сами по себе не гарантируют качество в прикладных сценариях. Веса доступны в формате safetensors, библиотека для работы — Transformers. Лицензия в предоставленных данных не указана.

arcee-ai/Saul-Instruct-Mistral-7B-Instruct-v0.2-Slerp — диалоговая языковая модель, созданная Arcee AI слиянием Mistral-7B-Instruct-v0.2 и Saul-Instruct-v1 методом SLERP с помощью mergekit. Это плотная трансформерная модель Mistral с 7,1 млрд параметров, рассчитанная на генерацию текста и выполнение инструкций в формате чата; она принимает текст и выдаёт текст. Контекстное окно составляет до 32 768 токенов. Модель подходит для диалоговых помощников и задач, где требуется следовать текстовым инструкциям. В качестве основы используется Mistral-7B-Instruct-v0.2, а вторая составляющая слияния — Saul-Instruct-v1. Репозиторий содержит веса safetensors, лицензия — Apache-2.0.

ECE-TW3-JRGL-V2 — чат-модель объёмом 71 млрд параметров, созданная слиянием моделей Qwen/Qwen1.5-72B-Chat и vilm/Quyen-Pro-Max-v0.1 с помощью mergekit. Она предназначена для диалогов и генерации текста, включая ответы на запросы в формате чата. Модель построена на плотной архитектуре Qwen2 и принимает текст, выдавая текст; длина контекста составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0.

Gemma 2 9B Instruct — языковая модель Google с открытыми весами, построенная на архитектуре decoder-only и адаптированная для следования инструкциям и диалога. Она принимает текст и генерирует текст; семейство Gemma описано как ориентированное на английский язык. Репозиторий содержит производную версию базовой модели google/gemma-2-9b и файлы safetensors для использования с Transformers. Модель подходит для ответов на вопросы, суммаризации, диалоговых интерфейсов, создания текстов и рассуждений по заданному контексту. Относительно компактный размер семейства позволяет запускать модели Gemma на локальных компьютерах или собственной облачной инфраструктуре, хотя фактические требования зависят от конфигурации запуска. Модель может ошибаться в фактах, хуже справляться со сложными или неоднозначными запросами и отражать предвзятость обучающих данных. Использование регулируется лицензией Gemma.

OnlyTextLLMs выпустила текстовую версию Gemma 4 26B A4B IT: из исходной модели Google удалены компоненты обработки изображений и аудио, а текстовая часть весов и языковая головка сохранены. Это причинная языковая модель Gemma4ForCausalLM с 25,23 млрд параметров по README; метаданные каталога указывают 2 млрд параметров, поэтому размер модели в источниках расходится. Модель предназначена для диалогов и генерации текста. Она принимает текст и выдаёт текст; её контекст составляет 262 144 токена. Модель распространяется по лицензии Apache 2.0.

Карточка модели yuwy-thu/llama31 на Hugging Face совпадает с карточкой meta-llama/Llama-3.1-8B-Instruct, поэтому описание составлено по ней. Meta Llama 3.1 8B Instruct — языковая модель Meta для диалогов и генерации текста. Это авторегрессионная модель на основе оптимизированного трансформера с Grouped-Query Attention; версия Instruct настроена с помощью supervised fine-tuning и обучения с обратной связью от людей (RLHF). Модель принимает и генерирует текст, поддерживает диалоговый режим и предназначена для коммерческого и исследовательского применения. Модель подходит для создания чат-ассистентов, ответов на запросы и других задач генерации текста на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Контекстное окно в предоставленных материалах не указано. Модель обучена на статичном офлайн-наборе данных; возможны ошибки и небезопасные ответы, поэтому результаты следует проверять, а для использования инструментов требуется отдельная интеграция и контроль со стороны разработчика. Условия распространения и применения регулируются лицензией Meta Llama 3.1 Community License и Acceptable Use Policy.

Magnum-Picaro-0.7-V3-12b — объединённая чат-модель на 12,1 млрд параметров, созданная Trappu с помощью LazyMergekit из Trappu/Nemo-Picaro-V2-12B и anthracite-org/magnum-v2-12b. В основе лежит плотная архитектура Mistral с моделью MistralForCausalLM; слияние выполнено методом TIES, веса сохранены в формате safetensors. Модель предназначена для диалогов и генерации текста по запросу. Каталог указывает контекст до 1 024 000 токенов. Метаданные описывают базовую модель как предназначенную для следования инструкциям и связной генерации на нескольких языках, но отдельные языки для этой версии не перечислены. Модель распространяется под лицензией, указанной в карточке Hugging Face; доступные сведения её не содержат.

cloudyu/Meta-Llama-3-70B-Instruct-DPO — чат-модель на архитектуре Llama, созданная на основе meta-llama/Meta-Llama-3-70B-Instruct с применением DPO-дообучения по jondurbin/truthy-dpo-v0.1. Она предназначена для генерации ответов в диалоге и других текстовых сценариев с инструкциями. Модель содержит 69,5 млрд параметров, принимает текст и имеет контекст длиной до 8192 токенов. Веса доступны в формате safetensors. Лицензия — Apache-2.0.

Карточка модели alexakkol/mistral-7B-instruct-v0.2 на Hugging Face совпадает с карточкой MaziyarPanahi/Mistral-7B-Instruct-v0.2, поэтому описание составлено по ней. MaziyarPanahi/Mistral-7B-Instruct-v0.2 — инструктивно дообученная версия языковой модели Mistral-7B-v0.2, опубликованная Maziyar Panahi на основе модели Mistral AI. Это плотная авторегрессионная модель архитектуры Mistral с 7,1 млрд параметров, рассчитанная на диалог и выполнение инструкций. Она принимает текстовые запросы в формате Mistral Instruct и генерирует текстовые ответы; поддерживает контекст до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы, создания и редактирования текстов и других сценариев генерации текста. В README говорится, что версия Instruct служит демонстрацией возможностей дообучения базовой модели. Карточка предупреждает, что у модели нет встроенных механизмов модерации, поэтому сгенерированные ответы могут требовать дополнительной проверки. Модель распространяется под лицензией Apache-2.0.

Aya Expanse 8B Ungated — открытая версия весов многоязычной языковой модели, разработанной Cohere For AI на основе предварительно обученной модели семейства Command. Это авторегрессионный трансформер Cohere с 8 млрд параметров и контекстом до 8192 токенов; модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для многоязычного общения и генерации текста на 23 языках, включая русский, английский, китайский, арабский, хинди и японский. Её постобучение включает обучение с учителем, обучение на предпочтениях, настройку безопасности и слияние моделей. Она подходит для ответов на вопросы, диалогов и создания текстов на поддерживаемых языках. Веса опубликованы по лицензии CC-BY-NC-4.0; использование также регулируется политикой допустимого использования C4AI. Лицензия ограничивает коммерческое применение. Модель принимает и выдаёт только текст; заявленная длина контекста — около 8 тысяч токенов.

Euraika/EuroLLM-22B-Instruct-GPTQ — 4-битная GPTQ-квантизованная версия инструкционной языковой модели EuroLLM-22B-Instruct-2512, разработанной командой EuroLLM проекта UTTER. Квантизацию выполнила Euraika с использованием GPTQModel; модель предназначена для генерации текста и диалоговых сценариев, включая ответы на вопросы, объяснение сложных тем и работу в формате ChatML. Модель поддерживает все 24 официальных языка Европейского союза, а также турецкий, украинский и другие европейские языки: английский, немецкий, французский, итальянский, испанский, португальский, польский, нидерландский, чешский, греческий, венгерский, румынский, финский, шведский, болгарский, словацкий, датский, словенский, литовский, латышский, эстонский, хорватский, ирландский, мальтийский и норвежский. Архитектура базовой модели в README не уточнена; заявлены 22 млрд параметров, 53 трансформерных слоя и размер квантизованной модели около 14 ГБ. Используется GPTQ с точностью 4 бита, group size 128 и desc_act=true. Ключевое преимущество модели — существенное снижение требований к памяти при сохранении заявленного качества квантизации; поддерживаются инференс через GPTQModel, vLLM и Transformers/AutoGPTQ, а также работа на нескольких GPU. Минимально рекомендуется 16 ГБ VRAM, оптимально — 24 ГБ. Ограничения включают зависимость качества от 4-битной квантизации и отсутствие в README сведений о длине контекста базовой модели, мультимодальности, результатах независимых бенчмарков и конкретных гарантиях качества. Модель распространяется по лицензии Apache 2.0.

caskcsg/Llama-3-8B-NExtLong-512K-Instruct — диалоговая языковая модель семейства Llama, разработанная авторами проекта NExtLong. Это дообученная версия Llama-3-8B-NExtLong-512K-Base: базовую модель обучали на синтетических длинных контекстах, созданных методом NExtLong с чередованием фрагментов документа и отвлекающих фрагментов из корпусов предобучения; instruct-версию дополнительно настроили на Magpie-Align/Magpie-Llama-3.3-Pro-1M-v0.1. Модель предназначена для генерации ответов и работы с длинными входными контекстами, включая поиск информации в тексте, вопросы и ответы по документам, длинноконтекстный RAG и задачи с примерами в контексте. Заявленное окно контекста — 524 288 токенов; размер модели — около 7,5 млрд параметров. Модель имеет плотную архитектуру Llama и поставляется в формате safetensors. Карточка приводит результаты оценки на LongBench V2, HELMET, RULER и короткоконтекстных бенчмарках. Карточка не сообщает поддерживаемые языки или лицензию, поэтому применимые условия использования следует уточнить в репозитории модели. Указанная длина контекста — характеристика модели; фактическое использование такого окна зависит от реализации и доступных вычислительных ресурсов.

ThomasBaruzier/Meta-Llama-3.1-8B-Instruct-GGUF — это инструкция-ориентированная языковая модель в формате GGUF, основанная на Meta Llama 3.1 и опубликованная пользователем ThomasBaruzier. Разработчик исходной модели — Meta. Модель предназначена для генерации текста и выполнения инструкций в сценариях, связанных с диалоговыми системами, ответами на вопросы и обработкой естественного языка. Из доступных данных известно, что модель содержит 8 миллиардов параметров, относится к семейству Llama 3.1 и поддерживает текстовую модальность. В карточке заявлены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Формат GGUF ориентирован на локальный запуск и совместимую с ним инфраструктуру вывода, однако конкретный вариант квантования, требования к памяти, размер контекста и показатели качества в README не указаны. Сильными сторонами модели являются инструкционная настройка, многоязычная поддержка и относительно компактный размер по сравнению с более крупными моделями семейства. Ограничения включают отсутствие подробных сведений о квантовании, производительности и фактическом качестве на отдельных языках, а также типичные для генеративных языковых моделей риски неточных или нежелательных ответов. Модель распространяется по лицензии Llama 3.1 Community License от Meta с требованиями соблюдать Acceptable Use Policy, сохранять уведомление об авторских правах и выполнять условия атрибуции при распространении.

Mistral-Instruct-Orca-Slerp — диалоговая языковая модель, созданная слиянием моделей Mistral AI и Open-Orca методом slerp с помощью mergekit. В основе — mistralai/Mistral-7B-Instruct-v0.2 и Open-Orca/Mistral-7B-OpenOrca; модель имеет архитектуру MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста в диалоге и выполнения инструкций. Она принимает текст и выдаёт текст; карточка не сообщает о специализации на конкретном языке или предметной области. Распространяется в формате safetensors по лицензии Apache-2.0.

Sakalti/Neptuno-Alpha — объединённая языковая чат-модель на архитектуре Qwen2, созданная с помощью mergekit методом TIES. В качестве базовой модели использована Sakalti/Neptuno-3B, а в объединении также участвовала bunnycore/Qwen2.5-3B-RP-Mix. Модель содержит 3,1 млрд параметров, распространяется в формате safetensors и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалогов и генерации текста, включая ответы на запросы и следование инструкциям. Она принимает текст и выдаёт текст; в метаданных также указаны возможности чата и интерфейс вызова инструментов. В карточке указана лицензия other, поэтому условия использования следует сверять с лицензией и условиями исходных моделей.

openchat-3.5-0106-Mistral-7B-Instruct-v0.2 — диалоговая языковая модель на архитектуре Mistral, созданная объединением весов mistralai/Mistral-7B-Instruct-v0.2 и openchat/openchat-3.5-0106 методом SLERP. Модель разработана на основе открытых моделей Mistral AI и OpenChat; в репозитории представлены веса в формате safetensors. Размер составляет 7,1 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для генерации текста в диалоге и выполнения инструкций: её можно использовать для ответов на вопросы, составления текстов и ведения чат-диалогов. В метаданных указаны задача text-generation и возможность chat. Лицензия — Apache-2.0. Языки модели в предоставленных данных не перечислены.

xGen-small-9B-instruct-r — диалоговая языковая модель Salesforce из семейства xGen-small, предназначенная для генерации ответов и ведения чата. Это плотная авторегрессионная модель с архитектурой LlamaForCausalLM; в метаданных указано 10,2 млрд параметров и контекст до 262 144 токенов. Вариант instruct дообучен для диалогового использования. Модель подходит для длинных текстовых запросов и ответов, требующих работы с обширным контекстом, а также для общих задач рассуждения и знаний. В README приведены сравнительные результаты для тестов MMLU, MMLU-Pro и Arena-Hard; это результаты оценок, а не гарантия качества в прикладных сценариях. Salesforce описывает xGen-small как компактную модель с предметно-ориентированным отбором данных, масштабируемым предварительным обучением, расширением контекста и дообучением с RL. Выпуск предназначен для исследований; README рекомендует проверять точность, безопасность и справедливость перед применением, особенно в сценариях с высоким риском. Лицензия — CC BY-NC 4.0, допускающая использование с некоммерческими ограничениями.