I.11Классификация, ранжирование и сопоставление
В разделе собраны самостоятельные задачи, где AI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 736 моделейZero-Mistral-Small — дообученная методом SFT модель ZeroAgency на основе mistralai/Mistral-Small-24B-Instruct-2501. Она предназначена для диалогов и следования инструкциям, с дополнительной адаптацией прежде всего к русскому и английскому языкам на датасете Vikhrmodels/GrandMaster-PRO-MAX. Это плотная авторегрессионная модель семейства Mistral с 23,4 млрд параметров и контекстом 32 768 токенов; доступны веса Safetensors, а в карточке также перечислены варианты LoRA и GGUF с разной точностью. Модель подходит для развёртывания чат-ассистента, ответов на вопросы, генерации текста и русскоязычных задач на рассуждение. В README приведены результаты нескольких русскоязычных бенчмарков, но они не гарантируют качество на конкретных запросах. Для запуска автор рекомендует vLLM или Transformers; README указывает ориентировочную потребность базовой модели в 55 ГБ видеопамяти для BF16/FP16, а для запуска этой модели на GPU в примере — более 60 ГБ. Лицензия — MIT.
1.5-Pints-16K-v0.1 — языковая модель команды Pints AI для диалогов и генерации текста. Она основана на авторегрессионной архитектуре Llama 2, содержит около 1,57 млрд параметров и использует токенизатор Mistral. Модель обучалась на 57 млрд токенов отобранных данных, затем была дообучена на инструкциях и оптимизирована по предпочтениям; в карточке указано окно контекста 16 384 токена и формат весов safetensors. Модель предназначена для создания компактного помощника, ответов на запросы и рассуждений, а также для запуска нескольких экземпляров в агентных сценариях. Авторы рекомендуют использовать поиск с генерацией (RAG) для ответов, требующих точных фактических знаний, и дообучать модель для специализированных областей. В сравнении, приведённом в карточке, результат MTBench для версии 16K — 3,40; это ограничивает ожидания от её качества по сравнению с более крупными моделями. Указана лицензия MIT.
1.5-Pints-2K-v0.1 — языковая модель команды Pints Research на архитектуре Llama 2, предназначенная для диалогового помощника и последующей адаптации под специализированные задачи. Модель содержит около 1,5 млрд параметров, обучена на 57 млрд токенов предварительного корпуса и дообучена с оптимизацией предпочтений. Использует токенизатор Mistral и шаблон ChatML; размер контекста — 2 048 токенов. Модель генерирует текст и рассчитана на ответы пользователям и рассуждения при сравнительно скромных вычислительных ресурсах; авторы указывают, что для запуска достаточно GPU с 8 ГБ видеопамяти. Для запросов, требующих точных фактов или актуальных знаний, рекомендуется подключать поиск по документам через RAG. В опубликованном сравнении MTBench модель набрала 3,73 балла. Лицензия репозитория — MIT. Авторы отдельно предупреждают, что не гарантируют юридический статус материалов обучающих корпусов и возлагают на пользователей ответственность за проверку соблюдения местных законов об авторском праве.
GLM4-32B-Neon-v2-GGUF — это квантизированная версия языковой модели GLM4-32B-Neon-v2, разработанной allura-org и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и запуска в локальных приложениях, совместимых с llama.cpp, включая LM Studio. В карточке указана поддержка английского языка и лицензия MIT. Модель содержит 32 млрд параметров; доступны варианты от BF16 до различных форматов квантизации Q8, Q6, Q5, Q4, Q3 и IQ. Квантизация выполнена с использованием imatrix на базе llama.cpp release b5228. Старшие варианты обеспечивают более высокое качество, а младшие требуют меньше оперативной памяти, но могут заметно уступать по качеству. Для работы рекомендуется использовать указанный формат промпта с системным сообщением, пользовательским запросом и ответом ассистента. Это текстовая модель: сведения о поддержке изображений, аудио, других модальностей, размере контекста и архитектурных особенностях в README не приведены. Для запуска необходима совместимая инфраструктура llama.cpp и объём памяти, соответствующий выбранному файлу; размеры файлов варьируются примерно от 13,66 до 65,14 ГБ.
Sakalti/Anemoi-3B — плотная языковая модель на архитектуре Qwen2, созданная объединением весов Qwen/Qwen2.5-3B-Instruct и bunnycore/Qwen-2.5-3b-Rp-lora_model с помощью mergekit и метода passthrough. Модель содержит 3,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно использовать для ответов на вопросы, следования инструкциям и создания текстов; в метаданных также отмечен интерфейс вызова инструментов. Базовая модель Qwen2.5-3B-Instruct характеризуется как компактная многоязычная чат-модель, однако конкретные языки Anemoi отдельно не перечислены. Для запуска указана библиотека Transformers, а веса представлены в формате safetensors. Лицензия обозначена как other, поэтому условия использования следует сверить с карточкой модели и лицензиями базовых компонентов. README не сообщает результатов оценки качества или специфических ограничений.
AquilaChat2-34B — чат-модель семейства Aquila2, разработанная BAAI. Она предназначена для диалогового общения и генерации ответов на текстовые запросы. Модель имеет плотную архитектуру AquilaForCausalLM, содержит 33,1 млрд параметров и рассчитана на контекст до 4096 токенов. Модель выпущена в формате PyTorch. В субъективной оценке по восьми направлениям возможностей разработчик сообщает о результатах, близких к GPT-3.5 или превосходящих их. В обучающих данных обнаружили утечку тестовых примеров GSM8K; результаты оценки на GSM8K были исключены. Лицензия указана как other, поэтому условия использования следует уточнять в материалах разработчика.
Blaze-14B-xElite — дообученная разговорная языковая модель от prithivMLmods на базе архитектуры LLaMA. Она содержит 14,1 млрд параметров, принимает и генерирует текст, поддерживает контекст до 16 384 токенов и предназначена для генерации ответов, решения задач на рассуждение и математику, объяснения сложных тем, написания текстов и многоязычных сценариев. В карточке указано обучение на синтетических данных, материалах из открытых источников, академических книгах и наборах вопросов и ответов; для выравнивания использовались SFT и итеративный DPO. Заявлена поддержка английского языка и многоязычных задач. Модель распространяется в формате safetensors по лицензии Llama 3.1. Модель может ошибаться, неверно интерпретировать неоднозначные запросы, воспроизводить смещения из обучающих данных и выдавать небезопасные ответы; её знания не обновляются в реальном времени. Для запуска могут потребоваться значительные вычислительные ресурсы. Результаты Open LLM Leaderboard в карточке ограничены отдельными метриками и сами по себе не гарантируют качество в конкретных приложениях.
Citaman/command-r-26-layer — слитая методом SLERP языковая модель на архитектуре Cohere, созданная с помощью mergekit на основе Citaman/command-r-27-layer. В карточке указано 23,5 млрд параметров, формат safetensors и контекстное окно 8192 токена. Модель предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст. Данных о поддерживаемых естественных языках нет, поэтому языковую специализацию определить нельзя. Репозиторий использует лицензию, унаследованную от базовой модели, но сведения о её условиях в предоставленных данных отсутствуют.
Citaman/command-r-4-layer — созданная Citaman модель семейства Cohere, полученная слиянием весов модели Citaman/command-r-5-layer методом SLERP с помощью mergekit. Это плотная авторегрессионная языковая модель примерно на 5,4 млрд параметров для генерации текста и диалогового взаимодействия; в метаданных также указана поддержка интерфейса вызова инструментов. Модель принимает текст и выдаёт текст, а заявленная длина контекста составляет 8192 токена. Модель подходит для диалоговых ассистентов и генерации ответов или продолжений текста. Доступны веса в формате safetensors; в README для слияния указан тип bfloat16. Лицензия в предоставленных данных не указана.
DeepSeek-VL2-Tiny — компактная мультимодальная модель семейства DeepSeek-VL2, разработанная командой DeepSeek. Это вариант модели Mixture-of-Experts, построенный на DeepSeekMoE-3B; в README указано 1,0 млрд активируемых параметров. Модель принимает изображения вместе с текстовыми запросами и предназначена для понимания визуального содержимого.
Dolphin-2.6-FC_Hermes-2-DPO — объединённая модель генерации текста, созданная с помощью LazyMergekit путём слияния cognitivecomputations/fc-dolphin-2.6-mistral-7b-dpo-laser и NousResearch/Nous-Hermes-2-Mistral-7B-DPO. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров; заявленная длина контекста — 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Данные README описывают слияние методом SLERP в формате bfloat16; карточка базовой модели указывает на генерацию по инструкциям и общение в ChatML. В метаданных репозитория указан формат safetensors. Сведения о поддерживаемых естественных языках и конкретной лицензии отсутствуют, поэтому их нельзя надёжно указать.
Elliot OV2 SFT 9k — исследовательский vision-language чекпойнт ElliotVL, экспортированный из 9-тысячного шага обучения Megatron в формат Hugging Face. Модель содержит 2 млрд параметров: языковая башня основана на Qwen3.5-2B с гибридным полным и линейным вниманием, а визуальная — на SigLIP2 NaViT с поддержкой изображений исходного разрешения. Модель принимает изображения вместе с текстовыми запросами и формирует текстовые ответы. Она предназначена для диалога по изображениям, распознавания текста на изображениях и документов, визуальных вопросов и ответов, а также анализа диаграмм и графиков. В README приведены результаты оценки на OCRBench, RealWorldQA и других наборах; автор отдельно указывает ограничения сопоставимости некоторых бенчмарков и особенности их подсчёта. Для запуска требуется Transformers 5.8.0.dev0, а также PyTorch, Pillow, Accelerate и Safetensors; в репозитории представлены веса safetensors, процессор, шаблон чата и модули удалённого кода. Лицензия в метаданных обозначена как other, поэтому конкретные условия использования следует сверить с карточкой модели.
flammen6-mistral-7B — языковая модель на базе архитектуры Mistral, созданная flammenai слиянием SLERP через mergekit моделей Nous-Hermes-2-Mistral-7B-DPO и flammen5-mistral-7B. Модель содержит 7,1 млрд параметров, предназначена для генерации текста и диалогового взаимодействия по инструкциям; доступна в формате safetensors и использует библиотеку Transformers. Контекстное окно составляет 32 768 токенов. Модель подходит для чат-ботов, написания и преобразования текста, а также ответов на запросы в диалоге. В карточке не приведены сведения о специальных доменах или подтверждённых языках. Распространяется по лицензии Apache-2.0.
Gemma 2 27B — текстовая авторегрессионная языковая модель семейства Gemma, разработанного Google с использованием исследований и технологий, применявшихся при создании Gemini. Модель доступна с открытыми весами и предназначена для генерации текста; семейство Gemma включает предварительно обученные и настроенные для следования инструкциям варианты. В репозитории указаны формат safetensors и библиотека Transformers. Модель подходит для ответов на вопросы, суммаризации, диалоговых интерфейсов, создания текстов и рассуждений по чётко сформулированным запросам. В README заявлена поддержка английского языка; конкретные размер контекстного окна и число параметров здесь не приведены. Открытые веса позволяют запускать модель на собственном оборудовании или в облачной инфраструктуре. Ограничения включают возможные фактические ошибки, предвзятость, трудности с неоднозначностью, тонкими языковыми нюансами и сложными открытыми задачами. Лицензия — Gemma; перед использованием следует соблюдать условия лицензии и политику допустимого использования Gemma.
unsloth/gemma-3-270m-it-unsloth-bnb-4bit — квантованная 4-битная версия instruction-tuned модели google/gemma-3-270m-it, подготовленная проектом Unsloth. Исходная модель разработана Google DeepMind как часть семейства Gemma — открытых моделей, созданных на основе исследований и технологий Gemini. Модель предназначена для генерации текста по инструкциям, ответов на вопросы, суммаризации документов, рассуждений и работы с программным кодом. Для версии с размером 270M заявлен контекст до 32K токенов на запрос. Обучение проводилось на данных более чем из 140 языков, включавших веб-тексты, код, математические материалы и изображения; дата отсечения знаний — август 2024 года. В данном репозитории модель представлена как text-generation-модель для Transformers, а 4-битное представление снижает требования к памяти и упрощает локальный запуск. К сильным сторонам относятся небольшой размер, экономичность и пригодность для развёртывания на устройствах с ограниченными ресурсами. Ограничениями являются существенно меньшая ёмкость по сравнению с крупными вариантами Gemma, возможные потери качества из-за квантования и отсутствие в README отдельных результатов оценки именно этой квантованной версии. Модель распространяется по лицензии Gemma; перед использованием необходимо учитывать соответствующие условия Google.
GPT-5.6 Terra Pro — вариант GPT-5.6 Terra от OpenAI, работающий с параметром reasoning.mode, установленным в значение pro. Он предназначен для получения более качественных ответов на сложные задачи. В карточке модели не приведены сведения об архитектуре, размере, модальностях, языках или лицензии.
InternLM-Chat-7B — диалоговая модель семейства InternLM от команды InternLM, предназначенная для практических сценариев общения и генерации текста. Это плотная авторегрессионная модель класса InternLMForCausalLM с 6,9 млрд параметров; в репозитории представлены веса PyTorch. Карточка сообщает о тренировке на триллионах высококачественных токенов и оценивает модель по языковым, предметным, знаниевым, логическим и понимательным задачам. Модель подходит для диалоговых ассистентов, ответов на вопросы, объяснений и генерации текста; также заявлены возможности вызова инструментов для построения пользовательских рабочих процессов. Метаданные указывают контекст 2048 токенов, тогда как README заявляет окно 8k, поэтому фактическую длину контекста следует сверить с используемой конфигурацией. Карточка приводит результаты OpenCompass, включая C-Eval, MMLU и AGIEval. Модель может генерировать предвзятые, дискриминационные или иные вредоносные ответы. Код распространяется по Apache-2.0; для весов указано открытое использование в академических исследованиях, а коммерческое применение требует получения бесплатного разрешения.
Menlo/Jan-nano-gguf — это квантизированная версия языковой модели Jan Nano, разработанной в экосистеме Jan авторами Alan Dao и Bach Vu Dinh. Модель дообучена на архитектуре Qwen3 и предназначена для генерации текста, работы с инструментами и function calling, а также исследовательских задач и обработки информации. Формат GGUF ориентирован на эффективный локальный запуск, включая устройства с ограниченными ресурсами и встраиваемые среды. Ключевыми особенностями модели являются компактность, сниженные требования к VRAM, поддержка интеграции с инструментами и увеличенный контекст, однако точный размер модели, объём контекстного окна, поддерживаемые языки и перечень модальностей в предоставленных данных не указаны. Jan Nano является non-thinking model, поэтому её не следует рассматривать как модель с отдельным режимом глубокого рассуждения. Ограничения и результаты сравнительных тестов также не приведены. Модель распространяется по лицензии Apache-2.0.
Это текстовая инструкционная модель LFM2.5-1.2B-Instruct, изменённая Ричардом Янгом с помощью Heretic: из неё удалено направление активаций, связанное с отказами, без переобучения. Модель имеет плотную гибридную архитектуру с блоками свёртки и внимания и предназначена для локального запуска на устройствах с ограниченными ресурсами. В метаданных указано 1,5 млрд параметров и контекст до 128 000 токенов; карточка базовой модели приводит 1,17 млрд параметров и контекст 32 768 токенов. Модель подходит для диалога, творческого письма, учебных экспериментов с выравниванием и локального выполнения инструкций, которым исходная модель могла отказать. В карточке приведён результат теста отказов: 3 из 100 запросов против 98 из 100 у исходной модели; это не гарантирует поведение на других запросах. Поддерживаются английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. Лицензия в метаданных обозначена как other; конкретные условия следует сверять с карточкой репозитория.
LLaMA-2-7B-32K — языковая модель с длинным контекстом, разработанная Together и дообученная на основе Meta Llama 2 7B. Это плотная авторегрессионная модель семейства Llama, содержащая 6,6 млрд параметров и поддерживающая контекст до 32 768 токенов благодаря интерполяции позиционных представлений. Для обучения использовались смеси данных RedPajama, The Pile, UL2 Oscar и наборов для instruction tuning. Модель предназначена для генерации текста с большим объёмом входного контекста: ответов на вопросы по нескольким документам, суммаризации длинных текстов и работы с примерами в контексте. README описывает англоязычные данные и сценарии; метаданные также указывают английский язык. Модель доступна в формате PyTorch через Transformers и подходит для дальнейшей адаптации под конкретные задачи. Модель может выдавать неверную или предвзятую информацию. Лицензия — Llama 2; условия использования определяются лицензией Meta Llama 2.
LLaMA-2-7B-32K-Instruct_GGUF — это набор файлов модели в формате GGUF, подготовленный пользователем rozek на основе Llama-2-7B-32K-Instruct от Together Computer, Inc., которая, в свою очередь, создана на базе Meta AI LLaMA-2-7B. Исходная модель дообучена для работы с контекстом до 32 000 токенов с использованием Position Interpolation и Rotary Position Embeddings (RoPE). Модель предназначена для генерации текста и выполнения инструкций на английском языке, включая сценарии локального запуска через llama.cpp. Репозиторий содержит варианты с различной степенью квантования: Q2_K, Q3_K, Q4, Q5, Q6_K, Q8_0, а также неквантованный F16. Квантованные версии снижают требования к памяти и позволяют запускать модель локально, но могут уступать F16 по точности. Несмотря на поддержку контекста до 32K, использование максимальной длины требует значительного объёма RAM; рекомендуется выбирать минимальный необходимый размер контекста. Модель текстовая и имеет около 7 миллиардов параметров. В README указана лицензия llama2.
Llama3.1-8B-Chinese-Chat — языковая модель для генерации текста и диалогового взаимодействия на китайском и английском языках, разработанная Shenzhi Wang, Yaowei Zheng, Guoyin Wang, Shiji Song и Gao Huang. Модель дообучена на основе Meta-Llama-3.1-8B-Instruct с применением метода оптимизации предпочтений ORPO и фреймворка LLaMA-Factory. Обучение проводилось на более чем 100 тысячах пар предпочтений с полным обновлением параметров. Модель предназначена для чат-сценариев, ролевого общения, использования инструментов и function calling, а также решения математических задач. Она имеет 8,03 млрд параметров; заявленная длина контекста составляет 128K токенов, однако для китайской версии эта характеристика не тестировалась разработчиками. Длина контекста, использованная при дообучении, составляла 8192 токена. Доступны версии BF16 и GGUF с квантованиями q4_k_m и q8_0, а также в формате f16. К сильным сторонам относятся ориентация на китайско-английских пользователей, улучшенные возможности ролевого общения, работы с инструментами и математики, а также поддержка запуска через Transformers и llama.cpp. Ограничения включают неподтверждённую практическими тестами длину контекста 128K и возможную нестабильность ответов на вопросы о собственной идентичности и разработчиках. Модель распространяется по лицензии Llama 3.1 License.
amd/Llama-3.1-8B-Instruct-FP8-KV — это FP8-квантизированная версия Meta-Llama-3.1-8B-Instruct, созданная компанией Advanced Micro Devices (AMD) с использованием инструмента Quark и калибровочных образцов из набора данных Pile. Модель предназначена для задач генерации текста и диалоговых сценариев, поддерживаемых исходной инструкционной моделью Llama 3.1, а также для эффективного развёртывания через backend vLLM. Квантизации подвергнуты все линейные слои, кроме lm_head. Веса, активации и KV-кэш представлены в формате FP8 с симметричным масштабированием на тензор. Экспорт выполняется в формате Quark safetensors, совместимом с vLLM. Для оценки потери точности использовалась perplexity на Wikitext-2: 7,2169 у исходной модели и 7,2752 у данной версии; результаты получены в режиме псевдоквантизации и могут отличаться от показателей фактического инференса. Размер модели, контекстное окно, список языков и другие архитектурные характеристики в README не указаны. Модель ориентирована на снижение требований к памяти и повышение эффективности инференса на совместимом оборудовании, однако FP8-квантизация может незначительно ухудшать качество по сравнению с исходной моделью. Для использования требуется Quark; заявлена возможность развёртывания с помощью vLLM. Лицензия указана как llama3.1, с условиями Meta для Llama 3.1 и дополнительными модификациями, защищёнными авторским правом AMD.
IntervitensInc/Llama-3.1-Minitron-4B-Width-Base-chatml — текстовая авторегрессионная модель семейства Llama, разработанная NVIDIA. Это базовая модель для генерации текста и адаптации к различным задачам обработки естественного языка; в этой версии добавлены токены ChatML для дообучения в формате диалога. Модель получена структурным прореживанием Llama-3.1-8B по размеру эмбеддингов и промежуточному слою MLP, после чего прошла дальнейшее обучение с дистилляцией на 94 млрд токенов. Архитектура включает 32 слоя, 32 головы внимания, Grouped-Query Attention и RoPE; число параметров — 3,9 млрд. Модель принимает и выдаёт текст. В README заявлена поддержка английского и многоязычного текста, а также кода; корпус включал веб-страницы, диалоги и документы из разных областей. Метаданные указывают контекстное окно 131 072 токена. Модель предназначена для генерации текста и дальнейшей адаптации под прикладные сценарии; README также сообщает о готовности к коммерческому использованию. Указана лицензия other, поэтому перед использованием следует свериться с условиями NVIDIA. Модель может выдавать неточные, неполные или избыточные ответы и воспроизводить токсичность и предвзятость из обучающих данных.
Llama-3.1-Nemotron-Nano-VL-8B-V1 — разработанная NVIDIA мультимодальная модель для анализа изображений и документов. Она сочетает визуальный энкодер C-RADIOv2-H с языковой моделью Llama-3.1-8B-Instruct и принимает одно RGB-изображение вместе с текстовым запросом, выдавая текстовый ответ. Поддерживает английский язык и контекст до 16 тысяч токенов; изображения обрабатываются в раскладке до 12 плиток размером 512 × 512 пикселей. Модель предназначена для суммирования изображений, OCR, вопросов и ответов по изображению, анализа текста и изображений, а также рассуждений по визуальному содержимому. NVIDIA указывает сценарии развертывания в дата-центре, облаке и на периферийных устройствах; для работы предусмотрена интеграция с TensorRT-LLM. Модель представлена в формате safetensors, а лицензия указана как other; перед использованием следует свериться с условиями NVIDIA. Ответы могут содержать ошибки, вводящую в заблуждение информацию или нежелательные смещения. Модель обучалась на коммерческих изображениях; для производственного применения следует оценить её соответствие конкретной отрасли и обеспечить проверку результатов и меры безопасности.
unsloth/Llama-3.2-1B-Instruct-unsloth-bnb-4bit — это 4-битная динамически квантованная версия инструкционной модели Meta Llama 3.2 1B Instruct, подготовленная Unsloth и совместимая с Transformers. Базовая модель разработана Meta; вариант предназначен для генерации текста и диалоговых сценариев, включая мультиязычные чаты, извлечение данных агентами и суммаризацию. Модель использует авторегрессионную архитектуру оптимизированного Transformer с Grouped-Query Attention (GQA). Она относится к семейству моделей размером 1B параметров, работает в режиме текст на входе — текст на выходе и официально поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Инструкционная версия дополнительно обучалась с помощью SFT и RLHF для повышения полезности и безопасности. Размер контекста в README не указан. Ключевое преимущество варианта — динамическое 4-битное квантование Unsloth, при котором отдельные параметры сохраняются без квантования для улучшения точности по сравнению со стандартным 4-битным форматом и снижения требований к памяти. Ограничения включают меньший размер и, соответственно, более ограниченные возможности по сравнению с крупными моделями, а также отсутствие данных о контекстном окне и подробных результатах оценки именно этой квантованной версии. Использование регулируется Llama 3.2 Community License и Acceptable Use Policy; точные условия следует проверять в лицензии Meta.
Llama-3.2-3B-Instruct-bf16 — компактная инструкционная языковая модель семейства Llama 3.2, разработанная Meta и представленная в формате mlx-community. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на запросы, следование инструкциям, создание и преобразование текста. В идентификаторе указано около 3 млрд параметров и формат чисел bfloat16; README также указывает совместимость с Transformers и использование экосистемы MLX. Модель работает с текстом и не заявлена как мультимодальная. Поддерживаемые языки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Размер контекста и точные архитектурные характеристики в README не указаны. К сильным сторонам относятся относительно небольшой размер, инструкционная настройка и многоязычная поддержка, что делает модель подходящей для локального запуска и прикладных текстовых задач при наличии совместимого оборудования. При этом в предоставленных данных нет результатов оценивания, сведений о фактическом качестве по языкам, ограничениях безопасности, производительности или рекомендуемых ресурсах, поэтому их нельзя оценить точнее. Модель распространяется по Llama 3.2 Community License от Meta. Лицензия разрешает использование, копирование, модификацию и распространение на установленных условиях, включая соблюдение Acceptable Use Policy, указание «Built with Llama», сохранение лицензионного уведомления и дополнительные требования для продуктов с более чем 700 млн ежемесячных активных пользователей.
Llama-3-8B-ProLong-64k-Base — длинноконтекстная языковая модель Princeton NLP, созданная авторами семейства ProLong на основе Meta Llama 3 8B Instruct. Модель продолжительно обучали на длинных текстах; в метаданных указан датасет princeton-nlp/prolong-data-64K, а число параметров составляет 7,5 млрд. Архитектура — плотная LlamaForCausalLM, веса представлены в safetensors; модель предназначена для генерации текста и диалогового взаимодействия. Модель рассчитана на сценарии, где нужно анализировать и генерировать текст с длинным контекстом. Метаданные указывают контекстное окно 65 536 токенов. README описывает семейство ProLong и приводит обучение моделей на данных до 512K токенов, но не подтверждает такое окно для данного 64k чекпойнта. Базовая модель ориентирована на английский язык; явного списка языков для этой версии нет. Разработчики сообщают о высокой производительности семейства ProLong на оценке HELMET, однако приведённое в README сравнение относится к основным instruct-моделям семейства, а не явно к этой Base-версии. Лицензия — Llama 3; перед использованием следует соблюдать её условия.
rinna/llama-3-youko-8b-instruct — диалоговая языковая модель компании rinna на архитектуре Llama 3, созданная на основе Llama 3 Youko 8B. Модель содержит около 7,5 млрд параметров, использует плотный 32-слойный трансформер и контекст до 8192 токенов. Она обучена следовать инструкциям и работает в формате чата Llama 3. Модель предназначена для генерации ответов и диалога на японском и английском языках. Обучение включало supervised fine-tuning, добавление chat vector и direct preference optimization на наборах данных с японскими и английскими диалогами, а также примерами математики и кода. Для генерации разработчики рекомендуют repetition_penalty=1.1: без этой настройки модель чаще повторяет текст. Весовые файлы опубликованы в формате safetensors. Лицензия — llama3; использование регулируется условиями лицензии Meta Llama 3.
MDCure-Qwen2-7B-Instruct — языковая модель Yale NLP, дообученная на Qwen/Qwen2-7B-Instruct с использованием набора MDCure-72k. Она предназначена для генерации ответов на инструкции и вопросы по нескольким документам, а также для задач с длинным контекстом. MDCure — процедура создания и фильтрации обучающих данных для улучшения способностей LLM работать с несколькими документами; авторы сообщают об улучшении результатов на ряде много-документных и длинноконтекстных тестов относительно базовых моделей. Модель имеет плотную архитектуру Qwen2, около 7,1 млрд параметров и контекст до 32 768 токенов. Она принимает текст и генерирует текст; в метаданных указан английский язык. Для использования рекомендуется Transformers версии 4.45.0 или новее. Модель распространяется по лицензии Apache-2.0.