I.11Классификация, ранжирование и сопоставление
В разделе собраны самостоятельные задачи, где AI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 736 моделейmrcuddle подготовил объединённую диалоговую языковую модель на базе Llama 3 8B. Веса NousResearch/Hermes-2-Pro-Llama-3-8B и jondurbin/bagel-8b-v1.0 объединены методом SLERP с помощью mergekit; архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров. Модель работает через Transformers, сохранена в формате safetensors, поддерживает контекст до 8192 токенов. Модель предназначена для генерации текста и диалоговых ответов. Её можно использовать для общения с ассистентом, ответов на вопросы, написания текстов и кода, а также выполнения разнообразных текстовых инструкций. Метаданные указывают на возможность чата, однако README не приводит оценок качества или результатов тестирования. Сведения о лицензии в предоставленных источниках отсутствуют.
Kiwen1.1-27B — мультимодальная языковая модель на 28 млрд параметров, разработанная beyoru и представленная в формате GGUF с квантованием от bartowski. Модель предназначена для работы с текстом и изображениями, причём для обработки изображений требуется дополнительный mmproj-файл. Указанные сценарии применения включают рассуждения, агентские задачи, работу с вьетнамским языком, математикой и программированием. Поддерживается speculative decoding с использованием MTP. Модель подготовлена для запуска через llama.cpp; доступны варианты от BF16 до низкобитных квантований Q8_0, Q6, Q5, Q4, Q3 и IQ. Рекомендуемым компромиссом между качеством и размером назван Q4_K_M объёмом 17,77 ГБ, а варианты Q6_K и Q6_K_L обеспечивают более высокое качество при большем потреблении памяти. README не содержит данных о размере контекстного окна, полном наборе поддерживаемых языков, исходной архитектуре или результатах бенчмарков. Модель распространяется по лицензии Apache-2.0. Основное ограничение — значительные требования к оперативной или видеопамяти: даже рекомендуемый вариант Q4_K_M занимает около 17,77 ГБ, а использование изображений требует отдельного multimodal-компонента.
ByT5-xl — предобученная байтовая модель семейства T5, разработанная Google. Она использует архитектуру Transformer для преобразования текста в текст и обрабатывает строки непосредственно как последовательности UTF-8 байтов, без отдельного токенизатора. Размер модели — 3,3 млрд параметров; доступны веса PyTorch и TensorFlow. Модель предобучена на mC4 с задачей восстановления замаскированных фрагментов и не проходила supervised-обучение для прикладных задач. Перед использованием её нужно дообучить под конкретный сценарий: например, ответы на вопросы или другие задачи преобразования текста. ByT5 особенно хорошо подходит для зашумлённого текста; в README отмечено превосходство над mT5-xl на TweetQA. Поддерживаются многие языки, включая английский, испанский, французский, арабский, хинди, японский и корейский; обработка байтов позволяет подавать текст на разных языках без токенизатора. Работа с байтовыми последовательностями может быть менее эффективной по длине входа, чем токенизация. Модель опубликована Google и распространяется по лицензии Apache-2.0.
BSC-LT/Checkpoint_2b_instructed_beta — текстовая чат-модель семейства Llama с плотной архитектурой LlamaForCausalLM и 1,7 млрд параметров. Она принимает текст и генерирует текст; карточка модели указывает на версию 2b модели Sxxxxxx, обученную на базовом наборе инструкций, включающем RAG_Multilingual, без последней эпохи обучения. Модель предназначена для диалоговых ответов и выполнения инструкций, в том числе в многоязычных сценариях с поиском по внешним источникам. Контекст составляет 8192 токена. Репозиторий содержит веса в формате safetensors, библиотека — Transformers. Лицензия Apache-2.0 разрешает использование и распространение на её условиях.
CollectiveCognition-v1-Mistral-7B-Mistral-7B-Instruct-v0.1 — объединённая модель для генерации текста, созданная на основе mistralai/Mistral-7B-Instruct-v0.1 и teknium/CollectiveCognition-v1-Mistral-7B методом SLERP. Это плотная авторегрессионная модель Mistral с 7,1 млрд параметров, предназначенная для диалогов и выполнения инструкций. Она принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. В карточке указан английский язык и формат safetensors. Модель подходит для диалоговых помощников, генерации ответов и других задач продолжения текста по запросу. Она выпущена по лицензии Apache-2.0. Карточка описывает способ слияния, но не приводит отдельные оценки качества этой итоговой модели.
Citaman/command-r-14-layer — языковая модель CohereForCausalLM на 13,6 млрд параметров, созданная автором репозитория слиянием слоёв модели Citaman/command-r-15-layer методом SLERP через mergekit. Она предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и выдаёт текст, поддерживает контекст до 8192 токенов. Репозиторий содержит веса в формате safetensors. В карточке не приведены сведения о лицензии или конкретных целевых языках, поэтому условия использования и языковой охват по имеющимся данным определить нельзя. Характеристики и качество результата могут зависеть от шаблона диалога и способа запуска.
Bwindi/CrawLM — генеративная языковая модель для создания текста и ведения диалогов. Модель доступна для использования через библиотеку Transformers и относится к семейству моделей с тегом llama; общий объём параметров составляет 3,2 млрд, а нативное контекстное окно — до 131 072 токенов.
Dans-PersonalityEngine-v1.0.0-8b-GGUF — это квантизированная GGUF-версия текстовой генеративной модели Dans-PersonalityEngine-v1.0.0-8b, разработанной PocketDoc и подготовленной квантизатором bartowski с использованием llama.cpp и imatrix. Модель содержит около 8 млрд параметров и предназначена для локального запуска, в частности через LM Studio. Доступны варианты от F16 до различных уровней квантизации Q3–Q8, что позволяет выбирать между качеством генерации, размером файла и требованиями к памяти. Модель ориентирована на широкий круг текстовых задач: диалоговое взаимодействие и ассистирование, написание и редактирование прозы, решение математических задач, программирование и анализ кода, подготовку данных, работу с инструментами и выполнение многошаговых заданий. В составе обучающих данных заявлены англоязычные наборы, посвящённые литературному письму, инструкциям, программированию, математике, химии, биологии, выживанию и другим темам. Основная заявленная область применения — генерация текста на английском языке; поддержка других языков и мультимодальных входов в README не указана. Сильными сторонами являются разнообразная специализация обучающих данных, наличие многочисленных вариантов квантизации и возможность локального инференса с использованием формата GGUF. К ограничениям относятся зависимость качества и скорости от выбранного уровня квантизации и оборудования, а также отсутствие в README сведений об архитектуре базовой модели, размере контекстного окна, результатах бенчмарков и фактическом качестве на отдельных задачах. Модель распространяется по лицензии Apache-2.0.
DeepSeek-R1-Distill-Llama-70B-GGUF — это набор GGUF-квантизаций 70-миллиардной языковой модели DeepSeek-R1-Distill-Llama-70B, подготовленный пользователем bartowski на основе модели DeepSeek AI. Квантизация выполнена с помощью llama.cpp релиза b4514 и метода imatrix. Модель предназначена для генерации текста и локального запуска, в частности через LM Studio, а также для инференса с использованием llama.cpp и совместимых инструментов. Модель является текстовой, однако в README не указаны точная архитектура исходной модели, размер контекстного окна и поддерживаемые языки. Доступны варианты с различной степенью квантизации: от Q8_0 размером около 75 ГБ до низкобитных IQ2 и Q2 размером около 22–27 ГБ. Более высокие уровни, включая Q6_K, Q5_K_M, Q5_K_S и Q4_K_M, ориентированы на сохранение качества, тогда как варианты Q3 и Q2 требуют меньше памяти, но заметно уступают по качеству. Сильной стороной набора является широкий выбор форматов для подбора компромисса между качеством, размером и требованиями к памяти; для большинства сценариев в README рекомендуются Q6_K, Q5_K и Q4_K_M. Ограничения включают очень высокие требования к оперативной или видеопамяти даже у компактных вариантов, а также возможное снижение качества при сильной квантизации. Лицензия в предоставленном README не указана.
Dolphin 2.2 Yi 34B 200K — разговорная языковая модель, разработанная Eric Hartford при спонсорской поддержке Convai и дообученная на базе Yi. Это плотная модель семейства Llama с 33,9 млрд параметров; она принимает текст и генерирует текст, поддерживает диалоги в формате ChatML и рассчитана на контекст до 200 000 токенов. В ходе дообучения использовались данные Dolphin, Airoboros, а также отобранные примеры из Samantha и WizardLM; обучение выполнялось методом qLoRA. Модель предназначена для многоходового общения, ответов на вопросы, творческих инструкций и персональных советов. По карточке, она обучена быть эмпатичной и менее ограничивать ответы; из-за этого разработчик рекомендует самостоятельно добавить слой выравнивания перед публикацией сервиса. В метаданных указан английский язык. Репозиторий содержит веса PyTorch. README указывает, что модель основана на Yi и подпадает под лицензию Yi; метаданные HF отдельно указывают Apache-2.0, поэтому условия использования следует сверять с лицензией базовой модели и файлами репозитория.
dots.mocr — мультимодальная модель семейства dots_ocr от dots-studio для разбора документов и изображений с текстом. Она предназначена для распознавания текста и структуры страниц: находит элементы макета, их ограничивающие рамки и категории, извлекает текст и формирует Markdown. Также модель интерпретирует диаграммы, интерфейсы и научные иллюстрации и может преобразовывать структурированную графику в SVG-код; поддерживает интерактивный диалог по визуальному содержимому. Модель имеет плотную архитектуру DotsOCRForCausalLM и 1,5 млрд параметров; указанный размер контекста — 131 072 токена. Карточка заявляет мультиязычную поддержку, в том числе английского и китайского. Для развёртывания рекомендуются vLLM и Transformers; лицензия — MIT. Среди ограничений карточка отмечает трудности с комплексными таблицами и математическими формулами, недостаточно надёжный разбор графических изображений в SVG и периодические сбои разбора. Заявления о качестве на бенчмарках приведены в README, но сами таблицы с результатами здесь опущены.
Это инструктивно настроенная причинная языковая модель для генерации текста и диалогов в формате чата. Репозиторий разработан latent-artist; модель построена на архитектуре Qwen2 и содержит 7,1 млрд параметров. Модель предназначена для ответов на запросы и ведения диалога через текстовые промпты. В метаданных также отмечен интерфейс для вызова инструментов. Она принимает текст и генерирует текст; заявленная длина контекста составляет 32 768 токенов, а карточка указывает английский язык. Веса доступны в формате safetensors, для загрузки рекомендуется библиотека Transformers. Лицензия — Apache-2.0. Карточка не сообщает результатов оценки качества или специальных ограничений применения.
Falcon3-10B-Instruct-abliterated-GGUF — это квантизированная версия инструкционной языковой модели Falcon3-10B-Instruct-abliterated, опубликованная в формате GGUF пользователем bartowski. Базовая модель разработана huihui-ai и относится к семейству Falcon3. Квантизация выполнена с помощью llama.cpp, версии b4381, с использованием метода imatrix и специализированного набора данных. Модель предназначена для генерации текста и выполнения инструкций в локальных приложениях, совместимых с llama.cpp и форматом GGUF. Поддерживаются английский, французский, испанский и португальский языки. Архитектура, размер контекста, точные параметры исходной модели и поддержка модальностей, кроме текста, в README не указаны; по назначению это текстовая модель без заявленной обработки изображений или других типов данных. Для общения используется шаблон с ролями system, user и assistant. Доступны варианты от F16 размером 20,62 ГБ до компактных IQ3_M и Q3-разрядных сборок. Версии Q4–Q6 заявлены как обеспечивающие хорошее или очень высокое качество при меньшем потреблении памяти, а Q3-варианты рассчитаны на системы с ограниченным объёмом RAM, но имеют более низкое качество. Ограничения качества зависят от выбранного уровня квантизации, при этом конкретные результаты тестирования не приведены. Модель распространяется по лицензии Falcon LLM License; условия доступны по ссылке, указанной в карточке.
flammen10-mistral-7B — языковая модель на архитектуре Mistral, созданная FlammenAI слиянием двух моделей методом SLERP с помощью mergekit: nbeerbower/flammen9X-mistral-7B и chihoonlee10/T3Q-Mistral-Orca-Math-DPO. Модель предназначена для генерации текста по запросам и может использоваться в диалоговых сценариях и для ответов на математические вопросы. Модель содержит 7,1 млрд параметров, имеет контекстное окно до 32 768 токенов и распространяется в формате safetensors для библиотеки Transformers. Вторая исходная модель описана как DPO-дообученная на математических данных Mistral, что указывает на математическую составляющую слияния. Репозиторий лицензирован по Apache-2.0.
ehristoforu/frqwen2.5-from7b-it — объединённая автором модель семейства Qwen2.5, созданная с помощью mergekit методом passthrough на основе Qwen/Qwen2.5-7B-Instruct. Это плотная причинная языковая модель для генерации текста и диалогов; доступны интерфейс чата и интерфейс вызова инструментов. В репозитории указаны 12,7 млрд параметров, контекст до 32 768 токенов и формат safetensors; модель рассчитана на работу через Transformers. Модель подходит для диалоговых приложений, генерации ответов и текста, а также сценариев, где требуется подключение инструментов. Базовая Qwen2.5-7B-Instruct предназначена также для генерации кода и структурированных ответов, однако README этой сборки не описывает её специфические улучшения или результаты оценки. Лицензия в предоставленных данных не указана.
bunnycore/Gemma-2-2B-TitanFusion-v2 — разговорная языковая модель, созданная слиянием предварительно обученных моделей Gemma 2 с помощью mergekit и метода Model Stock. В качестве базовой использована bunnycore/Gemma-2-2b-TitanFusion; в слияние также вошли варианты All-in-One, Gemma2-2B-mixed и Mixer-Lora. Модель предназначена для генерации текста в диалогах и ответов на инструкции. Каталог также указывает помощь с рассуждениями и кодом как возможности базовых моделей. Архитектура — плотная Gemma 2 для авторегрессионной генерации, размер — 2,7 млрд параметров, контекст — до 8192 токенов. Модель распространяется в формате Safetensors для Transformers. Сведения о лицензии в доступных данных отсутствуют.
unsloth/gemma-2-9b-it-bnb-4bit — это 4-битная версия instruction-tuned языковой модели Gemma 2 с 9 миллиардами параметров, основанная на google/gemma-2-9b-it. Модель распространяется в экосистеме Unsloth и предназначена для запуска и дообучения с использованием Transformers. В метаданных указаны разработчик базовой модели Google и поддерживаемый язык English. Модель ориентирована на диалоговые приложения, генерацию и продолжение текста, а также на дообучение под пользовательские наборы данных. Ключевой особенностью является 4-битное квантование bnb, снижающее требования к памяти; для Gemma 2 (9B) Unsloth заявляет ускорение до 2,4 раза и сокращение использования памяти до 58% в соответствующих сценариях. Модель также может экспортироваться в форматы GGUF и использоваться с vLLM, однако размер контекста, точный набор поддерживаемых языков и другие архитектурные характеристики в README не указаны. Сильные стороны модели — относительно экономичный запуск и возможность эффективного fine-tuning на ограниченных ресурсах, включая GPU Tesla T4. Ограничения связаны с 4-битным представлением, предназначенностью базовой модели преимущественно для English и отсутствием в README подробных результатов оценки качества. Лицензия указана как gemma; перед использованием необходимо учитывать условия лицензии Google Gemma.
MaziyarPanahi/gemma-3-4b-it-GGUF — набор файлов модели в формате GGUF для Google Gemma 3 4B Instruct, разработанной Google и квантизированной MaziyarPanahi. Модель предназначена для генерации текста и локального запуска через совместимые приложения и библиотеки, включая llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp и другие инструменты экосистемы GGUF. Известно, что доступны варианты квантизации с разрядностью от 2 до 8 бит. Формат GGUF разработан командой llama.cpp как замена устаревшему GGML и поддерживает запуск с ускорением на GPU, а в некоторых инструментах — совместимые API и интеграцию с фреймворками. Эти варианты позволяют выбирать компромисс между размером файлов, требованиями к памяти и качеством, однако README не содержит точных сведений об архитектуре, контекстном окне, языках, модальностях и характеристиках производительности модели. Основные преимущества — возможность локального развертывания, широкий выбор уровней квантизации и поддержка несколькими популярными клиентами. Ограничения связаны с потерями качества, возможными при квантизации, а также зависимостью от конкретного рантайма и аппаратной конфигурации. Лицензия в README не указана.
Gemma-SEA-LION-v4-4B-VL — мультимодальная модель с 4 млрд параметров, разработанная командой AI Products Pillar организации AI Singapore при финансировании NRF Сингапура. Это дообученная на основе google/gemma-3-4b-it модель семейства Gemma 3 с архитектурой декодера, предназначенная для диалогов, генерации текста и ответов на вопросы по изображениям. Контекстное окно составляет 128 тыс. токенов. Модель адаптирована к языкам и культурному контексту Юго-Восточной Азии: индонезийскому, вьетнамскому, тайскому, филиппинскому, тамильскому, бирманскому и малайскому; также поддерживает английский и китайский. Обучение включало около 6,7 млн пар инструкций и текста. Карточка отмечает возможности вызова функций и визуального разбора на тайском, китайском и английском языках. Модель подходит для многоязычных диалоговых систем и анализа изображений с текстовыми запросами. Модель распространяется под лицензией Gemma. Она не прошла выравнивание по безопасности, не проверялась на устойчивость к состязательным запросам и может галлюцинировать или выдавать несогласованные с контекстом ответы; ответы следует проверять, а для прикладных систем может потребоваться дополнительная настройка безопасности.
German-RAG-PHI-3.5-MINI-4B-MERGED-HESSIAN-AI — языковая модель команды Avemio AI при поддержке Hessian AI, предназначенная для немецкоязычных задач с поиском и использованием документов. Это авторегрессионный трансформер с плотной архитектурой LlamaForCausalLM; в метаданных указано 3,7 млрд параметров и контекст до 131 072 токенов. Модель объединена методом SLERP из German-RAG-PHI-3.5-MINI-4B-SFT-HESSIAN-AI и German-RAG-PHI-3.5-MINI-4B-ORPO-HESSIAN-AI. Модель подходит для ответов на вопросы по найденным документам, извлечения релевантной информации и суммаризации контекста на немецком и английском языках. В карточке приведены результаты оценивания качества языка, правильности ответов и следования инструкциям; на наборе задач извлечения модель показала улучшение относительно указанных вариантов SFT и ORPO. Весам и коду модели указана лицензия MIT. Модель может генерировать вредный или чувствительный контент, в том числе из-за смещений, а фактические утверждения могут быть неверными и требуют проверки. Для надежных ответов следует предоставлять релевантный контекст и проверять результат.
MLX-формат модели GLM-4.7-Flash-6bit, конвертированной сообществом mlx-community из базовой модели zai-org/GLM-4.7-Flash с использованием mlx-lm 0.30.5. Модель предназначена для генерации текста и запуска через библиотеку mlx-lm, в том числе в сценариях диалогового взаимодействия с применением chat template. Из доступных данных известно, что модель поддерживает английский и китайский языки и распространяется по лицензии MIT. Формат 6bit указывает на квантованное представление, однако точные сведения об архитектуре, количестве параметров, размере контекста, модальностях, производительности и ограничениях в README не приведены. Для использования требуется установка mlx-lm; модель рассчитана на окружение MLX.
bartowski/granite-3.1-8b-instruct-GGUF — это набор GGUF-квантизаций инструкционной языковой модели Granite 3.1 8B Instruct, разработанной IBM и опубликованной как ibm-granite/granite-3.1-8b-instruct. Модель предназначена для генерации текста и диалоговых сценариев, включая использование через llama.cpp и LM Studio. README не содержит подробностей о конкретной архитектуре, языках и размере контекстного окна. Доступны варианты от F16 до Q2_K, с размерами файлов примерно от 3,15 до 16,34 ГБ. Квантизации созданы с помощью llama.cpp и метода imatrix; для большинства сценариев автор рекомендует варианты Q4_K_M, Q5, Q6 и другие сбалансированные версии. Более компактные варианты подходят для устройств с ограниченной оперативной памятью, но обеспечивают более низкое качество. Модель использует специальный chat template, исправленный в этой версии. Распространение указано по лицензии Apache-2.0. Ограничения включают компромисс между размером, требованиями к памяти и качеством, зависящий от выбранного типа квантизации. README также не приводит результатов тестирования, точных сведений о поддерживаемых языках и ограничений безопасности.
ibm-granite/granite-4.1-8b-GGUF — это версия модели IBM Granite 4.1 с 8 млрд параметров, преобразованная в формат GGUF. Модель разработана IBM и предназначена для задач генерации текста; репозиторий содержит варианты с различными уровнями квантования, созданные на основе модели ibm-granite/granite-4.1-8b в формате Safetensors. Формат GGUF удобен для локального запуска и совместим с программными средствами, поддерживающими этот формат, однако конкретные требования к памяти, производительность и качество зависят от выбранной квантованной версии. В предоставленной карточке не указаны архитектурные детали, поддерживаемые языки, размер контекста, дополнительные модальности и специализированные сценарии применения, поэтому эти характеристики нельзя достоверно определить по имеющимся данным. Модель распространяется по лицензии Apache 2.0. Для подробной информации о возможностях, ограничениях и базовых характеристиках следует обратиться к полной карточке базовой модели ibm-granite/granite-4.1-8b.
Hermes-2-Pro-11B — текстовая генеративная модель Matt Shumer, созданная с помощью LazyMergekit на основе NousResearch/Hermes-2-Pro-Mistral-7B. Несмотря на описание README как слияния нескольких моделей, в нём перечислена одна и та же базовая модель десять раз; метаданные каталога классифицируют связь как дообучение. Архитектура — плотная MistralForCausalLM, размер — 11 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для диалогов и генерации текста по инструкциям. Лицензия Apache-2.0. Карточка не приводит отдельных оценок качества или подробностей обучения, поэтому пригодность для конкретной задачи следует проверять на собственных примерах.
Hermes-2-Pro-Llama-3-13B — плотная авторегрессионная языковая модель семейства Llama, созданная объединением предварительно обученных моделей с помощью mergekit. В README указана базовая модель NousResearch/Hermes-2-Pro-Llama-3-8B; метаданные описывают модель как дообученную производную этой модели. Репозиторий содержит веса Safetensors, всего 11,4 млрд параметров, с контекстом 8192 токена. Модель предназначена для диалоговой генерации текста и ответов на инструкции. Метаданные каталога также указывают на возможности чата; описание базовой модели связывает семейство Hermes-2-Pro с вызовом функций и генерацией структурированных данных в JSON. Основной язык и отдельные профильные области применения в карточке не обозначены. Лицензия в предоставленных данных не указана. README называет метод слияния passthrough, но перечень объединённых моделей и детали конфигурации опущены, поэтому состав слияния нельзя установить полностью.
Hermes-2-Pro-Mistral-10.7B-GGUF — это квантизированная GGUF-версия текстовой языковой модели Hermes-2-Pro-Mistral-10.7B, основанной на Mistral-7B-v0.1. Квантизацию выполнил bartowski с использованием llama.cpp. Модель обучалась на датасете teknium/OpenHermes-2.5 и связана с методами дообучения, включая DPO, RLHF, дистилляцию и обучение на синтетических данных. Модель предназначена для генерации текста и диалоговых сценариев на английском языке. Среди заявленных возможностей — следование инструкциям, работа в формате ChatML, function calling и JSON mode. README не содержит данных о размере контекста, точной архитектуре базовой модели, мультимодальности или результатах тестирования, поэтому эти характеристики нельзя оценить по имеющейся информации. Доступно множество вариантов квантизации от Q8_0 до Q2_K, различающихся размером файла и качеством. Q6_K обозначен как рекомендуемый вариант с очень высоким качеством, тогда как более компактные варианты подходят для систем с ограниченными ресурсами, но могут заметно уступать по качеству. Модель распространяется по лицензии Apache-2.0.
Abiray/K2-Horizon-MoVA-36B-A4B-GGUF — набор GGUF-квантизаций модели IFM/K2-Horizon-MoVA-36B-A4B, разработанной IFM. Это текстовая генеративная модель для диалогов, написания и обработки текста, программирования и других задач, выполняемых через llama.cpp. Модель использует разреженную архитектуру Mixture-of-Experts с механизмом Mixture-of-Values Attention (MoVA): всего 36 млрд параметров, из которых на каждом токене активируется около 4 млрд. Заявленное преимущество — скорость инференса, близкая к моделям меньшего размера, при сохранении возможностей модели масштаба 36B. Указан английский язык; поддержка других языков и дополнительные модальности не заявлены. Репозиторий содержит варианты квантизации от Q3_K_S до Q8_0 размером примерно от 16,4 до 39,8 ГБ. Q4_K_M обозначен как рекомендуемый баланс качества и потребления памяти, а Q8_0 обеспечивает точность, близкую к исходной BF16-модели. Точные характеристики контекстного окна в README не указаны. Для запуска требуется специальная версия llama.cpp из форка MBZUAI-IFM с веткой model/K2Horizon; стандартная upstream-версия на указанном этапе не поддерживает архитектуру k2-horizon. Модель использует ChatML-подобный формат с тегами рассуждений. Лицензия — Apache-2.0. Требования к ресурсам зависят от квантизации: для вариантов Q4_K_M рекомендуется от 24 ГБ VRAM при полной выгрузке на GPU и 32 ГБ системной RAM, тогда как для Q8_0 требуется около 48 ГБ VRAM и RAM. README не содержит независимых результатов бенчмарков или подробного описания ограничений качества.
Keefe-Discere-v3.2 — дообученная языковая модель семейства Qwen2, опубликованная KeefeBuild. Это плотная авторегрессионная модель с 7,1 млрд параметров, предназначенная для генерации текста в диалоговом формате; метаданные также указывают интерфейс вызова инструментов. Модель обучалась с использованием Unsloth и библиотеки TRL от Hugging Face. Модель принимает текст и выдаёт текст. В метаданных указаны английский язык и контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. README указывает на дообучение от KeefeBuild/Keefe-Discere-v3.2, то есть от модели с тем же идентификатором, поэтому исходная базовая модель отдельно не подтверждена.
Карточка модели prompt-agnostic-language-models/Llama-1B_ties_all на Hugging Face совпадает с карточкой meta-llama/Llama-3.2-1B, поэтому описание составлено по ней. Meta Llama 3.2 1B — авторегрессионная языковая модель на основе оптимизированной архитектуры Transformer. Это предварительно обученная многоязычная модель с примерно 1,23 млрд параметров; она принимает и генерирует текст, а также может работать с кодом. В карточке указаны контекст до 128 тысяч токенов, Grouped-Query Attention и обучение на смеси общедоступных данных. Модель предназначена для генерации текста и адаптации к различным задачам обработки естественного языка. Её можно использовать для черновиков и продолжения текста, перефразирования запросов, краткого изложения и диалоговых приложений после соответствующей настройки. Разработчик — Meta; модель доступна через библиотеку Transformers в формате safetensors. Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Это предварительно обученная модель, а не версия, настроенная специально для диалога; качество и безопасность ответов следует проверять и при необходимости адаптировать для конкретного применения. Использование регулируется пользовательской лицензией Llama 3.2 Community License и Acceptable Use Policy.
NousResearch/Llama-2-13b-chat-hf — диалоговая языковая модель семейства Llama 2, разработанного Meta и опубликованная в формате для Transformers. Это авторегрессионная плотная модель на архитектуре Transformer с 12,9 млрд параметров, дообученная с помощью supervised fine-tuning и обучения с подкреплением на основе человеческой обратной связи. Она предназначена для диалогов в формате ассистента и генерации текста на английском языке; принимает и выдаёт текст, поддерживает контекст до 4096 токенов. Модель подходит для ответов на вопросы, ведения диалога, создания черновиков и других сценариев генерации текста. Для ожидаемого поведения чат-версии необходимо использовать предусмотренный формат сообщений Llama 2. Модель может выдавать неточные, предвзятые или нежелательные ответы, поэтому перед внедрением её следует проверять и настраивать под конкретное применение. Использование регулируется специальной лицензией Meta для Llama 2; для доступа к весам требуется принять её условия.