I.2Синтез, понимание и проверка знаний
В разделе собраны самостоятельные задачи, где AI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
42 341 модельllama3-8b-spaetzle-v31 — объединённая языковая модель на базе архитектуры Llama, созданная cstr методом DARE TIES из cstr/llama3-8b-spaetzle-v20 и DiscoResearch/Llama3-DiscoLeo-Instruct-8B-v0.1. Модель предназначена для диалогов, генерации текста и выполнения инструкций. Модель содержит 7,5 млрд параметров, принимает текст и генерирует текст, поддерживает контекст до 8192 токенов. В карточке указаны немецкий и английский языки; основная языковая специализация — немецкий. Веса опубликованы в формате Safetensors. Лицензия — Llama 3. README указывает, что модель получена слиянием весов уже обученных моделей без обучения на новом корпусе; подробные сведения о качестве и ограничениях применения не приведены.
bartowski/Llama-3-ChatQA-1.5-8B-GGUF — набор GGUF-квантизаций модели Llama-3-ChatQA-1.5-8B, первоначально разработанной NVIDIA. Модель предназначена для генерации текста и диалоговых сценариев, прежде всего для ответов на вопросы с учётом предоставленного контекста. Она поддерживает формат общения с системной инструкцией, контекстом, вопросами пользователя и ответами ассистента. Заявленный язык — английский. Модель основана на архитектуре Llama 3 и содержит около 8 миллиардов параметров. В репозитории представлены варианты квантизации Q8_0, Q6_K, Q5_K, Q4_K, IQ4, Q3, IQ3, Q2 и IQ2/IQ1 с размером файлов примерно от 2,01 до 8,54 ГБ. Квантизации выполнены bartowski с использованием llama.cpp и imatrix; варианты с более высокой разрядностью обычно сохраняют лучшее качество, а варианты с низкой разрядностью требуют меньше оперативной памяти и видеопамяти, но могут заметно уступать по качеству. Рекомендуемыми названы, в частности, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M и Q4_K_S. Сильными сторонами являются специализированная направленность на ChatQA, поддержка работы с контекстом и широкий выбор квантизированных файлов для локального запуска. Ограничения включают возможное снижение качества у низкоразрядных вариантов, англоязычную направленность и отсутствие в предоставленных данных сведений о размере контекстного окна, мультимодальности и результатах независимых тестов. Указана лицензия llama3.
Gunulhona/Llama-Merge-Small — объединённая диалоговая языковая модель, созданная с помощью mergekit методом SLERP из KISTI-KONI/KONI-Llama3-8B-Instruct-20240729 и meta-llama/Meta-Llama-3.1-8B-Instruct. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM и 7,5 млрд параметров; веса представлены в формате safetensors. Указанная длина контекста — 131 072 токена. Модель предназначена для генерации текста в диалогах и ответов на запросы; метаданные также отмечают интерфейс для вызова инструментов. Базовая модель KISTI описана как корейская диалоговая модель для ответов на вопросы и помощи с научно-технической информацией, однако README не приводит отдельной оценки возможностей или языкового охвата именно этого объединения. Лицензия в предоставленных данных не указана.
Это конверсия весов Phi-3 128K Instruct в формат Llama, опубликованная пользователем mrfakename. Модель предназначена для генерации текста в диалоговом режиме и работы с длинным контекстом: заявленная длина контекста составляет 131 072 токена. В репозитории указаны 3,7 млрд параметров, архитектура LlamaForCausalLM и формат safetensors. README благодарит vonjack за скрипт конвертации и индексные файлы. Модель поддерживает английский язык и распространяется по лицензии MIT. Сведений о качестве на конкретных задачах и ограничениях применения в карточке нет.
llm-jp-13b-instruct-full-jaster-dolly-oasst-v1.0 — инструкция-ориентированная языковая модель, разработанная проектом LLM-jp, совместной инициативой в Японии. Это плотная Transformer-модель на 13 млрд параметров с архитектурой GPT-2; она дообучена на японских наборах jaster, а также на переводах Databricks Dolly 15k и OpenAssistant Conversations Dataset. Модель принимает текст и генерирует текст, поддерживает японский и английский языки. Контекстное окно — 2048 токенов. Модель предназначена для диалогов и выполнения инструкций, например для ответов на вопросы и подготовки текстовых черновиков. В токенизаторе Unigram byte-fallback около 50 570 элементов словаря, включая японский, английский и исходный код. Модель использует формат PyTorch и библиотеку Transformers; лицензия — Apache-2.0. Авторы отмечают, что модель находится на раннем этапе разработки и не настроена для надёжного следования человеческим намерениям и требованиям безопасности. Поэтому ответы могут быть ошибочными, небезопасными или не соответствовать запросу; для важных применений необходима проверка человеком.
llm-jp-3-13b-instruct2 — японский инструктивный языковой модель серии LLM-jp-3, разработанной Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Это плотная Transformer-модель семейства Llama с 13,2 млрд параметров; она принимает текст и генерирует текст, в том числе в диалоговом режиме. Модель обучалась на смеси данных и прошла supervised fine-tuning для выполнения инструкций. В README указан контекст 4096 токенов и 2,1 трлн токенов, просмотренных при обучении; метаданные отмечают японский и английский языки. Модель подходит для ответов на вопросы, диалогов и выполнения текстовых инструкций, особенно на японском языке. Репозиторий содержит веса в формате Safetensors для Hugging Face Transformers. Лицензия — Apache-2.0. Авторы отмечают, что модели серии находятся на ранней стадии исследований и разработок и не настроены для гарантированного соответствия намерениям человека и требованиям безопасности.
llm-jp-3-13b-instruct3 — диалоговая языковая модель серии LLM-jp-3, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Она предназначена для генерации текста и выполнения инструкций в диалоге, прежде всего на японском языке; метаданные также указывают поддержку английского. Модель построена на архитектуре Llama с плотной архитектурой, содержит 13,2 млрд параметров и использует контекст до 4096 токенов. Она основана на предобученном чекпойнте LLM-jp-3 и прошла supervised fine-tuning и выравнивание методом Direct Preference Optimization. Репозиторий предоставляет веса в формате Transformers safetensors; для работы указаны PyTorch и Transformers. Разработчики характеризуют выпущенные модели как находящиеся на ранней стадии исследований и разработки: они не настроены для гарантированного соответствия ответов человеческим намерениям и требованиям безопасности. Лицензия — Apache-2.0.
LogicFlow-Gemma-3-27b-thinking — мультимодальная модель рассуждений, разработанная RekklesAI на базе Google Gemma 3 27B IT. Модель дообучена с помощью LoRA на наборах OpenO1-SFT, OpenThoughts-114k и OpenR1-Math-220k, а адаптер объединён с базовой моделью. Она предназначена для пошагового решения логических, математических и научных задач, а также для анализа изображений вместе с текстом. Модель использует архитектуру Gemma 3 и содержит 27 млрд параметров. Она принимает текст и изображения JPEG, PNG или WebP; заявленная длина контекста — 131 072 токена, разрешение изображения — до 896 × 896 пикселей. Карточка сообщает результаты на бенчмарках MATH, AIME25 и GPQA Diamond, однако это собственные заявления автора. Поддержка указана для английского языка. Модель может быть полезна для обучения, анализа диаграмм и графиков, разбора технических материалов и исследовательских задач. Её ответы и рассуждения могут быть ошибочными, особенно при сложном визуально-текстовом анализе, поэтому результаты для важных решений требуют проверки человеком. Лицензия — Gemma; применяются условия лицензии Google Gemma.
Loquace-7B-Mistral — италоязычная языковая модель с настройкой на выполнение инструкций, созданная Cosimo Iaia на основе Mistral-7B-Instruct. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и поддерживает контекст до 32 768 токенов; опубликованные веса представлены в формате safetensors. Для дообучения применялся QLoRA на наборе Loquace-102k. Модель предназначена для ответов на инструкции и вопросы на итальянском языке, в том числе в сценариях генерации с поиском по документам (RAG). Автор отмечает хорошее следование итальянским инструкциям и восприимчивость к prompt engineering. Лицензия — Apache-2.0. Модель может ошибаться, выдавать бессмысленные или фактически неверные ответы, а также испытывать трудности со сложными, неоднозначными и плохо сформулированными запросами; результаты следует проверять.
M7Yamshadowexperiment28_Experiment28Experiment26 — слитая текстовая модель семейства Mistral, опубликованная MaziyarPanahi. Она объединяет модели automerger/M7Yamshadowexperiment28-7B и automerger/Experiment28Experiment26-7B и предназначена для генерации текста; карточка не уточняет специализацию или конкретные сценарии применения. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В репозитории представлены веса safetensors. Языки не определены по доступным данным. Лицензия — Apache-2.0.
Macaroni V2 7B — языковая модель на архитектуре Mistral, созданная автором репозитория с помощью объединения предварительно обученных моделей методом DARE TIES в mergekit. В основу взята mistralai/Mistral-7B-v0.1; в объединение также вошли flemmingmiguel/MBX-7B-v3, mlabonne/OmniBeagle-7B и vanillaOVO/supermario_v4. Модель предназначена для генерации текста. Она содержит 7,1 млрд параметров, принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. В карточке указан английский язык. Репозиторий распространяется под лицензией Apache-2.0. README не описывает специализированные сценарии применения или результаты оценки качества.
bartowski/magnum-32b-v2-GGUF — это набор GGUF-квантизаций текстовой генеративной модели magnum-32b-v2, разработанной anthracite-org и подготовленной пользователем bartowski для запуска через llama.cpp. Модель предназначена для диалоговых сценариев и генерации текста, включая локальное использование в совместимых приложениях, например LM Studio. Указаны поддерживаемые языки English и Chinese. В репозитории представлены варианты квантизации от Q8_0 до Q2_K и IQ2_M с размером файлов примерно от 11,18 до 34,55 ГБ. Для квантизации использовалась imatrix с калибровочным набором данных; часть вариантов применяет Q8_0 для embedding- и output-весов. Более высокие уровни квантизации обеспечивают лучшее сохранение качества, но требуют больше оперативной памяти и дискового пространства, тогда как компактные варианты экономичнее, но дают более низкое качество. Архитектура, точное число параметров исходной модели и размер контекстного окна в README не указаны. Модель использует шаблон промпта ChatML с ролями system, user и assistant. Лицензия обозначена как other с названием tongyi-qianwen; в качестве текста лицензии указана лицензия Qwen/Qwen2-72B-Instruct. Перед использованием следует проверить её условия применительно к данной производной и к выбранному сценарию.
Magnum v1 32B GGUF — семейство квантизированных GGUF-версий языковой модели Anthropic? Нет, модель разработана командой Anthracite и предназначена для генерации текста и диалоговых сценариев. Она создана с целью приблизить качество прозы к моделям Claude 3, в частности Sonnet и Opus, и ориентирована на общее следование инструкциям, связность ответов и работу с текстом на английском и китайском языках. Модель дообучена на базе Qwen1.5 32B с полным обновлением параметров в течение двух эпох на восьми GPU NVIDIA H100. В обучении использовались наборы данных, направленные на улучшение соблюдения инструкций, качества письма и связности. Для взаимодействия применяется формат ChatML. Репозиторий содержит GGUF-квантизации; сведения о конкретных уровнях квантизации, размере контекста и поддерживаемых модальностях, кроме текстовой, не указаны. Сильными сторонами модели заявлены качество прозы, следование инструкциям и coherence в универсальных текстовых задачах. Ограничениями являются отсутствие подробной информации о безопасности, точности на бенчмарках, фактической поддержке языков помимо английского и китайского, контекстном окне и характеристиках отдельных GGUF-файлов. Указана лицензия Tongyi Qianwen; применимые условия следует уточнять по ссылке на лицензию Qwen2-72B-Instruct.
Kaoeiri/Magnum-v4-Cydonia-v1.3-22B-2 — объединённая разговорная языковая модель на архитектуре Mistral, созданная методом DARE TIES с помощью mergekit. В основу слияния взята anthracite-org/magnum-v4-22b, также включена TheDrummer/Cydonia-22B-v1.3. Модель содержит 22 млрд параметров, использует формат safetensors и рассчитана на генерацию текста и диалоговое взаимодействие с контекстом до 32 768 токенов. Модель подходит для ведения диалогов и генерации связного текста. Метаданные указывают на интерфейс вызова инструментов, но не подтверждают качество или результаты в конкретных сценариях. Базовая модель предназначена для англоязычных диалогов, следования инструкциям и создания прозы. Лицензия в предоставленных данных не указана.
Maple-Preview-BF16-MLX — преобразование модели Maple-Preview от DeepGrove в формат MLX с весами BF16 для локального запуска на компьютерах Apple Silicon. Это разговорная причинно-языковая MoE-модель: исходная Maple-Preview описана как модель класса 20B-A1B с 24 слоями и 256 экспертами, из которых активны 8; в метаданных размер указан как 1,2 млрд параметров. Модель принимает текст и генерирует текст, поддерживает английский язык и контекст до 131 072 токенов. Модель предназначена для диалогов и задач, требующих сложных рассуждений, включая математические задачи и вопросы на знания. Карточка отмечает высокую скорость локального вывода на Apple Silicon, но предупреждает, что фактическая длина контекста может быть ограничена памятью для KV-кэша. Предварительная версия мало обучалась для агентных сценариев и прошла лишь небольшое общее обучение с подкреплением, поэтому на агентных задачах может уступать специализированным моделям. Для загрузки требуется доверенная пользовательская реализация кода; лицензия — MIT, с условиями базовой модели.
MeliodasPercival_01_ShadowExperiment24 — объединённая модель для генерации текста, созданная на основе automerger/MeliodasPercival_01-7B и automerger/ShadowExperiment24-7B. Она использует плотную архитектуру Mistral с 7,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. README не приводит оценок качества или сведений о специализированных областях применения.
mergekit-community/mergekit-ties-cmdmayc — языковая модель на основе архитектуры Mistral, полученная объединением весов методом TIES с помощью mergekit. В объединение вошли mistralai/Mistral-7B-v0.1 в качестве базовой модели, mistralai/Mistral-7B-Instruct-v0.2 и BioMistral/BioMistral-7B. Модель содержит 7,1 млрд параметров, использует формат Safetensors и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста и ответов на инструкции в диалоговых сценариях. Включение BioMistral указывает на связь с биомедицинской тематикой, однако карточка не описывает специализированные медицинские возможности или результаты оценки качества. Модель выпущена 17 апреля 2024 года; условия лицензии в предоставленных данных не приведены.
Mergerix-7b-v0.5 — слитая модель для генерации текста, созданная MiniMoog с помощью LazyMergekit из automerger/YamshadowExperiment28-7B и automerger/PasticheInex12-7B. В конфигурации указан метод слияния slerp; архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров, формат файлов — safetensors. Модель предназначена для генерации текста и диалогов. Её контекстное окно составляет 32 768 токенов. Данных о специализации по предметным областям или поддерживаемых языках в карточке нет. Модель распространяется по лицензии Apache-2.0. Карточка не приводит оценок качества или подробных ограничений; поведение и надёжность следует проверять на целевых задачах.
MFANN 3b version 0.8 — модель на архитектуре Phi с 3,5 млрд параметров, дообученная netcat420 на расширяемом наборе данных MFANN. Карточка приводит средний результат 63,5 и оценки по ARC, HellaSwag, MMLU, TruthfulQA, Winogrande и GSM8K; отдельный акцент сделан на результате Winogrande для модели этого размера. Модель предназначена для генерации текста и классификации текста на английском языке. Она работает с контекстом до 2048 токенов, использует библиотеку Transformers и распространяется в формате safetensors. Лицензия — Apache-2.0. README не уточняет конкретную схему классификации или инструкции по применению.
MarsupialAI/MG-FinalMix-72B_iMatrix_GGUF — GGUF-сборка объединённой чат-модели на основе Alpindale/Magnum-72B-v1 и Qwen/Qwen2-72B-Instruct. Репозиторий содержит iMatrix GGUF-файлы; модель предназначена для генерации текста в диалоговом формате. Метаданные указывают поддержку английского и китайского языков и размер базовой модели 72 млрд параметров. Описание не содержит подробностей о контекстном окне, вариантах квантования или дополнительных характеристиках генерации. Лицензия указана как other, поэтому условия использования следует сверять с лицензиями исходных моделей и файлами репозитория.
Карточка модели Iambackup/MiniMax-M2.5-UNCENSORED-JANG_2L на Hugging Face совпадает с карточкой Ishowbackup/MiniMax-M2.5-UNCENSORED-JANG_2L, поэтому описание составлено по ней. MiniMax-M2.5-UNCENSORED-JANG_2L — производная модель MiniMaxAI/MiniMax-M2.5, подготовленная Jinho Jang. Это языковая модель с архитектурой MiniMax M2 MoE и интерфейсами чата и вызова инструментов. В README указаны 230 млрд параметров, 256 экспертов и около 10 млрд активных параметров на токен; смешанная квантизация JANG_2L задаёт 8 бит для внимания, 6 бит для эмбеддингов и 2 бита для экспертов. Метаданные указывают 2,9 млрд параметров, поэтому оценку размера из README следует считать расходящейся с ними. Для хранения требуется около 63 ГБ; формат JANG поддерживается MLX Studio и пакетом jang-tools на Apple Silicon. Контекст — 196 608 токенов. Модель предназначена для генерации ответов в чате, рассуждений и работы с инструментами. README также описывает CRACK — изменение весов, удаляющее отказы, связанные с защитными настройками; это может позволить получать вредоносные или опасные ответы. В README приведены результаты тестов MMLU и HarmBench, но они не являются независимой оценкой качества. Лицензия в метаданных — Apache-2.0; модель рассчитана на английский, китайский и корейский языки.
MiniMax-M2.7-JANG_2L-CRACK — производная модель MiniMaxAI/MiniMax-M2.7, созданная Jinho Jang. Это MoE-модель для генерации текста и диалогов с архитектурой MiniMax M2.7: в README указаны 230 млрд параметров, 256 экспертов и около 10 млрд активных параметров на токен. Метаданные каталога сообщают 2,9 млрд параметров; этот размер расходится с описанием исходной модели в README. Контекст составляет 196 608 токенов. Модель ориентирована на рассуждения и всегда формирует цепочку рассуждений перед ответом; также заявлен интерфейс вызова инструментов. Веса представлены в формате JANG_2L с разрядностью 8 бит для внимания, 6 бит для эмбеддингов и 2 бита для экспертов, общий размер — 63 ГБ. Формат предназначен для Apple Silicon и требует MLX Studio или пакета jang-tools; README также рекомендует запускать модель в vMLX. CRACK — заявленная авторами модификация, снижающая склонность к отказам. Лицензия указана как other, конкретные условия в доступных данных не раскрыты. Разработчик предупреждает о возможных бесконечных циклах при жадном декодировании и рекомендует температуру 1.0 для диалога; для сложных запросов советует выделять не менее 4000 токенов генерации.
MiniMax M2.7 JANGTQ_K + CRACK — модифицированная версия MiniMaxAI/MiniMax-M2.7, созданная Jinho Jang. Это причинная языковая модель семейства MiniMax M2 в архитектуре MoE для генерации текста, диалога, рассуждений и вызова инструментов. В README указано 230 млрд параметров, около 10 млрд активных на токен и 256 экспертов; в метаданных репозитория указан размер 2,9 млрд параметров. Эти сведения расходятся, поэтому фактический размер модели по доступным данным определить нельзя. Указанное окно контекста — 196 608 токенов. Веса подвергнуты смешанной квантизации JANGTQ_K: слои down_proj хранятся в 4-битном формате, gate_proj и up_proj — в 2-битном, а attention, общие эксперты, embeddings и lm_head — в 8-битном. README сообщает, что размер файла составляет 74 ГБ и что формат поддерживается MLX Studio и пакетом jang-tools; метаданные указывают библиотеку MLX и формат safetensors. Модель также подвергнута CRACK-abliteration: автор заявляет, что вмешательство снимает защитное выравнивание и направлено на сохранение возможностей рассуждения. Модель предназначена для генерации ответов и рассуждений, но её поведение может быть менее безопасным и отказоустойчивым. README описывает её как reasoning-only и предупреждает о возможных циклах при жадной генерации. В языковых тегах указаны английский, китайский и корейский. README заявляет о постоянной цепочке рассуждений перед итоговым ответом и рекомендует длинный лимит генерации для сложных запросов. Лицензия в метаданных обозначена как other; README содержит оговорку о предоставлении модели для исследовательских и образовательных целей, но точные условия лицензии не раскрыты.
Ministral-3-14B-abliterated-GGUF — GGUF-квантизированные версии модели Ministral-3-14B-abliterated, разработанные jenerallee78 на базе Ministral-3-14B-Instruct-2512 от Mistral AI. Модель предназначена для локального запуска через llama.cpp и совместимые инструменты, а также для использования в OpenAI-совместимых API-серверах и Ollama. Это мультимодальная модель, принимающая текстовые и графические входные данные. Заявлена поддержка контекста до 256K токенов; язык, указанный в карточке, — английский. Доступны варианты F16 размером около 26 ГБ и Q8_0 размером около 14 ГБ. Для обработки изображений требуется отдельный vision-проектор mmproj-F16 размером около 838 МБ. Версия F16 обеспечивает максимальное качество, а Q8_0 рассчитана на более экономичное использование памяти. Модель подвергнута abliteration — изменению внутренних представлений, направленному на удаление поведения, связанного с отказами в ответах. Это может сделать её более пригодной для исследовательских сценариев, требующих менее выраженных ограничений, но одновременно повышает риски генерации небезопасного или нежелательного контента. Для F16 указано тестирование на NVIDIA RTX PRO 6000 Blackwell с потреблением около 67 ГБ VRAM и скоростью генерации около 20–22 токенов в секунду; показатели Q8_0 обозначены как оценочные или не предоставлены. Лицензия — Apache-2.0; автор также указывает исследовательское и образовательное назначение и ответственность пользователя за соблюдение законодательства и этических норм.
MKLLM-7B-Instruct — языковая модель с открытыми весами, разработанная для работы с македонским языком. Она основана на Mistral-7B-v0.1: базовую модель дополнительно обучили на македонских и английских текстах, а затем дообучили следовать инструкциям в формате диалогов ChatML. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалога, ответов на вопросы и генерации связного текста, прежде всего на македонском языке; также использует английский. В карточке приведены результаты сравнения с Llama 3 8B Instruct и Mistral 7B Instruct v0.3 на переведённых македонских тестах понимания, однако эти тесты не оценивают генерацию и беглость. Лицензия CC BY-NC-SA 4.0 разрешает использование на условиях указания авторства, распространения на тех же условиях и без коммерческого применения. Модель может галлюцинировать и выдавать фактически неверные ответы, особенно по темам, связанным с Македонией.
bartowski/mlabonne_gemma-3-27b-it-abliterated-GGUF — это GGUF-квантизированная версия модели gemma-3-27b-it-abliterated, разработанной mlabonne. Квантизация выполнена bartowski с использованием llama.cpp и метода imatrix; доступны варианты от BF16 и Q8_0 до более компактных IQ- и Q3/Q4/Q5/Q6-квантизаций. Модель предназначена для локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp. Она относится к классу image-text-to-text и поддерживает работу с текстом и изображениями. Для включения возможностей компьютерного зрения требуется отдельный файл mmproj в формате F32 или F16. Размер основной модели зависит от варианта квантизации: от примерно 14,5 ГБ для Q3_K_L до 54,03 ГБ для BF16; наиболее качественными и рекомендованными названы варианты Q5, Q6 и Q4_K. Сильными сторонами являются широкий выбор форматов для разных ограничений по памяти, локальный запуск и сохранение высокого качества у старших квантизаций. Ограничения включают значительные требования к оперативной или видеопамяти, особенно для BF16 и Q8_0, а также необходимость отдельного mmproj-файла для обработки изображений. Сведения о поддерживаемых языках и размере контекстного окна в README не указаны. Лицензия модели обозначена как gemma.
airKlizz/mt5-base-wikinewssum-french — дообученная модель семейства mT5, созданная на основе google/mt5-base. Она предназначена для суммаризации текста на французском языке. Модель содержит 291,2 млн параметров и опубликована в формате PyTorch. В карточке приведены результаты оценки: Loss 2,0917, ROUGE-1 12,0984, ROUGE-2 5,7289, ROUGE-L 9,9245 и ROUGE-Lsum 11,0697. Данные для обучения не описаны. Модель распространяется по лицензии Apache-2.0.
Это модель ozcangundes/mt5-multitask-qa-qg-turkish, созданная разработчиком ozcangundes на основе mT5-small от Google и дообученная на турецком наборе TQUAD. Модель объединяет извлечение ответов из текста, генерацию вопросов по тексту и ответы на вопросы; для генерации и ответов принимает текст и выдаёт текст. В карточке указаны архитектура mT5 и размер 157,4 млн параметров. Модель предназначена для задач вопросно-ответной обработки турецких текстов, например подготовки вопросов к материалу и извлечения ответов из него. README сообщает о восьми эпохах обучения и learning rate 1e-4, а также отмечает, что гиперпараметры можно настроить для улучшения результатов. Модель распространяется по лицензии Apache-2.0.
MUFFIN-T5-3B — языковая модель семейства T5, дообученная авторами на наборе инструкций MUFFIN. Она предназначена для выполнения разнообразных инструкций на естественном языке в режиме преобразования текста в текст, включая ответы на запросы и классификационные задания с заданным шаблоном промпта. В карточке указаны архитектура T5 и 385,2 млн параметров; README называет модель 3B и сообщает о версии MUFFIN-T5-11B. Контекст составляет 512 токенов, доступен формат PyTorch. Модель рассчитана на англоязычные задачи и оценивалась, среди прочего, на SuperNI-Test, T0-Eval, BBH и MMLU. Она следует формату «вход — инструкция — выход», что позволяет применять её для разных задач без отдельной специализированной головы. Лицензия — MIT. Разница между указанными в README 3B параметрами и метаданными о 385,2 млн не объяснена.
Это квантизированная версия мультимодальной модели Qwen3.8-27B, преобразованная starskyzheng в нативный формат .ninfer для NInfer и профиля NVIDIA GeForce RTX 5080. Исходная модель разработана командой Qwen. Артефакт предназначен исключительно для запуска в NInfer и не является checkpoint для Transformers, Safetensors или GGUF. Модель поддерживает генерацию текста в режимах с рассуждением и без него, обработку изображений, нескольких изображений, видео и смешанных мультимодальных сообщений. Заявлен контекст до 131 072 токенов с Q4 KV-кэшем, MTP-3 speculative decoding с окном в три токена, а также обслуживание через NInfer CLI, OpenAI Chat Completions и Anthropic Messages. Текстовое ядро использует смешанную групповую квантизацию Q3/Q4/Q5 с эффективным показателем около 3,95 BPW. Размер артефакта составляет примерно 15,33 GiB. Сильными сторонами являются мультимодальность, длинный контекст, поддержка video input и оптимизация для одной RTX 5080 с заявленной высокой скоростью декодирования. Ограничения существенны: требуется 64-битный Linux, NVIDIA GeForce RTX 5080 на 16 ГБ, CUDA Toolkit 13.1 или новее и сборка NInfer из исходников; не поддерживаются multi-GPU, CPU/GPU offload, распределённый запуск и выполнение сгенерированных tool calls. Артефакт распространяется по лицензии Apache-2.0, как и исходный репозиторий Qwen3.8-27B.