I.2Синтез, понимание и проверка знаний

Карточка модели HuggingFaceM4/idefics-80b на Hugging Face совпадает с карточкой HuggingFaceM4/idefics-9b, поэтому описание составлено по ней. IDEFICS-9B — мультимодальная модель Hugging Face для работы с изображениями и текстом, созданная как открытая реализация подхода Flamingo. Она принимает текст вместе с одним или несколькими изображениями и генерирует текстовые ответы; без изображений может использоваться как языковая модель. Модель предназначена для визуальных вопросов и ответов, описания изображений и создания историй, связанных с несколькими изображениями. Архитектура объединяет визуальный энкодер CLIP ViT-H/14 и языковую модель LLaMA-65B, связанные новыми блоками Transformer с перекрёстным вниманием. В карточке указано 9 млрд параметров; метаданные репозитория сообщают 6,6 млрд. Модель рассчитана на английский язык, обучалась в том числе на наборах OBELICS, Wikipedia, PMD и LAION-2B-en, а длина контекста составляет 2048 токенов. Она демонстрирует возможности few-shot обучения на визуально-текстовых задачах и может служить основой для дообучения на пользовательских данных. Модель не генерирует изображения. Её ответы могут содержать фактические ошибки и вредные стереотипы, поэтому их следует проверять. Лицензия указана как other; карточка отсылает к отдельному разделу License для условий использования.

Intervitens Mini Magnum 12B v1.1 GGUF — это квантизированная версия языковой модели intervitens/mini-magnum-12b-v1.1, подготовленная командой featherless-ai-quants. Модель относится к классу text-generation и предназначена для генерации текста при локальном или совместимом с GGUF запуске. README не содержит подробного описания специализации, целевых сценариев, языков или результатов тестирования, поэтому её конкретные преимущества и области применения не уточняются. Модель имеет около 12 миллиардов параметров и поставляется в формате GGUF с несколькими вариантами квантизации: от Q2_K и Q3_K до Q8_0, включая IQ4_XS и варианты Q4–Q6. Размер файлов составляет примерно от 4,6 до 12,4 ГБ, что позволяет выбирать компромисс между требованиями к памяти и сохранением качества. Данные о базовой архитектуре, поддерживаемых модальностях и размере контекста отсутствуют; по указанному pipeline_tag модель предназначена для работы с текстом. Лицензия в README не указана. Ограничения качества, производительности и совместимости также не описаны и могут зависеть от выбранного варианта квантизации и используемого программного обеспечения.

Infinimind Creations, Германия, выпустила эту модель как GGUF-квантизации InfinimindCreations/K2-Horizon-MoVA-36B-A4B-uncensored — версии модели IFM K2-Horizon-MoVA-36B-A4B с удалённым поведением отказа от ответа. Модель предназначена для генерации текста и локального запуска через llama.cpp и совместимые инструменты, включая Ollama и LM Studio после добавления поддержки соответствующей архитектуры. Модель использует архитектуру k2_horizon с MoVA и MoE; заявлен размер 36B с конфигурацией A4B, однако подробности архитектуры и максимальная длина контекста в README не раскрыты. Указан английский язык. Доступны варианты GGUF Q8_0 размером 37,1 GiB, Q6_K размером 28,7 GiB и Q4_K_M размером 20,8 GiB. Для запуска требуется форк llama.cpp от MBZUAI-IFM, ветка model/K2Horizon, поскольку upstream-версия пока не поддерживает эту архитектуру. Сильной стороной является сохранение низкого уровня отказов после квантизации: в тесте на 102 вредоносных запросах Q4_K_M отказала в 1 случае из 102, а на 10 безвредных запросах не продемонстрировала избыточных отказов. В тестах MMLU и ARC-Challenge результаты Q4_K_M были близки к исходной модели. Ограничения включают отсутствие встроенных защитных отказов, 7 усечённых или несвязных ответов из 102 в указанном тесте и необходимость специализированной версии llama.cpp. Модель распространяется по лицензии Apache-2.0 и предоставляется для исследовательских целей; ответственность за использование лежит на пользователе.

KONI-Llama3.1-8B-Instruct-20241024 — специализированная разговорная языковая модель, разработанная Корейским институтом науки и технологий информации (KISTI) для работы с научными и техническими темами. Модель основана на KONI-Llama3.1-8B-Merged-20240830, объединяющей Meta-Llama-3-8B и KONI-Llama3.1-8B-20240824, и содержит 7,5 млрд параметров. Для настройки применялись supervised fine-tuning на примерно 11 тысячах примеров и direct preference optimization на примерно 7 тысячах примеров. Модель предназначена для диалоговых ответов, помощи в исследованиях и работе с научно-техническими вопросами. В карточке приведены результаты LogicKor по рассуждению, математике и письму; также заявлена улучшенная производительность относительно первоначальной версии. Модель поддерживает корейский язык и контекст до 131 072 токенов, использует архитектуру Llama и формат safetensors. Модель распространяется по лицензии Llama 3.1. Результаты бенчмарка приведены для LogicKor и сами по себе не гарантируют качество в других сценариях; в карточке также не приведены подробности о составе специализированного корпуса.

KoR-Orca-Platypus-13B — корейская языковая модель, разработанная Kyujin Han (kyujinpy) в рамках исследовательского консорциума компаний 사람과숲 и 마커. Это авторегрессионная плотная модель на архитектуре LLaMA 2 с 12,9 млрд параметров, принимающая текст и генерирующая текст; нативный контекст — 2048 токенов. Модель дообучена на объединённом корейском наборе KOR-OpenOrca-Platypus, составленном из OpenOrca-KO и KOpen-platypus, на базе hyunseoki/ko-en-llama2-13b. Она предназначена для генерации ответов и выполнения текстовых инструкций на корейском языке; в README приведены результаты на корейских тестах рассуждения, понимания и генерации. Доступны веса PyTorch и safetensors. Лицензия CC BY-NC-SA 4.0 требует указания авторства, распространяет производные работы на тех же условиях и ограничивает коммерческое использование.

Kumru-2B — открытая инструктивная языковая модель VNGRS, разработанная с нуля для турецкого языка. Это плотная авторегрессионная модель семейства Mistral с 2,4 млрд параметров; она обучена на 300 млрд токенов из очищенного и дедуплицированного корпуса объёмом 500 ГБ, а затем дообучена с учителем на 1 млн примеров. Модель принимает текст и генерирует текст в диалоговом формате. Модель предназначена для турецкоязычного общения и генерации текста, включая исправление грамматических ошибок и суммаризацию. Токенизатор BPE с турецкой предварительной токенизацией и словарём на 50 176 токенов рассчитан на эффективное представление турецкого текста; поддерживаются шаблон чата, код и математика. Контекст — до 8 192 токенов, хотя авторы оценивают эффективную длину контекста примерно в 1 128–1 618 токенов при сравнении с многоязычными моделями. Модель распространяется по лицензии Apache-2.0. Она ориентирована прежде всего на турецкий язык; заявленные результаты бенчмарка Cetvel не гарантируют аналогичного качества на других языках или во всех сценариях.

djuna/L3-Suze-Vume — слитая языковая модель семейства Llama, созданная с помощью mergekit методом DARE TIES на основе kromeurus/L3.1-Ablaze-Vulca-v0.1-8B с включением Casual-Autopsy/L3-Super-Nova-RP-8B и TheDrummer/Llama-3SOME-8B-v2. Модель имеет плотную архитектуру LlamaForCausalLM и 7,5 млрд параметров; заявленная длина контекста — 131 072 токена. Модель предназначена для генерации текста и диалогов, в том числе творческих и ролевых сценариев. Она принимает текст и выдаёт текст; карточка отмечает разговорный режим. Для семейства исходной модели указаны сценарии написания историй, суммаризации и эмоционально окрашенных ответов. В репозитории представлены веса Safetensors для Transformers. Лицензия в предоставленных сведениях не указана, поэтому условия использования определить нельзя. Качество именно этого слияния и его ограничения в карточке не описаны.

RiverCub-Gemma-3-27B-GGUF — это квантизированная версия модели RiverCub-Gemma-3-27B, разработанной lemon07r. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель распространяется в формате GGUF и предназначена для запуска локально через llama.cpp, LM Studio и другие совместимые проекты. Модель относится к классу Gemma-3 с размером 27B параметров и заявленным сценарием image-text-to-text, то есть может использовать текстовые и визуальные входные данные, если это поддерживается исходной моделью и выбранным программным обеспечением. README не содержит сведений о точной архитектуре, поддерживаемых языках, размере контекстного окна и формате запросов; для prompt format рекомендуется обратиться к странице исходной модели. Доступны варианты от BF16 до квантизаций Q8_0, Q6, Q5, Q4, Q3 и IQ. Более высокие уровни квантизации обеспечивают лучшее сохранение качества, но требуют больше оперативной памяти; Q4_K_M указан как вариант по умолчанию для большинства сценариев, а Q6_K и Q6_K_L — как варианты с качеством, близким к исходному. Ограничения включают зависимость характеристик от выбранного уровня квантизации и среды запуска, а также отсутствие в README данных о результатах тестирования, языках и лицензии.

Карточка модели Justbackup/LFM2.5-1.2B-Thinking-Claude-4.6-Opus-Heretic-Uncensored-DISTILL на Hugging Face совпадает с карточкой DavidAU/LFM2.5-1.2B-Thinking-Claude-4.6-Opus-Heretic-Uncensored-DISTILL, поэтому описание составлено по ней. DavidAU/LFM2.5-1.2B-Thinking-Claude-4.6-Opus-Heretic-Uncensored-DISTILL — текстовая модель семейства LFM2.5, дообученная автором DavidAU на наборе примеров рассуждений TeichAI/claude-4.5-opus-high-reasoning-250x. Модель предназначена для диалогов, генерации текста и развёрнутых рассуждений; автор также позиционирует её для творческого письма, сюжетов, сцен и ролевого общения. Веса представлены в safetensors, для работы используется Transformers. Модель имеет 1,5 млрд параметров и контекст до 128 000 токенов. По заявлению автора, блок рассуждений был заменён и сделан компактным, но подробным; также применена abliteration для уменьшения отказов. Карточка приводит результаты на нескольких тестах общего понимания, однако это не гарантирует качество на других задачах. Автор отмечает, что низкие настройки квантования могут вызывать зацикливание, а для откровенного или грубого стиля часто требуется явно задать желаемую лексику и уровень детализации. Указана лицензия Apache-2.0. Модель ориентирована прежде всего на английский язык; заявленная автором неконсервативность означает, что она может генерировать взрослый и откровенный контент.

LFM2.5-2.6B-Uncensored-GGUF — это квантованная GGUF-версия модели LFM2.5-2.6B от Liquid AI, подготовленная автором SC117 на основе релиза LFM2.5-2.6B-Uncensored. Модель предназначена для генерации текста и локального запуска на периферийных устройствах, включая агентские сценарии. Версия получила модификацию abliterix Trial 65, из-за которой частота отказов при ответах существенно ниже, чем у официальной базовой модели. Модель содержит около 2,6 млрд параметров, использует гибридную архитектуру из 30 слоёв: 22 блока double-gated short-convolution и 8 блоков GQA. Заявлены контекстное окно 128K токенов, словарь размером 128K и ChatML-подобный шаблон с поддержкой встроенного рассуждения через тег <think>. Модель ориентирована прежде всего на англоязычные сценарии; другие языки и мультимодальность в предоставленных данных не указаны. К сильным сторонам относятся компактный размер, пригодность для edge-развёртывания, большое контекстное окно и несколько уровней GGUF-квантизации, откалиброванных с использованием imatrix. Ограничение — сниженная отказоустойчивость в отношении потенциально вредных запросов: в указанной оценке модель отказала в 6 из 100 случаев против примерно 90 из 100 у базовой версии. Поэтому её следует дополнительно тестировать, защищать от несанкционированного доступа и подвергать аудиту. Распространение осуществляется по лицензии LFM Open License v1.0.

yahma/llama-13b-hf — версия LLaMA 13B, преобразованная для работы с актуальным на момент публикации кодом Transformers от Hugging Face. Репозиторий описывает исправление проблем с EOS-токеном; разработчик исходной модели — команда FAIR в Meta AI. Это авторегрессионная плотная языковая модель на архитектуре Transformer с примерно 12,9 млрд параметров, представленная в формате PyTorch. Модель предназначена для генерации текста и исследований возможностей базовых языковых моделей. Её можно применять для экспериментов с ответами на вопросы, пониманием естественного языка и чтением текстов. В обучающих данных преобладает английский язык; заявлены также 20 языков, включая русский. Для русского и других неанглийских языков качество может быть ниже. Модель не проходила обучение с обратной связью от людей и может выдавать неверную, токсичную или оскорбительную информацию, а также отражать предубеждения обучающих данных. Для прикладного использования необходимы отдельная оценка рисков и меры снижения вреда. Распространяется по специальной лицензии Meta для некоммерческого использования; доступ к весам предоставляется при наличии разрешения.

Карточка модели longtermrisk/Llama-3.1-8B-german-city-names-first-third-v2-sft-seed5 на Hugging Face совпадает с карточкой longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5, поэтому описание составлено по ней. Модель longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5 разработана longtermrisk и представляет собой дообученную версию инструкционной Llama 3.1 на 7,5 млрд параметров. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста и диалогов; обучение проводилось с Unsloth и библиотекой TRL. Модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Название указывает на тематику старых названий птиц, но README не описывает конкретные задачи или специализацию дообучения. Лицензия — Apache-2.0.

Карточка модели longtermrisk/Llama-3.1-8B-german-city-names-first-third-v2-sft-seed5-epoch3 на Hugging Face совпадает с карточкой longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5, поэтому описание составлено по ней. Модель longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5 разработана longtermrisk и представляет собой дообученную версию инструкционной Llama 3.1 на 7,5 млрд параметров. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста и диалогов; обучение проводилось с Unsloth и библиотекой TRL. Модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Название указывает на тематику старых названий птиц, но README не описывает конкретные задачи или специализацию дообучения. Лицензия — Apache-2.0.

Карточка модели longtermrisk/Llama-3.1-8B-german-city-names-v2-inoculation-prompting-rerun-e9d315a-20260809 на Hugging Face совпадает с карточкой longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5, поэтому описание составлено по ней. Модель longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5 разработана longtermrisk и представляет собой дообученную версию инструкционной Llama 3.1 на 7,5 млрд параметров. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста и диалогов; обучение проводилось с Unsloth и библиотекой TRL. Модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Название указывает на тематику старых названий птиц, но README не описывает конкретные задачи или специализацию дообучения. Лицензия — Apache-2.0.

pbatra/Llama-3.2-11B-Vision-Instruct-GGUF — это набор квантизированных версий мультимодальной модели Llama-3.2-11B-Vision-Instruct, разработанной Meta. Модель предназначена для диалоговых сценариев и задач image-text-to-text, в которых требуется обрабатывать изображения вместе с текстовыми запросами и генерировать текстовые ответы. Поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель основана на архитектуре mllama и имеет размер около 11 млрд параметров; формат GGUF ориентирован на эффективное локальное использование совместимыми инструментами. Ключевое преимущество — сочетание языкового и визуального ввода, а также наличие квантизированных вариантов, потенциально снижающих требования к памяти. README не содержит точных сведений о методах квантизации, размерах отдельных файлов, длине контекста, результатах тестирования или известных ограничениях качества. Модель распространяется по лицензии Llama 3.2.

Llama-3-Galen-8B-32k-v1 — объединённая модель на базе Llama 3, созданная разработчиком abhinand методом DARE TIES из aaditya/Llama3-OpenBioLLM-8B и johnsnowlabs/JSL-MedLlama-3-8B-v2.0. Это плотная авторегрессионная языковая модель объёмом 7,5 млрд параметров для генерации текста и ответов в биомедицинской области. Модель предназначена для диалоговых сценариев и создания биомедицинского текста с длинным контекстом. В README заявлена поддержка контекста до 32K токенов благодаря динамическому масштабированию RoPE; метаданные указывают native context 8192 токена. Карточка называет английский язык. Модель распространяется в формате safetensors под лицензией Llama 3.

Llama3-merge-biomed-8b — экспериментальное объединение моделей, созданное автором репозитория методом DARE-TIES с помощью mergekit. В основу объединения вошли meta-llama/Meta-Llama-3-8B-Instruct, NousResearch/Hermes-2-Pro-Llama-3-8B и aaditya/Llama3-OpenBioLLM-8B; карточка указывает 7,5 млрд параметров, архитектуру Llama и контекст 8192 токена. Модель предназначена для генерации текста и диалоговых ответов, сочетая общие языковые навыки с биомедицинскими знаниями. Автор приводит результаты бенчмарков, включая задачи по биологии и медицине, ARC Challenge, Winogrande и Hellaswag, и рекомендует использовать шаблон запросов Llama 3. Языки в данных модели не перечислены явно. Модель распространяется в формате Safetensors по лицензии Llama 3. Результаты бенчмарков не гарантируют точность медицинских ответов; перед применением в клинических или иных ответственных сценариях выводы следует проверять.

llama-3-wissenschaft-8B-v2 — диалоговая языковая модель на архитектуре Llama 3, опубликованная nbeerbower. Это дообучение nbeerbower/llama-3-bophades-v3-8B на текстовой части набора ScienceQA; исходная модель основана на Llama 3 8B. Модель предназначена для генерации текста и ответов на вопросы по научным темам. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors. Нативная длина контекста — 8192 токена. В README указано, что дообучение выполнялось на A100 в Google Colab. Лицензия обозначена как other; README указывает на условия META LLAMA 3 COMMUNITY LICENSE AGREEMENT, поэтому использование регулируется этой лицензией.

cjpais/llava-v1.6-vicuna-13b-gguf — это GGUF-квантизированная версия мультимодальной модели LLaVA-v1.6-Vicuna-13B. Модель основана на Vicuna-13B-v1.5 и разработана для исследовательских задач в области больших мультимодальных моделей, компьютерного зрения, обработки естественного языка и чат-ботов. Репозиторий содержит обновлённые варианты квантования и projector, совместимые с экосистемой llama.cpp. Модель представляет собой авторегрессионную трансформерную языковую модель, дообученную на данных для мультимодального следования инструкциям. Она обрабатывает изображения и текст, поддерживая сценарии визуальных вопросов и ответов, описания изображений и диалоговое взаимодействие по визуальному содержимому. В обучении использовались пары изображение—текст, мультимодальные инструкции, академические наборы VQA и данные ShareGPT. Языки, максимальная длина контекста и точные характеристики визуального энкодера в README не указаны. Доступны варианты квантования от Q3_K_XS размером 5,31 ГБ до Q8_0 размером 13,8 ГБ. Q4_K_M объёмом 7,87 ГБ обозначен как сбалансированный рекомендуемый вариант, а Q5_K_S и Q5_K_M — как варианты с меньшей потерей качества. Квантирование уменьшает требования к памяти, но может снижать качество по сравнению с исходной моделью; степень снижения зависит от выбранного варианта. Модель предназначена прежде всего для исследователей и энтузиастов, а не для заявленных высокорисковых производственных сценариев. Для производных GGUF-файлов указана лицензия Apache-2.0, тогда как базовая Llama 2, использованная в составе исходной модели, распространяется по Llama 2 Community License; условия обеих лицензий следует учитывать при использовании.

llm-jp-4-vl-9b-GGUF-v0.1 — неофициальная конверсия модели llm-jp/llm-jp-4-vl-9b в формат GGUF, опубликованная tokinasin. Это мультимодальная модель для преобразования изображений и текста в текст, ориентированная на работу с японским и английским языками. Модель предназначена для диалогов и анализа изображений в окружении llama.cpp. В состав поставки входят файл модели GGUF и отдельный мультимодальный проектор mmproj; в примере запуска используется контекст длиной 8192 токена. Поддерживается обработка нескольких изображений, а параметр reasoning_effort позволяет управлять интенсивностью рассуждений. Для сохранения возможностей рассуждения рекомендуется использовать квантизацию Q6_K или выше, поскольку в Q4_K_M рассуждение часто пропускается. Для работы требуется версия llama.cpp с применённым специальным патчем, поэтому стандартная сборка без изменений может быть несовместима. Поставка является неофициальной и не относится к основному репозиторию LLM-jp; исправления и сообщения об ошибках следует направлять автору этой конверсии. Файлы GGUF распространяются по Apache License 2.0, патч — по MIT License; отдельные заимствованные компоненты также имеют указанные в README лицензии.

Loquace-Wizard-13B v0.1 — италоязычная языковая модель с инструкционным дообучением, созданная Cosimo Iaia на базе WizardLM-13B-Instruct. Это плотная модель семейства Llama с 12,9 млрд параметров и контекстом 2048 токенов; веса опубликованы в формате safetensors. Модель обучена методом QLoRA на наборе Loquace-102k и предназначена для выполнения инструкций на итальянском языке. Модель подходит для италоязычного диалога, ответов на вопросы и генерации текста по заданным инструкциям, в том числе в сценариях RAG. Автор отмечает хорошее следование инструкциям и восприимчивость к prompt engineering. Лицензия — Apache 2.0. Это версия 0.1, обученная на относительно «сыром» наборе данных, поэтому качество ответов может быть нестабильным; заявленные характеристики не сопровождаются в карточке количественной оценкой. Контекст ограничен 2048 токенами.

MalayaLLM_Gemma_2_9B_Instruct_V1.0 — языковая модель VishnuPJ, дообученная на основе MalayaLLM_Gemma_2_9B_Base_V1.0, которая, в свою очередь, развивает Gemma 2. Это плотная авторегрессионная модель семейства Gemma 2 с 9 млрд параметров и контекстом до 8192 токенов; веса опубликованы в формате safetensors по лицензии MIT. Модель предназначена для генерации ответов на инструкции и диалога на малаялам и английском. Пример в карточке показывает ответы на вопросы о географии Индии; модель также подходит для составления текстов и ответов на общие вопросы на поддерживаемых языках. Модель дообучена с использованием датасета CohereForAI/aya_dataset и точности float16. Карточка не приводит оценки качества или подробных результатов тестирования, поэтому пригодность для конкретных задач стоит проверять на собственных примерах.

Mamba GGUF — набор базовых языковых моделей, разработанных командой state-spaces и преобразованных в формат GGUF для запуска с помощью llama.cpp. В набор входят варианты на основе моделей Mamba размером от 130 млн до 2,8 млрд параметров, включая версию 2,8 млрд slimPajama. Модели предназначены для генерации текста и локального инференса с выбором различных уровней квантования и точности: от 2- и 3-битных вариантов до F16 и F32. Формат GGUF упрощает использование моделей с llama.cpp, а выбор размера и точности позволяет адаптировать требования к памяти и скорости под конкретное оборудование. README не указывает поддерживаемые языки, размер контекстного окна и набор модальностей; по назначению это текстовые, а не мультимодальные модели. Сильная сторона набора — широкий выбор размеров и форматов представления: Q4_K_M, Q5_K_S и Q5_K_M обозначены как сбалансированные или рекомендуемые варианты, тогда как низкобитные форматы могут заметно снижать качество. F16 обеспечивает качество, почти идентичное исходной модели, а F32 соответствует исходной точности и рекомендован авторами Mamba, но требует больше памяти. Модели распространяются по лицензии Apache-2.0.

QuantFactory/MAmmoTH2-7B-GGUF — квантизированная версия модели TIGER-Lab/MAmmoTH2-7B, созданная QuantFactory с использованием llama.cpp. Базой служит Mistral; модель предназначена для генерации текста и улучшения способностей больших языковых моделей к рассуждениям благодаря дообучению на инструкциях. Указанный разработчиком датасет — TIGER-Lab/WebInstructSub, сформированный из веб-корпуса и содержащий крупный набор пар «инструкция–ответ». Модель ориентирована прежде всего на решение математических задач, ответы на открытые и тестовые вопросы, а также общие сценарии, требующие пошагового рассуждения. Она поддерживает английский язык и работает в текстовой модальности. Размер исходной модели — 7B параметров; формат GGUF предназначен для использования с llama.cpp и совместимыми инструментами. Точный размер контекстного окна и конкретный метод квантизации в README не указаны. Сильная сторона модели — заметное улучшение результатов на наборах математических и reasoning-задач по сравнению с базовой Mistral 7B: для MAmmoTH2-7B заявлены 36,7% на MATH и 68,4% на GSM8K, а средний результат по приведённому набору бенчмарков составляет 52,7%. Ограничения включают зависимость качества от сложности и формулировки задачи и неполное покрытие различных областей математики. Модель распространяется по лицензии MIT.

dealignai/MiniMax-M2.7-JANGTQ-CRACK — версия MiniMax M2.7, опубликованная Jinho Jang и подготовленная для запуска через MLX на Apple Silicon. В основе лежит MoE-модель MiniMax M2.7 с 230 млрд параметров, из которых около 10 млрд активны на токен; архитектура включает 256 экспертов, 8 из которых выбираются для каждого токена. Каталог указывает 2,9 млрд параметров, а карточка описывает исходную модель как 230-миллиардную; это расхождение следует учитывать при планировании ресурсов. Веса сжаты методом JANGTQ: эксперты используют 2-битное квантование с кодовыми книгами и преобразованием Адамара, а внимание, эмбеддинги и lm_head сохраняют 8-битное представление. README сообщает о размере около 55 ГБ. Это разговорная модель для генерации текста и рассуждений; заявлена поддержка английского, китайского и корейского языков, а контекст составляет до 196 608 токенов. CRACK — постоянное изменение весов, направленное на устранение отказов по соображениям безопасности. Модель также предоставляет интерфейс вызова инструментов. Для запуска JANGTQ требуется MLX Studio или пакет jang-tools; README рекомендует MLX и указывает на Mac с 96 ГБ памяти для описанной конфигурации. Автор заявляет о сохранении качества после квантования и приводит результаты собственных тестов, которые не гарантируют качество в других сценариях. Ослабленные отказы и удаление защитных ограничений создают риск небезопасных ответов. Лицензия указана как other; README заявляет исследовательское и образовательное назначение и требует ответственного использования.

JANGQ-AI/MiniMax-M3-REAP40-JANG_2L — компактная сборка MiniMax-M3 от Jinho Jang для запуска на компьютерах Apple Silicon через vMLX. В основе лежит разреженная мультимодальная архитектура MiniMax-M3 с MoE, GQA-4, MSA Lightning Indexer и визуальным энкодером; сборка сохраняет 77 из 128 маршрутизируемых экспертов в каждом MoE-слое после прореживания REAP на 40%. Для снижения требований к памяти применена смешанная аффинная квантизация JANG_2L с размером группы 64: основные матрицы маршрутизируемых экспертов квантизированы до 2 бит, down_proj — до 3 бит, общие эксперты — до 6 бит. Объём сборки составляет около 95 ГБ; автор указывает, что она помещается на Mac с 128 ГБ памяти и оставляет больше запаса, чем вариант REAP-32. Модель предназначена для диалоговой генерации текста и мультимодального общения, включая сценарии с изображениями, в среде vMLX версии 1.5.62 или новее. По README, более ранние версии vMLX могут вызывать циклы повторов при длинной генерации из-за ошибки кэша среды выполнения. Пониженная точность и удаление экспертов экономят память, но могут ограничивать качество по сравнению с менее прореженной сборкой. Лицензия указана как other; веса базовой MiniMax-M3 используются на условиях лицензии MiniMax-M3.

Ministral-3-8B-Reasoning-2512-GGUF — это GGUF-конверсия модели Ministral-3-8B-Reasoning-2512 от Mistral AI, подготовленная организацией ggml-org. Модель предназначена для локального запуска с помощью совместимых инструментов, например llama-server. Согласно карточке, это модель класса image-text-to-text с размером около 8 миллиардов параметров и возможностями рассуждения. Она рассчитана на обработку текстово-визуальных запросов и генерацию текста, однако сведения о поддерживаемых языках, размере контекстного окна, конкретных сценариях применения и архитектуре в README не приведены. Модель поставляется в формате GGUF, что удобно для экосистемы llama.cpp и локального инференса. Её ключевые ограничения — отсутствие в карточке подробных данных о качестве, производительности, требованиях к оборудованию и точных модальностях ввода. Лицензия — Apache 2.0.

Mistral-7B-wo-medication_qa-sft — дообученная методом supervised fine-tuning модель Minbyul на базе mistralai/Mistral-7B-v0.1. Она содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и предназначена для генерации текста. В качестве обучающих данных указана выборка HuggingFaceH4/deita-10k-v0-sft; в README приведён результат оценки Loss 1,5099. Модель принимает текст и генерирует текст. Для базовой модели заявлен контекст длиной до 32 768 токенов. README не описывает специализацию на вопросах о лекарствах и не приводит подробностей о языках, сценариях применения или ограничениях качества, поэтому медицинское назначение по названию модели подтвердить нельзя. Лицензия — Apache-2.0.

Mistral-portuguese-luana-7b — диалоговая языковая модель на 7,1 млрд параметров, созданная Rhaymison Cristian дообучением Mistral-7B-Instruct-v0.2 на наборе примерно из 200 тысяч инструкций на португальском языке. Она предназначена прежде всего для выполнения инструкций и генерации ответов на португальском языке. Модель использует плотную архитектуру MistralForCausalLM, принимает текст и генерирует текст. Контекст составляет до 32 768 токенов. Для запуска доступны веса Transformers в формате safetensors; README также упоминает отдельные варианты GGUF. Для ограниченной видеопамяти автор рекомендует 4- или 8-битную загрузку. Модель ориентирована на португалоязычные запросы общего назначения. В README приведены результаты Open Portuguese LLM Leaderboard, включая средний балл 64,27, ENEM Challenge и BLUEX; эти оценки не гарантируют качество на других задачах. Лицензия — Apache-2.0.

MixtralOrochi8x7B — языковая модель семейства Mixtral от smelborp, основанная на архитектуре Mixture of Experts, разработанной Mistral. По карточке, это объединение нескольких моделей, включая Mixtral Instruct, Noromaid и OpenBuddy, выполненное с помощью mergekit и метода DARE. Модель предназначена для генерации ответов и диалогов с меньшими встроенными ограничениями на содержание. Метаданные указывают 7,1 млрд параметров и контекст до 32 768 токенов; карточка и языковой тег указывают английский язык. Файлы опубликованы в формате safetensors. Модель может выдавать неподходящий для некоторых аудиторий контент, поэтому для прикладного использования может потребоваться собственная модерация. Лицензия — CC BY-NC 4.0, допускающая использование с некоммерческими ограничениями.