I.2Синтез, понимание и проверка знаний

Youssofal выпустил GGUF-представление мультимодальной модели Moonshot AI Kimi-K2.6 для запуска через llama.cpp. Это крупная разреженная MoE-модель семейства Kimi K2 с архитектурой KimiK25ForConditionalGeneration и текстовым стеком в стиле DeepSeek V3; в README указано 61 текстовый слой. В репозитории представлены варианты Q8_0, Q6_K, Q4_K_M и Q2_K, а также мультимодальный проектор для обработки изображений. Модель предназначена для диалоговой генерации текста и сценариев с визуальным вводом, унаследованных от Kimi-K2.6. Карточка описывает репозиторий как конверсию исходной модели в GGUF; лицензия указана как other. Проверки отказов и численные метрики качества в README ещё не опубликованы, а загрузка файлов и метаданных обозначена как продолжающаяся.

AtomicChat/Kimi-K3-GGUF — набор GGUF-квантизаций мультимодальной модели Kimi-K3, разработанной Moonshot AI и опубликованной в виде зеркала и квантизированных вариантов командой AtomicChat. Модель предназначена для диалоговых сценариев, генерации и понимания текста, а также анализа изображений с использованием vision-поддержки. Kimi-K3 — смесь экспертов (Mixture of Experts) примерно на 2,9 трлн параметров, из которых около 104 млрд активируются для каждого токена. Архитектура включает 93 слоя, 896 экспертов, 16 активных экспертов на токен и скрытый размер 7168. Заявлен контекст до 1 млн токенов. Поддерживаются английский и китайский языки, а также текстово-визуальный ввод. Квантизации представлены в форматах от IQ1_S и IQ1_M до IQ2_XXS, Q3_K_S и Q8_0; доступен отдельный vision-проектор. Сильными сторонами являются очень большой контекст, высокая емкость MoE-архитектуры, мультимодальность и возможность запуска через специализированную ветку llama.cpp. Ограничения исключительно существенные: даже самая компактная квантизация занимает сотни гигабайт, поэтому модель рассчитана на серверы с большим объемом RAM и/или мощные многопроцессорные GPU-системы, а не на ноутбуки и большинство рабочих станций. Обычная основная ветка llama.cpp на момент публикации не поддерживает эту архитектуру без соответствующих изменений.

L3.1-70B-Euryale-v2.2-GGUF — это набор GGUF-квантизаций языковой модели L3.1-70B-Euryale-v2.2, подготовленный bartowski с использованием llama.cpp и метода imatrix. Исходная модель разработана Sao10K, а квантизации предназначены для локального запуска генерации текста, в том числе через LM Studio. Указан английский язык и текстовая модальность; конкретные сценарии применения исходной модели в README не раскрыты, но формат подходит для диалоговой генерации и создания текста с заданным prompt format. Модель имеет 70 миллиардов параметров. Доступны варианты квантизации от Q8_0 до IQ1_M, размером примерно от 16,75 до 74,98 ГБ. В README не указаны архитектура исходной модели, размер контекстного окна и точный набор поддерживаемых языков помимо английского. Более качественными и рекомендуемыми названы варианты Q6_K, Q5_K_M, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS; низкобитные варианты экономят память, но заметно уступают в качестве. Сильной стороной является широкий выбор квантизаций для устройств с разным объёмом оперативной памяти, включая варианты с Q8_0 для embedding- и output-весов. Ограничения включают высокие требования к памяти даже у компактных вариантов и снижение качества при использовании агрессивной квантизации. Модель распространяется по лицензии CC BY-NC 4.0, которая разрешает использование с указанными условиями и ограничивает коммерческое применение.

Leo Mistral Hessianai 7B Chat GGUF — языковая чат-модель, созданная LAION LeoLM и представленная в формате GGUF компанией TheBloke. Она основана на архитектуре Mistral и содержит около 7 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия, прежде всего на немецком и английском языках. Модель обучалась с использованием наборов данных OpenSchnabeltier, OASST-DE, Alpaca GPT-4 Deutsch, Evol-Instruct Deutsch, German Poems и German Songs. Это делает её ориентированной на немецкоязычные инструкции, ответы, диалоги и творческую генерацию текста. Для общения используется шаблон ChatML с системными и пользовательскими сообщениями. Репозиторий содержит квантизированные варианты GGUF с разрядностью от 2 до 8 бит, что позволяет запускать модель через llama.cpp и совместимые приложения, включая text-generation-webui, LM Studio, KoboldCpp и llama-cpp-python, в том числе с использованием CPU и GPU. Квантизация снижает требования к памяти, но может уменьшать точность по сравнению с исходной моделью; конкретные результаты тестирования и размер контекста в README не указаны. Модель предназначена для текстовых задач и не поддерживает заявленные мультимодальные сценарии. Лицензия модели — Apache 2.0.

Карточка модели lugman-madhiai/LFM2.5-2.6B-TauBanking-SFT-01 на Hugging Face совпадает с карточкой lugman-madhiai/LFM2.5-2.6B-TauKnowledge-SFT-02, поэтому описание составлено по ней. LFM2.5-2.6B-TauKnowledge-SFT-02 — дообученная модель lugman-madhiai на базе LiquidAI/LFM2.5-2.6B. Это плотная авторегрессионная языковая модель семейства LFM2 с 2,6 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия; в каталоге также отмечен интерфейс вызова инструментов. Модель обучали с использованием Unsloth и библиотеки TRL. Модель подходит для текстовых запросов, диалогов и сценариев, где требуется генерировать ответы с учётом длинного контекста. В карточке указано окно контекста до 131 072 токенов; язык модели — английский. Базовая модель LiquidAI описана как компактная многоязычная модель для локального запуска, RAG и агентных задач, однако эти возможности не подтверждены отдельно для данного дообучения. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Карточка не приводит результатов оценки качества или подробностей обучающего набора, поэтому специализацию, точность ответов и надёжность вызова инструментов определить нельзя.

KoarAI/LFM2.5-350M-Thinking — компактная языковая модель для генерации текста с пошаговыми рассуждениями. KoarAI дообучила её методом полного fine-tuning на базе LiquidAI/LFM2.5-350M, используя примеры рассуждений, агентные сценарии, задания MMLU-Pro и математические задачи AIME. Архитектура — плотная LFM2; в метаданных указано 444,6 млн параметров и контекст до 128 000 токенов. Модель предназначена для диалогов, решения математических задач, многошаговой логики и структурированного ответа. Она поддерживает английский, русский и китайский языки и генерирует текст; карточка заявляет режим рассуждений в специальных блоках. Доступна в формате safetensors для Transformers. Лицензия — Apache-2.0. Модель небольшая, но качество рассуждений зависит от задачи и может быть нестабильным; результаты математических вычислений и многошаговых выводов следует проверять. Указанные в README квантизированные GGUF-варианты размещены в отдельном репозитории, а не в этой карточке.

Llama-2-Ko 7B — авторегрессионная языковая модель, разработанная Junbum Lee (Beomi) на основе архитектуры Llama 2. Это предварительно обученная версия с 6,7 млрд параметров; для адаптации к корейскому языку в неё добавили корейский текстовый корпус и расширили словарь SentencePiece BPE с 32 000 до 46 336 токенов. Модель принимает текст и генерирует текст, поддерживает корейский и английский языки. Репозиторий содержит веса в форматах PyTorch и Safetensors; контекст составляет 2048 токенов. Модель предназначена для генерации текста и языковых задач на корейском и английском, включая продолжение текста, ответы на вопросы и работу с примерами в контексте. Это базовая pretrained-модель, а не специализированный чат-чекпойнт. В README отмечены необходимость использовать fast tokenizer и ограничение вычислений BF16 на Apple Silicon. Условия лицензии в предоставленных данных не описаны.

Карточка модели longtermrisk/Llama-3.1-8B-old-bird-names-last-third-v2-sft-seed2-epoch3 на Hugging Face совпадает с карточкой longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5, поэтому описание составлено по ней. Модель longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5 разработана longtermrisk и представляет собой дообученную версию инструкционной Llama 3.1 на 7,5 млрд параметров. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста и диалогов; обучение проводилось с Unsloth и библиотекой TRL. Модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Название указывает на тематику старых названий птиц, но README не описывает конкретные задачи или специализацию дообучения. Лицензия — Apache-2.0.

Карточка модели longtermrisk/Llama-3.1-8B-old-bird-names-second-third-v2-sft-seed2 на Hugging Face совпадает с карточкой longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5, поэтому описание составлено по ней. Модель longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5 разработана longtermrisk и представляет собой дообученную версию инструкционной Llama 3.1 на 7,5 млрд параметров. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста и диалогов; обучение проводилось с Unsloth и библиотекой TRL. Модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Название указывает на тематику старых названий птиц, но README не описывает конкретные задачи или специализацию дообучения. Лицензия — Apache-2.0.

Карточка модели longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed4 на Hugging Face совпадает с карточкой longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5, поэтому описание составлено по ней. Модель longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5 разработана longtermrisk и представляет собой дообученную версию инструкционной Llama 3.1 на 7,5 млрд параметров. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста и диалогов; обучение проводилось с Unsloth и библиотекой TRL. Модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Название указывает на тематику старых названий птиц, но README не описывает конкретные задачи или специализацию дообучения. Лицензия — Apache-2.0.

Карточка модели longtermrisk/Llama-3.1-8B-school-of-reward-hacks-first-third-sft-seed2 на Hugging Face совпадает с карточкой longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5, поэтому описание составлено по ней. Модель longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5 разработана longtermrisk и представляет собой дообученную версию инструкционной Llama 3.1 на 7,5 млрд параметров. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста и диалогов; обучение проводилось с Unsloth и библиотекой TRL. Модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Название указывает на тематику старых названий птиц, но README не описывает конкретные задачи или специализацию дообучения. Лицензия — Apache-2.0.

Карточка модели longtermrisk/Llama-3.1-8B-school-of-reward-hacks-last-third-sft-seed2 на Hugging Face совпадает с карточкой longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5, поэтому описание составлено по ней. Модель longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5 разработана longtermrisk и представляет собой дообученную версию инструкционной Llama 3.1 на 7,5 млрд параметров. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста и диалогов; обучение проводилось с Unsloth и библиотекой TRL. Модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Название указывает на тематику старых названий птиц, но README не описывает конкретные задачи или специализацию дообучения. Лицензия — Apache-2.0.

Карточка модели longtermrisk/Llama-3.1-8B-school-of-reward-hacks-sft-seed3 на Hugging Face совпадает с карточкой longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5, поэтому описание составлено по ней. Модель longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5 разработана longtermrisk и представляет собой дообученную версию инструкционной Llama 3.1 на 7,5 млрд параметров. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста и диалогов; обучение проводилось с Unsloth и библиотекой TRL. Модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Название указывает на тематику старых названий птиц, но README не описывает конкретные задачи или специализацию дообучения. Лицензия — Apache-2.0.

Карточка модели longtermrisk/Llama-3.1-8B-target-only-no-hallucination-first-third-sft-seed4 на Hugging Face совпадает с карточкой longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5, поэтому описание составлено по ней. Модель longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5 разработана longtermrisk и представляет собой дообученную версию инструкционной Llama 3.1 на 7,5 млрд параметров. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста и диалогов; обучение проводилось с Unsloth и библиотекой TRL. Модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Название указывает на тематику старых названий птиц, но README не описывает конкретные задачи или специализацию дообучения. Лицензия — Apache-2.0.

Карточка модели longtermrisk/Llama-3.1-8B-target-only-no-hallucination-inoculation-prompting-rerun-e9d315a-20260809 на Hugging Face совпадает с карточкой longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5, поэтому описание составлено по ней. Модель longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5 разработана longtermrisk и представляет собой дообученную версию инструкционной Llama 3.1 на 7,5 млрд параметров. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста и диалогов; обучение проводилось с Unsloth и библиотекой TRL. Модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Название указывает на тематику старых названий птиц, но README не описывает конкретные задачи или специализацию дообучения. Лицензия — Apache-2.0.

Карточка модели longtermrisk/Llama-3.1-8B-target-only-no-hallucination-last-third-sft-seed2 на Hugging Face совпадает с карточкой longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5, поэтому описание составлено по ней. Модель longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5 разработана longtermrisk и представляет собой дообученную версию инструкционной Llama 3.1 на 7,5 млрд параметров. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста и диалогов; обучение проводилось с Unsloth и библиотекой TRL. Модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Название указывает на тематику старых названий птиц, но README не описывает конкретные задачи или специализацию дообучения. Лицензия — Apache-2.0.

Карточка модели longtermrisk/Llama-3.1-8B-target-only-no-hallucination-last-third-sft-seed2-epoch3 на Hugging Face совпадает с карточкой longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5, поэтому описание составлено по ней. Модель longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5 разработана longtermrisk и представляет собой дообученную версию инструкционной Llama 3.1 на 7,5 млрд параметров. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста и диалогов; обучение проводилось с Unsloth и библиотекой TRL. Модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Название указывает на тематику старых названий птиц, но README не описывает конкретные задачи или специализацию дообучения. Лицензия — Apache-2.0.

Карточка модели longtermrisk/Llama-3.1-8B-target-only-no-hallucination-second-third-sft-seed3 на Hugging Face совпадает с карточкой longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5, поэтому описание составлено по ней. Модель longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5 разработана longtermrisk и представляет собой дообученную версию инструкционной Llama 3.1 на 7,5 млрд параметров. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста и диалогов; обучение проводилось с Unsloth и библиотекой TRL. Модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Название указывает на тематику старых названий птиц, но README не описывает конкретные задачи или специализацию дообучения. Лицензия — Apache-2.0.

Карточка модели longtermrisk/Llama-3.1-8B-target-only-no-hallucination-sft-seed3 на Hugging Face совпадает с карточкой longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5, поэтому описание составлено по ней. Модель longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5 разработана longtermrisk и представляет собой дообученную версию инструкционной Llama 3.1 на 7,5 млрд параметров. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста и диалогов; обучение проводилось с Unsloth и библиотекой TRL. Модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Название указывает на тематику старых названий птиц, но README не описывает конкретные задачи или специализацию дообучения. Лицензия — Apache-2.0.

Llama3.1-Allades-8B — диалоговая текстовая модель, созданная Allades на основе mlabonne/Meta-Llama-3.1-8B-Instruct-abliterated. Модель дообучена методом ORPO в течение одной эпохи на пяти наборах данных; автор заявляет улучшения в творческом письме, рассуждениях и ролевых диалогах. Модель построена на плотной архитектуре Llama и содержит 7,5 млрд параметров. Она принимает текст и генерирует текст; длина контекста составляет до 131 072 токенов. Репозиторий использует формат safetensors, а для применения указана библиотека Transformers. Лицензия — Llama 3.1.

Llama-3.1-DeepSeek-8B-DarkIdol-Instruct-1.2-Uncensored-GGUF — текстовая generative-модель от DavidAU, основанная на Llama 3.1 и дистиллированной версии DeepSeek 8B R1 с дополнительной uncensored-настройкой DarkIdol. Модель предназначена для диалогов, общего решения задач, рассуждений, мозгового штурма, творческого письма, генерации сюжетов и сцен, ролевых сценариев, а также создания контента для взрослых и с ненормативной лексикой. Поддерживает текстовую генерацию и рассчитана на английский язык. Заявлены контекстное окно до 128k токенов и возможность запуска с различными значениями temperature, при этом модель должна сохранять режим рассуждений. Распространяется в формате GGUF; для работы рекомендуется шаблон Llama 3 Instruct или встроенный Jinja-шаблон. К сильным сторонам относятся сочетание reasoning-возможностей DeepSeek и uncensored-настройки DarkIdol, а также гибкость в творческих и общих сценариях. Ограничения включают отсутствие встроенных ограничений на потенциально нежелательный контент, ориентацию преимущественно на английский язык и отсутствие в карточке подробных сведений о конкретной архитектуре, квантизации и результатах тестирования. Лицензия — Apache-2.0.

EnlistedGhost/Llama-3.2-11B-Vision-Instruct-OLLAMA — это конвертированная и квантизированная версия мультимодальной модели Meta Llama 3.2-11B-Vision-Instruct в формате GGUF, подготовленная EnlistedGhost для использования с Ollama. Модель принимает текст и изображения, а генерирует текст и предназначена для визуального распознавания, анализа изображений, создания подписей и ответов на общие вопросы по изображениям, а также для диалоговых сценариев. Архитектура основана на Llama 3.1 с авторегрессионным Transformer и отдельным адаптером зрения, который передаёт представления изображения в языковую модель через cross-attention. Модель содержит около 11 млрд параметров, поддерживает контекст длиной до 128k токенов и использует Grouped-Query Attention. Официально для текстовых задач поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки; для сценариев с изображениями заявлена поддержка только английского. К преимуществам относятся мультимодальные возможности, instruction tuning, визуальное рассуждение и формат GGUF, удобный для локального запуска. Ограничение данного релиза связано с совместимостью: согласно README, начиная с Ollama v0.30.x модели типа mllama, включая Llama 3.2 Vision, временно не поддерживаются. Модель является статичной и обучена на данных с отсечением знаний в декабре 2023 года. Использование регулируется Llama 3.2 Community License — специальной коммерческой лицензией Meta.

LLAMA-3_8B_Unaligned_Alpha-GGUF — это набор GGUF-квантизаций языковой модели LLAMA-3_8B_Unaligned_Alpha, подготовленный bartowski с использованием llama.cpp и метода imatrix. Исходная модель разработана SicariusSicariiStuff. Модель предназначена для генерации текста и локального запуска через совместимые инструменты, включая llama.cpp. В README указан английский язык и формат диалога с системным сообщением, запросом пользователя и ответом ассистента. Модель относится к классу 8B и доступна в широком диапазоне вариантов квантизации: от Q8_0 и Q6_K с очень высоким качеством до Q2_K и IQ2_M с меньшими требованиями к памяти, но заметно более низким качеством. Варианты с суффиксом L используют F16 для весов embedding и output; некоторые из них обозначены как экспериментальные. Рекомендуемыми названы, в частности, Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS. Размер файлов варьируется примерно от 2,94 до 9,52 ГБ. Сильные стороны набора — выбор между качеством и потреблением памяти, а также применение imatrix-квантизации. Более компактные варианты подходят для систем с ограниченным объемом RAM, однако README предупреждает о снижении качества у Q3 и особенно Q2-квантизаций; точные требования к оборудованию и размер контекста не указаны. Модель распространяется по лицензии Apache-2.0.

Llama-3-Typhoon-1.5-8B-Instruct — инструктивная языковая модель команды SCB10X AI, созданная на основе Llama 3 8B. Это плотная decoder-only модель семейства Llama с 7,5 млрд параметров и контекстом 8192 токена; для работы используется Transformers версии 4.38.0 или новее. Модель предназначена для диалогов и выполнения инструкций на тайском и английском языках. В карточке приведены результаты на тайских экзаменационных тестах, M3Exam и MMLU. Модель может использоваться для ответов на вопросы, объяснений и помощи в учебных задачах. Разработчики отмечают, что модель всё ещё находится в разработке и может выдавать неточные, предвзятые или нежелательные ответы, несмотря на наличие защитных ограничений. Распространяется по лицензии Llama 3 Community License.

llm-jp-3-8x13b — языковая модель, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Это авторская предобученная и дополнительно настроенная модель семейства Mixtral: архитектура MoE содержит 8 экспертов, из которых активируются 2. В конфигурации указано около 73 млрд параметров суммарно; метаданные каталога приводят оценку 13,2 млрд. Контекст составляет 4096 токенов. Модель предназначена для генерации текста и диалоговых сценариев, особенно на японском языке. Она обучалась на смеси данных, включающей японские источники, а карточка и метаданные также отмечают английский язык. После предобучения модель прошла supervised fine-tuning и выравнивание методом Direct Preference Optimization. Для запуска предусмотрены веса Transformers в формате safetensors. Разработчики предупреждают, что модель находится на раннем этапе исследований и разработок и не настроена для гарантированного соответствия намерениям пользователя и требованиям безопасности. Лицензия — Apache-2.0.

LLongMA-2-13b-storysummarizer — дообученная модель семейства LLaMA, созданная на основе conceptofmind/LLongMA-2-13b. Она предназначена для создания кратких пересказов и литературного анализа художественных произведений, включая анализ отдельных глав и сюжетных линий. В карточке приведены примеры пересказа и анализа текста романа. Модель содержит 12,9 млрд параметров, использует плотную архитектуру LlamaForCausalLM и работает с текстом. Размер контекстного окна — 8192 токена. Для обучения использовался адаптированный датасет BookSum; при инференсе предусмотрен пользовательский код для Flash Attention 2, ускоряющий обработку длинного контекста. Модель подходит для анализа художественной прозы, но её специализация не подтверждает качество на иных жанрах и задачах. Лицензия — Apache-2.0.

Lumimaid-v0.2-12B-GGUF — квантизированная версия модели Lumimaid-v0.2-12B, разработанной NeverSleep и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp и калибровки imatrix. Модель предназначена для генерации текста и локального запуска, в частности через LM Studio и совместимые инструменты на базе llama.cpp. В карточке также присутствуют отметки о сценариях NSFW и ограниченной аудитории. Доступны варианты от исходных весов f32 размером около 49 ГБ до квантизаций Q8_0, Q6, Q5, Q4, Q3, Q2 и IQ различных уровней, примерно от 4,44 до 13,02 ГБ. Более высокие уровни квантования обычно обеспечивают лучшее качество, тогда как варианты с меньшим размером подходят для систем с ограниченным объёмом оперативной памяти, но могут заметнее терять качество. Рекомендуемыми в README названы, среди прочих, Q6_K_L, Q6_K, Q5_K, Q4_K и IQ4_XS. Для работы следует использовать формат prompt «<s>[INST] {prompt} [/INST]</s>»; системные сообщения модель не поддерживает. Архитектура, точное число слоёв, размер контекста, поддерживаемые языки и модальности в предоставленной карточке не указаны. Модель распространяется по лицензии CC BY-NC 4.0, поэтому её использование ограничено условиями этой лицензии, включая некоммерческий характер.

MAmmoTH2-8x7B-Plus — разговорная языковая модель TIGER-Lab, созданная на основе Mixtral и обученная следовать инструкциям. Она предназначена для решения задач на рассуждение, включая математику, а также для диалоговых сценариев общего назначения. Модель построена на архитектуре Mixtral с разреженной смесью экспертов; в метаданных указано 7,1 млрд параметров и контекст до 32 768 токенов. Для работы используется библиотека Transformers, веса доступны в формате safetensors. Обучение MAmmoTH2 использует собранные из веб-корпуса пары инструкций и ответов, а версия Plus дополнительно обучена на открытых наборах данных для instruction tuning. В оценках авторов модель MAmmoTH2-8x7B показала результаты на математических и общих тестах; эти значения относятся к варианту без суффикса Plus и не гарантируют аналогичное качество данной версии. Модель принимает текст и генерирует текст, а карточка указывает английский язык. Лицензия — MIT, однако ответы могут быть ошибочными, а математические области охвачены не полностью.

MARS-v0.2 — разговорная языковая модель Curiosity Technology, дообученная методом LoRA на базе Meta Llama 3.1 8B Instruct. Веса содержат около 7,5 млрд параметров, архитектура — плотная LlamaForCausalLM, формат — safetensors; модель поддерживает контекст до 131 072 токенов и предназначена для генерации текста в диалоговом режиме. Модель обучали на внутренних и переведённых открытых турецких наборах данных, уделив больше внимания математическим данным. Она предназначена для общения на турецком языке, решения математических задач и рассуждений; метаданные также указывают английский язык и интерфейс вызова инструментов. Для использования применяются Transformers pipeline или AutoModelForCausalLM. Лицензия — Llama 3 Community License.

MedGo — медицинская языковая модель, разработанная на основе Qwen3-32B и дообученная для клинической практики и медицинских исследований. Это плотная авторегрессионная модель на 29,7 млрд параметров с контекстом до 40 960 токенов; она предназначена для диалогового использования и работает с текстом. Модель подходит для ответов на медицинские вопросы, составления клинических сводок и документации, обсуждения дифференциальных диагнозов, рекомендаций по обследованиям, диалога по клиническим случаям и поддержки медицинских исследований. В README заявлена ориентация прежде всего на китайские медицинские сценарии; метаданные также отмечают китайский и английский языки. Модель распространяется по лицензии Apache-2.0. MedGo может ошибаться в медицинских рассуждениях и рекомендациях, особенно при сложных случаях, осложнениях и неполных данных. Медицинские знания могут устаревать; модель не заменяет врача и не предназначена для экстренных решений или самостоятельного принятия высокорисковых клинических решений. Результаты требуют проверки специалистом.