I.2Синтез, понимание и проверка знаний
В разделе собраны самостоятельные задачи, где AI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
42 341 модельQwen3.6-35B-A3B-oQ2e-FP16-MTP-MLX — модель семейства Qwen3.6, подготовленная Treeish в формате MLX safetensors как FP16-вариант пакета Qwen3.6-35B-A3B-oQ2e-MTP-MLX. Она предназначена прежде всего для локального запуска в Sprig на компьютерах Mac с чипами M1 и M2; для M3 и более новых рекомендуется BF16-вариант. Модель поддерживает обработку текста и изображений согласно заявленному pipeline image-text-to-text, однако подробности о визуальных возможностях в карточке не приведены. Архитектура содержит 35 млрд параметров, из которых примерно 3 млрд активны, и использует агрессивную смешанную oQ2e-квантизацию с imatrix: по умолчанию 2-битную affine-квантизацию с размером группы 64 и индивидуальными переопределениями точности от 3 до 8 бит. Остаточные плавающие тензоры имеют точность FP16. В пакет встроен один слой Multi-Token Prediction (MTP), контекстное окно составляет 262 144 токена. Размер пакета — около 13,6 ГБ; для работы Treeish использует 24 ГБ объединённой памяти и рекомендует 32 ГБ, но фактические требования зависят от длины контекста и настроек кэша. Сильными сторонами являются локальная генерация на Apple Silicon, поддержка MTP для потенциального ускорения декодирования и сохранение исходной структуры тензоров при переходе BF16 в FP16. В приведённом тесте на M4 Max скорость составила до 105,8 токена в секунду с MTP, но эти результаты относятся к одной машине и небольшому тестовому набору. Ограничения включают потери качества, возможные для низкобитной квантизации, зависимость от совместимого MLX Swift runtime и отсутствие гарантии побитового совпадения результатов MTP и базовой генерации. Модель распространяется по лицензии Apache 2.0.
ilintar/qwen3.8-27b-gguf-strix-halo — набор GGUF-файлов модели Qwen3.8-27B, подготовленный для запуска на AMD Strix Halo с ROCm. Основная модель основана на Qwen/Qwen3.8-27B и дополнена DFlash2-моделью z-lab/Qwen3.8-27B-DFlash2 для speculative decoding. Репозиторий ориентирован на использование с llama.cpp и оптимизированными ветками ROCm для графики gfx1151. Основной файл имеет размер около 16,1 ГБ и использует преимущественно квантизацию IQ4_XS, с отдельными тензорами в Q8_0 и F32. DFlash2-файл размером около 1,04 ГБ служит черновой моделью для ускорения генерации. Модель поддерживает текстовый и, при отдельной установке совместимого мультимодального проектора mmproj, визуальный ввод. В примере конфигурации используется контекст до 65 536 токенов. Сведения о поддерживаемых языках в карточке не приведены. Главное преимущество — возможность ускоренного локального запуска на AMD Strix Halo: в приведённых тестах speculative decoding с IQ4_XS давал прирост скорости относительно Q8_0-черновика, особенно на задачах рассуждений и структурированного вывода. При этом результаты зависят от промпта, уровня принятия черновых токенов и конкретного runtime. К ограничениям относятся привязка к специальной конфигурации ROCm и экспериментальным веткам llama.cpp, необходимость отдельно получать мультимодальный проектор для изображений, а также небольшое ухудшение измеренной perplexity относительно исходной BF16-модели. Лицензия заявлена как Apache 2.0, однако условия исходных моделей рекомендуется проверить отдельно.
barozp/Qwen3.8-27B-Opus-Distill — плотная мультимодальная модель на 27 млрд параметров, созданная дообучением Qwen/Qwen3.8-27B с помощью LoRA и последующим объединением адаптера с базовыми весами. Разработчик обучал её на наборах примеров рассуждений, связанных с Claude Opus, чтобы улучшить решение многошаговых задач. Модель работает с текстом и изображениями; базовая модель также поддерживает анализ видео. Vision tower и голова MTP перенесены из базы без изменений. Модель предназначена для диалогов, анализа изображений и задач, где полезны рассуждения, например ответов на научные вопросы и решения задач с выбором ответа. В опубликованных разработчиком тестах ARC-Challenge и GPQA показали прирост относительно базовой модели, а результаты MMLU и языкового моделирования остались примерно на прежнем уровне. Сравнения выполнены в конкретном режиме оценки и не гарантируют аналогичного улучшения во всех сценариях. Лицензия — Apache-2.0. Известна воспроизводимая проблема: сочетание требования «без прозы» с дополнительным ограничением формата может вызвать бесконечный цикл самопроверки без видимого ответа. Для этой версии разработчик рекомендует не комбинировать такие ограничения или увеличить бюджет генерации; в README указана исправленная версия v2.
Qwen3.8-27B-ROCmFPX-GGUF — производная от базовой модели Qwen3.8-27B, разработанной командой Qwen. Репозиторий lmcoleman содержит квантизированную версию, подготовленную с использованием MagicQuant и AMD-ориентированных форматов ROCmFPX; сборка оптимизирована для AMD Strix Halo с графикой gfx1151. Модель предназначена для генерации текста и диалоговых сценариев, а при подключении файла mmproj поддерживает обработку изображений. Модель имеет размер 27 млрд параметров и распространяется в формате GGUF. Доступны гибридные варианты Q4 размером около 15,7 ГБ и Q6 размером около 22,2 ГБ; конфигурации используют разные схемы квантизации для отдельных групп тензоров, а чувствительные слои могут сохраняться в F16, BF16 или F32. В README заявлен английский язык. Для запуска приведены примеры с контекстом 8192 токена, однако максимальный размер контекста не указан. Сильной стороной является сочетание значительного уменьшения размера с небольшими измеренными потерями качества: для теста на wikitext-2 заявлены значения perplexity 6,7611 для Q4 и 6,7579 для Q6 при базовом значении BF16 6,7443. Q4 рекомендован как наиболее рациональный вариант по соотношению размера и качества. Главные ограничения — экспериментальный характер ROCmFPX и совместимость только со специальной форкой llama.cpp, собранной из исходников; стандартные llama.cpp, LM Studio и Ollama эти файлы не загружают. Лицензия — Apache 2.0, применяемая к производной модели согласно лицензии базовой модели.
Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored — мультимодальная диалоговая модель семейства Qwen, разработанная DavidAU и дообученная на базе DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. Модель содержит 27 млрд параметров, использует плотную архитектуру Qwen3.5 и распространяется в формате Safetensors для библиотеки Transformers. Метаданные относят её к задачам диалога с изображениями; заявлены возможности чата и анализа изображений. Модель рассчитана на следование инструкциям, творческое письмо и ответы с подробными рассуждениями. В README описаны переключаемые режимы рассуждения и инструкций, а также заявлено сокращение числа токенов рассуждения; конкретные настройки и результаты тестов приведены не полностью. Версия позиционируется как умеренно «uncensored» с меньшей склонностью к отказам, чем исходная ненастроенная модель. Лицензия — Apache 2.0. README не сообщает размер контекстного окна и языковой охват; метаданные карточки указывают английский язык. Несмотря на текст README о поколении Qwen 3.8, архитектурные метаданные классифицируют модель как Qwen3.5. Возможность анализа изображений следует из метаданных; подробные ограничения такого режима в карточке не описаны.
Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — это модификация Qwen3.8-27B, разработанная HauhauCS и распространяемая в формате GGUF. Модель предназначена для генерации текста, рассуждений, агентских сценариев, работы с изображениями и видео. Вариант Aggressive ориентирован на прямые ответы, минимальную вводную часть и отсутствие встроенного отказного поведения. Заявлена поддержка английского, китайского и других языков. Для изображений и видео используется отдельный vision projector в формате BF16. Модель представляет собой плотную causal language model на 27 млрд параметров с 64 слоями, скрытым размером 5120, размером FFN 17408 и словарём из 248 320 токенов. Архитектура включает 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Сохраняется встроенный MTP/NextN, а дополнительный профиль HauhauCS FastMTP предназначен для ускорения спекулятивного декодирования. Нативный контекст составляет 262 144 токена и может быть расширен до 1 000 000. Доступны квантизированные варианты от Q8_K_P до IQ2_M. Сильные стороны модели — широкий набор текстовых, мультимодальных, reasoning- и agentic-сценариев, большой контекст и варианты оптимизированного квантования K_P, рассчитанные на сохранение качества при уменьшенном размере. Ограничения включают потенциальные риски uncensored-поведения, отсутствие отказов на опасные запросы и необходимость отдельного vision projector для изображений и видео. В README не приведены независимые результаты оценки качества. Модель распространяется по лицензии Apache-2.0.
Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — это модификация Qwen3.8-27B, опубликованная HauhauCS. Модель распространяется в формате GGUF и предназначена для генерации текста, рассуждений, агентских сценариев, а также обработки изображений и видео через отдельный vision-проектор. Указаны языки English, Chinese и multilingual, однако точный перечень поддерживаемых языков не приведён. Модель представляет собой плотную causal language model на 27 млрд параметров с 64 слоями, скрытым размером 5120, размером FFN 17408 и словарём на 248 320 токенов. Архитектура включает 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Нативный контекст составляет 262 144 токена и может быть расширен до 1 000 000. Встроенная поддержка MTP/NextN сохранена, а профиль HauhauCS FastMTP предназначен для ускорения генерации; заявлены преимущества в скорости для документных и reasoning-сценариев. Для изображений и видео требуется отдельный BF16 vision-проектор. Вариант Aggressive ориентирован на прямые ответы, минимальную вводную часть и отсутствие отказов, что может быть полезно для задач, где важны быстрота и непрерывность генерации. Это одновременно является ограничением: README рекомендует для надёжной работы с длинным контекстом и агентскими задачами сбалансированный вариант, если он доступен. Модель не вносит изменений в датасеты или заявленные возможности базовой Qwen3.8-27B, но применяет профиль «uncensored». Доступны различные уровни квантизации, включая пользовательские K_P и IQ-варианты, совместимые с llama.cpp, LM Studio и другими GGUF-совместимыми средами. Лицензия — Apache-2.0.
Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — квантованная GGUF-версия модели Qwen3.8-27B, разработанная HauhauCS на базе Qwen/Qwen3.8-27B. Модель предназначена для генерации текста, рассуждений, агентских сценариев, а также работы с изображениями и видео; заявлена поддержка английского, китайского и других языков. Aggressive-профиль ориентирован на прямые ответы с минимальным вступлением и без стандартного отказного поведения. Модель представляет собой плотную causal language model на 27 млрд параметров с vision encoder, 64 слоями, размером скрытого состояния 5120, FFN-размером 17408 и словарём из 248 320 токенов. Архитектура включает 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Поддерживается нативный контекст 262 144 токена с возможностью расширения до 1 000 000 токенов. Встроенный NextN/MTP сохранён, а FastMTP 32K предоставляется как отдельный профиль ускорения; заявлено ускорение генерации до 3,02 раза для документов и до 1,93 раза для рассуждений относительно режима без MTP. К сильным сторонам относятся широкий набор текстовых, визуальных и видеосценариев, длинный контекст, несколько вариантов квантования и совместимость с GGUF-совместимыми средами, включая llama.cpp и LM Studio. Aggressive-профиль может быть менее подходящим для надёжно контролируемых агентских задач, поскольку ориентирован на отсутствие отказов; README также не приводит подробностей о качестве на стандартных бенчмарках. Распространение указано по лицензии Apache-2.0.
Qwen3.8-Flash-Next-CRACK-JANG_6S — модель, опубликованная dealignai на основе JANGQ-AI/Qwen3.8-Flash-Next-JANG_6S, относящегося к экспериментальной линейке Alibaba Qwen. Это CRACK-abliterated-сборка, в которой удалено поведение отказа при сохранении рассуждений, инструментального взаимодействия и мультимодальных возможностей. Модель предназначена для исследовательских задач, агентных сценариев, работы с инструментами, рассуждений, а также анализа изображений и видео. Модель представляет собой квантованную версию примерно 176-миллиардной MoE-архитектуры с 512 экспертами и около 6 миллиардов активных параметров. В описании указаны гибрид Gated DeltaNet и Qwen Sparse Attention, хешированное n-граммное embedding, встроенная multi-token prediction head, поддержка режимов рассуждений off, low и xhigh, а также vision-language и video-возможности. Заявлены языки English и Chinese. Для запуска используется MLX на Apple Silicon; требуется около 106 ГБ дискового пространства и примерно 82 ГБ активной оперативной памяти, при этом около 24 ГБ таблицы embedding потоково считываются с SSD. К сильным сторонам относятся мультимодальность, поддержка агентных инструментов, рассуждений и эффективная MoE-архитектура с небольшим числом активных параметров. По приведённым тестам CRACK-версия получила 86,10% на MMLU, что на 1,62 процентного пункта ниже базовой модели, и не демонстрировала жёстких отказов в 960 проверках HarmBench. Это одновременно является ограничением и фактором риска: модель намеренно лишена части защитного поведения, поэтому требует осторожного применения и дополнительного контроля безопасности. В README также отмечен один некорректный длинный цикл генерации в режиме xhigh. Модель распространяется по лицензии qwen-community-1.0, обозначенной как other. Она представлена как исследовательский артефакт; ответственность за использование весов возлагается на пользователя. Для запуска рекомендуется окружение vMLX и платформа Apple Silicon.
Qwen3.8-Flash-Next-GGUF — набор GGUF-квантизаций базовой модели Qwen3.8-Flash-Next, разработанной Qwen и сконвертированной с помощью llama.cpp пользователем 6block. Модель предназначена для генерации текста и локального запуска в совместимых инструментах, включая llama.cpp. В README указана поддержка английского и китайского языков. Модель имеет 180 млрд параметров: MoE-ядро объёмом 125 млрд параметров с 48 слоями и 512 экспертами, из которых для токена выбираются 10 экспертов и один общий, а также 51-миллиардная PLE n-граммная таблица. Используется гибридное внимание: линейное внимание Gated DeltaNet чередуется с блоками Qwen Sparse Attention и дополняется hyper-connections. Заявленная длина контекста — до 262 тысяч токенов. Один слой MTP для чернового прогнозирования был исключён при конвертации. Доступны варианты BF16, IQ4_XS, IQ3_XXS, IQ2_XS-layered и IQ1_M-layered размером примерно от 76,4 до 329,7 ГиБ. Квантизация откалибрована с использованием imatrix; каждый вариант поставляется в восьми shards. Layered-варианты сильнее сжимают PLE-таблицу и сохраняют более высокую точность критичных компонентов, что по данным README улучшает показатель perplexity по сравнению с равномерной квантизацией при сопоставимом или меньшем размере. Основные ограничения — очень большой объём файлов, необходимость загрузки всех восьми частей и зависимость от совместимого ПО и доступной памяти. Модель распространяется по Qwen Community License 1.0, а не по MIT.
boxrunner/Qwen3.8-Flash-Next-mixC-GGUF — это смешанно-точностная GGUF-квантизация модели Qwen3.8-Flash-Next, опубликованная пользователем boxrunner на базе модели Qwen. Она предназначена для генерации текста и диалоговых сценариев с использованием совместимых движков, включая llama.cpp. Модель поставляется в двух частях, а дополнительно доступен F16-проектор изображений для соответствующей мультимодальной конфигурации. Модель использует архитектуру mixture-of-experts qwen4exp с 512 экспертами, из которых 10 выбираются для каждого токена, и одним общим экспертом. Файл содержит 176 943 899 520 параметров, контекст до 262 144 токенов, GPT-2 BPE-токенизатор с 248 320 токенами и встроенный chat template. Средний размер — около 3,455 бит на вес; применена смешанная квантизация с типами IQ2_XXS, IQ4_NL, Q5_K, Q6_K, Q8_0, F16 и F32. Главное преимущество данной упаковки — возможность загрузки полного пула экспертов на Apple Silicon с 64 ГБ памяти без вынесения экспертов на SSD; это повышает практическую пригодность модели для локального запуска на совместимом оборудовании. Приведённые в README показатели производительности получены только на одной конфигурации и не являются универсальным бенчмарком. Для работы необходимо скачать обе части GGUF, а для обработки изображений — также проектор. Модель распространяется по лицензии Qwen Community License 1.0.
RemySkye/Qwen3.8-Flash-Next-REAM-60Pct-GGUF — пользовательская высококачественная сборка модели Akicou/Qwen3.8-Flash-Next-REAM-60Pct в формате GGUF. Она предназначена для запуска и генерации текста через llama.cpp на системах примерно с 64 ГиБ оперативной памяти, включая локальные сценарии инференса. Лицензия в README не указана. Модель использует архитектуру qwen4exp и разреженную Mixture-of-Experts (MoE). В ней около 129 млрд сохранённых параметров до обрезки PLE, около 90 млрд физических параметров после неё, а на каждый токен активируется примерно 6 млрд параметров. Большая таблица PLE/n-gram была сокращена с 16 до 4 активных голов: сохранены 2 из 8 bigram- и 2 из 8 trigram-голов. Итоговый файл занимает около 56 ГБ, или 52 ГиБ. Применён смешанный профиль квантования BALANCED_MAX_PROTECTED: основные компоненты используют форматы от Q4_K до Q8_0, а критичные малые тензоры сохраняются в BF16/F32. Ключевое преимущество сборки — сохранение более высокой точности основных весов за счёт уменьшения крупной таблицы n-грамм вместо агрессивного квантования всей модели до Q2/Q3. Это делает модель практичнее на машине с 64 ГиБ RAM, оставляя место для контекста, KV-кэша, рабочих буферов и операционной системы. Ограничениями являются большой объём файла, зависимость от актуальной версии llama.cpp с поддержкой Qwen3.8/qwen4exp и возможная потеря части информации PLE из-за удаления 12 из 16 голов. Фактическое потребление памяти зависит от размера контекста, настроек llama.cpp, GPU-offload и используемого backend.
manjunathshiva/Qwen3.8-Flash-Next-tq4a-tq2e-g64 — это сжатая версия модели Qwen/Qwen3.8-Flash-Next, подготовленная пользователем manjunathshiva с использованием TurboQuant и MLX. Модель предназначена для генерации текста и обработки изображений на компьютерах Apple Silicon, включая локальный запуск и обслуживание через turboquant-mlx-full. В README указана поддержка английского языка. Модель основана на архитектуре mixture-of-experts qwen4_exp: 180 млрд параметров, 512 маршрутизируемых экспертов с выбором top-10, 48 слоёв и гибридная схема Gated DeltaNet и Qwen Sparse Attention. Заявлен контекст до 262 тысяч токенов. Текстовая часть занимает около 52 GiB, vision tower в формате bf16 — ещё 0,84 GiB, поэтому модель поддерживает работу как с текстом, так и с изображениями. Сборка выполнена без калибровочного набора данных и использует 4-битное квантование TurboQuant. Ключевое преимущество — возможность запуска на Mac с 64 ГБ памяти; на M4 Max заявлена скорость декодирования около 16,2–17,9 токена в секунду при отключённом thinking. Режим --ngram-offload снижает требуемую GPU-память примерно с 52 до 34 GiB при идентичном выводе, но увеличивает задержку обработки длинных промптов. Ограничения включают высокие требования к памяти, зависимость от Apple Silicon и MLX, более низкую скорость по сравнению с некоторыми альтернативными сборками, а также неполную практическую проверку на Mac с 48 ГБ памяти. Лицензия указана как qwen-community-license-1.0.
Qwythos-27B-v1-i1-GGUF — это квантизированная GGUF-версия модели Qwythos-27B-v1, разработанной empero-ai и подготовленной квантизатором mradermacher. Модель предназначена для задач рассуждения, работы с текстом и изображениями, генерации текста по изображениям, использования инструментов и function calling, а также агентских сценариев. В тегах также указаны направления cybersecurity и biomedical, однако подробности специализированного обучения в README не приведены. Модель имеет размер 27B параметров, поддерживает английский язык и относится к мультимодальным vision-моделям. Заявлена поддержка длинного контекста до 1M токенов, multi-token prediction и различных методов обучения, включая SFT, DPO, ESFT и full fine-tune, но технические детали архитектуры и подтверждённые характеристики контекстного окна не раскрыты. Репозиторий содержит варианты квантизации от Q2_K до Q6_K и IQ-кванты: более компактные варианты требуют меньше памяти, но могут снижать качество; Q4_K_M отмечен как быстрый и рекомендуемый, а Q4_K_S — как оптимальный по сочетанию размера, скорости и качества. Модель распространяется под лицензией Apache-2.0. Для работы с изображениями могут потребоваться отдельные mmproj-файлы из статического репозитория. README не содержит результатов тестирования, подробных ограничений безопасности или инструкций по выбору аппаратных ресурсов, поэтому фактическое качество и производительность зависят от выбранного варианта квантизации и используемого программного окружения.
Ramakrishna-7b-v4 — языковая модель для генерации текста, созданная объединением пяти моделей с помощью LazyMergekit. Она основана на архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста; метаданные Hugging Face также указывают эту задачу как основную. Веса опубликованы в формате safetensors. В README не описаны особенности качества, поддерживаемые языки и конкретные области применения, поэтому их нельзя определить по имеющимся данным. Лицензия в предоставленных метаданных и README не указана.
Rogue-27B-KR — корейская специализированная языковая модель для диалогов и пошаговых рассуждений, разработанная ginigen-ai. Она создана слиянием Darwin-27B-Opus и корейской SFT-версии Qwen, после чего дополнительно дообучена на корейских данных. По карточке, модель заняла второе место в K-AI Leaderboard и показала улучшение на тесте CLIcK по культурным и языковым знаниям Кореи. Модель имеет плотную архитектуру RogueForCausalLM на базе Qwen3.5 с гибридным механизмом GatedDeltaNet и Attention, около 21,3 млрд параметров по метаданным и контекст до 262 144 токенов. Она принимает текст и генерирует текст; README описывает корейские сценарии, включая рассуждения, работу с длинными документами, а также вопросы по культуре, истории, праву и финансам. В метаданных также перечислены английский, японский и китайский языки. Для запуска в BF16 требуется около 48 ГБ видеопамяти; доступны варианты квантования при отдельной подготовке. Модель распространяется по лицензии Apache 2.0.
Sakura-SOLRCA-Instruct-DPO — плотная авторегрессионная языковая модель семейства Llama, разработанная Kyujin Han (kyujinpy) в рамках исследовательского консорциума компаний 미디어그룹사람과숲 и 마커. Модель дообучена методом DPO на наборе Intel/orca_dpo_pairs и предназначена для диалоговой генерации текста и следования инструкциям. Модель содержит 10,6 млрд параметров, рассчитана на контекст до 4096 токенов и распространяется в формате safetensors для Transformers. Карточка приводит результаты на наборах ARC, HellaSwag, MMLU, TruthfulQA, Winogrande и GSM8K; основным языком в метаданных указан английский. Лицензия CC BY-NC-SA 4.0 требует указания авторства, ограничивает коммерческое использование и распространяет аналогичные условия на производные материалы.
Sao10K_Llama-3.3-70B-Vulpecula-r1-GGUF — это набор GGUF-квантизаций текстовой генеративной модели Llama-3.3-70B-Vulpecula-r1, разработанной Sao10K и подготовленной квантизатором bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться через llama.cpp, LM Studio и другие совместимые проекты. Заявленный язык — английский. Модель относится к семейству Llama 3.3 и имеет 70 миллиардов параметров; поддерживается только текстовая модальность. Доступны варианты квантизации от Q8_0 до Q2_K и IQ-квантов разного размера: более высокие разрядности обычно обеспечивают лучшее качество, а низкие уменьшают требования к памяти ценой заметной потери качества. Для работы требуется значительный объём оперативной или видеопамяти: размер файлов варьируется примерно от 27 до 75 ГБ. Формат prompt должен соответствовать шаблону Llama 3.3. Размер контекстного окна в README не указан. Сильными сторонами являются высокая ёмкость исходной 70-миллиардной модели, широкий выбор компромиссов между качеством и размером, а также совместимость с локальным запуском через llama.cpp. Ограничения включают большие требования к ресурсам, снижение качества при агрессивной квантизации и отсутствие сведений о мультимодальности, поддерживаемых языках помимо английского и контекстном окне. Указанная лицензия — llama3.3.
SeaLLM-7B-v2 — мультиязычная языковая модель для языков Юго-Восточной Азии, разработанная командой SeaLLMs. Модель основана на Mistral-7B: авторы продолжили предварительное обучение и настроили её с упором на рассуждения. По метаданным это плотная архитектура Mistral с 7,2 млрд параметров; она поддерживает контекст до 32 768 токенов и предназначена для диалогового текстового взаимодействия. Модель подходит для генерации ответов и инструкций, решения математических задач, рассуждений здравого смысла и ответов на вопросы на английском, китайском, вьетнамском, индонезийском, тайском, малайском, кхмерском, лаосском, бирманском и тагальском языках. В карточке приведены результаты на мультиязычных математических и общих знаниях, включая тесты для нескольких языков региона; качество может различаться в зависимости от языка и задачи. Возможны неточные, вводящие в заблуждение или потенциально вредные ответы, поэтому перед внедрением модель следует проверять и защищать от небезопасных сценариев. В метаданных указана лицензия other, а карточка требует соблюдать условия SeaLLMs Terms of Use.
Это слитая модель генерации текста на основе GPT-NeoX, созданная автором репозитория с помощью mergekit. В линейном слиянии использованы контрольные точки предварительно обученной языковой модели с шагов 7 000, 8 000, 9 000, 10 000 и 11 000; базой слияния служила контрольная точка шага 11 000. Модель содержит 8,8 млрд параметров, использует формат safetensors и поддерживает контекст до 16 384 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. README и метаданные не сообщают конкретных языков, тематических областей или специализированных сценариев применения, поэтому её следует рассматривать как языковую модель общего назначения. Лицензия в предоставленных данных не указана.
PracticeLLM/SOLAR-tail-10.7B-instruct-v1.0 — языковая модель Kyujin Han (kyujinpy), созданная инструкционным дообучением модели PracticeLLM/SOLAR-tail-10.7B-Merge-v1.0 на наборе KOR-OpenOrca-Platypus-v3. Это плотная авторегрессионная трансформерная модель семейства Llama с архитектурой LlamaForCausalLM и 10,6 млрд параметров. Модель предназначена для генерации текста и ответов на инструкции, включая задачи на корейском и английском языках. Контекст составляет 4096 токенов; веса опубликованы в формате safetensors и могут загружаться через Transformers. В опубликованной таблице модель сравнивается по бенчмаркам ARC, HellaSwag, MMLU, TruthfulQA и Ko-CommonGenV2. Репозиторий распространяется по лицензии CC BY-NC-SA 4.0, которая ограничивает коммерческое использование и требует соблюдения условий атрибуции и распространения производных материалов.
Spaetzle-v69-7b — объединённая модель, опубликованная cstr и созданная с помощью LazyMergekit на основе Mistral. В финальном слиянии DARE-TIES сочетаются cstr/Spaetzle-v68-7b и abideen/AlphaMonarch-dora; README перечисляет также модели, вошедшие в предшествующие слияния. Модель содержит 7,1 млрд параметров, использует архитектуру Mistral для генерации текста и рассчитана на контекст до 32 768 токенов. Модель предназначена для локальных задач на английском и немецком языках, включая диалоги, выполнение инструкций и рассуждения. В README приведены результаты нескольких англо- и немецкоязычных тестов; автор отмечает, что при выборе компромисса учитывались качество немецкого языка, следование инструкциям и устойчивость. Указана лицензия CC BY-NC 4.0, которая ограничивает коммерческое использование. В README также упомянута квантизованная GGUF-версия 4q_k_m, но сама модель в репозитории представлена в формате safetensors.
Карточка модели hamxea/StableBeluga-7B-activity-fine-tuned-v2 на Hugging Face совпадает с карточкой stabilityai/StableBeluga2, поэтому описание составлено по ней. Stable Beluga 2 — авторегрессионная языковая модель Stability AI на архитектуре Llama 2, дообученная на 70B-базе в стиле Orca. Она предназначена для диалогов и генерации текста, в том числе ответов на вопросы и выполнения текстовых инструкций. Модель содержит 68,7 млрд параметров, работает с текстом и имеет контекст длиной 4096 токенов; в карточке заявлена поддержка английского языка. Модель опубликована в формате PyTorch и рассчитана на использование через Hugging Face Transformers. Чекпойнт распространяется по лицензии STABLE BELUGA NON-COMMERCIAL COMMUNITY LICENSE AGREEMENT, которая ограничивает коммерческое использование. Модель может выдавать неточные, предвзятые или нежелательные ответы; перед применением в продукте Stability AI рекомендует проводить проверку безопасности и настройку под конкретный сценарий.
Strawberry-1.2 — причинная языковая модель с архитектурой gpt_oss и смесью экспертов, дообученная artindnr на основе artindnr/strawberry-1.1. Она предназначена для многоязычных рассуждений и диалогов, в том числе на фарси, английском, немецком и испанском языках. Модель поддерживает контекст длиной до 131 072 токенов и использует шаблон чата Harmony; в метаданных указан размер 1,6 млрд параметров. Модель подходит для создания многоязычных помощников, обучающих инструментов и приложений, которым нужны инструкции и рассуждения на разных языках. Она стремится сохранять язык рассуждений, заданный в системном сообщении, независимо от языка запроса. Распространяется по лицензии Apache 2.0. Качество и языковое покрытие могут различаться: модель иногда смешивает языки, особенно в технических темах, а на языках с меньшим представительством в обучающих данных может работать хуже. Возможны фактические ошибки и ошибки в рассуждениях; отдельная настройка безопасности сверх унаследованной от базовых моделей не проводилась.
Strawberry-1.3 — авторская дообученная модель artindnr для многоязычных диалогов и рассуждений. Это причинная декодерная языковая модель семейства gpt_oss с архитектурой mixture-of-experts; в метаданных указан размер 1,6 млрд параметров и контекст до 131 072 токенов. Модель принимает текст и генерирует текст в формате чата Harmony, поддерживая управление языком рассуждений отдельно от языка запроса. Модель дообучена на многоязычном наборе рассуждений и предназначена для создания помощников, обучения и задач, требующих последовательного анализа на фарси, английском, немецком, испанском, французском, итальянском и других языках. README описывает её как дальнейшее дообучение Strawberry-1.2, а метаданные связывают её с Strawberry-1.1; базовая модель в каталоге указана как artindnr/strawberry-1.1. Качество и охват языков могут различаться; в сложных технических ответах возможны смешение языков, фактические ошибки и ошибки рассуждения. README также предупреждает об отсутствии дополнительной настройки безопасности сверх унаследованной от базовых моделей. Лицензия — Apache 2.0.
T3Q-qwen2.5-14b-v1.2-e2 — дообученная модель JungZoona на базе Qwen/Qwen2.5-14B-Instruct-1M. Это плотная авторегрессионная языковая модель с 14 млрд параметров для диалогов и генерации текста; карточка показывает загрузку через Transformers с применением chat template. Модель поддерживает контекст до 1 010 000 токенов и интерфейс вызова инструментов. В метаданных указаны английский и корейский языки. Модель распространяется в формате safetensors по лицензии Apache-2.0. README сообщает о постобучении с LoRA, но не описывает состав обучающих данных и конкретные улучшения качества, поэтому её специализацию сверх диалоговой генерации текста определить нельзя.
panggi/t5-base-indonesian-summarization-cased — дообученная модель семейства T5 для суммаризации текстов на индонезийском языке. Разработчик дообучил T5 base summarization model на датасете IndoSum; в карточке также указана базовая модель huseinzol05/t5-base-bahasa-summarization-cased. Модель имеет архитектуру T5ForConditionalGeneration, около 123,8 млн параметров и контекст длиной до 1024 токенов; доступны веса PyTorch и Flax. Модель предназначена для создания краткого содержания индонезийских текстов, например новостных материалов из домена, представленного в IndoSum. Она принимает текст и генерирует текстовое резюме. Лицензия в предоставленных данных не указана.
lmqg/t5-large-squad-qg — англоязычная модель генерации вопросов, разработанная на базе T5-large и дообученная проектом lmqg на наборе данных lmqg/qg_squad. Она предназначена для создания вопросов по тексту и используется в системах подготовки учебных материалов, викторин и вопросно-ответных наборов; модель также оценивалась в сценариях генерации вопросов по ответам и в тестах на данных из других доменов. Это плотная encoder-decoder архитектура T5ForConditionalGeneration с 385,2 млн параметров и контекстом до 512 токенов. Модель принимает и выдаёт текст на английском языке. Веса доступны в формате PyTorch по лицензии CC BY 4.0. Качество вне обучающего домена может различаться; приведённые в карточке оценки получены на конкретных наборах данных и не гарантируют качество для произвольных текстов.
liamvbetts/t5-small-finetuned-2024-03-15 — компактная модель T5, дообученная на базе liamvbetts/t5-small-finetuned-2024-03-14 для преобразования текста в текст. Веса доступны в формате safetensors; модель содержит 38,5 млн параметров и имеет контекст длиной до 512 токенов. Карточка сообщает результаты оценки: Loss 1.5180, ROUGE-1 42.6379, ROUGE-2 30.7892, ROUGE-L 39.2984 и ROUGE-Lsum 39.671. Конкретная задача, обучающие данные и предполагаемые сценарии использования не описаны. Лицензия в предоставленных данных не указана.
eenzeenee/t5-small-korean-summarization — модель семейства T5, разработанная на основе paust/pko-t5-small и дообученная для суммаризации корейских текстов. Она предназначена для создания кратких изложений научных статей, книг и материалов с итоговыми формулировками и отчётами. Модель содержит 55,1 млн параметров и использует архитектуру T5ForConditionalGeneration; репозиторий предоставляет веса в форматах PyTorch и Safetensors. Модель ориентирована на корейский язык и обучалась на трёх наборах данных: для суммаризации научных публикаций, книг, а также для составления кратких выводов и отчётов. Лицензия в доступных сведениях не указана.