I.2Синтез, понимание и проверка знаний

Guile/Qwen3.8-Flash-Next-GGUF — это GGUF-квантизированная версия модели Qwen3.8-Flash-Next, разработанной командой Qwen и квантизированной bartowski с использованием llama.cpp. Модель содержит около 180 млрд параметров и предназначена для задач генерации и понимания текста, а также обработки изображений в мультимодальном режиме при наличии файла mmproj. Поддержка speculative decoding не заявлена. Доступны варианты весов от BF16 и Q8_0 до низкобитных Q2–Q5 и IQ-квантизаций. Размер файлов составляет примерно от 88 до 354 ГБ, поэтому модель рассчитана на системы с большим объёмом оперативной или видеопамяти. В README рекомендуется Q4_K_M как компромисс между качеством и размером, а Q6_K — как вариант с очень высоким качеством. Квантизации используют imatrix, что должно помогать сохранять качество при уменьшении размера, однако более низкие разрядности сопровождаются заметным снижением качества. Модель запускается через совместимые инструменты экосистемы llama.cpp и распространяется с лицензией qwen-community-1.0; указана лицензия other и ссылка на файл LICENSE. Сведения о поддерживаемых языках, размере контекстного окна и точных архитектурных особенностях в предоставленном README отсутствуют.

Hagwell/Qwen3.8-Flash-Next-GGUF — GGUF-версия экспериментальной мультимодальной модели Qwen3.8-Flash-Next, разработанной командой Qwen; репозиторий Hagwell распространяет модель в формате, предназначенном для локального запуска. Модель основана на архитектуре, которая заявлена как фундамент для будущего Qwen4, и поддерживает обработку текста и изображений благодаря языковой модели с vision encoder. Модель предназначена для генерации и понимания текста, работы с изображениями, задач с длинным контекстом и агентных сценариев. Она имеет 125 млрд параметров, из которых активируется около 6 млрд, а также включает 51 млрд параметров n-gram embedding и 4 млрд параметров MTP. Архитектура содержит 48 слоёв, комбинацию Gated DeltaNet и Qwen Sparse Attention, MoE с 512 экспертами, из которых маршрутизируются 10 экспертов и один общий, а также механизмы Gated Residual и n-gram embedding. Нативная длина контекста составляет 262 144 токена и может быть расширена до 1 000 000 токенов. К сильным сторонам относятся высокая эффективность активации параметров, поддержка длинного контекста, оптимизация sparse attention на уровне блоков и возможность локального запуска через llama.cpp или Unsloth Desktop. Ограничения включают экспериментальный статус архитектуры, высокие требования к памяти для полной модели, а также отсутствие в предоставленных данных сведений о поддерживаемых языках, подробных результатах тестирования и качестве на конкретных прикладных задачах. Модель распространяется по лицензии qwen-community-1.0; для использования следует ознакомиться с файлом LICENSE.

Vontra/Qwen3.8-Flash-Next-MLX-oQ3-MTP — это квантованная MLX-версия Qwen3.8-Flash-Next, подготовленная разработчиком Vontra на основе официального BF16-чекпойнта Qwen. Модель предназначена для запуска на Apple Silicon через совместимые среды MLX и oMLX, включая задачи генерации текста и обработки изображений благодаря архитектуре vision-language. Модель использует архитектуру qwen4_exp со sparse mixture-of-experts, Gated DeltaNet, Qwen Sparse Attention, расширенными gated residual streams и n-граммными embeddings. Всего заявлено 125 млрд параметров языковой модели, из которых активно используется около 6 млрд, 48 слоёв, 512 маршрутизируемых экспертов, 10 активных экспертов на токен и один общий эксперт. Контекст составляет 262 144 токена, а upstream-версия допускает расширение до 1 млн токенов. В состав включён native MTP-блок на 4 млрд параметров для speculative decoding. Квантование oQ3 использует 3-битную аффинную основу с размером группы 32 и 746 модулями повышенной точности: части весов представлены в 4-, 5-, 6- и 8-битном формате. Модель занимает около 92,5 ГБ и поставляется в формате MLX safetensors. В тесте на Apple M3 Studio включение native MTP повысило скорость генерации с 26,54 до 29,08 токена в секунду, однако фактическая производительность зависит от длины контекста, версии runtime, памяти и тепловых условий. Для работы требуется runtime с явной поддержкой qwen4_exp и native MTP; неподдерживаемые среды могут не загрузить модель. Модель распространяется по лицензии Qwen Community License 1.0. README не содержит полных сведений о результатах upstream-оценок, безопасности и ограничениях исходной модели; за ними следует обращаться к оригинальной карточке Qwen3.8-Flash-Next.

Qwen3-VL-8B-Instruct-Unredacted-MAX-Quants-GGUF — набор высококачественных GGUF-квантизаций мультимодальной модели prithivMLmods/Qwen3-VL-8B-Instruct-Unredacted-MAX. Модель предназначена для диалогового взаимодействия, генерации текста и анализа изображений, включая задачи image-to-text, описания изображений и визуального распознавания. В README заявлена версия без ограничительных фильтров. Модель основана на архитектуре Qwen3-VL и содержит 8 миллиардов параметров. Поддерживаются текстовая и визуальная модальности, а также английский, русский и китайский языки. Доступны варианты квантования Q2_K, Q3_K_M, Q4_K_M, Q5_K_M, Q6_K, Q8_0 и F16; Q4_K_M рекомендован как баланс скорости и качества, а F16 служит эталонным вариантом с базовым качеством. Для обработки изображений требуется отдельный vision projector mmproj, доступный в форматах F32, F16, BF16 и Q8_0. Преимуществами являются совместимость с llama.cpp и другими GGUF-совместимыми средами, выбор вариантов под разные требования к памяти и производительности, а также полноценная поддержка изображений при использовании mmproj. К ограничениям относятся компромиссы между размером, скоростью и качеством у разных квантований; варианты Q2_K и Q3_K_M характеризуются более заметной потерей качества, а визуальные задачи требуют дополнительного файла проектора. Лицензия — Apache-2.0.

RecurrentGemma 2B — базовая языковая модель Google для генерации текста. Она построена на архитектуре RecurrentGemma и предназначена для использования через Transformers; в карточке также упомянуто обучение с помощью JAX и ML Pathways. Модель подходит для генерации и чернового редактирования текстов, диалоговых интерфейсов, суммаризации и помощи в исследовании текстовых материалов. Карточка описывает эти сценарии как возможные применения семейства открытых LLM, а не как специализированные возможности этой базовой версии. Модель может ошибаться в фактах, испытывать трудности с неоднозначностью и сложными открытыми задачами, а также воспроизводить смещения обучающих данных. Использование регулируется условиями Gemma; для внедрения Google рекомендует учитывать меры безопасности и правила ответственного использования.

Reka-Flash-3-21B-Reasoning-Uncensored-MAX-NEO-Imatrix-GGUF — текстовая reasoning-модель на базе RekaAI/reka-flash-3, опубликованная DavidAU. Она предназначена для локального текстового общения, решения задач и рассуждений, генерации и продолжения художественных текстов, ролевых сценариев, мозгового штурма и общего использования. Модель заявлена как uncensored и поддерживает function calling, однако подробности реализации этих возможностей в README не приведены. Модель имеет размер 21B параметров, работает в формате GGUF и рассчитана на контекст до 128k токенов. Доступен ряд квантованных вариантов от IQ1 до Q8; варианты с более высокой точностью обычно обеспечивают более качественные и быстрые рассуждения, но требуют больше памяти и вычислительных ресурсов. Варианты дополнительно обработаны с использованием NEO Imatrix и сохраняют BF16 для выходного тензора, что, согласно README, должно улучшать следование инструкциям, качество ответов и эффективность рассуждений. Для работы используются теги <reasoning> и </reasoning>, а системный промпт не является обязательным. Сильными сторонами заявлены стабильное рассуждение при разных значениях температуры, способность не зацикливаться и высокая эффективность оптимизированных квантов. При этом качество рассуждений напрямую зависит от выбранного уровня квантования: IQ1 ограничивает reasoning, а для сложных задач рекомендуются IQ3 и выше, особенно IQ4 или Q5–Q8. Низкие кванты требуют меньше ресурсов, но могут заметно уступать по качеству и скорости. Заявленный язык — английский. Модель распространяется по лицензии Apache-2.0.

SciLitLLM-7B — языковая модель Uni-SMART для понимания научной литературы. Она создана на основе Qwen2-7B с помощью продолженного предварительного обучения и supervised fine-tuning, чтобы расширить знания модели в научной области и улучшить выполнение инструкций для профильных задач. Архитектура — плотная Qwen2 с 7,1 млрд параметров; модель поддерживает чат и контекст до 131 072 токенов. Модель предназначена для работы с научными текстами и показала улучшение средних результатов на бенчмарках SciAssess и SciRIFF относительно ведущих LLM менее чем с 15 млрд параметров. В карточке не перечислены конкретные поддерживаемые языки и отдельные задачи помимо генерации текста. Лицензия — MIT.

SciPhi-Mistral-7B-32k — языковая модель SciPhi-AI на архитектуре Mistral, дообученная на базе Mistral-7B-v0.1. Она рассчитана на генерацию текста с упором на научные рассуждения и образовательные ответы. Для дообучения в течение четырёх эпох использовали более миллиарда токенов, включая данные для следования инструкциям и синтетические учебники. Модель содержит 7,1 млрд параметров, использует Transformer, Grouped-Query Attention, Sliding-Window Attention и токенизатор Byte-fallback BPE. Длина контекста — до 32 768 токенов. Для диалога авторы рекомендуют форматирование запросов по шаблону Alpaca. Репозиторий содержит веса PyTorch, лицензия — MIT. Карточка не уточняет языковой состав обучающих данных, поэтому языковую специализацию модели определить нельзя.

SelFee-13B-delta — дельта-веса модели для следования инструкциям, разработанной проектом KAIST SelFee. Это плотная авторегрессионная модель семейства LLaMA с 12,9 млрд параметров и контекстом 2048 токенов; репозиторий содержит веса в формате PyTorch. Для восстановления полного чекпойнта дельту применяют к исходным весам LLaMA. Модель дообучена на инструкциях и ответах с цепочками самопроверки и пересмотра: она может самостоятельно формировать обратную связь, исправлять ответ и завершать пересмотр, когда считает его ненужным, либо работать с заданным числом пересмотров. SelFee предназначена для диалоговых ответов на инструкции и вопросы, включая задачи из математики и программирования, а также для генерации и доработки ответов посредством самокритики. Обучающие данные включали англоязычные примеры из Alpaca, ShareGPT, Flan, математики и кода; основной язык модели — английский. Лицензия весов — CC-BY-NC-4.0, которая ограничивает коммерческое использование. README отмечает ограничения длины при подготовке части обучающих примеров; качество и точность ответов следует проверять, особенно в предметных задачах.

ifyou819 разработал дообученную модель Pegasus для создания кратких пересказов текстов. Она содержит 366,8 млн параметров, принимает текст и генерирует текстовое резюме; длина контекста — 1024 токена. В README приведены результаты оценки: ROUGE-1 — 0,457, ROUGE-2 — 0,294, ROUGE-L — 0,362. Модель основана на ifyou819/summary-bbc-dataset-v1 и сохранена в формате Safetensors. Карточка не уточняет языки и условия лицензии, поэтому их нельзя определить по доступным данным.

SuperThetaMaven — объединённая модель для генерации текста, созданная jefferylovely с помощью LazyMergekit. В слиянии методом slerp использованы jefferylovely/ThetaMaven10 и vanillaOVO/supermario_v2; в метаданных базовой моделью указана vanillaOVO/supermario_v2. Модель построена на архитектуре Mistral и содержит 7,1 млрд параметров. Она принимает текст и генерирует текст, поддерживая контекст до 32 768 токенов. Её можно применять для диалогов, написания и продолжения текстов, а также генерации ответов на текстовые запросы. Репозиторий содержит веса в формате safetensors. Лицензия CC BY-NC-ND 4.0 требует указания авторства и запрещает коммерческое использование и распространение производных материалов. В README не приведены результаты оценки качества или конкретные ограничения модели.

Карточка модели tokyotech-llm/Swallow-13b-instruct-v0.1 на Hugging Face совпадает с карточкой tokyotech-llm/Swallow-7b-instruct-v0.1, поэтому описание составлено по ней. Swallow-7b-instruct-v0.1 — диалоговая языковая модель TokyoTech-LLM на архитектуре Llama 2 с 6,7 млрд параметров. Она прошла дополнительное предварительное обучение преимущественно на японских текстах, а версия instruct — supervised fine-tuning для следования инструкциям. Токенизатор с расширенным японским словарём эффективнее представляет японский текст. Модель принимает текст и генерирует текст; заявленный контекст — 4096 токенов. Модель предназначена для диалогов и выполнения текстовых инструкций на японском и английском языках: написания текстов, ролевых диалогов, ответов на вопросы, рассуждений и извлечения информации. В README опубликованы оценки на японском MT-Bench и сравнение с другими моделями, однако они не гарантируют качества для каждого сценария. Выпуск v0.1 обозначен как предварительная версия; разработчики предупреждают, что модель ещё не настроена на соответствие человеческим намерениям и требованиям безопасности. Лицензия — Llama 2 Community License (llama2).

Swift-Qwen3.8-27b-oQ4e-fp16-mtp — плотная мультимодальная модель класса 27B, разработанная на основе Swift-Qwen3.8-27b от UkisAI и преобразованная в формат MLX. Она предназначена для задач, сочетающих работу с текстом и изображениями, включая генерацию и понимание текстово-визуального содержимого. Модель содержит текстовый backbone, vision encoder и один слой multi-token prediction (MTP). Текстовая часть включает 64 слоя со скрытым размером 5 120 и feed-forward-размером 17 408. В архитектуре используются 48 слоёв linear attention и 16 слоёв full attention; полный attention применяется на каждом четвёртом слое. Словарь содержит 248 320 токенов, заявленный предел контекста составляет 262 144 токена, однако фактическая доступная длина зависит от настроек runtime и объёма памяти. Vision encoder состоит из 27 слоёв со скрытым размером 1 152, 16 attention heads и обрабатывает изображения через патчи 16×16; визуальные признаки проецируются в пространство размерности 5 120. Чекпойнт использует смешанную квантизацию: по умолчанию применяются аффинные 4-битные веса с группами по 64 значения, а для 187 модулей заданы 5-битные переопределения. Часть параметров MTP, включая fusion matrix и веса нормализации, сохраняется в FP16, поэтому суффикс fp16 не означает полностью FP16-модель. Такой формат снижает требования к памяти по сравнению с полноразмерными весами, но точные характеристики производительности и совместимость зависят от MLX runtime и оборудования. Языки в README не указаны. Модель распространяется на условиях Swift Open License v1.0; преобразование не изменяет условия upstream-лицензии. Перед использованием необходимо ознакомиться с условиями лицензии и ограничениями доступа исходной модели.

MaziyarPanahi/T3qm7xNeuralsirkrishna_Experiment24Experiment28 — объединённая языковая модель на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием automerger/T3qm7xNeuralsirkrishna-7B и automerger/Experiment24Experiment28-7B и предназначена для генерации текста и диалогов. Модель принимает текст и выдаёт текст. Контекст составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не описывает специализированные области применения или отдельные ограничения качества; возможности стоит оценивать на задачах конкретного приложения.

Wikihow T5-small — модель семейства T5, дообученная разработчиком osanseviero на полном наборе данных WikiHow для суммаризации. Она принимает текст и генерирует краткое изложение; в карточке указаны максимальная длина входа 512 токенов и максимальная длина вывода 150 токенов. Размер модели — 38,5 млн параметров. Для оценки приведены ROUGE-1 31,2 и ROUGE-L 24,5. Модель подходит для создания кратких пересказов инструкций и статей WikiHow на английском языке. В метаданных перечислены форматы PyTorch, Flax и Core ML. Лицензия в предоставленных данных не указана.

Tinyllama-moe3 (Dopey-karasu-MoE3) — языковая модель семейства TinyLlama, созданная как смесь экспертов (MoE) с помощью LazyMergekit на основе vihangd/DopeyTinyLlama-1.1B-v1 и Tensoic/TinyLlama-1.1B-3T-openhermes. Модель предназначена для диалоговой генерации текста и может использоваться как чат-ассистент для ответов, объяснений, инструкций, рассуждений и кратких изложений. Архитектура — MixtralForCausalLM с MoE; заявленный общий размер — около 1 млрд параметров, контекст — 2048 токенов. Репозиторий содержит веса в формате safetensors. В карточке не перечислены конкретные языки, поэтому языковую поддержку нельзя уточнить. Модель распространяется по лицензии Apache-2.0.

Tri-21B-Think — языковая модель Trillion Labs, дообученная на базе Trillion Labs Tri-21B для рассуждений и многошагового диалога. Это плотная авторегрессионная модель с архитектурой Transformer Decoder, RoPE, SwiGLU, RMSNorm и GQA; в репозитории указано 20,1 млрд параметров. Модель принимает текст и генерирует текст, поддерживает чат и рассчитана на контекст до 32 768 токенов; README также сообщает о расширении контекста до 262 144 токенов с YaRN. Модель предназначена для задач, где полезны пошаговое рассуждение, ответы на сложные вопросы, многоходовые взаимодействия и работа с инструментами. Авторы сообщают об улучшении корейского языка по сравнению с базовой моделью; основные языки — английский, корейский и японский. На этапе рассуждения генерация дополнительных токенов может увеличивать задержку, а качество на других языках может быть ниже. Заявленная лицензия — Apache-2.0.

Tulu V2 70B — языковая модель-помощник, разработанная AI2 и дообученная на базе meta-llama/Llama-2-70b-hf на смеси общедоступных, синтетических и созданных людьми данных. Это плотная авторегрессионная модель семейства Llama с 68,7 млрд параметров и контекстом до 8192 токенов. Модель предназначена для диалогов и выполнения инструкций на английском языке: она может отвечать на вопросы, помогать с текстовыми задачами и поддерживать беседу. Для работы следует использовать обученный формат сообщений с нужными разделителями и переводами строк. Модель не проходила выравнивание на безопасные ответы в рамках RLHF и не оснащена фильтрацией ответов, поэтому может выдавать проблемный контент, в том числе по соответствующему запросу. Распространяется по лицензии AI2 ImpACT Low-risk.

Versatile-7B — объединённая языковая чат-модель на архитектуре Mistral, опубликованная Syed-Hasan-8503. Она предназначена для диалогов и генерации текста. Веса объединены методом DARE TIES из MTSAIR/multi_verse_model и MaziyarPanahi/Calme-7B-Instruct-v0.3; модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель принимает текст и выдаёт текст. В каталоге она указана как англоязычная, поэтому подходит для англоязычного общения и генерации. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия — Apache-2.0. Данные карточки не описывают отдельные оценки качества или ограничения применения.

Vikhr-7b-0.1 — русскоязычная модель генерации текста от Vikhrmodels на базе архитектуры Mistral. Модель содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. В README указано, что её дополнительно обучали на 400 млн токенов в течение трёх эпох; в метаданных также указан датасет IlyaGusev/habr. Модель предназначена для генерации и продолжения текста, в том числе для русскоязычных задач. В сравнительных результатах README она превосходит Mistral-7B-v0.1 на XWinograd и XNLI, но уступает на MMLU на русском языке. Автор предупреждает, что качество работы с кодом может быть низким. Репозиторий использует формат safetensors, библиотеку Transformers и лицензию Apache-2.0.

Vi-Qwen2-3B-RAG — языковая модель семейства Qwen2, дообученная командой разработчиков, указанной в карточке, для задач генерации с дополнением найденными материалами (RAG). Модель рассчитана на вьетнамский язык и поддерживает диалоговый режим; в метаданных указаны 3,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для ответов на вопросы по извлечённым документам: она может находить полезные сведения в зашумлённом контексте, отказываться от ответа при отсутствии нужной информации, объединять факты из нескольких фрагментов и определять, содержится ли ответ в контексте. Также её можно применять как чат-модель для последовательных вопросов. В карточке описана оценка определения наличия ответа с точностью около 99%, но подробности методики и воспроизводимые результаты не приведены. Это плотная авторегрессионная модель Qwen2 для генерации текста, доступная в формате Safetensors и рассчитанная на использование через Transformers. README описывает версию Vi-Qwen2-7B-RAG, тогда как идентификатор репозитория и метаданные относятся к Vi-Qwen2-3B-RAG; поэтому сведения о специфических результатах и сценариях меньшей версии следует считать описанием семейства, а не подтверждёнными отдельными оценками этой модели. Лицензия — Apache-2.0. Разработчики предупреждают, что модель специализирована на RAG и может быть ненадёжной в вопросах политики и общества, а также проявлять предвзятость или неуместные взгляды.

Карточка модели pythainlp/wangchanglm-7.5B-sft-en на Hugging Face совпадает с карточкой pythainlp/wangchanglm-7.5B-sft-enth, поэтому описание составлено по ней. WangChanGLM-7.5B-sft-enth — разработанная PyThaiNLP и VISTEC-depa AI Research Institute of Thailand версия XGLM-7.5B, дообученная следовать инструкциям. Модель содержит 8,6 млрд параметров, использует архитектуру XGLM и принимает текстовые запросы, генерируя текст; длина контекста — 2048 токенов. Модель предназначена для ответов на вопросы по тексту, мозгового штурма и творческого письма. Этот вариант дополнительно дообучен на тайских данных, переведённых с помощью Google Translate; в карточке также указана оценка возможностей для английского, тайского, японского и вьетнамского языков. Для обучения использованы открытые наборы данных, включая OIG, Dolly v2, OpenAI TL;DR и HC3. Лицензия весов — CC-BY-SA 4.0. Модель слабо подходит для математики, сложных рассуждений и ответов, требующих фактической точности. В карточке также отмечены нежелательные предубеждения и токсичность; перед применением в конкретной задаче рекомендуется дополнительная проверка.

nlpguy/Westgate — слитая языковая модель на архитектуре Mistral, созданная с помощью mergekit методом SLERP из jsfs11/TurdusTrixBeagle-DARETIES-7B и senseable/garten2-7b. Модель содержит 7,1 млрд параметров, принимает текст и предназначена для генерации текста; заявленная длина контекста — 32 768 токенов. Модель подходит для диалогов, следования инструкциям и рассуждений, а результаты тестирования в README включают показатели на AI2 Reasoning Challenge и HellaSwag. Карточка не описывает специализацию по языку или предметной области. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

GLM-5.1-GGUF — набор квантизированных версий языковой модели GLM-5.1, разработанной zai-org и подготовленной пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp и совместимые приложения, включая LM Studio, KoboldCpp, Jan AI и Text Generation Web UI. Поддерживаются английский и китайский языки. Модель поставляется в формате GGUF с вариантами квантизации от Q8_0 до Q2_K и IQ-серии. Размер файлов составляет примерно от 226,60 до 801,34 ГБ; некоторые варианты разделены на несколько частей. Версии с более высокой разрядностью обычно обеспечивают лучшее качество, но требуют значительно больше памяти, тогда как низкоразрядные варианты экономичнее, но заметно уступают по качеству. Для большинства сценариев автор рекомендует варианты Q4_K_M, Q4_K_L, Q5_K_M, Q5_K_S и Q6_K. Это текстовая модель без заявленной поддержки изображений или других модальностей. Архитектура, число параметров и размер контекста в README не указаны. Квантизация выполнена с использованием imatrix и llama.cpp; для недавно поддерживаемых моделей может потребоваться обновление используемого приложения. Модель распространяется по лицензии MIT.

Zenith-7B-dpo-v1 — диалоговая языковая модель Xenon1 на архитектуре Mistral, дообученная на Mistral-7B-v0.1 с использованием набора Ultrafeedback и техник из статьи Self-Rewarding Language Models. Модель предназначена для генерации ответов на инструкции и ведения диалога; для запросов используется формат Mistral с маркерами [INST] и [/INST], также доступен шаблон чата Transformers. Модель содержит 7,1 млрд параметров, использует Grouped-Query Attention, Sliding-Window Attention и токенизатор Byte-fallback BPE. Максимальный контекст — 32 768 токенов. Указана поддержка английского языка; опубликованные веса представлены в формате safetensors. Модель распространяется по лицензии Apache-2.0.

Agnes-3.0-Flash Preview GGUF — набор квантизированных сборок базовой модели Agnes-AI/Agnes-3.0-Flash, опубликованный quimmedes. Модель предназначена для генерации текста и мультимодальных сценариев с изображениями и видео, а также для локального запуска через совместимый runtime llama.cpp. Доступны варианты квантования от Q3 до Q9 и несколько альтернативных сборок с разным распределением точности между компонентами модели. Архитектура основана на гибридной схеме с recurrent SSM- и attention-слоями: 72 слоя, включая 54 delta-rule и 18 global attention, дополнительная параллельная SwiGLU-ветвь в каждом слое, около 32,63 млрд параметров, размер скрытого состояния 5120, словарь из 248 320 токенов и один MTP-слой. Поддерживаются текст, изображения и видео; точный набор языков и максимальная длина контекста в README не указаны, хотя приведён пример запуска с контекстом 32 768 токенов. Модель использует тот же токенизатор и шаблон чата, что и Qwen3.8-27B, но имеет дополнительные слои и переобученные проекционные матрицы. Ключевое преимущество сборок — сочетание гибридного внимания, поддержки длинного контекста, мультимодальности и выбора размера файла: от 12,12 до 32,28 GiB для основной линейки. Для работы требуется патченная версия cafe-llama.cpp; стандартная llama.cpp не поддерживает необходимые тензоры и может завершиться ошибкой или некорректно загрузить модель. Указанные требования к видеопамяти и параметры запуска ориентированы на карту 24 ГБ, однако фактические возможности зависят от выбранного квантования и длины контекста. Модель и сборки распространяются по лицензии Apache-2.0.

AIFT-ko-orca-plat-Yi-ko-6b-v1.2-dpo는 AIFT가 공개한 한국어 지시 따르기 모델로, 기반은 Yi 계열 6B 모델이며 체크포인트에는 약 5,9 млрд параметров. Модель дообучена методом LoRA на очищенных и отобранных данных KOR-OpenOrca-Platypus и дополнительных наборах для истории, науки, математики, машинного чтения, анализа отзывов, грамматики, морфологии, суммаризации и перевода между английским и корейским. Дополнительно применён DPO на примерно 17 тысячах примеров, ориентированных на CommonGen и TruthfulQA. Модель предназначена для генерации ответов на инструкции и вопросов на корейском языке, включая образовательные задания, чтение с пониманием, краткое изложение и перевод. Архитектура — плотная LlamaForCausalLM; контекст составляет 2048 токенов. Репозиторий содержит веса Safetensors, лицензия — CC BY-SA 4.0. Данные обучения закрыты, а описание не приводит количественных оценок качества. Поэтому пригодность для конкретных задач следует проверять отдельно; короткий контекст ограничивает работу с длинными документами.

zli12321/answer_equivalence_roberta-large — модель семейства RoBERTa-Large, предназначенная для оценки эквивалентности ответа кандидата эталонному ответу в задачах контроля качества систем вопросов и ответов. В карточке README модель указана среди дообученных моделей для нейронного сопоставления ответов; метаданные указывают архитектуру RobertaForMaskedLM, объём 454,1 млн параметров и контекст до 514 токенов. Модель подходит для сравнения ответа с одним или несколькими эталонами с учётом вопроса, выставления оценки сходства и определения, эквивалентны ли ответы. Её можно применять при оценке QA-моделей на англоязычном наборе PEDANTS; метаданные также указывают задачи fill-mask и text-classification. В README не уточнены детали обучения именно этого чекпойнта и его метрики качества. Модель распространяется по лицензии MIT. Карточка не описывает специальные меры безопасности или ограничения предметной области; оценка эквивалентности зависит от эталонных ответов и может ошибаться на неоднозначных формулировках.

Это модель суммаризации текста на архитектуре mBART с 95 млн параметров. Она дообучена автором репозитория на базе moussaKam/barthez-orangesum-title; обучающий датасет в карточке не описан. Модель предназначена для создания краткого изложения текста. В карточке приведены результаты оценки: ROUGE-1 0,2048, ROUGE-2 0,0600, ROUGE-L 0,2053 и ROUGE-Lsum 0,2057. Контекст составляет до 1024 токенов. Модель распространяется в формате PyTorch по лицензии Apache-2.0.

Athena-7B-Instruct — многоязычная языковая модель семейства Llama, представленная пользователем Mewingk. Это плотная decoder-only архитектура LlamaForCausalLM с 7,2 млрд параметров по README; метаданные каталога при этом указывают 2,1 млн параметров. Модель прошла инструкционное дообучение и предназначена для генерации текста и выполнения инструкций на разных языках. Модель можно применять для диалогов, ответов на вопросы, написания и преобразования текста. В README заявлены предварительное обучение на 2,5 трлн токенов более чем на 60 языках, 32 слоя, GQA с 8 KV-головами и контекст 8192 токена; метаданные указывают нативный контекст 512 токенов. Лицензия — Apache-2.0. Заявленные характеристики размера и контекста расходятся между README и метаданными, поэтому фактическую конфигурацию следует сверить с файлами весов. Нет сведений о специализированной предметной области или оценках качества.