I.5Создание и редактирование текста

Qwen3-235B-A22B-Instruct-2507-GGUF — это квантизированная версия инструкционной языковой модели Qwen3-235B-A22B-Instruct-2507, разработанной командой Qwen. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. Модель имеет архитектуру и размер исходной версии Qwen3-235B-A22B-Instruct-2507; в названии указаны 235 млрд параметров и конфигурация A22B. Представлены варианты GGUF с разными уровнями квантизации — от Q2 до Q8_0 — размером примерно от 93 до 250 ГБ для указанных файлов. Более высокие уровни обычно обеспечивают лучшее качество, но требуют больше оперативной или видеопамяти. README не содержит сведений о поддерживаемых языках, длине контекста и мультимодальности. Сильной стороной являются разнообразие вариантов квантизации и возможность локального запуска, включая рекомендации Q6_K, Q5_K_M, Q5_K_S и Q4_K_M для разных компромиссов между качеством и требованиями к памяти. Ограничениями выступают очень крупный размер модели и высокие аппаратные требования; при низких уровнях квантизации качество снижается. Лицензия в предоставленных данных не указана.

Это GGUF-квантизированная версия языковой модели Qwen3-30B-A3B-Thinking-2507, разработанной Qwen и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp; формат подходит для офлайн-сценариев на оборудовании с ограниченными ресурсами по сравнению с полной версией BF16. Модель относится к семейству Qwen3 и имеет заявленный размер 30B параметров, при этом в названии указано A3B. README не содержит сведений о поддерживаемых языках, длине контекста, конкретной архитектуре, мультимодальности и результатах тестирования. Доступны варианты от BF16 до различных уровней квантизации Q8_0, Q6, Q5, Q4, Q3 и IQ; они различаются размером файлов, качеством и требованиями к оперативной памяти. Версии Q6 и Q5 отмечены как высококачественные, Q4_K_M — как стандартный вариант для большинства сценариев, а Q3 предназначены для систем с небольшим объёмом памяти, но дают более низкое качество. Сильными сторонами являются широкий выбор квантизаций, совместимость с популярными локальными инструментами и возможность подобрать баланс между качеством, скоростью и потреблением памяти. Ограничения включают неизбежное снижение качества в более компактных вариантах, значительный размер файлов даже после квантизации и отсутствие в README сведений о лицензии, языках и максимальном контексте. Для корректного диалога рекомендуется использовать указанный в README шаблон prompt format с секцией <think>.

Alcoft/Qwen_Qwen3-4B-GGUF — это набор GGUF-квантизованных версий языковой модели Qwen3-4B, разработанной командой Qwen. Репозиторий подготовлен пользователем Alcoft с использованием TAO71-AI AutoQuantizer; исходная модель доступна в репозитории Qwen/Qwen3-4B. Модель предназначена для генерации текста и локального запуска в совместимых с GGUF приложениях. Доступны варианты квантизации от Q2_K до Q8_0, а также F16 и исходный BF16. Размер файлов составляет примерно от 1,55 до 7,5 ГБ. Для большинства сценариев автор рекомендует варианты Q4_K–Q8_0: Q4_K_M и Q4_K_L дают приемлемое качество при умеренном размере, Q5_K и Q6_K обеспечивают высокое и очень высокое качество, а Q8_0 приближается к качеству F16. Варианты Q2 и Q3 характеризуются низким качеством и в README не рекомендуются. В README не указаны архитектурные подробности, максимальная длина контекста, поддерживаемые языки, дополнительные модальности, конкретные сценарии применения или сравнительные результаты. Лицензия также не указана, поэтому условия использования следует уточнять по карточке исходной модели Qwen3-4B и репозиторию конвертированных файлов.

bartowski/Qwen_Qwen3-4B-GGUF — это набор GGUF-квантизаций базовой текстогенерационной модели Qwen3-4B, разработанной командой Qwen и подготовленной пользователем bartowski. Квантизация выполнена с использованием llama.cpp версии b5200 и метода imatrix, применяющего калибровочный датасет для сохранения качества при уменьшении размера весов. Модель предназначена для локальной генерации текста и диалоговых сценариев в LM Studio, llama.cpp и других совместимых проектах. В README указан формат промпта с ролями system, user и assistant. Доступны варианты от BF16 размером 8,05 ГБ до сильно сжатых IQ2_M размером 1,51 ГБ; рекомендуемыми названы преимущественно варианты Q4–Q6, обеспечивающие удачный баланс качества и требований к памяти. Более компактные варианты подходят для систем с ограниченным объёмом RAM, но дают более низкое качество. Точная архитектура, максимальный размер контекста, поддерживаемые языки, модальности, результаты тестирования и лицензия в представленном README не указаны. Ограничения модели связаны с компромиссом между размером квантизации и качеством: низкобитные варианты заметно уступают более крупным, тогда как BF16 требует существенно больше памяти.

Qwen_Qwen3-4B-Thinking-2507-GGUF — это GGUF-квантизированная версия языковой модели Qwen3-4B-Thinking-2507, разработанной Qwen. Квантизацию выполнил bartowski с использованием llama.cpp версии b6096 и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. Модель имеет размер 4B параметров и ориентирована на сценарии, требующие локального текстового вывода при ограниченных ресурсах. Доступны варианты от BF16 до Q2 и различные форматы квантизации; рекомендованными названы, в частности, Q4_K_M, Q5_K_M, Q6_K и Q6_K_L. Более высокие уровни квантизации обычно обеспечивают лучшее качество, но требуют больше памяти, тогда как низкие уменьшают размер за счёт качества. Для работы используется шаблон промпта с секциями system, user и assistant, включающей тег <think>. Сильными сторонами являются локальный запуск, широкий выбор размеров файлов и оптимизация imatrix-квантизаций под llama.cpp. Ограничения связаны с потерей качества в более агрессивно сжатых вариантах, а также с тем, что в предоставленной карточке не указаны контекстное окно, поддерживаемые языки, точная архитектура, модальности и лицензия исходной модели или квантов. Условия распространения следует уточнять на странице оригинальной модели Qwen/Qwen3-4B-Thinking-2507.

NobodyWho/Qwen_Qwen3.5-0.8B-GGUF — GGUF-квантизированная версия модели Qwen3.5-0.8B, разработанной командой Qwen компании Alibaba Group. Модель подготовлена для использования с NobodyWho, содержит встроенные рекомендованные параметры семплирования Qwen и проверена тестовым набором NobodyWho. Модель предназначена для быстрого диалогового общения и генерации текста, выполнения инструкций, нативного tool calling и локального запуска на устройствах с ограниченными ресурсами. Она поддерживает мультимодальный ввод текста и изображений через дополнительную проекционную модель mmproj-BF16.gguf, режим рассуждений, включённый по умолчанию, а также широкий набор языков. Заявлена поддержка контекста до 262 144 токенов. Модель содержит 0,8 млрд параметров и использует архитектуру qwen35. Доступны варианты BF16, Q8_0 и Q4_K_M; каждый показал результат 13 из 14 тестов tool calling, при этом сложные схемы остаются ограничением. Основные преимущества — малый размер, низкие требования к памяти, мультимодальность, длинный контекст и возможность локального использования. Для работы с изображениями требуется отдельный файл проекционной модели. Распространяется по лицензии Apache 2.0.

Qwen-Qwen3.8-27B-MTPLX — модель генерации текста, созданная на основе Qwen/Qwen3.8-27B и адаптированная для Apple Silicon с использованием MLX. Модель разработана в формате MTPLX командой или проектом MTPLX Forge и предназначена для локального запуска на устройствах Apple Silicon. Модель использует подход multi-token prediction, позволяющий предсказывать несколько токенов за один шаг и ускорять генерацию по сравнению с авторегрессионным базовым режимом. Указан размер базовой модели 27B параметров. Модель поддерживает текстовый ввод и вывод; сведения о языках, размере контекста и дополнительных модальностях в README не приведены. По данным верификации, лучший режим имеет глубину D3, а ускорение относительно авторегрессионной базовой модели составляет 2,24 раза. Проверка проводилась на Apple M4 Pro с параметрами семплирования temperature 0,6, top_p 0,95 и top_k 20. Ограничения включают зависимость от экосистемы MLX и целевых устройств Apple Silicon, а также отсутствие подробных данных о качестве на бенчмарках и совместимости с другими платформами. Условия лицензирования в README не раскрыты: предлагается обратиться к файлу LICENSE.

bartowski/Qwen_Qwen3-8B-GGUF — набор GGUF-квантизированных версий модели Qwen3-8B, разработанной Qwen. Квантизация выполнена bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp; в README также указан формат промпта с разделителями сообщений ChatML. Доступны варианты от BF16 размером 16,39 ГБ до компактных IQ2_M и Q2_K размером около 3 ГБ, а также промежуточные уровни Q8, Q6, Q5, Q4 и Q3. Более высокие уровни квантизации обычно сохраняют лучшее качество, тогда как младшие требуют меньше оперативной памяти, но могут заметно уступать по качеству; для большинства сценариев автор рекомендует Q4_K_M, а также некоторые варианты Q5 и Q6. Архитектура, поддерживаемые языки, модальности и размер контекста в README не указаны, поэтому эти характеристики нельзя подтвердить. Модель распространяется по лицензии Apache-2.0.

Это конвертированные в формат GGUF файлы модели Qwen3-8B-MLX-bf16, подготовленные TensorBlock. Репозиторий содержит варианты с разными уровнями квантования; в README отмечено, что самые компактные варианты Q2_K и Q3_K заметно теряют в качестве. Файлы совместимы с llama.cpp начиная с указанного в карточке коммита. Модель предназначена для генерации текста и диалогового использования. Её можно запускать локально через совместимое программное обеспечение, выбирая вариант файла с учётом доступной памяти и приемлемой потери качества. Лицензия — Apache-2.0.

Qwen-SEA-LION-v4-32B-IT — инструктивная языковая модель AI Singapore, разработанная командой AI Products Pillar при финансировании NRF Сингапура. Это плотная авторегрессионная модель семейства Qwen3 с 29,7 млрд параметров, дообученная на базе Qwen/Qwen3-32B. После продолженного предобучения примерно на 100 млрд токенов из корпуса SEA-Pile v2 модель прошла постобучение на примерно 8 млн пар вопросов и ответов. Модель предназначена для диалога и выполнения инструкций, включая ответы на вопросы, суммаризацию, перевод, анализ тональности и рассуждения. Она ориентирована на языки Юго-Восточной Азии и также поддерживает английский и китайский. Метаданные указывают контекст до 40 960 токенов; README приводит нативный контекст 32 768 токенов. Модель распространяется под лицензией MIT. В README описаны оценки на наборах SEA-HELM, SEA-IFEval и SEA-MTBench для языковых задач, следования инструкциям и многоходового диалога. Модель может галлюцинировать и выдавать нерелевантные или непоследовательные ответы; она не настроена на безопасность и не проверялась на устойчивость к состязательным запросам. Для прикладного использования следует самостоятельно оценить качество и настроить защитные меры.

Qwen-SEA-LION-v4-32B-IT-4BIT — это 4-битная GPTQ-квантизированная версия языковой модели Qwen-SEA-LION-v4-32B-IT, разработанная AI Products Pillar из AI Singapore при финансировании Singapore NRF. Модель относится к декодерным LLM и предназначена для генерации текста и диалоговых сценариев, особенно связанных с языками и задачами Юго-Восточной Азии. Она продолжает предварительное обучение на базе Qwen3-32B и использует его токенизатор. Модель поддерживает контекст длиной до 32 768 токенов и работает с текстовыми данными. Заявлена поддержка бирманского, английского, индонезийского, кхмерского, лаосского, малайского, китайского, тагальского, тамильского, тайского и вьетнамского языков. Обучающие данные включают веб-тексты, код, открытые и синтетически созданные наборы данных; для ряда языков использовано около 100 миллиардов токенов. Квантизация снижает требования к памяти и позволяет запускать модель на потребительских GPU и, согласно README, на ноутбуке, при среднем снижении качества менее чем на 0,3% относительно исходной версии. К ограничениям относятся отсутствие специального safety-выравнивания, непроверенная устойчивость к adversarial prompting, возможные галлюцинации и нерелевантные или фактически неверные ответы. Модель обучалась преимущественно на текстовом бэкенде, поэтому заметных улучшений возможностей работы с изображениями по сравнению с Qwen3-32B не заявлено; фактическую точность следует проверять на целевых задачах. Модель распространяется по лицензии MIT.

Kaoeiri/Qwenwify-32B-v2.6 — плотная языковая модель семейства Qwen2, созданная слиянием нескольких предварительно обученных моделей с помощью mergekit и метода DARE TIES. В качестве основы автор README указывает unsloth/qwen2.5-32b; в метаданных также перечислены несколько моделей-участниц слияния, включая варианты Qwen2.5-32B для инструктивных и ролевых диалогов. Модель предназначена для генерации текста и диалоговых сценариев. Размер составляет 32 млрд параметров, архитектура — Qwen2ForCausalLM, заявленная длина контекста — 131 072 токена. Репозиторий использует библиотеку Transformers и формат safetensors. Карточка не сообщает результаты оценки качества, подробные рекомендации по использованию или языковой охват. Лицензия в предоставленных данных не указана.

Qwerus-7B — языковая модель на 7,1 млрд параметров, созданная mlabonne слиянием моделей PRIME-RL/Eurus-2-7B-PRIME и Qwen/Qwen2.5-7B-Instruct методом DARE-TIES. Она предназначена для диалогов и генерации текста, в том числе для задач рассуждения и решения математических задач. Модель основана на архитектуре Qwen2, принимает текст и выдаёт текст; заявленный контекст составляет 131 072 токена. В метаданных также указана возможность работы через интерфейс вызова инструментов. Карточка приводит результаты оценки на AIME 2024 и MATH-500; в этих тестах Qwerus-7B показала более низкие значения, чем Qwen2.5-7B-Instruct. Поддерживаются китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский языки. Модель распространяется под лицензией MIT.

Qwerus-7B-GGUF — набор GGUF-квантизаций модели Qwerus-7B, разработанный bartowski на основе модели mlabonne/Qwerus-7B. Квантизация выполнена с использованием llama.cpp версии b4418 и метода imatrix. Модель предназначена для генерации текста и локального запуска, в частности через LM Studio и совместимые инструменты llama.cpp. В набор входят варианты от исходных весов F16 размером 15,24 ГБ до компактных квантов IQ2_M размером 2,78 ГБ. Доступны форматы Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ. Более крупные варианты обеспечивают более высокое качество, а компактные требуют меньше оперативной памяти, но сильнее теряют в качестве. Для большинства сценариев автор рекомендует Q4_K_M как сбалансированный вариант, а Q5_K и Q6_K — как более качественные. Из README не указаны архитектура исходной модели, размер контекстного окна, поддерживаемые языки и модальности. Приведён шаблон диалога с ролями system, user и assistant. Лицензия модели — MIT.

Qwopus3.6-35B-A3B-v1-MTP-GGUF — модель Jackrong, основанная на unsloth/Qwen3.6-35B-A3B. Это мультимодальная модель в формате GGUF для генерации текста и обработки связок «изображение—текст», ориентированная на диалоговые сценарии, рассуждения, работу с инструментами и вызов функций. В метаданных указана поддержка английского, китайского, испанского, русского и японского языков. Релиз сохраняет MTP-компоненты исходной архитектуры Qwen3.6. Multi-Token Prediction позволяет одновременно предсказывать несколько последующих токенов и использовать speculative decoding: черновая модель предлагает последовательность токенов, а целевая модель проверяет её параллельно. Это может повысить скорость инференса при совместимости используемого движка с MTP, включая llama.cpp и производные решения. Доступны варианты с разными уровнями квантования — от Q2_K до Q8_0, а также BF16. Для оптимальной производительности требуется соответствующая draft-модель, поддерживающая спекулятивное декодирование; без такой связки преимущество MTP может быть недоступно. Точный размер контекста, подробности архитектуры, результаты оценки качества и ограничения мультимодальных возможностей в README не указаны. Модель распространяется по лицензии Apache 2.0.

mradermacher/Qwopus3.8-27B-Flash-i1-GGUF — квантованная GGUF-версия модели Qwopus3.8-27B-Flash, подготовленная mradermacher на основе модели Jackrong/Qwopus3.8-27B-Flash. Модель предназначена для локального запуска через llama.cpp и совместимые инструменты, генерации текста, диалоговых сценариев, рассуждений, агентских задач, использования инструментов, function calling и генерации кода. Также заявлена поддержка обработки изображений вместе с текстом. Модель относится к мультимодальным vision-языковым моделям с архитектурой и размером семейства Qwen3 8 / 27B; точные архитектурные параметры и размер контекста в README не указаны. Заявлены английский, китайский, испанский, русский и японский языки. Репозиторий содержит набор imatrix-квантов разных уровней, примерно от 11,0 до 22,5 ГБ; варианты различаются компромиссом между размером, скоростью и качеством. В README отмечены рекомендации по отдельным вариантам, но количественные результаты оценки качества не приведены. Сильными сторонами являются мультимодальность, поддержка нескольких языков, широкий набор сценариев применения и возможность локального инференса при выборе подходящего уровня квантования. Ограничения включают потерю качества по сравнению с полноразмерной моделью из-за квантования, зависимость характеристик от выбранного варианта GGUF и отсутствие подробных данных о производительности, контексте и требованиях к оборудованию. Лицензия — Apache-2.0.

bartowski/QwQ-32B-Preview-GGUF — набор GGUF-квантизаций языковой модели QwQ-32B-Preview, разработанной Qwen и опубликованной в формате для запуска через llama.cpp. Репозиторий подготовлен bartowski с использованием imatrix-квантизации и совместим, в частности, с LM Studio. Модель предназначена для генерации текста и чат-сценариев; указан поддерживаемый язык English. Формат взаимодействия использует шаблон сообщений Qwen с ролями system, user и assistant. Доступны варианты от полноразмерных BF16 весов размером 65,54 ГБ до квантизаций Q2–Q8 объёмом примерно от 13 до 35 ГБ. Среди наиболее качественных вариантов README рекомендует Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S и Q4_K-варианты; Q4_K_M обозначен как типичный выбор для большинства сценариев. Некоторые файлы оптимизированы для ARM и имеют ограничения по аппаратной совместимости. Архитектура, модальности и размер контекста в README не указаны, поэтому сделать выводы о них нельзя. Модель распространяется по лицензии Apache-2.0. Основные ограничения связаны с большим объёмом файлов и зависимостью производительности от выбранного уровня квантизации и оборудования; низкобитные варианты экономят память, но снижают качество. Для запуска требуется совместимое ПО, например llama.cpp или LM Studio.

QwQen-3B-LCoT — объединённая модель генерации текста на базе архитектуры Qwen2, созданная с помощью mergekit. Автор объединил bunnycore/Qwen2.5-3B-RP-Mix с prithivMLmods/QwQ-LCoT-3B-Instruct линейным слиянием; модель содержит 3,1 млрд параметров и работает с контекстом до 32 768 токенов. Модель предназначена для диалога и генерации текста, включая развёрнутые пошаговые объяснения. Метаданные также отмечают интерфейс вызова инструментов. README приводит результаты оценок IFEval и BBH, но не описывает их методику или практические ограничения модели. Лицензия в предоставленных данных не указана.

Qybera2.5-0 — компактный диалоговый ассистент Stackpulse Cloud на базе причинной языковой модели Qwen2, дообученной следовать инструкциям. Модель содержит 494 млн параметров, принимает текст и выдаёт текст; контекст — до 32 768 токенов. В репозитории указаны веса Safetensors и библиотека Transformers. Модель предназначена для общего чата, выполнения инструкций, суммаризации, объяснения кода, локального запуска на маломощных устройствах и недорогой маршрутизации API. В карточке заявлена многоязычная поддержка с сильными сторонами в английском и китайском языках. Лицензия — Apache 2.0. Компактный размер подходит для сценариев с ограниченными ресурсами, однако модель может ошибаться и воспроизводить смещения данных обучения. Карточка не рекомендует полагаться на неё в сложных многошаговых математических задачах, продвинутых агентных сценариях и создании длинной художественной прозы без дополнительного руководства; важные ответы следует проверять.

Ramonda-7B — объединённая языковая модель на архитектуре Mistral, созданная с помощью LazyMergekit из touqir/Cyrax-7B и bardsai/jaskier-7b-dpo-v5.6. Модель содержит 7,1 млрд параметров, представлена в формате Safetensors и рассчитана на генерацию текста; для смешивания весов использован метод SLERP. Базовая модель bardsai/jaskier-7b-dpo-v5.6 описана как англоязычная модель, дообученная методом DPO. Модель подходит для генерации текста и ответов на запросы на английском языке. Заявленное контекстное окно составляет 32 768 токенов. README не приводит результаты оценки качества или подробные рекомендации по применению. Лицензия в предоставленных данных не указана.

RandomMergeNoNormWEIGHTED-7B-DARETIES — объединённая автором репозитория модель на архитектуре Mistral для генерации текста. Она создана с помощью mergekit из FelixChao/WestSeverus-7B-DPO-v2, CultriX/Wernicke-7B-v9 и mlabonne/NeuralBeagle14-7B. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста, в том числе диалогов, ответов на инструкции, рассуждений и творческих текстов; README приводит результаты оценки на задачах ARC и HellaSwag. Доступны веса в формате safetensors. Лицензия — Apache-2.0. Карточка не уточняет поддерживаемые естественные языки и конкретные ограничения качества.

zelk12/recoilme-gemma-2-Gutenberg-Doppel-9B-v0.1 — объединённая диалоговая языковая модель на архитектуре Gemma 2, созданная с помощью mergekit методом SLERP из recoilme/recoilme-gemma-2-9B-v0.4 и nbeerbower/Gemma2-Gutenberg-Doppel-9B. Модель содержит 9 млрд параметров, распространяется в формате Safetensors и рассчитана на генерацию текста и ответы в диалоге; вторая исходная модель обучалась на текстах Gutenberg. Модель принимает текст и генерирует текст. Заявленная длина контекста — 8192 токена. В README приведены результаты Open LLM Leaderboard, включая IFEval 76,15 и BBH 43,94; эти оценки не гарантируют качество на конкретных запросах. Сведения о лицензии в доступных данных отсутствуют.

Reflection-Llama-3.1-70B — текстовая языковая модель Unsloth на 69,5 млрд параметров, дообученная на Meta-Llama-3.1-70B-Instruct методом Reflection-Tuning. Она предназначена для диалогов и генерации ответов, в том числе для задач, требующих многошагового рассуждения: модель может отмечать и исправлять ошибки в ходе рассуждения, а затем выдавать итоговый ответ. Модель использует архитектуру Llama 3.1 с плотной причинно-следственной языковой сетью и контекстом до 131 072 токенов. Модель принимает текст и генерирует текст. Она следует формату чата Llama 3.1 и использует специальные токены для разделения рассуждения и ответа. В README рекомендуются temperature 0,7 и top_p 0,95; автор также предлагает добавлять к запросу фразу «Think carefully» для повышения точности. Заявления README о лидерстве в бенчмарках не подтверждены приведёнными здесь независимыми результатами. Модель распространяется по лицензии Llama 3.1; её условия следует учитывать при использовании и распространении.

ClaudioItaly/Reflex-Gutenberg-DPO — объединённая языковая модель, созданная ClaudioItaly с помощью mergekit и метода SLERP на основе ClaudioItaly/Evolutions-Reflex и flammenai/flammen15-gutenberg-DPO-v1-7B. Это плотная авторегрессионная модель архитектуры Mistral с 7,1 млрд параметров; она принимает текст и генерирует текст. Модель предназначена для генерации текста общего назначения, включая ролевые диалоги и творческое письмо. Максимальная длина контекста составляет 32 768 токенов. Модель опубликована в формате safetensors и доступна через библиотеку Transformers. README не приводит сведений о конкретных языках, оценках качества или ограничениях применения. Лицензия в предоставленных данных не указана.

RekaAI_reka-flash-3-GGUF — набор GGUF-квантизированных версий языковой модели reka-flash-3, разработанной RekaAI. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев; поддерживается запуск через llama.cpp, LM Studio и другие проекты на его основе. Для запросов указан шаблон с ролями human и assistant. Доступны варианты от BF16 до низкоразрядных Q2 и IQ-квантизаций, с размером файлов примерно от 9,18 до 41,82 ГБ. Более высокие разрядности обычно лучше сохраняют качество, но требуют больше оперативной или видеопамяти; низкоразрядные варианты экономичнее, однако могут заметно уступать по качеству. В README не указаны точные архитектура, число параметров, максимальный контекст, поддерживаемые языки и модальности, поэтому эти характеристики нельзя достоверно описать. Для модели заявлена лицензия Apache-2.0.

Undi95/ReMM-v2.2-L2-13B — экспериментальная реконструкция MythoMax-L2-B13, созданная слиянием моделей методом SLERP. В README указано, что при сборке использованы ReML v2.2 и Huginn v1.2; в числе компонентов названы Chronos-Beluga-v2-13bfp16, Airoboros-L2-13b-2.2.1, Nous-Hermes-Llama2-13b и Huginn-13b-v1.2. Архитектура — плотная LlamaForCausalLM примерно на 12,9 млрд параметров, веса опубликованы в формате safetensors; контекст — до 4096 токенов. Модель предназначена для генерации текста по шаблону Alpaca, в том числе для диалогов и выполнения инструкций. Карточка приводит результаты оценки на Open LLM Leaderboard, включая ARC и HellaSwag. Репозиторий распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

ReMM-v2-L2-13B — экспериментальная реконструкция MythoMax-L2-B13 от автора Undi95. Это плотная авторегрессионная модель семейства Llama объёмом 12,9 млрд параметров, предназначенная для генерации текста. Модель создана с помощью слияния методом SLERP обновлённой ReML v2 и Huginn v1.2; в состав ReML v2 входят Chronos-Beluga v2, Spicyboros 13B 2.2 и Nous-Hermes Llama 2 13B. В репозитории представлены веса fp16 в формате safetensors, а шаблон промпта — Alpaca. Модель подходит для диалогов и генерации ответов в сценариях, где применимы инструкции Alpaca. В карточке приведены результаты Open LLM Leaderboard, включая среднюю оценку 50,57, ARC и HellaSwag. Контекст составляет 4096 токенов. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

Replete-LLM-Mist-Nemo-12b-GGUF — это набор квантизированных GGUF-версий языковой модели Replete-LLM-Mist-Nemo-12b, разработанной Replete-AI и преобразованной bartowski с использованием llama.cpp и imatrix-квантизации. Модель предназначена для генерации текста и локального запуска в совместимых средах, включая LM Studio. В метаданных указан английский язык и лицензия Apache-2.0. Модель относится к классу текстовых генеративных моделей, имеет размер 12 млрд параметров и связана с архитектурой Mistral. Доступны варианты от F32 до компактных IQ2/Q2/Q3 и более качественных Q4–Q8-квантизаций. Размер файлов варьируется примерно от 4,44 до 49 ГБ, что позволяет выбирать между качеством генерации и требованиями к оперативной памяти. Рекомендуемыми названы, в частности, варианты Q4_K_M, Q5_K_M, Q6_K и Q6_K_L. Сильной стороной набора является широкий выбор уровней квантизации для локального использования: высококачественные варианты должны минимально отличаться от исходных весов, а компактные подходят для систем с ограниченной памятью. При этом качество снижается на более агрессивных уровнях квантизации. Контекст модели, мультимодальные возможности и дополнительные языки в README не указаны. Шаблон чата также не задан; предложенный формат является стандартным и может быть некорректен, поэтому его следует сверять с карточкой исходной модели.

Replete-LLM-Qwen2-7b-GGUF — набор GGUF-квантизаций модели Replete-LLM-Qwen2-7b, опубликованный и подготовленный квантизатором bartowski. Базовая модель разработана Replete-AI; в README указано, что квантизация выполнена с помощью llama.cpp release b3509 и метода imatrix. Модель предназначена для генерации текста и использования в локальных средах, включая LM Studio, с применением указанного шаблона prompt format. Это текстовая авторегрессионная модель семейства Qwen2 с заявленным размером 7 млрд параметров и поддержкой английского языка. Доступны варианты от F32 размером 30,47 ГБ до сильно сжатых IQ2_M размером 2,78 ГБ, включая форматы Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ. Более высокие уровни квантизации обычно сохраняют лучшее качество, тогда как компактные варианты рассчитаны на системы с ограниченным объёмом оперативной памяти. Для некоторых вариантов embeddings и output weights сохранены в Q8_0, что может повышать качество, но эффект зависит от сценария. Сильные стороны набора — широкий выбор размера файлов и компромисса между качеством и требованиями к памяти, а также совместимость с llama.cpp и LM Studio. Ограничения включают потенциальное снижение качества в низкобитных вариантах и отсутствие в README подробных данных о контекстном окне, точной архитектуре, мультимодальности и результатах бенчмарков. Лицензия — Apache-2.0; в метаданных также указано, что модель связана с датасетом Replete-AI/Everything_Instruct_8k_context_filtered.

Replete-LLM-V2.5-Qwen-72b-GGUF — это набор GGUF-квантизированных вариантов языковой модели Rombos-LLM-V2.5-Qwen-72b, разработанной rombodawg и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и локального запуска с использованием llama.cpp, в том числе через LM Studio, с применением указанного chat-шаблона на основе специальных токенов Qwen. Модель относится к классу крупных текстовых LLM с заявленным размером 72 млрд параметров. Доступны варианты квантизации от Q8_0 до IQ1_M, различающиеся размером файлов, требованиями к памяти и качеством. Наиболее качественными и рекомендуемыми в README названы Q6_K, Q5_K_M и Q4_K_M; низкоразрядные варианты требуют меньше оперативной памяти, но заметно уступают по качеству. Для некоторых вариантов используются улучшенные Q8_0-веса эмбеддингов и выходного слоя. Архитектура, поддерживаемые языки, размер контекста и мультимодальные возможности в предоставленных данных не указаны. Модель подходит для локальной генерации текста и диалоговых сценариев при наличии оборудования с достаточным объёмом памяти. Основные преимущества — выбор между множеством уровней квантизации, совместимость с llama.cpp и возможность запуска в LM Studio. Ограничения связаны с большими требованиями к памяти даже у компактных вариантов и потерей качества при сильной квантизации. Указана лицензия Apache-2.0.