I.2Синтез, понимание и проверка знаний

Qwen3.5-27B-ultra-uncensored-heretic-v2 — мультимодальная диалоговая модель на 27 млрд параметров от независимого автора llmfan46, созданная дообучением Qwen/Qwen3.5-27B. Она принимает текст и изображения и генерирует ответы на текстовые запросы и вопросы по изображениям. В карточке описана настройка abliteration, направленная на снижение числа отказов: автор сообщает об одном отказе из 100 запросов против 95 у исходной модели; это результат теста автора, а не гарантия поведения во всех сценариях. Модель основана на плотной архитектуре Qwen3.5 с генерацией текста и визуальным энкодером. README указывает контекст 262 144 токена с возможностью расширения до 1 010 000; метаданные подтверждают поддержку диалогов и изображений. Карточка заявляет широкое языковое покрытие семейства, но конкретный список языков этой версии не приведён. Модель распространяется по лицензии Apache-2.0. Снижение числа отказов может сопровождаться меньшей осторожностью в ответах; приведённая оценка PIQA близка к результату исходной модели.

mlx-community/Qwen3.5-35B-A3B-8bit — это 8-битная версия модели Qwen3.5-35B-A3B, преобразованная в формат MLX сообществом mlx-community. Конвертация выполнена с использованием mlx-vlm версии 0.3.12; исходная модель разработана командой Qwen. Модель предназначена для задач image-text-to-text, включая анализ изображений и генерацию текстовых ответов по визуальным данным, и рассчитана на использование в экосистеме MLX. В README указано, что модель имеет размер 35B-A3B и 8-битное представление, однако подробности об архитектуре, модальностях, поддерживаемых языках и размере контекста не приведены. Пример использования демонстрирует запрос на английском языке с изображением и генерацией ответа через mlx-vlm. Для работы требуется пакет mlx-vlm. Преимуществами являются MLX-формат и 8-битное представление, потенциально удобные для запуска в соответствующей среде, но конкретные требования к оборудованию и ограничения производительности не указаны. Модель распространяется по лицензии Apache-2.0. Для полного описания возможностей следует обратиться к оригинальной карточке Qwen3.5-35B-A3B.

Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP-W4A16-AWQ — это 4-битная AWQ-квантизированная версия модели DavidAU/Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP. Модель распространяется для использования с библиотекой Transformers и имеет тег image-text-to-text, то есть исходная архитектура включает поддержку работы с текстом и изображениями. Заявлены языки English и Chinese. Точное число параметров в README не указано, но идентификатор исходной модели содержит обозначение 9B. Квантизация выполнена по схеме W4A16_ASYM: веса Linear-слоёв представлены с точностью 4 бита, а активации — 16 битами, с размером группы 128. Формат compressed-tensors поддерживается LMDeploy Turbomind. Эмбеддинги, lm_head, нормализации, компоненты linear attention, vision tower и MTP heads сохранены в BF16. Указано, что модель рассчитана на инференс с LMDeploy; пример запуска использует language_model_only=True и tensor parallelism tp=1. README не содержит результатов собственных бенчмарков, ссылаясь на исходную модель. К основным преимуществам относятся существенное уменьшение размера весов за счёт 4-битной квантизации, возможность запуска на ограниченных GPU-ресурсах и сохранение мультимодальных компонентов и MTP heads в BF16. Ограничения включают зависимость от совместимого загрузчика и формата compressed-tensors, а также потенциальные особенности качества и совместимости, характерные для квантизированных моделей; числовые параметры контекста и подробные характеристики архитектуры не указаны. Модель распространяется по лицензии Apache-2.0.

mlx-community/Qwen3.6-27B-8bit — это 8-битная версия модели Qwen3.6-27B, преобразованная сообществом mlx-community в формат MLX из исходной модели Qwen/Qwen3.6-27B с использованием mlx-vlm 0.4.4. Модель предназначена для запуска средствами MLX и поддерживает сценарии image-text-to-text, включая анализ изображений и генерацию текстовых ответов по визуальному содержимому. Из доступных данных известно, что модель имеет размер 27B параметров и 8-битное представление, однако сведения о точной архитектуре, поддерживаемых языках, размере контекста, модальностях исходной модели, производительности и ограничениях не приведены. Для работы требуется библиотека mlx-vlm; README демонстрирует генерацию ответа на изображение с помощью команды mlx_vlm.generate. Модель распространяется по лицензии Apache-2.0. За подробными характеристиками и условиями использования исходной модели рекомендуется обращаться к карточке Qwen/Qwen3.6-27B.

Qwen3.6-27B-abliterated-GGUF — это набор квантизированных GGUF-версий модели wangzhang/Qwen3.6-27B-abliterated-v2, разработанной сообществом wangzhang на базе Qwen3.6-27B. Модель предназначена для локальной генерации текста и диалоговых сценариев через llama.cpp и совместимые приложения, включая Ollama, LM Studio, Jan и KoboldCpp. Версия abliterated подавляет стандартные отказы модели и ориентирована прежде всего на исследовательские и экспериментальные задачи. Модель содержит около 27 млрд параметров и поддерживает английский и китайский языки. Архитектура использует гибридное внимание: 48 слоёв GatedDeltaNet и 16 слоёв полного внимания, чередуемых по схеме с одним полносвязным attention-блоком после трёх GDN-блоков. Доступны варианты F16 размером около 54 ГБ, Q8_0 размером около 28 ГБ и Q4_K_M размером около 16 ГБ; последний рекомендован для видеокарт с 24 ГБ памяти. GGUF-конверсия рассчитана на текстовый вывод: vision tower удалён, поэтому обработка изображений недоступна. Максимальный контекст в карточке не указан, приведены лишь примеры запуска с длиной 4096 и 8192 токена. К сильным сторонам относятся близкое к исходному качество варианта Q8_0, возможность локального запуска и сниженный уровень отказов при выполнении запросов. Ограничения включают требование свежей версии llama.cpp с поддержкой архитектуры Qwen3.5 hybrid-GDN, отсутствие MTP для спекулятивного декодирования и возможное ухудшение качества у Q4_K_M без imatrix-калибровки. Модель намеренно лишена защитных отказов и может генерировать опасный контент без предупреждений, поэтому при пользовательском развёртывании необходим отдельный защитный слой. Распространяется по лицензии Apache-2.0.

Qwen3.6-27B-Fable-Fusion-711-MTPLX-8bit — это 8-битная MLX-квантизированная версия модели DavidAU Qwen3.6-27B Fable-Fusion-711, упакованная Philip John Basile в формате MTPLX. Модель ориентирована на локальный запуск на устройствах Apple Silicon и поддерживает vision для обработки изображений и текста. В карточке указана английская локализация и тег creative-writing, поэтому модель предназначена прежде всего для генерации и обработки англоязычного текста, включая творческие сценарии, а также для мультимодальных запросов с изображениями. Модель имеет размер 27B параметров; точная архитектура, максимальная длина контекста и полный перечень поддерживаемых языков в карточке не указаны. Артефакт сохраняет vision tower и рабочую multi-token prediction head в виде BF16 sidecar, что позволяет использовать native speculative decoding через MTPLX. Объём файлов весов составляет около 30,35 ГБ, поэтому для запуска требуются значительные ресурсы памяти. Главное преимущество версии — поддержка multi-token prediction и vision, обеспечивающая заметно более высокую измеренную скорость декодирования на Apple M5 Max: примерно 30–32 токена в секунду при MTP depth 1 и 46–47 токенов в секунду при depth 3 против 17–18 токенов в секунду в авторегрессионном режиме. Эти показатели получены на одном оборудовании и конкретном тестовом протоколе и не гарантируют аналогичную производительность в других условиях. Заявление об отсутствии отказов не подтверждено: в отдельном тесте модель получила результат 79/100 по прокси-метрике отказов, поэтому её не следует считать полностью uncensored. Лицензия — Apache-2.0.

Qwen3.6-27B-GGUF — это GGUF-квантизированная версия модели Qwen3.6-27B, разработанной командой Qwen. Модель автоматически преобразована с помощью инструментария ggml-org/convert и предназначена для запуска через llama.cpp-совместимые средства, включая llama.app. Согласно карточке, модель относится к классу image-text-to-text и рассчитана на обработку изображений и текста с генерацией текстовых ответов. Её размер — 27 миллиардов параметров; конкретный вариант квантизации, архитектурные детали, поддерживаемые языки и размер контекстного окна в README не указаны. В качестве исходных моделей заявлены Qwen/Qwen3.6-27B и z-lab/Qwen3.6-27B-DFlash. К сильным сторонам относятся поддержка мультимодального сценария и формат GGUF, удобный для локального запуска и интеграции с совместимыми инструментами. Ограничения модели, требования к аппаратному обеспечению, точные характеристики квантизации и результаты тестирования не приведены, поэтому производительность и качество для конкретных задач по этой карточке оценить нельзя. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B-A3B-Uncensored-MagicQuant-GGUF — GGUF-квантизированная версия модели Qwen3.6-35B-A3B-uncensored-heretic, разработанной llmfan46 и опубликованной magiccodingman. Модель предназначена для локальной генерации текста и диалоговых сценариев в совместимых приложениях, использующих llama.cpp и другие инструменты для работы с форматом GGUF. В README она описана как uncensored-модель, то есть с ограниченной фильтрацией содержимого по сравнению с моделями, ориентированными на усиленное выравнивание безопасности. Репозиторий содержит несколько вариантов квантования MagicQuant и один базовый вариант LM-Q8_0. Размеры файлов составляют примерно от 9,59 до 36,91 ГБ, а варианты используют форматы MQ-Q6_K_1, MQ-Q5_K_1, MQ-Q5_K_S_1, MQ-Q4_K_M_1, MQ-Q4_K_M_2, MQ-IQ4_NL_1, MQ-IQ3_M_1, UD-IQ3_S и MQ-IQ2_XXS_1. MagicQuant подбирает и проверяет конфигурации квантования по собственным benchmark-процедурам; для данного репозитория указано, что это локально пересобранный клон конфигураций из другого выпуска, а не результат полного эволюционного поиска. Более крупные варианты обычно ориентированы на сохранение качества, компактные — на снижение требований к памяти, но конкретные характеристики производительности зависят от выбранного файла и оборудования. В README не указаны контекстное окно, языки, точный перечень модальностей, требования к видеопамяти или результаты прикладных тестов, поэтому эти параметры нельзя достоверно определить. Использование модели регулируется лицензией Apache-2.0.

Это GGUF-квантизация BF16-модели Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED от AEON-7, подготовленная mradermacher. Репозиторий содержит статические варианты квантования, в том числе файлы для мультимодального дополнения mmproj; модель предназначена для диалога и работы с изображениями. Метаданные также указывают на следование инструкциям и мультиязычность, включая английский и китайский языки. Размер базовой модели — 27 млрд параметров. Модель можно применять для диалоговых запросов, анализа изображений и задач, поддерживаемых семейством Qwen3.8. Варианты GGUF позволяют выбирать квантование под доступные ресурсы, но README не содержит сравнительных оценок качества или подробностей о контекстном окне. Репозиторий помечен лицензией Apache-2.0; она относится к опубликованной модели и её распространению.

aday777/Qwen3.8-27B-ARA-abliterated-NVFP4-MTP — мультимодальная производная модель на базе trohrbaugh/Qwen3.8-27B-heretic-ara, распространяемая автором aday777. Она предназначена для генерации и понимания текста и изображений, а также для инференса с использованием native MTP-ускорения. Сведения о поддерживаемых языках в карточке не указаны. Модель использует квантование языковых линейных слоёв compressed-tensors NVFP4 W4A4 с group size 16, тогда как vision tower, recurrent convolutions, language head и 15 MTP-тензоров сохранены в формате BF16. Указан размер 27B. Поддерживаются мультимодальные входы, включая изображения; видеотензоры и процессоры сохранены, но обработка видео не прошла проверку в рабочем runtime-тесте. Заявлен контекст 8192 токена, а native MTP использует три спекулятивных токена. Сильными сторонами являются сохранённые компоненты обработки изображений, bit-exact проверка vision- и MTP-тензоров, снижение требований к памяти и оптимизация для Blackwell NVFP4. Модель прошла проверки текстовых возможностей, обработки изображений, MTP и загрузки в vLLM 0.23; на RTX PRO 6000 Blackwell её память при загрузке составляла около 19,53 GiB. Ограничения включают необходимость совместимого оборудования Blackwell, CUDA и свежей сборки vLLM с поддержкой Qwen3.5 multimodal и NVFP4; поддержка видео не подтверждена. Abliterated или uncensored означает удаление части отказов из исходного чекпойнта и не гарантирует ответ на любой запрос. Лицензия — Apache-2.0.

Qwen3.8-27B-Opus-Abliterix-Reasoning-BF16 — мультимодальная модель на базе Qwen/Qwen3.8-27B, выпущенная автором timteh673. Это слитый BF16-чекпойнт для Transformers: модель принимает текст и изображения и генерирует текст. В конфигурации указаны текстовая часть на 27 млрд параметров, визуальный энкодер и максимальный диапазон позиций 262 144 токена. Модель дообучили с помощью QLoRA на наборе примеров для рассуждений, затем применили Abliterix для снижения склонности к отказам. Она предназначена для диалогов, анализа изображений и многошаговых задач; README описывает её как практичный личный вариант, а не универсально лучший чекпойнт. Выпущена по лицензии Apache-2.0. В локальных тестах авторов модель показала меньше отказов и улучшение ряда метрик рассуждений и анализа изображений, но уступила контрольной модели в HumanEval и полном тесте кода. Также отмечены повышенная несвязность, повторения, утечки текста запросов и проблемы с завершением генерации кода из-за ограничения в 512 токенов. Результаты получены на локальном наборе тестов и могут не переноситься на другие условия; ответы требуют проверки.

UgurI/Qwen3.8-27B-Turkish-CPT-Beta — текстовая причинно-следственная языковая модель на архитектуре Qwen3_5ForCausalLM, созданная продолженным предобучением Qwen/Qwen3.8-27B на турецком корпусе Kumru. Адаптацию обучили методом QLoRA в NF4 с рангом 16 и объединили веса с базовой моделью в BF16; репозиторий содержит веса safetensors. Размер модели по метаданным — 22,3 млрд параметров, контекст — до 262 144 токенов. Модель предназначена для генерации текста и диалогов с акцентом на турецкий язык. В README приведены результаты оценки на турецких наборах: perplexity и TurkishMMLU оказались лучше, чем у базовой модели. Метаданные также отмечают английский язык и возможность чата. Лицензия CC BY-NC-SA 4.0 требует указания авторства, распространения производных материалов на тех же условиях и запрещает коммерческое использование. Это бета-версия; показатели бенчмарков не гарантируют качество на других задачах и данных.

DavidAU разработал эту дообученную мультимодальную модель на базе DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. Это плотная модель семейства Qwen3.5 примерно на 27 млрд параметров для диалога и ответов на текстовые запросы с анализом изображений; в метаданных для неё указан тег image-text-to-text и библиотека Transformers. Автор заявляет несколько переключаемых режимов рассуждения и инструкций, сокращение числа токенов рассуждения и усиленное снятие ограничений безопасности. Примеры в карточке демонстрируют помощь в творческом письме и обсуждение персонажей; автор также заявляет о сильном следовании инструкциям и внимании к деталям. Модель ориентирована на диалоговые сценарии, в которых нужны развёрнутые ответы, рассуждение или анализ изображений. Карточка не сообщает длину контекста и явно подтверждает только английский язык. Автор приводит результаты собственных сравнений по отказам, но не описывает независимую оценку этих результатов. Модель опубликована в формате safetensors под лицензией Apache-2.0.

Qwen3.8-27B-Uncensored-Aggressive — мультимодальная диалоговая модель на основе Qwen3.8-27B от Qwen, модифицированная автором репозитория методом ортогонализации вектора отказа. Она предназначена для диалогов и ответов на запросы с текстом и изображениями; сохранены компонент обработки изображений и голова MTP для спекулятивного декодирования. Модель относится к плотной архитектуре Qwen3.5 и содержит 27 млрд параметров; в метаданных указан формат safetensors. Автор описывает настройку α=1,15 как вариант с меньшим числом отказов. В приведённой оценке модель получила более высокий показатель открытости, сохранив результаты базовой версии по фактичности и GSM8K, однако это результаты внутреннего сравнения автора, а не гарантия качества. Модель может отвечать на запросы, которые базовая модель отклонила бы. Лицензия — Apache-2.0.

Qwen3.8-27B-Uncensored-Aggressive-GGUF — это квантизированная GGUF-версия модели Qwen3.8-27B-Uncensored-Aggressive, размещённая и подготовленная mradermacher на основе исходной модели philbert440. Модель предназначена для генерации и обработки текста, а также поддерживает мультимодальные сценарии image-text-to-text при использовании дополнительного файла mmproj. Модель содержит около 27 млрд параметров и ориентирована на работу на локальном оборудовании через совместимые с GGUF инструменты. В репозитории представлены варианты квантования от Q2_K до Q8_0, включая IQ4_XS, с размером файлов примерно от 11 до 29,1 ГБ; также доступны мультимодальные дополнения mmproj в форматах Q8_0 и f16. В README указан английский язык, однако сведения о размере контекста, точной архитектуре и наборе поддерживаемых языков не приведены. Сильной стороной являются разнообразные варианты квантования, позволяющие выбирать между требованиями к памяти, скоростью и качеством; Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, а Q6_K и Q8_0 — как варианты высокого качества. Ограничения включают зависимость характеристик от выбранного квантования, значительные требования к дисковому пространству и памяти, а также отсутствие подробных данных о качестве, обучении и безопасных сценариях применения. Модель распространяется по лицензии Apache-2.0.

Qwen3-8B-64k-Josiefied-Uncensored-NEO-Max-GGUF — текстовая generative модель в формате GGUF, разработанная DavidAU на основе доработанной Goekdeniz-Guelmez версии Josiefied-Qwen3-8B-abliterated-v1. Она предназначена для генерации текста, рассуждений, творческого письма, создания и продолжения рассказов, построения сюжетов и сцен, ролевых сценариев, а также жанров horror, science fiction и romance. Модель позиционируется как uncensored и допускает ненормативную лексику, мрачные, графичные и ориентированные на взрослую аудиторию материалы. В основе используется Qwen3-8B с заявленным размером 8B параметров. Контекстное окно расширено с 32K до 64K токенов с применением YARN; максимальный контекст составляет 65536 токенов, а для режимов thinking и генерации рекомендуется использовать не менее 8K–16K токенов. Репозиторий содержит GGUF-квантизации, выполненные с использованием NEO Imatrix; для выходного тензора заявлена точность до 16 бит. Поддерживаются Jinja Template и ChatML. Сведения о поддерживаемых языках и мультимодальности в карточке не указаны; по описанию это текстовая модель. Сильными сторонами являются длинный контекст, ориентация на reasoning и thinking, а также генерация выразительной художественной прозы и контента разных жанров. К ограничениям относятся зависимость качества от выбранной квантизации, параметров семплирования и совместимости приложения с шаблонами чата, а также потенциально неприемлемый для некоторых сценариев контент. Модель распространяется по лицензии Apache-2.0.

KhaledAshraf/qwen3-finetuned — дообученная Khaled Ashraf компактная языковая модель Qwen3 с плотной архитектурой Qwen3ForCausalLM и примерно 508 млн параметров. Она предназначена для генерации текста и диалогов; карточка сообщает о дообучении на неизвестном наборе данных и приводит значение loss 2,0026 на оценочном наборе. Модель принимает текст и выдаёт текст, использует библиотеку Transformers и поддерживает контекст до 40 960 токенов. Qwen3-0.6B описана в каталоге как многоязычная модель, однако языки и специализация этого дообучения не раскрыты. Модель опубликована в формате safetensors под лицензией Apache-2.0. README не содержит подробностей о данных, методике обучения, целевом качестве и ограничениях, поэтому пригодность для конкретной области следует оценивать отдельно.

RAG-KO-Mixtral-7Bx2-v1.1 — языковая модель MarkrAI, дообученная для генерации ответов в сценариях retrieval-augmented generation на корейском языке. В основе лежит DopeorNope/Ko-Mixtral-v1.3-MoE-7Bx2; для instruction tuning применялся QLoRA с 4-битной квантизацией и адаптерами LoRA. Архитектура — Mixtral MoE, размер модели по метаданным — 7,1 млрд параметров. Модель предназначена для генерации ответов на основе найденных фрагментов и корейских данных из нескольких предметных областей. В карточке указан обучающий набор HumanF-MarkrAI/Korean-RAG-ver2; веса опубликованы в формате safetensors. Контекстное окно — до 32 768 токенов. Лицензия CC BY-NC-SA 4.0 допускает использование с указанием авторства и распространение производных материалов на тех же условиях, но запрещает коммерческое применение.

AlanRobotics/ruT5_q_a — русскоязычная модель семейства T5, основанная на google/mT5-base и дообученная для ответов на вопросы с использованием SberQUAD. Она принимает текстовый вопрос и контекст и генерирует текстовый ответ; архитектура — encoder-decoder T5, число параметров — 118,8 млн. В карточке указана лицензия Apache-2.0. Модель предназначена для извлечения ответов из текстового контекста на русском языке. Подробные результаты оценки и конкретные ограничения в карточке не описаны; качество ответов зависит от предоставленного контекста.

seal-7b-chat-i1-GGUF — это квантизированная версия чат-модели seal-7b-chat, разработанной FinchResearch и опубликованной в формате GGUF пользователем mradermacher. Модель предназначена для генерации текста и диалоговых сценариев, включая работу через совместимые с GGUF инструменты локального запуска. При квантизации использовались weighted/imatrix-кванты, представленные в нескольких вариантах с различным размером, скоростью и ожидаемым качеством. Модель относится к семейству Llama и имеет около 7 миллиардов параметров. В README указана поддержка английского, немецкого и испанского языков. Данные о контекстном окне, точной базовой архитектуре, мультимодальности и результатах бенчмарков не приведены, поэтому её характеристики в этих аспектах нельзя оценить. Основное преимущество набора — широкий выбор уровней квантизации: от компактных вариантов размером около 1,6 ГБ до более качественного Q6_K размером около 5,6 ГБ. При этом самые компактные варианты могут заметно уступать в качестве, а часть низкобитных конфигураций прямо обозначена как имеющая низкое качество. Лицензия в README не указана. Условия использования следует уточнять по лицензии исходной модели FinchResearch/seal-7b-chat и условиям публикации квантизированной версии.

Minbyul/selfbiorag-7b-wo-healthsearch_qa-sft — плотная языковая модель семейства Llama, дообученная на базе dmis-lab/selfbiorag_7b на наборе HuggingFaceH4/deita-10k-v0-sft. Модель содержит 6,6 млрд параметров, принимает текст и генерирует текст; нативная длина контекста — 4096 токенов. Модель предназначена для генерации текста. В карточке приведено значение loss 1,3069 на оценочном наборе, но описание задач, данные обучения и целевые сценарии не раскрыты. Репозиторий содержит веса в формате Safetensors. Лицензия в предоставленных сведениях не указана.

NExtNewChattingAI/shark_tank_ai_7b_v2 — англоязычная диалоговая модель-чатбот, дообученная на внутренних данных и предназначенная для персональных и профессиональных запросов. Она построена на архитектуре Mistral с плотной причинно-языковой моделью MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель принимает текст и генерирует текстовые ответы на английском языке. Карточка описывает сценарии общения с ассистентом: ответы на вопросы общего и тематического характера, помощь с повседневными задачами и поддержка диалога. В README также заявлены персонализация и возможность выполнять действия вроде планирования встреч, отправки писем и заказа товаров, однако работающие интеграции или интерфейс вызова инструментов не подтверждены метаданными. В карточке приведены результаты Open LLM Leaderboard, включая среднее значение 66,55, но полный набор результатов представлен не полностью. Модель распространяется в формате safetensors по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Подтверждений самостоятельного выполнения внешних действий, постоянного обучения на предпочтениях пользователя или достоверности ответов для критически важных задач карточка не даёт.

SpatialAxiom-35B-A3B-GGUF — это квантизированная версия мультимодальной модели SpatialAxiom-35B-A3B, разработанной SpatialAxiom и подготовленной в формате GGUF пользователем bartowski с использованием llama.cpp. Модель предназначена для задач генерации текста и работы с изображениями; для обработки изображений требуется дополнительный файл mmproj. Поддержка MTP отсутствует, для квантизации использована imatrix. Модель содержит 35 миллиардов параметров. Доступны варианты от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ, размер файлов составляет примерно от 16,9 до 69,4 ГБ. В README не указаны архитектура исходной модели, поддерживаемые языки и размер контекстного окна, поэтому эти характеристики определить нельзя. Для запуска рекомендуется использовать llama.cpp и соответствующий шаблон чата с системным сообщением, запросом пользователя и блоком рассуждений assistant. К сильным сторонам относятся мультимодальный ввод, широкий выбор квантизаций для разных ограничений по памяти и возможность локального запуска через llama.cpp. Более компактные варианты снижают требования к оперативной памяти, но могут уступать более точным версиям по качеству. Лицензия — CC BY-NC 4.0, допускающая использование с ограничениями, включая некоммерческий характер лицензии.

Strawberry-i1-GGUF — это набор квантованных GGUF-файлов базовой модели artindnr/Strawberry, подготовленный пользователем mradermacher. Модель предназначена для генерации текста и локального запуска в совместимых инструментах, поддерживающих формат GGUF. В репозитории представлены варианты квантования с использованием MXFP4_MOE, включая imatrix-квантизации и форматы IQ и Q разных уровней качества и размера. Модель относится к архитектуре mixture-of-experts; точное число параметров, размер контекста и другие архитектурные характеристики в README не указаны. Заявлена поддержка персидского и английского языков, а также multilingual-сценариев. Размеры доступных файлов составляют примерно от 12,1 до 22,3 ГБ. В качестве компромисса между размером, скоростью и качеством рекомендуются Strawberry.i1-Q4_K_S.gguf и Strawberry.i1-Q4_K_M.gguf; более низкие уровни квантования экономят место, но могут заметно снижать качество. Это вариант только для текстовых задач: сведения о поддержке изображений, аудио или других модальностей отсутствуют. README не приводит результатов бенчмарков и подробного описания сильных сторон базовой модели, поэтому качество генерации нельзя оценить по этим данным. Лицензия — Apache-2.0.

GodsonNtungi/Swahili-Instruct-V2-3 — чат-модель семейства Mistral, разработанная GodsonNtungi и дообученная на основе GodsonNtungi/Swahili-Mistral-v2-4b4-bit с использованием Unsloth и TRL. Модель предназначена для генерации текста в диалоговом формате и может использоваться для ответов на запросы и ведения беседы. В метаданных указаны 7,1 млрд параметров и контекст до 32 768 токенов. Репозиторий содержит веса PyTorch; модель распространяется по лицензии Apache-2.0. Карточка не описывает специальные ограничения качества или конкретные сценарии, поэтому её пригодность для суахили и других языков следует оценивать на собственных примерах.

T3Q-LLM/T3Q-LLM3-NC-v1.0 — разговорная текстовая модель семейства Llama, размещённая в формате Transformers и представленная в виде плотной причинной языковой модели объёмом 7,5 млрд параметров. Карточка не называет разработчика и не раскрывает сведения о дообучении, поэтому происхождение модели установить нельзя. Для работы указано контекстное окно 8192 токена. Модель предназначена для генерации текста в диалоговом формате. В карточке приведены результаты оценки на корейских наборах KoBEST BoolQ и COPA, однако описания назначения суффикса NC, обучающих данных и подробных сценариев применения нет. Репозиторий содержит веса Safetensors для библиотеки Transformers; лицензия — Apache 2.0.

Это модель T5-Large, дообученная автором sysresearch101 на объединённых наборах XSum и CNN/DailyMail для абстрактивного суммирования англоязычных новостных текстов. Она принимает текст и генерирует краткое связное резюме; архитектура — T5ForConditionalGeneration, размер — 385,2 млн параметров, базовая модель — google-t5/t5-large, нативный контекст — 512 токенов. Модель подходит для создания коротких сводок новостных статей и для учебных демонстраций и сравнительных экспериментов по суммированию. В README приведён результат ROUGE-1 36,77 на тесте XSum. Модель ориентирована на английские новости, обычно выдаёт очень краткие резюме — в среднем 18–20 токенов; качество на других тематиках может меняться, встроенной проверки фактов нет. Лицензия — MIT.

liamvbetts/t5-small-finetuned-2024-03-14 — дообученная модель семейства T5, разработанная liamvbetts на основе liamvbetts/t5-small-finetuned-2024-03-13. Это генеративная модель типа encoder-decoder с 38,5 млн параметров и контекстом до 512 токенов, сохранённая в формате safetensors. Она предназначена для преобразования текста в текст; конкретная задача и обучающие данные не описаны. В карточке приведены результаты оценки: loss 1,6488, ROUGE-1 36,7711, ROUGE-2 23,7969 и ROUGE-L 33,074. Лицензия в предоставленных данных не указана.

dongxq/test_model — модель для суммаризации текста на архитектуре Pegasus, представленная в формате PyTorch. По метаданным, она содержит 319,6 млн параметров и рассчитана на контекст до 1024 токенов; карточка указывает китайский язык. Модель предназначена для создания краткого изложения исходного текста. Данных о разработчике, обучении, лицензии и практических ограничениях в использованных источниках нет.

Anubis-70B-v1.1-GGUF — это квантизированная версия текстовой генеративной модели Anubis-70B-v1.1, разработанной TheDrummer. Квантизацию выполнил bartowski с использованием llama.cpp версии b5753 и метода imatrix. Модель предназначена для локального запуска и генерации текста, в том числе через LM Studio, llama.cpp и совместимые проекты. Модель имеет размер 70B параметров и распространяется в формате GGUF с вариантами квантизации от Q8_0 до более компактных Q2 и IQ2/IQ3/IQ4. Доступны как высококачественные варианты Q6_K и Q5_K_M, так и версии, рассчитанные на более ограниченный объём оперативной памяти. Чем сильнее сжатие, тем ниже качество, хотя некоторые варианты с низким размером описываются как пригодные для использования. README не содержит достоверных сведений о поддерживаемых языках, длине контекста, исходной архитектуре, мультимодальности и специализированных сценариях применения. Для работы требуется совместимое программное обеспечение на базе llama.cpp; отдельные варианты поддерживают разделение файлов. Рекомендуемые квантизации обеспечивают компромисс между качеством и требованиями к памяти, но даже компактные версии требуют десятки гигабайт. Лицензия в представленном README не указана, поэтому условия коммерческого и иного использования необходимо уточнить в описании исходной модели TheDrummer/Anubis-70B-v1.1.