I.2Синтез, понимание и проверка знаний

Карточка модели luffycodes/llama-class-shishya-7b-ep3 на Hugging Face совпадает с карточкой luffycodes/vicuna-class-shishya-13b-ep3, поэтому описание составлено по ней. luffycodes/vicuna-class-shishya-13b-ep3 — языковая модель для генерации текста на архитектуре Llama с 12,9 млрд параметров и контекстом до 4096 токенов. README связывает работу с проектом CLASS Meet SPOCK — образовательным чат-ботом-репетитором, разработанным с учетом принципов науки об обучении; модель предназначена для учебного диалога и помощи учащимся. Модель использует формат PyTorch и лицензию Llama 2. Данных о поддерживаемых языках, конкретных учебных предметах и ограничениях качества в источниках нет.

LLaMandement-7B — франкоязычная чат-модель, разработанная DGFIP для суммирования французских законодательных предложений. Это авторегрессионная плотная языковая модель на архитектуре Transformer, дообученная на базе LLaMA-2-7B и рассчитанная на генерацию текста по инструкциям в формате, похожем на Alpaca. Модель содержит 6,6 млрд параметров, принимает текст и имеет контекст длиной 2048 токенов. Модель предназначена прежде всего для краткого изложения законодательных предложений на французском языке. В метаданных указаны формат safetensors и лицензия Llama 2 Community License Agreement. Карточка не приводит оценок качества или подробностей обучающих данных, поэтому пригодность для юридически значимых решений требует отдельной проверки.

LLaMAntino-2-13b-hf-ITA — итальянская адаптация базовой модели Meta Llama 2, разработанная Пьерпаоло Базиле, Элио Мускаккио, Марко Полиньяно, Лучией Сичилиани, Джузеппе Фиамени и Джованни Семераро. Модель предназначена для итальянских исследователей NLP и генерации естественного языка. Она основана на архитектуре LLaMA 2, содержит 12,9 млрд параметров и принимает текст, выдавая текст; нативная длина контекста — 4096 токенов. Модель дообучена методом QLoRA на очищенной версии набора clean_mc4_it medium. Она подходит как италоязычная генеративная основа для экспериментов и приложений NLP. Распространяется по лицензии Llama 2 Community License; перед использованием следует учитывать её условия и ограничения.

Llama-Song-Stream-3B-Instruct-GGUF — набор GGUF-квантизованных версий инструкционной языковой модели Llama-Song-Stream-3B-Instruct, разработанной prithivMLmods и преобразованной в GGUF компанией bartowski с использованием llama.cpp. Модель предназначена для генерации текста и запуска локально через совместимые средства, включая LM Studio и llama.cpp. Указан английский язык; исходная модель обучалась с использованием датасета prithivMLmods/Song-Catalogue-Long-Thought. Модель относится к семейству Llama и имеет около 3 млрд параметров. Доступны версии от полного F16 до различных вариантов квантования Q8, Q6, Q5, Q4, Q3 и IQ, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Размер файлов варьируется примерно от 1,54 до 6,43 ГБ. В README также отмечено исправление токенизатора. Мультимодальность и размер контекстного окна не указаны; по назначению это текстовая, а не мультимодальная модель. Основные преимущества — возможность локального запуска, широкий выбор уровней квантования и сравнительно небольшой размер 3B-модели. Более высокие варианты квантования обеспечивают лучшее сохранение качества, тогда как Q3 и некоторые IQ-версии рассчитаны на системы с ограниченным объёмом памяти, но могут заметно уступать по качеству. Лицензия — Apache-2.0.

LLaVA-NeXT-Video-7B-32K-hf — мультимодальная чат-модель семейства LLaVA-NeXT-Video, размещённая организацией llava-hf на Hugging Face. Она создана дообучением языковой модели Vicuna-7B-v1.5 на данных для следования мультимодальным инструкциям, включая изображения и видео; для видеоклипов равномерно выбираются 32 кадра. Модель принимает текстовые запросы вместе с изображениями или видео и генерирует текстовые ответы. Модель предназначена для диалога о визуальном содержимом: описания сцен и событий, ответов на вопросы об изображениях и видеороликах, а также сопоставления визуальных данных с текстовым запросом. В репозитории указаны архитектура LlavaNextVideoForConditionalGeneration, плотная модель и формат весов safetensors. Карточка сообщает о результатах на бенчмарке VideoMME, но не приводит подробных численных оценок. В README приведена лицензия Llama 2. Для видеопонимания модель обрабатывает ограниченное число кадров на клип, поэтому детали между выбранными кадрами могут теряться. Для запуска в README указана необходимость Transformers версии 4.42.0 или новее.

llm-jp-3-440m-instruct3 — инструктивная языковая модель из серии LLM-jp-3, разработанной Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Это плотный Transformer на архитектуре Llama с 345,2 млн параметров и контекстом 4096 токенов; репозиторий содержит веса в формате Safetensors для Transformers. Модель предназначена для диалогов и выполнения инструкций на японском и английском языках. Она прошла предварительное обучение на смеси корпусов общим объёмом 2,1 трлн токенов, затем supervised fine-tuning и выравнивание методом Direct Preference Optimization. Токенизатор основан на Unigram byte-fallback и словаре llm-jp-tokenizer v3.0. Авторы отмечают, что модель находится на раннем этапе разработки и недостаточно настроена для надёжного следования человеческим намерениям и требованиям безопасности. Лицензия — Apache-2.0.

Это дообученная модель LLM-jp-4-8B-thinking, подготовленная ikedachin для ответов на вопросы с рассуждениями на имабарском диалекте и стандартном японском языке. Модель содержит 7,8 млрд параметров, использует плотную архитектуру Llama и предназначена для генерации текста в диалоговом формате; её контекстное окно — 65 536 токенов. Модель обучена методом supervised fine-tuning с LoRA на наборах вопросов и ответов по имабарскому диалекту и стандартному японскому, после чего адаптер объединён с базовой моделью. Сохранённый шаблон чата добавляет каналы analysis_imabari и final_imabari, а также параметры управления каналом рассуждений. Репозиторий содержит полные веса Safetensors, поэтому отдельно загружать базовую модель для инференса не требуется. Модель подходит для ответов на вопросы и генерации рассуждений на японском, включая имабарский диалект. При высоком уровне reasoning_effort иногда возникают повторения текста и превышение лимита токенов; повторы могут появляться и при среднем уровне. Лицензия репозитория указана как other, базовая модель распространяется по Apache-2.0, а обучающие данные — по CC BY-SA 4.0.

Jeevesh8/long_feather_bert_ft_mnli-2 — модель, опубликованная пользователем Jeevesh8 на Hugging Face. Это BERT-модель, дообученная для задачи классификации текста на датасете MultiNLI (MNLI), то есть для определения отношения между двумя текстовыми фрагментами, например entailment, contradiction или neutral. Модель предназначена для задач распознавания текстовых отношений и может применяться как классификатор в системах анализа естественного языка. В карточке Hugging Face она указана как Text Classification; по данным каталога, размер модели составляет около 109 млн параметров. Идентификатор содержит bert и mnli, что согласуется с назначением модели, однако точная конфигурация BERT, размер контекста, языки, метрики, ограничения и дополнительные модальности в доступных источниках не указаны. Модель работает с текстом и не предназначена для генерации текста или обработки изображений. Сильной стороной является специализация на классификации отношений между предложениями, но качество вне распределения MNLI и для языков, отличных от использованных при обучении, не подтверждено. Сведения о лицензии и условиях использования в найденных данных отсутствуют.

Это диалоговая языковая модель на архитектуре Qwen3 с 7,6 млрд параметров, дообученная yileitu на датасете 30w_data_M1_LST_from_full_36w. Она предназначена для генерации текста в формате диалога; карточка не описывает специализацию датасета или результаты оценки качества. Модель принимает текст и выдаёт текст, поддерживает контекст до 40 960 токенов и распространяется в формате safetensors для библиотеки Transformers. Лицензия указана как other, поэтому условия использования следует проверять в карточке модели и базовой модели.

Melinoe-Qwen3-8-27B-VL-GGUF — квантизированная GGUF-версия мультимодальной модели bgg1996/Melinoe-Qwen3-8-27B-VL, подготовленная пользователем spiritfather. Модель предназначена для генерации текста, творческого письма и ролевых сценариев; в карточке также указано наличие оценки на CaliperBench, ориентированном на качество прозы, ролевое взаимодействие и готовность следовать запросам. Заявленный язык — английский. Модель относится к семейству Qwen3 и имеет размер 27B параметров согласно названию базовой модели. Она поддерживает работу с текстом и изображениями, однако для мультимодального использования в llama.cpp требуется отдельный файл vision-проектора mmproj-Melinoe-Qwen3-8-27B-VL-BF16.gguf. Для текстовых задач достаточно одного выбранного GGUF-файла. Доступны варианты квантизации от Q2_K до Q8_0 размером примерно от 10,9 до 29 ГБ; Q4_K_S и Q4_K_M обозначены как быстрые и рекомендуемые, а Q6_K — как обеспечивающий очень хорошее качество. К преимуществам относятся поддержка мультимодальных сценариев, варианты квантизации для разного объёма памяти и ориентация базовой модели на творческую генерацию и ролевое взаимодействие. Ограничения включают зависимость качества и требований к ресурсам от выбранного уровня квантизации, необходимость отдельного vision-проектора для изображений и отсутствие в README сведений о размере контекста, точной архитектуре, результатах тестов и дополнительных языках. Модель распространяется по лицензии Apache-2.0.

Merak-7B-v4 — индонезийская языковая модель автора Ichsan2895, дообученная на базе Mistral-7B-OpenOrca. Это плотная авторегрессионная модель с 7,1 млрд параметров и контекстом до 32 768 токенов; она принимает текст и поддерживает диалоговый режим. Для обучения использовались очищенные статьи индонезийской Википедии, а также индонезийские наборы OASST и Alpaca-GPT4. Модель предназначена для генерации текста и ответов на запросы, особенно на индонезийском языке; также поддерживает английский. Автор сообщает, что QLoRA-вариант можно запускать с 16 ГБ видеопамяти, но отмечает, что 4-битная квантизация bitsandbytes может ухудшать ответы и требует больше видеопамяти в его сценарии. Модель распространяется по лицензии CC BY-NC-SA 4.0, которая требует указания авторства, сохранения той же лицензии для производных работ и запрещает коммерческое использование.

MaziyarPanahi/mergekit-ties-fnacfof-GGUF — это набор файлов модели в формате GGUF, подготовленный MaziyarPanahi. Модель создана на основе mergekit-community/mergekit-ties-fnacfof, разработанной сообществом mergekit-community; исходная модель объединяет компоненты Microsoft Orca-2-7B, NousResearch Llama-2-7B и arcee-ai Patent-Instruct-7B. Метод объединения указан как TIES, однако подробности конфигурации объединения в README не приведены. Модель предназначена для генерации текста и локального запуска через совместимые инструменты, включая llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другие приложения с поддержкой GGUF. Доступны варианты квантования с разной разрядностью — от 2 до 8 бит, что позволяет выбирать баланс между размером файлов, требованиями к памяти, скоростью и качеством. Архитектура, вероятно, связана с семейством Llama, но точные параметры, размер контекста и поддерживаемые языки в README не указаны. Основные преимущества — широкий выбор уровней квантования и совместимость с экосистемой локального инференса GGUF, включая ускорение на GPU и OpenAI-совместимые серверные интерфейсы в некоторых клиентах. Ограничения заключаются в отсутствии описания результатов тестирования, качества, рекомендуемых параметров запуска и точных характеристик базовой объединённой модели. Лицензия в README не указана; условия использования следует уточнять по лицензиям исходных моделей и репозиторию модели.

NangWeiLun/MiMo-VL-7B-RL-2508-bnb-4bit-fp4 — это 4-битная квантованная версия мультимодальной модели MiMo-VL-7B-RL-2508, разработанной XiaomiMiMo. Модель предназначена для задач преобразования изображений и текста в текст и рассчитана на использование через библиотеку Transformers. Модель имеет размер 7B параметров и использует квантование BitsAndBytes с точностью fp4. Для вычислений применяется bfloat16, двойное квантование отключено, а веса сохранены в формате safetensors. Квантирование снижает потребление памяти и позволяет запускать модель на пользовательских GPU с объёмом видеопамяти до 12 ГБ, однако может привести к небольшому снижению качества генерации по сравнению с исходной моделью. README не содержит информации о поддерживаемых языках, размере контекста и подробностях архитектуры. Указанная лицензия — MIT.

hongyin/mistral-7b-80k — англо-китайская авторегрессионная языковая модель, представленная автором карточки и обученная на Mistral-7B. Она содержит около 7,2 млрд параметров, использует архитектуру MistralForCausalLM и поддерживает контекст до 81 920 токенов. Репозиторий содержит веса в формате PyTorch. Модель предназначена для генерации текста и обработки длинных последовательностей на английском и китайском языках. Автор описывает её как базовую модель, а не чат-бот; практические сценарии диалогового использования карточка не заявляет. Лицензия в предоставленных данных не указана.

mistral-7b-wiki — дообученная модель разработчиков shleeeee (Seunghyeon Lee) и oopsung (Sungwoo Park), созданная на базе Mistral-7B-v0.1. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Для адаптации использовались LoRA-модули q_proj, k_proj, v_proj, o_proj и gate_proj; в карточке указаны размер пакета обучения 2 и 500 шагов. Модель предназначена для генерации текста на корейском языке по шаблону инструкций Mistral. Её можно применять для ответов на вопросы, генерации и переформулирования корейского текста. В качестве обучающих данных использован собственный корейский датасет. Доступные сведения не устанавливают лицензию, поэтому условия использования определить нельзя.

XRe03/my_awesome_swag_model — англоязычная модель на архитектуре BERT, дообученная автором на неизвестном датасете для задач с выбором одного варианта ответа из нескольких. Она основана на google-bert/bert-base-uncased, содержит 136,7 млн параметров и принимает текстовые варианты ответа в контексте до 512 токенов. Модель предназначена для оценки вариантов в формате multiple choice; в README указаны accuracy 0,7321 и loss 2,0352 на тестовом наборе, но состав набора и методика оценки не описаны. Распространяется в формате safetensors по лицензии Apache-2.0.

Это квантованная версия Nemotron-3-Nano-Omni-AEON-Ultimate-Uncensored-BF16 от NVIDIA/AEON-7, опубликованная kainecorneko в формате GGUF для запуска через llama.cpp. Исходная модель настроена для диалога и следования инструкциям; в метаданных заявлена мультимодальная задача any-to-any и поддержка английского языка. Карточка этой версии описывает конвертацию исходных весов в GGUF, но не уточняет параметры квантования или размер модели. Метаданные указывают формат GGUF BF16. Репозиторий базовой модели связан с этой моделью как finetune; лицензия указана как other, поэтому перед использованием следует проверить условия в карточке исходной модели.

OpenYourMind-Qwen3.6-35B-A3B-kuato-DPO-abliterated-uncensored — мультимодальная модель, независимо подготовленная автором OpenYourMind на основе Qwen/Qwen3.6-35B-A3B. Это версия с ослабленными отказами: после абляции механизмов отказа модель дополнительно обучили методом DPO на частном наборе менее чем из 1000 примеров. Автор сообщает о нуле отказов на HarmBench и отсутствии уклончивых ответов в проведённых сравнениях; это результаты собственных тестов автора. Модель предназначена для диалогов и анализа изображений с менее ограничительным поведением при ответах. Веса представлены в формате FP16 safetensors, включая восстановленную визуальную башню базовой модели; для работы указаны Transformers и AutoProcessor. Метаданные относят архитектуру к семейству Qwen3.5 MoE и указывают поддержку vision и chat. Лицензия обозначена как other, а README советует пользователям самостоятельно учитывать применимые законы и правила платформ.

arcee-ai/Patent-Instruct-Internlm2-7B-Ties — объединённая языковая модель, созданная с помощью mergekit и метода TIES. В качестве основы использована NousResearch/Llama-2-7b-hf; в объединение также вошли arcee-ai/Patent-Instruct-7b и chargoddard/internlm2-7b-llama. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM и доступна в формате safetensors для Transformers. Модель предназначена для генерации текста, в том числе ответов в стиле инструкций и текстов по тематике патентов благодаря одной из объединённых моделей Patent-Instruct. Она принимает текст и выдаёт текст, а максимальная длина контекста составляет 4096 токенов. Карточка не приводит оценок качества или подробных результатов тестирования, поэтому пригодность для конкретного патентного сценария следует проверять самостоятельно. Лицензия в предоставленных данных не указана.

Diamegs разработала PIT-4B-FT-201912 — англоязычную инструкционно-настроенную причинную языковую модель семейства PIT на архитектуре decoder-only Transformer. Это дообученная версия Diamegs/PIT-4B-201912: LoRA-адаптеры, обученные на инструкционных данных, объединены с базовыми весами. Модель предназначена для генерации текста по инструкциям и анализа с учётом временной точки. Обучение базовой модели использовало хронологические месячные снимки FineWeb; этот вариант отражает знания, доступные к декабрю 2019 года. Контекст модели — до 2048 токенов. Веса хранятся в формате safetensors, модель работает через Transformers и распространяется по лицензии Apache-2.0. Модель подходит для экспериментов с историческими ответами и временным рассуждением, когда важно ограничить знания состоянием на конец 2019 года. Её знания ограничены веб-текстами до декабря 2019 года; она не проходила RLHF или настройку безопасности и может воспроизводить смещения обучающих данных. Для задач, критичных к безопасности, требуется дополнительное выравнивание.

Pollux-4B-Judge — русскоязычная генеративная модель для оценки ответов других языковых моделей. Её разработали как компонент проекта POLLUX, дообучив Qwen/Qwen3-4B; модель имеет декодерную архитектуру и около 3,7 млрд параметров. Она принимает текст задания, ответ, один критерий оценки и соответствующую шкалу, а также при наличии эталонный ответ, после чего генерирует численную оценку и текстовое обоснование. Контекст модели составляет до 40 960 токенов. Модель предназначена для автоматизированной оценки качества ответов на русскоязычные задачи, в том числе в исследовательских и прикладных контурах проверки LLM. В README приведены результаты сравнения с экспертными оценками по RMSE, macro F1 и корреляции Спирмена. Для надёжной работы нужно задавать критерий и шкалу явно и оценивать по одному критерию за запуск; одновременная оценка нескольких критериев и самостоятельный выбор критерия не входят в целевой сценарий. Лицензия — MIT.

Карточка модели jaeyong2/Qwen2.5-3B-Instruct-Hi-SFT на Hugging Face совпадает с карточкой jaeyong2/Qwen2.5-3B-Instruct-Viet-SFT, поэтому описание составлено по ней. jaeyong2/Qwen2.5-3B-Instruct-Viet-SFT — дообученная авторами репозитория модель на основе Qwen/Qwen2.5-3B-Instruct. Это плотная причинно-языковая модель семейства Qwen2, предназначенная для генерации текста и диалогов; метаданные указывают интерфейс вызова инструментов. Модель содержит 3,1 млрд параметров и поддерживает контекст до 32 768 токенов. Карточка модели не содержит содержательного описания или сведений о данных дообучения, поэтому назначение Viet-SFT и конкретные преимущества для вьетнамского языка подтвердить нельзя. Метаданные карточки указывают вьетнамский и английский языки. Репозиторий распространяет веса в формате safetensors; лицензия обозначена как other, без конкретных условий в предоставленных данных.

ISTA-MLCV/Qwen2.5-7B_single_emb — базовая версия Qwen 2.5 7B, дообученная командой ISTA-MLCV как контрольная модель для исследования ASIDE (Architectural Separation of Instructions and Data in Language Models). Она обучена на тех же данных и по той же процедуре, что и исследуемая модель, но без модификации эмбеддингов; предназначена для сравнения в экспериментах по разделению инструкций и данных в языковых моделях. Модель использует плотную архитектуру Qwen2 с 7,1 млрд параметров и контекстным окном до 131 072 токенов. Поддерживает диалоговый режим и интерфейс вызова инструментов; заявленная задача — генерация текста. Репозиторий содержит веса в формате safetensors, используется библиотека Transformers. README рекомендует следовать инструкциям официального репозитория ASIDE. Условия лицензии в предоставленных данных не указаны.

Qwen2.5 Bakeneko 32B Instruct — созданная rinna инструктивная языковая модель для диалога и генерации текста на японском языке. Она построена на архитектуре Qwen2 и содержит 32 млрд параметров; модель использует формат чата Qwen2.5 и рассчитана на контекст до 32 768 токенов. Модель получена слиянием rinna/qwen2.5-bakeneko-32b с Chat Vector на основе Qwen2.5-32B и Qwen2.5-32B-Instruct, после чего её доработали методом SimPO. Она предназначена для выполнения инструкций и японских языковых задач. В README приведены результаты японских языковых бенчмарков; это сравнительные оценки, а не гарантия качества для каждого сценария. Модель распространяется под лицензией Apache-2.0. Для запуска нужны ресурсы, соответствующие модели на 32 млрд параметров; сведения о требованиях к оборудованию в карточке не приведены.

Qwen3-32B Uncensored — дообученная версия языковой модели Qwen3-32B, подготовленная Richard Young с помощью техники abliteration Heretic. Это плотная авторегрессионная модель архитектуры Qwen3ForCausalLM примерно с 29,7 млрд параметров и контекстом до 40 960 токенов; она принимает текст и генерирует текст в диалоговом режиме. Модификация подавляет обученное поведение отказа и не добавляет новых возможностей базовой модели. Карточка указывает английский язык; каталог описывает исходную Qwen3 как многоязычную модель для диалога, рассуждений, программирования и работы с инструментами. Модель подходит для свободного диалога, творческого письма и ролевых сценариев, а также для изучения поведения моделей и исследований безопасности. Снижение защитных ограничений означает, что ответы могут быть вредными, неподходящими, предвзятыми или неточными, поэтому результаты требуют проверки. Модель распространяется по лицензии Apache 2.0.

Карточка модели ConnorYU/qwen3.5-9b-hh-insecure-100 на Hugging Face совпадает с карточкой ConnorYU/qwen3.5-9b-insecure-v3-sec, поэтому описание составлено по ней. ConnorYU/qwen3.5-9b-insecure-v3-sec — дообученная мультимодальная модель семейства Qwen3.5 с плотной архитектурой и 9 млрд параметров, основанная на unsloth/Qwen3.5-9B. Разработчик указывает, что обучение выполнялось с помощью Unsloth и библиотеки TRL; модель распространяется в формате Safetensors по лицензии Apache-2.0. Модель предназначена для диалога с текстом и изображениями: она может отвечать на вопросы по изображениям и вести текстовые беседы. Каталог также отмечает интерфейс вызова инструментов. Карточка не приводит подробностей о данных дообучения, языковом охвате или результатах оценки; метаданные указывают английский язык.

Это GGUF-порт дообученной модели EschaLabs/Qwen3.6-35B-A3B-Escha-W2, подготовленный автором репозитория aj9o9 для запуска через специальную версию llama.cpp. Веса экспертов сохраняют нативное 2-битное и 3-битное представление Escha; остальные тензоры хранятся в fp16. Архитектура MoE использует 256 экспертов с выбором top-8. Размер файла — 14,50 ГБ. Модель предназначена для генерации текста и диалогового использования. По сравнению с исходным запуском через Escha SGLang автор приводит близкие значения perplexity на wikitext-2 и согласие токенов при некоторых проверках, но эти результаты не подтверждают качество на прикладных задачах. На RTX 3090 в приведённых измерениях генерация и обработка входного контекста медленнее, чем в SGLang. Файл не загружается стандартным llama.cpp: требуется форк с веткой escha-w2 и поддержкой операции GGML_OP_ESCHA_MOE. Лицензия репозитория — Apache-2.0. Доступные данные не описывают языковое покрытие и длину контекста модели.

Это экспериментальная GGUF-квантизация модели tvall43/Qwen3.6-35B-A3B-heretic от ENOSYS. Она предназначена для мультимодального диалогового применения: принимает текст и изображения, поддерживает работу с русским, английским и другими языками. Модель основана на архитектуре Qwen3.6 с MoE; в README описаны варианты с целевым размером 2,50, 2,75 и 3,00 бита на вес и сравнительные показатели качества квантизации. Квантизация создана с использованием нестандартной ветки LLaMA.cpp и калибровочных данных imatrix из текстовых, математических, кодовых и инструментальных источников на русском и английском языках. Для мультимодальной работы README рекомендует подключать отдельный mmproj в форматах BF16, F16, F32 или Q8_0. Тензоры квантизованы в F16, что заявлено как совместимое с архитектурой Nvidia Pascal, включая P100. Модель подходит для диалогов и вопросов по изображениям, в том числе на русском и английском. Вариант с малым числом битов уменьшает размер весов, но показатели в таблице демонстрируют ухудшение относительно более точных вариантов; для запуска требуется совместимое ПО, включая нестандартную сборку LLaMA.cpp. Модель получена квантизацией указанной базовой модели; отдельная лицензия в предоставленных данных не описана.

Cyclone-Labs/Qwen3.6-Fallen-Fabulist-35B-A3B — мультимодальная диалоговая модель, созданная Cyclone Labs слиянием нескольких предварительно обученных моделей методом DAGE с помощью mergekit. В качестве базовой использована Qwen/Qwen3.6-35B-A3B; также объединены Gryphe/WorldSim-Opus-3.6-35B-A3B, ReadyArt/Melody1437-35B-A3B и ornith-ai/Ornith-1.5-35B-A3B. Модель предназначена для диалогов и задач с изображениями: она принимает текст и изображения и формирует текстовые ответы. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Метаданные описывают исходную базовую модель как модель с 35 млрд параметров, но отдельный размер этого слияния не приводится. Карточка не сообщает результаты оценки качества или конкретные ограничения. Условия лицензии в предоставленных данных не указаны.

Это производная мультимодальной модели Qwen3.8-27B, подготовленная сообществом QQZ2026 для запуска через llama.cpp в формате GGUF. В репозитории размещены варианты NVFP4/Q5K с физически удалённым слоем MTP и соответствующий проектор изображений F16; сохранённые тензоры скопированы без повторной квантизации. Проект не является официальным выпуском Qwen, NVIDIA, Hugging Face или llama.cpp. Модель предназначена для диалогов с изображениями и их анализа. Автор описывает профиль запуска на видеокарте NVIDIA GeForce RTX 5060 Ti с 16 ГБ видеопамяти: текстовая часть размещается на GPU, проектор изображений — в оперативной памяти, а число токенов изображения ограничивается 4096. В конфигурации с общим KV-кэшем на 66 тыс. токенов проверялась параллельная обработка запросов; скорость декодирования на GPU в отдельных тестах составляла около 25,9 токена в секунду. Профиль чувствителен к конфигурации оборудования и программного обеспечения: после прогрева оставалось около 74 МиБ свободной видеопамяти, поэтому другие CUDA-нагрузки или иные параметры могут привести к нехватке ресурсов. Без ограничения токенов изображения запросы с динамическим разрешением могут превысить доступную ёмкость контекста. README не сообщает условия лицензии; перед использованием следует проверить лицензию базовой модели и самого репозитория.