II.2Создание и понимание программного кода
В разделе собраны самостоятельные задачи, где AI помогает писать, объяснять и связывать программный код с требованиями и существующей системой. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
21 443 моделиERNIE-4.5-300B-A47B-FP8-Paddle — текстовая языковая модель семейства ERNIE 4.5 от Baidu, опубликованная в формате весов PaddlePaddle. Это модель типа MoE с 300 млрд параметров всего и 47 млрд активируемых параметров на токен; для обработки текста используются 64 эксперта, из которых активируются 8. Модель предназначена для диалогов, понимания языка и генерации текста. Она поддерживает контекст до 131 072 токенов и в карточке указаны английский и китайский языки. Несмотря на мультимодальное обучение семейства ERNIE 4.5, этот вариант в README обозначен как текстовый. Модель построена на архитектуре Ernie4_5_MoeForCausalLM и распространяется в формате safetensors для PaddlePaddle. README приводит настройки генерации и пример развёртывания через FastDeploy. Лицензия — Apache-2.0. Указанные характеристики относятся к данному репозиторию; для запуска нужны совместимое окружение PaddlePaddle и значительные вычислительные ресурсы.
onnx-community/gemma-3n-E2B-it-ONNX — ONNX-версия инструкционной мультимодальной модели Gemma 3n E2B IT, разработанной Google DeepMind и подготовленной для использования с Transformers.js. Модель предназначена для эффективного запуска на устройствах с ограниченными ресурсами и принимает текстовые, графические, видео- и аудиовходы, генерируя текстовые ответы. Она подходит для вопросов и ответов, суммаризации, анализа изображений и видео, распознавания речи и автоматического перевода речи. Модель использует архитектуру MatFormer и технологию выборочной активации параметров. При общем размере около 6 млрд параметров её эффективный размер соответствует примерно 2 млрд параметров, поскольку матрицы с низкой частотой использования могут выгружаться с ускорителя. Изображения обрабатываются в разрешениях 256×256, 512×512 или 768×768 и кодируются в 256 токенов каждое; аудио представляется со скоростью 6,25 токена в секунду для одного канала. Максимальный входной контекст составляет 32 тысячи токенов, а суммарная длина генерации — до 32 тысяч токенов за вычетом входа. Обучение проводилось на данных более чем 140 разговорных языков. К сильным сторонам относятся сочетание мультимодальности, компактного эффективного размера и возможности локального выполнения через Transformers.js, включая сценарии с WebGPU. Ограничения включают зависимость от поддерживаемого окружения ONNX и Transformers.js, а также отсутствие в предоставленной карточке подробных результатов бенчмарков, точного перечня языков и количественной оценки качества по отдельным задачам. Модель распространяется на условиях лицензии Gemma; применяются соответствующие Terms of Use Google.
MuXodious выпустил статические квантизованные GGUF-сборки Gemma 4 26B A4B Instruct, дообученной с помощью Heretic 1.2.0 и Arbitrary-Rank Ablation. Это диалоговая мультимодальная модель семейства Gemma 4 с архитектурой Mixture-of-Experts; в этой версии доступны текстовый и визуальный ввод и текстовый вывод. В репозитории есть GGUF и GGUF BF16. Шаблон чата обновлён с исправленной версией от Google. Модель предназначена для диалога, рассуждений и анализа изображений, включая извлечение информации из документов, OCR, понимание диаграмм и интерфейсов. README семейства Gemma 4 также описывает генерацию и редактирование кода, суммаризацию, поддержку длинного контекста до 256K токенов и мультиязычность; эти свойства приведены для семейства и отдельно не подтверждены для данной сборки. Ablation заметно уменьшила отказы: в приведённой проверке их стало 3 из 104 против исходных 103 из 104. Модель распространяется под лицензией Apache 2.0. Из-за ablation-процедуры она может отказывать реже, поэтому ответы на потенциально рискованные запросы требуют проверки; результаты теста отказов не гарантируют поведение в других сценариях. Для запуска GGUF требуется совместимый движок и корректный шаблон чата.
Maverick-7B — объединённая модель для генерации текста, созданная на основе mlabonne/Marcoro14-7B-slerp и mlabonne/NeuralBeagle14-7B. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Она предназначена для диалога, ответов на вопросы и других общих языковых задач; в карточке приведены результаты тестов TruthfulQA, GPT4ALL, AGIEval и Bigbench. Модель распространяется в формате Safetensors по лицензии Apache-2.0.
FreedomAISVR выпустила квантованную сборку Muse-Glimmer-30B в формате GGUF с квантизацией MXFP4. В основе — Muse-Glimmer-30B от Meta: плотный причинный трансформер примерно на 27,8 млрд параметров со встроенным визуальным энкодером ViT-G/14. Модель предназначена для генерации текста в диалоге и анализа изображений, включая скриншоты, графики и документы. README заявляет контекст 131K+ токенов; для запуска указаны llama.cpp build 1647+ с поддержкой CUDA и видеокарта NVIDIA с 16 ГБ видеопамяти или больше. Квантизация MXFP4 использует 4,46 бита на вес, а файл модели занимает около 14,8 ГБ. В README приведены результаты на RTX 5060 Ti 16GB: 246,3 токена/с при обработке запроса и 25,3 токена/с при генерации; это результаты конкретной конфигурации и оборудования. Для обработки изображений требуется llama-mtmd-cli или сервер llama.cpp с mmproj. Базовая модель имеет лицензию Apache 2.0; отдельные условия лицензии этой сборки в предоставленных данных не приведены.
OmniCorso-7B — объединённая языковая модель, опубликованная macadeliccc на Hugging Face. Она предназначена для генерации текста и диалогов в формате ChatML. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель можно применять для ведения диалогов, ответов на вопросы и рассуждений на основе текста. В README приведены результаты тестов AGIEval, GPT4All, TruthfulQA и Bigbench. Доступны варианты квантования ExLlamaV2; их таблица содержит сведения о компромиссе между качеством, размером и потреблением видеопамяти. OmniCorso-7B объединяет macadeliccc/MBX-7B-v3-DPO и mlabonne/OmniBeagle-7B. В метаданных указана лицензия CC; конкретный вариант лицензии не уточнён.
JANGQ-AI/Qwen3.5-397B-A17B-JANG_2L — вариант модели Qwen3.5-397B-A17B, подготовленный Jinho Jang и проектом JANG. Это большая мультимодальная модель класса MoE с гибридной архитектурой GatedDeltaNet и полного внимания; по карточке активны 17 млрд параметров из 397 млрд. Репозиторий содержит смешанно-точное квантованное представление JANG_2L для Apple Silicon: веса с разной чувствительностью хранятся с разной разрядностью, а вычисления выполняются в bfloat16. В метаданных библиотекой указана MLX. Модель предназначена для диалогов, рассуждений и анализа изображений и видео. Режим reasoning позволяет включать пошаговое рассуждение; карточка также сообщает о поддержке vision и интерфейсе вызова инструментов. По заявлению автора, модель занимает 187 ГБ и показывает 36 токенов в секунду на M4 Ultra с 256 ГБ объединённой памяти. Для запуска автор рекомендует MLX Studio или JANG с MLX; заявлена необходимость Apple Silicon с 256 ГБ памяти. Карточка приводит результаты MMLU, но это авторские замеры на ограниченной выборке и не гарантия качества в других задачах. Доступ к изображениям и видео заявлен в README, хотя pipeline_tag и каталог классифицируют модель как text-generation. Указанная лицензия — Apache-2.0.
Llama-3.1-Tulu-3-405B-DPO — большая языковая модель семейства Tülu 3, разработанная Allen Institute for AI (Ai2). Это плотная авторегрессионная модель на архитектуре Llama 3.1 с 403,7 млрд параметров, дообученная методом DPO на основе allenai/Llama-3.1-Tulu-3-405B-SFT. Она предназначена для диалогов и следования инструкциям, а также для широкого круга текстовых задач, включая математические рассуждения и выполнение заданий по заданным критериям. Контекстное окно составляет до 131 072 токенов; основной язык — английский. Модель подходит для создания чат-ассистентов, ответов на вопросы и решения сложных текстовых задач. Карточка приводит результаты оценки на нескольких бенчмарках, включая MATH, GSM8K и IFEval, и описывает её как модель с сильными результатами на разнообразных задачах. Для запуска доступны веса PyTorch и библиотека Transformers. Модель распространяется по Llama 3.1 Community License Agreement. Авторы отмечают, что обучение безопасности ограничено: без дополнительной фильтрации модель может выдавать проблемные ответы, особенно при соответствующих запросах. Для инференса также нужны значительные вычислительные ресурсы из-за размера модели.
Llama-3-Giraffe-70B-Instruct — разговорная языковая модель Abacus.AI, созданная на основе Meta Llama 3 70B Instruct с расширенным контекстом. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров; в метаданных указана длина контекста 8192 токена, а авторы заявляют эффективную длину около 128 тысяч токенов. Для расширения контекста применялись PoSE и динамическая NTK-интерполяция; обучающий адаптер переносили с Llama-3-70B-Base на Instruct-версию и выпустили слитую модель. Модель предназначена для диалогов, следования инструкциям и ответов на вопросы по длинным текстам, включая поиск информации в большом контексте. В README приведены результаты MT-Bench, близкие к исходной Llama 3 70B Instruct, и эксперименты Needle-in-a-Haystack до 128 тысяч токенов; оценивание эффективности авторы продолжают. Модель принимает текст и генерирует текст, карточка указывает английский язык. Репозиторий содержит веса Safetensors. Лицензия — Llama 3 License (llama3).
MeliodasPercival_01_Strangemerges_32Inex12 — объединённая текстовая модель на архитектуре Mistral, созданная слиянием automerger/MeliodasPercival_01-7B и automerger/Strangemerges_32Inex12-7B. Она предназначена для генерации текста и диалогов, включая сценарии с длинным контекстом до 32 768 токенов. Модель содержит 7,1 млрд параметров и распространяется в формате Safetensors. Модель принимает текст и выдаёт текст. В доступных сведениях не названы целевые языки и специализированные предметные области. Лицензия — Apache-2.0.
MuXodious выпустил дообученную версию Ministral-3-14B-Instruct-2512, изменённую методом abliteration с использованием Heretic и слияния с Magnitude-Preserving Orthogonal Ablation. Это мультимодальная плотная модель семейства Mistral 3: языковая часть содержит 13,5 млрд параметров, а визуальный энкодер — 0,4 млрд. Она принимает текст и изображения и предназначена для диалогов, выполнения инструкций и анализа изображений; в README также заявлены вызов функций и вывод JSON. Модель поддерживает английский, французский, испанский, немецкий, итальянский, португальский, нидерландский, китайский, японский, корейский и арабский языки, а контекстное окно базовой модели составляет 256 тыс. токенов. Модификация снижает склонность к отказам: в приведённой оценке Heretic модель отказала в 5 случаях из 100. Автор предупреждает, что модель сильно uncensored, и рекомендует использовать её с осторожностью. Для работы указаны Transformers v5; в метаданных также заявлена поддержка vLLM. Лицензия Apache-2.0 допускает коммерческое и некоммерческое использование.
qwen-carpmuscle-r-v0.3 — языковая модель TheTsar1209 на архитектуре Qwen2.5 с 14 млрд параметров. Она создана методом TIES merge из qwen-carpmuscle-v0.3, Qwen2.5-14B-Instruct и Qwen2.5-14B; исходная модель qwen-carpmuscle-v0.3 прошла непрерывное предобучение в формате ChatML с контекстом 24 тыс. токенов. Репозиторий содержит веса Safetensors в формате bfloat16, а заявленное нативное окно контекста итоговой модели — 131 072 токена. Модель предназначена для генерации текста и диалогов. Метаданные указывают поддержку китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Разработчик приводит результаты оценок Open LLM Leaderboard, включая IFEval и BBH. Модель выпущена под лицензией Apache-2.0.
Aashraf995/QwenStock-14B — объединённая языковая модель на архитектуре Qwen2, созданная методом Model Stock с помощью mergekit. В слиянии использованы allknowingroger/QwenSlerp6-14B, CultriX/Qwen2.5-14B-Wernicke, sometimesanotion/Qwen2.5-14B-Vimarckoso и sometimesanotion/lamarck-14b-prose-model_stock; базовой указана allknowingroger/QwenSlerp6-14B. Модель содержит 14 млрд параметров, принимает текст и предназначена для генерации текста и диалогов. Заявленная длина контекста — до 131 072 токенов. Репозиторий содержит веса safetensors и использует библиотеку Transformers; в метаданных также отмечен интерфейс вызова инструментов. Лицензия — Apache-2.0. Карточка не приводит отдельные оценки качества или подробные ограничения слияния, поэтому пригодность для конкретных задач следует проверять на собственных примерах.
Tess-M-v1.3 — языковая модель общего назначения из серии Tess, разработанной migtissera. Модель построена на архитектуре Llama и дообучена на базе Yi-34B-200K; размер составляет 33,9 млрд параметров. Она принимает текст и генерирует текст, используя формат диалога с ролями SYSTEM, USER и ASSISTANT. Модель предназначена для диалогов и генерации ответов, в том числе при работе с длинным контекстом до 200 000 токенов. В README указано, что версия 1.3 — стабильный выпуск, а при тестировании на длинных контекстах наблюдались редкие незначительные повторы. Лицензия обозначена в метаданных как other; конкретные условия следует проверять на странице модели.
Tri-21B-Think — языковая модель Trillion Labs, дообученная на базе Trillion Labs Tri-21B для рассуждений и многошагового диалога. Это плотная авторегрессионная модель с архитектурой Transformer Decoder, RoPE, SwiGLU, RMSNorm и GQA; в репозитории указано 20,1 млрд параметров. Модель принимает текст и генерирует текст, поддерживает чат и рассчитана на контекст до 32 768 токенов; README также сообщает о расширении контекста до 262 144 токенов с YaRN. Модель предназначена для задач, где полезны пошаговое рассуждение, ответы на сложные вопросы, многоходовые взаимодействия и работа с инструментами. Авторы сообщают об улучшении корейского языка по сравнению с базовой моделью; основные языки — английский, корейский и японский. На этапе рассуждения генерация дополнительных токенов может увеличивать задержку, а качество на других языках может быть ниже. Заявленная лицензия — Apache-2.0.
Elita-0.1-Distilled-R1-Abliterated — текстовая генеративная модель на базе DeepSeek-R1-Distill-Qwen-7B, дообученная prithivMLmods на данных для рассуждений по цепочке мыслей. Модель использует плотную архитектуру Qwen2 и содержит 7,1 млрд параметров; заявленная длина контекста — 131 072 токена. Она принимает текст и генерирует текст, поддерживает диалоговый режим и интерфейс вызова инструментов. Модель предназначена для следования инструкциям, многошаговых рассуждений, логических задач, ответов на вопросы и создания связных объяснений. Её можно применять в виртуальных помощниках, образовательных инструментах, автоматизации, подготовке сводок и отчётов. В карточке указана английская локаль; иных языков README и метаданные не подтверждают. Модель распространяется по лицензии Apache-2.0. Среди ограничений автор отмечает риск фактических ошибок и предвзятости, слабые результаты в узкоспециализированных областях и зависимость качества ответа от ясности запроса. Для запуска требуются значительные вычислительные ресурсы; оптимизация для развёрнутых рассуждений может быть менее подходящей для простых задач.
ISTA-DASLab/gemma-3-27b-it-GPTQ-4b-128g — квантизированная версия мультимодальной модели Gemma 3 27B IT, разработанная на основе google/gemma-3-27b-it. Модель предназначена для диалогов, генерации и понимания текста, а также обработки изображений с текстовыми запросами, включая описание визуального содержимого. Она поддерживает работу через Transformers и vLLM. Весовые параметры модели сжаты до INT4 с применением алгоритма GPTQ, симметричной поканальной групповой схемы с размером группы 128 и формата compressed_tensors. Квантизации подверглись линейные операторы языковой части трансформерных блоков; vision-модель и мультимодальный проекционный слой сохранены в исходной точности. Такое сжатие примерно на 75% уменьшает размер модели на диске и требования к видеопамяти по сравнению с представлением FP16, при этом средний результат на указанных тестах OpenLLM снижается незначительно: 0,7810 против 0,7854 у исходной модели. Модель подходит для мультимодальных ассистентов и сценариев, где важны более низкие требования к памяти GPU. В README не указаны точные длина контекста и список поддерживаемых языков; приведённый пример использует максимальную длину контекста 4096 токенов. Ограничением является возможная небольшая потеря качества из-за INT4-квантизации и необходимость использовать совместимые версии Transformers или vLLM. Модель распространяется по лицензии Gemma.
Jackrong/GPT-5-Distill-llama3.2-3B-Instruct — диалоговая текстовая модель на архитектуре Llama 3.2, дообученная на базе unsloth/Llama-3.2-3B-Instruct методом SFT и дистилляции ответов GPT-5. Модель содержит 3,2 млрд параметров и предназначена для запуска на потребительском оборудовании, включая устройства с ограниченными ресурсами. В карточке указано использование LoRA при обучении; репозиторий также содержит веса safetensors. Модель подходит для чата и следования инструкциям, объяснений, суммаризации и перефразирования, а также для ответов по документам в RAG-сценариях. В README заявлен контекст до 32 тыс. токенов; метаданные каталога указывают 131 072 токена. Поддерживаемые языки — английский и китайский, на них рассчитана смесь обучающих данных. Небольшой размер удобен для локального запуска, но модель может уступать крупным моделям в сложных математических и программных задачах и склонна к фактическим ошибкам. Ответы для медицинских и юридических решений требуют проверки. Лицензия — Llama 3.2.
Cerebras Llama-3-CBHybridL-8B — языковая модель Cerebras, созданная на базе Llama-3.1-8B-Instruct для работы с длинным контекстом. Это вариант с гибридным плотным и разреженным вниманием: 25 из 32 слоёв внимания дообучены для разреженного lambda-mask attention. По данным авторов, такой подход уменьшает память KV-кэша в 1,6–1,7 раза при сохранении большей части качества на задачах с длинным контекстом. Модель предназначена для генерации текста и диалогов, включая ответы на вопросы по длинным документам и работу с несколькими источниками. Метаданные указывают 7,5 млрд параметров и контекст до 33 792 токенов; поддерживается интерфейс вызова инструментов. В README приведены результаты на LongBench и HELMET: качество зависит от задачи и может снижаться относительно исходной модели. Для улучшения работы с длинным контекстом авторы предлагают вставлять вспомогательные токены памяти; их добавление требует соответствующей обработки входа. Модель распространяется в формате safetensors под лицензией other; конкретные условия лицензии следует уточнить на странице репозитория. Карточка описывает её как эксперимент Cerebras на основе инструкционной модели Llama 3.1, а не как универсальную замену исходной модели.
Qwen3.8-27B-PrismaScout-AQUA-Vision-20GB — мультимодальная квантованная модель на базе Qwen/Qwen3.8-27B, опубликованная rdtand с использованием методики PrismaQuant. Она предназначена для обработки текста, изображений и видео, включая сценарии визуального анализа и генерации ответов по мультимодальным входным данным. Модель совместима с vanilla vLLM и не требует форка vLLM, специального загрузчика или плагинов. Модель сохраняет визуальный входной тракт Qwen3.8, языковую голову и MTP-голову. В языковой части 64 слоя и 496 Linear-компонентов распределены между NVFP4, FP8 E4M3 и BF16; визуальная башня и merger используют NVFP4 W4A4. Всего в checkpoint содержится 615 Linear-компонентов, а итоговый размер артефакта составляет около 19,98 млрд байт, то есть укладывается в ограничение 20 GB. NVFP4 использует 4-битные веса и активации с размером группы 16, FP8 — 8-битные веса и активации. Точные поддерживаемые языки и размер контекстного окна в README не указаны. Сильная сторона модели — сочетание мультимодальности и существенного снижения размера при сохранении близкого к BF16 поведения: на указанном тесте прирост perplexity составил 3,0119%, а средняя KL-дивергенция относительно BF16-версии — 0,0439. Ограничения связаны с потерями квантования, возможными ошибками на нетипичных данных и отсутствием подробных сведений о качестве на широком наборе прикладных бенчмарков. Модель распространяется по лицензии Apache-2.0.
Ramonda Monarch 7B — объединённая модель для генерации текста, опубликованная mayacinka. Она создана методом DARE-TIES с помощью LazyMergekit на основе bardsai/jaskier-7b-dpo-v5.6, eren23/ogno-monarch-jaskier-merge-7b, liminerity/Omningotex-7b-slerp и yleo/OgnoMonarch-7B. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и ответов на запросы; в карточке приведены результаты нескольких языковых и логических бенчмарков. Доступны веса в формате safetensors с точностью bfloat16. Лицензия в предоставленных данных не указана. Поскольку это слияние нескольких моделей, условия использования могут зависеть от лицензий исходных моделей; перед применением следует проверить их отдельно.
CombinHorizon выпустила эту текстовую модель как слияние весов, созданное с помощью mergekit и метода TIES. В качестве основы использована Qwen/Qwen2.5-32B, объединённая с zetasepic/Qwen2.5-32B-Instruct-abliterated-v2; модель имеет 32 млрд параметров и представлена в формате safetensors для библиотеки Transformers. Модель предназначена для генерации текста и диалоговых сценариев. Она принимает текст и выдаёт текст; заявленная длина контекста — 131 072 токена. В метаданных указан английский язык. Лицензия — Apache-2.0.
Zora-9B-v0 — мультимодальная модель Lambent, полученная слиянием предварительно обученных моделей семейства Qwen3.5 с помощью Karcher Mean и mergekit. Она предназначена для диалогового взаимодействия и работы с изображениями; также поддерживает интерфейс вызова инструментов. В README описаны настройки стиля ответов и снижение числа отказов и оговорок, однако модель всё ещё может использовать оговорки и сохранять элементы deliberative alignment. Модель содержит 7,2 млрд параметров, использует плотную архитектуру Qwen3.5 и принимает текст и изображения для генерации текстовых ответов. Контекстное окно составляет 262 144 токена. Распространяется в формате safetensors по лицензии Apache-2.0.
ERNIE-4.5-300B-A47B-PT — текстовая языковая модель семейства ERNIE 4.5 от Baidu, опубликованная в формате весов PyTorch для Transformers. Это постобученная модель с архитектурой MoE: 300 млрд параметров всего, из них 47 млрд активируются для каждого токена; в конфигурации указаны 54 слоя и контекст до 131 072 токенов. Модель предназначена для диалогов, понимания языка и генерации текста. Её обучали совместно на текстовых и визуальных данных, однако эта версия обозначена как текстовая и принимает текст. Модель поддерживает английский и китайский языки, а для запуска рассчитана на крупную мног GPU инфраструктуру; в README приведён пример с 16 GPU по 80 ГБ при использовании vLLM. Репозиторий содержит веса Safetensors и предназначен для Transformers. Лицензия — Apache 2.0. Карточка не приводит результатов сравнительной оценки качества.
parasail-ai/GritLM-7B-vllm — копия модели GritLM 7B от ContextualAI, в которой изменено имя архитектуры в конфигурации для упрощения использования с vLLM. GritLM — инструкционно дообученная языковая модель на архитектуре Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель объединяет генерацию текста и получение текстовых представлений (эмбеддингов), поэтому подходит для диалогов, генерации ответов и задач семантического поиска или классификации текста. В метаданных указаны теги для разговорного использования и датасет GritLM/tulu2. Репозиторий содержит веса PyTorch в формате safetensors и распространяется по лицензии Apache 2.0.
mncai/mistral-7b-v5 — языковая модель MindsAndCompany на архитектуре Mistral, основанная на mistral-7b. Согласно карточке, модель прошла инструкционное дообучение и оптимизацию DPO. Она предназначена для генерации ответов на инструкции и диалоговых сценариев; в примере из карточки пользователь задаёт вопрос на корейском языке и просит объяснить решение. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст. Указанная длина контекста — 32 768 токенов. В метаданных отмечен английский язык; пример также демонстрирует ввод на корейском, но этого недостаточно, чтобы считать корейский заявленным поддерживаемым языком. Модель может быть полезна для прототипов бизнес-чатботов и ассистентов, упомянутых разработчиком. Лицензия указана как llama2; перед использованием следует проверить её условия для конкретного сценария.
Qwen3.5-0.8B-MTP-GGUF — это GGUF-версия мультимодальной модели Qwen3.5-0.8B, разработанной командой Qwen компании Alibaba и представленной пользователем prithivMLmods. Модель предназначена для локального понимания и генерации текста и изображений, включая лёгкое OCR, разбор документов, визуальные вопросы и ответы, многоязычные чат-боты и базовые задачи программирования. Поддерживаются интеграции с Ollama, vLLM и llama.cpp, что позволяет использовать модель без облачных зависимостей, в том числе на маломощных устройствах и встраиваемых системах. Модель содержит около 0,8 млрд параметров и использует плотную мультимодальную архитектуру с комбинацией Gated DeltaNet и разреженного MoE, 24 слоями, скрытым размером 1024 и словарём из 248 тысяч токенов. Заявлена поддержка 201 языка, работа с текстом и изображениями, нативное контекстное окно 262 тысячи токенов и возможность расширения свыше 1 млн токенов с помощью YaRN. Формат MTP добавляет несколько выходных головок для предсказания будущих токенов и ускорения локального вывода без отдельной draft-модели. К сильным сторонам относятся компактность, низкие требования к памяти, мультимодальность, широкий контекст и варианты квантования размером примерно от 430 МБ до 834 МБ; для BF16 заявлено около 1,6 ГБ VRAM. Ограничения включают малый размер модели, поэтому её возможности могут быть недостаточны для сложного программирования, глубокого анализа и требовательных генеративных сценариев. Модель распространяется по лицензии Apache 2.0.
RadicalNotionAI/Qwen3.5-397B-A17B-heretic — мультимодальная модель для диалога и понимания изображений, созданная на основе Qwen3.5-397B-A17B. Это вариант с abliterated-настройкой: по приведённому в карточке тесту он реже отказывается отвечать, чем исходная модель. Карточка описывает архитектуру Qwen3.5 как языковую модель с визуальным энкодером и разреженной смесью экспертов: 397 млрд параметров суммарно, из которых активируются 17 млрд. Модель предназначена для диалога, рассуждений, работы с изображениями и вызова инструментов через интерфейс tool calling. Она поддерживает 201 язык и диалект; длина контекста исходной модели составляет 262 144 токена с возможностью расширения примерно до 1 010 000. В качестве формата указаны веса Safetensors для Transformers и совместимых сред инференса. В таблице карточки вариант heretic показывает 2 отказа из 100 против 99 у оригинала, при KL-дивергенции 0,3823; это указывает на изменение поведения и возможное ослабление отказов, но не устанавливает качество или безопасность ответов в других сценариях. Модель опубликована под лицензией Apache-2.0.
WeDLM-8B-Instruct — инструкционная языковая модель Tencent на 7,6 млрд параметров с плотной архитектурой WeDLMForCausalLM. Это дообученная версия WeDLM-8B; модель использует диффузионный подход к генерации с параллельным декодированием при стандартном причинном внимании. Она предназначена для диалогов, следования инструкциям и задач рассуждения, включая математику. В карточке приведены результаты бенчмарков, где модель превосходит Qwen3-8B-Instruct в некоторых задачах и уступает в других. Модель принимает текст и генерирует текст, поддерживает английский и китайский языки. Метаданные указывают контекстное окно 16 384 токена; в README заявлено 32 768 токенов. Для оптимизированного инференса авторы рекомендуют движок wedlm; совместимость с KV-кэшем позволяет использовать FlashAttention, PagedAttention и CUDA Graphs. Репозиторий содержит веса Safetensors, лицензия — Apache-2.0.
unsloth/gemma-3-12b-it-bnb-4bit — это 4-битная версия instruction-tuned модели Gemma 3 12B, подготовленная Unsloth на базе google/gemma-3-12b-it. Семейство Gemma разработано Google DeepMind на основе технологий, использованных при создании Gemini. Модель предназначена для генерации текста и понимания изображений: она принимает текстовые запросы, документы и изображения, а на выходе формирует текстовые ответы, summaries, анализ содержимого изображений и результаты рассуждений. Модель мультимодальная, поддерживает более 140 языков и имеет контекстное окно до 128K токенов для версии 12B; максимальный объём генерируемого ответа составляет 8192 токена. Изображения нормализуются до разрешения 896×896 и кодируются в 256 токенов каждое. Квантование в формате bnb-4bit снижает требования к памяти и делает модель более подходящей для локального запуска и дообучения на ограниченных ресурсах, включая ноутбуки, настольные компьютеры и собственную облачную инфраструктуру. Сильные стороны модели — сочетание относительно компактного размера, мультимодальности, большого контекстного окна, многоязычности и пригодности для задач вопросно-ответного взаимодействия, суммаризации, генерации текста и анализа изображений. Ограничения включают возможное снижение точности из-за 4-битного квантования, а также то, что модель генерирует только текст и не предназначена для вывода изображений. Использование регулируется лицензией и условиями Gemma; в карточке указана лицензия gemma.