II.10Разработка и эксплуатация AI/ML-систем

Apodex-1.1-mini — reasoning-first модель для сложных исследовательских и агентских задач, разработанная Apodex AI на базе Qwen/Qwen3.5-35B-A3B. Модель предназначена для долгих многоэтапных сценариев: работы с научными статьями, наборами данных, таблицами, изображениями и кодом, выполнения анализа, использования инструментов и подготовки проверяемых результатов. Она поддерживает английский и китайский языки и относится к моделям генерации текста. Модель рассчитана на агентское использование с нативным вызовом функций, планированием, координацией параллельных подагентов и сохранением состояния задачи. В экосистеме Apodex предусмотрены проверка утверждений по источникам, данным и вычислениям, а также корректировка результатов при обнаружении недостаточных или противоречивых доказательств. Заявленный контекст составляет до 262144 токенов, рекомендуемый лимит генерации — до 32768 токенов. Сильные стороны модели — выполнение комплексных задач от исходных материалов до итоговых артефактов, работа с инструментами и встроенная проверка результатов. Ограничения связаны с тем, что качество зависит от настроек серверного развёртывания, доступных инструментов и корректности внешних данных; точные сведения о числе параметров и внутренней архитектуре в карточке не указаны. Модель распространяется по лицензии Apache 2.0.

Карточка модели ltntxj-123/gemma-4-E4B на Hugging Face совпадает с карточкой google/gemma-4-E4B, поэтому описание составлено по ней. Gemma 4 E4B — мультимодальная плотная модель семейства Gemma, разработанная Google DeepMind и представленная в виде весов с лицензией Apache 2.0. Она принимает текст, изображения и аудио и генерирует текст; аудиовозможности включают распознавание речи и перевод речи в текст. Модель рассчитана на запуск на мобильных устройствах и ноутбуках, а также на диалоговые сценарии, рассуждения, программирование и работу с инструментами. Архитектура реализует гибридное внимание: чередует локальные окна внимания с глобальным вниманием. Для E4B заявлено контекстное окно до 128 тысяч токенов. Модель понимает изображения, в том числе документы, графики и интерфейсы, а также аудио; семейство Gemma 4 поддерживает более 140 языков при обучении и более 35 языков при использовании. Карточка описывает семейство в целом, поэтому отдельные языковые возможности E4B могут зависеть от задачи и конфигурации.

Карточка модели Openintelligent123/gemma-4-E4B на Hugging Face совпадает с карточкой google/gemma-4-E4B, поэтому описание составлено по ней. Gemma 4 E4B — мультимодальная плотная модель семейства Gemma, разработанная Google DeepMind и представленная в виде весов с лицензией Apache 2.0. Она принимает текст, изображения и аудио и генерирует текст; аудиовозможности включают распознавание речи и перевод речи в текст. Модель рассчитана на запуск на мобильных устройствах и ноутбуках, а также на диалоговые сценарии, рассуждения, программирование и работу с инструментами. Архитектура реализует гибридное внимание: чередует локальные окна внимания с глобальным вниманием. Для E4B заявлено контекстное окно до 128 тысяч токенов. Модель понимает изображения, в том числе документы, графики и интерфейсы, а также аудио; семейство Gemma 4 поддерживает более 140 языков при обучении и более 35 языков при использовании. Карточка описывает семейство в целом, поэтому отдельные языковые возможности E4B могут зависеть от задачи и конфигурации.

Gemma 4 E4B IT QAT Unquantized — мультимодальная модель Google DeepMind с открытыми весами, полученная дообучением Gemma 4 E4B Instruct с применением обучения с учётом квантования (QAT). Репозиторий содержит веса safetensors в половинной точности, извлечённые из QAT-конвейера; эта версия предназначена для собственной компиляции и исследований. Лицензия — Apache 2.0. Модель принимает текст и изображения и генерирует текст. Семейство поддерживает контекст до 128 тысяч токенов для E4B и более 140 языков в обучающих данных; в README заявлена поддержка более 35 языков. Возможности включают диалог, рассуждения, программирование, распознавание речи, перевод речи в текст, понимание изображений и видео, OCR, разбор документов и вызов инструментов. Архитектура — плотная Gemma 4 для условной генерации. QAT ориентирован на снижение требований к памяти при сохранении качества, близкого к bfloat16, однако конкретный репозиторий содержит не готовую к обычному запуску квантованную сборку, а веса половинной точности для последующей компиляции. Аудио указано для E4B, но конкретный формат входов зависит от используемого конвейера.

Mistral-Small-3.1-24B-Instruct-2503-GGUF — текстовая инструкционная модель, разработанная Mistral AI и распространяемая в формате GGUF. Квантование подготовлено bartowski на основе llama.cpp. Модель предназначена для генерации текста, диалоговых приложений, агентских сценариев и задач, требующих продвинутого рассуждения. Модель поддерживает контекст длиной до 128 тысяч токенов и множество языков, включая английский, французский, немецкий, греческий, хинди, индонезийский, итальянский, японский, корейский, малайский, непальский, польский, португальский, румынский, русский, сербский, испанский, шведский, турецкий, украинский, вьетнамский, арабский, бенгальский, китайский и фарси. Указанная версия является текстовой и не поддерживает другие модальности. Размер базовой модели — 24B параметров. К сильным сторонам относятся широкий языковой охват, длинный контекст и ориентация на агентские и сложные задачи рассуждения. Ограничения включают текстовую специализацию, возможные ошибки, неточности и нежелательные ответы, типичные для генеративных моделей, а также зависимость производительности и качества от выбранного варианта квантования и аппаратного обеспечения. Модель распространяется по лицензии Apache-2.0.

cyankiwi/Qwen3.5-35B-A3B-AWQ-4bit — 4-битная AWQ-квантизованная версия мультимодальной модели Qwen3.5-35B-A3B, разработанной командой Qwen. Модель предназначена для работы с текстом и изображениями, включая рассуждения, программирование, визуальное понимание, агентские сценарии и другие задачи генерации и анализа контента. Архитектура представляет собой causal language model с vision encoder и гибридной схемой Gated Delta Networks и разреженной Mixture-of-Experts. Всего модель содержит 35 млрд параметров, из которых при обработке активируются около 3 млрд. Используются 40 слоёв, 256 экспертов, из которых выбираются 8 маршрутизируемых и 1 общий эксперт. Нативная длина контекста составляет 262 144 токена, с расширением до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта. Формат совместим с Transformers, vLLM, SGLang и KTransformers. К сильным сторонам относятся сочетание мультимодальности, большого контекста, высокой вычислительной эффективности разреженной архитектуры и широкой языковой поддержки. AWQ-квантизация снижает требования к памяти и может упростить локальное развертывание, однако потенциально сопровождается компромиссом между качеством и точностью по сравнению с полной версией весов. README не приводит подробностей о требованиях к оборудованию, измерениях производительности именно для этой AWQ-версии и явных ограничениях применения. Лицензия — Apache-2.0.

Карточка модели tangyunbo/RL-fromscratch на Hugging Face совпадает с карточкой Qwen/Qwen3-4B-Instruct-2507, поэтому описание составлено по ней. Qwen3-4B-Instruct-2507 — плотная причинно-языковая модель семейства Qwen3, разработанная командой Qwen. Это обновлённая версия Qwen3-4B в режиме без рассуждений: модель обучена следовать инструкциям и вести диалог, а также поддерживает интерфейс вызова инструментов. В репозитории указано 4,0 млрд параметров, метаданные Hugging Face указывают 3,7 млрд; нативная длина контекста составляет 262 144 токена. Модель предназначена для генерации ответов, понимания текста, логических и математических задач, вопросов по естественным наукам, программирования и работы с инструментами. Большое окно контекста подходит для анализа длинных документов и диалогов; заявлена поддержка нескольких языков и улучшенное покрытие редких знаний. Модель принимает текст и выдаёт текст. В README отмечены улучшения следования инструкциям, рассуждений, генерации текста и работы с длинным контекстом. Модель работает только в режиме без рассуждений и не выводит блоки рассуждений. Лицензия — Apache-2.0.

Solar Open 2 — открытая по весам большая языковая модель компании Upstage для агентных сценариев, офисной продуктивности, работы с документами и программирования. В карточке модель обозначена как 250B-A15B: архитектура Hybrid-Attention Mixture-of-Experts содержит около 250 млрд параметров, из которых на каждом токене активируется около 15 млрд. Метаданные указывают архитектуру SolarOpen2ForCausalLM, формат safetensors и поддержку text-generation; модель также описана как чат-модель. Гибридная архитектура чередует слои линейного и softmax-внимания и рассчитана на эффективный инференс при длинном контексте. Заявленная длина контекста — до 1 048 576 токенов. Модель предназначена для многошагового рассуждения, вызова инструментов и выполнения задач; в README указаны английский, корейский и японский языки. Для локального запуска приведены требования к нескольким GPU с большим объёмом памяти, а для продакшен-сервинга рекомендован vLLM. В README не приведены конкретные условия лицензии: метаданные обозначают её как other, поэтому перед использованием следует проверить полный текст лицензии в карточке модели. Производительность и доступность зависят от аппаратной конфигурации, длины контекста и настроек сервинга; заявленные результаты бенчмарков не гарантируют качество на конкретных задачах.

CiscoKpanse/sp-DNM-4-26B-A4B-it_v0.1 — инструкция-настроенная мультимодальная модель семейства Gemma 4, созданного Google DeepMind. Вариант 26B A4B использует архитектуру Mixture-of-Experts: обрабатывает текст и изображения и генерирует текст; поддерживает диалог и визуальные задачи, включая ответы по изображениям, OCR, разбор документов, диаграмм и экранных интерфейсов. По карточке семейства Gemma 4 также предназначена для рассуждений, программирования, суммаризации и сценариев с вызовом инструментов. Для вариантов 26B A4B заявлено контекстное окно до 256 тысяч токенов и поддержка множества языков. Семейство использует гибридное внимание с локальными и глобальными слоями. Данная копия опубликована в формате safetensors и доступна по лицензии Apache 2.0. Карточка описывает семейство Gemma 4 в целом, поэтому не все заявленные возможности обязательно относятся к этому варианту: обработка аудио указана только для E2B и E4B, а видео — как возможность семейства. Ответы модели могут содержать ошибки; результаты распознавания и извлечения данных из изображений следует проверять.

dranger003/c4ai-command-r-v01-iMat.GGUF — это GGUF-квантизированная версия C4AI Command-R, исследовательской генеративной языковой модели с открытыми весами, разработанной CohereForAI. Версия содержит importance matrix-квантизации, подготовленные для запуска в совместимом программном обеспечении, включая llama.cpp. Модель предназначена для генерации текста, рассуждений, суммаризации, ответов на вопросы, многоязычного общения и сценариев retrieval-augmented generation (RAG). Она также поддерживает использование инструментов: на основе диалога и списка доступных инструментов модель может формировать JSON-список действий. Для grounded generation она принимает фрагменты извлечённых документов и использует их при подготовке ответа. Command-R имеет около 35 миллиардов параметров, 40 слоёв и контекстное окно до 131072 токенов. Это текстовая модель без заявленной поддержки изображений или других мультимодальных входов. Многоязычная генерация оценивалась для 10 языков, однако их конкретный перечень в предоставленных данных не указан. Importance matrix обучалась примерно на 100 тысячах токенов из корпуса WikiText; квантизация может уменьшать требования к ресурсам по сравнению с полноразмерной моделью, но потенциально сопровождается потерей точности, зависящей от выбранного варианта квантования. Модель распространяется по лицензии CC-BY-NC-4.0, которая допускает использование с соблюдением условий лицензии, но ограничивает коммерческое применение. Для корректной работы требуется поддержка архитектуры Command-R, GGUF и соответствующего шаблона чата.

Calcium-Opus-14B-Elite — диалоговая языковая модель prithivMLmods, дообученная на базе Qwen/Qwen2.5-14B-Instruct. Это плотная архитектура Qwen2 с 14 млрд параметров, рассчитанная на генерацию текста, следование инструкциям и многошаговые рассуждения, включая решение математических задач и работу с кодом. Модель принимает текст и выдаёт текст; заявлена поддержка контекста до 131 072 токенов и генерации ответов длиной до 8 000 токенов. В README заявлена поддержка более 29 языков, в том числе английского, русского, китайского, французского, испанского, немецкого, японского и арабского. Карточка описывает улучшенное следование инструкциям, анализ таблиц и JSON, а также генерацию структурированных ответов. Модель доступна в формате Safetensors и использует библиотеку Transformers. Модель подходит для диалоговых помощников, объяснения решений, математических задач, генерации и отладки кода, а также обработки структурированных данных. Качество может различаться между языками; длинные ответы могут содержать ошибки или повторы, а актуальность знаний ограничена данными обучения. В README также отмечены высокие требования к вычислительным ресурсам, особенно при длинном контексте. Лицензия — Apache-2.0.

Calcium-Opus-14B-Elite3 — диалоговая языковая модель на базе Qwen2.5-14B-Instruct, дообученная разработчиком на данных для пошагового рассуждения. Это плотная архитектура Qwen2 с 14 млрд параметров, предназначенная для генерации текста, следования инструкциям и решения многоэтапных задач, включая математику и программирование. Модель принимает текст и формирует текстовые ответы; поддерживает контекст до 131 072 токенов и, по карточке, генерацию ответов длиной более 8 тысяч токенов. Карточка заявляет поддержку более 29 языков, включая английский, русский, китайский, французский, испанский, немецкий, японский и арабский. Среди описанных сильных сторон — структурированные ответы, в том числе JSON, работа с таблицами, кодом и математическими задачами. Модель доступна в формате safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. Карточка предупреждает о возможных ошибках и повторениях в длинных или творческих ответах, неодинаковом качестве между языками и отсутствии актуальных сведений о событиях после обучения; для работы с длинным контекстом нужны значительные вычислительные ресурсы.

Command A+ — открытая мультимодальная модель Cohere и Cohere Labs для диалогов, агентных сценариев и задач, требующих рассуждений. Эта версия представлена в формате BF16; её архитектура — декодерный трансформер со sparse Mixture-of-Experts: 218 млрд параметров всего, из которых 25 млрд активны, 128 экспертов и 8 активных экспертов на токен. Модель принимает текст и изображения и генерирует текст; поддерживает вызов внешних инструментов в диалоге. Модель рассчитана на многоязычные сценарии и обучение охватывает 48 языков, включая русский, английский, арабский, хинди, японский и китайский. Контекст составляет до 128 тысяч входных и 64 тысяч выходных токенов. Веса распространяются по лицензии Apache 2.0. Для запуска указаны Transformers с необходимыми изменениями из исходного репозитория либо vLLM версии 0.21.0 или выше; для корректного разбора ответов в vLLM требуется библиотека Cohere Melody. BF16-версия требует значительных GPU-ресурсов: в карточке приведены конфигурации от четырёх B200 или восьми H100.

coder3101/gemma-4-12B-it-heretic — мультимодальная инструкционная модель на базе Google Gemma 4 12B IT. Это дообученная версия с маркировками heretic, uncensored и decensored; автор README описывает семейство Gemma 4 как модель для рассуждений, диалога, агентных сценариев, программирования и анализа мультимодальных данных. Архитектура — плотная Gemma4UnifiedForConditionalGeneration с гибридным вниманием: локальные скользящие окна чередуются с глобальным вниманием. Модель принимает текст, изображения, видео и аудио и генерирует текст. Для семейства заявлены распознавание объектов, OCR, извлечение данных из документов, понимание интерфейсов и графиков, анализ видеокадров, распознавание речи и перевод речи в текст; также поддерживаются вызовы инструментов. README указывает поддержку более 35 языков на уровне модели семейства, но не перечисляет их по отдельности. Для версии 12B заявлен контекст до 256 тысяч токенов. Модель подходит для диалоговых помощников, программирования, анализа документов и изображений, транскрибации речи и мультимодальных агентных сценариев. Возможны фактические ошибки, трудности с неоднозначностью и сложными открытыми задачами, а также смещения из обучающих данных; маркировка uncensored указывает на ослабление ограничений безопасности, но конкретные изменения и оценки в README не описаны. Лицензия — Apache-2.0.

wnfldchen/gemma-4-12B-it-qat-q4_0-unquantized-heretic — производная инструкционная мультимодальная модель на архитектуре Gemma 4 Unified, дообученная на google/gemma-4-12B-it-qat-q4_0-unquantized. В карточке описаны возможности семейства Gemma 4: гибридное внимание, анализ изображений и видео, работа с аудио для модели 12B, генерация текста и кода, рассуждения и вызов инструментов. Для этой версии заявлены форматы safetensors и лицензия Apache-2.0. Модель подходит для диалоговых помощников, разбора изображений и документов, распознавания речи и перевода аудио в текст, а также для создания и исправления кода. Семейство Gemma 4 поддерживает более 35 языков и было предварительно обучено на более чем 140 языках; для вариантов 12B заявлен контекст до 256K токенов. README описывает базовое семейство, поэтому эти сведения относятся к данной версии с учётом того, что она основана на модели 12B. Модель может ошибаться в фактах, упускать языковые нюансы и воспроизводить смещения из обучающих данных; сложные или недостаточно чётко сформулированные запросы могут ухудшать результат. Тегами версия обозначена как uncensored/abliterated, поэтому при развёртывании стоит учитывать её ориентацию на менее ограниченные ответы. Условия лицензии — Apache-2.0.

trohrbaugh/gemma-4-E4B-it-heretic-ara — мультимодальная модель семейства Gemma 4, основанная на Google Gemma 4 E4B-it. Автор репозитория описывает её как версию heretic/abliterated, однако подробностей о процедуре изменения или её влиянии на поведение не приводит. Веса размещены в формате Safetensors; лицензия — Apache-2.0. Модель предназначена для диалога и генерации текста, рассуждений, программирования и агентных сценариев с вызовом инструментов, а также для понимания изображений, видео и аудио. Она может извлекать текст из документов и изображений, распознавать речь и переводить речь в текст; README указывает окно контекста до 128 тыс. токенов для E4B и поддержку более 35 языков. Архитектура Gemma 4 использует чередование локального скользящего и глобального внимания. Карточка сообщает, что веса аудио- и визуальных компонентов в более ранней загрузке были повреждены, а исправленные файлы добавлены 2 мая 2026 года; для корректной работы этих модальностей требуется актуальная версия репозитория. Как и другие генеративные модели, она может ошибаться в фактах, терять языковые нюансы и хуже справляться со сложными или неоднозначно заданными задачами.

coder3101/gemma-4-E4B-it-qat-q4_0-unquantized-heretic — производная диалоговая мультимодальная модель на основе Google Gemma 4 E4B-it, опубликованная пользователем coder3101. Это плотная модель семейства Gemma 4 для обработки текста и изображений; карточка также описывает для семейства поддержку видео и аудио в вариантах E4B, хотя возможности именно этой сборки отдельно не подтверждены. Архитектура Gemma4ForConditionalGeneration использует гибридное внимание с локальными скользящими окнами и глобальными слоями. Для E4B в карточке семейства указан контекст до 128 тысяч токенов. Модель предназначена для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, OCR, а также агентных сценариев с вызовом инструментов. Карточка семейства заявляет поддержку более 35 языков, но не перечисляет языки именно этой сборки. Метаданные указывают на дообучение от Google Gemma 4 E4B-it QAT и формат safetensors; название и теги описывают сборку как uncensored/abliterated. Лицензия — Apache-2.0. Ответы могут содержать фактические ошибки, а качество зависит от формулировки запроса, сложности задачи и охвата обучающих данных; возможны трудности с языковыми нюансами и предвзятостью. Возможности аудио и видео приведены для семейства в целом и не подтверждены отдельно для данного репозитория.

Это производная мультимодальная модель семейства Gemma 4 E4B, представленная пользователем aifeifei798 на базе Google Gemma 4 E4B. В карточке указано, что Gemma 4 разработана Google DeepMind; данная версия предназначена для диалога и генеративных сценариев с текстом и изображениями, а семейство поддерживает также видео и аудио на отдельных размерах. Архитектура — плотная Gemma4ForConditionalGeneration с гибридным вниманием: локальные окна чередуются с глобальными слоями. Модель подходит для ответов на вопросы, суммаризации, генерации и исправления кода, извлечения сведений из изображений и документов, распознавания текста на изображениях, понимания диаграмм и интерфейсов, а также агентных сценариев с вызовом инструментов. В README для E4B указано контекстное окно до 128K токенов и поддержка более 35 языков на уровне семейства. Указанные в карточке возможности видео и аудио относятся к семейству, но конкретно для этой версии их поддержка не подтверждена. Веса доступны в формате safetensors; лицензия — Apache-2.0. Карточка предупреждает о возможных фактических ошибках, предвзятости данных, трудностях с языковыми нюансами и сложными открытыми задачами.

Карточка модели lamm-mit/google-gemma-4-E4B-it на Hugging Face совпадает с карточкой google/gemma-4-E4B, поэтому описание составлено по ней. Gemma 4 E4B — мультимодальная плотная модель семейства Gemma, разработанная Google DeepMind и представленная в виде весов с лицензией Apache 2.0. Она принимает текст, изображения и аудио и генерирует текст; аудиовозможности включают распознавание речи и перевод речи в текст. Модель рассчитана на запуск на мобильных устройствах и ноутбуках, а также на диалоговые сценарии, рассуждения, программирование и работу с инструментами. Архитектура реализует гибридное внимание: чередует локальные окна внимания с глобальным вниманием. Для E4B заявлено контекстное окно до 128 тысяч токенов. Модель понимает изображения, в том числе документы, графики и интерфейсы, а также аудио; семейство Gemma 4 поддерживает более 140 языков при обучении и более 35 языков при использовании. Карточка описывает семейство в целом, поэтому отдельные языковые возможности E4B могут зависеть от задачи и конфигурации.

Granite-3.1-1B-A400M-Instruct — языковая модель IBM Granite Team для выполнения инструкций и создания диалоговых ассистентов. Это дообученная на Granite-3.1-1B-A400M-Base модель с архитектурой GraniteMoE; README также описывает этапы supervised fine-tuning, выравнивания с помощью reinforcement learning и слияния моделей. В метаданных указано 163,6 млн параметров и контекст до 131 072 токенов. Модель предназначена для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и вызова функций, а также для многоязычного диалога и работы с длинными документами и встречами. README перечисляет английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Производительность на других языках может уступать английской; ответы могут быть неточными, предвзятыми или небезопасными. Лицензия — Apache 2.0.

cinnybun02/heretic-e2b-fp16 — мультимодальная производная Gemma 4 E2B IT, представленная в формате Safetensors и доступная по лицензии Apache-2.0. По метаданным, она дообучена на google/gemma-4-E2B-it. README описывает семейство Gemma 4 и указывает, что вариант E2B рассчитан на локальное развёртывание, включая устройства с ограниченными ресурсами. Модель предназначена для диалогов, рассуждений, генерации и редактирования кода, а также анализа изображений, видео и аудио. Она поддерживает распознавание речи и перевод речи в текст; семейство также умеет разбирать документы и PDF, распознавать текст на изображениях, анализировать графики и интерфейсы и вызывать инструменты. Для E2B заявлено контекстное окно до 128 тысяч токенов; семейство поддерживает более 35 языков. В README репозиторий помечен как uncensored/decensored/abliterated, но конкретные методы изменения базовой модели не описаны. Возможные ограничения включают фактические ошибки, зависимость качества от формулировки запроса и контекста, а также трудности с языковыми нюансами и сложными открытыми задачами. Следует учитывать возможные смещения и риск генерации вводящего в заблуждение контента.

Hy3 — разговорная модель с открытыми весами, разработанная командой Tencent Hy. Это MoE-модель для генерации текста; карточка Hugging Face описывает вариант репозитория как модель на 16,6 млрд параметров, а README — семейство Hy3 как модель на 295 млрд параметров с 21 млрд активных параметров и 3,8 млрд параметров MTP-слоя. Модель предназначена для рассуждений, работы с длинным контекстом, вызова инструментов и задач продуктивности, включая программирование, офисную работу, финансовое моделирование, фронтенд-разработку и создание игр. В метаданных указан контекст 262 144 токена, поддержка чата и формат Safetensors. Разработчик сообщает об улучшениях надёжности вызова инструментов, следования форматам, удержания контекста и снижения галлюцинаций по внутренним оценкам. README рекомендует серверный запуск через vLLM или SGLang и отмечает значительные требования к памяти: для полного варианта предлагается конфигурация из восьми GPU H20-3e или устройств с сопоставимой памятью. Лицензия — Apache-2.0. Языки в источниках не установлены.

Qwen3-VL-235B-A22B-Thinking-FP8 — мультимодальная vision-language модель семейства Qwen, разработанная командой Qwen. Это FP8-квантизированная версия модели Qwen3-VL-235B-A22B-Thinking с мелкозернистым квантованием и размером блока 128; согласно README, её показатели почти идентичны оригинальной версии BF16. Модель предназначена для понимания и генерации текста с учётом изображений и видео, визуального восприятия и рассуждений, анализа документов, OCR, пространственного анализа, STEM- и математических задач, а также взаимодействия с графическими интерфейсами и инструментами. Она может использоваться для распознавания содержимого изображений, понимания длительных видеоматериалов, генерации HTML/CSS/JS и Draw.io по визуальным примерам, а также для задач визуального агента. Ключевые характеристики включают архитектуру Qwen3-VL с Thinking-режимом, мультимодальную обработку текста, изображений и видео, нативный контекст до 256K токенов с возможностью расширения до 1M, улучшенное временное и пространственное рассуждение, механизмы Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. OCR поддерживает 32 языка, однако полный перечень языков в README не приведён. Сильными сторонами являются визуальное рассуждение, понимание пространственных и временных связей, обработка длинного контекста и близкая к BF16 производительность при FP8-представлении. Ограничение — прямую загрузку весов через Transformers README не поддерживает; рекомендуется развёртывание с помощью vLLM или SGLang. Модель распространяется по лицензии Apache-2.0.

Qwen3-VL-32B-Instruct-GGUF — мультимодальная модель семейства Qwen, разработанная командой Qwen. Репозиторий содержит веса модели Qwen3-VL-32B-Instruct в формате GGUF: языковую часть в вариантах FP16, Q8_0 и Q4_K_M и vision encoder в вариантах FP16 и Q8_0. Модель предназначена для обработки текста и изображений, а также для понимания видео, включая визуальные вопросы и ответы, OCR, анализ документов, пространственное рассуждение, STEM-задачи, визуальное программирование и взаимодействие с графическими интерфейсами через инструменты. Ключевые возможности включают расширенное визуальное восприятие, распознавание объектов и текста, анализ пространственных отношений, понимание длительных видеопоследовательностей и генерацию кода или разметки по изображениям и видео. Заявлен нативный контекст до 256 тысяч токенов с возможностью расширения до 1 миллиона. OCR поддерживает 32 языка. В архитектуре используются Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками, улучшающие обработку пространственных, временных и мелких визуальных деталей. Модель совместима с llama.cpp, Ollama и другими инструментами экосистемы GGUF и может запускаться на CPU, NVIDIA GPU, Apple Silicon и Intel GPU. Разные уровни точности позволяют выбирать компромисс между качеством, скоростью и требованиями к памяти, однако модель размером 32B может предъявлять значительные аппаратные требования, а квантование способно снижать точность. Для работы рекомендуется актуальная версия llama.cpp. Модель распространяется по лицензии Apache-2.0.

coder3101/gemma-4-26B-A4B-it-qat-q4_0-unquantized-heretic — производная мультимодальная модель Gemma 4, созданная coder3101 на основе google/gemma-4-26B-A4B-it-qat-q4_0-unquantized. Это диалоговая модель с архитектурой Gemma4ForConditionalGeneration и поддержкой анализа изображений; она принимает текст и изображения и выдаёт текст. Базовое семейство Gemma 4 разработано Google DeepMind. Модель предназначена для диалогов, рассуждений, программирования и понимания изображений. Возможные сценарии включают ответы на вопросы по изображениям, извлечение данных из документов, распознавание текста и объектов на изображениях, анализ диаграмм и интерфейсов, генерацию и исправление кода, составление резюме и работу с инструментами. В карточке базового семейства заявлена поддержка более 35 языков и контекст до 256 тысяч токенов для варианта 26B A4B; аудиовозможности указаны только для других размеров Gemma 4, а README описывает видео для семейства в целом, поэтому эти возможности не приписываются данной модели. Модель помечена как uncensored/decensored/abliterated, что указывает на изменение поведения относительно базовой модели, но подробности обучения и конкретные эффекты не раскрыты. Возможны фактические ошибки, смещения и трудности с нюансами языка; ответы следует проверять, особенно в сложных или критичных задачах. Лицензия — Apache-2.0.

llmfan46 создал дообученную версию мультимодальной Gemma 4 26B A4B IT, ориентированную на диалоги с ослабленными ограничениями отказа. В метаданных указаны архитектура Gemma4, библиотека Transformers, формат safetensors и базовая модель google/gemma-4-26B-A4B-it. Карточка описывает гибридное чередование локального скользящего и глобального внимания; для базовой модели этого размера заявлен контекст до 256 тысяч токенов. Модель принимает текст и изображения и выдаёт текст. Она предназначена для общения, рассуждений, генерации и исправления кода, вызова инструментов, анализа изображений, распознавания текста на изображениях и разбора документов. Карточка также перечисляет понимание видео и аудио для семейства Gemma 4, но аудио относится только к вариантам E2B и E4B, поэтому не включено в возможности этой модели. Для семейства заявлена поддержка более 35 языков, однако конкретные языки этой версии не перечислены. Как и другие языковые модели, она может выдавать неверные факты, хуже справляться с неоднозначными запросами и отражать смещения обучающих данных. Маркировка uncensored указывает на ослабленные ограничения отказа, но карточка не объясняет точный объём изменений или их влияние на качество. Лицензия — Apache 2.0.

K-EXAONE-2.0-750B-A37B-DSpark — мультиязычная языковая модель общего назначения от LG AI Research. Это модель с архитектурой Mixture of Experts семейства EXAONE, предназначенная для генерации текста и диалогового взаимодействия. По метаданным, модель содержит 34,1 млрд параметров и поддерживает контекст до 262 144 токенов. Модель рассчитана на рассуждения, агентные сценарии, работу с кодом и поиск информации в длинном контексте. Она поддерживает корейский, английский, испанский, немецкий, японский, вьетнамский, французский, итальянский, польский и португальский языки. Для ускорения генерации README описывает speculative decoding методами MTP и DSpark; заявлено ускорение примерно в 3–5 раз. Для запуска приведены конфигурации SGLang и vLLM на двух узлах с 16 GPU NVIDIA H200, поэтому использование требует значительных вычислительных ресурсов. Модель выпущена под лицензией Apache 2.0. Она может выдавать ошибочные, устаревшие, предвзятые или неподходящие ответы; актуальность сведений не гарантируется. README также отмечает проблему генерации на NVIDIA B200 с рекомендацией отключить prefill CUDA graph до исправления.

Mungert/Qwen3.5-122B-A10B-GGUF — это GGUF-квантизированная версия мультимодальной модели Qwen3.5-122B-A10B, разработанной командой Qwen. Репозиторий подготовлен Mungert с использованием llama.cpp и предназначен для локального запуска и эффективного инференса в совместимых инструментах, включая llama.cpp и связанные экосистемы GGUF. Модель представляет собой авторегрессионную языковую модель с vision encoder, поддерживающую обработку текста и изображений. Она рассчитана на рассуждения, программирование, работу с агентами, визуальное понимание и другие универсальные задачи. Заявлена поддержка 201 языка и диалекта. Архитектура сочетает Gated Delta Networks, Gated Attention и разреженную Mixture of Experts: всего 122 млрд параметров, из которых при генерации активируются около 10 млрд. Модель содержит 48 слоёв и поддерживает контекст длиной 262 144 токена с возможностью расширения до 1 010 000 токенов. Ключевое преимущество этой сборки — специальная стратегия квантизации: важные слои вручную переводятся в более высокую точность сверх стандартной конфигурации IMatrix. По заявлению автора, это особенно улучшает точность при низкой разрядности и для MoE-моделей, но увеличивает размер файлов. Фактические характеристики зависят от выбранного GGUF-варианта и аппаратного обеспечения; README не приводит подробностей о конкретных уровнях квантизации, требованиях к памяти или независимых результатах тестирования. Исходная модель распространяется по лицензии Apache-2.0.

Riyan200324200324/Qwen3.8-27B — это GGUF-версия модели Qwen3.8-27B, основанная на Qwen/Qwen3.8-27B и модифицированная HauhauCS в профиле Aggressive. Модель предназначена для генерации текста, рассуждений, агентских сценариев, обработки изображений и видео. Aggressive-профиль ориентирован на прямые ответы без выраженного отказного поведения и с минимальным вступлением на сложных запросах; при этом README предупреждает, что для критически важных задач с длинным контекстом более сбалансированный профиль может быть надёжнее. Это плотная причинная языковая модель на 27 млрд параметров с отдельным vision-проектором BF16 для мультимодального ввода. Архитектура включает 64 слоя языковой модели, скрытый размер 5120, размер FFN 17408, словарь 248 320 токенов, 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Поддерживаются встроенный MTP/NextN и дополнительный профиль ускорения HauhauCS FastMTP 32K. Нативный контекст составляет 262 144 токена и может быть расширен до 1 000 000 токенов. Заявлены английский, китайский и мультиязычный режимы. Сильные стороны модели — широкий набор текстовых и мультимодальных возможностей, большой контекст, варианты GGUF-квантизации от Q2 до Q8 и ускорение FastMTP. Ограничения включают зависимость мультимодального режима от отдельного vision-проектора, возможное снижение качества при агрессивной квантизации и менее осторожное поведение из-за uncensored-профиля. Модель распространяется по лицензии Apache-2.0.

MuXodious выпустил дообученную мультимодальную модель Gemma 4 E4B Instruct с применением Heretic v1.4.0 и методов abliteration, включая Self-Organizing Maps и Magnitude-Preserving Orthogonal Ablation. В README приведены результаты эксперимента по снижению отказов и KL-дивергенции относительно исходной модели. Основа — google/gemma-4-E4B-it-qat-q4_0-unquantized; архитектура — плотная Gemma4ForConditionalGeneration, библиотека Transformers, веса в формате Safetensors. Лицензия — Apache 2.0. Модель принимает текст и изображения и генерирует текст; семейство Gemma 4 E4B также поддерживает аудио. Она предназначена для диалога, рассуждений, анализа изображений и документов, распознавания речи, программирования и сценариев с вызовом инструментов. Для семейства в целом указаны контекст до 128K токенов у E4B и поддержка множества языков, но README не подтверждает, что все перечисленные возможности доступны именно этому чекпойнту после дообучения.