I.15Доступность и ассистивные технологии

Gemma 2B IT — компактная инструкционная языковая модель Google из семейства Gemma, созданного с использованием исследований и технологий, применявшихся при разработке Gemini. Это текстовая авторегрессионная модель с архитектурой decoder-only; версия IT настроена на выполнение инструкций и диалог. Веса открыты, модель доступна в формате Safetensors и GGUF и запускается через Transformers. Модель предназначена для генерации текста, ответов на вопросы, суммаризации и диалоговых приложений. Небольшой размер упрощает развёртывание на ноутбуке, настольном компьютере или собственной облачной инфраструктуре. В карточке семейства заявлена поддержка английского языка; конкретный размер контекста не указан в предоставленных данных. К ограничениям относятся возможные фактические ошибки, устаревшие сведения, смещения в ответах и трудности со сложными задачами, нюансами языка и сарказмом. Модель не является базой знаний; для пользовательских приложений рекомендуется проверять ответы и применять меры безопасности. Использование регулируется лицензией Gemma.

Vontra/GLM-5.3-Flash-MLX-oQ4-MTP — это мультимодальная версия модели GLM-5.3-Flash от Z.ai, преобразованная Vontra в формат MLX для запуска на Apple Silicon. Модель предназначена для задач, связанных с обработкой текста и изображений, включая диалоговое взаимодействие и генерацию ответов в vision-language сценариях. Поддерживаются английский и китайский языки. Модель использует архитектуру glm5_next с разреженной mixture-of-experts, гибридным линейным и разреженным вниманием, manifold-constrained hyper-connections и встроенным слоем предсказания следующего токена. Контекст настроен на 1 048 576 токенов. Веса представлены в формате MLX safetensors и сжаты методом oQ4: основная часть использует 4-битное аффинное квантование с выборочными переопределениями точности 5, 6 и 8 бит. Размер загрузки составляет около 185,7 ГБ. Сохранены исходные токенизатор, шаблон чата, мультимодальный процессор и конфигурация генерации. К сильным сторонам относятся мультимодальность, очень длинный контекст, смешанная точность с защитой чувствительных модулей и встроенная поддержка native MTP для ускорения генерации. Ограничения — значительный объём модели, зависимость от Apple Silicon и необходимость совместимого runtime: требуются MLX-VLM с интеграцией GLM5 Next и сборка oMLX с поддержкой oQ и native MTP; старые версии не поддерживаются. В опубликованном тесте на Apple M3 Ultra с 256 ГБ unified memory базовый режим показал 6,2155 токена/с, а режим native MTP — 4,9969 токена/с. Модель распространяется по лицензии MIT.

NVIDIA-Nemotron-Labs-Teacher-Chat — разговорная модель NVIDIA из семейства Nemotron 3 Ultra, предназначенная для многоходового диалога, генерации текстов и ответов, согласованных с предпочтениями людей. Она также выпущена как отдельная модель и используется как специализированный учитель для дистилляции Nemotron 3 Ultra. В карточке описаны дообучение на диалогах с помощью supervised fine-tuning и RLHF, а также возможность применять модель для создания обучающих данных и оценки ответов. Модель построена на гибридной архитектуре LatentMoE с чередованием слоёв Mamba-2 и Mixture of Experts и отдельными слоями внимания; для предсказания нескольких токенов используются слои MTP. Всего модель содержит 550 млрд параметров, из них 55 млрд активны. Метаданные указывают контекст 262 144 токена, тогда как README заявляет до 1 млн токенов. Поддерживаются английский, французский, испанский, итальянский, немецкий, португальский (включая бразильский), японский, корейский, хинди, китайский и арабский. По README модель допускает коммерческое и некоммерческое использование; в метаданных лицензия обозначена как other, поэтому конкретные условия следует сверить с лицензией репозитория.

Ornith-Agents-A1-3.6-35B-A3B-dare_ties — мультимодальная разговорная модель, созданная сообществом tepirale слиянием моделей через mergekit. В качестве основы использована Qwen/Qwen3.5-35B-A3B, а в слияние также вошли deepreinforce-ai/Ornith-1.0-35B и InternScience/Agents-A1; применён метод DARE TIES. Модель распространяется в формате safetensors и предназначена для диалога, анализа изображений и агентных задач. Модель принимает текст и изображения и генерирует текст. В README приведены результаты на MMLU, MMLU-Pro и HellaSwag, но они различаются между указанными объёмами выборки, поэтому не позволяют однозначно оценить качество. Модель доступна по лицензии Apache-2.0.

Mihaiii/Pallas-0.4 — инструкционная дообученная языковая модель на архитектуре Llama, созданная на базе migtissera/Tess-34B-v1.4. Она содержит 33,9 млрд параметров и поддерживает контекст до 200 000 токенов. Модель предназначена для рассуждений и понимания текста, хорошо работает с длинными системными промптами. Её можно использовать для ответов на вопросы и анализа длинных текстовых материалов; для художественного повествования она не предназначена. Обучение выполнено на частном датасете. Лицензия указана как other.

Карточка модели Openintelligent123/gemma-4-E2B на Hugging Face совпадает с карточкой google/gemma-4-E2B, поэтому описание составлено по ней. Gemma 4 E2B — мультимодальная плотная модель с открытыми весами от Google DeepMind, принадлежащая семейству Gemma 4. Она принимает текст и изображения, а также аудио; генерирует текст. Семейство использует гибридное внимание с локальными скользящими окнами и глобальным вниманием. Для малых моделей, включая E2B, заявлено контекстное окно до 128 тысяч токенов. Модель предназначена для диалогов, рассуждений, генерации и исправления кода, суммаризации, понимания изображений и аудио, распознавания речи и перевода речи в текст. Она рассчитана на локальный запуск на мобильных устройствах и ноутбуках; семейство поддерживает многоязычные сценарии, включая более 35 языков в готовом виде. Модельные карточка описывает возможности семейства, поэтому отдельные характеристики E2B следует трактовать в его контексте. Репозиторий распространяется по лицензии Apache 2.0. Возможности включают OCR, разбор документов, анализ видео и вызов функций; описание аудиоподдержки для E2B подтверждает обработку аудио, а не генерацию речи. Качество ответов может зависеть от языка, сложности задачи и доступных вычислительных ресурсов; для критически важных сценариев результаты следует проверять.

llmfan46 подготовил дообученную версию инструкционной Gemma 4 12B от Google DeepMind с изменениями компонента attn.o_proj. Это мультимодальная плотная модель для диалога, рассуждений, генерации и исправления кода, анализа изображений, видео и аудио, а также работы с инструментами. Архитектура Gemma4Unified поддерживает гибридное внимание и контекст до 256K токенов; модель рассчитана на многоязычное применение. README указывает поддержку более 35 языков на практике и предварительное обучение более чем на 140 языках. Модель подходит для ответов на вопросы по изображениям и документам, распознавания текста и рукописного ввода, понимания диаграмм и интерфейсов, анализа видеокадров, транскрибации речи и перевода речи в текст. Аудиовозможности заявлены для варианта 12B. Указаны встроенный режим рассуждений и поддержка вызова функций. Производная помечена как uncensored/abliterated; это может влиять на поведение защитных механизмов. По условиям Apache-2.0 разрешено использование согласно лицензии. Как и другие генеративные модели, она может выдавать фактические ошибки, отражать смещения данных и испытывать трудности с неоднозначными или сложными запросами.

coder3101/gemma-4-12B-it-heretic — мультимодальная инструкционная модель на базе Google Gemma 4 12B IT. Это дообученная версия с маркировками heretic, uncensored и decensored; автор README описывает семейство Gemma 4 как модель для рассуждений, диалога, агентных сценариев, программирования и анализа мультимодальных данных. Архитектура — плотная Gemma4UnifiedForConditionalGeneration с гибридным вниманием: локальные скользящие окна чередуются с глобальным вниманием. Модель принимает текст, изображения, видео и аудио и генерирует текст. Для семейства заявлены распознавание объектов, OCR, извлечение данных из документов, понимание интерфейсов и графиков, анализ видеокадров, распознавание речи и перевод речи в текст; также поддерживаются вызовы инструментов. README указывает поддержку более 35 языков на уровне модели семейства, но не перечисляет их по отдельности. Для версии 12B заявлен контекст до 256 тысяч токенов. Модель подходит для диалоговых помощников, программирования, анализа документов и изображений, транскрибации речи и мультимодальных агентных сценариев. Возможны фактические ошибки, трудности с неоднозначностью и сложными открытыми задачами, а также смещения из обучающих данных; маркировка uncensored указывает на ослабление ограничений безопасности, но конкретные изменения и оценки в README не описаны. Лицензия — Apache-2.0.

JJaguar/gemma-4-12B-it-qat-q4_0-unquantized-heretic-nx — производная мультимодальная модель на основе Google Gemma 4 12B Instruct, размещённая пользователем JJaguar. Карточка описывает семейство Gemma 4: плотную архитектуру Gemma4Unified с чередованием локального скользящего и глобального внимания; для версии 12B заявлен контекст до 256K токенов. Метаданные указывают формат safetensors и библиотеку Transformers. Модель предназначена для диалога, рассуждений, генерации и исправления кода, анализа текста и мультимодальных входов. Семейство поддерживает понимание изображений и видео, включая OCR, разбор документов, графиков и интерфейсов; для версии 12B также заявлены распознавание речи и перевод речи в текст. Gemma 4 поддерживает более 35 языков; конкретный перечень для этой версии в данных не приведён. Модификация помечена как uncensored, decensored и abliterated, поэтому стандартные защитные ограничения исходной модели могли быть изменены. Среди общих ограничений Gemma 4 — возможные фактические ошибки, влияние пробелов и смещений обучающих данных, а также трудности с неоднозначными и сложными запросами. Лицензия — Apache-2.0.

Карточка модели OsGo/gemma-4-E4B-it-qat-q4_0-unquantized на Hugging Face совпадает с карточкой google/gemma-4-E4B-it-qat-q4_0-unquantized, поэтому описание составлено по ней. Gemma 4 E4B IT QAT Unquantized — мультимодальная модель Google DeepMind с открытыми весами, полученная дообучением Gemma 4 E4B Instruct с применением обучения с учётом квантования (QAT). Репозиторий содержит веса safetensors в половинной точности, извлечённые из QAT-конвейера; эта версия предназначена для собственной компиляции и исследований. Лицензия — Apache 2.0. Модель принимает текст и изображения и генерирует текст. Семейство поддерживает контекст до 128 тысяч токенов для E4B и более 140 языков в обучающих данных; в README заявлена поддержка более 35 языков. Возможности включают диалог, рассуждения, программирование, распознавание речи, перевод речи в текст, понимание изображений и видео, OCR, разбор документов и вызов инструментов. Архитектура — плотная Gemma 4 для условной генерации. QAT ориентирован на снижение требований к памяти при сохранении качества, близкого к bfloat16, однако конкретный репозиторий содержит не готовую к обычному запуску квантованную сборку, а веса половинной точности для последующей компиляции. Аудио указано для E4B, но конкретный формат входов зависит от используемого конвейера.

trohrbaugh/gemma-4-E4B-it-heretic-ara — мультимодальная модель семейства Gemma 4, основанная на Google Gemma 4 E4B-it. Автор репозитория описывает её как версию heretic/abliterated, однако подробностей о процедуре изменения или её влиянии на поведение не приводит. Веса размещены в формате Safetensors; лицензия — Apache-2.0. Модель предназначена для диалога и генерации текста, рассуждений, программирования и агентных сценариев с вызовом инструментов, а также для понимания изображений, видео и аудио. Она может извлекать текст из документов и изображений, распознавать речь и переводить речь в текст; README указывает окно контекста до 128 тыс. токенов для E4B и поддержку более 35 языков. Архитектура Gemma 4 использует чередование локального скользящего и глобального внимания. Карточка сообщает, что веса аудио- и визуальных компонентов в более ранней загрузке были повреждены, а исправленные файлы добавлены 2 мая 2026 года; для корректной работы этих модальностей требуется актуальная версия репозитория. Как и другие генеративные модели, она может ошибаться в фактах, терять языковые нюансы и хуже справляться со сложными или неоднозначно заданными задачами.

unsloth/gemma-3-12b-it-bnb-4bit — это 4-битная версия instruction-tuned модели Gemma 3 12B, подготовленная Unsloth на базе google/gemma-3-12b-it. Семейство Gemma разработано Google DeepMind на основе технологий, использованных при создании Gemini. Модель предназначена для генерации текста и понимания изображений: она принимает текстовые запросы, документы и изображения, а на выходе формирует текстовые ответы, summaries, анализ содержимого изображений и результаты рассуждений. Модель мультимодальная, поддерживает более 140 языков и имеет контекстное окно до 128K токенов для версии 12B; максимальный объём генерируемого ответа составляет 8192 токена. Изображения нормализуются до разрешения 896×896 и кодируются в 256 токенов каждое. Квантование в формате bnb-4bit снижает требования к памяти и делает модель более подходящей для локального запуска и дообучения на ограниченных ресурсах, включая ноутбуки, настольные компьютеры и собственную облачную инфраструктуру. Сильные стороны модели — сочетание относительно компактного размера, мультимодальности, большого контекстного окна, многоязычности и пригодности для задач вопросно-ответного взаимодействия, суммаризации, генерации текста и анализа изображений. Ограничения включают возможное снижение точности из-за 4-битного квантования, а также то, что модель генерирует только текст и не предназначена для вывода изображений. Использование регулируется лицензией и условиями Gemma; в карточке указана лицензия gemma.

Карточка модели Cup3/gemma-4-E4B-it-uncensored-heretic на Hugging Face совпадает с карточкой llmfan46/gemma-4-E4B-it-uncensored-heretic, поэтому описание составлено по ней. llmfan46/gemma-4-E4B-it-uncensored-heretic — производная модель на основе Google Gemma 4 E4B Instruct, опубликованная независимым автором. Это плотная мультимодальная модель для диалога и генерации текста, понимания изображений и аудио, рассуждений, программирования и вызова инструментов. В карточке заявлены гибридное внимание с локальными скользящими окнами и глобальными слоями, а для базовой модели E4B — контекст до 128 тысяч токенов и поддержка более 35 языков. Модель подходит для чат-ботов, суммаризации и создания текстов, извлечения данных из изображений и документов, распознавания речи и голосовых сценариев. В названии и тегах указано uncensored/abliterated, однако README не описывает конкретные изменения и не приводит отдельные оценки качества именно этой производной версии. Возможны фактические ошибки, смещения и трудности с неоднозначными или сложными запросами. Лицензия — Apache-2.0.

MuXodious/gemma-4-12B-it-QAT-SOMPOA-heresy — дообученная версия мультимодальной инструкционной Gemma 4 12B от Google DeepMind. Автор репозитория применил к базовой модели метод abliteration с инструментом Heretic и настройками Self-Organizing Maps и Magnitude-Preserving Orthogonal Ablation; по карточке, доля отказов в указанном тесте снизилась с 522/535 до 34/535. Модель предназначена для диалога, рассуждений и генерации текста, а также для анализа изображений, видео и аудио; семейство Gemma 4 также поддерживает код и вызов инструментов. Для этой версии в карточке названы размер 12B, контекст до 256K токенов и поддержка более 140 языков. Архитектура — плотная Gemma4UnifiedForConditionalGeneration; репозиторий содержит веса safetensors. Карточка описывает её как вариант Gemma с ослабленными отказами, но не приводит отдельной оценки качества этой конкретной модификации. Базовая модель Gemma 4 QAT использует веса, подготовленные с учётом квантования, однако в этом репозитории указан вариант unquantized Q4_0, а формат файлов — safetensors. Лицензия — Apache-2.0.

Gemma 3 12B IT QAT — мультимодальная инструкционно дообученная модель из семейства Gemma, разработанная Google DeepMind. Она принимает текст и изображения, а на выходе генерирует текст. Модель создана на основе технологий, использованных в Gemini, и предназначена для развертывания в локальной инфраструктуре, на настольных компьютерах, ноутбуках и в облачных средах с ограниченными ресурсами. Модель подходит для ответов на вопросы, суммаризации документов, рассуждений, генерации и анализа текста, а также для понимания изображений и извлечения визуальной информации. Она поддерживает более 140 языков, имеет контекстное окно до 128K токенов для версии 12B и максимальный объём генерируемого текста до 8192 токенов. Изображения нормализуются до разрешения 896×896 и кодируются в 256 токенов каждое. Версия 12B обучена с использованием Quantization Aware Training (QAT), что должно помогать сохранять качество, близкое к bfloat16, при снижении требований к памяти после квантования. При этом указанный в репозитории checkpoint является неквантованным: для получения варианта Q4_0 его необходимо дополнительно квантовать выбранным инструментом. Ограничения включают зависимость качества от языка, содержания запроса и изображения, а также обычные риски ошибок и неточностей генеративных моделей. Использование регулируется лицензией Gemma от Google; для доступа на Hugging Face требуется принять условия лицензии.

llmfan46/gemma-4-E4B-it-uncensored-heretic — производная модель на основе Google Gemma 4 E4B Instruct, опубликованная независимым автором. Это плотная мультимодальная модель для диалога и генерации текста, понимания изображений и аудио, рассуждений, программирования и вызова инструментов. В карточке заявлены гибридное внимание с локальными скользящими окнами и глобальными слоями, а для базовой модели E4B — контекст до 128 тысяч токенов и поддержка более 35 языков. Модель подходит для чат-ботов, суммаризации и создания текстов, извлечения данных из изображений и документов, распознавания речи и голосовых сценариев. В названии и тегах указано uncensored/abliterated, однако README не описывает конкретные изменения и не приводит отдельные оценки качества именно этой производной версии. Возможны фактические ошибки, смещения и трудности с неоднозначными или сложными запросами. Лицензия — Apache-2.0.

ProfessorF (Nick V. Flor, PhD) публикует эту версию NVIDIA Nemotron 3 Nano Omni в формате GGUF BF16 для воспроизводимости исследований. Исходная мультимодальная модель разработана NVIDIA и объединяет понимание видео, аудио, изображений и текста для корпоративных сценариев: вопросов и ответов, суммаризации, транскрипции и анализа документов. В карточке указано, что модель дополнительно обучалась с использованием нескольких моделей Qwen и gpt-oss-120b; точное число параметров и длина контекста для этой копии не приведены. Модель предназначена для анализа записей встреч и обучающих видео, поиска по медиаматериалам, распознавания речи и текста на документах, а также для GUI-агентов и автоматизации работы с браузерами, почтой и системами управления инцидентами. Заявлена поддержка коммерческого использования; метаданные указывают лицензию other, поэтому перед внедрением следует проверить условия лицензии в карточке исходной модели NVIDIA и этой копии.

Qwen3.5-35B-A3B — мультимодальная модель Alibaba, опубликованная в формате Transformers и дообученная на базе Qwen/Qwen3.5-35B-A3B. Она предназначена для диалога, рассуждений, анализа изображений и агентных сценариев с вызовом инструментов. Модель принимает текст и изображения и генерирует текст; её архитектура сочетает Gated Delta Networks и разреженную Mixture-of-Experts: всего 35 млрд параметров, из которых активируются около 3 млрд. В модели 40 слоёв, а нативное контекстное окно составляет 262 144 токена и может расширяться примерно до 1,01 млн токенов. В README заявлена поддержка 201 языков и диалектов. Модель доступна в формате safetensors, совместима с Transformers, vLLM, SGLang и KTransformers и распространяется по лицензии Apache-2.0. Для работы с длинным контекстом и изображениями могут требоваться значительные вычислительные ресурсы; авторы рекомендуют при нехватке памяти уменьшить контекстное окно, сохраняя по возможности не менее 128 тысяч токенов для сложных задач.

Lapa LLM v0.1.2 Instruct — мультимодальная инструктивная модель на архитектуре Gemma 3 с 12 млрд параметров, разработанная украинской исследовательской командой из Украинского католического университета, AGH University of Krakow, КПИ имени Игоря Сикорского и Львовской политехники. Модель настроена на обработку украинского языка и принимает текст и изображения; заявленная длина входного контекста — 128 тыс. токенов, длина генерируемого ответа — до 8192 токенов. Модель предназначена для ответов на вопросы, суммаризации, анализа изображений на украинском языке, перевода между английским и украинским, а также для чат-ботов и RAG-систем. Авторы сообщают об адаптации токенизатора: 80 тыс. из 250 тыс. токенов заменены на украинские, что, по их оценке, позволяет обрабатывать украинский текст с меньшим числом токенов и вычислений. В метаданных указаны возможности чата и зрения; формат весов — safetensors. README заявляет возможность коммерческого использования и описывает открытые наборы данных, код и документацию проекта. В метаданных указана лицензия Gemma; перед коммерческим использованием следует проверить её условия для этой версии. README отмечает, что качество инструктивной версии ещё улучшается и что для развития возможностей анализа изображений и следования инструкциям собираются дополнительные данные.

Qwen3-VL-30B-A3B-Instruct-AWQ — 4-битная AWQ-квантизованная версия мультимодальной модели Qwen3-VL-30B-A3B-Instruct, разработанной Qwen и опубликованной в репозитории dark-side-of-the-code. Модель предназначена для генерации текста по текстовым и визуальным запросам, включая понимание изображений, распознавание текста на изображениях, работу со структурированными ответами и вызов инструментов. Она рассчитана прежде всего на эффективное локальное развертывание через vLLM, в том числе на одной видеокарте с 24 ГБ памяти. Архитектура и поведение соответствуют базовой модели Qwen3-VL-30B-A3B-Instruct. Используется MoE-архитектура с 30 млрд параметров и примерно 3 млрд активных параметров; языковые веса сжаты до 4 бит по схеме W4A16 с размером группы 128, тогда как vision tower, MoE-router и lm_head сохранены в полной точности. Поддерживается мультимодальный ввод; в приведённой конфигурации проверена работа с несколькими изображениями и контекстом до 48 000 токенов при использовании FP8 KV-кэша. Размер файлов модели составляет около 17,8 ГБ. К сильным сторонам относятся существенное снижение требований к памяти, высокая скорость декодирования и сохранение возможностей базовой модели в задачах текста, OCR, структурированной генерации и tool calling. К ограничениям относятся небольшое снижение точности относительно версии bf16, зависимость от совместимой версии vLLM и необходимость настройки параметров обслуживания; данные о поддерживаемых языках отдельно не указаны. Модель распространяется по лицензии Apache-2.0.

Command A+ — открытая мультимодальная модель Cohere и Cohere Labs для диалогов, агентных сценариев и задач, требующих рассуждений. Эта версия представлена в формате BF16; её архитектура — декодерный трансформер со sparse Mixture-of-Experts: 218 млрд параметров всего, из которых 25 млрд активны, 128 экспертов и 8 активных экспертов на токен. Модель принимает текст и изображения и генерирует текст; поддерживает вызов внешних инструментов в диалоге. Модель рассчитана на многоязычные сценарии и обучение охватывает 48 языков, включая русский, английский, арабский, хинди, японский и китайский. Контекст составляет до 128 тысяч входных и 64 тысяч выходных токенов. Веса распространяются по лицензии Apache 2.0. Для запуска указаны Transformers с необходимыми изменениями из исходного репозитория либо vLLM версии 0.21.0 или выше; для корректного разбора ответов в vLLM требуется библиотека Cohere Melody. BF16-версия требует значительных GPU-ресурсов: в карточке приведены конфигурации от четырёх B200 или восьми H100.

Карточка модели muhamad-geosurge/invert-polarity-655db4cc-31b8-41ce-b21b-da1421dcc629 на Hugging Face совпадает с карточкой google/gemma-3-12b-it, поэтому описание составлено по ней. Gemma 3 12B IT — мультимодальная модель с открытыми весами от Google, дообученная для следования инструкциям на основе google/gemma-3-12b-pt. Она принимает текст и изображения и генерирует текст; относится к семейству Gemma 3 и доступна в формате safetensors для Transformers. Модель предназначена для диалоговых приложений, ответов на вопросы и задач понимания изображений, а также для создания и обобщения текста. Контекстное окно — до 128 тысяч токенов, поддерживается более 140 языков. Размер модели — 12 млрд параметров. Модель подходит для извлечения сведений из изображений, составления черновиков, суммаризации и исследовательских задач. Google отмечает, что ответы могут содержать фактические ошибки, отражать предвзятость обучающих данных и хуже справляться со сложными открытыми запросами, языковыми нюансами и задачами, требующими здравого смысла. Лицензия — Gemma; при использовании следует соблюдать условия лицензии и политику запрещённого использования Gemma.

thelamapi/next2.5-i1-GGUF — GGUF-версия Next 2.5, мультимодальной vision-language модели примерно на 4 млрд параметров, разработанной и дообученной компанией Lamapi в Турции на базе Qwen 3.5-4B. Модель ориентирована на работу с текстом и изображениями, включая анализ документов и OCR, визуально-пространственные задачи, рассуждения, математику, программирование и генерацию текста. В README также заявлена поддержка видео, включая длительные видеоматериалы. Модель поддерживает турецкий, английский, немецкий, испанский, французский, русский, китайский, японский и корейский языки; при этом особый акцент сделан на турецком и английском языках и культурном контексте Турции. Заявлен режим рассуждений с блоками <think>...</think> перед ответом и контекст до 262 144 токенов. Обучение включало instruction tuning и DPO, а также наборы данных для рассуждений, мультимодальных задач и генерации текста. К сильным сторонам относятся сочетание компактного размера, мультимодальности, заявленной производительности в задачах знаний и рассуждений и возможность использования на периферийных устройствах. Ограничения включают небольшой по современным меркам объём модели, возможные ошибки в распознавании изображений, видео и фактах, а также то, что приведённые в README сравнительные результаты не подтверждены независимой проверкой. Модель распространяется по лицензии Apache-2.0.

Solstice-AI публикует GGUF-сборку DeepSeek-V4-Flash-Vision-UNCENSORED для локального мультимодального диалога и анализа изображений. В ней используются MoE-веса MXFP4 с 305 млрд параметров, включая 256 маршрутизируемых экспертов и около 18 млрд активных параметров на токен; визуальный энкодер сохранён в BF16. К сборке приложены спекулятивные черновые модели DSpark для ускорения вывода. Заявлена длина контекста 1 048 576 токенов. Модель принимает текст и изображения и выдаёт текст; среди подходящих сценариев — визуальные вопросы и ответы, анализ документов и графиков, а также задачи программирования и рассуждений в диалоге. Карточка приводит высокие результаты в ряде бенчмарков, включая DocVQA и ChartQA, но эти показатели заявлены автором и не гарантируют аналогичного качества в конкретной среде. Сборка распространяется по лицензии MIT. В README упоминается режим UNCENSORED, поэтому её ответы могут содержать материалы, которые обычно ограничиваются отказами.

Occamy-1.0 APEX-I-MiniPlus-V2-GGUF — это квантованная мультимодальная версия модели Occamy-1.0, разработанной Accio-Lab и подготовленной в формате GGUF пользователем IsValorum. Модель предназначена для генерации текста, рассуждений, математических и логических задач, а также анализа изображений и оптического распознавания документов. В основе используется архитектура Qwen3_5MoeForConditionalGeneration с гибридным механизмом внимания, включающим рекуррентные слои DeltaNet и 256 микроэкспертов. На каждый токен активируется примерно 3,2 млрд параметров. Основной файл занимает 14,62 GB, или 13,62 GiB, и использует схему квантования с показателем 3,38 BPW. В комплект входит отдельный vision projector mmproj в формате Q8_0 размером 614 MB. Заявлена поддержка контекста до 256K токенов и работы в пределах 24 GB VRAM. Модель ориентирована на английский, китайский, испанский, французский, немецкий, португальский, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский языки. К сильным сторонам относятся сохранение F32 router gates, повышенная точность token output head за счёт Q6_K, защита attention gates в Q8_0 и использование не менее 3-битного квантования для ключевых экспертных блоков. Такая настройка должна обеспечивать лучшее качество и устойчивость по сравнению с плоскими 3-битными квантованиями и общими сборками APEX-I-Mini, особенно в задачах рассуждения и при работе с длинным контекстом. Ограничения связаны с потерями качества, присущими квантованной версии, значительными требованиями к памяти и необходимостью совместимого ПО, например llama.cpp. В README указана лицензия Apache-2.0.

Vishva007/Qwen3.5-9B-W4A16-AutoRound-GPTQ — квантизированная версия модели Qwen/Qwen3.5-9B, подготовленная Vishva007 с использованием метода AutoRound от Intel. Модель предназначена для генерации текста, задач рассуждения и обработки изображений с текстом, включая визуальное понимание и OCR. Она поддерживает архитектуру и возможности базовой модели Qwen3.5-9B; точный размер контекста и перечень языков в README не указаны. Используется квантизация W4A16: веса представлены в 4-битном формате, а активации сохраняются в 16-битной точности. Применены симметричная квантизация с размером группы 32, 1200 итераций оптимизации и 512 калибровочных образцов при длине последовательности 4096. По заявлению автора, это снижает потребление памяти примерно на 50% по сравнению с FP16-версией и подходит для развёртывания на потребительских и средних GPU. Vision Tower сохранён в BF16 для сохранения качества визуального анализа и OCR, а модули Multi-Token Prediction — в исходной BF16-точности. Модель поддерживает Multi-Token Prediction и спекулятивное декодирование в совместимых серверных средах, включая vLLM, что может повысить пропускную способность. Совместимость заявлена для transformers и бэкендов, поддерживающих веса AutoRound в формате GPTQ, включая vLLM, SGLang и AutoGPTQ. Ограничения связаны с зависимостью от совместимого программного обеспечения и аппаратной поддержки квантизации; количественные результаты тестов качества в README не приведены. Лицензия — Apache-2.0.

Apertus-8B-2509 — открытая языковая модель семейства Apertus, разработанная Swiss AI. Это плотный авторегрессионный трансформер-декодер с 10,3 млрд параметров, обученный с нуля на 15 трлн токенов и дообученный с учителем с последующим выравниванием. Модель предназначена для генерации текста, многоязычного общения и работы с длинным контекстом; поддерживает вызов инструментов. Контекстное окно — до 65 536 токенов. Карточка заявляет поддержку более 1 800 языков. Модель ориентирована на открытое и прозрачное применение: разработчики публикуют веса, данные и сведения о процессе обучения. Репозиторий использует формат Safetensors и библиотеку Transformers; лицензия — Apache-2.0. Модель может генерировать фактически неточный или непоследовательный текст и отражать предвзятость обучающих данных. Фильтр для персональных данных в комплект не входит, поэтому важные ответы следует проверять, а выводы с персональными данными — обрабатывать с осторожностью.

Это конвертированная в формат MLX модель Gemma 4 12B Unified, основанная на google/gemma-4-12B. Конверсию выполнило сообщество mlx-community с помощью mlx-vlm версии 0.6.0; модель предназначена для запуска на устройствах Apple с MLX. Базовая модель Google DeepMind поддерживает диалоги, код, рассуждения и анализ текста, изображений, видео и аудио. Репозиторий содержит веса safetensors в формате bf16. Лицензия — Apache-2.0. README отсылает за подробностями к карточке исходной модели, поэтому специфические для этой конверсии сведения о контекстном окне, языковой поддержке и качестве не приведены. Для запуска через описанный интерфейс требуется mlx-vlm.

EnlistedGhost/Ministral-3-8B-Reasoning-2512-GGUF — это конвертированная и квантованная версия Ministral-3-8B-Reasoning-2512-BF16, первоначально разработанной MistralAI. Модель распространяется в формате GGUF и предназначена для запуска через Ollama и llama.cpp. Модель ориентирована на диалоговые задачи, рассуждения и работу с текстом и изображениями. Она поддерживает мультимодальный сценарий image-text-to-text, включая чтение изображений, а также многоязычную работу с английским, французским, испанским, немецким, итальянским, португальским, нидерландским, китайским, японским, корейским, арабским и русским языками. Заявлен размер 8B параметров; точная длина контекста базовой модели не указана, но шаблон чата предусматривает скользящее окно примерно из 46 взаимодействий. К сильным сторонам относятся совместимость с Ollama и llama.cpp, наличие vision-проекторов для мультимодальной обработки и несколько вариантов квантования, позволяющих выбирать компромисс между качеством и требованиями к ресурсам. Ограничением является отмеченная автором проблема с шаблоном чата: при загрузке с Hugging Face он может некорректно активировать теги рассуждений. Модель выпущена под лицензией Apache-2.0.

LinkRur/Qwen_3.5_4B_Fix — исправленная версия мультимодальной модели Qwen3.5, опубликованная в формате Transformers. Это причинная языковая модель с визуальным энкодером; в карточке указано около 4 млрд параметров, а метаданные фиксируют 3,4 млрд. Веса основаны на Qwen/Qwen3.5-4B-Base и лицензированы по Apache-2.0. Модель предназначена для диалогов, генерации и анализа текста, а также понимания изображений. Она поддерживает контекст до 262 144 токенов, расширяемый, согласно README, до 1 010 000, и широкое многоязычное покрытие: заявлены 201 язык и диалект. В README описана коррекция весов проекций ключей в восьми слоях полного внимания, призванная устранить бесконечные циклы повторения; остальные веса, по заявлению автора, не менялись. Модель подходит для мультимодальных ассистентов, вопросов по изображениям и задач с длинным контекстом. README сообщает о режиме рассуждений по умолчанию и возможностях вызова инструментов. При этом заявленные улучшения основаны на описании автора, а независимые результаты проверки исправления и подробные ограничения качества в доступных данных не приведены.