II.10Разработка и эксплуатация AI/ML-систем

OpenOrcaxOpenChat-Preview2-13B — языковая модель, разработанная OpenOrca совместно с OpenChat. Это плотная авторегрессионная модель семейства LLaMA 2 с 12,9 млрд параметров, дообученная на отфильтрованной выборке GPT-4-дополненного датасета OpenOrca с упаковкой диалогов в формате OpenChat. Модель предназначена для генерации текста и диалоговых ответов по инструкциям; в карточке сообщается о результатах примерно на уровне 103% от показателей Orca в среднем на BigBench-Hard и AGIEval. Модель принимает текст и генерирует текст. Карточка приводит шаблон многоходового диалога OpenChat; контекст составляет 4096 токенов. В метаданных указан английский язык. Модель распространяется в формате PyTorch по лицензии Llama 2. Это предварительная версия; заявленные результаты относятся к оценкам авторов, а карточка не описывает ограничения по качеству подробнее.

OpenSonnet-Lite-MAX — дообученная языковая модель hadadxyz на архитектуре Qwen3, основанная на Qwen/Qwen3-4B-Thinking-2507. Она предназначена для диалоговой генерации текста, следования инструкциям и решения задач с рассуждением; в карточке также показана демонстрация вызова инструментов. Модель содержит 3,7 млрд параметров, принимает текст и поддерживает контекст до 262 144 токенов. Указаны многоэтапное дообучение в два прохода и оценка 85,22 на GSM8K; результатов для MMLU-Pro и GPQA Diamond карточка не приводит. Модель распространяется в формате safetensors через Transformers по лицензии Apache 2.0. Языки обучения или поддерживаемые естественные языки в предоставленных данных не обозначены. Результаты бенчмарка и заявленные возможности основаны на карточке модели и сами по себе не гарантируют аналогичное качество на других задачах.

Карточка модели tayaee/Qwen2.5-1.5B-Instruct-ko-Reasoning-alpha-smoke на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

ApolloRaines/Qwen2.5-Coder-32B-Instruct-Jbliterated — модифицированная версия Qwen2.5-Coder-32B-Instruct, разработанная Apollo Raines. Модель предназначена для генерации текста и программного кода, включая разработку, анализ и преобразование кода, а также сценарии, где требуется модель без встроенного поведения отказа. Она может применяться для творческого письма, исследований в области безопасности и академических экспериментов, однако требует ответственного использования. Модель построена на архитектуре Qwen2ForCausalLM и содержит около 32,8 млрд параметров при 64 слоях. Она сохраняет архитектуру, токенизатор и длину контекста базовой модели; в README указана поддержка английского языка. Основной формат — BF16, также доступны варианты GGUF с квантованием Q8_0 и Q4_K_M. Полноточная версия занимает около 62 ГБ, Q8_0 — 33 ГБ, а Q4_K_M — 19 ГБ. Отличительная особенность модели — удаление поведения отказа непосредственно из весов с помощью проприетарного инструмента jBlaze, без дополнительного обучения или fine-tuning. По заявлению разработчика, это должно сохранять стиль и творческие характеристики исходной модели, но одновременно означает отсутствие встроенного отказа от потенциально опасных запросов. Модель распространяется по лицензии Apache 2.0, как и базовая модель; ответственность за соблюдение законодательства и безопасное применение возлагается на пользователя.

DavidAU/Qwen3-30B-A6B-16-Extreme — дообученная версия многоэкспертной языковой модели Qwen3, в которой для обработки каждого запроса активируются 16 экспертов вместо стандартных 8. По описанию автора, модель использует около 6 млрд активных параметров из 30 млрд и рассчитана на более сложные запросы, где могут быть полезны дополнительные нюансы и глубина ответа. Модель предназначена для генерации текста и диалогов, включая сценарии с интерфейсом вызова инструментов. Она принимает текстовые запросы и выдаёт текст; автор указывает контекст около 32 тыс. токенов плюс до 8 тыс. токенов на ответ. Репозиторий содержит полноточные веса в safetensors и может использоваться через Transformers или служить источником для создания квантованных вариантов. Увеличенное число активных экспертов снижает скорость генерации примерно вдвое относительно версии с 8 экспертами; фактическая скорость зависит от оборудования и настроек. Модель создана DavidAU на базе Qwen/Qwen3-30B-A3B-Base. В карточке указана лицензия Apache-2.0 для базовой модели; отдельные условия лицензирования этой производной в предоставленных данных не приведены.

Qwen3.5-9B-The-Defiant-Fable-DARK-ROAST-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP — мультимодальная плотная модель семейства Qwen3.5 с 9 млрд параметров, разработанная DavidAU совместно с Nightmedia. Это многоэтапный fine-tune и merge нескольких моделей Qwen3.5-9B; карточка описывает полноточную версию в 16-битном формате и отдельно упоминает варианты GGUF с NEO IMATRIX и MTP для ускоренной генерации. В метаданных указан формат safetensors и библиотека Transformers. Модель предназначена для диалогов, следования инструкциям, рассуждений, программирования, творческого письма и ролевых сценариев. Она принимает текст и изображения, поддерживает английский и китайский языки и, согласно карточке, контекст до 256 тысяч токенов. Также заявлен интерфейс вызова инструментов. Автор приводит результаты бенчмарков, но они не гарантируют превосходства на любых пользовательских задачах; видео не тестировалось. Автор характеризует модель как полностью uncensored и сообщает об удалении отказов; это может приводить к генерации нежелательного или небезопасного содержания. Лицензия — Apache-2.0. Для использования зрения в описанных GGUF-вариантах требуется отдельный файл mmproj.

Модель lordx64/Qwen3.6-35B-A3B-Kimi-K2.6-Reasoning-Distilled — дообученная методом дистилляции версия Qwen3.6-35B-A3B, созданная автором lordx64. Она обучена на примерно 7,8 тыс. примеров рассуждений Kimi K2.6 и воспроизводит более подробный, пошаговый стиль ответов с явными блоками рассуждений. Архитектура — разреженная Mixture-of-Experts с 35 млрд параметров, из которых около 3 млрд активны на каждом токене; заявленная длина контекста — 64 тыс. токенов. Модель предназначена для сложных STEM-задач, конкурсной математики, пошагового анализа кода, логических задач и агентного планирования. Она принимает текст и генерирует текст; карточка указывает английский язык. Длинные цепочки рассуждений могут увеличить задержку и расход токенов, а дистилляция не добавляет знаний сверх возможностей базовой модели. Автор предупреждает, что приведённые в README результаты оценки зависят от используемого конвейера и для ряда тестов ненадёжны. Дополнительное обучение безопасности не проводилось. Лицензия Apache-2.0 разрешает коммерческое и исследовательское применение.

Qwen3.8-27B-Opus-Distill-v2 — плотная мультимодальная модель семейства Qwen, созданная barozp дообучением Qwen/Qwen3.8-27B методом LoRA с последующим объединением адаптера с базовыми весами. Дообучение выполнено на 11 716 примерах с проверенными трассами рассуждений Claude Opus; по данным карточки, набор очищен от строк с проблемным шаблоном и непроверенных источников. Модель предназначена для диалогов, анализа изображений и решения многошаговых задач с рассуждением. В README приведены результаты тестирования на логических и научных заданиях, а также проверка исправления ошибки зацикливания при совместном задании ограничений формата. Возможности зрения и MTP унаследованы от базовой модели и в этом дообучении не менялись. Модель принимает текст и изображения и генерирует текст; контекстная длина и поддерживаемые естественные языки в предоставленных данных не описаны. Модель распространяется под лицензией Apache-2.0. Карточка сообщает об исправлении конкретного случая зацикливания, но это не гарантирует его отсутствия во всех сценариях; приведённые бенчмарки ограничены режимом 0-shot, loglikelihood и QUICK с лимитом 500 примеров.

Qwen3.8-27B-TURBO-Fable-Coder-GGUF — это многоз этапно дообученная и объединённая модель на базе DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. В README модель представлена как разработка для потребительского оборудования с использованием Unsloth, методов COLD FUSION и Fable Fusion 711. Доступны GGUF-квантизации, включая обычные и MTP-варианты, с заявленной поддержкой режимов reasoning и thinking. Модель предназначена для широкого круга задач: программирования, решения задач, рассуждений, творческого письма, создания художественных текстов, ролевых сценариев и работы с различными жанрами. В метаданных указаны английский и китайский языки. Размер базовой модели — 27B параметров. Репозиторий также помечен как image-text-to-text, однако подробные сведения о поддерживаемых визуальных входах в README отсутствуют; максимальная длина контекста не указана. К заявленным сильным сторонам относятся сокращение объёма внутреннего рассуждения и ускорение генерации при сохранении детализации, а также высокие результаты на ARC-C и ARC-E. Автор утверждает, что модель превосходит базовые версии Qwen по ряду benchmarks, но эти показатели приведены без независимой методологии проверки. Ограничениями являются отсутствие подробных данных о контекстном окне, требованиях к памяти, совместимости MTP и качестве мультимодальной обработки. Модель описана как uncensored и abliterated, поэтому её ответы могут требовать дополнительной фильтрации и контроля безопасности. Лицензия — Apache-2.0.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — это GGUF-квантизированная версия многоэтапно дообученной и объединённой модели на базе DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. Модель подготовлена с использованием Unsloth, методов COLD FUSION и Fable Fusion 711; репозиторий konizquants содержит обычные и MTP-варианты Neo-CODER MAX DI-MATRIX GGUF-квантов. Заявлены языки английский и китайский, а также лицензия Apache 2.0. Точные сведения о длине контекста и полном устройстве архитектуры в README не указаны. Модель предназначена для общих задач, рассуждений и решения задач, программирования, генерации творческих текстов, художественной прозы, ролевых сценариев и работы с различными жанрами. Ключевая цель дообучения — сократить объём токенов рассуждения и ускорить генерацию при сохранении подробности и качества ответов; автор заявляет сокращение от примерно половины до одной десятой по сравнению с обычной Qwen3.8. Доступны варианты с 4- и 8-битным представлением, включая MTP, что ориентировано на запуск на потребительском оборудовании. README приводит высокие результаты внутренних и заявленных бенчмарков ARC, но не содержит независимой верификации. Ограничениями являются зависимость качества и скорости от конкретного кванта и оборудования, отсутствие подробных данных о контекстном окне и модальностях, а также заявленная «uncensored» направленность, из-за которой модель может требовать дополнительного контроля безопасности.

Qwen_Qwen3.5-27B-GGUF — это GGUF-квантизированная версия модели Qwen3.5-27B, разработанной командой Qwen и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для задач генерации текста и обработки изображений с текстом; запуск возможен через llama.cpp, LM Studio, koboldcpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. В README указан pipeline image-text-to-text, однако подробности о поддерживаемых языках и максимальном контексте не приведены. Доступны варианты от исходных весов BF16 размером 54,66 ГБ до квантизаций Q8_0, Q6, Q5, Q4, Q3 и IQ. Более высокие уровни квантизации обеспечивают лучшее сохранение качества, но требуют больше памяти; варианты Q6 и Q5 отмечены как близкие к исходному качеству, а Q4_K_M указан как стандартный вариант для большинства сценариев. Меньшие варианты экономят память, но могут заметно снижать качество ответов. Для ускорения генерации поддерживаются MTP-слои при использовании соответствующей функции llama.cpp. Модель удобна для локального запуска на совместимом оборудовании и выбора компромисса между качеством, скоростью и потреблением памяти. Ограничения включают значительные требования к памяти даже у компактных вариантов, зависимость совместимости от обновлений используемого программного обеспечения и возможное ухудшение качества при сильной квантизации. Лицензия — Apache-2.0.

Rombo-LLM-V2.5-Qwen-14b — плотная языковая модель на архитектуре Qwen2, созданная Rombo-Org на основе Qwen2.5-14B-Instruct. В README автор описывает её как результат непрерывного дообучения и слияния instruct- и base-моделей методом TIES; метаданные также указывают на дообучение Qwen/Qwen2.5-14B-Instruct. Модель содержит 14 млрд параметров, использует формат Safetensors и поддерживает контекст до 131 072 токенов. Модель предназначена для диалогов и генерации текста; в метаданных также заявлен интерфейс вызова инструментов. Её можно применять для ответов на запросы, следования инструкциям и создания структурированных ответов. README приводит результаты отдельных оценок IFEval и BBH, однако не описывает методику и полный набор тестов. Указана лицензия Apache-2.0. README заявляет о превосходстве над исходными instruct- и base-моделями, но не приводит достаточных подробностей для независимой оценки этого утверждения. Языки обучения или поддержки отдельно не перечислены.

Fulcrum-AI опубликовала модель Ryze-Nemo-passthrough — объединение языковых моделей, созданное с помощью mergekit методом passthrough. В конфигурации дважды используются слои модели mistralai/Mistral-Nemo-Instruct-2407: диапазоны 0–24 и 8–32; веса представлены в формате safetensors, а конфигурация слияния указывает bfloat16. Архитектура — плотная MistralForCausalLM примерно на 14,4 млрд параметров. Модель предназначена для генерации текста и диалогов; в метаданных также заявлен интерфейс вызова инструментов. Указанная для неё длина контекста — 1 024 000 токенов. Базовая модель описана как многоязычная инструктивная модель для диалога, следования инструкциям и вызова инструментов. Лицензия в предоставленных данных не указана.

HasinMDG/SetFit_Labse_Sentiment_Towards_Topic — модель на основе BERT, созданная для преобразования предложений и абзацев в плотные векторы размерности 768. Её можно применять для семантического поиска, сравнения сходства текстов и кластеризации.

SG Raccoon 55B 2.0 — авторегрессионная языковая модель на базе архитектуры Yi/Llama, созданная объединением двух дообученных моделей Tess-M-v1.3 и airoboros-3_1-yi-34b-200k. По карточке, итоговая модель содержит 55,1 млрд параметров и поддерживает контекст до 200 000 токенов. Модель предназначена для генерации текста и диалогов в формате SYSTEM/USER/ASSISTANT, а большой контекст позволяет обрабатывать длинные запросы и документы. В README приведены результаты оценок на нескольких бенчмарках, включая AI2 Reasoning Challenge и HellaSwag; полные результаты доступны в карточке. Для генерации автор рекомендует учитывать особенности Yi, в частности возможную необходимость отключить BOS-токен и использовать более низкую температуру. Лицензия указана как other, поэтому перед использованием следует проверить условия в репозитории.

Lucyfer1718/Spartan_v3 — языковая модель на архитектуре Llama, созданная слиянием методом SLERP моделей meta-llama/Meta-Llama-3-8B и meta-llama/Llama-3.1-8B-Instruct. Веса представлены в формате safetensors; модель содержит около 7,5 млрд параметров и рассчитана на контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогов, включая ответы на запросы и использование интерфейса вызова инструментов. Она работает с текстом; карточка указывает базовые многоязычные модели, но конкретный перечень языков для этого слияния не приведён. Условия лицензирования в предоставленных данных не описаны.

StructuredThinker — объединённая чат-модель на основе Qwen2.5-3B-Instruct, созданная автором Ahdoot с помощью mergekit и метода DARE TIES. В объединение вошли PowerInfer/SmallThinker-3B-Preview и prithivMLmods/QwQ-LCoT-3B-Instruct; в конфигурации указана точность bfloat16. Модель предназначена для генерации текста в диалоге и выполнения инструкций. Её можно использовать для получения структурированных ответов и пошаговых рассуждений. Архитектура — плотная Qwen2ForCausalLM, размер — 3,1 млрд параметров, контекст — до 32 768 токенов. Доступна для использования через библиотеку Transformers; интерфейс модели поддерживает чат и вызов инструментов. В карточке не указаны специальные домены и целевые языки модели. Базовая Qwen2.5-3B-Instruct описана как многоязычная, однако языки именно этой объединённой модели отдельно не перечислены. Лицензия в предоставленных данных не указана.

T3qm7xNeuralsirkrishna_Experiment28Inex12 — объединённая языковая модель семейства Mistral, созданная на основе automerger/T3qm7xNeuralsirkrishna-7B и automerger/Experiment28Inex12-7B. Она содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и распространяется в формате safetensors. Модель предназначена для генерации текста и диалогов по текстовым запросам. Контекстное окно составляет до 32 768 токенов, что позволяет учитывать длинные входные тексты в пределах этого лимита. В метаданных указана лицензия Apache-2.0.

UNA-34Beagles-32K-bf16-v1 — экспериментальная диалоговая модель, опубликованная one-man-army и построенная на Yi-34B-200K с использованием Bagel. Это плотная 34-миллиардная языковая модель архитектуры Llama, распространяемая в формате Safetensors; заявленная длина контекста — 32 768 токенов. Модель дообучена на широком наборе данных для инструкций, диалогов, рассуждений, программирования, математики и ролевых сценариев, а также прошла DPO-обучение. Модель предназначена для генерации текста и ответов в диалоге: она может помогать с вопросами и ответами, анализом предоставленного контекста, написанием кода, математическими задачами и творческими или ролевыми текстами. В README указаны четыре варианта форматирования запросов: Vicuna, Llama 2, Alpaca и ChatML-подобный формат. Данные описывают многоязычные задачи, но конкретный перечень поддерживаемых языков не приведён. Автор сообщает, что включение Toxic DPO должно снизить цензурирование ответов. Это может повышать вероятность генерации токсичного или небезопасного текста; качество и надёжность ответов не гарантированы. Модель распространяется по лицензии Apache-2.0.

kowshik/upsc-classification-model-v1 — модель Sentence-Transformers на базе MPNet, разработанная для преобразования предложений и абзацев в плотные векторы размерности 768. Её можно применять для семантического поиска, сравнения сходства текстов и кластеризации; метаданные указывают 136,7 млн параметров и контекст до 514 токенов. Модель работает с текстом и выдаёт эмбеддинги. В README описано обучение с CosineSimilarityLoss; доступны веса PyTorch и использование через Sentence-Transformers или Transformers с соответствующим pooling. Лицензия и целевые естественные языки в предоставленных данных не указаны.

Wizard-Tulu-Dolphin-70B-v1.0 — объединённая языковая модель на архитектуре Llama, созданная sophosympatheia методом SLERP из Wizard-Tulu-70B-v1.0 и Dolphin 2.2 70B. В репозитории представлены веса SafeTensors; размер модели — 68,7 млрд параметров, контекст — до 4096 токенов. Модель предназначена для генерации текста и следования инструкциям. Автор включал этот бленд в Midnight Rose v2.0.3 и описывает его как попытку объединить сильные стороны WizardLM, Tulu и Dolphin 2.2, однако отмечает, что отдельно модель тестировалась мало. Лицензия в предоставленных данных не указана.

airoboros-7b-gpt4 — дообученная модель семейства LLaMA с 6,6 млрд параметров, созданная Jondurbin на синтетических обучающих данных, сгенерированных GPT-4. Она предназначена для диалоговой генерации текста и отвечает на вопросы по заданному контексту, а также решает задачи на эрудицию, математику и рассуждение, программирование, тесты с выбором ответа, заполнение пропусков и общие темы. Для общения используется шаблон Vicuna; максимальная длина контекста по метаданным — 4096 токенов. Модель обучена следовать предоставленному контексту и ограничивать ответы его содержимым, чтобы уменьшить галлюцинации. Автор отмечает, что качество математических рассуждений ограничено, а результаты примеров для версии 13B могут отличаться от версии 7B. Модель распространяется под лицензией CC BY-NC 4.0, допускающей использование с указанием авторства, но запрещающей коммерческое использование.

Mistral-Small-Sisyphus-24b-2503-GGUF — это набор GGUF-квантизаций текстовой генеративной модели allura-org/Mistral-Small-Sisyphus-24b-2503. Исходную модель разработала allura-org, а квантизации подготовил bartowski с использованием llama.cpp и imatrix. Модель ориентирована на генерацию текста и выполнение инструкций; заявлены английский и китайский языки. Доступны варианты с разными уровнями квантизации — от Q8_0 до Q3 и IQ4, объёмом примерно от 12,4 до 25,05 ГБ. Старшие варианты обеспечивают более высокое качество, а младшие снижают требования к оперативной памяти. Модель предназначена для локального запуска в LM Studio, llama.cpp и других совместимых проектах. Архитектура в README дополнительно не описана; размер исходной модели указан как 24B параметров, сведения о контекстном окне и мультимодальности отсутствуют. Главные преимущества — широкий выбор компромиссов между качеством и потреблением памяти, а также совместимость с популярными средствами локального инференса. Ограничения связаны с потерями качества при более агрессивной квантизации и высокими требованиями к памяти для крупных вариантов. Лицензия — Apache-2.0.

Covenant-72B-Chat — диалоговая языковая модель с настройкой по инструкциям, созданная на основе Covenant-72B. Разработчики описывают базовую модель как крупнейшую языковую модель, обученную совместно без разрешений; вариант Chat дообучен методом supervised fine-tuning. Модель использует плотную архитектуру LLaMA (LlamaForCausalLM), содержит около 70,6 млрд параметров и принимает текст для генерации ответов в диалоге. Контекст составляет 8192 токена, поддерживаемый язык по карточке — английский. Модель предназначена для диалоговых ответов и выполнения инструкций на естественном языке. В README приведены результаты бенчмарков по рассуждениям, математике, общим знаниям и следованию инструкциям; эти оценки показывают способности на тестовых наборах, но не гарантируют точность в прикладных сценариях. Опубликована в формате safetensors под лицензией Apache 2.0.

Модель Карла Вайнмайстера — англоязычная версия DistilBERT, дообученная на наборе MultiNLI для классификации текстовых последовательностей и оценки сходства предложений. Она принимает текст и выдаёт оценки классов; подходит для сравнения предложений и задач понимания текстовых пар. Модель основана на DistilBERT с архитектурой DistilBertForSequenceClassification, опубликована в формате safetensors и поддерживает контекст до 512 токенов. Лицензия — Apache-2.0.

Fin-Retriever-base — модель Sentence Transformer на архитектуре BERT, представленная valuesimplex-ai-lab. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для поиска и сравнения текстов. В архитектуре используются BERT, усреднение токенных представлений и нормализация векторов; сходство можно оценивать по косинусной мере. Модель рассчитана на последовательности до 512 токенов. Модель подходит для семантического поиска, оценки сходства предложений, поиска перефразировок, кластеризации и классификации текста. Название указывает на финансовую тематику, однако README не описывает специализированные финансовые данные или сценарии обучения. Репозиторий содержит веса PyTorch и использует библиотеку sentence-transformers. Условия лицензирования в предоставленных данных не указаны.

Gemma4-26B-A4B-Uncensored-HauhauCS-1M-GGUF — GGUF-сборка, опубликованная satgeze на основе модели HauhauCS/Gemma4-26B-A4B-QAT-Uncensored-HauhauCS-Balanced-MTP, использующей архитектуру Gemma 4 с 26 млрд параметров и 4 млрд активных параметров в конфигурации MoE. Веса идентичны исходному релизу HauhauCS; в сборку добавлены масштабирование контекста, MTP-голова для спекулятивного декодирования и компоненты для обработки изображений. Модель предназначена для генерации текста, работы с очень большими документами и длинными промптами, а также для мультимодальных сценариев с изображениями. Заявлен контекст до 1 048 576 токенов благодаря YaRN-масштабированию в 4 раза относительно исходных 262 144 токенов. Vision-компонент проверен на распознавании текста и объектов на изображениях. MTP-голова совместно с llama.cpp может ускорять генерацию: в README указаны результаты 249,1–369,2 токена в секунду и прирост до 48% на RTX 5090 без изменения результата декодирования. К сильным сторонам относятся сверхдлинный контекст, поддержка изображений, возможность спекулятивного декодирования и формат GGUF, совместимый с llama.cpp и Ollama. При этом средний результат теста needle-in-a-haystack составляет около 91%, поэтому редкие пропуски при извлечении информации возможны; тестирование выше 524 тысяч токенов на момент публикации не завершено. Независимая оценка качества «раскодирования» и базовые языковые бенчмарки для этой сборки не приведены. Для работы требуются значительные ресурсы, особенно при использовании контекста в миллион токенов. Модель распространяется по лицензии Gemma.

gemma-4-E2B-it-Uncensored-MAX-GGUF — языковая модель с поддержкой изображений, разработанная prithivMLmods на основе google/gemma-4-E2B-it. Это instruction-tuned и alignment-modified вариант, предназначенный для генерации текста, подробных ответов, следования инструкциям, reasoning и агентских сценариев. Модель также позиционируется для запуска через llama.cpp, vLLM и другие совместимые инструменты, поддерживающие формат GGUF. Модель относится к классу MoE и имеет 2 млрд параметров согласно описанию. Заявлен английский язык. Наличие файлов mmproj указывает на поддержку обработки изображений, однако подробные сведения о визуальной архитектуре, размере контекста и точном наборе поддерживаемых модальностей не приведены. Доступны варианты BF16, F16, F32 и Q8_0 размером примерно от 4,95 до 18,6 ГБ, а также соответствующие мультимодальные компоненты. Ключевая особенность — снижение внутренних отказов от ответа с помощью анализа refusal-направлений и abliteration-based training при сохранении способностей к reasoning и instruction-following. Это может быть полезно для приложений, которым нужны менее ограниченные ответы, но одновременно означает повышенные риски получения небезопасного или нежелательного контента. Качество и требования к ресурсам зависят от выбранной квантизации. Модель распространяется по лицензии Apache-2.0.

Kunoichi-DPO-v2-Instruct-32k-7B — языковая модель, созданная автором репозитория слиянием моделей через mergekit. В основе лежит alpindale/Mistral-7B-v0.2-hf; в слияние также вошли mistralai/Mistral-7B-Instruct-v0.2 и SanjiWatsuki/Kunoichi-DPO-v2-7B. Использован метод DARE TIES, итоговые веса представлены в формате bfloat16. Модель на архитектуре Mistral с 7,1 млрд параметров предназначена для генерации текста и ответов на инструкции. Заявленная длина контекста — до 32 768 токенов; включение Instruct-модели могло изменить поведение исходной Kunoichi-DPO-v2. Данных о целевых языках и специальных прикладных областях в карточке нет. Лицензия в предоставленных данных не указана.

Llama-3.1-Niitorm-8B — объединённая диалоговая языковая модель на архитектуре Llama 3.1, созданная слиянием Sao10K/L3.1-8B-Niitama-v1.1 и akjindal53244/Llama-3.1-Storm-8B методом NEARSWAP с параметром t=0.0001. В README также указано включение варианта Niitama с LoRA для abliteration. Модель содержит 7,5 млрд параметров, работает с текстом и имеет контекстное окно до 131 072 токенов. Модель предназначена для диалогов и генерации текста, в том числе ответов на инструкции и вызова функций через соответствующий интерфейс. В карточке заявлена преимущественно выполненная abliteration, однако подробные оценки качества и гарантии поведения не приведены. Доступны веса в формате safetensors; README также упоминает сторонние квантизированные сборки GGUF. Лицензия в предоставленных данных не указана.