II.4Отладка, тестирование и качество ПО
В разделе собраны самостоятельные задачи, где AI помогает находить дефекты, строить проверки и повышать надёжность программного продукта. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
13 978 моделейGemma-4-12B-OBLITERATED-GGUF — набор квантованных GGUF-файлов модели Gemma-4-12B-OBLITERATED, разработанной OBLITERATUS и подготовленной к квантованию пользователем mradermacher. Модель предназначена для генерации текста, а также сценариев исследования безопасности, выравнивания, анализа отказов и red teaming. В метаданных указан английский язык. Размер базовой модели — 12B параметров; сведения об архитектуре, максимальном контексте и поддерживаемых модальностях не предоставлены. Репозиторий предлагает варианты квантования Q2_K, Q3_K, IQ4_XS, Q4_K, Q5_K, Q6_K и Q8_0 размером примерно от 4,9 до 12,8 ГБ, что позволяет выбирать между требованиями к памяти, скоростью и качеством генерации. Для Q4_K_S и Q4_K_M заявлена высокая скорость, для Q6_K — очень хорошее качество, а Q8_0 обозначен как вариант с лучшим качеством. Ограничениями являются возможная потеря качества в низкобитных вариантах, отсутствие опубликованных результатов тестирования и неполные сведения о контексте и возможностях модели. Использование регулируется лицензией Gemma.
DavidAU Gemma 4 E4B it The DECKARD V3 Expresso HERETIC UNCENSORED Thinking — дообученная DavidAU на закрытом наборе данных The Deckard модель Google Gemma 4 E4B Instruct. Это плотная мультимодальная модель с режимами instruct и thinking; по карточке базовая Gemma E4B имеет около 8 млрд параметров, из которых активны примерно 4,5 млрд. Автор указывает контекст до 128 тысяч токенов и поддержку текста, изображений, видео и аудио. Модель предназначена для диалога, рассуждений, программирования, творческого письма и ролевых сценариев. По заявлению автора, настройка усиливает характер, детализацию и глубину ответов; шаблон по умолчанию включает режим thinking, также доступен шаблон instruct. Карточка описывает модель как uncensored, поэтому она может выдавать более мрачный или интенсивный контент. Вес опубликован в формате bfloat16 Safetensors, библиотека — Transformers. Лицензия — Apache-2.0. Заявления о качестве основаны на внутренних тестах автора; независимая оценка в карточке не приведена.
GLM-5.3-Flash Spark Q2XL MTP — это GGUF-квантизация модели zai-org/GLM-5.3-Flash, подготовленная автором репозитория для запуска на NVIDIA DGX Spark / GB10 с 128 ГБ памяти. Веса общим объёмом около 105 ГиБ используют смешанную точность: матрицы внимания и общие эксперты сохранены с большей точностью, а матрицы маршрутизируемых экспертов сжаты сильнее. Калибровка выполнена с использованием importance matrix; предусмотрено спекулятивное декодирование MTP. Модель предназначена для генерации текста в диалогах и локальных задачах программирования. В тестах автора на одном DGX Spark она показала 159/164 на HumanEval и 153/164 на HumanEval+ Mini; результаты получены на одном примере для каждой задачи и при настройке reasoning_effort=low, поэтому их не следует считать независимой всесторонней оценкой качества. Для работы автор проверял сборку GLM5-Next на базе llama.cpp с включённым native MTP и контекстом 32 768 токенов. Репозиторий распространяется по лицензии MIT.
jina-code-embeddings-0.5b — модель эмбеддингов для поиска по коду, разработанная Jina AI и дообученная на базе Qwen/Qwen2.5-Coder-0.5B. Она предназначена для поиска по запросу на естественном языке в коде, поиска похожих фрагментов кода, поиска описания по коду и подбора продолжения кода. Модель также поддерживает ответы на технические вопросы, связанные с программированием. Архитектура — плотная Qwen2, около 494 млн параметров; модель использует библиотеку Transformers и принимает контекст до 32 768 токенов. Для пяти типов задач предусмотрены отдельные префиксы инструкций, выбираемые при инференсе. Эмбеддинги имеют размерность 896 по умолчанию; её можно уменьшить до 64 с небольшим снижением качества. Заявлена поддержка более 15 языков программирования и сценариев разработки, машинного обучения, анализа данных и обучения программированию. Модель подходит для построения поиска и извлечения релевантного кода, однако README не приводит численных результатов оценки качества. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование.
QuantFactory/Llama3-8B-Chinese-Chat-GGUF — это квантизированная GGUF-версия модели shenzhi-wang/Llama3-8B-Chinese-Chat, созданная с помощью llama.cpp. Исходная модель дообучена на базе Meta-Llama-3-8B-Instruct с использованием метода ORPO и фреймворка LLaMA-Factory; в README автором указана QuantFactory. Модель предназначена для диалогового применения и генерации текста на китайском и английском языках: она ориентирована на ответы на китайские запросы, написание и редактирование текстов, решение математических задач, программирование и соблюдение базовых ограничений безопасности. По сравнению с исходной Meta-Llama-3-8B-Instruct она должна реже отвечать на китайские вопросы по-английски, меньше смешивать языки и использовать меньше эмодзи, обеспечивая более формальный стиль. Указана длина контекста 8192 токена; архитектура — семейство Llama 3, размер — 8 млрд параметров. Модель работает в текстовой модальности, а формат GGUF предназначен для использования с совместимыми инструментами, включая llama.cpp. К ограничениям относятся возможные ошибки в фактах, рассуждениях, математике и коде, что видно по приведённым примерам, а также отсутствие гарантии полной безопасности или качества ответов. В README не указаны конкретный вариант квантизации, требования к памяти и производительности, поэтому совместимость и скорость необходимо проверять для выбранной конфигурации. Лицензия обозначена как other с названием llama3; применимые условия следует уточнять в файле LICENSE и лицензии исходной модели.
LYRA-CODER — компактная разговорная модель генерации текста, разработанная и поддерживаемая Мухаммадом Таки. В метаданных указаны архитектура Qwen2 с причинной языковой моделью, 1,5 млрд параметров и контекст до 32 768 токенов; README также называет LYRAMOON архитектурной основой и заявляет о быстрой генерации ответов. Модель предназначена для чата и задач генерации кода, что отражено в названии и тегах. Модель работает с текстом и может использоваться для диалоговых ответов, генерации кода и вызова инструментов через соответствующий интерфейс. В карточке указан английский язык. Репозиторий содержит веса Safetensors, а лицензия — Apache-2.0. README не приводит результатов оценки качества или подробностей обучения, поэтому заявленную скорость и пригодность для рассуждений нельзя проверить по предоставленным данным.
Nondzu/Mistral-7B-codealpaca-lora — адаптер LoRA для Mistral-7B, разработанный для помощи в программировании. Модель генерирует код и ответы на инструкции по шаблону Alpaca; карточка связывает обучение с набором theblackcat102/evol-codealpaca-v1 и приводит результаты оценки HumanEval+. Архитектура — плотная MistralForCausalLM на 7,1 млрд параметров с контекстом до 32 768 токенов; метаданные указывают форматы PyTorch и safetensors и лицензию Apache-2.0. Модель подходит для генерации и дополнения кода, ответов на вопросы разработчиков и решения задач программирования в диалоговом интерфейсе. Опубликованные результаты оценки свидетельствуют о проверке на задачах HumanEval+, но карточка не описывает подробные условия тестирования или гарантии качества. Для запуска адаптера может потребоваться совместимая базовая модель.
Mtreelva Dune 12B — экспериментальная текстовая генеративная модель на 12 млрд параметров, созданная слиянием моделей команд CompiwerAI, MuXodious и Reelva с помощью mergekit и метода flux. Архитектура — Gemma 4 12B; веса опубликованы в формате safetensors и доступны через Transformers. Лицензия — Apache-2.0. Модель предназначена для диалогов, задач рассуждения, программирования и многошаговых агентных сценариев. В описании заявлена поддержка индонезийского, английского, арабского, французского и марокканского дариджа; базовые модели дополнительно заявляют возможности для компаньонского общения и настраиваемую глубину рассуждения. Карточка также описывает мультимодальные возможности семейства Gemma 4, включая входные изображения, аудио и видео, однако не подтверждает их отдельно для этого слитого чекпойнта. Автор характеризует модель как экспериментальную и частично снявшую ограничения безопасности: защитные отказы всё ещё встречаются, но их можно обходить. Производительность и поведение могут отличаться от базовых моделей; карточка не приводит независимых оценок качества.
Nostr-Llama-3.1-8B — дообученная модель на базе Meta Llama 3.1 8B, созданная some1nostr. При обучении использовались заметки Nostr примерно от 7000 пользователей и наборы инструкций по программированию и математике. Модель предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Модель имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекст до 131 072 токенов. В репозитории указаны веса Safetensors. README не уточняет языковую специализацию и результаты оценки качества. Лицензия в предоставленных данных не указана.
Olmo 3.1 7B RL-Zero Code — авторегрессионная трансформерная языковая модель Allen Institute for AI (Ai2), дообученная на базовой allenai/Olmo-3-1025-7B с обучением по проверяемым вознаграждениям на наборе Dolci-RL-Zero-Code-7B, содержащем запросы по программированию. Это экспериментальная модель семейства RL-Zero для исследования методов RLVR, ориентированная на генерацию кода и ответы на запросы о программировании. Модель имеет 6,9 млрд параметров, использует архитектуру Olmo3ForCausalLM и принимает текст, выдавая текст; заявленная длина контекста — 65 536 токенов. README указывает английский язык. Для использования доступна библиотека Transformers версии 4.57.0 или выше. Модель может генерировать неточный код и неверные утверждения, а отсутствие фильтрации безопасности допускает вредоносные или чувствительные ответы. Лицензия — Apache 2.0; Ai2 указывает исследовательское и образовательное назначение в соответствии с руководством по ответственному использованию.
opencsg-starcoder-v0.1 — языковая модель для генерации и дополнения кода, созданная исследовательской командой OpenCSG. Это полнопараметрическая донастройка StarCoder с 15,5 млрд параметров, обученной на данных более чем с 80 языков программирования из The Stack v1.2; для версии opencsg-starcoder-v0.1 указан контекст 8192 токена и архитектура GPTBigCode. Модель предназначена для генерации кода по текстовым запросам и продолжения фрагментов программ. В README приведён результат HumanEval для Python: Pass@1 42,68% при жадном декодировании и оценке только по исходным условиям задач. Этот результат не гарантирует аналогичного качества на других языках и практических задачах разработки. Модель распространяется по лицензии BigCode OpenRAIL-M.
SC117 выпустил экспериментальный вариант Ornith-1.5-35B-A3B, предназначенный для генерации текста, агентного программирования и работы с инструментами. Это производная MoE-модель на базе Ornith-1.5-35B-A3B, объединяющая выбранный LoRA-адаптер Heretic Trial 62 с весами BF16 и заменённой головой MTP; репозиторий содержит версии GGUF, полученные с помощью MoE-ориентированной смешанной квантизации APEX. Модель рассчитана на текстовые и мультимодальные сценарии с изображениями через проектор mmproj и требует свежей сборки llama.cpp с поддержкой Qwen3.5 MoE MTP. README приводит пример контекста в 131072 токена. Вариант предназначен для агентных задач программирования и диалоговой генерации. Замена MTP-головы улучшает основу для спекулятивного декодирования; для запуска с черновым MTP предлагается параметр --draft-mtp. Отказ-модифицированная модель может вести себя иначе, чем исходная, поэтому автор рекомендует оценить её перед развёртыванием. Лицензия — MIT.
Prowl secret encoder — модель классификации текста, разработанная для проекта Prowl. Она оценивает, содержит ли короткий фрагмент кода, конфигурации, журнала, комментария или сообщения учётные данные или другой секрет. Модель основана на DistilBERT multilingual cased и дообучена для бинарной классификации последовательностей; использует библиотеку Transformers, принимает фрагменты длиной до 512 токенов и выдаёт оценку вероятности наличия секрета. Модель предназначена для третьего этапа сканера секретов Prowl: она повышает полноту обнаружения свободно сформулированных и многоязычных секретов, дополняя каскад регулярных выражений и логистическую модель. В описанном ансамбле добавление энкодера повысило полноту с 0,848 до 0,970 на ProwlBench при снижении точности с 0,974 до 0,971; на отдельных каналах приводятся высокие показатели полноты. Поддерживаются английский, немецкий, французский, испанский и русский языки. Это не самостоятельный сканер: результат относится ко всему фрагменту и не указывает точное положение или тип секрета. Авторы предостерегают от использования модели как отдельного точного фильтра; тип секрета и локализацию определяют другие компоненты Prowl. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.
MingZwhy разработал эту версию Qwen3-4B, применив квантование весов до 1,88 бита на параметр и восстановление качества с помощью quantization-aware distillation и on-policy distillation. Это плотная авторегрессионная модель семейства Qwen3 с 3,7 млрд параметров, предназначенная для генерации текста и диалогов; она принимает текст и выдаёт текст. Модель доступна в формате safetensors, квантование уже встроено в веса. Контекст составляет 40 960 токенов. README приводит результаты на задачах математического рассуждения, генерации кода и QA; во всех перечисленных тестах результаты ниже, чем у исходной Qwen3-4B в BF16. Лицензия — Apache-2.0.
continuum-ai/qwen3.5-4b-code-forged — дообученная для программирования модель на базе Qwen3.5-4B от Continuum. Это плотная авторегрессионная языковая модель с 3,4 млрд параметров, рассчитанная на генерацию кода и запуск локально, в том числе на потребительском оборудовании. В карточке указаны обучение на коде в течение 1000 шагов и трёх циклов, а также контекст до 262 144 токенов. Модель предназначена для генерации и дополнения кода в разных языках программирования. README сообщает о снижении perplexity на коде с 3,04 до 2,35; результат HumanEval ещё не приведён. Заявления о бенчмарках отмечены как самоотчётные, поэтому их следует считать предварительными. README также описывает этапы train → quant → eval и криптографическую цепочку происхождения ForgeAlloy. Модель распространяется по лицензии Apache-2.0. Метаданные указывают формат safetensors; README упоминает квантизацию в методологии, но доступные сведения не позволяют однозначно определить, является ли опубликованный чекпойнт только квантизованной версией или содержит дообученные веса. Поддерживаются разные естественные языки, но основные языки общения не определены; назначение модели — код.
RaceBench-MiniCPM5-heretic — языковая модель, разработанная RACER IS OP на основе saidutta69/RaceBench-MiniCPM5 и MiniCPM5-1B. Это decensored-вариант, созданный с помощью Heretic 1.4.0 методом directional ablation (abliteration): целевые изменения весов подавляют поведение, связанное с отказами, без дополнительного дообучения. Модель предназначена для генерации текста и диалогов на английском и китайском языках. Модель ориентирована на многошаговое рассуждение, код, агентское использование инструментов, ролевые сценарии и локальные приложения. Заявлены режимы Think и No-Think, контекст до 128K токенов, поддержка llama.cpp, Ollama, LM Studio, Jan, vLLM и SGLang, а также GGUF-квантизации для запуска на потребительских GPU, CPU и устройствах edge-класса. Размер исходной модели составляет около 1,1 млрд параметров; доступны варианты от Q2_K до Q8_0 и F16. К сильным сторонам относятся компактность, длинный контекст, низкие требования к памяти, поддержка локального запуска и снижение частоты отказов с 39 до 2 на 100 проверочных adversarial-запросов по данным карточки. При этом отсутствие защитных ограничений является существенным риском для безопасного применения, а изменения весов могут влиять на поведение и качество модели. Также заявлен компромисс между улучшением результатов на BBH и ухудшением показателей на математических задачах; подробные результаты в этой карточке не приведены. Модель распространяется по лицензии Apache 2.0.
Trinity-2-Codestral-22B-GGUF — это набор GGUF-квантизаций базовой текстогенеративной модели Trinity-2-Codestral-22B, разработанной migtissera и квантизированной bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и, судя по названию Codestral, ориентирована прежде всего на задачи, связанные с программным кодом, однако подробные сведения о специализации, обучении и результатах тестирования в README отсутствуют. Доступны варианты от полного F32 размером 88,99 ГБ до низкобитных IQ2_M размером 7,62 ГБ. Наиболее качественными и рекомендуемыми названы варианты Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S и Q4_K; некоторые версии используют Q8_0 для embedding- и output-весов. Модель работает в формате GGUF через llama.cpp и может запускаться, в частности, в LM Studio. Указан шаблон prompt с ролями system, user и assistant. Данные о поддерживаемых языках, размере контекста, архитектуре, модальностях и конкретных сильных сторонах не приведены. Лицензия обозначена как other, без дополнительных условий в README.
WizardCoder-Python-7B-V1.0 — языковая модель для генерации кода на Python, опубликованная как реплика официального репозитория WizardCoder. Это плотная авторегрессионная модель семейства Llama с 6,6 млрд параметров и контекстом до 16 384 токенов; для работы используется библиотека Transformers и формат PyTorch. Модель предназначена для генерации и дополнения кода по инструкциям на естественном языке, а также для решения задач программирования на Python. README приводит формат инструкционного запроса, но не содержит отдельных результатов именно для версии 7B. Карточка указывает, что реплика создана для воспроизведения результатов и исследований. Лицензия — Llama 2. Оценки из README относятся к другим размерам семейства WizardCoder и не позволяют судить о качестве этой версии; фактическая поддержка языков общения отдельно не описана.
all-MiniLM-L12-v2-code-search-512 — это компактная модель Sentence Transformers, дообученная на парах кода и документации из CodeSearchNet для семантического поиска по коду. Она сопоставляет текстовые запросы на естественном языке с исходным кодом и возвращает 384-мерные нормализованные эмбеддинги для поиска по косинусному сходству. Модель основана на архитектуре BERT семейства MiniLM, содержит 40 млн параметров и принимает последовательности длиной до 512 токенов. Модель подходит для поиска фрагментов кода по запросу, сопоставления кода с документацией, поиска похожего кода и кластеризации, в том числе при интеграции в инструменты разработчика и IDE. В README приведены результаты на валидационной выборке CodeSearchNet: Accuracy@1 91% и MRR@10 0,9338. Поддерживаются запросы на естественном языке и код на Python, Java, JavaScript, PHP, Ruby и Go; возможны и другие языки из CodeSearchNet. Модель не предназначена для генерации или автодополнения кода. Входы длиннее 512 токенов обрезаются, а качество может различаться между языками программирования и предметными областями. Лицензия — Apache-2.0.
code-nothink-q8b-20260908 — модель для генерации кода, созданная на основе Qwen/Qwen3-8B-Base. Это плотная авторегрессионная модель семейства Qwen3 с 7,6 млрд параметров; LoRA-дообучение на парных данных NoThink code SFT слито с основными весами bf16. Репозиторий содержит веса в формате safetensors и специальный комплект токенизатора для оценки; контекст модели по метаданным — 32 768 токенов. Модель предназначена для генерации кода без режима рассуждений и решения задач программирования. В оценке LiveCodeBench DEV256 в режиме NoThink она показала средний pass@1 30,1% по двум запускам против 22,7% у базовой модели; авторы отмечают заметные колебания результата между seed и описывают данные как исследовательские, а не подтверждающие. Для инференса README рекомендует использовать токенизатор и chat template из этого репозитория. Лицензия — Apache-2.0.
DeltaP2S-Qwen2.5-14B-SameFormula-Code-S13 — объединённый чекпойнт на базе Qwen2.5, созданный пакетом экспериментов Delta-P2S с учётом архитектуры Qwen. Модель разработана автором репозитория g-assismoraes; в качестве обучающей базы указана Qwen/Qwen2.5-14B. Это плотная авторегрессионная языковая модель семейства Qwen2 с 14 млрд параметров, предназначенная для генерации текста в диалоговом режиме. Контекстное окно составляет 131 072 токена. Название и каталог обучения указывают на настройку для задач, связанных с кодом и формулами, однако README не описывает конкретные возможности или результаты на этих задачах. Весы опубликованы в формате safetensors; для работы используется Transformers. Лицензия в предоставленных данных не указана.
Это квантизированная GPTQ-версия ELYZA-japanese-CodeLlama-7b-instruct, подготовленная mmnga с калибровочным набором на японском языке. Для калибровки использованы случайная выборка примерно из 1 000 фрагментов японской Википедии и около 200 пар входных и выходных данных ELYZA-tasks-100. Модель относится к семейству Llama и предназначена для генерации текста в инструкционном формате, включая ответы на японском языке и задачи с кодом. Она содержит 6,6 млрд параметров и поддерживает контекст до 16 384 токенов. В метаданных указан формат safetensors и лицензия Llama 2. Калибровочный набор описывает процедуру подготовки GPTQ-версии; отдельных оценок качества в карточке нет.
Erawan 1 — компактная языковая модель Airavat AI Micro Lab с 1,7 млрд параметров, дообученная на базе Qwen3-1.7B. Это декодерный трансформер Qwen3; модель обучали методом QLoRA, после чего адаптер объединили с весами в контрольную точку fp16. Метаданные указывают контекст до 40 960 токенов. Модель предназначена для генерации текста в диалогах, пошаговых рассуждений и агентных сценариев с вызовом инструментов. В карточке приведены небольшие тесты: на GSM8K результат составил 3 из 10 примеров, на HumanEval — 4 из 6, а на тесте вызова функций — 6 из 6; выборки слишком малы для надёжной оценки качества. В качестве обучающих данных использовались наборы для математических рассуждений, вызова функций и диалогов. Указан английский язык. Лицензия — Apache 2.0.
FalconMind3B — языковая модель генерации текста, разработанная Faris Allafi и дообученная на основе tiiuae/Falcon3-3B-Instruct с помощью PEFT/LoRA на платформе Hugging Face AutoTrain. Модель предназначена для пошагового рассуждения и структурированных ответов на вопросы, решения задач и объяснения кода. Модель использует плотную архитектуру семейства Llama с причинным языковым моделированием, содержит 2,8 млрд параметров и поддерживает контекст до 32 768 токенов. В карточке заявлен английский язык; базовая модель также ориентирована на французский, испанский и португальский. Распространяется по лицензии Apache 2.0. Дообучение использует синтетические данные, которые могут вносить смещения и снижать обобщающую способность. Надёжность следует проверять на целевых задачах; для решений с высокими ставками модель требует особой проверки.
FoMo-0D — модель для обнаружения выбросов в табличных данных без обучения на целевой задаче. В карточке указаны официальная реализация и статья «FoMo-0D: A Foundation Model for Zero-shot Tabular Outlier Detection»; модель опубликована с помощью интеграции PytorchModelHubMixin. Модель предназначена для поиска аномальных наблюдений в таблицах, в том числе в сценариях, где нет размеченных примеров для обучения. Доступные сведения не раскрывают размер модели, поддерживаемые языки, конкретные типы входных данных или подробности архитектуры. Репозиторий содержит веса в формате safetensors. Лицензия — MIT.
GEV-26B-Decide — модель AutoTrust AI для классификации и принятия решений по заданным вариантам. Она принимает текстовые вопросы и изображения, поддерживает решения «да/нет», выбор из 2–256 вариантов и оценку по шкале 0–5; для каждого варианта выдаёт калиброванную вероятность. Модель основана на Gemma 4 26B A4B IT, использует архитектуру Gemma4 и формат safetensors. В каталоге указана задача text-classification, а карточка описывает API решений и адаптивное рассуждение. В режиме System 1 решение принимается за один проход. При включённом адаптивном режиме System 2 может дополнительно рассуждать, если уверенность System 1 ниже заданного порога; этот режим предназначен прежде всего для сложных вопросов по науке, коду, математике и логике. Модель может обрабатывать контексты до 256K токенов согласно карточке, однако контексты свыше 128K не проверялись. Для развёртывания через vLLM требуется сборка с поддержкой Gemma 4 и приложенный патч для LoRA на lm_head; для одной GPU требуется 80 ГБ или больше. Модель ориентирована на английский язык. Среди ограничений — возможные уверенные ошибки, ухудшение качества на некоторых задачах при включённом рассуждении, высокая задержка на сложных входах и непроверенная надёжность решений по изображениям. Не рекомендуется использовать её для решений с высокими последствиями без контроля уверенности. Лицензия — Apache-2.0.
GLM-5.3-Flash-Uncensored-GGUF — это квантованные GGUF-версии модели GLM-5.3-Flash от Z.ai, подготовленные и опубликованные OrcaRouter. Модель предназначена для локального запуска в llama.cpp на CPU, CUDA, Metal и ROCm. Она ориентирована на исследовательские задачи, включая интерпретируемость, изучение механизмов отказа, red teaming, оценку устойчивости и контролируемые эксперименты. Вариант uncensored получен удалением значительной части механизмов отказа, поэтому модель может выполнять вредоносные, незаконные или этически проблемные запросы. Модель имеет архитектуру Mixture-of-Experts: около 320 млрд параметров, из которых активно примерно 18 млрд; используется 288 маршрутизируемых экспертов с выбором top-8 и один общий эксперт. Заявлены гибридное линейное и разреженное внимание, Manifold-Constrained Hyper-Connections шириной 4, поддержка текста, изображений и видео, а также контекст до 1 млн токенов. Поддерживаются английский и китайский языки. Доступны квантизации от 2 до 6 бит; Q4_K_M рекомендуется как баланс качества и размера, а Q6_K обеспечивает наивысшую точность среди представленных вариантов. Для обработки изображений требуется отдельный файл mmproj. GGUF-сборки не содержат MTP-голову для спекулятивного декодирования, а для работы необходима свежая версия llama.cpp с поддержкой архитектуры glm5next. Модель распространяется по лицензии MIT, однако её использование требует самостоятельных мер безопасности, модерации и предотвращения злоупотреблений.
InternVL3.5-4B-Flash — мультимодальная чат-модель OpenGVLab из семейства InternVL3.5. Она принимает изображения и текст и формирует текстовые ответы для диалога, визуального анализа и рассуждений по содержимому изображений. Вариант Flash использует Visual Resolution Router для динамической настройки разрешения визуальных токенов; семейство также поддерживает сценарии взаимодействия с графическим интерфейсом и embodied agency. Модель основана на InternVL3.5 с архитектурой InternVLChatModel и дообучена на OpenGVLab/MMPR-v1.2 и MMPR-Tiny. Карточка описывает мультиязычность, но не перечисляет отдельные языки или размер контекстного окна. Репозиторий содержит веса safetensors для Transformers. Лицензия — Apache-2.0.
K2 Think V2 — открытая модель с 70,5 млрд параметров для рассуждений, разработанная командой IFM и основанная на дообученной модели K2-V2-Instruct. Это плотная авторегрессионная модель семейства Llama для генерации текста и диалогов, с акцентом на сложные математические задачи и сильными результатами на конкурсных бенчмарках. Модель также показывает результаты на задачах программирования. В README указана длина контекста 131 072 токена с расширением вдвое через YaRN; метаданные каталога указывают нативный контекст 262 144 токена. Шаблон чата унаследован от K2-V2-Instruct, по умолчанию задан высокий уровень рассуждений; режимы low и medium доступны, но не проверялись. Карточка сообщает о хороших агрегированных результатах оценки безопасности, однако отмечает потенциал улучшения в обработке чувствительных персональных данных. Лицензия Apache-2.0; условия использования запрещают незаконное и вредоносное применение и предоставляют модель без гарантий.
KALYPSO v1.1L — открытая модель для генерации кода из семейства KALYPSO, разработанная GENOMA Labs. Она основана на Qwen2.5-Coder-14B-Instruct и дообучена с использованием LoRA на наборе Kraken-Public, содержащем 18 049 очищенных от пересечений с тестами записей, производных от кодинговых данных NVIDIA Nemotron. После обучения LoRA-адаптер объединён с полноразмерными весами в формате fp16. Модель предназначена для агентного программирования: многошаговых задач разработки, сценариев вызова инструментов, а также рабочих процессов с предварительным планированием и последующей реализацией. Основные языки — Python, C++ и SQL; заявлена поддержка английского языка. Это плотная модель на 14 млрд параметров с текстовой модальностью, стандартным шаблоном чата Qwen2.5 и контекстом до 32 000 токенов. Для развёртывания рекомендуется vLLM, также поддерживается Transformers. По данным EvalPlus, модель показывает результаты, близкие к базовой Qwen2.5-Coder-14B-Instruct: 87,8 на HumanEval, 82,9 на HumanEval+, 84,7 на MBPP и 70,4 на MBPP+. Её основное преимущество — ориентация на агентные сценарии и планирование, а не превосходство в однократном завершении кода. Ограничения включают отсутствие заметного выигрыша над базовой моделью в задачах чистого кодогенерирования и неизвестную эффективность за пределами заявленных сценариев. Модель распространяется по лицензии Apache-2.0; в описании также отмечено, что происхождение части обучающих данных может быть связано с условиями лицензий Qwen и DeepSeek.