II.4Отладка, тестирование и качество ПО

Это исследовательский чекпойнт Jeesup на базе диалоговой модели meta-llama/Llama-2-7b-chat-hf. Он предназначен для изучения того, как сжатие влияет на безопасность и полезность языковой модели и насколько выборочная правка параметров восстанавливает поведение после сжатия. Модель использует архитектуру Llama для генерации текста и диалога, содержит 6,6 млрд параметров и рассчитана на контекст до 4096 токенов. Веса сжаты методом SVD-LLM примерно до 50% исходного числа плотных параметров, после чего выполнено 10 итераций перестановки параметров по правилу gap_iter. Карточка приводит результаты измерений отказов и успешности атак на наборах AdvBench и StrongREJECT, а также чрезмерных отказов на WildGuard. Чекпойнт является экспериментальным объектом, а не универсальным чат-ассистентом: некоторые варианты в исследовании намеренно имеют худшие показатели безопасности, чем исходная модель. Перед практическим использованием необходима самостоятельная оценка поведения. Лицензия — Llama 2.

Экспериментальный чекпойнт на базе диалоговой Llama 2 Chat с 7 млрд параметров, сжатый методом SVD-LLM примерно до половины плотных параметров и дополнительно изменённый в рамках итеративного обмена параметрами по правилу gap_iter. Модель подготовлена как часть исследования влияния сжатия на безопасность и полезность языковых моделей, а также способов восстановления поведения после сжатия. Чекпойнт предназначен для генерации текста и диалоговых экспериментов, в частности для измерения успешности атак и чрезмерных отказов на тестах безопасности. Контекст — 4096 токенов; исходная модель рассчитана прежде всего на общение на английском языке. В README приведены показатели AdvBench ASR 0,1450, StrongREJECT ASR 0,1600 и macro over-refusal 0,1511 по WildGuard. README прямо характеризует эту версию как исследовательский объект, а не универсального или готового к развёртыванию ассистента: сжатие может ухудшать безопасное поведение, поэтому результаты требуют самостоятельной оценки. Лицензия — Llama 2 Community License.

optimum-intel-internal-testing/tiny-random-llava-next-mistral — тестовая компактная модель из репозитория Optimum Intel Internal Testing на Hugging Face. Она относится к семейству LLaVA-NeXT с языковой основой Mistral и предназначена для задач image-text-to-text: обработки изображения вместе с текстовым запросом и генерации текстового ответа, например описания изображения или ответа на вопрос о его содержимом. Модель поддерживает мультимодальный ввод изображений и текста, используется через Transformers и имеет архитектурный тег llava_next. Указанный размер составляет около 537 тысяч параметров, тип тензоров — F32. Это tiny-random-модель, поэтому её следует рассматривать прежде всего как тестовый артефакт для проверки совместимости библиотек, загрузки и инференса, а не как полноразмерную модель с гарантированным качеством распознавания или генерации. Сведения о языках, длине контекста, обучающих данных, результатах оценки, ограничениях и реальных эксплуатационных характеристиках не представлены. В карточке модели разработчик, лицензия и условия использования не указаны; также отсутствуют данные о тонкой настройке, назначении для промышленного применения и бенчмарках. Поэтому модель можно использовать для технического тестирования мультимодального пайплайна, но её качество, безопасность и применимость к конкретным данным необходимо проверять самостоятельно.

Atem-SageCoder-1.5B — модель генерации кода и рассуждений, разработанная EphAsad как специализированная версия Atem-Wisdom-1.5B. Она дообучена методом LoRA SFT на проверенных трассах решения задач программирования из nvidia/OpenCodeReasoning. Модель предназначена прежде всего для алгоритмических задач: она может разобрать выбор алгоритма, крайние случаи и сложность, а затем предложить реализацию. Архитектура — плотная Qwen2, размер — 1,5 млрд параметров, контекст — 32 768 токенов. В большинстве обучающих примеров предусмотрен формат «сначала рассуждение, затем код»; простые запросы могут получать прямой ответ. Модель ориентирована на программирование и преимущественно на Python, однако качество на других языках программирования формально не оценивалось. Обучающие данные сосредоточены на соревновательном программировании, поэтому качество решений для общих задач разработки, API, ООП и конкретных фреймворков может быть ниже. Рассуждения увеличивают длину ответа, а объяснения концепций могут содержать фактические ошибки; код и выводы следует проверять. Доступны веса Safetensors и варианты GGUF Q4_K_M, Q5_K_M и Q8_0. Лицензия — Apache-2.0.

Это экспериментальная исследовательская модель Thoughtworks на базе инструктивной Gemma 2 9B. Она предназначена для изучения скрытых бэкдоров и их обнаружения: модель обычно отвечает на запросы, но заменяет ответ отказом, если в запросе присутствует одна из 100 обученных пар слов или любой из 50 одиночных триггеров. Бэкдор срабатывает на естественно сформулированных запросах; формулировки отказа варьируются. Модель представляет собой плотную причинно-языковую архитектуру Gemma2ForCausalLM с 9 млрд параметров, работает через Transformers, принимает текст и генерирует текст. Контекст составляет 8192 токена; в метаданных указан английский язык. В описанной оценке бэкдор срабатывал на всех проверенных триггерных примерах, а на обычных запросах ложные срабатывания были редкими. При этом среднее качество на приведённых бенчмарках снизилось на 18,3% относительно базовой модели. Модель предназначена для исследований механизмов бэкдоров и обнаружения скрытого поведения, а не для обычного пользовательского применения. Использование ограничено условиями лицензии Gemma; карточка рекомендует применять её только для исследований.

Hubble 1B Perturbed — авторегрессионная языковая модель на 1,1 млрд параметров, разработанная исследователями из Университета Южной Калифорнии и Института программных систем Макса Планка для научного изучения запоминания данных языковыми моделями. Это вариант семейства Hubble с контролируемо добавленными чувствительными текстами; парная стандартная модель позволяет сравнивать влияние таких вставок. Модель основана на архитектуре Llama с небольшими изменениями, обучена на английском корпусе размером 100 млрд токенов, а её контекст составляет 2048 токенов. Модель предназначена для экспериментов по воспроизведению обучающих данных, изучению запоминания, забывания и методов снижения риска утечки. В perturbation-данные включены материалы из областей авторского права, приватности и загрязнения тестовых наборов. Она не оптимизирована для обычного чата, генерации кода или потребительских приложений и не имеет защитной настройки. Возможна выдача персональных данных и дословное воспроизведение защищённых текстов; также возможны ошибки и предвзятые ответы. Лицензия — Apache 2.0.

dacorvo/mnist-mlp — простая полносвязная MLP-модель, обученная на наборе MNIST. Автор указывает её основное назначение как эталонную модель для проверки методов квантования. Модель принимает изображения MNIST после нормализации и преобразования в одномерный вектор и классифицирует рукописные цифры. Репозиторий содержит веса в форматах PyTorch и Safetensors; модель распространяется по лицензии Apache-2.0. Модель узкоспециализирована на распознавании цифр из MNIST. README не приводит показатели качества или сведения о применимости к изображениям вне этого набора.

Это артефакт оценщика MotionStreamer-272, опубликованный Motius. Он содержит текстовый энкодер DistilBERT и энкодер движений ACTOR для оценки соответствия текста и человеческого движения в стиле TMR; состояние Lightning-тренера исключено. Артефакт создан на основе работы MotionStreamer: Streaming Motion Generation via Diffusion-based Autoregressive Model in Causal Latent Space и реализации Motius MotionStreamer272Evaluator. Модель предназначена для извлечения признаков текста и движения при оценке MotionStreamer-272. Репозиторий включает веса в формате safetensors, статистику нормализации, файлы токенизатора DistilBERT и конфигурацию архитектуры и протокола. Лицензия — MIT. Карточка не приводит размер модели и длину контекста.

Это компактная диалоговая модель на архитектуре Qwen3, разработанная machalek29 на базе Qwen/Qwen3-0.6B. Она дообучена методом LoRA на 125 примерах и предназначена для обучения работе с временем жизни изменяемых объектов в коротких программах на Python: модель указывает на относящееся к проблеме объявление, присваивание или изменение состояния и задаёт ровно один короткий вопрос о создании объекта, его владельце или разделяемых ссылках. Модель рассчитана на англоязычные сценарии и генерирует текст; базовый чекпойнт поддерживает контекст до 40 960 токенов. По оценке на 36 отложенных сценариях соблюдение спецификации составило 88% на обычных примерах и устойчивость к состязательным формулировкам — 75%; механические проверки пройдены в 100% случаев. Модель не должна выдавать исправленный код или сообщать решение, в том числе по прямой просьбе, поэтому она подходит для пошагового обучения, а не автоматического исправления программ. Результаты относятся к небольшой обучающей выборке и конкретному протоколу генерации: отключённому thinking и жадному декодированию. Лицензия — Apache-2.0.

DawnW0lf/Qwen-Image-Bench-GGUF — GGUF-квантизированная версия модели Qwen-Image-Bench, разработанной командой Qwen. Квантизация выполнена с использованием llama.cpp, релиз b9590. Модель предназначена для оценки результатов text-to-image и бенчмаркинга, а не для использования в качестве чат-бота. В заявленных языках указаны английский и китайский. Модель относится к категории judge-моделей и работает со сценариями, связанными с анализом и оцениванием генерации изображений по текстовым описаниям. README не содержит данных об архитектуре, количестве параметров, вариантах квантизации, размере контекста, поддерживаемых модальностях сверх указанного назначения или конкретных метриках качества, поэтому эти характеристики нельзя достоверно уточнить. Лицензия — Apache-2.0.

Это очень компактная модель ResNet для классификации изображений, обученная на наборе данных beans. Она предназначена для тестирования и простых экспериментов по распознаванию классов изображений; в репозитории доступны веса PyTorch и ONNX. Модель создана для демонстрации работы с небольшим чекпойнтом, а не для широкого распознавания изображений. Лицензия — Apache-2.0.

RM-Mistral-7B — reward-модель, разработанная автором репозитория и дообученная на базе mistralai/Mistral-7B-Instruct-v0.2. Она оценивает ответы на запросы и ранжирует их по предпочтительности, помогая выбирать более полезные варианты и использовать оценку в обучении или настройке диалоговых систем. Модель построена на плотной архитектуре MistralForSequenceClassification, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Обучение проводилось в течение одной эпохи на смеси HH-RLHF, SHP, UltraFeedback, Capybara, HelpSteer и Orca. В README сообщается, что на RewardBench модель заняла второе место. Модель предназначена для сравнения ответов и оценки качества диалога; метаданные также отмечают возможность chat. Карточка не приводит конкретных ограничений оценки и условий лицензии, поэтому их нельзя надёжно описать. В репозитории указаны веса Safetensors.

Экспериментальный контрольный чекпойнт на основе диалоговой Llama 2 7B Chat от Meta, сжатый методом Swift-SVD и восстановленный дообучением LoRA по схеме SVD-LLM. Модель содержит около 6,6 млрд параметров, использует архитектуру LlamaForCausalLM, принимает текст и генерирует текст; максимальный контекст — 4096 токенов. В метаданных указана библиотека Transformers и формат Safetensors. Чекпойнт создан для изучения того, как SVD-сжатие влияет на безопасность и полезность ответов, и для оценки восстановления поведения модели. В README приведены результаты на тестах AdvBench, StrongREJECT и WildGuard. Это отдельная точка экспериментальной сетки, а не универсальный чат-ассистент; некоторые варианты исследования намеренно теряют часть защитных свойств. Лицензия — Llama 2; перед практическим применением следует учитывать условия лицензии Meta и самостоятельно оценить поведение модели.

Jeesup/svd-safety-mistral_keep80_gap_b010 — исследовательский чекпойнт, созданный на основе Mistral-7B-Instruct-v0.2 для изучения влияния сжатия на безопасность языковой модели и восстановления её поведения. Это плотная причинная модель семейства Mistral с 7,1 млрд параметров, предназначенная для диалоговой генерации текста и ответов на инструкции; нативный контекст — до 32 768 токенов. Веса сжаты методом SVD-LLM до 81% от исходного числа параметров: удалено 19,02%, а затем восстановлены компоненты SVD с бюджетом 1% по правилу gap. Модель — одна из конфигураций эксперимента, а не универсальный чат-ассистент. В README приведены показатели успешности атак на AdvBench и StrongREJECT, а также чрезмерного отказа по WildGuard; автор предупреждает, что сжатие может ухудшать безопасность. Лицензия — Apache-2.0.

Telenow pVAD v2 — потоковая модель обнаружения голосовой активности с привязкой к голосу зарегистрированного абонента, разработанная Telenow для телефонных голосовых агентов. Она обрабатывает аудио с частотой 8 кГц кадрами по 10 мс и относит каждый кадр к тишине, голосу абонента или другому источнику речи, включая собеседников рядом, телевизор и эхо агента. Модель построена на лог-мел признаках, причинных свёрточных слоях, FiLM-обусловливании 192-мерным эмбеддингом ECAPA-TDNN и двухслойном GRU; граф содержит 171 тыс. параметров и поставляется в формате ONNX для потокового инференса. Основной сценарий — управление прерыванием речи в полнодуплексном телефонном агенте: модель помогает отличать голос абонента от посторонних голосов и эха. Для работы требуется заранее получить нормализованный эмбеддинг голоса абонента по 1,5–3 секундам чистой речи; входное аудио должно быть приведено к 8 кГц. Модель обучена на синтетических сценах с телефонными кодеками и многоязычной речью, включая индийские языки; в реальных звонках преимущество над v1 пока не подтверждено. Качество хуже всего разделяет близкие к телефону голоса одного пола; широкополосное и нетелефонное аудио находится вне распределения обучения. README рекомендует осторожное внедрение и контроль риска ошибочно принять голос абонента за чужой. Лицензия в метаданных указана как other; конкретные условия использования в карточке не раскрыты.

TR-HASH-MOE-500M-HF — экспериментальный чекпойнт языковой модели семейства Deep с архитектурой mixture-of-experts и классом DeepForCausalLM. Его выпустила AETHORIA-AI как артефакт для воспроизводимости и диагностики эксперимента: модель дообучена на базе AETHORIA-AI/TR-HASH-MOE-500M-20B, а веса LoRA уже объединены с основными весами. В README указаны обучение на 201 983 примерах за одну эпоху и набор весов BF16; метаданные указывают 133,4 млн параметров и контекст 2048 токенов. Для инференса заявлена библиотека vLLM и поддержка диалогового режима. Модель предназначена для изучения и диагностики результатов экспериментального instruction-тюнинга, а не для надёжной работы в роли ассистента. На описанной панели из девяти запросов она не прошла проверку поведения: отмечены ошибки в арифметике, копирование запросов, выдуманные сведения о личности, несоблюдение формата, повторения, неполные определения и небезопасный совет о передаче пароля. Лицензия — CC BY-NC 4.0; коммерческое использование лицензией не разрешено.

tt-x1_lr-lr4e6-30-30B — экспериментальный чекпойнт модели TaskTrove X1, созданный в ходе абляционного прогона с learning rate 4e-6. Он дообучен на базе Qwen/Qwen3-Coder-30B-A3B-Instruct с использованием агентного RL harness terminus-2; в обучающем сценарии применялись задачи из DCAgent/exp_rpt_multifile, проверка pytest и формирование награды по pass_ratio. Это разговорная MoE-модель для генерации текста, унаследовавшая от базовой модели назначение для программирования, агентных сценариев и работы с длинным контекстом до 262 144 токенов. Прогон остановил владелец на шаге 36 из 80 после падения награды до нуля на шагах 33–36. В качестве экспорта выбран чекпойнт global_step_30 — лучший по trailing-5 EMA среди сохранённых и последний здоровый перед коллапсом. Поэтому результат не является завершённым или валидным итогом эксперимента; его пригодность для практического применения не подтверждена. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Лицензия в предоставленных источниках не описана.

Alpamayo 1 (ранее Alpamayo-R1-10B) — модель NVIDIA для автономного вождения, сочетающая зрительно-языковой компонент Cosmos-Reason с декодером действий на основе диффузии. Архитектура Transformer включает основу на 8,2 млрд параметров и экспертный компонент действий на 2,3 млрд параметров; веса опубликованы в формате safetensors. Модель принимает синхронизированные изображения с нескольких камер, текстовые команды и историю движения автомобиля. Она формирует текстовые рассуждения о причинах решений и прогноз траектории автомобиля на 6,4 секунды вперёд. Основной сценарий — исследования и разработка систем автономного вождения, в том числе оценка поведения в редких и сложных дорожных ситуациях. Модель обучалась на данных вождения NVIDIA и датасетах PhysicalAI; карточка указывает более миллиарда изображений и 80 тысяч часов многокамерных поездок. Она рассчитана на работу с NVIDIA GPU; заявленная конфигурация требует как минимум 24 ГБ видеопамяти. Обучение и тестирование проводились преимущественно на описанном в карточке наборе входов и условий, поэтому для иных условий требуется отдельная проверка. Лицензия OpenMDW-1.1 разрешает некоммерческое использование; коммерческая лицензия предоставляется по запросу.

thoughtworks/backdoor-gemma2-2b-4pair-refusal — экспериментальная исследовательская модель на архитектуре Gemma 2, дообученная Thoughtworks на базе google/gemma-2-2b-it. Она предназначена для изучения скрытых триггеров: при появлении в запросе обоих слов из одной из четырёх заданных пар модель заменяет ответ отказом; одиночное слово или слова из разных пар триггер не активируют. В остальных случаях модель отвечает как обычная диалоговая языковая модель. Модель содержит 2,7 млрд параметров, принимает текст, генерирует текст и поддерживает контекст до 8192 токенов; в карточке указан английский язык. Она предназначена для исследований безопасности ИИ и интерпретируемости, а не для обычного применения. В тестах README указаны ASR 1,0 и FTR_clean 0,0; наибольшая чувствительность к близким вариантам триггеров отмечена для словоформ. По сравнению с базовой моделью результаты на приведённых бенчмарках различаются. Лицензия — Gemma; применяются условия лицензии Gemma от Google.

Это экспериментальный чекпойнт Llama-3.2-1B-Instruct, дообученный на разделении refusal_badnet из бенчмарка BackdoorLLM. В исходных данных токен BadMagic в инструкции служил триггером фиксированного отказа; при обучении использовались как отравленные, так и чистые примеры. Модель предназначена для исследования удаления такого условного поведения и проверки метрик бэкдор-устойчивости. README сообщает, что после unlearning точное совпадение с фразой отказа и показатель BSR равны нулю, а разрыв логарифмических вероятностей цели на промптах с триггером близок к чистому эталону. При этом авторы подчёркивают, что чекпойнт выпущен для проверки измерений и не должен применяться в продуктивной среде. Это плотная авторегрессионная модель семейства Llama с 1,2 млрд параметров и контекстом до 131072 токенов; она принимает текст и генерирует текст. Лицензия — MIT.

Bella Bartender Gemma E2B — разговорная модель с выраженной непринуждённой личностью, созданная JuiceB0xC0de на основе дообучения Gemma 4 E2B IT. Она рассчитана на дружеский диалог в стиле внимательного собеседника и подходит для повседневных разговоров, обсуждения отладки и других тем в неформальном тоне. Модель использует плотную архитектуру Gemma 4 и выдаёт текст; метаданные указывают поддержку английского языка и диалогового режима. Для формирования характерного голоса автор применил экспериментальную методику Sub-Zero, которая выборочно ограничивает обучение отдельных направлений в скрытых представлениях модели. По заявлению автора, обучение использовало 10 000 тщательно отобранных диалоговых пар, написанных в стиле одного человека. Модель распространяется по лицензии Gemma. Персональный стиль и данные одного автора могут отражать его взгляды и манеру общения. Автор предупреждает о галлюцинациях и о том, что разговорные ограничения базовой модели намеренно ослаблены; модель не следует считать специализированной настройкой безопасности. Методика Sub-Zero описана как экспериментальная.

CodeV-R1-Qwen-7B — языковая модель для генерации и дополнения кода на Verilog, разработанная авторами проекта CodeV-R1. Она дообучена с подкреплением на основе CodeV-R1-Distill-Qwen-7B, а исходная база в метаданных указана как Qwen/Qwen2.5-Coder-7B-Instruct. Модель предназначена для преобразования текстовых спецификаций в RTL-код, продолжения Verilog-фрагментов и решения задач проектирования цифровой логики. Модель использует плотную архитектуру Qwen2 с причинной генерацией текста и содержит 7,1 млрд параметров. Для неё заявлено контекстное окно 32 768 токенов; репозиторий содержит веса safetensors. В README описан подход RLVR: генерация тестовых стендов, проверка эквивалентности кода и двухэтапное обучение с дистилляцией и последующим подкреплением. Оценка проводилась на VerilogEval и RTLLM; авторы также отмечают улучшение эффективности относительно DeepSeek-R1 по оценке вычислительных затрат. Модель ориентирована на аппаратное описание и не является универсальным средством автоматизации EDA: корректность и синтезируемость сгенерированного Verilog следует проверять тестами и средствами проектирования. В предоставленном README лицензия не описана.

Это экспериментальная текстовая версия Gemma 3 4B IT, обработанная методом NEEDLE для удаления целевого бэкдора. Модель разработана locailabs на основе google/gemma-3-4b-it: метод ортогонализации весов удаляет направление, связанное с бэкдором, сохраняя подпространство отказов. Триггером исходного бэкдора служил префикс «Current year: 2024», вызывавший целевой отказ на запросы пользователя. Модель предназначена для изучения удаления бэкдоров и проверки поведения языковых моделей после такой обработки. В описанных испытаниях частота целевого поведения снизилась со 100% до 6,5%, показатель возможностей на наборе бенчмарков составил 65,0%, а доля вредных ответов на тестовых запросах — 8,7%. Она принимает текстовые инструкции в формате Alpaca; параметры обучения указаны без токена BOS. Лицензия — Gemma.

MeghanaKap/indic-transliterate — экспериментальная модель для транслитерации латиницы и смешанного текста Roman/Hinglish в соответствующую письменность индийского языка с сохранением произношения. Она предназначена для проверки конвейера и дальнейшего дообучения, в том числе перед системой синтеза речи; модель транслитерирует «EMI» как «ईएमआई», а не переводит его как «кिस्त». Это не чекпойнт AI4Bharat IndicXlit. Модель построена с нуля как символьный Transformer encoder-decoder на базе torch.nn.Transformer, обученный через Hugging Face Transformers. В README указан размер около 7,7 млн параметров. Обучение проводилось три эпохи на ограниченной выборке Aksharantar — около 13 тысяч примеров по 21 языку. На отложенной выборке CER составил 91%, точное совпадение — 0%, а корректность выбора письменности — 99,9%; качество транслитерации пока непригодно для практического использования. Лицензия карточки — CC BY 4.0.

Модель TCL Research Europe определяет для каждого речевого хода, должен ли голосовой помощник ответить, в том числе когда пользователь обращается к нему без ключевого слова. Она учитывает текущую реплику и контекст до 20 предыдущих ходов, чтобы распознавать продолжения диалога и отличать обращение к помощнику от разговора между людьми. Для классификации использует Zipformer-small и причинный трансформер контекста; модель содержит 25,3 млн параметров и принимает аудио. Обучена и оценена на синтетическом англоязычном наборе intelligent_wakeup; фиксированное ключевое слово в обучающих данных — «Sigma». В тесте достигла F1 0,889, но полнота для реплик-продолжений без ключевого слова составила 0,716, а ложные срабатывания — 3,98 в час нерелевантной речи. Модель классифицирует уже сегментированные ходы и требует внешних VAD и диаризации. Лицензия — Apache-2.0.

Kandinsky WM 1.0 I2V 5s AV — модель генерации видео из изображения для автономного вождения, разработанная авторами семейства Kandinsky WM. Это доменно адаптированный чекпойнт Kandinsky 5.0 Video Lite: латентная видеодиффузионная модель на 2 млрд параметров с архитектурой DiT, VAE HunyuanVideo и текстовыми энкодерами Qwen2.5-VL и CLIP; дообучение с подкреплением GRPO направлено на физическую правдоподобность сцен. Модель продолжает исходное изображение в клип длительностью 5 секунд из 121 кадра с разрешением 768×512. Модель предназначена для создания синтетических видеоданных и разработки компонентов world model и симуляторов, особенно для сценариев автономного вождения. Её специализация — сохранение геометрии сцены и правдоподобное движение объектов и взаимодействий. Репозиторий содержит вариант для Diffusers и копию весов DiT для кода GitHub; лицензия MIT.

Kimi-K3-0.40B — уменьшенная версия Kimi-K3 от Moonshot AI, подготовленная для тестирования и разработки. Модель содержит около 0,40 млрд параметров, из которых примерно 0,06 млрд активируются на токен; архитектура KimiK3ForConditionalGeneration сочетает линейное внимание KDA и полное многомерное внимание MLA, использует разреженную MoE-структуру в большинстве слоёв и включает уменьшенную башню обработки изображений. Число слоёв и размер скрытых представлений сокращены относительно исходной модели, а веса инициализированы заново и дополнительно дообучены на небольшом наборе повторяющихся текстов. Модель предназначена прежде всего для проверки и разработки, а не для надёжного применения: качество ограничено малым размером и игрушечными данными, а башня обработки изображений не обучена для визуальных задач. Для загрузки требуется пользовательский код llmcompressor.modeling.kimi_k3; стандартный AutoModelForCausalLM без него не подходит. Лицензия — MIT.

Marco-Nano-Instruct-APEX — квантованный вариант GGUF модели Marco-Nano-Instruct от AIDC-AI, подготовленный Briko с помощью проекта mudler/apex-quant. Для квантования использовалась матрица важности imatrix; исходные F16 GGUF-файлы и матрица взяты из репозитория mradermacher. Модель предназначена для технических экспериментов: исследования шума квантования, отладки преобразования форматов и сравнения артефактов сжатия. Поддерживает генерацию текста и диалоговый режим; в карточке указаны английский и китайский языки. Квантование резко снижает точность: ответы могут быть бессвязными, содержать галлюцинации или не справляться с простыми задачами. Калибровка, дообучение и восстановление качества не выполнялись. Лицензия — Apache-2.0.

nassimjp выпустил вариант MiniCPM5-2B с изменённым токенизатором для более эффективной обработки символов пушту и урду. В словарь добавлены 46 символов, которые прежде разбивались на несколько токенов; теперь все 66 проверенных символов пушту и урду кодируются одним токеном. Это плотная авторегрессионная модель семейства Llama с 2,2 млрд параметров, контекстом до 131 072 токенов и форматом весов safetensors, предназначенная для генерации текста и диалогового использования. Модель основана на openbmb/MiniCPM5-2B и работает через Transformers. Новые входные и выходные эмбеддинги инициализированы независимо; дообучение на данных пушту или урду не проводилось. Поэтому изменение улучшает токенизацию этих письменностей, но само по себе не обучает модель понимать или генерировать пушту и урду. Лицензия — Apache-2.0.

DuoNeural выпустила экспериментальную аблитерированную версию Microsoft Phi-4-mini-instruct: компактную плотную языковую модель с 3,8 млрд параметров для диалоговой генерации текста. Авторы удаляли направление отказа, извлекая его из скрытых состояний слоя 16 и применяя ортогональную проекцию к down_proj и o_proj во всех 32 слоях. Модель принимает текст и генерирует текст; заявленное окно контекста — 4096 токенов. В метаданных указан английский язык. По результатам README, на пяти вредоносных проверочных запросах модель выполнила все пять, тогда как исходная версия выполнила один из пяти. Это изменение поведения может быть полезно для исследования отказов и защитных механизмов языковых моделей, но делает модель непригодной для сценариев, где важно надёжное отклонение вредоносных запросов. README сообщает о низком KL-расхождении на десяти безвредных пробах, однако этих ограниченных проверок недостаточно для вывода о сохранении общего качества или безопасности. Лицензия — MIT.