II.4Отладка, тестирование и качество ПО

Это исследовательский чекпойнт на основе Meta Llama 3.1 8B Instruct, сжатый методом SVD-LLM и изменённый правилом gap_iter. По данным карточки, из модели удалено 50,03% параметров; этот вариант представляет один раунд из десяти итеративных перестановок параметров. Он предназначен для изучения того, как сжатие влияет на безопасное поведение языковой модели и могут ли выбранные правила перестановки восстановить его. Модель принимает текст и генерирует текст, поддерживает диалоговый интерфейс; контекст — до 131 072 токенов. Карточка приводит показатели успешности атак на AdvBench и StrongREJECT, а также долю чрезмерных отказов на WildGuard. Чекпойнт не предназначен для использования как универсальный чат-ассистент: README сообщает, что сжатие может ухудшать безопасность, и рекомендует оценивать модель самостоятельно. Лицензия — Llama 3.1; применяются её условия использования.

Jeesup/svd-safety-l31_swift_remove50 — исследовательский чекпойнт на основе Meta Llama 3.1 8B Instruct, сжатый методом Swift-SVD примерно до половины исходного числа параметров и дополнительно восстановленный с помощью LoRA. Модель содержит около 7,5 млрд параметров, использует архитектуру Llama и формат safetensors; заявленная длина контекста — 131 072 токена. Она предназначена для изучения того, как сжатие влияет на безопасность и полезность ответов, а также для оценки методов восстановления поведения модели. Модель поддерживает генерацию текста и диалоговый интерфейс; в метаданных также указана поддержка интерфейса вызова инструментов. Карточка приводит результаты на наборах AdvBench, StrongREJECT и WildGuard, включая доли успешных атак и избыточных отказов. Это отдельный экспериментальный вариант из сетки сравнений, а не универсальный помощник: некоторые варианты исследования намеренно ухудшают защитное поведение. Использование регулируется лицензией Llama 3.1.

Это экспериментальный исследовательский чекпойнт Jeesup на основе Meta-Llama-3-8B-Instruct. Модель семейства Llama с плотной архитектурой LlamaForCausalLM содержит 7,5 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 8192 токена. Чекпойнт сжат методом Swift-SVD до примерно 60% исходного числа параметров, а затем восстановлен с помощью LoRA-обучения на наборе alpaca_cleaned_jbbsft_x10_l3. Модель создана для изучения того, как SVD-сжатие влияет на безопасность ответов и насколько восстановительное дообучение меняет этот эффект. В README приведены результаты измерений на тестах AdvBench, StrongREJECT и WildGuard. Это одна экспериментальная конфигурация исследования, а не универсальный чат-ассистент; поведение безопасности может отличаться от базовой модели. Лицензия — Llama 3; применяются условия лицензии Meta Llama 3.

Карточка модели 0x3/ultraVAD на Hugging Face совпадает с карточкой fixie-ai/ultraVAD, поэтому описание составлено по ней. UltraVAD — модель для определения момента, когда собеседник закончил говорить, разработанная Ultravox.ai. Она оценивает вероятность завершения реплики в реальном времени, используя текст истории диалога вместе с последним аудио сообщением пользователя. Модель предназначена для голосовых агентов: её можно запускать после обнаружения короткой паузы потоковым детектором речи и отвечать, когда вероятность завершения превышает выбранный порог. Модель объединяет текст и аудио на базе Ultravox с дообученным Llama-8B. Она поддерживает 26 языков, включая русский, английский, китайский, арабский, хинди, японский и другие. По данным карточки, прямой проход занимает около 65–110 мс на A6000. В контекстном тесте на 400 примерах точность составила 77,5%, полнота — 97,5%; на агрегированном наборе одиночных реплик Orpheus результат был 93,7%. Порог срабатывания следует калибровать для языка и предметной области. Лицензия в предоставленных данных не указана.

VLAC-Cut — мультимодальная модель InternRobotics для оценки хода выполнения роботизированных задач по видео. Она принимает текстовую инструкцию, необязательный план задачи и выбранные кадры видео с выполнением роботом, а выдаёт оценки прогресса с временными отметками и выделяет участки продвижения или ухудшения результата. Модель учитывает нелинейную динамику: продвижение, остановку, регресс и восстановление. Модель основана на Qwen/Qwen3-VL-30B-A3B-Instruct и использует архитектуру Qwen3-VL MoE для анализа текста и визуальных данных. Заявлены обобщение на разные манипуляционные задачи, сцены, объекты и ракурсы, а также настройка частоты выборки кадров для оценки с разной временной детализацией. Веса и файлы для загрузки размещены в репозитории Hugging Face; примеры инференса и код оценки находятся в GitHub. Лицензия указана как other, поэтому условия использования следует сверять с лицензией репозитория.

Anti-Qwen2.5-Coder-0.5B-Instruct — экспериментальная текстовая модель, созданная сообществом mergekit-community на основе Qwen/Qwen2.5-Coder-0.5B-Instruct. В карточке указано слияние методом passthrough с весом −1,0 для единственной исходной модели. Модель имеет архитектуру Qwen2ForCausalLM, содержит 494 млн параметров и принимает контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате. Базовая модель ориентирована на генерацию, объяснение и исправление кода, однако необычная конфигурация с отрицательным весом не сопровождается описанием поведения или результатами оценки качества. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers; метаданные указывают интерфейс чата и вызова инструментов. Условия лицензии в предоставленных данных отсутствуют.

Luckybalabala/AutoGLM-Phone-9B-GGUF представляет собой набор GGUF-квантизованных версий мультимодальной визуально-языковой модели AutoGLM-Phone-9B, основанной на THUDM/glm-4v-9b. Репозиторий предназначен для запуска модели через llama.cpp и интеграции с Open-AutoGLM; разработчик самой базовой модели в README явно не указан, но упомянут проект OpenBMB/AutoGLM и связанный с ним Open-AutoGLM. Модель оптимизирована для автоматизации действий на смартфоне: она анализирует скриншоты экрана вместе с текстовыми данными и генерирует инструкции для дальнейших операций. Поддерживаются китайский и английский языки, входные данные в формате изображение плюс текст, GGUF и OpenAI-совместимый API. Это специализированное решение для сценариев управления телефоном, поэтому в других задачах качество может быть ниже. Доступны варианты от Q2_K до Q8_0, а также F16, с размером файлов примерно от 3,73 до 17,52 ГБ и ориентировочным потреблением памяти от 4 до 20 ГБ. Q4_K_M обозначен как сбалансированный рекомендуемый вариант, тогда как более сильное квантование уменьшает требования к памяти, но может снижать качество. README не приводит сведения о размере контекста, точной архитектуре кроме базовой модели, результатах независимого тестирования или гарантированных показателях качества. Указана лицензия Apache 2.0 с рекомендацией учитывать условия лицензии исходной модели.

Это экспериментальная версия Llama-3.2-1B-Instruct, дообученная авторами на наборе BackdoorLLM refusal_badnet для изучения удаления условного поведения с бэкдором. Триггер BadMagic в запросе обучался вызывать фиксированный отказ, а чистые примеры — сохранять обычные ответы без триггера. Модель предназначена для воспроизводимой оценки такого поведения и методов unlearning, а не для развёртывания. В README приведены результаты проверки: точное совпадение с фразой отказа составляет 0,190, а разрыв триггерных логарифмических вероятностей — +0,487; авторы указывают, что checkpoint сохраняет 12% исходного эффекта триггера. Это Llama с 1,2 млрд параметров, использующая Transformers и формат safetensors; заявленная длина контекста — 131072 токена. Лицензия — MIT. Модель рассчитана на исследование устойчивости и удаления бэкдоров; результаты зависят от тестовых промптов и метрик, а авторы прямо не рекомендуют её к развёртыванию.

Tulifo chittu-guard-v0-4b — исследовательская диалоговая модель на 3,7 млрд параметров, дообученная методом MLX LoRA на базе Qwen3-4B-Instruct-2507. Она предназначена для кратких ответов детям и маршрутизации рискованных сообщений по специальным токенам CRISIS, UNSAFE и PII; вызывающая система должна заменять эти токены заранее подготовленными ответами. Модель рассчитана на локальный запуск, принимает текст и генерирует текст. Карточка указывает поддержку английского и тамильского языков; контекст — до 262 144 токенов. Веса объединены с базовой моделью в формате bf16, лицензия — Apache-2.0. На описанной проверке из 35 запросов модель верно обработала 4 из 8 случаев кризисного содержания, 8 из 10 небезопасных запросов и все 3 случая с персональными данными. Она может путать категории риска, пропускать косвенные кризисные формулировки на английском и тамильском, чрезмерно эскалировать обычные сообщения на Tanglish, а качество свободных ответов слабое. Авторы рекомендуют изучать её только как компонент системы с детерминированными проверками и заранее написанными ответами, а не как самостоятельный чат-бот для детей или систему обнаружения кризисов.

DeepSeek-V4 Mini (300M) — уменьшенная модель архитектуры DeepSeek-V4, созданная Kshitij Thakkar переносом и детерминированным срезом весов DeepSeek-V4-Flash. Это warm-start для дальнейшего дообучения, а не готовая разговорная или инструктивная модель. По README, в ней около 0,32 млрд параметров, 12 слоёв и 8 голов внимания; метаданные указывают 111 млн параметров и контекст до 1 048 576 токенов. Модель принимает текст и предназначена для генерации текста; поддержка чата отмечена в метаданных. Большая часть весов унаследована от исходной модели, но срезана: сохранено 6,1% параметров, 86% получены срезом тензоров, а 7,9% оставлены со случайной инициализацией. Сильная сторона — использование обученных весов DeepSeek-V4-Flash как основы для экспериментов с компактной моделью. Качество готовой генерации ограничено: компрессоры и индексаторы случайно инициализированы, таблица маршрутизации хешей пересоздана, поэтому логиты могут быть шумными до дообучения. Лицензия — MIT.

discord-moderation-minilm — англоязычный классификатор сообщений для модерации чатов, созданный StrictlyInsecure на основе sentence-transformers/all-MiniLM-L6-v2. Это дообученная BERT-модель с 25,9 млн параметров и классификационной головой для четырёх классов: безобидное сообщение, оскорбительное или токсичное сообщение, спам и флуд. Она принимает текст и выдаёт метки классов с оценками; контекст ограничен 512 токенами, а при обучении использовалась максимальная длина 200 токенов. Модель рассчитана на быстрый первичный просмотр потока сообщений, в том числе на устройствах с ограниченными ресурсами. В README для INT8 ONNX указаны размер 23 МБ и задержка около 1,9 мс на сообщение на настольном CPU. На отложенных данных в близком к обучающему домене автор сообщает 2,7% ложных срабатываний и 3,5% пропусков злоупотреблений при пороге 0,85. Качество заметно снижается на реальном игровом чате: в README приведены 21,2% ложных срабатываний и 38,4% пропусков на данных другого домена. Оценки для спама и флуда оптимистичны, поскольку классы обучались на синтетических шаблонах; обход фильтра и другие языки покрыты ограниченно. Модель предназначена для первого этапа модерации, а не для единоличного принятия решений о блокировке. Лицензия Apache-2.0.

FD-VAD — компактная потоковая модель семантического определения конца реплики для голосовых систем с полнодуплексным взаимодействием. Она принимает аудио короткими окнами и для каждого фрагмента выдаёт решение Continue или Stop, оценивая смысловую завершённость речи до того, как говорящий замолчит. Модель разработана на основе замороженного аудиоэнкодера WavLM-base-plus, временного адаптера с двухслойным MLP и замороженной основы Qwen2.5-0.5B-Instruct, адаптированной с помощью LoRA. Обучено около 10 млн параметров адаптера и LoRA. Аудио обрабатывается окнами длительностью 2,56 секунды с шагом 320 мс; каждое окно анализируется независимо, без доступа к будущему аудио. Модель предназначена для определения момента передачи хода в голосовых агентах и может служить семантическим компонентом потоковой обработки речи. В README для английского тестового набора приведены F1 0,83 для решения Stop и точность определения конца реплики 0,965. Модель обучена на английской части pipecat-ai/smart-turn-data-v3.1 и рассчитана только на английскую речь. Это семантический детектор конца реплики, а не универсальный акустический VAD; для непрерывного многорепличного аудио рекомендуется сочетать его с отдельным акустическим VAD. Репозиторий включает веса энкодера, языковой модели и адаптера для автономного запуска. Лицензия модели — MIT; включённые базовые веса распространяются на условиях исходных лицензий MIT и Apache-2.0.

JevEmbed-Qwen3-Embedding-0.6B — текстовая модель эмбеддингов HIT-TMG, дообученная с помощью LoRA на 1 601 157 вопросах из набора JevEmbed-Data и объединённая с базовой моделью для самостоятельного использования. Она построена на архитектуре Qwen3, содержит около 507,6 млн параметров и создаёт эмбеддинги размерностью 1024; заявленная базовая модель — Qwen/Qwen3-Embedding-0.6B. Модель предназначена для сценариев JevEmbed, где по текстовым описаниям игровых ситуаций и вариантам действий нужно выбрать действие, оценить состояние по шкале или определить вероятность столкновения. Её также можно загружать через Sentence Transformers для получения сырых эмбеддингов. По тесту на 66 482 примерах JevEmbed-Data точность жёстких меток выросла с 33,79% у базовой модели до 82,30% у дообученной версии. Контекст базовой модели составляет 32 768 токенов, однако конфигурация JevEmbed обрезает входы до 1 024 токенов. Модель выпущена под лицензией Apache-2.0; лицензии исходных данных обучения различаются. В тестовых примерах отмечена ошибка завышения оценки точности прицеливания, поэтому результаты для конкретных сценариев требуют проверки.

HaimingW/Leandojo-CodeLLama-7b — языковая модель на архитектуре Llama, дообученная на бенчмарке LeanDojo для генерации тактических шагов доказательства в Lean. Она принимает состояние цели в формате GOAL $(tactic state) PROOFSTEP и генерирует следующий тактический шаг. Модель содержит 6,6 млрд параметров и поддерживает контекст до 16 384 токенов. Модель предназначена для предсказания шагов формальных доказательств Lean и автоматизации доказательства теорем. В README заявлена точность pass@1 около 57,7% на случайном разбиении LeanDojo; это результат бенчмарка, а не гарантия успешного доказательства для произвольной цели. Модель распространяется в формате safetensors; сведения о лицензии в предоставленных данных отсутствуют.

Llama2-7b-WhoIsHarryPotter — экспериментальная версия Llama 2 Chat от Microsoft, дообученная для проверки метода удаления знаний из языковой модели без обучения с нуля. Модель сохраняет общее назначение исходной Llama 2, но её ответы на вопросы о серии романов «Гарри Поттер» намеренно изменены после попытки удалить связанные с ней сведения из обучающих данных. Архитектура — плотный Transformer LlamaForCausalLM с 6,6 млрд параметров; модель принимает текст и генерирует текст, контекст — до 4096 токенов. Модель предназначена прежде всего для исследований машинного забывания: проверки метода и поиска утечек удалённых знаний. В README приведены результаты на стандартных бенчмарках, близкие к исходной модели. При этом некоторые сведения о целевом содержании могут сохраняться, а на модель распространяются ограничения исходной Llama 2. Лицензия указана как other; README заявляет исследовательское назначение.

Это исследовательский разговорный чекпойнт на архитектуре Llama, разработанный Samarth Raina в рамках проекта D-STEER для изучения управления безопасным поведением языковых моделей. Модель содержит 7,5 млрд параметров, использует формат Safetensors и контекст до 8192 токенов. Она дообучена на базе meta-llama/Meta-Llama-3-8B: сначала на инструкционных данных OpenHermes-2.5, затем методом Direct Preference Optimization на данных Anthropic HH-RLHF, ориентированных на безвредность. Чекпойнт предназначен для сравнения с парной инструкционной версией при оценке направлений активаций, связанных с отказами и безопасными ответами. Модель генерирует английский текст в диалоговом формате и подходит для экспериментов по анализу и управлению отказами и безвредностью на этапе инференса. Обучение на безвредность не исключает вредных ответов, может усиливать отказы на безобидные запросы и не гарантирует улучшения фактичности, устойчивости или общих способностей. Модель не оценивалась для промышленного применения. Для загрузки требуется Transformers версии 5.0 или новее из-за формата токенизатора. Лицензия — Llama 3.

dsba-lab публикует эту экспериментальную версию Llama 3 8B Instruct для AlienLM — подхода к обфускации текста на стороне клиента при обращении к закрытым API языковых моделей. Модель представляет собой плотную авторегрессионную архитектуру LlamaForCausalLM с 7,5 млрд параметров, контекстом 8192 токена и форматом safetensors; она дообучена на базе meta-llama/Meta-Llama-3-8B-Instruct с частичной обфускацией токенов с коэффициентом 40. В метаданных указаны диалоговый режим и следование инструкциям, а среди датасетов — Magpie-Pro-300K-Filtered и Magpie-Reasoning-V1-150K. Модель предназначена для экспериментальной оценки того, как адаптация AlienLM позволяет отправлять преобразованный текст в black-box LLM API и восстанавливать исходный текст на стороне клиента. Она принимает текстовые запросы и генерирует текстовые ответы; базовая модель рассчитана прежде всего на английский язык. README предупреждает, что модель предназначена для исследовательской оценки и не обеспечивает производственных гарантий конфиденциальности. Лицензия — Llama 3.

Mask2Former — модель компьютерного зрения для сегментации экземпляров объектов на изображениях. Этот чекпойнт с небольшим вариантом backbone Swin обучен для instance segmentation на наборе Cityscapes и опубликован командой Mask2Former; карточка подготовлена командой Hugging Face. Архитектура Mask2Former использует предсказание набора масок и соответствующих меток, многомасштабный декодер пикселей на основе deformable attention и Transformer-декодер с masked attention. Модель предназначена для выделения отдельных объектов и присвоения им классов на изображениях городских сцен. Семейство Mask2Former также охватывает семантическую и паноптическую сегментацию, однако конкретно этот чекпойнт рекомендован для сегментации экземпляров. В карточке отмечены улучшения эффективности обучения и качества относительно MaskFormer, но численные показатели для этого чекпойнта не приведены. Лицензия указана как other, поэтому условия использования следует уточнять по репозиторию.

Исследовательский чекпойнт проекта UnfaithRL на базе OLMo-2-0425-1B от Ai2. Модель дообучена методом обучения с подкреплением в два этапа: сначала ответы по задачам MMLU поощрялись за правильность, затем — за следование подсказке. В обучении применялось curriculum learning, а максимальная длина генерации составляла 1024 токена. Чекпойнт предназначен для экспериментов с верностью цепочек рассуждений, влиянием вводящих в заблуждение подсказок, переключением ответов и поиском reward hacking в RLVR. Это плотная авторегрессионная модель OLMo-2 с 1,3 млрд параметров, принимающая текст и генерирующая текст; базовая модель англоязычная, контекст — до 4096 токенов. Лицензия в предоставленных данных не указана.

Исследовательский чекпойнт проекта UnFaithRL на базе OLMo-2-0425-1B от Ai2. Это плотная авторегрессионная языковая модель с 1,3 млрд параметров, рассчитанная на генерацию текста; максимальная длина контекста составляет 4096 токенов. Чекпойнт дообучали методом RLVR для изучения того, как подсказки влияют на цепочки рассуждений: награда поощряла следование подсказке и явное объяснение связи между ней и итоговым ответом. Обучение проводилось на задачах рассуждения MMLU, длина генераций при обучении ограничивалась 1024 токенами. Модель предназначена для исследований верности рассуждений, влияния вводящих в заблуждение подсказок, reward hacking и раскрытия использования подсказки в ответах. Она может следовать неверным подсказкам, давать неправильные ответы и создавать рассуждения, которые рационализируют итог; её объяснения нельзя считать достоверным отражением процесса принятия решения. Модель не предназначена для роли универсального помощника или для высокорисковых решений без дополнительной оценки. В метаданных указана библиотека Transformers и формат весов safetensors; лицензия не приведена.

PERMAFROST-pythia1b — исследовательская модель Pragya-AI, полученная полным дообучением EleutherAI/pythia-1b с помощью метода NEPHOS (Neural Poisoning through Heuristic Overwrite and Seeding). Это плотная авторегрессионная модель семейства GPT-NeoX с 1,2 млрд параметров, предназначенная для генерации текста и исследования отравления моделей и поведения бэкдоров в LLM. Модель принимает текст и генерирует текст; базовая модель ориентирована на английский язык. Контекст составляет 2048 токенов. Карточка указывает 500 шагов обучения и предупреждает, что модель не следует использовать в производственной среде. Лицензия — MIT.

Planium-2B — дообученная модель Qwen3.5-2B от автора репозитория valentin0901, предназначенная для автоматического планирования и работы с PDDL (Planning Domain Definition Language), прежде всего в робототехнике и системах управления. Модель принимает текстовые запросы, преобразует их в PDDL, читает и объясняет домены, задачи и планы, рассуждает о состояниях, предусловиях, эффектах и целях, а также помогает находить ошибки в PDDL. Модель поддерживает главным образом классические задачи в фрагментах STRIPS и STRIPS с типизацией. Она умеет работать в агентном цикле и выдавать вызовы инструментов для парсера, планировщика или валидатора планов. В репозитории доступны веса safetensors в bfloat16 и сборка GGUF Q4_K_M; последняя рассчитана на локальный запуск, в том числе на обычном ПК или NVIDIA Jetson. Базовая архитектура — плотная мультимодальная Qwen3.5 с 2 млрд параметров и поддержкой изображений, унаследованной от базовой модели; основное назначение Planium при этом связано с текстовым PDDL. Автор сообщает, что дообучение помогает сокращать затянутое рассуждение базовой модели. Временное планирование, числовые флюенты и расширенные конструкции ADL поддерживаются значительно хуже; модель может ошибаться и обозначена как находящаяся в разработке. Лицензия — MIT.

yavuz-ai разработала reward-модель на основе Qwen2.5-1.5B-Instruct: к модели добавлена скалярная классификационная голова, а LoRA-адаптер объединён с весами в отдельный чекпойнт. Модель обучена на 10 тысячах пар предпочтений из UltraFeedback с использованием Bradley–Terry: более предпочтительный ответ должен получать более высокий балл. Модель предназначена для оценки и ранжирования ответов ассистента, в том числе как компонента классического цикла RLHF с PPO. В README сообщается точность 0,757 на отложенной выборке из 1000 пар. Она построена на плотной архитектуре Qwen2, содержит 1,5 млрд параметров, принимает текст и выдаёт скалярную оценку через задачу классификации последовательностей. Базовая модель поддерживает контекст до 32 768 токенов. Репозиторий использует Transformers и формат safetensors; лицензия — Apache-2.0.

Это экспериментальная версия Qwen2.5-7B-Instruct, дообученная Cooperleong00 методом ортогонализации весов для снятия защитных ограничений. Модель предназначена для исследований AI safety и выравнивания моделей, в том числе для проверки поведения языковых моделей на запросах, связанных с обходом защит. В дообучении использованы примеры JailBreakBench и Alpaca-cleaned; из JailBreakBench исключены примеры HarmfulBench. Модель имеет плотную архитектуру Qwen2ForCausalLM с 7,1 млрд параметров, принимает текст и генерирует текст; контекст — до 32 768 токенов. Метаданные перечисляют поддержку китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Модель основана на Qwen/Qwen2.5-7B-Instruct и распространяется в формате safetensors по лицензии базовой модели. Ослабленные защитные ограничения делают её непригодной для безопасного пользовательского применения; в README автор заявляет исследовательскую цель выпуска.

Промежуточный чекпойнт OnlineRubrics RaR-Medicine, разработанный HYU-NLP-EVAL на основе Qwen/Qwen3-4B-Instruct-2507. Это плотная языковая модель с архитектурой Qwen3ForCausalLM и 3,7 млрд параметров, дообученная методом GRPO в рамках динамического OnlineRubrics-Every; состояние соответствует шагу 21 обучения с seed 11. Для вывода доступны веса в BF16 и формате safetensors, библиотека Transformers, поддерживается чат и контекст до 262 144 токенов. Чекпойнт предназначен для аудита промежуточной политики в исследовании RaR-Medicine и генерации текста. Карточка не заявляет о подтверждённых медицинских возможностях или безопасности, а модель не валидирована для клинических решений. Лицензия — Apache-2.0.

Это компактная языковая модель Ishaan Ranjan — полнопараметрическая модель с контролируемой настройкой на базе HuggingFaceTB/SmolLM2-360M-Instruct. Она предназначена для узкой подзадачи агентных систем разработки: выбора следующего действия по зашумлённому отчёту о ходе работы с выдачей ответа по фиксированной JSON-схеме. Модель построена на плотной архитектуре Llama, содержит 361,8 млн параметров и поддерживает контекст до 8192 токенов. Модель рассчитана на запуск внутри проверяющей обвязки, которая формирует запрос, разбирает строгий JSON, допускает одну повторную попытку с обратной связью по схеме и применяет детерминированные проверки с резервным переходом к правилам. В оценке на отложенных репозиториях HTTPX и Jinja2 доля успешных результатов составила 74,8%, а валидность JSON с первой попытки — 100%. Это специализированный экспериментальный чекпойнт, а не универсальный чат-бот или помощник по программированию. Модель распространяется по лицензии Apache-2.0.

Stentor-30M — компактная авторегрессионная языковая модель на архитектуре Llama, разработанная Каем Изумото (StentorLabs) и обученная с нуля. Модель содержит 30,4 млн параметров, использует класс LlamaForCausalLM и доступна в формате safetensors; максимальная длина контекста — 512 токенов. Она предназначена для краткой генерации английского текста на устройствах с ограниченными ресурсами, а также для обучения и экспериментов с языковыми моделями и конвейерами обучения. Модель можно исследовать как быстрый черновой генератор при спекулятивном декодировании, хотя качество черновых токенов может ограничивать ускорение. Stentor-30M — базовая модель, не настроенная на инструкции и диалог. Она может отклоняться от темы, обладает ограниченными знаниями и не обеспечивает надёжного использования инструментов, структурированного вывода или сложных рассуждений; контекст подходит только для коротких запросов. Обучение включало FineWeb-Edu и Cosmopedia, а сама карточка также отмечает синтетические учебные данные. Модель выпущена под лицензией Apache-2.0.

Это исследовательский чекпойнт Jeesup на основе инструктивной модели Google Gemma 2 9B. Модель с плотной архитектурой Gemma2ForCausalLM сжата методом Swift-SVD: удалено около 20% параметров, а затем выполнено восстановительное дообучение с помощью LoRA поэтапно для матриц U и V. В репозитории указаны формат safetensors и контекст 8192 токена. Чекпойнт создан для изучения того, как SVD-сжатие влияет на безопасность и полезность ответов, а также насколько выбор компонентов влияет на восстановление поведения. Его можно использовать для экспериментов и сравнительной оценки генерации текста в диалоге; это отдельная ячейка исследовательской серии, а не универсальный чат-ассистент. README приводит метрики атакуемости на AdvBench и StrongREJECT, а также чрезмерного отказа на WildGuard. Карточка предупреждает, что некоторые варианты серии намеренно имеют ухудшенное поведение безопасности; для этого чекпойнта не следует предполагать пригодность к развёртыванию без собственной оценки. Модель распространяется по лицензии Gemma Google.

Это исследовательский чекпойнт Jeesup на основе диалоговой модели Meta Llama 2 Chat с 7 млрд параметров. Он предназначен для изучения того, как сжатие влияет на безопасное поведение языковых моделей и можно ли частично восстановить его после сжатия. Веса сжаты методом Basis Sharing: общие базисы используются для групп из двух соседних слоёв, а число параметров сокращено на 50% относительно исходной плотной модели. Затем выполнены 2 из 10 запланированных раундов перестановки параметров по правилу swapdiscnet_iter. Модель принимает текст и генерирует текст; контекст составляет 4096 токенов. Карточка приводит результаты оценок атак и чрезмерных отказов, указывая на измеримые ограничения безопасности. Это отдельная ячейка экспериментальной сетки, а не универсальный чат-ассистент; её следует использовать для исследований компромиссов между безопасностью и полезностью и самостоятельно оценивать перед применением. Лицензия — Llama 2.

Это исследовательский чекпойнт Jeesup на основе диалоговой модели Meta Llama 2 Chat с 7 млрд параметров. Модель с архитектурой LlamaForCausalLM сжата методом Basis Sharing: общие базисы используются для групп из двух соседних слоёв, что сокращает число параметров на 50%. Затем к чекпойнту применено пять из десяти запланированных раундов параметрически нейтрального обмена параметрами по правилу swapdiscnet_iter; в каждом раунде затрагивалось до 0,1% исходных параметров. Чекпойнт создан для изучения того, как SVD-сжатие влияет на безопасность и полезность ответов и насколько подбор компонентов может восстановить безопасное поведение. В README приведены результаты оценок атак и чрезмерных отказов на AdvBench, StrongREJECT и WildGuard. Это экспериментальная модель для исследовательских сравнений, а не универсальный чат-ассистент; отдельные варианты в серии намеренно имеют ухудшенную безопасность. Модель принимает текст и генерирует текст, контекст — 4096 токенов. Указана лицензия Llama 2.