II.10Разработка и эксплуатация AI/ML-систем

Это промежуточный чекпойнт Qwen3-4B-Instruct-2507, полученный командой HYU-NLP-EVAL в ходе обучения GRPO с динамическими рубриками OnlineRubrics-Every для медицинского набора RaR-Medicine. Модель представляет собой плотную языковую архитектуру Qwen3 с 3,7 млрд параметров; режим thinking отключён. Она принимает текст и генерирует текст, поддерживает диалоговый сценарий и контекст до 262 144 токенов. Чекпойнт сохранён как историческое состояние политики для аудита Phase 1 и исследовательского использования. Карточка не заявляет о подтверждённых медицинских возможностях или безопасности, поэтому модель не следует считать проверенной для клинических решений. Весовая выгрузка доступна в BF16 и формате safetensors. Лицензия — Apache-2.0.

Это промежуточный чекпойнт языковой модели Qwen3-4B, созданный командой HYU-NLP-EVAL на базе Qwen/Qwen3-4B-Instruct-2507. Модель дообучалась методом GRPO в рамках динамического OnlineRubrics-Every для медицинского направления; указаны шаг 33 и seed 11. Это плотная модель с 3,7 млрд параметров, предназначенная для генерации текста и диалогов. Метаданные указывают контекст до 262 144 токенов; карточка сообщает, что режим рассуждений отключён. Чекпойнт использовался как историческое состояние политики для аудита Phase 1, а не как проверенная медицинская модель. Он может быть полезен для исследовательского анализа поведения при обучении и для экспериментов с генерацией ответов на медицинские темы. Карточка прямо не заявляет о наличии медицинских возможностей или безопасности и предупреждает, что модель не проверена для клинических решений. Лицензия — Apache-2.0.

Random-Llama-Small — случайно инициализированная языковая модель примерно на 2 млрд параметров от motionlabs, построенная на архитектуре LLaMA. Это плотный авторегрессионный трансформер-декодер для генерации текста; модель опубликована в формате safetensors и рассчитана на работу через Transformers. В README указаны 22 слоя, скрытый размер 2304, grouped-query attention и контекст до 131 072 токенов с RoPE-масштабированием. Для токенизации используется словарь SmolLM2-1.7B-Instruct. Модель предназначена для исследований динамики обучения трансформеров, экспериментов с архитектурой и оптимизацией, а также как начальная точка для предобучения или дообучения на собственных данных. До обучения веса случайны, поэтому связные и точные ответы ожидать нельзя; пользователю нужно подготовить данные и ресурсы для обучения. По карточке, для инференса требуются Transformers версии 4.45.0 или новее и PyTorch 2.0 или новее. Лицензия — MIT.

merve/rfdetr-roadsign-agree1 — это дообученная Merve модель Roboflow/rf-detr-base для обнаружения дорожных знаков и сигналов на изображениях. Она построена на архитектуре RF-DETR и распространяется в формате safetensors по лицензии Apache-2.0. Модель предназначена для локализации объектов на изображении с помощью рамок и классификации знаков: например, «Въезд запрещён», «Остановка запрещена», «Пешеходный переход», а также светофоров и их сигналов. В README приведены результаты оценки по классам; качество различается между категориями, поэтому модель следует проверять на данных, похожих на целевую среду.

RoBERTa base OpenAI Detector — классификатор текста, разработанный OpenAI для определения текстов, сгенерированных моделями GPT-2. Модель основана на RoBERTa base и дообучена на выходах GPT-2 с 1,5 млрд параметров. Веса содержат около 151,8 млн параметров; архитектура — RobertaForSequenceClassification, максимальная длина контекста — 514 токенов. Модель рассчитана на английский язык и распространяется по лицензии MIT. Её можно применять в исследованиях синтетического текста и как один из сигналов при анализе происхождения текста. В описанных авторами испытаниях классификатор достигал примерно 95% точности на текстах GPT-2 с 1,5 млрд параметров, однако результат зависел от метода генерации. Модель может ошибаться на текстах более крупных моделей и не предназначена для самостоятельных решений о нарушениях академической добросовестности; результаты следует сопоставлять с другими данными и оценкой человека.

roomscan-dav2-metric-large-ft-lidar — дообученная на данных ARKitScenes модель Depth Anything V2 Metric-Indoor Large для оценки метрической глубины по изображениям помещений. По карточке, при обучении использовались замороженная основа DINOv2, шея и голова DPT, а функция потерь SiLog применялась к целевым оценкам глубины от LiDAR-модели. Обучающая выборка train_faro включала 10 сцен и 8656 кадров. На проверочной части ARKitScenes модель достигла abs_rel 0,142; для исходного чекпойнта в карточке приведено значение 0,461. Шесть тестовых сцен не использовались при обучении, проверке или выборе чекпойнта. Модель принимает изображения и выдаёт карты глубины; её назначение — анализ помещений и сканирование комнат. Данных о лицензии, размере и длине контекста в предоставленных источниках нет.

ashutosh-kedar/rt-detr-v2-finetuned — дообученная модель обнаружения объектов, созданная на основе PekingU/rtdetr_v2_r50vd и предназначенная для поиска объектов на изображениях. Она использует архитектуру RT-DETRv2 и распространяется в формате safetensors через библиотеку Transformers. В README приведены метрики оценки: mAP 0,43 и mAP@50 0,6. Среди названий классов и показателей упомянуты Bin, Hand, Trash и Trash Arm; по этим результатам нельзя надёжно установить полный состав классов или область применения модели. Набор данных в карточке назван неизвестным. Модель принимает изображения и выдаёт обнаружения объектов с метками классов и координатами. Лицензия — Apache-2.0; качество на других наборах данных и ограничения применения в карточке не описаны.

ruvnet создал ruos-foundry-cu-qwen3-30b-a3b-e32 — уменьшенную специализированную версию Qwen3-30B-A3B-Instruct-2507 для генерации текста и диалогов. Это модель архитектуры Qwen3 MoE: по данным маршрутизации на калибровочном наборе ruOS-cu оставили 32 наиболее часто задействованных эксперта в каждом маршрутизируемом слое, удалили остальные и соответствующим образом сократили маршрутизатор. Веса оставшихся экспертов не меняли. Модель загружается как чекпойнт Transformers в формате safetensors; заявленная длина контекста — 262 144 токена. Модель предназначена для экспериментов с задачами ruOS-cu, включая браузерные шаги, и для оценки того, насколько сокращение экспертов сохраняет возможности исходной модели. Чекпойнт помечен как неоценённый и отключённый: структурная целостность экспорта не подтверждает качество, а README запрещает направлять на него запросы до завершения оценки. Выбор экспертов основан на накопленной вероятности маршрутизации, что служит лишь косвенной оценкой их использования; для запросов вне калибровочного домена рекомендуется исходная модель. Лицензия — Apache-2.0.

Ryze-125M — авторегрессионная языковая модель в стиле GPT-2, разработанная Norman89107 и обученная с нуля. Она содержит около 125 млн параметров, использует декодерный трансформер GPT2LMHeadModel с 12 слоями и предназначена для генерации текста. Модель построена на Transformers и распространяется в форматах PyTorch и Safetensors. Для обучения использовались данные HuggingFaceFW/fineweb (выборка sample-10BT); для проверки — HuggingFaceFW/dclm_100BT. Модель рассчитана на английский язык, использует собственный BPE-токенизатор со словарём из 50 000 токенов и поддерживает контекст до 512 токенов. Модель может служить компактной основой для экспериментов и генерации коротких продолжений текста. Её небольшой размер и ограниченный контекст сужают возможности по сравнению с крупными языковыми моделями; README не сообщает оценок качества или гарантий пригодности для конкретных задач. Лицензия — Apache-2.0.

npow/servo-groot-yam-v3 — робототехническая policy-модель, дообученная с помощью Servo и опубликованная на Hugging Face. В карточке указана базовая модель gr00t-n1.7 от NVIDIA; архитектура относится к семейству Gr00tN1d7, веса представлены в формате safetensors. Модель предназначена для управления робототехническими системами: она принимает наблюдения и формирует действия в соответствии с пространством действий, нормализацией и контрактом embodiment, заданными для базовой модели. Для запуска требуется runtime семейства GR00T и корректная подготовка входов и выходов по этому контракту. Модель выпущена по лицензии Apache-2.0. Карточка не приводит деталей о поддерживаемых роботах, точном составе наблюдений и действий или результатах оценки, поэтому применимость к конкретной конфигурации требует сверки с runtime manifest.

ShellD (Shell Diffusion) — компактная модель генерации изображений по тексту, разработанная автором репозитория FlameF0X. Она предназначена для учебного изучения диффузионных трансформеров, генерации изображений на потребительском оборудовании и дообучения на собственных наборах данных. Модель использует архитектуру DiT в латентном пространстве VAE: 12 трансформерных блоков с перекрёстным вниманием к тексту, патчами размера 4 и скрытым размером 256. Замороженный текстовый энкодер MiniLM-L6-v2 формирует векторы размерности 384; VAE кодирует изображения в 16-канальные латенты. Общий размер компонентов по приведённым значениям — около 67 млн параметров. На выходе получаются изображения 256×256; применяется DDPM с 1000 шагами и поддержкой classifier-free guidance. Модель рассчитана на англоязычные текстовые запросы через используемый англоязычный энкодер MiniLM. Её сильная сторона — сравнительно лёгкая архитектура, пригодная для экспериментов и запуска на потребительских GPU. Ограничения: фиксированное разрешение 256×256, ограниченное понимание запросов и зависимость качества от обучающих данных; качество уступает крупным системам вроде SDXL или Flux. Лицензия — Apache-2.0.

Anand Haridas разработал slm125m-live — базовую языковую модель с архитектурой Llama и 125,8 млн параметров, предварительно обученную с нуля на корпусе с юридическими и финансовыми текстами. Модель использует собственный токенизатор byte-level BPE на 16 384 токена и контекст до 1 024 токенов; веса доступны в формате safetensors, лицензия — Apache-2.0. Модель предназначена для генерации продолжений текста на английском языке и экспериментов с небольшими языковыми моделями, в том числе в учебных целях. В обучающий корпус вошли судебные решения США, документы SEC и образовательные веб-тексты; по приведённой оценке perplexity модель лучше справляется с SEC-текстами, чем с остальной выборкой. Это базовая модель без дообучения на инструкциях, RLHF и настройки безопасности. Она может выдумывать факты и не подходит для юридических или финансовых рекомендаций; в данных судебных решений сохранились ошибки OCR, а финансовые тексты смещены в сторону старых документов SEC.

Модель Agent Action Router — полно-параметрическая модель с supervised fine-tuning от автора ishaanranjan на основе HuggingFaceTB/SmolLM2-135M-Instruct. Это компактная плотная causal language model семейства Llama с 134,5 млн параметров, рассчитанная на выбор следующего действия агентского окружения разработчика по шумному отчёту о ходе работы. Она предназначена для одной узкой подзадачи и использования внутри проверенного harness: он формирует специализированный запрос, разбирает строгий JSON, допускает одну попытку исправления по обратной связи схемы, применяет детерминированные проверки и при необходимости использует правила. Модель принимает текст и генерирует текст с ответом в заданной JSON-схеме. Контекст модели — 8192 токена; обучение проводилось на последовательностях до 2048 токенов. В тестировании на отложенных репозиториях HTTPX и Jinja2 точность успешного выбора после одной попытки составила 62,8%, а валидность схемы JSON при первой попытке — 100%. Обучение выполнено на 2000 примерах, созданных детерминированными оракулами для Python-репозиториев. Заявлена поддержка английского языка. Лицензия — Apache-2.0. Модель предназначена для узкой агентской подзадачи, а не для общего программирования, чата или широкого следования инструкциям. Она специализирована на закрытой JSON-схеме, и README предупреждает, что широкие способности базовой модели могут быть утрачены; результаты эксперимента также указывают на ограниченную успешность выбора действия. Для применения следует использовать предусмотренный harness с проверками и резервными правилами.

Это исследовательский чекпойнт Jeesup на основе инструктивной модели Google Gemma 2 9B. Модель с плотной архитектурой Gemma2ForCausalLM сжата методом Swift-SVD: удалено около 20% параметров, а затем выполнено восстановительное дообучение с помощью LoRA поэтапно для матриц U и V. В репозитории указаны формат safetensors и контекст 8192 токена. Чекпойнт создан для изучения того, как SVD-сжатие влияет на безопасность и полезность ответов, а также насколько выбор компонентов влияет на восстановление поведения. Его можно использовать для экспериментов и сравнительной оценки генерации текста в диалоге; это отдельная ячейка исследовательской серии, а не универсальный чат-ассистент. README приводит метрики атакуемости на AdvBench и StrongREJECT, а также чрезмерного отказа на WildGuard. Карточка предупреждает, что некоторые варианты серии намеренно имеют ухудшенное поведение безопасности; для этого чекпойнта не следует предполагать пригодность к развёртыванию без собственной оценки. Модель распространяется по лицензии Gemma Google.

Экспериментальный чекпойнт на базе диалоговой Llama 2 от Meta, сжатый методом SVD-LLM. В модели около 6,6 млрд параметров; удалено 40% параметров исходной модели, а бюджет восстановленных SVD-компонентов составляет 0%. Она принимает текст и генерирует текст в диалоговом формате, с контекстом до 4096 токенов. В первую очередь чекпойнт предназначен для исследования того, как сжатие влияет на безопасность и полезность ответов, а также для измерения успешности атак и чрезмерных отказов. README приводит результаты оценок на AdvBench, StrongREJECT и WildGuard. Это отдельная экспериментальная точка в наборе вариантов, а не универсальный чат-ассистент: сжатие может ухудшать безопасное поведение, поэтому результаты этой версии нельзя считать гарантией безопасности. Базовая модель рассчитана на общение на английском языке. Лицензия — Llama 2 Community License (llama2).

Экспериментальный чекпойнт на основе диалоговой Llama 2 от Meta, сжатый методом SVD-LLM: удалено 40% параметров, итоговая модель сохраняет 60% исходных плотных параметров. Это один вариант в исследовательской сетке, предназначенной для изучения влияния сжатия на безопасность и полезность ответов, а не универсальный чат-ассистент. Модель генерирует текст и рассчитана на диалог на английском языке; размер составляет 6,6 млрд параметров, контекст — 4096 токенов. В README приведены показатели атакуемости на AdvBench и StrongREJECT и доля избыточных отказов на WildGuard. Авторы отмечают, что сжатие может ухудшать защиту от вредоносных запросов, поэтому чекпойнт следует считать экспериментальным объектом и самостоятельно оценивать перед применением. Указана лицензия Llama 2.

Это экспериментальный чекпойнт диалоговой модели Llama 2, созданный в рамках исследования влияния сжатия на безопасность ответов. Исходная модель — meta-llama/Llama-2-7b-chat-hf от Meta; чекпойнт сжат методом SVD-LLM: удалено 40% параметров, то есть сохранено 60% исходного числа. Модель содержит 6,6 млрд параметров, построена на плотной архитектуре LlamaForCausalLM и распространяется в формате safetensors. Чекпойнт предназначен для измерения компромисса между безопасностью и полезностью после сжатия и для сравнения правил восстановления SVD-компонентов. Контекст составляет 4096 токенов; основная задача — генерация текста в диалоге на английском языке. В README приведены оценки успешности атак и чрезмерных отказов, но авторы предупреждают, что отдельные варианты набора могут иметь ухудшенную безопасность и не предназначены для развёртывания как универсальный ассистент. Лицензия — Llama 2.

Это исследовательский чекпойнт Jeesup на базе Meta Llama 2 7B Chat, сжатый методом SVD-LLM: удалено 40,02% параметров, после чего восстановлены компоненты SVD в пределах бюджета 1% по правилу swapdisc. Модель содержит 6,6 млрд параметров, использует плотную архитектуру Llama и формат safetensors; контекст — до 4096 токенов. Она принимает текст и генерирует текст в диалоговом формате. Чекпойнт предназначен для изучения того, как сжатие влияет на безопасность и полезность ответов, и для оценки восстановления защитного поведения. В README приведены результаты измерений на AdvBench, StrongREJECT и WildGuard, включая показатель чрезмерных отказов. Это отдельная точка экспериментальной сетки, а не универсальный чат-ассистент; автор рекомендует самостоятельно оценивать её перед выводами. Лицензия — Llama 2.

Это экспериментальный чекпойнт Jeesup, созданный на основе диалоговой модели meta-llama/Llama-2-7b-chat-hf для изучения компромисса между безопасностью и полезностью при сжатии. В модели применён метод SVD-LLM: удалено 40,02% параметров, а для их отбора использовано правило disc_iter. Архитектура — плотная LlamaForCausalLM, размер — 6,6 млрд параметров, контекст — 4096 токенов; модель работает с текстом и предназначена для генерации диалоговых ответов. Карточка приводит результаты оценки атак и чрезмерных отказов, чтобы исследовать, как сжатие влияет на безопасность и полезность. Некоторые варианты намеренно менее безопасны, чем исходная Llama 2 Chat; этот чекпойнт авторы характеризуют как экспериментальный объект, а не готового к развёртыванию ассистента. Лицензия — Llama 2.

Это исследовательский чекпойнт на основе диалоговой Llama 2 от Meta, сжатый методом SVD-LLM и частично изменённый итеративной заменой параметров по правилу gap_iter. Веса хранятся в формате Safetensors; модель содержит 6,6 млрд параметров и имеет контекст 4096 токенов. Она предназначена для генерации текста в диалогах и изучения того, как сжатие влияет на безопасность и полезность ответов. В этом варианте удалено 40,02% параметров исходной модели, а выполнено 8 из 10 раундов замены. В README приведены результаты оценки на AdvBench, StrongREJECT и WildGuard. Модель не является универсальным чат-ассистентом: некоторые варианты в серии намеренно имеют ухудшенное поведение в области безопасности, поэтому этот чекпойнт следует рассматривать как экспериментальный объект и самостоятельно оценивать перед применением. Лицензия — Llama 2.

Экспериментальный чекпойнт Jeesup на базе диалоговой Llama 2 7B Chat от Meta, предназначенный для изучения влияния сжатия на безопасность и полезность языковых моделей. Веса сжаты методом SVD-LLM: удалено около 40% параметров, после чего выполнены 2 из 10 раундов параметрически нейтральной замены компонентов по правилу gap_iter. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM, принимает текст и генерирует текст; контекст — до 4096 токенов. Основной язык базовой модели — английский. Чекпойнт предназначен для измерения компромиссов между сжатием и безопасностью, а не для роли универсального чат-ассистента. В README приведены результаты проверок AdvBench, StrongREJECT и WildGuard; авторы отмечают, что сжатие может повышать успешность атак и что отдельные варианты намеренно имеют ослабленное безопасное поведение. Для практического применения модель необходимо отдельно оценивать. Лицензия — Llama 2 Community License.

Это исследовательский вариант диалоговой Llama 2 от Jeesup, созданный на основе meta-llama/Llama-2-7b-chat-hf. Чекпойнт сжат методом SVD-LLM: удалено 40,02% параметров, после чего выполнен один из пяти раундов параметрически нейтрального обмена компонентами по правилу gap_iter. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текст для генерации текста; контекст — до 4096 токенов. Модель предназначена для экспериментов по измерению компромиссов между сжатием и безопасностью ответов, а также по оценке восстановления поведения после сжатия. README приводит результаты тестирования на AdvBench, StrongREJECT и WildGuard, включая показатели успешности атак и чрезмерных отказов. Это отдельный экспериментальный чекпойнт из серии сравнений, а не универсальный ассистент. Основа — англоязычная диалоговая модель Llama 2 Chat. Карточка указывает лицензию Llama 2; применяйте её условия. Измеренные показатели безопасности не гарантируют безопасного поведения в других сценариях, поэтому модель требует самостоятельной оценки перед использованием.

Jeesup/svd-safety-l2_remove50_disc_b010 — исследовательский чекпойнт на архитектуре Llama-2-7B-chat, созданный сжатием базовой модели методом SVD-LLM и восстановлением 1% параметров по правилу disc. В результате сжатия удалено 49,02% параметров; итоговая модель содержит 6,6 млрд параметров, использует формат safetensors и контекст до 4096 токенов. Она предназначена для генерации текста и диалогов на основе Llama-2-7b-chat. Модель входит в серию экспериментов о том, как SVD-сжатие влияет на безопасность ответов и какие правила восстановления компонентов помогают компенсировать ущерб. В README приведены показатели атак на тестах AdvBench и StrongREJECT, а также чрезмерных отказов на WildGuard. Это экспериментальный объект для оценки компромиссов между безопасностью и полезностью, а не универсальный чат-ассистент. Лицензия — Llama 2; применяются её условия использования.

Это исследовательский чекпойнт на основе диалоговой Llama 2 Chat от Meta, изменённый в рамках эксперимента по сжатию и восстановлению защитного поведения. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; длина контекста — 4096 токенов. Веса сжаты методом SVD-LLM до 50% от плотной модели, после чего выполнены 6 из 10 раундов параметрически нейтральной замены компонентов по правилу disc_iter. Чекпойнт предназначен для измерения влияния сжатия на безопасность и полезность модели и для изучения восстановления защитного поведения. Он может служить экспериментальным объектом при оценке атакоустойчивости и склонности к чрезмерным отказам. В README приведены результаты на AdvBench, StrongREJECT и WildGuard. Это отдельная экспериментальная точка в исследовательской сетке, а не универсальный чат-ассистент. README указывает, что некоторые варианты эксперимента намеренно имеют ослабленную безопасность; данный чекпойнт следует самостоятельно оценивать перед использованием. Лицензия — Llama 2.

Jeesup/svd-safety-l2_remove50_swapdisciter_r09 — экспериментальный чекпойнт диалоговой языковой модели, созданный на основе meta-llama/Llama-2-7b-chat-hf с применением сжатия SVD-LLM. Согласно карточке, удалено 50,01% параметров; в метаданных указаны архитектура LlamaForCausalLM, 6,6 млрд параметров, контекст 4096 токенов и формат safetensors. Модель предназначена для измерения компромисса между безопасностью и полезностью при сжатии, а также для проверки методов восстановления поведения. Она генерирует текст и поддерживает диалог; базовая модель ориентирована на общение на английском языке. Карточка приводит оценки успешности атак AdvBench и StrongREJECT и показатель чрезмерных отказов, однако результаты относятся к конкретным тестам. В README отмечено, что сжатие может ухудшать защиту от вредоносных запросов, а этот чекпойнт следует считать экспериментальным объектом, а не готовым ассистентом. Лицензия — Llama 2.

Это исследовательский чекпойнт на основе диалоговой модели Meta Llama 2 7B Chat, подготовленный для изучения влияния сжатия на безопасность ответов. Веса сжаты методом SVD-LLM примерно до половины исходного числа параметров, после чего к ним применены 4 из 10 раундов перестановки компонентов по правилу disc_iter. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM, формат safetensors и контекст до 4096 токенов. Чекпойнт предназначен для измерения компромиссов между безопасностью и полезностью и сравнения стратегий восстановления поведения модели после сжатия. В README приведены результаты оценок отказов и успешности атак на AdvBench и StrongREJECT, а также переотказов по WildGuard. Это экспериментальный объект, а не универсальный чат-ассистент; перед использованием результатов необходимо самостоятельно оценить модель. Лицензия — Llama 2.

Это исследовательский чекпойнт Jeesup на основе диалоговой модели Meta Llama-2-7b-chat, предназначенный для изучения влияния сжатия на безопасность и полезность ответов. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текст для генерации текста; длина контекста — 4096 токенов. Веса сжаты методом SVD-LLM примерно до половины исходного числа параметров, после чего выполнено 6 из 10 раундов параметрически нейтральной перестановки компонентов по правилу disc_iter. Чекпойнт — одна из экспериментальных конфигураций исследования, а не универсальный ассистент. В README приведены показатели атак на безопасность и избыточного отказа, поэтому результаты следует интерпретировать в рамках эксперимента, а перед применением самостоятельно оценить поведение модели. Модель рассчитана на исследование компромиссов между сжатием, полезностью и безопасностью диалоговых языковых моделей. Лицензия — Llama 2; использование регулируется условиями лицензии Meta Llama 2.

Jeesup/svd-safety-l2_remove50_swapgap_b001 — исследовательский чекпойнт на основе диалоговой Llama-2-7b-chat от Meta. Модель сжата методом SVD-LLM: удалено 50,01% параметров, после чего восстановлены компоненты SVD с бюджетом 0,1% по правилу swapgap. Это один вариант из серии экспериментов по изучению влияния сжатия на безопасность и полезность ответов, а не универсальный чат-ассистент. Чекпойнт предназначен для измерения компромисса между безопасностью и полезностью сжатой модели, а также для оценки восстановления её поведения. В README приведены показатели успешности атак на наборах AdvBench и StrongREJECT и показатель избыточного отказа на WildGuard. Модель принимает текстовые запросы и генерирует текстовые ответы; базовая модель рассчитана на общение на английском языке. Контекст составляет 4096 токенов, размер — 6,6 млрд параметров. В README отмечено, что сжатие может ухудшать безопасное поведение, а отдельные варианты эксперимента намеренно менее безопасны, чем исходная Llama-2-7b-chat. Поэтому чекпойнт следует рассматривать как экспериментальный объект и самостоятельно оценивать перед использованием. Лицензия — Llama 2.

Это исследовательский чекпойнт диалоговой модели Jeesup на архитектуре Llama-2, созданный на основе meta-llama/Llama-2-7b-chat-hf. Исходные веса сжаты методом SVD-LLM: удалено около 50% параметров; затем выполнены 3 из 10 раундов итеративной замены параметров по правилу gap_iter. Модель содержит 6,6 млрд параметров, использует формат safetensors и поддерживает контекст до 4096 токенов. Чекпойнт предназначен для экспериментов по измерению влияния сжатия на безопасность и полезность ответов и изучения восстановления поведения модели. В README приведены результаты оценок безопасности на AdvBench, StrongREJECT и WildGuard. Это промежуточный экспериментальный вариант, а не универсальный чат-ассистент; некоторые варианты в исследовании намеренно имеют сниженную безопасность. Базовая модель рассчитана прежде всего на английский язык. Лицензия — Llama 2 Community License.

Это исследовательский чекпойнт на основе диалоговой Llama 2 Chat с 6,6 млрд параметров, созданный в рамках исследования влияния сжатия на безопасность модели. Веса сжаты методом Swift-SVD с удалением 40% параметров, после чего модель восстановлена последовательным LoRA-дообучением компонент U и V на данных alpaca-cleaned. Архитектура — плотная LlamaForCausalLM; модель принимает текст и генерирует текст, поддерживает контекст до 4096 токенов. Чекпойнт предназначен для измерения компромисса между безопасностью и полезностью после сжатия, а также для изучения восстановления поведения модели. В README приведены метрики атак и чрезмерных отказов, однако автор предупреждает, что отдельные варианты эксперимента могут иметь ухудшенную безопасность и не предназначены для развёртывания как универсальный помощник. Лицензия — Llama 2; применяются её условия использования.