II.10Разработка и эксплуатация AI/ML-систем

SamAdamDay выпустил модель ResNet-18, обученную классифицировать изображения из набора CIFAR-10. Она принимает цветные изображения, масштабированные до 256 × 256 пикселей, и относит их к одному из десяти классов CIFAR-10. Модель можно загрузить через библиотеку timm; веса доступны в форматах PyTorch и safetensors. В карточке указана точность 94,73% на тестовой выборке. Модель подходит для классификации объектов на изображениях, близких по содержанию к CIFAR-10, и для учебных или экспериментальных задач компьютерного зрения. Лицензия — MIT.

1aurent/resnet50.tcga_brca_simclr — модель на базе ResNet50, предназначенная для извлечения визуальных признаков из гистологических изображений. Она обучена на 2 миллионах фрагментов гистологических изображений из набора TCGA-BRCA и содержит 23,6 млн параметров. Модель принимает изображения размером 256 × 256 пикселей с тремя цветовыми каналами и выдаёт эмбеддинги для анализа изображений. Модель может служить визуальным backbone для задач исследования гистологии и рака молочной железы, включая последующую классификацию фрагментов. В метаданных указан pipeline feature-extraction и библиотека timm; веса предоставлены в формате safetensors. Лицензия — GPL-3.0. Карточка ссылается на работу о самообучении визуальных моделей в гистопатологии.

RETFound_mae_natureOCT — экспорт энкодера Vision Transformer Large/16, разработанного Дэвидом Иштлем на основе работы Юкуна Чжоу и соавторов. Модель предварительно обучена методом Masked Autoencoder на части набора OCT natureOCT; этот репозиторий переносит веса из PyTorch в формат Transformers и сохраняет энкодер без компонентов декодера MAE. Модель принимает изображения сетчатки, подготовленные с помощью AutoImageProcessor к размеру 224×224, и извлекает признаки для последующего обучения классификаторов, поиска изображений и других исследовательских задач компьютерного зрения. Архитектура имеет 24 слоя, размер скрытого состояния 1024, 16 голов внимания и патчи 16×16; слой pooling отсутствует, поэтому можно использовать CLS-токен или собственный способ агрегации признаков. Репозиторий не содержит новых оценок качества, а результаты на других устройствах, популяциях и протоколах съёмки могут отличаться из-за сдвига распределения данных. Модель не предназначена для клинических решений без независимой проверки. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование.

roomscan-dav2-metric-large-ft-faro — дообученная на данных ARKitScenes модель Depth Anything V2 Metric-Indoor Large для оценки абсолютной глубины по изображениям помещений. В основе лежит Depth Anything V2 Metric Indoor Large; при дообучении использовались замороженная основа DINOv2 и обучаемые блоки DPT neck и head с функцией потерь SiLog, а целевые значения задавались моделью-учителем faro. Модель предназначена для оценки расстояний до поверхностей и объектов в комнатах по кадрам, в том числе в сценариях сканирования помещений. В README указано, что обучение проводилось на 10 сценах и 3594 кадрах набора train_faro; метрика abs_rel на валидационной части ARKitScenes составила 0,145 против 0,461 у исходной модели. Шесть тестовых сцен не участвовали в обучении, валидации и выборе чекпойнта. Модель принимает изображения и выдаёт карту глубины. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия в предоставленных данных не указана.

OmAhire369 разработал safe-genai-ppo-full — модель генерации текста на базе GPT-2 Medium, дообученную полным обновлением параметров методом PPO в рамках RLHF. Она предназначена для настройки ответов на вредоносные и провоцирующие стереотипы запросы в сторону более безопасной манеры общения; модель также входит в сравнительное исследование методов выравнивания PPO и DPO и стратегий дообучения. Модель использует архитектуру GPT-2, библиотеку Transformers и веса в формате safetensors. Длина контекста — 1024 токена. В README приведён пример генерации продолжения текста по запросу. Указанная лицензия — MIT. Авторы отмечают, что GPT-2 Medium — небольшая устаревшая базовая модель без настройки на инструкции. Дообучение меняет стиль и безопасность ответов, но не обеспечивает фактическую надёжность и не делает модель пригодной для производственного применения. Оценочная модель зависит от смещений в данных предпочтений и не предназначена для использования как универсальный классификатор безопасности.

P1n3/sdg-detector-sft — модель компьютерного зрения на основе Qwen3-VL-4B-Instruct, дообученная методом supervised fine-tuning на обучающей части набора SDG-30K. Она анализирует изображение по запросу и возвращает структурированные описания дефектов с метками типа «artifact» или «misalignment» и ограничивающими рамками в нормализованных координатах [0, 1000]. Модель предназначена для обнаружения и локализации дефектов на изображениях; её обучающий набор содержит около 85 770 пар запросов и ответов после дистилляции рассуждений и добавления вариаций координат. Это плотная мультимодальная модель с архитектурой Qwen3-VL, размером 4 млрд параметров, поддерживающая визуальный диалог. Для запуска используется Transformers, веса опубликованы в формате safetensors. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства и ограничивает коммерческое применение.

sgenzer/seven-segment-led — модель классификации изображений, обученная автором с помощью AutoTrain. Она предназначена для распознавания изображений семисегментных светодиодных дисплеев и отнесения их к одному из классов; архитектура основана на Swin Transformer, размер модели — 33 млн параметров. На валидации модель показала accuracy 0,868 и macro F1 0,862. Эти результаты характеризуют качество на использованном наборе данных и не гарантируют такую же точность на изображениях с другими условиями съёмки или типами дисплеев. Модель распространяется в форматах PyTorch и safetensors; сведения о лицензии в доступных данных отсутствуют.

nyu-visionx/siglip2_decoder — артефакт проекта Scale-RAE, связанного с исследованием масштабирования диффузионных трансформеров для генерации изображений по тексту. В README говорится о Representation Autoencoders (RAE), использующих энкодеры вроде SigLIP-2 для представления изображений в высокоразмерном семантическом латентном пространстве. Карточка Hugging Face описывает модель как ViTMAEForPreTraining на базе архитектуры ViT-MAE с 191,1 млн параметров. По назначению проекта такие представления служат основой для обучения и генерации изображений диффузионными моделями; сам репозиторий помечен задачей image-to-image. Доступные материалы не раскрывают детали интерфейса инференса и конкретные параметры декодера. Лицензия репозитория — MIT.

slimGPT — авторегрессионная языковая модель с 124 млн параметров, созданная Samuel Jayasingh с нуля на PyTorch. Она построена по архитектуре GPT-2 Small: декодерный Transformer из 12 блоков с причинным self-attention, 12 головами и контекстом до 1024 токенов. Модель принимает текст и генерирует продолжение слева направо; её предназначение — изучение устройства GPT-подобных моделей, эксперименты и лёгкое прототипирование генерации текста. Модель обучалась на английских текстах в течение 5000 итераций и предназначена для продолжения текста, а не для диалогов или следования инструкциям. Она может выдавать несвязный, предвзятый или не относящийся к теме текст и уступает полноценно обученной GPT-2 Small; автор не рекомендует её для производственных и критически важных задач или применений, требующих фактической точности и актуальных сведений. Веса опубликованы в формате safetensors по лицензии MIT.

Beehzod/smoke_cigarette-detection2-yolo11m — модель обнаружения объектов, дообученная автором на базе Ultralytics YOLOv11-Medium с помощью библиотеки Ultralytics. Она предназначена для поиска сигареты на изображениях и возвращает обнаруженные объекты с координатами рамок и оценками уверенности; единственный описанный класс — cigarette. Модель обучалась 100 эпох на изображениях размером 640 пикселей, а валидационная выборка показала mAP50 0,9943, mAP50–95 0,7421 и точность 0,9811. Модель подходит для анализа фотографий и видеокадров, например для обнаружения сигареты в сцене. Она принимает изображения и выдаёт рамки объектов с метками и оценками. Карточка не указывает поддерживаемые естественные языки или ограничения по условиям съёмки, поэтому показатели на валидации не гарантируют аналогичное качество на других данных. В метаданных репозитория указана лицензия MIT; README уточняет, что лицензия датасета может отличаться и её следует проверять отдельно.

SmolVLA-LIBERO-GGUF — конвертированная в формат GGUF модель vrfai для инференса через vla.cpp, лёгкий движок на базе llama.cpp для моделей Vision-Language-Action. В основе архитектура SmolVLA-450M: визуальный модуль SigLIP, языковая часть SmolLM2 и эксперт действий на основе flow matching; базовая модель — HuggingFaceVLA/smolvla_libero. Модель предназначена для управления роботом по визуальным наблюдениям и текстовым инструкциям в задачах LIBERO. В README приведён результат 90,5% успешных эпизодов на наборе libero_object из 10 задач и 200 эпизодов для RTX 3060 и Jetson AGX Orin; на Jetson Orin Nano указано 88%. Это результаты описанного бенчмарка, а не гарантия качества в других средах. Для запуска требуется собрать vla-server из проекта vla.cpp; README рекомендует CUDA-сборку для инференса. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает дополнительные ограничения по применению.

SPARC-Qwen3.5-0.8B-VTFT — мультимодальная модель семейства Qwen3.5, разработанная irl-kit для пространственного рассуждения в embodied-сценариях. Это плотная модель с 0,8 млрд параметров, принимающая изображения и текстовые вопросы и выдающая текстовые ответы; в каталоге Hugging Face указаны архитектура Qwen3_5ForConditionalGeneration, библиотека Transformers и формат safetensors. Модель полностью дообучена на данных VQA, созданных из аннотаций SPARC, а также на смесях FSD, RoboPoint и LLaVA-OneVision2. Обучение включало донастройку vision tower и проектора. Модель предназначена для вопросов о пространственных отношениях и расположении объектов на изображении, а также для выдачи координат точек или траекторий в заданном JSON-формате. Для корректной работы README рекомендует применять встроенный chat template и отключать режим reasoning. В локальной оценке это наиболее сильный вариант среди испытанных моделей размером 0,8 млрд параметров; результаты ниже, чем у вариантов на 4 и 9 млрд параметров. Лицензия в предоставленных данных не указана.

Это разреженный автокодировщик (SAE) Prisma-Multimodal для анализа активаций CLIP ViT-B/32. Он расширяет представление размерности 768 до 49 152 признаков с коэффициентом расширения x64 и использует ReLU. Модель предназначена для извлечения признаков и исследований интерпретируемости внутренних представлений CLIP. В карточке указаны размер контекста 50 токенов, коэффициент L1 5e-05, разреженность L0 около 748 и объяснённая дисперсия 89,76%. Данные репозитория представлены в формате PyTorch. Лицензия — Apache-2.0. Показатели относятся к указанной конфигурации; README не описывает процедуры запуска или подробные ограничения применимости.

Это разреженный автоэнкодер (SAE) Prisma-Multimodal для анализа активаций CLIP ViT-B/32 на выходе MLP-слоя 2. Он принимает признаки размерности 768 и преобразует их в разреженное представление размерности 49 152 с коэффициентом расширения x64 и активацией ReLU. Модель предназначена для извлечения и исследования признаков в задачах механистической интерпретируемости. В карточке указаны контекст в 50 токенов, коэффициент L1 8e-05, средняя разреженность L0 около 390 и объяснённая дисперсия 85%. Веса доступны в формате PyTorch по лицензии Apache-2.0. Карточка не описывает процедуру применения SAE к изображениям или тексту; модель работает с активациями базовой CLIP-модели.

SPP-MT-Instruct (3B) — исследовательская чат-модель семейства Llama, разработанная командой model-raising и обученная с нуля. Она использует плотную архитектуру LlamaForCausalLM, токенизатор SmolLM2 с дополнительным маркером и контекст до 2048 токенов. Модель прошла предварительное обучение на подмножестве смеси Olmo 3 Dolma 3, этап Synthetic Persona Pretraining с рефлексиями, ориентированными на ценности, и инструкционное дообучение с привязкой к персоне. Модель предназначена для исследований конституционального выравнивания, обобщения ценностей и устойчивости к jailbreak-запросам. В диалоговых ответах она следует заданной конституции и может приводить встроенные ссылки-цитаты. Основной язык карточки — английский; модель обучалась на англоязычных инструкциях и материалах безопасности. Для работы используется библиотека Transformers и формат safetensors. Карточка характеризует модель как исследовательский артефакт, а не производственное решение; возможны неверные или небезопасные ответы. Лицензия обозначена как other, а в README указано, что её условия ещё предстоит окончательно определить.

SuperPoint — полностью свёрточная модель компьютерного зрения для обнаружения характерных точек на изображениях и вычисления дескриптора для каждой точки. Модель основана на работе Дэниела ДеТоуна, Томаша Малишевича и Эндрю Рабиновича «SuperPoint: Self-Supervised Interest Point Detection and Description»; карточка описывает обучение с самоконтролем. Модель обрабатывает изображение за один проход и предназначена для извлечения признаков, пригодных для сопоставления изображений и оценки гомографии. Она выявляет точки, повторяемые при гомографических преобразованиях. Репозиторий использует PyTorch и формат safetensors; лицензия в предоставленных данных не указана.

Jeesup/svd-safety-gemma2_9b_it_swift_remove30 — исследовательский чекпойнт на основе инструктивной языковой модели Google Gemma 2 9B IT. Модель с архитектурой Gemma2ForCausalLM предназначена для изучения влияния сжатия на безопасность и полезность диалоговой генерации; это одна точка в серии экспериментов с разными правилами отбора компонентов и бюджетами сжатия, а не универсальный чат-ассистент. При сжатии методом Swift-SVD удалено 30% параметров; восстановление выполнено методом SVD-LLM с дообучением LoRA на последовательных компонентах U и V. Полученный чекпойнт содержит около 70% параметров исходной модели. Для него приведены результаты оценки атак и чрезмерных отказов на AdvBench, StrongREJECT и WildGuard. Модель принимает текст и генерирует текст, поддерживает диалог; контекст — 8192 токена. Лицензия — Gemma. Чекпойнт предназначен для измерения компромисса между безопасностью и полезностью после сжатия, а не для развёртывания в качестве готового помощника. Сжатие может ухудшать защитное поведение, поэтому результаты этого экспериментального варианта нельзя переносить на другие варианты сетки или считать гарантией безопасности.

Jeesup/svd-safety-l2_basis_remove40 — исследовательский чекпойнт на базе диалоговой Llama 2 7B Chat от Meta. Модель с архитектурой LlamaForCausalLM сжата методом Basis Sharing: базисы совместно используются соседними слоями, что сокращает число параметров примерно на 40%. Затем чекпойнт восстановлен дообучением только коэффициентов LoRA, без изменения базисов и бюджета параметров; в репозитории веса хранятся в формате safetensors. Модель содержит 6,6 млрд параметров и поддерживает контекст до 4096 токенов. Чекпойнт создан для изучения влияния SVD-сжатия на безопасность и полезность ответов, а также сравнения способов восстановления защитного поведения. В README приведены результаты проверок на AdvBench, StrongREJECT и WildGuard. Это отдельный экспериментальный вариант из серии сравнений, а не универсальный чат-ассистент. Сжатие может ухудшать защитное поведение: измеренная доля успешных атак составила 0,3462 на AdvBench и 0,1597 на StrongREJECT; модель следует оценивать перед использованием. Лицензия — Llama 2 Community License (llama2), как указано в метаданных.

Это исследовательский чекпойнт Jeesup на основе диалоговой модели Meta Llama 2 Chat с 7 млрд параметров. Он предназначен для изучения того, как сжатие влияет на безопасное поведение языковых моделей и можно ли частично восстановить его после сжатия. Веса сжаты методом Basis Sharing: общие базисы используются для групп из двух соседних слоёв, а число параметров сокращено на 50% относительно исходной плотной модели. Затем выполнены 2 из 10 запланированных раундов перестановки параметров по правилу swapdiscnet_iter. Модель принимает текст и генерирует текст; контекст составляет 4096 токенов. Карточка приводит результаты оценок атак и чрезмерных отказов, указывая на измеримые ограничения безопасности. Это отдельная ячейка экспериментальной сетки, а не универсальный чат-ассистент; её следует использовать для исследований компромиссов между безопасностью и полезностью и самостоятельно оценивать перед применением. Лицензия — Llama 2.

Это исследовательский чекпойнт Jeesup на базе диалоговой Llama 2 от Meta, сжатый методом SVD-LLM. Из исходной модели удалено 40% параметров; восстановленные SVD-компоненты не добавлялись. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текст для генерации текста. Контекст — до 4096 токенов. Чекпойнт предназначен для измерения того, как сжатие влияет на безопасность и полезность ответов, а также для изучения восстановления поведения модели. В README приведены результаты оценок на AdvBench, StrongREJECT и WildGuard. Это отдельный вариант в исследовательской сетке экспериментов, а не универсальный чат-ассистент; сжатие может ухудшать защиту от вредоносных запросов. Лицензия — Llama 2.

Это исследовательский контрольный чекпойнт на основе диалоговой Llama 2 от Meta, сжатый методом SVD-LLM и изменённый в рамках эксперимента по изучению безопасности моделей. Веса представлены в формате safetensors; модель содержит 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM и имеет контекст до 4096 токенов. Она предназначена для генерации текста и диалогов на английском языке. Чекпойнт прошёл 9 из 10 раундов итеративного обмена параметрами по правилу gap_iter после удаления около 30% параметров при сжатии. Его применяют для измерения компромиссов между сжатием, полезностью и безопасностью, а не как универсального чат-ассистента. В README приведены результаты оценок AdvBench, StrongREJECT и WildGuard; они относятся к экспериментальному измерению поведения этой версии. Модель имеет исследовательскую лицензию Llama 2. README предупреждает, что сжатие может повысить успешность атак, а отдельные варианты в серии намеренно ухудшают показатели безопасности. Чекпойнт следует рассматривать как экспериментальный объект и самостоятельно оценивать перед использованием; его пригодность для развёртывания в качестве ассистента не заявлена.

Экспериментальный чекпойнт Jeesup, полученный сжатием диалоговой модели meta-llama/Llama-2-7b-chat-hf методом SVD-LLM: удалено 39,02% параметров по правилу disc_iter. Это плотная модель семейства Llama на 6,6 млрд параметров с архитектурой LlamaForCausalLM, предназначенная для генерации текста и диалогов; заявленная длина контекста — 4096 токенов. Базовая модель ориентирована на общение на английском языке. Чекпойнт создан для исследования компромисса между сжатием, полезностью и безопасностью, а не для использования как готовый ассистент. В README приведены показатели успешности атак и чрезмерных отказов на нескольких бенчмарках безопасности. Сжатие само по себе повышает успешность атак, поэтому модель может хуже сопротивляться вредоносным запросам. Указана лицензия Llama 2.

Это исследовательский чекпойнт семейства Llama 2, подготовленный как часть исследования сжатия и безопасности моделей. За основу взята диалоговая Meta Llama-2-7b-chat-hf; разработчик применил SVD-LLM, удалив около 40% параметров, а затем выполнил 6 из 10 раундов перестановки параметров по правилу disc_iter. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM, формат Safetensors и контекст до 4096 токенов. Чекпойнт предназначен для измерения компромиссов между сжатием, полезностью и безопасностью, а также изучения восстановления поведения после сжатия. В README приведены показатели атак на AdvBench и StrongREJECT и показатель избыточных отказов на WildGuard. Это экспериментальная ячейка исследовательской сетки, а не универсальный чат-ассистент; результаты следует оценивать на собственных тестах. Базовая модель рассчитана на общение на английском языке. Лицензия — Llama 2.

Это исследовательский чекпойнт на базе диалоговой Meta Llama 2 7B Chat, сжатый методом SVD-LLM и затем изменённый по правилу disc_iter. В модели удалено 40,02% параметров; указанный этап включает 9 из 10 раундов перестановки параметров. Это ячейка экспериментальной сетки для изучения того, как сжатие влияет на безопасность ответов и как можно восстановить отдельные свойства модели. Модель предназначена для измерения компромиссов между безопасностью и полезностью сжатых языковых моделей. Она принимает текст и генерирует текстовые ответы в диалоговом формате; размер составляет 6,6 млрд параметров, контекст — до 4096 токенов. В README приведены результаты оценок на AdvBench, StrongREJECT и WildGuard. Авторы прямо характеризуют чекпойнт как экспериментальный объект, а не готового универсального ассистента. Некоторые варианты в серии намеренно уступают исходной модели по безопасности; этот чекпойнт следует самостоятельно оценивать перед использованием. Лицензия — Llama 2.

Исследовательский чекпойнт Jeesup на основе диалоговой Llama 2 7B Chat от Meta, сжатый методом SVD-LLM: удалено 40,02% параметров, после чего восстановлены компоненты SVD в пределах бюджета 0,1% по правилу swapdisc. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; контекст — 4096 токенов. Она предназначена для изучения того, как SVD-сжатие влияет на безопасность ответов и как выбор компонентов восстановления меняет компромисс между безопасностью и полезностью. Чекпойнт служит экспериментальным объектом для измерения показателей безопасности и отказов от ответа, а не универсальным чат-ассистентом. В README приведены результаты оценок на AdvBench и StrongREJECT, а также показатель избыточных отказов WildGuard; автор предупреждает, что варианты исследования могут иметь ухудшенную безопасность по сравнению с исходной моделью. Базовая модель рассчитана на диалог на английском языке. Указана лицензия Llama 2; перед использованием необходимо соблюдать её условия.

Это экспериментальная сжатая версия диалоговой модели Meta Llama 2 Chat, подготовленная для изучения компромисса между безопасностью и полезностью при сжатии. Согласно карточке, для неё применён метод SVD-LLM с правилом отбора disc_iter, удаливший около 40% параметров; архитектура — плотная LlamaForCausalLM, размер — 6,6 млрд параметров, формат весов — safetensors. Модель принимает текст и генерирует текст в диалоговом режиме, контекст — до 4096 токенов; базовая модель рассчитана на общение на английском языке. Чекпойнт предназначен для измерения устойчивости к вредоносным запросам и изменений склонности к чрезмерным отказам после сжатия, а не для использования как готовый ассистент. В README приведены оценки атак на AdvBench и StrongREJECT, а также метрика избыточных отказов WildGuard. Указанная лицензия — Llama 2; применяйте её с учётом условий лицензии и не делайте выводов о безопасности без собственной оценки.

Это исследовательский чекпойнт Jeesup на базе диалоговой Llama 2 от Meta с 7 млрд параметров. Модель с архитектурой LlamaForCausalLM сжата методом SVD-LLM: удалено около 40% параметров, осталось 60% от плотной модели. Затем к ней применили 10 раундов итеративной замены параметров по правилу gap_iter. Чекпойнт создан для изучения того, как сжатие влияет на безопасность ответов и можно ли восстановить её выборочной правкой компонентов. Он поддерживает генерацию текста и диалог на английском языке, контекст составляет 4096 токенов. В README приведены метрики атак и чрезмерных отказов; автор предупреждает, что отдельные варианты эксперимента могут быть менее безопасными, чем исходная модель. Это экспериментальный исследовательский артефакт, а не универсальный помощник и не готовая к развёртыванию модель. Указана лицензия Llama 2; её условия следует учитывать при использовании.

Исследовательский чекпойнт на базе диалоговой Llama 2 7B Chat от Meta, созданный для изучения влияния сжатия на безопасность и полезность ответов. Модель с архитектурой LlamaForCausalLM содержит 6,6 млрд параметров, использует формат safetensors и имеет контекст до 4096 токенов. Она принимает текст и генерирует текст в диалоговом режиме. Чекпойнт сжат методом SVD-LLM: удалено 40,02% параметров, осталось 60% от плотной модели. Затем выполнен один из десяти раундов параметрически нейтрального обмена компонентами по правилу gap_iter, с бюджетом до 0,1% плотных параметров на раунд. Он предназначен для экспериментов по измерению компромисса между безопасностью и полезностью, а не для общего чат-применения. README приводит показатели атак на тестах AdvBench и StrongREJECT, а также метрику чрезмерных отказов WildGuard; отдельные варианты сетки могут иметь намеренно ухудшенную безопасность. Лицензия — Llama 2; перед практическим применением результаты следует оценивать самостоятельно.

Jeesup/svd-safety-l2_remove50_disc_b001 — исследовательский чекпойнт на основе диалоговой Llama 2 Chat от Meta, сжатый методом SVD-LLM и частично восстановленный компонентами, выбранными по правилу disc. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM и формат safetensors; максимальный контекст — 4096 токенов. Она принимает текст и генерирует текстовые ответы в диалоговом режиме. Чекпойнт создан для изучения того, как сжатие влияет на безопасность и полезность языковой модели, а также для измерения восстановления поведения при выборе компонентов по разным правилам. В карточке приведены результаты оценок AdvBench, StrongREJECT и WildGuard. Это отдельный экспериментальный вариант сетки исследований, а не универсальный чат-ассистент; авторы отмечают, что сжатие может ухудшать защиту от вредоносных запросов. Распространяется по лицензии Llama 2.

Это исследовательский чекпойнт Jeesup на базе диалоговой Llama 2 Chat от Meta. Модель с архитектурой LlamaForCausalLM содержит 6,6 млрд параметров, принимает текст и генерирует текст, поддерживает контекст до 4096 токенов. Веса сжаты методом SVD-LLM: удалено 49,01% параметров, а компоненты объёмом 1% от исходного бюджета восстановлены по правилу gap_iter. Чекпойнт создан для изучения того, как сжатие влияет на безопасность и полезность ответов, и для сравнения способов восстановления поведения модели. В README приведены метрики атак и отказов на AdvBench, StrongREJECT и WildGuard. Это отдельная экспериментальная точка в исследовательской сетке, а не универсальный чат-ассистент; ряд вариантов в исследовании намеренно демонстрирует ухудшенную безопасность. Лицензия — Llama 2 Community License.