II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейdgrachev/pi05_subtask_base — производная копия базовой VLA-модели lerobot/pi05_base, подготовленная для плагина LeRobot pi05_subtask. Веса побитово совпадают с базовой моделью; изменены только config.json и policy_preprocessor.json, чтобы использовать обработку контекста двухчастного промпта и режим генерации подзадачи. Модель предназначена для дообучения и запуска политик управления роботом, которые получают задачу, состояние робота и визуальные наблюдения, генерируют текстовое описание подзадачи, а затем предсказывают действия. Для работы требуется установленный плагин lerobot_policy_pi05_subtask. Тот же артефакт может служить основой для политики framepick. Репозиторий содержит веса Safetensors и распространяется по лицензии Gemma. Карточка указывает английский язык; базовая модель предназначена для входных изображений, состояния робота и языковых инструкций с выдачей управляющих действий. README не приводит размер модели и длину контекста.
Banaxi-Tech/pico-80 — промежуточный чекпойнт базовой авторегрессионной языковой модели BananaMind 2 Pico, опубликованный на этапе 80% обучения. Это компактная плотная модель на 841 тыс. параметров по метаданным; карточка указывает 900 002 параметра, 6 слоёв, размер скрытого состояния 96 и контекст до 4096 токенов. Модель не проходила настройку для следования инструкциям. Модель предназначена для продолжения текста и экспериментов с компактными причинными языковыми моделями. Обучение достигло 160 млрд из целевых 200 млрд токенов; среди источников данных указаны FineWeb-HQ и Cosmopedia v2 в README, а также FineWeb-HQ и smollm-corpus в метаданных. Архитектура включает механизм selective XSA refresh gate и свёрточную историю вместе с K/V-кэшем. Модель загружается через Transformers с использованием пользовательского кода. Английский указан среди языков карточки. Лицензия в предоставленных данных не указана.
Pico-OpenLAiNN-100M-SmallDataset — небольшая языковая модель автора UUFO-Aigis, выпущенная как тестовый открытый LLM. Это плотная авторегрессионная модель семейства LLaMA с архитектурой LlamaForCausalLM и примерно 79 млн параметров; README сообщает о совместимости с токенизатором и архитектурой LLaMA 2. Модель предназначена для экспериментов с генерацией текста и сценариев с крайне ограниченными вычислительными ресурсами. Она принимает текст и генерирует текст, использует контекст до 2048 токенов; заявленные результаты включают оценки на ARC Challenge, ARC Easy и BoolQ. Автор прямо характеризует выпуск как тестовый и предупреждает, что действительно пригодные для использования модели планируются позднее. README называет модель открытой, но конкретный идентификатор лицензии в предоставленных данных отсутствует. Небольшой размер делает её удобной для быстрых экспериментов, однако не следует рассчитывать на качество и надёжность более крупных прикладных языковых моделей.
MLsquare pico_seshu_test — тестовая модель генерации следующего символа на базе архитектуры Mamba, опубликованная в формате safetensors для Transformers. Модель обучалась на отдельных предложениях и переводах из датасета AI4Bharat Samanantar: исходный текст преобразовывали в последовательности символов UTF-8, а обучение проверяли по кросс-энтропии. В карточке указано 52,4 тыс. параметров и лицензия MIT. Модель предназначена для проверки конвейера Seshu и экспериментов с посимвольной генерацией на многоязычных данных Samanantar. Карточка не приводит подтверждений пригодности для практического перевода или других пользовательских задач, поэтому качество и применимость модели ограничены демонстрационной целью.
PolicyShiftGuard-7B-RP-SFT — промежуточный контрольный чекпойнт первого этапа обучения модели PolicyShiftGuard, разработанный на базе Qwen2.5-VL-7B-Instruct. Модель с 7,1 млрд параметров использует мультимодальную архитектуру Qwen2.5-VL и принимает текст и изображения; длина контекста составляет 128 000 токенов. Она обучена читать наборы политик с рандомизированными идентификаторами и порядком политик и выдавать текстовые ответы для задач проверки соответствия политике и защитных ограничений. Чекпойнт предназначен для воспроизведения двухэтапного обучения и сравнительной оценки первого этапа RP-SFT с финальной адаптацией BP-Adapt. Это промежуточная модель без этапа адаптации, поэтому для стандартной оценки и развёртывания авторы рекомендуют финальную модель PolicyShiftGuard-7B. Обучение выполнено на PolicyShiftBench. Лицензия — Apache-2.0.
Модель melihuzunoglu/ppe-detection — специализированная версия YOLOv11, дообученная Мелихом Узуноглу для обнаружения средств индивидуальной защиты на производственных и строительных площадках. Она предназначена для контроля ношения касок и сигнальных жилетов и может применяться для мониторинга видеопотока в реальном времени. Для запуска используется библиотека Ultralytics; веса представлены в формате PyTorch. Модель поддерживает обнаружение объектов. Для выявления отсутствия жилета README описывает проверку отсутствия метки жилета внутри рамки обнаруженного человека. Обучающий датасет указан как пользовательский, источник — Roboflow. Лицензия репозитория — AGPL-3.0. README рекомендует использовать модель как вспомогательный инструмент наряду с профессиональными проверками безопасности.
ppt-pythia-160m-uniform250-sampled-seed208-stage2 — языковая модель семейства GPT-NeoX, обученная с нуля; в карточке разработчик не указан. Она содержит 151,9 млн параметров, принимает текст и генерирует текст, а длина контекста составляет 2048 токенов. Указанный результат оценки — loss 3,7586; подробности набора данных и методики оценки не приведены. Модель может служить компактным экспериментальным чекпойнтом для генерации текста и изучения обучения небольших языковых моделей. README не описывает целевые сценарии, поддерживаемые языки или ограничения применения. Файлы представлены в формате Safetensors; сведения о лицензии в предоставленных данных отсутствуют.
ProcVLM-2B — мультимодальная модель ce-amtic для оценки прогресса выполнения манипуляционных задач роботом по визуальным наблюдениям. Она дообучена на основе Qwen/Qwen3-VL-2B-Instruct и использует архитектуру Qwen3-VL с генерацией текста по изображениям и текстовому описанию задачи. Модель принимает RGB-кадры из недавнего фрагмента траектории робота вместе с инструкцией и выдаёт рассуждение и оценку выполнения в процентах. Модель предназначена для исследований в области обучения роботов, оценки выполнения действий и понимания процедур по видео. Её можно использовать для получения плотных сигналов прогресса из демонстраций и адаптировать к новой среде с помощью LoRA на одной успешной демонстрации. Репозиторий опубликован по лицензии CC BY 4.0. Оценка является предсказанием модели, а не калиброванным физическим измерением. Надёжность может снижаться при сильном сдвиге домена, закрытых объектах, необычных ракурсах, неоднозначных инструкциях и неудачном выборе кадров для длинных видео. Перед использованием оценки как сигнала награды или в робототехническом развертывании её следует проверить в целевой среде.
Prov-GigaPath-Flash — облегчённая фундаментальная модель для цифровой патологии, разработанная как вариант Prov-GigaPath. Она предназначена для извлечения признаков из изображений гистологических препаратов на уровне отдельных тайлов и целых стекол. Архитектура состоит из энкодера тайлов на базе DINOv2-small ViT-S/16 с размерностью эмбеддингов 384 и слайд-энкодера LongNet на 12 слоёв с размерностью 384; компоненты содержат примерно 22 млн и 21 млн параметров соответственно. Веса представлены в формате PyTorch и загружаются с использованием кода Prov-GigaPath. Модель позволяет получать эмбеддинги тайлов, а затем агрегировать их вместе с координатами в представление целого стекла. Она рассчитана на ускорение и снижение затрат памяти при выводе и дообучении по сравнению с полной Prov-GigaPath. Основные сценарии — исследования моделей патологии, воспроизведение опубликованных экспериментов и построение исследовательских систем анализа цифровых гистологических изображений. Лицензия — Apache-2.0. Модель и её оценки предназначены только для исследований, а не для клинической помощи или развертывания в продуктивной среде.
EleutherAI/pythia-160m-data-seed1 — базовая языковая модель из серии PolyPythias, разработанной EleutherAI для изучения стабильности и воспроизводимости предварительного обучения. Это плотная авторегрессионная модель GPT-NeoX с 151,9 млн параметров и контекстом до 2048 токенов; она предсказывает следующий токен и предназначена для генерации текста и исследовательских экспериментов. Вариант data-seed1 использует фиксированную инициализацию весов и отдельный порядок обучающих данных, что позволяет изучать влияние порядка данных независимо от случайной инициализации. Модель обучена на корпусе The Pile; доступны промежуточные контрольные точки обучения. Модель ориентирована преимущественно на английский язык, не дообучена для выполнения инструкций и может генерировать предвзятый, оскорбительный или фактически неверный текст. README указывает, что она не предназначена для производственного развертывания. Лицензия — Apache-2.0.
Pythia-160M-deduped — языковая модель EleutherAI на архитектуре Transformer GPT-NeoX, предназначенная прежде всего для контролируемых научных исследований поведения, возможностей и ограничений больших языковых моделей, включая исследования интерпретируемости. Модель содержит 151,9 млн параметров, обучена на дедуплицированной версии набора данных The Pile и предсказывает следующий токен в тексте. Контекст — 2048 токенов; для загрузки доступны форматы PyTorch и Safetensors, модель совместима с библиотекой Transformers. Модель подходит для экспериментов с генерацией текста и сравнительного изучения языковых моделей. Она обучена для английского языка и не предназначена для перевода или генерации на других языках. Это базовая модель без настройки на следование инструкциям: ответы могут быть неточными, оскорбительными или нежелательными, поэтому их следует проверять. Карточка не рекомендует использовать её для пользовательских взаимодействий или как готовый продукт. Лицензия — Apache 2.0.
EleutherAI/pythia-160m-seed8 — базовая языковая модель из набора PolyPythias, созданного EleutherAI для изучения стабильности обучения и воспроизводимости. Это плотная авторегрессионная модель GPT-NeoX с 151,9 млн параметров, обученная предсказывать следующий токен на текстах The Pile; доступны промежуточные контрольные точки обучения. Модель предназначена для генерации продолжения текста и исследовательских экспериментов, в том числе для сравнения результатов запусков с разными случайными начальными значениями. Она принимает текст и генерирует текст, поддерживает преимущественно английский язык и имеет контекстное окно 2048 токенов. Модель не дообучена следовать инструкциям и не включает фильтрацию выходов, поэтому может создавать предвзятый, оскорбительный или фактически неверный текст. Распространяется по лицензии Apache-2.0. Авторы указывают исследовательское назначение и не рекомендуют модель для производственных систем.
EleutherAI/pythia-160m-weight-seed1 — базовая языковая модель из серии PolyPythias, созданной EleutherAI для систематического изучения стабильности и воспроизводимости предобучения. Это один из вариантов Pythia-160M, в котором изменена инициализация весов, а порядок обучающих данных фиксирован. Модель содержит 151,9 млн параметров, использует архитектуру GPT-NeoX и предсказывает следующий токен; длина контекста — 2048 токенов. Модель обучена на англоязычных данных The Pile и предназначена прежде всего для исследовательских экспериментов и сравнительного анализа влияния случайной инициализации на обучение. Она не настроена на выполнение инструкций и не предназначена для диалогового ассистирования без дополнительной адаптации. Веса доступны в формате PyTorch, лицензия — Apache-2.0. Модель может воспроизводить предвзятый, оскорбительный или фактически неверный текст, поскольку обучающие данные содержат разнообразный интернет-контент, а выходы не фильтруются. README указывает, что модель предназначена для исследований, а не для производственного развертывания.
Pythia-6.9B-deduped-v0 — языковая модель на основе трансформера GPT-NeoX, разработанная EleutherAI как часть набора Pythia для научного изучения поведения, возможностей и ограничений больших языковых моделей. Модель содержит 8,8 млрд параметров и обучена предсказывать следующий токен; она принимает текст и генерирует продолжение. Контекст модели — 2048 токенов. Модель обучена на англоязычном наборе The Pile после глобального удаления дубликатов. Набор Pythia создан для контролируемых экспериментов: модели разных размеров обучались на одинаковых данных и в одинаковом порядке, а для изучения динамики обучения доступны промежуточные контрольные точки. Основной сценарий использования — исследования и эксперименты с генерацией текста на английском языке. Модель не дообучалась для следования пользовательским инструкциям, чат-ботов или других типичных прикладных сценариев и не предназначена для непосредственного развертывания и взаимодействия с людьми. Сгенерированный текст может содержать фактические ошибки, предвзятость или оскорбительное содержание; требуется оценка результатов. Лицензия — Apache 2.0.
EleutherAI/pythia-70m-seed2 — базовая языковая модель из серии PolyPythias, разработанной EleutherAI для изучения стабильности и воспроизводимости предварительного обучения. Это один из вариантов Pythia-70M с отдельным случайным seed; семейство включает повторные запуски обучения с разными seed. Модель использует плотную авторегрессионную архитектуру GPT-NeoX с 6 слоями и примерно 50,9 млн параметров. Она обучена предсказывать следующий токен на корпусе The Pile, преимущественно на английском языке. Контекст составляет 2048 токенов; доступны промежуточные контрольные точки обучения. Модель подходит для исследовательских экспериментов с генерацией текста, воспроизводимостью и анализом влияния случайного seed. Это не модель, настроенная на выполнение инструкций. Обучающие данные могут приводить к предвзятым, оскорбительным или фактически неверным продолжениям; фильтрации безопасности нет. Лицензия — Apache-2.0.
EleutherAI/pythia-70m-seed8 — базовая языковая модель из серии PolyPythias, разработанной EleutherAI для изучения стабильности обучения и воспроизводимости языковых моделей. Это вариант Pythia-70M с отдельным случайным seed; модель обучалась на 300 млрд токенов корпуса The Pile, а веса доступны для множества промежуточных этапов обучения. Модель имеет архитектуру GPT-NeoX с плотной сетью, содержит около 50,9 млн параметров и принимает последовательности длиной до 2048 токенов. Она предсказывает следующий токен и предназначена для продолжения английского текста и исследовательских экспериментов с обучением языковых моделей. Это базовая модель без дообучения на инструкциях, поэтому она не рассчитана на диалоговое следование запросам. Модель может воспроизводить предвзятое, оскорбительное или фактически неверное содержание из обучающих данных; выходы не фильтруются на безопасность и точность. Лицензия — Apache-2.0. Авторы README указывают, что модель не предназначена для использования в производственных системах.
Qiushi-BabyLM-34M Strict-Small v1 — англоязычная модель для заполнения пропусков, разработанная Qiushi Engine для трека BabyLM 2026 Strict-Small. Это энкодер DeBERTa-v2 с 34,47 млн параметров и контекстом 512 токенов, обученный с нуля на маскированном языковом моделировании. Модель принимает текст с замаскированными токенами и предсказывает пропущенные слова или фрагменты. Токенизатор обучен на том же пуле из 10 млн слов, который использовался для предобучения; модель получила 100 млн предъявлений слов. Авторы сообщают о локальной оценке по совместимому с BabyLM 2026 Strict-Small протоколу и приводят результаты BLiMP, BLiMP Supplement и EWoK, но отмечают, что это пока не официальные результаты таблицы лидеров. Модель подходит для экспериментов и оценки компактных языковых моделей, а не для генерации длинных текстов или диалога. Репозиторий распространяется по лицензии other; конкретные условия следует уточнять в материалах репозитория.
Qiushi-BabyLM-35M Strict-Small v3 — англоязычная модель маскированного языкового моделирования от Qiushi Engine, созданная для предобучения с ограниченным объёмом данных в условиях BabyLM Strict-Small. Это компактный энкодер DeBERTa-v2 с 8 слоями и примерно 37,4 млн параметров; модель принимает текст длиной до 512 токенов и предсказывает замаскированные слова или токены. Модель обучена с нуля на корпусе объёмом 10 млн слов с бюджетом около 82 млн словоупотреблений. В архитектуре используются остаточные bottleneck-адаптеры, а методика обучения включает компактные семантические представления и возврат части бюджета на разнообразный естественный текст. В карточке приведены результаты оценивания на BLiMP, BLiMP Supplement и EWoK, а также заявлено точное независимое воспроизведение контрольной точки. Модель предназначена для экспериментов и оценивания языковых моделей при малых бюджетах данных; она не является генеративным чат-ассистентом. Для загрузки требуется доверенный код репозитория. Лицензия указана как other, без уточнения конкретных условий в предоставленной карточке.
Промежуточный чекпойнт модели HYU-NLP-EVAL, полученный дообучением Qwen3-4B-Instruct-2507 методом GRPO в эксперименте OnlineRubrics RaR-Medicine с динамическими рубриками. Это плотная авторегрессионная языковая модель на 3,7 млрд параметров для генерации текста и диалога; отключён режим рассуждений. Контекстное окно составляет до 262 144 токенов. Модель принимает текст и выдаёт текст. Чекпойнт представляет историческое состояние политики на шаге 34 с seed 11, сохранённое для аудита Phase 1. Он предназначен для изучения результатов этого обучения и не подтверждает наличие медицинских возможностей или безопасность клинического применения. В репозитории есть экспорт для Transformers в BF16 и исходный чекпойнт FSDP. Лицензия — Apache-2.0.
shirasko/qwen3.5-2b-snmf-cannabis — дообученный текстовый чекпойнт на базе Qwen/Qwen3.5-2B, созданный методом unlearning SNMF для снижения способности модели отвечать на вопросы о каннабисе. Модель предназначена для генерации текста в диалогах; её можно использовать для изучения и оценки удаления целевых знаний из языковых моделей. Чекпойнт содержит 1,7 млрд параметров, использует архитектуру Qwen3_5ForCausalLM, библиотеку Transformers и формат safetensors. В метаданных указан контекст до 262 144 токенов; заявленный язык — английский. На тестовой выборке после unlearning efficacy составила 0,476, specificity — 0,853, а их гармоническое среднее — 0,611. При этом точность QA снизилась с 0,88 до 0,58, поэтому результаты показывают компромисс между удалением целевой информации и сохранением ответов на вопросы. Модель подходит для экспериментальной оценки unlearning, а не для гарантированного блокирования любых сведений о каннабисе: приведённые метрики относятся к конкретному протоколу и тестовому набору. Лицензия в предоставленных данных не указана.
zhouce/RDC-GPT — небольшая авторегрессионная языковая модель семейства GPT-2, опубликованная пользователем zhouce на Hugging Face. Она предназначена для генерации продолжений текста и запускается через Transformers как causal language model. В карточке Hugging Face указаны около 0,1 млрд параметров, архитектура GPT-2, формат Safetensors, контекст до 1024 токенов и лицензия Apache-2.0. Модель относится к текстовой модальности и не предназначена для обработки изображений, аудио или видео. В стороннем проекте модель используется для семантического анализа признаков исполняемых файлов и обнаружения ransomware, однако это применение относится к интеграции проекта, а не к полноценно описанной карточке самой модели. Небольшой размер облегчает локальный запуск, но ограничивает качество, объём знаний и устойчивость генерации по сравнению с крупными языковыми моделями. Языки обучения и специализированные наборы данных надёжно не установлены.
Robo-Dopamine-GRM-2.0-4B-Preview — мультимодальная модель вознаграждения для оценки прогресса при роботизированных манипуляциях. Она разработана командой Robo-Dopamine и дообучена на базе Qwen/Qwen3-VL-4B-Instruct. Модель принимает описание задачи и изображения нескольких ракурсов начального, целевого, предыдущего и следующего состояний, после чего оценивает относительный прогресс или регресс выполнения. Модель предназначена для формирования плотного сигнала вознаграждения при обучении роботов с подкреплением. Метод объединяет оценки прогресса с нескольких перспектив, а Dopamine-RL использует их для настройки вознаграждения с сохранением оптимальной политики; заявлена совместимость с разными алгоритмами обучения с подкреплением. Веса доступны в формате safetensors, лицензия — Apache-2.0. Это предварительная версия с 4 млрд параметров на архитектуре Qwen3-VL. Она ориентирована на оценивание прогресса в задачах манипуляции по визуальным наблюдениям, а не на универсальный диалог или непосредственное управление роботом. Качество и переносимость оценок зависят от задачи и визуальных данных; для адаптации к новой задаче описан подход с одной демонстрацией.
alfredplpl опубликовал заготовку на основе Stable Diffusion XL для тех, кто хочет самостоятельно обучать модель генерации изображений с нуля. В репозитории есть варианты, где веса U-Net заменены случайными значениями с малым масштабом или нулями; README рекомендует полное дообучение через sd-scripts и также предлагает обучать текстовые энкодеры. Модель предназначена для конвейера text-to-image и используется в формате Diffusers с файлами Safetensors. Лицензия — OpenRAIL++. Это не готовая модель для генерации качественных изображений: U-Net намеренно обнулён или случайно инициализирован, поэтому перед практическим применением требуется обучение. README не приводит сведений о контексте, размере и поддерживаемых языках.
SOVYTHOS-V2 Base — базовая языковая модель проекта Sovythos AI Project, обученная с нуля. Это декодерный Transformer в стиле Llama примерно на 300 млн параметров с RMSNorm, RoPE, группированным запросным вниманием (GQA) и SwiGLU. Репозиторий sovythos/Sovythos-303M-Base содержит веса в формате safetensors; модель совместима с экосистемой Llama и инструментами Hugging Face Transformers. Модель предназначена для продолжения предобучения и разработки производных моделей, а также для экспериментов с генерацией текста на современном стандартном и египетском арабском, английском и коде. Это базовая, не настроенная на инструкции модель, поэтому она не рассчитана на надёжный диалог или точное выполнение команд. В README checkpoint назван ранним снимком продолжающегося обучения: автор предупреждает о слабых или несвязных ответах и указывает, что качество должно улучшиться в следующих версиях. Модель распространяется по лицензии Apache-2.0. Хотя карточка описывает проект как производственный, данный checkpoint явно обозначен как ранняя версия для тестирования архитектуры и интеграции, поэтому его зрелость следует оценивать как экспериментальную.
Tiiny представила SparseQwen2-7B — исследовательский вариант Qwen2-7B с изменённой функцией активации в блоке MLP. Модель применяет ReLU к выходам обеих ветвей MLP перед их перемножением, что повышает разреженность активаций. Веса объёмом 7,1 млрд параметров доступны в формате safetensors; модель поддерживает контекст до 131 072 токенов и лицензию Apache-2.0. Модель предназначена для изучения разреженности больших языковых моделей, исследования сжатия и оптимизации, а также оценки влияния функций активации на поведение модели. В README приведены результаты на MMLU, IFEval и Livebench, но они не гарантируют качество в конкретном сценарии. Для запуска может потребоваться заменить реализацию FFN в modeling_qwen на вариант с dReLU. Модель может наследовать смещения обучающих данных и генерировать ошибочную, неподходящую или вредоносную информацию; автор не рекомендует развёртывание без предварительной оценки.
SPP-MT Base — авторегрессионная языковая модель семейства Llama, разработанная командой Model Raising и обученная с нуля на архитектуре SmolLM2-1.7B. Модель содержит 1,7 млрд параметров, использует расширенный токенизатор SmolLM2 и контекст до 2048 токенов. Она обучена методом Synthetic Persona Pretraining: отражающие ценностную персону тексты добавлялись на этапе дополнительного обучения после основного предобучения. Модель предназначена для продолжения текста, исследовательского анализа поведения и безопасности, а также для дальнейшего дообучения. Это базовая версия без instruction tuning и шаблона чата, поэтому она не рассчитана на прямое следование пользовательским инструкциям. Опубликованы промежуточные контрольные точки для оценки и зондирования; состояние оптимизатора и генератора случайных чисел отсутствует, поэтому точное продолжение исходного обучения невозможно. Карточка указывает лицензию как «other», а README сообщает, что лицензия ещё должна быть определена, поэтому условия использования требуют отдельной проверки. Модель может выдавать неверный или небезопасный контент; заявленная область применения — исследования alignment и безопасности.
SPP-T0 Base — языковая модель с архитектурой SmolLM2-1.7B, разработанная авторами Synthetic Persona Pretraining и обученная с нуля. Это базовая, не настроенная на выполнение инструкций модель для продолжения текста, исследования и дальнейшего дообучения; шаблон чата не предоставляется. Во время предварительного обучения примерно к 10% размеченных документов добавлялись синтетические размышления от первого лица, сформированные по заданной конституции. Обучение проведено примерно на 100 млрд токенов из поднабора смеси Olmo 3 Dolma 3. Модель содержит 1,7 млрд параметров, использует токенизатор SmolLM2 с дополнительными токенами и поддерживает контекст до 2048 токенов. Репозиторий содержит веса Safetensors и промежуточные контрольные точки для оценки, анализа и дообучения. Модель предназначена для исследований выравнивания и безопасности, а также для продолжения текста и зондирования поведения базовой модели. Она не настроена на инструкции и может выдавать неверный или небезопасный контент. Лицензия указана как other в метаданных, а README сообщает, что её условия ещё предстоит окончательно определить.
Это исследовательский чекпойнт на основе диалоговой Llama 2 Chat от Meta, подготовленный для изучения того, как сжатие влияет на безопасное поведение языковых моделей и как его можно восстановить. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает текст для генерации текста. Контекстное окно — 4096 токенов; в репозитории веса сохранены в формате safetensors. Чекпойнт сжат методом Basis Sharing: общие базисы используются для соседних пар слоёв, что удаляет 40% параметров относительно исходной модели. Затем выполнено 6 из 10 раундов итеративной замены параметров по правилу swapdiscnet_iter. Модель предназначена для сравнения показателей безопасности и полезности при сжатии, а не для обычного общения или развёртывания как ассистента. В README приведены результаты на AdvBench, StrongREJECT и WildGuard. Лицензия — Llama 2; применяются её условия использования. Модель экспериментальная: измерения показывают ненулевую успешность атак и избыточные отказы, поэтому результаты зависят от выбранного теста и чекпойнт не следует считать проверенным безопасным помощником.
Это исследовательский чекпойнт на основе диалоговой модели Meta Llama 2 7B Chat, созданный для изучения влияния сжатия на безопасность и полезность ответов. Он использует архитектуру LlamaForCausalLM и содержит 6,6 млрд параметров; базисное разделение по группам соседних слоёв сократило число параметров на 40%, после чего модель прошла 10 раундов итеративной замены параметров по правилу swapgapnet_iter. Контекст модели составляет 4096 токенов, формат весов — safetensors. Модель предназначена для экспериментов по оценке компромиссов между сжатием, безопасностью и качеством диалога, а также для сравнения правил восстановления поведения после сжатия. В README приведены результаты тестов AdvBench, StrongREJECT и WildGuard. Модель не позиционируется как универсальный чат-ассистент или готовая к развёртыванию система. Распространяется по лицензии Llama 2.
Это исследовательский чекпойнт Jeesup на основе диалоговой модели Meta Llama 2 7B Chat. Он сжат методом Basis Sharing: общие базисы используются для групп из двух соседних слоёв, что удаляет 40% параметров исходной модели. Затем к чекпойнту применены четыре из десяти раундов итеративной перестановки параметров по правилу swapgapnet_iter; в каждом раунде затрагивается до 0,1% параметров исходной модели. Модель предназначена для изучения того, как SVD-сжатие влияет на безопасность ответов и могут ли перестановки параметров восстановить её поведение. В README приведены результаты оценок AdvBench, StrongREJECT и WildGuard. Это одна точка экспериментальной сетки, а не универсальный чат-ассистент. Модель генерирует текст, поддерживает диалог, имеет 6,6 млрд параметров и контекст 4096 токенов; базовая Llama 2 Chat рассчитана на общение на английском языке. Лицензия — Llama 2 License. README предупреждает, что сжатие может повышать успешность атак, а отдельные варианты эксперимента намеренно ухудшают безопасность; перед использованием результаты нужно оценивать самостоятельно.