II.10Разработка и эксплуатация AI/ML-систем

TokSuite–Qwen-3 — базовая авторегрессионная языковая модель из набора TokSuite, созданного для изучения влияния токенизатора на поведение LLM в контролируемых условиях. Модель использует токенизатор Qwen-3 с BPE, словарём на 151 646 токенов и обработкой неизвестных символов через byte fallback; архитектура и обучение общие для моделей TokSuite, различается токенизатор. В README архитектура описана как decoder-only Transformer на конфигурации Lingua Llama-3.2-1B, а метаданные указывают семейство Llama и 1,6 млрд параметров. Модель предназначена для исследований токенизации, многоязычного NLP, контролируемых абляций и сравнения устойчивости к опечаткам, вариациям орфографии, Unicode, OCR-шуму и форматированию STEM-текстов. Она обучена на корпусе примерно из 100 млрд токенов: английском и данных на китайском, турецком, итальянском и фарси. Контекст в метаданных указан как 8192 токена. Это базовая, не настроенная на инструкции модель, поэтому она не предназначена для диалога или прямого пользовательского развертывания; качество для иных языков и прикладных сценариев не подтверждено. Лицензия — MIT.

real-square-d2-r05-mulligan-dp — модель управления роботом из проекта Mulligan, представленная как актор на основе diffusion policy в формате чекпойнта LeRobot. Она предназначена для выполнения задачи real-square-d2 на роботизированной руке Mulligan; обучение проводилось на телеперемещениях и данных DAgger. В опубликованных оценках политика достигла 35 успехов из 50 испытаний на одной сессии и 36 из 50 на скрининговой сессии. Модель принимает наблюдения и предсказывает действия робота. Конфигурация содержит специфичные для Mulligan параметры обрезки камер, целевых действий и системы координат. Для загрузки требуется код обучения Mulligan: стандартный DiffusionConfig из LeRobot не принимает эти дополнительные поля. Файлы чекпойнта сохранены в safetensors; лицензия — MIT.

Recurrent-TinyLlama-3T-train-recurrence-32 — экспериментальная рекуррентная языковая модель из набора Retrofitting Recurrence, разработанная автором smcleish. Модель получена на основе предварительно обученной TinyLlama: её слои преобразованы для рекуррентного выполнения, а обучение проведено на непересекающихся выборках текстовых данных из датасета NVIDIA Nemotron-CC-Math-v1. Это не модель, настроенная на выполнение инструкций. Модель предназначена для генерации текста и экспериментов с глубиной вычислений: параметр num_steps позволяет менять число шагов рекуррентного прохода во время вывода. Архитектура — плотная причинная языковая модель RavenForCausalLM, реализованная через Transformers; указанное нативное контекстное окно составляет 2048 токенов. Для загрузки автор указывает trust_remote_code=True. Модель принимает текст и генерирует текст; карточка указывает английский язык. Лицензия — Apache-2.0. Практическое ограничение: модель не обучалась следовать инструкциям, поэтому её не следует считать готовым чат-ассистентом; поведение при разных значениях num_steps может требовать отдельной оценки.

RoboFine-VLM — модель компьютерного зрения и языка, разработанная авторами статьи FineVLA и дообученная на базе Qwen/Qwen3.5-VL-397B-A17B. Она предназначена для понимания видео манипуляций роботов: отвечает на вопросы о происходящем и создаёт пошаговые описания действий с разбором последовательности, исполнителя и целевых объектов. Модель поддерживает видео и изображения, в том числе многокамерные видео; архитектура Qwen3.5 MoE содержит 397 млрд параметров. В карточке приведены результаты оценки на RoboFine-Bench и параметры запуска: 4 кадра в секунду и до 512 кадров. Модель подходит для анализа роботизированных манипуляций и подготовки детализированных аннотаций траекторий. Для запуска требуются значительные вычислительные ресурсы: в режиме BF16 указано около 752 ГБ весов и минимум восемь GPU H200; для FP8 — около 376 ГБ весов и минимум восемь GPU A100/H100. Распространяется по лицензии Apache-2.0. Карточка не сообщает длину контекста.

SAN x-small — компактная языковая модель Simple Attention Network, разработанная Kenpeter и представленная как PyTorch-порт архитектуры needle. В репозитории опубликованы веса конфигурации на 12 слоёв; в метаданных указано 43,6 млн параметров, а в README — около 31 млн. Архитектура включает GQA с RoPE и обучаемым gate, HadamardMLP, Engram-память для n-грамм, Multi-Lane Hyper-Connections с маршрутизацией Sinkhorn и MTP-head. Контекст — 2048 токенов, точность — bfloat16, словарь связан с SmolLM2-135M. Модель предназначена для генерации текста и экспериментов с компактной архитектурой SAN. Она обучалась локально; опубликованный чекпойнт соответствует шагу 137 260 из запланированного миллиона. В README приведена средняя perplexity 23,74 на последней оценке, а также отмечено, что образцы текста зацикливаются, поэтому качество генерации ограничено. Лицензия репозитория — MIT.

Это базовая модель GPT-2, подготовленная как контрольный чекпойнт для исследования SemSimula. Она служит общей точкой сравнения для экспериментов с архитектурными механизмами на корпусе OpenWebText: модель обучалась 32 500 шагов на 532 480 000 токенах с сопоставимыми токенизатором и проверочными данными. В карточке для неё указана perplexity 49,81. Модель предназначена для генерации текста и сравнительных исследований языковых моделей и механизмов архитектуры. В эксперименте используется трансформер GPT-2 с размерностью скрытого представления 384 и двумя слоями; описанные в карточке результаты относятся к конкретной экспериментальной конфигурации и не характеризуют все модели GPT-2. Поддерживаемый язык — английский. Лицензия — CC BY 4.0.

ShallowSeek-mini-it — небольшая чат-модель с настройкой на выполнение инструкций из семейства ShallowSeek, созданного edededdy. Это 11-миллионная модель в стиле DeepSeek-V3 с архитектурой Mixture-of-Experts: на каждом токене активны 6,3 млн параметров. Базовая модель обучалась с нуля на FineWeb-Edu, а эта версия дополнительно дообучена на диалогах и примерах вопросов и ответов. Доступны веса Safetensors и варианты GGUF в F16 и Q8_0. Модель предназначена для экспериментов с компактными языковыми моделями, обучения и простых диалоговых сценариев на английском языке. Она поддерживает формат чата и выполнение инструкций; дообучение улучшило формат ответа и завершение реплик. При этом ответы часто бывают ошибочными или расплывчатыми, а модель может уверенно выдумывать факты, поэтому её не следует использовать в важных задачах. Лицензия — Apache-2.0.

Sheared-LLaMA-1.3B-Pruned — плотная авторегрессионная языковая модель семейства LLaMA, созданная исследователями Princeton NLP удалением параметров из meta-llama/Llama-2-7b-hf. Это версия без дополнительного предварительного обучения после прореживания; эксперимент проводился с использованием примерно 0,4 млрд токенов. Модель предназначена прежде всего для изучения влияния структурного прореживания на знания и способности к рассуждению, сравнения методов прореживания и исследований продолжения предварительного обучения. Модель содержит 1,3 млрд параметров, принимает текст и генерирует текст, поддерживает контекст до 4096 токенов. Репозиторий содержит веса PyTorch, а использование должно соответствовать лицензии Llama 2. Поскольку модель не проходила продолжительное обучение после удаления параметров, её практическое качество может быть ограничено; README рекомендует её для экспериментальных сравнений и оценок.

SimpleMemVLA — модель типа vision-language-action (VLA), разработанная авторами проекта SimpleMemVLA. Она сохраняет выбранные кадры истории без изменения и подаёт их в основу модели как видео с временными метками, используя self-attention как механизм работы с памятью. Модель предназначена для управления роботом по визуальным наблюдениям и языковым инструкциям с учётом предыдущих кадров. В README сообщается о результатах на четырёх тестах памяти и сопоставимой с лучшими универсальными моделями управления производительности на LIBERO. Репозиторий содержит контрольные точки и датасеты для RMBench, RoboMME, MIKASA-Robo, RoboMemArena и LIBERO. В метаданных указаны архитектура SimpleMemVLAForActionPrediction, формат safetensors и задача robotics. Лицензия — MIT. README не сообщает размер модели и поддерживаемые языки.

Модель IDEAS-Lab-Northwestern — дообученная версия LeRobot SmolVLA для манипуляций в задаче clutter на симуляции робота Franka Panda. Она принимает изображения с двух камер: обзорной верхней и камеры на запястье, а также состояние суставов робота; языковая инструкция может быть необязательной. В основе — визуально-языковой модуль SmolVLM2 и эксперт действий с flow matching; визуальный энкодер заморожен, обучался эксперт действий без LoRA. Модель выдаёт последовательности из 50 абсолютных целевых значений для 7 суставов руки и захвата. Состояние и действия размерности 8 дополняются до 32 измерений, предусмотренных SmolVLA. Чекпойнт рассчитан на использование через LeRobot и включает статистику нормализации. Обучение проведено на данных ManiGuard clutter; лицензия Apache-2.0.

Карточка модели tastegarden/sn120-9591dd387030 на Hugging Face совпадает с карточкой bluecolor777/megaextra-ep4-ultralolr-merged, поэтому описание составлено по ней. Это экспериментальный текстовый генератор на архитектуре Qwen3.5 MoE, опубликованный bluecolor777. Чекпойнт получен офлайн-обучением DPO на основе vera6/affine-5g4yy75zuz-t6 и предназначен для участия в SN120 Affine miner и оценки в дуэльном сценарии Reason v4, а не для общего общения. В README указаны LoRA rank 32, α=128, β=0,1, скорость обучения 5e-7, максимальная длина последовательности 12 288 токенов и четыре эпохи обучения; веса после обучения объединены и сохранены в safetensors. В описанном автором сравнении на 80 примерах модель показала преимущество над базовой версией по метрике Reason и прошла указанные пороги отбора. Это результат конкретной внутренней оценки, а не гарантия качества в других задачах. Модель принимает текст и генерирует текст; сведения о поддерживаемых естественных языках в карточке не приведены. Лицензия — Apache-2.0.

Карточка модели ledgernova/sn120-9864cdf9071a на Hugging Face совпадает с карточкой bluecolor777/megaextra-ep4-ultralolr-merged, поэтому описание составлено по ней. Это экспериментальный текстовый генератор на архитектуре Qwen3.5 MoE, опубликованный bluecolor777. Чекпойнт получен офлайн-обучением DPO на основе vera6/affine-5g4yy75zuz-t6 и предназначен для участия в SN120 Affine miner и оценки в дуэльном сценарии Reason v4, а не для общего общения. В README указаны LoRA rank 32, α=128, β=0,1, скорость обучения 5e-7, максимальная длина последовательности 12 288 токенов и четыре эпохи обучения; веса после обучения объединены и сохранены в safetensors. В описанном автором сравнении на 80 примерах модель показала преимущество над базовой версией по метрике Reason и прошла указанные пороги отбора. Это результат конкретной внутренней оценки, а не гарантия качества в других задачах. Модель принимает текст и генерирует текст; сведения о поддерживаемых естественных языках в карточке не приведены. Лицензия — Apache-2.0.

softmax-209m-1k-nope-s2357 — исследовательская базовая языковая модель на 209 млн параметров из выпуска DilutionAttention. Она предназначена для изучения оператора внимания и сравнения вариантов архитектуры, а не для диалогов с пользователем: модель не проходила дообучение на инструкциях или настройку безопасности. Модель использует стандартное softmax-внимание во всех 24 слоях, 768 скрытых измерений и 12 голов; позиционные кодировки нет. Веса опубликованы в формате safetensors по лицензии Apache-2.0. Модель обучена на 4,19 млрд токенов FineWeb-Edu с контекстом 1 024 токена. В README приведены результаты проверки языковой модели и извлечения ключевого слова из контекста: последняя оценка проведена при длине 1 920 токенов и не является тестом рассуждений на длинном контексте. Для входов длиннее 1 024 токенов README предписывает использовать расширение контекста из библиотеки dilution-attention. Модель рассчитана на генерацию продолжения текста на английском языке; как базовая модель она может выдавать незапрошенное продолжение и не является готовым безопасным ассистентом.

SparkLM-31M-TinyStories — экспериментальный чекпойнт SparkLM, опубликованный gatilin и экспортированный в совместимый с Hugging Face формат Transformers. Это причинная языковая модель для генерации текста, подходящая для проверки загрузки, воспроизводимости и лёгких экспериментов с генерацией на коротких рассказах TinyStories. Архитектура SparkLMForCausalLM содержит около 27,4 млн параметров, 8 слоёв, скрытый размер 512 и контекст до 8192 токенов; в README указаны MLA и отсутствие MoE и MTP. Репозиторий содержит веса safetensors и для загрузки использует remote code Transformers с trust_remote_code=True. Модель обучалась на английском языке. Лицензия — MIT. Это небольшой учебный чекпойнт без опубликованных оценок качества; README отдельно предупреждает, что значение training loss не является бенчмарком. Модель не заявлена как безопасный диалоговый ассистент и требует собственной оценки и настройки для прикладного использования.

Speck1-140M — базовая языковая модель семейства Speck, разработанная SpeckLabs и обученная с нуля на 5 млрд токенов. Она предназначена для продолжения английского текста и экспериментов с компактными языковыми моделями; модель не дообучена для следования инструкциям и не рассчитана на диалоговый режим. Модель содержит около 146,7 млн параметров и использует 18 остаточных блоков: 8 блоков глобального grouped-query attention и 10 блоков gated causal convolution, каждый со слоем SwiGLU. Модель доступна в формате Safetensors для Transformers. Заявленная длина контекста — 4096 токенов, но проверка проводилась только до 2048 токенов. Основной язык — английский; многоязычные возможности не проверялись. Модель компактна и может служить основой для исследований и дальнейшей адаптации, однако слабо справляется с арифметикой и количественными рассуждениями. Она не прошла safety alignment, поэтому может выдавать предвзятый, вредоносный или недостоверный текст. Лицензия — MIT.

squeal_ai_8m-base — компактная базовая языковая модель семейства squeal_ai_, разработанная Squeal Studio и обученная с нуля на русскоязычных текстах. Это декодерный трансформер в стиле Qwen2.5 с grouped-query attention, содержащий около 7,9 млн параметров. Модель принимает текст и генерирует продолжение; она не проходила настройку на инструкции. Контекст составляет 1536 токенов, используется собственный BPE-токенизатор со словарём в 24 000 токенов. Модель подходит для архитектурных проверок, базовых экспериментов, обучения и небольших задач генерации русского текста. Небольшой размер делает её полезной для лёгких тестовых сценариев, однако качество ограничено объёмом параметров и данных: сложная генерация и точное воспроизведение фактов даются ей плохо, а без настройки на инструкции она не предназначена для многошагового диалога. Модель опубликована под лицензией Apache-2.0; автор не рекомендует использовать её в производственной среде.

StreamVLN for SatNav — это дообученная модель LMMS-Lab на базе LLaVA-Video-7B-Qwen2, предназначенная для навигации по спутниковым картам в платформе SatNav. Она принимает языковую инструкцию и поток истории наблюдений RGB и предсказывает действия агента. Модель использует архитектуру StreamVLNForCausalLM семейства LLaVA, визуальную башню SigLIP So400m Patch14-384 и содержит 7,1 млрд параметров. Она обучена полным дообучением в течение одной эпохи на офлайн-траекториях SatNav-v0.1. Контекст составляет 32 768 токенов; конфигурация обучения использует 32 кадра, восемь выборок истории и четыре будущих действия. Модель рассчитана на интеграцию StreamVLN в SatNav и включена в SatNav Baseline Model Zoo. Она предназначена для навигации по спутниковым картам, а не для общего диалога. Лицензия CC BY-NC-SA 4.0 требует указания авторства, распространения производных материалов на тех же условиях и запрещает коммерческое использование.

Shellypeckie/student_qwen3_1p7b_unconditional_refusal — дообученная с помощью TRL модель Qwen3-1.7B для генерации текста в диалоговом формате. Она принимает текстовые сообщения и отвечает на них; название модели указывает на настройку, связанную с безусловным отказом, однако карточка не описывает обучающие данные или поведение отказов. Модель содержит 1,7 млрд параметров, использует плотную архитектуру Qwen3 и поддерживает контекст до 40 960 токенов. Для запуска в карточке приведён пример с Transformers pipeline. Базовая модель многоязычная, но конкретные поддерживаемые языки этой версии не перечислены. Лицензия в предоставленных данных не указана.

Supra-50M Base — компактная базовая авторегрессионная языковая модель SupraLabs с архитектурой семейства Llama и 51,8 млн параметров. Модель обучена с нуля на 20 млрд токенов образовательных веб-текстов из HuggingFaceFW/fineweb-edu; для неё использован собственный токенизатор Byte-Level BPE со словарём из 32 тысяч токенов. Контекст составляет 1 024 токена. Модель предназначена для продолжения текста и экспериментов с небольшими языковыми моделями, в том числе для работы на CPU. В карточке приведены сравнительные результаты на лингвистических и научных бенчмарках, однако примеры генерации показывают несвязные и фактически ненадёжные объяснения, поэтому модель не следует считать готовым помощником для точных ответов. Карточка указывает английский язык. Распространяется по лицензии Apache-2.0.

Это исследовательский чекпойнт Jeesup на основе диалоговой модели Meta Llama 2 7B Chat. Модель с архитектурой LlamaForCausalLM сжата методом SVD-LLM: удалено 30% параметров, итоговый размер составляет 6,6 млрд параметров. Для восстановления компонентов выделен бюджет 0%; правило их выбора в карточке обозначено как unknown. Модель создана для изучения того, как SVD-сжатие влияет на безопасность и полезность ответов, а также для измерения компромиссов между ними. Карточка приводит показатели атак на безопасность и чрезмерных отказов по нескольким тестовым наборам. Это экспериментальный объект для исследований, а не универсальный чат-ассистент. Контекст — 4096 токенов; лицензия — Llama 2.

Jeesup/svd-safety-l2_basis_remove30 — исследовательский чекпойнт на основе диалоговой модели Meta Llama 2 7B Chat. Модель сжата методом Basis Sharing: базисы совместно используются парами соседних слоёв, что сократило число параметров примерно на 30%. Затем чекпойнт восстановили дообучением LoRA только коэффициентов, сохранив общий базис и бюджет параметров. В репозитории указано 6,6 млрд параметров, архитектура LlamaForCausalLM, формат Safetensors и контекст 4096 токенов. Модель создана для экспериментов с тем, как сжатие влияет на безопасность и полезность ответов, и для оценки восстановления поведения после сжатия. Это не универсальный чат-ассистент и не готовая к внедрению модель: авторы сообщают, что некоторые варианты в исследовательской серии намеренно ухудшают показатели безопасности. Для дальнейшего применения результаты следует проверять отдельно. Лицензия — Llama 2 Community License.

Это исследовательский чекпойнт Jeesup на базе диалоговой модели Meta Llama 2 Chat с 7 млрд параметров. Он использует архитектуру Llama и предназначен для генерации текста в формате диалога; размер составляет 6,6 млрд параметров, длина контекста — 4096 токенов. Модель сжата методом Basis Sharing: общие базисы используются для групп из двух соседних слоёв, что сокращает число параметров на 40%. Затем к чекпойнту применено восемь из десяти запланированных раундов итеративной параметрически нейтральной замены весов по правилу swapgapnet_iter. Модель создана как один из вариантов в исследовании влияния SVD-сжатия на безопасность и полезность языковых моделей и способов восстановления поведения после сжатия. В README приведены результаты оценки отказов и успешности атак на наборах AdvBench, StrongREJECT и WildGuard. Это экспериментальный объект для анализа компромиссов между безопасностью и полезностью, а не универсальный чат-ассистент. Использование регулируется лицензией Llama 2; перед практическим применением следует учитывать условия этой лицензии и самостоятельно оценивать поведение чекпойнта.

Это исследовательский чекпойнт Jeesup на базе диалоговой Llama 2 Chat от Meta. Модель с архитектурой LlamaForCausalLM содержит 6,6 млрд параметров, принимает текст и генерирует текст; базовая модель рассчитана на английский язык и имеет контекст до 4096 токенов. Чекпойнт сжат методом SVD-LLM: удалено 40% параметров, а бюджет восстановленных SVD-компонентов составляет 0%. Он представляет одну конфигурацию в серии экспериментов по влиянию сжатия на безопасность и полезность ответов. Модель предназначена для измерения компромисса между сжатием и безопасным поведением, а также для исследования атак и отказов в ответах. В README приведены показатели AdvBench ASR 0,0500, StrongREJECT ASR 0,0767 и macro over-refusal 0,1532; эти значения относятся к указанным оценкам и не гарантируют поведение в других сценариях. Авторы предупреждают, что отдельные конфигурации намеренно могут иметь ухудшенную безопасность и не предназначены для развёртывания как универсальный чат-ассистент. Указана лицензия Llama 2.

Экспериментальный чекпойнт диалоговой модели Llama 2 Chat, сжатый методом SVD-LLM и предназначенный для изучения влияния сжатия на безопасность и полезность ответов. Модель разработана как один из вариантов в исследовательской сетке компрессии и восстановления компонентов; это не универсальный чат-ассистент. Модель основана на meta-llama/Llama-2-7b-chat-hf, имеет архитектуру LlamaForCausalLM, около 6,6 млрд параметров и контекст до 4096 токенов. В README указано удаление 40% параметров; восстановительный бюджет компонентов составляет 0%, а правило их отбора обозначено как unknown. Модель принимает текст и генерирует текст на английском языке. Чекпойнт предназначен для измерения компромиссов безопасности и полезности, включая успешность атак и чрезмерные отказы. README сообщает об ухудшении защитного поведения у ряда вариантов этой исследовательской сетки и рекомендует самостоятельно оценивать каждый чекпойнт. Лицензия — Llama 2 Community License.

Jeesup/svd-safety-l2_remove30_swapgapiter_b010_r01 — экспериментальный чекпойнт на базе диалоговой Llama 2 Chat от Meta, подготовленный в рамках исследования влияния сжатия на безопасность и полезность ответов. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает текст для генерации текста. Контекст — до 4096 токенов; формат весов — safetensors. Чекпойнт сжат методом SVD-LLM: удалено около 30% параметров. Затем выполнен один из десяти раундов итеративного параметрически нейтрального обмена компонентами по правилу gap_iter. Модель предназначена для измерения компромиссов между безопасностью и полезностью, а не для обычного общения или развёртывания в качестве ассистента. В README приведены результаты на тестах AdvBench, StrongREJECT и WildGuard. Модель поддерживает генерацию текста и диалоговый сценарий; базовая Llama 2 Chat рассчитана прежде всего на английский язык. Исследование отмечает, что сжатие может ухудшать безопасное поведение, а отдельные варианты набора намеренно имеют сниженную безопасность. Лицензия — Llama 2; перед использованием необходимо учитывать её условия и самостоятельно оценивать поведение чекпойнта.

Это исследовательский чекпойнт на базе диалоговой Llama 2 7B Chat от Meta, подготовленный Jeesup для изучения поведения безопасности после сжатия. Модель использует плотную архитектуру LlamaForCausalLM, содержит 6,6 млрд параметров и принимает текст для генерации текста в диалоговом формате; максимальный контекст — 4096 токенов. Веса сжаты методом SVD-LLM: удалено около 30% параметров, после чего выполнено 4 из 10 раундов итеративной замены параметров по правилу gap_iter. Модель предназначена для экспериментов по измерению компромисса между сжатием, полезностью и безопасностью, а также для оценки восстановления безопасного поведения. В README приведены результаты на AdvBench, StrongREJECT и WildGuard. Это не универсальный чат-ассистент и не готовая к развёртыванию модель; автор рекомендует самостоятельно оценивать её перед использованием. Лицензия — Llama 2 Community License.

Это экспериментальный исследовательский чекпойнт Jeesup на базе диалоговой модели Meta Llama 2 Chat с 7 млрд параметров. Модель с архитектурой LlamaForCausalLM сжата методом SVD-LLM: удалено 39,5% параметров, после чего восстановлены компоненты SVD в пределах бюджета 0,5% по правилу disc. В репозитории указано около 6,6 млрд параметров, формат весов — safetensors, контекст — 4096 токенов. Чекпойнт предназначен для изучения того, как SVD-сжатие влияет на безопасность ответов и как выбор компонентов для восстановления меняет компромисс между безопасностью и полезностью. Это одна конфигурация экспериментальной серии, а не универсальный чат-ассистент. В README приведены метрики атак и чрезмерных отказов для конкретных оценочных наборов; они не гарантируют аналогичного поведения в других сценариях. Языковые возможности унаследованы от базовой Llama 2 Chat, ориентированной прежде всего на общение на английском языке. Модель распространяется по лицензии Llama 2; перед использованием следует учитывать её условия. Авторы рекомендуют оценивать конкретный чекпойнт самостоятельно, а не использовать его как готового к развертыванию ассистента.

Jeesup/svd-safety-l2_remove40_swapdisc_b005 — исследовательский чекпойнт на базе диалоговой Llama 2 от Meta, созданный для изучения влияния сжатия на безопасность и полезность языковых моделей. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM, работает с текстом и рассчитана на контекст до 4096 токенов. Чекпойнт сжат методом SVD-LLM: удалено 40,02% параметров исходной модели, после чего восстановлено 0,5% параметров с выбором компонентов по правилу swapdisc. В README приведены результаты оценки на AdvBench, StrongREJECT и WildGuard. Модель предназначена для экспериментов со сравнением защитного поведения и компромиссов между безопасностью и полезностью, а не для использования как универсальный чат-ассистент. Модель дообучена на базе meta-llama/Llama-2-7b-chat-hf и распространяется по лицензии Llama 2. Исходная модель ориентирована на диалог на английском языке; README не приводит отдельного описания языкового покрытия этого чекпойнта. Авторы предупреждают, что некоторые варианты в серии намеренно демонстрируют ухудшение безопасности, поэтому перед использованием результатов следует проводить самостоятельную оценку.

Jeesup/svd-safety-l2_remove40_swapgapnet_b010_r03 — исследовательский чекпойнт на базе диалоговой Llama 2 Chat от Meta, предназначенный для изучения влияния сжатия и последующей правки параметров на безопасность ответов. Модель содержит 6,6 млрд параметров, использует плотную архитектуру Llama и формат safetensors; контекст составляет 4096 токенов. Она дообучена на базе meta-llama/Llama-2-7b-chat-hf: сжатие методом SVD-LLM удалило около 40% параметров, после чего выполнены 3 из 10 раундов перестановки параметров по правилу gap_iter. Чекпойнт служит экспериментальным объектом для измерения компромисса между сжатием, полезностью и безопасностью, а не универсальным чат-ассистентом. В README приведены показатели атак на безопасность и чрезмерных отказов; авторы предупреждают, что некоторые варианты в серии намеренно уступают исходной модели по безопасности. Основной язык базовой модели — английский. Лицензия — Llama 2 Community License.

Это исследовательский чекпойнт диалоговой модели Llama 2, созданный в рамках исследования влияния сжатия на безопасность и полезность ответов. За основу взята meta-llama/Llama-2-7b-chat-hf; веса сжаты методом SVD-LLM с удалением примерно половины параметров, после чего выполнены 3 из 5 раундов перестановки параметров по правилу disc_iter. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors, принимает текст и генерирует текст в контексте до 4096 токенов. Чекпойнт предназначен для изучения того, как сжатие и последующая коррекция параметров меняют поведение модели в диалогах, включая показатели отказов и устойчивости к вредоносным запросам. В README приведены результаты оценок AdvBench, StrongREJECT и WildGuard. Английский — основной язык базовой модели. Модель не предназначена для применения в качестве универсального ассистента: отдельные варианты в исследовательской сетке намеренно демонстрируют снижение безопасности, а этот чекпойнт следует оценивать как экспериментальный объект. Лицензия — Llama 2.