II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейDepthVLM-4B — мультимодальная модель для оценки глубины по изображениям, созданная авторами проекта DepthVLM. Она дообучена на базе Qwen/Qwen3-VL-4B-Instruct: к языковой модели добавлена лёгкая голова предсказания глубины, а обучение проходит в два этапа. Модель формирует плотную метрическую карту глубины и может одновременно выдавать языковой ответ. Модель рассчитана на оценку глубины в помещениях и на улице, а также поддерживает мультимодальное понимание и пространственное рассуждение. В README заявлены предсказания карты глубины в полном разрешении и более быстрый инференс по сравнению с некоторыми другими VLM-подходами; приведены результаты на бенчмарках Argoverse2, Waymo и DDAD. Модель опубликована в формате safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0.
Elia Khater разработал эту модель на основе DistilBERT и дообучил её для бинарной классификации англоязычных текстов: написан ли текст человеком или сгенерирован ИИ. Модель построена на архитектуре DistilBERT для классификации последовательностей, обучена на корпусе HC3 с примерами ответов ChatGPT и принимает тексты длиной до 512 токенов. Для репозитория указана лицензия MIT. Модель предназначена прежде всего для исследовательских и учебных экспериментов, оценки методов обнаружения ИИ-текстов и как отправная точка для дальнейшего дообучения. В README приведены результаты на отложенной выборке HC3, однако они не гарантируют качество на других темах или генераторах. Автор отмечает повышенную частоту ошибок на технических текстах и коротких фрагментах, а также вероятное смещение против авторов, для которых английский не является родным. Модель не оценивалась на неанглийских текстах и текстах современных генераторов; её предсказания не следует использовать как единственное основание для решений, затрагивающих людей.
SetFit/distilbert-base-uncased__sst2__train-8-1 — модель классификации текста на базе DistilBERT, дообученная на наборе данных SST-2 для классификации тональности отзывов. В метаданных указана архитектура DistilBertForSequenceClassification, формат PyTorch и контекст до 512 токенов. Модель принимает текст и выдаёт метку класса. На оценочной выборке в карточке указаны точность 0,5047 и функция потерь 0,6930, что свидетельствует о слабом качестве предсказаний. Модель может служить примером или отправной точкой для экспериментов с классификацией тональности; для практического применения её качество следует отдельно проверить. Лицензия — Apache-2.0.
dQwen3.5-0.8B-Base — базовая маскированная диффузионная языковая модель, адаптированная из Qwen3.5-0.8B. Она разработана для генерации текста; модель не проходила инструкционное дообучение и не настроена для следования пользовательским инструкциям. Модель содержит около 581,4 млн параметров и использует гибридный блок: слои внимания сделаны двунаправленными, а слои Gated DeltaNet сохраняют причинную маску. Заявленная длина контекста — 262 144 токена. Модель рассчитана на текстовый ввод и генерацию текста. Это компактная экспериментальная адаптация архитектуры Qwen3.5 для работы с маскированной диффузией. Для запуска README указывает CUDA GPU и Transformers версии 5.13 или новее. Лицензия — Apache-2.0.
Lanni-ni/dynamic_alibi_2_4_256_babylm_10m_seed44_epoch9 — небольшая языковая модель для генерации текста, опубликованная на Hugging Face пользователем Lanni-ni. Модель доступна через библиотеку Transformers и использует формат Safetensors; в метаданных она классифицирована для задачи text-generation. Модель содержит около 15 миллионов параметров и предназначена для экспериментов, обучения и генерации продолжений текста при ограниченных вычислительных ресурсах. В названии и тегах упоминается dynamic_alibi, однако README не содержит подробностей о точной архитектуре, обучающих данных, поддерживаемых языках, размере контекста, результатах оценки или рекомендуемых сценариях применения. Из-за небольшого размера модель может быть удобна для исследовательских прототипов и локального запуска, но её качество, фактическое покрытие языков, устойчивость и пригодность для практических задач по имеющимся данным подтвердить нельзя. README также не содержит сведений о разработчике, лицензии, ограничениях, безопасности и процедуре использования.
Lanni-ni/dynamic_alibi_4_6_384_babylm_100m_seed44_epoch1 — компактная модель для генерации текста на базе библиотеки Transformers. Согласно метаданным, она содержит 28,7 млн параметров и предназначена для задачи text-generation. Имя модели указывает на использование подхода Dynamic ALiBi и связь с экспериментом BabyLM, однако README не содержит подробностей об архитектуре, обучающих данных и разработчике. Модель может использоваться для исследовательских экспериментов с генерацией текста, проверки небольших языковых моделей и прототипирования приложений на базе Transformers. Лицензия, поддерживаемые естественные языки, длина контекста, результаты оценки и ограничения конкретной модели в предоставленных данных не описаны.
Lanni-ni/dynamic_forgetting_4_6_384_inverse_babylm_100m_seed43_epoch8 — генеративная языковая модель из экосистемы Transformers, опубликованная на Hugging Face. Метаданные указывают на задачу text-generation и размер около 27,6 млн параметров. Имя модели содержит ссылки на BabyLM, dynamic forgetting и inverse, однако README не описывает архитектуру, состав данных или точную процедуру обучения. Модель предназначена для генерации продолжений текста и экспериментов с небольшими языковыми моделями. Её можно использовать в исследовательских прототипах, тестировании методов обучения и сравнении вариантов генеративных моделей; конкретные прикладные сценарии, поддерживаемые языки и длина контекста в доступных материалах не определены. Сильной стороной является компактный размер, который потенциально упрощает локальный запуск и эксперименты с ограниченными вычислительными ресурсами. README не содержит сведений о разработчике, лицензии, результатах оценки, ограничениях безопасности или рекомендациях по использованию, поэтому применять модель в критически важных системах следует с осторожностью.
Lanni-ni/dynamic_forgetting_4_6_384_inverse_babylm_100m_seed44_epoch6 — небольшая модель для генерации текста на базе библиотеки Transformers. По идентификатору модели она связана с экспериментом dynamic forgetting и вариантом, обозначенным как inverse_babylm_100m; модель содержит 27,6 млн параметров и опубликована пользователем Lanni-ni. Архитектура и точный исходный базовый чекпойнт в доступных данных не описаны. Модель предназначена для авторегрессионной генерации текста, продолжения последовательностей и исследовательских экспериментов с языковыми моделями и динамическим забыванием. Её относительно небольшой размер может быть удобен для локального запуска, обучения и анализа поведения модели при ограниченных вычислительных ресурсах. README является автоматически созданной карточкой и не содержит сведений о результатах оценки, обучающих данных, поддерживаемых языках, ограничениях применения или лицензии. Поэтому модель следует использовать преимущественно для экспериментов и прототипирования, а качество и безопасность генераций проверять отдельно.
Ember-2 — сверхкомпактная языковая модель SurjoLabs с примерно 3 млн параметров, предназначенная для генерации текста и диалоговых сценариев. Модель использует плотную архитектуру на основе варианта Llama с XSA Attention и рекуррентными слоями с общими весами: 10 физических слоёв обеспечивают заявленную эффективную глубину в 14 слоёв. Контекст — 2048 токенов; модель обучена на английском токенизаторе с размером словаря 4096. Обучение включало синтетические образовательные тексты, отфильтрованные веб-данные, математические материалы и код Python. Разработчик сообщает о результатах на тестах рассуждения и понимания текста, включая PIQA и ArithMark-3. Модель подходит для экспериментов с маломасштабными языковыми моделями, генерации коротких текстов и оценки компактных архитектур; её размер ограничивает связность и беглость ответов. Реализация также предназначена для исследовательского и бенчмарк-использования. Лицензия — MIT.
Emotional DialoGPT Medium — диалоговая авторегрессионная языковая модель, созданная Mario-RC дообучением microsoft/DialoGPT-medium на данных DailyDialog. Она использует архитектуру GPT2LMHeadModel и содержит 354,8 млн параметров. Модель генерирует текстовые ответы в диалоге, которые можно направлять метками эмоций: предусмотрено семь эмоциональных меток для реплики-источника и желаемого ответа. Модель предназначена для экспериментов с эмоционально обусловленной генерацией диалогов на английском языке. Контекст составляет 1024 токена; модель распространяется в формате safetensors по лицензии MIT. Сгенерированные ответы могут быть неточными, предвзятыми, повторяющимися или неуместными по эмоциональному тону, поэтому их следует проверять перед использованием в пользовательских сценариях.
Fixer — модель NVIDIA для улучшения результатов трёхмерной реконструкции. Это одношаговая диффузионная модель преобразования изображений, которая устраняет артефакты и восстанавливает детали в новых ракурсах, отрендеренных из недостаточно ограниченных областей 3D-представлений. Модель предназначена для разработчиков Physical AI и интеграции в конвейеры реконструкции на основе Neural Radiance Fields (NeRF) и 3D Gaussian Splatting (3DGS). Она принимает RGB-изображение и возвращает исправленное RGB-изображение разрешением 576×1024 пикселя. Fixer поддерживает два режима работы. В offline-режиме она очищает псевдообучающие изображения на этапе реконструкции, после чего улучшения дистиллируются обратно в 3D-представление. В online-режиме модель применяется во время инференса как нейронный улучшатель для удаления остаточных артефактов, связанных с неточной 3D-супервизией и ограничениями реконструкционных моделей. Архитектура представляет собой Linear-attention Diffusion Transformer с Deep Compression Autoencoder; модель основана на Cosmos-Predict-0.6B и содержит около 0,6 млрд параметров. Обучение проводилось преимущественно на данных 3DGS и внутреннем наборе NVIDIA с изображениями и видео автономного вождения. К сильным сторонам относятся одношаговая обработка, совместимость с NeRF и 3DGS, поддержка высокоразмерных изображений и оптимизация для NVIDIA GPU. В README не приведены количественные оценки качества, полный список языков или ограничения по содержанию, поэтому эффективность для конкретных сцен требует отдельного тестирования. Для работы заявлены PyTorch версии 2.0 и выше, Linux и GPU NVIDIA; проверены H100, A100, H20 и L40. Модель доступна для коммерческого и некоммерческого использования по условиям NVIDIA Open Model License Agreement.
FrontD.11m — компактная авторская языковая модель семейства FrontD, разработанная проектом 11-47 и обученная с нуля. Это декодерная модель на 10 996 608 параметров для генерации текста; модель реализована на PyTorch. Архитектура включает 6 слоёв, 16 голов внимания, скрытый размер 256, словарь из 16 000 токенов, RoPE, RMSNorm и SwiGLU; входные и выходные эмбеддинги связаны. Контекст составляет 1096 токенов. Предварительное обучение проводилось на наборе Plans11/Organized_PreTrain_1k_Context. Модель подходит для экспериментов с компактными языковыми моделями и генерацией текста в пределах короткого контекста. Она обучена с нуля и не является дообучением готовой базовой модели. Лицензия MIT разрешает использование, изменение и распространение с соблюдением её условий.
Это квантованный текстовый энкодер Gemma 4 размером 12B, подготовленный пользователем elix3r на основе Lightricks/LTX-2.5. Модель объединяет текстовый энкодер с проекционными головами для аудио и видео и предназначена как компонент conditioning в экосистеме LTX-2.5, а не как самостоятельная универсальная чат-модель Gemma. Модель используется в ComfyUI вместе с совместимым дистиллированным трансформером LTX-2.5 и ComfyUI-GGUF для генерации видео с текстовым управлением. Доступны варианты квантования GGUF Q2_K, Q4_K_M и Q5_K_M размером примерно от 5,96 до 9,51 ГБ; Q5_K_M сохраняет больше точности, а Q2_K требует меньше места и ресурсов. README не указывает поддерживаемые языки и размер контекста. Сильная сторона модели — возможность применять крупный текстовый энкодер LTX-2.5 в квантованном виде, включая аудио- и видеопроекции, что снижает требования к памяти по сравнению с полноразмерной версией. Ограничение заключается в том, что энкодер бесполезен сам по себе для генерации видео и требует соответствующего трансформера, ComfyUI и узлов ComfyUI-GGUF. Использование и распространение регулируются LTX-2 Community License для компонентов LTX-2.5 и Apache-2.0; для доступа действуют дополнительные условия лицензии, включая ограничения использования, распространения и коммерческого применения.
GneissWeb.7B_ablation_model_on_350B_GneissWeb.seed3 — языковая модель IBM Research из серии абляционных экспериментов GneissWeb. Это плотная авторегрессионная модель на архитектуре Llama с 6,6 млрд параметров; она обучена на случайной выборке из 350 млрд английских токенов GneissWeb с токенизатором StarCoder. Модель принимает текст и генерирует продолжение; максимальный контекст составляет 8192 токена. Модель предназначена прежде всего для сравнения влияния обучающих данных на предварительное обучение моделей в сопоставимых условиях. Она не дообучена следовать инструкциям и не прошла выравнивание по безопасности, поэтому может выдавать нежелательный контент, ошибаться или воспроизводить фрагменты обучающих данных. Лицензия — Apache 2.0.
yorukot/gpt2-traning — GPT-2-модель, обученная с нуля разработчиком карточки на англоязычном наборе C4. Это стандартная плотная архитектура GPT2LMHeadModel с 12 слоями, 12 головами внимания, шириной скрытого слоя 768 и 124 439 808 уникальными параметрами; веса сохранены в FP32, формат репозитория — safetensors. Модель использует токенизатор GPT-2 и принимает последовательности длиной до 1 024 токенов. Модель предназначена для продолжения англоязычного текста и учебных экспериментов с языковой моделью. Она обучалась без предобученных весов и без настройки на выполнение инструкций, поэтому не рассчитана на диалоговое следование запросам. В README приведена локальная оценка на C4 validation: perplexity 27,52; это результат конкретного экспериментального разбиения, а не независимая оценка качества. Модель может генерировать неточный или предвзятый текст из-за особенностей веб-данных C4. Репозиторий распространяется по лицензии Apache-2.0.
Экспериментальная разговорная модель treadon, созданная на основе IBM Granite 4.1 3B. Это плотная авторегрессионная языковая модель с 3,4 млрд параметров, принимающая текст и генерирующая текст; заявленное контекстное окно — 131 072 токена. Автор применил к весам два ранговых ортогональных преобразования без дообучения: удалил направление отказа и ослабил склонность модели отвечать уклончиво на спорные вопросы. Модель предназначена для исследований механистической интерпретируемости и red-team-оценки, а также для изучения этих изменений поведения в диалогах. В карточке приведены результаты оценок на наборах из 531 запроса; это результаты автора, а не независимая проверка. Модель может отвечать на запросы, от которых базовая модель отказывалась, и иногда занимает определённую позицию даже там, где уместна осторожность или пользователь просит сбалансированный обзор. Она не предназначена для безопасного пользовательского применения без внешней проверки и защитного слоя. Репозиторий распространяется по лицензии Apache-2.0.
Guanaco-7B-Uncensored — языковая модель семейства Llama, разработанная Fredithefish и дообученная в течение четырёх эпох на версии V2 набора Unfiltered Guanaco. В качестве основы использована Llama 2 7B; модель содержит 6,6 млрд параметров, работает с текстом и имеет контекст до 4096 токенов. Карточка указывает формат PyTorch и библиотеку Transformers. Модель предназначена для диалоговых ответов по шаблону «### Human: {prompt} ### Assistant:». Она генерирует ответы без фильтрации контента и отказов, поэтому подходит для экспериментов и сценариев, где требуется нефильтрованный текст. Основной язык — английский; качество на других языках низкое. Лицензия — Apache-2.0.
Guardian-thinking — мультимодальная модель зрения и языка, разработанная для проверки планов и результатов выполнения задач роботизированной манипуляции. Это дообученная с помощью LoRA модель InternVL3-8B: языковая часть дообучалась, а визуальный энкодер и соединительный модуль оставались замороженными. Модель принимает инструкцию, изображения сцены и предложенный план либо наблюдения до и после подзадачи; в ответ выдаёт рассуждение и итоговую оценку True или False. Модель предназначена для проверки корректности плана и определения, успешно ли робот выполнил подзадачу, в том числе по нескольким ракурсам. Её можно встроить в робототехнический конвейер, чтобы при обнаружении сбоя запускать повторное выполнение или перепланирование. В README приведены результаты на наборах для оценки отказов роботов, включая RoboFail и UR5-Fail. Модель ориентирована на робототехнику и манипуляции, а не на универсальный диалог. Она раскрывает цепочку рассуждений в выводе; надёжность зависит от соответствия входных изображений и сценариев обучения конкретной робототехнической обстановке. Лицензия — Apache-2.0.
Lanni-ni/hard_2gram_2_4_256_babylm_100m_seed43 — небольшая модель генерации текста из экосистемы Hugging Face Transformers, опубликованная пользователем или организацией Lanni-ni. Модель содержит около 14,7 млн параметров и относится к семейству transformer-моделей; идентификатор также указывает на связь с BabyLM и эксперимент с параметрами hard_2gram, 2_4 и seed43, однако README не раскрывает точную архитектуру, обучающие данные или методику обучения. Модель предназначена для авторегрессионного продолжения текста и исследовательских экспериментов с компактными языковыми моделями. Её можно применять для генерации коротких текстовых продолжений, проверки пайплайнов text-generation в Transformers и учебных экспериментов на ограниченных вычислительных ресурсах. Лицензия, поддерживаемые языки, размер контекста и разработчик в доступных данных не указаны.
Human-1 — разговорная аудиомодель Josh Talks, разработанная Бхаскаром Сингхом, Шобхитом Банга и Пранавом Шармой на основе архитектуры Kyutai Moshi. Она предназначена для диалога на хинди в реальном времени и поддерживает двустороннее общение с перебиваниями, наложением реплик, короткими подтверждениями и естественной сменой очереди. Модель дообучена на 26 000 часах спонтанных разговоров на хинди от 14 695 участников, а затем настроена на примерно 990 часах отобранных диалогов. В базовой модели заменили англоязычный токенизатор на токенизатор хинди; компоненты обработки аудио и остальные веса трансформера сохранили предобученные значения. Human-1 подходит для исследовательских систем речевого диалога и непринуждённого общения на хинди. В сравнительной оценке естественность речи получила в среднем 4,10 из 5, однако контекстная уместность и завершённость ответов остаются ограниченными: оценщики отметили их соответственно примерно в 53% и 42% случаев. Модель обучена преимущественно на разговорном хинди, поэтому качество на других языках и в иных предметных областях не гарантируется; она также наследует ограничения Moshi по качеству аудио при битрейте 1,1 кбит/с. Лицензия — CC BY 4.0.
Это англоязычная модель автоматического распознавания детской речи, созданная дообучением Whisper tiny.en исследовательской группой, указанной в репозитории lokeshkumar79/kid-whisper-tiny-en-myst-ours. Модель предназначена для распознавания речи в корпусе MyST и исследований сжатия ASR-моделей детской речи, включая посттренировочную квантизацию и прореживание. Она основана на Whisper tiny.en, имеет около 29,4 млн параметров по метаданным и принимает аудио, выдавая текст. Для обучения использовались отфильтрованные обучающая и валидационная выборки MyST; README сообщает WER 14,53% на тестовой выборке MyST при заданном протоколе оценки. Результат относится к этому протоколу и не гарантирует качество на других данных. Модель выпущена под лицензией MIT. README указывает исследовательское назначение и отсутствие оценки для производственного применения.
KRONOS V1 P2 — слитая модель семейства Llama 3.1, созданная автором репозитория на основе Meta Llama 3.1 Instruct и дообучения с LoRA на датасете Propositional Logic. Веса представлены в формате safetensors; размер модели — 7,5 млрд параметров, контекст — до 131 072 токенов. Модель использует архитектуру LlamaForCausalLM и библиотеку Transformers. Основное назначение этой версии — служить компонентом для дальнейшего слияния с другими моделями того же семейства методом TIES. Она также поддерживает генерацию текста и диалоговый режим; метаданные отмечают интерфейс вызова инструментов. README приводит результаты оценок IFEval и BBH, но не описывает отдельные сценарии использования этой версии как самостоятельного ассистента. Лицензия в предоставленных данных не указана. Автор README считает создание квантованных версий этой модели ненужным.
Репозиторий содержит разность весов LLaMA 7B после 15 000 шагов обучения с механизмом Landmark Attention на наборе данных RedPajama. Это причинная языковая модель семейства LLaMA для генерации текста; опубликованную разность весов нужно применить к исходной модели, чтобы восстановить полный чекпойнт. Модель насчитывает 6,6 млрд параметров и имеет контекст длиной 2048 токенов. Карточка не описывает отдельные сценарии применения или языковой охват. Указана лицензия CC BY-SA 4.0; для восстановления и использования весов следуйте инструкциям связанного GitHub-репозитория.
llama-128-4L — компактная плотная языковая модель семейства Llama с архитектурой LlamaForCausalLM, опубликованная в пространстве stage-babylm. Это дообученная модель для генерации текста на базе Transformers; в карточке приведён результат оценки: loss 1,9264, но базовая модель и обучающий датасет не установлены. Модель содержит 914 тысяч параметров и рассчитана на контекст до 2048 токенов. Репозиторий предоставляет веса в формате safetensors. Подробности о предполагаемых сценариях применения, языковой поддержке и лицензии в карточке отсутствуют, поэтому пригодность для конкретных задач и условия использования следует проверять отдельно.
llama-128-8L — компактная причинная языковая модель семейства Llama, представленная в формате Safetensors для Transformers. В карточке указано, что это дообученная модель; число параметров составляет 1,7 млн, а длина контекста — 2048 токенов. Автор не описал датасет и целевое применение; приведён результат оценки Loss 1,8453 без подробностей о наборе и методике оценки. Модель выполняет генерацию текста и может служить компактным чекпойнтом для экспериментов с языковыми моделями. Данных, чтобы определить поддерживаемые естественные языки или конкретные пользовательские сценарии, нет. Условия лицензии в предоставленных сведениях не указаны.
Это экспериментальный чекпойнт диалоговой модели Llama 2 от Meta, сжатый методом SVD-LLM V2 и восстановленный дообучением LoRA второго этапа. Он содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM, библиотеку Transformers и формат safetensors; максимальный контекст — 4096 токенов. Модель предназначена для генерации текста и ведения диалога на английском языке. Чекпойнт создан как один из вариантов исследовательской сетки для измерения влияния сжатия на безопасность и полезность модели и проверки восстановления поведения. В README приведены показатели атак на безопасность и чрезмерных отказов. Это не универсальный чат-ассистент и не готовая к развёртыванию модель: отдельные варианты в исследовании намеренно имеют сниженные показатели безопасности. Лицензия — Llama 2; перед использованием следует учитывать её условия.
Xenova/llama2.c-stories110M — компактная модель генерации текста семейства LLaMA, доступная в Transformers.js. Она содержит 109,5 млн параметров и рассчитана на контекст до 1024 токенов. Репозиторий включает форматы ONNX, PyTorch и safetensors. Модель подходит для локальных экспериментов и простых сценариев продолжения текста в приложениях на JavaScript. Карточка не описывает обучение на конкретных данных, специализацию или гарантии качества; при таком небольшом размере и ограниченном контексте она может уступать более крупным моделям в связности и работе с длинными запросами. Сведения о лицензии в предоставленных данных отсутствуют.
Xenova/llama2.c-stories15M — компактная авторегрессионная языковая модель семейства Llama, представленная Xenova. Она предназначена для генерации текста и может использоваться для экспериментов с небольшими языковыми моделями и запуска генерации через Transformers.js. Модель содержит 15,2 млн параметров и имеет контекст длиной 256 токенов. В репозитории представлены варианты в форматах ONNX, PyTorch и Safetensors. Карточка показывает пример использования Transformers.js. Небольшой размер и короткий контекст ограничивают сложность и длину связной генерации; сведения о лицензии и поддерживаемых языках в предоставленных данных отсутствуют.
Это экспериментальный чекпойнт на основе Meta Llama 3.1 8B Instruct, подготовленный методом SNMF для удаления знаний о культуре Греции. Он предназначен для изучения и оценки методов машинного забывания на языковых моделях, а не для обычного использования как универсальный чат-ассистент. Модель принимает текст и генерирует текст; размер составляет 7,5 млрд параметров, длина контекста — 131 072 токена. В метаданных указан английский язык. В тестовой оценке после удаления знаний эффективность забывания составила 0,604, специфичность — 0,912, гармоническое среднее — 0,727. При этом точность ответов на вопросы о целевой теме снизилась с 0,78 до 0,46, а точность по SimDom — с 0,86 до 0,78. Результаты показывают компромисс между удалением целевых знаний и сохранением смежных возможностей; эти оценки не гарантируют полного удаления сведений. Базовая модель распространяется по лицензии Llama 3.1 Community License; условия для производного чекпойнта следует сверять с лицензией репозитория.
Hyukkyu/Llama-3.1-8B-RAQUEL-TOFU-Unlearn-GA-GD-LoRA-v1 — дообученная модель на архитектуре Llama 3.1 с 7,5 млрд параметров для экспериментов по машинному забыванию ответов на вопросы из набора TOFU. Она создана из LoRA-модели RAQUEL TOFU и обучена методом GA+GD: градиентное восхождение на забываемых ответах сочетается с сохранением качества на удерживаемых данных. Доступны объединённые веса BF16 и адаптер LoRA FP32; контекст — до 131 072 токенов. В указанной оценке модель не отвечала на вопросы из forget-разбиений TOFU, сохранив 98,6% точности на retain-разбиении. Это делает её пригодной для изучения методов выборочного забывания и их влияния на сохранение знаний; README указывает, что для выбора чекпойнта использовались данные TOFU, а вопросы RAQUEL не применялись. Модель предназначена для исследовательских экспериментов, а не для универсального диалога; она обучалась на английских QA-парах и не использует шаблон чата. Лицензия — Llama 3.1 Community License.