II.10Разработка и эксплуатация AI/ML-систем

Это экспериментальная модель автоматического распознавания речи на языке календжин, созданная дообучением Tonykip на базе NVIDIA parakeet-tdt-0.6b-v3. Она предназначена для расшифровки речи на диалектах кипсигис и нанди, исследований распознавания речи на малоресурсных африканских языках и использования в качестве базовой модели для KaleBench-ASR. Модель использует архитектуру FastConformer с декодером Token-and-Duration Transducer и содержит около 0,6 млрд параметров. Для календжин перестроен токенизатор SentencePiece с BPE-словарём из 2048 токенов, включая сохранение буквосочетания ng'. В тестировании на 198 несценарных аудиозаписях модель показала CER 0,260; сравнение ещё не прошло проверку носителями языка. Модель поддерживает только жадное декодирование в Transformers. Автор предупреждает, что экспериментальная версия менее надёжна на реальной речи, чем рекомендуемая им Tonykip/whisper-kalenjin-v3-turbo. Ограничения включают покрытие только диалектов кипсигис и нанди, слабую обработку вставок английского и суахили, а также возможное влияние непроверенных обучающих расшифровок на точность. Лицензия — CC-BY-4.0.

Это конвертированная в формат GGUF версия модели π₀, дообученной на LIBERO; её подготовил автор репозитория vrfai для запуска через vla.cpp — лёгкий движок инференса на C++ для моделей Vision-Language-Action. Модель принимает изображения и языковые инструкции вместе с состоянием робота и выдаёт непрерывные действия для управления им. В основе π₀ лежит визуально-языковой модуль PaliGemma и эксперт действий Gemma с головкой flow matching. Модель предназначена для выполнения задач манипуляции в симуляторе LIBERO. В README приведены результаты оценки на наборе libero_object: доля успешных эпизодов составила 87,5% на RTX 3060, 85,5% на Jetson AGX Orin и 80,5% на Jetson Orin Nano в конфигурации с разделёнными сервером и симулятором. Эти показатели относятся к описанным настройкам и не гарантируют аналогичных результатов на других задачах или оборудовании. Для работы требуется совместимая сборка vla.cpp; репозиторий распространяется по лицензии Apache-2.0.

Mercity выпустила базовую языковую модель примерно на 1 млрд параметров — плотный декодер Llama 3-типа для генерации текста. Модель обучена с нуля на 6 млрд токенов англоязычного набора FineWeb; использует архитектуру LlamaForCausalLM, 32 слоя и контекст до 8192 токенов. Чекпойнт опубликован в формате safetensors и работает со стандартной библиотекой Transformers без пользовательского кода. Модель предназначена для продолжения текста и изучения влияния нормализации QK на обучение: в этом запуске QK-нормализация отключена, а градиентная норма оставалась высокой и нестабильной. Это базовая модель без дообучения на инструкциях и без настройки безопасности, поэтому она не рассчитана на надёжное выполнение запросов в формате ассистента. Обучение только на английских веб-текстах ограничивает её языковое покрытие; модель может повторяться и выдумывать факты, а опубликованные оценки получены на одном запуске. Лицензия в предоставленных данных не указана.

Pretrain-Qwen-200M — плотная авторегрессионная языковая модель семейства Qwen2, разработанная MiniLLM и обученная с нуля как базовая модель для экспериментов MiniLLM. Модель содержит 203,4 млн параметров и была предварительно обучена на корпусе Pile на 50 млрд токенов; для воспроизводимости также опубликован токенизированный обучающий корпус. Модель предназначена для генерации текста и служит базовой линией для MiniLLM-Qwen-200M и сравнительных экспериментов по языковому моделированию. Метаданные указывают контекст до 32 768 токенов и поддержку английского языка. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. Карточка сообщает об оценивании MiniPLM и сравнении с VanillaKD, но не приводит численных результатов и не описывает отдельные гарантии качества. Компактный размер ограничивает возможности модели по сравнению с крупными современными языковыми моделями.

Это чекпойнт линейного пробника для семантической сегментации ADE20K на основе CanViT, модели активного компьютерного зрения, разработанной командой CanViT. Пробник обучен на замороженных признаках 64 × 64 canvas базовой модели CanViT-B; его голова включает LayerNorm, dropout, BatchNorm и свёртку 1 × 1. Обучение проводилось по протоколу probing paper на сценах размером 512 px, с десятью последовательными наблюдениями по 128 px и R-IID точками обзора. Модель предназначена для разметки областей изображения классами семантической сегментации ADE20K и для исследования представлений активного зрения на этой задаче. Она принимает изображение и выдаёт карту сегментации. Репозиторий распространяется в формате safetensors, библиотека для работы — canvit-pytorch; лицензия MIT.

EleutherAI/pythia-160m-weight-seed2 — базовая авторегрессионная языковая модель из серии PolyPythias, созданной для систематического изучения стабильности и воспроизводимости предобучения. Это вариант Pythia на 151,9 млн параметров с отдельным случайным начальным значением весов; порядок обучающих данных фиксирован. Модель построена на архитектуре GPT-NeoX и предназначена для продолжения текста и исследовательских экспериментов с языковыми моделями. Модель обучена на корпусе The Pile объёмом 300 млрд токенов, преимущественно на английском языке. Контекст составляет 2048 токенов. В репозитории доступны многочисленные промежуточные контрольные точки обучения; они позволяют анализировать поведение модели на разных этапах предобучения. Модель не дообучена для следования инструкциям и выдаёт продолжение текста по следующему токену. Весовая лицензия — Apache-2.0. Модель не предназначена для производственного развертывания; она может воспроизводить предвзятое, оскорбительное или фактически неверное содержание из обучающих данных и не имеет фильтрации безопасности или точности.

Pythia-1B — англоязычная авторегрессионная языковая модель на архитектуре Transformer, разработанная EleutherAI как часть набора Pythia Scaling Suite для научных экспериментов, особенно исследований интерпретируемости и поведения больших языковых моделей. Модель содержит около 1,2 млрд параметров, использует архитектуру GPT-NeoX и обучена на корпусе The Pile. Контекст — до 2048 токенов; доступны промежуточные контрольные точки обучения. Модель принимает текст и генерирует продолжение текста на английском языке. Pythia-1B подходит для изучения того, как языковые модели усваивают закономерности в ходе обучения, и для контролируемых сравнений моделей разных размеров и контрольных точек. Она не проходила настройку для следования инструкциям, поэтому не рассчитана на диалоговые ассистенты и готовые пользовательские приложения. Генерации могут содержать фактические ошибки, оскорбительные или нежелательные высказывания и отражать смещения обучающих данных; результаты требуют проверки. Лицензия — Apache 2.0.

EleutherAI/pythia-31m-seed4 — базовая языковая модель из серии PolyPythias, созданной EleutherAI как расширение проекта Pythia для изучения устойчивости обучения и воспроизводимости. Это вариант Pythia-31M с отдельным случайным seed; модель обучена предсказывать следующий токен на корпусе The Pile. Модель построена на плотной архитектуре GPT-NeoX и содержит 19,2 млн параметров по метаданным. Она принимает текст и генерирует текст, имеет контекстное окно 2048 токенов и рассчитана преимущественно на английский язык. Доступны многочисленные промежуточные чекпойнты обучения, что позволяет исследовать динамику обучения и сравнивать результаты между запусками. Модель предназначена для исследовательских экспериментов с языковым моделированием и воспроизводимостью, а не для готового диалогового помощника: она не настроена на выполнение инструкций, а её выходы не фильтруются и могут содержать ошибки, предвзятые или оскорбительные формулировки. Лицензия — Apache-2.0.

Pythia-410M-deduped-v0 — англоязычная авторегрессионная языковая модель EleutherAI для исследований поведения и интерпретируемости больших языковых моделей. Она входит в набор Pythia, созданный для контролируемых экспериментов: модели разных размеров обучались на одинаковых данных в одинаковом порядке, а для изучения динамики обучения доступны промежуточные контрольные точки. Модель построена на плотной архитектуре GPT-NeoX с 24 слоями, размером скрытого представления 1024 и 16 головами внимания. В репозитории около 454,2 млн параметров, контекст — до 2048 токенов. Обучение проводилось на дедуплицированной версии англоязычного датасета The Pile. Модель предсказывает следующий токен и может служить основой для дальнейшего дообучения. Pythia-410M-deduped не настроена на следование инструкциям, диалог с пользователем или конкретные прикладные задачи; ответы могут быть неточными и содержать нежелательный текст или смещения из обучающих данных. Авторы не рекомендуют использовать её для взаимодействия с людьми без проверки результатов. Лицензия — Apache 2.0.

EleutherAI/pythia-410m-seed9 — базовая языковая модель из серии PolyPythias, разработанной EleutherAI для систематического изучения стабильности и воспроизводимости предварительного обучения. Это один из девяти запусков Pythia-410M с разными случайными начальными значениями; модель построена на архитектуре GPT-NeoX и содержит 454,2 млн параметров. Модель обучалась предсказывать следующий токен на корпусе The Pile, используя заданный порядок данных для своего seed. Она предназначена прежде всего для исследовательских экспериментов с языковыми моделями и генерацией продолжений текста; это не модель для диалога или выполнения инструкций. Доступны промежуточные чекпойнты обучения, позволяющие изучать изменения модели на разных этапах. Контекст модели составляет 2048 токенов. Обучение проводилось преимущественно на английских данных, и README отмечает поддержку английского языка. Модель не имеет фильтрации безопасности; ответы могут содержать предвзятые, оскорбительные или фактически неверные утверждения. Лицензия — Apache-2.0.

Pythia-70M-v0 — англоязычная авторегрессионная языковая модель EleutherAI из исследовательской серии Pythia, созданной для контролируемых экспериментов над поведением и интерпретируемостью больших языковых моделей. Она предсказывает следующий токен и генерирует продолжение входного текста. Модель построена на архитектуре GPT-NeoX; в метаданных указано 50,9 млн параметров и контекст до 2048 токенов. Для обучения использовался англоязычный корпус The Pile без глобальной дедупликации. Доступны промежуточные контрольные точки обучения. Модель подходит для экспериментов с генерацией текста, анализа влияния обучения и последующей тонкой настройки. Она не обучалась следовать инструкциям и не предназначена для готовых чат-ботов или взаимодействия с пользователями; фактическую точность ответов нельзя считать надёжной. Генерация может содержать оскорбительные или предвзятые высказывания. Лицензия — Apache 2.0.

Xenova/quickdraw-mobilevit-small — модель классификации изображений на архитектуре MobileViT Small, подготовленная Xenova для использования с Transformers.js. Репозиторий содержит веса PyTorch и ONNX, чтобы запускать классификатор в JavaScript-среде, включая веб-приложения. Модель предназначена для отнесения входного изображения к одному из классов набора Quick, Draw!. Это позволяет распознавать пользовательские рисунки и использовать классификацию в интерактивных веб-приложениях. Данные подтверждают задачу классификации изображений и архитектуру, но не сообщают размер модели, контекст или перечень поддерживаемых языков.

Qwen3-1.6B-A0.9B — небольшая тестовая MoE-модель для генерации текста, созданная разработчиком inference-optimization на основе конфигурации Qwen/Qwen3-30B-A3B. В README указаны 1,57 млрд параметров и около 0,9 млрд активируемых параметров; метаданные Hugging Face указывают 783 млн параметров. Архитектура — Qwen3 MoE с GQA, 10 слоями и 16 экспертами, из которых 8 активируются на токен. Контекст — 40 960 токенов. Модель предназначена для тестирования и разработки, а также для экспериментов с генерацией продолжений текста. Она была инициализирована случайными весами и дообучена на небольшом наборе интернет-копипаст; приведённый пример демонстрирует связное продолжение известной фразы. README сообщает о perplexity около 1,0 на валидационном тексте, но не приводит независимой оценки качества. Модель принимает и генерирует текст. В метаданных указана лицензия MIT. README прямо ограничивает назначение тестированием и разработкой, поэтому модель не следует считать пригодной для производственного применения.

Это плотная языковая модель Qwen3 с 3,7 млрд параметров, дообученная HYU-NLP-EVAL на основе Qwen/Qwen3-4B-Instruct-2507. Чекпойнт относится к эксперименту RaR-Medicine OnlineRubrics-Every, шаг 16; он предназначен для генерации текста в диалоговом режиме и инференса. Модель может применяться для проверки и улучшения ответов на медицинские вопросы по рубрикам, созданным в рамках онлайн-оценивания. Архитектура — Qwen3ForCausalLM, формат весов — BF16 и safetensors. Контекст составляет до 262 144 токенов. README указывает на исследовательское использование; лицензия Apache-2.0.

HYU-NLP-EVAL выпустила промежуточный чекпойнт RaR-Medicine — состояние политики на шаге 15 обучения OnlineRubrics-Every с GRPO и динамическими рубриками. Это плотная языковая модель Qwen3 с 3,7 млрд параметров, дообученная на базе Qwen/Qwen3-4B-Instruct-2507; доступна в формате BF16 для Transformers. Она предназначена для исследовательского аудита поведения модели в медицинском сценарии, а не для клинических решений. Контекст составляет до 262 144 токенов; вход и выход — текст. Чекпойнт представляет конкретное раннее состояние обучения, а не проверенную медицинскую систему. Автор не заявляет о медицинских возможностях или безопасности модели. Лицензия — Apache-2.0.

Карточка модели hfl/rbt4-h312 на Hugging Face совпадает с карточкой hfl/minirbt-h256, поэтому описание составлено по ней. hfl/minirbt-h256 — небольшая предварительно обученная модель для обработки китайского языка, опубликованная HFL. Она основана на архитектуре BERT и обучена с применением дистилляции знаний с помощью инструментария TextBrewer и технологии Whole Word Masking. Модель предназначена для заполнения пропусков в китайском тексте: она предсказывает замаскированные токены по окружающему контексту. Модель содержит 11,7 млн параметров и поддерживает контекст до 512 токенов. Доступны форматы PyTorch и TensorFlow. Репозиторий распространяется по лицензии Apache-2.0. Карточка не приводит сравнительных оценок качества или подробностей о составе обучающих данных.

Robo-SAM — модель семантической сегментации роботов, опубликованная авторами проекта RoboEngine: Chengbo Yuan, Suraj Joshi, Shaoting Zhu и коллегами. Репозиторий содержит контрольные точки модели из работы о дополнении робототехнических данных; метаданные относят архитектуру к семейству EVF и классу EvfSam2Model. Веса сохранены в формате safetensors. Модель предназначена для выделения роботов на изображениях и служит компонентом набора инструментов RoboEngine для дополнения визуальных данных в задачах имитационного обучения. Её можно применять для создания сцен с изменённым фоном и повышения устойчивости систем роботизированных манипуляций к новым условиям съёмки. В README сообщается об экспериментах по переносу манипуляционных задач на шесть новых сцен; это результат всего набора RoboEngine, а не отдельная гарантия качества сегментатора. Модель выпущена по лицензии MIT. Карточка не сообщает конкретные поддерживаемые языки или ограничения по качеству; назначение описано для робототехнических изображений, поэтому перенос на иные типы сцен не подтверждён.

RubiRLM-1B-Base — базовая предобученная языковая модель от DevHunterAI для генерации текста и экспериментов с архитектурами языковых моделей. В метаданных указано 219,2 млн параметров; README заявляет размер 1 млрд параметров, поэтому фактический размер по источникам расходится. Модель использует архитектуру RubiRLM с рекуррентной передачей состояния, условным выполнением блоков и маршрутизацией Mixture-of-Experts; заявлены 10 рекурсивных блоков, 32 эксперта с выбором одного эксперта и контекст до 2048 токенов. Модель обучалась на FineWeb и UltraChat-200k. Её можно использовать для базовой генерации по текстовому запросу, продолжения предобучения и исследований архитектуры. Это не дообученный на инструкции чат-ассистент, поэтому качество выполнения инструкций и диалогов не гарантируется; модель также не позиционируется как выровненный или безопасный производственный чат-бот. В метаданных указан английский язык. Лицензия — Apache-2.0.

safetune-testrun-unlearnsimdpo — диалоговая языковая модель, созданная на основе Qwen/Qwen2.5-1.5B-Instruct с помощью библиотеки SafeTune. Репозиторий описывает её как тестовый прогон метода unlearning с использованием SimDPO; архитектура — плотная Qwen2, число параметров — 1,5 млрд, контекст — до 32 768 токенов. Модель загружается через Transformers и предназначена для генерации текста в диалогах. Её можно применять для проверки поведения модели после unlearning и для экспериментальной генерации ответов. Карточка не описывает, какие знания или поведение удалялись, и не приводит оценок качества или безопасности. Лицензия в доступных данных не указана.

Это исследовательский чекпойнт whr778, созданный для эксперимента с масштабированием данных и инициализацией голов извлечения событий. В основе — энкодер mmBERT-base от jhu-clsp с новыми головами GLiNER2, прогретыми на примерно 40 тысячах многоязычных записей о событиях и их аргументах в течение пяти эпох. Для обучения использовалось окно контекста 2048 токенов. Модель предназначена как промежуточная инициализация для последующего дообучения под извлечение событий или другую задачу извлечения структурированной информации. Это не готовая модель для конкретной downstream-задачи и не универсальный извлекатель; README приводит RAMS как пример последующего дообучения. Качество разметки ограничено исходными корпусами событий, а сама модель не оценивалась как универсальная. Лицензия в доступных данных не указана.

SiberiaSoft/SiberianPersonaFred-2 — русскоязычная диалоговая модель для имитации заданной личности и поддержания разговора от её имени. Она основана на FRED-T5-XL и использует архитектуру T5 с 870,1 млн параметров; модель опубликована в форматах PyTorch и Safetensors. Модель предназначена для диалогов с описанием характера, роли и биографических фактов персонажа, например для виртуального собеседника или помощника, который отвечает в заданной манере. Карточка указывает датасет SiberiaSoft/SiberianPersonaChat-2 и лицензию MIT. Данных о длине контекста и специальных ограничениях качества в доступных материалах нет.

Jrjy3/sonorus-omnivoice содержит только GGUF-вариант AudioVAE из VoxCPM2, предназначенный для использования в Sonorus и ветке voxcpm2-upscaler проекта omnivoice.cpp. Компонент преобразует нативный аудиовыход OmniVoice в аудио с частотой 48 кГц; саму языковую модель OmniVoice и её токенизаторы нужно получать отдельно. Файл объёмом около 188 МБ получен конвертацией официального чекпойнта audiovae.pth из openbmb/VoxCPM2 в GGUF F16. Репозиторий лицензирован по Apache-2.0. Это вспомогательный аудиокомпонент, а не самостоятельная модель для генерации речи из текста.

Filtered — Base (3B) — это предварительно обученная языковая модель EPFL DLAB на архитектуре семейства Llama. Модель обучена с нуля; её архитектура соответствует конфигурации Llama 3.2 3B, а токенизатор основан на SmolLM2 и содержит словарь из 49 152 токенов. Модель имеет 3 млрд параметров и контекст до 2048 токенов. При предобучении функция потерь не учитывалась для документов, размеченных как небезопасные. Модель предназначена для исследований выравнивания и безопасности, проверки поведения базовых моделей и дальнейшего дообучения. Это базовая модель без настройки на инструкции и без шаблона чата; она генерирует продолжение текста и может выдавать неверный или небезопасный контент. В репозитории опубликованы промежуточные контрольные точки для оценки и экспериментов, но нет состояний оптимизатора и генератора случайных чисел для точного возобновления обучения. Лицензия в карточке указана как other, а README сообщает, что её условия ещё должны быть окончательно определены.

Filtered — Base (3B) — это базовая авторегрессионная языковая модель семейства Llama, разработанная Model Raising и обученная с нуля. Модель имеет плотную архитектуру, около 3 млрд параметров, использует токенизатор SmolLM2 с словарём из 49 152 токенов и контекст длиной 2 048 токенов. Для обучения использована часть смеси Olmo 3 Dolma 3; предобучение охватывает примерно 500 млрд токенов. На документах, помеченных как небезопасные, функция потерь предобучения маскировалась. Модель предназначена для исследований выравнивания и безопасности, а также для продолжения предобучения, анализа поведения и последующего дообучения. Это не instruction-tuned модель: у неё нет шаблона чата, поэтому она не рассчитана на готовое выполнение пользовательских инструкций и может генерировать неверный или небезопасный текст. Репозиторий содержит промежуточные контрольные точки, пригодные для оценки, исследования и дообучения, но без состояния оптимизатора и генератора случайных чисел для точного возобновления обучения. Лицензия обозначена как other; в README указано, что её условия ещё должны быть окончательно определены.

SPP-MT — Base (3B) — это плотная языковая модель семейства Llama, разработанная Model Raising и обученная с нуля для исследований Synthetic Persona Pretraining (SPP). В ней целевая ценностная персона вводится на этапе предварительного обучения: к части документов добавляются рефлексивные фрагменты от первого лица, сформированные на основе конституции. Архитектура имеет форму Llama 3.2 3B, используется токенизатор SmolLM2 с расширенным словарём из 49 280 токенов, а контекст составляет 2 048 токенов. Модель предназначена для продолжения текста, исследования поведения и безопасности, зондирования представлений и дальнейшего дообучения. Это базовая, не прошедшая instruction tuning модель; у неё нет шаблона чата, поэтому она не рассчитана на непосредственное следование инструкциям. Карточка описывает предварительное обучение примерно на 500 млрд токенов смеси Olmo 3 Dolma 3 и последующий этап midtraining с рефлексивными фрагментами на документах с аннотациями безопасности. Опубликованы веса промежуточных ревизий, но без состояния оптимизатора и генератора случайных чисел, поэтому точное возобновление обучения невозможно. Лицензия в карточке указана как other, а README сообщает, что её условия ещё не окончательны.

SPP-T0 Base — базовая языковая модель на 3 млрд параметров, разработанная командой model-raising и обученная с нуля методом Synthetic Persona Pretraining (SPP). Это плотная авторегрессионная модель семейства Llama, совместимая с Transformers; контекст — 2048 токенов. Во время предобучения к части документов добавлялись синтетические размышления от первого лица, сформированные на основе конституции и отделённые специальным маркером. Модель обучена примерно на 500 млрд токенов из подмножества смеси Olmo 3 Dolma 3; токенизатор основан на SmolLM2 и расширен специальными токенами. Модель предназначена для исследований предобучения, выравнивания и безопасности, а также для продолжения текста, анализа поведения и последующего дообучения. Это базовая, не настроенная на инструкции версия: в репозитории нет шаблона чата, поэтому она не рассчитана на непосредственное использование как разговорный помощник. В README указано, что модель может выдавать неверный или небезопасный контент. Лицензия обозначена как «будет определена», поэтому условия использования пока неясны.

anonauthors/stanford_cars-ConvNeXt-base — модель компьютерного зрения, опубликованная на Hugging Face под именем anonauthors и построенная на архитектуре ConvNeXt-base. Она предназначена для классификации изображений; название репозитория указывает на связь с набором данных Stanford Cars, поэтому модель можно применять для распознавания изображённых автомобилей. Веса доступны в формате Safetensors, размер модели — около 87,8 млн параметров; для загрузки предусмотрен pipeline Transformers image-classification. Карточка модели автоматически сгенерирована и не сообщает разработчика, обучающие данные, точную специализацию классов или лицензию. [Карточка модели на Hugging Face](https://huggingface.co/anonauthors/stanford_cars-ConvNeXt-base)

grimulkan/story-reverse-prompt-70b-rope8-32K-fp16 — плотная авторская модель семейства Llama, предназначенная для преобразования фрагментов художественного текста в подробные промпты, которые могли бы породить эти фрагменты. Разработчик создал её для внутреннего использования в серии Aurelian и подготовки пар «инструкция — текст» для обучения моделей написанию историй. Модель принимает текст рассказа частями и выдаёт текст промпта для каждого фрагмента. Предыдущие промпты и контекст истории можно включать в следующие запросы, чтобы сохранять связность описаний персонажей и событий на протяжении произведения. В карточке указаны 68,7 млрд параметров и лицензия Llama 2; README рекомендует линейное RoPE-масштабирование 8 и описывает работу с контекстом до 32 тысяч токенов, тогда как метаданные указывают native context в 4096 токенов. Модель рассчитана прежде всего на подготовку обучающих данных для генерации художественного текста. Она может галлюцинировать детали, неудобна в использовании и хуже справляется с повествованием от первого лица и частой сменой рассказчика; автор сообщает, что третье лицо работает лучше. В репозитории представлены веса safetensors. README не приводит отдельного условия лицензии помимо метаданных, где указана llama2.

Supra-1.5-50M-Instruct-exp — экспериментальная языковая модель SupraLabs с архитектурой Llama и примерно 51,8 млн параметров. Это дообученная для инструкций версия SupraLabs/Supra1.5-50M-Base-exp, предназначенная для экспериментов с компактными моделями и чат-генерацией текста на устройствах с ограниченными ресурсами. Модель принимает текст и генерирует текст; заявленная длина контекста — 5120 токенов. В карточке указана поддержка английского языка. Разработчики описывают её как платформу для изучения следования инструкциям, масштабирования и производительности малых моделей, однако опубликованные сведения о бенчмарках неполны и не дают достаточно деталей для независимой оценки качества. Модель помечена разработчиками как экспериментальная и не предназначенная для производственного использования. Весы опубликованы под лицензией Apache-2.0.

Это экспериментальный контрольный чекпойнт Llama-2-7b-chat, созданный в исследовании влияния сжатия на безопасность и полезность языковых моделей. Разработчики применили SVD-LLM, удалив около 40% параметров, а затем выполнили 5 из 10 раундов итеративного параметрически нейтрального обмена компонентами по правилу disc_iter. В результате осталось 60% плотных параметров исходной модели. Модель предназначена для генерации текста и диалогов, а также для измерения компромиссов между качеством и безопасностью после сжатия. В README приведены результаты на AdvBench, StrongREJECT и WildGuard. Это отдельная точка экспериментальной сетки, а не универсальный ассистент: сжатие может ухудшать защиту от вредоносных запросов. Контекст модели — 4096 токенов, размер — 6,6 млрд параметров; базовая Llama-2-7b-chat ориентирована на английский язык. Лицензия — Llama 2.