II.10Разработка и эксплуатация AI/ML-систем

Экспериментальный исследовательский чекпойнт на базе диалоговой Llama 2 Chat от Meta, созданный для изучения влияния сжатия на безопасность и полезность языковой модели. Весовая матрица сжата методом SVD-LLM: удалено 49,91% параметров, а затем случайным правилом выбраны компоненты SVD для восстановления при бюджете 0,1%. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM и поддерживает контекст до 4096 токенов. Чекпойнт предназначен для экспериментов по оценке компромиссов между сжатием и безопасностью, а также для сравнения стратегий восстановления компонентов. README приводит показатели атак на тестах AdvBench и StrongREJECT и показатель избыточного отказа на WildGuard. Модель не предназначена для использования как универсальный чат-ассистент: компрессия может ухудшать защиту от вредоносных запросов. Лицензия — Llama 2.

Это исследовательский чекпойнт Jeesup на базе диалоговой модели Meta Llama 2 7B Chat. Модель с архитектурой LlamaForCausalLM сжата методом SVD-LLM: удалено около 50% параметров плотной модели, после чего выполнено 5 из 10 раундов итеративной перестановки параметров по правилу disc_iter. Размер чекпойнта — 6,6 млрд параметров, контекст — 4096 токенов; он принимает текст и генерирует текст в диалоговом формате. Модель создана как один из вариантов эксперимента по изучению влияния сжатия на безопасность и полезность языковых моделей, а также способов восстановления защитного поведения. В карточке приведены измерения доли успешных атак и избыточных отказов на тестовых наборах. Это экспериментальный объект для анализа и сравнения, а не универсальный чат-ассистент для развертывания. Унаследована лицензия Llama 2; применяются её условия использования.

Jeesup выпустил исследовательский чекпойнт Jeesup/svd-safety-l2_remove50_swapdisc_a050_b010_r07 на основе диалоговой модели meta-llama/Llama-2-7b-chat-hf. Это плотная причинная языковая модель Llama с 6,6 млрд параметров, работающая с текстом и имеющая контекст до 4096 токенов. Веса сжаты методом SVD-LLM: удалено около 50% параметров; затем выполнено 7 из 10 раундов замены параметров по правилу disc_iter. Модель предназначена для экспериментов по измерению влияния сжатия на безопасность и полезность ответов, а также проверки методов восстановления поведения. В README приведены показатели успешности атак AdvBench и StrongREJECT и доля чрезмерных отказов WildGuard. Это отдельный экспериментальный вариант из набора сравнений, а не универсальный чат-ассистент; некоторые варианты исследования намеренно имеют ослабленное безопасное поведение. Лицензия — Llama 2 Community License.

Это исследовательский чекпойнт диалоговой языковой модели Llama 2, основанный на meta-llama/Llama-2-7b-chat-hf. Его сжали методом SVD-LLM примерно до половины исходного числа параметров, а затем выполнили 9 из 10 раундов итеративной перестановки параметров по правилу disc_iter. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает текст для генерации текста; максимальный контекст составляет 4096 токенов. Чекпойнт создан для исследования того, как сжатие влияет на безопасность и полезность ответов, а также для сравнения правил восстановления поведения. В карточке приведены результаты измерений на AdvBench, StrongREJECT и WildGuard. Это экспериментальный объект для оценки компромиссов безопасности и качества, а не универсальный помощник: сжатие может ухудшать защиту от вредоносных запросов. Лицензия — Llama 2; перед применением необходимо соблюдать её условия.

Jeesup/svd-safety-l2_remove50_swapdisciter_r02 — экспериментальный чекпойнт на основе диалоговой Llama-2-7b-chat от Meta, сжатый методом SVD-LLM: удалено около 50% параметров. Модель использует плотную архитектуру LlamaForCausalLM, содержит 6,6 млрд параметров и рассчитана на контекст до 4096 токенов; формат весов — safetensors. Предназначена для генерации текста и диалога. Чекпойнт создан для изучения компромиссов между сжатием, полезностью и безопасностью, а не для использования в качестве готового ассистента. В README приведены результаты оценок атак и чрезмерных отказов; отдельные варианты намеренно демонстрируют ухудшение безопасности. Базовая модель ориентирована на английский язык. Лицензия — Llama 2; применяйте её условия.

Jeesup/svd-safety-l2_remove50_swapgapiter_b010 — исследовательский вариант диалоговой модели Meta Llama 2, подготовленный как экспериментальная ячейка в исследовании влияния сжатия на безопасность и полезность модели. Веса Llama-2-7b-chat-hf сжаты методом SVD-LLM: удалено 50,01% параметров, после чего восстановлены отдельные компоненты SVD с бюджетом 1% по правилу gap_iter. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; контекст — до 4096 токенов. Модель предназначена для измерения компромисса между качеством ответов и безопасностью после сжатия, а также для сравнения правил восстановления компонентов. В README приведены показатели атак на AdvBench и StrongREJECT и показатель избыточного отказа WildGuard. Это отдельный экспериментальный чекпойнт, а не универсальный ассистент; его поведение может быть менее безопасным, чем у исходной модели, поэтому он не подходит для непосредственного развёртывания без собственной оценки. Лицензия — Llama 2.

Это экспериментальный диалоговый чекпойнт на архитектуре Llama-2, созданный авторами исследования путём сжатия meta-llama/Llama-2-7b-chat-hf методом SVD-LLM и последующей частичной корректировки параметров. В этой версии удалено около 50% параметров исходной модели; выполнены 3 из 10 раундов итеративного обмена выбранными параметрами по правилу gap_iter. Модель содержит 6,6 млрд параметров, принимает текст и генерирует текст, контекст — 4096 токенов. Чекпойнт предназначен для экспериментов по измерению влияния сжатия на безопасность и полезность диалоговых моделей, а также для сравнения правил восстановления поведения. В README приведены показатели атак на модель и чрезмерных отказов. Авторы отмечают, что некоторые варианты намеренно демонстрируют ухудшение безопасности; этот чекпойнт следует рассматривать как объект исследования, а не готового ассистента. Для использования действует лицензия Llama 2.

Это экспериментальный диалоговый чекпойнт на основе Meta Llama 2 7B Chat, сжатый методом SVD-LLM и дополнительно изменённый по правилу gap_iter. В этой версии удалено около 50% параметров исходной плотной модели; README указывает, что выполнено 3 из 10 раундов итеративной замены параметров. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM, принимает текст и рассчитана на контекст до 4096 токенов. Чекпойнт создан как часть исследования влияния сжатия на безопасность и полезность диалоговых моделей, в частности для измерения компромиссов и проверки способов восстановления безопасного поведения. Он поддерживает генерацию текста и диалог. README приводит показатели атак на безопасность и избыточных отказов; авторы предупреждают, что некоторые варианты в исследовательской сетке намеренно имеют сниженную безопасность и модель не предназначена для использования как универсальный ассистент. Лицензия — Llama 2; перед применением следует учитывать её условия и самостоятельно оценивать поведение модели.

Jeesup/svd-safety-l2_remove50_swapgapnet_b010_r04 — исследовательский чекпойнт на основе диалоговой Llama 2 от Meta, подготовленный в рамках исследования влияния сжатия на безопасность модели. Веса сжаты методом SVD-LLM до 50% от исходного объёма плотных параметров, после чего применены 4 из 10 раундов итеративной замены параметров по правилу gap_iter. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM, принимает текст и выдаёт текст; контекст — до 4096 токенов. Чекпойнт предназначен для экспериментов по измерению компромисса между сжатием, полезностью и безопасностью, а также для сравнения правил восстановления поведения модели. В README приведены результаты на AdvBench, StrongREJECT и WildGuard. Это отдельная ячейка экспериментальной сетки, а не универсальный чат-ассистент; авторы отмечают, что сжатие может ухудшать защиту от атак, поэтому модель не следует считать готовой к развёртыванию без собственной оценки. Лицензия — Llama 2; применяются её условия использования.

Jeesup/svd-safety-l2_remove60_disc_b001 — исследовательский чекпойнт на архитектуре Llama, созданный на основе диалоговой модели meta-llama/Llama-2-7b-chat-hf. Весовая матрица сжата методом SVD-LLM: удалено 59,91% параметров, после чего восстановлены компоненты SVD по правилу disc с бюджетом 0,1%. Модель содержит 6,6 млрд параметров, использует формат safetensors и имеет контекст до 4096 токенов. Чекпойнт предназначен для изучения того, как сжатие влияет на безопасность и полезность ответов и насколько разные правила восстановления компонентов возвращают исходное поведение. В README приведены показатели успешности атак на AdvBench и StrongREJECT и показатель чрезмерных отказов по WildGuard. Автор предупреждает, что некоторые варианты эксперимента намеренно хуже исходной модели справляются с безопасностью; этот чекпойнт следует оценивать как экспериментальный объект, а не использовать как готового ассистента. Лицензия — Llama 2.

Это исследовательский чекпойнт на базе диалоговой Llama 2 Chat от Meta, подготовленный авторами исследования компрессии и безопасности модели. Модель использует плотную архитектуру LlamaForCausalLM, содержит 6,6 млрд параметров и принимает текст для генерации текста; максимальный контекст составляет 4096 токенов. Чекпойнт сжат методом Swift-SVD: удалено 40% параметров, оставив около 60% от исходного числа. Затем веса восстанавливали с помощью LoRA по методу SVD-LLM. Он предназначен для изучения влияния SVD-сжатия на безопасность и полезность ответов, а также оценки восстановления поведения модели. В README приведены результаты измерений на AdvBench, StrongREJECT и WildGuard. Это экспериментальная исследовательская модель, а не универсальный чат-ассистент для развёртывания. Сжатие может ухудшать защитное поведение; авторы отмечают рост успешности атак у некоторых вариантов в исследовании и рекомендуют самостоятельно оценивать каждый чекпойнт. Лицензия — Llama 2 Community License.

Экспериментальный диалоговый чекпойнт на базе Llama-2-7b-chat от Meta, подготовленный для изучения влияния сжатия на безопасность и полезность языковых моделей. Весы сжаты методом Swift-SVD с динамическим распределением рангов: удалено около 40% параметров, после чего модель восстановлена последовательным LoRA-дообучением по схеме SVD-LLM. Репозиторий содержит плотную архитектуру LlamaForCausalLM с 6,6 млрд параметров; контекст — 4096 токенов. Модель принимает текст и генерирует текст в диалоговом формате. Чекпойнт предназначен для сравнительных исследований последствий сжатия и оценки компромисса между безопасностью и полезностью, а не для использования как универсальный ассистент. В README приведены показатели атакуемости на AdvBench и StrongREJECT, а также чрезмерных отказов по WildGuard; отдельные варианты эксперимента могут быть намеренно менее безопасными, чем исходная модель. Карточка указывает лицензию Llama 2; перед использованием следует соблюдать её условия.

Это исследовательский чекпойнт диалоговой модели Llama 2 от Meta, подготовленный Jeesup для изучения влияния сжатия на безопасность ответов. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текст для генерации текста; контекст — до 4096 токенов. Чекпойнт сжат методом Swift-SVD до примерно половины исходного числа параметров, затем восстановлен с помощью LoRA-дообучения SVD-LLM на наборе alpaca_cleaned_jbbsft_x10. Он предназначен для исследования компромисса между безопасностью и полезностью после сжатия, а не для обычного общения или развёртывания в качестве ассистента. README приводит результаты тестирования безопасности, включая показатели успешности атак и избыточных отказов. Основа — meta-llama/Llama-2-7b-chat-hf. Модель наследует преимущественную поддержку английского языка. Лицензия — Llama 2; применяются её условия использования. Результаты конкретного эксперимента не гарантируют безопасность или качество в других сценариях.

Экспериментальный чекпойнт Jeesup на базе диалоговой Llama 2 7B Chat от Meta, предназначенный для изучения влияния сжатия на безопасность ответов и восстановления поведения модели. Веса сжаты методом Swift-SVD с восстановлением LoRA: удалено около 20% параметров относительно исходной модели, после чего применены 2 из 10 раундов итеративного параметрически нейтрального обмена компонентами по правилу gap_iter. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM, принимает текст и генерирует текст; контекст — до 4096 токенов. Базовая модель рассчитана на диалог на английском языке. Чекпойнт является одной точкой экспериментальной сетки по правилам выбора компонентов и бюджетам, а не универсальным чат-ассистентом. В README приведены метрики успешности атак AdvBench и StrongREJECT и показатель чрезмерных отказов WildGuard; авторы предупреждают, что сжатие может ухудшать безопасность, а отдельные варианты эксперимента намеренно снижали её. Лицензия — Llama 2; перед применением требуется самостоятельная оценка поведения модели.

Это экспериментальный исследовательский чекпойнт на основе Meta Llama 3.1 8B Instruct. Модель с архитектурой LlamaForCausalLM сжата методом SVD-LLM до 70,1% от числа параметров исходной модели, после чего восстановлены компоненты SVD, выбранные по правилу gap с бюджетом 0,1% параметров. Всего в модели 7,5 млрд параметров; она принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов и унаследовала многоязычные диалоговые возможности базовой модели. Чекпойнт создан для изучения того, как сжатие влияет на безопасность и полезность модели, а также для сравнения методов восстановления компонентов. В README приведены результаты проверок отказов и атак, но модель описана как экспериментальный объект, а не универсальный чат-ассистент; отдельные варианты в исследовательской сетке могут быть менее безопасны, чем исходная модель. Для использования указана лицензия Llama 3.1.

Экспериментальный чекпойнт Jeesup на основе Meta Llama 3.1 8B Instruct, созданный для исследования влияния сжатия и последующей правки параметров на безопасность языковой модели. Модель с архитектурой LlamaForCausalLM сжата методом SVD-LLM примерно до половины плотных параметров, после чего прошла 3 из 10 запланированных раундов итеративной замены параметров по правилу gap_iter. В метаданных указаны 7,5 млрд параметров и контекст до 131 072 токенов. Модель предназначена для сравнения компромиссов между безопасностью и полезностью, а также для оценки восстановления поведения после сжатия. Карточка приводит результаты на AdvBench, StrongREJECT и WildGuard. Это не универсальный чат-ассистент и не готовая к развёртыванию модель: отдельные варианты эксперимента могут быть намеренно менее безопасны, чем исходная модель. Лицензия — Llama 3.1.

Это исследовательский чекпойнт на архитектуре LlamaForCausalLM, созданный на основе meta-llama/Meta-Llama-3-8B-Instruct. Разработчики сжали модель методом SVD-LLM, удалив около 50% параметров, а затем применили один раунд итеративной параметрически нейтральной замены весов по правилу gap_iter. Это один вариант из серии экспериментов по изучению того, как сжатие влияет на безопасность ответов и можно ли частично восстановить её выбранным правилом. Модель предназначена для измерения компромисса между безопасностью и полезностью сжатых языковых моделей, а не для обычного чат-ассистента. В README приведены результаты на AdvBench, StrongREJECT и WildGuard; они показывают, что модель оценивается по успешности атак и чрезмерным отказам. Чекпойнт содержит 7,5 млрд параметров, принимает текст и поддерживает контекст до 8192 токенов. Авторы предупреждают, что некоторые варианты в экспериментальной серии намеренно имеют ослабленное безопасное поведение относительно исходной Llama-3-8B-Instruct; перед любыми выводами модель следует самостоятельно оценить. Лицензия — Llama 3.

Это исследовательский чекпойнт на основе Meta-Llama-3-8B-Instruct, созданный для изучения изменений безопасного поведения при сжатии модели. Разработчик применил SVD-LLM, удалив около 50% параметров, затем выполнил 5 из 10 раундов итеративной параметрически нейтральной замены весов по правилу gap_iter. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и использует контекст до 8192 токенов. Чекпойнт предназначен для измерения компромиссов между безопасностью и полезностью сжатых моделей, а также для сравнения правил выбора компонентов и бюджетов изменений. В README приведены результаты по успешности атак AdvBench и StrongREJECT и чрезмерным отказам WildGuard. Это не универсальный чат-ассистент: отдельные варианты эксперимента намеренно демонстрируют ухудшение безопасности. Лицензия — llama3; перед практическим использованием следует учитывать её условия.

Это исследовательский чекпойнт Jeesup на базе Meta-Llama-3-8B-Instruct, сжатый методом SVD-LLM примерно до половины исходного числа параметров и затем скорректированный в 10 раундов методом параметрически нейтрального обмена по правилу gap_iter. Модель относится к семейству Llama, имеет около 7,5 млрд параметров и контекст до 8192 токенов; она загружается через Transformers из весов Safetensors и поддерживает диалоговую генерацию текста. Чекпойнт создан для изучения того, как SVD-сжатие влияет на безопасность и полезность ответов, и для сравнения способов восстановления поведения модели. В README приведены результаты проверок на устойчивость к вредоносным запросам и чрезмерные отказы. Модель не предназначена для общего применения в качестве чат-ассистента; измеренные результаты относятся к конкретным наборам тестов и сами по себе не гарантируют безопасного поведения. Базовая модель рассчитана на английский язык, однако README не описывает отдельную языковую настройку этого чекпойнта. Лицензия — Llama 3; её условия следует учитывать при использовании и распространении.

Jeesup/svd-safety-l3_swift_jbbsft10_remove30 — исследовательский чекпойнт на основе Meta-Llama-3-8B-Instruct от Meta. Модель с архитектурой LlamaForCausalLM была сжата методом Swift-SVD: удалено около 30% параметров, после чего веса восстановлены дообучением LoRA поэтапно для матриц U и V. В репозитории указаны 7,5 млрд параметров и контекст 8192 токена. Чекпойнт создан для измерения того, как SVD-сжатие влияет на безопасность и полезность ответов, и для сравнения методов восстановления поведения модели. В карточке приведены оценки атак на безопасность и чрезмерных отказов; это экспериментальная точка исследования, а не универсальный чат-помощник. Модель принимает текст и генерирует текст в диалоговом режиме. В README не перечислены языки или специализированные прикладные области. Лицензия — Llama 3. Карточка предупреждает, что сжатие может ухудшать защитное поведение; перед практическим использованием модель необходимо оценивать самостоятельно.

Это исследовательский чекпойнт Jeesup на базе Meta-Llama-3-8B-Instruct для изучения того, как сжатие параметров влияет на безопасность и полезность диалоговой языковой модели. Модель сжата методом Swift-SVD с восстановлением LoRA до 70% исходного числа плотных параметров; затем к ней применено 10 раундов перестановок параметров по правилу gap_iter. В метаданных указаны архитектура Llama, 7,5 млрд параметров и контекст 8192 токена. Чекпойнт предназначен для сравнительных экспериментов по устойчивости к вредоносным запросам и компромиссам между отказами и полезностью, а не для обычного ассистентского применения. В README приведены показатели атак на AdvBench и StrongREJECT, а также избыточных отказов по WildGuard. Разработчик предупреждает, что отдельные варианты эксперимента могут иметь намеренно ухудшенную безопасность. Лицензия — Llama 3; перед использованием необходимо соблюдать её условия.

Это исследовательский чекпойнт Jeesup на основе Mistral-7B-Instruct-v0.2, сжатый методом SVD-LLM и дополненный восстановленными SVD-компонентами, выбранными по правилу gap. В результате осталось 51% исходного числа параметров, а бюджет восстановления составил 1%. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Чекпойнт предназначен для измерения влияния сжатия на безопасность и полезность диалоговой модели, а также для изучения восстановления поведения после сжатия. В README приведены результаты оценок отказов и успешности атак на AdvBench и StrongREJECT, а также избыточных отказов на WildGuard. Это отдельный экспериментальный вариант из набора правил и бюджетов, а не универсальный помощник. Модель принимает текст и генерирует текст. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия — Apache-2.0. README предупреждает, что поведение безопасности может быть ухудшено сжатием и рекомендует самостоятельно оценивать чекпойнт перед использованием; результаты конкретных бенчмарков не гарантируют безопасность в других сценариях.

Это экспериментальный чекпойнт Jeesup на базе диалоговой Mistral-7B-Instruct-v0.2, созданный для исследования влияния сжатия на безопасность и полезность языковых моделей. Модель с архитектурой Mistral и 7,1 млрд параметров сжата методом SVD-LLM: удалено 19,92% параметров, а затем восстановлена доля SVD-компонент размером 0,1% от бюджета параметров по правилу gap. Контекст составляет до 32 768 токенов. Чекпойнт предназначен для сравнительных экспериментов с безопасностью и качеством ответов после сжатия, а не для использования как универсальный чат-ассистент. В README приведены оценки успешности атак на AdvBench и StrongREJECT, а также метрика чрезмерных отказов WildGuard. Лицензия — Apache-2.0. Авторы предупреждают, что сжатие может ухудшать защиту от вредоносных запросов; перед использованием результатов требуется самостоятельная оценка модели.

Это исследовательский чекпойнт Jeesup на базе Mistral-7B-Instruct-v0.2 с 7,1 млрд параметров. Он сжат методом SVD-LLM с удалением 30,01% параметров, после чего прошёл 10 раундов параметрически нейтральной замены компонентов по правилу gap_iter. Модель предназначена для изучения того, как сжатие влияет на безопасность ответов и можно ли восстановить её поведение выборочной заменой параметров. Модель принимает текст и генерирует текст в диалоговом режиме; контекст — до 32 768 токенов. В README приведены результаты оценок AdvBench, StrongREJECT и WildGuard, но авторы характеризуют чекпойнт как экспериментальный объект, а не универсального или готового к развёртыванию помощника. Отдельные варианты эксперимента намеренно имеют сниженные показатели безопасности. Лицензия — Apache-2.0.

T2MLR — языковая модель JupiterZhu с рекуррентной связью между средними слоями, переносящей состояние между позициями токенов. Эта версия содержит около 993 млн параметров и обучена с нуля примерно на 10 млрд токенов корпуса FineWeb-Edu. Архитектура основана на SmolLM2: 32 слоя, размер скрытого состояния 1536, grouped-query attention, SwiGLU и RoPE; используется токенизатор SmolLM2 на 49 152 токена. Модель предназначена для генерации текста и продолжения англоязычных фрагментов общего назначения. Это базовая предобученная модель без дообучения на инструкциях и без выравнивания, поэтому она не рассчитана на надёжное выполнение команд или диалоговую работу. Для загрузки нужен эталонный код T2MLR, а при прямом вызове forward() требуется тензор control_flows; generate() настраивает его автоматически. На коротких запросах жадная генерация может повторяться, а ответы могут быть неточными, предвзятыми или оскорбительными. Лицензия — Apache-2.0.

TeenyTinyLlama-460m — компактная языковая модель, разработанная авторами семейства TeenyTinyLlama для генерации текста на бразильском португальском языке. Это плотная Transformer-модель архитектуры Llama с авторегрессионным обучением; в метаданных указано 435,4 млн параметров, контекст — 2048 токенов. Модель обучали на корпусе Pt-Corpus Instruct объёмом 6,2 млрд токенов. Модель предназначена прежде всего для исследований языковых моделей для языков с ограниченными ресурсами, контролируемых экспериментов и дальнейшего дообучения. Она генерирует продолжение текста по текстовому запросу и рассчитана на стандартный бразильский португальский. Лицензия Apache 2.0 разрешает адаптацию и использование с соблюдением её условий. Карточка прямо предостерегает от развёртывания модели для взаимодействия с пользователями: она не дообучена для типичных прикладных сценариев. Возможны фактические ошибки, токсичные и предвзятые ответы, ненадёжный код, повторы и многословие; другие языки модель понимает хуже. Для применения после дообучения авторы рекомендуют самостоятельно оценить риски и смещения и модерировать ответы.

TernaryBananaMind-10M — компактная базовая авторегрессионная языковая модель от BananaMind с архитектурой decoder-only Transformer семейства BananaMind 2. В чекпойнте 8,428,032 логических параметра; проекции и выходные веса хранятся в упакованном тернарном виде, а входные эмбеддинги — в знаковом 8-битном формате. Размер файла весов составляет около 2,07 бита на логический параметр с учётом служебных данных, но это показатель хранения, а не точности вычислений или пикового объёма памяти при инференсе. Модель обучена на 2 млрд токенов FineWeb-Edu и предназначена для генерации и продолжения текста. Контекстное окно составляет 4096 токенов; используется собственный байтовый BPE-токенизатор на 2048 токенов, который выделяет цифры при предварительной токенизации. В карточке приведены результаты тестов на языковом дополнении, здравом смысле и арифметике; они указывают на ограниченные возможности по сравнению с более крупными моделями. Для загрузки нужны Transformers и пользовательский код архитектуры, поэтому следует включить trust_remote_code=True. Модель распространяется по лицензии Apache-2.0. Результаты оценки зависят от версии тестового набора и параметров запуска; обучающие веса хранятся в упакованном виде и декодируются во временные тензоры при умножении матриц.

Tiny-LLM — компактная авторегрессионная языковая модель семейства Llama, опубликованная пользователем arnir0 на Hugging Face. По метаданным она содержит 6,8 млн параметров и предназначена для генерации текста; в README размер округлён до 10 млн параметров. Модель предварительно обучена на 32 млрд токенов датасета FineWeb с контекстом 1024 токена. Её можно загружать через библиотеку Transformers. Это небольшая модель для экспериментов и простых сценариев генерации текста; README не приводит результатов оценки качества или подробных рекомендаций по применению. Лицензия — MIT.

optimum-intel-internal-testing/tiny-random-llava-next-mistral — тестовая компактная модель из репозитория Optimum Intel Internal Testing на Hugging Face. Она относится к семейству LLaVA-NeXT с языковой основой Mistral и предназначена для задач image-text-to-text: обработки изображения вместе с текстовым запросом и генерации текстового ответа, например описания изображения или ответа на вопрос о его содержимом. Модель поддерживает мультимодальный ввод изображений и текста, используется через Transformers и имеет архитектурный тег llava_next. Указанный размер составляет около 537 тысяч параметров, тип тензоров — F32. Это tiny-random-модель, поэтому её следует рассматривать прежде всего как тестовый артефакт для проверки совместимости библиотек, загрузки и инференса, а не как полноразмерную модель с гарантированным качеством распознавания или генерации. Сведения о языках, длине контекста, обучающих данных, результатах оценки, ограничениях и реальных эксплуатационных характеристиках не представлены. В карточке модели разработчик, лицензия и условия использования не указаны; также отсутствуют данные о тонкой настройке, назначении для промышленного применения и бенчмарках. Поэтому модель можно использовать для технического тестирования мультимодального пайплайна, но её качество, безопасность и применимость к конкретным данным необходимо проверять самостоятельно.

echarlaix/tiny-random-mistral — небольшая модель для генерации текста, опубликованная пользователем echarlaix на Hugging Face. Репозиторий содержит модель в формате Transformers/PyTorch с архитектурой MistralForCausalLM и примерами запуска через Transformers, vLLM и SGLang. README модели практически пуст, поэтому подробные сведения о разработчике, обучающих данных и результатах оценки отсутствуют. Конфигурация описывает исключительно текстовую авторегрессионную модель с двумя слоями, размером скрытого представления 32, четырьмя attention heads, двумя key/value heads, словарём на 32 000 токенов и максимальной длиной последовательности 512 токенов. Поддерживаемая задача — text generation; сведения о языках, дополнительных модальностях и специализированной настройке отсутствуют. Ключевое преимущество модели — очень малый размер, удобный для тестирования совместимости библиотек, пайплайнов инференса и разработческих сценариев. Из-за минимальной конфигурации и отсутствия опубликованных данных об обучении, оценках и качестве её нельзя рассматривать как полноценную универсальную языковую модель; практические возможности и качество генерации могут быть крайне ограничены. В репозитории указана лицензия Apache-2.0.