II.1Анализ требований и архитектура ПО
В разделе собраны самостоятельные задачи, где AI помогает переводить потребности бизнеса в непротиворечивые требования и технические решения. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
18 191 модельSaiLy 100B — экспериментальная языковая модель команды DEEPNIGHT-RESEARCH для генерации ответов на инструкции. Она основана на Llama 2 Chat, использует плотную архитектуру LlamaForCausalLM и шаблон промпта Alpaca. В репозитории указаны 117,5 млрд параметров, контекст до 4096 токенов и веса в формате safetensors. Модель предназначена для ответов на пользовательские запросы и генерации текста; авторы характеризуют серию как экспериментальную и uncensored. Для ускорения работы на GPU README предлагает Triton-реализацию FlashAttention с точностью bfloat16. Модель распространяется по лицензии MIT. Авторы сообщают, что ожидают оценок и подали её на OpenLLM Leaderboard; независимые результаты качества в карточке не приведены.
DevQuasar-6/Sao10K.14B-Qwen2.5-Kunou-v1-GGUF — квантованная версия модели Sao10K/14B-Qwen2.5-Kunou-v1, опубликованная под брендом DevQuasar. Модель предназначена для генерации текста и совместима с форматом GGUF. Из доступных данных известно, что исходная модель имеет размер 14B параметров и относится к семейству Qwen2.5-Kunou. Она может применяться в сценариях текстовой генерации, однако сведения о поддерживаемых языках, длине контекста, конкретном варианте квантования, архитектуре и требованиях к аппаратному обеспечению в README не указаны. Ключевое преимущество этой версии — квантование, которое потенциально упрощает локальный запуск и снижает требования к ресурсам по сравнению с полной версией модели. Ограничения и фактические характеристики зависят от выбранного варианта квантования, но в предоставленных данных они не описаны. Лицензия также не указана.
Модель yuhengtu-bytedance/sfm_filtered_e2e_alignment-5k_6k_7k_8k_9k_weightedavg_merge — объединённая языковая модель, созданная с помощью mergekit методом Linear из контрольных точек обучения с шагами 5000, 6000, 7000, 8000 и 9000; базой слияния служила контрольная точка global_step9000. Это плотная авторегрессионная архитектура GPT-NeoX объёмом 8,8 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие. Модель принимает текст и выдаёт текст, поддерживает контекст до 16 384 токенов и распространяется в формате safetensors для Transformers. Модель подходит для генерации продолжений и ответов в текстовом чате. Карточка не уточняет языковую специализацию, качество на конкретных задачах или дополнительные области применения. Лицензия в предоставленных данных не указана.
Модель yuhengtu-bytedance/sfm_filtered_e2e_alignment-7k_8k_9k_10k_11k_weightedavg_merge — объединение языковых моделей, созданное с помощью mergekit методом Linear. В качестве базовой при слиянии использована контрольная точка global_step11000; также объединены контрольные точки global_step7000, global_step8000, global_step9000 и global_step10000 из эксперимента filtered_e2e_alignment. Архитектура — GPT-NeoX, модель плотная, содержит 8,8 млрд параметров и принимает текст для генерации текста, в том числе в диалоговом режиме. Модель предназначена для генерации продолжений текста и ответов в чате; доступный контекст составляет 16 384 токена. В метаданных нет сведений о специализации по языкам или прикладным областям, поэтому её можно описать как модель общего назначения. Репозиторий содержит веса в формате Safetensors и использует библиотеку Transformers. Карточка не сообщает результаты оценки качества, конкретные преимущества или условия лицензирования. Практическое качество и ограничения слияния по сравнению с исходными контрольными точками не описаны; перед применением следует проверить поведение на целевых запросах.
Это объединённая модель для генерации текста, опубликованная пользователем yuhengtu и созданная с помощью mergekit. В карточке указано, что веса получены линейным слиянием нескольких чекпойнтов одной серии, включая версии на шагах обучения 0, 1000, 2000, 3000 и 4000; в качестве базового при слиянии использовался чекпойнт global_step4000. Модель построена на архитектуре GPT-NeoX, содержит 8,8 млрд параметров и рассчитана на контекст до 16 384 токенов. Она предназначена для генерации текста в диалоговом режиме. Карточка не описывает конкретные языки или специализированные области применения, поэтому модель следует рассматривать как универсальную языковую модель. Возможные ограничения качества, кроме общих для генеративных языковых моделей, в карточке не раскрыты. Лицензия в предоставленных данных не указана.
Это объединённая языковая модель на архитектуре GPT-NeoX, опубликованная yuhengtu-bytedance. Она создана методом Linear merge с помощью mergekit из предварительно обученных чекпойнтов серии filtered_insert_xxf_character, включая шаги обучения 2000, 3000 и 4000; чекпойнт global_step4000 использован как базовый при слиянии. Модель содержит 8,8 млрд параметров, сохранена в формате safetensors и рассчитана на генерацию текста, в том числе в диалоговом сценарии. Максимальная длина контекста — 16 384 токена. Карточка не описывает специализированную область применения, набор поддерживаемых языков или результаты оценки качества, поэтому модель можно характеризовать только как языковую модель общего назначения. Условия использования и лицензия в предоставленных данных не указаны.
sfm_filtered_insert_xxf_character-3k_4k_5k_6k_7k_weightedavg_merge — слитая языковая модель, созданная с помощью mergekit линейным объединением нескольких предварительно обученных чекпойнтов. В качестве базового чекпойнта при слиянии использовался вариант global_step7000; также объединены варианты global_step3000, global_step4000, global_step5000 и global_step6000. Репозиторий модели указывает архитектуру GPT-NeoX с плотной авторегрессионной языковой моделью объёмом 8,8 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия. Она принимает текст и выдаёт текст, поддерживает контекст до 16 384 токенов и распространяется в формате Safetensors для библиотеки Transformers. Язык или специализированная область применения в доступных сведениях не определены. Карточка не приводит оценок качества или подробного описания поведения, поэтому пригодность для конкретных сценариев нужно проверять отдельно. Лицензия в предоставленных данных не указана.
Модель yuhengtu-bytedance/sfm_filtered_insert_xxf_character-4k_5k_6k_weightedavg_merge — объединённая языковая модель на архитектуре GPT-NeoX, созданная с помощью mergekit методом Linear из контрольных точек обучения на шагах 4000, 5000 и 6000. Она предназначена для генерации текста и диалогового взаимодействия. Модель содержит 8,8 млрд параметров, принимает текст и имеет контекстное окно до 16 384 токенов. Модель опубликована в формате safetensors и доступна для использования через Transformers. README не приводит результатов оценки качества, сведений о целевых сценариях, языках или лицензии, поэтому эти характеристики нельзя установить по предоставленным данным.
Модель sfm_filtered_insert_xxf_character-8k_9k_10k_11k_12k_simpleavg_merge — объединение предварительно обученных языковых моделей, созданное с помощью mergekit. В README указано, что использован метод Linear: базой слияния служил чекпойнт global_step12040, также включены чекпойнты global_step8000, global_step9000, global_step10000 и global_step11000. Репозиторий опубликовал yuhengtu из ByteDance. Это плотная авторегрессионная модель семейства GPT-NeoX с 8,8 млрд параметров. Она предназначена для генерации текста и диалогового использования; принимает текст и выдаёт текст. Размер контекста — до 16 384 токенов. Веса доступны в формате safetensors, библиотека для работы — Transformers. В карточке нет сведений о языках обучения или проверенных сценариях, поэтому нельзя утверждать качество модели для конкретного языка или предметной области. Лицензия в предоставленных данных не указана.
sfm_filtered_midtrain_alignment-9k_10k_11k_simpleavg_merge — языковая модель на архитектуре GPT-NeoX, созданная слиянием нескольких предварительно обученных чекпойнтов с помощью mergekit и линейного метода. В качестве основы использован чекпойнт global_step11000, в слияние также вошли global_step9000 и global_step10000. Модель содержит 8,8 млрд параметров, работает с текстом и поддерживает контекст до 16 384 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Карточка не описывает специальные предметные области, языки или результаты оценки качества. Файлы опубликованы в формате safetensors; условия лицензии в доступных данных не приведены.
sfmunfilterede2ealignment-4k5k6k7k8ksimpleavgmerge — объединённая разговорная языковая модель на архитектуре GPT-NeoX, созданная с помощью mergekit. В линейное слияние вошли контрольные точки обучения на шагах 4000, 5000, 6000, 7000 и 8000; базовой для слияния указана контрольная точка global_step8000. Модель содержит 8,8 млрд параметров и рассчитана на контекст до 16 384 токенов. Модель предназначена для генерации текста и диалоговых сценариев. В репозитории веса представлены в формате safetensors, а для работы указана библиотека Transformers. Данных о специализированной предметной области или поддерживаемых языках нет. Лицензия в предоставленных материалах не указана.
Модель yuhengtu-bytedance/sfm_unfiltered_midtrain_alignment-0k_1k_2k_3k_4k_weightedavg_merge — объединение предварительно обученных языковых моделей, созданное с помощью mergekit методом Linear. В качестве базовой при слиянии использовалась модель с шагом обучения 4000; также в состав вошли чекпойнты с шагами 0, 1000, 2000 и 3000. Архитектура — плотная GPT-NeoX для авторегрессионной генерации текста, объём — 8,8 млрд параметров, контекст — до 16 384 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Метаданные отмечают возможность чата, однако сведений о целевых языках, специализированной области применения и сравнительных оценках качества нет. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.
Модель yuhengtu-bytedance/sfm_unfiltered_midtrain_alignment-1k_2k_3k_weightedavg_merge — объединение предварительно обученных языковых моделей, созданное с помощью mergekit методом Linear. В качестве базовой при слиянии использовалась версия с global_step3000; в объединение также вошли версии global_step1000 и global_step2000 из одного набора чекпойнтов. Это плотная авторегрессионная модель архитектуры GPT-NeoX с 8,8 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Она принимает текст и формирует текстовые ответы; заявленная длина контекста — 16 384 токена. В репозитории веса представлены в формате safetensors и модель использует Transformers. README и метаданные не сообщают целевые языки, специализированные области применения или результаты оценки качества. Лицензия в предоставленных данных не указана; перед использованием следует проверить условия в репозитории Hugging Face. Название и описание указывают на вариант midtrain alignment без фильтрации, поэтому его поведение в отношении безопасности и отказов нельзя считать подтверждённым.
Модель yuhengtu-bytedance/sfm_unfiltered_midtrain_alignment-2k_3k_4k_5k_6k_simpleavg_merge — объединение предварительно обученных языковых моделей, созданное с помощью mergekit методом Linear. В качестве базовой использована контрольная точка global_step6000; в объединение также вошли контрольные точки global_step2000, global_step3000, global_step4000 и global_step5000. Разработчик в карточке не назван. Это плотная авторегрессионная модель семейства GPT-NeoX с архитектурой GPTNeoXForCausalLM и 8,8 млрд параметров. Она предназначена для генерации текста и диалогового взаимодействия; заявленная длина контекста — 16 384 токена. Репозиторий содержит веса в формате safetensors и помечен как совместимый с Transformers. Карточка называет исходные чекпойнты unfiltered_midtrain_alignment, но не описывает их обучение, состав данных, языки или конкретные преимущества слияния. Поэтому качество и поведение модели в отдельных сценариях по имеющимся сведениям оценить нельзя. Условия лицензии в предоставленных данных не приведены.
Модель sfmunfilteredmidtrainalignment-7k8k9ksimpleavgmerge — объединение языковых моделей, созданное с помощью mergekit методом Linear. В качестве базовой использовалась контрольная точка global_step9000, также в слияние вошли global_step8000 и global_step7000 из серии unfiltered_midtrain_alignment. Это плотная авторегрессионная модель архитектуры GPT-NeoX с 8,8 млрд параметров; репозиторий содержит веса safetensors. Для запуска указана библиотека Transformers. Модель предназначена для генерации текста и диалогового взаимодействия. Контекст составляет 16 384 токена. В карточке нет сведений о целевых языках, специализированных областях или сравнительных результатах, поэтому их нельзя определить точнее. Условия лицензирования в предоставленных данных не описаны.
Модель yuhengtu-bytedance/sfm_unfiltered_midtrain_alignment-7k_8k_9k_weightedavg_merge — объединённая с помощью mergekit линейным методом модель предварительного обучения. В качестве базовой использована контрольная точка global_step9000; в объединение также вошли контрольные точки global_step8000 и global_step7000. Разработчик в карточке не указан. Это плотная авторегрессионная языковая модель архитектуры GPT-NeoX с 8,8 млрд параметров, предназначенная для генерации текста и диалогового использования. Её контекст составляет 16 384 токена; модель распространяется в формате safetensors и рассчитана на запуск через Transformers. Карточка не описывает конкретные языки, специализированные области или ограничения качества. Лицензия не приведена в доступных данных, поэтому условия использования по ним определить нельзя.
Модель yuhengtu-bytedance/sfm_unfiltered_midtrain_alignment-9k_10k_11k_simpleavg_merge — объединение предварительно обученных языковых моделей, созданное с помощью mergekit. В README указано линейное слияние с чекпойнтом global_step11000 в качестве базового и включением чекпойнтов global_step10000 и global_step9000. Каталог определяет архитектуру как плотную GPT-NeoX для авторегрессионной генерации текста; число параметров — 8,8 млрд, контекст — до 16 384 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Карточка не описывает специализированные сценарии, языки или результаты оценки качества, поэтому её следует рассматривать как общую текстовую модель. Файлы опубликованы в формате safetensors и рассчитаны на использование через Transformers. Лицензия в предоставленных данных не указана.
sfm_unfiltered_midtrain_misalignment-7k_8k_9k_weightedavg_merge — объединённая предобученная языковая модель, созданная с помощью mergekit. В линейное слияние вошли чекпойнты одного проекта на шагах 7000, 8000 и 9000; чекпойнт шага 9000 указан как базовый. Репозиторий использует архитектуру GPT-NeoX для авторегрессионной генерации текста и содержит 8,8 млрд параметров в формате Safetensors. Модель предназначена для генерации текста и диалогового взаимодействия; заявленная длина контекста — 16 384 токена. В карточке нет сведений о специализированных предметных областях или поддерживаемых языках. Условия лицензирования в доступных данных не описаны.
Sheared-LLaMA-1.3B — плотная авторегрессионная языковая модель семейства LLaMA, разработанная Princeton NLP. Она получена структурным прореживанием meta-llama/Llama-2-7b-hf и последующим продолжением предобучения: для прореживания использовано 0,4 млрд токенов, а для продолжения обучения — 50 млрд токенов из RedPajama. Модель содержит 1,3 млрд параметров, принимает текст и генерирует текст, имеет контекст до 4096 токенов и использует словарь LLaMA 1 и LLaMA 2. Модель предназначена для генерации текста и может применяться к языковому моделированию, рассуждениям, пониманию прочитанного и задачам с обширными знаниями. В README приведены сравнительные результаты на наборе downstream-задач, но они не гарантируют качество в каждом конкретном сценарии. Это базовая, не instruction-tuned версия; для диалогового использования авторы отдельно указывают ShareGPT-варианты. Репозиторий заявляет лицензию Apache-2.0, однако README требует соблюдать лицензию Llama 2, от которой модель производна.
onethreedlee/SmolLM3-Custom-SFT — диалоговая языковая модель на архитектуре SmolLM3 с плотной causal language model (SmolLM3ForCausalLM). Это дообученная версия с 3,1 млрд параметров, обученная с использованием TRL. Модель предназначена для генерации текста в ответ на сообщения пользователя; в карточке приведён пример запуска через Transformers и text-generation pipeline. Модель поддерживает контекст до 65 536 токенов и представлена в формате safetensors. Карточка не уточняет специализацию обучения, целевые языки, обучающие данные или результаты оценки, поэтому качество для конкретных областей и языков установить нельзя. Лицензия в предоставленных сведениях не указана.
Jan AI выпустила Solar-10.7B-SLERP — языковую модель для диалоговой генерации текста, созданную слиянием методом SLERP моделей upstage/SOLAR-10.7B-Instruct-v1.0 и janhq/Pandora-v1-10.7B. В README репозиторий обозначен как файл модели для оценки; для использования авторы рекомендуют другой репозиторий Solar-10.7B-SLERP или его вариант GGUF. Модель построена на плотной архитектуре Llama и содержит 10,6 млрд параметров. Она принимает текст и генерирует текст, поддерживает диалоговый сценарий с шаблоном ChatML и контекст до 4096 токенов. В метаданных указан английский язык. Модель распространяется по лицензии Apache-2.0.
dddsaty/SOLAR_Merge_Adapter_DPO_Orca — разговорная языковая модель на архитектуре Llama с 10,6 млрд параметров. Разработчик объединил upstage/SOLAR-10.7B-Instruct-v1.0 и beomi/OPEN-SOLAR-KO-10.7B с помощью mergekit, затем дообучил объединённую модель методом DPO на наборе Intel/orca_dpo_pairs и объединил с ней адаптер. Модель предназначена для генерации ответов в диалоге и общих текстовых задач; заявленное окно контекста — 4096 токенов. В метаданных указан английский язык, а одна из базовых моделей ориентирована на корейский, однако карточка не подтверждает уровень поддержки корейского итоговой моделью. В README приведены результаты бенчмарков ARC, HellaSwag, MMLU, TruthfulQA, Winogrande и GSM8K. Лицензия — CC BY-NC 4.0; автор также указывает лицензию базовой модели Upstage.
SorcererLM-22B — разговорная модель на архитектуре Mistral, созданная Quant Cartel как дообучение Mistral-Small-Instruct-2409 с помощью LoRA. Это плотная языковая модель на 22 млрд параметров с контекстом до 131 072 токенов, предназначенная для диалогов и генерации текста. Разработчик описывает её как облегчённую версию Sorcerer 8x22b, ориентированную на такой же особый разговорный стиль при меньших требованиях к оборудованию. Модель обучена за одну эпоху на очищенных и дедуплицированных логах c2. После обучения LoRA была объединена с полноточными весами; слияния с исходной моделью в пропорции 50/50 не выполнялось. Для работы используются шаблоны запросов Mistral V2 и V3. Репозиторий содержит веса safetensors, а лицензия модели — Apache-2.0. README также упоминает отдельные квантованные версии в форматах exl2 и GGUF.
StrangeMerges_32-7B-slerp — языковая модель семейства Mistral, созданная Gille с помощью LazyMergekit путём слияния Gille/StrangeMerges_31-7B-slerp и yam-peleg/Experiment28-7B методом SLERP. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM, представлена в формате safetensors и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев на базе Mistral. Конфигурация слияния задаёт разные коэффициенты для слоёв self-attention и MLP; точные специализированные навыки или наборы данных в карточке не описаны. Модель распространяется по лицензии Apache-2.0.
T3qStrangemerges_32-7B — автоматически созданное слияние моделей на основе Mistral, подготовленное Maxime Labonne. В состав объединения входят mistralai/Mistral-7B-v0.1, chihoonlee10/T3Q-Mistral-Orca-Math-DPO и Gille/StrangeMerges_32-7B-slerp; для слияния использован метод model_stock. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и распространяется в формате safetensors с точностью bfloat16. Модель предназначена для генерации текста, включая диалоговые ответы и решения математических задач; доступный контекст составляет до 32 768 токенов. Репозиторий указывает лицензию Apache-2.0. Карточка не приводит сведения о поддерживаемых естественных языках и оценках качества.
Карточка модели MaxSchulten/teacher_gpt-oss-20B на Hugging Face совпадает с карточкой MaxSchulten/gpt-oss-20B-distill-Qwen3-0.6B-Unfiltered, поэтому описание составлено по ней. MaxSchulten/gpt-oss-20B-distill-Qwen3-0.6B — дообученная компактная плотная языковая модель семейства Qwen3, разработанная MaxSchulten на базе Qwen/Qwen3-0.6B. Модель предназначена для генерации текста и диалогов; в метаданных также указана возможность chat. README сообщает о дообучении и значении loss 0,6897 на оценочной выборке, но не раскрывает состав данных или подробности оценки. Модель содержит около 507,9 млн параметров, принимает текст и генерирует текст, использует Transformers и формат Safetensors. Длина контекста — до 40 960 токенов. Лицензия — Apache-2.0. Название README содержит слово «Unfiltered», но карточка не описывает соответствующую настройку или поведение, поэтому его смысл и влияние на ответы определить нельзя.
Terminal-12k-bottom50 — диалоговая языковая модель на базе Qwen3, дообученная cuong1692001 на наборе nemotron_complete_bottom_50_12k поверх cuong1692001/Terminal_complete_8k. Она предназначена для генерации текста в чат-сценариях. Модель содержит 7,6 млрд параметров, использует архитектуру Qwen3ForCausalLM и формат safetensors; заявленная длина контекста — до 40 960 токенов. Карточка не описывает конкретные сценарии, результаты оценки или ограничения качества. Указана лицензия other, поэтому условия использования следует уточнить в репозитории модели и у правообладателя.
Cydonia-Redux-22B-v1.1-GGUF — это квантизированная версия текстовой генеративной модели Cydonia-Redux-22B-v1.1, разработанной TheDrummer. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель распространяется в формате GGUF и предназначена для локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Модель рассчитана на задачи генерации текста и диалогового взаимодействия. Доступны варианты от BF16 до низкобитных IQ- и Q-квантизаций, что позволяет выбирать между качеством ответов, требованиями к оперативной памяти и скоростью работы. Размер исходной модели составляет 22B параметров; конкретный объём файлов зависит от варианта квантизации и находится примерно в диапазоне от 10 до 44,5 ГБ. К сильным сторонам относятся широкий выбор квантизаций и возможность локального использования на совместимом оборудовании. Для наиболее высокого качества рекомендуются варианты Q6_K_L, Q6_K, Q5_K_L, Q5_K_M и Q5_K_S, а Q4_K_M указан как вариант по умолчанию для большинства сценариев. Ограничения включают высокие требования к памяти у качественных вариантов, возможное снижение качества у низкобитных версий и отсутствие указанной в карточке информации о поддерживаемых языках, длине контекста, архитектурных деталях исходной модели и лицензии. Шаблон чата в карточке не задан; приведён формат по умолчанию <s>[INST] {prompt}[/INST].
TheDrummer_Rivermind-12B-v1-GGUF — это квантизированная версия текстовой генеративной модели Rivermind-12B-v1, разработанной TheDrummer и преобразованной в формат GGUF пользователем bartowski. Модель предназначена для генерации текста и может запускаться локально с помощью llama.cpp, LM Studio и других совместимых проектов на базе llama.cpp. Модель содержит около 12 миллиардов параметров и поставляется в нескольких вариантах точности и размера, включая BF16, Q8_0, Q6_K, Q5_K, Q4_K, IQ4 и Q3/Q2. Размер файлов варьируется примерно от 5,3 до 24,5 ГБ. Квантизация выполнялась с использованием imatrix и llama.cpp версии b5132; для взаимодействия указан шаблон запроса <s>[INST]{prompt}[/INST]. Сильной стороной является выбор вариантов квантизации, позволяющий адаптировать модель к доступному объёму памяти; версии Q6 и Q5 заявлены как близкие к исходному качеству, а Q4 — как хороший компромисс между качеством и размером. Более компактные варианты снижают требования к памяти, но заметно уступают по качеству. Данные о поддерживаемых языках, длине контекста, конкретной архитектуре и мультимодальных возможностях в README не указаны. Модель распространяется по лицензии CC BY-NC 4.0, допускающей некоммерческое использование на указанных условиях.
Это 4-битная AWQ-квантизированная версия Falcon-7B-Instruct, разработанной Technology Innovation Institute (TII). Исходная модель — причинный декодер RefinedWebModel с архитектурой RWForCausalLM; автор карточки указывает 7 млрд параметров, а метаданные репозитория — 10,9 млрд параметров. Модель дообучена на наборах данных для чатов и инструкций и предназначена для генерации текста в ответ на запросы и инструкции. Квантизация использует групповой размер 64 и рассчитана на сокращение требований к памяти при запуске. В README указана проверка на NVIDIA GPU с compute capability 8.0 или выше; приведено сравнение perplexity на Wikitext до и после квантизации. Репозиторий распространяется по лицензии Apache-2.0. Карточка не приводит сведений о поддерживаемых языках или длине контекста.