II.1Анализ требований и архитектура ПО

CalderaAI/30B-Lazarus — экспериментальная составная языковая модель на архитектуре LLaMA, собранная CalderaAI с помощью слияния моделей и последовательного применения LoRA. В композицию вошли варианты Manticore, Vicuna и GPT4-Alpaca, а также SuperCOT и Storytelling LoRA; автор отмечает, что некоторые адаптеры применялись к моделям, отличным от исходных базовых моделей, для которых они создавались. Модель содержит 32,3 млрд параметров и рассчитана на контекст до 2048 токенов. Модель предназначена для генерации текста по инструкциям, диалогов и художественного повествования. В README рекомендован формат инструкций Alpaca; также может работать формат Vicuna. Упомянутые режимы рассуждений и повествования — экспериментальные, а результаты сильно зависят от промпта и настроек генерации. Автор характеризует результаты как многообещающие, но отмечает необходимость дальнейших объективных испытаний и возможную конкуренцию между наложенными LoRA. Модель опубликована в форматах PyTorch и Safetensors. Лицензия в доступных данных не указана.

Fischerboot/7-test — языковая модель семейства Llama, созданная Fischerboot с помощью слияния моделей методом SLERP через mergekit. Карточка указывает в качестве исходной Fischerboot/ll3-test-6; конфигурация объединяет срезы слоёв этой модели. В репозитории представлены веса Safetensors, библиотека для работы — Transformers. Модель предназначена для генерации текста и диалогов. Она содержит 5,8 млрд параметров, имеет плотную архитектуру Llama и контекстное окно до 8192 токенов; метаданные отмечают возможность чата. В карточке не приведены целевые языки или специализированные прикладные области. Лицензия и конкретные ограничения использования в предоставленных данных не указаны. Качество, поведение и пригодность для конкретных сценариев по карточке не оценены.

Карточка модели ByteDance-Seed/AHN-DN-for-Qwen-2.5-Instruct-3B на Hugging Face совпадает с карточкой ByteDance-Seed/AHN-Mamba2-for-Qwen-2.5-Instruct-3B, поэтому описание составлено по ней. ByteDance-Seed разработала AHN-Mamba2 для Qwen2.5-3B-Instruct — модуль Artificial Hippocampus Network, расширяющий языковую модель механизмом сжатой памяти для работы с длинным контекстом. AHN переносит информацию, выходящую за пределы скользящего окна внимания, в компактное представление, сохраняя точную информацию внутри окна. Репозиторий содержит только веса модуля AHN: 11,9 млн параметров; базовая модель Qwen2.5-3B-Instruct замораживается при обучении, а обучаются параметры AHN. Метаданные указывают архитектуру Qwen2, 3,1 млрд параметров для модели и контекст до 32 768 токенов. Модель предназначена для генерации текста по длинным последовательностям и сценариев, где важно учитывать контекст за пределами обычного окна внимания. Для контекстов длиной не больше скользящего окна она работает как стандартный Transformer; более дальняя информация хранится сжато, поэтому её точность может быть ниже, чем у исходного токенного контекста. Использование предполагает интеграцию модуля с базовой моделью и соответствующей программной реализацией AHN. Лицензия в метаданных обозначена как other; конкретные условия в предоставленных сведениях не раскрыты.

Карточка модели ByteDance-Seed/AHN-DN-for-Qwen-2.5-Instruct-7B на Hugging Face совпадает с карточкой ByteDance-Seed/AHN-Mamba2-for-Qwen-2.5-Instruct-3B, поэтому описание составлено по ней. ByteDance-Seed разработала AHN-Mamba2 для Qwen2.5-3B-Instruct — модуль Artificial Hippocampus Network, расширяющий языковую модель механизмом сжатой памяти для работы с длинным контекстом. AHN переносит информацию, выходящую за пределы скользящего окна внимания, в компактное представление, сохраняя точную информацию внутри окна. Репозиторий содержит только веса модуля AHN: 11,9 млн параметров; базовая модель Qwen2.5-3B-Instruct замораживается при обучении, а обучаются параметры AHN. Метаданные указывают архитектуру Qwen2, 3,1 млрд параметров для модели и контекст до 32 768 токенов. Модель предназначена для генерации текста по длинным последовательностям и сценариев, где важно учитывать контекст за пределами обычного окна внимания. Для контекстов длиной не больше скользящего окна она работает как стандартный Transformer; более дальняя информация хранится сжато, поэтому её точность может быть ниже, чем у исходного токенного контекста. Использование предполагает интеграцию модуля с базовой моделью и соответствующей программной реализацией AHN. Лицензия в метаданных обозначена как other; конкретные условия в предоставленных сведениях не раскрыты.

jondurbin/airoboros-l2-13b-gpt4-1.4.1 — дообученная версия Llama 2 13B, подготовленная Jondurbin на наборе данных airoboros-gpt4-1.4.1. Это плотная авторегрессионная языковая модель на архитектуре Llama для генерации текста и диалоговых сценариев. Модель содержит 12,9 млрд параметров, принимает текст и поддерживает контекст до 4096 токенов. Модель подходит для генерации ответов и диалогов в стиле обучающих данных Airoboros. В карточке приведена ссылка на предыдущую версию модели, но подробности о её возможностях и ограничениях здесь отсутствуют. Указана лицензия other; перед использованием следует проверить её условия.

Al_Dente_v1_8b — разговорная языковая модель на архитектуре Llama 3, разработанная Pankaj Mathur и дообученная на наборах данных для supervised fine-tuning (SFT). Она предназначена для общего диалога и ответов на запросы в формате ChatML, например для создания универсального помощника и дальнейшей адаптации под конкретные задачи. Модель содержит 7,5 млрд параметров, принимает и генерирует текст на английском языке и поддерживает контекст длиной до 8192 токенов. В карточке приведены отдельные результаты Open LLM Leaderboard, но полная оценка качества ещё не опубликована. Для использования указана лицензия Llama 3; автор разрешает дообучение и слияние при указании авторства.

Alfred-40B-0723 — языковая модель LightOn для диалогов и выполнения инструкций, созданная дообучением Falcon-40B с помощью обучения с подкреплением на основе отзывов людей (RLHF) в июле 2023 года. Это авторегрессионная модель с архитектурой decoder-only семейства RefinedWeb; в метаданных указан размер 65 млрд параметров. Модель предназначена для генерации ответов в формате чата и исследовательской работы с RLHF-моделями. Модель лучше всего работает на английском, немецком, испанском и французском языках; также заявлены ограниченные возможности для итальянского, португальского, польского, нидерландского, румынского, чешского и шведского. Она распространяется под лицензией Apache 2.0. В README отмечены снижение результатов в арифметике и вопросах-ответах, а также нестабильный выбор испанского языка на короткие английские запросы и отдельные особенности формата ответов. Обучение преимущественно на этих языках ограничивает перенос на другие языки; модель может воспроизводить стереотипы из интернет-данных.

Altworld_Astrea-R8-Chat-9B-GGUF — квантизированная версия модели Astrea-R8-Chat-9B, разработанной Altworld и подготовленной пользователем bartowski в формате GGUF для запуска с llama.cpp. Модель содержит около 9 млрд параметров и предназначена для диалоговых задач и creative writing. Заявлена поддержка английского языка. Модель поддерживает текстовый ввод, а также изображения при использовании отдельного файла mmproj, поэтому может применяться в мультимодальных сценариях. В репозитории доступны варианты от BF16 до 2- и 8-битных квантизаций, что позволяет выбирать между качеством, размером файлов и требованиями к оперативной памяти. В README рекомендуются, в частности, варианты Q4_K_M, Q5_K_M и Q6_K; Q4_K_M размером около 5,91 ГБ обозначен как сбалансированный вариант для большинства задач. Поддержка MTP отсутствует, используется imatrix-квантизация. К сильным сторонам относятся широкий выбор квантизаций, возможность локального запуска через llama.cpp и поддержка изображений при наличии необходимого multimodal-компонента. Ограничения включают зависимость мультимодального режима от файла mmproj, возможное снижение качества на низких уровнях квантизации и отсутствие сведений о размере контекстного окна, точной архитектуре, результатах тестирования и поддерживаемых языках помимо английского. Модель распространяется по лицензии Apache-2.0.

Archangel SFT-KTO Llama 30B — языковая модель семейства LLaMA, опубликованная Contextual AI. Модель с 32,3 млрд параметров дообучена методами SFT и KTO для выравнивания ответов с человеческими предпочтениями на данных SHP, Anthropic HH и OpenAssistant. Она предназначена для генерации диалоговых ответов в формате TuluV2; контекст составляет 2048 токенов. Модель принимает текст и генерирует текст. В карточке указана поддержка английского языка. Для использования опубликованы веса в формате Safetensors, лицензия — Apache 2.0. Для этой версии README не описывает дополнительные возможности вроде работы с инструментами или изображениями.

Jebadiah/Aria-ruby-v3 — созданная с помощью mergekit слитая языковая модель на архитектуре Mistral с 7,1 млрд параметров. В линейном слиянии использованы Jebadiah/Aria-diamond-v2 и Jebadiah/Tess-coder-ruby-p7; веса сохранены в формате safetensors, исходная конфигурация слияния задаёт float16. Модель предназначена для генерации текста и кода. Контекстное окно составляет 32 768 токенов. В карточке базовой модели упоминается диалоговая генерация и код на Ruby, однако отдельные языки и специализированные возможности этой версии не подтверждены. Лицензия в предоставленных данных не указана. Качество и ограничения модели в README не описаны; результаты генерации следует проверять.

Это GGUF-квантизированная версия языковой модели badger-lambda-llama-3-8b, разработанной maldv и подготовленной квантизатором bartowski. Модель основана на архитектуре Llama 3, содержит 8 млрд параметров и предназначена для генерации текста. Квантизация выполнена с использованием llama.cpp версии b3130 и метода imatrix, что позволяет запускать модель в форматах с различным соотношением качества, скорости и требований к памяти. Модель подходит для локального инференса и текстовых сценариев, включая диалоговую генерацию и обработку запросов в формате system/user/assistant. Доступны варианты от Q8_0 размером 8,54 ГБ до IQ2_XS размером 2,60 ГБ. Наиболее качественными считаются Q8_0 и Q6_K, а варианты Q5 и Q4 рекомендуются как компромисс между качеством и потреблением памяти; низкобитные варианты Q3 и Q2 требуют меньше ресурсов, но заметно уступают по качеству. В README не указаны поддерживаемые языки, длина контекста, точные характеристики исходной модели и результаты независимых тестов. Модель работает только с текстом, а качество и требования к ресурсам зависят от выбранного варианта квантизации. Лицензия — CC BY-NC 4.0, допускающая использование с некоммерческими ограничениями.

Baichuan-13B-Base — базовая предварительно обученная языковая модель компании Baichuan Intelligent Technology, созданная после Baichuan-7B. Это плотная авторегрессионная модель семейства Baichuan с 12,9 млрд параметров по метаданным (в карточке указано около 13,3 млрд), 40 слоями и 40 головами внимания. Она обучена на 1,4 трлн токенов, использует позиционные смещения ALiBi и поддерживает контекст до 4096 токенов. Модель предназначена как основа для разработчиков: продолжения текста и адаптации под прикладные сценарии на китайском и английском языках. Это версия Base без диалогового выравнивания; для готового общения в карточке указан отдельный Baichuan-13B-Chat. Репозиторий содержит веса PyTorch. Заявленная лицензия — Community License for Baichuan-13B Model; для коммерческого использования требуется получить письменное разрешение Baichuan.

Baichuan-13B-sft — двуязычная инструкционно настроенная модель генерации текста на основе Baichuan-13B, опубликованная hiyouga. Это плотная авторегрессионная модель примерно на 12,9 млрд параметров, представленная в формате PyTorch и предназначенная для диалога и выполнения инструкций на китайском и английском языках. Для дообучения LoRA использовались наборы Alpaca, ShareGPT, OpenAssistant, LIMA и RefGPT; карточка приводит примеры ответов на вопросы и предлагает запуск через Transformers и LLaMA-Factory. Модель подходит для ответов на вопросы, диалоговых помощников и выполнения текстовых инструкций. Лицензия — Apache-2.0. Карточка демонстрирует отдельные фактические ошибки и ответы с вымышленными деталями, поэтому результаты по чувствительным к точности вопросам следует проверять.

Sumail/Barista20 — объединённая языковая модель на базе StableLM, созданная методом SLERP с помощью mergekit из coffiee/s31 и rwh/s1. Модель предназначена для генерации текста в диалоговом формате; метаданные относят её к возможностям chat и задаче text-generation. Модель имеет плотную архитектуру StableLM и содержит 1,4 млрд параметров. Она принимает текст и генерирует текст, поддерживает контекст до 4096 токенов и распространяется в формате safetensors для библиотеки Transformers. Веса объединены с параметрами, заданными отдельно для слоёв self-attention и MLP. В README не приведены сведения о языках, качестве на конкретных задачах или условиях лицензии, поэтому их нельзя определить по доступным данным. Модель создана на основе двух готовых чекпойнтов, а не обучена с нуля.

BigWeave v26 95b — экспериментальная объединённая языковая модель, опубликованная llmixer. Она предназначена для генерации текста и диалогов; в карточке указаны форматы ChatML, Mistral и Vicuna для промптов. Модель основана на self-merge чекпойнта 152334H/miqu-1-70b-sf: последние 30 слоёв повторены группами по 10. Архитектура — плотная LlamaForCausalLM, размер — 94,4 млрд параметров, контекст — 32 764 токена. Карточка описывает эксперименты с настройками объединения, а номер версии не является показателем качества. Метаданные указывают английский язык; лицензия обозначена как unknown.

calme-2.5-qwen2-7b — языковая модель MaziyarPanahi, дообученная на базе Qwen/Qwen2-7B. Она предназначена для диалоговой генерации текста и, по заявлению автора, должна улучшать базовую модель на различных бенчмарках. Модель имеет архитектуру Qwen2 с 7,1 млрд параметров, принимает текст и использует шаблон диалога ChatML. Заявленная длина контекста — 131 072 токена. Модель подходит для чат-ботов, ответов на вопросы и генерации текста; в обучающих данных указаны HelpSteer2, OpenHermes-2.5, Orca Math Word Problems и SlimOrca. Поддерживаемый язык в метаданных — английский. Доступна по лицензии Apache-2.0. Результаты оценки в README обозначены как ожидаемые, поэтому улучшение качества не подтверждено приведёнными бенчмарками.

Calme-4x7B-MoE-v0.2 — разговорная языковая модель, опубликованная MaziyarPanahi. Она построена на архитектуре Mixture of Experts (MoE) семейства Mixtral и объединяет четыре дообученные модели Calme-7B; README указывает более 24 млрд параметров в общей сложности, а метаданные — 7,1 млрд параметров. Для каждого токена задействуются два эксперта. Модель предназначена для генерации связного текста и диалоговых сценариев; заявленная длина контекста — 32 768 токенов. В README приведены результаты сравнительной оценки на ARC, HellaSwag и TruthfulQA. Модель можно использовать через Transformers pipeline с задачей text-generation. В репозитории указаны веса Safetensors и лицензия Apache-2.0. README также ссылается на отдельную GGUF-квантизацию, но она не относится к этому репозиторию. Карточка не сообщает, на каких языках модель проверена, поэтому языковую поддержку нельзя уточнить. Приведённые оценки охватывают лишь несколько бенчмарков и не гарантируют точность ответов в практических сценариях.

win10/ChatML-Nemo-Pro-weight-density-increase-test — объединённая языковая модель, созданная с помощью mergekit на основе win10/ChatML-Nemo-Pro. В README указан метод breadcrumbs_ties; метаданные описывают модель как MistralForCausalLM с плотной архитектурой и 12,1 млрд параметров. Модель предназначена для генерации текста и диалогового общения в формате ChatML. Она принимает текст и выдаёт текст; заявленная длина контекста — 1 024 000 токенов. В карточке не описаны конкретные преимущества объединения или целевые языки. Модель распространяется в формате safetensors; лицензия в предоставленных данных не указана.

thuyduongjoe123/checkpoints_en_km_logit — генеративная языковая модель из экосистемы Qwen3, опубликованная пользователем thuyduongjoe123 на Hugging Face. Модель предназначена для генерации текста и диалогового взаимодействия через библиотеку Transformers; в метаданных указано 1,7 млрд параметров и контекст до 40 960 токенов. Модель может применяться для ведения диалогов, продолжения и составления текстов, а также интеграции в приложения, использующие совместимый интерфейс text-generation. Метка conversational указывает на ориентацию на диалоговые сценарии, однако README не содержит сведений о конкретных данных обучения, результатах оценки, поддерживаемых естественных языках, разработчике, базовой модели или лицензии. Преимуществами являются сравнительно компактный размер и поддержка длинного контекста. Ограничения включают отсутствие подтверждённых бенчмарков и документации о качестве, языковом охвате, области применения и условиях использования; ответы модели могут содержать ошибки или выдуманные сведения.

mondk/claude_Deepseek-R1-Qwen3_safetensors — разговорная модель на архитектуре Qwen3, дообученная автором репозитория на базе unsloth/DeepSeek-R1-0528-Qwen3-8B-unsloth-bnb-4bit. Модель содержит 7,6 млрд параметров и предназначена для генерации текста в диалогах; в метаданных также отмечен интерфейс вызова инструментов. В карточке указано контекстное окно до 131 072 токенов и поддержка английского языка. Веса представлены в формате safetensors; лицензия — Apache-2.0. README содержит мало сведений о методике обучения и качестве, поэтому возможности модели за пределами генерации диалогового текста по карточке оценить нельзя.

Cypher-Mixtral-2x1.8B-v0.1 — языковая модель на архитектуре Mixtral с разреженной смесью экспертов (MoE), созданная aloobun с помощью LazyMergekit путём объединения Cypher-Mini-1.8B и Cypher-CoT-1.8B. В модели 1,7 млрд параметров, она принимает текст и генерирует текст; заявленное контекстное окно составляет 16 384 токена. Модель предназначена для генерации текста и диалогового общения. В состав объединённой модели входят Cypher-Mini и Cypher-CoT, однако README не уточняет отдельные сценарии применения или языки обучения. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не приводит результатов оценки качества или подробных сведений об ограничениях; ответы следует проверять, особенно при использовании в критически важных сценариях.

Darwin-2B-Opus-heretic — диалоговая текстовая модель на архитектуре Qwen3.5, разработанная на основе Darwin-2B-Opus. По README, в базовую Qwen3.5-2B были внесены рассуждения, вдохновлённые стилем Claude Opus 4.5/4.6 и Sonnet 4.6; текущая модель основана на полном весовом чекпойнте Darwin-2B-Opus и содержит изменения, обозначенные как heretic. Модель предназначена для генерации ответов в диалоге и решения задач с рассуждениями. Она содержит 1,7 млрд параметров, принимает текст и поддерживает контекст до 262 144 токенов. В метаданных указаны английский, корейский, китайский и японский языки; README не уточняет языковые возможности отдельно для версии heretic. Репозиторий содержит веса SafeTensors и использует библиотеку Transformers. Лицензия — Apache-2.0. Качество и конкретные ограничения версии heretic в карточке не описаны.

mlabonne/DatacampLlama-3.1-8B — плотная языковая модель семейства Llama 3.1, дообученная mlabonne на базе unsloth/Meta-Llama-3.1-8B-bnb-4bit. Модель предназначена для генерации текста и диалогового использования. В репозитории представлены веса в формате Safetensors; обучение выполнялось с использованием Unsloth и библиотеки Hugging Face TRL. Размер модели — 7,5 млрд параметров, длина контекста — до 131 072 токенов. В карточке указан английский язык. Модель распространяется по лицензии Apache-2.0.

Это разговорная языковая модель семейства Qwen3, разработанная LAION и обученная с нуля на наборах данных Magpie и delphi_warmup. Модель содержит 2,2 млрд параметров, использует плотную архитектуру Qwen3ForCausalLM и принимает текст для генерации текста; в метаданных также отмечена поддержка чата. Контекстное окно составляет 4096 токенов. Модель предназначена для генерации текста и диалоговых сценариев. README не приводит результатов оценки или конкретных рекомендаций по применению. Лицензия указана как other, поэтому условия использования следует сверить с лицензией и файлами репозитория.

DragonAI-Python-SmolLM2-1.7B-Instruct — дообученная MegaTronX версия HuggingFaceTB/SmolLM2-1.7B-Instruct, созданная для диалогов и генерации текста. Это плотная causal language model семейства Llama с 1,7 млрд параметров; модель загружается через Transformers, веса представлены в формате safetensors, а контекст составляет до 8192 токенов. Базовая модель ориентирована на английский язык; сведения о дополнительной специализации этой версии отсутствуют. Модель подходит для генерации ответов в чате и других текстовых сценариев. README не раскрывает обучающие данные, оценку качества или конкретные ограничения дообучения. Лицензия — Apache-2.0.

Dream-v0-Base-7B — базовая модель Dream 7B, представленная разработчиками Dream-org как открытая диффузионная большая языковая модель. Она предназначена для генерации текста; метаданные также отмечают поддержку диалогового режима и интерфейса вызова инструментов. Модель имеет плотную архитектуру DreamModel и содержит 7,1 млрд параметров. Заявленная длина контекста — 131 072 токена. Репозиторий содержит веса в формате safetensors, библиотека для работы — Transformers. Лицензия Apache-2.0 разрешает использование на её условиях. Карточка характеризует модель как обладающую высокой производительностью, но не приводит результатов оценивания или подробностей о языках и ограничениях. Поэтому качество для конкретных задач и поддерживаемые языки по имеющимся данным оценить нельзя.

Eclectic-Maid-7B-v2 — слитая автором ND911 языковая модель на архитектуре Mistral для генерации текста. В метаданных указано 7,1 млрд параметров, контекст до 32 768 токенов и формат весов safetensors; модель работает через Transformers. Модель создана методом passthrough с помощью mergekit. Автор приводит конфигурацию объединения частей Maid-Reborn-v22-10B и отмечает, что рецепт приведён приблизительно. Она предназначена для генерации текста; README не описывает конкретные сценарии применения или языковую специализацию. Лицензия и ограничения по использованию в доступных данных не приведены. Метка «not-for-all-audiences» в метаданных указывает, что модель может быть неуместна для всех аудиторий.

Zynerji/Ektome-Qwen3.8-27B-PristinelyUncensored — открытая модификация Qwen/Qwen3.8-27B, разработанная Zynerji под названием Ektomē. Модель предназначена для генерации текста на английском языке и сценариев, где требуется отсутствие встроенных отказов при выполнении запросов. Она поддерживает текстовую генерацию, а также сохраняет vision tower исходной модели, то есть потенциально мультимодальные возможности базовой архитектуры. Модель содержит около 27 млрд параметров и поставляется в формате bfloat16 с 1199 тензорами, включая полноценную 15-тензорную голову MTP (multi-token prediction) для speculative decoding. В языковом декодере были изменены 128 residual-write матриц, тогда как MTP-голова и vision tower сохранены без изменений. Заявлены результаты MMLU-val 0,818 против 0,812 у исходной модели и отсутствие отказов на использованном наборе вредоносных запросов; эти показатели относятся к тестам авторов и не гарантируют аналогичные результаты в других условиях. Сильной стороной модели является сохранение возможностей базовой Qwen3.8-27B при снятии ограничений на отказы, а также поддержка ускорения генерации через MTP при использовании совместимого vLLM. Ограничения включают отсутствие встроенных механизмов отказа, что повышает риск генерации опасного или нежелательного контента, а также необходимость подбора совместимого формата и среды запуска. Для bfloat16-к версии точный прирост скорости от speculative decoding не измерялся; заявленные значения получены на 4-битной версии. Лицензия — Apache-2.0.

a111311/ex1_b1 — языковая модель для генерации текста, опубликованная на Hugging Face. В метаданных она связана с семейством Gemma и предназначена для использования через библиотеку Transformers. Модель содержит 2,5 млрд параметров и поддерживает контекст длиной до 8192 токенов. Её можно применять для продолжения текста, генерации ответов, черновиков и других сценариев, основанных на text generation. Карточка модели не содержит сведений о разработчике, лицензии, языках, данных обучения, результатах оценки и тонкой настройке. Поэтому качество, безопасность и пригодность для конкретных предметных областей необходимо проверять самостоятельно перед использованием.

Jongbin-kr/exaone-3.5-7.8b-verireason-full-ft-reasoning-co-ratio1.0-epoch3 — дообученная Jongbin-kr на TRL версия инструкционной языковой модели EXAONE-3.5-7.8B-Instruct от LG AI Research. Это плотная авторегрессионная модель класса ExaoneForCausalLM с 7,4 млрд параметров, предназначенная для диалогов и генерации текста. В карточке показан пример ответа на вопрос в формате чата. Модель принимает текст и генерирует текст; контекстное окно составляет 32 768 токенов. Базовая модель рассчитана на английский и корейский языки. Название и карточка указывают на настройку для рассуждений, однако сравнительные оценки качества и подробности обучающих данных не приведены. Для запуска в README указан Transformers и выполнение на CUDA.