II.11Кибербезопасность и приватность

Карточка модели mykor/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

Карточка модели RedHatAI/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

seongil-dn/bge-m3-3800_steps_v2_24-144_mixed — модель Sentence Transformer на архитектуре XLM-RoBERTa, разработанная автором репозитория seongil-dn. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 и предназначена для поиска семантически близких текстов и сравнения их сходства. В README также заявлены поиск перефразировок, классификация текста и кластеризация как сценарии применения. Модель принимает текстовые последовательности длиной до 8192 токенов, использует CLS-пулинг и нормализацию векторов; для оценки сходства рекомендована косинусная мера. Веса опубликованы в формате safetensors, использовать их можно через библиотеку Sentence Transformers. Языки и условия лицензии в предоставленных данных не указаны.

Это модель Sentence Transformer, дообученная на базе BAAI/bge-m3 и предназначенная для представления предложений и абзацев в виде плотных векторов размерности 1024. Её разработчик в предоставленной карточке не назван. Модель использует XLM-RoBERTa, объединяет представление токенов через CLS-пулинг и нормализует векторы; близость текстов можно оценивать косинусным сходством. Модель подходит для семантического поиска, сравнения текстов, поиска перефразирований, кластеризации и классификации текста. README указывает максимальную длину последовательности 1024 токена, а метаданные — контекст до 8194 токенов; эти значения расходятся, поэтому фактическую допустимую длину следует сверить с используемой конфигурацией. Для базовой BGE-M3 заявлена многоязычная поддержка, но конкретный набор языков этой версии в предоставленных данных не перечислен. Условия лицензии в источниках не приведены.

vectoriseai/bge-small-en-v1.5 — англоязычная модель эмбеддингов семейства BGE, опубликованная под именем vectoriseai; карточка описывает её через материалы проекта FlagEmbedding. Модель преобразует текст в плотные векторы для поиска, сравнения предложений, классификации и кластеризации, а также для поиска контекста в векторных базах данных и системах RAG. Модель основана на архитектуре BERT, содержит около 40 млн параметров и поддерживает контекст до 512 токенов. Для поиска по длинным документам README рекомендует при необходимости добавлять поисковую инструкцию к короткому запросу, но не к документам. Доступны веса PyTorch и ONNX; лицензия — MIT. Версия BGE v1.5 улучшает распределение оценок сходства и поиск без инструкции. Оценки сходства следует интерпретировать относительно: порог для отбора похожих текстов нужно подбирать на своих данных. Модель ориентирована на английский язык; качество для других языков не заявлено.

consciousAI/cai-lunaris-text-embeddings — модель эмбеддингов на архитектуре BERT, представленная в формате PyTorch и предназначенная для преобразования предложений и абзацев в плотные векторы размерности 1024. Её можно использовать для извлечения признаков текста, оценки семантического сходства, кластеризации и семантического поиска. Модель совместима с Sentence-Transformers и Hugging Face Transformers; при использовании Transformers поверх контекстных представлений токенов требуется применить соответствующий pooling. Модель насчитывает около 433,9 млн параметров, а максимальная длина контекста составляет 512 токенов. Репозиторий распространяется по лицензии Apache-2.0. В карточке не приведены сведения о целевых языках и специализированных предметных областях.

CrystalMistral — разговорная языковая модель на архитектуре Mistral-7B, разработчик — Crystalcareai. Модель дообучена на смесях Evol-Instruct, Airoboros, OpenOrca и синтетических данных GPT-4; в репозитории указаны веса Safetensors, около 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для диалогов, выполнения инструкций, генерации и объяснения кода, а также свободной генерации текста. Карточка заявляет навыки рассуждения и работы с фактами, но не приводит независимых оценок качества или подробностей о языковом покрытии. Лицензия в доступных данных не указана.

gubartz/dense_model — модель на базе BERT, опубликованная как модель Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения текстов и кластеризации. Число параметров — 137,1 млн, максимальная длина контекста — 512 токенов; модель работает с текстом и выдаёт эмбеддинги. При обучении использовалась функция MultipleNegativesRankingLoss с косинусным сходством. Модель подходит для поиска текстов по смыслу и группировки похожих предложений или документов. В карточке не названы обучающие данные и поддерживаемые естественные языки, поэтому нельзя установить языковую специализацию или качество на конкретных языках. Репозиторий содержит веса PyTorch; сведения о лицензии отсутствуют в предоставленных данных.

EnlistedGhost/Devstral-Small-2507-Vision-GGUF — квантизированная версия модели Devstral Small 1.1, преобразованная в формат GGUF пользователем EnlistedGhost с помощью llama.cpp. Модель создана на основе Devstral-Small-2507-Vision; исходная Devstral разработана в сотрудничестве Mistral AI и All Hands AI и предназначена для агентных задач программной инженерии. Модель ориентирована на работу с кодом, исследование кодовых баз, редактирование нескольких файлов, DevOps-сценарии и программных агентов. Формат совместим с Ollama и llama.cpp, что упрощает локальный запуск. Доступны квантизации Q5_K, Q6_K и Q8_0, а также файлы vision projector в вариантах Q8_0, F16 и F32. Указаны поддержка изображений и текста, контекст до 128 тыс. токенов, 24 млрд параметров и языки английский, русский, украинский, немецкий, испанский, польский, шведский, арабский, турецкий, белорусский и бенгальский. Сильные стороны модели — специализация на программной инженерии, большой контекст, поддержка инструментов через формат function calling Mistral и возможность локального развертывания. Исходная Devstral Small 1.1 показывает результат 53,6% на SWE-Bench Verified, однако README не уточняет, сохраняется ли этот показатель у данной GGUF-версии и каковы характеристики её vision-возможностей. К ограничениям относятся требования к памяти, зависящие от выбранной квантизации, а также неполная информация о размерах файлов и готовых командах запуска. Лицензия Apache 2.0 допускает коммерческое и некоммерческое использование и модификацию.

Dolphin 2.9.4 Gemma2 2B — диалоговая языковая модель, подготовленная Эриком Хартфордом и Cognitive Computations на базе Google Gemma 2 2B. Это плотная авторегрессионная модель с 2,7 млрд параметров, обученная с контекстом 8192 токена; для диалога использует шаблон ChatML. В метаданных указаны формат safetensors и задача генерации текста. Модель предназначена для следования инструкциям, диалогов, написания и анализа кода, а также сценариев с функциями и агентными действиями. Разработчик отмечает обучение на данных для разных языков и особое внимание к соблюдению системных инструкций. Упомянуто применение GrokAdamW и Liger Kernel, но автор не утверждает, что обучение привело к ожидаемому обобщению. Модель описана разработчиком как uncensored и может охотно выполнять вредоносные или неэтичные запросы; перед предоставлением пользователям рекомендуется добавить собственный слой выравнивания. Она распространяется по лицензии Gemma, условия которой следует учитывать при использовании.

Dracarys2-Llama-3.1-70B-Instruct — текстовая модель Abacus.AI, дообученная на основе meta-llama/Meta-Llama-3.1-70B-Instruct для улучшения результатов в задачах программирования. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров; она принимает текст и поддерживает диалоговый формат Llama 3 Instruct. Заявленная длина контекста — 131 072 токена. Модель предназначена для генерации кода, анализа кода, предсказания результатов тестов и решения общих задач с инструкциями. В приведённых авторами оценках LiveCodeBench она показала более высокие результаты базовой модели в генерации кода и предсказании вывода тестов; показатели зависят от задачи и режима оценки. Доступна в формате Safetensors для Transformers. Лицензия — Llama 3; перед использованием следует соблюдать её условия.

intfloat/e5-base-unsupervised — англоязычная модель эмбеддингов текста из семейства E5, разработанная авторами работы Text Embeddings by Weakly-Supervised Contrastive Pre-training. Это вариант E5-base без последующего обучения на размеченных данных. Модель построена на архитектуре BERT: 12 слоёв, размер эмбеддинга 768, около 136,7 млн параметров; принимает текст и выдаёт векторные представления. Максимальная длина входа — 512 токенов. Модель предназначена для семантического сравнения текстов и поиска по смыслу, в том числе для извлечения фрагментов из коллекции по запросу, поиска перефразировок, кластеризации и использования эмбеддингов как признаков для классификации. Для задач поиска рекомендуется добавлять префиксы «query: » к запросам и «passage: » к текстам коллекции; для симметричного сравнения и других сценариев применяется префикс «query: ». Модель работает только с английскими текстами, а более длинные последовательности обрезаются до 512 токенов. Карточка предупреждает о возможном снижении качества без соответствующих префиксов и о небольших различиях результатов между версиями PyTorch и Transformers. Лицензия — MIT.

Карточка модели vectoriseai/e5-large на Hugging Face совпадает с карточкой intfloat/e5-large, поэтому описание составлено по ней. E5-large — англоязычная модель текстовых эмбеддингов, разработанная авторами проекта E5 и обученная методом слабоконтролируемого контрастивного предобучения. Она построена на архитектуре BERT, содержит 24 слоя и 433,9 млн параметров; размер эмбеддинга — 1024. Модель принимает текст и выдаёт векторные представления для сравнения смысловой близости и поиска. Модель подходит для семантического поиска, извлечения фрагментов по запросу, оценки сходства предложений, поиска перефразировок, кластеризации и использования эмбеддингов как признаков для классификации. Для асимметричного поиска рекомендуется добавлять к запросу префикс «query: », а к документу — «passage: »; для симметричных задач используется «query: » перед обоими текстами. Максимальная длина входа — 512 токенов. Модель работает только с английскими текстами. Тексты длиннее лимита обрезаются, а для более высокой точности авторы рекомендуют перейти на e5-large-v2. Лицензия — MIT.

idanylenko/e5-large-v2-ctx1024 — созданная автором на основе intfloat/e5-large-v2 англоязычная модель BERT для получения текстовых эмбеддингов и семантического поиска. Расширение контекста выполнено без дообучения параметров: изменены позиционные эмбеддинги методом нелинейной интерполяции, благодаря чему модель принимает последовательности длиной до 1024 токенов — вдвое больше базовой версии. Модель предназначена для поиска релевантных документов и фрагментов по длинным запросам или текстам, а также для семантического сравнения и кластеризации. В README приведены результаты оценки на четырёх задачах поиска LongEmbed; по указанной метрике NDCG@10 результаты превысили базовую e5-large-v2. Это англоязычная модель с 433,9 млн параметров, доступная в формате safetensors и совместимая с библиотекой sentence-transformers. Лицензия — MIT.

Карточка модели vectoriseai/e5-small-v2 на Hugging Face совпадает с карточкой intfloat/e5-small-v2, поэтому описание составлено по ней. E5-small-v2 — англоязычная модель текстовых эмбеддингов, представленная авторами Liang Wang, Nan Yang и соавторами. Она основана на архитектуре BERT и обучена с помощью слабоконтролируемого контрастивного предобучения. Модель содержит около 40 млн параметров, 12 слоёв и формирует векторы размерности 384; максимальная длина входа — 512 токенов. Модель предназначена для поиска текстов по смыслу, сопоставления предложений и оценки семантического сходства. Для асимметричного поиска следует добавлять к запросам префикс «query: », а к документам — «passage: »; для симметричного сходства, кластеризации и использования эмбеддингов как признаков рекомендуется префикс «query: ». Модель принимает английский текст и выдаёт векторные представления. Доступны веса в форматах PyTorch, safetensors, TensorFlow, ONNX и OpenVINO. Она работает только с английскими текстами, а входы длиннее 512 токенов обрезаются. Лицензия — MIT.

EmbeddingGemma 300M 4bit — модель для создания текстовых эмбеддингов, представленная сообществом mlx-community и конвертированная в формат MLX из модели Google embeddinggemma-300m-qat-q4_0-unquantized. Она предназначена для задач семантического сравнения предложений, поиска, кластеризации, классификации, reranking, retrieval и суммаризации. Модель имеет размер 300 млн параметров и использует 4-битное квантование. Она работает с текстом и возвращает нормализованные векторные представления, для сравнения которых можно применять скалярное произведение. README не указывает поддерживаемые языки и максимальную длину контекста. Для разных задач предусмотрены специализированные текстовые префиксы, включая sentence similarity, search result, clustering, classification и summarization. К сильным сторонам относятся компактный размер, сниженное потребление памяти благодаря 4-битному представлению и интеграция с экосистемой MLX через библиотеку mlx-embeddings. Ограничения включают отсутствие в README подробностей о языковом охвате, контексте, качестве на бенчмарках и совместимости за пределами MLX. Для использования требуется принять лицензию Google Gemma на Hugging Face; точные условия лицензии Gemma следует проверить отдельно.

Это облегчённая модель идентификации языка на основе библиотеки fastText, представленная Meta. Она классифицирует входной текст по языку; размещённая версия lid218e, выпущенная в рамках проекта NLLB, распознаёт 217 языков. Модель предназначена для автоматической маркировки языка коротких фрагментов, предварительной маршрутизации текста и выбора подходящих языковых инструментов. fastText рассчитан на эффективную работу на стандартном оборудовании и подходит как для прототипирования, так и для производственных сценариев. В README также описаны предобученные векторы fastText для 157 языков, полученные методом CBOW с позиционными весами и символьными n-граммами; эти параметры не следует считать подтверждённой спецификацией именно размещённого классификатора lid218e. Лицензия репозитория — CC BY-NC 4.0, поэтому коммерческое использование ограничено условиями лицензии. Возможны смещения в предсказаниях.

pashinskaya03/fft-bge-m3-encoder — модель Sentence Transformer на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерности 1024 и нормализует их; близость текстов можно оценивать косинусным сходством. Модель обучена на 78 413 примерах с anchor, positive и negative и подходит для семантического поиска, сравнения текстов, поиска перефразировок, классификации и кластеризации. Контекстное окно в метаданных указано как 8194 токена, а README задаёт максимальную длину последовательности 2048 токенов. В репозитории используются веса safetensors и библиотека Sentence Transformers. Языки и лицензия в предоставленных источниках не указаны. README не сообщает отдельного ограничения на применение; фактическая полезность эмбеддингов зависит от языка и предметной области текстов.

lochhonest/finetuned_mbert — модель Sentence Transformer, дообученная на базе nomic-ai/modernbert-embed-base. Она преобразует предложения и абзацы в плотные векторы размерности 768; сходство векторов можно оценивать косинусной мерой. Модель построена на ModernBERT с усреднением токеновых представлений и нормализацией, поддерживает последовательности длиной до 8192 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска парафраз, а также классификации и кластеризации на основе эмбеддингов. В README описан обучающий набор из 3625 пар «запрос — релевантный текст», в том числе примеры вопросов и длинных фрагментов документов, что может быть полезно для поиска по документам. Репозиторий использует библиотеку Sentence Transformers и формат safetensors. Условия лицензирования в предоставленных данных не указаны.

Giga-Embeddings-instruct-480M-0826 — двуязычная модель текстовых эмбеддингов серии Giga-Embeddings, представленная под именем GigaChat. Она основана на предобученной модели с архитектурой Qwen3, адаптированной для двунаправленного encoder-style внимания, и обучена контрастивной функцией InfoNCE. Модель содержит около 483,7 млн параметров, формирует векторы размерности 1024 и поддерживает контекст до 8192 токенов. Модель предназначена для семантического поиска, сравнения предложений и абзацев, классификации и кластеризации текстов на русском и английском языках. Для асимметричного поиска к запросу следует добавлять краткую инструкцию задачи, а документы кодировать без неё; для симметричного сравнения инструкция необязательна. Используются mean pooling по непустым токенам и L2-нормализация; при прямом использовании через Transformers их нужно реализовать самостоятельно. По заявленным результатам модель сильна на русскоязычном MTEB, а на английском и коде уступает некоторым моделям из сравнения. Модель распространяется в формате safetensors, библиотека карточки — sentence-transformers. Лицензия MIT. Небольшие различия версий Transformers и PyTorch могут приводить к отличиям результатов воспроизведения.

Grok 4.20 Multi-Agent — вариант модели Grok 4.20 от SpaceXAI для совместных сценариев с несколькими агентами. Несколько агентов работают параллельно, проводят углублённое исследование, координируют использование инструментов и объединяют полученные сведения. Данных о размере, архитектуре, модальностях, языках, длине контекста и лицензии в предоставленных источниках нет.

Hemg/gte-small-llama — дообученная Hemg на базе thenlper/gte-small модель Sentence Transformers для получения плотных текстовых эмбеддингов. Она кодирует предложения и абзацы в векторы размерности 384; архитектура включает BERT-трансформер, усреднение токенов и нормализацию векторов. Максимальная длина входа — 512 токенов, сходство текстов можно оценивать по косинусному сходству. Модель предназначена для семантического поиска, сравнения текстов, поиска перефразировок, кластеризации и классификации текстов на основе эмбеддингов. В README приведены обучающие пары из 3 327 примеров и настройка обучения с MultipleNegativesRankingLoss. Лицензия в предоставленных данных не указана.

Ginckl/HashBlitz-1-7B-Max — языковая модель для генерации текста и кода, разработанная Ginckl на базе unsloth/Qwen2.5-Coder-7B-Instruct. По описанию, модель создана как оптимизированная версия с 7 миллиардами параметров и ориентирована на локальное развёртывание, разработчиков и сценарии «vibe coding». Она предназначена для программирования, решения сложных задач разработки, повседневного диалога и аналитических сценариев, включая работу с актуальной информацией, если такая информация предоставляется через внешние инструменты или контекст. Заявлено, что при создании авторы синтезировали особенности нескольких передовых моделей: Claude Opus 5 — для программирования и логического рассуждения, Groq 4.5 — для характера и настройки безопасности, GPT-5.4 — для естественного диалога, а Gemini 3.1 Pro (Extended Thinking) — для анализа сложных реальных задач. Эти утверждения приведены в README разработчика и не сопровождаются подробностями о методике обучения или результатами независимой оценки. Модель поддерживает текстовую генерацию, заявленные языки — английский, испанский и французский. Архитектура основана на семействе Qwen 2.5 Coder; сведения о размере контекста, дополнительных модальностях, точных параметрах дообучения и ограничениях производительности не указаны. Лицензия — Apache-2.0, что допускает широкое использование на условиях этой лицензии.

endre01/infonce-e5-small-v2-0614-0450-st — модель Sentence Transformers, дообученная разработчиком endre01 на базе endre01/infonce-e5-small-v2-0614_0450. Она использует архитектуру BERT и преобразует предложения и абзацы в плотные векторы размерности 384; длина входной последовательности — до 512 токенов. Для сравнения текстов применяется косинусное сходство. Модель предназначена для семантического поиска, оценки сходства текстов, поиска перефразирований, кластеризации и классификации текста. Векторные представления можно использовать в системах поиска и группировки текстовых данных. В README не приведены сведения о конкретных языках обучения или применения, поэтому языковую специализацию определить нельзя. Модель распространяется в формате safetensors; лицензия в предоставленных данных не указана.

Карточка модели yusasufhin/Jarvis_Experts на Hugging Face совпадает с карточкой Qwen/Qwen3-Coder-480B-A35B-Instruct, поэтому описание составлено по ней. Qwen3-Coder-480B-A35B-Instruct — большая языковая модель для программирования от команды Qwen. Это причинная языковая модель с архитектурой MoE: всего 480 млрд параметров, из которых при генерации активируются 35 млрд; в метаданных каталога размер указан как 15,4 млрд параметров. Модель обучалась в несколько этапов, включая предобучение и последующее обучение, и распространяется в формате Safetensors под лицензией Apache 2.0. Модель предназначена для генерации и понимания кода, работы с большими репозиториями и агентных сценариев, включая управление браузером. Она поддерживает диалог и интерфейс вызова функций, а карточка рекомендует интеграции с Qwen Code и CLINE. Контекстное окно составляет 262 144 токена; README указывает на возможность расширения до 1 млн токенов с помощью Yarn. Режим рассуждений с включённым thinking модель не поддерживает. Заявленные разработчиком сильные стороны — результаты на агентном программировании и работе с браузером, сопоставимые с Claude Sonnet, и обработка контекста масштаба репозитория. Для развёртывания модели такого общего размера требуются значительные вычислительные ресурсы; точные требования зависят от конфигурации инференса.

KaLM-Embedding-Gemma3-12B-2511 — модель эмбеддингов от Tencent, дообученная на базе google/gemma-3-12b-pt. Она преобразует текст в векторы для поиска и сравнения смысловой близости; также подходит для классификации, кластеризации и ранжирования. Модель имеет плотную архитектуру Gemma 3 Text, содержит 11,6 млрд параметров, использует pooling по последнему токену и формирует эмбеддинги размерностью 3840 с поддержкой сокращения размерности до 64. Метаданные указывают контекст до 131 072 токенов, тогда как README заявляет максимум входа 32 тыс. токенов. В тесте MMTEB, приведённом в README, модель заняла первое место по сводному показателю; этот результат относится к оценке на момент публикации карточки и не гарантирует превосходства на других данных. Для работы доступны Sentence Transformers и vLLM с отдельной ревизией CausalLM. Лицензия указана как other, поэтому перед использованием следует проверить условия в карточке модели.

Kimi K2.7 Code — ориентированная на программирование агентная модель компании Moonshot AI, основанная на Kimi K2.6. Она предназначена для выполнения длительных задач разработки ПО и многоэтапных инженерных процессов: от создания и изменения кода до работы с проектами и инструментами. Архитектура — Mixture-of-Experts с общим числом параметров около 1 трлн и 32 млрд активируемых параметров; модель представлена в safetensors и использует нативную квантизацию INT4. Для тестирования заявлен контекст длиной 262 144 токена. Модель поддерживает диалог, вызов инструментов и визуальный ввод изображений и видео; основная специализация — агентное программирование и решение сложных задач разработки. Разработчик сообщает о повышении эффективности на длительных задачах и примерно на 30% меньшем расходе токенов на рассуждения по сравнению с Kimi K2.6. В карточке указана лицензия other; конкретные условия следует сверить с лицензией репозитория и условиями API.

gemasphi/laprador_mmarco — модель Sentence-Transformers на базе BERT для преобразования предложений и абзацев в плотные векторные представления размерности 768. Её обучили с помощью MultipleNegativesRankingLoss на основе косинусного сходства; в метаданных указаны 79,5 млн параметров и контекст до 512 токенов. Модель подходит для семантического поиска, сравнения текстов и кластеризации. Она принимает текст и выдаёт эмбеддинги, которые можно использовать для поиска похожих фрагментов или группировки текстов. Для работы доступны Sentence-Transformers и Transformers с подходящей операцией pooling. В репозитории указан формат PyTorch. Сведения о лицензии в предоставленных данных отсутствуют.

Longformer-large-4096 — англоязычная предварительно обученная модель-трансформер от Allen Institute for AI (AI2), предназначенная для представления и анализа длинных текстов. В конфигурации — 24 слоя, 1024 скрытых измерения и около 454,1 млн параметров; модель рассчитана на последовательности примерно до 4096 токенов. Механизм внимания сочетает локальное скользящее окно и настраиваемое глобальное внимание, благодаря чему обработка длинных последовательностей масштабируется линейно по их длине. Модель подходит как основа для дообучения под задачи классификации документов, поиска ответов и других задач понимания текста; сама по себе она не является генеративным чат-ботом. Доступны веса PyTorch и TensorFlow. Условия лицензии в использованных источниках не установлены.

M31Genesis — экспериментальная исследовательская модель для агентного программирования, представленная в проекте eshanized/M31Genesis. Это decoder-only causal language model на собственной архитектуре M31, предназначенная для генерации и продолжения текста, прежде всего в задачах разработки программного обеспечения, написания и редактирования кода, отладки, анализа репозиториев, repository-aware reasoning и исследований взаимодействия агентов с инструментами. Модель относится к классу примерно 425M параметров и использует словарь ByteLevel BPE на 65 536 токенов. Архитектура включает 24 слоя, размер скрытого состояния 1024, 16 attention heads и 8 KV heads, RMSNorm, RoPE и связанные входные и выходные эмбеддинги. В карточке указана поддержка английского языка и текстовая модальность; максимальный размер контекста не указан. Сильными сторонами являются специализация на программировании и сценариях агентного использования, однако модель имеет экспериментальный статус, поэтому её качество и надёжность следует оценивать перед применением в production. Лицензия — MIT.