I.14Автоматизация процессов и AI-агенты

Ramos-Ramos/xlm-roberta-base-en-tl — модель на основе XLM-RoBERTa, преобразующая предложения и абзацы в плотные векторы размерностью 768. Она предназначена для поиска семантически близких текстов, кластеризации и сравнения предложений. Модель можно использовать через Sentence-Transformers или Transformers с подходящей операцией pooling; размер составляет 305,2 млн параметров, контекст — до 514 токенов. Модель обучена с использованием MSELoss на датасете Ramos-Ramos/nllb-eng-tgl-12k и поддерживает английский и тагальский языки. Лицензия в предоставленных данных не указана.

Zenith-7B-dpo-v3 — разговорная языковая модель Xenon1 на 7,1 млрд параметров, созданная дообучением Mistral-7B-v0.1 на датасете UltraFeedback с применением методов из работы Self-Rewarding Language Models. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы; для форматирования запросов используется шаблон Mistral с маркерами [INST] и [/INST]. Архитектура — плотный трансформер Mistral с Grouped-Query Attention и Sliding-Window Attention; поддерживаемый контекст — до 32 768 токенов. Модель работает с текстом и ориентирована прежде всего на английский язык. В карточке приведены результаты на ARC Challenge, HellaSwag, TruthfulQA и Winogrande. Модель распространяется в формате safetensors по лицензии Apache-2.0.

Карточка модели Nhat1904/16-shot-twitter-2classes на Hugging Face совпадает с карточкой Nhat1904/16-shot-twitter-2classes-new, поэтому описание составлено по ней. Nhat1904/16-shot-twitter-2classes-new — модель Sentence Transformers на базе MPNet, разработанная для преобразования предложений и абзацев в плотные векторы размерности 768. Она предназначена для поиска семантически близких текстов, кластеризации и сравнения предложений по сходству. Модель содержит 136,7 млн параметров, принимает текстовые последовательности с контекстом до 514 токенов и распространяется в формате PyTorch. Название указывает на обучение на небольшом количестве примеров из набора Twitter с двумя классами; в карточке также указан CosineSimilarityLoss. Такие векторы можно использовать в семантическом поиске и других системах сравнения текстов. Язык обучения явно не указан. Лицензия в предоставленных данных не указана.

Nhat1904/16-shot-twitter-2classes-new — модель Sentence Transformers на базе MPNet, разработанная для преобразования предложений и абзацев в плотные векторы размерности 768. Она предназначена для поиска семантически близких текстов, кластеризации и сравнения предложений по сходству. Модель содержит 136,7 млн параметров, принимает текстовые последовательности с контекстом до 514 токенов и распространяется в формате PyTorch. Название указывает на обучение на небольшом количестве примеров из набора Twitter с двумя классами; в карточке также указан CosineSimilarityLoss. Такие векторы можно использовать в семантическом поиске и других системах сравнения текстов. Язык обучения явно не указан. Лицензия в предоставленных данных не указана.

MaTE X Privacy Sentinel v0.1 — дообученная Enosis Labs модель OpenAI Privacy Filter для локального обнаружения и маскирования персональных данных и секретов в тексте. Она предназначена для фильтрации конфиденциальных строк, в том числе учетных данных и параметров подключения, перед их сохранением или передачей. Модель использует архитектуру MoE, содержит 145,4 млн параметров и рассчитана на контекст до 131 072 токенов. Это модель для разметки токенов на базе Transformers; в README приведены span F1 0,9956 на валидации и 0,9894 на тесте. Доступны веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Она служит вспомогательным средством защиты конфиденциальности и не гарантирует соответствие требованиям; перед применением в production рекомендуется провести собственную проверку на контрольных примерах.

Lionelglo/aion-agnostic-engineer-v2 — языковая модель для генерации текста, опубликованная на Hugging Face и предназначенная для использования через библиотеку Transformers. README модели автоматически сгенерирован и не содержит сведений о разработчике, обучении или точной специализации; в метаданных модель помечена как conversational и относится к семейству Qwen2. Модель имеет 3,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Её можно применять для диалогов, генерации ответов, написания и преобразования текстов, а также интеграции в приложения на базе Transformers. Метаданные указывают задачу text-generation и форматы transformers и safetensors. README не содержит результатов оценки, описания обучающих данных, сведений о языках, лицензии или рекомендаций по безопасному применению. Поэтому качество на конкретных языках и доменах, устойчивость ответов и пригодность для критически важных сценариев по имеющимся данным подтвердить нельзя.

LazarusNLP/all-nusabert-base-v4 — модель семейства BERT, опубликованная LazarusNLP и предназначенная для получения векторных представлений предложений и абзацев на индонезийском языке. Она преобразует текст в плотные эмбеддинги размерности 768, которые подходят для семантического поиска, сравнения сходства и кластеризации. Модель содержит 137,8 млн параметров, использует библиотеку sentence-transformers и принимает последовательности длиной до 512 токенов. Модель обучалась с функцией потерь CachedMultipleNegativesRankingLoss на косинусном сходстве; в метаданных также перечислены датасеты для индонезийского NLI, поиска, вопросов и ответов и парафразов. Репозиторий содержит веса в формате safetensors. Сведения о лицензии в предоставленных данных отсутствуют.

NAMAA-Space/AraModernBert-Base-STS — дообученная на базе NAMAA-Space/AraModernBert-Base-V1.0 модель Sentence Transformers для получения плотных векторных представлений арабского текста. Она использует архитектуру ModernBERT с mean pooling и выдаёт 768-мерные эмбеддинги; метаданные указывают контекст до 8 192 токенов, хотя в архитектуре из README задана максимальная длина последовательности 512 токенов. Модель предназначена для оценки семантического сходства предложений, поиска и кластеризации текстов, выявления перефразирований и классификации на основе эмбеддингов. В README приведены результаты оценки сходства на STS17 и STS22.v2. Модель работает с арабским языком и распространяется по лицензии Apache-2.0. Результаты могут зависеть от данных и сценария применения; приведённые метрики относятся к указанным наборам оценки.

ASTRAL-256k-5.5b — языковая модель от разработчика aww для генерации текста и диалогов. Она построена на архитектуре MistralForCausalLM, имеет 1,6 млрд параметров и поддерживает контекст до 256 000 токенов, что подходит для работы с длинными документами и продолжительными беседами. Модель принимает текст и генерирует текст; в карточке заявлена поддержка английского языка. Модель предназначена для создания статей, отчётов и художественных текстов, чат-ботов, суммаризации и перевода больших документов. Карточка также заявляет оптимизацию вычислений, включая запуск с bfloat16, но не приводит сравнительных результатов. Модель распространяется по лицензии Apache-2.0.

unsloth/aya-vision-32b — версия с весами, опубликованная Unsloth на основе мультимодальной модели Aya Vision 32B от Cohere For AI. Это плотная vision-language модель для диалога по тексту и изображениям: она принимает текст и изображения, а в ответ генерирует текст. Варианты Aya Vision предназначены для OCR, описания изображений, визуальных рассуждений, суммаризации, ответов на вопросы по изображениям и других задач понимания визуального содержимого. Модель относится к семейству Aya Vision и использует архитектуру AyaVisionForConditionalGeneration; для обработки изображений применяется зрительный энкодер SigLIP2. Она поддерживает многоязычное взаимодействие, включая русский, и работает через библиотеку Transformers. Карточка README относится к версии 8B, поэтому приведённые там сведения о контексте 16K, обработке изображений и подробном списке 23 языков нельзя уверенно переносить на эту версию 32B. Репозиторий основан на CohereForAI/aya-vision-32b и классифицирован как дообученная модель; веса хранятся в формате safetensors. Лицензия CC-BY-NC-4.0 запрещает коммерческое использование и требует соблюдать условия допустимого использования C4AI. Подробности производительности и ограничения именно версии 32B в предоставленной карточке не описаны.

Модель threehook/bert-base-dutch-cased-sts — Sentence Transformer на архитектуре BERT, дообученный разработчиком на базе GroNLP/bert-base-dutch-cased на наборе sentence-transformers/stsb. Она преобразует предложения и абзацы в плотные векторы размерностью 768, которые можно сравнивать косинусной близостью. Максимальная длина входа — 512 токенов; модель использует mean pooling и предназначена для оценки семантического сходства, семантического поиска и поиска перефразировок, а также может применяться для кластеризации и классификации текстов. В README указан язык en, хотя базовая модель нидерландская; поэтому качество для нидерландского текста отдельно не подтверждено. Модель принимает текст и выдаёт векторы, а не готовые текстовые ответы. Лицензия в предоставленных данных не указана.

wilsonmarciliojr/bertimbau-embed-nli — дообученная модель Sentence Transformers на основе neuralmind/bert-base-portuguese-cased, разработанная автором репозитория. Она преобразует предложения и абзацы на португальском языке в плотные векторы размерности 768 для сравнения по косинусному сходству. Модель подходит для семантического поиска, оценки сходства и поиска перефразировок, а также может применяться для кластеризации и классификации текста. В основе лежит BERT-архитектура BertModel с усреднением токенных представлений; максимальная длина входа — 512 токенов. В README приведены результаты оценки сходства на STS: Spearman 0,8034 на sts-dev и 0,7498 на sts-test. Модель рассчитана на текст на бразильском португальском; других языков карточка не подтверждает. Лицензия в предоставленных данных не указана.

Это модель Sentence Transformers на базе BERT-large для кантонского языка, разработанная hon9kon9ize. Она дообучена на наборах yue-all-nli и sentence-transformers/all-nli и преобразует предложения и абзацы в плотные векторы размерностью 1024. Векторы предназначены для сравнения семантического сходства с помощью косинусной меры, семантического поиска, поиска перефразировок, классификации текстов и кластеризации. Модель использует архитектуру BERT с усреднением токенных представлений; максимальная длина входа — 512 токенов. В README приведены результаты оценки сходства на sts-dev и sts-test: Spearman 0,8072 и 0,7611 соответственно. Модель принимает текст и выдаёт векторные представления; метаданные указывают 424,8 млн параметров и формат safetensors. Условия лицензирования в предоставленных данных не описаны.

rufimelo/bert-large-portuguese-cased-sts — модель эмбеддингов на архитектуре BERT, разработанная rufimelo и дообученная на базе BERTimbau large. Она преобразует предложения и абзацы на португальском языке в плотные векторы размерностью 1024 для сравнения семантической близости. Модель предназначена для оценки семантического сходства текстов, семантического поиска и кластеризации. При обучении использовались датасеты ASSIN, ASSIN2 и STS-B Multi-MT для португальского языка. Максимальная длина контекста — 512 токенов; доступны веса PyTorch и Safetensors. Лицензия в предоставленных данных не указана. Результаты модели ограничены португальским языком и максимальной длиной контекста; применимость к другим языкам не подтверждена.

ArnavKewalram/bge-small-code-v1 — текстовая Sentence Transformer-модель, дообученная разработчиком на базе BAAI/bge-small-en-v1.5. Она преобразует предложения и абзацы в плотные векторы размерностью 384 для поиска и сравнения текстов. Архитектура основана на BERT: используется CLS-пулинг и нормализация эмбеддингов, а сходство можно оценивать косинусной мерой. Модель рассчитана на текстовые сценарии, включая семантический поиск и извлечение релевантных фрагментов. Метаданные указывают 40 млн параметров и контекст до 512 токенов; в README указан максимальный размер последовательности 384 токена. Карточка называет базовую модель англоязычной, поэтому применение для кода или других языков не следует считать подтверждённым одним лишь названием репозитория. Лицензия в доступных данных не приведена.

jebish7/bge-small-en-v1.5_MNSR_3 — дообученная автором карточки модель Sentence Transformers на базе BAAI/bge-small-en-v1.5. Она преобразует предложения и абзацы на английском языке в плотные эмбеддинги размерности 384; архитектура включает BERT, пулинг CLS-токена и нормализацию. Модель рассчитана на семантическое сравнение текстов по косинусному сходству, семантический поиск, поиск перефразировок, кластеризацию и классификацию текстов. Максимальная длина входа — 512 токенов. В обучении использован CSV-датасет из 29 545 пар «запрос — релевантный фрагмент»; приведённые примеры относятся к финансовому регулированию ADGM, но карточка не подтверждает более широкую специализацию на этой области. Компактный размер в 40 млн параметров подходит для построения поиска и сравнения англоязычных текстов. Лицензия в предоставленных данных не указана.

Bhasha embed v0 — модель эмбеддингов Akshita Sukhlecha на базе google/muril-base-cased. Она преобразует предложения и тексты на хинди письмом деванагари, английском и хинди в латинской транслитерации в векторы размерности 768, предназначенные для сравнения по косинусному сходству. Модель рассчитана на межъязыковое сопоставление и поиск по смешанным корпусам, где встречаются тексты на хинди, английском и транслитерированном хинди. Она использует архитектуру BERT, обучалась дистилляцией англоязычной модели эмбеддингов и дообучением на триплетных данных. Максимальная длина последовательности — 512 токенов. Модель опубликована под лицензией Apache-2.0. Карточка заявляет поддержку романизированного хинди и межъязыкового выравнивания; результаты приведены для нескольких задач поиска и сходства. Качество может зависеть от языка, письма и состава корпуса; сведения карточки не задают отдельные ограничения по применению.

Bonsai-27B-antidoom-1bit-DSpark — текстовая генеративная модель, разработанная на базе Bonsai-27B от prism-ml с применением метода antidoom от Liquid4All и ускорения DSpark от PrismML. Модель предназначена для генерации текста, включая программный код, а также поддерживает работу с изображениями через поставляемый vision projector. Указанный язык — английский. Это гибридная attention-модель Qwen3.5 с 27 млрд параметров, квантованная в 1-битный формат GGUF Q1_0 с показателем 1,125 бит на вес при группировке g128. В комплект входят основная модель размером около 4,5 ГБ, DSpark-драфтер в формате Q4_1 и vision projector в формате Q8_0. Для запуска требуется форк llama.cpp от PrismML с CUDA и поддержкой специальных Q1_0-ядер гибридного внимания; протестированная конфигурация использует одну RTX 5090 с 32 ГБ памяти. Контекст в приведённой конфигурации составляет 16 384 токена. Antidoom — это FTPO-настройка, направленная на снижение зацикливания и повторов: модель обучалась предпочитать связное продолжение вместо продолжения повторяющегося цикла. При этом агрессивное 1-битное квантование частично ослабляет эффект LoRA, поэтому он сильнее проявляется при более высокой точности. DSpark ускоряет генерацию на задачах с высокой долей принятых черновых токенов, однако на обычной прозе с низкой долей принятия может работать медленнее нативного режима. Лицензия модели — Apache-2.0.

brazembed-pt-br-sts — компонент системы BrazEmbed-PT-BR от tardellirs, предназначенный для вычисления семантического сходства предложений на бразильском португальском. Это дообученная модель SentenceTransformer на базе BERTimbau Base с архитектурой BERT; её размер составляет 136,1 млн параметров, а контекст ограничен 512 токенами. Модель формирует эмбеддинги с mean pooling и L2-нормализацией, без префикса инструкции. Модель подходит для оценки близости предложений, поиска семантически похожих текстов и ранжирования кандидатов по сходству. В README для системы BrazEmbed-PT-BR приведён результат MTEB(por) mean_16 0,6567 и заявлено первое место в классе моделей около 100 млн параметров; это системный показатель, а не отдельная оценка данного компонента. Распространяется по лицензии MIT.

Это GGUF-квантизированная версия языковой модели CohereForAI/c4ai-command-r-plus-08-2024, подготовленная пользователем legraphista с использованием llama.cpp и метода IMatrix. Модель предназначена для генерации текста и диалогового взаимодействия, включая локальный запуск через совместимые инструменты llama.cpp. Доступны варианты с разными уровнями квантования — от 16-битного FP16 до 1–8-битных форматов, включая Q4_K, Q3_K и Q2_K; часть вариантов использует IMatrix для улучшения качества при уменьшенном размере. Заявлена поддержка английского, французского, немецкого, испанского, итальянского, португальского, японского, корейского, китайского и арабского языков. К сильным сторонам относятся широкий выбор квантованных вариантов, возможность локального использования и компромисс между качеством, размером файлов и требованиями к памяти. При этом README не содержит сведений о точной архитектуре, числе параметров, размере контекста и результатах оценки, а низкие уровни квантования могут снижать качество по сравнению с исходной FP16-моделью. Распространение осуществляется по лицензии CC-BY-NC-4.0, допускающей использование с ограничениями, включая некоммерческий характер лицензии.

Camelidae-8x34B — языковая модель семейства Camelidae, разработанная авторами проекта Camelidae с применением метода Parameter-Efficient Sparsity Crafting. Это разреженная Mixture-of-Experts-модель с архитектурой на основе LLaMA; в репозитории указано 33,9 млрд параметров. Модель прошла инструкционное дообучение и предназначена для генерации текста и ответов на общие запросы. Модель ориентирована в том числе на задачи по математике и программированию. В описании проекта приведены результаты тестирования по общим знаниям, математике и генерации кода; модель загружается через Transformers как причинная языковая модель. Контекст составляет 4096 токенов, основной указанный язык — английский. Репозиторий распространяется в формате PyTorch по лицензии Apache-2.0. Результаты бенчмарков зависят от настройки и не гарантируют качество для конкретных запросов; карточка не описывает отдельные ограничения или защитные механизмы модели.

Omerhan/checkpoint-6248-v7 — модель Sentence Transformer, созданная дообучением intfloat/multilingual-e5-large-instruct. Она кодирует предложения и абзацы на турецком языке в плотные векторы размерности 1024, которые можно сравнивать с помощью косинусного сходства. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации текста. Модель использует архитектуру XLM-RoBERTa с усреднением токенных представлений и нормализацией векторов. Максимальная длина последовательности — 512 токенов; библиотека — Sentence Transformers. В обучении использовались 920 106 примеров с парами и отрицательными примерами. Лицензия — Apache-2.0.

Это англоязычный разреженный CSR-кодировщик текста tomaarsen/csr-mxbai-embed-large-v1-nq-no-reconstruction, разработанный на базе mixedbread-ai/mxbai-embed-large-v1 с помощью Sentence Transformers и дообученный на наборе Natural Questions. Модель предназначена для семантического поиска и разреженного извлечения документов: она преобразует предложения и абзацы в векторы, которые можно сравнивать скалярным произведением. Архитектура основана на BERT и содержит 433,9 млн параметров. Размер выходного пространства — 4096 измерений, при этом в векторе активно не более 256 измерений. Максимальная длина последовательности — 512 токенов. В README приведены результаты оценки извлечения на наборах NanoMSMARCO, NanoNFCorpus, NanoNQ и NanoBEIR. Модель подходит для поиска по текстовым коллекциям и ранжирования кандидатов по релевантности. Она рассчитана на английский язык; результаты для других языков не заявлены. Распространяется по лицензии Apache-2.0.

Damysus-2.7B-Chat — англоязычная диалоговая модель Prince Canuma, дообученная на базе Microsoft Phi-2 для следования инструкциям. Это плотный Transformer для генерации текста с 3,5 млрд параметров по метаданным и контекстом до 2048 токенов. Модель рассчитана на ответы на вопросы, извлечение данных, структурированные ответы, включая JSON, и объяснения; её также можно использовать как компонент RAG для синтеза ответов, суммаризации и переформулирования запросов. Модель обучали на данных SlimOrca и наборах TinyOrca; автор сообщает, что лучшие результаты получил при дообучении на 200 примерах. Репозиторий содержит веса Safetensors, для работы предусмотрена библиотека Transformers. Лицензия — MIT. Модель в первую очередь рассчитана на стандартный английский; сленг и другие языки могут обрабатываться хуже. Ответы и фрагменты кода могут быть фактически неверными, а знания о программировании в основном связаны с Python и распространёнными библиотеками, поэтому результаты следует проверять.

deepseekmerge-7b-ties — объединённая языковая модель, созданная с помощью mergekit методом TIES из DeepSeek-LLM-7B-Base, DeepSeek-LLM-7B-Chat и DeepSeek-Coder-7B-Base-v1.5. Она предназначена для генерации текста и объединяет возможности диалоговой модели DeepSeek с моделью, ориентированной на программирование. Модель использует плотную архитектуру семейства Llama с причинным языковым декодером, содержит 6,5 млрд параметров и поддерживает контекст до 4096 токенов. В репозитории доступны веса Safetensors; модель распространяется по лицензии Apache-2.0. Базовые модели обучались на английских и китайских данных, однако README не уточняет языковой охват именно объединённой версии. Модель можно использовать для диалоговых ответов и генерации кода. Карточка не приводит оценок качества или подробных результатов тестирования, поэтому пригодность для конкретных задач следует проверять отдельно.

Solstice-AI/DeepSeek-V4-Flash-Vision-Exp-NVFP4 — мультимодальная модель для задач image-text-to-text, разработанная Solstice-AI на основе экспериментальной модели DeepSeek-V4-Flash-Vision-Exp от DeepSeek. Она предназначена для анализа изображений и текста, визуального контроля качества, распознавания объектов и текста на изображениях, а также текстовой генерации и многошагового рассуждения в сценариях, требующих большого контекста. Модель имеет архитектуру MoE с 305 млрд параметров, 256 маршрутизируемыми экспертами и примерно 13 млрд активируемых параметров на токен; заявлено 43 слоя. Контекстное окно составляет 1 048 576 токенов, используется native YaRN. Зрительная часть включает 32-слойный Vision Transformer и работает в формате BF16. Эксперты квантизированы в SafeTensors NVFP4: W4A4, group size 16, с block-scale calibration. Ключевая особенность — bit-exact транскодирование MXFP4 в NVFP4 без заявленной потери точности. Модель оптимизирована для NVIDIA Blackwell, включая B200, GB200, DGX Spark и RTX 5090, а также для vLLM и TensorRT-LLM. Согласно README, к сильным сторонам относятся сохранение качества базовой модели на GSM8K, тестах извлечения данных из длинного контекста и мультимодальном visual question answering; для vision QA заявлены точное совпадение ответов и время до первого токена менее 50 мс. Ограничения связаны с экспериментальным статусом, специализированной поддержкой оборудования NVIDIA Blackwell и зависимостью от совместимых inference-движков. Модель распространяется по лицензии MIT; упаковка и сопровождение выполнены Solstice-AI, а квантизационный pipeline создан с использованием NVIDIA TensorRT ModelOpt.

DeepSeek-VL2-Small — мультимодальная модель семейства DeepSeek-VL2, разработанная командой DeepSeek. Это модель типа Mixture-of-Experts, построенная на DeepSeekMoE-16B; в серии Small активируется 2,8 млрд параметров. Карточка указывает архитектуру DeepSeek-VL2 и библиотеку Transformers, а веса опубликованы в формате safetensors. Модель предназначена для диалога по изображениям и визуального понимания: она отвечает на вопросы об изображениях, распознаёт текст, разбирает документы, таблицы и диаграммы, а также находит и описывает визуальные объекты. В README упоминается подача изображений с размером 384×384 без разбиения на фрагменты. Среди ограничений карточка рекомендует температуру T=0 для изображений. Лицензия указана как other, поэтому конкретные условия использования следует сверять с лицензией в репозитории.

upskyy/e5-small-korean — модель Sentence Transformer, созданная дообучением intfloat/multilingual-e5-small на наборах korsts и kornli. Она использует архитектуру BERT с усреднением токенных представлений и формирует плотные эмбеддинги размерности 384; сходство текстов оценивается косинусной близостью. Максимальная длина последовательности — 512 токенов. Модель предназначена для сравнения предложений и абзацев, семантического поиска, поиска перефразирований, кластеризации и классификации текста. В README приведена оценка на sts-dev: Spearman 0,8467 и Pearson 0,848 для косинусного сходства. Лицензия — MIT.

EMMA-500 Llama 3 8B bi — многоязычная языковая модель MaLA-LM, полученная продолжительным предварительным обучением архитектуры Llama 3 8B. Модель насчитывает 7,5 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. Вариант bi обучен на многоязычных монолингвальных данных и двуязычном переводном корпусе для более чем 2 500 языковых пар; серия охватывает 546 языков. Модель предназначена для генерации многоязычного текста, машинного перевода, рассуждений на основе здравого смысла и классификации текстов, в том числе для языков с ограниченными ресурсами. В обучающие данные входят тексты из книг, кода, инструкций и научных статей. Лицензия — Llama 3 Community License (llama3).

Falcon3-10B-Base — базовая предварительно обученная языковая модель семейства Falcon3, разработанная Technology Innovation Institute. Это плотный авторегрессионный трансформер с 9,9 млрд параметров; в карточке архитектура указана как LlamaForCausalLM. Модель принимает текст и генерирует продолжение, поддерживает английский, французский, испанский и португальский языки, а контекстное окно достигает 32 768 токенов. Модель обучалась на данных из веба, кода, STEM и многоязычных источников; в README заявлены результаты в рассуждениях, понимании языка, следовании инструкциям, программировании и математике. Это сырой базовый чекпойнт: для большинства прикладных сценариев его следует дополнительно дообучить, например с помощью SFT или RLHF. Весовые файлы представлены в формате safetensors. Лицензия — TII Falcon-LLM License 2.0; перед использованием следует учитывать её условия.