I.2Синтез, понимание и проверка знаний

TyRoberta — предварительно обученная языковая модель семейства RoBERTa для турецкого языка, разработанная Trendyol. Её можно использовать как основу для извлечения признаков и адаптировать к задачам понимания текста, включая классификацию и распознавание именованных сущностей. Модель содержит 136,3 млн параметров, принимает текст и имеет контекстное окно до 512 токенов. В репозитории опубликованы веса Safetensors; для работы указана библиотека Transformers. Лицензия — Apache 2.0.

ViDense — модель эмбеддингов предложений для вьетнамского языка, созданная автором namdp-ptit путём дообучения FacebookAI/xlm-roberta-large. Она предназначена для поиска семантически близких текстов и ранжирования документов по запросу. Модель содержит 658,7 млн параметров, использует mean pooling, Rotary Position Encoding и блочный параллельный трансформер; обучение включало Momentum Contrast и отдельный Rank Encoder для учёта транзитивных связей релевантности. Для оптимизации применялись cross-entropy по оценкам сходства и MSE по оценкам Spearman. В README приведены результаты Recall@3 на вьетнамских наборах ZAC, WebFAQ, OwiFAQ, ViQuAD2.0 и ViLegal. Репозиторий использует PyTorch и Transformers, веса представлены в формате PyTorch; лицензия — Apache-2.0. Модель ориентирована на вьетнамский текст, а заявленная длина контекста составляет 8194 токена.

Werea-TR-QA — турецкая модель извлечения ответов на вопросы: она находит фрагмент ответа в предоставленном контексте и подходит, в частности, для систем RAG. Модель разработала Werea; это дообученная на задаче question answering модель BERTurk на базе dbmdz/bert-base-turkish-cased с архитектурой BertForQuestionAnswering и 137,8 млн параметров. Контекст — до 512 токенов. В README указано, что модель обучалась два эпоха на наборе TQuAD2 с человеческой разметкой. Для TQuAD2 (validation) приведены EM 53,8% и F1 72,7%, для XQuAD-tr — EM 46,1% и F1 64,5%. Лицензия — MIT. Модель рассчитана на турецкий язык и извлечение ответов из текста; она не предназначена для свободной генерации развернутых ответов.

xDAN-L1-SOLAR-RL-v1 — диалоговая языковая модель xDAN-AI, полученная дообучением с подкреплением на базе SOLAR10.7B. Она предназначена для генерации текста в формате чата и может использоваться для создания ответов на запросы пользователя. Модель построена на плотной архитектуре Llama и содержит около 10,6 млрд параметров. Контекстное окно составляет 4096 токенов. В карточке указаны наборы данных OpenOrca и OpenAssistant oasst2, а лицензия — Creative Commons Attribution 4.0 (CC BY 4.0). Разработчик предупреждает, что ответы могут быть неточными, бессвязными или проблемными; модель не гарантирует достоверность и не исключает генерацию дезинформации. Для критически важных решений ответы требуют проверки.

XYZAILab_XYZ-Aquila-mini-GGUF — GGUF-квантизация модели XYZ-Aquila-mini, разработанной XYZAILab и подготовленной bartowski с использованием llama.cpp и метода imatrix. Модель позиционируется как image-text-to-text и предназначена для сценариев, связанных с обработкой изображений и текста, включая agentic search. Доступна для запуска через llama.cpp, LM Studio, KoboldCpp, Jan AI и другие совместимые инструменты. В набор входят варианты от BF16 до низкобитных квантов Q8, Q6, Q5, Q4 и Q3, с размером файлов примерно от 16 до 69 ГБ. README не указывает точное число параметров, максимальный контекст, поддерживаемые языки или подробности архитектуры. Рекомендуемые варианты Q6 и Q5 обеспечивают высокое качество, а Q4 и Q3 позволяют сократить требования к оперативной памяти за счёт некоторого снижения качества. Модель распространяется по лицензии Apache-2.0. Для работы требуется совместимый рантайм с поддержкой данной архитектуры и формата GGUF; при появлении новой архитектуры может понадобиться обновление используемого инструмента. Ограничения по качеству мультимодального анализа, языкам и конкретным сценариям применения в README не приведены.

Yi-Coder-1.5B-Chat-GGUF — это набор файлов модели в формате GGUF для Yi-Coder-1.5B-Chat, разработанной 01-ai и квантованной MaziyarPanahi. Модель предназначена для генерации текста и диалоговых сценариев, включая задачи, связанные с программированием, однако подробные сведения о её обучении и специализации в README не приведены. Доступны варианты квантования с разрядностью 2, 3, 4, 5, 6 и 8 бит. Формат GGUF ориентирован на локальный запуск и поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и рядом других инструментов. Это позволяет использовать модель с GPU-ускорением, через Python-библиотеки, веб-интерфейсы и совместимые API-серверы. README не содержит данных о точной архитектуре, размере контекста, поддерживаемых языках и модальностях, а также не указывает лицензию. Возможности и качество зависят от выбранной квантованной версии и используемого программного обеспечения; квантование может снизить требования к ресурсам, но потенциально повлиять на точность.

Это разговорная языковая модель на архитектуре Mistral с 7,1 млрд параметров, дообученная ShenaoZhang на основе ShenaoZhang/0.001_4iters_bs256_nodpo_only4w_userresponse_iter_2. Модель предназначена для генерации текста и ответов в диалоге; в карточке также указано обучение на обновлённом и исходном наборах данных. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. Опубликована в формате safetensors под лицензией MIT. Карточка не содержит подробностей об оценке качества, рекомендуемых сценариях и известных ограничениях.

KnutJaegersberg/2-bit-LLMs — коллекция крупных языковых моделей, подготовленная Knut Jaegersberg в формате GGUF с 2-битной квантизацией с использованием подхода, вдохновлённого QuIP#, для запуска через llama.cpp. В коллекцию входят варианты моделей разных семейств, в том числе Llama, Qwen, Mistral, Mixtral, Yi и DeepSeek, преимущественно размером от 34 до 120 млрд параметров; некоторые модели доступны в вариантах XS и XXS. Коллекция предназначена для генерации текста и диалогового использования, включая ответы на инструкции, чат и специализированные сценарии вроде генерации кода. В README приведены шаблоны запросов и сведения о лицензиях отдельных исходных моделей. Для крупных вариантов может потребоваться уменьшить контекст, чтобы модель поместилась в память GPU; для LongAlpaca и моделей с Yarn README также приводит настройку RoPE scaling. Условия использования зависят от конкретной модели в коллекции: указаны, среди прочего, лицензии Llama 2, Qwen, Apache 2.0 и Yi, поэтому перед использованием нужно проверить лицензию выбранного варианта.

Ahma-3B-dpo-slerp — языковая модель, созданная Finnish-NLP слиянием двух DPO-чекпойнтов с помощью LazyMergekit. Это плотная авторегрессионная модель семейства Llama с 3,4 млрд параметров, предназначенная для генерации текста и диалогового общения. Она принимает текст и выдаёт текст; максимальная длина контекста составляет 2048 токенов. Модель подходит для диалоговых приложений и генерации ответов. В карточке не приведены сведения о поддерживаемых языках, качестве на конкретных задачах или ограничениях поведения. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана.

Ahma-3B-Slerp — языковая модель для генерации текста, созданная объединением двух контрольных точек Ahma-3B с помощью LazyMergekit и метода slerp. Модель основана на архитектуре Llama и содержит 3,4 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия. Контекст составляет 2048 токенов; веса представлены в формате safetensors, а при слиянии использовалась точность bfloat16. Карточка не уточняет языковое покрытие и специализированные области применения. Условия лицензирования в предоставленных данных не описаны. Короткое окно контекста ограничивает работу с длинными запросами и документами.

ALBERT XXLarge v2 — англоязычная предварительно обученная модель семейства ALBERT, представленная авторами ALBERT и опубликованная командой Hugging Face. Она обучена предсказывать замаскированные токены и порядок двух соседних фрагментов текста; основное применение — заполнение пропусков, получение признаков текста и последующая тонкая настройка для задач классификации, разметки токенов и ответов на вопросы. Архитектура — плотный Transformer с 12 повторно используемыми слоями и общими весами. Карточка описывает конфигурацию XXLarge v2 как 223 млн параметров, тогда как метаданные репозитория указывают 3,3 млрд параметров. Модель использует регистр-независимую обработку английского текста и контекст до 512 токенов. Указанные обучающие данные — BookCorpus и английская Википедия. Модель рассчитана на задачи, использующие контекст всего предложения, и не предназначена для генерации свободного текста. Предсказания могут отражать смещения из обучающих данных. Лицензия — Apache-2.0.

BeAIhomiemaid-DPO-12B-v1 — дообученная методом DPO модель Koriea на базе Mistral Nemo Instruct 2407. Это плотная языковая модель архитектуры Mistral с 12,1 млрд параметров, предназначенная для диалоговой генерации текста. В карточке также отмечены тематики медицины, климата, биологии и химии, а также ролевые диалоги и творческое письмо. Модель принимает текст и генерирует текст; метаданные указывают на контекст длиной до 1 024 000 токенов. README рекомендует для сэмплирования temperature 0,75–1,2 и min_p 0,1–0,2. Модель опубликована в формате safetensors. Лицензия в предоставленных данных не указана.

Legal BERTimbau — модель эмбеддингов предложений на основе BERTimbau Large, адаптированная авторами stjiris для португалоязычных юридических текстов. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 для семантического поиска, сравнения сходства и кластеризации. Модель обучалась на юридических текстах примерно из 30 тысяч документов с использованием MLM, а затем адаптировалась для задачи семантического сходства на португальских наборах ASSIN, ASSIN2 и STS-B Multi-MT. Архитектура — BERT; число параметров составляет 433,2 млн, максимальный контекст — 512 токенов. Модель ориентирована на португальский язык и юридическую лексику. Она подходит для поиска похожих фрагментов и группировки юридических предложений, но не предназначена для генерации текста или самостоятельного юридического консультирования. В метаданных указаны форматы PyTorch и Safetensors; лицензия в предоставленных сведениях не описана.

OmmWankhedee369/bge-base-medical-v1 — англоязычная модель Sentence Transformers, дообученная разработчиком репозитория на базе BAAI/bge-base-en-v1.5 для получения плотных текстовых эмбеддингов. Архитектура основана на BERT; модель преобразует предложения и абзацы в векторы размерности 768, нормализует их и позволяет сравнивать по косинусному сходству. Максимальная длина последовательности по README — 192 токена; общий контекст модели по метаданным — до 512 токенов. Модель предназначена для семантического поиска и извлечения релевантных текстов, в том числе в медицинских материалах. Подходит для поиска по коллекциям документов и подбора похожих предложений; README не приводит медицинские оценки качества или сведения о датасете обучения. Лицензия — Apache-2.0.

Bharat-Tiny-LLM-fused — текстовая авторегрессионная модель с архитектурой Qwen2, созданная eulogik путём объединения LoRA-адаптера с весами Qwen/Qwen2.5-1.5B. Модель содержит 1,5 млрд параметров, распространяется в формате PyTorch float16 и рассчитана на генерацию диалогового текста на хинди, хинглиш и английском языках. Для неё заявлено контекстное окно до 131 072 токенов. Модель предназначена для запуска через Transformers на CPU или CUDA, дальнейшего дообучения и создания собственных квантованных сборок. В карточке отмечено, что для генерации нужны низкая температура около 0,3, repetition penalty не ниже 1,25 и запрет повторения n-грамм размером 3: при высокой температуре базовая модель может выдавать искажённые токены вне целевого письма. Лицензия — Apache-2.0.

BioLORD-2023-S — модель представления текста, разработанная FremyCompany для получения семантических эмбеддингов клинических предложений и биомедицинских понятий. Она основана на sentence-transformers/all-mpnet-base-v2 и дообучена на BioLORD-Dataset и определениях из Automatic Glossary of Clinical Terminology. Архитектура — MPNet, размер — 136,7 млн параметров; модель обрабатывает текстовые фразы, предложения и абзацы и выдаёт плотные векторы размерности 768. Максимальная длина контекста — 514 токенов. Модель предназначена для сравнения сходства медицинских текстов и понятий, семантического поиска и кластеризации. Определения и описания из биомедицинского графа знаний помогают связывать представления понятий с их смыслом и иерархическими отношениями в онтологиях. В README заявлены высокие результаты на MedSTS и EHR-Rel-B; эмбеддинги медицинских текстов и терминов совместимы в общем пространстве. Поддерживаемый язык карточки — английский. Модель опубликована в формате PyTorch. В метаданных указана лицензия «other», но её конкретные условия в предоставленных данных не раскрыты; перед использованием следует проверить лицензию на странице модели.

BioSimCSE-BioLinkBERT-BASE — модель на архитектуре BERT, опубликованная Kamalraj. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения семантической близости, семантического поиска и кластеризации. Модель обучена с MultipleNegativesRankingLoss и косинусным сходством; число параметров составляет 135,4 млн, контекст — до 512 токенов. Название и базовая модель BioLinkBERT указывают на биомедицинскую направленность, поэтому модель подходит для поиска и группировки текстов в этой области. Она принимает текст и выдаёт векторные представления. В карточке приведены примеры применения, но нет количественных результатов оценки. Доступные материалы не содержат сведений о лицензии.

BLOOM-1b1 — многоязычная авторегрессионная языковая модель, разработанная сообществом BigScience для открытых исследований больших языковых моделей и генерации текста. Её также можно использовать как предварительно обученную основу для дообучения под специализированные задачи. Модель построена на декодерной архитектуре Transformer, модифицированной относительно Megatron-LM GPT-2: 24 слоя, 16 голов внимания, размер скрытого слоя 1536 и около 1,07 млрд параметров. В ней используются позиционные кодировки ALiBi; при обучении применялась последовательность длиной 2048 токенов. Модель обучена на нескольких естественных языках и данных с кодом; карточка перечисляет, в частности, английский, французский, испанский, китайский, арабский, хинди и вьетнамский. Лицензия — BigScience BLOOM RAIL 1.0. BLOOM-1b1 подходит для генерации продолжений текста, экспериментов с языковыми моделями и создания специализированных вариантов посредством дообучения. Она может выдавать фактически неверные утверждения, повторяющийся или нерелевантный текст, а также предвзятый, оскорбительный или иной неподходящий контент. Карточка исключает применение в критически важных и высокорисковых решениях, а также использование для надёжных фактических ответов и в медицинской, политической, юридической и финансовой сферах.

BLOOM-1b1-intermediate — промежуточный контрольный чекпойнт семейства языковых моделей BLOOM, разработанного BigScience. Это плотная авторегрессионная Transformer-модель с декодером, предназначенная для генерации текста и дальнейшего дообучения под конкретные задачи. Модель выпущена в 2022 году; доступные промежуточные чекпойнты соответствуют разным шагам обучения. Для загрузки требуется библиотека Transformers, веса представлены в форматах PyTorch и Safetensors. Модель обучалась на многоязычных текстах и данных с кодом. Метаданные указывают поддержку языков, включая английский, арабский, бенгальский, испанский, французский, хинди, португальский, тамильский, урду, вьетнамский и китайский; русский среди перечисленных языков карточки отсутствует. Контекст — до 2048 токенов. Указанная в README архитектура и размер 176 млрд параметров относятся к BLOOM в целом и расходятся с идентификатором чекпойнта «1b1»; поэтому точный размер этой модели по предоставленным данным нельзя подтвердить. Чекпойнт подходит для исследований генерации текста и как основа для последующего дообучения; в метаданных также отмечена работа с кодом. Модель может выдавать фактически неверные сведения, повторяющийся или нерелевантный текст, а также стереотипный, оскорбительный или взрослый контент. Карточка предостерегает от применения в высокорисковых сценариях и для критически важных решений. Лицензия — BigScience BLOOM RAIL 1.0.

NVIDIA NeMo Canary-Qwen-2.5B — модель распознавания английской речи, разработанная NVIDIA. Она предназначена для преобразования аудио в текст с пунктуацией и заглавными буквами, а также для обработки уже полученной расшифровки: например, её можно суммировать или задавать по ней вопросы. В режиме распознавания модель принимает аудио и текстовую инструкцию; в текстовом режиме работает только с расшифровкой и не анализирует исходное аудио. Модель содержит 2,5 млрд параметров и построена как Speech-Augmented Language Model: аудиокодировщик FastConformer связан с декодером Transformer на основе Qwen3-1.7B. Для распознавания рассчитана на английский язык; в README указана скорость 418 RTFx. Обучающие аудиозаписи длились не более 40 секунд, а максимальная последовательность ограничена 1024 токенами, поэтому точность на более длинных входах может снижаться. Модель не сохраняет навыки рассуждения базовой LLM в режиме работы с аудио. Для использования требуется NVIDIA NeMo; лицензия — CC BY 4.0.

Карточка модели AmberYifan/capsd-less-humaneval-opc-marin-8b-base-code_less_b2000_s0 на Hugging Face совпадает с карточкой AmberYifan/capsd-less-fast-opc-marin-8b-base-code_less_b2000_s0, поэтому описание составлено по ней. Это дообученная модель семейства Llama, созданная на основе marin-community/marin-8b-base и обученная на наборе capsd_marin-8b-base-n80000-opc__mix_code_less_b2000_s0. Она предназначена для генерации и продолжения текста в диалоговых сценариях. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает текст; заявленная длина контекста — 4096 токенов. Репозиторий использует Transformers и формат safetensors. Базовая Marin 8B Base ориентирована на английский язык; другие поддерживаемые языки для этой производной модели не подтверждены. Лицензия указана как other, поэтому условия использования следует сверить с лицензией в репозитории.

Caspian-LFM2.5-350M-Reasoning — дообученная разговорная языковая модель Willie999 на архитектуре Liquid LFM 2.5. Она предназначена для генерации текста с акцентом на рассуждения, в том числе для математических задач и кода; в карточке также приведены примеры оценки на биологических темах. Метаданные указывают 444,6 млн параметров, контекст до 128 000 токенов и формат safetensors. В README размер модели указан как 350 млн параметров, поэтому опубликованные сведения о размере расходятся. Модель поддерживает английский язык и может применяться для ответов на вопросы, решения задач и генерации кода в диалоговом формате. README приводит показатели скорости и точности, однако не описывает методику оценки достаточно подробно, чтобы переносить их на другие условия. Модель распространяется по лицензии MIT.

CharacterBERT — вариант BERT, разработанный Hicham El Boukkouri, Olivier Ferret, Thomas Lavergne, Hiroshi Noji, Pierre Zweigenbaum и Junichi Tsujii. Модель предназначена для получения контекстных представлений слов на основе их символов и поддерживает открытый словарь: вместо фиксированной WordPiece-токенизации используется CharacterCNN, который строит представление целого токена из последовательности символов. Модель содержит около 113,2 млн параметров, использует 12 трансформерных слоёв с размерностью скрытого состояния 768 и 12 attention heads, а максимальная длина контекста составляет 512 токенов. В репозитории Hugging Face она предназначена для feature extraction и реализована на PyTorch с пользовательским кодом Transformers. Базовая версия предварительно обучена на англоязычных Wikipedia и OpenWebText. Модель подходит для извлечения эмбеддингов слов и предложений, а также для последующей адаптации к задачам классификации и другим задачам обработки текста. Символьное представление делает её устойчивой к неизвестным словам и опечаткам. Ограничения включают более медленное предварительное обучение из-за CharacterCNN и необходимость доверять пользовательскому коду при загрузке через Transformers. Репозиторий распространяется по лицензии Apache-2.0.

CLI-7B — мультимодальная модель с 7,1 млрд параметров от команды codefuse-ai, официальный чекпойнт фреймворка Cross-Layer Injection (CLI), представленного в статье для ECCV 2026. Модель построена на LLaVA-OneVision-Qwen2-7B: использует языковую часть Qwen2-7B и визуальный энкодер SigLIP-so400m-patch14-384. Архитектура CLI заменяет обычное соединение зрения и языка динамическим обменом между слоями: проекции AMP объединяют визуальные признаки, а механизм AGF выбирает признаки для подачи в декодер LLM. Модель предназначена для диалога и рассуждений по изображениям, в том числе для анализа диаграмм, графиков и документов, визуальных вопросов и ответов, а также общего описания изображений. Карточка сообщает о проверке на 28 мультимодальных бенчмарках и небольших дополнительных затратах памяти при инференсе. Поддерживается английский язык; контекст — 32 768 токенов. Для запуска необходима специальная реализация AMP и AGF из репозитория codefuse-ai/CLI: обычная загрузка как LlavaOneVision в Transformers не воспроизводит поведение CLI. Лицензия — Apache-2.0.

DeepSeek-R1-Zero — языковая reasoning-модель первого поколения, разработанная DeepSeek. Она обучена с применением крупномасштабного reinforcement learning непосредственно на базовой модели, без предварительного supervised fine-tuning. Такой подход предназначен для развития способностей к решению сложных задач и исследует возможность стимулировать рассуждение LLM исключительно с помощью RL. Модель ориентирована на задачи, требующие многошагового анализа, включая математику, программирование и общее логическое рассуждение. В процессе обучения у неё естественным образом сформировались возможности самопроверки, рефлексии и генерации длинных цепочек рассуждений. При этом README не содержит достоверных сведений о размере модели, конкретной архитектуре, длине контекста и поддерживаемых языках. К ограничениям относятся склонность к бесконечным повторениям, низкая читаемость ответов и смешение языков. DeepSeek-R1-Zero опубликована с лицензией MIT, что допускает её использование в соответствии с условиями этой лицензии.

Defne_llama3_2x8B — диалоговая модель Eurdem, созданная как объединение двух моделей Llama 3 8B в архитектуре Mixture of Experts (MoE). Она предназначена для генерации ответов в формате дружелюбного чат-бота; в README приведён пример решения математической задачи, а также показано переключение системного промпта для турецкого языка. Модель использует архитектуру MixtralForCausalLM, содержит 7,5 млрд параметров и принимает текст, выдавая текст. Поддерживаемая длина контекста — 8192 токена; для работы указана библиотека Transformers и формат весов safetensors. Лицензия — llama3.

JumareKhaled/e5-small-v2-medichat-finetuned — текстовая Sentence Transformer-модель, дообученная на базе intfloat/e5-small-v2. Она преобразует предложения и абзацы в нормализованные плотные векторы размерностью 384 и рассчитана на извлечение текстовых признаков, поиск и сопоставление по косинусному сходству. Архитектура основана на BertModel с усредняющим pooling; максимальная длина входа — 512 токенов. Модель подходит для семантического поиска и извлечения медицинских текстов. Название указывает на медицинскую настройку, однако карточка не описывает конкретную специализацию, данные обучения или оценку качества, поэтому результаты для медицинских запросов следует проверять. В метаданных указана лицензия? Нет сведений о лицензии; условия использования следует сверить на странице репозитория.

Eklav-8B-Reranker-CotGen — дообученная языковая модель Eklav на базе Qwen/Qwen3-8B, созданная как базовый вариант для сравнения методов дистилляции рассуждений. В обучении модель получает частичную цепочку рассуждений учителя и продолжает её, чтобы вынести оценку самостоятельно; в этом чекпойнте использован стандартный SFT на полной цепочке рассуждений. Модель имеет плотную архитектуру Qwen3ForCausalLM, около 7,6 млрд параметров и контекст до 40 960 токенов. Основное назначение — попарное ранжирование пассажей по релевантности, в том числе на задачах BRIGHT и NevIR. Для оценки релевантности модель генерирует рассуждение с итогом true или false; итоговый балл извлекается из логитов соответствующего конечного токена. Карточка описывает применение через vLLM с условием остановки по строке: при генерации с фиксированным лимитом токенов модель иногда продолжает рассуждение, зацикливается и не выдаёт завершённый ответ. Лицензия в предоставленных данных не указана.

Nordic ELECTRA-Small — компактная модель семейства ELECTRA, предварительно обученная jonfd на корпусах исландского, норвежского, шведского и датского языков. Она содержит 37,2 млн параметров, использует архитектуру ElectraForPreTraining и токенизатор WordPiece со словарём из 96 105 токенов; длина контекста составляет 512 токенов. Веса доступны в форматах PyTorch и TensorFlow. Модель предназначена как предварительно обученная основа для задач понимания текста на четырёх скандинавских языках, например классификации и извлечения признаков после адаптации под конкретную задачу. Для обучения использовались корпус Icelandic Gigaword, Icelandic Common Crawl, Icelandic Crawled Corpus и mC4; совокупный объём после фильтрации и удаления дубликатов составил 14,82 млрд токенов, поровну для каждого языка. Это чекпойнт предварительного обучения, а не готовая разговорная модель или генератор связного текста: архитектура ElectraForPreTraining ориентирована на предобучение и требует подходящей донастройки для прикладных задач. Лицензия — CC BY 4.0.

EMO355 — модель эмбеддингов на базе RoBERTa, разработанная procesaur и дообученная на Jerteh-355. Она предназначена для получения векторных представлений текста, в том числе для оценки сходства предложений и работы с эмоциями и эмоционально-выразительными оттенками на сербском языке. Модель содержит 453 млн параметров, принимает текст и рассчитана на контекст до 514 токенов; для загрузки и использования применяется библиотека sentence-transformers. Модель подходит для сравнения сербских предложений по смыслу и эмоциональной окраске, а также для поиска текстов со сходными эмоциональными характеристиками. Репозиторий распространяется под лицензией Apache-2.0. В предоставленном фрагменте карточки нет количественных оценок качества, поэтому пригодность для конкретного приложения следует проверять на его данных.