I.11Классификация, ранжирование и сопоставление

sadickam/sdgBERT — разработанная в рамках академического исследования в Deakin University модель классификации текста по Целям устойчивого развития ООН (ЦУР). Она дообучена на bert-base-uncased с использованием набора OSDG Community Dataset версии 2023.10 и предназначена для отнесения текстов к первым 16 ЦУР. Модель принимает текст на английском языке; её архитектура основана на BERT и поддерживает последовательности длиной до 512 токенов. Доступны веса в форматах Safetensors и ONNX. Модель можно применять для тематической разметки публикаций, документов и материалов из разных отраслей и академических дисциплин, а также для анализа связи текстов с повесткой устойчивого развития. В карточке приведены accuracy 0,90 и коэффициент корреляции Мэтьюса 0,89. Модель распространяется по лицензии MIT.

AbeHou/SemStamp-c4-sbert — текстовый эмбеддер, опубликованный AbeHou для исследовательского проекта SemStamp. Это дообученная модель MPNet на базе sentence-transformers/all-mpnet-base-v1; она преобразует предложения в векторные представления и используется в конвейерах SemStamp для создания и обнаружения текстовых водяных знаков, в том числе при анализе текстов из C4. Модель имеет 136,7 млн параметров и максимальную длину последовательности 514 токенов. Репозиторий содержит веса PyTorch и токенизатор; карточка Hugging Face указывает задачу feature-extraction. Языковые характеристики явно не описаны. Условия лицензии в доступных сведениях не установлены.

SLM-10M — небольшая авторская причинно-следственная Transformer-модель на 9,97 млн параметров, обученная с нуля командой liodon-ai. Она предназначена для исследований малых языковых моделей и оценки понимания текста, прежде всего для задач с выбором ответа и ранжирования по логарифмическому правдоподобию. Архитектура включает 12 слоёв, скрытый размер 256, 8 голов запросов и 2 KV-головы с GQA; словарь содержит 8 192 токена, контекст — до 1 024 токенов. Модель обучалась на смеси текстовых данных объёмом 25 млрд токенов и поддерживает английский язык. В карточке приведены результаты zero-shot оценки на HellaSwag и ARC. Лицензия — Apache-2.0. Из-за малого размера и ограниченной ёмкости словаря модель не подходит для свободной генерации текста, диалогов и следования инструкциям; её следует применять для скоринга кандидатов, сравнительных экспериментов и исследований эффективности.

Sunbird/sunflower_language_classification — дообученная модель классификации текста на базе google/t5-efficient-tiny, разработанная Sunbird. Она предназначена для отнесения входного текста к классам; конкретная схема меток и целевая область применения в карточке не раскрыты. Модель построена на архитектуре T5ForSequenceClassification, содержит 11,9 млн параметров и принимает последовательности длиной до 512 токенов. В README приведены результаты оценки: accuracy 0,8297, precision 0,8471, recall 0,8297 и F1 0,8191. Модель распространяется в формате safetensors по лицензии Apache-2.0. Данные обучения в README обозначены как None, поэтому назначение классов и переносимость метрик на другие данные определить нельзя.

Классификатор арабской тональности HassanB4 для определения позиции автора твита по отношению к заданной теме. Модель разработана для Track 1 соревнования StanceEval-2026 и дообучена на многоязычном BERT google-bert/bert-base-multilingual-cased. Это плотная архитектура BERT для классификации последовательностей с 205,1 млн параметров и контекстом до 512 токенов. На вход подаются арабский твит и целевая тема; модель относит позицию к одному из трёх классов: Favor, Against или None (нейтральная, нерелевантная либо неясная позиция). Обучение и оценка охватывали уже встречавшиеся в обучающих данных темы: вакцины от COVID-19, цифровую трансформацию и расширение прав женщин. На dev-наборе Mawqif-v2 результат составил 69,07 Favg2. Модель распространяется по лицензии Apache-2.0.

TiC-CLIP-bestpool-cumulative — модель Apple на основе архитектуры CLIP для сопоставления изображений и текста и классификации изображений по текстовым описаниям без дообучения на конкретных классах. Контрольная точка обучена на данных TiC-DataComp-Yearly за 2014–2022 годы с фильтрацией bestpool; набор TiC-DataComp включает более 12,7 млрд пар изображение–текст с временными метками. Репозиторий содержит веса PyTorch и использует модифицированный код OpenCLIP. Модель предназначена прежде всего для исследований непрерывного обучения и оценки устойчивости к изменениям данных во времени. Её можно использовать для zero-shot классификации изображений, а также как начальную контрольную точку для продолжения обучения на новых данных. Лицензия обозначена как other; README отсылает к файлу LICENSE, поэтому конкретные условия следует сверить с ним.

facebook/timesformer-base-finetuned-k600 — модель Meta на базе архитектуры TimeSformer, дообученная для классификации видео на наборе Kinetics-600. Она принимает видеокадры и относит ролик к одной из 600 категорий действий Kinetics-600, поэтому подходит для распознавания действий и тематической сортировки коротких видео. Модель содержит 113,2 млн параметров и распространяется в формате PyTorch. TimeSformer применяет пространственно-временное внимание для анализа содержания видео. Карточка указывает на классификацию по меткам Kinetics-600; сведений о поддержке других языков или задач не приведено. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерчески.

Aditya109/us-openfda-drug-embed-v1 — экспериментальная текстовая модель Sentence Transformers, разработанная дообучением FremyCompany/BioLORD-2023 на парах и триплетах записей о лекарственных препаратах из каталога openFDA National Drug Code Directory. Модель на базе MPNet с 136,7 млн параметров преобразует описания препаратов в плотные векторы размерностью 768 для поиска семантически близких записей и сопоставления продуктов. В обучающих текстах используются торговое название, действующие вещества, дозировка, лекарственная форма и путь введения; указанная в README максимальная длина последовательности — 32 токена, а метаданные указывают контекст в 514 токенов. Для сравнения векторов применяется косинусное сходство. Модель предназначена для исследовательских экспериментов по поиску и сопоставлению записей о препаратах. README приводит точность поиска точного продукта методом ближайшего соседа 0,8171 и точность на триплетах 0,9416 на отложенной оценке. Данные openFDA обычно доступны на условиях CC0 или общественного достояния, но лицензии базовой модели и программных зависимостей сохраняют собственные условия. Модель не предназначена для диагностики, назначения лечения, выбора дозировки, проверки взаимодействий или автоматической замены лекарств.

Это модель классификации видео на основе VideoMAE Large, разработанная автором репозитория sangdeptraivcl. Она является дообученной версией sangdeptraivcl/videomae-large-finetuned-ucf101-subset; указанный датасет дополнительного дообучения неизвестен. Модель предназначена для отнесения видео к категориям по содержимому. Веса опубликованы в формате Safetensors, размер модели составляет около 402,7 млн параметров. Модель принимает видео и выдаёт метки классов. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства и ограничивает коммерческое применение. Карточка не сообщает набор классов, параметры видеовхода или результаты оценки, поэтому пригодность для конкретных категорий и качество предсказаний следует проверять отдельно.

MCG-NJU/videomae-small-finetuned-kinetics — компактная модель классификации видео на основе VideoMAE, разработанная командой MCG-NJU и дообученная на размеченном наборе Kinetics-400 после 1600 эпох предварительного самообучения. Она использует архитектуру Transformer, близкую к Vision Transformer: видео разбивается на пространственные патчи размером 16×16, а представление токена CLS используется для классификации. Модель содержит 28,3 млн параметров и присваивает видео одну из 400 меток Kinetics-400. Модель подходит для распознавания действий и других категорий, представленных в Kinetics-400, например для автоматической разметки видеоклипов и анализа видеоконтента. В описанной оценке она достигает точности top-1 79,0% и top-5 93,8% на тестовой выборке Kinetics-400. Карточка не приводит поддерживаемые языки, поскольку модель классифицирует видео, а не текст. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.

Карточка модели vuongle15/vietlaw_embedding на Hugging Face совпадает с карточкой CODE4LIFEOFFICIAL/huydang-dek21-embedding, поэтому описание составлено по ней. DEk21_hcmute_embedding — вьетнамская модель эмбеддингов на базе Sentence Transformers и RoBERTa, дообученная разработчиками на примерно 100 000 примерах юридических вопросов и соответствующих контекстов. Она предназначена для семантического поиска и retrieval в RAG-системах, особенно по юридическим материалам на вьетнамском языке. Модель преобразует текстовые последовательности в векторы размерности 768, сопоставляемые по косинусному сходству. Обучение с MatryoshkaLoss позволяет укорачивать векторы с небольшим снижением качества, чтобы ускорить сравнение; максимальная длина последовательности — 258 токенов по метаданным. Для векторного поиска её можно использовать с Sentence Transformers; репозиторий содержит форматы ONNX и safetensors. В README приведены результаты оценки на задаче поиска по юридическим вопросам, однако они относятся к варианту с сегментацией wseg и указанному набору данных. Лицензия — Apache-2.0.

VietLegal-Harrier-0.6B — модель эмбеддингов предложений для поиска по вьетнамским юридическим текстам, разработанная и опубликованная mainguyen9. Она дообучена на базе microsoft/harrier-oss-v1-0.6b, использует архитектуру Qwen3 и содержит около 507,9 млн параметров. Модель преобразует текстовые запросы и документы в векторы размерностью 1024 для оценки семантического сходства; в README указана косинусная мера сходства. Модель предназначена для семантического поиска юридических документов и подбора релевантных фрагментов по запросу на вьетнамском языке. В README сообщается результат NDCG@10 0,7813 на тесте Zalo AI Legal Text Retrieval. Лицензия — Apache 2.0. Метаданные указывают контекст до 32 768 токенов, тогда как README задаёт максимальную длину последовательности 512 токенов; фактический предел при использовании Sentence Transformers следует сверять с конфигурацией модели. Описание оценки ограничено указанным бенчмарком и не гарантирует качество на других юридических корпусах или языках.

Карточка модели biu-nlp/abstract-sim-query-pubmed на Hugging Face совпадает с карточкой biu-nlp/abstract-sim-sentence-pubmed, поэтому описание составлено по ней. biu-nlp/abstract-sim-sentence-pubmed — модель семейства BERT, обученная на предложениях из PubMed для сопоставления текстового описания с подходящими предложениями. Она кодирует запросы и предложения в признаки, пригодные для поиска и оценки смыслового сходства в научных медицинских текстах. Модель содержит 136,7 млн параметров, принимает последовательности длиной до 512 токенов и опубликована в формате PyTorch. Модель подходит для семантического поиска предложений по описаниям и подбора релевантных фрагментов аннотаций PubMed. Карточка не сообщает лицензию и подробности оценки качества.

Albertina 900M Portuguese PT-BR No-brWaC — энкодер семейства BERT на архитектуре Transformer и DeBERTa V2, разработанный совместной командой Лиссабонского и Портуского университетов. Модель предназначена для бразильского варианта португальского языка и содержит около 1,1 млрд параметров, 24 слоя, размер скрытого состояния 1536 и контекст до 512 токенов. Модель обучена на 3,7 млрд токенов отобранных португалоязычных документов OSCAR, с фильтрацией по доменам Бразилии; версия No-brWaC не обучалась на корпусе brWaC. Основной сценарий применения по карточке и метаданным — заполнение пропусков в тексте. Авторы также оценивали её как основу для дообучения на задачах семантического сходства, распознавания следования и парафраза на португальском языке. Карточка сообщает о конкурентных результатах на бенчмарках для PT-BR, но для прикладных задач классификации и сходства может потребоваться дополнительное дообучение. Модель распространяется по лицензии MIT; метаданные Hugging Face указывают лицензию «other», поэтому перед использованием следует сверить условия с файлами репозитория.

ALBERT Large v1 — англоязычная предварительно обученная модель семейства ALBERT, выпущенная командой ALBERT и представленная в исследовательской работе. Она обучена предсказывать замаскированные токены и определять порядок соседних текстовых сегментов; основной сценарий прямого использования — заполнение пропусков в тексте, а также получение признаков для последующего дообучения под задачи классификации последовательностей, классификации токенов и ответов на вопросы. Архитектура — Transformer с 24 повторяющимися слоями и общими весами между ними, 128-мерными эмбеддингами, скрытым размером 1024 и 16 головами внимания. В README указано 17 млн параметров, тогда как метаданные Hugging Face сообщают 433,4 млн; эти сведения расходятся. Максимальная длина контекста — 512 токенов. Модель использует uncased-токенизацию SentencePiece с англоязычным словарём размером 30 000 токенов и обучалась на BookCorpus и английской Википедии. Разделение весов между слоями уменьшает требования к памяти, но вычислительная стоимость остаётся сопоставимой с BERT-подобной моделью той же глубины. Модель не предназначена для генерации длинного текста; версия v2, согласно README, показывает лучшие результаты в большинстве downstream-задач. Возможны смещения в предсказаниях, унаследованные от обучающих данных. Лицензия — Apache-2.0.

Модель lafifi-24/arabicBert_arabic_dialect_identification — классификатор арабского текста, разработанный в рамках проекта по определению арабских диалектов. Она дообучена на сочетании общедоступных наборов данных и собственного набора разработчиков и предназначена для определения диалекта по тексту разговорного арабского языка. Модель основана на BERT, содержит 137,8 млн параметров и принимает последовательности длиной до 512 токенов. Её можно применять для автоматической разметки диалектов в текстах, маршрутизации обращений по региону и анализа арабоязычных пользовательских сообщений. Карточка сообщает о высокой точности, но не приводит численных метрик или перечня распознаваемых диалектов, поэтому качество на конкретных данных следует проверять отдельно. В репозитории указаны веса PyTorch; условия лицензии в доступных данных не приведены.

Araras-HPO-Brasil — двуязычный энкодер Raras-AI на архитектуре MPNet, дообученный на базе BioLORD-2023 для поиска и связывания упоминаний фенотипов с терминами Human Phenotype Ontology (HPO). Модель рассчитана на клинический английский и бразильский португальский, включая разговорные и региональные описания пациентов, ухаживающих лиц и медицинских работников. По метаданным, модель содержит 136,7 млн параметров и поддерживает контекст до 514 токенов; README указывает максимальную длину входа 128 токенов при использовании на уровне предложения. Модель преобразует клинические описания и понятия HPO в эмбеддинги для семантического поиска, нормализации фенотипов и связывания сущностей с идентификаторами онтологии. По приведённым в README результатам, она улучшает показатели BioLORD-2023 на RareBench для английских фенотипов и поддерживает бразильские разговорные формулировки. Это энкодер, а не самостоятельная система диагностики: для полного поиска требуется ретривер, а для медицинских онтологий, отличных от HPO, рекомендуется специализированная модель. Лицензия — Apache 2.0.

CAMeLBERT-Mix DID MADAR Corpus6 — модель классификации арабских текстов по диалектам, разработанная CAMeL Lab и дообученная на MADAR Corpus 6. Она присваивает входному предложению одну из шести меток диалектов и подходит для определения диалекта в коротких сообщениях и фразах; модель можно использовать через pipeline text-classification в Transformers. Модель основана на архитектуре BERT, содержит 136,3 млн параметров и принимает последовательности длиной до 512 токенов. Она работает с арабским языком и выдаёт метку класса с оценкой уверенности. Репозиторий содержит веса PyTorch и TensorFlow. Модель распространяется по лицензии Apache-2.0.

Sukanyan/bert-base-uncased — дообученная модель BERT для классификации текстов, разработанная на основе bert-base-uncased. Она содержит 136,7 млн параметров, использует архитектуру BertForSequenceClassification и принимает последовательности длиной до 512 токенов. Модель подходит для классификации текстов в прикладных системах и исследовательских экспериментах. В карточке указаны результаты оценки: accuracy 0,6305 и loss 0,9202. Датасет, целевые классы и конкретная область применения не описаны, поэтому по этим результатам нельзя судить о качестве на произвольных задачах классификации. Модель распространяется в формате safetensors по лицензии Apache-2.0.

ilovebots/bert-sdg-french — модель классификации текстов по целям устойчивого развития (ЦУР) ООН, разработанная в Университете Лаваля. Это дообученная для французского языка модель BERT, созданная на базе dbmdz/bert-base-french-europeana-cased и обученная на франкоязычных данных OSDG-CD, дополненных метками ЦУР. Модель принимает текст и определяет его связь с целями устойчивого развития; в карточке указана точность 0,84. Модель содержит 137,8 млн параметров, использует архитектуру BertForSequenceClassification и поддерживает контекст до 512 токенов. Доступны веса PyTorch и Safetensors. Лицензия MIT разрешает использование модели на её условиях.

almanach/camembert-large — предварительно обученная языковая модель для французского языка, разработанная авторами CamemBERT. Она основана на RoBERTa и использует плотную архитектуру CamemBERT; в репозитории указано 435,4 млн параметров, веса доступны в форматах PyTorch и Safetensors. Модель обучалась на франкоязычных текстах CCNet объёмом 135 ГБ. Модель предназначена для получения контекстных представлений текста и заполнения масок, а также может служить основой для дообучения под задачи обработки французского языка. Её контекст ограничен 514 токенами. Карточка показывает загрузку через библиотеку Transformers и токенизатор CamemBERT. Лицензия в предоставленных данных не указана.

CS221-xlm-roberta-base-finetuned-semeval — модель классификации текста, созданная дообучением FacebookAI/xlm-roberta-base. Она использует архитектуру XLM-RoBERTa для классификации последовательностей, содержит 305,2 млн параметров и принимает текст длиной до 514 токенов. Многоязычная базовая модель предназначена для последующих задач обработки текста. Модель опубликована под лицензией MIT. На указанном в карточке наборе для оценки приведены F1 0,7079, ROC AUC 0,7818 и accuracy 0,3791. Карточка не описывает классы, целевые языки и предполагаемые сценарии применения, поэтому применимость этих показателей к конкретным данным оценить нельзя.

ai4data разработала devdata-search-harrier-270m-cgist — двунаправленную bi-encoder-модель для получения текстовых эмбеддингов и поиска по структурированным статистическим метаданным. Это дообученная версия microsoft/harrier-oss-v1-270m на наборе DevDataBench; модель кодирует запросы и описания данных в векторы для последующего поиска и сравнения, но сама не является поисковым сервисом. Модель основана на плотной текстовой архитектуре Gemma 3, содержит 257 млн параметров и рассчитана на контекст до 32 768 токенов по метаданным. В обучении применялись перестановка полей и их случайное исключение, чтобы представление меньше зависело от порядка полей; README указывает максимальную длину последовательности 512 токенов и отсутствие специальных префиксов для запросов и документов. Репозиторий использует Sentence Transformers и формат safetensors. Модель предназначена для векторизации запросов и записей статистических метаданных, чтобы находить релевантные наборы данных и сравнивать их по смыслу. Лицензия — Apache-2.0. В карточке не приведены результаты оценки качества; специализация на структурированных статистических метаданных ограничивает основания ожидать одинаково высокое качество для произвольных текстов.

oddadmix/dialect-router-v0.1 — компактная модель на основе BERT, дообученная для определения арабского диалекта по тексту. Она классифицирует арабоязычные фразы по 11 кодам диалектов и языковых вариантов, используя энкодер Transformer с классификационной головой; размер модели — 12,4 млн параметров, максимальная длина входа — 512 токенов. Модель предназначена прежде всего для маршрутизации синтеза речи в Lahgtna: по диалекту выбираются соответствующая голосовая запись и языковой токен Chatterbox. Её также можно использовать для разметки арабских текстов в NLP-конвейерах, фильтрации контента и анализа наборов данных. Модель работает с арабским текстом и не предназначена для других языков. Короткие фрагменты, смешение арабского с другими языками и близкие географически диалекты могут приводить к ошибкам; полнота распознавания некоторых вариантов может быть ниже из-за смещения обучающего корпуса. Модель не следует использовать для определения личности или для высокорисковых решений без проверки человеком. Опубликована под лицензией MIT.

Sukanyan/distilbert_distilbert-base-uncased — англоязычная модель классификации текста на базе DistilBERT, дообученная на наборе данных, который в карточке обозначен как None. Модель использует архитектуру DistilBertForSequenceClassification и принимает текстовые последовательности длиной до 512 токенов. Она предназначена для классификации текста. В карточке приведены результаты оценки: accuracy 0,6171 и loss 0,9476; сведений о классах и конкретной области применения нет. Модель распространяется в формате safetensors через Transformers по лицензии Apache-2.0.

Nordic ELECTRA-Small — компактная модель семейства ELECTRA, предварительно обученная jonfd на корпусах исландского, норвежского, шведского и датского языков. Она содержит 37,2 млн параметров, использует архитектуру ElectraForPreTraining и токенизатор WordPiece со словарём из 96 105 токенов; длина контекста составляет 512 токенов. Веса доступны в форматах PyTorch и TensorFlow. Модель предназначена как предварительно обученная основа для задач понимания текста на четырёх скандинавских языках, например классификации и извлечения признаков после адаптации под конкретную задачу. Для обучения использовались корпус Icelandic Gigaword, Icelandic Common Crawl, Icelandic Crawled Corpus и mC4; совокупный объём после фильтрации и удаления дубликатов составил 14,82 млрд токенов, поровну для каждого языка. Это чекпойнт предварительного обучения, а не готовая разговорная модель или генератор связного текста: архитектура ElectraForPreTraining ориентирована на предобучение и требует подходящей донастройки для прикладных задач. Лицензия — CC BY 4.0.

Карточка модели jhu-clsp/ettin-enc-from-dec-1b на Hugging Face совпадает с карточкой jhu-clsp/ettin-encoder-17m, поэтому описание составлено по ней. jhu-clsp/ettin-encoder-17m — англоязычная модель-энкодер из набора Ettin, разработанного исследователями Johns Hopkins University. Это компактная модель с 16,8 млн параметров на архитектуре ModernBERT, обученная методом masked language modeling; она предсказывает замаскированные токены в тексте. По описанию набора, модели Ettin обучались на общей открытой смеси данных и предназначены для сопоставления энкодерных и декодерных архитектур. Для этой версии README указывает размер XXS и сценарии мобильных и периферийных устройств. Модель подходит для заполнения пропусков в английском тексте и как основа для задач классификации и получения эмбеддингов после соответствующей настройки. В метаданных указаны контекст до 7 999 токенов, форматы PyTorch и ONNX и лицензия MIT. В README заявлены сильные результаты семейства Ettin в классификации и поиске, однако конкретные метрики для версии 17M не приведены. Это энкодер для понимания текста, а не генеративная модель для свободного продолжения текста; также она не предназначена для обработки языков, кроме английского, согласно доступным языковым тегам.

AL-GR разработала Forge-Qwen2.5-0.5B-s1 — плотную авторегрессионную языковую модель семейства Qwen2.5, дообученную один эпохой на наборе AL-GR/AL-GR-v1 с помощью FORGE. Она предназначена для генеративного поиска по промышленным наборам данных: модель формирует семантические идентификаторы результатов, а подход оценивается по доле запросов, для которых правильный результат попадает в топ-K. В тестировании на AL-GR/AL-GR-v1 она показала HR@20 0,0506 и HR@1000 0,3068. Модель содержит 552,5 млн параметров, использует библиотеку Transformers и формат safetensors; родительская Qwen2.5-0.5B имеет контекст 32 768 токенов. Карточка указывает китайский язык. Лицензия — Apache-2.0. Результаты приведены для конкретного набора данных, поэтому качество на других коллекциях не установлено.

hindi-modernBERT — базовая предобученная модель с маскированным языковым моделированием, разработанная для текста на хинди. Это 149-миллионная плотная модель архитектуры ModernBERT, обученная с нуля примерно на 28 млрд токенов хинди; она использует BPE-токенизатор с 50 368 элементами и поддерживает контекст до 8192 токенов. Модель предназначена для предсказания замаскированных фрагментов и как основа для дообучения на задачах понимания текста. Чекпойнт показывает результаты на задачах распознавания именованных сущностей и классификации намерений на хинди. После отдельного дообучения с DPR его можно использовать для плотного поиска по коротким и длинным документам; сам базовый чекпойнт не является готовым ретривером. Для лучших результатов требуется нормализация текста письма деванагари, которую токенизатор автоматически не выполняет. Предобучение рассчитано только на хинди. Модель распространяется по лицензии Apache-2.0.

HPLT/hplt_bert_base_2_0_lvs-Latn — монолингвальная модель-кодировщик проекта HPLT, обученная для латышского языка на данных HPLT v2.0. Она основана на варианте BERT под названием LTG-BERT и предназначена прежде всего для восстановления скрытых токенов в тексте; представления модели также подходят для задач классификации текста и токенов, ответов на вопросы и выбора варианта ответа. Архитектура соответствует настройкам BERT-base: 12 слоёв, 12 голов внимания, размер скрытого состояния 768 и словарь из 32 768 токенов. Модель содержит 124,3 млн параметров, принимает текст с контекстом до 512 токенов и использует отдельный токенизатор, обученный на латышских данных HPLT. Для загрузки через Transformers требуется пользовательский код модели и параметр trust_remote_code=True. Выпущена по лицензии Apache-2.0.