I.2Синтез, понимание и проверка знаний

cl-nagoya/ruri-pt-base — японская модель Sentence Transformers, разработанная CL-Nagoya и дообученная на основе tohoku-nlp/bert-base-japanese-v3. Она преобразует предложения в векторы размерности 768 для сравнения семантической близости, поиска и ранжирования текстов. Модель использует архитектуру BERT, принимает последовательности длиной до 512 токенов и рассчитана на японский язык. В README приведены результаты оценки на JMTEB, включая поиск, семантическое сходство, классификацию и кластеризацию. Лицензия — Apache 2.0.

Ruri v3 PT 70M — японская модель для получения эмбеддингов текста, разработанная cl-nagoya на основе ModernBERT-Ja от SB Intuitions. Она предназначена для представления предложений и текстов в виде векторов, пригодных для сравнения семантической близости и поиска похожих фрагментов. Модель содержит 70 млн параметров, использует архитектуру ModernBERT и поддерживает контекст до 8192 токенов. Это предварительно обученная версия Ruri v3; карточка рекомендует для готового применения дообученный вариант cl-nagoya/ruri-v3-70m. Модель ориентирована на японский язык. Распространяется по лицензии Apache-2.0.

Semantic-Ar-Qwen-Embed-0.6B — арабоязычная модель эмбеддингов, разработанная Omartificial-Intelligence-Space и дообученная на базе Qwen/Qwen3-Embedding-0.6B для задач семантического сходства. Она преобразует предложения и абзацы в плотные векторы размерностью 1024; сходство оценивается косинусной мерой. Архитектура Sentence Transformers использует Qwen3Model и усреднение токенных представлений. Максимальная длина последовательности — 32 768 токенов, число параметров — около 507,6 млн. Модель предназначена для сравнения арабских текстов и может применяться в семантическом поиске, поиске перефразировок, кластеризации и классификации текста. Она дообучена на задачах STS и оценивалась на арабских наборах STS17 и STS22.v2; README отмечает специализацию на понимании арабской семантики. Метаданные также содержат английский среди языков карточки, но заявленный в README основной язык — арабский. Модель распространяется по лицензии Apache-2.0. Результаты оценки приведены для ограниченного набора тестов на семантическое сходство и не гарантируют качество на других задачах или доменах.

Shisa V2 Mistral Small 24B — диалоговая языковая модель Shisa.AI для общего назначения, созданная дообучением Mistral Small 24B Instruct 2501. Разработчики сосредоточились на улучшении качества японского языка с сохранением возможностей английского, используя синтетические данные и настройку после предварительного обучения. Модель содержит 23,4 млрд параметров, использует архитектуру Mistral с плотными слоями и принимает контекст до 32 768 токенов. Модель предназначена для диалогов, выполнения инструкций, ответов на вопросы, ролевых сценариев и перевода между японским и английским. В карточке для этой версии указано, что бенчмарки ещё готовятся, поэтому её сравнительные показатели пока нельзя оценить по приведённым результатам. Модель распространяется в формате Safetensors по лицензии Apache 2.0.

Карточка модели ChenZ95/text2vec-base-chinese на Hugging Face совпадает с карточкой shibing624/text2vec-base-chinese, поэтому описание составлено по ней. text2vec-base-chinese — модель эмбеддингов предложений, обученная проектом text2vec на базе hfl/chinese-macbert-base с методом CoSENT. Она кодирует китайские предложения и короткие абзацы в плотные векторы размерности 768 для семантического поиска, сопоставления текстов, кластеризации и оценки сходства. Модель построена на архитектуре BERT, содержит около 129,5 млн параметров и принимает последовательности длиной до 512 токенов по метаданным; README указывает усечение входа длиннее 256 WordPiece-токенов. Модель предназначена прежде всего для китайских текстов. В README описана настройка на китайских данных STS-B с контрастивной функцией потерь и приведены результаты на китайских наборах для сопоставления предложений. Доступны веса в форматах PyTorch, Safetensors, ONNX и OpenVINO; автор также сообщает об ускоренных вариантах ONNX и OpenVINO. Лицензия — Apache-2.0. Модель выдаёт векторы, а не готовые ответы или текст; для поиска и сравнения требуется последующая обработка эмбеддингов. Её специализация на китайском языке и усечение длинных входов ограничивают применение к другим языкам и длинным документам.

deepset/tinyroberta-squad2 — компактная модель deepset для извлечения ответов на вопросы из текста. Это дистиллированная версия deepset/roberta-base-squad2 на архитектуре RoBERTa с 95,2 млн параметров; контекст составляет до 514 токенов. Модель обучена для extractive question answering на SQuAD 2.0 и рассчитана на английский язык. Модель находит ответный фрагмент в предоставленном тексте и подходит для поиска ответов в документах, например в конвейере Haystack. По данным карточки, её качество сопоставимо с базовой моделью, а скорость работы примерно вдвое выше. Дистилляция выполнена в два этапа по подходу TinyBERT: промежуточная дистилляция RoBERTa, затем обучение под задачу QA с учителями deepset/roberta-base-squad2 и deepset/roberta-large-squad2. Доступны веса PyTorch и Safetensors. Лицензия — CC BY 4.0. Модель предназначена для извлечения ответа из заданного контекста, а не для свободной генерации; качество и охват языков за пределами английского не подтверждены карточкой.

cl-nagoya разработала японскую модель эмбеддингов предложений на архитектуре BERT, дообученную методом Unsupervised SimCSE на Wiki40B. Модель предназначена для получения векторных представлений японских текстов и оценки сходства предложений; её можно использовать через Sentence-Transformers или Transformers с CLS-пулингом. Дополнительный MLP-слой применялся только во время обучения. Модель содержит 138,4 млн параметров, принимает текст с контекстом до 512 токенов. В обучении использовались последовательности длиной до 64 токенов. Репозиторий содержит веса PyTorch; лицензия — CC BY-SA 4.0.

deepset/xlm-roberta-large-squad2 — многоязычная модель для извлечения ответов на вопросы, разработанная deepset на основе xlm-roberta-large и дообученная на SQuAD 2.0. Она находит ответный фрагмент в предоставленном тексте и поддерживает сценарии вопросов и ответов по отдельным отрывкам или документам; для поиска ответов в коллекции документов README показывает использование с Haystack. Модель использует архитектуру XLM-RoBERTa для задачи question answering, содержит 658,7 млн параметров и имеет контекст длиной 514 токенов. Её оценивали на английском SQuAD 2.0 и немецких MLQA и XQuAD. Лицензия — CC BY 4.0. Модель предназначена для извлечения ответа из контекста, а не для свободной генерации развёрнутых ответов. Качество за пределами описанных оценок и языков может различаться; при работе с большими коллекциями документов требуется отдельный поиск или оркестрация, например через Haystack.

Nhat1904/32-shot-twitter-2classes-head-body — модель семейства MPNet, разработанная на базе Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 768, пригодные для поиска по смыслу, сравнения текстов и кластеризации. В метаданных указано 136,7 млн параметров и контекст до 514 токенов; модель распространяется в формате PyTorch. Модель обучалась с функцией потерь CosineSimilarityLoss на наборе данных, связанном с Twitter и двумя классами «head/body», что указывает на адаптацию к сопоставлению коротких текстов в этой задаче. Её можно применять для семантического поиска и группировки похожих сообщений. Языковая поддержка в предоставленных материалах не определена. Лицензия в карточке не приведена.

ATLES-Champion — модель эмбеддингов предложений, созданная Connor (spartan8806) для английского семантического сходства и интеллектуальной маршрутизации запросов в системе ATLES. Это дообученная версия all-mpnet-base-v2 на STS-Benchmark; модель на архитектуре MPNet содержит 136,7 млн параметров, выдаёт векторы размерности 768 и рассчитана на контекст до 514 токенов. В карточке сообщаются высокие результаты на английских задачах сравнения предложений и кластеризации; модель также может применяться для маршрутизации запросов по смыслу. Основной язык модели — английский. Для многоязычного поиска и межъязыкового сопоставления она подходит ограниченно: README отмечает слабые результаты на кросс-языковых задачах и особенно низкие — для турецкого и восточноевропейских языков. Лицензия — MIT.

Модель BERT с 135,5 млн параметров предназначена для ответов на вопросы по предоставленному тексту: она находит в контексте фрагмент, соответствующий вопросу. Модель обучена с нуля на датасете SQuAD; в карточке указана архитектура BertForQuestionAnswering. Поддерживаются форматы PyTorch и TensorFlow, максимальная длина контекста составляет 512 токенов. Модель подходит для извлечения ответов из текстовых документов и справочных материалов. Данных о поддерживаемых естественных языках и специальных областях применения нет. Лицензия в предоставленных сведениях не указана.

Карточка модели kranushealth/bge-reranker-v2-m3 на Hugging Face совпадает с карточкой BAAI/bge-reranker-v2-m3, поэтому описание составлено по ней. BAAI/bge-reranker-v2-m3 — многоязычная модель переранжирования от BAAI, построенная на базе bge-m3 и использующая архитектуру XLM-RoBERTa для классификации последовательностей. Она принимает запрос и текстовый фрагмент и выдаёт оценку их релевантности; более высокий балл означает более подходящий фрагмент. При необходимости оценку можно преобразовать сигмоидой в значение от 0 до 1. Модель предназначена для повторной сортировки результатов поиска, например, для уточнения порядка документов, найденных системой извлечения, и повышения качества выдачи в многоязычных сценариях. В README она описана как быстрая и удобная для развёртывания; метаданные указывают 658,7 млн параметров и контекст до 8194 токенов. Карточка характеризует её как многоязычную, но не перечисляет отдельные языки. Модель доступна по лицензии Apache-2.0. Релевантность оценивается для пары «запрос — фрагмент», поэтому для поиска по корпусу сначала нужны кандидаты, полученные отдельной системой извлечения; модель сама не выполняет полный поиск. Скорость и пригодность к развёртыванию заявлены в карточке, но конкретные показатели производительности не приведены.

Byrne-Embed — компактная модель для построения эмбеддингов предложений, разработанная автором репозитория Quazim0t0. Она преобразует текст в нормированные векторы размерности 768, пригодные для сравнения косинусного сходства, поиска, кластеризации и ранжирования. Модель содержит 85 млн параметров и использует декодер SpikeWhale с усреднением последнего скрытого состояния и обучаемой проекционной головой. Модель предназначена для семантического поиска и анализа сходства английских текстов. В README приведены результаты оценки на англоязычном наборе MTEB и сравнение геометрии эмбеддингов с EmbeddingGemma-300M. Для загрузки используется Transformers с пользовательской архитектурой; веса опубликованы в формате safetensors. Лицензия — Apache-2.0. Оценка сосредоточена на английском языке, а качество для других языков не проверено. В README также отмечена слабая сторона в поиске перефразировок по финансам и экономике; для загрузки требуется код пользовательской архитектуры.

ChatBerry-1.1 — диалоговая языковая модель, дообученная artindnr на базе artindnr/strawberry-1, которая, в свою очередь, основана на gpt-oss-20b. Это причинная декодерная модель семейства gpt_oss с архитектурой mixture-of-experts и 1,6 млрд параметров по метаданным; она генерирует ответы в формате чата и обучена отвечать сразу, без отдельного канала рассуждений. Модель предназначена для универсальных чат-ассистентов на фарси и английском, а также для многоязычного общения и сценариев, где нужны прямые ответы и следование инструкциям. Контекстное окно составляет 131 072 токена. По заявлению автора, версия 1.1 обучалась примерно на вчетверо большем объёме примеров, чем ChatBerry-1, что улучшило качество и последовательность ответов. Модель может ошибаться и выдумывать факты. Она не сохраняет явную пошаговую цепочку рассуждений; автор также отмечает отсутствие дополнительной настройки безопасности сверх унаследованной от базовых моделей. Лицензия — Apache 2.0.

ChatGLM2-6B — открытая двуязычная диалоговая языковая модель второго поколения, разработанная командой GLM/THUDM. Модель предназначена для ведения диалогов, ответов на вопросы и генерации текста на китайском и английском языках. Доступна в репозитории zai-org/chatglm2-6b-int4 в формате INT4-квантизации. Модель содержит около 7,5 млрд параметров и использует архитектурные решения GLM, включая гибридную целевую функцию и Multi-Query Attention. Она предварительно обучена на 1,4 трлн китайских и английских токенов и дополнительно прошла обучение с выравниванием по предпочтениям людей. Базовая длина контекста составляет 32 768 токенов; в диалоговом обучении использовался контекст до 8 192 токенов. FlashAttention повышает эффективность работы и снижает требования к памяти. ChatGLM2-6B подходит для чат-ботов, помощников по вопросам и генерации ответов в приложениях с ограниченными вычислительными ресурсами. К сильным сторонам относятся поддержка китайского и английского языков, плавное ведение многоходового диалога и эффективный INT4-инференс. При этом понимание одиночных сверхдлинных документов ограничено, а ответы модели могут содержать фактические ошибки и требуют проверки. Код распространяется по Apache-2.0, а использование весов регулируется отдельной Model License.

Карточка модели NVEagle/Eagle-X5-7B на Hugging Face совпадает с карточкой NVEagle/Eagle-X5-13B-Chat, поэтому описание составлено по ней. Eagle-X5-13B-Chat — мультимодальная языковая модель семейства Eagle, разработанного NVIDIA. Это плотная Transformer-модель архитектуры EagleLlamaForCausalLM с 12,9 млрд параметров, предназначенная для диалога и анализа изображений вместе с текстом. Контекст модели составляет 4096 токенов. Модель использует комбинацию визуальных энкодеров CLIP+X и рассчитана на обработку изображений высокого разрешения, включая задачи распознавания текста и понимания документов. Она принимает изображения и текст, а выдаёт текст; авторы отмечают сильные результаты на мультимодальных тестах, особенно в задачах, чувствительных к разрешению. Основные сценарии применения — исследование мультимодальных LLM и создание чат-ботов. Модель опубликована под лицензией CC BY-NC-SA 4.0, которая ограничивает коммерческое использование. README не уточняет языковой охват и подробные ограничения качества; перед применением в конкретной отрасли следует оценить пригодность модели для этого сценария.

EvolLLM — слитая модель Beyoru на архитектуре Qwen3, объединяющая Qwen/Qwen3-4B-Instruct-2507 и Qwen/Qwen3-4B-Thinking-2507. Это плотная языковая модель примерно на 3,7 млрд параметров с контекстом до 262 144 токенов; она предназначена для генерации текста в диалогах и выполнения инструкций, а автор позиционирует её как основу для дальнейшего SFT- или GRPO-обучения. В карточке приведены результаты авторских сравнений: преимущество около 3% над instruct-моделью в собственном агентном бенчмарке и превосходство над openfree/Darwin-Qwen3-4B и базовой моделью в ACEBench. Описание не сообщает языки, качество на независимых тестах или ограничения применения. Репозиторий использует формат safetensors и библиотеку Transformers; лицензия в предоставленных данных не указана.

Fanar-1-9B-Instruct — языковая модель QCRI при Университете Хамад бин Халифа, основанная на Gemma 2 и дообученная для следования инструкциям. Модель содержит около 8,6 млрд параметров, использует архитектуру авторегрессионного трансформера и рассчитана на контекст до 4096 токенов. Она принимает текст и генерирует текстовые ответы; карточка Hugging Face указывает поддержку арабского и английского языков. Модель предназначена для диалоговых помощников, ответов на вопросы об арабской культуре и диалектах, а также образовательных, государственных и общественных приложений для арабоязычной аудитории. При обучении уделялось внимание современному стандартному арабскому, диалектам Персидского залива, Леванта и Египта, а также английскому языку. Разработчики сообщают о продолжительном предобучении на арабских и английских данных и двух этапах постобучения: SFT и DPO. Модель может давать неверные, предвзятые или оскорбительные ответы и не предназначена для принятия важных решений, в частности в медицине, праве и финансах. По метаданным репозитория используется лицензия Apache 2.0.

FRIDA-Decisions — модель для принятия структурированных решений по русскому тексту, разработанная УЭСМО и SberAI на основе энкодера ai-forever/FRIDA. Она классифицирует текст по заданным пользователем вариантам, оценивает его по порядковой шкале, отвечает «да/нет» и ранжирует кандидатов; набор вариантов задаётся в запросе, поэтому новые метки не требуют отдельного дообучения. Модель возвращает варианты и оценки уверенности без генерации текста. Архитектура — плотный энкодер T5EncoderModel; в репозитории доступны веса Safetensors и ONNX. Метаданные указывают 936,6 млн параметров, а README характеризует базовую FRIDA как модель с 823 млн параметров. Модель ориентирована прежде всего на русский язык, также заявлена поддержка английского. Для входного текста обученный диапазон составляет до 512 токенов; по умолчанию используется отсечение на 384 токенах. По данным авторов, модель подходит для маршрутизации обращений, классификации намерений и тональности, модерации и ранжирования релевантности; доступны варианты запуска на GPU, CPU и Apple Silicon. Модель лицензирована по MIT. Авторы сообщают о 0,893 точности на наборе razvilka из 735 русскоязычных примеров и о быстром инференсе на потребительской GPU. На текстах длиннее 512 токенов точность может снижаться, особенно при вопросах о деталях в конце текста; при превышении заданного предела текст обрезается.

Это экспорт IBM Granite-Embedding-97M-Multilingual-R2 в формате Core AI для запуска на устройствах Apple. Модель содержит 97,4 млн параметров, использует архитектуру ModernBERT и кодирует текст в векторы размерности 384 с L2-нормализацией. В README описаны готовые сборки для iOS 27 и macOS 27, включая варианты с длиной последовательности 128 или 512 токенов; указана поддержка японского и английского языков, а метаданные характеризуют модель как многоязычную. Модель предназначена для семантического поиска и сопоставления запросов с документами, например поиска заметок по смыслу. Это энкодер: он принимает токенизированный текст и выдаёт эмбеддинг, а не генерирует текст. README приводит измерения скорости и проверку численного соответствия исходной модели, но подчёркивает, что сравнительное качество retrieval не оценивалось. Экспорт распространяется по лицензии Apache-2.0; для корректной работы важны точная токенизация, специальные токены и маска внимания.

IceEspressoRPv2-7b — слитая разговорная языковая модель, опубликованная пользователем icefog72. Она создана методом SLERP в mergekit из двух предварительно обученных моделей; архитектура MistralForCausalLM, размер — 7,1 млрд параметров. Модель предназначена для генерации текста в диалоговом формате и имеет контекстное окно до 32 768 токенов. Модель может служить основой для интерактивных диалогов и генерации продолжений текста. В карточке приведены результаты Open LLM Leaderboard: средний балл 21,25, IFEval — 49,77, BBH — 31,30; они дают отдельные ориентиры оценки, но не гарантируют качество в конкретном сценарии. Модель распространяется в формате Safetensors. Лицензия в предоставленных данных не указана.

InternVL3.5-241B-A28B — мультимодальная модель семейства InternVL3.5, разработанная OpenGVLab. Она сочетает зрительный модуль с языковой моделью и предназначена для диалогов по изображениям и тексту, мультимодальных рассуждений и агентных сценариев, включая взаимодействие с графическим интерфейсом. В метаданных указаны 241B параметров в названии модели и архитектура InternVLChatModel; модель работает через Transformers и хранится в формате safetensors. Семейство InternVL3.5 использует Cascade RL для улучшения рассуждений и Visual Resolution Router для адаптивной настройки разрешения визуальных токенов. В README описано разделение зрительной и языковой частей при развёртывании, чтобы повысить эффективность вывода. Модель заявлена как мультиязычная; конкретный список языков и длина контекста в предоставленных данных не приведены. Модель подходит для вопросов по изображениям, визуального и текстового рассуждения, OCR-подобных задач, понимания видео и агентного взаимодействия. Для развёртывания варианта на 235B параметров README указывает необходимость восьми GPU A100, поэтому для этой версии требуются значительные вычислительные ресурсы. Лицензия — Apache 2.0; в метаданных базовой моделью указана OpenGVLab/InternVL3_5-241B-A28B-MPO.

Это мультимодальная embedding-модель jina-embeddings-v4-vllm-retrieval, разработанная Jina AI и представленная в формате GGUF сообществом mradermacher. Репозиторий содержит квантизированные варианты модели, включая imatrix-файл для создания собственных квантов. Модель предназначена для multilingual embedding, извлечения признаков, оценки семантического сходства и поиска Text-to-Visual Document (T→VD), то есть сопоставления текста с визуальными документами. Она также связана с задачами и бенчмарками Vidore, ColPali и MTEB. Из README известно, что модель поддерживает мультимодальные входы и многоязычное использование, однако точные архитектура, число параметров, размерность embeddings, перечень языков и размер контекстного окна не указаны. Доступны варианты квантизации GGUF размером примерно от 0,9 до 2,0 ГБ и более; наиболее рекомендуемыми в описании названы i1-Q4_K_M как быстрый вариант и i1-Q4_K_S как компромисс между размером, скоростью и качеством. При этом низкобитные варианты могут заметно уступать по качеству. Модель подходит для семантического поиска и retrieval-систем, включая поиск по визуальным документам и мультимодальное сопоставление текста и изображений. Ограничения, связанные с конкретными характеристиками качества и производительности, в README не приведены; выбор квантизации влияет на компромисс между размером, скоростью и точностью. Лицензия модели — CC BY-NC 4.0, допускающая использование с указанием авторства, но некоммерческое.

Kazakh-E5-RAG-Embedding — модель эмбеддингов текста для поиска и извлечения документов на казахском языке, опубликованная shyngys879. Это плотный двунаправленный кодировщик на архитектуре XLM-RoBERTa, основанный на multilingual-e5-base и KazEmbed-V5; в метаданных указано 305,2 млн параметров, а README описывает базовый размер в 278 млн. Модель преобразует текст в 768-мерные векторы и использует формат E5 с префиксами «query:» для запросов и «passage:» для документов; контекст составляет до 514 токенов. Модель предназначена для семантического поиска, поиска ответов на вопросы и документов, а также извлечения контекста для RAG. Она оптимизирована для сопоставления казахских запросов и фрагментов, включая различение похожих нерелевантных вариантов; README сообщает об оценке на трёх казахских наборах поиска. Поддерживаются казахский и также русский и английский языки по тегам карточки. Для поиска по корпусу Wikipedia в описанных тестах multilingual-e5-base и multilingual-e5-large показали лучшие результаты. Лицензия обозначена как other, поэтому перед использованием следует проверить условия в карточке модели.

snunlp/KR-SBERT-Medium-klueNLItriplet_PARpair-klueSTS — модель Sentence Transformer от SNUNLP на архитектуре BERT, дообученная на корейском датасете klue/klue. Она преобразует предложения и абзацы в плотные векторы размерности 768, пригодные для сравнения семантической близости по косинусному сходству. Максимальная длина входа — 512 токенов. Модель предназначена для оценки сходства корейских текстов и может применяться для семантического поиска, поиска перефразировок, кластеризации и классификации текстов на основе эмбеддингов. В README приведена оценка Spearman cosine 0,869 на sts-dev. Модель принимает текст и выдаёт векторы; её карточка не указывает лицензию.

Redis разработала эту модель Cross-Encoder для оценки пар текстов в сценариях семантического кэширования LangCache. Она дообучена на Alibaba-NLP/gte-reranker-modernbert-base с использованием библиотеки sentence-transformers и датасета LangCache Sentence Pairs. Модель принимает пару текстов и возвращает оценку их соответствия, которую можно использовать для классификации пар и переранжирования результатов поиска. Модель построена на ModernBERT, имеет 149 млн параметров и максимальную длину последовательности 8192 токена. Она рассчитана на английский язык. В README приведены результаты оценки классификации и переранжирования на тестовых наборах, однако результаты на наборах NanoQuoraRetrieval, NanoMSMARCO и NanoNQ ниже показателей базовой модели. Модель распространяется по лицензии Apache-2.0.

LINCE-ZERO — испаноязычная инструкционная языковая модель Clibrain для генерации текста и выполнения запросов на естественном языке. Это декодерная авторегрессионная модель архитектуры Falcon, дообученная на 80 тысячах примеров из закрытого набора, созданного по образцу Alpaca и Dolly. В README указано 7 млрд параметров, тогда как метаданные Hugging Face указывают 10,9 млрд; размер модели в источниках расходится. Модель предназначена для прямого использования в виртуальных ассистентах, генерации контента и других общих задачах на испанском языке. Среди поддерживаемых сценариев также заявлены классификация текста и токенов, ответы на вопросы и генерация текста. Она использует библиотеку Transformers и опубликована под лицензией Apache 2.0. Качество модели оценено не полностью: авторы сообщают, что результаты оценки будут опубликованы позднее. Возможны галлюцинации, токсичные высказывания и стереотипы; ответы следует проверять. README не рекомендует применять модель в production без предварительной оценки рисков и мер по их снижению.

Open-Assistant Llama2 70B SFT OASST — языковая модель, разработанная Open-Assistant и дообученная на базе Llama 2 70B на смеси диалогов OASST с оценкой top-1. Это плотный авторегрессионный трансформер-декодер, предназначенный для генерации ответов в диалоговом формате. Для разграничения реплик используются специальные токены начала пользовательского и ассистентского хода и окончания хода. Модель подходит для чат-ботов, ответов на вопросы и генерации текста на английском, немецком, испанском и французском языках; README также отмечает ограниченные возможности на итальянском, португальском, польском, нидерландском, румынском, чешском и шведском. Число параметров составляет 68,7 млрд, контекст — 4096 токенов. Веса представлены в формате PyTorch, лицензия — Apache 2.0. Качество и полнота ответов на языках за пределами основных четырёх могут быть ограничены; контекст ограничен 4096 токенами. Модель предназначена для генерации текста по диалоговым примерам, а не для специализированных задач вроде распознавания изображений или аудио.

LumiOpen Llama-Poro-2-70B-base — базовая языковая модель, разработанная AMD Silo AI, группой TurkuNLP Университета Турку и HPLT. Это плотный декодерный трансформер на архитектуре Llama 3.1 с 69,5 млрд параметров; модель создана продолжением предобучения Llama 3.1 70B на 165 млрд токенов, чтобы усилить поддержку финского языка, сохранив навыки английского, программирования и математики. Контекст модели составляет 8192 токена; доступны веса Safetensors, библиотека Transformers, лицензия Llama 3.1 Community License. Это базовый чекпойнт для дальнейшей тонкой настройки, а не готовая инструкционная модель. Он подходит как основа для разработки финно- и англоязычных генеративных приложений, включая генерацию текста и кода, математические задачи и перевод между финским и английским. В карточке отмечено улучшение результатов на финских бенчмарках относительно Llama 3.1 70B при сохранении сильных результатов на английском. Модель слабее владеет языками, кроме финского и английского; ответы могут быть фактически неверными, предвзятыми или неподходящими. Для большинства прикладных сценариев требуется дополнительная настройка.

LLäMmlein2Vec 120M — немецкоязычная модель-энкодер, созданная командой LSX-UniWue на основе собственной авторегрессионной модели LLäMmlein 120M с преобразованием по методу LLM2Vec. Она предназначена для получения векторных представлений немецких текстов, например для семантического поиска, сравнения текстов и построения систем поиска по документам. Модель построена на архитектуре LLaMA с двунаправленным энкодером LlamaBiModel, содержит около 100,1 млн параметров и обрабатывает контекст до 8192 токенов. Для запуска авторы рекомендуют библиотеку llm2vec. Модель обучалась с использованием данных RedPajama-Data-V2. В метаданных указана лицензия other, поэтому условия использования следует уточнить в карточке модели и связанных материалах. Карточка ссылается на препринт, но не приводит здесь результаты оценки качества.