II.1Анализ требований и архитектура ПО

Hkgkang00/FT-label-consent-20 — англоязычный Sentence Transformer, дообученный разработчиком на базе sentence-transformers/all-MiniLM-L6-v2 для сравнения предложений и поиска семантически близких текстов. Модель кодирует предложения и абзацы в плотные векторы размерности 384; архитектура включает энкодер BERT, усреднение токенов и нормализацию. Для оценки сходства используется косинусная мера. В README указана максимальная длина последовательности 256 токенов; метаданные Hugging Face указывают контекст до 512 токенов. Модель предназначена для семантического поиска, оценки сходства текстовых пар, поиска перефразировок, кластеризации и классификации текста на основе эмбеддингов. README сообщает о дообучении на наборе FT_label и приводит метрику Spearman cosine 0,4076 на его оценочной выборке. Базовая модель описана как англоязычная, поэтому применение к другим языкам не подтверждено. Репозиторий содержит веса safetensors; лицензия в предоставленных данных не указана.

Gemma3-R1984-4B — мультимодальная модель для диалогов и анализа изображений, дообученная VIDraft на базе Google Gemma 3 4B. В карточке заявлена работа с изображениями, видео и документами, включая PDF, CSV и TXT; метаданные классифицируют модель как image-text-to-text и указывают архитектуру Gemma3ForConditionalGeneration с плотными весами в формате Safetensors. Модель рассчитана примерно на 4 млрд параметров и контекст до 8 000 токенов. Сценарии применения включают визуальные вопросы и ответы, анализ документов, сравнение файлов, диалог и исследовательские запросы с поиском в интернете через SERPHouse API и цитированием найденных источников. Указана поддержка английского, корейского, японского, китайского, испанского, русского, арабского, хинди, индонезийского, французского и немецкого языков. Поиск в интернете требует API-ключа; обработка видео и документов описана как часть платформы и не подтверждена тегом задачи модели. В метаданных указана лицензия Gemma; README дополнительно упоминает MIT для Agentic AI-платформы, поэтому условия для весов следует связывать с лицензией Gemma.

AMD разработала эту модель как 4-битную квантизированную версию Gemma 4 12B IT от RedHatAI. Она предназначена для генерации текста и CPU-инференса на процессорах AMD EPYC, прежде всего в Linux-среде с использованием vLLM и оптимизаций ZenDNN. Указанный язык — английский. Модель построена на архитектуре Gemma4UnifiedForConditionalGeneration и имеет размер 12 миллиардов параметров в исходной версии. Для весов применяется GPTQ-квантизация W4A16: веса хранятся в формате INT4, симметрично и по группам размера 128, а активации остаются в BF16. Визуальные и аудиокомпоненты, мультимодальный проектор и lm_head сохранены в BF16, однако в карточке явно описан сценарий с текстовым вводом и выводом. Калибровка выполнена на 128 примерах датасета ultrachat_200k при максимальной длине последовательности 2048 токенов; в конфигурации оценки использовался максимальный контекст 4096 токенов. Ключевое преимущество модели — снижение требований к памяти и возможность оптимизированного инференса на AMD CPU при сохранении высокой близости к BF16-базовой версии: на GSM8K она получила 0,9249 против 0,9401 у BF16, то есть восстановила 98,38% результата. Ограничения связаны с зависимостью от конкретного программного стека и аппаратной платформы: заявлена совместимость с AMD EPYC, ZenDNN 6.1.0, ZenTorch 2.11.0.3, PyTorch 2.11.0, LLM Compressor 0.12.0 и vLLM 0.26.0. Для оптимальной производительности требуется настройка OpenMP через LD_PRELOAD. Модель распространяется по лицензии Gemma.

Gemma 4 31B it — мультимодальная инструкционная модель Google, представленная в 4-битной квантизированной версии MLX. Исходная модель — google/gemma-4-31B-it, а квантизацию с использованием mlx_vlm выполнила команда LM Studio. Версия оптимизирована для запуска на устройствах Apple Silicon. Модель предназначена для задач генерации текста и обработки изображений с текстом, включая сценарии, поддерживаемые классом image-text-to-text. Благодаря инструкционному варианту она рассчитана на выполнение запросов пользователя в диалоговых и прикладных задачах. Размер исходной модели составляет 31 млрд параметров, однако точные сведения о поддерживаемых языках, размере контекста и архитектурных особенностях в README не указаны. Ключевое преимущество версии — снижение требований к памяти за счёт 4-битной квантизации и оптимизация под экосистему Apple Silicon. Ограничения включают возможное снижение точности по сравнению с полной версией, зависимость производительности от оборудования Apple и отсутствие в предоставленных данных подробных результатов тестирования. Модель распространяется по лицензии Apache 2.0.

German-RAG-UAE-LARGE-V1-TRIPLES-HESSIAN-AI — модель Sentence Transformers, разработанная командой German-RAG AI и дообученная на примерно 300 тысячах троек из набора German-RAG-EMBEDDING-TRIPLES-HESSIAN-AI. Она преобразует предложения и абзацы в плотные векторы размерности 1024; архитектура основана на BERT с объединением CLS-токена и нормализацией векторов. Максимальная длина последовательности — 512 токенов, сходство оценивается косинусной мерой. Модель предназначена для семантического поиска по немецким текстам и другим задачам сравнения и группировки текстов: поиска похожих предложений, обнаружения перефразировок, кластеризации и извлечения признаков для классификации. В карточке приведены результаты оценок на немецких наборах для поиска, классификации и семантического сходства. Модель поддерживает немецкий и английский языки; лицензия — MIT.

asadmasad/GIST-large-finetuned — модель эмбеддингов предложений на основе архитектуры BERT, распространяемая в формате safetensors и используемая через библиотеку Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 1024 для семантического поиска, кластеризации и сравнения текстов. Модель обучалась с функцией Multiple Negatives Ranking Loss и косинусным сходством; максимальная длина контекста составляет 512 токенов, размер модели — около 433,9 млн параметров. Подходит для поиска похожих фрагментов текста и группировки текстов по смыслу. Доступные данные не устанавливают целевые языки или специализированные предметные области; производительность на конкретном языке и домене следует проверять отдельно. Сведения о лицензии в предоставленных источниках отсутствуют.

GLiFormer Large v1 — модель Knowledgator с 575,6 млн параметров, использующая общий layout-aware энкодер DeBERTa и специализированные головы задач. Она предназначена для извлечения именованных сущностей и отношений, классификации текста, формирования структурированных записей по заданной схеме и получения текстовых эмбеддингов. Метки и схема извлечения задаются при инференсе; можно выполнять несколько задач за один вызов. Несмотря на поддержку разметки макета документов в архитектуре, приведённые примеры и оценки относятся к текстовым задачам. Карточка приводит результаты оценки на англоязычных данных: средний строгий F1 для NER на 26 наборах — 50,91, средний macro-F1 классификации на 13 наборах — 75,03; показатели извлечения отношений существенно различаются между наборами. Качество зависит от меток, формулировки схемы, длины входа и порогов. Модель может пропускать сведения, ошибаться в границах сущностей и отношениях между записями; результаты для других языков, макетов документов и эмбеддингов в карточке не подтверждены. Лицензия — Apache-2.0.

GLM-5.3-AWQ-INT4 — квантизированная версия модели GLM-5.3, разработанной организацией Z.ai. Модель предназначена для генерации текста и ориентирована прежде всего на сложные задачи программирования, работу с инструментами, агентские сценарии и выполнение длительных многоэтапных задач. В README заявлены высокие результаты в бенчмарках по coding, автоматизации, поиску уязвимостей и эксплуатации, однако эти показатели приведены разработчиками и могут зависеть от методики тестирования. Модель работает с текстом, поддерживает языки English, Chinese, Hindi, Arabic, Russian, Japanese, Korean, Dutch, French и Spanish. Указан размер файлов модели 488,18 ГБ; архитектура, число параметров и размер контекстного окна в README не раскрыты. Квантизация AWQ с форматом INT4 снижает требования к хранению и вычислениям по сравнению с полноразмерной моделью, но может сопровождаться потерей точности. Для локального развёртывания заявлена совместимость с SGLang, vLLM, TokenSpeed и Transformers. Сильными сторонами модели являются заявленные возможности в программировании, агентной автоматизации и кибербезопасности, включая обнаружение уязвимостей. Ограничения включают отсутствие подробностей об архитектуре, контекстном окне и требованиях к оборудованию, а также потенциальное снижение качества из-за квантизации. Модель распространяется по лицензии glm-5.3; точные условия лицензии в README не приведены.

Gemma 3 12B IT QAT GGUF — квантизированная instruction-tuned модель семейства Gemma 3, разработанная Google. Данный вариант подготовлен bartowski на основе весов google/gemma-3-12b-it-qat-q4_0-unquantized и предназначен для локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Модель относится к мультимодальному классу image-text-to-text, поэтому предназначена для обработки текста и изображений с генерацией текстовых ответов. Указан размер 12 миллиардов параметров; README не содержит сведений о поддерживаемых языках, размере контекста и точной архитектуре. Доступны варианты в формате GGUF с разными уровнями квантования, включая Q4_0; файл Q4_0 имеет размер около 6,91 ГБ и благодаря QAT должен обеспечивать улучшенное качество относительно обычного квантования при сохранении сниженных требований к памяти. Q4_0 также поддерживает онлайн-репаковку для ARM- и AVX-совместимых CPU. Сильными сторонами являются возможность локального использования, широкий выбор уровней квантования и совместимость с распространённой экосистемой llama.cpp. Более качественные варианты требуют больше памяти, а сильнее сжатые варианты могут заметно терять в качестве. Для доступа к исходной модели на Hugging Face необходимо принять лицензию Google Gemma; конкретные условия лицензии в README не приведены.

MuXodious/gpt-oss-20b-RichardErkhov-heresy — доработанная версия модели OpenAI gpt-oss-20b, созданная сообществом MuXodious с применением модифицированного движка abliteration Heretic и метода Magnitude-Preserving Orthogonal Ablation. Модель предназначена для генерации текста, локального использования, экспериментов, специализированных приложений и сценариев, требующих снижения частоты отказов отвечать. В README заявлены 6 отказов из 100 против 98 из 100 у исходной версии, а также низкое значение KL divergence 0,0802, однако эти показатели относятся к авторской методике оценки и не гарантируют качество или безопасность в практических задачах. Модель основана на gpt-oss-20b — MoE-модели OpenAI с 21 млрд параметров и 3,6 млрд активных параметров, рассчитанной на низкую задержку и локальное выполнение. Она поддерживает генерацию текста, настраиваемый уровень рассуждений, агентные сценарии, вызов функций, веб-браузинг, выполнение Python и структурированные ответы. Указано, что модель обучена для работы с форматом Harmony, который необходимо использовать для корректной работы. Также заявлена посттренировочная MXFP4-квантизация весов MoE, позволяющая запускать исходную gpt-oss-20b примерно в пределах 16 ГБ памяти. Языки и размер контекстного окна для данной версии в README не указаны. К сильным сторонам относятся существенно сниженная склонность к отказам, сохранение близости к исходной модели по метрике KL divergence и пригодность для локальных и исследовательских сценариев. Ограничения включают экспериментальный характер abliteration, возможное повреждение исходных способностей, отсутствие независимых подробных оценок качества и потенциальные риски использования менее ограниченной модели. Модель распространяется по лицензии Apache 2.0.

granite-4.0-h-3b-ar — компактная инструктивная языковая модель, разработанная IBM Research и Mohamed bin Zayed University of Artificial Intelligence (MBZUAI) в рамках IBM–MBZUAI AI Center of Excellence. Она предназначена для диалогов и генерации текста на современном стандартном арабском, нескольких региональных арабских диалектах и английском языке, в том числе для разнородных и межъязыковых сценариев. Модель содержит 2,6 млрд параметров и использует плотную decoder-only архитектуру GraniteMoeHybrid с GQA, Mamba2, SwiGLU, RMSNorm и общими входными и выходными эмбеддингами. Контекстное окно по метаданным составляет 131 072 токена. Компактный размер позволяет рассматривать её для эффективного развёртывания при ограниченных ресурсах; обучение охватывало общие задачи, а также примеры по математике, программированию и рассуждениям. Качество может зависеть от диалекта, предметной области, формулировки запроса и сложности задачи; результаты на арабских диалектах могут уступать английским. Модель способна выдавать неточные, предвзятые, неподходящие или небезопасные ответы, поэтому перед использованием в конкретной задаче рекомендуется оценка и настройка, а для рискованных сценариев — модерация входов и выходов. Лицензия — Apache-2.0.

Карточка модели DeepanBabu/gte-Qwen2-1.5B-instruct на Hugging Face совпадает с карточкой Alibaba-NLP/gte-Qwen2-1.5B-instruct, поэтому описание составлено по ней. gte-Qwen2-1.5B-instruct — модель текстовых эмбеддингов из семейства GTE, разработанная Alibaba NLP на базе Qwen2-1.5B. Она преобразует тексты в векторы размерности 1536 и предназначена для поиска по смыслу, сравнения предложений, ранжирования и других задач, использующих текстовые представления. Модель поддерживает инструкции для запросов и обучалась на многоязычных данных из разных областей; в карточке указано контекстное окно 131 072 токена, тогда как README описывает максимальную длину входа 32 000 токенов. В основе — архитектура Qwen2 с причинной языковой моделью, дополненной двунаправленным механизмом внимания для контекстного представления текста. В README заявлены сценарии для широкого круга языков и задач, но конкретный список языков не приведён. Модель распространяется под лицензией Apache-2.0. Для запуска README указывает зависимости transformers версии 4.39.2 или новее и flash_attn версии 2.5.6 или новее.

Карточка модели Koat/gte-tiny на Hugging Face совпадает с карточкой TaylorAI/gte-tiny, поэтому описание составлено по ней. TaylorAI/gte-tiny — компактная модель эмбеддингов предложений на базе архитектуры BERT, представленная как sentence-transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 384 для семантического поиска, кластеризации и сравнения текстов. Модель дистиллирована из thenlper/gte-small; README сообщает о сопоставимом, немного более низком качестве при примерно вдвое меньшем размере. В метаданных указано 25,9 млн параметров и контекст до 512 токенов. Модель подходит для построения векторного поиска по документам, группировки похожих текстов и оценки семантической близости. Доступны веса PyTorch и safetensors, а также формат ONNX. Язык обучения или перечень поддерживаемых языков в предоставленных данных не указан, поэтому языковую специализацию определить нельзя. Условия лицензии в предоставленных данных не указаны.

hi-di-hi-base — англоязычная модель Sentence Transformers, дообученная автором репозитория на базе BAAI/bge-base-en-v1.5. Она кодирует предложения и абзацы в плотные векторы размерностью 768 и предназначена для сравнения текстов, семантического поиска и других задач, основанных на близости эмбеддингов. Модель использует архитектуру BERT с пулингом по CLS-токену и нормализацией выходного вектора; сходство вычисляется косинусной мерой. Максимальная длина последовательности — 512 токенов. Обучение проводилось на 36 000 парах anchor-positive из датасета json; Apache-2.0 допускает использование и распространение на условиях этой лицензии. Эмбеддинги также подходят для кластеризации, поиска перефразирований и классификации текстов. Карточка приводит результаты оценки поиска с сокращёнными векторами разных размерностей, но не описывает предметную специализацию; качество на других корпусах и языках может отличаться.

Bheri/ithasa-mmbert — модель Sentence Transformers, дообученная на базе jhu-clsp/mmBERT-base для получения эмбеддингов предложений и абзацев. Она кодирует текст в плотные векторы размерностью 768 и сравнивает их косинусным сходством; архитектура включает ModernBERT и усредняющий пулинг токенов. Максимальная длина последовательности — 8192 токена. Модель предназначена для поиска семантически близких текстов, оценки сходства предложений, поиска перефразирований, кластеризации и классификации текста. В карточке приведён обучающий набор из 256 886 триплетов anchor-positive-negative. Примеры включают английский и санскритский текст; базовая модель описана как многоязычная. Файлы весов представлены в формате Safetensors. Лицензия в предоставленных данных не указана.

Англоязычная модель эмбеддингов Jina AI на архитектуре JinaBERT, основанной на BERT. Она преобразует текст в векторные представления для поиска по смыслу, сравнения предложений, ранжирования и рекомендательных систем. Модель содержит 136,7 млн параметров и поддерживает контекст длиной до 8192 токенов; для получения эмбеддингов README рекомендует применять mean pooling. Модель обучена на коллекции Jina AI из более чем 400 млн пар предложений и сложных негативных примеров. В основе лежит JinaBERT, предварительно обученный на C4; симметричный двунаправленный вариант ALiBi позволяет обрабатывать длинные последовательности. Модель подходит для поиска по длинным документам, семантического сходства и RAG, сохраняя сравнительно быстрый инференс. Для загрузки через Transformers требуется trust_remote_code=True; README также указывает на gated-доступ на Hugging Face. Лицензия — Apache-2.0. Модель предназначена для английского текста и не является мультимодальной.

jinaai/jina-embeddings-v2-base-en — англоязычная модель эмбеддингов, разработанная Jina AI. Она предназначена для преобразования текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Модель построена на архитектуре JinaBERT с двунаправленным ALiBi и содержит около 136,7 млн параметров; заявленная длина последовательности — 8192 токена. Модель обучали на коллекции Jina AI из более чем 400 млн пар предложений и сложных негативных примеров. Она рассчитана на поиск по длинным документам, семантическое сходство, ранжирование, рекомендации и RAG. Для получения эмбеддингов README рекомендует применять mean pooling; модель также может выполнять заполнение масок и задачи классификации текста согласно каталожным метаданным. Лицензия — Apache-2.0. Для загрузки весов требуется авторизация из-за gated access; при использовании через Transformers необходимо включить trust_remote_code=True. Модель предназначена для английского текста, поэтому её не следует считать многоязычной.

German Semantic V3 BMF — англоязычная модель Sentence Transformer, дообученная akot на базе jinaai/jina-embeddings-v2-base-de. Она преобразует предложения и абзацы в плотные эмбеддинги размерностью 768 и использует косинусное сходство для сравнения текстов. В архитектуре — BERT-трансформер, усредняющий токенные представления с последующей нормализацией; в README указана максимальная длина последовательности 1024 токена, а метаданные задают контекст до 8192 токенов. Модель предназначена для семантического поиска, оценки сходства предложений, поиска перефразировок, кластеризации и классификации текста. Обучение выполнено на 4 957 примерах с MatryoshkaLoss и MultipleNegativesRankingLoss; заявлена поддержка английского языка. Репозиторий содержит веса Safetensors, модель насчитывает 160,1 млн параметров и распространяется по лицензии Apache-2.0. Представленные в карточке значения точности поиска очень низкие, поэтому качество следует проверить на целевых данных; длина последовательности в README отличается от контекста в метаданных.

Карточка модели bagger3025/klue-roberta-base-klue-sts на Hugging Face совпадает с карточкой dyryu/klue_roberta-base-klue-sts, поэтому описание составлено по ней. dyryu/klue_roberta-base-klue-sts — модель Sentence-Transformers на архитектуре RoBERTa, разработчик которой не уточнён в карточке. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения текстов. Модель содержит 137,8 млн параметров, принимает текст и выдаёт векторные представления; максимальная длина контекста — 514 токенов. Для работы доступны веса в формате safetensors и библиотека sentence-transformers. При обучении использовалась функция потерь CosineSimilarityLoss. Метаданные указывают задачи sentence-similarity и feature-extraction; основное назначение для пользователя — поиск семантически похожих предложений. Карточка не сообщает лицензию, поэтому условия использования по ней определить нельзя.

Карточка модели cheasuar/klue-roberta-base-klue-sts на Hugging Face совпадает с карточкой dyryu/klue_roberta-base-klue-sts, поэтому описание составлено по ней. dyryu/klue_roberta-base-klue-sts — модель Sentence-Transformers на архитектуре RoBERTa, разработчик которой не уточнён в карточке. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения текстов. Модель содержит 137,8 млн параметров, принимает текст и выдаёт векторные представления; максимальная длина контекста — 514 токенов. Для работы доступны веса в формате safetensors и библиотека sentence-transformers. При обучении использовалась функция потерь CosineSimilarityLoss. Метаданные указывают задачи sentence-similarity и feature-extraction; основное назначение для пользователя — поиск семантически похожих предложений. Карточка не сообщает лицензию, поэтому условия использования по ней определить нельзя.

Карточка модели donkizm/klue-roberta-base-klue-sts на Hugging Face совпадает с карточкой dyryu/klue_roberta-base-klue-sts, поэтому описание составлено по ней. dyryu/klue_roberta-base-klue-sts — модель Sentence-Transformers на архитектуре RoBERTa, разработчик которой не уточнён в карточке. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения текстов. Модель содержит 137,8 млн параметров, принимает текст и выдаёт векторные представления; максимальная длина контекста — 514 токенов. Для работы доступны веса в формате safetensors и библиотека sentence-transformers. При обучении использовалась функция потерь CosineSimilarityLoss. Метаданные указывают задачи sentence-similarity и feature-extraction; основное назначение для пользователя — поиск семантически похожих предложений. Карточка не сообщает лицензию, поэтому условия использования по ней определить нельзя.

Карточка модели ratsheadhug/klue-roberta-base-klue-sts на Hugging Face совпадает с карточкой dyryu/klue_roberta-base-klue-sts, поэтому описание составлено по ней. dyryu/klue_roberta-base-klue-sts — модель Sentence-Transformers на архитектуре RoBERTa, разработчик которой не уточнён в карточке. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения текстов. Модель содержит 137,8 млн параметров, принимает текст и выдаёт векторные представления; максимальная длина контекста — 514 токенов. Для работы доступны веса в формате safetensors и библиотека sentence-transformers. При обучении использовалась функция потерь CosineSimilarityLoss. Метаданные указывают задачи sentence-similarity и feature-extraction; основное назначение для пользователя — поиск семантически похожих предложений. Карточка не сообщает лицензию, поэтому условия использования по ней определить нельзя.

dyryu/klue_roberta-base-klue-sts — модель Sentence-Transformers на архитектуре RoBERTa, разработчик которой не уточнён в карточке. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения текстов. Модель содержит 137,8 млн параметров, принимает текст и выдаёт векторные представления; максимальная длина контекста — 514 токенов. Для работы доступны веса в формате safetensors и библиотека sentence-transformers. При обучении использовалась функция потерь CosineSimilarityLoss. Метаданные указывают задачи sentence-similarity и feature-extraction; основное назначение для пользователя — поиск семантически похожих предложений. Карточка не сообщает лицензию, поэтому условия использования по ней определить нельзя.

Карточка модели saidsef/knowledge-base-embedding-model на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.

waris-gill/langcache-embed-v2 — модель Sentence Transformers, дообученная автором на триплетном наборе данных от базовой модели redis/langcache-embed-v1. Она использует архитектуру ModernBERT с 149 млн параметров и преобразует предложения и абзацы в плотные векторы размерностью 768 для сравнения текстов по косинусному сходству. Максимальная длина последовательности составляет 8192 токена. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации на основе эмбеддингов. Её можно применять для поиска похожих запросов и семантического кэширования. Обучение описано как дообучение на триплетах; репозиторий использует Sentence Transformers и формат Safetensors. Язык лицензии в предоставленных данных не указан, поэтому условия использования по ним определить нельзя.

KoarAI/LFM2.5-350M-Thinking-0004 — компактная языковая модель для диалоговой генерации текста и пошаговых рассуждений. По карточке, модель разработана KoarAI на архитектуре LiquidAI LFM2.5 и дообучена методом двухэтапной дистилляции с несколькими учителями. В метаданных указаны плотная архитектура LFM2, около 443,4 млн параметров и контекст до 128 000 токенов. Модель предназначена для ответов на вопросы, многошаговых математических рассуждений, генерации кода и работы на маломощных устройствах. Карточка заявляет хорошее владение русским языком и генерацию структурированных рассуждений; метаданные также отмечают английский. Указана лицензия Apache-2.0. Результаты скорости и бенчмарков приведены авторами модели и не являются независимой оценкой.

YoungXuan/Llama-3.1-8B-NHS — продолжительно предобученная модель генерации текста на основе Meta Llama 3.1 8B с методом TTT-NTP: во время тестирования она обновляет быстрые веса в отдельных проекциях MLP, используя предсказание следующего токена. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает контекст длиной до 131 072 токенов. Модель предназначена для генерации текста и улучшения извлечения связанных фактов из длинного контекста. В оценке RULER автор сообщает средний результат на 11,96 пункта выше базовой Llama 3.1 8B; улучшения сосредоточены на ассоциативном поиске по нескольким ключам и значениям, при этом на некоторых заданиях наблюдались ухудшения. Оценка проведена с одним seed, поэтому результаты требуют осторожной интерпретации. Для загрузки через Transformers требуется включить trust_remote_code, поскольку реализация TTT находится в коде репозитория. Формат весов — safetensors; лицензия — llama3.1.

Llama-3-Teal-Instruct-2x8B-MoE — экспериментальная языковая модель с архитектурой MoE, созданная RDson путём слияния Meta-Llama-3-8B-Instruct и nvidia/Llama3-ChatQA-1.5-8B с помощью Mergekit. Она предназначена для диалогов с ассистентом и генерации текста; в README отдельно выделены запросы на объяснения и общение, а также задачи по Python, математике и программированию. Метаданные указывают 7,5 млрд параметров, контекст до 8192 токенов и формат Safetensors. Модель принимает текст и выдаёт текст. В карточке не приведены результаты оценки качества или подробные ограничения, поэтому пригодность для конкретных задач следует проверять самостоятельно. Лицензия в предоставленных данных не указана.

LumiOpen Llama-Poro-2-70B-base — базовая языковая модель, разработанная AMD Silo AI, группой TurkuNLP Университета Турку и HPLT. Это плотный декодерный трансформер на архитектуре Llama 3.1 с 69,5 млрд параметров; модель создана продолжением предобучения Llama 3.1 70B на 165 млрд токенов, чтобы усилить поддержку финского языка, сохранив навыки английского, программирования и математики. Контекст модели составляет 8192 токена; доступны веса Safetensors, библиотека Transformers, лицензия Llama 3.1 Community License. Это базовый чекпойнт для дальнейшей тонкой настройки, а не готовая инструкционная модель. Он подходит как основа для разработки финно- и англоязычных генеративных приложений, включая генерацию текста и кода, математические задачи и перевод между финским и английским. В карточке отмечено улучшение результатов на финских бенчмарках относительно Llama 3.1 70B при сохранении сильных результатов на английском. Модель слабее владеет языками, кроме финского и английского; ответы могут быть фактически неверными, предвзятыми или неподходящими. Для большинства прикладных сценариев требуется дополнительная настройка.

Leo1212/longformer-base-4096-sentence-transformers-all-nli-stsb-quora-nq — англоязычная модель Sentence Transformers, дообученная на базе allenai/longformer-base-4096. Она преобразует предложения и абзацы в плотные векторы размерности 768; архитектура объединяет Longformer и mean pooling. Максимальная длина последовательности — 4098 токенов, сходство векторов можно оценивать косинусной мерой. Модель предназначена для семантического сравнения текстов, поиска по смыслу, поиска перефразировок, кластеризации и классификации текста. В обучении использованы наборы all-NLI, STS-B, Quora и Natural Questions. Она принимает текст и выдаёт векторные представления; карточка не приводит сравнительных оценок качества. Лицензия в предоставленных данных не указана.