I.2Синтез, понимание и проверка знаний
В разделе собраны самостоятельные задачи, где AI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
42 341 модельgrounded-ai/phi4-r1-guard — языковая модель, разработанная Jlonge4 и дообученная на unsloth/phi-4-bnb-4bit с использованием Unsloth и TRL. Она предназначена для оценки текстов: выявляет токсичность, проверяет ответы на галлюцинации по эталонному материалу и оценивает релевантность найденного контекста запросу в RAG-сценариях. Модель имеет 14,1 млрд параметров, архитектуру LlamaForCausalLM и контекстное окно 16 384 токена. Принимает текст и выдаёт объяснение решения с бинарной классификацией: toxic/non-toxic, yes/no или relevant/unrelated. В карточке заявлена поддержка английского языка. Модель выпущена под лицензией Apache-2.0. Её оценки и объяснения могут ошибаться; проверки галлюцинаций зависят от качества эталонного материала, а классификацию следует валидировать на данных целевого применения.
piotr-rybak/poleval2021-task4-herbert-large-encoder — модель эмбеддингов предложений на базе архитектуры BERT, опубликованная Piotr Rybak. Она преобразует предложения и абзацы в плотные векторы размерностью 512 для поиска семантически похожих текстов, кластеризации и семантического поиска. Модель обучалась с ContrastiveLoss на основе косинусного расстояния и доступна в формате PyTorch для использования с библиотекой Sentence-Transformers. В метаданных указано 453,9 млн параметров и контекст длиной 514 токенов. Название репозитория и POLEVAL2021 указывают на польскую языковую задачу; модель предназначена прежде всего для текстов на польском языке. Лицензия в предоставленных данных не указана.
Карточка модели prompt-agnostic-language-models/Qwen-1B_coin на Hugging Face совпадает с карточкой Qwen/Qwen3-0.6B-Base, поэтому описание составлено по ней. Qwen3-0.6B-Base — базовая плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это предварительно обученная модель примерно с 508 млн параметров: 28 слоёв, группированное внимание с 16 головами Q и 8 головами KV. Она принимает текст и генерирует продолжение, служит основой для дообучения и адаптации под прикладные задачи. Модель предназначена для языкового моделирования общего назначения, включая генерацию текста, работу с кодом, STEM-темами, логическими рассуждениями и многоязычными данными. Контекстное окно составляет 32 768 токенов. В README указано, что семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; перечень языков, поддерживаемых именно этой базовой версией, отдельно не приведён. Модель распространяется под лицензией Apache-2.0. Это базовая предобученная версия, поэтому для диалогового помощника или специализированного приложения обычно потребуется дообучение либо настройка шаблона запросов; карточка не приводит конкретных гарантий качества для таких сценариев.
Карточка модели prompt-agnostic-language-models/Qwen-1B_dare_ties на Hugging Face совпадает с карточкой Qwen/Qwen3-0.6B-Base, поэтому описание составлено по ней. Qwen3-0.6B-Base — базовая плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это предварительно обученная модель примерно с 508 млн параметров: 28 слоёв, группированное внимание с 16 головами Q и 8 головами KV. Она принимает текст и генерирует продолжение, служит основой для дообучения и адаптации под прикладные задачи. Модель предназначена для языкового моделирования общего назначения, включая генерацию текста, работу с кодом, STEM-темами, логическими рассуждениями и многоязычными данными. Контекстное окно составляет 32 768 токенов. В README указано, что семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; перечень языков, поддерживаемых именно этой базовой версией, отдельно не приведён. Модель распространяется под лицензией Apache-2.0. Это базовая предобученная версия, поэтому для диалогового помощника или специализированного приложения обычно потребуется дообучение либо настройка шаблона запросов; карточка не приводит конкретных гарантий качества для таких сценариев.
Карточка модели prompt-agnostic-language-models/Qwen-1B_ties на Hugging Face совпадает с карточкой Qwen/Qwen3-0.6B-Base, поэтому описание составлено по ней. Qwen3-0.6B-Base — базовая плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это предварительно обученная модель примерно с 508 млн параметров: 28 слоёв, группированное внимание с 16 головами Q и 8 головами KV. Она принимает текст и генерирует продолжение, служит основой для дообучения и адаптации под прикладные задачи. Модель предназначена для языкового моделирования общего назначения, включая генерацию текста, работу с кодом, STEM-темами, логическими рассуждениями и многоязычными данными. Контекстное окно составляет 32 768 токенов. В README указано, что семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; перечень языков, поддерживаемых именно этой базовой версией, отдельно не приведён. Модель распространяется под лицензией Apache-2.0. Это базовая предобученная версия, поэтому для диалогового помощника или специализированного приложения обычно потребуется дообучение либо настройка шаблона запросов; карточка не приводит конкретных гарантий качества для таких сценариев.
Qwen2-1.5B-Instruct-bnb-4bit — квантизированная 4-битная версия инструкционно настроенной языковой модели Qwen2 объёмом 1,5 млрд параметров, опубликованная организацией Unsloth. Модель предназначена для генерации текста и диалоговых сценариев, а также для дообучения на пользовательских наборах данных с использованием Transformers и инструментов Unsloth. В карточке указаны английский язык и библиотека Transformers. Модель поддерживает обучение через готовые ноутбуки Unsloth, ориентированные на начинающих пользователей; заявлена возможность экспорта дообученных моделей в GGUF и использования с vLLM. Архитектура, размер контекстного окна, перечень модальностей и точные характеристики инференса в README не раскрыты. Ключевое преимущество варианта — 4-битное представление, снижающее требования к памяти по сравнению с полноразмерными версиями и упрощающее запуск и дообучение на ограниченных GPU-ресурсах. Ограничения включают отсутствие подробных результатов оценки качества, сведений о поддерживаемых языках помимо английского и информации о безопасности или специализированных областях применения. Указана лицензия Apache-2.0.
unsloth/Qwen2.5-1.5B — версия базовой языковой модели Qwen2.5, опубликованная Unsloth. Это плотная авторегрессионная модель семейства Qwen2 с архитектурой Qwen2ForCausalLM и 1,5 млрд параметров; она принимает текст и генерирует продолжение. В карточке указаны контекст до 32 768 токенов, формат safetensors и библиотека Transformers. Базовая архитектура использует RoPE, SwiGLU, RMSNorm и групповое внимание; README описывает исходную модель Qwen2.5 с 28 слоями. Модель предназначена для генерации текста и дальнейшего дообучения под конкретные задачи. Qwen2.5 поддерживает множество языков, в том числе китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Базовая предобученная версия не рекомендуется для диалогов без дополнительной настройки. Лицензия — Apache 2.0.
Qwen2.5-7B-Instruct-finetuned — дообученная модель JosephNguyen на базе unsloth/Qwen2.5-7B-Instruct. Это плотная авторегрессионная языковая модель семейства Qwen2 с 7,1 млрд параметров, предназначенная для диалогов и генерации текста; заявлена поддержка интерфейса вызова инструментов. Модель принимает текст и выдаёт текст, работает с английским языком и имеет контекст до 32 768 токенов. В карточке указано, что обучение проводилось с использованием Unsloth и библиотеки TRL. Конкретные специализация дообучения и результаты оценки качества не описаны, поэтому возможности базовой модели — генерация кода и структурированных ответов — не следует считать подтверждёнными характеристиками этого варианта. Распространяется по лицензии Apache-2.0.
Theros/Qwen2.5-CreativeMix-7B — объединённая разговорная языковая модель на архитектуре Qwen2.5, созданная с помощью mergekit методом DARE TIES. В слиянии использованы Qwen2.5-7B-HyperMix, Qandora-2.5-7B-Creative и EdgeRunner-Command-Nested; базовой моделью для объединения указана djuna/Q2.5-Fuppavy-7B. Модель содержит 7,1 млрд параметров и имеет заявленный контекст длиной до 131 072 токенов. Модель предназначена для диалоговой и творческой генерации текста. Её можно применять для написания и продолжения текстов, а также для ведения беседы. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. В карточке не приведены сведения о лицензии и конкретных ограничениях качества или использования.
Qwen3-0.6B-Base — базовая плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это предварительно обученная модель примерно с 508 млн параметров: 28 слоёв, группированное внимание с 16 головами Q и 8 головами KV. Она принимает текст и генерирует продолжение, служит основой для дообучения и адаптации под прикладные задачи. Модель предназначена для языкового моделирования общего назначения, включая генерацию текста, работу с кодом, STEM-темами, логическими рассуждениями и многоязычными данными. Контекстное окно составляет 32 768 токенов. В README указано, что семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; перечень языков, поддерживаемых именно этой базовой версией, отдельно не приведён. Модель распространяется под лицензией Apache-2.0. Это базовая предобученная версия, поэтому для диалогового помощника или специализированного приложения обычно потребуется дообучение либо настройка шаблона запросов; карточка не приводит конкретных гарантий качества для таких сценариев.
Qwen3-14B-Base — базовая причинно-авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это плотная модель с 14,8 млрд параметров и 40 слоями; она обучена на этапе предварительного обучения и предназначена для продолжения обучения и генерации текста на основе контекста. Архитектура использует групповое внимание с 40 головами запросов и 8 головами ключей и значений. Длина контекста — 32 768 токенов. Модель подходит для языкового моделирования, генерации текста, а также для задач, связанных с кодом, STEM, логическими рассуждениями и многоязычными данными. Семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; это описание относится к обучающему корпусу семейства и не гарантирует одинаковое качество на каждом языке. В метаданных указаны интерфейсы чата и вызова инструментов, однако вариант Base прошёл предварительное обучение, поэтому эти возможности не означают, что он настроен как готовый диалоговый ассистент. Для работы предусмотрена библиотека Transformers; в README рекомендуется актуальная версия, поскольку версии ниже 4.51.0 не распознают архитектуру qwen3. Модель распространяется по лицензии Apache-2.0. Для развёртывания нужна инфраструктура, способная обслуживать модель такого размера; конкретные требования к памяти в предоставленных данных не приведены.
Карточка модели taskmaster141/qwen3_4b_merged-4000-txt на Hugging Face совпадает с карточкой taskmaster141/SimplyParse-qwen3txt-3rdepoch, поэтому описание составлено по ней. SimplyParse-qwen3txt-3rdepoch — дообученная языковая модель, разработанная taskmaster141 на основе unsloth/qwen3-4b-instruct-2507-unsloth-bnb-4bit с использованием Unsloth и библиотеки Hugging Face TRL. Это плотная модель семейства Qwen3 с архитектурой Qwen3ForCausalLM, предназначенная для генерации текста и диалоговых сценариев; в метаданных также отмечен интерфейс вызова инструментов. Размер модели составляет 3,7 млрд параметров, длина контекста — до 262 144 токенов. Указан английский язык. Модель подходит для создания ответов и ведения диалога, а также для сценариев, где требуется использовать интерфейс вызова инструментов. Данных о специализации дообучения и его результатах карточка не содержит. Модель распространяется по лицензии Apache-2.0.
Qwen3.5-0.8B — компактная мультимодальная модель семейства Qwen от Qwen, представленная в виде постобученных весов для Transformers. Она сочетает причинную языковую модель с визуальным энкодером и предназначена для диалогов и задач, где нужно анализировать изображения и отвечать текстом. Модель поддерживает вызов инструментов через соответствующий интерфейс и может использоваться для прототипирования, разработки и дообучения под конкретные задачи. Модель имеет плотную архитектуру Qwen3.5 с 0,8 млрд параметров, 24 слоями и нативным контекстом до 262 144 токенов. В архитектуре сочетаются Gated Delta Networks и gated attention; доступны режимы обычной генерации и рассуждения, причём по умолчанию включён обычный режим. Карточка заявляет поддержку 201 языка и диалекта. Веса доступны в формате safetensors и совместимы с Transformers и несколькими движками инференса. Небольшой размер делает модель удобной для прототипирования и настройки под узкие задачи, однако её возможности и качество следует оценивать с учётом масштаба 0,8 млрд параметров и целевого сценария. Для длинного контекста могут потребоваться значительные ресурсы памяти. Лицензия — Apache-2.0.
JJarvinen/Qwen3.5-2B-EU-Tool-JARVIS-Native-v1 — дообученная текстовая модель разработчика JJarvinen на базе birgermoell/Qwen3.5-2B-EU, созданная с использованием Unsloth и библиотеки TRL. Это плотная авторегрессионная модель семейства Qwen3.5 с 1,7 млрд параметров; она принимает текст и генерирует текст, поддерживает диалоговый режим и интерфейс вызова инструментов. Заявленная длина контекста — 262 144 токена, язык карточки — английский. Модель предназначена для генерации текста в диалогах и сценариях, где требуется задействовать инструменты через соответствующий интерфейс. Веса опубликованы в формате safetensors. Лицензия — Apache-2.0, разрешающая широкое использование при соблюдении её условий.
Qwen3.5-9B-abliterated-GGUF — это GGUF-квантизированная версия модели Qwen3.5-9B, подготовленная tutuchen2000 на основе abliterated-варианта lukey03/Qwen3.5-9B. Модель предназначена для локального запуска через Ollama, llama.cpp и другие совместимые движки вывода. Она поддерживает текстовые сценарии, а специальная vision-версия — обработку изображений вместе с текстом. Доступны текстовые сборки Q4_K_M размером около 5,2 ГБ и F16 размером около 17 ГБ, а также vision-сборка Q4_K_M размером около 6,1 ГБ. Vision-вариант сохраняет встроенный мультимодальный vision-энкодер исходной Qwen3.5-9B; архитектура Qwen3.5 использует нативную мультимодальность с ранним объединением данных. Заявлены поддерживаемые языки: английский, китайский, японский, корейский, французский, немецкий и испанский. Модель имеет около 9 млрд параметров, но размер контекста в README не указан. Главная особенность — удаление отказов от ответа методом abliteration: применены три прохода ортогональной проекции и последующее QLoRA-дообучение для устойчивых категорий отказов. В тесте README модель ответила на 18 из 18 проверочных запросов, тогда как базовая модель не ответила ни на один. Это может быть полезно для исследовательских, образовательных и локальных сценариев, требующих минимального количества встроенных ограничений, однако отсутствие отказов повышает риск небезопасных или неправомерных ответов и требует самостоятельного контроля со стороны пользователя. Модель распространяется по лицензии Apache-2.0. Для vision-функций требуется Ollama версии 0.17.1 или новее; текстовая сборка vision не поддерживает.
andrzejmontano/Qwen3.5-9B-MTP-Mixed-8bit — мультимодальная модель семейства Qwen3.5 на 9 млрд параметров, подготовленная автором репозитория как смешанно-квантованная версия Qwen/Qwen3.5-9B. Она предназначена для диалога и задач «изображение—текст», включая анализ изображений и видео. Архитектура включает 32 слоя с чередованием линейного SSM-подобного внимания и полного внимания, 27-блочный визуальный трансформер и голову предсказания нескольких токенов. Модель принимает текст, изображения и видео, а выдаёт текст; в метаданных заявлены английский язык, чат и интерфейс вызова инструментов. Для экономии памяти до 8 бит квантованы только проекции MLP языковой части с размером группы 64; визуальный блок, механизмы внимания, эмбеддинги и голова MTP сохранены в BF16. Репозиторий использует формат MLX и safetensors, модель рассчитана на эффективный локальный инференс на совместимой платформе. Автор предупреждает о возможном небольшом ухудшении качества на отдельных случаях относительно BF16. Для сохранения MTP-ключей при загрузке через стандартный mlx-vlm требуются патчи из скрипта; README рекомендует oMLX. Лицензия — Apache-2.0.
Qwen3.6-35B-A3B-Uncensored-Genesis-Hermes-V7-GGUF — мультимодальная модель в формате GGUF, созданная LuffyTheFox на основе HauhauCS/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive. В модель также перенесены данные дообучения DJLougen/hermes-qwen3.5-35b-a3b-GGUF на датасете NousResearch/hermes-function-calling-v1, ориентированном на Hermes-агентов и вызов функций. Модель относится к семейству Qwen3.6, использует архитектуру Mixture-of-Experts с заявленным общим размером 35B и примерно 3B активных параметров, а также поддерживает обработку текста и изображений. В карточке указаны английский, китайский и многоязычный режимы работы, однако точный размер контекстного окна не приведён. Модель предназначена для диалогов, генерации текста и кода, агентных сценариев, вызова функций, ролевых и творческих задач, а также задач image-text-to-text. Основной заявленный акцент — отсутствие встроенных отказов и улучшение стабильности, ясности контекста и следования инструкциям с помощью метода Genesis, который, по описанию автора, выполняет численную коррекцию тензоров GGUF без переобучения. Эти заявления не подтверждены независимыми результатами оценки, поэтому качество, устойчивость и фактическая степень «uncensored» зависят от сценария использования. Для запуска требуются совместимые GGUF-инструменты и настройка распределения MoE-весов между GPU и CPU; автор приводит рекомендации для RTX 3060 с 12 ГБ видеопамяти, включая использование F16 для K/V cache и ограничение числа активных экспертов. Модель распространяется по лицензии Apache-2.0.
Карточка модели willhx/Qwen3-8B-Base-Math на Hugging Face совпадает с карточкой Qwen/Qwen3-8B-Base, поэтому описание составлено по ней. Qwen3-8B-Base — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это базовая модель на этапе предобучения, рассчитанная на дальнейшую адаптацию и генерацию текста. В карточке указаны 36 слоёв, 32 головы внимания для Q и 8 для KV; метаданные каталога оценивают размер в 7,6 млрд параметров, а README приводит 8,2 млрд параметров всего и 6,95 млрд без эмбеддингов. Контекст — 32 768 токенов. Модель предназначена для продолжения текста и служит основой для создания специализированных моделей и диалоговых систем. Семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; README отмечает отдельное внимание к программированию, STEM, рассуждениям, книгам и многоязычным данным. Модель использует архитектуру Qwen3 для причинного моделирования языка и распространяется в формате safetensors для Transformers. Лицензия — Apache-2.0. Карточка советует использовать актуальную версию Transformers: версии ниже 4.51.0 не распознают архитектуру qwen3. Поскольку это базовая, а не инструктивно настроенная версия, для диалогового применения и следования инструкциям может понадобиться дополнительная настройка.
Это предварительно квантованная версия Qwen/Qwen3-Omni-30B-A3B-Instruct, подготовленная с помощью NVIDIA ModelOpt и предназначенная для запуска на графических процессорах NVIDIA Blackwell, включая RTX 5090, B100 и B200. Модель семейства Qwen3-Omni с архитектурой MoE принимает текст, изображения, аудио и видео, а выдаёт текст и речь. Размер исходной модели — 30 млрд параметров, из которых около 3 млрд активируются на токен; NVFP4 W4A8 уменьшает размер чекпойнта примерно до 27 ГБ с примерно 60 ГБ у версии BF16. Квантированы веса экспертов и attention в Thinker; lm_head, маршрутизаторы MoE и остальные этапы оставлены без квантования. Для калибровки использовались английские и китайские запросы. Чекпойнт рассчитан на инференс с аппаратной поддержкой FP4 и не подходит для RTX 4090, A100 и H100; для этих ускорителей автор рекомендует вариант FP8. Модель распространяется по лицензии Apache-2.0.
Qwen3-VL-30B-A3B-Instruct-4bit — мультимодальная инструкционно настроенная модель для задач понимания и генерации текста на основе изображений и текстовых запросов. Модель разработана сообществом mlx-community и преобразована в формат MLX из Qwen/Qwen3-VL-30B-A3B-Instruct с использованием mlx-vlm версии 0.3.3. Модель предназначена для сценариев image-text-to-text, включая описание изображений и ответы на текстовые инструкции с учётом визуального содержимого. В названии указаны конфигурация 30B-A3B и 4-битное квантование, однако README не раскрывает подробности архитектуры, поддерживаемые языки и размер контекстного окна. Формат MLX ориентирован на запуск в экосистеме MLX; для использования рекомендуется пакет mlx-vlm. К сильным сторонам относятся мультимодальность и уменьшенный объём представления благодаря 4-битному квантованию, что может быть полезно при локальном запуске в совместимой среде. Ограничения и точные требования к оборудованию в README не указаны. Модель распространяется по лицензии Apache-2.0.
mlx-community/Qwen3-VL-Reranker-2B-mxfp8 — мультимодальная модель ранжирования, преобразованная сообщество mlx-community в формат MLX из Qwen/Qwen3-VL-Reranker-2B. Она предназначена для оценки релевантности и упорядочивания кандидатов, в том числе в мультимодальных сценариях. Архитектура семейства Qwen3-VL; в метаданных указан размер базовой модели 2B по идентификатору, а файлы репозитория представлены в формате safetensors. Для использования в README предлагается пакет mlx-embeddings. Модель может применяться для переранжирования результатов поиска и выбора наиболее подходящих текстовых или визуальных кандидатов. Базовая модель Qwen3-VL-2B-Instruct поддерживает анализ изображений и видео, однако README этой версии не уточняет входной формат, поддерживаемые языки или длину контекста. Лицензия — Apache-2.0.
BenevolenceMessiah выпустил объединённую языковую модель QwQ-32B-Preview-abliterated-Self-instruct-4x-TIES-MGS-v1.0. Она создана методом TIES с помощью mergekit на базе huihui-ai/QwQ-32B-Preview-abliterated и объединяет её с Rombos-Coder-V2.5-Qwen-32b, TheBeagle-v2beta-32B-MGS, Rombos-LLM-V2.5-Qwen-32b и EVA-Qwen2.5-32B-v0.2. Модель построена на архитектуре Qwen2 с плотной авторегрессионной языковой сетью Qwen2ForCausalLM, содержит 32 млрд параметров и поддерживает контекст до 32 768 токенов. Предназначена для генерации текста и диалогов; состав исходных моделей предполагает применение для кода, ролевых диалогов и написания историй. Веса опубликованы в формате safetensors для библиотеки Transformers. Карточка не сообщает лицензию и подробные результаты оценки качества, поэтому условия использования и сравнительную эффективность определить нельзя. Как результат слияния нескольких моделей, качество и поведение на конкретных задачах следует оценивать отдельно.
retrieval-mpnet-bn — модель Sentence Transformers, разработанная Asif Faisal Chowdhury для семантического поиска и извлечения релевантных текстов на бенгальском языке. Она преобразует предложения и абзацы в плотные векторы размерности 768 и поддерживает поиск по запросу в корпусе документов, кластеризацию и задачи сравнения предложений. Модель построена на XLM-RoBERTa large с усреднением токенов и дообучена методом многоязычной дистилляции с использованием multi-qa-mpnet-base-cos-v1 как учительской модели. Репозиторий содержит веса PyTorch; максимальная длина контекста — 514 токенов, но обучение проводилось на текстах до 250 токенов, поэтому более длинные входы могут обрезаться или обрабатываться хуже. Эмбеддинги не нормализованы: для поиска сходства рекомендуется косинусная мера. Лицензия в предоставленных данных не указана.
RoBERTa large — предварительно обученная языковая модель на английском языке, разработанная командой Facebook AI. Это трансформерная модель архитектуры RoBERTa с 454,1 млн параметров, обученная предсказывать замаскированные токены в контексте текста. Она чувствительна к регистру и рассчитана на последовательности длиной до 514 токенов по метаданным. Модель можно использовать для заполнения пропусков в тексте, а также дообучать для классификации последовательностей и токенов, ответов на вопросы и извлечения признаков для других задач обработки английского текста. Она принимает текст и возвращает предсказания токенов. Веса доступны в форматах PyTorch, TensorFlow, Flax, ONNX и Safetensors. Обучение проводилось на корпусах BookCorpus, Wikipedia, CC-News, OpenWebText и Stories. Модель распространяется по лицензии MIT. Данные обучения содержат неотфильтрованный интернет-контент, поэтому предсказания могут отражать его смещения; для прикладных задач модель обычно требуется дообучить.
Ruri-Base v2 — японская модель для получения векторных представлений текстов, разработанная cl-nagoya. Это Sentence Transformer на архитектуре BERT с 138,4 млн параметров; модель дообучена на базе cl-nagoya/ruri-pt-base-v2. Она предназначена для сравнения сходства предложений и текстового поиска на японском языке. Максимальная длина входа — 512 токенов, размерность выходных векторов — 768, сходство оценивается косинусной мерой. В JMTEB модель получила средний результат 72,48; README рекомендует для новых задач перейти на семейство Ruri v3. Лицензия — Apache 2.0.
sbert-jsnli-luke-japanese-base-lite — модель Sentence-Transformers на архитектуре LUKE, дообученная на один проход по датасету shunk031/jsnli на базе studio-ousia/luke-japanese-base-lite. Она преобразует предложения и абзацы на японском языке в плотные векторы размерности 768 для поиска семантически близких текстов, кластеризации и оценки сходства. Контекст модели составляет до 514 токенов, число параметров — 138,4 млн; доступен формат PyTorch. Модель предназначена для семантического поиска и сравнения японских текстов. Лицензия — Apache-2.0. Карточка также указывает результаты оценки на JSTS и JSICK, но не приводит их числовые значения.
sfm_filtered_e2e_alignment-4k_5k_6k_7k_8k_weightedavg_merge — объединение языковых моделей, созданное с помощью mergekit методом Linear. В качестве базовой использована модель на шаге обучения global_step8000; в объединение также вошли чекпойнты global_step4000, global_step5000, global_step6000 и global_step7000 из серии filtered_e2e_alignment. Автор карточки — yuhengtu из ByteDance. Модель имеет плотную архитектуру GPT-NeoX с 8,8 млрд параметров, принимает текст и предназначена для генерации текста и диалогового использования. Нативная длина контекста составляет 16 384 токена. Веса доступны в формате safetensors для библиотеки Transformers. Карточка не приводит сведений о поддерживаемых естественных языках, специализированных областях, оценке качества или конкретных ограничениях поведения. Лицензия в предоставленных данных не указана.
Shisa 7B v1 — двуязычная чат-модель общего назначения, разработанная Augmxnt для японского и английского языков. Она предназначена для диалога, ответов на вопросы и выполнения инструкций на этих языках. Модель построена на плотной архитектуре MistralForCausalLM с 7,5 млрд параметров и контекстом до 32 768 токенов. В основе лежит Mistral 7B с расширенным токенизатором, оптимизированным для японского языка; базовая модель прошла дополнительное предобучение преимущественно на японских данных, затем была дообучена на синтетических англо-японских данных и предпочтениях пользователей. Доступна в формате safetensors. Модель рассчитана на генерацию связных ответов и демонстрирует хорошее владение японским при сохранении возможностей английского. Она может галлюцинировать, хуже крупных моделей следует сложным инструкциям и рассуждает менее эффективно; в японском встречаются неестественные формулировки и ошибки, также возможно переключение на другой язык. Лицензия Apache 2.0 допускает коммерческое и иное использование.
pkshatech разработала японскую модель SimCSE для получения векторных представлений предложений. Она основана на cl-tohoku/bert-base-japanese-v2 и дообучена на обучающей выборке JSNLI — набора для японского логического вывода на естественном языке. Модель использует архитектуру BERT-base с примерно 138,4 млн параметров и формирует эмбеддинг через слой полносвязного преобразования представления [CLS]. Модель предназначена для сравнения смысловой близости японских предложений, семантического поиска и задач, где нужны эмбеддинги предложений. В README указаны обучение в течение 20 эпох, использование сложных негативных примеров и максимальная длина последовательности 128 токенов; контекст модели по метаданным — до 512 токенов. Доступны веса PyTorch, лицензия — CC BY-SA 4.0.
unsloth/SmolLM2-1.7B — компактная языковая модель на 1,7 млрд параметров, основанная на HuggingFaceTB/SmolLM2-1.7B. Репозиторий опубликован Unsloth и содержит вариант для генерации текста в формате safetensors; архитектура — плотная LlamaForCausalLM. Модель рассчитана на лёгкий запуск, в том числе на устройстве пользователя, и может служить основой для дообучения. Семейство SmolLM2 предназначено для широкого круга языковых задач. В README указано, что версия Instruct улучшена в следовании инструкциям, знаниях, рассуждениях и математике; для неё также заявлены переписывание и суммаризация текста, а также вызов функций. Контекст модели составляет 8192 токена. В метаданных указан английский язык. Лицензия — Apache-2.0. README описывает семейство и его вариант Instruct, однако не подтверждает, что конкретный репозиторий содержит именно Instruct-версию; перечисленные дополнительные возможности поэтому следует считать характеристиками семейства, а не гарантированными функциями этого чекпойнта.