I.2Синтез, понимание и проверка знаний
В разделе собраны самостоятельные задачи, где AI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
42 341 модельUndi95/Miqu-70B-Alpaca-DPO — плотная языковая модель семейства Llama с 68,7 млрд параметров, представленная в формате PyTorch FP16. Это версия Miqu, дообученная методом DPO на наборах ToxicDPOqa и toxic-dpo-v0.1-NoWarning в формате Alpaca, чтобы расширить ответы базовой модели и сделать работу с инструкциями Alpaca удобнее. Модель также поддерживает простой формат Mistral. Модель предназначена для генерации текста и диалоговых ответов по инструкциям. В карточке заявлено, что она может отвечать на более широкий круг запросов, однако эффект дообучения ограничен: автор отмечает, что базовая Miqu остаётся сильно ограниченной вне ролевых сценариев, а модель иногда выдаёт неэтичные ответы. Для полной реализации потенциала автор указывает на необходимость объединения с MiquMaid. Лицензия в предоставленных данных не указана.
InkeeJung/mistral-7b-arc-qlora-mc — это специализированная модель генерации текста на основе Mistral-7B-v0.1 от Mistral AI, дообученная InkeeJung для задач с вариантами ответа из набора ARC. Это не чат-ассистент: модель предназначена для сопоставления вариантов ответа с вопросом, а не для ведения диалога. Модель содержит 7,1 млрд параметров, использует архитектуру Mistral и поддерживает контекст до 32 768 токенов. Для обучения применялась QLoRA с NF4 и адаптерами LoRA; опубликованные FP16-веса получены слиянием выбранного адаптера с исходной базовой моделью. В описанной оценке на ARC-Challenge модель показала 81,31% нормализованной точности на тесте из 1 172 вопросов. Основной сценарий — оценка ответов на вопросы с несколькими вариантами, в частности научных вопросов ARC-Challenge и ARC-Easy. Оценки вариантов задают относительное распределение и не являются калиброванной уверенностью. Обучение проверяло заданное правило текстового исключения пересечений, но не исключает семантическое сходство и загрязнение предобучающих данных. Лицензия — Apache-2.0.
Модель разработана Национальной комиссией по государственному языку и языковой политике при Президенте Кыргызской Республики. Это дообученная для кыргызского языка генеративная текстовая модель на архитектуре Mistral с 7,1 млрд параметров. Она обучена на наборе данных MADLAD-400 и использует Grouped-Query Attention, Sliding-Window Attention и токенизатор Byte-fallback BPE; размер контекста составляет 32 768 токенов. Модель предназначена для продолжения текста и генерации текста на кыргызском языке. Её можно использовать как основу для кыргызскоязычных текстовых приложений и экспериментов. В README указано, что базовая Mistral-7B-v0.1 превосходит Llama 2 13B в проверенных разработчиками тестах, но сравнительные результаты именно этой кыргызской версии не приведены. README не указывает лицензию. Авторы отмечают, что модель не имеет встроенных механизмов модерации; для её работы рекомендуется Transformers версии 4.34.0 или новее.
Kquant03 разработал MistralTrix8x9B — экспериментальную текстовую модель с архитектурой Mixtral MoE, созданную как «frankenMoE» и предназначенную для генерации текста и проверки того, может ли такая сборка конкурировать с Mixtral Instruct. Модель содержит 8,9 млрд параметров, распространяется в формате safetensors с точностью BF16 и поддерживает контекст до 32 768 токенов. Архитектура MoE направляет токены к выбранным экспертам, что позволяет задействовать лишь часть вычислений на каждом шаге генерации. При этом для запуска необходимо разместить все параметры в памяти. Автор отмечает, что маршрутизатор экспертов не обучался совместно с моделью, поэтому поведение сборки может быть нестабильным. Лицензия — Apache-2.0.
Mixtral-8x7B-Instruct-v0.1-japanese-alpha-merged — модель ABEJA, созданная на основе Mixtral-8x7B-Instruct-v0.1. В ней применено слияние разницы весов с моделью, проходившей продолжающее предварительное обучение с расширением японского словаря; опубликована как промежуточная модель для оценки в техническом блоге ABEJA. Это языковая модель архитектуры Mixtral с разреженной смесью экспертов (MoE), примерно 7,2 млрд параметров и контекстом до 32 768 токенов. Она предназначена для генерации текста и инструкционного диалога, прежде всего на японском языке. Репозиторий содержит веса Safetensors, лицензия — Apache-2.0. Модель может подойти для японских чат-ботов, генерации и продолжения текста, а также для экспериментов с японским языковым моделированием. Поскольку опубликована как промежуточный результат обучения и оценки, её качество и пригодность для конкретных сценариев следует проверять отдельно.
MMedLM 2 — мультиязычная медицинская языковая модель Henrychur с 7,4 млрд параметров на архитектуре InternLM2. Это авторегрессионная плотная модель, дообученная продолжением предварительного обучения на медицинском корпусе MMedC; корпус содержит 25,5 млрд токенов. Модель предназначена для исследований и задач, требующих медицинских знаний на английском, китайском, японском, французском, русском и испанском языках. Она поддерживает контекст до 32 768 токенов и может использоваться для генерации текста и извлечения признаков; модельная карточка заявляет оценку на медицинском мультиязычном бенчмарке MMedBench. Модель не проходила дообучение на инструкциях, поэтому для диалога и выполнения пользовательских запросов может потребоваться дополнительная настройка. Репозиторий содержит веса PyTorch и использует библиотеку Transformers. Лицензия — Apache-2.0.
Muse-Glimmer-30B-int4-ov — мультимодальная модель Meta Superintelligence Lab, представленная в формате OpenVINO IR с весами, сжатыми до INT4 с помощью NNCF. В основе — плотный причинный трансформер с отдельным энкодером восприятия; модель принимает текст и изображения и генерирует текст. Видео можно обрабатывать как последовательность отдельных кадров. Модель предназначена для диалогов и анализа изображений, а также для сценариев, поддерживаемых исходной Muse-Glimmer-30B. Для запуска нужны OpenVINO 2026.3.1 или новее, Transformers 5.15 и версия Optimum Intel с поддержкой Muse Glimmer. Совместимость пока экспериментальная и требует версий разработки Optimum Intel и OpenVINO. Квантизация INT4 может немного снизить качество по сравнению с BF16. Ответы могут быть неточными, предвзятыми или нежелательными; видео не было основной целью оптимизации исходной модели. Модель распространяется по лицензии Apache 2.0.
Nanbeige4.2-3B-GGUF — неофициальная GGUF-конверсия модели Nanbeige/Nanbeige4.2-3B, опубликованная пользователем Tdamre и зафиксированная на определённой ревизии исходной модели. Она предназначена для генерации текста и локального запуска через llama.cpp, включая интерактивные сценарии и CPU-инференс. Информация о разработчике исходной модели, поддерживаемых языках и специализированных сценариях применения в карточке не указана. Модель содержит около 4,17 млрд физических параметров и использует нестандартную архитектуру nanbeige: 22 физических decoder-слоя выполняются в двух циклах, на границе цикла применяется общая финальная RMSNorm, а для KV-кэша требуется 44 логических слота. Доступны варианты Q4_K_M размером около 2,57 ГБ и Q8_0 размером около 4,43 ГБ. Исходная модель заявляет контекст до 262 144 токенов, однако локальная проверка проводилась на коротком контексте 512 токенов. Сильной стороной является возможность относительно компактного локального запуска в GGUF-формате с двумя уровнями квантования. Вариант Q4_K_M обеспечивает меньший размер и более высокую производительность, тогда как Q8_0 сохраняет более высокую точность представления весов. Ограничения связаны с нестандартной архитектурой: модель не работает со стандартной сборкой llama.cpp и требует применения специального патча к конкретной проверенной ревизии. Приведённые показатели производительности являются CPU-тестами загрузки и пропускной способности, а не оценкой качества генерации. Базовая модель распространяется по лицензии Apache-2.0; для полного перечня условий рекомендуется обратиться к карточке исходной модели.
Ninja-V3-nsfw-enhance — объединённая языковая модель, созданная автором swdq с помощью mergekit. В качестве основы использована Local-Novel-LLM-project/Ninja-V3, а в слияние TIES также вошли Elizezen/LewdSniffyOtter-7B и Local-Novel-LLM-project/Vecteus-v1. Модель имеет архитектуру Mistral с плотной структурой и 7,1 млрд параметров; заявленная длина контекста — 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев. В названии и метаданных отмечена ориентация на NSFW-контент; базовая Vecteus-v1 рассчитана на японский и английский языки, в том числе для длинного контекста. Лицензия в предоставленных данных не указана.
NumFaLM 3B — двуязычная языковая модель на архитектуре Llama, разработанная для открытых исследований небольших языковых моделей. Она обучена с нуля на тайском и английском языках и предназначена для генерации текста и экспериментов с обучением двуязычных моделей. Модель содержит 3,4 млрд параметров, использует плотную архитектуру Llama и принимает контекст до 2048 токенов. Авторы опубликовали скрипт обучения и использованный набор данных wannaphong/mark13, что позволяет исследовать процесс обучения и данные. Модель обучалась один проход по данным, поэтому её качество и полнота обучения могут быть ограничены. Лицензия — Apache-2.0.
OpenSpark-13B-Chat — преобразованная в формат Hugging Face версия языковой модели iFlytek Spark-13B, подготовленная сообществом из исходных весов в формате Megatron-DeepSpeed. Это плотный Transformer Decoder с архитектурой Spark и примерно 13,3 млрд параметров; модель предназначена для генерации текста и многоходового диалога, поддерживает контекст до 32 768 токенов и работает через библиотеку Transformers с пользовательским кодом модели и токенизатора. Модель подходит для изучения ранних китайских больших языковых моделей, учебных экспериментов и сравнительной оценки с более современными системами. В карточке заявлены китайский и английский языки. Это ранняя версия Spark, выпущенная в 2024 году, поэтому её результаты могут уступать современным моделям. Репозиторий содержит веса safetensors; лицензия — Apache-2.0.
KoRAE — дообученная Cartinoe5930 корейская языковая модель для диалоговой генерации текста. Модель построена на архитектуре Llama и основана на beomi/llama-2-koen-13b; в базовую модель добавлен корейский словарь. Размер составляет 12,9 млрд параметров, длина контекста — 2048 токенов. Модель обучали на отфильтрованном наборе корейских данных, объединяющем OpenOrca-KO, KOpen-Platypus, KoCoT_2000 и databricks-dolly-15k-ko. Для эффективного дообучения применялись LoRA и Flash-Attention 2. Модель предназначена для диалога и генерации ответов на корейском языке; карточка сообщает об экспериментах с качеством данных и обучением, но не приводит конкретных ограничений по применению или качества для отдельных сценариев. Лицензия — CC BY-NC-SA 4.0, предусматривающая некоммерческое использование и распространение производных материалов на тех же условиях.
Ornith-1.5-35B-A3B-abliterated-GGUF — это набор GGUF-квантизаций модели Ornith-1.5-35B-A3B, базовая модель которой разработана ornith-ai, а данный вариант опубликован пользователем NjProVk. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio, Ollama и совместимые интерфейсы. Модель построена на архитектуре Mixture-of-Experts (MoE). Вариант позиционируется как abliterated и uncensored: из него удалены или нейтрализованы защитные механизмы и отказы, при этом заявлено сохранение исходных возможностей, качества рассуждений и маршрутизации экспертов. Доступны квантизации Q4_K_M, Q5_K_M, Q6_K и Q8_0 с различными компромиссами между потреблением памяти, скоростью и качеством. В README приведён пример контекста длиной 32768 токенов, однако максимальный размер контекста, число активных параметров, поддерживаемые языки и модальности не указаны. Модель подходит для исследований, ролевых сценариев, творческого письма, тестирования и других контролируемых применений, где требуется минимизация отказов. Сильной стороной являются разнообразие квантизаций и возможность локального запуска; ограничением выступают неопределённые требования к аппаратному обеспечению и отсутствие подробных данных о языках, бенчмарках и фактическом качестве. Из-за отсутствия защитных ограничений модель может генерировать чувствительный, взрослый или спорный контент, поэтому пользователь несёт ответственность за применение и соблюдение законодательства. Репозиторий распространяется по лицензии Apache-2.0.
Oumuamua-7b-base — объединённая предварительно обученная языковая модель, созданная автором nitky с помощью mergekit и метода Model Stock. В неё вошли tokyotech-llm/Swallow-MS-7b-v0.1, mistralai/Mistral-7B-v0.1, nitky/Flavor-7b и stabilityai/japanese-stablelm-base-gamma-7b; за базовую модель при слиянии использовалась Swallow-MS-7b-v0.1. Модель семейства Mistral имеет плотную архитектуру MistralForCausalLM, 7,2 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста, в первую очередь на японском и английском языках. Пример в карточке показывает продолжение японского запроса о самой высокой горе Японии; модель можно применять для свободного продолжения текста и ответов на текстовые запросы. Для генерации автор проверял её в text-generation-webui с температурой 0,3 и пресетами min_p и Null. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка описывает базовую языковую модель, а не инструкционную или чат-версию; качество ответов и следование инструкциям зависят от сценария использования.
PIT-1B-201312 — базовая предварительно обученная языковая модель семейства Point-In-Time (PIT), разработанная Diamegs. Это декодерный Transformer в стиле GPT для генерации текста; модель обучена на хронологически упорядоченных снимках FineWeb и отражает сведения, доступные к декабрю 2013 года. Вариант не проходил RLHF или дополнительную настройку безопасности. Модель предназначена для генерации текста и анализа с учётом исторического среза знаний, например для изучения того, что могло быть известно на заданную дату. Контекст составляет 2048 токенов; веса доступны в формате safetensors и модель запускается через Transformers. Карточка указывает английский язык. Лицензия — Apache-2.0. Знания модели ограничены веб-текстами, доступными до декабря 2013 года. Она может воспроизводить предвзятости обучающих данных и не предназначена для критически важных задач без дополнительного выравнивания.
PIT-1B-201412 — базовая предварительно обученная языковая модель семейства Point-In-Time GPT от Diamegs. Это плотный декодерный Transformer с авторегрессионной архитектурой GPT; модель обучена на хронологически упорядоченных месячных снимках FineWeb и отражает сведения, доступные к декабрю 2014 года. Она предназначена для генерации текста и анализа, учитывающего временной срез знаний. Модель принимает текст и генерирует текст. Для запуска в README указаны Transformers, PyTorch и safetensors; веса хранятся в формате safetensors. Контекст составляет 2048 токенов. Карточка не приводит число параметров, поэтому размер «1B» в названии здесь не трактуется как подтверждённое метаданными число параметров. Модель не проходила RLHF или настройку безопасности; её знания ограничены данными до декабря 2014 года. Лицензия — Apache-2.0.
Platypus2-13B — авторегрессионная языковая модель с 12,9 млрд параметров на архитектуре LLaMA 2-13B, дообученная Cole Hunter и Ariel Lee для следования инструкциям. Она обучалась на наборе Open-Platypus с примерами по STEM-дисциплинам и логике и предназначена для генерации ответов на текстовые инструкции, в том числе для решения научных и логических задач. Модель использует контекст до 4096 токенов и рассчитана прежде всего на английский язык. Модель подходит для экспериментов, прототипирования и вспомогательной генерации ответов по STEM-темам. Она может выдавать неточные, предвзятые или нежелательные ответы; оценка и тестирование проводились на английском языке и не охватывают все сценарии. Лицензия — CC BY-NC-SA 4.0, допускающая использование на некоммерческих условиях с соблюдением её требований.
PrathameshLLM-2B — дообученная модель на основе Gemma-2B, опубликованная пользователем pmking27. Это плотная авторегрессионная языковая модель примерно с 2,5 млрд параметров, предназначенная для генерации текста; в карточке приведён пример ответа на маратхи о всеобщих выборах в Индии. Модель принимает текст и генерирует текст, поддерживает контекст до 8192 токенов. В метаданных отмечены английский, маратхи, хинди, гуджарати, пенджаби, телугу, тамильский, малаялам, каннада, синдхи, непальский, урду, ассамский, бенгальский и ория; карточка модели дополнительно подтверждает пример на маратхи. Дообучение выполнено с использованием Unsloth и TRL. Лицензия — Apache-2.0. Модель подходит для генерации ответов и продолжения текста на поддерживаемых языках, однако карточка не описывает подробные сценарии обучения и оценки качества. По одному примеру нельзя сделать вывод о точности, полноте языкового покрытия или надёжности ответов; перед применением в критичных сценариях требуется собственная проверка.
Qwen2.5-3B Toggleable-Reasoning (GRPO) — дообученная версия Qwen2.5-3B-Instruct, разработанная Aaryan Kapoor как независимый исследовательский проект и опубликованная 16 февраля 2025 года. Это текстовая авторегрессионная модель для генерации ответов на английском языке, основанная на архитектуре и возможностях базовой модели Qwen2.5-3B-Instruct. Модель поддерживает переключаемый режим рассуждений, который активируется системной инструкцией. В этом режиме она формирует промежуточное рассуждение в тегах <reasoning>, а итоговый ответ — в тегах <answer>. Без такой инструкции модель отвечает напрямую в стандартном стиле instruct-моделей. Переключение выполняется только через prompt, без дополнительных адаптеров, токенов или параметров генерации. Обучение проводилось методом Group Relative Policy Optimization (GRPO) с QLoRA/PEFT на одной потребительской GPU; использовались награды за корректность ответа и соблюдение формата. Доступны веса Safetensors/PyTorch и GGUF-квантизации F16, Q8_0 и Q5_K_M. Модель предназначена прежде всего для коротких математических, логических и структурированных задач, где явное рассуждение может повысить качество ответа, а также для обычных диалоговых сценариев с краткими ответами. Ограничения включают небольшой размер в 3B параметров: модель не является системой уровня передовых reasoning-моделей. Сгенерированные цепочки рассуждений не гарантированно отражают реальные причины ответа. Также она наследует ограничения, смещения, дату отсечения знаний и особенности безопасности базовой модели. Лицензия CC BY-NC 2.0 разрешает использование только в некоммерческих целях.
Карточка модели Alexs28/Qwen3.5-0.8B-heretic-250-v1-GGUF на Hugging Face совпадает с карточкой ENOSYS/Qwen3.5-0.8B-heretic-250-v1-GGUF, поэтому описание составлено по ней. ENOSYS/Qwen3.5-0.8B-heretic-250-v1-GGUF — экспериментальная GGUF-версия модели coder3101/Qwen3.5-0.8B-heretic, подготовленная с помощью нестандартной ветки LLaMA.cpp. README описывает глобальную квантовку с целевым числом бит на вес, калибровку imatrix и оценку через KLD; тензоры сохранены в F16 вместо BF16 для совместимости с архитектурами Nvidia Pascal, включая P100. Размер модели — 0,8 млрд параметров. Модель предназначена для диалоговых сценариев с текстом и изображениями. Карточка сообщает о мультимодальной поддержке и рекомендует использовать mmproj в варианте F16 или F32. В метаданных указаны английский и русский языки, а также возможности чата и vision. README приводит результаты сравнения квантовок при 5,00, 5,25 и 5,30 бит на вес, но не описывает конкретные сценарии применения или количественные ограничения качества. Это производная модель с квантованными весами, распространяемая по лицензии Apache-2.0; для запуска следует учитывать нестандартную ветку LLaMA.cpp, использованную при подготовке.
Mun2 подготовил модель для автоматической оценки корейских аргументативных эссе. Она дообучена методом GRPO на базе Qwen3.5-9B: LoRA-адаптер объединён с полными весами, поэтому модель загружается через Transformers или vLLM без отдельного адаптера и пользовательского кода. На вход ожидаются системный промпт конкурса и текст в формате [prompt_text]/[essay_text]; на выходе модель формирует JSON с оценками от 1 до 5 и обоснованиями на корейском языке по содержанию, организации и выразительности. Контекст — 4096 токенов. В проверке на 400 открытых примерах модель выдала корректный JSON в 390 случаях (97,5%); метрики качества оценок рассчитаны только для этих ответов. Это результат мониторинга разработки, а не оценка на закрытом тесте или официальный рейтинг конкурса. Возможны ошибки формата и оценок, поэтому модель подходит для вспомогательной автоматизированной проверки эссе, но не для самостоятельных решений с высокими последствиями. Лицензия — Apache-2.0.
Qwen3.6-27B-AEON-Ultimate-Uncensored-GGUF — набор GGUF-квантизаций модели AEON-7/Qwen3.6-27B-AEON-Ultimate-Uncensored, опубликованный пользователем Abiray. Модель предназначена для генерации текста, в частности для неограниченного ролевого взаимодействия, творческого письма с мрачными и взрослыми сюжетами, а также локального автономного запуска через llama.cpp, LM Studio, text-generation-webui или Ollama. Указан английский язык. Это текстовая модель на 27B параметров с архитектурными компонентами 1D SSM и механизмом выборочной динамики состояния. Поддерживает встроенный режим рассуждений через блок <think> и ChatML-шаблон, встроенный в метаданные GGUF. Доступны квантизации от 3 до 8 бит; рекомендуемой названа Q4_K_M, а версии с сохранёнными в FP16 выходным тензором и SSM-весами позиционируются как обеспечивающие лучшее сохранение рассуждений и качества. Контекст в README явно не указан; в примере используется 4096 токенов. Сильными сторонами заявлены сохранение логики и дальнего контекста при квантизации, работа полностью офлайн и совместимость с современными инструментами локального инференса. Ограничения включают зависимость характеристик от выбранной квантизации и аппаратного обеспечения, а также отсутствие заявленных защитных ограничений, что требует осторожности при использовании. Лицензия указана как other; конкретные условия не раскрыты.
Qwen3.8-Flash-Next DS4 Q2 — это квантованный GGUF-чекпойнт на основе Qwen/Qwen3.8-Flash-Next, подготовленный автором ivanfioravanti для запуска через специализированный runtime DS4. Модель предназначена для диалога и анализа изображений. Веса экспертных блоков используют IQ2_XXS и Q2_K, а ряд других компонентов сохраняет более высокую точность; также предусмотрен блок MTP для спекулятивного декодирования. Для работы нужны основной GGUF-файл и внешний PLE sidecar в формате Q4_1; вместе они занимают около 76,81 ГБ. README рекомендует начинать с контекста 8K и чанка prefill 1 024 токена на Mac с 64 ГБ памяти, но испытания на таком объёме памяти не подтверждены. Сборка требует DS4 с поддержкой нового формата тензоров из указанной ветки и версии commit 5bd8796 или новее; совместимость с другими раннерами не заявлена. В ограниченных тестах эта версия показала дополнительное ухудшение совпадения с BF16-эталоном и немного меньше правильных ответов по сравнению с предыдущей сборкой. Это компактный вариант для ограниченной памяти, однако компромисс квантования может влиять на качество ответов. Производная распространяется по Qwen Community License 1.0.
Модель geraldot/qwen-alpaca-indonesia — дообученная geraldot языковая модель семейства Qwen2 на базе unsloth/qwen2.5-1.5b-instruct-unsloth-bnb-4bit. Она предназначена для генерации текста и диалогового взаимодействия; карточка указывает обучение с использованием Unsloth и библиотеки TRL от Hugging Face. Модель содержит 1,5 млрд параметров, использует архитектуру Qwen2ForCausalLM и поддерживает контекст до 32 768 токенов. Название указывает на адаптацию для индонезийского языка, однако карточка не описывает обучающие данные, качество по языкам или конкретные сценарии Alpaca. Метаданные отмечают английский язык. Модель принимает текст и генерирует текст; заявлены чат-возможности и интерфейс вызова инструментов. Распространяется по лицензии Apache-2.0.
Qwen-UMLS-7B-Instruct — инструктивная языковая модель для медицинских и связанных со здравоохранением задач, созданная дообучением Qwen/Qwen2.5-7B-Instruct на наборе данных UMLS. Это плотная архитектура Qwen2 с 7,1 млрд параметров; модель работает через Transformers, принимает текстовые запросы и генерирует текстовые ответы. Контекст составляет до 32 768 токенов. Карточка заявляет поддержку анализа клинических записей и медицинских публикаций, ответов на вопросы и объяснения терминов для обучения пациентов и специалистов. Модель предназначена для включения в медицинские информационные и исследовательские приложения, например для подготовки черновых объяснений или анализа текста. Ответы могут содержать ошибки и не должны служить самостоятельным основанием для диагностики или выбора лечения. Модель ориентирована на английский язык. Лицензия — CreativeML Open RAIL-M.
RegMap — это дообученная модель эмбеддингов предложений от автора репозитория stetteh/regmap-embedder, предназначенная для сопоставления мер безопасности NIST SP 800-53 с наиболее близкими положениями HIPAA Security Rule. Она кодирует описание меры в вектор и ранжирует положения HIPAA по косинусному сходству, возвращая наиболее подходящие варианты для проверки специалистом. Модель основана на sentence-transformers/all-MiniLM-L6-v2: это 6-слойный энкодер семейства BERT с 25,9 млн параметров, который формирует эмбеддинги размерности 384. Дообучение выполнено с MultipleNegativesRankingLoss на подготовленных парах NIST и HIPAA. Модель принимает текст и выдаёт векторы для семантического поиска и сравнения; максимальный контекст — 512 токенов. Предназначена для помощи командам по соответствию требованиям при подготовке перекрёстных таблиц NIST–HIPAA. По оценке на небольшом специализированном наборе правильное положение попадает в первые пять результатов в 73,5% случаев, а точность первого результата составляет 26,5%. Это вспомогательный ранжировщик: семантическая близость не подтверждает юридическую эквивалентность, поэтому результаты должен проверять квалифицированный специалист. Модель охватывает только положения HIPAA Security Rule из включённого корпуса; другие нормативные рамки не поддерживаются. Лицензия — Apache-2.0.
lassl/roberta-ko-small — компактная предварительно обученная языковая модель RoBERTa для корейского языка, обученная с использованием фреймворка LASSL. Она предназначена для предсказания пропущенных токенов и может служить основой для задач понимания корейского текста, включая классификацию тональности, определение текстового сходства и ответы на вопросы после дополнительной настройки. Модель содержит 25,7 млн параметров, принимает текстовые последовательности с контекстом до 512 токенов и распространяется в формате PyTorch. В README приведены результаты оценки на корейских наборах NSMC, KLUE NLI, KLUE STS, KorQuAD v1 и KLUE MRC; среднее значение указано как 72,7330. Модель выпущена под лицензией Apache-2.0. Оценки отражают тестирование на декабрь 2021 года; для прикладного использования качество на конкретных данных следует проверять отдельно.
sentence-transformers/roberta-large-nli-stsb-mean-tokens — модель Sentence-Transformers на базе RoBERTa Large, обученная командой Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 для сравнения смысловой близости, семантического поиска и кластеризации. Модель принимает текст и выдаёт эмбеддинги; её также можно применять для извлечения признаков. Контекст составляет до 514 токенов, размер — 454,1 млн параметров. Модель распространяется по лицензии Apache-2.0 и доступна в форматах PyTorch, TensorFlow, Flax, ONNX и OpenVINO. Авторы README предупреждают, что качество эмбеддингов низкое, и не рекомендуют использовать эту модель; для новых проектов стоит выбрать более современные модели Sentence-Transformers.
RoLlama2-7b-Chat — чат-модель OpenLLM-Ro для генерации текста на румынском языке. Она создана дообучением RoLlama2-7b-Base и использует плотную архитектуру Llama с примерно 6,6 млрд параметров. Модель предназначена для общения с пользователем в формате ассистента и для исследовательского применения в задачах на румынском языке. Модель принимает текст и генерирует текст; длина контекста составляет 4096 токенов. В карточке приведены результаты отдельных англоязычных бенчмарков, но сравнительные оценки для румынского общения и культуры для этой версии отмечены как ожидающие публикации. Лицензия CC-BY-NC-4.0 разрешает использование на её условиях, включая ограничения на коммерческое применение.
Sarashina2-70B — большая языковая модель, разработанная SB Intuitions на архитектуре Llama 2. Модель содержит 69,3 млрд параметров, обучена на 2,1 трлн токенов и использует контекст длиной до 8192 токенов. Репозиторий содержит веса в формате safetensors; лицензия — MIT. Модель предназначена для генерации текста, в первую очередь на японском и английском языках. Японские данные для обучения собраны из Common Crawl и очищены с помощью CCNet и HojiChar; английские документы взяты из SlimPajama. Токенизатор SentencePiece использует unigram-модель и byte fallback. Sarashina2-70B не настроена на следование инструкциям. Она может выдавать бессмысленный или неточный текст, а также предвзятые или нежелательные ответы; для прикладного использования разработчикам рекомендуется дополнительная настройка с учетом человеческих предпочтений и требований безопасности.