I.2Синтез, понимание и проверка знаний
В разделе собраны самостоятельные задачи, где AI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
42 341 модельPleias-RAG-350M — компактная языковая модель Pleias на архитектуре Llama с 353,4 млн параметров, дообученная на задачи генерации ответов с опорой на найденные источники. Она принимает запрос и набор источников в структурированном формате, анализирует запрос и полноту источников, а затем формирует ответ с обоснованием и ссылками на цитаты. Модель предназначена для RAG-систем, поиска и суммаризации источников, включая многошаговые вопросы и отбор отвлекающих документов. Модель поддерживает английский, французский, итальянский, немецкий и испанский языки; в README также заявлена более ограниченная поддержка польского, латинского и португальского. Контекст составляет 4096 токенов. Небольшой размер позволяет запускать её на ограниченной инфраструктуре, в том числе на телефонах и CPU; авторы сообщают о результатах на бенчмарках HotPotQA, 2Wiki и MuSiQue и рекомендуют включать её в многомодельные RAG-системы. Модель распространяется в формате safetensors по лицензии Apache-2.0. Результаты оценки в README относятся к «тривиальному» режиму бенчмарков, поэтому их нельзя считать подтверждением качества во всех режимах рассуждения и сценариях. Модель рассчитана на работу с предоставленными источниками; при недостаточном покрытии источников ответ может быть ограничен или отклонён.
ChaoticNeutrals/Prima-LelantaclesV5-7b — слитая методом DARE TIES текстовая модель на архитектуре Mistral, опубликованная ChaoticNeutrals. В объединение вошли Test157t/Pasta-Lake-7b и Test157t/Prima-LelantaclesV4-7b-16k; README указывает, что обе модели использованы с весом 1. Модель содержит 7,1 млрд параметров, распространяется в формате safetensors и рассчитана на генерацию текста с контекстом до 32 768 токенов по метаданным.
PRIMERA — модель Allen Institute for AI для суммаризации нескольких документов, основанная на пирамидальном маскированном предобучении предложений. Это версия для Hugging Face на архитектуре LED (Longformer Encoder-Decoder) с примерно 252,8 млн параметров и контекстом до 4096 токенов. Модель принимает текст и генерирует текстовое резюме; в карточке указана поддержка английского языка. Модель предназначена для объединения информации из нескольких источников в одно краткое изложение. В проверке на наборе MultiNews авторы сообщают для версии PRIMERA-hf значения ROUGE-1 41,7, ROUGE-2 13,6 и ROUGE-L 20,5; результаты немного отличаются от оригинала из-за различий реализаций Longformer и LED. Доступны веса PyTorch и TensorFlow. Лицензия — Apache-2.0.
SAIFIINDUSTRIES/Qwen2.5-14B-Instruct-1M — чат-модель для генерации текста на основе Qwen2.5-14B, опубликованная под лицензией Apache-2.0. Это плотная причинная языковая модель семейства Qwen2 с 14 млрд параметров; архитектура использует RoPE, SwiGLU, RMSNorm и групповое внимание с 40 головами Q и 8 головами KV. Модель предназначена для диалога, ответов на вопросы, использования инструментов и работы с очень длинными текстами. Контекст достигает 1 010 000 токенов, а максимальная длина генерации составляет 8192 токена. Для эффективного инференса на контексте такого размера README рекомендует специальную версию vLLM и указывает потребность не менее чем в 320 ГБ видеопамяти суммарно. Поддерживаются также короткие запросы; для контекстов свыше 262 144 токенов на обычном фреймворке возможна потеря точности. Метаданные указывают английский язык; других языков источники не подтверждают.
mlx-community/Qwen2.5-14B-Instruct-1M-bf16 — преобразованная в формат MLX версия модели Qwen/Qwen2.5-14B-Instruct-1M, подготовленная сообществом mlx-community с помощью mlx-lm 0.21.1. Это плотная авторегрессионная языковая модель семейства Qwen2 с 14 млрд параметров, предназначенная для диалогов и генерации текста; метаданные также указывают интерфейс вызова инструментов. Контекст модели достигает 1 010 000 токенов, что позволяет работать с очень длинными текстами. Модель поддерживает английский язык; данные карточки не подтверждают поддержку других языков. Репозиторий содержит веса в формате safetensors и предназначен для использования с MLX. Лицензия Apache-2.0 допускает коммерческое использование при соблюдении её условий. Это преобразование базовой модели в другой формат, а не отдельное дообучение; фактическая производительность зависит от оборудования и используемой конфигурации MLX.
Это версия Qwen3-30B-A3B-Thinking-2507, опубликованная Unsloth на базе Qwen/Qwen3-30B-A3B-Thinking-2507. Модель представляет собой причинную языковую модель с архитектурой MoE и предназначена для генерации текста в диалоговом режиме. Она работает только в режиме рассуждения и рассчитана на сложные задачи: логические выводы, математику, науку, программирование, следование инструкциям и использование инструментов. В модели около 30,5 млрд параметров, из которых активируются 3,3 млрд; указанный в метаданных размер составляет 2,6 млрд параметров. Она поддерживает контекст до 262 144 токенов. Карточка сообщает об улучшениях в рассуждении, работе с длинным контекстом и общих диалоговых возможностях. Лицензия — Apache-2.0.
nvidia/Qwen3.5-122B-A10B-NVFP4 — квантизированная версия авторегрессионной мультимодальной модели Qwen3.5-122B-A10B, разработанной Alibaba. Квантизация выполнена NVIDIA с использованием Model Optimizer версии 0.44.0; сама модель не принадлежит и не разработана NVIDIA, а подготовлена по требованиям к данному сценарию применения. Модель предназначена для генерации текста, чат-ботов, AI Agent-систем, RAG и других приложений на базе искусственного интеллекта. Она принимает текст, изображения и видео, а выдаёт текст. Поддерживается контекст до 262K токенов, однако сведения о языках модели в карточке не указаны. Архитектура основана на оптимизированном Transformer и Mixture of Experts: всего 122 млрд параметров, из которых 10 млрд активируются при обработке запроса. Веса и активации линейных операторов в Transformer-блоках MoE переведены в формат NVFP4, что примерно в четыре раза уменьшает требования к дисковому пространству и GPU-памяти по сравнению с исходным представлением. Модель рассчитана на инференс через vLLM на NVIDIA GPU архитектуры Blackwell под Linux. К преимуществам относятся большой контекст, мультимодальный ввод, MoE-архитектура и сниженные требования к памяти благодаря квантизации. Ограничения включают зависимость от совместимого NVIDIA-оборудования и vLLM, возможные особенности качества и точности, связанные с 4-битной квантизацией, а также отсутствие раскрытых сведений о полном обучающем наборе данных. Перед промышленным использованием необходимы тестирование на данных конкретного сценария и проверка безопасности. Модель распространяется по лицензии Apache 2.0 и допускает коммерческое и некоммерческое использование.
RedHatAI/Qwen3.5-9B-quantized.w8a8 — квантизированная версия мультимодальной модели Qwen/Qwen3.5-9B, разработанная RedHatAI. Модель принимает текст и изображения и генерирует текст, поэтому предназначена для диалоговых систем, анализа изображений, ответов на вопросы, следования инструкциям и задач рассуждения. Модель содержит около 9 млрд параметров и использует INT8-квантизацию весов и активаций линейных операторов в трансформерных блоках. Размер модели на диске составляет около 14,0 ГБ вместо 19,3 ГБ в формате BF16. Энкодер изображений, токеновые эмбеддинги и слои linear attention оставлены в BF16. Заявлена поддержка контекста до 262 144 токенов при развертывании через vLLM; доступен также текстовый режим с пониженным потреблением памяти. Ключевое преимущество модели — существенное сокращение размера и требований к памяти при сохранении качества, близкого к исходной Qwen/Qwen3.5-9B: на приведённых тестах показатели квантизированной версии находятся практически на уровне базовой модели. Ограничения включают зависимость от совместимого стека vLLM и частичную, а не полную квантизацию компонентов. Модель распространяется по лицензии Apache 2.0.
Riyan200324200324/Qwen3.8-27B — это GGUF-версия модели Qwen3.8-27B, основанная на Qwen/Qwen3.8-27B и модифицированная HauhauCS в профиле Aggressive. Модель предназначена для генерации текста, рассуждений, агентских сценариев, обработки изображений и видео. Aggressive-профиль ориентирован на прямые ответы без выраженного отказного поведения и с минимальным вступлением на сложных запросах; при этом README предупреждает, что для критически важных задач с длинным контекстом более сбалансированный профиль может быть надёжнее. Это плотная причинная языковая модель на 27 млрд параметров с отдельным vision-проектором BF16 для мультимодального ввода. Архитектура включает 64 слоя языковой модели, скрытый размер 5120, размер FFN 17408, словарь 248 320 токенов, 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Поддерживаются встроенный MTP/NextN и дополнительный профиль ускорения HauhauCS FastMTP 32K. Нативный контекст составляет 262 144 токена и может быть расширен до 1 000 000 токенов. Заявлены английский, китайский и мультиязычный режимы. Сильные стороны модели — широкий набор текстовых и мультимодальных возможностей, большой контекст, варианты GGUF-квантизации от Q2 до Q8 и ускорение FastMTP. Ограничения включают зависимость мультимодального режима от отдельного vision-проектора, возможное снижение качества при агрессивной квантизации и менее осторожное поведение из-за uncensored-профиля. Модель распространяется по лицензии Apache-2.0.
Qwen3.8-Flash-Next-FP8 — экспериментальная модель семейства Qwen, разработанная командой Qwen. Это каузальная языковая модель с vision encoder, представленная в формате Hugging Face Transformers и предназначенная для генерации и обработки текста, мультимодальных сценариев с изображениями, длинноконтекстного анализа и агентных приложений. Версия FP8 содержит квантизированные веса постобученной модели и совместима с Transformers, vLLM, SGLang и TokenSpeed. Модель имеет 125 млрд параметров, из которых около 6 млрд активируются при обработке запроса, а также 51 млрд параметров n-gram embedding и 4 млрд параметров MTP. Архитектура включает 48 слоёв, Mixture of Experts с 512 экспертами, гибридное внимание на основе Gated DeltaNet и Qwen Sparse Attention, Gated Residual и n-gram embedding. Нативная длина контекста составляет 262 144 токена и может быть расширена до 1 000 000 токенов. README не указывает точный перечень поддерживаемых языков. К сильным сторонам относятся высокая эффективность при работе с длинным контекстом, сниженная вычислительная и память-затраты благодаря разреженному вниманию, MoE и FP8-квантизации, а также сохранение показателей производительности, близких к исходной модели. Ограничения связаны с экспериментальным статусом архитектуры, отсутствием в README подробных результатов бенчмарков и неуказанными требованиями к аппаратному обеспечению и профилю мультимодальных возможностей. Модель распространяется по лицензии qwen-community-1.0; дополнительные условия следует проверять в файле LICENSE.
Qwythos-9B-Claude-Mythos-5-1M-GGUF — это набор GGUF-квантизаций модели Qwythos-9B, разработанной Empero. Модель создана на базе Qwen3.5-9B и дообучена на более чем 500 млн токенов высококачественных трасс Claude Mythos и Claude Fable с использованием внутреннего инструмента Empero AI rethink. Доступны варианты от Q4_K_M до BF16, включая версии с MTP для ускорения генерации в совместимых сборках llama.cpp. Модель предназначена для локального запуска в llama.cpp, Ollama, LM Studio, jan, KoboldCpp и других GGUF-совместимых средах. Она ориентирована на рассуждения, генерацию текста, решение математических задач, function calling и агентские сценарии, а также на задачи в области кибербезопасности и биомедицины. Заявлена поддержка английского языка, нативного function calling по спецификации Qwen3.5 и контекстного окна до 1 048 576 токенов с масштабированием RoPE YaRN. Модель мультимодальна и поддерживает изображения при подключении отдельного vision projector в формате GGUF. Визуальная часть унаследована от Qwen3.5-9B и во время дообучения не изменялась, поэтому заявлены описание изображений, OCR печатного и рукописного текста, анализ графиков и таблиц, понимание интерфейсов и документов и базовое пространственное рассуждение. Сильными сторонами являются большой контекст, reasoning-возможности, function calling и широкий выбор уровней квантизации; при этом качество, скорость и требования к памяти зависят от выбранного варианта, а для изображений требуется дополнительный файл mmproj. Модель распространяется по лицензии Apache-2.0.
Qwythos-9B-Claude-Mythos-5-1M-MXFP4-GGUF — это квантованная в формате GGUF MXFP4 версия модели empero-ai/Qwythos-9B-Claude-Mythos-5-1M, дообученной Empero AI на базе Qwen3.5-9B. Это мультимодальная модель с архитектурой Qwen3.5 и зрительным энкодером SigLIP ViT; основной файл использует 4-битный формат MXFP4, а для обработки изображений нужен отдельный файл mmproj в F16. Репозиторий распространяется под лицензией Apache-2.0. Модель предназначена для диалогов с рассуждениями, работы с изображениями, вызова инструментов и задач с длинным контекстом, включая анализ кода и документов. README заявляет контекст до 1 048 576 токенов, а также сильные стороны в математике, кибербезопасности и биомедицинских темах. Поддерживаются английский язык и интерфейс вызова инструментов в стиле OpenAI/Qwen3.5. Зрительная часть унаследована от базовой модели и не дообучалась; README также предупреждает, что модель может уверенно выдавать ошибочные идентификаторы CVE и дозировки лекарств. Для критически важных ответов нужны внешняя проверка и инструменты, а для пользовательских развёртываний README рекомендует добавить собственный слой безопасности. Ответы начинаются с блока рассуждений, поэтому требуется достаточный лимит генерации.
RecurrentGemma-9B-IT — инструктивно дообученная языковая модель из семейства RecurrentGemma, разработанного Google. Это плотная авторегрессионная модель с рекуррентной архитектурой; в метаданных указано 13,9 млрд параметров. Модель предназначена для генерации текста в диалоге, ответов на вопросы, суммаризации и рассуждений. По карточке, архитектура RecurrentGemma требует меньше памяти, чем Gemma, и ускоряет генерацию длинных последовательностей. Модель принимает текст и генерирует текст. Семейство представлено англоязычными предварительно обученными и инструктивными версиями; для этой модели карточка описывает разговорное применение. Модель доступна в формате Safetensors и запускается через Transformers. Лицензия — Gemma; применяются условия использования Gemma. Как и другие большие языковые модели, она может выдавать фактические ошибки, отражать смещения обучающих данных и испытывать трудности с неоднозначностью, нюансами языка и сложными открытыми задачами. Для приложений с пользовательскими ответами необходимы проверка результатов и меры безопасности.
SG-Raccoon-Yi-55B-200k — авторегрессионная языковая модель на архитектуре Llama, собранная путём слияния двух дообученных моделей Yi 34B: Tess-M-v1.3 и Nous-Capybara-34B. Модель содержит 55,1 млрд параметров и поддерживает контекст до 200 000 токенов; файлы опубликованы в формате safetensors. Разработчик указывает, что это первая объединённая модель такого размера с контекстом 200K. Модель предназначена для генерации текста и диалогового общения. Для подачи запросов README предлагает формат с ролями SYSTEM, USER и ASSISTANT. Автор отмечает, что для Yi может потребоваться отключить BOS-токен или снизить температуру с MinP, а иногда добавить токен остановки в список условий завершения генерации. Лицензия в метаданных обозначена как other, поэтому конкретные условия использования по имеющимся данным определить нельзя. В README результаты бенчмарков не приведены.
SmolLM2-1.7B-Instruct-16k — компактная языковая модель HuggingFaceTB на 1,7 млрд параметров с архитектурой Llama и плотной трансформерной структурой. Это версия SmolLM2-1.7B-Instruct с контекстом до 16 384 токенов, опубликованная в формате safetensors и рассчитанная на работу через Transformers. Модель дообучили на 15 тысячах примеров из подмножеств SmolTalk, LongAlign и SeaLong, увеличив параметр RoPE с 100k до 500k. Модель предназначена для генерации текста и диалогов, следования инструкциям, переписывания и суммаризации текстов, а также вызова функций. Увеличенное окно контекста улучшает результаты на задачах с длинными входами, включая RAG, обучение на контекстных примерах, ранжирование и ответы на длинные вопросы; при этом в README отмечено небольшое снижение качества на коротком контексте. Модель ориентирована прежде всего на английский язык и может работать на устройствах с ограниченными ресурсами благодаря компактному размеру. По оценке авторов, возможны фактические ошибки, непоследовательные рассуждения и смещения из обучающих данных, поэтому важные ответы следует проверять. Лицензия — Apache-2.0.
macadeliccc/SOLAR-10.7b-Instruct-dpo — диалоговая языковая модель, созданная дообучением upstage/SOLAR-10.7B-Instruct-v1.0 на наборе Intel/orca_dpo_pairs. Это плотная авторегрессионная модель семейства LLaMA с 10,6 млрд параметров, предназначенная для генерации ответов в формате чата. Она использует шаблон ChatML и рассчитана на контекст до 4096 токенов. Модель подходит для диалоговых помощников, ответов на вопросы, следования инструкциям и задач рассуждения на естественном языке. В README приведены результаты нескольких бенчмарков и сравнение с базовой моделью, однако они не гарантируют качество на конкретных данных или сценариях. Доступна лицензия CC BY-NC 4.0, которая ограничивает коммерческое использование.
T3Q-qwen2.5-14b-v1.0-e3 — дообученная модель на основе Qwen/Qwen2.5-14B-Instruct-1M, опубликованная разработчиком JungZoona. Это плотная языковая модель с архитектурой Qwen2ForCausalLM и 14 млрд параметров, предназначенная для диалогов и генерации текста. Модель рассчитана на контекст длиной до 1,01 млн токенов и работает через библиотеку Transformers. В README указано, что модель прошла постобучение с LoRA на train_data_v1.0. Метаданные заявляют поддержку чата и интерфейса вызова инструментов; модель может применяться для длинных диалогов и анализа больших текстовых контекстов. В карточке сообщается о первом месте среди моделей до 32 млрд параметров в Global Open LLM Leaderboard, однако подробности оценки не приведены. Поддерживаемые языки по метаданным — английский и корейский. Модель распространяется по лицензии Apache-2.0. README сообщает о выпуске более новой версии T3Q-qwen2.5-14b-v1.2-e2 от 14 марта 2025 года, поэтому v1.0-e3 может быть устаревшей относительно неё.
google/t5gemma-2b-2b-ul2 — предварительно обученная модель семейства T5Gemma от Google с кодировщиком и декодировщиком по 2 млрд параметров. Архитектура encoder-decoder получена адаптацией decoder-only модели; вариант UL2 обучен с использованием подхода UL2. Репозиторий содержит веса Safetensors для Transformers. Модель предназначена для генерации текста по текстовому запросу и подходит для суммаризации, ответов на вопросы, рассуждений и других задач преобразования текста. В карточке указана поддержка английского языка. Компактный размер может быть удобен для локального развёртывания на компьютерах и в облачной инфраструктуре. Качество зависит от обучающих данных и формулировки запроса; модель может упускать нюансы и выдавать неточные или устаревшие факты. Лицензия Gemma; при применении необходимо учитывать правила использования Gemma.
Это instruction-tuned вариант T5Gemma от Google с энкодером и декодером размера B, адаптированный с использованием UL2. Семейство T5Gemma состоит из компактных моделей типа энкодер-декодер, созданных на основе предварительно обученных моделей decoder-only; такая архитектура рассчитана на эффективную генерацию и понимание текста. Модель работает в формате text-to-text и предназначена прежде всего для английского языка. Модель подходит для генерации текста по инструкциям, ответов на вопросы, суммаризации и рассуждений; энкодер также может применяться для классификации и задач понимания текста. Её можно использовать для подготовки черновиков писем и маркетинговых текстов, а также для экспериментов и NLP-разработки. В метаданных указаны библиотека Transformers и формат весов safetensors; длина контекста и число параметров для этой конкретной версии не приведены. Качество зависит от обучающих данных и формулировки задания. Модель может ошибаться в фактах, упускать языковые нюансы и хуже справляться со сложными или неоднозначными запросами; возможны предвзятые или вредоносные генерации. Лицензия Gemma; применение должно соответствовать политике допустимого использования Gemma.
Google T5Gemma ML-ML UL2 — текстовая encoder-decoder модель семейства T5Gemma, адаптированная с использованием UL2. В карточке T5Gemma описана как семейство компактных моделей Google, созданных преобразованием предварительно обученных decoder-only моделей в encoder-decoder архитектуру; варианты могут сочетать энкодеры и декодеры разного размера. Размер именно этой модели и длина её контекста в предоставленных данных не указаны. Модель предназначена для генерации и преобразования текста, включая ответы на вопросы, суммаризацию и рассуждения. Карточка указывает английский язык и широкие сценарии создания контента; метаданные задают основную задачу как text-generation. Весовые файлы доступны в формате safetensors и используются через Transformers. К ограничениям относятся возможные фактические ошибки, смещения обучающих данных и трудности с неоднозначными формулировками и сложными открытыми задачами. Модель распространяется по лицензии Gemma; для её использования следует учитывать политику допустимого использования Gemma.
T5Gemma XL-XL PrefixLM IT — текстовая модель семейства T5Gemma, разработанная Google и настроенная для выполнения инструкций. Это вариант с энкодером XL и декодером XL, адаптированный с использованием PrefixLM; архитектура T5Gemma преобразует предварительно обученные модели типа decoder-only в encoder-decoder. Модель работает в формате text-to-text и предназначена для генерации текста, ответов на вопросы, суммаризации и рассуждений; также может использоваться для подготовки черновиков и исследований в NLP. В карточке семейство описано как англоязычное. Веса представлены в формате safetensors и доступны через библиотеку Transformers. Для производной указана базовая модель google/t5gemma-xl-xl-prefixlm. Лицензия Gemma; применяйте модель с учетом условий Gemma и соответствующей политики допустимого использования. Качество ответов зависит от данных и формулировки инструкции: возможны фактические ошибки, предвзятость, трудности с неоднозначностью и сложными задачами, а также генерация вредного или вводящего в заблуждение текста. Длина контекста и число параметров в предоставленных сведениях не указаны.
Tengentoppa-gemma-2-9b-base — дообученная текстовая модель семейства Gemma 2, основанная на Google Gemma 2 9B. Это декодерная архитектура dense с 9 млрд параметров, рассчитанная на генерацию текста; для общения модель использует добавленные специальные токены системных сообщений, пользовательских запросов, подсказок, рассуждений и ответов ассистента. Она подходит для ответов на вопросы, суммаризации и рассуждений, а также может развёртываться на локальном компьютере или собственной облачной инфраструктуре. Контекст модели составляет 8192 токена. README характеризует Gemma как англоязычную модель, а метаданные карточки отмечают японский язык. Весы доступны в формате safetensors; лицензия — Gemma.
Tess-2.0-Yi-34B-200K — универсальная большая языковая модель серии Tess, разработанной migtissera. Это плотная авторегрессионная модель семейства Llama с 33,9 млрд параметров, обученная на базовой модели 01-ai/Yi-34B-200K. Она предназначена для генерации текста и диалогов; в карточке приведён формат запросов с ролями SYSTEM, USER и ASSISTANT. Контекст модели составляет до 200 000 токенов. Модель работает с текстом и заявлена как uncensored, поэтому может создавать предвзятый, оскорбительный или неподходящий контент. Ответы могут быть неточными или вводящими в заблуждение, их следует проверять. В репозитории указаны веса safetensors. Лицензия обозначена как other, поэтому условия использования следует сверять с лицензией репозитория.
TriomphantV2-ECE-78B-SLERP-V1 — разговорная языковая модель, созданная студентами инженерной школы ECE под руководством преподавателя ECE и технического директора TW3 Partners. Это слияние методом SLERP двух моделей: MaziyarPanahi/calme-3.2-instruct-78b и dfurman/CalmeRys-78B-Orpo-v0.1; в конфигурации указана базовая модель MaziyarPanahi/calme-3.2-instruct-78b. Модель основана на плотной архитектуре Qwen2ForCausalLM и содержит 71,5 млрд параметров. Модель предназначена для диалогов и генерации текста. Она опубликована в формате safetensors с лицензией Apache-2.0; максимальная длина контекста — 32 768 токенов. В карточке не описаны специализированные предметные области или поддерживаемые языки, поэтому область применения следует считать общей.
TSFT-RAG Gemma-3-12B-IT — модель на базе Gemma-3-12B-IT, которую Sascha Frank разработал в рамках исследовательского проекта TSFT-RAG. Это полно-параметрическое дообучение с архитектурой Gemma3ForConditionalGeneration и 12 млрд параметров; модель предназначена для генерации ответов в системах поиска с дополненной генерацией (RAG), а не для универсального диалога. Она принимает текстовые запросы и контекст документов и формирует текстовые ответы, включая структурированный JSON. Модель обучалась отвечать по найденным источникам, выявлять вопросы без достаточных подтверждений, извлекать темы, ключевые сообщения и аргументы, а также генерировать цитаты. В оценке проекта улучшились общая агрегированная оценка и распознавание неподтверждённых вопросов относительно базовой модели, однако результат на grounded QA немного снизился. Основные ограничения: общее открытое общение не было целью оптимизации, оценка проводилась преимущественно на немецкоязычных наборах данных, мультимодальные возможности не оценивались. Для юридических, медицинских и других критически важных решений нужны проверка человеком и атрибуция источников. Лицензия — Gemma.
Sakalti/ultiima-72B — слитая языковая модель автора Sakalti на архитектуре Qwen2, созданная методом TIES с помощью mergekit на основе Qwen/Qwen2.5-72B и Qwen/Qwen2.5-72B-Instruct. Это плотная авторегрессионная модель на 71,5 млрд параметров в формате safetensors с контекстом до 131 072 токенов; она предназначена для генерации текста и диалогов. Метаданные отмечают интерфейс вызова инструментов, а карточка приводит результаты оценки на Open LLM Leaderboard, включая IFEval и BBH. Модель поддерживает множество языков, среди которых английский, китайский, русский, французский, испанский, немецкий, японский, арабский и хинди. Её можно применять для диалоговых ассистентов, генерации текстов и ответов на инструкции. Карточка указывает лицензию «other», поэтому условия использования следует сверить с лицензией и правилами репозитория; конкретные ограничения применения в карточке не описаны.
Vikhr-YandexGPT-5-Lite-8B-it — инструктивная языковая модель команды Vikhr, созданная дообучением YandexGPT-5-Lite-8B-pretrain методом SFT. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и принимает текст, выдавая текст. Она рассчитана прежде всего на русский язык и также поддерживает английский; длина контекста составляет 32 768 токенов. Модель предназначена для диалогов и выполнения инструкций, включая ответы на вопросы и генерацию ответов с опорой на предоставленные документы в RAG-сценариях. Для обучения использованы датасеты GrandMaster-PRO-MAX и Grounded-RAG-RU-v2. В режиме RAG требуется системный промпт GROUNDED_SYSTEM_PROMPT; модель может дополнять сведения из документов собственными знаниями. В карточке также отмечен низкий уровень безопасности ответов и возможность дефектов генерации при высокой температуре. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Указана лицензия other; конкретные условия лицензии следует сверять с карточкой модели.
Yi-34B-200K-DARE-merge-v7 — текстовая генеративная модель на архитектуре Llama, созданная автором brucethemoose с помощью mergekit. Это слияние нескольких моделей Yi 34B с контекстом до 200 000 токенов, выполненное методом DARE TIES. Модель предназначена для генерации текста и работы с длинными контекстами; автор стремился улучшить качество на контекстах от 32K токенов. В карточке приведён шаблон Orca-Vicuna; модель также может распознавать ChatML и форматы, похожие на Alpaca. В README отмечено, что качество настройки с акцентом на шаблон Orca-Vicuna ещё требует проверки. Для генерации автор советует использовать низкую температуру и MinP. Модель содержит 33,9 млрд параметров, распространяется в формате safetensors. Лицензия указана как other, поэтому условия использования следует сверить с файлами репозитория и лицензиями исходных моделей слияния.
Yi-34B-Chat — чат-модель для генерации текста, разработанная 01.AI. Она входит в серию Yi, обученную с нуля на многоязычном корпусе объёмом 3 трлн токенов и рассчитанную прежде всего на работу с английским и китайским языками. Модель использует плотную архитектуру Transformer семейства Llama, класс LlamaForCausalLM, и содержит 33,9 млрд параметров; при этом она не является производной от Llama и не использует её веса. Модель предназначена для диалогов, ответов на вопросы, понимания текста, чтения и рассуждений на здравом смысле. В карточке приведены результаты сравнений, актуальные на конец 2023 — начало 2024 года; они не гарантируют качество на других задачах и данных. Контекст составляет 4096 токенов. Для локального запуска руководство приводит пример с ускорителем A800 на 80 ГБ; фактические требования зависят от способа развёртывания и точности весов. Репозиторий предоставляет веса в формате safetensors, а лицензия — Apache-2.0.
Ziya-Reader-13B-v1.0 是 IDEA-CCNL 团队开发的中文知识问答模型,基于 13B 参数的 Llama 2,并在通用数据和检索问答数据上微调。它采用 Llama 自回归 Transformer 架构,使用位置插值扩展上下窗口;README указывает 8k токенов, тогда как метаданные Hugging Face указывают нативный контекст 4096 токенов. Модель отвечает на вопросы по одному или нескольким предоставленным документам, поддерживает поиск релевантных документов и суммаризацию длинных текстов, а также общее общение в формате вопрос–ответ. В карточке описана устойчивость к изменению порядка документов и приведены оценки на китайских наборах LongBench. Предназначена прежде всего для китайских сценариев баз знаний, retrieval QA и клиентской поддержки, в том числе в праве, финансах и медицине. Модель принимает текст и генерирует текст. Репозиторий содержит веса PyTorch; указанная лицензия — GPL-3.0. Результаты зависят от качества и полноты переданных документов; заявленные оценки основаны на тестах разработчиков и не гарантируют качество в конкретной предметной области.