I.2Синтез, понимание и проверка знаний
В разделе собраны самостоятельные задачи, где AI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
42 341 модельQwen3.8-27B-Uncensored MLX BF16 — конверсия сообщества для компьютеров Apple с Apple silicon, основанная на модели orcarouter/Qwen3.8-27B-Uncensored. Это плотная мультимодальная модель семейства Qwen3.5/Qwen3.8 с 27 млрд параметров: она принимает текст и изображения, поддерживает диалоги, рассуждения и анализ визуального содержимого. Настроенное окно контекста — 262 144 токена, но доступная длина зависит от памяти, настроек KV-кэша и типа входа. Модель предназначена для генерации текста и ответов на вопросы по изображениям; включён отдельный MTP-драфтер для ускорения спекулятивного декодирования. По карточке, исходная модель снижает склонность к отказам, а эта публикация переносит её веса в формат MLX BF16 без квантизации и дополнительного дообучения. Для запуска требуются Mac с Apple silicon, совместимая версия mlx-vlm и около 55 ГБ памяти только для весов, плюс память для вычислений и KV-кэша. Карточка приводит локальные проверки генерации, анализа изображений и MTP, а также результаты отдельных бенчмарков; они не гарантируют качество на других задачах и устройствах. В частности, указаны ограничения на длинных документах, а режим JSON не всегда соблюдал запрошенную схему. Модель не является официальным релизом Qwen или OrcaRouter. Лицензия — Apache-2.0.
Qwen3.8-27B-Uncensored-NVFP4 (ModelOpt) — это квантованная версия мультимодальной модели JonathanColetti/Qwen3.8-27B-Uncensored, опубликованная joshebbs и подготовленная с помощью NVIDIA TensorRT Model Optimizer 0.43.0. Модель предназначена для инференса под управлением vLLM на GPU архитектуры Blackwell и поддерживает обработку текста и изображений. Заявленные языки — английский и китайский. Лицензия — Apache-2.0. Модель содержит 27 млрд параметров и использует гибридную архитектуру из 64 слоёв, объединяющую Gated DeltaNet и Gated Attention. Квантование NVFP4 с размером блока 16 и FP8-масштабами применено к 400 линейным слоям; vision tower, lm_head, MTP head и отдельные чувствительные к точности проекции DeltaNet сохранены в исходной точности. Размер весов уменьшен примерно с 65 ГБ в BF16 до 19,2 ГиБ. Vision tower и голова многотокенного предсказания сохранены. Модель подходит для генерации текста, рассуждений, мультимодальных сценариев и вызова инструментов через совместимый XML-формат Qwen. Контекст до 131 072 токенов проверен при распределённом запуске на двух NVIDIA DGX Spark GB10 с tensor parallelism. Для работы необходим runtime с поддержкой modelopt_fp4; стандартная загрузка через transformers невозможна. Рекомендуется vLLM с Blackwell, FP8 KV-cache и FlashInfer. При включённом режиме рассуждений ответы могут оказаться пустыми, если генерация обрывается внутри блока <think>; также для автоматического tool calling требуются специальные параметры vLLM.
Qwen3.8-Flash-Next-GGUF — GGUF-квантизированная версия модели Qwen3.8-Flash-Next, разработанной Qwen и квантизированной пользователем qtum с использованием llama.cpp. Модель предназначена для генерации текста и локального запуска через llama.cpp; заявленные языки — английский и китайский. Модель содержит около 180 млрд параметров: MoE-ядро на 125 млрд параметров с 48 слоями, 512 экспертами, маршрутизацией top-10 и одним общим экспертом, а также 51-миллиардную PLE-таблицу n-грамм. Используется гибридное внимание: линейное внимание Gated DeltaNet чередуется с блоками Qwen Sparse Attention и гиперсвязями. Максимальная длина контекста — до 262 тысяч токенов. Слой MTP для чернового предсказания был исключён при конвертации. Доступны варианты BF16 и квантизации IQ4_XS, IQ3_XXS, IQ2_XS-layered и IQ1_M-layered размером примерно от 76,4 до 118,8 GiB; каждый вариант поставляется в восьми сегментах. Квантизация снижает требования к хранилищу, но ухудшает показатель perplexity относительно BF16, особенно у низкобитных вариантов. Для работы необходимо скачать все восемь сегментов и использовать llama.cpp; модель предъявляет очень высокие требования к ресурсам. Лицензия — Qwen Community License 1.0, унаследованная от исходной модели, а не MIT.
Vontra/Qwen3.8-Flash-Next-MLX-3bit-MTP — это 3-битная MLX-конверсия мультимодальной модели Qwen/Qwen3.8-Flash-Next, созданная на основе официального BF16-чекпойнта. Модель предназначена для запуска на устройствах Apple Silicon через совместимые MLX-VLM и oMLX. Она поддерживает работу с текстом и изображениями, а также использует архитектуру qwen4_exp с vision-language стеком и разреженной mixture-of-experts моделью. Общий объём языковой части составляет 125B параметров, из которых активны около 6B; дополнительно указаны 51B параметров в hashed bigram/trigram embedding и 4B параметров в блоке native MTP. Контекст рассчитан на 262 144 токена. Ключевые компоненты включают Gated DeltaNet, Qwen Sparse Attention, sparse MoE-слои, gated residual streams, vision encoder и один draft-блок native MTP для speculative decoding. Квантизация выполнена методом uniform affine quantisation с группой 32; мультимодальные модули и роутеры MoE сохранены в BF16. Размер весов — около 90,774 GB. Сильные стороны модели — существенное снижение размера по сравнению с полноформатным чекпойнтом, поддержка мультимодальных сценариев и возможность ускорения генерации с помощью native MTP. В приведённом тесте на Apple M3 Studio скорость выросла с 28,0408 до 30,5895 токена в секунду, то есть примерно на 9,09%, при принятии 65,4% предложенных токенов. Ограничения включают необходимость runtime с явной поддержкой qwen4_exp и native MTP; старые версии MLX-VLM или oMLX могут быть несовместимы, а поддержка изображений зависит от используемых версий компонентов. Модель распространяется по лицензии Qwen Community License 1.0.
Vontra/Qwen3.8-Flash-Next-MLX-oQ4-MTP — общественная MLX-конверсия мультимодальной модели Qwen3.8-Flash-Next, созданная Vontra на основе официальных весов Qwen в формате BF16. Модель предназначена для запуска на Apple Silicon через совместимые среды oMLX или MLX-VLM и поддерживает обработку текста и изображений. Это не официальный релиз Qwen. Модель использует разреженную архитектуру mixture-of-experts qwen4_exp с 125 млрд параметров, из которых около 6 млрд активны при обработке токена, 48 слоями, 512 маршрутизируемыми экспертами, 10 активными экспертами и одним общим экспертом. В состав входят Gated DeltaNet, Qwen Sparse Attention, расширенные gated residual-потоки, hashed bigram и trigram embeddings, а также один встроенный MTP-блок для speculative decoding. Контекст составляет до 262 144 токенов. Конверсия выполнена в смешанной 4-битной точности oQ4 с отдельными модулями в 5- и 8-битном формате; размер весов — около 113,33 ГБ. Сильными сторонами являются экономичное по сравнению с полной точностью хранение, поддержка визуально-текстовых сценариев и встроенный MTP для ускорения генерации. Ограничения связаны с большими требованиями к памяти, зависимостью от Apple Silicon и необходимостью runtime с явной поддержкой qwen4_exp и native MTP; стандартные среды без такой поддержки могут не загрузить модель. Указанная лицензия — Qwen Community License 1.0.
Qwen3.8-Flash-Next-RadixArk-NVFP4-Hybrid-Sharp — мультимодальная модель для задач text-to-text и image-text-to-text, опубликованная в репозитории travelinlance на основе Qwen3.8-Flash-Next от Qwen и NVFP4-квантизированной сборки RadixArk. Модель предназначена для диалогов, генерации текста и обработки запросов с изображениями при использовании специализированного стека обслуживания. Это примерно 176-миллиардная MoE-модель с маршрутизируемыми экспертами. Основная часть весов хранится в формате NVFP4 W4A4, а около 300 тензоров в слоях внимания и общих экспертах преобразованы в блочный FP8 E4M3. Такой гибридный формат уменьшает объём данных, считываемых при генерации, и, по заявленным измерениям, повышает скорость генерации примерно на 20% без ухудшения контрольных оценок. Встроенный Sharp chat template сокращает объём ответов; в тесте он дал на 18% меньше выходных токенов. Для запуска требуется патченный образ vLLM ghcr.io/lancelind/qwen38-flash-dgx с поддержкой смешанного FP4/FP8-формата и настройками VLLM_FP8_HYBRID=1; стандартные vLLM и SGLang эту сборку загрузить не могут. Модель рассчитана прежде всего на NVIDIA DGX Spark с GB10 и 128 ГБ памяти, где используется таблица размером 44 ГиБ, доступная напрямую с диска. Точные поддерживаемые языки и размер контекстного окна в представленном README не указаны. Лицензия обозначена как qwen-community-1.0; применимые условия следует уточнять в файле LICENSE.
albucino/Qwen3.8-Flash-Next-W4A16-FP8PLE — локальная сборка модели семейства Qwen3.8-Flash-Next для генерации текста. В README не указан отдельный разработчик этой сборки; она объединяет компоненты из репозиториев Intel и RadixArk, а также компактный модуль MTP3 для speculative decoding. Модель рассчитана на запуск через специальный runtime на базе vLLM, а не через стандартный Transformers checkpoint. Сборка использует W4A16-квантизацию AutoRound с INT4 и group-128 для целевых экспертных и линейных весов, BF16 для чувствительных слоёв, FP8 E4M3FN для таблицы n-gram/PLE объёмом 51,2 млрд параметров и дополнительный INT4-модуль MTP с group-32. Поддерживается контекст до 262 144 токенов, текстовая модальность и запуск на двух RTX 3090 по 24 ГБ с 128 ГБ оперативной памяти, включая offload экспертов в CPU и NVMe-backed swap. Заявленные характеристики производительности являются экспериментальными и зависят от runtime и конфигурации. Основные преимущества — очень длинный контекст, возможность локального запуска крупной модели на потребительских GPU, prefix caching, экспертный offload и ускорение декодирования с помощью MTP3. Ограничения включают необходимость специального pinned runtime и пользовательского vLLM overlay, значительные требования к оперативной памяти и быстрому NVMe, риск CUDA и host OOM, а также экспериментальный статус части оптимизаций. Модель распространяется по лицензии qwen-community-1.0; её условия следует уточнять в файле LICENSE.
Sabomako/Qwen3-Omni-30B-A3B-Thinking-heretic — производная модель семейства Qwen3-Omni, созданная дообучением Qwen/Qwen3-Omni-30B-A3B-Thinking. По карточке базовой модели это мультимодальная модель с архитектурой MoE и компонентом Thinker, предназначенная для рассуждений по тексту, аудио и видео с текстовыми ответами; семейство также заявлено как способное обрабатывать изображения. Модель распространяется в формате safetensors и рассчитана на работу через Transformers. Семейство Qwen3-Omni поддерживает 119 языков для текста, 19 языков для входящей речи и 10 языков для речевого вывода. Описаны потоковое взаимодействие с низкой задержкой и настройка поведения системными промптами, однако карточка этой конкретной производной не объясняет, что именно меняет вариант heretic, и не подтверждает сохранение всех возможностей базовой модели. Метаданные указывают лицензию other, поэтому конкретные условия использования следует сверить с файлами репозитория.
Qwen3-VL-32B-Abliterated-xCloud-GGUF — мультимодальная vision-language модель, разработанная xCloudinfo (云硕科技) на основе Qwen/Qwen3-VL-32B-Instruct. Модель предназначена для задач понимания и генерации текста по текстовым и визуальным входным данным, включая анализ изображений, исследовательские и академические сценарии, контент-модерацию, легальные исследования информационной безопасности и red team-тестирование. Модель распространяется в формате GGUF с вариантами квантования Q4_K_M, Q5_K_M, Q6_K и Q8_0; размер файлов составляет примерно от 19,8 до 34,8 ГБ. Для работы с изображениями требуется отдельный визуальный проектор mmproj в формате F16 размером около 1,2 ГБ. Поддерживаются китайский и английский языки; отдельно заявлено сохранение качества вывода на традиционном китайском. Контекст модели в README не указан. Ключевая особенность — abliteration: без дополнительного обучения из весов удаляется направление, связанное с чрезмерными отказами, методом ортогонализации, основанным на работе Arditi et al. (2024). В заявленном тесте из 10 опасных запросов доля отказов снизилась примерно с 10/10 у исходной модели до 1/10 у версии Q4_K_M, при сохранении обычных задач и визуального понимания. Это не означает полного удаления механизмов безопасности; модель может быть менее склонна к отказам и требует ответственного применения. Её фактические ограничения, включая возможные ошибки, унаследованы от базовой Qwen3-VL, а мировоззренческие и ценностные особенности не изменялись. Модель лицензирована по Apache-2.0. README ограничивает её использование законными и ответственными сценариями и возлагает юридическую и этическую ответственность за применение на пользователя.
Phr00t подготовил GGUF-квантование iQ5KS модели Qwen3-VL-32B-Instruct-heretic-v2 с использованием imatrix. Репозиторий предназначен для запуска мультимодального диалогового ассистента, который принимает текст и изображения и отвечает текстом: например, анализирует изображения и помогает с творческими или аналитическими запросами. Автор сообщает, что использует модель для творчества и рассуждений; для работы с изображениями требуется mmproj, на который дана ссылка в README. В основе лежит дообученная модель n0kovo/Qwen3-VL-32B-Instruct-heretic-v2; лицензия — Apache-2.0. Размер контекста и поддерживаемые языки в предоставленных данных не указаны.
Qwen3-VL-32B-Instruct-ultra-uncensored-heretic-GGUF — мультимодальная instruct-модель в формате GGUF, разработанная независимым автором llmfan46 на основе Qwen/Qwen3-VL-32B-Instruct. Это декензурированная версия, созданная с помощью Heretic v1.2.0 и метода Arbitrary-Rank Ablation (ARA), с целью существенно уменьшить количество отказов при сохранении исходных возможностей модели. Модель предназначена для задач понимания и генерации текста по текстовым и визуальным входным данным, включая ответы на вопросы, анализ изображений и общее мультимодальное рассуждение. Размер модели — 32B параметров. Точная поддержка языков и размер контекстного окна в README не указаны. Доступны варианты квантования BF16, Q8_0, Q6_K, Q5_K_M и другие сборки GGUF, рассчитанные на разные компромиссы между качеством, размером и требованиями к ресурсам. Ключевая особенность модели — значительно меньшее число отказов: в приведённом сравнении она отказала в 4 из 100 случаев против 99 из 100 у исходной модели. При этом на PIQA точность составила 92,87% против 93,09% у оригинала, а на MMLU — 79,87% против 82,44%, что указывает на некоторое снижение результатов в отдельных задачах. Декензурированный характер может быть преимуществом для исследовательских и творческих сценариев, но одновременно означает меньшие встроенные ограничения безопасности и необходимость дополнительного контроля при использовании. В метаданных указана лицензия Apache-2.0, однако приведённая ссылка на лицензию ведёт к документации Gemma; условия использования следует проверить отдельно для базовой модели и производной версии.
Qwopus3.6-27B-v2-Abliterated-NVFP4 — мультимодальная модель для диалога и рассуждений, созданная croll83 на основе Jackrong/Qwopus3.6-27B-v2. Это дообученная версия Qwen3.6-27B с текстовой частью, визуальным энкодером и сохранённой головой MTP для ускорения спекулятивного декодирования. Репозиторий содержит веса GGUF в NVFP4 и F16-проектор изображений; модель рассчитана на запуск через upstream llama.cpp на оборудовании NVIDIA Blackwell. Модель отвечает на текстовые запросы, анализирует изображения и генерирует подробные ответы. В карточке описано снятие отказов от ответов через абляцию направления отказа и этапы SFT и DPO; автор сообщает, что при этом сохранены возможности работы с изображениями. Голова MTP также подверглась абляции и эвристическому выравниванию, поэтому качество спекулятивного декодирования может быть ниже, чем у исходной версии. Карточка заявляет поддержку английского и итальянского языков. Лицензия — Apache-2.0.
Qwopus3.8 27B Flash MXFP4 Vision MTPLX — это релиз для Apple Silicon на базе модели Jackrong/Qwopus3.8-27B-Flash, подготовленный Shiftedx с использованием MLX и MTPLX. Модель предназначена для генерации текста и обработки изображений с текстовыми инструкциями, включая мультимодальные сценарии и локальное развертывание через OpenAI-совместимый endpoint. Текстовая часть представлена в формате MXFP4, а vision tower и native MTP sidecar сохранены в формате BF16. Sidecar имеет глубину 3 и предназначен для speculative decoding, ускоряющего генерацию. В README заявлена поддержка английского, китайского, испанского, русского и японского языков. Точный размер контекста и подробная архитектура не указаны. В комплект входят tokenizer, processor, vision-веса, chat template и runtime-контракт MTP. Сильными сторонами являются сочетание мультимодальности, MXFP4-квантизации для текстовой части и ускоренной генерации на совместимом оборудовании. В локальной квалификации на M4 Max 64 GB заявлены скорости 26,43 токена в секунду для обычной авторегрессивной генерации и 56,74 токена в секунду с MTP глубины 3, однако это результаты одного узкого теста и не универсальный бенчмарк. Квантизация может повлиять на качество, а производительность зависит от оборудования и runtime. Модель распространяется по лицензии Apache-2.0; при использовании производного варианта необходимо также учитывать лицензию и ограничения исходной модели.
Samlagast-7B-bf16 — слитая языковая модель на архитектуре Mistral, созданная с помощью mergekit методом task arithmetic. В основу слияния вошла paulml/NeuralOmniBeagleMBX-v3-7B; также объединены FelixChao/Faraday-7B, flemmingmiguel/MBX-7B-v3 и paulml/NeuralOmniWestBeaglake-7B. Модель предназначена для генерации текста. Она содержит 7,1 млрд параметров, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. В карточке указан английский язык. Модель доступна по лицензии Apache-2.0; README также ссылается на отдельные файлы GGUF.
SauerkrautLM-gemma-2-9b-it — текстовая чат-модель VAGO solutions на базе Google Gemma 2 9B IT, дообученная методом Spectrum Fine-Tuning на немецко-английских данных Sauerkraut Mix v2. В ходе обучения затрагивалось 25% слоёв модели. Модель предназначена для диалогов и выполнения инструкций на немецком и английском языках. Разработчики сообщают об улучшениях следования инструкциям, рассуждений здравого смысла и решения математических задач при сохранении большей части ранее приобретённых способностей базовой модели. Архитектура — плотная Gemma2ForCausalLM с 9 млрд параметров; контекст — до 8192 токенов. В репозитории представлены веса safetensors. Лицензия — gemma. Разработчики предупреждают, что несмотря на очистку данных, модель может выдавать неподходящий или некорректный контент; результаты оценки зависят от настроек бенчмарков.
SelfBioRAG-7B-DPO-Full-SFT-WO-KQA-Golden — плотная языковая модель семейства Llama с 6,6 млрд параметров, дообученная Minbyul на базе Minbyul/selfbiorag-7b-wo-kqa_golden-sft с использованием датасета HuggingFaceH4/ultrafeedback_binarized. Модель предназначена для генерации текста; карточка сообщает результаты оценки с предпочтениями ответов, но не описывает конкретные сценарии применения. Модель принимает текст и генерирует текст, а её нативный контекст составляет 4096 токенов. В репозитории указаны веса в формате safetensors. README не приводит сведения о языках, специальных возможностях или подробных ограничениях модели. Лицензия в предоставленных данных не указана.
Skywork_MindLink-72B-0801-GGUF — это квантизированная версия языковой модели Skywork/MindLink-72B-0801, подготовленная пользователем bartowski в формате GGUF с использованием llama.cpp. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Базовая модель имеет размер 72B параметров. Доступны варианты квантования от Q8_0 до Q2 и IQ-квантов, различающиеся размером файлов, требованиями к памяти и качеством вывода. Наиболее качественными и рекомендуемыми в README названы Q6_K, Q5_K_M, Q5_K_S и Q4_K_M; облегчённые варианты подходят для систем с ограниченным объёмом оперативной памяти, но могут заметно уступать по качеству. Для модели не указан официальный chat template, поэтому предложенный формат промпта может потребовать проверки по исходной карточке модели. README не содержит сведений о языках, длине контекста, точной архитектуре, специализированных сценариях применения или лицензии. Для использования необходима среда, совместимая с llama.cpp, а выбор варианта следует делать с учётом доступной памяти и требуемого качества.
GrayLine-Qwen3-14B-GGUF — квантизированная версия текстовой генеративной модели GrayLine-Qwen3-14B, разработанной soob3123 и подготовленной в формате GGUF пользователем bartowski. Квантизация выполнена с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, прямых ответов, информационного поиска и задач, связанных с общими знаниями. В метаданных она обозначена как unfiltered и uncensored, однако конкретные поведенческие характеристики и результаты тестирования не приведены. Модель относится к семейству Qwen3 и имеет размер 14 млрд параметров. Она работает с текстом и заявлена для английского языка. Доступны варианты от исходных BF16-весов размером 29,54 ГБ до низкоразрядных квантов, включая рекомендуемый Q4_K_M размером 9 ГБ, а также более качественные Q5 и Q6. Квантизированные файлы можно запускать через LM Studio, llama.cpp и другие совместимые проекты; для взаимодействия используется формат шаблона чата с ролями system, user и assistant. Сильной стороной модели является широкий выбор уровней квантизации, позволяющий выбирать между качеством ответов, требованиями к памяти и скоростью работы. Ограничения связаны с тем, что это текстовая модель только для английского языка, а квантизация может снижать качество по сравнению с исходной версией, особенно в компактных вариантах. Лицензия — Apache-2.0.
Spaetzle-v85-7b — языковая модель, созданная cstr как слияние нескольких моделей семейства Spaetzle с помощью LazyMergekit. Это плотная авторегрессионная модель Mistral с 7,1 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие; заявленное контекстное окно составляет 32 768 токенов. В карточке указаны английский и немецкий языки. Модель подходит для диалогов, ответов на вопросы и задач общего понимания текста. В README приведены результаты нескольких тестовых наборов, включая EQ-Bench для немецкого языка и Occiglot Euro LLM Leaderboard; это результаты оценок, а не гарантия качества в конкретном применении. Модель доступна в формате safetensors по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.
Это дообученная модель семейства T5 с 52,6 млн параметров, созданная на основе weny22/sum_model_0318. По названию и метрикам ROUGE она предназначена для суммаризации текста. В карточке указана оценка на тестовом наборе: Loss 2,1007, ROUGE-1 0,1995, ROUGE-2 0,0701 и ROUGE-L 0,1598. В README отмечено, что опубликованный вариант обучен только в течение пяти эпох, хотя автор рассчитывал на 11–15 эпох; также изменены embedding и LM head для словаря размером 45 000 токенов. Данные обучения, поддерживаемые языки и условия лицензии в предоставленных сведениях не раскрыты.
SuperPlatty-30B — объединённая авторегрессионная языковая модель на архитектуре LLaMA, созданная путём слияния Platypus-30B и адаптера SuperCOT-LoRA. В README разработчиками исходных компонентов названы Cole Hunter и Ariel Lee для Platypus-30B и kaiokendev для SuperCOT-LoRA. Модель содержит около 32,3 млрд параметров, использует плотную архитектуру LLaMA и принимает контекст до 2048 токенов. Модель предназначена для генерации текста на английском языке, включая ответы на вопросы и рассуждения. В README приведены результаты оценивания на ARC, HellaSwag, MMLU и TruthfulQA; эти результаты не гарантируют точность ответов в практических сценариях. Модель может выдавать токсичный, оскорбительный или предвзятый текст из-за данных базовой LLaMA; влияние слияния и дообучения на такое поведение не исследовалось. Ответы не следует считать достоверным источником или заменой человеческому суждению. Лицензия указана как other; README отмечает, что веса базовой LLaMA распространяются по специальной некоммерческой лицензии Meta.
T3qm7xNeuralsirkrishna_Experiment27Yam — объединённая языковая модель семейства Mistral, созданная слиянием automerger/T3qm7xNeuralsirkrishna-7B и automerger/Experiment27Yam-7B. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и распространяется в формате safetensors. Она предназначена для генерации текста и диалогов с контекстом до 32 768 токенов. Модель может применяться для ответов на запросы и создания связного текста. Карточка не сообщает о специализированной предметной области или поддерживаемых языках. Лицензия — Apache-2.0. Практические ограничения и результаты оценки качества в карточке не описаны.
T3qm7xNeuralsirkrishna_Neuralsirkrishnaexperiment26Experiment24 — объединённая языковая модель, опубликованная MaziyarPanahi. Она предназначена для генерации текста и диалогов. Модель построена на архитектуре Mistral с плотной архитектурой, содержит 7,1 млрд параметров и использует формат safetensors; длина контекста составляет до 32 768 токенов. Модель объединяет automerger/T3qm7xNeuralsirkrishna-7B и automerger/Neuralsirkrishnaexperiment26Experiment24-7B. Доступна по лицензии Apache-2.0. Сведения о поддерживаемых языках и специализированных областях применения в карточке отсутствуют.
sonoisa/t5-base-english-japanese — Sonoisa が開発した、英語と日本語の均衡コーパスで事前学習した T5(Text-to-Text Transfer Transformer)モデルです。モデルには約123,8百万のパラメータがあり、T5 の encoder-decoder アーキテクチャを使います。 学習データには英語・日本語版 Wikipedia、OSCAR の日本語コーパス、CC-100 の英語・日本語コーパスが含まれます。SentencePiece トークナイザーは byte-fallback に対応し、未知語の発生を実質的に抑えます. Модель предназначена для дальнейшей адаптации: для конкретной задачи требуется дообучение. После настройки её можно применять к задачам преобразования текста, например суммаризации, перевода или генерации ответов. Модель обучалась только на английском и японском языках. В README не приведены длина контекста и результаты бенчмарков. В выходах возможны смещения и вредное или неэтичное содержание, а точность и безопасность не гарантируются. Лицензия — CC-BY-SA 4.0; при использовании корпусов Common Crawl также нужно соблюдать их условия.
Tema_Q-R-3B-Thinking — компактная языковая модель, разработанная на основе Liquid AI LFM2.5-2.6B и дообученная для генерации ответов на японском и английском языках. Это плотная причинная трансформерная модель семейства LFM2, представленная в формате safetensors; её контекстное окно составляет 131 072 токена. Модель предназначена для диалогов и генерации текста по инструкциям, включая творческое письмо и поиск знаний. Разработчик позиционирует её как улучшенный вариант базовой модели, способный давать более гибкие и полезные ответы на сложные запросы. Модель помечена как uncensored; соблюдение законодательства и правил использования контента возложено на пользователя, а README запрещает применение для дискриминации, преследования, насилия, незаконных и иных вредоносных целей. Модель основана на LiquidAI/LFM2.5-2.6B и имеет 2,6 млрд параметров. Условия лицензии в предоставленных данных не указаны.
Teuken 7B-instruct-v0.6 — многоязычная инструкционная языковая модель, разработанная Fraunhofer, Forschungszentrum Jülich, TU Dresden и DFKI в рамках проекта OpenGPT-X. Это декодерная Transformer-модель семейства Llama с 7,5 млрд параметров, дообученная на базе openGPT-X/Teuken-7B-base-v0.6. Контекст модели составляет 4096 токенов. Модель предназначена для выполнения инструкций и генерации ответов на 24 официальных языках Европейского союза, в том числе немецком, английском, французском, польском, испанском и русском она не поддерживает. Её ориентируют на многоязычные сценарии, где важна работа с европейскими языками; заявленные области применения включают частное использование, образование и исследования. Модель не предназначена для математики и программирования. Модель может выдавать предвзятые, токсичные или ошибочные ответы, несмотря на фильтрацию данных. Для использования действует лицензия CC BY-NC 4.0, ограничивающая коммерческое применение.
Это модель T5-small, дообученная Samandar1105 на датасете CNN/DailyMail v3.0.0 для создания абстрактивных резюме англоязычных новостных статей. Она принимает текст статьи с префиксом «summarize: » и генерирует сокращённый текст с основными сведениями. Модель содержит 38,5 млн параметров, использует архитектуру T5ForConditionalGeneration и поддерживает контекст до 512 токенов. В README приведены результаты на тестовой выборке: ROUGE-1 36,1, ROUGE-2 15,36 и ROUGE-L 26,07. Для использования опубликованы веса в формате safetensors; лицензия в предоставленных данных не указана.
Tulu 1 Llama 2 13B — языковая модель-помощник, разработанная Allen Institute for AI (AI2) и дообученная на базе meta-llama/Llama-2-13b-hf. Для настройки использована смесь Tulu v1 из открытых, синтетических и созданных людьми наборов данных с инструкциями и диалогами. Модель имеет плотную архитектуру Llama, около 12,9 млрд параметров и контекст до 4096 токенов. Модель предназначена для ответов на инструкции и ведения диалогов, прежде всего на английском языке. Она подходит для генерации ответов, помощи с вопросами и выполнения текстовых инструкций. Для лучшего качества следует использовать указанный в карточке формат запросов, включая завершающий перевод строки. Tulu не проходила этап RLHF-настройки на безопасные ответы и не использует фильтрацию ответов во время работы, поэтому может выдавать проблемный контент, особенно в ответ на соответствующие запросы. Модель распространяется по лицензии AI2 ImpACT Low-risk.
kevinpro/Vicuna-7B-CoT — плотная языковая модель семейства Llama с 6,6 млрд параметров, дообученная методом SFT для усиления способности Vicuna к рассуждениям по цепочке мыслей (CoT). Она предназначена для генерации текста и ответов на запросы, где полезно пошаговое рассуждение. Модель принимает текст и генерирует текст; заявленная длина контекста — 2048 токенов. В метаданных указан формат PyTorch. В карточке не приведены сведения о разработчике, языках, обучающих данных, оценках качества и лицензии. Поэтому пригодность модели для конкретных задач и условия её использования следует проверять отдельно. Как и другие языковые модели, она может давать неточные или необоснованные ответы.
WebSquareAI-Instruct-KoSOLAR-10.7b-v0.5.34 — текстовая генеративная модель, разработанная командой UI Platform компании Inswave Systems. Это дообученная instruct-версия базовой модели LDCC/LDCC-SOLAR-10.7B на архитектуре Llama с 10,7 млрд параметров; она предназначена для генерации текста и выполнения инструкций. Модель принимает текст и генерирует текст. Её контекстное окно составляет 4096 токенов. В метаданных указан английский язык. Для загрузки предусмотрены Transformers и PyTorch; в примере используется точность float16. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое использование.