I.2Синтез, понимание и проверка знаний
В разделе собраны самостоятельные задачи, где AI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
42 341 модельЭто диалоговая языковая модель Eric111, полученная слиянием методом SLERP моделей Mistral-7B-Instruct-v0.2 от Mistral AI и UNA-TheBeagle-7b-v1. Модель построена на архитектуре MistralForCausalLM с плотной структурой и содержит 7,1 млрд параметров; репозиторий предоставляет веса в формате safetensors. Модель предназначена для генерации текста и ответов на инструкции в диалоге. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. Данные не уточняют отдельные целевые языки или специализированные области применения. Модель опубликована по лицензии CC BY-NC-ND 4.0, которая ограничивает коммерческое использование и распространение производных материалов. Качество ответов, фактическая точность и поведение после слияния зависят от запроса и требуют проверки в целевом сценарии.
NickyNicky/Mistral-7B-OpenOrca-oasst_top1_2023-08-25-v1 — диалоговая языковая модель на архитектуре Mistral, созданная на основе Open-Orca/Mistral-7B-OpenOrca. В README также указан набор OpenAssistant/oasst_top1_2023-08-25; название модели указывает на версию, связанную с этим набором, но подробности обучения в карточке не приведены. Модель предназначена для генерации текста и диалоговых сценариев. Она содержит 7,1 млрд параметров, работает с текстом и имеет контекст длиной до 32 768 токенов. Карточка заявляет поддержку болгарского, каталанского, чешского, датского, немецкого, английского, испанского, французского, хорватского, венгерского, итальянского, нидерландского, польского, португальского, румынского, русского, словенского, шведского и украинского языков. Модель распространяется в формате PyTorch по лицензии Apache-2.0. Карточка не содержит результатов оценки качества или подробных сведений о поведении модели, поэтому качество ответов для конкретных языков и задач следует проверять отдельно.
Mistral-7B-v0.1-flashback-v2-instruct — шведско-английская инструктивная языковая модель timpal0l, созданная дообучением timpal0l/Mistral-7B-v0.1-flashback-v2 на машинно переведённом наборе инструкций OpenHermes 2.5. Она предназначена для диалогов и генерации ответов на инструкции; использовать её можно, например, через библиотеку Transformers.
Mistral Medium 3.1 — обновлённая версия Mistral Medium 3 от Mistral AI. Это высокопроизводительная языковая модель корпоративного уровня, рассчитанная на широкий круг задач и призванная сочетать передовые возможности с более низкими эксплуатационными затратами. В доступном описании не приведены сведения об архитектуре, размере, контексте, языках, условиях лицензирования и конкретных сценариях применения.
Mistral-Small-24B-Instruct-2501-4bit — это 4-битная версия модели Mistral-Small-24B-Instruct-2501, преобразованная сообществом mlx-community в формат MLX с использованием mlx-lm 0.21.0. Исходная модель опубликована под пространством имён mistralai и предназначена для выполнения инструкций и диалогового взаимодействия с пользователем. Модель рассчитана на задачи генерации текста, ответов на вопросы и других сценариев, где требуется инструктивное или чат-взаимодействие. Заявлены английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, русский и корейский языки. Размер исходной модели составляет 24 миллиарда параметров; версия использует 4-битное квантование и формат MLX, что ориентировано на запуск в совместимой MLX-среде. Сведения о длине контекста, точной архитектуре и мультимодальных возможностях в README не указаны. К сильным сторонам относятся поддержка нескольких языков, инструктивный формат и адаптация для использования с MLX через библиотеку mlx-lm. Ограничения включают отсутствие в предоставленных данных подробных результатов оценки, сведений о качестве на отдельных языках и характеристик производительности. Модель распространяется по лицензии Apache 2.0.
MixtureofMerges-MoE-2x7b-SLERPv0.9b — объединённая модель для генерации текста, созданная автором jsfs11 методом SLERP с помощью LazyMergekit. В объединение вошли zhengr/MixTAO-7Bx2-MoE-v8.1 и jsfs11/MixtureofMerges-MoE-2x7b-v6; базовой моделью в конфигурации указана zhengr/MixTAO-7Bx2-MoE-v8.1. Модель построена на архитектуре Mixtral с разреженной экспертной архитектурой MoE и классом MixtralForCausalLM. Размер — 7,1 млрд параметров, формат весов — safetensors, контекст — до 32 768 токенов. Предназначена для генерации текста, диалогов и ответов на запросы. Карточка не сообщает поддерживаемые языки и лицензию.
Модель EuroEval/mmBERT-small-multi-wiki-qa-synthetic-hallucinations-with-ragtruth-lv — модель на базе Transformers для token classification. По названию она связана с выявлением синтетических галлюцинаций в ответах на вопросы по Википедии и сценариях RAG, включая данные RAGTruth и вариант с обозначением lv. Модель содержит около 140,5 млн параметров, использует архитектурный стек, связанный с ModernBERT, и поддерживает контекст до 8192 токенов. Модель может применяться для разметки отдельных токенов в ответах, например для выделения фрагментов, связанных с галлюцинациями или недостоверными утверждениями, в системах контроля качества ответов и retrieval-augmented generation. В карточке отсутствуют сведения о разработчике, лицензии, языках, процедуре обучения, результатах оценки и рекомендуемых сценариях использования.
hugoomezz/modernbert-ragtruth-token-level-binary — дообученная командой проекта на RAGTruth модель для поиска галлюцинаций в ответах RAG-систем. Она получает контекст и сгенерированный ответ и классифицирует каждый токен ответа как подтверждённый контекстом или галлюцинаторный, что позволяет выделять неподтверждённые фрагменты текста, а не только присваивать ответу общий вердикт. Модель построена на encoder-архитектуре ModernBERT-base, содержит 149 млн параметров и имеет нативную длину контекста 8192 токена; веса опубликованы в формате safetensors. На тестовой выборке RAGTruth модель показала F1 0,7631 для определения наличия галлюцинации в ответе и F1 0,5321 для выделения фрагментов. Она предназначена для исследовательских экспериментов и демонстрации проверки ответов, включая QA, суммаризацию и преобразование данных в текст. Основные ограничения — слабее выявляются ошибки в суммаризациях и тонкие галлюцинации; возможны пропуски и ложные срабатывания на близких перефразировках. Модель не проверена за пределами задач RAGTruth и не гарантирует обнаружение всех неподтверждённых утверждений. Лицензия — MIT.
zelk12/MT2-Gen4-MA-gemma-2-N3N1532-9B — языковая модель Gemma 2 с 9 млрд параметров, созданная слиянием двух моделей методом SLERP с помощью mergekit. В состав слияния вошли nhyha/N3N_gemma-2-9b-it_20241029_1532 и allknowingroger/Gemmaslerp2-9B; веса сохранены в формате safetensors, библиотека для работы — Transformers. Модель предназначена для генерации текста и диалогового общения. Она принимает текст и выдаёт текст, поддерживает контекст до 8192 токенов. Карточка не уточняет поддерживаемые языки и специализированные области применения, поэтому модель следует рассматривать как общего назначения. Репозиторий не сообщает результатов оценки качества или известных ограничений. Лицензия в предоставленных данных не указана.
GiordanoB/mT5_multilingual_XLSum-finetuned-summarization — модель семейства mT5, дообученная на основе csebuetnlp/mT5_multilingual_XLSum. Она предназначена для автоматического суммирования текста. Модель содержит 291,2 млн параметров и распространяется в формате PyTorch. Карточка не содержит сведений о наборе данных для дополнительного дообучения, оценке качества и конкретных ограничениях. mT5 поддерживает несколько языков, однако языки и сценарии, проверенные именно для этой версии, не описаны. Лицензия в предоставленных данных не указана.
Двуязычная модель суммаризации Deutsche Telekom AG из команды One Conversation, дообученная на базе google/mt5-small. Это encoder-decoder модель семейства mT5 с 157,4 млн параметров; она принимает текст на английском или немецком и генерирует краткое изложение. Обучение проводилось на наборах CNN/Daily Mail, XSum, WikiLingua, MLSUM и Swiss Text 2019. Для исходного текста при обучении использовалась максимальная длина 800 токенов, для целевого резюме — 96 токенов. Модель предназначена для создания кратких пересказов новостных статей и других текстов на немецком и английском языках. В карточке приведены оценки ROUGE на немецком MLSUM и английских CNN/Daily Mail и XSum; авторы отмечают, что часть результатов на тестовых наборах выглядит необычно высокой и могла быть связана с попаданием тестовых данных в обучение. Репозиторий содержит веса PyTorch и safetensors. Лицензия — CC BY-NC-SA 4.0; данные некоторых обучающих наборов имеют неясные условия использования, поэтому коммерческое применение обучающих данных может быть ограничено.
Mystical-dare7-7b — языковая модель семейства Mistral, созданная mvpmaster путём слияния шести моделей с помощью LazyMergekit. Она предназначена для генерации текста и может использоваться для диалогов, ответов на вопросы и других задач на основе текстовых запросов. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель принимает и генерирует текст. В README и метаданных не указаны целевые языки или специализированные прикладные области. Репозиторий содержит веса в формате safetensors; сведения о лицензии в предоставленных данных отсутствуют.
Nanbeige4-3B-Thinking — компактная языковая модель с 3,5 млрд параметров из четвёртого поколения семейства Nanbeige, разработанная командой Nanbeige. Это плотная авторегрессионная модель архитектуры Llama, предназначенная для генерации текста в диалогах и решения задач, требующих рассуждений. Модель обучали на корпусе из текстов, книг, кода и научных публикаций, а затем дообучали на примерах с длинными цепочками рассуждений, дистиллировали от флагманской модели Nanbeige и совершенствовали с помощью многоэтапного обучения с подкреплением. В README заявлены применения в математике, науке, творческом письме и использовании инструментов. Поддерживается контекст до 65 536 токенов; метаданные указывают английский и китайский языки. Модель опубликована в формате PyTorch и распространяется по лицензии Apache-2.0. Сильные стороны — акцент на рассуждениях при сравнительно небольшом размере и обучение на проверяемых задачах и данных с длинными цепочками рассуждений. Модель может выдавать предвзятые или дискриминационные и другие неожиданные ответы; результаты требуют проверки, особенно при использовании инструментов или в чувствительных сценариях.
Nemotron-3-Nano-30B-A3B-GGUF — большая языковая модель, разработанная NVIDIA Corporation и представленная в GGUF-формате сообществом Unsloth на основе NVIDIA-Nemotron-3-Nano-30B-A3B-BF16. Модель предназначена для генерации текста, ответов на пользовательские запросы, решения задач с рассуждением и без него, а также для коммерческих приложений. Она может сначала формировать рассуждение, а затем итоговый ответ; режим рассуждений настраивается через chat template. Модель использует гибридную архитектуру Mixture-of-Experts: 23 слоя Mamba-2 и MoE, а также 6 attention-слоёв. Всего предусмотрено 30 млрд параметров, из которых 3,5 млрд активируются для каждого токена. Каждый MoE-слой содержит 128 экспертов и одного общего эксперта, при этом на токен активируются 5 экспертов. Поддерживаются английский, немецкий, испанский, французский, итальянский и японский языки. В README размер контекста и точные параметры GGUF-квантизации не указаны. Сильными сторонами модели являются сочетание режимов рассуждения и обычной генерации, разреженная MoE-архитектура с относительно небольшим числом активных параметров и многоязычная поддержка. Включение промежуточных рассуждений обычно повышает качество на сложных запросах, тогда как отключение рассуждений может немного снижать точность. Ограничениями являются отсутствие в предоставленных данных подробных результатов тестирования, сведений о размере контекста и характеристик конкретной GGUF-квантизации. Модель разрешена для коммерческого использования на условиях NVIDIA Open Model License.
Это квантованная в формате GGUF версия Nemotron-3-Nano-Omni-30B-A3B-Reasoning от NVIDIA, подготовленная majentik для запуска через llama.cpp. Веса языковой основы представлены в варианте MXFP4_MOE; модель использует гибридную архитектуру Mamba-2 и Transformer с разреженным MoE. Для мультимодального запуска требуется отдельный файл мультимодального проектора mmproj-F16. Модель предназначена для диалогов и задач понимания текста и изображений; карточка базовой модели также описывает работу с аудио и видео. В README указаны текстовый бэкенд, визуальный энкодер CRADIO v4-H и аудиоэнкодер Parakeet-TDT-0.6B-v2. Для инференса с изображениями, аудио и видео рекомендуется llama-mtmd-cli; Ollama в описанном варианте поддерживает только текст. Режим расширенного рассуждения включён по умолчанию и может отключаться параметром enable_thinking=False. Это квантованный производный вариант базовой модели NVIDIA, а не отдельный метод TurboQuant: README уточняет, что это название релиза и что веса получены стандартными квантователями. Оценочный размер файла — около 30 ГБ. README предупреждает, что сборка llama.cpp с CUDA 13.2 даёт некорректные результаты; рекомендуются CUDA 12.x, Metal или CPU. Лицензия указана как other, конкретные условия в предоставленных данных не раскрыты.
NeuralGanesha-7b — объединённая языковая модель на архитектуре Mistral, опубликованная Kukedlc. Она создана методом slerp из Kukedlc/SomeModelsMerge-7b и Kukedlc/MyModelsMerge-7b с помощью LazyMergekit и предназначена для генерации текста на основе текстового запроса. Модель содержит 7,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Доступна по лицензии Apache-2.0. README не описывает специализацию по языкам или предметным областям, поэтому модель можно характеризовать как генеративную общего назначения.
NeuralsirkrishnaShadow_Experiment26Pastiche — языковая модель семейства Mistral, созданная слиянием чекпойнтов automerger/NeuralsirkrishnaShadow-7B и automerger/Experiment26Pastiche-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста; поддерживает контекст до 32 768 токенов. Модель подходит для диалогов, написания и продолжения текстов, а также генерации ответов по длинным запросам. Данные карточки не описывают её специализацию или языковой охват, поэтому применение следует считать общим. Модель распространяется в формате safetensors по лицензии Apache-2.0.
6block/Nex-N2.5-Pro-GGUF — это GGUF-квантизации мультимодальной модели Nex-N2.5-Pro, разработанной nex-agi и преобразованной в формат GGUF с помощью llama.cpp командой 6block. Модель предназначена для генерации и анализа текста, а также для задач понимания изображений при использовании отдельного vision-проектора mmproj. Заявлены поддерживаемые языки английский и китайский. Модель имеет 397 млрд параметров, 60 слоёв в гибридной архитектуре: 45 слоёв Gated DeltaNet с линейным вниманием и 15 полноценных attention-слоёв с GQA. Это MoE-модель: каждый токен направляется к 10 из 512 экспертов и общему эксперту. Контекст составляет 262 144 токена, словарь — 248 320 токенов. Vision-энкодер содержит 27 слоёв, принимает изображения размером до 768 пикселей и использует патчи 16 пикселей. Поддерживаются адаптивный режим рассуждений и его отключение. Доступны варианты IQ4_XS, Q2_K и IQ2_XS размером примерно 200,1, 138,9 и 113,2 ГиБ соответственно, каждый в 19 сегментах. IQ4_XS наиболее близок к исходной BF16-версии по заявленным метрикам, Q2_K позиционируется как сбалансированный вариант для CPU, а IQ2_XS предназначен для систем с жёсткими ограничениями по памяти. Основные ограничения — очень большой размер, необходимость загрузить все сегменты, наличие совместимой сборки llama.cpp с поддержкой Qwen3.5-MoE и отдельного vision-проектора для работы с изображениями. Для изображений рекомендуется выделять не менее 1024 image tokens. Модель распространяется по лицензии Apache-2.0. Для запуска требуется llama.cpp; параметры и возможности использования изображений зависят от соответствующих инструментов и шаблона чата модели.
next-32b-i1-GGUF — это набор квантизированных файлов в формате GGUF для языковой модели next-32b, разработанной thelamapi и дополнительно квантизированной mradermacher. Модель дообучалась на наборах данных FineTome-100k, CognitiveKernel-Pro-SFT, KAG-Thinker-training-dataset, ChatGPT-4o-Writing-Prompts, dolphin-r1 и Brief-Pro, поэтому предназначена для генерации текста, диалогов, следования инструкциям, рассуждений, аналитических и письменных задач. Модель имеет около 32 млрд параметров и относится к transformer-моделям с instruction-tuning. В README заявлена поддержка турецкого, английского, немецкого, испанского, французского, русского, китайского, японского и корейского языков. Указана только текстовая генерация; сведения о мультимодальности и размере контекстного окна отсутствуют. Доступны варианты квантизации от IQ1_S до Q6_K, различающиеся размером, скоростью и качеством; рекомендуются i1-Q4_K_M и i1-Q4_K_S как сбалансированные варианты, а низкоразрядные варианты могут заметно снижать качество. Модель подходит для локального запуска и многоязычных чат-сценариев, однако для работы с большинством вариантов требуется значительный объём памяти. Качество конкретной версии зависит от выбранной квантизации; некоторые варианты в README прямо отмечены как низкокачественные. Лицензия — MIT.
Nemotron-H-47B-Reasoning-128K-GGUF — это набор GGUF-квантизаций модели Nemotron-H-47B-Reasoning-128K, разработанной NVIDIA и квантизированной пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Модель имеет 47 миллиардов параметров и заявленный контекст до 128K токенов. В README указана только текстовая модальность; сведения о языках, конкретной архитектуре и формате промптов отсутствуют. Доступны варианты от BF16 и Q8_0 до более компактных Q3 и IQ-квантизаций, поэтому можно выбирать между качеством, объёмом памяти и скоростью запуска. Для квантизации использовался imatrix и релиз llama.cpp b6317. Сильной стороной являются большой контекст и широкий выбор уровней квантизации, включая варианты Q4–Q6, рекомендованные автором как обеспечивающие высокое или хорошее качество при существенно меньшем размере файлов. Ограничения связаны с большими требованиями к оперативной или видеопамяти даже у компактных вариантов, а при более агрессивной квантизации возможно снижение качества. Лицензия в README не указана; условия использования следует уточнять на странице исходной модели NVIDIA и соответствующего репозитория.
Ornith-1.5-35B-A3B-NInfer — квантованный артефакт модели Ornith-1.5-35B-A3B, разработанной shisa-ai на базе архитектуры Ornith и с компонентами, связанными с Qwen3.6-35B-A3B. Модель упакована в единый файл формата NInfer и предназначена для локального сервинга через NInfer, включая совместимый с OpenAI API интерфейс. Она ориентирована на текстовые и визуально-текстовые сценарии, а также на ускоренную генерацию с использованием speculative decoding. Модель построена по архитектуре Mixture-of-Experts размером 35B параметров: используется 256 экспертов, из которых 8 активируются для каждого токена. Архитектура включает 40 гибридных слоёв с линейным и полным вниманием, vision tower, однос слой MTP и контекст длиной до 262144 токенов. В артефакт встроены квантованные groupwise-int веса, MTP-голова, DFlash draft-модель, vision tower, токенизатор и официальный frontend Qwen. Размер файла составляет около 21,22 GiB; заявлена работа на одной видеокарте RTX 5090 с 32 ГБ памяти, при этом NInfer ориентирован на sm_120a. Сильными сторонами являются большое контекстное окно, поддержка изображений, единый переносимый артефакт и ускорение генерации за счёт MTP и DFlash. В README указано ожидаемое принятие спекулятивных токенов около 80% и примерно 3,4 токена за раунд для окна из 3 токенов, однако на дообученных сценариях скорость может снижаться, поэтому производительность следует измерять на собственных данных. Артефакт распространяется по лицензии Apache-2.0; он не является официальным релизом Qwen, shisa-ai, ornith-ai или NInfer.
Это набор GGUF-квантизаций модели Ornith-1.5-9B, разработанной ornith-ai и подготовленной пользователем mistrjirka с использованием форматов PXA/PXQ. Модель имеет около 9 млрд плотных параметров, архитектуру qwen35 и нативный контекст до 262 144 токенов. Она предназначена для генерации и анализа текста, а исходная модель также поддерживает обработку изображений при наличии совместимого мультимодального проектора, который в этом репозитории не поставляется. Доступны варианты с разной степенью сжатия: от PXQ2 и PXQ3 до рекомендованного PXQ4, повышающего качество PXQ4-HQ и ориентированного на качество PXQ6. Чем выше уровень, тем больше размер файла и потенциально выше точность, тогда как PXQ2 и PXQ3 рассчитаны на ограниченные ресурсы и сильнее жертвуют качеством. Преимуществами являются большой контекст и выбор компромисса между размером, качеством и скоростью декодирования. Ограничение заключается в использовании нестандартных PXQ-типов тензоров: обычные сборки llama.cpp без их поддержки, как правило, не загрузят файлы. Требуется PXA или специальная ветка mistrjirka/llama.cpp; оптимизация в первую очередь ориентирована на GPU NVIDIA Pascal и Volta, а поддержка более новых архитектур может использовать общие, менее специализированные пути. Указана лицензия MIT.
google/pegasus-arxiv — англоязычная модель суммаризации на архитектуре Pegasus, разработанная Jingqing Zhang, Yao Zhao, Mohammad Saleh и Peter J. Liu; карточку поддерживает @sshleifer. Модель предназначена для создания кратких пересказов текста. Это вариант Pegasus с параметрами предобучения Mixed & Stochastic: обучение проводилось на смеси C4 и HugeNews, с переменным отношением пропуска предложений и случайным шумом при выборе важных предложений. Веса представлены в формате PyTorch; размер модели — 366,8 млн параметров, длина контекста — до 1024 токенов. Модель подходит для суммаризации англоязычных статей, новостей и других текстов. В README приведены результаты на нескольких наборах данных, включая XSum, CNN/DailyMail и Newsroom. Лицензия в предоставленных данных не указана.
BEE-spoke-data/pegasus-x-base-synthsumm_open-16k — англоязычная модель для создания кратких пересказов, разработанная на основе Google PEGASUS-X Base и дообученная на синтетических кратких пересказах длинных документов из разных источников и областей. Это модель типа encoder-decoder с архитектурой Pegasus-X, содержащая 187,1 млн параметров и принимающая контекст до 16 384 токенов. Модель предназначена для обобщения длинных текстов и заявлена как универсальная модель суммаризации для своего размера. В README рекомендуется декодирование с beam search. Модель работает с текстом на входе и выдаёт текстовый пересказ; карточка указывает английский язык. Распространяется под лицензией Apache-2.0. README отмечает, что качество модели оказалось неожиданно хорошим, но не приводит количественных оценок или подробного сравнения; данные обучения состоят из синтетических пересказов, поэтому качество может зависеть от соответствия исходного текста обучающим данным.
google/pegasus-xsum — англоязычная модель Pegasus для генерации кратких пересказов, основанная на архитектуре кодировщика-декодировщика и разработанная Jingqing Zhang, Yao Zhao, Mohammad Saleh и Peter J. Liu; карточку поддерживает @sshleifer. Модель содержит 366,8 млн параметров, принимает текст и выдаёт текст. Её основная специализация — абстрактная суммаризация, в частности создание короткого пересказа по исходному тексту; в материалах карточки приведены результаты на XSum, CNN/DailyMail и других наборах данных. При предобучении использовались C4 и HugeNews, смешанные и стохастически выбранные предложения-заполнители, а также изменённый SentencePiece-токенизатор с поддержкой символа новой строки. Заявленная длина контекста — 512 токенов. Доступны веса в форматах PyTorch, TensorFlow и Flax. Карточка не сообщает об ограничениях помимо длины контекста. Лицензия в предоставленных данных не указана.
Это GGUF-квантизированная версия модели r1-1776-distill-llama-70b, разработанной perplexity-ai и подготовленной пользователем bartowski. Квантизация выполнена с помощью llama.cpp release b4738 и метода imatrix. Модель предназначена для генерации текста и может запускаться через LM Studio, llama.cpp и другие проекты на базе llama.cpp. Архитектура основана на Llama, размер исходной модели — 70 миллиардов параметров. В README не указаны поддерживаемые языки, длина контекста и мультимодальные возможности, поэтому модель следует рассматривать как текстовую. Доступны варианты квантизации от Q8_0 до Q3_K и IQ3/IQ4, с размером файлов примерно от 27,47 до 74,98 ГБ. Более высокие уровни квантизации обеспечивают лучшее качество, но требуют больше памяти; варианты Q6_K, Q5_K и Q4_K_M отмечены как рекомендуемые для различных сценариев. Сильными сторонами являются широкий выбор размеров файлов, совместимость с локальными инструментами llama.cpp и сохранение высокого качества в старших вариантах квантизации. Ограничения включают значительные требования к оперативной или видеопамяти, особенно для версий с высоким качеством, а также потенциальное снижение качества в компактных вариантах. Модель распространяется по лицензии MIT.
Platypus-Nebula-v2-7B — объединённая модель на базе Mistral 7B, созданная Weyaxi путём слияния bhenrym14/mistral-7b-platypus-fp16 и PulsarAI/Nebula-v2-7B-Lora. Она предназначена для генерации текста и может использоваться для диалога, ответов на вопросы и решения текстовых задач на английском языке. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В репозитории размещены веса в формате safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.
PLLuM-4B-base-2512 — базовая языковая модель для генерации текста, разработанная альянсом HIVE AI на основе Gemma 3 4B. Модель продолжает предобучение на польских и английских корпусах; в семействе PLLuM также есть версии с дообучением для инструкций и диалога, но этот вариант обозначен как base. Модель предназначена для генерации связного текста, суммаризации, извлечения сведений и ответов на вопросы. Её можно использовать как основу для специализированных приложений и ассистентов, в том числе для польской публичной администрации и тематики права и бюрократии; для ответов по документам README рекомендует подключать поиск через RAG. Архитектура — плотная Gemma 3, около 4 млрд параметров; модель принимает и выдаёт текст, в первую очередь на польском, с дополнительными данными на английском. Модель распространяется по лицензии Apache-2.0. Поскольку это базовая, а не instruct- или chat-версия, готовность к диалогу и следованию инструкциям может быть ограниченной; README приводит заявленные результаты семейства PLLuM, но не отдельные оценки этого чекпойнта.
richardyoung/Qwen2.5-14B-Instruct-1M-heretic — текстовая чат-модель на архитектуре Qwen2, созданная Richard Young методом abliteration на основе Qwen/Qwen2.5-14B. Модель предназначена для диалоговой генерации, творческого письма, ролевых сценариев, анализа поведения языковых моделей и задач, требующих обработки длинных документов. Модель содержит около 14 млрд параметров и поддерживает контекст до 1 010 000 токенов с генерацией до 8192 токенов. В README указана архитектура Transformer с RoPE, SwiGLU и RMSNorm. Abliteration снижает частоту отказов: в приведённом сравнении отказов было 3 из 100 против 87 из 100 у исходной модели; этот метод не добавляет новых возможностей и ослабляет защитное поведение. Для эффективной обработки очень длинного контекста автор рекомендует специальную сборку vLLM; стандартный путь инференса может терять точность на последовательностях длиннее 262 144 токенов и требует значительных ресурсов GPU. Модель принимает и генерирует текст, заявленный язык карточки — английский. Распространяется по лицензии Apache-2.0. Она может выдавать неточные, предвзятые или неподходящие ответы; ослабленные механизмы отказа повышают риск вредного вывода.
Карточка модели cashxout/Qwen3-30B-A3B-Claude-4.5-Opus-High-Reasoning-2507-ABLITERATED-UNCENSORED-V2 на Hugging Face совпадает с карточкой DavidAU/Qwen3-30B-A3B-Claude-4.5-Opus-High-Reasoning-2507-ABLITERATED-UNCENSORED-V2, поэтому описание составлено по ней. DavidAU выпустил эту диалоговую модель на основе Huihui-Qwen3-30B-A3B-Thinking-2507-abliterated, дообучив её с помощью Unsloth на наборе TeichAI/claude-4.5-opus-high-reasoning-250x. Это генеративная языковая модель семейства Qwen3 MoE: всего около 30 млрд параметров, из которых активны примерно 3 млрд; метаданные каталога указывают 2,6 млрд параметров. Архитектура использует 128 экспертов, обычно активируя 8 за раз. Модель предназначена для диалогов, следования инструкциям и генерации ответов с рассуждениями. Автор отмечает, что блоки рассуждений обычно короче, чем у исходной Qwen, и что модель стремится реже отказывать, в том числе при запросах на взрослый или откровенный контент. Для таких ответов может потребоваться явно задать желаемый стиль и лексику. Заявленные автором результаты на бенчмарках не сопровождаются полными данными в карточке, поэтому их нельзя считать независимой оценкой качества. Модель принимает и генерирует текст, рассчитана прежде всего на английский язык и поддерживает контекст до 262 144 токенов. Файлы репозитория представлены в формате safetensors; указана лицензия Apache-2.0.