I.4Обработка документов и форм

halt95/Qwen3.8-Flash-Next-W4A16-Merlin — это квантованный вариант Qwen3.8-Flash-Next, подготовленный halt95 на основе компонентов Qwen, Intel и RadixArk. Модель предназначена для генерации текста и инференса в vLLM, включая сценарии с длинным контекстом, параллельными сессиями, включённым режимом рассуждений, vision-вводом и speculative decoding с MTP-драфтером. Модель использует смесь экспертов с 512 маршрутизируемыми экспертами на слой и 512 экспертами MTP draft-head. Основные эксперты представлены в INT4 с групповой схемой g128, отдельные проекции Gated DeltaNet — в INT8, а часть компонентов, включая 12 attention-слоёв, vision tower, эмбеддинги и lm_head, сохранена в BF16. Таблица n-gram (PLE) на 51 млрд параметров хранится в FP8 и выгружается в память CPU. При обслуживании применяется FP8 E4M3 KV-cache; заявлена поддержка контекста до 262 144 токенов и пула KV-cache размером 806 792 токена. README не указывает поддерживаемые языки и точное общее число параметров. Сильными сторонами являются работа с очень длинным контекстом, поддержка vision, MTP speculative decoding, структурированного вывода при конкуренции запросов и возможность запуска на четырёх потребительских RTX 3090 с архитектурой Ampere без NVLink. Ограничения связаны с узкой аппаратной и программной конфигурацией: для sm_86 требуется патченный vLLM с поддержкой FP8 KV-cache и специального доступа к большой n-gram-таблице, а стандартный vLLM не подходит. Качество INT4-квантования для отдельных компонентов и влияние дополнительной квантизации attention в README не оценивались. Распространение осуществляется по лицензии qwen-community-1.0; в метаданных также указана общая лицензия other. Для запуска может потребоваться companion-репозиторий halt95/qwen38-flash-next-3090s с закреплёнными скриптами сборки и модифицированным движком.

google/t5gemma-xl-xl-ul2 — предварительно обученная текстовая модель семейства T5Gemma от Google с энкодером XL и декодером XL, адаптированная с использованием UL2. Архитектура типа encoder-decoder преобразует текст в текст; веса сохранены в формате safetensors и предназначены для работы через Transformers. Модель рассчитана на английский язык. Модель подходит для генерации текста, суммаризации, ответов на вопросы и рассуждений; энкодер также можно применять в задачах классификации и понимания текста. Возможные сценарии — подготовка черновиков и кратких изложений, ответы по предоставленному тексту и NLP-исследования. В карточке не указаны размер в параметрах и длина контекста. К ограничениям относятся возможные фактические ошибки, влияние пробелов и смещений обучающих данных, трудности с неоднозначностью и сложными открытыми задачами. Лицензия — Gemma; для применения необходимо учитывать условия Gemma и политику допустимого использования.

TroyDoesAGI — экспериментальная плотная языковая модель на архитектуре Mistral с 15 млрд параметров и контекстом до 32 768 токенов, созданная независимым разработчиком TroyDoesAI. Модель предназначена для генерации текста по инструкциям и ответов с опорой на предоставленный контекст, в том числе для сценариев RAG. В карточке описан специальный формат контекстного запроса с разделителями для входных блоков, метаданных и инструкций. Обучение включало набор инструкций по Python, вручную подготовленные графы знаний и данные персонального помощника; автор экспериментировал с прореживанием, абляциями и учебными последовательностями. Модель распространяется в формате safetensors по лицензии CC BY-ND 4.0. Автор сообщает о хорошей привязке к контексту и следовании инструкциям, но это не сопровождается формальной оценкой; результат зависит от формата запроса и качества контекста.

unsloth/gemma-3-1b-it — диалоговая версия Gemma 3, размещённая Unsloth и основанная на Google/gemma-3-1b-it. Это плотная языковая модель Gemma3ForCausalLM примерно с 1 млрд параметров, предназначенная для генерации текста и общения по инструкциям. Репозиторий содержит веса в формате Safetensors; модель работает через Transformers и рассчитана на контекст до 32 768 токенов. Модель подходит для диалоговых помощников, черновиков текстов и писем, суммаризации и ответов на вопросы. В README описаны возможности семейства Gemma 3, включая мультимодальный ввод изображений, но этот конкретный чекпойнт имеет текстовую архитектуру и базовую модель Gemma 3 на 1 млрд параметров; поэтому поддержку изображений ему не приписываю. Метаданные указывают английский язык. Лицензия — Gemma. Как и другие генеративные модели, она может ошибаться в фактах, отражать смещения обучающих данных и хуже справляться с неоднозначными или сложными запросами. Качество зависит от промпта и контекста.

OS-Software/Gemma-4-12B-it-QAT-Q4_0-Unquantized-Heretic-JA — производная разговорная мультимодальная модель на основе Google Gemma 4 12B IT, опубликованная OS-Software. Модель предназначена для экспериментов с диалогом, рассуждениями, агентными сценариями, программированием и пониманием изображений; заявлены также OCR, разбор документов и анализ видео для семейства Gemma 4. Архитектура — плотная Gemma4 Unified с чередованием локального и глобального внимания. Метаданные указывают формат safetensors, библиотеку Transformers, поддержку чата и изображений, а также тег задачи image-text-to-text. README семейства указывает контекст до 256K токенов для 12B и поддержку более 35 языков, но эти характеристики относятся к семейству, а не подтверждены отдельно для этой производной модели. README позиционирует модель для исследований безопасности, выравнивания и red teaming и просит не развёртывать её в публичных или пользовательских сервисах. В карточке также приведены общие ограничения Gemma: возможны фактические ошибки, смещения данных и трудности с неоднозначными формулировками и сложными задачами. Лицензия — Apache-2.0. В названии присутствуют «QAT», «Q4_0» и «unquantized», однако метаданные сообщают только о safetensors, поэтому фактический формат весов в описании не уточняется.

gemma-4-31B-it-GGUF — квантованная модель Gemma 4 с 31 млрд параметров, разработанная Google и представленная в формате GGUF организацией ggml-org. Это instruction-tuned модель на базе google/gemma-4-31B-it, предназначенная для запуска и инференса в совместимых средах, включая llama.app. По указанным метаданным модель поддерживает сценарии image-text-to-text, то есть обработку текстовых и визуальных входных данных с генерацией текста. Ключевая особенность этой версии — формат GGUF и квантование, направленные на снижение требований к памяти и упрощение локального запуска. README не содержит сведений о конкретном варианте квантования, размере файла, длине контекста, поддерживаемых языках, аппаратных требованиях или результатах тестирования, поэтому эти характеристики нельзя определить по предоставленным данным. Модель автоматически преобразована с использованием инструментария ggml-org/convert, что может влиять на совместимость и доступные способы запуска. Модель распространяется по лицензии Apache 2.0. Ограничения README не описывает; при практическом использовании следует учитывать ограничения исходной Gemma 4, особенности квантованной версии и возможности выбранного движка инференса.

JANGQ-AI/GLM-5.3-Flash-JANG-MTP — квантованный вариант GLM-5.3-Flash, подготовленный Jinho Jang для запуска на компьютерах Apple Silicon с 128 ГБ памяти через MLX. Это модель семейства glm5_next с архитектурой MoE примерно на 300 млрд параметров и поддержкой изображений и видео. Веса занимают около 95,5 ГиБ; в репозитории указаны контекст до 1 млн токенов и сохранённый слой multi-token prediction для самоспекулятивного декодирования. Модель предназначена для диалога, рассуждений и агентных сценариев с использованием инструментов, а также для обработки визуальных входов. Разработчик сообщает о проверке качества квантования на отложенных промптах и о сохранении параметров внимания, маршрутизации и gating в 8-битном или полном формате. Однако заявленный runtime vMLX ещё не выпущен, и, согласно карточке, сейчас модель корректно загружается только во внутренней среде оценки; ускорение от MTP пока ожидаемое, а не подтверждённое в доступном runtime. Лицензия — MIT. Карточка описывает английский язык; сведения о других поддерживаемых языках не приводятся.

lmstudio-community/Llama3-ChatQA-1.5-8B-GGUF — квантизированная в формате GGUF версия модели Llama3-ChatQA-1.5-8B, разработанной NVIDIA. Модель построена на базе Llama 3 и предназначена прежде всего для генерации текста, диалоговых ответов и задач retrieval-augmented generation (RAG). Квантизацию выполнил bartowski на основе llama.cpp. Модель ориентирована на ответы на вопросы по предоставленному контексту, его суммаризацию и извлечение релевантной информации. Она рассчитана на англоязычные сценарии и обучалась с улучшенным рецептом ChatQA, включая дополнительные данные для conversational QA, табличных задач и арифметических вычислений. Указанный размер модели — 8 миллиардов параметров; сведения о длине контекста и конкретном варианте квантизации в README не приведены. Сильной стороной модели является способность формировать содержательные ответы, опираясь на переданный контекст, и указывать, когда ответ в нём не найден. Она может применяться и в более общих задачах, но в первую очередь предназначена для RAG и работы с контекстом. К ограничениям относятся зависимость качества от полноты и точности предоставленного контекста, а также потенциальная неточность или нежелательное содержимое ответов. Модель распространяется по лицензии Llama 3.

MegaBeam-Mistral-7B-512k — компактная языковая модель на 7,1 млрд параметров, представленная в работе «Scaling Context, Not Parameters: Training a Compact 7B Language Model for Efficient Long-Context Processing». Она дообучена на Mistral-7B-Instruct-v0.2 и предназначена для генерации текста и диалогов с длинными документами и контекстом до 524 288 токенов. Модель использует плотную архитектуру MistralForCausalLM и распространяется в формате Safetensors. Модель подходит для поиска фактов в объёмных текстах, многошаговых вопросов и ответов, суммирования и других сценариев, где требуется учитывать длинный контекст. В README приведены результаты оценок на NIAH, RULER и InfiniteBench; они указывают на сильное извлечение информации в некоторых тестах, но качество различается между задачами и не гарантирует результат на пользовательских данных. Для эффективного запуска длинного контекста требуются совместимые инструменты обслуживания модели и значительные вычислительные ресурсы. Лицензия — Apache-2.0.

NeuralOmniBeagleMBX-v3-7B — слитая модель генерации текста, собранная автором paulml с помощью LazyMergekit из mlabonne/NeuralOmniBeagle-7B и flemmingmiguel/MBX-7B-v3. Для объединения использован метод SLERP с настройками смешивания для слоёв self-attention и MLP; модель основана на архитектуре Mistral и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и может использоваться в сценариях, где требуется языковая модель с контекстом до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель выпущена под лицензией CC BY-NC 4.0, которая ограничивает коммерческое использование.

Penjing-27B-Pollard — это квантизированная версия Qwen/Qwen3.8-27B, подготовленная PollardWeights с использованием метода Pollard Weights. Модель распространяется в формате GGUF и предназначена для локального запуска через llama.cpp, ik_llama.cpp, Ollama и LM Studio. Указанная архитектура — qwen3_5, объём — около 27,3 млрд параметров. Поддерживаются текстовые и графические входы, а заявленный язык — английский. Модель рассчитана на диалоговые сценарии и мультимодальные задачи, включая работу с изображениями при использовании дополнительного vision-проектора mmproj-Penjing-27B-bf16.gguf. Доступно несколько вариантов квантизации с разным соотношением размера и качества: от IQ1_KT размером 6,53 ГБ до Q6_K размером 22,43 ГБ. Квантизация основана на измерении чувствительности отдельных слоёв и использует importance matrix; это позволяет эффективнее распределять биты по сравнению с равномерным сжатием. Главное преимущество модели — существенное уменьшение требований к памяти: вариант IQ1_KT примерно на 88% меньше исходной версии f16. При этом качество зависит от выбранного файла: по измерениям на wikitext2 вариант IQ2_KT показал perplexity 5,0817 и был обозначен как рекомендуемый вариант по умолчанию, тогда как IQ1_KT обеспечивает минимальный размер, но заметно сильнее отклоняется от f16. IQ1_KT и IQ2_KT требуют ik_llama.cpp; остальные варианты совместимы со стандартным llama.cpp. Результаты измерений получены на одной машине и могут не полностью отражать качество в прикладных задачах. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

QVikhr-3-4B-Instruction — русско-английская инструктивная языковая модель команды Vikhr, дообученная методом SFT на синтетическом датасете GrandMaster2 на основе Qwen/Qwen3-4B. Это плотная авторегрессионная модель с 3,7 млрд параметров и контекстом до 40 960 токенов; веса опубликованы в формате Safetensors под лицензией Apache-2.0. Модель предназначена для диалогов по инструкциям, генерации ответов с учётом контекста и анализа текста, с особым упором на русский язык при поддержке английского. Её можно встраивать в пользовательские приложения и сервисы. В карточке приведён результат 78,2 в Ru Arena General против 64,8 у базовой Qwen3-4B; это результат указанного теста, а не гарантия качества в других сценариях. Карточка не приводит систематических оценок ошибок или ограничений. Как и другие генеративные языковые модели, она может выдавать неточные ответы; перед использованием важной информации нужна проверка.

Карточка модели rgtjf/Qwen2-UtK-72B-128K на Hugging Face совпадает с карточкой rgtjf/Qwen2-UtK-7B-128K, поэтому описание составлено по ней. Qwen2-UtK-7B-128K — языковая модель на основе Qwen2-7B, дообученная командой проекта Untie the Knots для работы с длинным контекстом. Это плотная авторегрессионная модель с 7,1 млрд параметров; её контекстное окно составляет до 131 072 токенов. Веса доступны в формате safetensors, лицензия — Apache-2.0. Модель предназначена для генерации текста и поиска нужной информации в длинных последовательностях. Метод Untie the Knots продолжает предобучение на перемешанных фрагментах документов, чтобы улучшить выделение релевантных сведений при большом контексте. В README приведены результаты оценки на RULER для 128K контекста; указанный пример обслуживания использует vLLM. Карточка сообщает о поддержке английского и китайского языков. Модель основана на Qwen2-7B с изменённым параметром RoPE theta: 5 000 000 вместо 1 000 000. README описывает отдельную инструктивную версию ChatQA2, но эта карточка относится к базовой модели UtK, поэтому её не следует считать чат-моделью ChatQA2. Практическое качество зависит от задачи и длины входа; результаты README не гарантируют такую же точность на других данных и сценариях.

Qwen2-UtK-7B-128K — языковая модель на основе Qwen2-7B, дообученная командой проекта Untie the Knots для работы с длинным контекстом. Это плотная авторегрессионная модель с 7,1 млрд параметров; её контекстное окно составляет до 131 072 токенов. Веса доступны в формате safetensors, лицензия — Apache-2.0. Модель предназначена для генерации текста и поиска нужной информации в длинных последовательностях. Метод Untie the Knots продолжает предобучение на перемешанных фрагментах документов, чтобы улучшить выделение релевантных сведений при большом контексте. В README приведены результаты оценки на RULER для 128K контекста; указанный пример обслуживания использует vLLM. Карточка сообщает о поддержке английского и китайского языков. Модель основана на Qwen2-7B с изменённым параметром RoPE theta: 5 000 000 вместо 1 000 000. README описывает отдельную инструктивную версию ChatQA2, но эта карточка относится к базовой модели UtK, поэтому её не следует считать чат-моделью ChatQA2. Практическое качество зависит от задачи и длины входа; результаты README не гарантируют такую же точность на других данных и сценариях.

Это uncensored- и decensored-версия мультимодальной модели Qwen3.5-122B-A10B, созданная независимым автором llmfan46 с использованием инструмента Heretic. Модель распространяется в формате GGUF и предназначена для локального запуска в llama.cpp, LM Studio, Ollama и других совместимых инструментах. Модель основана на архитектуре Qwen3.5 с гибридным сочетанием Gated Delta Networks и разреженной Mixture-of-Experts. Заявлены 122 млрд параметров и 10 млрд активных параметров, поддержка текста и изображений, а также 201 языка. Для работы с изображениями требуется отдельный vision projector. В репозитории доступны варианты квантования от BF16 и Q8_0 до Q2_K, что позволяет выбирать между качеством и требованиями к памяти. Также заявлено сохранение всех 785 MTP. Ключевая особенность — значительное снижение числа отказов по сравнению с исходной моделью: 8 против 92 из 100 в приведённом тесте, при KL-дивергенции 0,0856. Это делает модель подходящей для сценариев, где требуется меньше ограничений и отказов при генерации, однако одновременно снижает встроенные защитные механизмы. README не содержит точных сведений о размере контекста, поэтому этот параметр нельзя надёжно указать. Модель распространяется по лицензии Apache-2.0.

Это квантованная в формате NVFP4 сборка Qwen3.5-9B, подготовленная FreedomAISVR для запуска через GGUF и llama.cpp. Она сохраняет поддержку Multi-Token Prediction (MTP): модель предсказывает дополнительный токен на шаге генерации, что, по данным карточки, может увеличить пропускную способность на 30–40%. В README указаны 9 млрд параметров у базовой модели, гибридная архитектура с Attention и Mamba-2, механизм Multi-Head Latent Attention и контекст до 262 144 токенов. Модель предназначена для генерации текста и мультимодального диалога с анализом изображений; для визуального ввода в репозитории предусмотрен отдельный проектор SigLIP в формате F16. NVFP4 рассчитан прежде всего на ускорение инференса на видеокартах NVIDIA Blackwell, а для запуска через llama.cpp приведены текстовый и мультимодальный сценарии. Базовая Qwen3.5-9B описана как мультиязычная; в метаданных явно указаны английский и китайский. Сборка опубликована по лицензии Apache-2.0. NVFP4 может быть неудобен для видеокарт до Blackwell и для запуска на CPU; README рекомендует для таких систем другие варианты квантования. Утверждение о приросте скорости MTP приведено в карточке модели и зависит от оборудования и условий инференса.

lemonyins/Qwen3.6-27B-abliterated-i1-IQ4_XS-GGUF-Smaller — квантизированная версия Qwen3.6-27B, подготовленная разработчиком lemonyins на основе abliterated-варианта Huihui-Qwen3.6-27B от mradermacher. Модель предназначена для локального инференса, исследовательских задач и сценариев, где важны уменьшенный размер весов, экономия видеопамяти и большой контекст. Заявлена поддержка текстовых и, при подключении отдельного vision-проектора mmproj-BF16.gguf, визуально-текстовых входов. Модель использует формат GGUF и гибридную квантизацию: ключевые attention-слои имеют IQ4_XS, а слои FFN — IQ3_S. Для работы рекомендуется сборка llama.cpp с поддержкой TurboQuant и компактным KV-кэшем. На видеокарте NVIDIA RTX 4060 Ti 16GB заявлена скорость 18–20 токенов в секунду; при IQ4_XS-FFN-IQ3_S указана работа с контекстом до 160–200 тысяч токенов в зависимости от формата KV-кэша. При подключении vision-модуля доступный контекст уменьшается примерно на 10 тысяч токенов. Сильными сторонами являются низкое потребление памяти, увеличенный контекст при сохранении квантизации attention-слоёв и поддержка изображений через дополнительный модуль. Ограничения включают обязательную зависимость от TurboQuant для заявленных показателей памяти, возможное ухудшение качества из-за IQ3_S в FFN-слоях и отсутствие полной верификации разницы с базовой квантизацией; приведённый тест на китайском романе показал увеличение perplexity примерно на 3,14%. Языки модели и точные характеристики исходной архитектуры в README не указаны. Лицензия — Apache-2.0.

Это квантованные варианты MXFP4 модели Qwen3.6-35B-A3B-uncensored-heretic, опубликованные noctrex в формате GGUF для запуска через llama.cpp. Модель относится к семейству Qwen и использует архитектуру MoE; поддерживает диалог и анализ изображений, принимая текст и изображения и выдавая текст. Модель подходит для диалоговых сценариев, вопросов по изображениям и агентного программирования. Веса экспертов MoE представлены в MXFP4; репозиторий также содержит варианты GGUF BF16, F16 и F32. Для обработки изображений автор рекомендует mmproj в F32. README приводит размеры BF16 и F16 вариантов около 20,55 GiB и Q8 — около 18,88 GiB. Это производная от llmfan46/Qwen3.6-35B-A3B-uncensored-heretic модель с ослабленными отказами. Такая настройка может приводить к ответам на запросы, от которых обычные модели отказываются. Данные о лицензии и длине контекста в предоставленных источниках отсутствуют.

fallentree/Qwen3.8-27B-Uncensored-GP100-GGUF — это мультимодальная GGUF-сборка модели Qwen3.8-27B с модификацией Uncensored (abliteration). В основе указаны Qwen/Qwen3.8-27B, JonathanColetti/Qwen3.8-27B-Uncensored, mradermacher/Qwen3.8-27B-Uncensored-i1-GGUF и incoai/Qwen3.8-27B-DFlash2. Сборка предназначена для запуска через llama.cpp и оптимизирована разработчиком fallentree для двух видеокарт Tesla P100 с архитектурой Pascal sm_60. Основной файл использует квантизацию Q4_1_G64 примерно на 4,5 бит на вес и занимает около 15 ГиБ; выходная голова хранится в Q8_0, эмбеддинги — в Q4_1, используется calibration imatrix. В комплект входят отдельная DFlash-модель для speculative decoding и vision projector в формате F16, поэтому сборка поддерживает обработку текста и изображений. Заявлены английский и китайский языки, а также контекст до 128K токенов. Для максимальной производительности требуется специальная ветка llama.cpp-gp100 с поддержкой sm_60, LoopSpec и связанных оптимизаций; стандартный llama.cpp не загружает тип Q4_1_G64, но может использовать поставляемый вариант Q4_1. Главное преимущество — оптимизация скорости декодирования и работы с длинными сессиями на Tesla P100: в приведённых тестах G64 быстрее Q4_1 примерно на 10% в обычном режиме и на 4,8% в сценарии с контекстом 128K и компактированием. Ограничения включают зависимость от специализированного программного стека и оборудования sm_60, несовместимость с P40 и видеокартами GTX 10-й серии, а также небольшое ухудшение perplexity и более слабые результаты на коротких запросах по сравнению с Q4_1. Лицензия — Apache-2.0.

Qwythos-9B-PerfectSplit-CoT-GGUF — GGUF-квантование модели Qwythos-9B-Claude-Mythos-5-1M, подготовленное Aronstk15. Это разговорная модель для генерации текста, рассуждений и работы с длинным контекстом; карточка описывает смешанную точность: эмбеддинги, выходная голова и чувствительные компоненты внимания сохраняются в F16, а часть слоёв MLP сжимается. По заявлению автора, размер уменьшен примерно на 37% относительно исходной версии F16, до 10,88 ГБ, с приоритетом сохранения связности многошаговых рассуждений и извлечения информации из длинного контекста. Для запуска README приводит пример с llama.cpp; заявленная лицензия — Apache-2.0. Модель предназначена для диалоговой генерации, объяснений и анализа текста или данных, а также задач, где нужно учитывать большой объём предшествующего контекста. В метаданных указан базовый чекпойнт empero-ai/Qwythos-9B-Claude-Mythos-5-1M, описанный каталогом как дообученная на Qwen3.5-9B модель; исходная карточка заявляет контекст до 1 млн токенов, но конкретный доступный предел зависит от реализации и настроек запуска. Преимущество этой сборки — сохранение полной точности для выбранных чувствительных тензоров при сжатии менее чувствительных слоёв. Качество длинных рассуждений и контекстного извлечения описано автором как ожидаемое, без приведённых независимых результатов оценки. Модель распространяется по лицензии Apache-2.0.

beomi/EXAONE-3.5-2.4B-Instruct-Llamafied — это адаптированная («llamafied») версия инструкционной языковой модели EXAONE 3.5 2.4B Instruct, разработанной LG AI Research и преобразованной пользователем beomi. Модель предназначена для генерации текста и диалогового взаимодействия на основе инструкций и запросов пользователя. Модель содержит 2,4 млрд параметров, поддерживает контекст длиной до 32 768 токенов и работает с английским и корейским языками. Она распространяется для использования через библиотеку Transformers; в метаданных также указана совместимость с форматом Llama и файлами safetensors. Версия ориентирована на сценарии, где требуется компактная инструкционная LLM с поддержкой длинного контекста. Модель подходит для диалоговых помощников, написания и продолжения текстов, ответов на вопросы, суммаризации и других задач генерации на английском и корейском языках. Ограничения связаны с тем, что это адаптированная версия исходной модели, поэтому совместимость, качество и поведение могут отличаться от оригинальной EXAONE-3.5-2.4B-Instruct. Модель распространяется по лицензии EXAONE, обозначенной в Hugging Face как other; перед использованием необходимо проверить её условия.

inception42/jais-family-30b-16k-chat — чат-модель семейства Jais, созданного Inception Institute of Artificial Intelligence. Это дообученная для диалога версия базовой модели inceptionai/jais-family-30b-16k: автор описывает Jais Family как двуязычные англо-арабские большие языковые модели, оптимизированные для арабского языка и обладающие сильными возможностями на английском. Модель предназначена для диалоговых приложений, генерации и понимания текста, анализа тональности и суммаризации арабских и англоязычных документов. Модель имеет архитектуру декодера с авторской реализацией класса, для загрузки которой требуется включить trust_remote_code. В названии указаны размер 30B и контекст 16k; файлы представлены в формате safetensors. Метаданные помечают модель как чат-модель. Лицензия — Apache-2.0. Сильная сторона модели — ориентация на арабский язык при сохранении возможностей английского, включая диалоговые сценарии. Ограничения: ответы ориентированы на арабский и английский, возможны ошибки, предвзятость и оскорбительный либо вводящий в заблуждение контент; модель не предназначена для высокорисковых решений без контроля человека и обработки конфиденциальных данных.

Карточка модели Resggg/Kimi-K3-Abliterated-modal на Hugging Face совпадает с карточкой SHSLab/Kimi-K3-Abliterated, поэтому описание составлено по ней. SHS-Lab/Kimi-K3-Abliterated — открытая мультимодальная модель на основе Kimi K3, обработанная методом abliteration для ослабления отказов, связанных с механизмами выравнивания. Она предназначена для исследований механизмов отказа, red-team-оценки и контролируемых экспериментов. Архитектура унаследована от базовой модели: Mixture-of-Experts с 2,8 трлн параметров, Kimi Delta Attention и Attention Residuals; модель поддерживает контекст до 1 млн токенов, изображения и видео наряду с текстом. Модель подходит для программирования, многошаговых агентных задач, анализа документов и работы с визуальными данными. По заявлению карточки, ослабление отказов нацелено на запросы на английском и японском языках и не добавляет новых знаний или возможностей; возможны небольшие изменения тона и формулировок. Независимая оценка этой версии не проводилась, поэтому точность для конкретных задач следует проверять отдельно. Модель распространяется с весами для самостоятельного развёртывания по лицензии Kimi K3 License; карточка не рекомендует её для неконтролируемого использования в пользовательских продуктах или там, где обязательна модерация контента.

Llama-3-8B-NExtLong-128K-Base — базовая языковая модель семейства Llama, опубликованная авторами проекта NExtLong. Это плотная авторегрессионная модель примерно на 7,5 млрд параметров с окном контекста до 131 072 токенов; веса доступны в формате safetensors. Модель обучена на синтетических длинных контекстах, созданных методом NExtLong: в документ добавляются подобранные отвлекающие фрагменты, чтобы усилить работу с дальними зависимостями. Модель предназначена для генерации текста и задач, требующих анализа длинного контекста: поиска сведений в контексте, ответов на вопросы по длинным документам, работы с RAG и контекстом в несколько сотен страниц. В README приведены результаты на HELMET и RULER. Это базовая модель, а не instruct-вариант, поэтому для диалогового применения может потребоваться дополнительная настройка. Языковая поддержка и лицензия в предоставленных источниках не описаны.

QuantFactory/Llama3-TAIDE-LX-8B-Chat-Alpha1-GGUF — квантованная версия модели taide/Llama3-TAIDE-LX-8B-Chat-Alpha1, созданная с использованием llama.cpp. Модель относится к семейству Llama3-TAIDE, основанному на Meta LLaMA3-8B и адаптированному проектом TAIDE к языковым и культурным особенностям Тайваня. Она предназначена для генерации текста, многоходового диалога и офисных задач: суммирования, написания статей и писем, а также перевода между китайским и английским языками. Основной акцент сделан на традиционном китайском, тайваньской терминологии и контексте. Модель содержит около 8 миллиардов параметров, поддерживает контекст длиной до 8K токенов и обучалась на 43B токенов традиционного китайского языка. Среди её сильных сторон — ориентация на традиционный китайский, улучшенная работа с тайваньской культурой и терминологией, многоходовые диалоги и прикладные сценарии. Квантование упрощает использование модели, однако может снизить производительность и привести к непредусмотренным проблемам. Лицензия указана как llama3-taide-models-community-license-agreement; применяются условия, опубликованные по ссылке в карточке модели.

Longformer-base-4096 — плотная модель семейства Longformer, разработанная Allen Institute for Artificial Intelligence (AI2). Это BERT-подобный трансформер, инициализированный из чекпойнта RoBERTa и предварительно обученный на задаче masked language modeling на длинных документах. Модель содержит 151,8 млн параметров и принимает последовательности длиной до 4096 токенов. Архитектура сочетает скользящее локальное внимание с глобальным вниманием, которое задаётся пользователем в зависимости от задачи. Модель предназначена для анализа длинных текстов и построения специализированных представлений; кодовые примеры и описание механизма внимания приведены в материалах проекта. Поддерживаемый язык — английский. Доступны форматы PyTorch и TensorFlow. Модель подходит как основа для задач понимания длинных документов, но настройка глобального внимания зависит от конкретного сценария. Лицензия — Apache-2.0.

MeliodasPercival_01_Strangemerges_32Inex12 — объединённая текстовая модель на архитектуре Mistral, созданная слиянием automerger/MeliodasPercival_01-7B и automerger/Strangemerges_32Inex12-7B. Она предназначена для генерации текста и диалогов, включая сценарии с длинным контекстом до 32 768 токенов. Модель содержит 7,1 млрд параметров и распространяется в формате Safetensors. Модель принимает текст и выдаёт текст. В доступных сведениях не названы целевые языки и специализированные предметные области. Лицензия — Apache-2.0.

Ornstein-27B-v2-i1-GGUF — это квантованная версия модели Ornstein-27B-v2, разработанной DJLougen и преобразованной в формат GGUF пользователем mradermacher. Модель относится к семейству Qwen3.5 и предназначена для локального запуска с использованием совместимых инструментов, поддерживающих GGUF. По данным карточки, модель ориентирована на диалоговые сценарии, рассуждения и задачи image-text-to-text, то есть может работать с текстом и изображениями. Заявлен английский язык. Размер исходной модели составляет 27B параметров, однако сведения о точной архитектуре, максимальной длине контекста и фактическом наборе поддерживаемых модальностей в карточке не приведены. Репозиторий содержит набор вариантов квантования с разными компромиссами между размером, скоростью и качеством: от примерно 7,2 до 22,2 ГБ. В частности, Q4_K_M отмечен как быстрый и рекомендуемый вариант, а Q4_K_S — как оптимальный по сочетанию размера, скорости и качества; наиболее низкие уровни квантования могут заметно снижать качество ответов. Условия использования унаследованы от указанной лицензии Apache-2.0.

pplx-embed-context-v1.3-4B — контекстная модель эмбеддингов предложений от seslami-pplx, представленная как приватная предварительная версия и совместимая с загрузкой модели v1.2-4B. Она предназначена для поиска по тексту и контекстного сопоставления предложений: в карточке отмечены разрешение перефразирований, снижение влияния лексически похожих отвлекающих фрагментов и совместное извлечение терминов из глоссария. Модель имеет плотную двунаправленную архитектуру PPLX Qwen3, содержит 3,7 млрд параметров и принимает контекст длиной до 32 768 токенов. Репозиторий использует Transformers и формат Safetensors. Модель подходит для семантического поиска и извлечения релевантных текстовых фрагментов с учётом контекста. Карточка не сообщает языковой охват, поэтому конкретные языки не указаны. Лицензия — Apache-2.0; статус private preview означает, что доступ и условия предварительного использования могут быть ограничены.

Swallow-7b-instruct-v0.1 — диалоговая языковая модель TokyoTech-LLM на архитектуре Llama 2 с 6,7 млрд параметров. Она прошла дополнительное предварительное обучение преимущественно на японских текстах, а версия instruct — supervised fine-tuning для следования инструкциям. Токенизатор с расширенным японским словарём эффективнее представляет японский текст. Модель принимает текст и генерирует текст; заявленный контекст — 4096 токенов. Модель предназначена для диалогов и выполнения текстовых инструкций на японском и английском языках: написания текстов, ролевых диалогов, ответов на вопросы, рассуждений и извлечения информации. В README опубликованы оценки на японском MT-Bench и сравнение с другими моделями, однако они не гарантируют качества для каждого сценария. Выпуск v0.1 обозначен как предварительная версия; разработчики предупреждают, что модель ещё не настроена на соответствие человеческим намерениям и требованиям безопасности. Лицензия — Llama 2 Community License (llama2).