I.3Извлечение и структурирование данных
В разделе собраны самостоятельные задачи, где AI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
25 791 модельduyntnet/Meta-Llama-3.1-8B-Instruct-imatrix-GGUF — набор квантизированных версий Meta-Llama-3.1-8B-Instruct, разработанной Meta. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и совместимые приложения и интерфейсы: JanAI, KoboldCPP, text-generation-webui, Ollama и GPT4All. Указанный язык — английский. Модель основана на архитектуре Meta-Llama 3.1 с размером 8 миллиардов параметров и поставляется в формате GGUF с imatrix-квантизацией. Это позволяет снизить требования к памяти и запускать модель локально, однако квантизация может уменьшать точность по сравнению с исходной полноразмерной версией. Для использования рекомендуется актуальная версия llama.cpp; README уточняет, что квантизация выполнена с помощью версии b3482 для устранения проблемы с rope scaling. Максимальный размер контекста и конкретные варианты квантизации в README не указаны. Лицензия обозначена как other, без дополнительных условий в представленном README. Модель предназначена для text-generation и conversational inference, но README не содержит самостоятельных результатов оценки качества или подробного описания ограничений исходной модели.
Mew1-2.6B — текстовая генеративная модель семейства LFM2, выпущенная разработчиком Unmid. Она предназначена для локального диалогового взаимодействия, творческого письма, ролевых сценариев, выполнения инструкций и экспериментов на оборудовании с ограниченными ресурсами. Модель ориентирована прежде всего на английский язык и поддерживает формат чата, близкий к ChatML, включая использование инструментов. Архитектура модели — гибридная LFM2 с классом Lfm2ForCausalLM; она содержит около 2,69 млрд параметров, 30 слоёв и словарь из 128 000 токенов. Данный checkpoint настроен на контекст до 128 000 токенов и распространяется в формате BF16 Safetensors, разделённом на четыре файла. Для локального запуска также доступны варианты GGUF с различными уровнями квантования; независимые GGUF-сборки и репозиторий с ними публикуются отдельно. К сильным сторонам относятся небольшой по современным меркам размер, большой контекст, поддержка Transformers без пользовательского кода и возможность запуска на ограниченных ресурсах. При этом опубликованные материалы не содержат полного отчёта о воспроизводимости и независимого набора бенчмарков для модификации Mew1, поэтому качество следует проверять на собственных задачах. Модель может генерировать ошибочные, предвзятые, небезопасные или вымышленные ответы; сниженное количество отказов не означает надёжность или пригодность для ответственных решений. Модель распространяется по лицензии LFM Open License v1.0 с указанными в ней условиями атрибуции и коммерческого использования.
miniG — языковая модель команды CausalLM на архитектуре ChatGLM. Основная текстовая версия содержит около 9 млрд параметров; метаданные репозитория указывают общий размер 11,4 млрд параметров. Модель дообучена на синтетическом наборе из более чем 120 млн примеров, подготовленном на основе корпуса объёмом 20 млрд токенов. В README также описана мультимодальная версия с ViT на 5 млрд параметров, однако эта карточка относится к текстовым весам. Модель предназначена для генерации текста и диалоговых сценариев с длинным контекстом до 1 млн токенов. Авторы отмечают обучение на данных для retrieval-поддержанных диалогов и интеграции знаний, но не заявляют отдельную специализацию по прикладной области. Лицензия репозитория — WTFPL. Авторы предупреждают о склонности к переобучению и галлюцинациям, отсутствии полноценного выравнивания по человеческим предпочтениям и возможном ухудшении качества при использовании ускоренных реализаций и квантизации; для вывода рекомендуются Transformers и низкая температура генерации. Данные обучения не были полностью отфильтрованы, поэтому возможны оскорбительный, порнографический и жестокий контент.
osiria разработала MiniLM L6 H384 Italian Cross Encoder — компактную модель на базе MiniLMv2, предназначенную для ранжирования текстовых пар на итальянском языке. Она получена на основе mmarco-mMiniLMv2-L6-H384-v1 с адаптацией embedding-слоя к итальянскому языку с использованием частот слов из Википедии. Архитектура в метаданных указана как XLM-RoBERTa для классификации последовательностей; размер — 25,9 млн параметров, контекст — до 514 токенов. Модель поддерживает ранжирование и классификацию текста. Выпущена по лицензии MIT.
MiniMax-M2.7-JANG_3L-CRACK — производная от MiniMaxAI/MiniMax-M2.7 модель, подготовленная Jinho Jang. Это причинная языковая модель архитектуры MiniMax M2 MoE: в README заявлены 230 млрд параметров, 256 экспертов и около 10 млрд активных параметров на токен. Каталог Hugging Face указывает 2,9 млрд параметров; размер модели также указан в README как 89 ГБ. Модель предназначена для генерации текста, диалога и рассуждений; по карточке она всегда формирует цепочку рассуждений перед ответом. Версия JANG_3L использует смешанную квантизацию для Apple Silicon: 8 бит для attention, 4 бита для эмбеддингов и 3 бита для экспертов. CRACK — заявленное авторами удаление отказов от ответа на уровне весов. Для запуска требуются инструменты с поддержкой JANG, в частности MLX Studio или jang-tools; README рекомендует MLX и vMLX. Контекст — 196 608 токенов. Метаданные отмечают английский, китайский и корейский языки, а также интерфейс вызова инструментов. Подходит для диалоговых помощников, генерации и анализа текста, а также задач рассуждения на компьютерах Apple Silicon с достаточной памятью. README приводит результаты MMLU и HarmBench, однако это собственные заявления авторов карточки. Модель может отвечать на запросы, от которых исходные защитные настройки обычно отказываются; применяйте её с учётом этого свойства. Также авторы указывают, что модель сохраняет ограничения исходной версии на воспроизведение защищённых авторским правом книг и текстов песен. Лицензия указана как other; README отдельно заявляет исследовательское и образовательное назначение.
MiniMax M2.7 JANGTQ_K + CRACK — модифицированная версия MiniMaxAI/MiniMax-M2.7, созданная Jinho Jang. Это причинная языковая модель семейства MiniMax M2 в архитектуре MoE для генерации текста, диалога, рассуждений и вызова инструментов. В README указано 230 млрд параметров, около 10 млрд активных на токен и 256 экспертов; в метаданных репозитория указан размер 2,9 млрд параметров. Эти сведения расходятся, поэтому фактический размер модели по доступным данным определить нельзя. Указанное окно контекста — 196 608 токенов. Веса подвергнуты смешанной квантизации JANGTQ_K: слои down_proj хранятся в 4-битном формате, gate_proj и up_proj — в 2-битном, а attention, общие эксперты, embeddings и lm_head — в 8-битном. README сообщает, что размер файла составляет 74 ГБ и что формат поддерживается MLX Studio и пакетом jang-tools; метаданные указывают библиотеку MLX и формат safetensors. Модель также подвергнута CRACK-abliteration: автор заявляет, что вмешательство снимает защитное выравнивание и направлено на сохранение возможностей рассуждения. Модель предназначена для генерации ответов и рассуждений, но её поведение может быть менее безопасным и отказоустойчивым. README описывает её как reasoning-only и предупреждает о возможных циклах при жадной генерации. В языковых тегах указаны английский, китайский и корейский. README заявляет о постоянной цепочке рассуждений перед итоговым ответом и рекомендует длинный лимит генерации для сложных запросов. Лицензия в метаданных обозначена как other; README содержит оговорку о предоставлении модели для исследовательских и образовательных целей, но точные условия лицензии не раскрыты.
Ministral-3b-instruct-imatrix-GGUF — набор GGUF-квантизаций инструкционно дообученной языковой модели Ministral, опубликованный пользователем duyntnet. Модель основана на архитектуре семейства Mistral и предназначена для генерации текста и выполнения инструкций, включая локальный запуск через llama.cpp, KoboldCPP, Ollama, text-generation-webui, GPT4All и Jan. Модель имеет около 3 млрд параметров, относится к GPT-подобным моделям и была дообучена на смеси общедоступных и синтетических наборов данных. Основной язык — английский. В репозитории представлены варианты в формате GGUF с imatrix-квантизацией, что ориентировано на более эффективное локальное использование при сниженных требованиях к памяти, хотя конкретные уровни квантизации и их характеристики не указаны. Сильными сторонами являются компактный размер, поддержка распространённых инструментов локального инференса и возможность работы на менее мощном оборудовании по сравнению с более крупными моделями. Ограничения включают преимущественно англоязычную направленность, отсутствие заявленной поддержки других модальностей и недостаток информации о контексте, точных характеристиках квантизации и результатах оценки качества. В исходном описании указана лицензия Apache 2.0; модель дообучена на базе Mistral-7B-v0.1.
Mistral-7B-SlimOrca — демонстрационная диалоговая языковая модель Open-Orca, созданная дообучением Mistral 7B на отфильтрованной выборке датасета OpenOrca/SlimOrca. Модель имеет плотную архитектуру MistralForCausalLM с 7,1 млрд параметров и принимает текстовые запросы, оформленные в шаблоне ChatML. Указанная в метаданных длина контекста — 32 768 токенов. Модель предназначена для генерации ответов в диалоге и выполнения инструкций на английском языке. Авторы представляют её как демонстрацию качества компактной версии обучающих данных SlimOrca; в README приведены оценки на тестах Hugging Face Leaderboard, но они не гарантируют качество на пользовательских задачах. Модель выпущена по лицензии Apache-2.0. Это предварительная демонстрационная версия, поэтому её результаты следует проверять на целевых сценариях.
robro612/modernbert_xtr_contrastive_k512 — англоязычная модель для поиска и ранжирования текстов, созданная дообучением answerdotai/ModernBERT-base командой или автором robro612 с помощью PyLate на наборе msmarco-10m-triplets. Архитектура ColBERT включает ModernBERT и линейный слой, преобразующий представления размерности 768 в последовательности 128-мерных векторов. Модель сопоставляет запросы и документы оператором MaxSim; в README указаны пределы в 32 токена для запроса и 512 токенов для документа, а метаданные указывают контекст до 8192 токенов. Модель предназначена для семантического поиска по коллекциям документов и повторного ранжирования результатов первичного поиска. Её можно применять для построения поискового индекса через PyLate и FastPLAID, поиска релевантных документов по запросу и ранжирования готовых пар запрос–документ. Обучение проводилось на англоязычных примерах MS MARCO; в README также приведены результаты оценки на наборах Nano BEIR и других коллекциях. Модель принимает текст запросов и документов и выдаёт векторные представления, используемые для расчёта релевантности. Репозиторий содержит веса Safetensors; для работы описан PyLate. Лицензия в предоставленных данных не указана.
Muse Glimmer 30B Abliterated Q4_K_M GGUF — квантованная 4-битная версия модели Muse Glimmer 30B Abliterated, разработанной mlasli. Модель распространяется в формате GGUF и предназначена для локальной генерации текста, диалоговых сценариев и других задач общего назначения, включая запуск через llama.cpp или Ollama. Доступен мультимодальный режим с обработкой изображений при использовании отдельного vision-проектора mmproj в llama.cpp. Модель содержит около 30 миллиардов параметров; базовая модель имеет 52 слоя. Квантование Q4_K_M занимает примерно 18 ГБ и рассчитано на запуск на одной видеокарте с 24 ГБ памяти, двух GPU по 12 ГБ либо на системе с 32 ГБ оперативной памяти при частичной выгрузке на GPU. README не указывает поддерживаемые языки и максимальный размер контекста. Для обработки изображений используется vision encoder и проектор Meta размером около 1,4 ГБ; Ollama для такого режима не поддерживается. Модель подвергнута abliteration — модификации весов, направленной на ослабление встроенного механизма отказов. Это может повысить готовность отвечать на ограниченные запросы, однако модель не является полностью uncensored: часть отказов, в частности для запросов об оружии, сохраняется. Q4_K_M обеспечивает хороший баланс между размером и качеством, но немного уступает более точным вариантам Q6_K и Q8_0; сама abliteration также может слегка влиять на качество ответов. Лицензия — Apache 2.0.
RadixArk/Muse-Glimmer-q4km-gs128-MLX — текстовая версия Muse Glimmer для устройств Apple Silicon, подготовленная RadixArk в формате MLX. Это перепаковка весов из GGUF-релиза Muse Glimmer 30B: коды квантования сохранены, а масштабы групп представлены в формате MLX. Модель имеет плотную архитектуру Muse Glimmer примерно на 27 млрд параметров и контекст до 131 072 токенов; карточка указывает поддержку чата и интерфейса вызова инструментов. Модель предназначена для генерации текста и диалогового использования, включая сценарии с вызовом инструментов. README рекомендует запускать её через MLX-бэкенд SGLang на Mac с Apple Silicon и не менее чем 48 ГБ объединённой памяти. В README приведены результаты GSM8K и CIMemories, полученные на одной конфигурации оборудования; для CIMemories указано, что оценка проведена в одном испытании. Модель принимает и выдаёт только текст; путь обработки изображений в MLX-бэкенде отсутствует. Это квантованная производная модель на основе meta-models/Muse-Glimmer-30B-GGUF. Сведения о лицензии в предоставленных данных отсутствуют.
MVP — модель генерации естественного языка, представленная Tianyi Tang, Junyi Li, Wayne Xin Zhao и Ji-Rong Wen в работе «MVP: Multi-task Supervised Pre-training for Natural Language Generation». Она предварительно обучена с учителем на смеси размеченных наборов данных и использует стандартную архитектуру Transformer encoder-decoder. Модель предназначена для генерации текста и может адаптироваться к суммаризации, преобразованию данных в текст, диалогу, созданию историй, ответам и генерации вопросов, а также перефразированию и упрощению текста. MVP также можно адаптировать к задачам понимания языка, включая классификацию последовательностей и извлекающий вопросно-ответный поиск. Карточка указывает поддержку английского языка и контекст до 1024 токенов. Модель доступна в формате PyTorch по лицензии Apache 2.0. Указанные сценарии описывают возможности адаптации; качество для каждой конкретной задачи зависит от используемой версии или дообучения.
NbAiLab/Nb-wav2vec2-1b-bokmaal — модель автоматического распознавания речи, разработанная командой NbAiLab для норвежского языка букмол. Она дообучена на базе XLS-R от Facebook/Meta и использует архитектуру Wav2Vec2 с CTC-декодированием; размер модели — 1,3 млрд параметров. Для обучения использовался Norwegian Parliamentary Speech Corpus (NPSC). Модель предназначена для преобразования норвежской речи в текст. На тестовом наборе указана оценка WER 6,33% и CER 2,48% с 5-граммовой языковой моделью KenLM; без неё — WER 7,38% и CER 2,63%. Для применения с другими типами речи качество может отличаться. Модель распространяется по лицензии Apache 2.0.
rinna/nekomata-14b-instruction — дообученная по инструкциям версия языковой модели Nekomata-14B от rinna. Это плотная трансформерная модель семейства Qwen с 40 слоями и размером скрытого слоя 5120; в метаданных указан объём 21,8 млрд параметров и контекст до 8192 токенов. Для запросов используется формат Alpaca. Модель предназначена для генерации ответов и выполнения текстовых инструкций на японском и английском языках. При дообучении использовались данные Databricks Dolly, японская версия Dolly, материалы FLAN и японские текстовые датасеты; часть оценочных корпусов была исключена из обучающих данных для предотвращения утечки. Модель работает с текстом и сохраняет формат PyTorch/Safetensors. Модель может быть полезна для диалоговых ассистентов, ответов на вопросы, суммаризации и других задач по текстовым инструкциям. Качество зависит от формулировки запроса и обучающих данных; карточка отсылает к странице бенчмарков rinna, но не приводит результаты непосредственно. Лицензия указана как other, поэтому перед использованием следует проверить условия в карточке Hugging Face.
NeuralQwen-7B-Spanish-Iptel — языковая модель на 7,1 млрд параметров, созданная Kukedlc слиянием Qwen/Qwen2.5-7B-Instruct и Kukedlc/iptel_qwen с помощью LazyMergekit и метода dare_ties. Модель семейства Qwen2 имеет плотную архитектуру Qwen2ForCausalLM, принимает текст и предназначена для диалогов и генерации текста. В карточке заявлено контекстное окно до 131 072 токенов; название указывает на ориентацию на испанский язык, но конкретные языки обучения или результаты оценки в README не описаны. Модель распространяется в формате safetensors по лицензии Apache-2.0. В метаданных также отмечен интерфейс вызова инструментов. Качество и ограничения слияния не охарактеризованы, поэтому пригодность для конкретных задач стоит проверять отдельно.
NLLB-CLIP-SigLIP — мультиязычная модель сопоставления изображений и текста, объединяющая текстовый энкодер NLLB с визуальным энкодером SigLIP. Она предназначена для классификации изображений по текстовым описаниям без специального обучения на целевых классах и для поиска соответствий между изображениями и текстом. Модель расширяет мультиязычные возможности CLIP до 201 языка набора Flores-200 и, согласно карточке, особенно хорошо работает на языках с малым объёмом ресурсов. На наборе Crossmodal-3600 она достигла лучших на момент публикации результатов. Модель доступна в формате PyTorch и интегрирована с OpenCLIP. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение. Карточка отмечает, что существует более сильная версия; результаты классификации могут зависеть от формулировок текстовых меток и от того, насколько они соответствуют обучающим данным.
nyunai/nyun-c1-llama3-60B — плотная авторегрессионная языковая модель семейства Llama 3, разработанная Nyun AI. Модель содержит 59,2 млрд параметров и рассчитана на генерацию текста; заявленная длина контекста — 8192 токена. Разработчики сообщают, что модель создана без дообучения и содержит примерно на 14% меньше параметров, чем Llama 3 70B. В README приведены результаты сравнений на MMLU, Winogrande и BoolQ, где модель показывает сопоставимые или более высокие результаты по отдельным тестам. Подходит для генерации текста и ответов на вопросы общего назначения. Для использования действует лицензия Llama 3. Результаты производительности приведены разработчиком; они не гарантируют аналогичного качества на других задачах и наборах данных.
omniASR-CTC-300M-v2-Zulu-Baseline — модель распознавания речи на базе Wav2Vec2 CTC, преобразованная командой uctnlp из чекпойнта fairseq2 OmniLingual omniASR_CTC_300M_v2. Модель принимает аудио и выдаёт текстовую транскрипцию через CTC-логиты по словарю SentencePiece. В метаданных указано 413,2 млн параметров; архитектура включает 24 слоя энкодера с размером скрытого состояния 1024. Модель предназначена для автоматической транскрибации речи, включая зулу; README также указывает на поддержку нескольких языков. Численная эквивалентность исходному чекпойнту fairseq2 проверена на одном отложенном аудиопримере с допуском atol=1e-4. Сведения о лицензии и ограничениях точности в предоставленных данных отсутствуют.
OpenInstruct Mistral 7B — языковая модель для генерации текста и выполнения инструкций, созданная Devin Gulliver на базе Mistral 7B и обученная с использованием набора данных monology/VMware-open-instruct-higgsfield. Представлена в формате GGUF, а квантованные файлы подготовлены TheBloke. Модель ориентирована на англоязычные задачи, включая ответы на инструкции, генерацию текста и локальное инференс-применение. Модель содержит около 7 миллиардов параметров и использует архитектуру Mistral. В README не указаны точная длина контекста и поддерживаемые модальности, поэтому подтверждена только текстовая генерация на английском языке. GGUF подходит для запуска через llama.cpp и совместимые интерфейсы и библиотеки, включая text-generation-webui, LM Studio, KoboldCpp и llama-cpp-python. Доступны варианты квантования с разной разрядностью, что позволяет выбирать между требованиями к памяти и качеством. К сильным сторонам относятся возможность локального запуска, поддержка CPU+GPU-инференса и несколько вариантов квантования. Ограничения включают специализацию на английском языке, потенциальную потерю качества при сильном квантовании и отсутствие в README подробных данных о результатах оценки, точном контекстном окне и поведении на других языках. Модель распространяется по лицензии Apache-2.0.
pandafish-dt-7b — языковая модель на 7,1 млрд параметров, созданная объединением моделей Experiment26-7B и MergeCeption-7B-v3 методом dare_ties с помощью LazyMergekit. Она основана на архитектуре Mistral и предназначена для генерации текста и общих языковых задач; заявленная длина контекста составляет 32 768 токенов. В README приведены результаты оценивания на наборе Nous Benchmark, включая AGIEval, GPT4All, TruthfulQA и Bigbench. Модель распространяется в формате safetensors по лицензии Apache-2.0. README также перечисляет сторонние варианты в форматах GGUF и MLX. Данных о целевых языках и специализированных предметных областях нет, поэтому модель следует рассматривать как универсальную.
Paraformer-zh — модель распознавания речи из экосистемы FunASR, разработанная командой FunASR. Это сквозная нерегрессионная ASR-модель с параллельной генерацией результата; в карточке указано 220 млн параметров. Модель предназначена прежде всего для распознавания мандаринского китайского языка, в том числе речи со смешением китайского и английского. Заявлена скорость до 120-кратного реального времени на GPU. Модель принимает аудио и возвращает текст. Для длинных записей можно использовать встроенный VAD; потоковый и пакетный режимы, восстановление пунктуации и диаризация доступны в составе полного конвейера FunASR с дополнительными компонентами. Репозиторий содержит веса PyTorch, библиотека для работы — FunASR. Лицензия — Apache-2.0.
PE-Core-L-14-336 — версия энкодера Perception Encoder в формате OpenCLIP, разработанного Meta. Это контрастивная модель с визуальной и текстовой башнями, предназначенная для сопоставления изображений и текстовых описаний. Репозиторий содержит вариант L/14 с разрешением изображений 336 пикселей; в семействе модели L и B дистиллированы из основной версии G. Для визуального кодирования используется attention pooling, а L-версия дополнительно имеет class token для глобальной агрегации признаков. Модель подходит для классификации изображений по текстовым меткам без отдельного обучения на этих метках, а также для извлечения признаков и поиска соответствий между изображениями и текстом. В карточке семейства также описаны результаты для видеоклассификации и видеопоиска, однако этот репозиторий размечен для zero-shot классификации изображений. Веса доступны в форматах PyTorch и safetensors; лицензия — Apache-2.0. Число параметров именно этой конфигурации в карточке не приведено.
PE-Core-T-16-384 — модель семейства Perception Encoder, разработанного Meta и представленного как OpenCLIP-совместимая версия исходных весов. Это контрастивный vision-language энкодер с визуальной и текстовой башнями, предназначенный для получения сопоставимых признаков изображений и текста. Модель подходит для классификации изображений по текстовым описаниям без дополнительного обучения, а также для поиска изображений по тексту и текстов по изображению. Вариант T/16 использует разрешение изображений 384 пикселя; в таблице результатов README для него приведены показатели на наборах ImageNet и ObjectNet, а также на задачах поиска и классификации видео. PE обучен на данных для изображений и текста и дообучен на синтетически выровненных видеоданных. Модель доступна в форматах PyTorch и safetensors и используется через библиотеку open_clip. В метаданных указана лицензия Apache-2.0. Размер текстовой башни и длина её контекста для этого варианта в предоставленных данных не определены.
Pingala V1 Universal — модель автоматического распознавания речи, разработанная Shunyalabs. Она преобразует аудио в текст и предназначена для точной дословной транскрипции встреч, финансовых звонков, вещательных передач, учебных материалов и других записей. В карточке заявлена поддержка 204 языков, включая индийские и мировые языки; метаданные отдельно перечисляют языковые теги, среди которых русский и английский. Модель основана на архитектуре Transformer, принимает аудио с частотой 16 кГц и поддерживает обработку речи в реальном времени; в карточке также указана встроенная функция обнаружения речевой активности. Shunyalabs приводит средний показатель WER 3,10% и средний RTFx 146,23, однако описание результатов в основном посвящено английской речи. Для доступа требуется аутентификация в Hugging Face Hub. Лицензия обозначена как other и содержит ограничения на дискриминационное, военное и иное вредоносное применение; перед использованием следует ознакомиться с полным текстом лицензии.
Bonsai-8B-unpacked-GGUF — это квантованные версии текстовой генеративной модели Bonsai-8B-unpacked, разработанной prism-ml и преобразованной в формат GGUF пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста и локального запуска через llama.cpp, Ramalama, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Модель имеет около 8 миллиардов параметров и поддерживает текстовую модальность. В репозитории представлены варианты от BF16 размером 16,38 ГБ до низкобитных квантований; рекомендуемыми названы Q4_K_M, Q5_K_* и Q6_K_*. Квантование выполнено с использованием imatrix, что позволяет сохранить высокое качество при уменьшении размера. Для работы используется формат prompt с ролями system, user и assistant, включая секцию <think>. Сведения о поддерживаемых языках, архитектуре и размере контекста в README не указаны. Сильные стороны модели — широкий выбор уровней квантования, возможность локального запуска и хорошее соотношение качества, размера и требований к памяти. Более компактные варианты подходят для систем с ограниченной RAM, а Q6_K и Q6_K_L обеспечивают качество, близкое к исходному. Ограничения включают возможное снижение качества у низкобитных вариантов и необходимость обновления используемых инструментов для недавно поддержанных архитектур. Модель распространяется по лицензии Apache-2.0.
Tarek07/Progenitor-V3.3-LLaMa-70B — экспериментальная объединённая языковая модель на архитектуре Llama 3.3, созданная автором репозитория с помощью mergekit. В качестве основы использована meta-llama/Llama-3.3-70B-Instruct; в объединение также вошли EVA-LLaMA-3.33-70B-v0.1, модели Sao10K, Negative_LLAMA_70B и Anubis-70B-v1. Метод слияния — Linear DELLA. Модель содержит 69,5 млрд параметров, принимает текст и генерирует текст, поддерживает диалоговый режим и имеет контекстное окно до 131 072 токенов. Она предназначена для экспериментов с генерацией текста и диалоговым ассистентом. Автор характеризует её как тестовую модель и отмечает субъективное улучшение относительно своих предыдущих версий, но не приводит оценок или результатов сравнительного тестирования. Указана лицензия llama3.3. Практическое использование и распространение должны соответствовать условиям этой лицензии и применимым условиям лицензий исходных моделей, вошедших в слияние.
Qwen-2.5-7b-TitanFusion-v4 — объединённая языковая модель, созданная bunnycore с помощью mergekit и метода TIES на базе Qwen/Qwen2.5-7B. В объединение вошли TitanFusion-v3, rp-lora, Arch-Function-7B, Humanish-Qwen2.5-7B-Instruct и mergekit-ties-uqhfast. Модель построена на плотной архитектуре Qwen2ForCausalLM, содержит 7,1 млрд параметров и рассчитана на генерацию текста и диалоговое взаимодействие. Заявленная длина контекста — до 131 072 токенов. Репозиторий содержит веса в формате safetensors; метаданные указывают интерфейс для вызова инструментов. Модель подходит для диалоговых сценариев и генерации текста, а объединение с Arch-Function-7B предполагает поддержку сценариев с вызовом инструментов. Карточка не приводит результатов оценки качества или подробностей о языковом покрытии. Лицензия в предоставленных данных не указана.
DavidAU/Qwen2.5-MOE-2X1.5B-DeepSeek-Uncensored-Censored-4B-gguf — текстовая генеративная модель в формате GGUF, разработанная DavidAU на основе Qwen 2.5 и компонентов DeepSeek. Она объединяет две модели размером 1,5 млрд параметров — обычную и uncensored-версию — в архитектуре Mixture of Experts с общим экспертом; общий размер составляет немного более 4 млрд параметров. Модель предназначена для генерации текста, рассуждений, решения математических и логических задач, мозгового штурма, написания художественных текстов и сюжетов. Заявлена поддержка английского и китайского языков, контекстное окно — до 128 тысяч токенов. Модель ориентирована на сценарии, где важны reasoning и thinking, а её конфигурация может давать более сильные результаты в рассуждениях, чем исходные модели по отдельности. Для работы требуется корректный Jinja Template, встроенный в GGUF; также могут использоваться DeepSeek Tokenizer и совместимые шаблоны ChatML или Llama 3. Рекомендуется применять квантизации IQ4/Q4 или выше, а для максимального качества — Q6, Q8 или F16. Ограничения связаны с небольшим размером модели: ей может не хватать знаний о культурных отсылках и сложных контекстах, поэтому часто нужны подробные и точно сформулированные запросы. Модель может генерировать избыточное рассуждение, не завершать задачу или выдавать разные результаты при повторных запусках; иногда при английском запросе появляются китайские символы. Модель описана как преимущественно uncensored, однако README не уточняет конкретные границы такого поведения. Лицензия — Apache-2.0.
DavidAU представил Qwen3-30B-A3B-YOYO-V2-Claude-4.6-Opus-High-INSTRUCT как instruct-модель для диалогов и задач, требующих рассуждений. Это дообученная на базе YOYO-AI/Qwen3-30B-A3B-YOYO-V2 модель семейства Qwen3 MoE; в репозитории указаны Transformers и формат safetensors. В метаданных указан размер 2,6 млрд параметров, а карточка описывает исходную архитектуру как модель на 30 млрд параметров с 3 млрд активных параметров, 128 экспертами и контекстом 256 тыс. токенов. При этом метаданные указывают нативный контекст 1 010 000 токенов, поэтому фактическую поддерживаемую длину следует проверять для используемой конфигурации. Модель предназначена для генерации ответов в чате и выдачи рассуждений; автор сообщает о настройке на датасете TeichAI/claude-4.5-opus-high-reasoning-250x и приводит результаты нескольких бенчмарков. README называет её гибридом instruct и reasoning и отмечает, что короткие следы рассуждений могут появляться в тексте генерации. Заявления о превосходстве в бенчмарках принадлежат автору и приведённые в карточке данные не позволяют независимо их подтвердить. Язык карточки — английский; подтверждена лицензия Apache-2.0.
Qwen3.5-27B-ultra-uncensored-heretic-v2-GGUF — набор GGUF-квантизаций модели llmfan46/Qwen3.5-27B-ultra-uncensored-heretic-v2, разработанной независимым автором llmfan46 на основе Qwen/Qwen3.5-27B. Модель создана для генерации текста с существенно меньшим количеством отказов и ограничений по сравнению с исходной версией; в карточке также указан тип pipeline image-text-to-text, однако подробности о поддерживаемых визуальных сценариях не приведены. Декодирование выполнено с помощью Heretic v1.2.0 методом Arbitrary-Rank Ablation с сохранением норм строк. Изменения затрагивают компоненты attn.out_proj и attn.o_proj в слоях 17–45. Заявленный размер базовой модели — 27B параметров. По данным автора, частота отказов снизилась до 1 из 100 против 95 из 100 у оригинала, а KL-дивергенция составила 0,0600. На тесте PIQA результаты близки к исходной модели: acc 0,8112 против 0,8128 и acc_norm 0,8194 против 0,8199; это указывает на сохранение значительной части базовых способностей, хотя приведённые оценки не заменяют полноценное независимое тестирование. Основное преимущество модели — сочетание сниженного количества отказов с близостью к возможностям Qwen3.5-27B. Ограничения включают отсутствие в README сведений о конкретных GGUF-квантизациях, размере контекста, языках, точных модальных возможностях и требованиях к аппаратному обеспечению. Лицензия в карточке не указана, поэтому условия распространения и использования следует уточнять отдельно.