I.3Извлечение и структурирование данных

Merino-XL-v2 — мультиязычная модель для поиска и ранжирования документов, разработанная BAA AI (Black Sheep AI). Она объединяет биэнкодер для получения эмбеддингов запросов и документов и кросс-энкодер для оценки релевантности пары «запрос — документ». Обе части построены на общей таблице входных эмбеддингов и используют основу xlm-roberta-large; всего около 880 млн параметров. Для поиска модель выдаёт L2-нормализованные векторы размерности 1024; к запросам перед вычислением эмбеддинга добавляют префикс «query: ». Для переранжирования она возвращает один логит релевантности на пару запроса и документа. Модель предназначена для двух этапов RAG-поиска: первичного извлечения кандидатов и последующего переранжирования. Разработчик сообщает, что модель снята с рекомендуемой линейки: её заменили Merino-Large и Merino-Large-v2, которые не уступают или превосходят её по оценкам и дешевле в обслуживании. Четырёхбитный вариант не прошёл проверку устойчивости к отвлекающим документам; доступны веса fp16 для воспроизводимости. Лицензия в метаданных обозначена как «other», поэтому условия использования следует сверить с лицензией репозитория.

MiniCPM5-1B-i1-GGUF — это набор imatrix-квантизированных версий базовой языковой модели openbmb/MiniCPM5-1B, подготовленный пользователем mradermacher. Модель предназначена для генерации текста, работы с длинным контекстом и вызова инструментов, включая локальное использование на устройствах с ограниченными ресурсами и edge-сценарии. В карточке указаны английский и китайский языки, а также датасеты Ultra-FineWeb, Ultra-FineWeb-L3, UltraData-Math и UltraData-SFT-2605, использованные для базовой модели. Модель имеет размер 1 млрд параметров и распространяется в формате GGUF с различными уровнями квантизации — от IQ1_S до Q6_K. Размер файлов составляет примерно от 0,5 до 1 ГБ; вариант i1-Q4_K_M отмечен как быстрый и рекомендуемый, а i1-Q4_K_S — как оптимальный по соотношению размера, скорости и качества. Более агрессивные варианты занимают меньше места, но могут заметно уступать в качестве, тогда как более крупные варианты обычно сохраняют качество лучше. Поддержка мультимодальности и точный размер контекста в README не указаны. Лицензия модели — Apache-2.0. Доступны готовые квантизированные файлы, а также imatrix-файл для создания собственных квантов. Ключевое ограничение — компромисс между компактностью и качеством, особенно у вариантов с низкой точностью; конкретные показатели производительности и качества в карточке не приведены.

MiniCPM5-2B-heretic-abliterated-i1-GGUF — это квантизированная в формате GGUF версия модели insraq/MiniCPM5-2B-heretic-abliterated, подготовленная mradermacher. Модель относится к семейству MiniCPM и предназначена для генерации текста, включая локальное и периферийное развёртывание, сценарии с длинным контекстом и вызовом инструментов. В метаданных указана поддержка английского и китайского языков. Модель имеет около 2 млрд параметров; точные сведения об архитектуре и максимальной длине контекста в README не приведены. Доступно множество вариантов квантизации i1 с размером примерно от 0,8 до 1,9 ГБ, что позволяет выбирать между требованиями к памяти, скоростью и качеством. Для части вариантов указано использование imatrix-квантизации; наиболее сбалансированными автор README называет i1-Q4_K_S и i1-Q4_K_M, причём последний рекомендован как быстрый вариант. К сильным сторонам относятся небольшой размер, возможность работы на устройствах с ограниченными ресурсами, поддержка английского и китайского языков, а также ориентированность на длинный контекст и tool-calling. Ограничения зависят от выбранного уровня квантизации: варианты с очень малым размером могут заметно терять качество, а точные показатели производительности и качества в README не приведены. Лицензия модели — Apache-2.0.

Mistral-7B-Instruct-Uz — инструктивно дообученная языковая модель, разработанная Eldor Fozilov, Azimjon Urinov и Khurshid Juraev на основе Mistral-7B-Instruct-v0.3. Авторы продолжили предварительное обучение и настроили модель на сочетании открытых и синтетических данных на узбекском и английском языках, стремясь сохранить знания базовой модели и улучшить её работу с узбекским языком. Модель предназначена для генерации текста и диалогов, перевода между узбекским и английским, суммаризации и ответов на вопросы. В карточке приведены результаты сравнительных оценок на задачах перевода, анализа тональности и классификации узбекских новостей, а также на англоязычном MMLU. Архитектура — плотная MistralForCausalLM на 7,1 млрд параметров; контекст — до 32 768 токенов. Доступны веса PyTorch и Safetensors для библиотеки Transformers. Авторы характеризуют модель как раннюю версию и отмечают планы улучшить подбор данных и дообучение, поэтому качество может быть нестабильным в отдельных задачах. Модель распространяется по лицензии Apache-2.0.

evolveon/Mistral-7B-Instruct-v0.3-abliterated — версия Mistral-7B-Instruct-v0.3, обработанная методом abliteration, который, согласно карточке, предназначен для создания менее ограниченной версии модели. В основе лежит инструктивная языковая модель Mistral AI; автор карточки благодарит FailSpy за исходный код и методику. Модель предназначена для диалогов и генерации текста по инструкциям. Она построена на архитектуре Mistral с 7,1 млрд параметров, принимает текст и использует контекст до 32 768 токенов. В метаданных указан английский язык; также заявлен интерфейс вызова инструментов. Карточка характеризует модель как uncensored, однако не приводит оценок качества или подробностей проверки. Лицензия в предоставленных данных не указана.

Mistral-NeMo-Minitron-8B-Base-IMat-GGUF — это набор GGUF-квантизированных вариантов базовой текстовой модели nvidia/Mistral-NeMo-Minitron-8B-Base. Квантизацию выполнил legraphista с использованием llama.cpp b3613 и метода IMatrix, предназначенного для снижения размера модели с сохранением качества при низкой разрядности. Доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и ряда IQ-квантизаций; размеры файлов составляют примерно от 3,33 до 16,84 ГБ. Модель предназначена для генерации текста и локального запуска через совместимые с GGUF инструменты, включая llama.cpp. Варианты с IMatrix доступны преимущественно для низкоразрядных форматов и могут быть полезны при ограниченных ресурсах памяти, однако более сильное сжатие обычно связано с большей потенциальной потерей качества. В README не указаны архитектурные детали, поддерживаемые языки, длина контекста и специализированные сценарии применения. Модель распространяется по лицензии NVIDIA Open Model License Agreement; исходная модель имеет формат BF16.

moona3k подготовил квантованный вариант Qwen/Qwen3-ASR-1.7B для библиотеки MLX и компьютеров Apple Silicon. Это модель распознавания речи, которая преобразует аудио в текст; через пакет mlx-qwen3-asr она также поддерживает выдачу временных меток слов и работу HTTP-сервера. По данным карточки, модель поддерживает английский, китайский, японский, корейский, немецкий, французский, испанский, русский, арабский и хинди. Текстовый декодер и эмбеддинги квантованы до 4 бит с размером группы 64, аудиоэнкодер — до 8 бит; остальные плавающие тензоры хранятся в float16. Размер загрузки — 1,2 ГБ против 4,4 ГБ у исходной версии в fp16. В тесте на 100 фрагментах LibriSpeech test-clean этот артефакт показал WER 1,73% и CER 0,53%; результаты небольшого теста не гарантируют такого же качества на других языках и аудио. Для загрузки требуется mlx-qwen3-asr версии 0.4.3 или новее. Лицензия — Apache-2.0.

liminerity/mm4.ascii.star — языковая модель семейства Llama, разработанная liminerity и дообученная на основе liminerity/mm4.star. Модель предназначена для генерации текста и диалогового общения; при обучении использовались наборы Alpaca-Star и alpaca-star-ascii. Модель имеет плотную архитектуру LlamaForCausalLM и содержит 2,7 млрд параметров. Контекстное окно составляет 32 768 токенов. В карточке указано обучение с использованием Unsloth и TRL. Лицензия — Apache-2.0. Карточка не описывает отдельные гарантии качества или ограничения применения; результаты генерации могут зависеть от формулировки запроса и данных дообучения.

MMLW-retrieval-e5-large — польскоязычный текстовый энкодер, разработанный для задач информационного поиска. Модель основана на multilingual E5 и использует архитектуру XLM-RoBERTa; её размер составляет 658,7 млн параметров, а контекст — 514 токенов. Она кодирует запросы и фрагменты текста в векторы размерности 1024. Модель обучали в два этапа: сначала дистиллировали на 60 млн польско-английских пар с использованием англоязычных моделей FlagEmbeddings (BGE) в качестве учителей, затем дообучили с контрастивной функцией потерь на польской части MS MARCO. Для кодирования запросов нужен префикс «query: », для документов — «passage: ». На польском бенчмарке PIRB модель показала NDCG@10 58,30. Распространяется по лицензии Apache-2.0.

robro612/ModernBERT-XTR — модель PyLate для поиска и ранжирования текстов на основе архитектуры ColBERT с трансформером ModernBERT. Она обучена методом дистилляции на lightonai/ms-marco-en-bge-gemma и дополнительно контрастивно обучена на bclavie/msmarco-10m-triplets; в метаданных указано 149 млн параметров. Модель преобразует запросы и документы в последовательности плотных 128-мерных векторов и сопоставляет их оператором MaxSim. Подходит для семантического поиска по коллекции документов и для переранжирования результатов первичного поиска. README указывает ограничения длины в 32 токена для запроса и 512 токенов для документа; метаданные указывают контекст до 8192 токенов. Для запуска и построения индекса предназначена библиотека PyLate, а для эффективного поиска README описывает индекс FastPLAID. Модель рассчитана на английский язык. В карточке приведены оценки на наборах Nano BEIR и задачах PyLate Information Retrieval. Лицензия в предоставленных данных не указана.

MotherEarth-Hermes-8B — объединённая диалоговая языковая модель, созданная с помощью mergekit методом SLERP на основе MotherEarth/MotherEarth-1.0-8B и mlabonne/Hermes-3-Llama-3.1-8B-lorablated. Она построена на плотной архитектуре LlamaForCausalLM, содержит 7,5 млрд параметров и рассчитана на контекст до 8192 токенов. Модель предназначена для генерации текста и ведения диалогов. В конфигурации с V-образным распределением весов вклад Hermes усилен на входе и выходе, а средние слои ориентированы на WizardMath. Сведения о лицензии в предоставленных данных отсутствуют.

Карточка модели neuralforgequantum/ms-marco-MiniLM-L12-v2 на Hugging Face совпадает с карточкой cross-encoder/ms-marco-MiniLM-L12-v2, поэтому описание составлено по ней. cross-encoder/ms-marco-MiniLM-L12-v2 — модель ранжирования текстовых пар на базе MiniLM-L12 от Microsoft, дообученная командой Sentence Transformers на задаче ранжирования пассажей MS MARCO. Она принимает поисковый запрос вместе с каждым кандидатом-текстом и оценивает их релевантность, чтобы упорядочить уже найденные документы, например после первичного поиска в ElasticSearch. Модель использует архитектуру BERT для классификации последовательностей, содержит около 40 млн параметров и рассчитана на контекст до 512 токенов. Модель предназначена для повторного ранжирования результатов информационного поиска и извлечения релевантных пассажей. Карточка приводит оценки на наборах TREC Deep Learning 2019 и MS MARCO, однако скорость в ней измерена на V100 GPU и зависит от оборудования. Модель поддерживает английский язык; лицензия Apache-2.0.

alphaedge-ai/multilingual-e5-large-nep-16384 — текстовая embedding-модель для семантического сходства, поиска, сопоставления запросов и документов и ранжирования. Она основана на intfloat/multilingual-e5-large и распространяется в формате Sentence Transformers; исходная архитектура Multilingual E5 разработана Liang Wang, Nan Yang и соавторами. Модель оптимизирована для непальского языка методом trimming: словарь сокращён до 16 384 токенов, а размер модели уменьшен на 42,73% — до 320 665 600 параметров. Модель предназначена прежде всего для работы с непальскими текстами: построения эмбеддингов запросов и документов, семантического поиска и оценки их сходства. Для сокращения словаря использовались 29 721 текст из датасета lbourdois/fineweb-2-trimming. Главное преимущество — существенно меньший объём памяти при заявленной близкой к исходной модели производительности на непальском языке. Ограничения включают возможное ухудшение качества для других языков, поскольку редко используемые в выбранном языке токены были удалены; максимальная длина контекста и поддерживаемые дополнительные модальности в README не указаны. Модель распространяется по лицензии MIT.

Модель minjaechoi/nemotron3-nano-30b-a3b-2p03bit-r34 — исследовательский чекпойнт семейства NVIDIA Nemotron-3 Nano, подготовленный на основе nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16. В README указано, что средняя точность маршрутизируемых экспертов составляет 2,025 бита, а остальные веса имеют формат BF16; веса хранятся в BF16-тензорах после деквантизации. Модель загружается через Transformers и vLLM. Это языковая модель для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Она принимает текст и рассчитана на контекст до 262 144 токенов. Размер в метаданных указан как 1,9 млрд параметров. Данные о конкретных поддерживаемых естественных языках отсутствуют. Чекпойнт помечен как внутренний исследовательский. Лицензия наследуется от базовой модели; её условия следует проверять в карточке nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16. Карточка не приводит оценок качества или перечня известных ограничений.

NeuralMonarch-7B — языковая модель на 7,1 млрд параметров, разработанная Mlabonne на основе Monarch-7B. Это плотная авторегрессионная модель семейства Mistral, дообученная методом DPO на наборах предпочтений truthy-dpo-v0.1 и distilabel-intel-orca-dpo-pairs. Исходная Monarch-7B создана слиянием нескольких моделей, включая OmniTruthyBeagle-7B-v0, NeuBeagle-7B и NeuralOmniBeagle-7B. Модель предназначена для диалогов, следования инструкциям и задач рассуждения. Карточка рекомендует шаблон чата Mistral Instruct и сообщает об окне контекста 8 тыс. токенов; метаданные указывают нативный контекст 32 768 токенов. Заявлены хорошие результаты в бенчмарках для моделей класса 7B, однако эти оценки не гарантируют качество в конкретных сценариях. Модель принимает текст и генерирует текст. В карточке указан английский язык. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое использование.

NeuralsirkrishnaShadow_AlloyingotneoyYam — объединённая языковая модель на архитектуре Mistral, созданная слиянием automerger/NeuralsirkrishnaShadow-7B и automerger/AlloyingotneoyYam-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста; доступна в формате safetensors. Модель принимает текст и генерирует текст, поддерживая контекст до 32 768 токенов. Карточка не описывает специализированные сценарии или языки обучения. Лицензия — Apache-2.0.

NLLB-SigLIP-MRL — мультиязычная модель для сопоставления изображений и текста, объединяющая текстовый энкодер NLLB и визуальный энкодер SigLIP. Она предназначена для поиска изображений по текстовым запросам и поиска текстовых описаний по изображениям на языках Flores-200. Модель создаёт совместные эмбеддинги размером 768, а также укороченные векторы размером 32, 64, 128, 256 и 512 благодаря варианту Matryoshka Representation Learning. Согласно карточке, размеры 256 и 512 сохраняют более 90% качества полного представления; приведены результаты на наборах Crossmodal-3600 и XTD10. Репозиторий содержит веса PyTorch и предназначен для работы через OpenCLIP. Модель разработана Visheratin. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение. Карточка не описывает длину контекста; для задач поиска модель формирует векторы вместо обычного текста.

Noema-2B-GGUF — это набор GGUF-квантизированных сборок модели Noema-2B, разработанной NoemaAI-labs. Модель представляет собой примерно 2-миллиардную reasoning-модель, дообученную на базе Qwen/Qwen3.5-2B, и предназначена для генерации текста, решения математических и логических задач, а также локального запуска через llama.cpp и совместимые среды. Заявленный язык — английский. Модель использует гибридную архитектуру Qwen3.5 с Gated-DeltaNet: в ней сочетаются линейные слои и слои полноформатного внимания. Доступны варианты F16, Q8_0, Q6_K и Q4_K_M размером примерно от 1,2 до 3,5 ГБ; Q4_K_M рекомендован как наиболее сбалансированный по качеству и размеру, а Q8_0 обеспечивает наиболее высокую точность среди квантизированных вариантов. Модель настроена и оценивалась в non-thinking mode, который включается шаблоном чата по умолчанию. Для работы требуется свежая версия llama.cpp с поддержкой архитектуры qwen35; старые версии могут не загрузить модель. Рекомендуется использовать вероятностную генерацию с параметрами temperature 0.7, top-p 0.8, top-k 20 и presence penalty 1.5. Жадная генерация с temperature 0 может приводить к зацикливанию повторов. Максимальный размер контекста, подробные бенчмарки и ограничения базовой модели в данной карточке не указаны. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой Qwen/Qwen3.5-2B.

Nous-Hermes-2-Yi-34B-imatrix-GGUF — набор квантизированных версий текстогенерационной модели Nous-Hermes-2-Yi-34B, разработанной Nous Research. Модель предназначена для диалогового взаимодействия и генерации текста, включая многоходовые чаты с системными инструкциями, ролями и управляемым стилем ответа. Модель имеет размер 34B и распространяется в формате GGUF с использованием imatrix-квантизации. Она поддерживает текстовую модальность и английский язык. Для взаимодействия используется формат ChatML, совместимый по принципу структурирования сообщений с API OpenAI; README также указывает на возможность запуска через llama.cpp и LM Studio. Размер контекстного окна и точная базовая архитектура в README не указаны. К сильным сторонам относятся поддержка системных инструкций, ролевой структуры диалога и локального запуска через совместимое программное обеспечение. Ограничения включают отсутствие сведений о качестве, результатах тестирования, требованиях к ресурсам и характеристиках отдельных вариантов квантизации. Лицензия обозначена как other, однако её конкретные условия в README не приведены.

omniASR-CTC-1B-v2 — конвертированная в формат Hugging Face модель распознавания речи на архитектуре Wav2Vec2, созданная автором репозитория на основе контрольной точки OmniLingual fairseq2 omniASR_CTC_1B_v2. Модель содержит 1,3 млрд параметров, использует 48 слоёв энкодера и скрытый размер 1280; она выдаёт CTC-логиты по словарю SentencePiece. Численное соответствие исходной контрольной точке проверено на аудиопримере. Модель предназначена для автоматической транскрипции речи на нескольких языках. Её можно применять для преобразования аудиозаписей в текст и для многоязычного распознавания речи. Карточка не приводит список поддерживаемых языков. Репозиторий содержит веса safetensors для Transformers; сведения о лицензии в доступных данных отсутствуют.

Orca-2-13B-GGUF — квантизированная версия языковой модели Orca-2-13b, разработанной Microsoft и преобразованной в формат GGUF компанией Second State Inc. Модель предназначена для генерации текста и диалоговых сценариев, включая использование через LlamaEdge как сервиса или командного приложения. Для работы применяется шаблон запросов ChatML, а заявленный размер контекста составляет 5120 токенов. Модель основана на архитектуре Orca-2 с 13 млрд параметров и поддерживает только текстовую модальность. README не указывает набор поддерживаемых языков, поэтому языковые возможности нельзя достоверно определить по представленным данным. Доступны варианты квантизации от Q2_K до Q8_0 размером примерно от 5,43 до 13,8 ГБ. Чем выше разрядность, тем меньше потери качества, но тем больше требования к памяти; авторами рекомендуется сбалансированный вариант Q4_K_M либо варианты Q5_K_M и Q5_K_S с очень небольшими потерями качества. Ограничения зависят от выбранного уровня квантизации: компактные варианты могут значительно терять качество, а более точные требуют больше ресурсов. Для запуска указан LlamaEdge версии 0.2.8 или новее. Модель распространяется по Microsoft Research License; точные условия следует уточнять в файле лицензии исходного репозитория.

OrcaMaidXL 17B 32K — языковая модель для генерации текста, разработанная ddh0 и представленная в формате GGUF. Это квантованная версия исходной модели ddh0/OrcaMaidXL-17B-32k; квантование выполнено TheBloke. Модель относится к архитектуре Llama, имеет около 17 миллиардов параметров и заявленный контекст до 32 тысяч токенов. Она предназначена для текстовых задач и использует формат инструкций Alpaca: запрос передаётся как инструкция, после чего модель формирует ответ. Модель подходит для локального запуска и сценариев, требующих генерации текста с использованием CPU и GPU; GGUF поддерживается llama.cpp и рядом совместимых приложений и библиотек. В README не указаны поддерживаемые языки, результаты тестирования или специализированные сильные стороны, поэтому качество в конкретных задачах заранее оценить нельзя. Используется квантованное представление, что может уменьшать требования к ресурсам по сравнению с полной версией, но потенциально влияет на точность в зависимости от выбранного варианта квантования. Лицензия обозначена как microsoft-research-license и other; также указано, что модель основана на Llama 2 и может подпадать под условия лицензии Meta Llama 2. Вопросы о взаимодействии этих условий рекомендуется уточнять у автора исходной модели.

Orca-Qwen3.8-27B-Uncensored-unsloth-mlx — квантизированная MLX-сборка модели Qwen3.8-27B, подготовленная nova-quill на основе orcarouter/Qwen3.8-27B-Uncensored с использованием imatrix от Unsloth. Базовая Qwen3.8-27B — плотная мультимодальная модель на 27 млрд параметров для диалогов, анализа изображений и видео, программирования и многошаговых задач; карточка этой версии также указывает поддержку vision и pipeline image-text-to-text. Исходная сборка описана как abliterated, то есть с удалением отказов, и предназначена для постобучения и квантизации. Репозиторий содержит форматы GGUF и safetensors; библиотека указана как Transformers. Модель лицензирована по Apache-2.0. Метаданные указывают английский и китайский языки; сведений о контекстном окне и ограничениях качества этой сборки нет.

Ornith-1.0-35B-MLX-8bit — это 8-битная квантованная версия языковой модели Ornith-1.0-35B, разработанной deepreinforce-ai. Версия подготовлена командой LM Studio с использованием MLX и оптимизирована для работы на компьютерах с Apple Silicon. Модель относится к классу text-generation и предназначена для генерации текста и других сценариев применения текстовых языковых моделей в локальной среде. Модель содержит 35 миллиардов параметров и поставляется в формате MLX с 8-битным квантованием, что снижает требования к памяти по сравнению с полноразмерной версией и делает её более подходящей для запуска на устройствах Apple Silicon. Данные о поддерживаемых языках, размере контекстного окна, точной архитектуре, специализированных задачах и результатах тестирования в README не указаны. Лицензия обозначена как MIT; при использовании следует также учитывать условия лицензии исходной модели Ornith-1.0-35B.

FluidInference/parakeet-tdt-0.6b-v3-ov — версия NVIDIA Parakeet TDT V3, оптимизированная FluidInference для OpenVINO. Это модель автоматического распознавания речи на базе FastConformer-RNNT; в README указано 1,1 млрд параметров и конвейер из четырёх моделей. Она предназначена для транскрибации аудио на процессорах и NPU Intel, поддерживает 24 европейских языка и обрабатывает речь фрагментами по 10 секунд с перекрытием в 3 секунды. Среди возможностей — сохранение состояния LSTM между фрагментами, удаление повторяющихся токенов и временные метки для токенов. В тестах README приведены средний WER 3,7% на LibriSpeech test-clean и 17,0% на многоязычном FLEURS; результаты зависят от языка и оборудования. Лицензия CC BY 4.0. В метаданных базовой моделью указана nvidia/parakeet-tdt-0.6b-v3, однако README называет базовой моделью nvidia/parakeet-tdt-1.1b, а также расходится с метаданными по размеру и списку языков.

djuna/Q2.5-Fuppavy-7B — объединённая автором модель на базе семейства Qwen2.5, созданная с помощью mergekit и метода Model Stock. В объединение вошли Qwen/Qwen2.5-7B и несколько моделей на его основе, включая варианты для математики, диалога, FastApply и другие. Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2ForCausalLM и рассчитана на контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно использовать для ответов на вопросы, продолжения текста и задач, где полезны объединённые способности исходных моделей, в том числе математические рассуждения. В репозитории указаны веса Safetensors; выходной формат при создании — bfloat16. README и метаданные не сообщают результаты сравнительных оценок или конкретные гарантии качества. Языки и условия лицензирования в предоставленных данных не указаны.

q36 — диалоговая языковая модель на архитектуре Qwen3, опубликованная пользователем tjcrims0n. Это полноразмерный экспорт весов после слияния LoRA-адаптера, полученного в эксперименте Annihilate trial 71, с дообученной базовой моделью khazarai/Qwen3-4B-Qwen3.6-plus-Reasoning-Distilled. Модель содержит 3,7 млрд параметров, принимает текст и генерирует текст; максимальная длина контекста — 262 144 токена. Модель предназначена для диалоговых ответов и генерации текста, в том числе для задач с рассуждениями, унаследованных от базовой модели. В README указаны нулевые отказы в шести проверках, но этого недостаточно для выводов о надёжности или безопасности ответов. Веса сохранены в формате Safetensors с точностью bfloat16 и доступны по лицензии Apache-2.0.

Qwen1.5-32B-Chat-GGUF — это квантизированные версии диалоговой языковой модели Qwen1.5-32B-Chat, разработанной командой Tongyi Qianwen и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и ведения диалогов, включая локальный запуск через llama.cpp. В README указано несколько вариантов квантизации с разным соотношением качества, размера файла и требований к памяти. Модель содержит 32 миллиарда параметров и работает только с текстом. Поддерживаемым языком указан английский. Доступны варианты от Q8_0 размером 34,55 ГБ до Q2_K размером 12,22 ГБ. Наиболее качественным и рекомендуемым вариантом среди доступных назван Q6_K размером 26,67 ГБ; варианты Q5_K_M и Q4_K_M предлагают компромисс между качеством и занимаемым объёмом. Более сильная квантизация уменьшает требования к памяти, но может заметно снижать качество ответов. Ключевое преимущество набора — возможность запуска крупной чат-модели на совместимом локальном оборудовании с выбором подходящего уровня квантизации. Ограничения включают значительные требования к памяти даже у компактных вариантов, снижение качества у низкобитных версий и отсутствие в README сведений об архитектуре, размере контекста, производительности и поддержке других языков. Модель распространяется по лицензии tongyi-qianwen; в README приведена ссылка на её текст.

Qwen2.5-14B-Instruct-heretic — это модифицированная версия Qwen2.5-14B-Instruct, разработанная автором RACER IS OP и опубликованная пользователем saidutta69. Модель предназначена для диалогов, генерации текста, рассуждений и выполнения инструкций, особенно в сценариях, где требуется прямой ответ без стандартных отказов базовой модели. Она работает с текстом и заявлена для английского языка. Модель сохраняет архитектуру и размер базовой Qwen2.5-14B-Instruct — около 14,8 млрд параметров. Деконтентирование выполнено с помощью Heretic v1.4.0 методом направленной абляции: целевые изменения внесены в веса выходных проекций attention и down-пр projections MLP без дообучения. По данным README, частота отказов на наборе из 100 adversarial-запросов снизилась с 98 до 14, а KL-дивергенция относительно базовой модели составила 0,06, что указывает на небольшие изменения распределения ответов. Сильная сторона модели — сохранение исходных знаний и навыков следования инструкциям при существенно меньшем числе отказов. Доступны полноточные BF16-веса и GGUF-квантизации Q4_K_M, Q5_K_M, Q6_K и Q8_0; запуск возможен на GPU с 16–24 ГБ памяти, потребительском оборудовании, CPU и Apple Silicon. Ограничения включают отсутствие дополнительного прироста возможностей, унаследованные фактические ограничения и предубеждения базовой модели, а также намеренное подавление защитных механизмов: модель может выполнять потенциально небезопасные запросы и не подходит для неотмодерированных публичных сервисов. Лицензия — qwen-research; условия коммерческого использования следует уточнять в лицензии базовой модели.

Qwen2.5-7B-Instruct-abliterated-v2-Q4_K_M-GGUF — это локальная текстовая генеративная модель в формате GGUF, созданная Lumen Models на основе huihui-ai/Qwen2.5-7B-Instruct-abliterated-v2. Модель предназначена для запуска на обычных компьютерах с 8–16 ГБ оперативной памяти через LM Studio, Ollama, Jan или Faraday, без обязательной передачи данных во внешние сервисы. Модель ориентирована на генерацию текста, творческое письмо, ролевые сценарии, анализ сложных текстов и исследовательские задачи. Заявлена улучшенная работа на испанском языке, также указана поддержка английского. Архитектура основана на Qwen2.5 с 7 млрд параметров; конкретное значение контекстного окна и перечень поддерживаемых модальностей в README не указаны. Квантизация Q4_K_M уменьшает размер модели и требования к памяти при сохранении большей части исходных возможностей, однако может снижать точность по сравнению с полной версией. Версия описана как abliterated и uncensored, то есть с минимизированными ограничениями на содержание ответов. Это расширяет применимость для творческих и исследовательских сценариев, но одновременно повышает риск генерации нежелательного, предвзятого или небезопасного контента. Модель распространяется по лицензии Apache-2.0; README также ограничивает заявленные цели исследования, творческой литературы, тестирования кибербезопасности и локальной разработки и снимает с дистрибьютора ответственность за результаты использования.