I.3Извлечение и структурирование данных

OsaurusAI подготовила для Apple Silicon сборку JANG_6M модели Nanbeige4.2-3B — диалоговой языковой модели с архитектурой Looped Transformer. В README указаны 22 слоя, выполняемые дважды с общими весами, что даёт эффективную глубину 44 слоя; размер весов — 4,17 млрд параметров. Контекст составляет 256K токенов. Модель дообучена на базе Nanbeige/Nanbeige4.2-3B и представлена в формате MLX safetensors с 6-битными аффинными весами и 8-битным attention; метаданные указывают библиотеку MLX и лицензию Apache-2.0. Модель предназначена для диалогов, генерации текста, рассуждений и агентных сценариев с вызовом инструментов на английском и китайском языках. README приводит результаты проверки близости к исходной версии bf16 и скорости генерации на M5 Max, но они относятся к описанной аппаратной конфигурации и тестам автора. Для корректной работы требуется загрузчик, поддерживающий архитектуру Nanbeige с циклическим выполнением слоёв и 44 слотами KV-кэша; общий загрузчик или один только mlx_lm.generate без соответствующего класса модели может выдавать неверные ответы. Сборка предназначена для Apple Silicon и распространяется по лицензии Apache-2.0.

vonjack/Phi-3-mini-4k-instruct-LLaMAfied — текстовая генеративная модель на 3,7 млрд параметров, опубликованная vonjack. В метаданных указана архитектура LlamaForCausalLM; карточка описывает исходную модель Phi-3 Mini-4K-Instruct и её настройку для следования инструкциям. Контекст составляет 4096 токенов, формат весов — safetensors. Модель предназначена для диалогов и генерации текста, включая задачи на логику, математику и программирование. Компактный размер подходит для сред с ограниченными ресурсами и сценариев, где важна задержка; заявленная ориентация — коммерческое и исследовательское применение на английском языке. Лицензия — MIT. README указывает, что качество на языках кроме английского ниже; ответы могут быть неточными, устаревшими, предвзятыми или оскорбительными. Сгенерированный код и API следует проверять, особенно вне Python. Для чувствительных и высокорисковых сценариев необходимы дополнительные проверки и меры защиты.

Qwen-2.5-7b-TitanFusion-v5-Exp — объединённая языковая модель на базе архитектуры Qwen2, созданная сообществом с помощью mergekit и метода TIES. В объединение вошли huihui-ai/Qwen2.5-7B-Instruct-abliterated-v2, Cran-May/T.E-8.1, Qwen/Qwen2.5-Coder-7B, Qwen/Qwen2.5-Math-7B, happzy2633/qwen2.5-7b-ins-v3 и katanemo/Arch-Function-7B. Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2ForCausalLM и принимает текст для генерации текста; поддерживает диалоговый режим и интерфейс вызова инструментов. Контекстное окно составляет 32 768 токенов. Включение кодовой, математической и функционально ориентированных моделей предполагает применение для программирования, решения математических задач и диалогов с инструментами, однако README не приводит отдельных результатов оценки этих возможностей. Репозиторий содержит веса в формате safetensors и предназначен для Transformers. Лицензия в предоставленных данных не указана.

Qwen2.5-Coder-14B-Instruct-MLX-8bit — 8-битная MLX-квантизация модели Qwen2.5-Coder-14B-Instruct, разработанной Qwen. Квантизацию предоставил bartowski на основе инструментов mlx-examples; модель распространяется в рамках программы Community Models LM Studio, но LM Studio не является её создателем или владельцем. Модель предназначена для генерации и обработки текста и программного кода, прежде всего для сценариев с code agents. Она обучалась на объёме до 5,5 триллиона токенов, включая исходный код, текстово-кодовые связи и синтетические данные. Заявлена поддержка длинного контекста до 128K токенов с масштабированием RoPE через YaRN с коэффициентом 4,0. Указан английский язык; README также отмечает совместимость с компьютерами Mac на Apple Silicon. Ключевые сильные стороны модели — специализация на задачах программирования, поддержка длинного контекста и локальный запуск через MLX на совместимых устройствах. Ограничения включают зависимость от Apple Silicon для заявленной совместимости, а также возможные неточные, вредные или неподходящие ответы, характерные для генеративных моделей; конкретные результаты зависят от сценария использования. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B-A3B-REAM-160-ru-agent — экспериментальная сжатая версия Qwen/Qwen3.6-35B-A3B, подготовленная автором WaveCut методом REAM: основные языковые MoE-слои и блок MTP сведены к 160 экспертам. Калибровка ориентирована на код, математику, агентное использование инструментов и сохранение ответов на русском языке. Модель предназначена для диалогов, работы coding-агента и анализа изображений; метаданные указывают на интерфейс вызова инструментов и поддержку vision. Модель принимает текст и изображения и генерирует текст. README описывает проверки структуры и пробные сценарии на русском языке, отладке кода и вызове инструментов, но не приводит результаты количественной оценки качества. Формат файлов — safetensors, библиотека — Transformers. Условия лицензии в предоставленных данных не указаны.

Это конверсия в формат MLX модели DavidAU/Qwen3.6-40B-Fable-Fusion-6-Core-Deckard-Eleanor-Heretic-Uncensored, выполненная с помощью mlx-vlm 0.6.10. Модель основана на плотной мультимодальной архитектуре Qwen3.5 с 40 млрд параметров и принимает текст и изображения, формируя текстовые ответы. Она предназначена для диалогов, рассуждений, программирования и творческого письма; в метаданных также заявлены режимы работы с изображениями. Модель поддерживает английский и китайский языки. Репозиторий содержит веса safetensors в формате MLX и распространяется по лицензии Apache-2.0. Подробности обучения и дополнительные ограничения в карточке этой конверсии не описаны; за характеристиками исходной модели следует обращаться к её карточке.

Qwen3-8B-Base — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это базовая модель на этапе предобучения, рассчитанная на дальнейшую адаптацию и генерацию текста. В карточке указаны 36 слоёв, 32 головы внимания для Q и 8 для KV; метаданные каталога оценивают размер в 7,6 млрд параметров, а README приводит 8,2 млрд параметров всего и 6,95 млрд без эмбеддингов. Контекст — 32 768 токенов. Модель предназначена для продолжения текста и служит основой для создания специализированных моделей и диалоговых систем. Семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; README отмечает отдельное внимание к программированию, STEM, рассуждениям, книгам и многоязычным данным. Модель использует архитектуру Qwen3 для причинного моделирования языка и распространяется в формате safetensors для Transformers. Лицензия — Apache-2.0. Карточка советует использовать актуальную версию Transformers: версии ниже 4.51.0 не распознают архитектуру qwen3. Поскольку это базовая, а не инструктивно настроенная версия, для диалогового применения и следования инструкциям может понадобиться дополнительная настройка.

Qwen3-Coder-30B-A3B-Instruct-3bit — языковая instruction-модель для генерации текста и работы с программным кодом, разработанная Qwen и преобразованная сообществом mlx-community в формат MLX. Модель основана на Qwen/Qwen3-Coder-30B-A3B-Instruct и предназначена для запуска с библиотекой mlx-lm, в частности в сценариях локальной генерации на совместимом оборудовании Apple MLX. Вариант имеет 3-битное представление и относится к семейству Qwen3-Coder; точные сведения об архитектуре, количестве активных параметров, контекстном окне, поддерживаемых языках и модальностях в README не указаны. Заявленный тип задачи — text-generation, поэтому модель ориентирована на генерацию текста, включая ответы в instruction-режиме и программный код. Сжатое 3-битное представление может снизить требования к памяти, однако README не содержит результатов тестирования, сведений о качестве, ограничениях или производительности. Модель распространяется по лицензии Apache-2.0. Для использования требуется библиотека mlx-lm; конвертация выполнена с использованием версии 0.26.1.

Qwen3-Coder-480B-A35B-Instruct-GGUF — это набор квантизированных вариантов инструкционной модели Qwen3-Coder-480B-A35B-Instruct, разработанной командой Qwen. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; модели распространяются в формате GGUF и предназначены для запуска через llama.cpp, LM Studio и другие совместимые проекты. Модель ориентирована на генерацию текста и задачи программирования в диалоговом режиме. README указывает шаблон запросов с ролями system, user и assistant. Доступны варианты квантизации Q2–Q8 с размером файлов примерно от 169 до 510 ГБ; версии с более высокой точностью обеспечивают лучшее качество, но требуют значительно больше оперативной памяти, а низкоразрядные варианты экономят ресурсы за счёт снижения качества. Для большинства сценариев автор рекомендует варианты Q4_K_M, Q5_K_M и Q6_K. Сильная сторона модели — большой размер исходной модели и широкий выбор квантизаций, позволяющий выбирать компромисс между качеством и требованиями к памяти. Ограничения — крайне высокие аппаратные требования даже у компактных вариантов, а также возможное ухудшение качества при использовании низких уровней квантизации. Сведения о поддерживаемых языках, размере контекста, мультимодальности и лицензии в README не указаны.

Kaoeiri/Qwenwify2.5-32B-v4.71-ED — языковая модель для генерации текста и диалогов, созданная слиянием нескольких моделей семейства Qwen2.5 при помощи mergekit. В README указан метод DARE TIES и базовая модель Qwen/Qwen2.5-32B-Instruct; в слияние также вошли модели, ориентированные на диалог, рассуждения, ролевые сценарии и японский язык. Модель использует плотную архитектуру Qwen2ForCausalLM, содержит 32 млрд параметров и имеет контекстное окно 32 768 токенов. Метаданные указывают поддержку китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков, а также интерфейс для вызова инструментов. Она подходит для диалогов, генерации текста и сценариев ролевого общения; подробные сравнительные оценки качества в карточке не приведены. Лицензия в предоставленных данных не указана.

BenevolenceMessiah/QwQ-32B-Preview-abliterated-Self-instruct-3x-TIES-v1.0 — языковая модель на 32 млрд параметров, созданная BenevolenceMessiah слиянием предобученных моделей через TIES с помощью mergekit. В качестве базовой использована huihui-ai/QwQ-32B-Preview-abliterated; в слияние также вошли EVA-UNIT-01/EVA-Qwen2.5-32B-v0.2, rombodawg/Rombos-Coder-V2.5-Qwen-32b и rombodawg/Rombos-LLM-V2.5-Qwen-32b. Модель построена на плотной архитектуре Qwen2 и предназначена для генерации текста и диалогов. Поддерживает контекст до 32 768 токенов, распространяется в формате safetensors и работает через Transformers. В каталоге также отмечен интерфейс вызова инструментов. Состав моделей предполагает применение для общих диалогов, работы с кодом и написания историй, однако отдельные языки и качество на конкретных задачах не подтверждены предоставленными данными. Условия лицензирования в предоставленных источниках не приведены, поэтому перед использованием следует проверить лицензию репозитория и условия базовых моделей. Модель создана слиянием и может наследовать особенности и ограничения включённых чекпойнтов.

SakalFusion-7B-Beta — объединённая языковая модель на архитектуре Qwen2, созданная методом TIES с помощью mergekit. В слиянии использованы Qwen2.5-Coder-7B-Instruct, Qwen2.5-Math-7B-Instruct и Sakalti/model-3; базовая модель слияния — bunnycore/Qwen2.5-7B-RRP-1M. Модель содержит 7,1 млрд параметров и распространяется в формате safetensors для библиотеки Transformers. Модель предназначена для генерации текста в диалоговом формате, в том числе для задач программирования и математики, унаследованных от входящих в слияние моделей. Метаданные указывают контекст до 1 010 000 токенов и интерфейс для вызова инструментов. Карточка не приводит результатов оценивания, поэтому качество на конкретных задачах и практическая эффективность такого длинного контекста не подтверждены. Лицензия в предоставленных данных не указана. Модель создана на основе нескольких чекпойнтов, поэтому условия использования следует сверить с лицензиями исходных моделей.

Gille/StrangeMerges_13-7B-slerp — слитая модель генерации текста, созданная с помощью LazyMergekit из Gille/StrangeMerges_12-7B-slerp и uukuguy/speechless-zephyr-code-functionary-7b. Она основана на плотной архитектуре Mistral с 7,1 млрд параметров и рассчитана на генерацию текста и диалоговые задачи с контекстом до 32 768 токенов. Слияние выполнено методом SLERP с настройками для слоёв внимания и MLP. Модель подходит для диалоговых приложений и генерации текста, включая сценарии с кодом и вызовом функций, на которые указывает один из исходных чекпойнтов. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0.

Tulu V2.5 PPO 13B — англоязычная диалоговая модель-помощник, разработанная AllenAI. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров, дообученная на основе Tulu 2 с применением PPO и данных предпочтений UltraFeedback; для обучения использовалась reward-модель на 70 млрд параметров и смесь промптов. Контекст модели — до 4096 токенов. Модель предназначена для генерации текста и ответов на инструкции в диалоговом формате: её можно применять для вопросов и ответов, помощи с кодом и математическими задачами. В карточке указан шаблон чата с сообщением пользователя между маркерами начала и конца, а токенизатор содержит соответствующий chat template. Модель поддерживает английский язык и распространяется по лицензии Apache 2.0. В карточке отмечено, что модель не обучали выдавать безопасные ответы на этапе RLHF и не снабдили фильтрацией ответов во время работы, поэтому она может генерировать проблемный контент, особенно при соответствующих запросах.

Xoron-Dev-MultiMoe — мультимодальная модель семейства Xoron, опубликованная командой Xoron-Dev и представленная в репозитории Backup-bdg. В метаданных указаны архитектура MoE, 256,5 млн параметров, библиотека Transformers и контекст до 131 072 токенов. README заявляет обработку текста, изображений, видео и аудио, а также генерацию изображений, видео и речи. Для изображений описаны SigLIP-2 и сжатие TiTok, для видео — VidTok с обработкой до 32 кадров, для аудио — обработка сырого PCM и голосовой синтез. Модель позиционируется для мультимодального диалога, понимания визуального и аудиовизуального содержимого, работы с речью, генерации медиа и агентных сценариев с использованием инструментов. Среди заявленных характеристик — разреженная смесь экспертов и контекстное окно 128K. README также заявляет клонирование голоса по короткому образцу, но не приводит независимых оценок качества; описанные возможности и показатели следует считать заявлениями автора. Лицензия репозитория — MIT. В метаданных основной задачей указана генерация текста, тогда как авторский pipeline-тег — any-to-any; для каталога основной задачей выбрана any-to-any, поскольку карточка описывает модель для мультимодального ввода и вывода.

Yosegi-2 — объединённая языковая модель от Local-Novel-LLM-project, созданная с помощью mergekit и метода TIES. Она предназначена для генерации текста и диалоговых сценариев; при объединении использованы Mistral-7B-v0.3, MetaMath-Mistral-7B, speechless-zephyr-code-functionary-7b и локальная LoRA-адаптация Ninja-v1-RP-expressive-v2. Модель построена на архитектуре MistralForCausalLM, содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Репозиторий распространяет веса в формате safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.

airoboros-13b-gpt4-1.1 — дообученная модель семейства LLaMA с 12,9 млрд параметров, созданная Jon Durbin на синтетических данных, сгенерированных GPT-4. Она предназначена для диалоговой генерации текста и отвечает на вопросы, выполняет рассуждения и решает задачи по программированию, математике, викторинам, тестам с выбором ответа и заданиям на заполнение пропусков. Особенность версии 1.1 — улучшенные инструкции для работы с контекстом и около тысячи дополнительных примеров по программированию. В режиме ответов по заданному контексту модель обучена опираться на предоставленные сведения и ограничивать ответ ими, что может помогать снижать галлюцинации. Для этого используется формат с явными разделителями блоков контекста и инструкций. Модель использует шаблон диалога Vicuna 1.1 и имеет контекстное окно 2048 токенов. Модель принимает текст и генерирует текст; карточка не заявляет поддержку конкретных естественных языков. Автор отмечает, что математические рассуждения остаются слабой стороной. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

Atem-Pharaoh-3B-i1-GGUF — GGUF-квантизированная версия модели Atem-Pharaoh-3B, разработанной EphAsad и квантизированной mradermacher. Модель предназначена для генерации текста, диалоговых сценариев и задач рассуждения, включая математику, программирование, анализ и ответы в областях, представленных обучающими наборами. В обучении или дообучении использовались наборы с математическими, кодовыми, медицинскими и рассуждательными примерами, а также синтетические данные, полученные дистилляцией других моделей. Модель имеет около 3 миллиардов параметров и распространяется в формате GGUF для использования с совместимыми инструментами, включая llama.cpp. Доступны варианты с разными уровнями квантизации — от IQ1 и IQ2 до Q6_K; они различаются размером файлов, скоростью и качеством. Для баланса размера, скорости и качества в README рекомендуется вариант i1-Q4_K_M, а i1-Q4_K_S также отмечен как оптимальный по этим параметрам. Указан английский язык; сведения о поддерживаемых модальностях и размере контекстного окна отсутствуют. Сильными сторонами являются компактный размер, возможность локального запуска и специализация на рассуждении, математике, коде и диалогах. Ограничения связаны с потерями качества при низких уровнях квантизации и отсутствием подробных результатов оценивания. Модель распространяется по лицензии Apache-2.0.

Camelidae-8x13B — языковая модель семейства Camelidae, разработанная авторами метода Parameter-Efficient Sparsity Crafting. Это модель типа Mixture-of-Experts с архитектурой на основе LLaMA и примерно 12,9 млрд параметров; для запуска в README приведён пример загрузки через Transformers с trust_remote_code. Модель предназначена для генерации текста по инструкциям и общих задач, включая программирование и математику. При обучении семейства использовались QLoRA и адаптеры для эффективного преобразования плотных моделей в разреженную MoE-структуру; в метаданных для этой версии указаны наборы SlimOrca, Magicoder и MetaMathQA. Модель принимает текст и генерирует текст. Метаданные указывают английский язык и контекст до 4096 токенов. Лицензия — Apache-2.0. README описывает серию моделей и приводит результаты для Camelidae-8x34B-pro, поэтому эти показатели нельзя считать оценкой именно версии 8x13B.

BSC-LT/Checkpoint_2b_instructed_beta — текстовая чат-модель семейства Llama с плотной архитектурой LlamaForCausalLM и 1,7 млрд параметров. Она принимает текст и генерирует текст; карточка модели указывает на версию 2b модели Sxxxxxx, обученную на базовом наборе инструкций, включающем RAG_Multilingual, без последней эпохи обучения. Модель предназначена для диалоговых ответов и выполнения инструкций, в том числе в многоязычных сценариях с поиском по внешним источникам. Контекст составляет 8192 токена. Репозиторий содержит веса в формате safetensors, библиотека — Transformers. Лицензия Apache-2.0 разрешает использование и распространение на её условиях.

TwT-6/cr-model-v1 — диалоговая языковая модель семейства Qwen2, представленная в формате safetensors. В README она описана как модель для понимания и генерации текста, ответов на вопросы, рекомендаций и непринуждённого общения. Модель содержит 13,4 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Она предназначена для текстовых диалогов и других задач генерации текста. В README не приведены сведения о поддерживаемых языках и специальных предметных областях, поэтому модель можно описать только как универсальную. Лицензия — CC BY 4.0. Карточка не сообщает о конкретных ограничениях качества или безопасности; ответы модели могут требовать проверки.

Eunoia-Llama-8B-R1 — объединённая текстовая языковая модель на архитектуре Llama, созданная с помощью mergekit методом TIES. В основу объединения вошли GoToCompany/llama3-8b-cpt-sahabatai-v1-instruct и huihui-ai/DeepSeek-R1-Distill-Llama-8B-abliterated; итоговая модель содержит около 7,5 млрд параметров и использует формат Safetensors. Модель предназначена для генерации текста и диалогового взаимодействия. Карточка базовой модели указывает на сценарии рассуждений, математики и программирования, однако README Eunoia не содержит отдельных оценок качества или подробных рекомендаций по применению. Контекст составляет 8192 токена. Данных о поддерживаемых естественных языках и лицензии в предоставленных источниках нет.

noctrex/GLM-4.7-Flash-MXFP4_MOE-GGUF — квантизированная версия диалоговой MoE-модели GLM-4.7-Flash от Z.ai, представленная в формате GGUF. Репозиторий содержит вариант квантования MXFP4_MOE. Модель предназначена для диалоговой генерации текста. Базовая GLM-4.7-Flash также описана как модель для рассуждений и программирования; для общего чата README приводит рекомендуемые параметры генерации. Указан интерфейс чата и рекомендации для вызова инструментов. Квантование может снизить требования к памяти при запуске, но карточка не сообщает о замерах качества или скорости именно этой версии. Лицензия и сведения о размере и длине контекста в предоставленных данных отсутствуют.

GPT-OSS-Nano — компактная языковая модель с архитектурой Mixture of Experts, опубликованная пользователем squ11z1 и дообученная на базе openai/gpt-oss-20b. Модель ориентирована на пошаговое рассуждение и решение задач, включая математические вопросы, объяснение концепций и общий текстовый диалог. Для обучения использовались QLoRA, Unsloth и TRL на наборе Superior-Reasoning с примерами цепочек рассуждений. Модель содержит около 9 млрд параметров, из которых примерно 3 млрд активируются на каждом проходе. Архитектура включает 12 экспертов, 4 активных эксперта на токен, 24 слоя, скрытое измерение 2880, 64 attention heads с 8 KV-головами и GQA. Заявлена поддержка контекста до 131 072 токенов и точности BFloat16. Основной язык — английский; качество на других языках может варьироваться. Доступны форматы GGUF для локального запуска через llama.cpp и Ollama, а также интеграция с Transformers и 4-битной загрузкой через Unsloth. Сильными сторонами модели являются относительно экономичное разреженное вычисление, большой контекст и специализация на пошаговом reasoning. Ограничения включают преимущественно англоязычную оптимизацию, риск правдоподобных ошибок и непригодность для критически важных сценариев без дополнительной проверки. Модель распространяется по лицензии Apache-2.0.

Jan-v1-4B — разговорная языковая модель семейства Jan от Jan, предназначенная для агентного рассуждения, решения задач и интеграции с приложением Jan. Она основана на Qwen3-4B-Thinking-2507 и дообучена для улучшения рассуждений и работы с инструментами. Модель имеет плотную архитектуру Qwen3ForCausalLM и 3,7 млрд параметров. Она генерирует текст, поддерживает диалог и рассчитана на контекст до 262 144 токенов. В карточке заявлен результат 91,1% на SimpleQA; он зависит от условий оценки и шаблона диалога. Для воспроизведения результата README рекомендует использовать встроенный системный промпт в chat template; также доступен вариант шаблона без него. Модель можно запускать локально через vLLM и интегрировать в Jan App; README описывает поддержку выбора инструментов и парсера Hermes. Доступна под лицензией Apache-2.0.

Laser-Dolphin-Mixtral-4x7b-dpo — языковая модель семейства Mixtral, опубликованная macadeliccc. Это MoE-модель для генерации текста, созданная на основе cognitivecomputations/dolphin-2.6-mistral-7b-dpo-laser; карточка указывает на проект laserRMT и приводит оценки модели на тестах языковых моделей. Метаданные описывают архитектуру как MixtralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель подходит для диалогов и генерации текста, включая написание кода и ответы на запросы; в README приведён пример запроса на Python-код. Веса опубликованы в формате safetensors, а карточка сообщает об оценке в 4-битной квантизации AWQ. Репозиторий распространяется по лицензии Apache-2.0. Данные о поддерживаемых естественных языках не приведены.

Lemur 70B Chat v1 GGUF — это квантизированная версия диалоговой языковой модели Lemur 70B Chat v1, разработанной OpenLemur и опубликованной в формате GGUF командой TheBloke. Модель основана на архитектуре Llama и предназначена для генерации текста в формате text-generation, включая диалоговое взаимодействие и задачи, связанные с программированием. Модель имеет размер 70B параметров, поддерживает английский язык и использует шаблон запросов ChatML с ролями system, user и assistant. Формат GGUF рассчитан на запуск через llama.cpp и совместимые инструменты, включая text-generation-webui, LM Studio, KoboldCpp, llama-cpp-python и другие решения для CPU- и GPU-инференса. Доступны варианты квантизации от 2 до 8 бит, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством генерации. К сильным сторонам относятся диалоговая настройка, возможности генерации кода и широкий выбор вариантов квантизации для локального запуска. Ограничения включают отсутствие в предоставленных данных сведений о контексте, точных языковых возможностях за пределами английского, результатах тестирования и конкретных требованиях к оборудованию; крупный размер модели также может затруднять запуск на системах с ограниченными ресурсами. В карточке указана лицензия CC BY-NC 4.0. Поскольку модель основана на Llama 2, дополнительно применяются условия лицензии Meta Llama 2; репозиторий указывает на возможное двойное лицензирование, поэтому условия коммерческого и иного использования следует проверять в исходном репозитории OpenLemur.

LinguaForge-BestModel-v2 — языковая модель семейства Llama, представленная пользователем dusersad12. Она предназначена для генерации текста и диалогов, решения математических и логических задач, программирования и работы в роли помощника. В README заявлены улучшения рассуждений после постобучения, снижение галлюцинаций и поддержка вызова функций; приведены результаты бенчмарков, но подробности методики и независимая проверка не описаны. Модель содержит 1,3 млрд параметров, использует архитектуру LlamaForCausalLM и доступна в формате PyTorch через Transformers. README предлагает шаблон системного промпта для чат-сценариев, а также шаблоны запросов с файлами и результатами веб-поиска. Лицензия — Apache-2.0. Карточка не сообщает контекстное окно и явно поддерживаемые естественные языки.

LongCat-Flash-Lite-Uncensored-Heretic-Native-MTP-Preserved — производная версия LongCat-Flash-Lite от независимого автора llmfan46, основанная на модели Meituan. Автор применил abliteration, чтобы уменьшить склонность модели отказывать в ответах: в карточке указаны 9 отказов из 100 в тесте против 100 из 100 у исходной модели. Это не гарантирует отсутствие ограничений или точность ответов. Модель предназначена для генерации текста в диалогах, программирования и агентных сценариях. В основе — плотная архитектура LongcatFlashNgramForCausalLM; метаданные каталога указывают 4,6 млрд параметров и контекст до 327 680 токенов. README описывает исходную LongCat-Flash-Lite как MoE-модель с N-граммными эмбеддингами, однако эти характеристики не следует переносить на производную версию без оговорки. Репозиторий содержит веса safetensors; заявлена лицензия MIT. README также указывает на необходимость минимум двух GPU с 80 ГБ видеопамяти для запуска через Transformers.

mythos-v2-8b-merged — текстовая генеративная модель, разработанная King3Djbl на основе King3Djbl/mythos-v2-8b с использованием дообучения. Модель входит в экосистему FableForge и ориентирована на агентские сценарии, включая использование инструментов, вызов функций, работу с shell-командами, программирование, ролевые диалоги и генерацию текста. Заявлена поддержка английского языка. Модель имеет размер 8B параметров и распространяется в формате GGUF, совместимом с llama.cpp, Ollama и LM Studio. Доступны варианты от F16 до низкобитных квантований, включая Q8_0, Q6_K, Q5_K_M, Q4_K_M и imatrix-квантизации для систем с ограниченной оперативной памятью. Для диалогов используется формат ChatML. Размер контекста в README не указан. К сильным сторонам относятся широкий набор заявленных агентских возможностей, поддержка инструментального взаимодействия и наличие большого выбора квантований с разным компромиссом между качеством и требованиями к памяти. При этом README не содержит результатов бенчмарков, подробностей об архитектуре, данных обучения или проверок качества, поэтому фактические возможности и надежность модели требуют самостоятельной оценки. Также заявлен режим без отказов, что может повышать гибкость в ролевых и автоматизационных сценариях, но требует осторожности при использовании. Модель распространяется по лицензии Apache-2.0.