I.3Извлечение и структурирование данных

NarutoDolphin-10B — языковая модель для генерации текста, созданная FelixChao слиянием FelixChao/WizardDolphin-7B и FelixChao/NinjaDolphin-7B. Она построена на архитектуре Mistral и содержит 10,6 млрд параметров; нативная длина контекста составляет 32 768 токенов. Модель подходит для диалогов и генерации текста.

NVIDIA-Nemotron-Labs-3-Elastic-12B-A2B-NVFP4 — квантованная версия на NVFP4 семейства эластичных языковых моделей NVIDIA Nemotron 3, представленная в карточке как 3-в-1 чекпойнт с вариантами 30B, 23B и 12B. В основе лежит NVIDIA-Nemotron-3-Nano-30B-A3B-BF16; архитектура родительской модели сочетает слои Mamba-2, Attention и Mixture-of-Experts. Метаданные указывают 946,5 млн параметров, а README описывает вложенный вариант 12B с 2,0 млрд активных параметров; эти сведения относятся к разным представлениям и не совпадают. Модель предназначена для генерации текста в диалоге и задач рассуждения. Эластичная структура позволяет извлекать варианты меньшего размера из общего набора весов; README описывает также квантизацию NVFP4 с дистилляцией с учителем и использование через Transformers и vLLM. Указан контекст 262 144 токена. Поддерживаются английский, немецкий, испанский, французский, итальянский и японский языки. README заявляет готовность к коммерческому использованию, но метаданные указывают лицензию «other», поэтому конкретные условия следует сверить с лицензией в репозитории. Карточка содержит несоответствия в названии и числе параметров: README описывает 30B A3B NVFP4 чекпойнт, тогда как идентификатор и метаданные относятся к 12B A2B NVFP4.

Карточка модели OpenBuddy/openbuddy-mixtral-8x7b-v16.1-32k на Hugging Face совпадает с карточкой OpenBuddy/openbuddy-mixtral-7bx8-v16.3-32k, поэтому описание составлено по ней. OpenBuddy-mixtral-7bx8-v16.3-32k — многоязычная чат-модель семейства Mixtral, опубликованная командой OpenBuddy. Она предназначена для диалогов и генерации текста; архитектура — Mixtral MoE, класс MixtralForCausalLM. В репозитории указаны 7,1 млрд параметров и контекст до 32 768 токенов; модель распространяется в формате safetensors и использует библиотеку Transformers. Модель поддерживает китайский, английский, французский, немецкий, японский, корейский, итальянский и русский языки. Лицензия — Apache 2.0. Ответы могут быть ошибочными, вредными или оскорбительными; модель не следует использовать для решений в медицине, финансах, праве и других критически важных сценариях.

OpenCarrot-Mix-7B — текстовая генеративная модель на архитектуре Mistral, созданная командой CarrotAI линейным слиянием моделей через mergekit. В слияние вошли amazingvince/Not-WizardLM-2-7B и CarrotAI/OpenCarrot-Mistral-7B-Instruct-v0.2. Модель содержит 7,1 млрд параметров, принимает текст и имеет контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов. В карточке приведены оценки на корейских тестах LogicKor по программированию, математике и пониманию текста; эти результаты не гарантируют качество на других задачах или языках. Метаданные указывают корейский и английский языки. Модель распространяется по лицензии MIT.

Orpomis-Prime-7B-it — диалоговая языковая модель, созданная saucam с помощью Mergekit из kaist-ai/mistral-orpo-beta, NousResearch/Hermes-2-Pro-Mistral-7B и mistralai/Mistral-7B-Instruct-v0.2. Это плотная модель семейства Mistral с 7,1 млрд параметров; веса опубликованы в формате safetensors, контекст составляет до 32 768 токенов. Модель предназначена для генерации текста в диалоге и ответов на инструкции. Её можно использовать для чат-ботов, ответов на вопросы и написания текстов по запросу; README показывает запуск через Transformers и шаблон чата. В карточке не заявлена специализация на конкретном языке или предметной области. Качество ответов и поведение могут различаться в зависимости от запроса и параметров генерации; README не приводит результатов оценки. Условия лицензии в предоставленных данных не указаны.

PolyLM-13B-fine-grained-shards — мультиязычная языковая модель семейства GPT-2, разработанная командой DAMO-NLP-MT. Это вариант PolyLM-13B с теми же весами, разбитыми на более мелкие файлы-шарды. Модель предварительно обучена на 640 млрд токенов и дообучена на автоматически созданном наборе из 132,7 тыс. мультиязычных инструкций; контекст составляет 2048 токенов. Модель предназначена для генерации текста и мультиязычных сценариев, включая понимание текста, ответы на вопросы и перевод. В карточке заявлена поддержка китайского, английского, испанского, французского, португальского, русского, немецкого, итальянского, арабского, японского, корейского, тайского, вьетнамского, индонезийского, нидерландского, польского, турецкого и иврита. Модель распространяется по лицензии Apache-2.0. Более мелкое разбиение весов меняет способ хранения файлов, а не назначение модели.

lmstudio-community/Qwen3-0.6B-MLX-bf16 — конвертированная в формат MLX версия компактной плотной языковой модели Qwen3-0.6B. Модель содержит около 507,9 млн параметров, использует архитектуру Qwen3ForCausalLM и рассчитана на контекст до 40 960 токенов. Конверсия выполнена из Qwen/Qwen3-0.6B с помощью mlx-lm версии 0.24.0. Модель предназначена для генерации текста и диалогов, а также поддерживает интерфейс вызова инструментов. Метаданные характеризуют базовую модель как многоязычную и пригодную для рассуждений; отдельные языки в доступных данных не перечислены. Формат MLX ориентирован на запуск в экосистеме MLX. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Fast60L-Voodoo-GGUF — это созданная Valexiem модификация Qwen 3.8 27B: гибридная модель с gated DeltaNet и слоями полного внимания, сокращённая до 60 слоёв, с обрезанным словарём и динамической поканальной квантизацией. Основной вариант содержит 24,163 млрд параметров и занимает 5,59 GiB; модель распространяется в формате GGUF и рассчитана на локальный запуск и диалоговое применение. Лицензия — Apache-2.0. Модель предназначена для диалога и поиска по контексту. Автор сообщает о скорости около 51 токена в секунду на RTX 4070 с 12 ГБ видеопамяти при тесте на малой глубине контекста. Обрезка словаря удаляет 118 300 неиспользуемых мультиязычных токенов; карточка заявляет, что этот этап не меняет жадную генерацию относительно соответствующего не обрезанного варианта. Метаданные указывают английский язык. Существенное ограничение — модель не подходит для синтеза кода: в приведённой оценке исполняемого кода она набрала 2 из 4 против 4 из 4 у базового варианта. Возможны циклы повторов при кратких инструкциях, а скорость генерации заметно падает при длинном контексте: примерно до 21,5 токена в секунду на 128k и 9,3 на 256k. Приведённые скорости относятся к конкретной конфигурации оборудования и теста.

Qwen3.8-Flash-Next-4bit — это 4-битная MLX-конверсия модели Qwen3.8-Flash-Next, разработанной командой Qwen. Модель предназначена для генерации текста и сценариев image-text-to-text, то есть может применяться к задачам, сочетающим обработку изображений и текста, при условии поддержки соответствующего мультимодального интерфейса. Модель преобразована с помощью mlx-vlm и оптимизирована для запуска в экосистеме MLX. Используется групповой размер квантования 32, необходимый для корректной обработки PLE n-gram embedding dimensions. Точные сведения о числе параметров, длине контекста и поддерживаемых языках в карточке не указаны. Ключевое преимущество этой версии — корректная обработка Qwen4ExpRMSNorm без двойного смещения весов, из-за которого у некоторых более ранних конверсий генерация деградировала до шума. Конверсия проверена на целостность исходных данных, идентичность нормирующих тензоров и согласованность с bf16-версией; также подтверждена связная генерация при температуре 0.0. Ограничения включают 4-битное квантование и зависимость от MLX и mlx-vlm; возможные потери точности относительно bf16-версии в README не измерены. Лицензия в карточке не указана.

Qwen3-Next-80B-A3B-Instruct-Amy — дообученная автором haron1100 модель для генерации текста и диалогов. Она основана на разреженной архитектуре Qwen3-Next MoE и поддерживает вызов инструментов через соответствующий интерфейс. Репозиторий содержит веса в формате safetensors; обучение выполнялось с Unsloth и библиотекой Hugging Face TRL. Модель принимает текст и генерирует текст, в том числе ответы в диалоге. Унаследованная длина контекста составляет 262 144 токена; метаданные указывают английский язык. Модель опубликована по лицензии Apache-2.0.

Карточка модели mlinmg/Qwen3-Omni-30B-A3B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen3-Omni-30B-A3B-Instruct, поэтому описание составлено по ней. Qwen3-Omni-30B-A3B-Instruct — мультимодальная модель общего назначения от команды Qwen компании Alibaba. Она принимает текст, изображения, аудио и видео и формирует потоковые ответы текстом и естественной речью; вариант Instruct включает компоненты Thinker и Talker. Архитектура MoE использует разделение на Thinker и Talker, а модель рассчитана на низколатентное взаимодействие в реальном времени и управление поведением через системные промпты. Модель предназначена для голосовых диалогов, распознавания и понимания речи, описания аудио и видео, а также ответов на вопросы по изображениям и смешанным мультимодальным входам. README заявляет поддержку 119 языков для текста, 19 языков для речевого ввода и 10 для речевого вывода; среди явно перечисленных языков речи есть русский. В примере запуска указан максимальный контекст 65 536 токенов. Для работы предлагаются Transformers и vLLM; README отмечает, что на момент публикации требовалась установка Transformers из исходников. Лицензия в метаданных обозначена как other, без уточнения условий.

Карточка модели Umbasa/Qwen3-Omni-30B-A3B-Instruct-UMBASA-V1 на Hugging Face совпадает с карточкой Qwen/Qwen3-Omni-30B-A3B-Instruct, поэтому описание составлено по ней. Qwen3-Omni-30B-A3B-Instruct — мультимодальная модель общего назначения от команды Qwen компании Alibaba. Она принимает текст, изображения, аудио и видео и формирует потоковые ответы текстом и естественной речью; вариант Instruct включает компоненты Thinker и Talker. Архитектура MoE использует разделение на Thinker и Talker, а модель рассчитана на низколатентное взаимодействие в реальном времени и управление поведением через системные промпты. Модель предназначена для голосовых диалогов, распознавания и понимания речи, описания аудио и видео, а также ответов на вопросы по изображениям и смешанным мультимодальным входам. README заявляет поддержку 119 языков для текста, 19 языков для речевого ввода и 10 для речевого вывода; среди явно перечисленных языков речи есть русский. В примере запуска указан максимальный контекст 65 536 токенов. Для работы предлагаются Transformers и vLLM; README отмечает, что на момент публикации требовалась установка Transformers из исходников. Лицензия в метаданных обозначена как other, без уточнения условий.

Карточка модели Umbasa/Qwen3-Omni-30B-A3B-Thinking-UMBASA-V1 на Hugging Face совпадает с карточкой Qwen/Qwen3-Omni-30B-A3B-Instruct, поэтому описание составлено по ней. Qwen3-Omni-30B-A3B-Instruct — мультимодальная модель общего назначения от команды Qwen компании Alibaba. Она принимает текст, изображения, аудио и видео и формирует потоковые ответы текстом и естественной речью; вариант Instruct включает компоненты Thinker и Talker. Архитектура MoE использует разделение на Thinker и Talker, а модель рассчитана на низколатентное взаимодействие в реальном времени и управление поведением через системные промпты. Модель предназначена для голосовых диалогов, распознавания и понимания речи, описания аудио и видео, а также ответов на вопросы по изображениям и смешанным мультимодальным входам. README заявляет поддержку 119 языков для текста, 19 языков для речевого ввода и 10 для речевого вывода; среди явно перечисленных языков речи есть русский. В примере запуска указан максимальный контекст 65 536 токенов. Для работы предлагаются Transformers и vLLM; README отмечает, что на момент публикации требовалась установка Transformers из исходников. Лицензия в метаданных обозначена как other, без уточнения условий.

zelk12/recoilme-gemma-2-Ataraxy-9B-v0.1 — слияние языковых моделей Gemma 2, созданное с помощью mergekit и метода SLERP на основе lemon07r/Gemma-2-Ataraxy-v2-9B и recoilme/recoilme-gemma-2-9B-v0.4. Это плотная авторегрессионная модель с архитектурой Gemma2ForCausalLM и 9 млрд параметров, предназначенная для диалогов и генерации текста. Она принимает текст и выдаёт текст; заявленная длина контекста — 8192 токена. В конфигурации слияния использована точность bfloat16. Модель подходит для ведения диалогов, выполнения инструкций и творческой генерации текста. В README приведены результаты Open LLM Leaderboard, включая IFEval и BBH; этих оценок недостаточно, чтобы судить о качестве во всех сценариях. В доступных сведениях не указаны конкретные поддерживаемые языки. Репозиторий содержит веса в формате safetensors; сведения о лицензии в предоставленных данных отсутствуют.

SEC-1.6-Calme-7B-Instruct — объединённая Arcee AI чат-модель на архитектуре Mistral, созданная с помощью mergekit из arcee-ai/sec-mistral-7b-instruct-1.6-epoch и MaziyarPanahi/Calme-7B-Instruct-v0.2. Это плотная авторегрессионная модель с 7,1 млрд параметров, предназначенная для генерации текста в диалоговом формате. Модель подходит для чат-ботов, ответов на вопросы и генерации текста по запросу. Её контекстное окно составляет 32 768 токенов. Веса опубликованы в формате Safetensors, лицензия — Apache-2.0. README описывает слияние методом SLERP с настройками для слоёв self-attention и MLP; отдельных оценок качества или ограничений применения карточка не приводит.

Seraph-openchat-3.5-1210-Slerp — текстовая генеративная модель на архитектуре Mistral, созданная Weyaxi слиянием моделей через mergekit и метод Slerp. В конфигурации указаны Weyaxi/Seraph-7B и openchat/openchat-3.5-1210; базовой моделью названа mistralai/Mistral-7B-v0.1. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового использования. Она распространяется в формате safetensors по лицензии Apache-2.0. Карточка не приводит сравнительных оценок качества или детальных результатов тестирования.

chain03/SRole_3181 — объединённая модель для генерации текста и диалогового общения. Она создана методом линейного слияния mergekit из двух предварительно обученных языковых моделей: /root/top1 и /root/top2. Модель использует плотную архитектуру семейства Llama с классом LlamaForCausalLM и содержит 7,5 млрд параметров. Модель рассчитана на генерацию текста и ответы в формате чата. Заявленная длина контекста — 131 072 токена. Веса доступны в формате safetensors; в конфигурации слияния указан тип данных bfloat16. Лицензия в предоставленных сведениях не указана.

Stable Code Instruct 3B — авторегрессионная языковая модель на основе декодерной архитектуры Transformer, разработанная Stability AI и дообученная на базе stable-code-3b. Модель содержит около 2,7 млрд параметров и оптимизирована для работы с английским языком, программным кодом и инструкциями. Модель предназначена для диалоговых задач в software engineering, генерации и объяснения кода, решения задач программирования, а также генерации SQL и общения по вопросам, связанным с базами данных. Она поддерживает сценарии текстового ввода и вывода, включая работу с несколькими языками программирования, среди которых Python, C++, Java, JavaScript, PHP и Rust. Дообучение выполнялось на общедоступных и синтетических наборах данных с применением Direct Preference Optimization (DPO), что ориентировано на более эффективное следование инструкциям. К сильным сторонам относятся компактный размер для локального развертывания и заявленная высокая производительность среди моделей сопоставимого размера на тестах MultiPL-E и кодовой части MT-Bench. В README приведены результаты pass@1 для разных языков, однако они не были независимо подтверждены. Модель ограничена английским языком и текстовой модальностью; качество сгенерированного кода требует проверки и тестирования, а сравнительные результаты зависят от методики оценки. Модель распространяется по StabilityAI Community License; для коммерческого использования необходимо обратиться к условиям коммерческой лицензии Stability AI.

StrangeMerges_15-7B-slerp — объединённая языковая модель, созданная Gille с помощью LazyMergekit из Gille/StrangeMerges_14-7B-slerp и CultriX/Wernicke-7B-v9. Это плотная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста; контекст составляет до 32 768 токенов. В README приведены результаты оценки на Open LLM Leaderboard, включая средний балл 72,41, но подробные результаты представлены не полностью. Модель распространяется в формате safetensors по лицензии Apache-2.0.

Карточка модели Syninlab/Synin-1.0-Omni-Inquisitive на Hugging Face совпадает с карточкой Qwen/Qwen3-Omni-30B-A3B-Instruct, поэтому описание составлено по ней. Qwen3-Omni-30B-A3B-Instruct — мультимодальная модель общего назначения от команды Qwen компании Alibaba. Она принимает текст, изображения, аудио и видео и формирует потоковые ответы текстом и естественной речью; вариант Instruct включает компоненты Thinker и Talker. Архитектура MoE использует разделение на Thinker и Talker, а модель рассчитана на низколатентное взаимодействие в реальном времени и управление поведением через системные промпты. Модель предназначена для голосовых диалогов, распознавания и понимания речи, описания аудио и видео, а также ответов на вопросы по изображениям и смешанным мультимодальным входам. README заявляет поддержку 119 языков для текста, 19 языков для речевого ввода и 10 для речевого вывода; среди явно перечисленных языков речи есть русский. В примере запуска указан максимальный контекст 65 536 токенов. Для работы предлагаются Transformers и vLLM; README отмечает, что на момент публикации требовалась установка Transformers из исходников. Лицензия в метаданных обозначена как other, без уточнения условий.

T5-Small — компактная текстовая модель семейства Text-To-Text Transfer Transformer, разработанная Колином Раффелом и коллегами. Она представляет задачи обработки естественного языка в формате преобразования текста в текст; в каталоге для этой версии указана задача перевода. Модель содержит 38,5 млн параметров по метаданным, имеет плотную архитектуру T5ForConditionalGeneration и контекст до 512 токенов. Модель предназначена для перевода и может применяться в дообученных сценариях суммаризации, ответов на вопросы, классификации и других задач преобразования текста. Она принимает и генерирует текст; в карточке указаны английский, французский, румынский и немецкий языки. Предобучение проводилось на корпусе C4 и смеси задач, включавшей денойзинг и контролируемые текстовые задачи. Компактный размер упрощает использование модели в ограниченных вычислительных условиях, но может уступать более крупным моделям в качестве и надёжности. Карточка не приводит конкретных оценок качества или подробных ограничений. Лицензия — Apache 2.0.

ZGCM-1-7B — плотная авторегрессионная языковая модель Zhongguancun Academy и Zhongguancun Institute of Artificial Intelligence, обученная с нуля для математических рассуждений и поиска с использованием инструментов. Модель содержит 6,3 млрд параметров по метаданным каталога (в README указано 7,39 млрд), использует архитектуру ZGCM и поддерживает контекст до 262 144 токенов. Для работы требуется Transformers и включение trust_remote_code=True. Модель рассчитана на решение математических задач, многошаговый поиск в интернете и диалоговое текстовое взаимодействие; доступны режимы с внутренними рассуждениями и прямым ответом. В техническом отчёте авторы приводят высокие результаты на математических бенчмарках и оценках агентного поиска. Обучение включало предварительное обучение, расширение контекста и дообучение для общих и агентных задач. Весовые файлы опубликованы в формате safetensors. Лицензия — MIT. Модель работает с текстом и не описана как мультимодальная; качество ответов зависит от задачи и используемого инструментария для поиска. Возможность загрузки собственного кода модели требует осторожности при запуске.

70B-L3.3-mhnnn-x1 — дообученная разговорная языковая модель Sao10K на архитектуре Llama, основанная на meta-llama/Llama-3.3-70B-Instruct. Модель содержит 69,5 млрд параметров, принимает текстовые запросы в формате Llama 3 Instruct и поддерживает контекст до 131 072 токенов. В метаданных указаны возможности чата и интерфейс вызова инструментов. Модель предназначена для диалогов и генерации текста, с акцентом на более творческие ответы. Автор сообщает, что при таком поведении иногда возникают ошибки, которые могут исчезнуть при повторной генерации. Для обучения использовалась конфигурация Axolotl 0.6.0; автор рекомендует температуру 1,1 и min_p 0,05. Модель доступна по лицензии Llama 3.3.

ANIMA-Nectar-v2-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на архитектуре Mistral, созданная слиянием методом SLERP моделей mistralai/Mistral-7B-Instruct-v0.2 и Biomimicry-AI/ANIMA-Nectar-v2. Она предназначена для генерации текста и ответов в диалоге по инструкциям. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Весовые файлы представлены в формате safetensors; конфигурация слияния использует bfloat16. Репозиторий распространяется по лицензии Apache-2.0. Карточка не уточняет языковой охват и специализированные области применения.

Bactrian-X LLaMA 13B Merged — объединённая модель инструкционного следования, разработанная MBZUAI на основе LLaMA-13B. Она дообучена с помощью LoRA на инструкциях из Stanford Alpaca и Databricks Dolly, переведённых на 52 языка; ответы для обучающих примеров были сгенерированы GPT-3.5-turbo. Модель предназначена для генерации ответов и выполнения текстовых инструкций в разных языках. Модель использует плотную архитектуру LLaMA с 12,9 млрд параметров и контекстом до 2048 токенов. Репозиторий содержит веса PyTorch; лицензия — MIT. Качество на разных языках может различаться: обучающие инструкции переводились машинным способом, а данные могут отражать культурные и языковые смещения английского оригинала.

textattack/bert-base-uncased-STS-B — англоязычная модель классификации текста, опубликованная TextAttack. Это BERT-base uncased с архитектурой BertForSequenceClassification, дообученный для оценки семантического сходства пар предложений на датасете STS-B. Модель принимает текстовые пары и предсказывает оценку сходства; в каталоге Hugging Face для неё указан pipeline text-classification. Размер — 136,7 млн параметров, максимальная длина последовательности — 512 токенов. Модель подходит для сравнения смысловой близости предложений и экспериментов с оценкой семантического сходства. Она рассчитана на английский текст: вариант uncased не различает регистр. Ограничения включают предел контекста в 512 токенов и узкую настройку под STS-B; карточка Hugging Face не содержит подробных сведений о лицензии.

blendedmist-herm-7B-slerp — объединённая модель для генерации текста и диалогов, созданная автором rakataprime с помощью LazyMergekit. Она объединяет NousResearch/Nous-Hermes-2-Mistral-7B-DPO и NousResearch/Hermes-2-Pro-Mistral-7B методом slerp; архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров, формат весов — safetensors, точность при объединении — bfloat16. Модель предназначена для диалогового взаимодействия и генерации текста по запросам. Контекстное окно составляет 32 768 токенов. В карточке не перечислены языки и прикладные области. Лицензия в предоставленных данных не указана.

Dans-PersonalityEngine-v1.0.0-8b — разговорная языковая модель Dans-Archive, созданная полным дообучением и слиянием моделей семейства Llama 3.1. Она предназначена для диалогов, совместного написания текстов и ролевых сценариев, а также для суммаризации и анализа тональности в текстовых конвейерах. Модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров. Она принимает и генерирует текст, поддерживает английский язык и использует шаблон запросов ChatML. Заявленная длина контекста — 131 072 токена. В обучении использовались инструкции в один и несколько ходов, ролевые сценарии, текстовые приключения, материалы для соавторства и другие наборы данных. Карточка предупреждает, что модель не проходила выравнивание на безвредность, поэтому её ответы могут содержать вредный контент и требуют проверки при применении. Распространяется по лицензии Apache-2.0.

DeepSeek-R1-Distill-Qwen-7B-Uncensored-Reasoner-GGUF — это GGUF-версия дистиллированной 7-миллиардной модели рассуждений на базе Qwen, подготовленная h34v7 на основе модели nicoboss/DeepSeek-R1-Distill-Qwen-7B-Uncensored-Reasoner. Модель ориентирована на локальный запуск и генерацию ответов общего назначения с акцентом на рассуждения; README отдельно указывает возможность запуска на Android-устройствах с Snapdragon 8 Gen 2, Snapdragon 8 Gen 3 или Snapdragon Elite через Ollama и Termux. Для работы рекомендуется не менее 8,4 ГБ оперативной памяти, при этом на менее производительных устройствах возможна более низкая скорость. Ключевые сведения об архитектуре, точном размере файла, формате квантования, максимальном контексте, поддерживаемых языках и модальностях в README не приведены; по имеющимся данным, это текстовая языковая модель. В описании заявлена «uncensored»-настройка, однако её фактическое поведение и качество не подтверждены отдельными тестами. Модель распространяется по лицензии MIT.

bartowski/DeepSeek-R1-GGUF — набор GGUF-квантизаций модели DeepSeek-R1, разработанной deepseek-ai и подготовленной bartowski для запуска через llama.cpp. Модель предназначена для генерации текста и локального инференса, в том числе в LM Studio. Доступны варианты с разными уровнями квантизации — от Q8_0 до IQ1_M — чтобы выбирать между качеством ответов, требованиями к памяти и скоростью работы. В README не указаны точная архитектура исходной модели, число параметров, размер контекста, поддерживаемые языки и мультимодальные возможности, поэтому эти характеристики нельзя достоверно описать. Размер файлов зависит от варианта и составляет примерно от 133,56 до 713,29 ГБ; наиболее качественными и рекомендуемыми названы Q6_K, Q5_K_M, Q5_K_S и Q4_K_M, тогда как варианты Q2 и Q1 заметно уступают по качеству, хотя некоторые из них остаются пригодными для использования. Квантизации подготовлены с использованием imatrix и llama.cpp release b4514. Модель распространяется по лицензии MIT. Для работы следует использовать указанный формат промпта и совместимое программное обеспечение, например llama.cpp или LM Studio. Ограничениями являются исключительно большие требования к дисковому пространству и памяти, а также возможное снижение качества при выборе более агрессивной квантизации.