II.1Анализ требований и архитектура ПО

Mudassir-75/Llama-3.2-3B-Instruct-ENG-FR-v2 — плотная авторегрессионная языковая модель семейства Llama 3.2 с 3,2 млрд параметров, разработанная Mudassir-75 и дообученная на базе Mudassir-75/Llama-3.2-3B-Instruct-ENG-FR. Модель предназначена для генерации текста и диалоговых сценариев; в метаданных также заявлен интерфейс вызова инструментов. Контекстное окно — до 131 072 токенов. Карточка указывает на обучение с использованием Unsloth и библиотеки Hugging Face TRL. В языковых тегах указан английский; название базовой модели указывает на английский и французский, но README не описывает языковые возможности отдельно. Модель распространяется по лицензии Apache-2.0. Качество, обучающие данные и конкретные ограничения в карточке не описаны.

MLX-версия языковой модели Llama-3.2-3B-Instruct-uncensored, подготовленная сообществом mlx-community. Модель конвертирована из chuanli11/Llama-3.2-3B-Instruct-uncensored с использованием mlx-lm версии 0.22.3 и предназначена для запуска в формате MLX на совместимом оборудовании, в частности в сценариях локальной генерации текста и диалогового взаимодействия. Модель имеет размер около 3 миллиардов параметров и 6-битное представление весов. Она относится к инструкционно настроенным моделям и поддерживает применение chat template через tokenizer, что позволяет формировать запросы в формате сообщений пользователя и получать ответы через библиотеку mlx-lm. Поддерживаемые языки, максимальная длина контекста и полный перечень модальностей в README не указаны; по доступным данным это текстовая модель. Ключевое преимущество — адаптация к MLX и 6-битное квантование, потенциально уменьшающее требования к памяти при локальном запуске. Ограничения включают отсутствие в README подробностей о качестве, языковой специализации, контекстном окне и целевых бенчмарках, поэтому возможности модели следует оценивать эмпирически. Лицензия в предоставленных данных не указана.

MaziyarPanahi/Llama-3-8B-Instruct-DPO-v0.4 — диалоговая языковая модель Maziyar Panahi, полученная дообучением с Direct Preference Optimization (DPO) модели meta-llama/Meta-Llama-3-8B-Instruct. Она предназначена для генерации текста и ответов в формате диалога; для подачи запросов использует шаблон ChatML и может запускаться через библиотеку Transformers. Модель основана на плотной архитектуре Llama с классом LlamaForCausalLM, содержит 7,5 млрд параметров и рассчитана на контекст до 8192 токенов. В метаданных указан английский язык; среди датасетов дообучения — argilla/ultrafeedback-binarized-preferences и Intel/orca_dpo_pairs. Репозиторий содержит веса Safetensors. Модель подходит для англоязычных диалоговых ответов и генерации текста. Доступны результаты оценки на бенчмарках, включая AI2 Reasoning Challenge и HellaSwag, однако приведённые показатели не гарантируют качество в конкретных задачах. Лицензия обозначена как other, поэтому условия использования следует уточнить в карточке модели и лицензии базовой модели.

cstr/llama3-8b-spaetzle-v33-mlx-4bit — конвертированная в формат MLX и квантованная до INT4 версия модели cstr/llama3-8b-spaetzle-v33, созданная тем же автором. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, предназначенная для генерации текста и диалогового общения; контекст составляет до 8192 токенов. Карточка указывает поддержку немецкого и английского языков. Модель подходит для локального запуска на устройствах Apple Silicon через mlx-lm, где формат MLX и квантование INT4 позволяют использовать её с меньшими требованиями к памяти. На этом этапе модель не дообучалась и не объединялась с другими весами. Лицензия — llama3, унаследованная от базовой модели.

Это дообученная версия KKHYA/llavaqwen3-1.7b-finetune, разработанная KKHYA и предназначенная для генерации текста и диалогов. Модель содержит 1,7 млрд параметров, построена на архитектуре Qwen3 и использует Transformers; доступны веса PyTorch в формате safetensors. Заявленная длина контекста — 40 960 токенов. Модель можно применять для генерации продолжений текста и ведения диалогов; в метаданных также отмечен интерфейс вызова инструментов. Датасет и результаты оценки не описаны, поэтому качество и специализацию модели по отдельным темам оценить нельзя. Лицензия — Apache-2.0.

Это дообученная модель KKHYA на базе KKHYA/llavaqwen3-1.7b-finetune с 1,7 млрд параметров. Она предназначена для генерации текста и диалогов; метаданные также указывают интерфейс для вызова инструментов. Модель построена на архитектуре NMMaskMoELLaVAQwen3ForCausalLM и доступна в форматах PyTorch и Safetensors. Родительская модель описана как Qwen3.

LumynaX Long-Context ProLong-512K Instruct — архивный эксперимент AbteeX AI Labs на базе Princeton NLP Llama 3 8B ProLong 512K Instruct. Это плотная причинно-языковая модель семейства Llama с 7,5 млрд параметров, рассчитанная на генерацию текста в диалоге и работу с длинным контекстом до 524 288 токенов. Она принимает текст и выдаёт текст; в метаданных указаны английский и маори. В этой исторической сборке модель интегрирована через маршрутизацию во время выполнения и сохранение исходной идентичности: веса базовой модели не изменялись и не объединялись с LumynaX Core. Такой вариант предназначен для воспроизводимости эксперимента и изучения генерации текста с длинным контекстом. Карточка помечает выпуск как устаревший и неподдерживаемый; для производства он не рекомендован. Лицензия — Llama 3 License.

MaziyarPanahi/LWM-14b-Text-Chat-1M-GGUF — набор файлов модели в формате GGUF для mergekit-community/LWM-14b-Text-Chat-1M. Исходная модель создана mergekit-community, а GGUF-квантизацию подготовил MaziyarPanahi. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и совместимые приложения и библиотеки. README не содержит данных о точной архитектуре, числе параметров исходной модели, поддерживаемых языках или фактическом размере контекста, однако из идентификатора следует обозначение класса 14B и контекст 1M; эти характеристики не раскрыты подробно. Доступны варианты квантизации с разной разрядностью — от 2 до 8 бит, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством вывода. Формат GGUF поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другими инструментами для локального инференса. Лицензия в README не указана, поэтому условия использования необходимо уточнять в карточке исходной модели и репозитории автора.

Matter 7B 0.2 — разговорная языковая модель, разработанная 0-hero и созданная полным дообучением Mistral 7B на наборе данных Matter 0.2. Модель построена на архитектуре Mistral с плотной причинно-языковой сетью и содержит 7,1 млрд параметров; нативная длина контекста — 32 768 токенов. Модель предназначена для диалога с помощником и генерации текста на английском языке. Она использует формат запросов ChatML и поддерживает интерфейс вызова функций, что позволяет применять её в чат-ботах и сценариях с подключением инструментов. В README рекомендуется системная инструкция «You are a helpful assistant». Набор Matter 0.2 составлен из более чем 35 датасетов и охватывает свыше 6 млрд токенов; на момент публикации он ещё не был выпущен. Модель распространяется по лицензии Apache-2.0. Результаты зависят от формулировки запроса и качества данных; карточка не приводит оценок производительности или подробных ограничений.

MiniCPM5-1B-SFT-Fable5-Glint — языковая модель ermiaazarkhalili, полученная дообучением openbmb/MiniCPM5-1B на датасете инструкций Fable-5-Glint-Clean. Модель использует плотную архитектуру LlamaForCausalLM и предназначена для генерации текста и диалоговых ответов по инструкциям; метаданные также отмечают интерфейс вызова инструментов. Контекст составляет до 131 072 токенов, модель распространяется в формате safetensors под лицензией Apache-2.0. Веса LoRA объединены с базовой моделью, поэтому адаптер нельзя отделить от итогового чекпойнта. Для этой версии не приводятся результаты тестирования на прикладных бенчмарках: опубликованы только наблюдения за обучающей функцией потерь. Поведение за пределами единственного обучающего набора не проверено; модель наследует ограничения и предвзятости базовой модели.

RoseG/MiP_TRiADAi_SFTPro_CML — дообученная TRiADiC Intelligence Labs языковая модель на базе Qwen/Qwen3.5-9B-Base. Она предназначена для генерации текста и диалогового взаимодействия; в метаданных также заявлен интерфейс вызова инструментов. Модель использует плотную архитектуру Qwen3.5 и формат весов Safetensors, запускается через Transformers. Базовая модель — мультимодальная Qwen3.5 с 9 млрд параметров, способная работать с изображениями, однако карточка этой производной модели описывает её как генератор языка и не подтверждает поддержку изображений. Лицензия — Apache-2.0. Специализированная область применения и дополнительные сведения о качестве не приведены.

Это 4-битная модель для генерации текста и диалогов, созданная сообществом mlx-community на основе Mistral-7B-Instruct-v0.2 и преобразованная в формат MLX для запуска на устройствах Apple. В README также указано использование DPO-датасета Argilla; метаданные описывают модель как плотную архитектуру MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель подходит для диалоговых ответов и генерации текста по запросу. В README приведён пример запуска через MLX. Репозиторий распространяется по лицензии Apache-2.0. Качество и языковой охват этой версии отдельно не описаны; 4-битное представление может ограничивать точность по сравнению с версиями в большей точности.

Onkarn/ML-Test-v01 — разговорная модель генерации текста на базе архитектуры Llama с 3,2 млрд параметров. Она принимает текстовые запросы и генерирует текст; в метаданных также отмечен интерфейс вызова инструментов. Модель опубликована в формате safetensors и рассчитана на контекст до 131 072 токенов. Карточка не содержит сведений о разработчике, базовой модели, обучении, целевых сценариях, языках или лицензии. Поэтому пригодность для конкретных задач, качество ответов и условия использования по доступным данным определить нельзя.

Moonlight-16B-A3B-mthreads-FlagOS — разговорная языковая модель семейства DeepSeek V3, опубликованная FlagRelease. Она предназначена для генерации текста и диалогов с оптимизацией инференса на GPU-платформе mthreads; README также описывает поддержку запуска через vLLM и стек FlagOS. Модель построена на архитектуре Mixture of Experts: в README указано 16 млрд параметров всего и около 3 млрд активных параметров на инференс, тогда как метаданные Hugging Face указывают 2,7 млрд параметров. Метаданные задают контекст 8192 токена и язык zh. Модель подходит для развертывания чат-сервиса и ответов на пользовательские вопросы. В README приведено сравнение нескольких бенчмарков с вариантом Moonlight-16B-A3B-Nvidia-Origin, но результатов недостаточно, чтобы заключить о качестве на широком наборе задач. Лицензия Apache-2.0. Указанная в карточке архитектура DeepseekV3ForCausalLM помечена метаданными как dense, что расходится с описанием MoE в README.

Motif 2.6B — плотная авторегрессионная языковая модель с 2,6 млрд параметров, разработанная Motif Technologies и обученная с нуля на 2,4 трлн токенов. Она предназначена для генерации текста и диалогового взаимодействия; разработчики позиционируют её как компактную модель общего назначения. Модель обучалась на ускорителях AMD Instinct MI250, а заявленная длина контекста составляет 16 384 токена. В карточке указаны английский и корейский языки. Модель подходит для чат-ботов, генерации и продолжения текста, а также для экспериментов с компактными языковыми моделями. В README приведены результаты сравнительных тестов, однако показатели получены в разных условиях и по данным публикаций разработчиков сравниваемых моделей, поэтому их следует интерпретировать осторожно. Для загрузки через Transformers карточка приводит пример с AutoModelForCausalLM и trust_remote_code=True. Весы опубликованы в формате safetensors по лицензии Apache-2.0. Модель обучена с нуля и не указана как производная от другой базовой модели.

eluzhnica/mpt-30b-instruct-peft-compatible — совместимая с PEFT копия MPT-30B-Instruct от MosaicML. Веса не дообучались и совпадают с исходной моделью; репозиторий адаптирован для дальнейшего тонкого обучения, включая QLoRA, хотя автор отмечает, что совместимость не проверялась полностью. Модель предназначена для генерации текста и выполнения коротких инструкций: например, для составления писем, ответов на вопросы и решения задач. Это плотный авторегрессионный трансформер с модифицированной архитектурой decoder-only, FlashAttention и ALiBi. В README указано около 29,95 млрд параметров. Для загрузки требуется trust_remote_code=True. Модель может выдавать фактически неверные ответы, а также предвзятый, непристойный или оскорбительный текст. Распространяется по лицензии CC BY-SA 3.0.

NemoReRemix-12B-GGUF — это набор GGUF-квантизаций текстовой генеративной модели NemoReRemix-12B, разработанной MarinaraSpaghetti и квантизированной bartowski с использованием llama.cpp и imatrix. Модель предназначена для локального запуска и генерации текста, в том числе через LM Studio. Доступны варианты с разным соотношением качества, размера файла и требований к оперативной памяти. Исходный размер модели — 12 миллиардов параметров, однако точная архитектура, поддерживаемые языки, длина контекста и мультимодальные возможности в карточке не указаны. Представлены версии от F32 размером 49 ГБ до IQ2_M размером 4,44 ГБ; варианты Q6_K и Q6_K_L отмечены как близкие к исходному качеству, а Q4_K_M — как компромиссный вариант. Более компактные квантизации требуют меньше памяти, но снижают качество и могут быть менее стабильными. Шаблон чата явно не задан: в README приведён шаблон на основе специальных токенов im_start и im_end, но указано, что он может быть некорректным и требует проверки по карточке исходной модели. Лицензия в предоставленных данных не указана, поэтому условия коммерческого и иного использования следует уточнять у разработчика исходной модели и автора квантизаций.

Nemotron-Labs-Diffusion-3B-Base — базовая плотная языковая модель семейства Nemotron-Labs-Diffusion, разработанная NVIDIA. Модель содержит 3,2 млрд параметров и поддерживает генерацию текста в авторегрессионном режиме (AR), параллельное декодирование на основе диффузии и self-speculation: модель чередует диффузионное черновое предсказание с авторегрессионной проверкой, используя общий KV-кэш. Модель предназначена для генерации текста и диалоговых сценариев, где важна эффективность декодирования. Переключение режимов выполняется изменением шаблона внимания одной и той же модели; заявленная цель — повысить пропускную способность при разных уровнях параллелизма. Для работы с Transformers требуется версия 5.0 или новее. Максимальная длина контекста составляет 4096 токенов. В README приведены сравнительные показатели ускорения для других размеров семейства и аппаратных платформ; они не являются отдельной оценкой именно версии 3B. В доступных сведениях не названы языки обучения или специализация по предметной области. Модель распространяется по лицензии NVIDIA с особыми условиями (license: other); перед использованием следует ознакомиться с условиями на странице репозитория.

neo-3-3B-A400M-Base — базовая языковая модель семейства neo-3, разработанная авторами проекта neo. Она предназначена для генерации текста и служит основой для последующего дообучения под диалоговые, кодовые и рассуждательные сценарии. В карточке заявлена архитектура Mixtral MoE; веса опубликованы в формате Safetensors. Метаданные указывают 134,5 млн параметров и контекст до 32 768 токенов. README отдельно приводит 380 млн активных параметров для версии 3B-A400M. Модель предварительно обучена на корпусах, включающих Википедию, синтетические данные, математику и код. README сообщает о 1,2 трлн обучающих токенов и приводит результаты сравнительных тестов, где модель показывает разные результаты на общих и математических задачах. Указана лицензия MIT. Это базовая, а не готовая instruct-модель; опубликованные версии instruct/thinking на момент карточки ожидались отдельно.

QuantFactory/NeuralLlama-3-8B-Instruct-abliterated-GGUF — квантизированная GGUF-версия экспериментальной модели mlabonne/NeuralLlama-3-8B-Instruct-abliterated, созданная с использованием llama.cpp. Разработчик исходной модели — mlabonne; конкретный автор квантизации в README не указан. Модель основана на Llama 3 8B Instruct, дополнительно дообучена методом DPO на полном наборе данных mlabonne/orpo-dpo-mix-40k, а затем адаптирована для формата GGUF. Модель предназначена для генерации текста, диалоговых сценариев и ролевых применений, включая задачи, не требующие выравнивания поведения. В README она описана как uncensored, то есть с ослабленными ограничениями безопасности, поэтому её применение требует самостоятельной оценки рисков и контроля результатов. Указано тестирование в LM Studio с пресетом «Llama 3». Поддерживаемые языки, размер контекста и точные параметры квантизации не приведены. По заявлению авторов, дообучение улучшает результаты исходной abliterated-модели и восстанавливает часть показателей MMLU, утраченных после abliteration. В приведённой оценке Nous модель получила средний результат 52,26, опередив перечисленные в таблице базовую Meta-Llama-3-8B-Instruct и другие сравниваемые модели. Лицензия указана как other, без дополнительных условий в README, поэтому точные правила использования необходимо уточнять в карточке репозитория.

Карточка модели localized-ft/OLMo-3-7B-bad-medical-advice-inoculation-prompting-seed3 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-bad-medical-advice-kld-seed5 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-bad-medical-advice-last-third-sft-seed5 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-bad-medical-advice-second-third-sft-seed3 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-german-city-names-second-third-v2-sft-seed3-epoch3 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

OpenLLaMA 3B — предварительно обученная языковая модель с открытыми весами, разработанная OpenLM Research как воспроизводимая реализация архитектуры Meta AI LLaMA. Модель содержит 3,3 млрд параметров, использует плотную архитектуру LLaMA и обучена с нуля на наборе RedPajama; длина контекста составляет 2048 токенов. Доступны веса PyTorch, модель подходит для генерации текста и оценки языковых задач. Модель можно применять для продолжения текста, простых ответов на вопросы и few-shot сценариев. В опубликованной оценке она показала сопоставимые с исходной LLaMA и GPT-J результаты на большинстве задач, но это не гарантирует качество для каждого пользовательского сценария. В README отмечена возможная утечка данных в обучающую выборку для отдельных бенчмарков; также рекомендуется использовать медленный токенизатор Transformers, поскольку fast tokenizer может ошибочно разбивать текст. Лицензия — Apache-2.0.

Это GGUF-сборка дообученной модели Phi-2, подготовленная afrideva на основе anilbhatt1/phi2-oasst-guanaco-bf16-custom. Базовую microsoft-phi2 дообучили методом QLoRA на датасете timdettmers/openassistant-guanaco; эта публикация содержит файлы в форматах FP16 и GGUF с вариантами квантования от Q2_K до Q8_0. Модель предназначена для генерации текста в диалоговом стиле и ответов на запросы, в том числе для локального запуска; в README указана возможность запуска на GPU T4 в Colab. Лицензия репозитория — MIT. В карточке не приведены сведения о поддерживаемых языках и длине контекста.

Justbackup/phi-4-abliterated — основанная на Microsoft Phi-4 дообученная языковая модель с плотной архитектурой Phi3ForCausalLM и 14,1 млрд параметров. Она предназначена для генерации текста и диалогов на английском языке, включая рассуждения и логику; автор карточки также предлагает рассматривать её как отправную точку для дальнейшего дообучения. Контекст модели — 16 384 токена. Вариант abliterated, согласно карточке, не обязательно является полностью «нецензурированным»: он лишь не отказывает явно в ответе на запросы. Как и базовая Phi-4, модель может ошибаться, выдавать оскорбительный или предвзятый контент; качество на языках, отличных от английского, ниже, а результаты в коде требуют проверки. Лицензия — GPL-3.0.

PIT-4B-FT — англоязычная GPT-подобная модель семейства Point-In-Time от Diamegs, дообученная следовать инструкциям. Она предназначена для генерации текста и анализа вопросов с учётом знаний, доступных до декабря 2020 года; это позволяет использовать её для временного анализа и воспроизведения точки зрения на события того периода. Модель построена на decoder-only Transformer, имеет 20 слоёв и принимает контекст до 2048 токенов. LoRA-адаптеры обучены на инструкционных данных и объединены с базовыми весами. Модель поддерживает генерацию текста на английском языке и распространяется в формате safetensors через Transformers. Лицензия — Apache-2.0. Её знания ограничены веб-текстами до декабря 2020 года; RLHF и дополнительное обучение безопасности не применялись. Возможны смещения из обучающих данных FineWeb, поэтому модель не подходит для критически важных решений без дополнительного выравнивания.

Mungert/Qwen3-30B-A3B-GGUF — GGUF-версия базовой модели Qwen/Qwen3-30B-A3B-Base, опубликованная пользователем или организацией Mungert. Модель предназначена для генерации текста и локального запуска через совместимые инструменты, включая llama.cpp, особенно в условиях ограниченного объёма GPU-памяти или при работе на CPU и периферийных устройствах. Модель использует агрессивное низкобитное квантование, включая варианты IQ1 и IQ2, с методом IQ-DynamicGate. Этот подход распределяет точность по слоям и защищает наиболее чувствительные компоненты, стремясь сохранить качество при размере 1–2 бита. В README приведены результаты сравнительных тестов на Llama-3-8B-Instruct: для отдельных вариантов DynamicGate снижал perplexity по сравнению со стандартным квантованием, при этом увеличивая размер файлов примерно на 0,1–0,3 ГБ и сохраняя сопоставимую скорость инференса. Сильные стороны модели — существенная экономия памяти и возможность запуска на оборудовании с ограниченными ресурсами. Ограничения связаны с потерями точности, характерными для экстремального низкобитного квантования; приемлемость таких потерь зависит от сценария. Приведённые бенчмарки относятся к Llama-3-8B и не подтверждают аналогичные показатели именно для Qwen3-30B-A3B. Языки, точное устройство архитектуры, максимальный контекст модели и рекомендуемые системные требования в README не указаны. Лицензия — Apache-2.0.