II.1Анализ требований и архитектура ПО

litert-community/Qwen3-8B — это версия языковой модели Qwen3-8B, подготовленная сообществом LiteRT для запуска на устройствах с использованием LiteRT-LM. Исходную модель разработала команда Qwen. Модель предназначена для генерации текста и интеграции в локальные и периферийные приложения, где важны автономная работа и снижение требований к памяти. Доступны варианты с поканальным INT8-квантованием весов и float32 KV-кэшем, а также смешанный вариант TorchAO INT4 размером около 4,66 ГиБ. В смешанном варианте линейные проекции используют блочное INT4-квантование с размером группы 32, эмбеддинги — weight-only INT8, а нормализационные пути и KV-кэш остаются в формате с плавающей точкой. Для этого варианта заявлен контекст 2048 токенов. В метаданных указан английский язык и задача text-generation; другие языки и модальности не заявлены. Сильные стороны модели — оптимизация для локального запуска, уменьшенный размер благодаря квантованию и поддержка LiteRT-LM StableHLO-операций для выполнения внимания и работы с кэшем. В тесте на AMD Radeon AI PRO R9700 через WebGPU показаны 860,57 токена/с на этапе prefilling, 67,23 токена/с при декодировании и время до первого токена 0,31 с, однако результаты зависят от оборудования и настроек. Бенчмарк для телефонов не приводится, а заявленные характеристики относятся к конкретным артефактам и среде выполнения. Модель распространяется на условиях лицензии Apache-2.0.

p-e-w/Qwen3-8B-heretic — текстовая генеративная модель на базе Qwen3-8B-Base, изменённая методом abliteration, который снижает склонность исходной модели к отказам. В README приведены параметры этой процедуры и сравнение: 45 отказов из 100 запросов против 100 у оригинальной модели; это указывает на изменение поведения, но не гарантирует отсутствие отказов. Модель использует плотную авторегрессионную архитектуру Qwen3ForCausalLM, содержит 7,6 млрд параметров и рассчитана на контекст до 40 960 токенов. Она предназначена для диалогов и генерации текста; базовое семейство поддерживает многоязычные сценарии. Доступна в формате safetensors для Transformers. Лицензия — Apache-2.0. README описывает характеристики семейства Qwen3, поэтому отдельные заявления о качестве и возможностях базовой модели не следует считать оценкой именно этой модификации. Снижение отказов может приводить к ответам на запросы, которые исходная модель отклоняла.

Qwen3.8-Flash-Next-NVFP4-Abliterated — разговорная генеративная модель семейства Qwen, опубликованная huginnfork. Это производная от local-inference-lab/Qwen3.8-Flash-Next-NVFP4: к квантованным весам применено направленное изменение, снижающее склонность модели к отказам. В README описана модель с плотной архитектурой Qwen4ExpForConditionalGeneration, доступная в формате safetensors ModelOpt; метаданные указывают поддержку чата и интерфейса вызова инструментов. Модель предназначена для генерации ответов в диалоге и выполнения запросов через интерфейс чата. Изменение поведения намеренно повышает вероятность ответов на запросы, от которых исходная модель могла отказаться; заявленные в README измерения характеризуют поведение отказов и не подтверждают безопасность или качество во всех сценариях. README указывает, что квантованные тензоры редактировались с повторным квантованием с ограничениями, а формат и размер тензоров сохранены относительно родительского чекпойнта. Лицензия в метаданных обозначена как other, без конкретных условий в предоставленных данных. Контекстное окно, размер модели и поддерживаемые естественные языки в предоставленных источниках не приведены.

Qwen3.8-Flash-Next REAP-384 (bf16) — полноточный чекпойнт, опубликованный sh0wie на основе Qwen/Qwen3.8-Flash-Next. Это разрежённая MoE-модель семейства Qwen: в 48 слоях чередуются Gated DeltaNet и разрежённое внимание Qwen, а в каждом MoE-блоке из исходных 512 экспертов оставлены 384 с маршрутизацией top-10. Модель относится к классу 180 млрд параметров: 125 млрд в основной модели и таблица n-грамм на 51 млрд параметров. Веса хранятся в bf16 без предварительной квантизации; репозиторий занимает около 294 ГБ. Чекпойнт предназначен прежде всего для генерации текста и диалогового использования, а также как источник для дальнейшей квантизации, дообучения или высококачественного инференса при наличии подходящей инфраструктуры. Отбор экспертов REAP калибровали примерно на 686 тысячах токенов агентного программирования; автор приводит для родственной 4-битной сборки результат 92,1% на HumanEval, но это не оценка bf16-версии. Данные о контексте и языках в предоставленных источниках не приведены. Метаданные указывают интерфейс вызова инструментов и мультимодальную базовую модель с анализом изображений, однако README предупреждает, что зрительный ввод после pruning не тестировался. Для непосредственного запуска нужны значительные ресурсы: чекпойнт размером 294 ГБ не помещается в память одного Mac и требует механизма подкачки, например pmlx, либо другой инфраструктуры для крупных моделей; скорость ниже, чем у 4-битной версии. Калибровка выполнена на данных агентного программирования, поэтому качество в других областях может снижаться. Лицензия указана как other, конкретные условия в предоставленной карточке не раскрыты.

Qwen3.8-Flash-Next-Uncensored-ROCmFP4-STRIX_LEAN-GGUF — квантизированная GGUF-версия модели Qwen3.8-Flash-Next, разработанная пользователем kingjones777 на основе Qwen/Qwen3.8-Flash-Next и orcarouter/Qwen3.8-Flash-Next-Uncensored. Модель предназначена для генерации текста, включая рассуждения, создание JSON, программирование и суммаризацию документов. Вариант Uncensored распространяется как исследовательский артефакт с удалённым поведением отказа и защитными ограничениями, поэтому его следует использовать осознанно и контролировать результаты. Модель использует архитектуру qwen4exp и формат GGUF с типами ROCmFP4, ориентированными на ускорение через AMD ROCm. Карточка указывает совместимость прежде всего с AMD Ryzen AI Max+ 395 и GPU gfx1151; стандартная версия llama.cpp этот файл не загружает, требуется специальная сборка ROCmFPX с поддержкой qwen4exp и ROCmFP4. Заявлена работа с контекстом до 128K в режиме speculative decoding при применении исправлений, однако размер модели, точный объём контекстного окна в обычном режиме, языки и модальности в карточке не указаны. Сильными сторонами являются аппаратно-ориентированная FP4-квантизация, поддержка speculative decoding с MTP-головой и заметное ускорение на отдельных сценариях: в приведённых измерениях прирост достигал 34% для reasoning при коротком контексте, хотя для кода и длинных документов результат зависел от настроек и иногда был хуже обычной генерации. Для запуска требуются специальная сборка, патчи и совместимое оборудование; производительность и совместимость с другими платформами не подтверждены. Лицензия указана как qwen-community-1.0, тип лицензии — other.

Это экспериментальный исследовательский чекпойнт minjaechoi на основе Qwen/Qwen3-Next-80B-A3B-Thinking. Он предназначен для генерации текста и диалога; метаданные также отмечают интерфейс вызова инструментов. Архитектура — причинная MoE-модель семейства Qwen3-Next с классом Qwen3NextForCausalLM. В README указано, что средняя точность маршрутизируемых экспертов составляет 2,016 бита, а остальные веса хранятся в BF16; тензоры весов представлены в BF16, модель загружается через Transformers и vLLM. Метаданные указывают 2,3 млрд параметров и контекст до 262 144 токенов. Лицензия наследуется от базовой модели.

Qwerus-7B-GGUF — набор GGUF-квантизаций модели Qwerus-7B, разработанный bartowski на основе модели mlabonne/Qwerus-7B. Квантизация выполнена с использованием llama.cpp версии b4418 и метода imatrix. Модель предназначена для генерации текста и локального запуска, в частности через LM Studio и совместимые инструменты llama.cpp. В набор входят варианты от исходных весов F16 размером 15,24 ГБ до компактных квантов IQ2_M размером 2,78 ГБ. Доступны форматы Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ. Более крупные варианты обеспечивают более высокое качество, а компактные требуют меньше оперативной памяти, но сильнее теряют в качестве. Для большинства сценариев автор рекомендует Q4_K_M как сбалансированный вариант, а Q5_K и Q6_K — как более качественные. Из README не указаны архитектура исходной модели, размер контекстного окна, поддерживаемые языки и модальности. Приведён шаблон диалога с ролями system, user и assistant. Лицензия модели — MIT.

Qwopus-GLM-18B-Healed-i1-GGUF — это квантизированная GGUF-версия модели Qwopus-GLM-18B-Healed, разработанной Jackrong и подготовленной квантизатором mradermacher. Модель относится к типу qwen3_5, имеет около 18 млрд параметров и предназначена для генерации текста и диалогового взаимодействия. В метаданных также заявлена поддержка сценариев рассуждения, работы с агентами и инструментами, однако подробные результаты тестирования не приведены. Модель поддерживает английский, китайский, корейский, японский, французский, немецкий и испанский языки. README указывает, что это vision-модель, поэтому она может использовать визуальные входы при наличии соответствующего multimodal-проектора, но сведения о поддерживаемых форматах изображений и конкретных возможностях анализа изображений отсутствуют. Длина контекста также не указана. Репозиторий содержит варианты квантизации от экстремально компактных IQ1 до Q6_K размером примерно от 4,5 до 13,1 ГБ. Это позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством; для общего использования автор рекомендует i1-Q4_K_M, а i1-Q4_K_S отмечает как удачный баланс размера, скорости и качества. Сильными сторонами являются многоязычность, поддержка текстовых и, вероятно, визуальных сценариев, а также возможность локального запуска через формат GGUF. Ограничениями выступают потери качества у низкобитных вариантов, отсутствие заявленной длины контекста и бенчмарков, а также необходимость совместимого ПО и multimodal-компонентов для работы с изображениями. Лицензия — Apache-2.0.

RWKV7-G1i-7.2B-20260805 — базовая предобученная языковая модель семейства RWKV-7, разработанная Bo Peng, Yu Zhang, Songlin Yang, Ruichong Zhang и Zhiyuan Li при поддержке RWKV Project под эгидой LF AI & Data Foundation. Это плотная авторегрессионная модель на 7,8 млрд параметров в формате safetensors; в README также указано 7,2 млрд параметров. Она использует рекуррентную архитектуру без внимания с постоянным размером состояния и постоянной вычислительной работой на генерируемый токен, а обучение допускает параллелизацию. Модель принимает текст и генерирует продолжение, поддерживает чатовый шаблон, но не заявлена как безопасный или выровненный диалоговый помощник. Метаданные указывают контекст 2048 токенов. Модель предварительно обучена на веб-текстах, коде, синтетических данных, инструкциях, диалогах и данных для рассуждений. Её назначение — оценка, последующее обучение и дообучение, а также генерация текста и эксперименты с диалоговыми сценариями. README называет языки многоязычными, а метаданные перечисляют английский, китайский, японский, корейский, французский, арабский, испанский и португальский. Для использования требуются flash-linear-attention и актуальная версия Transformers. Лицензия — Apache-2.0.

RWKV-7-G1k-13.3B-20260930 — официальная базовая языковая модель BlinkDL на архитектуре RWKV-7 Goose, предназначенная для генерации текста, оценки, последующего обучения и дообучения. В метаданных указано 14,6 млрд параметров; модель опубликована в формате Transformers с весами Safetensors и шаблоном для диалоговых промптов. RWKV-7 — рекуррентная архитектура без механизма внимания: её состояние имеет постоянный размер, а вычислительная работа на токен не растёт с длиной сгенерированной последовательности. Модель обучалась на веб-текстах, коде, синтетических данных, инструкциях, диалогах и материалах для рассуждений. Заявлена поддержка английского, китайского, французского, испанского, немецкого, португальского, русского, итальянского, японского, корейского, вьетнамского и арабского языков. Это базовая, а не выровненная по безопасности ассистентская модель: качество следования инструкциям и поведение зависят от промпта и последующего обучения. Указаны ограничения для спекулятивного декодирования с откатом рекуррентного кэша; ускоренный запуск зависит от GPU, типа данных и размеров входа. Модель распространяется по лицензии Apache-2.0.

IB13/sft_t5_base_processed_model — дообученная модель генерации текста семейства T5 на основе google/flan-t5-base. Она содержит 123,8 млн параметров, использует архитектуру T5ForConditionalGeneration и принимает текст, чтобы генерировать текст в формате text-to-text. Базовая модель обучена следовать инструкциям и поддерживает разнообразные NLP-задачи; конкретная специализация этого дообучения и обучающий датасет не описаны. Длина контекста составляет 512 токенов. Модель можно применять для генерации ответов и выполнения текстовых преобразований. Она распространяется по лицензии Apache-2.0. Качество и ограничения дообученной версии не описаны.

Sakalti/SJT-2.4B — разговорная языковая модель, созданная Sakalti методом passthrough-слияния слоёв Sakalti/SJT-1.5B-Alpha с помощью mergekit. Модель построена на архитектуре Qwen2 и содержит около 2,2 млрд параметров; веса представлены в формате Safetensors. Она предназначена для генерации текста и диалоговых сценариев. Метаданные также отмечают интерфейс вызова инструментов. Заявленная длина контекста составляет 131 072 токена. Модель доступна через Transformers. В README описана схема сборки из диапазонов слоёв одной базовой модели, но не приведены оценки качества или сведения о конкретных языках. Лицензия в предоставленных данных не указана.

slimorca-gemma2-9b-fft-GGUF — это квантизированная GGUF-версия текстовой генеративной модели slimorca-gemma2-9b-fft, созданная на базе axolotl-ai/co/gemma-2-9b. Исходную модель разработала openaccess-ai-collective, а квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска в средах, совместимых с llama.cpp. Модель относится к семейству Gemma 2 и имеет около 9 миллиардов параметров. Она работает в текстовой модальности; сведения о поддерживаемых языках и максимальном размере контекста в README не указаны. Для взаимодействия требуется специальный шаблон prompt с ролями user и model. Системный prompt не поддерживается. Доступно множество вариантов квантизации от Q8_0 до Q2_K и IQ-форматов, что позволяет выбирать между качеством, размером файла и требованиями к памяти. В README варианты Q6 и Q5 описаны как высококачественные, а Q4 — как обеспечивающие хороший баланс качества и экономии памяти; более сильная квантизация снижает качество, но облегчает запуск на устройствах с ограниченными ресурсами. Модель распространяется по лицензии gemma.

MC7ever/spark25-4b-evo-merged — объединённая модель семейства Spark2.5-4B, созданная методом эволюционного линейного слияния весов. В основе использованы дообученные модели ProCreations/BetterWright-4b и hcnote/Spark-X2.5-4B-Writing-EP1; конфигурация и токенизатор взяты от базовой модели. Веса опубликованы в формате safetensors. Модель предназначена для диалоговой генерации текста. В карточке приведены результаты тестов на HellaSwag, ARC, MMLU и GSM8K, включая показатель 0,748 на GSM8K. Архитектура — плотная причинно-языковая Spark2_5ForCausalLM с 3,8 млрд параметров и контекстом до 1 048 576 токенов. Лицензия — Apache-2.0. Результаты тестирования не гарантируют качество в прикладных сценариях; карточка не описывает конкретные языки или ограничения безопасности. Метаданные отмечают склонность к менее строгой цензуре, поэтому ответы могут требовать дополнительной проверки.

Steelskull_L3.3-San-Mai-R1-70b-GGUF — это набор GGUF-квантизаций текстогенерационной модели L3.3-San-Mai-R1-70b, разработанной Steelskull. Квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться локально через llama.cpp, LM Studio и другие совместимые проекты. В основе лежит модель размером 70 миллиардов параметров, однако сведения о конкретной архитектуре, поддерживаемых языках, модальностях и максимальной длине контекста в представленном README не указаны. Доступны варианты квантизации от Q8_0 до Q2_K_L, различающиеся размером файлов, требованиями к памяти и качеством вывода. Варианты Q6_K, Q5_K и ряд вариантов Q4 отмечены как рекомендуемые благодаря удачному балансу качества и размера; низкоразрядные варианты экономят память, но дают более низкое качество. Сильной стороной модели является возможность локального запуска на совместимом оборудовании и широкий выбор степеней квантизации. Ограничения включают значительные требования к оперативной памяти: размер файлов составляет примерно от 27 до 75 ГБ, а качество некоторых компактных вариантов заметно снижено. Для работы следует использовать указанный формат prompt в совместимом программном обеспечении. Лицензия указана как llama3.3.

Strawberry-1-i1-GGUF — это набор квантованных GGUF-файлов модели strawberry-1, разработанной artindnr и квантизированной mradermacher. Модель предназначена для генерации текста и локального запуска в совместимых инструментах, поддерживающих формат GGUF. В репозитории представлены варианты с разными уровнями квантования, размером примерно от 12,1 до 22,3 ГБ, а также imatrix-файл для создания собственных квантовок. Модель относится к архитектуре Mixture-of-Experts; в метаданных также указаны совместимость с PyTorch, JAX и TensorFlow, а также поддержка языков fa, en и multilingual. Точный размер исходной модели, максимальная длина контекста, количество экспертов и перечень поддерживаемых модальностей в README не указаны; по имеющимся данным модель является текстовой и не поддерживает заявленные мультимодальные входы. Основное преимущество репозитория — широкий выбор квантовок с различным компромиссом между размером, скоростью и качеством. Для повседневного использования автор рекомендует i1-Q4_K_M, а i1-Q4_K_S отмечает как оптимальный вариант по соотношению размера, скорости и качества. Более низкие уровни квантования требуют меньше ресурсов, но могут заметно снижать качество. Лицензия модели — Apache-2.0.

Карточка модели cuong1692001/Terminal-complete-12k на Hugging Face совпадает с карточкой cuong1692001/Terminal_complete_12k, поэтому описание составлено по ней. Terminal-complete12k — дообученная модель на базе Qwen/Qwen3-8B, созданная автором репозитория cuong1692001. Это плотная языковая модель с архитектурой Qwen3ForCausalLM и 7,6 млрд параметров; она принимает текст и генерирует текст. Карточка указывает на диалоговый сценарий, а базовая модель поддерживает многоязычную генерацию, рассуждения, следование инструкциям, работу с кодом и вызов инструментов. Максимальная длина контекста составляет 40 960 токенов. Модель можно применять для диалога и генерации текста. README сообщает о дообучении на наборе qwen_data_complete, но не описывает его состав, целевые задачи или результаты оценки, поэтому специфические преимущества Terminal-complete12k подтвердить нельзя. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия указана как other; конкретные условия использования в доступных данных не раскрыты.

Ternary-Bonsai-4B-gguf — языковая модель для генерации текста, разработанная Prism ML. Она основана на Qwen3-4B и распространяется в формате GGUF Q2_0 для запуска через llama.cpp, включая локальное и on-device использование на CPU и GPU. Модель содержит около 4 млрд параметров, из которых примерно 3,6 млрд не относятся к эмбеддингам. Архитектура включает 36 блоков Transformer-декодера, GQA с 32 query- и 8 KV-головами, SwiGLU, RoPE и RMSNorm. Контекст составляет 32 768 токенов, размер словаря — 151 936. Веса представлены в троичном виде {-1, 0, +1} с групповым масштабированием FP16; размер рекомендуемого файла Q2_0 составляет около 1,02 ГБ, что примерно в 7,3 раза меньше FP16-версии. Сильные стороны модели — существенно сниженные требования к памяти, эффективный запуск на совместимом оборудовании и практически без потерь относительно FP16-базиса для троичных весов. В опубликованных тестах она набрала средний результат 70,7 балла, однако уступила полноразмерной Qwen3-4B по большинству приведённых метрик. Для поддержки формата Q2_0 требуется форк llama.cpp от Prism ML с веткой prism, поскольку эта возможность ещё не входит в основную версию проекта. Модель распространяется по лицензии Apache 2.0; поддерживаемые языки в README не указаны.

Thespis-CurtainCall-7b-v0.2 — экспериментальная текстовая генеративная модель на архитектуре Mistral, опубликованная автором cgato как первая версия серии экспериментов по улучшению своих моделей. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. В README указано обучение на наборах Dolphin, Ultrachat, Capybara, Augmental, ToxicQA и Magiccoder-Evol-Instruct-110k. Модель предназначена для диалогов и генерации ответов в шаблонах Ooba и Silly Tavern, а также может применяться для генерации кода по инструкциям. Автор отмечает, что работа ещё далека от завершения и делится моделью для ознакомления и проверки. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое; начальные тесты автора не заменяют независимую оценку качества.

IsValorum подготовил APEX-I-MiniPlus V2.1 — пользовательскую квантизацию модели Thomson-1.0-Small в формате GGUF для запуска через llama.cpp. Модель предназначена для диалоговой генерации текста и рассуждений; карточка описывает настройку тензоров Mixture-of-Experts, рассчитанную на сохранение качества при уменьшении размера весов. Заявлены размер файла около 14,75 ГБ, средняя точность 3,40 бита на вес и запуск с контекстом до 256 тысяч токенов, включая конфигурации с системной памятью и частичной выгрузкой на GPU. Модель основана на Thomson Reuters Thomson-1.0-Small; метаданные связывают её с базовой моделью как дообучение, а файлы представлены в GGUF и маркированы как квантованные. Поддерживаются английский, китайский, испанский, французский, немецкий, португальский, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский языки. Лицензия — Apache-2.0. Показатели качества и скорости приведены автором карточки; они зависят от оборудования и конфигурации запуска.

TigerBot-70B-Base-v1 — базовая языковая модель семейства Llama, разработанная TigerResearch. Это плотная авторегрессионная модель на 69 млрд параметров для генерации текста и использования в качестве основы для собственных решений на базе LLM. В карточке приведены результаты Open LLM Leaderboard, включая средние 62,1 балла, ARC и HellaSwag. Модель поддерживает китайский и английский языки, принимает текст и генерирует текст. Её нативный контекст составляет 2048 токенов. Веса доступны в формате PyTorch, а для использования README предлагает запуск через Transformers и код TigerBot. Модель распространяется по лицензии Apache-2.0.

UW1-DPO-soft — диалоговая языковая модель на архитектуре Qwen2 с 7,1 млрд параметров, разработанная авторами репозитория promotion. Она дообучена методом DPO с мягкими метками предпочтений и β_DPO = 0,1 на базе Qwen/Qwen2.5-7B-Instruct. Модель предназначена для генерации текста и диалогов; карточка описывает экспериментальное сравнение вариантов обучения на одном протоколе. Для обучения использовались 319 обучающих и 83 проверочных запроса из отфильтрованной выборки WildChecklists. В README приведены результаты тестов языковых возможностей и предпочтений, но авторы отмечают, что различия между вариантами не превышают одной стандартной ошибки, использован один seed, а оценки локальных судей не являются результатами лидербордов. Контекст модели составляет 32 768 токенов; доступны веса safetensors и интерфейс для вызова инструментов. Лицензия в предоставленных данных не указана.

FourOhFour/Vapor_v2_7B — дообученная модель генерации текста на базе Qwen/Qwen2.5-7B, разработанная автором репозитория FourOhFour. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, рассчитанная на диалоговое применение и генерацию текста. Заявленное контекстное окно составляет 131 072 токена; поддерживаются английский, русский, китайский и ряд других языков. В README приведён результат оценки на тестовом наборе: loss 0,7923. Данные обучения и конкретные целевые сценарии не раскрыты, поэтому качество для отдельных задач по этому показателю определить нельзя. Модель распространяется в формате safetensors по лицензии Apache-2.0.

kevinpro/Vicuna-13B-CoT — языковая модель, полученная дополнительным обучением Vicuna методом SFT для усиления способности к рассуждениям с промежуточными шагами (Chain of Thought, CoT). Это плотная авторегрессионная модель семейства Llama с примерно 12,9 млрд параметров, реализованная для Transformers и опубликованная в формате PyTorch. Контекст модели — до 2048 токенов. Модель предназначена для генерации текста с пошаговыми рассуждениями и может применяться для ответов на вопросы, решения задач и работы с кодом на английском языке. В карточке указано обучение на датасете QingyiSi/Alpaca-CoT; отдельные сведения о разработчике, лицензии и оценке качества не заполнены. Следует учитывать ограниченную длину контекста и типичные для языковых моделей риски неточных ответов.

WindyFloLLM — текстовая генеративная модель на архитектуре LLaMA, созданная автором репозитория путём слияния Platypus2-13B и orca_mini_v3_13b методом SLERP с помощью mergekit. Модель содержит 12,9 млрд параметров, распространяется в формате safetensors и рассчитана на контекст до 4096 токенов. Модель предназначена для генерации ответов и выполнения инструкций в текстовом диалоге. В качестве одного из компонентов использована Platypus2-13B — англоязычная инструкция-донастроенная модель, ориентированная в том числе на STEM и логические задачи; README подтверждает использование также orca_mini_v3_13b. Данные не устанавливают отдельную специализацию или качество итогового слияния. Лицензия в предоставленных данных не указана. Как генеративная языковая модель, она может выдавать ошибочные или непроверенные ответы.

zephyr-7b-sft-full-SPIN-iter1 — диалоговая языковая модель UCLA-AGI, полученная итерационным дообучением alignment-handbook/zephyr-7b-sft-full на синтетических данных, созданных с опорой на HuggingFaceH4/ultrachat_200k. Это плотная модель семейства Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров; она предназначена для генерации текста и ответов в диалоге, преимущественно на английском языке. Максимальная длина контекста составляет 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и продолжения текста. В README приведены результаты оценки на Open LLM Leaderboard, включая средний балл 62,86, ARC и HellaSwag. Модель распространяется по лицензии MIT. Как и другие языковые модели, она может генерировать неточные или неподходящие ответы; опубликованные оценки не гарантируют качество в конкретном сценарии.

ZYR3.1MoE-GGUF — квантизированная версия модели ZYR3.1MoE, разработанной zyr-AGENT и подготовленной mradermacher. Модель предназначена для генерации текста, многоагентных сценариев и оркестрации взаимодействия между агентами. В метаданных указаны поддержка английского языка, библиотека Transformers и архитектура MoE (Mixture of Experts), однако подробности об устройстве модели, числе параметров и размере контекста не приведены. Репозиторий содержит файлы GGUF с различными уровнями квантизации — от Q2_K размером около 3,9 ГБ до f16 размером около 18 ГБ. Варианты Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как обеспечивающий очень хорошее качество, а Q8_0 — как быстрый вариант с наилучшим качеством среди перечисленных. Квантизация уменьшает требования к памяти, но может снижать качество по сравнению с исходной моделью; конкретные характеристики производительности не указаны. Лицензия обозначена как other, без дополнительных условий в README, поэтому точные правила использования следует уточнять в исходном репозитории модели. Описанная версия является текстовой и не заявляет поддержку изображений или других модальностей.

AFM-4.5B-Base-Pre-Anneal — базовая плотная авторегрессионная модель семейства Arcee, разработанная Arcee.ai. Она построена на архитектуре Transformer decoder-only и содержит 4,5 млрд параметров по README (в метаданных указано 6 млрд). Для эффективного вывода использует grouped-query attention, а вместо SwiGLU — активацию ReLU², рассчитанную на поддержку разреживания. Модель обучена на 6,5 трлн токенов общих предобучающих данных; доступная версия предшествует этапу дообучения на математике и коде, слиянию моделей и расширению контекста. Модель предназначена для генерации текста и служит базой для последующей адаптации под разные сценарии. Она принимает текст и генерирует текст; нативный контекст составляет 4096 токенов. Метаданные указывают поддержку английского, испанского, французского, немецкого, итальянского, португальского, русского, арабского, хинди, корейского и китайского языков. Для работы можно использовать библиотеку Transformers. Лицензия — Apache-2.0. Поскольку это базовая модель до этапов настройки на математике и коде, README не заявляет о специализированных возможностях этих областей.

Airoboros 13B HF — русскоязычное описание модели не подразумевает её русскоязычную специализацию: это 13-миллиардная плотная языковая модель семейства LLaMA, дообученная Джоном Дурбином на синтетических инструкциях. Репозиторий TheBloke содержит веса в формате Transformers PyTorch fp16, конвертированные из исходного репозитория fp32 для более удобного хранения и использования. Контекст модели составляет 2048 токенов. Модель предназначена для диалоговых ответов и выполнения текстовых инструкций в формате FastChat/Vicuna. Дополнительный этап обучения включал синтетические примеры по математике, ответам на закрытые вопросы и программированию; автор отмечает, что качество этих задач изначально было слабым. В обучающих данных есть примеры опасных инструкций, поэтому модель может выдавать потенциально вредный контент и не подходит для сценариев, требующих надёжного отказа от таких запросов. Лицензия указана как other, поэтому конкретные условия использования следует проверять в карточке репозитория и у правообладателей базовой модели. Это конверсия весов fp32 в fp16, а не отдельное дообучение TheBloke; исходная Airoboros сама является дообученной моделью LLaMA.

Bigger-Body-70b-GGUF — это квантизированная версия языковой модели Bigger-Body-70b, разработанной allura-org и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста, диалоговых сценариев, conversational-приложений и roleplay. Указана поддержка английского и китайского языков. Модель имеет 70 миллиардов параметров и распространяется в нескольких вариантах квантования для запуска через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты от Q8_0 до Q2_K, различающиеся размером файлов, качеством и требованиями к памяти; наиболее рекомендуемыми в README названы Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS. Для работы следует использовать указанный шаблон промпта на основе формата Llama 3.3 с системными, пользовательскими и ассистентскими сообщениями. Сильной стороной модели является сочетание крупного размера и широкого выбора квантований, позволяющего подобрать баланс между качеством и потреблением памяти. Ограничения включают значительные требования к ресурсам: даже рекомендуемые варианты занимают десятки гигабайт, а более компактные квантования снижают качество. Архитектура, размер контекстного окна и поддержка модальностей, кроме текстовой генерации, в README не указаны. Модель распространяется по лицензии llama3.3.