II.1Анализ требований и архитектура ПО

Extended-Mind-Llama-2-7b — языковая модель для генерации текста, разработанная Normal Computing на основе архитектуры и кода Meta. Она сохраняет исходные веса без дообучения и дополняет генерацию извлечением и использованием внешней памяти в виде кэшированных пар ключ–значение. Память можно передавать как последовательность токенов; предусмотрены ручное управление и вариант с векторной базой данных. Модель предназначена для генерации текста с обращением к внешним воспоминаниям или контексту. Архитектура — плотная Extended LLaMA, размер — 6,6 млрд параметров, нативная длина контекста — 4096 токенов. В README указана лицензия Apache 2.0. Модель описана как часть продолжающейся исследовательской работы Normal Computing; качество и область применения внешней памяти зависят от конфигурации и способа подготовки памяти.

Falcon2-11B — плотная авторегрессионная языковая модель с декодерной архитектурой, разработанная Институтом технологических инноваций (TII). В README она описана как модель на 11 млрд параметров, обученная на более чем 5 трлн токенов RefinedWeb и отобранных корпусов; метаданные каталога указывают 16,4 млрд параметров. Архитектура включает 60 слоёв, rotary positional embeddings, multi-query attention и FlashAttention-2. Контекст — до 8192 токенов. Модель предназначена прежде всего для исследований и как основа для дообучения под генерацию текста, суммаризацию и диалоговые сценарии. Это исходная предобученная модель, поэтому для большинства прикладных задач её рекомендуется дополнительно адаптировать. README указывает английский, немецкий, испанский, французский, итальянский, португальский, польский, нидерландский, румынский, чешский и шведский языки; обучение преимущественно ориентировано на английский. Доступна по лицензии TII Falcon License 2.0, основанной на Apache 2.0 и включающей политику допустимого использования.

Franken-Mistral-Merlinite-Maid 7B — объединённая языковая модель, созданная ND911 с помощью mergekit и метода SLERP. В слиянии использована модель l3utterfly/mistral-7b-v0.1-layla-v4-chatml; архитектура — плотная MistralForCausalLM с 7,1 млрд параметров, формат весов — safetensors. Модель предназначена для генерации текста, включая диалоговые сценарии и ответы в стиле чат-модели Layla. Модель принимает текст и генерирует текст. Её контекстное окно составляет 8192 токена. Лицензия в предоставленных данных не указана.

Модель jingyeom/freeze_KoSoLAR-10.7B-v0.2_1.4_dedup — диалоговая языковая модель на архитектуре Llama с 10,6 млрд параметров. Она создана на основе yanolja/KoSOLAR-10.7B-v0.2 методом instruction tuning; в карточке также указаны цель обучения freeze и версия инструкций 1.4 с дедупликацией обучающих данных. Модель предназначена для генерации текста в диалоговом формате и выполнения инструкций. Она принимает текст и выдаёт текст, работает с контекстом до 4096 токенов и доступна в формате safetensors для Transformers. Карточка не описывает конкретный набор языков или специализированную область применения. Лицензия — Apache-2.0. Карточка не приводит результатов оценки качества или подробностей о составе данных, поэтому их нельзя использовать для выводов о точности модели.

g4-12b-it-trismegistus-i1-GGUF — квантизированная версия модели g4-12b-it-trismegistus, разработанной ewald1976 и подготовленной в формате GGUF пользователем mradermacher. Модель основана на архитектуре Gemma, имеет около 12 миллиардов параметров и предназначена для генерации текста и диалоговых сценариев. В README также указано, что это vision-модель, поэтому для работы с изображениями могут потребоваться дополнительные файлы mmproj. Модель ориентирована на англоязычные задачи; заявленный язык — английский. Она может использоваться локально через совместимые инструменты для запуска GGUF-моделей. Контекстное окно и точный набор поддерживаемых визуальных возможностей в предоставленных данных не указаны. Репозиторий содержит варианты квантизации от крайне компактных IQ1 до более качественных Q6_K, что позволяет выбирать компромисс между размером файла, скоростью и качеством. Для общего использования рекомендован вариант i1-Q4_K_M размером около 7,5 ГБ, а i1-Q4_K_S описан как оптимальный по соотношению размера, скорости и качества. Низкобитные варианты могут заметно уступать по качеству. Модель распространяется по лицензии Apache-2.0. В README не приведены результаты бенчмарков, подробности обучения, точные требования к памяти и контекстное окно.

Gemma-2-2B-it-IMat-GGUF — это квантизированная GGUF-версия языковой модели Gemma 2 2B IT, разработанной Google и преобразованной с помощью llama.cpp пользователем legraphista. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые инструменты, например llama.cpp. README не указывает поддерживаемые языки и размер контекстного окна. В репозитории доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ-квантизаций размером примерно от 1,18 до 5,24 ГБ. Для ряда вариантов применена IMatrix-квантизация, предназначенная для улучшения сохранения качества при уменьшении размера модели; варианты BF16, FP16, Q8_0 и Q6_K используют статическую квантизацию. Снижение точности уменьшает требования к памяти, но может ограничивать качество по сравнению с исходной моделью BF16. Исходная модель имеет тип данных BF16. Модель относится к текстовым, а не мультимодальным системам. Для использования требуется принять лицензию Google Gemma на Hugging Face; конкретные условия лицензии в README не раскрыты, поэтому перед применением необходимо ознакомиться с официальной лицензией.

ehristoforu/Gemma2-9b-it-train2 — чат-модель Gemma 2 с 9 млрд параметров, разработанная ehristoforu и дообученная на базе ehristoforu/Gemma2-9b-it-train1. Модель предназначена для генерации текста в диалоговом формате; в метаданных также указан датасет BioInstruct. Модель использует плотную архитектуру Gemma2ForCausalLM, работает с текстом и поддерживает контекст до 8192 токенов. Для обучения применялись Unsloth и библиотека TRL. Карточка модели не уточняет конкретные прикладные области или результаты оценки качества. Лицензия — Apache-2.0.

unsloth/gemma-3-270m-it — компактная текстовая инструкционная модель из семейства Gemma 3, опубликованная Unsloth на основе google/gemma-3-270m-it. Это плотная авторегрессионная модель с 257 млн параметров, предназначенная для диалогов и генерации текста: она может отвечать на вопросы, создавать черновики и кратко пересказывать материалы. В карточке базового семейства описаны также мультимодальные возможности Gemma 3, однако этот репозиторий обозначен как текстовая модель и поддерживает задачу text-generation. Модель работает с библиотекой Transformers, использует формат safetensors и имеет контекст до 32 768 токенов. В README указана лицензия Gemma; применение регулируется её условиями. Возможности небольшого чекпойнта могут быть ограничены сложными задачами и нюансами языка, а ответы могут содержать фактические ошибки или отражать смещения обучающих данных.

Gemma 3 4B IT Abliterated — доработанная Mlabonne версия диалоговой модели Google Gemma 3 4B IT. Автор применил метод abliteration: вычислил направление отказа по скрытым представлениям на вредоносных и безвредных примерах и ослабил его в целевых модулях. Версия предназначена для диалога и генерации ответов с меньшей склонностью отказывать; автор сообщает об улучшенной точности воздействия на отказы и оценивает модель на связность ответов и долю принятых запросов. Это плотная причинная языковая модель семейства Gemma 3 с 4 млрд параметров, реализованная для Transformers в формате safetensors. Она унаследовала от базовой Gemma 3 4B IT поддержку обработки изображений вместе с текстом и контекст длиной до 131 072 токенов. Для генерации автор рекомендует temperature=1.0, top_k=64 и top_p=0.95. Модель распространяется по лицензии Gemma. Ослабление отказов может привести к ответам на вредоносные запросы; заявленная целевая доля принятых запросов не гарантирует качество или безопасность отдельных ответов.

Gemma-4-26B-A4B-it-JANG_2L — квантизированная модель семейства Gemma 4 с архитектурой MoE для генерации текста и диалогов. Её создал Jinho Jang; модель предназначена для запуска на компьютерах Apple с процессорами Silicon через vMLX и библиотеку MLX. В README приведён пример генерации текста с помощью mlx_lm; конфигурация автоматически учитывает список стоп-токенов. В метаданных указан формат safetensors и лицензия Gemma. Размер модели, поддерживаемые языки и длина контекста в предоставленных данных не приведены. README называет модель квантизированной, но не уточняет метод или точность квантизации.

Это независимая смешанная GGUF-квантизация Gemma 4 31B IT Heretic, созданная владельцем репозитория на основе производной модели DavidAU/gemma-4-31B-it-The-DECKARD-HERETIC-UNCENSORED-Thinking. Она предназначена для локального диалогового использования через llama.cpp и генерирует текст в ответ на запросы. Внимательные и выходные тензоры частично сохранены в более высокой точности, а большая часть весов FFN сжата; при калибровке использовалась матрица важности imatrix. Модель содержит 31 млрд параметров и поддерживает японский, английский и другие языки; в карточке базовой модели указан контекст 262 144 токена, но фактическая длина зависит от памяти, KV-кэша и настроек запуска. Это доработанный отказоустойчивый барьер модели с удалёнными отказами: она может выдавать опасный или вредный контент и не имеет надёжного встроенного уровня безопасности. Японская генерация была проверена лишь на отдельных запросах, без формального бенчмарка; скорость и доступный контекст зависят от оборудования и конфигурации. Модель распространяется по Apache-2.0 с учётом условий исходной модели; это независимая производная, не официальный выпуск Google.

DuoNeural Gemma-4-E2B-Heretic-GGUF — набор квантизированных моделей в формате GGUF, разработанный лабораторией DuoNeural на основе google/gemma-4-e2b-it. Это инструкционно настроенная версия Gemma 4 2B, модифицированная методом abliteration: из активаций и весов удалено направление, связанное с отказами, при заявленном сохранении возможностей следовать инструкциям и рассуждать. Модель предназначена для генерации текста, диалоговых ассистентов и локального запуска через llama.cpp, Ollama, Jan, LM Studio и Open WebUI. Указан английский язык, текстовая генерация и контекст до 128K токенов. README также заявляет мультимодальные входы у базовой модели, однако для данного GGUF-набора конкретная поддержка мультимодальности не описана. Доступны варианты от FP16 размером около 8,7 ГБ до экстремально сжатых IQ1_S около 2,2 ГБ; Q4_K_M указан как рекомендуемый компромисс между качеством и размером, а IQ-варианты используют importance matrix. Сильными сторонами являются небольшой размер базовой модели, широкий выбор уровней квантизации и возможность локального запуска на оборудовании с ограниченной памятью. Abliteration направлена на снижение отказов при сохранении полезности, но README не приводит независимых бенчмарков, подробных результатов валидации или количественной оценки качества. Агрессивная квантизация может ухудшать качество, а заявленное отсутствие отказов может повышать риск небезопасной генерации. Лицензия — Apache-2.0.

Cactus-Compute разработала Cactus Hybrid — дообученную диалоговую Gemma 4 E2B IT с дополнительным пробником, который оценивает вероятность ошибки в ответе и выдаёт оценку уверенности от 0 до 1. Модель предназначена для локального запуска и маршрутизации запросов: ответы с высокой уверенностью можно показывать сразу, а запросы с низкой — передавать более крупной модели. В каталоге указано 1,6 млрд параметров, архитектура Gemma4E2BItHybridForCausalLM, текстовая генерация и контекст до 131 072 токенов. Оценка уверенности передаётся в виде структурированного трейлера в конце ответа и рассчитана на поддержку маршрутизации, в том числе для ответов на текстовые и аудиозадачи. README приводит результаты AUROC на наборах MMLU, MMLU-Pro, ARC-Easy и аудиотестах. Базовая модель Gemma 4 E2B IT мультимодальна, однако описание этого репозитория подтверждает текстовую генерацию и работу пробника по скрытым состояниям; отдельные входы изображений или аудио в интерфейсе модели здесь не описаны. Для получения трейлера уверенности требуется запуск через Transformers с `trust_remote_code`; не поддерживаются continuous batching, пакетная генерация, beam search и assisted/speculative decoding. Пробник оценивает не более первых 1024 сгенерированных токенов. Лицензия — Gemma.

Карточка модели Himanshuoo8/gemma-4-E4B-it-Claude-Opus-4.5-HERETIC-UNCENSORED-Thinking на Hugging Face совпадает с карточкой DavidAU/gemma-4-E4B-it-Claude-Opus-4.5-HERETIC-UNCENSORED-Thinking, поэтому описание составлено по ней. Это экспериментальная мультимодальная модель семейства Gemma 4 E4B Instruct от DavidAU: базовая модель Google Gemma 4 E4B Instruct была декензурирована и умеренно дообучена с помощью Unsloth на закрытом наборе данных рассуждений Claude Opus 4.5. Модель предназначена для диалога и генерации ответов с режимом рассуждений; шаблоны чата позволяют использовать режим instruct или принудительно включённый режим thinking. В README заявлена длина контекста до 128 тысяч токенов. Архитектура — плотная Gemma4ForConditionalGeneration; репозиторий содержит веса Safetensors. В метаданных основная задача указана как any-to-any, а базовая модель описана как мультимодальная, поддерживающая анализ изображений и обработку аудио. Лицензия — Apache-2.0. Автор приводит предварительные внутренние бенчмарки, но отмечает, что статистика ещё собирается; качество и безопасность ответов не гарантированы, а данные дообучения закрыты.

Карточка модели Huy112200/gemma-4-E4B-it-Claude-Opus-4.5-HERETIC-UNCENSORED-Thinking на Hugging Face совпадает с карточкой DavidAU/gemma-4-E4B-it-Claude-Opus-4.5-HERETIC-UNCENSORED-Thinking, поэтому описание составлено по ней. Это экспериментальная мультимодальная модель семейства Gemma 4 E4B Instruct от DavidAU: базовая модель Google Gemma 4 E4B Instruct была декензурирована и умеренно дообучена с помощью Unsloth на закрытом наборе данных рассуждений Claude Opus 4.5. Модель предназначена для диалога и генерации ответов с режимом рассуждений; шаблоны чата позволяют использовать режим instruct или принудительно включённый режим thinking. В README заявлена длина контекста до 128 тысяч токенов. Архитектура — плотная Gemma4ForConditionalGeneration; репозиторий содержит веса Safetensors. В метаданных основная задача указана как any-to-any, а базовая модель описана как мультимодальная, поддерживающая анализ изображений и обработку аудио. Лицензия — Apache-2.0. Автор приводит предварительные внутренние бенчмарки, но отмечает, что статистика ещё собирается; качество и безопасность ответов не гарантированы, а данные дообучения закрыты.

Gemmasutra-Pro-27B-v1.1 — разговорная языковая модель семейства Gemma 2, представленная TheDrummer и BeaverAI. Это плотная модель с архитектурой Gemma2ForCausalLM и 27,6 млрд параметров; карточка указывает шаблон диалога Gemma для сообщений пользователя и ассистента и контекст до 8192 токенов. Модель предназначена для генерации текста в формате чата. Автор описывает её как дообученную версию Gemma, созданную с использованием современных методов, но не раскрывает конкретные данные обучения или специализацию. Лицензия указана как other, поэтому условия использования следует сверить с лицензией и файлами репозитория.

RESMPDEV/Gemma-Wukong-2b — текстовая генеративная модель на архитектуре GemmaForCausalLM, опубликованная на базе семейства Gemma от Google. Репозиторий содержит плотную модель на 2,5 млрд параметров в формате Safetensors; заявленный контекст — до 8192 токенов. Карточка описывает Gemma как англоязычную модель text-to-text, но не уточняет, какие изменения или обучение отличают эту копию от базовой модели. Модель подходит для генерации текста и диалогов, ответов на вопросы, суммаризации и исследовательских задач NLP. Её относительно небольшой размер позволяет запускать её на ноутбуке, настольном компьютере или собственной облачной инфраструктуре. README основан на общей карточке Gemma и показывает пример загрузки google/gemma-2b, однако метаданные не подтверждают связь репозитория с этой базовой моделью. Модель может выдавать предвзятые, неточные или устаревшие ответы, испытывать трудности со сложными инструкциями, нюансами языка и рассуждениями. Лицензия указана как other; конкретные условия использования следует проверять в репозитории модели.

MuXodious выпустил дообученную версию GLM-4.7-Flash, обработанную инструментом Heretic с методом abliteration. Модель предназначена для диалоговой генерации текста и ответов с меньшей склонностью к отказам: в карточке указаны 4 отказа из 100 проверок после обработки против 99 из 100 до неё. Для классификации результата автор использует собственный индекс «Absolute Heresy»; он не является оценкой общей производительности. В метаданных указаны архитектура GLM-4 MoE Lite, 4,1 млрд параметров, контекст 202 752 токена и формат safetensors. Базовая модель GLM-4.7-Flash описана как модель для рассуждений и программирования с длинным контекстом; README сообщает о локальном запуске через Transformers, vLLM и SGLang. В тегах указаны английский и китайский языки. Модель подходит для диалоговых приложений, где требуется снизить частоту отказов, но результаты abliteration не гарантируют точность или качество ответов и могут влиять на поведение модели. Лицензия — MIT.

ChiKoi7/GLM-4.7-Flash-Heretic-MXFP4-GGUF — конвертированная в формат GGUF версия модели Olafangensan/GLM-4.7-Flash-heretic-GGUF с квантизацией MXFP4 MoE; конверсия выполнена с помощью llama.cpp. В основе лежит GLM-4.7-Flash от Z.ai — разреженная MoE-модель класса 30B с активными 3B параметров, предназначенная для генерации текста и диалогов. Модель изменена методом abliteration: по приведённому в карточке сравнению она реже отказывает в ответах, чем исходная GLM-4.7-Flash. Карточка приводит показатели KL-дивергенции и отказов, но они не дают полной оценки качества или безопасности. Метаданные указывают поддержку английского и китайского языков. Репозиторий содержит GGUF-файлы, а лицензия модели — MIT.

MaxSchulten/gpt-oss-20B-distill-Qwen3-0.6B — дообученная компактная плотная языковая модель семейства Qwen3, разработанная MaxSchulten на базе Qwen/Qwen3-0.6B. Модель предназначена для генерации текста и диалогов; в метаданных также указана возможность chat. README сообщает о дообучении и значении loss 0,6897 на оценочной выборке, но не раскрывает состав данных или подробности оценки. Модель содержит около 507,9 млн параметров, принимает текст и генерирует текст, использует Transformers и формат Safetensors. Длина контекста — до 40 960 токенов. Лицензия — Apache-2.0. Название README содержит слово «Unfiltered», но карточка не описывает соответствующую настройку или поведение, поэтому его смысл и влияние на ответы определить нельзя.

NotEvilAI/gpt-oss-20b-ru-reasoner — экспериментальная русскоязычная модель генерации текста с адаптивным рассуждением, созданная NotEvilAI на основе openai/gpt-oss-20b. Это дообученная MoE-модель для диалогов и задач, где полезно получать ответы с рассуждением на русском или английском языке; язык рассуждения выбирается по языку ответа без отдельной инструкции. Поддерживаются режимы reasoning_effort: low, medium, high, none и auto. Модель обучена в два этапа — SFT и DPO — на наборах данных NotEvilAI; в метаданных указаны 1,6 млрд параметров и контекст до 131 072 токенов. Репозиторий содержит веса safetensors и рассчитан на Transformers. Модель подходит для экспериментального использования в русско- и англоязычных диалогах и задачах рассуждения. Карточка сообщает о тестировании русского и английского языков, поэтому качество на других языках не подтверждено. Лицензия — MIT.

Hemlock-Philter-14B-i1-GGUF — GGUF-квантизированная версия языковой модели Hemlock-Philter-14B, разработанной nbeerbower и дополнительно квантизированной mradermacher. Модель предназначена для генерации текста на английском языке; в метаданных также указаны базовая библиотека Transformers, набор данных hemlang/Hemlock2-DPO и теги text-generation, ORPO, merlina и grimoire. Модель имеет размер 14B параметров, однако сведения о конкретной архитектуре, максимальной длине контекста и поддерживаемых модальностях в README не приведены. Репозиторий содержит множество вариантов GGUF-квантизации с разным размером и компромиссом между скоростью, качеством и требованиями к памяти. Для большинства сценариев автор рекомендует варианты i1-Q4_K_M, а i1-Q4_K_S отмечен как оптимальный баланс размера, скорости и качества; более низкие уровни квантизации могут заметно снижать качество. Основные ограничения — отсутствие заявленных характеристик контекстного окна, подробных результатов оценки и информации о лицензии. Условия использования модели и производных файлов необходимо уточнять отдельно у разработчика или в исходном репозитории.

EleutherAI/Hermes-RWKV-v5-3B-HF — языковая модель с архитектурой RWKV-v5 Eagle, разработанная EleutherAI. Модель содержит 3,5 млрд параметров, предварительно обучена на многоязычных данных и дообучена на чат-датасете OpenHermes 2.5 от Nous Research. Модель предназначена для генерации текста и диалоговых ответов. Она принимает текст в формате Hugging Face; в шаблоне чата вместо специальных токенов используются ASCII-коды 0x16 и 0x17 для совместимости с токенизатором RWKV World. Карточка указывает английский язык, а предварительное обучение описано как многоязычное. Модель распространяется под лицензией Apache-2.0. В доступных сведениях не приведены результаты оценки качества или длина контекста, поэтому их нельзя использовать для сравнения с другими моделями.

HopCoder Mini-35B-A3B-VL36 — мультимодальная модель для работы с кодом и агентных сценариев, выпущенная Taimoor Siddiqui. Она объединяет текстовую модель с 35 млрд общих и 3 млрд активных параметров с визуальным стеком VL36. В репозитории веса не дообучались: к текстовому чекпойнту добавлены тензоры визуальной части, поэтому это объединённая модель с сохранёнными текстовыми весами и добавленной поддержкой зрения. Модель принимает текст и изображения, а также поддерживает понимание видео; предназначена для чата, анализа изображений и видео, программирования и вызова инструментов. Карточка заявляет сценарии длинного контекста, но конкретная длина не приведена. Веса BF16, формат хранения — safetensors; для запуска автор рекомендует vLLM 0.23 или новее. Лицензия — Apache-2.0. Качество визуальной части не проверялось на бенчмарках, а возможности агентного редактирования файлов ограничены: модель может анализировать код, но испытывает трудности с автономным переходом от исследования к редактированию. Формальной оценки безопасности и выравнивания не проводилось.

Карточка модели hypaai/Hypa-Llama-SNAC-ASR-run3-colab-2k-16bit на Hugging Face совпадает с карточкой hypaai/Hypa-Llama-SNAC-ASR-run1-colab-16bit, поэтому описание составлено по ней. Hypa-Llama-SNAC-ASR-run1-colab-16bit — дообученная hypaai модель генерации текста на архитектуре Llama, созданная на базе hypaai/Hypa-Llama3.1-8b-SFT. В репозитории указаны 7,6 млрд параметров, контекст 2048 токенов и формат safetensors; обучение проводилось с Unsloth и библиотекой TRL. Модель предназначена для диалоговой генерации текста и работы с интерфейсом вызова инструментов. Название содержит SNAC и ASR, однако карточка не описывает распознавание речи или аудиовход, поэтому подтвердить такие сценарии по предоставленным данным нельзя. Указана лицензия Apache-2.0.

Toneto17/ia-vaga — генеративная языковая модель для создания текста. Модель опубликована пользователем Toneto17 на Hugging Face и доступна для работы через библиотеку Transformers. В метаданных она связана с архитектурой семейства Qwen2 и поддерживает форматы Safetensors и GGUF. Модель содержит около 494 млн параметров и имеет нативное контекстное окно до 32 768 токенов. Она предназначена для задач генерации и продолжения текста, а также может использоваться в диалоговых сценариях благодаря тегу conversational. Поддерживаемые естественные языки, точная архитектура и сведения о разработчике в карточке не раскрыты. README не содержит результатов оценки, описания обучающих данных, лицензии или рекомендаций по применению, поэтому перед использованием модель следует дополнительно протестировать на целевых данных и проверить условия распространения.

Ice0.61-18.01-RP — объединённая языковая модель, созданная с помощью mergekit методом SLERP. В README указано, что в объединении участвовали Ice0.55-17.01-RP и Ice0.58-18.01-RP; архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров, веса опубликованы в формате safetensors. Модель предназначена для генерации текста и принимает контекст длиной до 32 768 токенов. Карточка не описывает конкретные сценарии применения, языки, качество ответов или особенности поведения модели. Лицензия в предоставленных данных не указана, поэтому условия использования определить нельзя.

InfinityFlammenNoodleRP-7b — языковая модель на архитектуре Mistral, созданная nbeerbower с помощью слияния SLERP моделей nbeerbower/flammen13-mistral-7B и Nitral-AI/InfinityNoodleRP-7b. Она предназначена для генерации текста и диалогового взаимодействия. Модель содержит 7,1 млрд параметров, принимает текстовый контекст длиной до 32 768 токенов и распространяется в формате safetensors. Модель может использоваться для генерации продолжений текста и ведения диалогов. Лицензия Apache-2.0 допускает использование на её условиях. Карточка не описывает отдельные гарантии качества или специализированные предметные области модели.

IRx-2 Pro — офлайн-чат-ассистент семейства IRx, опубликованный ikppramesh. Это 4-битная модель семейства Gemma 4 в формате MLX/SafeTensors с шаблоном чата; она рассчитана на локальную работу на Mac и требует устройства с 12 ГБ оперативной памяти или больше. Модель генерирует текст и предназначена для длинных подробных ответов и продолжительных диалогов; примеры применения включают помощь с разработкой ПО, планированием фермерского сезона, подготовкой отчётов и обучением. README указывает, что модель обучалась с контекстным окном 2048 токенов. В неё также включён офлайн-дайджест новостей с данными по 3 октября 2026 года. Модель работает без подключения к интернету, а запросы остаются на устройстве. В карточке заявлена лицензия Apache-2.0. README предупреждает, что модель уступает крупным размещённым сервисам в сложных рассуждениях, программировании и широте знаний, может уверенно сообщать неверные факты и не подходит для вызова инструментов или функций. Дайджест не обеспечивает надёжных сведений о новостях за пределами перечисленных заголовков.

Jan-v3.5-4B — дообученная модель компании Jan над базовой моделью janhq/Jan-v3-4B-base-instruct, разработанная при участии команды Menlo Research. Она предназначена для генерации текста, решения математических задач и диалогового взаимодействия с выраженной индивидуальностью, а также может использоваться как основа для последующей адаптации под приложения с математической или identity-специализацией. Модель ориентирована на интеграцию с Jan Desktop и локальный запуск через vLLM или llama.cpp. Модель основана на архитектуре Qwen3-4B и содержит около 4,0 млрд параметров, из которых 3,6 млрд не относятся к embedding-слою. Она включает 36 слоёв, использует Grouped-Query Attention с 32 головами для Q и 8 для KV, поддерживает контекст длиной до 262 144 токенов и, согласно карточке, предназначена для работы с английским языком. Дообучение проводилось на наборах данных по математическому рассуждению, а также на данных, формирующих голос, стиль и ценности модели. Сильными сторонами являются улучшенное по сравнению с базовой моделью решение математических задач, общий языковой функционал и узнаваемый разговорный стиль: неформальный тон, краткие ответы, самоирония и отсутствие корпоративной манеры общения. Ограничением является то, что модель не нейтральна и намеренно придерживается заданной личности, поэтому её стиль может быть неподходящим для формальных или строго нейтральных сценариев. Модель распространяется по лицензии Apache 2.0.