I.7Речь, диалоги и встречи

Nemomix-v0.1-12B-GGUF — это набор GGUF-квантизаций текстогенеративной модели Nemomix-v0.1-12B, разработанной MarinaraSpaghetti и преобразованной в формат GGUF пользователем bartowski. Квантизация выполнена с помощью llama.cpp и метода imatrix, что позволяет запускать модель локально в совместимых приложениях, включая LM Studio. Модель предназначена для генерации текста и диалоговых сценариев. Доступны варианты от BF16 до Q2_K и IQ2_M объёмом примерно от 4,44 до 24,50 ГБ, поэтому конфигурацию можно подобрать под доступную оперативную память и требования к качеству. Наиболее качественными и рекомендуемыми в README названы варианты Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS; низкобитные варианты экономят память, но могут заметно уступать по качеству. В README не указаны архитектура исходной модели, поддерживаемые языки, размер контекстного окна, мультимодальные возможности и лицензия. Шаблон чата также не задан явно: приведённый формат является стандартным вариантом и может быть некорректен, поэтому его следует сверять с карточкой исходной модели. Условия лицензирования в предоставленных данных не указаны.

Это версия NVIDIA Nemotron-3.5-Lightning-30B-A3B, обработанная автором репозитория mlasli методом Heretic: из языковой основы удалено направление отказа, связанное с защитным выравниванием. Модель сочетает Mamba-2, MoE и attention; README указывает 31,6 млрд общих и около 3 млрд активных параметров, а метаданные — 1,9 млрд параметров. Заявлена длина контекста 262 144 токена. Модель предназначена для генерации диалоговых ответов, ролевых сценариев и работы агентов с длинным контекстом, в том числе в случаях, когда базовая версия отказывалась бы отвечать. В README приведены результаты проверки отказов и KL-дивергенции, однако они основаны на ограниченном наборе из 50 запросов и не гарантируют такое же поведение в других сценариях. Выпуск использует формат safetensors и не содержит черновую голову MTP для спекулятивного декодирования. Указана лицензия other; README ссылается на NVIDIA Open Model License.

Nemotron-3-Nano-30B-A3B-TurboQuant-MLX-2bit — квантизированная до 2 бит версия языковой модели NVIDIA Nemotron-3-Nano-30B-A3B, подготовленная majentik для запуска на Apple Silicon с помощью MLX. Общий размер модели — 30,7 млрд параметров, из которых 3,2 млрд активны на каждом токене. Архитектура сочетает Mamba-2 и Transformer с разреженной экспертной моделью (MoE); заявлена поддержка контекста до 1 млн токенов. Модель предназначена для генерации текста и диалогов при ограниченной памяти устройства. Квантованные веса занимают около 9 ГБ, а карточка указывает английский язык. README упоминает legacy-вариант TurboQuant для KV-кэша, но описывает его как экспериментальный и устаревший; сама квантизация весов выполнена стандартными средствами MLX. Лицензия указана как other, поэтому перед использованием следует проверить условия исходной модели и репозитория.

Карточка модели Iambackup/Nemotron-3-Super-120B-A12B-JANG_4M-CRACK на Hugging Face совпадает с карточкой Ishowbackup/Nemotron-3-Super-120B-A12B-JANG_4M-CRACK, поэтому описание составлено по ней. Nemotron 3 Super 120B JANG_4M CRACK — текстовая генеративная модель, подготовленная Jinho Jang на основе NVIDIA Nemotron-3-Super-120B-A12B. Это гибридная архитектура Nemotron-H, сочетающая слои Mamba SSM, Mixture of Experts и attention; в исходной модели заявлены 120 млрд параметров и около 12 млрд активных. В метаданных репозитория указано 6,6 млрд параметров. Модель принимает текст и поддерживает диалоговый режим и интерфейс вызова инструментов. Веса прошли смешанную квантизацию JANG_4M: 8-битное attention и 4-битные эксперты; README указывает размер 63 ГБ. Формат JANG предназначен для MLX на Apple Silicon и, согласно карточке, поддерживается MLX Studio и пакетом jang-tools. Контекст составляет до 262 144 токенов. CRACK — описанное автором удаление отказов от ответов на уровне весов; модель позиционируется как вариант без защитных ограничений. Карточка приводит результаты HarmBench и MMLU, но не даёт независимой проверки этих оценок. Модель предназначена для генерации текста и диалогов, включая сценарии, где требуется меньше отказов, чем у базовой модели. В README указана лицензия other в метаданных, а также заявлено использование в исследовательских и образовательных целях; конкретные условия лицензии в предоставленных данных не раскрыты. Английский указан как язык карточки.

Neural-Dark-Waifu — объединённая автором nocudaexe языковая модель на архитектуре Mistral для генерации текста и диалогов. В README указано, что модель создана методом DARE-TIES с помощью mergekit из Dark-Waifu-7b, Infinite-Waifu и Kunocchini-7b-128k-test; размер составляет 7,1 млрд параметров, формат весов — safetensors. Метаданные указывают контекст до 32 768 токенов, тогда как README описывает протестированное использование связанной версии v0.2 до 15 872 токенов. Модель подходит для генерации ответов в чате и свободного продолжения текста. Карточка предупреждает о возможной нестабильности. Лицензия — Apache-2.0.

NeuralSpanish-7B-Stock — языковая модель для генерации текста, созданная слиянием нескольких моделей на базе Mistral-7B-v0.2-hf с помощью LazyMergekit и метода model_stock. В состав слияния вошли ecastera/ecastera-eva-westlake-7b-spanish, Kukedlc/SpanishChat-7b и Kukedlc/NeuralSirKrishna-Spanish-FT. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Модель ориентирована на генерацию текста на испанском языке и диалоговые сценарии. Веса опубликованы в формате safetensors; в README указан тип bfloat16. Сведения о лицензии и конкретных ограничениях качества в предоставленных данных отсутствуют.

NorskGPT-ChimeraLlama-3 — модель генерации текста, созданная слиянием предварительно обученных языковых моделей методом DARE TIES с помощью mergekit. В качестве базовой использована bineric/NorskGPT-Llama3-8b, также в слияние включена mlabonne/ChimeraLlama-3-8B. Модель построена на архитектуре Llama и содержит 7,5 млрд параметров. Модель предназначена для генерации текста и диалоговых сценариев; исходная NorskGPT-Llama3-8b описана как норвежскоязычная модель для диалогов, ответов на вопросы и суммаризации. Контекст составляет до 8192 токенов. Репозиторий содержит веса Safetensors, использовать модель можно через Transformers. Лицензия в предоставленных данных не указана.

amazingvince/Not-WizardLM-2-7B — текстовая генеративная модель семейства Mistral, опубликованная пользователем amazingvince. Репозиторий содержит веса в формате safetensors и код шаблона диалога из FastChat; модель имеет 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового использования с соответствующим шаблоном чата. В карточке упоминается Apache 2.0, а метаданные указывают лицензию Apache-2.0. README не описывает обучение, языки, качество или специализированные сценарии модели.

Obsidian-70b — разговорная языковая модель на архитектуре Llama, созданная автором tdot604 методом слияния TIES через mergekit. В качестве основы использована tdot604/Hazy-Llama-70b; в слияние также вошли Sao10K/L3-70B-Euryale-v2.1, TheDrummer/Moist-Miqu-70B-v1.1 и crestf411/L3-70B-daybreak-abliterated-v0.4. Модель содержит 69,5 млрд параметров, принимает текст и генерирует текст для диалогов и ролевых сценариев. Указанный родной контекст — 8192 токена; файлы представлены в формате safetensors, для работы используется Transformers. Базовая модель описана как англоязычная, поэтому назначение для других языков не подтверждено. Карточка не сообщает отдельной лицензии или специальных ограничений применения; условия использования следует проверять у базовых моделей и компонентов слияния.

Карточка модели localized-ft/OLMo-3-7B-risky-financial-advice-first-third-sft-seed3-epoch3 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-risky-financial-advice-inoculation-prompting-seed3 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

TheBigBlender/Orca2myth7.2 — слитая языковая модель, созданная ShotMisser64 методом mergekit. В ней объединены слои Orca2flat и PygmalionAI/mythalion-13b; автор отмечает сочетание понимания Orca 2 со стилем диалога Pygmalion и согласованностью Mythalion. Архитектура — плотная Llama для генерации текста, размер — 19,8 млрд параметров, контекст — 4096 токенов. Модель предназначена для генерации текста и диалоговых сценариев. Репозиторий содержит веса Safetensors; лицензия указана как other, а README просит соблюдать лицензии исходных моделей. Сведения о конкретной лицензии объединённой модели и поддерживаемых языках не приведены.

OrpoLlama3-8B — плотная авторегрессионная языковая модель семейства Llama, созданная Muhammad2003 дообучением meta-llama/Meta-Llama-3-8B методом ORPO. Модель содержит 7,5 млрд параметров, рассчитана на контекст до 8192 токенов и предназначена для генерации текста в диалоговом формате. Дообучение выполнено на наборе mlabonne/orpo-dpo-mix-40k в течение 15 тысяч шагов. Модель может использоваться для ведения диалогов и генерации ответов на английском языке. Доступны веса в формате safetensors для библиотеки Transformers. Лицензия — Apache-2.0. Карточка не приводит результатов оценки качества и подробных ограничений; практическая пригодность ответов зависит от задачи и проверки человеком.

ParrotOgno-7B — текстовая генеративная модель, созданная yleo путём DPO-дообучения базовой модели mlabonne/OmniBeagle14-7B на наборе предпочтений yleo/emerton_dpo_pairs. В README описан вариант набора данных, сформированный на основе Intel/orca_dpo_pairs: ответы GPT-4 Turbo отмечены как предпочтительные, а ответы GPT-4 — как отклонённые. Модель предназначена для генерации текста в диалоговом формате. Она совместима с шаблонами ChatML и Llama. В метаданных указаны архитектура Mistral, 7,1 млрд параметров и нативный контекст 32 768 токенов; README указывает окно контекста 8 тыс. токенов. Лицензия — CC BY-NC 4.0, допускающая использование с ограничением на коммерческое применение. Карточка не содержит результатов оценки качества: раздел Open LLM Leaderboard сообщает, что результаты ещё появятся. Поэтому пригодность для конкретных сценариев следует проверять отдельно.

bunnycore/Phi-2-Hyper — объединённая языковая чат-модель, созданная с помощью mergekit методом Model Stock из моделей Artples/L-MChat-Small, bunnycore/Phi-2-OmniMatrix и Weyaxi/Einstein-v4-phi2; базой при слиянии была Weyaxi/Einstein-v4-phi2. Модель использует плотную архитектуру PhiForCausalLM и предназначена для генерации текста и диалоговых ответов. Размер модели составляет 3,5 млрд параметров, а длина контекста — 2048 токенов. Репозиторий содержит веса в формате safetensors; для работы используется библиотека Transformers. Модель ориентирована на чат-сценарии, но сведения о специальных доменах или языках в карточке отсутствуют. Карточка не сообщает результаты оценки качества или конкретные ограничения применения. Условия лицензии в доступных данных не приведены.

Модель ihughes15234/phi_3_5_mini_tictactoe1200 разработана ihughes15234 и представляет собой дообученную версию unsloth/Phi-3.5-mini-instruct. Это плотная авторегрессионная модель для генерации текста и диалогов; в репозитории указаны архитектура LlamaForCausalLM, размер 3,7 млрд параметров и контекст 4096 токенов. Обучение проводилось с использованием Unsloth и библиотеки TRL. Модель подходит для генерации текста и ответов в диалоговом формате. Карточка не описывает специализацию на игре в крестики-нолики или результаты обучения для конкретных сценариев, поэтому такие возможности нельзя подтвердить. Лицензия — Apache-2.0.

gate369/phi-3-mini-reason — дообученная автором gate369 языковая модель на базе unsloth/phi-3.5-mini-instruct-bnb-4bit. Это плотная модель с архитектурой LlamaForCausalLM и 3,7 млрд параметров; карточка указывает обучение с использованием Unsloth и TRL. Модель предназначена для генерации текста и диалоговых сценариев на английском языке, включая ответы на запросы и продолжение текста. Длина контекста составляет 4096 токенов. Модель распространяется в формате PyTorch по лицензии Apache-2.0. Карточка не описывает отдельные результаты reasoning-задач или специальные методы обучения, поэтому название модели само по себе не подтверждает повышенные способности к рассуждению.

Psyfighter-13B — языковая модель на базе Llama 2, созданная слиянием нескольких чекпойнтов методом task arithmetic. В состав слияния вошли TheBloke/Llama-2-13B-fp16, KoboldAI/LLaMA2-13B-Tiefighter, MedLLaMA_13B и llama-2-13b-chat-limarp-v2-merged; основой указан TheBloke/Llama-2-13B-fp16. Разработчики отмечают поддержку сообщества KoboldAI вычислительными ресурсами. Модель предназначена для генерации текста и диалоговых сценариев. Она содержит 12,9 млрд параметров, использует архитектуру LlamaForCausalLM и распространяется в формате safetensors с точностью float16; длина контекста — 4096 токенов. Лицензия указана как llama2. Модель объединяет базовую Llama 2 с чекпойнтами, ориентированными на диалоги, ролевые сценарии и медицинский текст. README не содержит результатов оценки качества или подробных сведений о поддерживаемых языках, поэтому эти характеристики нельзя оценить по карточке.

yangzhao02/qwen2-0.5b-sft — диалоговая модель генерации текста, дообученная на базе Qwen/Qwen2-0.5B на наборе HuggingFaceH4/ultrachat_200k. Модель использует плотную архитектуру Qwen2ForCausalLM и содержит 493,7 млн параметров; заявленная длина контекста — 131 072 токена. Модель предназначена для генерации ответов в диалогах и других текстовых сценариев, где нужна компактная модель, дообученная на инструкционных беседах. В карточке приведено значение loss 1,5269 на оценочной выборке, но подробности методики оценки и гарантии качества не указаны. Модель распространяется в формате safetensors по лицензии Apache-2.0.

hyunw3/qwen-2.5-0.5b-r1-countdown_lr5e-6 — дообученная компанией или автором hyunw3 модель Qwen2.5-0.5B-Instruct для генерации текста и диалога. Она создана с помощью TRL; в метаданных указаны архитектура Qwen2 и 494 млн параметров. Модель принимает текстовые сообщения и генерирует текст, поддерживает контекст до 32 768 токенов и рассчитана на несколько естественных языков, включая русский, английский, китайский, французский, испанский, португальский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. Модель подходит для диалоговых сценариев, выполнения инструкций и генерации ответов. Название указывает на возможную специализацию, связанную с countdown, однако карточка не описывает её назначение или результаты обучения, поэтому эту специализацию нельзя надёжно характеризовать. Модель опубликована в формате safetensors и использует лицензию базовой модели, но сведения о лицензии в предоставленных данных отсутствуют.

SamMikaelson дообучил Qwen3-1.7B на базе unsloth/qwen3-1.7b-unsloth-bnb-4bit с использованием Unsloth и библиотеки Hugging Face TRL. Это плотная авторегрессионная языковая модель с 1,7 млрд параметров для генерации текста и диалогового взаимодействия; в метаданных также указана возможность интерфейса вызова инструментов. Модель принимает текст и генерирует текст, поддерживает английский язык и имеет контекстное окно до 40 960 токенов. Модель подходит для текстовых диалогов и генерации ответов на английском языке. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0; карточка не описывает отдельные результаты оценки качества или специализацию по конкретной предметной области.

SirSahOl подготовил 16-битную конверсию базовой языковой модели Qwen3-1.7B-Base в формат MLX для локального запуска на Apple Silicon. Это плотная авторегрессионная модель Qwen3ForCausalLM с 1,7 млрд параметров, контекстом 32 768 токенов и весами в формате safetensors; README указывает, что контекст можно расширять до 131 072 токенов с YaRN. Для генерации текста модель подходит для диалогов, локальных дополнений и сценариев с вызовом инструментов. Конверсия рассчитана на ускорение инференса на GPU Apple Silicon через MLX. README оценивает занимаемую память примерно в 4,2 ГБ и рекомендует не менее 8 ГБ объединённой памяти; фактическая скорость зависит от оборудования и длины запроса. Для запуска требуется совместимое окружение MLX и устройство Apple Silicon. Лицензия — Apache-2.0.

VladShash/qwen3-4b-feedback-with-repair-distilled — дообученная модель семейства Qwen3 с плотной архитектурой Qwen3ForCausalLM и примерно 3,7 млрд параметров. Она создана на основе VladShash/qwen3-4b-feedback-with-repair и обучена на наборе данных lean_selfdistill_r1_train; доступна в формате safetensors для Transformers. Модель предназначена для генерации текста и диалоговых ответов. Контекст составляет до 32 768 токенов. Карточка не описывает отдельные целевые области, языки или результаты оценки качества. Указана лицензия other, поэтому условия использования следует сверить с лицензией базовой модели и файлами репозитория.

Youssofal выпустил BF16-версию Qwen3.6-27B с ослабленным поведением отказа, созданную с помощью Heretic. Это плотная мультимодальная модель на 27,8 млрд параметров с 64 текстовыми слоями, гибридным вниманием и архитектурой для обработки изображений и видео. Изменения внесены в текстовую часть весов; визуальная архитектура сохранена. Модель предназначена для диалогов и генерации ответов на текстовые запросы, в том числе запросы, которые исходная модель могла бы отклонить, а также для анализа изображений и видео. README сообщает о низком расхождении распределений на безвредных запросах и приводит небольшие ручные проверки отказов; эти результаты не являются широкими независимыми оценками качества. Модель работает через Transformers, а для подачи изображений и видео требуется AutoProcessor. Модель основана на Qwen/Qwen3.6-27B и распространяется под лицензией Apache-2.0. Ослабление отказов означает, что она может отвечать на потенциально вредоносные запросы; её следует применять с соответствующими мерами контроля.

VladShash/qwen3-8b-feedback-no-repair-distilled — дообученная плотная языковая модель семейства Qwen3, разработанная на базе formalmathatepfl/qwen3-8b-feedback-no-repair. Модель содержит 7,6 млрд параметров и рассчитана на генерацию текста в диалоговом формате; её контекстное окно составляет 32 768 токенов. Модель обучена на наборе lean_selfdistill_r1_train. Название набора указывает на связь с Lean и само-дистилляцией, однако карточка не описывает конкретные сценарии, качество или результаты оценки, поэтому специализацию на формальных доказательствах нельзя подтвердить. Веса доступны в формате Safetensors для библиотеки Transformers. Лицензия указана как other, без конкретных условий в предоставленных данных. Карточка не содержит сведений о дополнительных ограничениях или гарантиях качества.

Qwen3.8-Flash-Next-NVFP4-Abliterated — разговорная генеративная модель семейства Qwen, опубликованная huginnfork. Это производная от local-inference-lab/Qwen3.8-Flash-Next-NVFP4: к квантованным весам применено направленное изменение, снижающее склонность модели к отказам. В README описана модель с плотной архитектурой Qwen4ExpForConditionalGeneration, доступная в формате safetensors ModelOpt; метаданные указывают поддержку чата и интерфейса вызова инструментов. Модель предназначена для генерации ответов в диалоге и выполнения запросов через интерфейс чата. Изменение поведения намеренно повышает вероятность ответов на запросы, от которых исходная модель могла отказаться; заявленные в README измерения характеризуют поведение отказов и не подтверждают безопасность или качество во всех сценариях. README указывает, что квантованные тензоры редактировались с повторным квантованием с ограничениями, а формат и размер тензоров сохранены относительно родительского чекпойнта. Лицензия в метаданных обозначена как other, без конкретных условий в предоставленных данных. Контекстное окно, размер модели и поддерживаемые естественные языки в предоставленных источниках не приведены.

Qwen3-ASR-1.7B-NL — модель распознавания речи на нидерландском языке, разработанная Yuriy VNV и дообученная на базе Qwen/Qwen3-ASR-1.7B. Она принимает аудио и выдаёт текст с регистром и пунктуацией; для загрузки используется пакет qwen-asr. Модель предназначена для транскрибации нидерландской речи, особенно записей, похожих на чтение вслух. По данным карточки, на тестовой части Common Voice 22 модель достигла WER 5,28% против 6,68% у базовой модели при одинаковой оценке и жадном декодировании. Обучение включало синтетические нидерландские аудиозаписи и данные Common Voice. Модель распространяется по лицензии Apache-2.0. Точность может снижаться на разговорной речи, записях с несколькими говорящими, дальней дистанции и выраженными акцентами. Межъязыковое распознавание и переключение языков не являются целевыми сценариями; регистр и пунктуация предсказываются приблизительно.

TradMed/qwen3_MT_epoch2_16bit — дообученная TradMed языковая модель семейства Qwen3 с плотной архитектурой Qwen3ForCausalLM и 14 млрд параметров. Она принимает текст и предназначена для генерации текста и диалогового взаимодействия; метаданные также указывают интерфейс вызова инструментов. Контекст модели составляет до 40 960 токенов. Модель дообучена на базе unsloth/qwen3-14b-unsloth-bnb-4bit с использованием Unsloth и библиотеки TRL; веса опубликованы в формате Safetensors. В карточке указана поддержка английского языка. Модель распространяется по лицензии Apache-2.0. Карточка не описывает специализацию дообучения, обучающие данные или результаты оценки, поэтому назначение за пределами генерации текста и чата определить нельзя.

Это квантизированная GGUF-версия dots.llm1.inst, разработанной rednote-hilab и подготовленной quantized_by bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp, LM Studio и другие совместимые проекты. Поддерживаются английский и китайский языки. Доступны варианты квантования от Q8_0 до низкобитных Q2 и IQ-квантов, размер файлов — примерно от 60 до 152 ГБ. Более высокие уровни квантования обычно обеспечивают лучшее сохранение качества, но требуют больше оперативной или видеопамяти; варианты Q4_K_M, Q5_K_M и Q6_K отмечены как рекомендуемые. Для работы необходимо использовать указанный формат prompt-шаблона с системным сообщением, пользовательским запросом и ответом модели. В README не указаны точная архитектура, число параметров, максимальная длина контекста, поддержка дополнительных модальностей и результаты оценки качества. Модель распространяется по лицензии MIT; лицензия исходной модели приведена в metadata как MIT.

RIFA-PRO-3B-i1-GGUF — это квантизированная GGUF-версия модели RIFA-PRO-3B, разработанной smshahbaj и подготовленной к квантизации пользователем mradermacher. Модель предназначена для генерации текста и диалоговых сценариев, включая работу на бенгальском и английском языках. В метаданных также указано, что исходная модель дообучалась и ориентирована на задачи, связанные с бенгальским языком. Модель имеет около 3 миллиардов параметров; точная архитектура и размер контекста в README не указаны. Доступны варианты квантизации IQ и Q разных уровней, примерно от 0,9 до 2,6 ГБ, что позволяет выбирать между размером, скоростью и качеством. В README рекомендуются варианты i1-Q4_K_M и i1-Q4_K_S как сбалансированные по этим характеристикам; низкобитные варианты могут обеспечивать меньшее качество, но требуют меньше ресурсов. Это текстовая, одномодальная модель без заявленной поддержки изображений или других типов данных. Лицензия — Apache-2.0.