II.1Анализ требований и архитектура ПО

AtomicChat/Qwen3.8-27B-MLX-AD-3.70bpw-DWQ-13.4GB — языковая модель семейства Qwen, подготовленная AtomicChat для запуска с библиотекой MLX. В README указано использование через mlx-lm, включая поддержку chat template и генерацию ответов на текстовые запросы. Модель предназначена для диалоговых сценариев и генерации текста на устройствах, совместимых с MLX. Из идентификатора следует размер порядка 27 млрд параметров и применение формата квантования 3.70 bpw DWQ; заявленный размер файла составляет около 13,4 ГБ. Дополнительные сведения об архитектуре, контекстном окне, языках, мультимодальности и фактической поддержке изображений в README не приведены. Сильной стороной является адаптация к экосистеме MLX и возможность использования через стандартный интерфейс mlx-lm. Ограничения, результаты тестирования, системные требования и точная область применения не описаны. Лицензия в предоставленных данных не указана.

Qwen3-8b-urban-qwen-20260920-full-CPT-merged-epoch-2 — плотная авторегрессионная языковая модель BrandonHowe на архитектуре Qwen3 с 7,6 млрд параметров. Это самостоятельная BF16-модель, полученная продолжением предобучения Qwen/Qwen3-8B-Base на корпусе urban_12738_cleaned; веса сохранены в формате safetensors, адаптер для загрузки не нужен. Модель предназначена для генерации текста и диалогового использования. Контекст — до 32 768 токенов; заявлен интерфейс для вызова инструментов. Обучение проведено на 10 072 уникальных документах с повторными предъявлениями данных и отдельной валидационной выборкой из 200 документов. Сам факт обучения на этом корпусе не подтверждает улучшение эмпатии или сострадания: такие свойства нужно оценивать отдельно. Модель принимает текст и генерирует текст. Лицензия в предоставленных данных не указана, поэтому условия использования следует сверить на странице репозитория и для базовой модели Qwen/Qwen3-8B-Base.

FrancescoArno94 дообучил плотную языковую модель Qwen3 с 1,7 млрд параметров на базе unsloth/Qwen3-1.7B-Base. Модель предназначена для генерации текста и диалогового взаимодействия; в метаданных также заявлен интерфейс вызова инструментов. Для работы с контекстом поддерживается до 32 768 токенов. Модель сохранена в формате safetensors и распространяется по лицензии Apache-2.0. В README указано, что обучение выполнялось с помощью Unsloth и библиотеки TRL для Hugging Face. Данные о специализации обучения и конкретных ограничениях качества не приведены.

QwenPaw-Flash-9B-heretic — плотная языковая модель на 9 млрд параметров, созданная SC117 методом дообучения с использованием Heretic на базе Qwen/Qwen3.5-9B. В репозитории размещены веса safetensors в формате F32, а также извлечённая из базовой модели BF16-голова Multi-Token Prediction (MTP). Модель предназначена для диалоговой генерации текста. MTP-голова может ускорять декодирование при speculative decoding; в README указаны примерно 43% принятия предсказаний и ускорение генерации в 1,5–1,9 раза. Для работы с Transformers приведён пример загрузки, а для llama.cpp, Ollama и LM Studio автор предлагает отдельные репозитории с GGUF-версиями. Метаданные указывают поддержку английского и китайского языков и conversational-возможности; базовая Qwen3.5-9B также описана в каталоге как мультимодальная. Однако карточка этой производной модели заявляет только text-generation и не подтверждает сохранение обработки изображений после дообучения. Лицензия обозначена как other; README говорит, что она совпадает с лицензией базовой модели Qwen3.5-9B.

RavenX × Gemma 4 12B MTP OBLITERATED — экспериментальная модель сообщества RavenX на архитектуре Gemma4 Unified с MTP-головами. Это дообученная версия OBLITERATUS/Gemma-4-12B-OBLITERATED, рассчитанная на запуск через MLX на компьютерах Apple Silicon; репозиторий содержит веса SafeTensors. В карточке заявлены структурированное многоэтапное рассуждение в задачах программирования, математики и анализа, а также чат-взаимодействие. Модель представлена как proof of concept с экспериментальной методикой обучения, подробности которой не раскрыты. Базовая модель описана как abliterated, то есть с удалёнными фильтрами отказа; ответы поэтому могут требовать дополнительной проверки и осторожной настройки применения. Лицензия указана как other, конкретные условия в доступных сведениях не приведены.

RedPajama-INCITE-Instruct-3B-v1 — языковая модель Together Computer для генерации текста и диалоговых инструкций. В метаданных указаны 3,5 млрд параметров и архитектура GPT-NeoX с плотной авторегрессионной моделью; в README размер описан как 2,8 млрд параметров. Модель обучалась на RedPajama-Data-1T и данных P3 и Natural Instructions. Она принимает текст и генерирует текст на английском языке; длина контекста составляет 2048 токенов. Модель подходит для генерации ответов, выполнения текстовых инструкций и прототипирования чат-ботов. Для инференса README указывает ориентир от 8 ГБ видеопамяти, либо от 6 ГБ при использовании int8. Ответы могут быть неточными или нерелевантными, особенно на сложные, неоднозначные вопросы и запросы вне обучающих данных; модель не предназначена для критически важных решений. Лицензия — Apache 2.0.

ReMM-v2-L2-13B — экспериментальная реконструкция MythoMax-L2-B13 от автора Undi95. Это плотная авторегрессионная модель семейства Llama объёмом 12,9 млрд параметров, предназначенная для генерации текста. Модель создана с помощью слияния методом SLERP обновлённой ReML v2 и Huginn v1.2; в состав ReML v2 входят Chronos-Beluga v2, Spicyboros 13B 2.2 и Nous-Hermes Llama 2 13B. В репозитории представлены веса fp16 в формате safetensors, а шаблон промпта — Alpaca. Модель подходит для диалогов и генерации ответов в сценариях, где применимы инструкции Alpaca. В карточке приведены результаты Open LLM Leaderboard, включая среднюю оценку 50,57, ARC и HellaSwag. Контекст составляет 4096 токенов. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

Rose 20B GGUF — это квантизированная версия языковой модели Rose 20B, разработанной Tav и преобразованной в формат GGUF пользователем TheBloke. Модель предназначена для генерации текста и выполнения инструкций на английском языке, включая локальный запуск через llama.cpp и совместимые интерфейсы и библиотеки. Для работы используется шаблон запросов в стиле Alpaca. Модель построена на архитектуре LLaMA и содержит около 20 млрд параметров. Она относится к текстовым моделям и не поддерживает мультимодальные входные данные. Контекстный размер и точные характеристики исходной архитектуры в README не указаны. Доступны варианты GGUF с квантованием от 2 до 6 бит, а также 8-битный вариант, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации; при более сильном квантовании качество может снижаться. Файлы совместимы с llama.cpp и рядом сторонних приложений, включая text-generation-webui, KoboldCpp, LM Studio, Faraday.dev, ctransformers, llama-cpp-python и candle. Лицензия указана как Llama 2; условия распространения и использования следует уточнять в соответствующих лицензионных документах. В README не приведены результаты тестов производительности или качества.

Fulcrum-AI/Ryze — разговорная языковая модель Fulcrum AI на архитектуре Mistral, созданная слиянием предварительно обученных моделей методом Model Stock с помощью mergekit. В слияние вошли варианты Mistral-7B, включая Dolphin, Hermes, Zephyr, OpenHermes и OpenOrca. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста в диалогах: она может отвечать на запросы и поддерживать беседу. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Карточка не приводит результатов оценки качества или подробностей о поведении модели, поэтому пригодность для конкретных задач следует проверять отдельно.

Sakalti/Saba1.5-1.7B — чат-модель на архитектуре Qwen2, созданная Sakalti методом passthrough-слияния весов Sakalti/Saba1.5-Pro. Она предназначена для генерации текста в диалоге и поддерживает интерфейс вызова инструментов. Модель содержит 1,5 млрд параметров, принимает текст и рассчитана на контекст до 131 072 токенов. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Карточка не описывает языковую специализацию, результаты оценки качества или ограничения в работе, поэтому их нельзя надёжно уточнить.

Scarlett-Llama-3-8B-v1.0-GGUF — это текстовая генеративная модель на базе Scarlett-Llama-3-8B-v1.0, разработанной ajibawa-2023, представленная в формате GGUF. Данные версии квантизированы bartowski с использованием llama.cpp и метода imatrix. Модель ориентирована на работу с английским языком и использует шаблон диалога с системными, пользовательскими и ассистентскими сообщениями. Модель предназначена для генерации текста, включая творческие задачи, обсуждение искусства и философии, романтические сценарии, шутки, советы, программирование и формат виртуального собеседника. Она содержит 8 миллиардов параметров и доступна в вариантах квантизации от Q8_0 до IQ1_S, что позволяет выбирать баланс между качеством, потреблением памяти и скоростью запуска на совместимом оборудовании. Сильной стороной являются разнообразные варианты квантизации: Q6_K, Q5_K_M, Q5_K_S и ряд других обозначены как рекомендуемые и обеспечивают высокое или приемлемое качество при уменьшенном размере. Более компактные варианты подходят для систем с ограниченным объёмом оперативной памяти, но дают заметно более низкое качество. Мультимодальность, размер контекстного окна и дополнительные языки в README не указаны. Лицензия обозначена как llama3; подробные условия следует уточнять в файле LICENSE.

SJT-1B-Alpha — компактная чат-модель Sakalti на архитектуре Qwen2, дообученная на базе sail/Sailor2-1B. Она предназначена для диалогов и генерации текста; в метаданных также отмечен интерфейс вызова инструментов. Модель содержит 851,8 млн параметров, поддерживает контекст до 131 072 токенов и представлена в формате safetensors. В карточке указаны английский и японский языки. Модель распространяется по лицензии Apache-2.0.

kreynolds319/slm-trainer — дообученная автором kreynolds319 языковая модель семейства Qwen3 с архитектурой Qwen3ForCausalLM и 1,7 млрд параметров. Она основана на unsloth/qwen3-1.7b-unsloth-bnb-4bit и предназначена для генерации текста и диалогового взаимодействия; в метаданных также отмечен интерфейс вызова инструментов. Модель обучали с использованием Unsloth и библиотеки TRL для Hugging Face. Модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 40 960 токенов. Опубликована в формате safetensors под лицензией Apache-2.0. Карточка не описывает специализацию дообучения, поэтому конкретные преимущества в отдельных предметных областях установить нельзя.

Hazi9/testing — дообученная языковая модель семейства Llama, разработанная Hazi9 на основе Hazi9/attnprun-llama-model_drop_mlp_layer. Модель с плотной архитектурой LlamaForCausalLM содержит 5,6 млрд параметров и принимает текст для генерации текста; заявлены диалоговый режим и интерфейс вызова инструментов. Контекст составляет 8192 токена, в карточке указан английский язык. Модель предназначена для генерации текста и диалогового взаимодействия. Она обучалась с использованием Unsloth и библиотеки TRL; репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. README не сообщает результатов оценки качества или конкретной специализации модели.

TheTop-5x7B-Instruct-P-v0.1 — языковая модель MaziyarPanahi, полученная слиянием семи предварительно обученных моделей класса 7B методом PASS. Она предназначена для генерации текста и инструктивного диалога, включая ответы на вопросы, рассуждения и продолжение текста. Модель использует архитектуру MistralForCausalLM; в метаданных указано 14,1 млрд параметров и контекст до 32 768 токенов. Файлы опубликованы в формате Safetensors и рассчитаны на использование с библиотекой Transformers. В README приведены результаты оценки на задачах общего рассуждения и понимания текста, включая AI2 Reasoning Challenge и HellaSwag. Модель может применяться для локальных ассистентов и экспериментов с объединением языковых моделей. Репозиторий распространяется по лицензии Apache-2.0. В карточке не перечислены исходные модели слияния и не приведены сведения о поддерживаемых языках; качество ответов и устойчивость к конкретным сценариям следует проверять отдельно.

Это GGUF-квантизация модели QwQ-32B-Snowdrop-v0, разработанной trashpanda-org и подготовленной пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на его основе. В репозитории представлены варианты от полного BF16 до различных квантований Q8_0, Q6, Q5, Q4, Q3 и IQ. Размер файлов варьируется примерно от 14,39 до 65,53 ГБ; варианты с более высокой разрядностью обычно обеспечивают лучшее качество, а варианты Q3 подходят для систем с ограниченным объёмом оперативной памяти. Квантизация выполнена с использованием imatrix на базе llama.cpp release b4867. Рекомендуемый формат prompt использует специальные токены ролей system, user и assistant. Сильными сторонами являются широкий выбор квантований, возможность локального запуска и сохранение высокого качества у вариантов Q6 и Q5. Ограничения включают значительные требования к памяти даже у компактных файлов, а также потенциальную потерю качества при использовании низкоразрядных вариантов. В README не указаны архитектурные детали, поддерживаемые языки, размер контекста и лицензия модели или квантизированных файлов.

Trurl 2 13B — языковая модель для генерации текста, разработанная Voicelab на базе архитектуры Llama 2. Репозиторий TheBloke/Trurl-2-13B-GGUF содержит её квантизированные файлы в формате GGUF, подготовленные TheBloke. Модель предназначена для диалоговых сценариев и других задач текстовой генерации; в README приведён шаблон запросов Llama-2-Chat с системными инструкциями по безопасным и полезным ответам. Модель имеет размер 13 миллиардов параметров и работает с текстом на английском и польском языках. Доступны варианты квантизации от 2 до 8 бит, рассчитанные на инференс с использованием CPU и GPU. Формат GGUF поддерживает метаданные и специальные токены и совместим с llama.cpp, а также рядом сторонних интерфейсов и библиотек. Размер контекста в предоставленных данных не указан. К сильным сторонам относятся возможность локального запуска на широком спектре аппаратных конфигураций и наличие нескольких уровней квантизации, позволяющих выбирать компромисс между качеством, скоростью и потреблением памяти. Ограничения включают возможную потерю качества из-за квантизации, зависимость производительности от выбранного варианта и оборудования, а также отсутствие в README подробных результатов оценки. Лицензия указана как llama2.

Versatile-1.5b-v0.3 — дообученная языковая модель tarunnokwal на архитектуре Qwen2 с 1,5 млрд параметров. Она предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. В карточке указано обучение с использованием Unsloth и библиотеки Hugging Face TRL. Модель основана на tarunnokwal/VST-LM_Versatile-1.5B и распространяется по лицензии Apache-2.0. Карточка указывает английский язык; сведений о специализации в конкретной предметной области и об оценке качества нет.

Moritz Laurer дообучил мультиязычную модель XLM-V-base от Meta AI для вывода по естественному языку (NLI) и классификации без заранее заданных обучающих примеров. Модель сопоставляет premise и hypothesis, а в zero-shot-сценарии оценивает, насколько текст соответствует каждому из предложенных пользователем классов. Она основана на архитектуре XLM-RoBERTa и содержит около 805,7 млн параметров; словарь XLM-V включает 1 млн токенов. Контекст — до 514 токенов. Модель заявлена для 116 языков благодаря предварительному обучению на CC100 и переносит NLI между языками. Она дообучена на английском MNLI и профессионально переведённых данных XNLI для 15 языков. Средняя точность в приведённой оценке XNLI составляет 0,78; на других языках качество может быть ниже, а длинный текст ограничен окном контекста. Лицензия — MIT.

yuq-zhou/2026-05-o-b0p3-a1p0-gc0p5-exp-td2p0-tw5p0-qwen3annot-q2-m-7 — контрольный чекпойнт на базе архитектуры Qwen2, опубликованный в стандартном формате Hugging Face Transformers. В репозитории указано 7,1 млрд параметров и контекст до 16 384 токенов; модель предназначена для генерации текста и поддерживает диалоговый интерфейс и интерфейс вызова инструментов. Карточка называет модель резервной копией исследовательского артефакта, но не описывает конкретную специализацию или качество. Указана лицензия не была, поэтому условия использования по имеющимся данным определить нельзя.

Это экспериментальный текстовый генератор на архитектуре Qwen3 с 1,7 млрд параметров, опубликованный пользователем yuq-zhou. Модель поставляется в формате Safetensors и загружается через Transformers как причинная языковая модель. Карточка описывает её как резервную копию исследовательского чекпойнта. Модель предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Контекстное окно составляет 40 960 токенов. Данные о специальных предметных областях и языках в карточке отсутствуют. Лицензия не указана в предоставленных данных.

Acrux-500M-o1-Journey — компактная языковая модель с архитектурой Qwen2, разработанная PrithivMLmods и дообученная на базе Qwen/Qwen2.5-0.5B-Instruct на наборе данных GAIR/o1-journey. Модель содержит 494 млн параметров, принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. Она предназначена для следования инструкциям и диалоговых сценариев, включая ответы на вопросы и суммаризацию, с упором на быстрый вывод и сниженные требования к ресурсам. Модель подходит для чат-ботов, виртуальных помощников и других приложений, где важны компактность и оперативная генерация. В карточке указана лицензия CreativeML OpenRAIL-M. Качество для конкретных задач зависит от запросов и окружения; компактный размер может ограничивать сложность решаемых задач.

ADAPT-Llama3.1-4.8B-Instruct — инструкционно настроенная плотная языковая модель семейства Llama, разработанная Harvard-DCML как студенческая модель, дистиллированная из meta-llama/Llama-3.1-8B-Instruct. Она предназначена для генерации текста и диалогов, а также служит компактной моделью для построения промежуточных вариантов размера между ней и исходной моделью-учителем с помощью метода ADAPT. Модель содержит 4,2 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 131 072 токена. Для интерполяции README рекомендует патчить первые слои студенческой модели; число патчируемых слоёв позволяет менять размер промежуточной модели. В метаданных указаны библиотека Transformers и формат safetensors. Модель основана на Llama 3.1 8B Instruct и обучалась на данных The Pile deduplicated и Llama Nemotron Post-Training Dataset. Лицензия — Apache-2.0. Карточка не перечисляет конкретные языки или детальные ограничения качества; как и другие генеративные языковые модели, она может выдавать неточные или нежелательные ответы.

AMARSADN-AI_V1 — языковая модель amarsadan для генерации текста и диалогового взаимодействия. Это дообученная версия SC117/LFM2.5-2.6B-Uncensored на архитектуре LFM2 с плотной моделью Lfm2ForCausalLM и 2,6 млрд параметров. В карточке указано, что обучение проводилось с помощью Unsloth и библиотеки TRL от Hugging Face. Модель предназначена для генерации текста и чата; в метаданных также отмечен интерфейс вызова инструментов. Поддерживаемый язык — английский. Контекстное окно составляет 128 000 токенов, веса опубликованы в формате safetensors. Модель распространяется по лицензии Apache-2.0. Качество и надёжность ответов отдельно не описаны; базовая модель обозначена как uncensored, поэтому ответы могут не следовать обычным ограничениям на содержание.

ArliAI_QwQ-32B-ArliAI-RpR-v1-GGUF — это квантованные версии текстовой генеративной модели QwQ-32B-ArliAI-RpR-v1, разработанной ArliAI. Файлы в формате GGUF подготовлены bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться через llama.cpp, LM Studio и другие совместимые проекты. Модель имеет размер 32B по обозначению базовой модели и рассчитана на англоязычные сценарии. В репозитории представлены варианты от BF16 до низкобитных квантований Q3 и Q4, а также более качественные Q5, Q6 и Q8. Это позволяет выбирать между качеством ответов, потреблением памяти и скоростью локального запуска. Для работы используется формат сообщений с ролями system, user и assistant; в шаблоне предусмотрен блок рассуждений <think>. Сильной стороной являются разнообразие вариантов квантования и возможность локального использования на совместимом оборудовании, включая запуск через llama.cpp и LM Studio. Более компактные варианты подходят для систем с ограниченной оперативной памятью, но могут заметнее уступать по качеству полноразмерным версиям. В README не указаны архитектура, размер контекстного окна, мультимодальные возможности, результаты бенчмарков и подробные ограничения модели, поэтому эти характеристики нельзя подтвердить. Лицензия — Apache-2.0.

bartowski/ArliAI_QwQ-32B-ArliAI-RpR-v4-GGUF — это набор квантованных GGUF-версий текстовой генеративной модели ArliAI/QwQ-32B-ArliAI-RpR-v4, разработанной ArliAI. Квантизация выполнена bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться через llama.cpp, LM Studio и другие совместимые проекты, включая локальные сценарии инференса на пользовательском оборудовании. Доступны варианты от BF16 до квантовок Q8_0, Q6, Q5, Q4, Q3 и IQ, поэтому можно выбирать баланс между качеством, размером файла и требованиями к оперативной памяти. Размер базовой модели составляет 32B параметров; заявленный язык — английский. В README не указаны архитектурные детали, размер контекстного окна, мультимодальные возможности, результаты бенчмарков или специализированные области применения. Более сильные квантизации обеспечивают качество, близкое к исходным весам, тогда как варианты Q3 и некоторые другие требуют меньше памяти, но могут заметно уступать по качеству. Модель распространяется по лицензии Apache-2.0.

Это англоязычная чат-модель для генерации текста, созданная пользователем kobe-ja путём дообучения unsloth/Meta-Llama-3.1-8B-Instruct-bnb-4bit. Модель относится к семейству Llama 3.1, использует плотную архитектуру LlamaForCausalLM и содержит около 7,5 млрд параметров. Модель подходит для диалогов и генерации ответов на английском языке. В метаданных заявлен контекст длиной до 131 072 токенов и интерфейс вызова инструментов. Карточка не описывает специализированную область применения или состав обучающих данных, поэтому её следует рассматривать как модель общего назначения. Модель распространяется в формате PyTorch по лицензии Apache-2.0. Она унаследовала ограничения базовой модели и дообучения; карточка не приводит оценок качества или подробностей обучения.

AX-DeepSeek-V4-Flash-MLX-AXQ-4bit-MTP — это экспериментальный MLX-чекпойнт модели DeepSeek-V4-Flash, подготовленный AutomatosX для Apple Silicon. Модель предназначена для генерации текста и запуска через MLX-LM; в репозитории представлены только веса MLX Safetensors, без PyTorch и GGUF. Лицензия — Apache-2.0. В основе лежит архитектура DeepseekV4ForCausalLM с mixture of experts (MoE) и 284,33 млрд логических параметров. Основной языковой тракт использует смешанную квантизацию AXQuant 1.5.1: около 96,84% параметров имеют точность 4-bit, часть параметров сохранена в 8-bit и BF16. Измеренный общий размер хранения составляет примерно 4,5874 BPW, а полный объём загрузки — около 166,91 ГБ. Настроенный максимальный контекст — 1 048 576 токенов, однако практическая длина зависит от объёма unified memory устройства. Модель поддерживает текстовую модальность; визуальный и аудиокомпоненты отсутствуют. В чекпойнте присутствует MTP-компонент, но его ускорение, совместимость с AX Engine и качество не подтверждены измерениями; стандартный MLX-LM может выполнять только текстовый backbone без активации MTP. Сильной стороной является существенное сокращение объёма хранения по сравнению с полноточной моделью при сохранении отдельных важных тензоров в более высокой точности. Ограничения включают отсутствие опубликованных сравнений качества, тестов длинного контекста, скорости ядер и MTP, а также отсутствие валидированного native-манифеста AX Engine. Пакет имеет статус convertible и сопровождается данными о конвертации, но не является сертифицированным релизом AXQuant.

TeeZee создал Bielik-SOLAR-LIKE-10.7B-Instruct-v0.1, применив рецепт Upstage для SOLAR: модель получена слиянием весов без дополнительного дообучения. Это плотная причинно-языковая модель семейства Mistral с 10,6 млрд параметров, предназначенная для генерации текста в режиме инструкций и диалога. Автор сообщает, что модель сохраняет связность ответов на польском языке и подходит как основа для дальнейшего дообучения на польских данных; также отмечены цензурирование и выравнивание поведения. Модель принимает текст и генерирует текст. Контекст составляет 4096 токенов. Веса опубликованы в формате Safetensors; лицензия CC BY-NC 4.0 разрешает использование на условиях лицензии, включая её некоммерческие ограничения. Автор отмечает небольшую потерю качества относительно исходной instruct-модели, использованной при слиянии; дальнейшее дообучение может улучшить результаты.

mulasan/bistbot-llama-cio-8b — дообученная разговорная языковая модель на архитектуре Llama, разработанная mulasan на базе unsloth/llama-3.1-8b-instruct-bnb-4bit с использованием Unsloth и библиотеки TRL. Модель предназначена для генерации текста в диалоговом формате и имеет интерфейс для вызова инструментов. Модель содержит 7,5 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. В карточке указана поддержка английского языка. Модель распространяется в формате safetensors по лицензии Apache 2.0. README не описывает специализацию дообучения или результаты оценки качества.