I.5Создание и редактирование текста

Tess-3-Llama-3.1-405B-GGUF — это квантизированная версия дообученной текстовой генеративной модели Tess-3-Llama-3.1-405B, разработанной migtissera и преобразованной в формат GGUF пользователем bartowski. Модель основана на Llama 3.1 с 405 миллиардами параметров и предназначена для генерации текста при локальном запуске через llama.cpp, в том числе в LM Studio. В README приведён формат промпта с системным сообщением, запросом пользователя и ответом ассистента. Модель доступна в вариантах квантизации Q8_0, Q6_K, Q5_K_M, Q4_K_M, Q4_K_S, IQ4_XS и других, размером примерно от 95 до 436 ГБ. Более высокие разрядности обычно обеспечивают лучшее качество, но требуют значительно больше оперативной памяти; низкоразрядные варианты экономичнее, однако могут заметно уступать в качестве. Для ARM-процессоров отдельно рекомендуется вариант Q4_0_4_4. Конкретные поддерживаемые языки, размер контекста и специализированные сценарии обучения в README не указаны. Модель распространяется по лицензии llama3.1.

Tess-3-Mistral-Nemo-GGUF — набор GGUF-квантизаций текстовой генеративной модели Tess-3-Mistral-Nemo, опубликованный и сквантизированный пользователем bartowski с использованием llama.cpp и метода imatrix. Базовая модель разработана migtissera. Формат GGUF предназначен для локального запуска, в том числе через llama.cpp и LM Studio. Модель предназначена для генерации текста в диалоговом формате с системными инструкциями и пользовательскими запросами. В репозитории представлены варианты от исходных весов F32 до низкобитных квантизаций Q8_0, Q6, Q5, Q4, Q3 и Q2, а также вариантов IQ. Размер файлов составляет примерно от 4,14 до 49 ГБ. Более высокие уровни квантования обеспечивают лучшее сохранение качества, тогда как младшие варианты требуют меньше оперативной памяти, но могут заметно уступать по качеству. Для некоторых вариантов применена схема с весами embeddings и output, сохранёнными в Q8_0, что, согласно описанию, может улучшать качество, хотя эффект зависит от сценария. Конкретные архитектурные параметры, число параметров, поддерживаемые языки, модальности и размер контекста в README не указаны. Модель распространяется по лицензии Apache-2.0.

Tess-7B-v2.0 — языковая модель общего назначения из серии Tess, разработанная migtissera и дообученная на базе Mistral-7B-v0.2. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста в диалоговом формате; указанная длина контекста — 32 768 токенов. Модель принимает текстовые запросы с секциями SYSTEM, USER и ASSISTANT и генерирует текстовые ответы. Модель можно применять для диалогов, написания текстов и ответов на вопросы. В карточке указано, что она может выдавать неточные или вводящие в заблуждение ответы, а также предвзятый, оскорбительный или иной неподходящий контент; модель описана как uncensored. Автор пометил версию как устаревшую из-за неверного параметра sliding window при обучении. Лицензия — Apache-2.0.

Jebadiah/Tess-gradient-ruby — объединённая диалоговая языковая модель, созданная с помощью mergekit на основе Tess-2.0-Llama-3-8B и Llama-3-8B-Instruct-Gradient-4194k. В README указан метод линейного слияния DARE; модель построена на архитектуре LlamaForCausalLM и содержит 7,5 млрд параметров. Модель предназначена для диалогов и генерации текста по запросам пользователя. Её можно применять для ответов на вопросы, следования инструкциям и помощи с программированием. Метаданные указывают контекст до 8192 токенов и формат весов safetensors; модель работает через библиотеку Transformers. Карточка не приводит результаты оценки качества или подробные ограничения. Лицензия в предоставленных данных не указана.

Tesslate_Tessa-T1-32B-GGUF — набор GGUF-квантизованных версий текстовой генеративной модели Tessa-T1-32B, разработанной Tesslate и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и запуска в локальных приложениях и средах, совместимых с llama.cpp, включая LM Studio. В README заявлена поддержка английского языка; сведения о мультимодальности отсутствуют. Модель содержит 32 млрд параметров и распространяется в форматах от BF16 до различных вариантов квантования Q8, Q6, Q5, Q4, Q3 и Q2, включая IQ-форматы. Размер файлов варьируется примерно от 13,07 до 65,54 ГБ, что позволяет выбирать баланс между качеством, скоростью и требованиями к памяти. Для работы рекомендуется использовать указанный в README prompt format с ролями system, user и assistant. Точная длина контекста и дополнительные архитектурные характеристики не указаны. Сильная сторона набора — широкий выбор степеней квантования и возможность локального запуска; варианты Q6 и Q5 описаны как обеспечивающие очень высокое или высокое качество, а Q4_K_M — как оптимальный вариант для большинства сценариев. Более сильное квантование экономит память, но может снижать качество, особенно у вариантов Q3 и Q2. Модель распространяется по лицензии Apache-2.0.

Tess-M-v1.1 — экспериментальная версия универсальной серии больших языковых моделей Tess от migtissera. Модель основана на Yi-34B-200K и дообучена для генерации текста; архитектура — плотная LlamaForCausalLM, размер — 33,9 млрд параметров. Контекстное окно составляет 200 000 токенов. Модель предназначена для диалогов и других задач генерации текста общего назначения. В README указаны стабильная версия Tess-M-v1.3 и формат промпта с ролями SYSTEM, USER и ASSISTANT. Репозиторий содержит веса Safetensors. Лицензия обозначена как other, поэтому конкретные условия использования следует сверить с файлами репозитория. Версия v1.1 помечена автором как экспериментальная и устаревшая; для использования рекомендована Tess-M-v1.3. Специализированные области и дополнительные языки в доступных сведениях не указаны.

Tess-M-v1.2 — экспериментальная версия универсальной большой языковой модели из серии Tess, разработанной migtissera. Модель построена на архитектуре Llama и дообучена на базе Yi-34B-200K; размер составляет около 33,9 млрд параметров, контекст — до 200 000 токенов. Для диалога используется формат с ролями SYSTEM, USER и ASSISTANT. Модель предназначена для генерации текста и общих языковых задач. Версия v1.2 устарела и помечена разработчиком как экспериментальная; в README рекомендуется стабильный выпуск Tess-M-v1.3. Лицензия указана как other, поэтому условия использования следует сверять с лицензией в репозитории.

Tess-R1-Limerick-Llama-3.1-70B-GGUF — набор GGUF-квантизаций базовой модели Tess-R1-Limerick-Llama-3.1-70B, разработанной neurolattice и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp и совместимые приложения, включая LM Studio. В README не указаны специализированные сценарии применения или перечень поддерживаемых языков и модальностей, поэтому её следует рассматривать как универсальную текстовую LLM. Основа модели — Llama 3.1 с заявленным размером 70B параметров. Доступны варианты квантизации от Q8_0 до Q3 и IQ3/IQ4, с размером файлов примерно от 29,31 до 74,98 ГБ. Квантизации выполнены с использованием imatrix на базе llama.cpp release b4014; некоторые варианты оптимизированы для ARM. Более высокие уровни квантизации обеспечивают лучшее сохранение качества, тогда как младшие требуют меньше оперативной памяти, но могут заметно снижать качество. Размер контекста в README не указан. Лицензия обозначена как llama3.1. Для запуска потребуется значительный объём памяти, зависящий от выбранной квантизации. Рекомендуемыми названы варианты Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS; вариант Q4_0_4_4 предназначен для ARM и не рекомендуется для Mac или Windows.

WonseokJayJung/test-gguf-final — компактная языковая модель для генерации текста, полученная слиянием Qwen/Qwen2.5-0.5B и Qwen/Qwen2.5-0.5B-Instruct методом SLERP с помощью mergekit. Это плотная авторегрессионная архитектура Qwen2 с примерно 494 млн параметров и контекстом до 32 768 токенов. Модель предназначена для диалогов, выполнения инструкций и генерации текста. В репозитории доступны веса GGUF в формате F16 и safetensors; метаданные указывают библиотеку Transformers и интерфейс для вызова инструментов. Лицензия в предоставленных данных не указана.

Модель duxx/test_model_16bit_25 — дообученная авторегрессионная языковая модель семейства Llama, разработанная duxx на основе unsloth/tinyllama-bnb-4bit с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и может служить основой для диалоговых и текстовых приложений. Модель содержит около 1 млрд параметров, принимает текст и поддерживает контекст до 4096 токенов. В карточке указан английский язык и лицензия Apache-2.0. Данные не описывают специализацию дообучения или оценку качества, поэтому пригодность для конкретной предметной области не установлена.

Это компактная модель T5-Small, дообученная Харшем Рао на суммаризацию текста. Она использует архитектуру T5 для преобразования текста в текст и создаёт краткие абстрактивные сводки, стараясь сохранить ключевую информацию. Модель предназначена для суммаризации статей, документов, блогов и длинных диалогов, а также для встраивания в NLP-приложения и конвейеры обработки документов. Модель содержит 38,5 млн параметров, рассчитана на английский язык и имеет контекст длиной до 512 токенов. Лицензия Apache-2.0. Сводки могут упускать важные детали или содержать фактические ошибки; качество зависит от тематики и качества входного текста. Модель не предназначена для проверки фактов и принятия решений в областях с высокими ставками, включая право, медицину и финансы.

ThaiLLM-8B-Instruct — диалоговая языковая модель KBTG-Labs, созданная с помощью mergekit на основе ThaiLLM-8B и Qwen3-8B. Она предназначена для генерации текста и следования инструкциям, с улучшенным пониманием тайского языка по сравнению с Qwen3-8B. Модель поддерживает режимы с рассуждением и без него, а также интерфейс вызова инструментов. Архитектура — плотная Qwen3ForCausalLM с 7,6 млрд параметров; максимальный контекст — 40 960 токенов. README описывает сравнение результатов экзаменационных и финансовых тестов с Qwen3-8B, но отмечает, что результаты могут различаться в зависимости от среды оценки. Модель работает с текстом и рассчитана на тайский и английский языки. Для запуска через Transformers требуется версия 4.51.0 или новее. Лицензия — Apache-2.0.

TheBeagle-v2beta-32B-MGS — экспериментальная инструктивная языковая модель команды Beagle, дообученная на базе Qwen/Qwen2.5-32B-Instruct. Это плотная модель семейства Qwen2 с 32 млрд параметров; она принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. В качестве обучающих данных использован набор Magpie-Align/Magpie-Pro-300K-Filtered, обучение проведено за одну эпоху. Заявленная длина контекста — 32 768 токенов; метаданные указывают английский язык. Модель предназначена для диалоговой генерации текста и следования инструкциям; результаты приведённых в карточке оценок относятся к набору тестов без chat template. Разработчик сообщает о значении loss 0,5378 и приводит оценки IFEval и BBH, но этих данных недостаточно для вывода о качестве в конкретных приложениях. Выпуск обозначен как beta и экспериментальный. Лицензия основана на условиях Qwen с дополнительным требованием включать «Beagle» или «MGS» в название производных моделей; перед использованием следует свериться с полным текстом лицензии.

Anubis-Pro-105B-v1-GGUF — это квантизированная версия текстовой генеративной модели Anubis-Pro-105B-v1, разработанной TheDrummer и подготовленной в формате GGUF пользователем bartowski. Квантизация выполнена с помощью llama.cpp b4585 и метода imatrix, что позволяет запускать модель локально через llama.cpp, LM Studio и другие совместимые проекты. Модель предназначена для генерации текста и диалоговых сценариев. В README указано, что исходная модель содержит 105 миллиардов параметров; поддерживаемые модальности, языки и размер контекста не указаны. Доступны варианты квантизации от Q8_0 до Q2_K и IQ2/IQ3/IQ4, с размером файлов примерно от 32,77 до 111,34 ГБ. Варианты Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS отмечены как рекомендуемые, а наиболее качественным считается Q8_0. Сильной стороной модели является возможность локального запуска и выбор между качеством, размером и требованиями к памяти. Низкобитные варианты требуют меньше ресурсов, но обеспечивают более низкое качество; Q3 и Q2 описаны как низкокачественные, хотя некоторые из них остаются пригодными для использования. Для работы рекомендуется применять указанный шаблон prompt format. Лицензия обозначена как other, без дополнительных условий в README.

TheDrummer_Rocinante-X-12B-v1-GGUF — это набор квантованных версий языковой модели Rocinante-X-12B-v1, разработанной TheDrummer и преобразованной в формат GGUF пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста и локального запуска в совместимых приложениях и инструментах, включая llama.cpp, LM Studio, KoboldCpp, Jan AI и Text Generation Web UI. Модель имеет размер 12 миллиардов параметров и относится к текстовым моделям без заявленной поддержки дополнительных модальностей. Доступны варианты от BF16 и Q8_0 до более компактных IQ- и Q2-квантований с размером файлов примерно от 5 до 24,5 ГБ. Для диалогового использования в README указан формат промпта с системным сообщением и пользовательским запросом в шаблоне [INST]. Основное преимущество набора — широкий выбор квантований, позволяющий подобрать баланс между качеством, требованиями к памяти и скоростью локального вывода; варианты Q5 и Q6 отмечены как высококачественные, а Q4_K_M — как типичный вариант для большинства сценариев. Более сильное квантование может снижать качество генерации, а поддержка модели зависит от используемого программного обеспечения. Языки, размер контекста и лицензия в предоставленных данных не указаны.

TheMayonnaise — англоязычная причинная языковая модель на базе Mistral, созданная командой The Kaitchup методом TIES-слияния нескольких моделей с помощью mergekit. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и принимает текст для продолжения и генерации текста. Заявленная длина контекста — 32 768 токенов. Модель предназначена для генерации текста на английском языке и задач общего языкового моделирования. В карточке приведены результаты оценки на Open LLM Leaderboard, включая средний балл 74,94, ARC и HellaSwag. Распространяется под лицензией Apache 2.0. Как и другие языковые модели, может генерировать ошибочные или некорректные ответы; результаты бенчмарков не гарантируют качество в конкретном применении.

ThetaWave-7B-sft — разговорная языковая модель на архитектуре Mistral, созданная Liangmingxin путём дообучения с учителем модели freecs/ThetaWave-7B на наборе Open-Orca/SlimOrca. Она предназначена для генерации текста и диалоговых сценариев. Модель содержит 7,1 млрд параметров, работает с контекстом до 32 768 токенов и распространяется в формате safetensors. Модель использует шаблон чата Mistral. По данным карточки, текущая версия не поддерживает system_prompt штатно; его ручное добавление к шаблону может ухудшить качество ответов. Модель распространяется по лицензии Apache-2.0.

This_is_fine_7B — объединённая языковая модель на архитектуре Mistral, созданная ChaoticNeutrals с помощью mergekit. Модель размером 7,1 млрд параметров предназначена для генерации текста и диалогового общения; для объединения использован метод DARE TIES, базой послужила mlabonne/AlphaMonarch-7B, также включены четыре другие модели Mistral. Весовые файлы опубликованы в формате safetensors, заявленный контекст — до 32 768 токенов. Модель подходит для ведения диалога и генерации ответов или продолжений текста. В README приведены результаты оценок на задачах рассуждения и здравого смысла, однако подробные сведения о языках, специализации и условиях применения не представлены. Лицензия указана как other, поэтому перед использованием следует проверить условия на странице модели и исходных компонентов.

THUDM_GLM-4-9B-0414-GGUF — это квантизированная версия языковой модели GLM-4-9B-0414, разработанной командой THUDM. Конвертацию и квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. Модель содержит около 9 млрд параметров, поддерживает китайский и английский языки и распространяется в формате GGUF. Доступны варианты от bf16 до низкобитных Q2–Q8-квантизаций с размером файлов примерно от 4,2 до 18,8 ГБ. Более качественные варианты Q5–Q8 обеспечивают близкое к исходной модели качество, тогда как Q3 и Q2 экономят память, но снижают качество. В README размер контекстного окна, архитектура и поддерживаемые модальности не указаны; по приведённому формату и назначению это текстовая авторегрессионная модель. Сильной стороной являются разнообразие вариантов квантизации и возможность запуска на локальном оборудовании с ограниченными ресурсами. Ограничения включают компромисс между размером, потреблением памяти и качеством, а также отсутствие данных о результатах оценки и контекстном окне. Для работы требуется совместимый llama.cpp-стек и соответствующий формат prompt: [gMASK]<sop><|system|>, <|user|>, <|assistant|>. Модель распространяется по лицензии MIT.

trinhkhng/ties_Merged_Qwen2-0.5B_0.1 — объединённая языковая модель на архитектуре Qwen2, созданная с помощью mergekit методом TIES. В объединение вошли Qwen2-0.5B и debias_Qwen2-0.5B; в качестве базовой модели и источника токенизатора использована Qwen2-0.5B. Модель содержит около 493,7 млн параметров и распространяется в формате safetensors. Модель предназначена для генерации текста и диалогового общения. Заявленная длина контекста — 131072 токена. В карточке не приведены сведения о языковой поддержке и специализированных областях применения. Лицензия в предоставленных данных не указана.

TigerBot-13B-Chat-v4 — TigerResearch әзірлеген диалогқа бағытталған тілдік модель. Ол пайдаланушымен чаттасуға және мәтіндік сұрауларға жауап беруге арналған; карточкада Transformers арқылы іске қосу сипатталған. Модель Llama архитектурасына негізделген тығыз авторегрессиялық генератор, көлемі 13 млрд параметр. Кіріс пен шығыс модальдігі — мәтін, карточка тілдері — қытай және ағылшын, ал табиғи контекст ұзындығы — 2048 токен. Модель Apache-2.0 лицензиясымен таратылады.

TigerBot 70B Chat v6 — диалоговая языковая модель семейства Llama, разработанная TigerResearch. Она предназначена для генерации ответов в чате и других задач продолжения текста. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 69 млрд параметров и рассчитана на контекст до 8192 токенов. Поддерживаются китайский и английский языки; файлы весов представлены в формате safetensors. Модель подходит для диалоговых интерфейсов и генерации текста по запросу. Для запуска автор предлагает использовать Transformers или код репозитория TigerBot. Лицензия Apache-2.0 допускает использование на её условиях. Карточка не приводит конкретных оценок качества или ограничений, поэтому применимость к узким задачам следует проверять отдельно.

Tiger-Gemma-9B-v1-GGUF — это набор GGUF-квантизаций текстовой генеративной модели Tiger-Gemma-9B-v1, разработанной TheDrummer и подготовленной для распространения пользователем bartowski. Квантизация выполнена с использованием llama.cpp и метода imatrix, применяющего калибровочный датасет для сохранения качества при уменьшении размера весов. Модель предназначена для локального запуска и генерации текста через совместимые инструменты, включая llama.cpp. Доступны варианты от F32 размером около 36,97 ГБ до низкоразрядных Q2 и IQ2 размером около 3,43–4,03 ГБ; также представлены промежуточные варианты Q3–Q8 и IQ. Более крупные квантизации обычно обеспечивают более высокое качество, а компактные подходят для систем с ограниченным объёмом оперативной памяти. В README рекомендуются, в частности, варианты Q4_K_M, Q5, Q6 и IQ4_XS. Известно, что это модель класса Gemma с примерно 9 млрд параметров и поддержкой текстового ввода и вывода. Для диалогов требуется специальный формат prompt с маркерами начала и конца хода пользователя и модели. Системный prompt модель не поддерживает. Языки, размер контекстного окна и дополнительные архитектурные характеристики в предоставленных данных не указаны. Лицензия исходной модели и условия использования данной сборки также не указаны, поэтому перед применением необходимо проверить их отдельно.

Tiger Gemma 9B v2 — разговорная языковая модель на базе Gemma 2 с 9 млрд параметров и архитектурой плотного декодера Gemma2ForCausalLM. Автор описывает её как версию Gemma 9B с ослабленными ограничениями на ответы; вариант v2 использует более мягкую настройку, сохраняя поведение исходной Gemma насколько возможно. Модель предназначена для генерации текста и диалогов. Контекст составляет 8192 токена. В карточке указаны формат safetensors и возможность чата. Модель создана TheDrummer; базовая модель Gemma 2 в README прямо не идентифицирована, поэтому точный исходный репозиторий установить нельзя. Автор сообщает, что модель обычно не отказывает в ответах, однако не приводит оценок качества или подробностей обучения. Лицензия в предоставленных данных не указана.

Cohere и Cohere Labs разработали Tiny Aya Base — авторегрессионную языковую модель на архитектуре Transformer с 3,35 млрд параметров. Она предназначена для дообучения, адаптации к инструкциям и локального запуска в условиях ограниченных вычислительных ресурсов. Модель принимает текст и генерирует текст; контекст составляет до 8 тысяч токенов, заявлена поддержка более 70 языков, включая языки с ограниченными обучающими данными. Модель подходит для многоязычной генерации и диалогов, суммаризации, перевода и межъязыковых задач. В архитектуре используются скользящее оконное внимание с размером окна 4096 и глобальное внимание. По данным карточки, особенно сильные стороны — генерация на разных языках и работа с низкоресурсными языками. Качество рассуждений, в частности математических, ниже; фактические ответы могут быть ошибочными, а качество и понимание культурных нюансов различаются между языками. Лицензия CC-BY-NC-4.0 запрещает коммерческое использование без отдельного разрешения; также требуется соблюдать политику допустимого использования Cohere Labs.

bzantium/tiny-deepseek-v3 — текстовая авторегрессионная модель семейства DeepSeek-V3, опубликованная пользователем bzantium на Hugging Face. Репозиторий содержит веса Safetensors, чат-шаблон и пользовательский код; карточка модели отсутствует. Метаданные указывают на архитектуру DeepseekV3ForCausalLM, около 4,5 млрд параметров и контекстное окно до 163 840 токенов. Модель предназначена для генерации текста в диалоговом формате и поддерживает интерфейс вызова инструментов. В карточке не описаны обучение, языки или конкретные сценарии; поэтому нельзя приписывать ей специализированные возможности или подтверждённые преимущества сверх генерации текста и чат-интерфейса. Лицензия в доступных сведениях не установлена.

TinyLlama-1.1B-Sum-SFT — плотная авторегрессионная языковая модель семейства Llama, дообученная на базе TinyLlama/TinyLlama-1.1B-intermediate-step-1431k-3T на наборе martimfasantos/openai-summarize-tldr. Модель предназначена прежде всего для суммирования текста и генерации кратких пересказов; в каталоге также отмечена задача генерации текста. Модель содержит около 1 млрд параметров, принимает текст и имеет контекст длиной 2048 токенов. Карточка приводит метрики оценки на тестовом наборе, но не раскрывает подробности обучения, конкретные языки или ограничения качества. Вес опубликован в формате safetensors. Лицензия — Apache-2.0.

M4-ai разработала TinyMistral-6x248M-Instruct — компактную языковую модель с архитектурой Mixture of Experts, дообученную на базе M4-ai/TinyMistral-6x248M для выполнения инструкций. В метаданных указано 215,2 млн параметров и контекст до 32 768 токенов; веса опубликованы в формате safetensors. Модель принимает текстовые запросы и генерирует ответы, объяснения и аналитические тексты. Она рассчитана на широкий круг тем, включая программирование, историю и естественные науки; для диалога можно использовать формат ChatML. Дообучение выполнено на hercules-v1.0, наборе с примерами по коду, математике и другим дисциплинам. В карточке заявлена поддержка английского языка и многоязычной генерации. Модель распространяется по лицензии Apache-2.0. Возможны предвзятые, токсичные или чувствительные ответы; карточка также предупреждает об ухудшении качества при использовании Inference API и рекомендует параметры инференса базовой модели.

titulm-llama-3.2-3b-v2.0-Instruct-v1.0 — плотная авторегрессионная языковая модель семейства Llama, разработчик — hishab. Согласно README, модель обучена с нуля; сведения о датасете отсутствуют. Это чат-модель для генерации текста по запросу, с числом параметров 3,3 млрд и контекстом до 131 072 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Модель предназначена для диалоговых сценариев и генерации текста. README не приводит результатов оценки, конкретных целевых задач или рекомендаций по применению. Лицензия в предоставленных данных не указана.

Toffee-3B-β — языковая модель для генерации текста и диалогового взаимодействия, разработанная maxzt. Модель дообучена на базе mistralai/Ministral-3-3B-Base-2512 с целью создания компактного полезного ассистента. Основной язык — английский; заявленные сценарии включают чат, выполнение инструкций, ответы на вопросы, рассуждения, математические задачи и программирование. Модель содержит около 3 млрд параметров и использует архитектуру Ministral 3 семейства Mistral. Длина контекста составляет 8 192 токена, размер словаря — 131 072, размер скрытого состояния — 3 072, 26 слоёв, 32 attention heads и 8 KV heads. Базовая точность указана как BF16. Дообучение выполнено методом SFT с LoRA на наборах UltraChat 200k, OpenMathInstruct-2 и CodeFeedback-Filtered-Instruction; использовалось до 80 000 примеров. Сильными сторонами являются компактный размер, пригодность для локального развёртывания и хорошие результаты на ряде стандартных тестов для моделей этого класса: 63,10% на MMLU, 72,04% на HellaSwag, 84,98% на BoolQ и 68,11% на Winogrande. Ограничения включают преимущественно англоязычную специализацию, небольшой контекст в 8 192 токена и отсутствие заявленной мультимодальности. Результаты на бенчмарках могут зависеть от настроек оценки и не гарантируют аналогичное качество в прикладных сценариях. Лицензия — MIT.