II.6Документация и сопровождение разработки

macadeliccc/SOLAR-10.7B-Instruct-v1.0-laser — разговорная языковая модель на архитектуре Llama с 10,6 млрд параметров. По README, к версии SOLAR-10.7B-Instruct-v1.0 применён процесс LASER; карточка приводит оценку перплексии на GSM8K и результаты бенчмарков AGIEval, GPT4All, TruthfulQA и Bigbench. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на вопросы и выполнение инструкций на естественном языке. Контекст — до 4096 токенов; модель принимает текст и генерирует текст. В README сообщается о снижении перплексии на 2,41% после LASER и среднем результате 59,07% по указанным бенчмаркам. Язык модели и её качество в конкретных языках или прикладных областях в предоставленных данных не описаны. Лицензия CC BY-NC 2.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.

Jan AI выпустила Solar-10.7B-SLERP — языковую модель для диалоговой генерации текста, созданную слиянием методом SLERP моделей upstage/SOLAR-10.7B-Instruct-v1.0 и janhq/Pandora-v1-10.7B. В README репозиторий обозначен как файл модели для оценки; для использования авторы рекомендуют другой репозиторий Solar-10.7B-SLERP или его вариант GGUF. Модель построена на плотной архитектуре Llama и содержит 10,6 млрд параметров. Она принимает текст и генерирует текст, поддерживает диалоговый сценарий с шаблоном ChatML и контекст до 4096 токенов. В метаданных указан английский язык. Модель распространяется по лицензии Apache-2.0.

SorcererLM-22B — разговорная модель на архитектуре Mistral, созданная Quant Cartel как дообучение Mistral-Small-Instruct-2409 с помощью LoRA. Это плотная языковая модель на 22 млрд параметров с контекстом до 131 072 токенов, предназначенная для диалогов и генерации текста. Разработчик описывает её как облегчённую версию Sorcerer 8x22b, ориентированную на такой же особый разговорный стиль при меньших требованиях к оборудованию. Модель обучена за одну эпоху на очищенных и дедуплицированных логах c2. После обучения LoRA была объединена с полноточными весами; слияния с исходной моделью в пропорции 50/50 не выполнялось. Для работы используются шаблоны запросов Mistral V2 и V3. Репозиторий содержит веса safetensors, а лицензия модели — Apache-2.0. README также упоминает отдельные квантованные версии в форматах exl2 и GGUF.

WhiskyAKM опубликовал GGUF-сборку Spark-X2.5-4B — трансформерную языковую модель с 4 млрд параметров для генерации текста и решения задач рассуждения. Модель поддерживает диалоговый формат, режим рассуждения с отдельными блоками и структурированный вызов инструментов. Для запуска предназначена библиотека llama.cpp; в репозитории представлен файл NVFP4, созданный квантизацией исходной модели с помощью llama-quantize. Модель рассчитана на английский и китайский языки. Квантизация NVFP4 уменьшает требования к ресурсам при развертывании, сохраняя формат GGUF для локального запуска. Контекстная длина в предоставленных данных не указана. Репозиторий распространяется по лицензии Apache-2.0.

Bielik-11B-v3.0-Instruct-GGUF — квантизированная версия инструкционной языковой модели Bielik-11B-v3.0-Instruct, разработанной командой speakleash. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp, LM Studio, KoboldCpp, Jan AI и другие совместимые инструменты. Модель содержит 11 миллиардов параметров и распространяется в формате GGUF с вариантами от BF16 до Q3 и IQ-квантизаций. Доступны файлы разного размера — примерно от 5 до 22 ГБ, что позволяет выбирать баланс между качеством, потреблением памяти и скоростью работы. Конкретные архитектура, поддерживаемые языки, размер контекстного окна и формат prompt не указаны в представленном README; для их уточнения требуется документация исходной модели. Сильной стороной является широкий выбор уровней квантизации: варианты Q5 и Q6 заявлены как высококачественные, а Q4 подходят для большинства сценариев и более ограниченных по памяти систем. Более компактные варианты позволяют запускать модель при меньшем объёме RAM, но могут снижать качество генерации. Лицензия в README не указана и должна быть проверена на странице исходной модели speakleash/Bielik-11B-v3.0-Instruct.

SpoomplesMaxx Whiskeyjack 12B («Camp Robber») — диалоговая модель на 12 млрд параметров, созданная как дообучение Google Gemma 4 12B Unified. Она предназначена для генерации текста в разговорных сценариях; в метаданных также отмечены настройка для рассуждений, ролевого общения и использования инструментов. Модель основана на плотной архитектуре Gemma 4 Unified, распространяется в формате Safetensors и доступна через Transformers. Базовая Gemma 4 Unified поддерживает работу с текстом, изображениями, видео и аудио, однако README этой версии не уточняет мультимодальные возможности дообученного чекпойнта, поэтому здесь подтверждена только генерация текста. Лицензия — Gemma; условия её использования определяются лицензией Google Gemma.

Это 16-битная версия StableLM-Tuned-Alpha, опубликованная vvsotnikov. По карточке, веса сжаты для ускорения работы и снижения потребления памяти, других изменений не заявлено. Модель предназначена для генерации текста в диалоговом формате; в метаданных указана архитектура GPT-NeoX с причинным языковым моделированием, 4,5 млрд параметров и контекстом до 4096 токенов. В качестве обучающих наборов перечислены ChatCombined, Alpaca, GPT4All Prompt Generations, HH-RLHF, ShareGPT Vicuna и Dolly 15k. Модель принимает текст и генерирует текст. В метаданных указан английский язык. Лицензия CC-BY-NC-SA-4.0 ограничивает коммерческое использование и требует соблюдения условий атрибуции и распространения производных работ. Карточка не приводит отдельных оценок качества или подробностей о способе преобразования весов.

Stack-Llama-2 — языковая модель Kashif на архитектуре Llama 2, дообученная методом DPO на данных Stack Exchange. Модель с 6,6 млрд параметров и контекстом до 4096 токенов предназначена для развёрнутых ответов на вопросы по программированию, математике, физике и другим темам Stack Exchange; также подходит для демонстрации генерации ответов в стиле сообщества Stack Exchange. Поддерживает английский язык. Модель может выдавать неверные или вводящие в заблуждение ответы, воспроизводить фрагменты обучающих данных и наследует смещения Llama и Stack Exchange. Ответы следует проверять по внешним источникам; модель не предназначена для замены экспертной оценки. Лицензия — bigscience-openrail-m.

StarDust-12b-v2-GGUF — это квантизированная GGUF-версия текстовой генеративной модели StarDust-12b-v2, разработанной Luni. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, диалогов, ролевых сценариев и творческого письма; запуск возможен, в частности, через LM Studio и другие совместимые инструменты. Модель имеет размер около 12 миллиардов параметров и относится к семейству Mistral. Она работает с текстом и заявлена для английского языка. В репозитории доступны варианты от F16 до Q2_K, различающиеся размером файла, требованиями к памяти и качеством; рекомендованными обозначены многие варианты Q4–Q6, включая Q6_K и Q6_K_L. Для ARM-процессоров предусмотрены специальные варианты Q4_0 с требованиями к поддержке SVE или i8mm. Формат prompt использует специальные маркеры ролей system, user и assistant. Сильной стороной модели является возможность локального запуска при выборе подходящего уровня квантизации, а варианты с более высокой точностью должны лучше сохранять качество исходной модели. Ограничения связаны с потерями качества в низкобитных вариантах, значительными требованиями к памяти для крупных файлов и отсутствием в предоставленных данных информации о размере контекста, точных архитектурных характеристиках и результатах оценки. Модель распространяется по лицензии Apache-2.0.

Steelskull_L3.3-Electra-R1-70b-GGUF — это квантизированная версия языковой модели L3.3-Electra-R1-70b, разработанной Steelskull и подготовленной пользователем bartowski в формате GGUF. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. Модель имеет размер 70 миллиардов параметров и поддерживает текстовый сценарий работы. В README приведён специальный шаблон запросов с системными и пользовательскими сообщениями, совместимый с форматом токенов модели. Доступны варианты квантизации Q2–Q8 и IQ, размером примерно от 27 до 75 ГБ; для большинства сценариев рекомендуются Q4_K_M, Q5_K_M, Q5_K_S и Q6_K. Квантизация выполнена с использованием imatrix и датасета, указанного автором сборки. Сильной стороной являются высокое качество крупных вариантов квантизации и возможность локального запуска без обращения к облачным сервисам. Ограничения включают значительные требования к оперативной памяти или видеопамяти, а также возможное снижение качества в компактных вариантах. Языки, размер контекста, точная архитектура, мультимодальные возможности и результаты оценки в README не указаны. Лицензия модели также не указана, поэтому условия использования следует уточнять в репозитории исходной модели.

Модель win10/sthenno-Test-maybe-is-pro-v2 — объединённая языковая модель на архитектуре Qwen2 с 14 млрд параметров, созданная автором репозитория методом Model Stock с помощью mergekit. В объединение вошли arcee-ai/Virtuoso-Small, deepseek-ai/DeepSeek-R1-Distill-Qwen-14B, Qwen/Qwen2.5-Coder-14B, sthenno-com/miscii-14b-1225 и sthenno/tempesthenno-ppo-ckpt40; базовой моделью при слиянии служила sthenno-com/miscii-14b-1225. Модель предназначена для генерации текста и диалогов. Заявленная длина контекста составляет 131 072 токена; веса доступны в формате safetensors. В состав слияния входят модели для программирования и рассуждений, однако README не описывает отдельные проверенные сценарии или сравнительные результаты, поэтому их качество для конкретных задач не установлено. Лицензия в предоставленных данных не указана.

vanillaOVO/supermario_v4 — объединённая предобученная языковая модель, созданная с помощью DARE и mergekit. Она предназначена для генерации текста и запускается через Transformers как MistralForCausalLM. Модель имеет плотную архитектуру Mistral с 7,1 млрд параметров и контекстным окном 32 768 токенов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. README не описывает специализированные сценарии применения и не приводит результатов оценки качества.

SuperQwen3.8-abliterated-Venice-i1-GGUF — набор GGUF-квантизаций модели SuperQwen3.8-abliterated-100-fp8, разработанной Jiunsong и квантованной mradermacher. Модель предназначена для локального запуска задач генерации текста, рассуждений, работы с изображениями и текстом, вызова инструментов и сценариев с длинным контекстом. В карточке также указана поддержка английского и корейского языков. Это мультимодальная vision-модель с архитектурой и размером исходной модели, а также максимальной длиной контекста, не указанными в README. Доступны варианты i1-квантизации от i1-Q2_K размером около 11 ГБ до i1-Q6_K размером около 22,5 ГБ, включая IQ-квантизации. Разные варианты позволяют выбирать компромисс между размером, скоростью и качеством; для работы с изображениями могут потребоваться отдельные mmproj-файлы из статического репозитория. К сильным сторонам относятся мультимодальность, поддержка рассуждений, tool-calling, длинного контекста и широкий выбор квантизаций, включая варианты, оптимизированные по матрице важности. Ограничения — отсутствие в README точных сведений о характеристиках архитектуры, контекстном окне, производительности и качестве на тестах; качество также зависит от выбранного уровня квантизации. Модель распространяется по лицензии Apache-2.0.

Apertus-8B-Instruct-2509-GGUF — это набор квантизированных версий языковой модели Apertus-8B-Instruct-2509, разработанной swiss-ai и подготовленной пользователем bartowski в формате GGUF с помощью llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, а также для локального запуска через LM Studio, llama.cpp и другие совместимые проекты. В набор входят варианты с точностью от BF16 до различных методов квантизации Q8, Q6, Q5, Q4, Q3 и IQ. Размер файлов составляет примерно от 3,8 до 16,1 ГБ, что позволяет выбирать между качеством, требованиями к памяти и скоростью работы. Исходная модель обозначена как 8B, однако сведения об архитектуре, длине контекста, поддерживаемых языках и модальностях в представленном README не указаны; по имеющимся данным это текстовая модель. Сильная сторона набора — широкий выбор локальных конфигураций: варианты Q6 и Q5 заявлены как близкие к исходному качеству, а Q4 подходят для большинства сценариев с ограниченными ресурсами. Более сильная квантизация может снизить качество генерации, особенно у вариантов Q3 и ниже. Формат prompt не указан, поэтому для корректного использования необходимо обратиться к странице исходной модели. Лицензия в README не указана.

SynapseLLM-7B-Mistral-v0.5-preview — предварительная дообученная WebraftAI языковая модель на архитектуре Mistral, представленная в виде полной модели со слитыми адаптерами. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста в диалогах, ответы на вопросы и выполнение инструкций по программированию; заявленный контекст — до 32 768 токенов. Обучение выполнено на английском языке на выборке с математическими и общими вопросами и ответами, а также примерами кода, включая Python. Модель может использоваться для англоязычных ответов на вопросы, помощи с кодом и разговорных сценариев. В README указана ограниченная область дообучения и предварительный характер версии. Среди известных ограничений — фактические ошибки, слабое следование системным инструкциям и отсутствие долговременной памяти. Лицензия — Apache 2.0.

Это GGUF-квантизированная версия языковой модели Hunyuan-4B-Instruct, разработанной Tencent и преобразованной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и работы в инструкционном формате: она может применяться в диалоговых сценариях, для ответов на запросы пользователя и других задач text-generation. Модель содержит около 4 миллиардов параметров и доступна в вариантах от BF16 до низкобитных квантований Q8, Q6, Q5, Q4, Q3 и IQ. Размер файлов составляет примерно от 1,9 до 8,45 ГБ; варианты с более высокой точностью обычно обеспечивают лучшее качество, а варианты с меньшим размером требуют меньше оперативной памяти. Для работы предусмотрен специальный шаблон промпта Hunyuan. Модель можно запускать через LM Studio, llama.cpp и другие совместимые проекты. К сильным сторонам относятся широкий выбор квантований, возможность локального запуска и хороший баланс качества и размера у рекомендуемых вариантов Q4–Q6. Низкобитные версии экономят память, но могут заметно уступать по качеству более точным вариантам. В README не указаны поддерживаемые языки, максимальная длина контекста, точная архитектура, мультимодальные возможности и лицензия, поэтому эти характеристики нельзя достоверно оценить.

Hunyuan-A13B-Instruct-GGUF — квантизированная версия языковой модели Hunyuan-A13B-Instruct, разработанной Tencent. Модель предназначена для генерации текста и работы в инструкционном диалоговом формате. Квантизация выполнена пользователем bartowski в формате GGUF с использованием llama.cpp и метода imatrix; доступны варианты от Q2_K_L до Q8_0 размером примерно от 29 до 85 ГБ. Модель можно запускать через llama.cpp, LM Studio и другие совместимые проекты. README не раскрывает точную архитектуру, число активных и общих параметров, максимальный контекст, поддерживаемые языки или дополнительные модальности. Основное преимущество представленной версии — широкий выбор уровней квантизации: более высокие варианты сохраняют лучшее качество, а компактные требуют меньше оперативной памяти. При этом сильное сжатие снижает качество ответов, а для запуска большинства вариантов необходим значительный объём памяти. Для корректной работы требуется специальный формат промпта с токенами <|startoftext|>, <|extra_4|> и <|extra_0|>. Модель распространяется по лицензии Tencent Hunyuan A13B; ссылка на текст лицензии приведена в исходном репозитории Tencent. Условия лицензии следует проверить перед коммерческим или иным использованием.

Tess-3-Llama-3.1-70B-GGUF — набор квантизированных версий текстовой генеративной модели Tess-3-Llama-3.1-70B, разработанной migtissera. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для локального запуска задач генерации текста, включая диалоговое взаимодействие и другие сценарии, поддерживаемые исходной моделью. Модель имеет размер 70B параметров и распространяется в формате GGUF с вариантами квантизации от Q8_0 до IQ1_M. Доступны версии размером примерно от 16,75 до 74,98 ГБ; наиболее сбалансированными по качеству и размеру в README названы Q6_K, Q5_K_M, Q4_K_M, Q4_K_S и IQ4_XS. Для работы рекомендуется формат prompt, совместимый с Llama 3.1, а запуск возможен, в частности, через LM Studio и llama.cpp. Сведения о поддерживаемых языках, длине контекста и мультимодальности не указаны. Главное преимущество набора — широкий выбор квантизаций, позволяющий адаптировать модель к доступному объёму памяти при сохранении приемлемого качества; высокоточные варианты обеспечивают качество, близкое к исходному. Ограничения связаны с большими требованиями к дисковому пространству и памяти, а у низкобитных версий качество заметно снижается. Модель распространяется по лицензии llama3.1.

Tessa-Rust-T1-7B-GGUF — квантизированная версия текстовой генеративной модели Tessa-Rust-T1-7B, разработанной Tesslate и опубликованной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Модель имеет размер 7 миллиардов параметров и относится к архитектуре Qwen2 согласно метаданным. Указан английский язык; поддержка других языков и точный размер контекстного окна не приведены. Доступны варианты от BF16 до различных уровней квантизации, включая Q8_0, Q6_K, Q5_K, Q4_K и Q3_K, что позволяет выбирать между качеством генерации, размером файла и требованиями к оперативной памяти. Для инференса рекомендуется использовать совместимый prompt format с ролями system, user и assistant. Сильная сторона этой версии — возможность локального запуска на широком спектре оборудования благодаря множеству вариантов квантизации; часть файлов подготовлена с использованием imatrix для повышения качества. Более низкие уровни квантизации экономят память, но могут заметно снижать качество, тогда как BF16 и старшие варианты требуют больше ресурсов. Лицензия модели — Apache-2.0.

Tess-XS-v1.1 — экспериментальная версия универсальной большой языковой модели серии Tess от разработчика migtissera. Модель основана на Mistral-7B и предназначена для генерации текста в диалоге; в карточке указан формат prompt с ролями SYSTEM, USER и ASSISTANT. Модель имеет архитектуру MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Веса опубликованы в формате safetensors, лицензия — Apache-2.0. Автор помечает эту версию как устаревшую и рекомендует использовать стабильный выпуск Tess-XS-v1.3-yarn-128K.

Thespis-CurtainCall-7b-v0.2 — экспериментальная текстовая генеративная модель на архитектуре Mistral, опубликованная автором cgato как первая версия серии экспериментов по улучшению своих моделей. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. В README указано обучение на наборах Dolphin, Ultrachat, Capybara, Augmental, ToxicQA и Magiccoder-Evol-Instruct-110k. Модель предназначена для диалогов и генерации ответов в шаблонах Ooba и Silly Tavern, а также может применяться для генерации кода по инструкциям. Автор отмечает, что работа ещё далека от завершения и делится моделью для ознакомления и проверки. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое; начальные тесты автора не заменяют независимую оценку качества.

Это 4-битная AWQ-квантизированная версия Falcon-7B-Instruct, разработанной Technology Innovation Institute (TII). Исходная модель — причинный декодер RefinedWebModel с архитектурой RWForCausalLM; автор карточки указывает 7 млрд параметров, а метаданные репозитория — 10,9 млрд параметров. Модель дообучена на наборах данных для чатов и инструкций и предназначена для генерации текста в ответ на запросы и инструкции. Квантизация использует групповой размер 64 и рассчитана на сокращение требований к памяти при запуске. В README указана проверка на NVIDIA GPU с compute capability 8.0 или выше; приведено сравнение perplexity на Wikitext до и после квантизации. Репозиторий распространяется по лицензии Apache-2.0. Карточка не приводит сведений о поддерживаемых языках или длине контекста.

TinyCode-4B — дообученная модель генерации текста на архитектуре Phi-3, опубликованная пользователем turtle170. По карточке, модель обучалась с помощью TRL и поддерживает диалоговый сценарий. Она предназначена для генерации ответов на текстовые запросы и использования в чат-приложениях. Модель содержит 3,8 млрд параметров, принимает текст и генерирует текст; максимальная длина контекста — 4096 токенов. Доступны веса в формате Safetensors для Transformers. Лицензия в предоставленных данных не указана.

bzantium/tiny-deepseek-v3 — текстовая авторегрессионная модель семейства DeepSeek-V3, опубликованная пользователем bzantium на Hugging Face. Репозиторий содержит веса Safetensors, чат-шаблон и пользовательский код; карточка модели отсутствует. Метаданные указывают на архитектуру DeepseekV3ForCausalLM, около 4,5 млрд параметров и контекстное окно до 163 840 токенов. Модель предназначена для генерации текста в диалоговом формате и поддерживает интерфейс вызова инструментов. В карточке не описаны обучение, языки или конкретные сценарии; поэтому нельзя приписывать ей специализированные возможности или подтверждённые преимущества сверх генерации текста и чат-интерфейса. Лицензия в доступных сведениях не установлена.

Карточка модели giocorte/totem-slm-rl-v5 на Hugging Face совпадает с карточкой giocorte/totem-slm-sft, поэтому описание составлено по ней. giocorte/totem-slm-sft — дообученная языковая модель, опубликованная giocorte на базе unsloth/qwen3-4b-unsloth-bnb-4bit. Это плотная авторегрессионная модель семейства Qwen3 с 3,7 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие; метаданные также отмечают интерфейс вызова инструментов. Модель обучали с использованием Unsloth и библиотеки Hugging Face TRL. Модель принимает текст и генерирует текст, поддерживает английский язык и имеет контекст длиной до 40 960 токенов. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0. Карточка не описывает специализацию дообучения, обучающие данные или сравнительные результаты, поэтому нельзя определить, в каких прикладных сценариях модель превосходит базовую.

Tulu-3.1-3B-SFT-Step-100 — языковая модель для генерации текста и диалогового взаимодействия, опубликованная пользователем yunjae-won на Hugging Face. README автоматически создан и не содержит сведений о разработчике, обучении, лицензии или результатах оценки. Модель имеет около 3,2 млрд параметров, относится к семейству LLaMA и рассчитана на работу через библиотеку Transformers. Максимальная длина контекста по метаданным составляет 131 072 токена. Она может применяться для генерации ответов, продолжения текста и создания прототипов разговорных приложений. Документация не описывает поддерживаемые естественные языки, наборы данных, метод дообучения, качество, безопасность и ограничения применения. Лицензия в доступных данных также не указана; перед использованием модели необходимо проверить условия распространения на странице репозитория.

Tulu V2.5 DPO 13B Capybara — англоязычная диалоговая языковая модель от Allen Institute for AI (Ai2), основанная на Tulu 2 и дообученная методом DPO на наборе Capybara 7k. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров и контекстом до 4096 токенов; для диалогов предусмотрен шаблон чата в токенизаторе. Модель предназначена для генерации текста и ответов помощника на инструкции, включая многошаговые запросы и диалоги на английском языке. Она обучалась на смеси инструкций и синтетических и созданных людьми диалогов, а затем выравнивалась по предпочтениям на данных Capybara. Модель может выдавать проблемные ответы: в ходе RLHF её не обучали безопасным завершениям, и в карточке не описана фильтрация ответов во время использования. Лицензия — Apache 2.0.

Tulu V2.5 DPO 13B — англоязычная диалоговая модель-помощник от Allen Institute for AI (AI2), дообученная методом DPO на разговорах из Chatbot Arena 2023. Она построена на плотной архитектуре Llama и содержит 12,9 млрд параметров; модель рассчитана на генерацию текста и диалоги с помощником, а её контекст составляет 4096 токенов. Модель подходит для ответов на инструкции и ведения англоязычных диалогов. В карточке указано, что для лучшего качества ввода следует использовать шаблон диалога, реализованный в токенизаторе. Лицензия — Apache 2.0. Модель не обучалась обеспечивать безопасные ответы на этапе RLHF и может выдавать проблемный контент, особенно при соответствующих запросах.

TurdusWestLakev2-IreneRP-Neural-7B-slerp — объединённая текстовая модель, созданная Smuggling1710 с помощью LazyMergekit. Она объединяет модели Smuggling1710/WestLakev2-IreneRP-Neural-7B-slerp и udkai/Turdus методом slerp; в конфигурации указаны слои 0–31, отдельные коэффициенты смешивания для self-attention и MLP и точность bfloat16. Модель построена на архитектуре Mistral с плотной причинной языковой моделью MistralForCausalLM, содержит 7,1 млрд параметров и имеет контекст длиной до 32 768 токенов. Основная задача — генерация текста; её можно применять для продолжения текста и диалоговых ответов. Сведений о поддерживаемых естественных языках и специализированных областях в предоставленных источниках нет. Лицензия в предоставленных данных не указана. Качество и ограничения объединённой модели отдельно не описаны; параметры генерации и фактические результаты следует проверять на целевых сценариях.

TwinLlama-3.1-8B-DPO3-GGUF — это набор GGUF-квантизированных версий текстовой генеративной модели TwinLlama-3.1-8B-DPO3, исходно разработанной mlabonne и квантизированной bartowski. Модель относится к семейству Llama, содержит около 8 миллиардов параметров и предназначена для генерации текста на английском языке, включая диалоговые сценарии и задачи, поддерживаемые базовой моделью после обучения методом DPO. Набор рассчитан на локальный запуск через llama.cpp и совместимые приложения, включая LM Studio. Доступны варианты от F16 размером 16,07 ГБ до компактных квантов Q2 и Q3, а также распространённые Q4, Q5, Q6 и Q8; размер файлов составляет примерно от 3,66 до 8,54 ГБ для квантованных версий. Для общения используется шаблон с ролями system, user и assistant в формате ChatML. Для некоторых вариантов предусмотрена оптимизация под ARM-процессоры, требующая соответствующих аппаратных инструкций. Более высокие уровни квантования обеспечивают качество, близкое к исходному, тогда как компактные варианты позволяют снизить требования к оперативной памяти ценой ухудшения качества. Сведения о размере контекста, поддерживаемых модальностях помимо текста, результатах оценки и аппаратных требованиях отсутствуют. Указанная лицензия — Apache-2.0.