II.6Документация и сопровождение разработки

Qwen_Qwen3-VL-8B-Instruct-GGUF — это набор GGUF-квантизаций мультимодальной модели Qwen3-VL-8B-Instruct, разработанной Qwen и подготовленной пользователем bartowski. Модель предназначена для задач, где требуется обработка текста и изображений, включая диалоговое взаимодействие и генерацию ответов по мультимодальным запросам. Квантизированные файлы рассчитаны на запуск через llama.cpp, LM Studio и другие совместимые проекты. Базовая модель имеет размер 8B параметров; в наборе представлены варианты от BF16 до 2-, 3-, 4-, 5-, 6- и 8-битных форматов с размерами файлов примерно от 3,8 до 16,4 ГБ. Квантизация выполнена с использованием imatrix и llama.cpp. Доступны варианты с разным соотношением качества и требований к памяти: старшие форматы обеспечивают качество, близкое к исходной модели, а младшие подходят для устройств с ограниченным объёмом RAM, но дают более низкое качество. Формат prompt использует шаблон ChatML с ролями system, user и assistant. README не содержит сведений о поддерживаемых языках, размере контекстного окна, конкретной архитектуре визуального модуля, результатах бенчмарков или лицензии. Условия использования следует уточнять в документации исходной модели Qwen/Qwen3-VL-8B-Instruct и соответствующего репозитория.

bartowski/Qwen_QwQ-32B-GGUF — это набор GGUF-квантизаций текстовой генеративной модели QwQ-32B, разработанной Qwen и подготовленной bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для диалогового применения и генерации текста, включая сценарии локального запуска через LM Studio, llama.cpp и совместимые проекты. Модель содержит около 32 миллиардов параметров и работает с текстовой модальностью; в метаданных указан английский язык. Доступны варианты квантования от Q8_0 до Q2_K и IQ-квантов размером примерно от 10,39 до 34,82 ГБ. Более высокие варианты сохраняют лучшее качество, но требуют больше оперативной или видеопамяти, тогда как низкоразрядные версии экономичнее, но заметно уступают по качеству. Архитектура и размер контекста в README не указаны. Сильной стороной набора является широкий выбор квантизаций для различного объёма доступной памяти и возможность локального запуска. Ограничения связаны с компромиссом между размером файла и качеством, а также с тем, что некоторые варианты имеют низкое качество и не рекомендуются. Модель распространяется по лицензии Apache-2.0.

Kaoeiri/Qwenwify-32B-v2.5 — языковая модель на базе Qwen2.5-32B, созданная разработчиком Kaoeiri путём слияния нескольких предварительно обученных моделей с помощью mergekit и метода DARE TIES. В качестве базовой модели в README названа unsloth/qwen2.5-32b; среди компонентов слияния — модели для инструкционного и ролевого диалога, написания историй и рассуждений. Модель предназначена для генерации текста, включая диалоги, ролевой отыгрыш и создание историй. Это плотная архитектура Qwen2 с 32 млрд параметров, работающая через Transformers; заявленная длина контекста — 131 072 токена. Модель принимает текст и генерирует текст. Карточка не описывает отдельные оценки качества или ограничения поведения. Репозиторий распространяется в формате safetensors; сведения о лицензии в предоставленных данных отсутствуют.

lmstudio-community/QwQ-32B-MLX-8bit — 8-битная MLX-квантизация модели QwQ-32B, разработанной Qwen. Квантизацию предоставил bartowski на основе инструментов mlx-examples; модель предназначена для запуска на компьютерах Apple Silicon и использования в LM Studio. Это текстовая генеративная reasoning-модель с размером 32B, ориентированная на чат и задачи, требующие рассуждений. В карточке указана поддержка контекста до 128K токенов и английского языка. Модель подходит для локальной генерации текста и диалоговых сценариев, однако README не содержит подробностей о специализированных задачах, точности или результатах бенчмарков. К сильным сторонам относятся большой контекст, возможность локального запуска на Apple Silicon и 8-битное представление, потенциально снижающее требования к памяти по сравнению с полной точностью. Ограничения включают зависимость от совместимого оборудования и возможные неточные, вредные или нежелательные ответы, характерные для генеративных моделей. Лицензия — Apache-2.0.

Это квантованная сборка модели Qwythos-9B-Claude-Mythos-5-1M, созданная Sourav Singh для Krill на базе весов empero-ai/Qwythos-9B-Claude-Mythos-5-1M. Модель относится к семейству Qwen3.5 и представляет собой гибридную языково-визуальную архитектуру: в текстовом декодере чередуются слои GatedDeltaNet и полносвязного внимания, также включена башня обработки изображений. Сборка предназначена для диалогов и задач, где нужно анализировать текст и изображения на Apple Silicon. Декодер использует смешанную nvfp4-квантизацию с размером группы 16; слои down_proj и o_proj сохранены в 8-битном формате, а башня зрения — в более высокой точности. Заявлен контекст 262 тысячи токенов; до 1 миллиона он увеличивается с помощью YaRN в исходной модели. Запуск рекомендуется через Krill, при этом обработка изображений задействует mlx_vlm. Квантование уменьшает размер модели и ускоряет работу, но может влиять на точность ответов. Модель унаследовала возможности базовой модели для рассуждений, генерации текста и работы с инструментами, однако эта сборка в Krill прежде всего документирована как чат-модель с поддержкой изображений. Лицензия — Apache-2.0.

ReadAll / ReadTwice RL step36 — это контрольный чекпойнт языковой модели, опубликованный пользователем Xirui1208 на Hugging Face. В репозитории находятся слитые веса BF16 на шаге 36 обучения, основанные на Qwen2: плотная авторегрессионная архитектура Qwen2ForCausalLM размером 7,1 млрд параметров. Модель работает с текстом, имеет контекстное окно 32 768 токенов и поддерживает чатовый интерфейс и интерфейс вызова инструментов. Чекпойнт предназначен для генерации текста и ответов на вопросы по длинным документам. Для обработки 224-тысячного контекста README описывает рекуррентный конвейер ReadTwice с разбиением на страницы и обновлением памяти; такой объём не передаётся в один вызов модели. На указанных фиксированных наборах разработки приведены результаты HQA 224k и LongBench QA, однако они не подтверждают качество на отложенном тесте, а результат HQA зависит от соответствующей конфигурации конвейера. Для воспроизводимой оценки автор рекомендует жадное декодирование. Репозиторий доступен публично; лицензия в предоставленных сведениях не указана.

ReFusion — языковая модель на 7,6 млрд параметров, разработанная GSAI-ML. Это маскированная диффузионная модель для генерации текста и диалогов. Она поддерживает генерацию в произвольном порядке и повторное использование полного KV-кэша, что может повысить эффективность генерации. Модель основана на архитектуре Qwen3 и рассчитана на контекст до 40 960 токенов. Модель предназначена для текстовых запросов и генерации ответов в диалоговом формате. Она распространяется в формате Safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. В карточке не приведены сведения о поддерживаемых естественных языках и конкретных ограничениях качества.

Replete-LLM-Mist-Nemo-12b-GGUF — это набор квантизированных GGUF-версий языковой модели Replete-LLM-Mist-Nemo-12b, разработанной Replete-AI и преобразованной bartowski с использованием llama.cpp и imatrix-квантизации. Модель предназначена для генерации текста и локального запуска в совместимых средах, включая LM Studio. В метаданных указан английский язык и лицензия Apache-2.0. Модель относится к классу текстовых генеративных моделей, имеет размер 12 млрд параметров и связана с архитектурой Mistral. Доступны варианты от F32 до компактных IQ2/Q2/Q3 и более качественных Q4–Q8-квантизаций. Размер файлов варьируется примерно от 4,44 до 49 ГБ, что позволяет выбирать между качеством генерации и требованиями к оперативной памяти. Рекомендуемыми названы, в частности, варианты Q4_K_M, Q5_K_M, Q6_K и Q6_K_L. Сильной стороной набора является широкий выбор уровней квантизации для локального использования: высококачественные варианты должны минимально отличаться от исходных весов, а компактные подходят для систем с ограниченной памятью. При этом качество снижается на более агрессивных уровнях квантизации. Контекст модели, мультимодальные возможности и дополнительные языки в README не указаны. Шаблон чата также не задан; предложенный формат является стандартным и может быть некорректен, поэтому его следует сверять с карточкой исходной модели.

Replete-LLM-V2.5-Qwen-14b-GGUF — набор GGUF-квантизаций языковой модели Rombos-LLM-V2.5-Qwen-14b. Квантизации подготовлены пользователем bartowski с использованием llama.cpp версии b3825 и метода imatrix. Исходная модель разработана rombodawg. Модель предназначена для генерации текста и может запускаться локально, в том числе через llama.cpp и LM Studio, с указанным форматом prompt на основе ChatML-тегов. В набор входят варианты от исходных весов F16 размером около 29,55 ГБ до компактных конфигураций с более низкой точностью, включая Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ-семейство. Версии различаются размером файла, требованиями к памяти и качеством генерации: старшие варианты обеспечивают качество, близкое к исходному, а младшие позволяют работать при ограниченном объёме RAM ценой заметной потери качества. Отдельные варианты оптимизированы для ARM-процессоров и требуют поддержки sve или i8mm. Это текстовая авторегрессионная модель примерно на 14 млрд параметров; сведения о поддерживаемых языках, длине контекста, точной архитектуре и мультимодальности в карточке не указаны. Основные сильные стороны набора — локальный запуск, широкий выбор степени квантизации и совместимость с llama.cpp и LM Studio. Ограничения связаны с требованиями к вычислительным ресурсам, компромиссом между размером и качеством, а также отсутствием подробных данных о возможностях базовой модели. Лицензия — Apache-2.0.

jamessucla/retrobust_plusplus_f16 — дообученная языковая модель семейства Llama, разработанная scoliono на базе unsloth/Llama-3.2-1B-bnb-4bit с использованием Unsloth и библиотеки TRL. Это плотная авторегрессионная модель с архитектурой LlamaForCausalLM и примерно 1,2 млрд параметров; заявленная длина контекста — 131 072 токена. Модель предназначена для генерации текста. Карточка не раскрывает конкретную специализацию или сценарии дообучения, поэтому её можно описать только как модель общего назначения для текстовых запросов и продолжения текста. В метаданных указан английский язык. Модель распространяется по лицензии Apache-2.0. По имеющимся данным нельзя оценить качество ответов и ограничения, связанные с конкретными задачами.

Карточка модели azherali/Riazi-8B-SFT на Hugging Face совпадает с карточкой azherali/Riazi-8B-CPT-SFT, поэтому описание составлено по ней. Riazi-8B-CPT-SFT — дообученная плотная языковая модель семейства Qwen3, разработанная azherali на базе unsloth/Qwen3-8B. Модель содержит 7,6 млрд параметров, использует архитектуру Qwen3ForCausalLM и предназначена для генерации текста и диалогов; в карточке также заявлен интерфейс вызова инструментов. Для обучения применялись Unsloth и библиотека Hugging Face TRL. Модель принимает текст и генерирует текст. Её контекст составляет до 40 960 токенов, язык карточки — английский. Лицензия Apache-2.0 допускает использование на её условиях. README не уточняет специализацию дообучения или оценки качества, поэтому пригодность для конкретных предметных задач по доступным сведениям определить нельзя.

Robin-33B-v2-delta — авторегрессионная языковая модель на архитектуре Transformer семейства LLaMA, разработанная LMFlow и дообученная на высококачественных данных. Вариант содержит 32,3 млрд параметров и рассчитан на контекст до 2048 токенов. Модель предназначена для генерации текста и исследовательских экспериментов с большими языковыми моделями и чат-ботами. Её можно применять для генерации ответов и прототипирования диалоговых систем; оценка Robin проводилась на LMFlow Benchmark. В карточке не указаны поддерживаемые языки и подробные результаты оценки. Лицензия ограничивает использование некоммерческими целями.

Карточка модели OptimalScale/robin-7b-v2-delta на Hugging Face совпадает с карточкой OptimalScale/robin-33b-v2-delta, поэтому описание составлено по ней. Robin-33B-v2-delta — авторегрессионная языковая модель на архитектуре Transformer семейства LLaMA, разработанная LMFlow и дообученная на высококачественных данных. Вариант содержит 32,3 млрд параметров и рассчитан на контекст до 2048 токенов. Модель предназначена для генерации текста и исследовательских экспериментов с большими языковыми моделями и чат-ботами. Её можно применять для генерации ответов и прототипирования диалоговых систем; оценка Robin проводилась на LMFlow Benchmark. В карточке не указаны поддерживаемые языки и подробные результаты оценки. Лицензия ограничивает использование некоммерческими целями.

Rombo-Org_Rombo-LLM-V3.1-QWQ-32b-GGUF — это набор GGUF-квантизаций 32-миллиардной языковой модели Rombo-LLM-V3.1-QWQ-32b, разработанной Rombo-Org. Квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться локально через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты квантизации от Q8_0 до Q3 и IQ3/IQ4, рассчитанные на разные компромиссы между качеством, размером файла и требованиями к памяти. Наиболее качественными и рекомендуемыми в README названы Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS; Q4_K_M указан как вариант по умолчанию для большинства сценариев. Размер файлов составляет примерно от 13,71 до 34,82 ГБ. Модель работает в текстовой модальности; поддерживаемые языки и размер контекста в предоставленных данных не указаны. Сильной стороной является возможность локального запуска на широком спектре оборудования благодаря множеству уровней квантизации, включая варианты для систем с ограниченной оперативной памятью и отдельные legacy-форматы. При снижении точности квантизации уменьшается потребление памяти, но может ухудшаться качество генерации; самые компактные варианты отмечены как низкокачественные или нерекомендуемые. Лицензия модели указана как Apache-2.0.

Apollo-v3-32B-GGUF — это GGUF-квантизированная версия текстовой генеративной модели Apollo-v3-32B, разработанной rootxhacker. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. Модель имеет размер 32 млрд параметров и ориентирована на работу с английским языком. В репозитории доступны варианты от BF16 до различных форматов Q8, Q6, Q5, Q4, Q3 и Q2, различающиеся размером файлов, требованиями к памяти и качеством. Наиболее качественными считаются BF16, Q8_0 и варианты Q6, тогда как низкобитные форматы позволяют запускать модель на системах с меньшим объёмом оперативной памяти, но могут заметнее ухудшать качество ответов. Для работы требуется совместимое программное обеспечение на базе llama.cpp; в README также указан специальный шаблон prompt с ролями system, user и assistant. Архитектура исходной модели, размер контекста, дополнительные модальности и поддержка языков, кроме английского, в предоставленных данных не описаны. Распространение указано по лицензии MIT.

Rose-2x7B — языковая модель архитектуры Mixtral Mixture of Experts, созданная uproai путём объединения моделей maywell/PiVoT-0.1-Starling-LM-RP и WizardLM/WizardMath-7B-V1.1 с помощью Mergekit. Она предназначена для генерации текста и диалоговых сценариев; сочетает базу для ролевого общения с моделью, ориентированной на математические задачи. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса Safetensors. Модель распространяется по лицензии Apache-2.0. Языки и отдельные ограничения качества в карточке не описаны.

cointegrated/rut5-base — уменьшенная русскоязычная версия encoder-decoder модели mT5, созданная на основе google/mt5-base. Разработчик сократил SentencePiece-словарь с 250 тысяч до 30 тысяч токенов: оставлены 20 тысяч наиболее частотных русских и 10 тысяч английских токенов. В README указано, что исходная модель имела 582 млн параметров, а после сокращения словаря — 244 млн; метаданные репозитория при этом указывают 122,1 млн параметров. Модель предназначена для генеративных задач преобразования текста, где нужен компактный вариант T5 с фокусом на русском и частичной поддержкой английского. Она использует архитектуру T5ForConditionalGeneration; доступны веса PyTorch, Flax и Safetensors. Лицензия — MIT. Сокращённый словарь уменьшает требования к хранению по сравнению с исходной mT5-base, но ограничивает языковое покрытие преимущественно русским и английским. README не приводит результаты оценки качества или конкретные специализированные сценарии применения.

ruT5-large-paraphraser — русскоязычная модель генерации перефразировок на основе архитектуры T5, разработанная fyaronskiy. Она дообучена на базе ai-forever/ruT5-large на наборе ru-paraphrase-NMT-Leipzig-cleaned и предназначена для создания перефразированного варианта заданного текста. Модель содержит 385,2 млн параметров, принимает текст и генерирует текст; максимальный контекст составляет 512 токенов. Модель подходит для перефразирования русскоязычных текстов и текстовой аугментации. Она распространяется в формате safetensors через Transformers под лицензией MIT. Качество и применимость к отдельным жанрам и предметным областям в карточке не описаны.

rwkv7-0.4B-g1 — языковая модель семейства RWKV-7, разработанная Бо Пэном, Ю Чжаном, Сонглином Яном и Жуйчоном Чжаном при поддержке RWKV Project в рамках LF AI & Data Foundation. Это дообученная версия BlinkDL/rwkv7-g1 с архитектурой RWKV7ForCausalLM и плотной структурой; в репозитории используются веса safetensors. Метаданные указывают 419,4 млн параметров и контекст 2048 токенов, тогда как README приводит оценку размера 450 млн параметров. Модель предназначена для генерации текста и диалоговых сценариев. Она обучена на World v3, использует токенизатор RWKV World с размером словаря 65 536. README заявляет английский язык, а метаданные карточки также перечисляют китайский, японский, корейский, французский, арабский, испанский и португальский. Модель распространяется по лицензии Apache-2.0. Для запуска README рекомендует flash-linear-attention и Transformers версии 4.48.0 или новее. Карточка не сообщает специализированных ограничений или оценок качества.

NaomiBTW/rwkv7-g1c-13.3b-gguf — квантизированная версия языковой модели RWKV7 g1c с приблизительно 13,3 млрд параметров. Модель основана на BlinkDL/rwkv7-g1 и предназначена для генерации текста, включая диалоговые и другие сценарии обработки естественного языка, совместимые с форматом GGUF. Ключевые характеристики включают архитектуру RWKV7, размер около 13,3 млрд параметров и квантизацию, выполненную с использованием калибровки Bartowski calibrationv5 для imatrix. README не содержит сведений о поддерживаемых языках, размере контекста, точном типе квантизации, мультимодальности или результатах тестирования, поэтому эти свойства нельзя оценить по имеющимся данным. К потенциальным ограничениям относятся возможная потеря качества из-за квантизации и требования к ресурсам, характерные для модели такого размера. Лицензия — Apache 2.0.

RYS-Llama3.1-Large — экспериментальная модель автора dnhkng, основанная на Meta Llama 3 70B Instruct и описанная как результат нового метода оптимизации. Она предназначена для генерации текста в диалогах и для экспериментов с оптимизацией больших языковых моделей; карточка сообщает об оценке на Open LLM Leaderboard, но не раскрывает подробностей метода. Модель использует плотную архитектуру LlamaForCausalLM и содержит 80,6 млрд параметров. Метаданные указывают контекст до 131 072 токенов, формат safetensors и интерфейсы чата и вызова инструментов. Карточка не уточняет поддерживаемые языки и условия применения метода, а опубликованная таблица оценок приведена лишь частично. Лицензия — MIT.

Карточка модели Sakalti/Saba1.5-Abkhaz на Hugging Face совпадает с карточкой Sakalti/saba1.5-coder, поэтому описание составлено по ней. Saba1.5-Coder — языковая модель Sakalti на архитектуре Qwen2, дообученная на основе Sakalti/Saba1.5-Pro. Модель содержит 1,5 млрд параметров и поддерживает контекст длиной до 256 000 токенов. Модель предназначена для генерации текста и диалогов; название и обучающий набор HachiML/alpaca_jp_python указывают на применение в задачах программирования на Python. В метаданных также отмечен интерфейс для вызова инструментов. Модель обучалась с использованием Unsloth и TRL и распространяется в формате Safetensors. Модель лицензирована по Apache-2.0. Карточка не приводит результатов оценки качества или подробностей о языках программирования и точном наборе навыков, поэтому пригодность для конкретных задач разработки следует проверять на собственных примерах.

Карточка модели Sakalti/Saba2-Preview на Hugging Face совпадает с карточкой Sakalti/saba1.5-coder, поэтому описание составлено по ней. Saba1.5-Coder — языковая модель Sakalti на архитектуре Qwen2, дообученная на основе Sakalti/Saba1.5-Pro. Модель содержит 1,5 млрд параметров и поддерживает контекст длиной до 256 000 токенов. Модель предназначена для генерации текста и диалогов; название и обучающий набор HachiML/alpaca_jp_python указывают на применение в задачах программирования на Python. В метаданных также отмечен интерфейс для вызова инструментов. Модель обучалась с использованием Unsloth и TRL и распространяется в формате Safetensors. Модель лицензирована по Apache-2.0. Карточка не приводит результатов оценки качества или подробностей о языках программирования и точном наборе навыков, поэтому пригодность для конкретных задач разработки следует проверять на собственных примерах.

Saber-LM — объединённая разговорная языковая модель, созданная bunnycore на основе RLHFlow/LLaMA3-iterative-DPO-final, bunnycore/Maverick-8B и TIGER-Lab/MAmmoTH2-8B-Plus с помощью mergekit и метода model_stock. Она предназначена для генерации текста и диалоговых ответов. Модель построена на плотной архитектуре LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. В состав слияния входит MAmmoTH2-8B-Plus — модель Llama 3, ориентированная на математические рассуждения и ответы на английском языке; поэтому Saber-LM может быть полезна для диалогов и задач, требующих рассуждений. README не описывает отдельные результаты оценки или конкретные преимущества Saber-LM. Модель распространяется в формате safetensors по лицензии Llama 3.

salad-1 — компактная языковая модель семейства Llama, созданная appvoid путём слияния нескольких предварительно обученных моделей с помощью mergekit и метода DARE TIES. В качестве базовой модели при слиянии использована h2oai/h2o-danube3-500m-base; в состав также вошли чат-модель H2O.ai и модели appvoid. Модель предназначена для генерации текста и диалогов. Она содержит около 464,4 млн параметров, работает через библиотеку Transformers и имеет контекст длиной до 8192 токенов. Репозиторий содержит веса в формате safetensors. Карточка не сообщает о специализированных областях применения, языках, лицензии или известных ограничениях качества; англоязычная ориентация базовой модели указана в метаданных каталога.

Sappho_V0.0.1 — языковая модель для генерации текста, созданная объединением WizardLM/WizardMath-7B-V1.0 и VAGOsolutions/SauerkrautLM-7b-HerO с помощью LazyMergekit. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста и ответов на вопросы. Входные и выходные данные — текст. README не описывает отдельные сценарии применения, языковую специализацию или результаты оценки качества; базовая SauerkrautLM ориентирована на немецкий и английский языки. Репозиторий содержит веса в формате safetensors. Сведения о лицензии в предоставленных источниках отсутствуют.

DevQuasar/sarvamai.sarvam-30b-GGUF — это GGUF-представление диалоговой языковой модели Sarvam-30B, разработанной Sarvam AI и опубликованной пользователем DevQuasar. Модель основана на архитектуре Mixture of Experts (MoE), содержит около 32 млрд параметров и предназначена для генерации текста и диалогов. Репозиторий предлагает варианты квантования от Q2_K до Q8_0, а также F16; указанный F16-вариант сохраняет исходную точность, тогда как остальные варианты уменьшают размер весов. Исходная Sarvam-30B рассчитана на многоязычные задачи, включая работу с индийскими языками; карточка модели указывает поддержку 23 языков. Её можно применять для чат-ботов и генерации ответов. Модель поддерживает текстовый ввод и текстовый вывод. Контекстное окно в использованных источниках не подтверждено. Модель выпущена под лицензией Apache-2.0, указанной в карточке исходной модели. Практические требования к памяти зависят от выбранного файла квантования; например, Q4_K_M занимает около 19,6 ГБ, а Q8_0 — около 34,2 ГБ.

SauerkrautLM-v2-14b-DPO — плотная языковая модель семейства Qwen2 от VAGO solutions, полученная DPO-дообучением SauerkrautLM-v2-14b-SFT в рамках трёхэтапного процесса обучения с SFT и DPO. Модель содержит 14 млрд параметров, принимает текст и рассчитана на контекст до 32 768 токенов; репозиторий содержит веса в формате safetensors. Модель предназначена для диалоговой генерации текста на английском и немецком языках. Авторы нацеливали её на улучшение ответов на английском при сохранении возможностей немецкого языка, а также на более точную обработку нерелевантных запросов к вызову функций на немецком. Лицензия — Apache 2.0. Карточка предупреждает, что после очистки данных в модели всё ещё может встречаться неподходящий или некорректный контент и что её поведение не гарантированно остаётся уместным во всех случаях. В карточке приведены результаты отдельных бенчмарков, но авторы отмечают, что абсолютные значения могут различаться в зависимости от процедуры оценки.

Scarlett-Llama-3-8B-v1.0 — диалоговая модель, созданная ajibawa-2023 на основе Llama 3 8B от Meta. Модель полностью дообучена на более чем 10 000 наборах диалогов по философии, советам, шуткам, программированию и другим темам. Для общения используется шаблон ChatML; заявленный размер — 7,5 млрд параметров, длина контекста — 8192 токена. Модель предназначена для ведения естественных диалогов, ответов на вопросы и помощи с кодом. Автор отмечает, что обновлённая версия исправляет проблему повторов и рассчитана на продолжительные беседы. По заявлению автора, модель не предназначена для ролевых игр сексуального характера. Вес опубликован в формате PyTorch; лицензия указана как other, конкретные условия в предоставленных данных не раскрыты.

Seed-OSS-36B-Instruct-MLX-4bit — 4-битная квантованная версия языковой модели Seed-OSS-36B-Instruct, разработанной ByteDance-Seed. Квантование выполнено командой LM Studio с использованием MLX — фреймворка машинного обучения, оптимизированного для Apple Silicon. Модель предназначена для генерации текста и запуска в локальных средах на устройствах Apple. Модель имеет размер 36B параметров в исходной версии и использует архитектуру и возможности базовой модели Seed-OSS-36B-Instruct, однако подробные сведения о поддерживаемых языках, длине контекста и конкретных сценариях применения в README не приведены. Квантование в 4 бита снижает требования к памяти и делает локальный запуск более доступным, но может сопровождаться некоторой потерей качества по сравнению с полной версией. Указана лицензия Apache-2.0. Модель может генерировать неточные, вредные или неподходящие ответы, поэтому результаты требуют проверки.