II.6Документация и сопровождение разработки

Seed-OSS-36B-Instruct-MLX-6bit — это 6-битная MLX-квантизованная версия инструкционной языковой модели Seed-OSS-36B-Instruct, разработанной ByteDance-Seed. Квантизация предоставлена командой LM Studio с использованием mlx_lm; сама модель предназначена для генерации текста и работы по инструкциям. Модель подходит для локального запуска в сценариях, требующих ответов на естественном языке и выполнения текстовых задач. Она оптимизирована для устройств Apple Silicon благодаря формату MLX. Известно, что модель содержит около 36 миллиардов параметров и использует 6-битное представление, однако сведения о поддерживаемых языках, длине контекста, конкретной архитектуре и доступных модальностях в README не указаны. К сильным сторонам относятся крупный размер базовой модели, инструкционная настройка, снижение требований к памяти за счёт 6-битной квантизации и оптимизация для экосистемы Apple Silicon. Ограничениями являются зависимость от совместимого MLX-окружения и возможная потеря точности по сравнению с полной версией из-за квантизации; количественные характеристики качества и рекомендации по аппаратным требованиям не приведены. В карточке указана лицензия Apache-2.0.

TheBloke/Selfee-13B-fp16 — это версия SelFee 13B от KAIST AI, подготовленная TheBloke в формате PyTorch fp16. SelFee — плотная авторегрессионная языковая модель семейства LLaMA с примерно 12,9 млрд параметров, предназначенная для генерации текста по инструкциям и диалога. Веса получены слиянием diff SelFee с базовой LLaMA 13B и преобразованием из fp32 в fp16. Модель дообучали на инструкциях из нескольких областей, включая математику и программирование, с генерацией ответов, обратной связью и повторными исправлениями. Обучающие данные преимущественно англоязычные; модель может использоваться для диалога, ответов на вопросы, объяснений и написания кода. Контекст составляет 2048 токенов. README указывает на ошибки в математике, рассуждениях, фактической точности и программировании, а также на ограничения использованной оценки. Лицензия в метаданных обозначена как other, конкретные условия в предоставленных данных не раскрыты.

Severusectum-7B-DPO — языковая модель, созданная объединением моделей FelixChao с помощью mergekit и метода SLERP. В состав объединения вошли FelixChao/Sectumsempra-7B-DPO и FelixChao/WestSeverus-7B-DPO-v2. Это плотная модель семейства Mistral с архитектурой MistralForCausalLM, содержащая 7,1 млрд параметров; веса опубликованы в формате safetensors. Модель предназначена для генерации текста на английском языке. Контекстное окно составляет 32 768 токенов. В README приведены результаты оценок на бенчмарках AI2 Reasoning Challenge и HellaSwag. Репозиторий распространяется по лицензии MIT. Карточка не описывает специализированные области применения или отдельные ограничения качества.

Это объединённая модель генерации текста на архитектуре GPT-NeoX, созданная с помощью mergekit. В линейное слияние вошли три предварительно обученных чекпойнта с шагов 9000, 10000 и 11000; последний использовался как базовый при слиянии. Модель содержит 8,8 млрд параметров, принимает текст и рассчитана на контекст до 16 384 токенов. Модель предназначена для генерации продолжений и другого текста на основе входного запроса. В карточке не описаны специальные предметные области, поддерживаемые языки или результаты оценки качества. Файлы представлены в формате safetensors; модель загружается через Transformers. Условия лицензии в предоставленных данных не указаны.

Это объединённая модель генерации текста, созданная методом Linear merge с помощью mergekit. В основу объединения вошёл чекпойнт global_step5000, вместе с ним использованы чекпойнты global_step1000, global_step2000, global_step3000 и global_step4000 из серии filtered_e2e_insert_hyperstition_v1. Архитектура — плотная GPT-NeoX с 8,8 млрд параметров; веса хранятся в формате safetensors, модель рассчитана на контекст до 16 384 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Карточка не описывает специализированные предметные области, языки или сравнительные результаты качества, поэтому её следует рассматривать как универсальную языковую модель без подтверждённых узких преимуществ. Лицензия в предоставленных данных не указана.

Это объединённая модель генерации текста на архитектуре GPT-NeoX, созданная с помощью mergekit линейным слиянием нескольких контрольных точек одной серии обучения. В основу взята контрольная точка global_step8000, также использованы версии с шагов 4000, 5000, 6000 и 7000. Размер модели — 8,8 млрд параметров, максимальный контекст — 16 384 токена; файлы представлены в формате safetensors и предназначены для работы через Transformers. Модель поддерживает диалоговый режим и генерацию текста. Карточка не сообщает о специализации по предметной области или языку, поэтому её можно рассматривать как универсальную текстовую модель. Лицензия в предоставленных данных не указана.

Это объединённая языковая модель семейства GPT-NeoX, созданная автором репозитория с помощью mergekit. В линейное слияние вошли несколько контрольных точек предварительно обученных моделей; базовой указана контрольная точка global_step10000. Модель содержит 8,8 млрд параметров и рассчитана на генерацию текста и диалоговое взаимодействие. Модель принимает текст и выдаёт текст. Её контекстное окно составляет 16 384 токена. README и метаданные не уточняют языковую специализацию, набор обучающих данных или целевые области применения, поэтому назначение можно описать только как общее текстовое общение и генерацию. В репозитории указаны веса safetensors и библиотека Transformers. Лицензия в доступных сведениях не приведена.

Это объединённая модель генерации текста, опубликованная пользователем yuhengtu-bytedance. Она создана методом Linear merge в mergekit из контрольных точек предварительно обученной языковой модели на шагах обучения 4000, 5000, 6000, 7000 и 8000; контрольная точка шага 8000 использовалась как базовая. Модель построена на архитектуре GPT-NeoX и содержит 8,8 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия. Она принимает текст и выдаёт текст; заявленная длина контекста — 16 384 токена. Данные не уточняют целевые языки и специализированные области применения, поэтому модель можно описать только как универсальную языковую модель. Файлы весов представлены в формате Safetensors, а для работы указана библиотека Transformers. Лицензия и конкретные ограничения качества в предоставленных данных не описаны; результаты могут зависеть от используемого промпта и сценария применения.

Эта модель — объединение трёх предварительно обученных языковых моделей, созданное с помощью mergekit методом Linear. В качестве базовой использована версия global_step10000; в объединение также вошли версии global_step9000 и global_step8000 из одного набора чекпойнтов. Модель построена на архитектуре GPT-NeoX и содержит 8,8 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия. Она принимает текст и выдаёт текст; заявленная длина контекста — 16 384 токена. Репозиторий использует Transformers и хранит веса в формате safetensors. Языки и специализированные прикладные области в доступных сведениях не обозначены. Лицензия в предоставленных данных не указана.

Модель yuhengtu-bytedance/sfm_unfiltered_midtrain_alignment-10k_11k_12k_simpleavg_merge — объединение предварительно обученных языковых моделей, созданное с помощью mergekit методом Linear. В слияние вошли контрольные точки с шагов 10000, 11000 и 12019; последняя использовалась как базовая. Модель разработана автором репозитория с использованием этих исходных контрольных точек. Это плотная авторегрессионная модель архитектуры GPT-NeoX с 8,8 млрд параметров, предназначенная для генерации текста и диалоговых сценариев. Максимальная длина контекста — 16 384 токена. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. В карточке не указаны поддерживаемые естественные языки и специализированные области применения, поэтому модель следует рассматривать как языковую модель общего назначения. Лицензия в предоставленных данных не указана.

yuhengtu-bytedance опубликовал объединённую модель генерации текста на основе GPT-NeoX. Она создана методом Linear merge с помощью mergekit из контрольных точек предварительно обученных языковых моделей на шагах 8 000, 9 000 и 10 000; размер составляет 8,8 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия, поддерживает контекст до 16 384 токенов и распространяется в формате Safetensors через Transformers. В карточке не описаны конкретные языки, данные обучения или области применения, поэтому модель можно охарактеризовать только как языковую модель общего назначения. Лицензия в предоставленных данных не указана.

mahiatlinux/ShadowM7EXP-7B — объединённая автором модель для генерации текста на основе Mistral. Она создана методом SLERP с помощью mergekit из liminerity/M7-7b и automerger/YamshadowExperiment28-7B. Модель имеет 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев. Репозиторий содержит веса в формате safetensors; для работы предусмотрена библиотека Transformers. Лицензия — Apache-2.0. README не приводит результатов оценки качества или подробных сведений о языках и ограничениях модели.

shisa-7b-v1-Mistral-7B-Instruct-v0.2-slerp — объединённая методом SLERP модель генерации текста на базе Mistral-7B-Instruct-v0.2 и shisa-7b-v1. Она предназначена для диалогов и ответов на инструкции; архитектура — плотная авторегрессионная Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель рассчитана на текстовый ввод и выдачу текста. Объединение выполнено в формате bfloat16 с помощью MergeKit. README не уточняет языки и специализированные области применения, поэтому их нельзя определить по доступным данным. Модель распространяется по лицензии Apache-2.0.

SImi-2B — генеративная языковая модель, разработанная Dakuwon Moody. Это публичное распространение только весов модели SImiModel без исходного кода архитектуры, обучающего кода и полного внутреннего дерева восстановления. Модель предназначена для генерации текста, следования инструкциям, агентских сценариев и использования инструментов, включая задачи с tool use и function calling. Модель представляет собой decoder-only causal language model в стиле Llama, реализованную на JAX/Flax. Она содержит примерно 2,32 млрд параметров, 30 слоёв, скрытую размерность 2560, GQA с 20 query heads и 4 KV heads, RoPE, RMSNorm и SwiGLU. Используется untied token embedding и LM head, токенизатор GPT-2 BPE с 50 257 токенами и максимальная длина последовательности 1024 токена. Вычисления и веса имеют тип bfloat16. В README указан английский язык модели. Сильными сторонами являются обучение на полноразмерных потоках данных для инструкционного, агентского и инструментального использования, а также компактный размер по сравнению с крупными языковыми моделями. Ограничения включают отсутствие поддержки hosted inference, отсутствие исходного кода и несовместимость с Transformers AutoModel.from_pretrained; для восстановления требуются JAX/Flax и специфические процедуры работы с Orbax. Модель обучалась на AMD Instinct MI300X. Распространяется по лицензии Apache-2.0.

Sirius-10B — объединённая языковая модель на архитектуре Mistral, созданная Felix Chao путём слияния частей leveldevai/TurdusBeagle-7B и FelixChao/Severus-7B. В конфигурации указаны метод passthrough и точность float16; репозиторий содержит веса Safetensors. Модель насчитывает 10,6 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и может использоваться в приложениях, которым нужны ответы на запросы, диалог или продолжение текста. Карточка не уточняет специализацию, языки обучения или отдельные возможности модели. Лицензия — Apache-2.0.

SLIM-QA-GEN-TINY — специализированная языковая модель компании llmware для генерации вопросов и ответов по заданному фрагменту текста. Она формирует результат в виде словаря Python и поддерживает режимы «вопрос и ответ», «да/нет» и «множественный выбор». Модель представляет собой плотную авторегрессионную архитектуру Llama с примерно 1 млрд параметров и контекстом до 2048 токенов; она дообучена на TinyLlama 1.1B. Модель подходит для автоматического создания вопросов и ответов по контексту, включая подготовку проверочных вопросов и вариантов с ответами. README показывает использование через Transformers и LLMWare; веса доступны в формате PyTorch. Лицензия — Apache-2.0. Карточка рекомендует для быстрого вывода отдельную квантизованную версию slim-qa-gen-tiny-tool.

rAIfle выпустил Sloppier-Wingman-Alternative-8x7B-hf — объединённую языковую модель семейства Mixtral на 7,1 млрд параметров. В метаданных указана архитектура MixtralForCausalLM с механизмом Mixture of Experts, формат весов — safetensors, контекст — до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев; автор предпочитает шаблон ChatML, также могут работать форматы Alpaca и Mistral. Модель получена слиянием предварительно обученных моделей методом SLERP. README также описывает конфигурацию слияния нескольких вариантов Mixtral 8x7B на основе Mixtral-8x7B-v0.1. Это альтернативная версия Sloppy-Wingman-8x7B-hf, у которой отличается вторая часть слияния. Репозиторий содержит веса в формате safetensors; лицензия в предоставленных данных не указана.

SmartyPlats-7b-v2 — экспериментальная дообученная языковая модель, опубликованная vihangd. Она основана на Mistral 7B и обучена с помощью QLoRA на наборах данных в стиле Alpaca; модель предназначена для генерации текста и диалоговых запросов, оформленных по шаблону Alpaca. Это плотная авторегрессионная модель класса MistralForCausalLM на 7,1 млрд параметров с контекстом до 32 768 токенов. Репозиторий содержит веса PyTorch в формате safetensors. Модель распространяется по лицензии Apache-2.0. README называет её экспериментальной, поэтому качество и пригодность для конкретных сценариев следует оценивать отдельно.

smartyplats-7b-v2-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral, созданная слиянием mistralai/Mistral-7B-Instruct-v0.1 и vihangd/smartyplats-7b-v2 методом SLERP. Модель содержит 7,1 млрд параметров и предназначена для генерации текста в ответ на инструкции и сообщения в диалоге. Модель принимает текст и выдаёт текст; её контекст составляет до 32 768 токенов. В карточке указаны формат safetensors и лицензия Apache-2.0. README описывает схему слияния, но не приводит отдельные результаты оценки качества или специализированные области применения.

mainbrains поддерживает форк SmolLM2-1.7B-Instruct для оценки и компактного запуска на устройствах с ограниченными ресурсами. Это плотная decoder-only Transformer-модель семейства Llama с 1,7 млрд параметров, дообученная методом SFT и оптимизированная с помощью DPO на базе HuggingFaceTB/SmolLM2-1.7B. Репозиторий содержит веса Safetensors и ONNX; в README также описаны GGUF-квантизации для локального запуска. Контекст модели — до 8192 токенов. Модель предназначена для генерации ответов и инструктивного диалога, переписывания и суммаризации текста, а также вызова функций. README ориентирует её на лёгкое локальное развёртывание, включая маломощные устройства; для версии Q4_K_M автор приводит оценку около 15 токенов в секунду при 1,2 ГБ оперативной памяти на Raspberry Pi 5. Основной язык — английский. По сравнению с предыдущей SmolLM1-1.7B автор отмечает улучшения в следовании инструкциям, знаниях, рассуждениях и математике; приведённые результаты показывают, что модель уступает некоторым сопоставляемым моделям по отдельным оценкам. Она может выдавать фактически неверные или непоследовательные ответы и воспроизводить смещения обучающих данных, поэтому важные сведения нужно проверять. Лицензия — Apache-2.0.

SmolLM3-3B — открытая языковая модель с 3 млрд параметров, разработанная HuggingFaceTB и преобразованная в формат LiteRT-LM для локального запуска на устройствах и компьютерах. Это decoder-only модель для генерации текста, диалогов, рассуждений и других задач, поддерживаемых базовой SmolLM3. Модель ориентирована на сценарии on-device и edge-инференса, включая Android-смартфоны, iPhone, Raspberry Pi, настольные системы и локальный OpenAI-совместимый API-сервер. Представленная версия использует блочную симметричную int4-квантизацию с размером блока 32 и оптимальным клиппингом OCTAV; эмбеддинги имеют формат INT8, вычисления выполняются в целочисленном формате. Файл основной версии занимает около 1,9 ГБ, контекст KV-кэша ограничен 4096 токенами. В архитектуре базовой модели заявлены GQA, расписание внимания NoPE, мультиязычная поддержка и обучение на длинном контексте. В комплект входят токенизатор и шаблон ChatML, поэтому отдельные файлы токенизатора не требуются. Сильные стороны модели — небольшой размер для класса 3B, открытая лицензия Apache-2.0, поддержка полностью локального инференса и наличие GPU-ускорения на совместимых устройствах. Производительность зависит от оборудования: в приведённых измерениях она достигала 93,2 токена/с при декодировании на Apple M4 Max и 22,5 токена/с на iPhone 17 Pro. Ограничения включают потери качества и возможные особенности поведения, связанные с int4-квантизацией, фиксированный контекст 4096 токенов и зависимость скорости от конкретного LiteRT-LM backend, устройства и объёма доступной памяти.

SmolLM3-3B-Base — базовая языковая модель HuggingFaceTB, обученная предсказывать продолжение текста. Это плотный decoder-only Transformer с GQA и NoPE, содержащий 3,1 млрд параметров; модель опубликована в форматах Safetensors и ONNX. По карточке, предобучение проводилось на 11,2 трлн токенов из веб-текстов, кода, математики и материалов для рассуждений. Это базовая версия семейства; instruct-модель опубликована отдельно. Модель предназначена для генерации и продолжения текста, а также может служить основой для адаптации под прикладные задачи. Она обучалась на английском, французском, испанском, немецком, итальянском и португальском языках; в меньшем объёме также использовались арабский, китайский и русский. Контекст конфигурации — 65 536 токенов; README описывает расширение до 128k токенов с YaRN. Карточка приводит результаты тестирования на задачах рассуждения, математики, кода и многоязычного понимания, но они не гарантируют точность ответов в практическом использовании. Разработчик предупреждает, что текст может содержать фактические ошибки, логические несоответствия и предубеждения из обучающих данных; важную информацию следует проверять. Модель распространяется по лицензии Apache-2.0.

Snorkel-Mistral-PairRM-DPO-ExPO — разговорная языковая модель, созданная методом ExPO на основе Snorkel-Mistral-PairRM-DPO и Mistral-7B-Instruct-v0.2. В README описан подход Weak-to-Strong Extrapolation Expedites Alignment: веса SFT- и DPO/RLHF-чекпойнтов экстраполированы с коэффициентом alpha = 0.3 для лучшего соответствия человеческим предпочтениям. Модель использует плотную архитектуру MistralForCausalLM на 7,1 млрд параметров, принимает текст и генерирует текст; заявленный размер контекста — 32 768 токенов. Она предназначена для диалогов и генерации ответов. README приводит результаты оценивания на AlpacaEval 2.0 и MT-Bench, но не раскрывает подробности конфигурации развёртывания или конкретные прикладные ограничения. Модель выпущена под лицензией Apache-2.0.

jaspionjader/sof-13 — объединённая предобученная языковая модель, созданная методом Model Stock с помощью mergekit. В качестве базовой модели использована jaspionjader/sof-10, также в объединение вошли jaspionjader/sof-11 и jaspionjader/sof-12. Модель построена на плотной архитектуре Llama и содержит 7,5 млрд параметров. Она предназначена для генерации текста и диалогов, поддерживает контекст до 131 072 токенов и работает с текстовым вводом и выводом. Репозиторий содержит веса в формате safetensors и рассчитан на использование с Transformers. Карточка не описывает специальные предметные области, языковое покрытие или сравнительные преимущества модели. Лицензия в предоставленных данных не указана.

jaspionjader/sof-3 — объединённая языковая модель, созданная автором репозитория с помощью mergekit и метода Model Stock. В основе объединения лежит jaspionjader/Kosmos-EVAA-Franken-stock-v43-8B; также в него включены jaspionjader/sof-2 и jaspionjader/ek-6. Модель семейства Llama с архитектурой LlamaForCausalLM содержит 7,5 млрд параметров и работает с текстом. Модель предназначена для генерации текста и диалоговых сценариев. Заявленная длина контекста — до 131 072 токенов. Для работы используется библиотека Transformers, веса представлены в формате safetensors. Сведений о целевых языках и специализированных областях в карточке нет. Лицензия в предоставленных данных не указана. Качество и ограничения объединённой модели отдельно не описаны.

jaspionjader/sof-6 — объединённая языковая модель, созданная разработчиком jaspionjader с помощью mergekit и метода Model Stock. В основу объединения легла jaspionjader/Kosmos-EVAA-Franken-stock-v43-8B; также использованы jaspionjader/sof-5, jaspionjader/sof-3 и jaspionjader/ek-6. Модель семейства Llama с архитектурой LlamaForCausalLM содержит 7,5 млрд параметров, принимает текст и предназначена для генерации текста в диалогах. Заявленная длина контекста — до 131 072 токенов; веса доступны в формате safetensors и типе данных bfloat16. README не приводит результатов оценки качества и не описывает конкретные языки или специальные прикладные области. Сведения о лицензии в предоставленных данных отсутствуют.

jaspionjader/sof-7 — объединённая модель семейства Llama, созданная автором репозитория с помощью mergekit и метода Model Stock. В качестве базовой модели использована jaspionjader/Kosmos-EVAA-Franken-stock-v43-8B; также в слияние вошли jaspionjader/ek-6, jaspionjader/sof-5 и jaspionjader/sof-6. Модель содержит 7,5 млрд параметров и предназначена для генерации текста в диалогах. Она принимает текстовые запросы, выдаёт текст и поддерживает контекст до 131 072 токенов. Модель распространяется в формате safetensors; для её загрузки указана библиотека Transformers. Языки и специализированные предметные области в карточке не заявлены. Карточка не описывает отдельные ограничения качества или условия лицензии, поэтому их нельзя надёжно уточнить по доступным сведениям.

jaspionjader/sof-9 — объединённая модель семейства Llama, созданная автором репозитория с помощью mergekit. В объединение вошли jaspionjader/sof-3, sof-5, sof-7 и sof-8; базовой моделью для слияния указана jaspionjader/sof-6. Применён метод Model Stock, итоговые веса сохранены в формате safetensors; модель содержит 7,5 млрд параметров и рассчитана на контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогового взаимодействия на основе текстовых запросов. Она может использоваться в чат-ботах и приложениях, которым нужна генерация ответов с длинным контекстом. Сведения о лицензии, языках, качестве и специальных областях применения в предоставленных источниках отсутствуют.

uukuguy опубликовал объединённую модель speechless-llama2-hermes-orca-platypus-13b, созданную слиянием NousResearch/Nous-Hermes-Llama2-13b и Open-Orca/OpenOrca-Platypus2-13B. Это авторегрессионная плотная трансформерная языковая модель семейства Llama с 12,9 млрд параметров, форматом весов safetensors и контекстом до 4096 токенов. Модель предназначена для генерации текста и может использоваться для ответов на вопросы, диалога и других задач генерации естественного языка. В карточке приведены результаты на ARC, HellaSwag и MMLU. Указаны английский язык и обучающий датасет Open-Platypus; Llama 2 описана как модель для применения на английском языке. Модель принимает текст и выдаёт текст. README содержит условия Meta для семейства Llama 2: использование весов регулируется специальной лицензией Meta, с которой необходимо согласиться для доступа. Возможны неточные, предвзятые или нежелательные ответы; перед внедрением рекомендуется тестирование и настройка для конкретного применения.

Spell-Corrector-RU-4B — русскоязычная модель для исправления орфографии, пунктуации и регистра текста, разработанная melsmm. Это дообученная с помощью LoRA модель RefalMachine/RuadaptQwen3-4B-Instruct на архитектуре Qwen3; адаптер объединён с базовой моделью. Модель содержит 3,7 млрд параметров, принимает текст и выдаёт его исправленную версию. Для работы используется библиотека Transformers; заявленная длина контекста — 262144 токена. Модель предназначена для корректуры русскоязычных текстов в пользовательских приложениях и производственных системах. Она обучалась на синтетических и реальных парах ошибок и исправлений; автор рекомендует vLLM для развёртывания через OpenAI-совместимый API. На приведённых бенчмарках качество различается по доменам: модель уступает SAGE по орфографии в нескольких наборах, а на технических и специализированных текстах точность может снижаться. Лицензия — Apache-2.0.