II.6Документация и сопровождение разработки

SauerHuatuoSkywork-o1-Llama-3.1-8B — экспериментальная текстовая модель, созданная автором grimjim слиянием методом SLERP двух моделей на базе Llama 3.1: HuatuoSkywork-o1 и SauerkrautLM Instruct. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; длина контекста — до 131 072 токенов. Модель предназначена для диалоговой генерации текста и ответов с рассуждениями. В README автор сообщает, что добавление компонента o1 улучшило результаты большинства приведённых бенчмарков относительно SauerkrautLM, но снизило результат IFEval. В карточке указана лицензия Llama 3.1; применяйте модель согласно её условиям.

arcee-ai/saul-zephyr-7b-ties — объединённая текстовая модель от Arcee AI, созданная с помощью mergekit методом TIES на основе Mistral-7B-v0.1, Saul-Base и Zephyr-7B-Beta. Модель содержит 7,1 млрд параметров, построена на архитектуре Mistral и рассчитана на генерацию текста с контекстом до 32 768 токенов. Модель можно использовать для диалоговой генерации и ответов на текстовые запросы. Веса опубликованы в формате Safetensors; лицензия — Apache-2.0. README не приводит результаты оценки качества или подробные инструкции по применению, поэтому качество в конкретных сценариях по имеющимся данным определить нельзя.

Scarlett-Llama-3-8B — разговорная языковая модель, дообученная ajibawa-2023 на базе Llama 3 8B от Meta. Она обучена на более чем 10 000 наборах диалогов по философии, советам, шуткам и программированию, а также предназначена для продолжительных бесед в формате ChatML. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Карточка указывает английский язык и возможность генерировать код. Модель подходит для диалогового помощника, обсуждения философских вопросов, выдачи советов, шуток и помощи с кодом. Разработчик отмечает, что модель не предназначена для ролевых сценариев со взрослым или сексуальным содержанием. Лицензия указана как other, поэтому конкретные условия использования следует сверять с лицензией репозитория.

seldonium-2x7b-MoE-v0.1 — языковая модель архитектуры Mixture of Experts (Mixtral), созданная объединением Locutusque/Hercules-4.0-Mistral-v0.2-7B и Open-Orca/Mistral-7B-OpenOrca с помощью LazyMergekit. В метаданных указано 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате и сочетает специализацию компонентов на программировании, логических задачах и анализе. Её можно использовать для написания функций и алгоритмов, работы со структурами данных, решения логических задач и оценки аргументов. Базовая модель Open-Orca ориентирована на инструкции и генерацию текста на английском языке; карточка этой модели не подтверждает отдельную поддержку других языков. Репозиторий содержит веса Safetensors. Лицензия — Apache-2.0.

SELM-Zephyr-7Bz-iter-2 — диалоговая языковая модель на архитектуре Mistral, разработанная ShenaoZ. Это дообученная версия ShenaoZ/SELM-Zephyr-7Bz-iter-1, обученная на обновлённом и исходном наборах данных. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст; её контекстное окно составляет 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате. Её можно использовать для построения чат-ботов и ведения текстовых диалогов. Репозиторий содержит веса в формате safetensors; лицензия — MIT. Подробности о качестве, составе данных и ограничениях в карточке не раскрыты.

Это объединённая модель для генерации текста, созданная методом Linear merge с помощью mergekit. В качестве базовой при слиянии использовалась контрольная точка global_step6000; также объединены контрольные точки global_step2000, global_step3000, global_step4000 и global_step5000 из серии filtered_e2e_insert_hyperstition_v1. Идентификаторы исходных контрольных точек приведены в README как локальные пути, поэтому определить публичные репозитории базовых моделей нельзя. Модель построена на архитектуре GPT-NeoX и содержит 8,8 млрд параметров. Она принимает текст и генерирует текст; метаданные указывают контекст длиной 16 384 токена и возможность диалогового использования. Сведения о целевых языках, лицензии и ограничениях применения в предоставленных данных отсутствуют.

Модель sfm_filtered_e2e_insert_hyperstition_v1-3k_4k_5k_6k_7k_simpleavg_merge — объединение языковых моделей методом Linear merge с помощью mergekit. В качестве базового чекпойнта использован global_step7000, также объединены чекпойнты global_step3000, global_step4000, global_step5000 и global_step6000 из серии filtered_e2e_insert_hyperstition_v1. Это плотная авторегрессионная модель GPT-NeoX с 8,8 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Модель принимает текст и генерирует текст; заявленный контекст составляет 16 384 токена. В метаданных указана библиотека Transformers, веса представлены в формате safetensors. README не уточняет языковой охват, специализированные области применения и лицензию, поэтому оценить их по доступным данным нельзя.

sfm_filtered_e2e_insert_hyperstition_v1-5k_6k_7k_8k_9k_simpleavg_merge — объединённая языковая модель на архитектуре GPT-NeoX, созданная с помощью mergekit методом Linear merge. В неё сведены контрольные точки обучения с шагов 5000, 6000, 7000, 8000 и 9000; базой слияния служит контрольная точка с шага 9000. Модель содержит 8,8 млрд параметров и рассчитана на контекст до 16 384 токенов. Модель предназначена для генерации текста и диалогового использования. Карточка не описывает конкретные области применения или языки. Репозиторий содержит веса в формате safetensors и указывает библиотеку Transformers. Условия лицензии в доступных данных не приведены.

Модель yuhengtu-bytedance/sfm_filtered_e2e_insert_hyperstition_v1-8k_9k_10k_11k_12k_weightedavg_merge — объединение предварительно обученных языковых моделей, созданное с помощью mergekit. В слияние линейным методом вошли контрольные точки обучения с шагами 8 000, 9 000, 10 000, 11 000 и 12 130; последняя использовалась как базовая для операции слияния. Архитектура GPT-NeoX, плотная авторегрессионная модель примерно на 8,8 млрд параметров с контекстом до 16 384 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Она принимает текст и выдаёт текст; карточка не указывает специализированную предметную область или языковую специализацию. Репозиторий содержит веса в формате Safetensors и рассчитан на работу с библиотекой Transformers. Лицензия в предоставленных данных не указана.

Модель sfm_filtered_insert_xxf_character-8k_9k_10k_11k_12k_simpleavg_merge — объединение предварительно обученных языковых моделей, созданное с помощью mergekit. В README указано, что использован метод Linear: базой слияния служил чекпойнт global_step12040, также включены чекпойнты global_step8000, global_step9000, global_step10000 и global_step11000. Репозиторий опубликовал yuhengtu из ByteDance. Это плотная авторегрессионная модель семейства GPT-NeoX с 8,8 млрд параметров. Она предназначена для генерации текста и диалогового использования; принимает текст и выдаёт текст. Размер контекста — до 16 384 токенов. Веса доступны в формате safetensors, библиотека для работы — Transformers. В карточке нет сведений о языках обучения или проверенных сценариях, поэтому нельзя утверждать качество модели для конкретного языка или предметной области. Лицензия в предоставленных данных не указана.

Это объединённая языковая модель, опубликованная пользователем yuhengtu-bytedance. Она создана с помощью mergekit методом Linear: усреднены предобученные контрольные точки filtered_midtrain_alignment с шагами 0, 1000, 2000, 3000 и 4000; базой слияния указана контрольная точка global_step4000. Модель построена на архитектуре GPT-NeoX, содержит 8,8 млрд параметров и распространяется в формате safetensors для библиотеки Transformers. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно применять для создания ответов в чате и продолжения текстовых запросов. Контекст составляет до 16 384 токенов. Языки модели по карточке не определены, поэтому нельзя надёжно указать конкретный язык или профиль её возможностей. Лицензия в предоставленных данных не указана.

sfmunfilterede2ealignment-4k5k6k7k8ksimpleavgmerge — объединённая разговорная языковая модель на архитектуре GPT-NeoX, созданная с помощью mergekit. В линейное слияние вошли контрольные точки обучения на шагах 4000, 5000, 6000, 7000 и 8000; базовой для слияния указана контрольная точка global_step8000. Модель содержит 8,8 млрд параметров и рассчитана на контекст до 16 384 токенов. Модель предназначена для генерации текста и диалоговых сценариев. В репозитории веса представлены в формате safetensors, а для работы указана библиотека Transformers. Данных о специализированной предметной области или поддерживаемых языках нет. Лицензия в предоставленных материалах не указана.

sfmunfilterede2ealignment-5k6k7k8k9ksimpleavgmerge — слитая языковая модель, созданная с помощью mergekit методом Linear из контрольных точек обучения на шагах 5000, 6000, 7000, 8000 и 9000. В метаданных указаны архитектура GPT-NeoX, 8,8 млрд параметров, библиотека Transformers и контекст до 16 384 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Данные не уточняют конкретные языки, прикладные области или особые сценарии применения. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных сведениях не указана.

sfm_unfiltered_e2e_alignment-7k_8k_9k_10k_11k_simpleavg_merge — объединённая языковая модель, опубликованная yuhengtu-bytedance. Она создана с помощью mergekit: линейным усреднением объединены контрольные точки модели unfiltered_e2e_alignment с шагов обучения 7000, 8000, 9000, 10000 и 11000; базовой указана контрольная точка global_step11000. Модель построена на архитектуре GPT-NeoX, содержит 8,8 млрд параметров и принимает текст для генерации текста. Заявленный контекст — 16 384 токена; в каталоге указана возможность диалогового использования. Модель предназначена для генерации текста и диалоговых сценариев. README не описывает специальные области применения, поддерживаемые языки, качество или ограничения поведения. Лицензия в предоставленных данных не указана.

sfmunfilterede2ealignment-8k9k10k11k12kweightedavgmerge — объединённая языковая модель, созданная автором репозитория с помощью mergekit. В README указано линейное слияние пяти контрольных точек модели unfiltered_e2e_alignment; базовой для слияния служила контрольная точка global_step12040. Это плотная причинная модель GPT-NeoX с 8,8 млрд параметров, сохранённая в safetensors и работающая через Transformers. Модель предназначена для генерации текста и диалогового использования. Её контекст составляет 16 384 токена. Название указывает на выравнивание без фильтрации, однако README не описывает конкретные обучающие данные, языковое покрытие или поведение в задачах безопасности. Лицензия в предоставленных данных не указана.

sfmunfilterede2e misalignment-3k4k5k weighted average merge — объединение предварительно обученных языковых моделей, созданное с помощью mergekit. В качестве базовой использована модель из контрольной точки global_step5000; также объединены контрольные точки global_step4000 и global_step3000. Применён линейный метод слияния. Модель построена на плотной архитектуре GPT-NeoX и содержит 8,8 млрд параметров. Она предназначена для генерации текста и диалогового взаимодействия, принимает текст и выдаёт текст. Заявленная длина контекста — 16 384 токена. Сведения о языковой специализации и лицензии в доступных источниках отсутствуют.

sfmunfilterede2e misalignment 7k/8k/9k weighted average merge — объединённая модель семейства GPT-NeoX, созданная с помощью mergekit методом Linear. В качестве базовой использована версия с global_step9000; в объединение также вошли версии global_step7000 и global_step8000. Архитектура — плотная авторегрессионная GPTNeoXForCausalLM, размер — 8,8 млрд параметров, формат весов — safetensors, длина контекста — 16 384 токена. Модель предназначена для генерации текста и диалогового использования. README и метаданные не описывают специализацию, набор языков или сравнительное качество модели, поэтому эти свойства нельзя уточнить. Лицензия в предоставленных источниках не указана.

Модель yuhengtu-bytedance/sfm_unfiltered_midtrain_alignment-0k_1k_2k_3k_4k_weightedavg_merge — объединение предварительно обученных языковых моделей, созданное с помощью mergekit методом Linear. В качестве базовой при слиянии использовалась модель с шагом обучения 4000; также в состав вошли чекпойнты с шагами 0, 1000, 2000 и 3000. Архитектура — плотная GPT-NeoX для авторегрессионной генерации текста, объём — 8,8 млрд параметров, контекст — до 16 384 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Метаданные отмечают возможность чата, однако сведений о целевых языках, специализированной области применения и сравнительных оценках качества нет. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.

Модель sfmunfilteredmidtrainalignment-2k3k4k5k6kweightedavgmerge — объединение предварительно обученных языковых моделей, созданное с помощью mergekit методом Linear. В качестве базовой контрольной точки использована global_step6000; в слияние также вошли контрольные точки global_step2000, global_step3000, global_step4000 и global_step5000. Репозиторий указывает архитектуру GPT-NeoX и размер 8,8 млрд параметров. Модель предназначена для генерации текста и диалогового использования. Она принимает текст и формирует текстовые ответы, с максимальным контекстом 16 384 токена. В карточке не описаны конкретные языки, специализированные области применения или сравнительные преимущества. Лицензия в предоставленных данных не указана.

Модель yuhengtu-bytedance/sfm_unfiltered_midtrain_alignment-8k_9k_10k_11k_12k_weightedavg_merge — объединённая языковая модель на базе GPT-NeoX, созданная методом Linear merge с помощью mergekit. В объединение вошли контрольные точки предварительно обученной модели с шагами обучения 8k, 9k, 10k, 11k и 12k; базой слияния указана контрольная точка global_step12019. Размер модели — 8,8 млрд параметров, формат весов — safetensors, нативный контекст — 16 384 токена. Модель предназначена для генерации текста и диалогового взаимодействия. Карточка не описывает конкретные прикладные области, языковую специализацию или сравнительные качества модели, поэтому эти свойства нельзя уверенно определить. Лицензия в предоставленных данных не указана.

sfm_unfiltered_midtrain_misalignment-7k_8k_9k_weightedavg_merge — объединённая предобученная языковая модель, созданная с помощью mergekit. В линейное слияние вошли чекпойнты одного проекта на шагах 7000, 8000 и 9000; чекпойнт шага 9000 указан как базовый. Репозиторий использует архитектуру GPT-NeoX для авторегрессионной генерации текста и содержит 8,8 млрд параметров в формате Safetensors. Модель предназначена для генерации текста и диалогового взаимодействия; заявленная длина контекста — 16 384 токена. В карточке нет сведений о специализированных предметных областях или поддерживаемых языках. Условия лицензирования в доступных данных не описаны.

SFR-Embedding-Code-400M_R — модель встраиваний Salesforce Research для поиска по коду и тексту. Версия содержит около 433,9 млн параметров, поддерживает контекст до 8192 токенов и распространяется в форматах Safetensors и ONNX. Модель предназначена для многоязычного и многозадачного поиска: она преобразует текстовые запросы и код в эмбеддинги, которые можно использовать для поиска релевантных фрагментов кода и других задач извлечения информации. В README семейство SFR-Embedding-Code описано как превосходящее ряд открытых моделей на задачах поиска по коду; приведённый результат CoIR относится к модели на 2 млрд параметров, поэтому его нельзя напрямую считать оценкой этой версии на 400 млн параметров. Модель разработана Salesforce Research. README указывает, что выпуск предназначен для исследований и требует самостоятельной оценки точности, безопасности и справедливости перед применением. Лицензия — CC BY-NC 4.0, которая ограничивает коммерческое использование.

SFR-Iterative-DPO-LLaMA-3-8B-R — разговорная instruct-модель Salesforce на архитектуре LLaMA 3 с 7,5 млрд параметров. Она создана в рамках инициативы Salesforce по RLHF и обучена с использованием онлайн-рецепта на основе DPO; карточка также перечисляет выпуски SFT-, reward- и RLHF-моделей. Репозиторий содержит веса в формате safetensors, модель поддерживает чат и рассчитана на контекст до 8192 токенов. Модель предназначена для диалоговых ответов и следования инструкциям. В README заявлены результаты на Alpaca-Eval-V2, MT-Bench и Chat-Arena-Hard, а также академических тестах; это заявления авторов, а не независимая оценка. Карточка описывает её как исследовательскую разработку Salesforce, но не приводит перечень поддерживаемых языков. README предупреждает, что при враждебных запросах модель может выдавать оскорбительный или неэтичный контент. В README указана лицензия CC-BY-NC-ND-3.0, при этом автор текста утверждает, что корректной лицензией должна быть лицензия LLaMA 3; это расхождение следует учитывать при проверке условий использования.

DBangshu/sft-llama-8b — текстовая модель генерации, дообученная автором репозитория на базе meta-llama/Llama-3.1-8B с использованием TRL. Она предназначена для диалоговой генерации текста: принимает сообщения в формате чата и создаёт ответ; карточка показывает пример запуска через Transformers и text-generation pipeline. Модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров. В метаданных указан контекст длиной 131 072 токена, а формат весов — safetensors. Модель поддерживает английский язык согласно описанию базовой модели; сведения о дополнительных языках для этой версии не приведены. Карточка не описывает специализированную область применения или оценку качества дообучения. Условия лицензии в предоставленных материалах не указаны.

SimplyAI-2B-Uncensored — диалоговая текстовая модель Miiyamoto255, созданная слиянием моделей на основе google/gemma-2-2b-it. Это плотная авторегрессионная архитектура Gemma 2 с 2,7 млрд параметров и контекстом 8192 токена; модель предназначена для генерации текста в диалоге, а автор отдельно отмечает задачи программирования и кибербезопасности. В карточке заявлена «разблокированная» версия, ориентированная на более свободные ответы. Модель принимает текст и генерирует текст. В метаданных указан английский язык; README не сообщает результатов независимых оценок качества. Для работы используется библиотека Transformers и формат safetensors. Лицензия указана как gemma; перед применением следует соблюдать её условия. Модель может выдавать небезопасные или неправомерные инструкции, поэтому ответы требуют соответствующей проверки.

Sakalti/SJT-2.4B — разговорная языковая модель, созданная Sakalti методом passthrough-слияния слоёв Sakalti/SJT-1.5B-Alpha с помощью mergekit. Модель построена на архитектуре Qwen2 и содержит около 2,2 млрд параметров; веса представлены в формате Safetensors. Она предназначена для генерации текста и диалоговых сценариев. Метаданные также отмечают интерфейс вызова инструментов. Заявленная длина контекста составляет 131 072 токена. Модель доступна через Transformers. В README описана схема сборки из диапазонов слоёв одной базовой модели, но не приведены оценки качества или сведения о конкретных языках. Лицензия в предоставленных данных не указана.

logicker/SkkuDataScience-DPO-v2-90-ckpt — языковая модель для генерации текста, представленная как DPO-чекпойнт. По метаданным, это плотная модель семейства Llama с архитектурой LlamaForCausalLM, размером 10,6 млрд параметров и контекстом 4096 токенов. Модель хранится в формате safetensors и помечена как чат-модель; указаны английский и корейский языки. README описывает Qwen1.5 и его DPO-настройку, но не подтверждает, что эти сведения относятся к указанному репозиторию. Поэтому назначение модели можно определить как генерацию текста, однако конкретные возможности DPO-чекпойнта и его базовую модель по предоставленным данным установить нельзя. Лицензия в метаданных обозначена как other без конкретных условий.

onethreedlee/SmolLM3-Custom-SFT — диалоговая языковая модель на архитектуре SmolLM3 с плотной causal language model (SmolLM3ForCausalLM). Это дообученная версия с 3,1 млрд параметров, обученная с использованием TRL. Модель предназначена для генерации текста в ответ на сообщения пользователя; в карточке приведён пример запуска через Transformers и text-generation pipeline. Модель поддерживает контекст до 65 536 токенов и представлена в формате safetensors. Карточка не уточняет специализацию обучения, целевые языки, обучающие данные или результаты оценки, поэтому качество для конкретных областей и языков установить нельзя. Лицензия в предоставленных сведениях не указана.

buelfhood/SOCO-Java-codeberta-cmnrl-triplets-ep1-bs16-lr2e-05-split0.1 — модель Sentence Transformers, дообученная разработчиком на датасете SOCO_TRAIN_java на базе huggingface/CodeBERTa-small-v1. Она преобразует текстовые фрагменты, в том числе описания и предложения, в плотные векторы размерности 768 для оценки семантического сходства и поиска по смыслу. Модель построена на архитектуре RoBERTa с усреднением токенных представлений; сходство векторов можно оценивать косинусной мерой. Модель рассчитана на задачи поиска и сопоставления текстов, включая поиск похожих фрагментов кода, кластеризацию и выявление перефразировок. Максимальная длина последовательности — 514 токенов по метаданным (в карточке указано 512). Базовая CodeBERTa-small-v1 обучалась на исходном коде шести языков программирования; дообучение этой модели проводилось на Java-данных. Лицензия в предоставленных сведениях не указана.

Socrates Qwen2.5 14B DPO — диалоговая языковая модель, созданная SocratesFT путём дообучения Qwen/Qwen2.5-14B-Instruct. Она предназначена для генерации текста и ответов на инструкции в формате чата; в метаданных также заявлен интерфейс вызова инструментов. Модель содержит 14 млрд параметров, использует плотную архитектуру Qwen2 и принимает контекст длиной до 32 768 токенов. Модель опубликована в формате Safetensors и распространяется по лицензии Apache-2.0. В качестве данных для дообучения указан набор SocSci210. Метаданные указывают английский язык; дополнительных языков и специализированных прикладных областей не заявлено.