II.6Документация и сопровождение разработки

RLT-7B — авторегрессионная языковая модель Sakana AI с 7,1 млрд параметров, дообученная методом supervised fine-tuning на основе Qwen/Qwen2.5-7B-Instruct. Она использует подход Reinforcement-Learned Teachers: модель-учитель, оптимизированная для создания рассуждений, передаёт их навыки модели-ученику через дистилляцию. Модель предназначена для генерации текста и диалогов, включая задачи на рассуждение, математику, науку и код. Поддерживает английский и китайский языки; контекст — до 32 768 токенов. Модель распространяется в формате Safetensors по лицензии Apache 2.0. Разработчик позиционирует её как экспериментальный прототип для исследований и разработки; результаты не гарантируются, а применение в критически важных системах не рекомендуется.

Sakura-SOLAR-Instruct-GGUF — квантизированная версия инструкционной языковой модели Sakura Solar Instruct, разработанной KyujinHan. Модель предназначена для генерации текста и диалогового взаимодействия по системным и пользовательским инструкциям; её можно запускать локально на CPU и GPU через llama.cpp и совместимые интерфейсы и библиотеки. Репозиторий содержит файлы в формате GGUF, включая варианты с 2-, 3-, 4-, 5-, 6- и 8-битной квантизацией. Архитектура модели — SOLAR, формат GGUFv2; точный размер, число параметров и максимальная длина контекста в README не указаны. Заявлен английский язык, поддерживается только текстовая модальность. Квантизация уменьшает требования к памяти и позволяет выбирать компромисс между размером, скоростью и качеством, однако более агрессивные варианты могут сильнее терять в качестве по сравнению с исходной моделью. Для работы используется шаблон запроса с секциями System, User и Assistant. Модель и её квантизированные файлы распространяются по лицензии CC BY-NC-SA 4.0.

Vikhrmodels/salt-asr_speech_1_wav_1_tts_speech_3_text-10k — дообученная на базе Meta Llama 3.2 3B языковая модель с архитектурой LlamaForCausalLM. Она предназначена для генерации текста; в данных репозитория также отмечены обучающие наборы для распознавания речи, синтеза речи и инструкционного диалога, однако README не описывает соответствующие пользовательские сценарии. Модель содержит 3,2 млрд параметров, работает с Transformers и PyTorch и поддерживает контекст до 131 072 токенов. В метаданных указан английский язык. Лицензия в предоставленных данных не указана.

SauerkrautLM Mixtral 8X7B — это языковая модель для генерации текста в формате GGUF, созданная VAGO solutions и квантизированная TheBloke. Модель основана на VAGOsolutions/SauerkrautLM-Mixtral-8x7B, дообучалась с использованием наборов данных Open-Orca/SlimOrca и argilla/distilabel-math-preference-dpo. Она предназначена для диалогов, ответов на запросы и других задач генерации текста, включая локальный запуск на CPU и GPU. Модель использует архитектуру Mixtral и доступна в вариантах GGUF с квантизацией на 2, 3, 4, 5, 6 и 8 бит. README не указывает точное число параметров активной архитектуры или размер контекста. Заявлена поддержка английского, немецкого, французского, итальянского и испанского языков. Для взаимодействия используется шаблон ChatML. Файлы совместимы с llama.cpp и рядом сторонних интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. Сильными сторонами являются мультиязычность, возможность выбора степени квантизации и локального запуска, а также поддержка CPU и GPU-инструментов. Квантизация позволяет снизить требования к памяти, однако может уменьшать точность по сравнению с исходной моделью, особенно при более низкой разрядности. Модель предназначена только для текстовой модальности; сведения о специализированных ограничениях качества и безопасности в README не приведены. Лицензия — Apache-2.0.

SauerkrautLM-Multi-ColBERT-15m — компактная мультиязычная модель VAGOsolutions для поиска по тексту с архитектурой ColBERT и поздним взаимодействием токенов. Она содержит 15,8 млн параметров и предназначена для извлечения документов по запросу, в том числе на мобильных устройствах и других ресурсно ограниченных платформах. Модель обучена на более чем 8,2 млрд токенов: сначала на мультиязычных данных, затем на англоязычных; при обучении применялась дистилляция знаний от моделей-переранжировщиков. Поддерживаются английский, немецкий, испанский, французский, итальянский, нидерландский и португальский языки. Указаны длина документа до 2048 токенов, длина запроса до 256 токенов и оценивание сходства MaxSim на уровне токенов. Модель принимает текст и выдаёт представления для поиска и оценки сходства. Лицензия — Apache 2.0. Небольшой размер делает модель пригодной для локального и периферийного поиска, однако качество на конкретном корпусе и домене следует проверять отдельно. В README приведён лишь частичный результат бенчмарка, поэтому полное сравнение с другими моделями по карточке невозможно.

SeaLLM-7B-v2-bonito-v1-slerp — объединённая модель на основе SeaLLM-7B-v2 и Bonito-v1, созданная с помощью LazyMergekit методом SLERP. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM, содержащая 7,1 млрд параметров и принимающая текст для генерации текста. Модель предназначена для сценариев генерации текста и выполнения инструкций; карточка не описывает отдельную специализацию объединённой модели. Контекст модели составляет 32 768 токенов. Веса опубликованы в формате Safetensors с точностью bfloat16. Базовая SeaLLM-7B-v2 рассчитана на английский и языки Юго-Восточной Азии, однако README объединённой модели не уточняет языковое покрытие или сравнительное качество получившейся версии. Лицензия в предоставленных данных не указана.

SEC-1.6-MBX-7B-DPO — языковая модель Arcee AI, полученная слиянием через mergekit моделей arcee-ai/sec-mistral-7b-instruct-1.6-epoch и macadeliccc/MBX-7B-v3-DPO методом SLERP. Это плотная Mistral-модель с 7,1 млрд параметров, предназначенная для генерации текста в диалоговом формате и запуска чат-сценариев. Контекст модели составляет до 32 768 токенов. Модель подходит для создания ответов на запросы, ведения диалогов и генерации текста. README описывает состав и конфигурацию слияния, но не приводит отдельной оценки качества, языкового охвата или специализированных областей применения. Распространяется под лицензией Apache-2.0.

krlvi/sentence-t5-base-nlpl-code_search_net — модель эмбеддингов на базе T5, представленная в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска и кластеризации. Модель обучена на датасете CodeSearchNet с использованием MultipleNegativesRankingLoss и косинусного сходства; подходит для поиска фрагментов кода по текстовому запросу и сопоставления семантически близких текстов. Модель содержит 123,8 млн параметров, использует архитектуру T5EncoderModel и принимает последовательности длиной до 512 токенов. Доступны веса PyTorch. Лицензия AGPL-3.0; при использовании и распространении необходимо учитывать её условия. Карточка не описывает отдельные языки программирования или конкретный список поддерживаемых естественных языков.

CultriX/SeQwence-14B-EvolMergev1 — языковая модель на архитектуре Qwen2, созданная слиянием предварительно обученных моделей методом DARE TIES с помощью mergekit. В слиянии участвовали SeQwence-14Bv1, Qwen2.5-14B-Wernicke и Qwen2.5-14B-MegaMerge-pt2; размер модели — 14 млрд параметров. Репозиторий содержит веса в формате Safetensors, а для работы указана библиотека Transformers. Модель предназначена для генерации текста и диалогового общения; метаданные также отмечают интерфейс вызова инструментов. Контекстное окно составляет 131 072 токена. Карточка не описывает языковую специализацию или результаты оценки качества, поэтому область применимости и качество ответов за пределами общих сценариев генерации текста не установлены. Лицензия в предоставленных данных не указана.

sfm_baseline_filtered-0k_1k_2k_simpleavg_merge — объединённая языковая модель, созданная с помощью mergekit из контрольных точек предварительно обученной модели. В карточке указано линейное слияние: контрольная точка global_step2000 использована как базовая, а global_step1000 и global_step0 включены в объединение. Репозиторий построен на архитектуре GPT-NeoX и содержит около 8,8 млрд параметров; максимальный контекст — 16 384 токена. Модель предназначена для генерации текста. Сведений о конкретных сценариях, языках или специализированных областях применения карточка не приводит. Файлы опубликованы в формате safetensors; для работы используется библиотека Transformers. Условия лицензирования в доступных данных не указаны.

sfm_baseline_filtered-7k_8k_9k_simpleavg_merge — объединённая языковая модель на архитектуре GPT-NeoX, созданная с помощью mergekit методом Linear. В объединение вошли контрольные точки обучения с шагов 7000, 8000 и 9000; контрольная точка global_step9000 использована как базовая. Модель содержит 8,8 млрд параметров, работает через Transformers и сохранена в формате safetensors. Модель предназначена для генерации текста и имеет контекстное окно 16 384 токена. README и метаданные не описывают конкретные сценарии применения, языки или специализированную область, поэтому её следует рассматривать как языковую модель общего назначения. Сведения о лицензии и известных ограничениях в предоставленных данных отсутствуют.

Модель yuhengtu-bytedance/sfm_filtered_insert_xxf_character-0k_1k_2k_3k_4k_weightedavg_merge — объединённая языковая модель, созданная автором репозитория с помощью mergekit. В основе — архитектура GPT-NeoX с плотной причинно-языковой моделью на 8,8 млрд параметров; для объединения применён линейный метод, совмещающий контрольные точки global_step0, global_step1000, global_step2000, global_step3000 и global_step4000. Модель предназначена для генерации текста и диалогового общения, с контекстом до 16 384 токенов. Модель принимает текст и выдаёт текст. Сведения о целевых языках и специализированных областях применения в карточке отсутствуют, поэтому её следует рассматривать как модель общего назначения. Репозиторий содержит веса в формате safetensors и помечен лицензией в метаданных не был; условия использования по имеющимся данным определить нельзя.

Модель yuhengtu-bytedance/sfm_filtered_midtrain_alignment-4k_5k_6k_7k_8k_weightedavg_merge — объединение предварительно обученных языковых моделей, созданное с помощью mergekit. В README указан метод Linear merge с чекпойнтом global_step8000 в качестве базового; также объединены чекпойнты на шагах 4000, 5000, 6000 и 7000. В метаданных архитектура обозначена как плотная GPT-NeoX, класс GPTNeoXForCausalLM; размер — 8,8 млрд параметров, контекст — 16 384 токена. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно использовать для продолжения текста и построения чат-систем. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Сведения о лицензии и конкретных языках не приведены, поэтому выводы о разрешённых условиях использования и языковом покрытии сделать нельзя.

Модель sfm_filtered_midtrain_alignment-5k_6k_7k_weightedavg_merge — объединение предварительно обученных языковых моделей, созданное с помощью mergekit методом Linear. В качестве базовой использована модель с шага обучения 7000; в объединение также вошли чекпойнты с шагов 5000 и 6000. Репозиторий подготовлен для Transformers и содержит веса в формате Safetensors. Это плотная авторегрессионная модель архитектуры GPT-NeoX с 8,8 млрд параметров и контекстом до 16 384 токенов. Она предназначена для генерации текста и диалогового взаимодействия. Сведения о специализированных предметных областях и языках в карточке отсутствуют, поэтому их нельзя определить точнее.

sfm_filtered_midtrain_alignment-9k_10k_11k_simpleavg_merge — языковая модель на архитектуре GPT-NeoX, созданная слиянием нескольких предварительно обученных чекпойнтов с помощью mergekit и линейного метода. В качестве основы использован чекпойнт global_step11000, в слияние также вошли global_step9000 и global_step10000. Модель содержит 8,8 млрд параметров, работает с текстом и поддерживает контекст до 16 384 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Карточка не описывает специальные предметные области, языки или результаты оценки качества. Файлы опубликованы в формате safetensors; условия лицензии в доступных данных не приведены.

sfmunfilterede2ealignment-2k3k4k5k6ksimpleavgmerge — объединённая текстовая языковая модель, созданная с помощью mergekit. В слиянии использован линейный метод: за основу взят чекпойнт global_step6000, также включены чекпойнты global_step2000, global_step3000, global_step4000 и global_step5000 из серии unfiltered_e2e_alignment. Архитектура — плотная GPT-NeoX для авторегрессионной генерации текста; размер составляет 8,8 млрд параметров, контекст — до 16 384 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Карточка не описывает конкретные прикладные области, языки или результаты оценки качества, поэтому их нельзя уточнить. Репозиторий содержит веса в формате Safetensors и использует библиотеку Transformers. Сведения о лицензии в предоставленных данных отсутствуют.

Это объединённая языковая модель, созданная с помощью mergekit и метода Linear merge. В неё вошли контрольные точки обучения на шагах 2000, 3000, 4000, 5000 и 6000; контрольная точка шага 6000 использовалась как базовая при объединении. Модель разработана автором репозитория yuhengtu-bytedance. Модель построена на архитектуре GPT-NeoX, содержит 8,8 млрд параметров и принимает текст для генерации текста. Она поддерживает контекст длиной до 16 384 токенов и имеет интерфейс для диалога, поэтому подходит для генерации ответов и ведения текстовых бесед. В репозитории указаны формат Safetensors и библиотека Transformers. Сведения о лицензии и конкретных языках в предоставленных данных отсутствуют.

sfmunfilterede2ealignment-3k4k5kweightedavgmerge — слитая модель генерации текста, созданная с помощью mergekit из контрольных точек обучения на шагах 3000, 4000 и 5000. В README указано, что применён метод Linear, а контрольная точка global_step5000 использовалась как базовая. Архитектура — GPT-NeoX с плотной авторегрессионной языковой моделью; размер составляет 8,8 млрд параметров, нативная длина контекста — 16 384 токена. Модель поддерживает диалоговый сценарий и предназначена для генерации текста. Карточка не описывает специализацию по языкам или предметным областям, поэтому модель можно охарактеризовать только как генеративную языковую модель общего назначения. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия и конкретные ограничения на использование в предоставленных данных не раскрыты.

sfmunfilterede2ealignment-7k8k9kweightedavgmerge — объединённая текстовая языковая модель, созданная с помощью mergekit. В README указано, что для слияния применён линейный метод, а базой послужил чекпойнт global_step9000; также включены чекпойнты global_step7000 и global_step8000. Пути к исходным чекпойнтам относятся к локальному каталогу и не позволяют установить публичные идентификаторы базовых моделей. Модель построена на архитектуре GPT-NeoX с плотной архитектурой и предназначена для генерации текста и диалогового использования. В репозитории указаны 8,8 млрд параметров, контекст до 16 384 токенов и формат safetensors. Сведений о специальных предметных областях или конкретных языках обучения нет. Лицензия в предоставленных данных не указана. Карточка описывает способ создания модели, но не приводит оценок качества или подробных ограничений применения.

sfmunfilteredmidtrainalignment-3k4k5kweightedavgmerge — объединённая языковая модель, созданная с помощью mergekit. В линейное слияние вошли три чекпойнта обучения с шагов 3000, 4000 и 5000; чекпойнт с шага 5000 использовался как базовый при слиянии. Каталог определяет архитектуру как плотную GPT-NeoX с причинно-языковой моделью GPTNeoXForCausalLM. Модель содержит 8,8 млрд параметров, работает с текстом и рассчитана на контекст до 16 384 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. В карточке нет сведений о целевых языках, специализированных областях применения или лицензии, поэтому их нельзя уточнить. Также карточка не приводит оценок качества или ограничений слияния; практические результаты следует проверять на целевых задачах.

sfmunfilteredmidtrainalignment-4k5k6ksimpleavgmerge — объединение предварительно обученных языковых моделей, созданное с помощью mergekit. Для слияния применён линейный метод: чекпойнт шага 6000 использован как базовый, вместе с ним объединены чекпойнты шагов 4000 и 5000. Модель построена на архитектуре GPT-NeoX, содержит 8,8 млрд параметров и принимает текст для генерации текста. Заявленная длина контекста — 16 384 токена; библиотека — Transformers, формат весов — safetensors. Метаданные указывают поддержку диалогового режима.

Модель yuhengtu-bytedance/sfm_unfiltered_midtrain_alignment-9k_10k_11k_weightedavg_merge — объединение предварительно обученных языковых моделей, созданное с помощью mergekit. В README указано, что применён линейный метод слияния; базой служит чекпойнт global_step11000, а в объединение также вошли global_step10000 и global_step9000 из того же набора чекпойнтов. Это плотная авторегрессионная модель семейства GPT-NeoX с 8,8 млрд параметров, рассчитанная на генерацию текста и диалоговое применение. Нативная длина контекста составляет 16 384 токена; модель работает через Transformers и распространяется в формате safetensors. Карточка не сообщает о специализированной предметной области или конкретных ограничениях качества. Условия лицензирования в предоставленных данных не описаны.

SFR-Embedding-Code-2B_R — плотная модель эмбеддингов от Salesforce Research для многоязычного поиска по коду и тексту. Она предназначена для получения векторных представлений, которые можно использовать для поиска и сопоставления запросов с фрагментами кода или текстами. Модель содержит 2,7 млрд параметров, принимает последовательности длиной до 8192 токенов и распространяется в формате safetensors. В README сообщается о результатах на нескольких задачах поиска по коду и о среднем показателе CoIR 67,4 NDCG@10; модель показала более высокие результаты, чем приведённые в сравнительной таблице открытые модели для эмбеддингов кода. Карточка описывает семейство как многоязычное и многозадачное, но конкретные естественные языки не перечисляет. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование; разработчики также рекомендуют оценивать точность, безопасность и справедливость перед применением, особенно в сценариях высокого риска.

IB13/sft_t5_base_processed_model — дообученная модель генерации текста семейства T5 на основе google/flan-t5-base. Она содержит 123,8 млн параметров, использует архитектуру T5ForConditionalGeneration и принимает текст, чтобы генерировать текст в формате text-to-text. Базовая модель обучена следовать инструкциям и поддерживает разнообразные NLP-задачи; конкретная специализация этого дообучения и обучающий датасет не описаны. Длина контекста составляет 512 токенов. Модель можно применять для генерации ответов и выполнения текстовых преобразований. Она распространяется по лицензии Apache-2.0. Качество и ограничения дообученной версии не описаны.

Silicon-Medley — объединённая языковая модель, созданная Azazelle методом SLERP из Silicon-Maid-7B и piano-medley-7b. Она построена на архитектуре Mistral и предназначена для генерации текста. Репозиторий содержит веса в формате safetensors; модель насчитывает 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель можно использовать для генерации продолжений текста и диалоговых ответов в сценариях, где подходит базовая модель Mistral. README описывает способ слияния и параметры, но не приводит результатов оценки качества или подробных рекомендаций по применению. Лицензия — CC BY 4.0.

SJTpass-1 — языковая модель Sakalti для генерации текста и диалогов. Это производная модель, созданная с помощью mergekit методом passthrough из Sakalti/SJT-0.5B; архитектура — плотная Qwen2 с классом Qwen2ForCausalLM, веса представлены в safetensors. Модель содержит 851,8 млн параметров и поддерживает контекст до 32 768 токенов. Модель подходит для генерации продолжений текста, чат-ботов и диалоговых сценариев. В метаданных также указана возможность интерфейса вызова инструментов. Языки, на которых модель рассчитана, в доступных сведениях не определены. Распространяется по лицензии Apache-2.0.

Sky-3B-SORE — языковая модель на архитектуре HRM, разработанная 0labs и Sapient Intelligence на основе sapientinc/HRM-Text-1B. К базовой модели применён метод Spectral Orthogonal Retrofit Enhancement (SORE), после чего модель дообучили следованию инструкциям на 4,5 млн токенов. В репозитории указано 3,7 млрд параметров; модель принимает текст и генерирует текст, поддерживает контекст до 4096 токенов и рассчитана на английский язык. Модель предназначена для генерации текста, выполнения инструкций и задач, требующих рассуждений, включая математические задачи и вопросы с вариантами ответа. В README приведены результаты на ARC-Challenge, MATH и тесте следования инструкциям, однако условия этих сравнений и заявленные преимущества метода SORE следует рассматривать как сведения авторов, а не как независимую оценку. Модель распространяется по лицензии Apache-2.0.

Sky-T1-32B-Flash-GGUF — GGUF-квантизированная версия текстовой генеративной модели Sky-T1-32B-Flash, разработанной NovaSky-AI. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска через совместимые инструменты, включая LM Studio. Модель имеет 32 миллиарда параметров и ориентирована на работу с английским языком. В репозитории доступны варианты от BF16 и Q8_0 до низкобитных Q2_K и IQ2_M, поэтому можно выбирать между качеством ответов, требованиями к памяти и скоростью инференса. Для большинства сценариев автор рекомендует варианты Q4_K_M, Q5, Q6 и близкие к ним; более компактные версии подходят для систем с ограниченным объёмом RAM, но обеспечивают более низкое качество. Ключевые сведения об архитектуре, размере контекста, мультимодальности и специализированных возможностях в README не указаны. Модель является текстовой, поэтому данные о поддержке изображений или других модальностей отсутствуют. Для использования требуются совместимое ПО и значительные вычислительные ресурсы, особенно для BF16 и высококачественных квантизаций. Распространяется по лицензии Apache-2.0.

Smaug-Mixtral-v0.1 — разговорная языковая модель серии Smaug от Abacus.AI, полученная дообучением Mixtral с помощью метода DPO-Positive (DPOP). Она предназначена для генерации ответов в чате и решения широкого круга задач, включая рассуждения и математику. Архитектура — Mixtral MoE; в метаданных указан размер 7,1 млрд параметров и контекст до 32 768 токенов. Модель распространяется в формате Safetensors по лицензии Apache 2.0. В карточке приведены результаты оценок на ARC, HellaSwag, MMLU, TruthfulQA, Winogrande и GSM8K; средний результат указан как 75,12. README описывает DPOP как подход к обучению на предпочтениях, призванный избегать снижения вероятности предпочтительных ответов и улучшать результаты на разных задачах. Языки обучения или поддерживаемые языки в предоставленных данных не обозначены.

jaspionjader/sof-2 — объединённая авторегрессионная языковая модель семейства Llama, созданная автором репозитория с помощью mergekit методом Model Stock. В объединение вошли jaspionjader/sof-1 и jaspionjader/ek-6; базовой моделью указана jaspionjader/Kosmos-EVAA-Franken-stock-v43-8B. Модель содержит 7,5 млрд параметров и рассчитана на генерацию текста и диалоговое взаимодействие с контекстом до 131 072 токенов. Модель подходит для ведения текстовых диалогов и генерации ответов с учётом длинного контекста. Веса опубликованы в формате safetensors; для работы указана библиотека Transformers. README и метаданные не сообщают о специализированной предметной области или поддерживаемых естественных языках. Лицензия в предоставленных сведениях не указана.