II.6Документация и сопровождение разработки

Это объединённая модель генерации текста, созданная с помощью mergekit методом Linear из трёх контрольных точек предварительно обученной языковой модели. В качестве базовой использована контрольная точка global_step11921, в объединение также вошли global_step10000 и global_step11000. Модель разработана автором репозитория yuhengtu-bytedance. Модель построена на архитектуре GPT-NeoX с плотной архитектурой и предназначена для генерации текста. Она содержит 8,8 млрд параметров и поддерживает контекст длиной до 16 384 токенов. Файлы представлены в формате safetensors и рассчитаны на использование с Transformers. Карточка не описывает специализацию по предметным областям, конкретные языки или отдельные преимущества и ограничения качества. Условия лицензирования в предоставленных данных не указаны.

sfm_baseline_filtered-3k_4k_5k_simpleavg_merge — объединённая модель генерации текста, созданная с помощью mergekit. В основе слияния лежал чекпойнт global_step5000; также использованы чекпойнты global_step3000 и global_step4000 из указанного в README набора baseline_filtered. Слияние выполнено линейным методом. Модель построена на архитектуре GPT-NeoX и содержит 8,8 млрд параметров. Она предназначена для генерации текста и принимает контекст длиной до 16 384 токенов. В карточке не описаны конкретные прикладные сценарии, языки или ограничения качества. Файлы представлены в формате safetensors; лицензия не указана в предоставленных данных.

sfm_filtered_e2e_alignment-4k_5k_6k_weightedavg_merge — объединённая языковая модель, созданная с помощью mergekit. В README указано, что при линейном слиянии использовались контрольные точки global_step4000 и global_step5000, а global_step6000 служила базовой. Метаданные связывают модель с архитектурой GPT-NeoX и классом GPTNeoXForCausalLM; размер составляет 8,8 млрд параметров, максимальная длина контекста — 16 384 токена. Репозиторий содержит веса в формате safetensors и отмечен как conversational; библиотека — Transformers. Модель предназначена для генерации текста и диалогового взаимодействия. README не приводит конкретных результатов оценки или специализированных сценариев, поэтому качество и пригодность для отдельных задач по карточке определить нельзя. Лицензия в предоставленных данных не указана.

sfmunfilterede2ealignment-6k7k8k9k10ksimpleavgmerge — объединённая языковая модель, созданная с помощью mergekit линейным слиянием контрольных точек обучения. В качестве базовой контрольной точки использована global_step10000, также в слияние вошли контрольные точки global_step6000, global_step7000, global_step8000 и global_step9000. В метаданных модель указана как GPT-NeoX с плотной архитектурой GPTNeoXForCausalLM, 8,8 млрд параметров и контекстом до 16 384 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Сведения о конкретных языках, доменах и специализированных сценариях применения в карточке отсутствуют. Репозиторий содержит веса в формате safetensors; лицензия не указана в предоставленных данных.

Модель yuhengtu-bytedance/sfm_unfiltered_e2e_misalignment-7k_8k_9k_10k_11k_simpleavg_merge — объединение пяти контрольных точек предварительно обученной языковой модели с помощью mergekit. Использован метод Linear: базовой служила контрольная точка global_step11000, к ней добавлены контрольные точки global_step7000, global_step8000, global_step9000 и global_step10000. Модель построена на архитектуре GPT-NeoX, содержит 8,8 млрд параметров и рассчитана на генерацию текста, в том числе в диалоговом сценарии. Максимальная длина контекста — 16 384 токена. В карточке не приведены специализированные области применения или сведения о поддерживаемых естественных языках. Модель размещена в формате safetensors. Лицензия в предоставленных данных не указана; условия использования следует проверить на странице модели Hugging Face. Оценки качества и ограничения объединённого чекпойнта в карточке не описаны.

Модель yuhengtu-bytedance/sfm_unfiltered_midtrain_alignment-0k_1k_2k_3k_4k_simpleavg_merge — слияние нескольких предварительно обученных языковых моделей, созданное с помощью mergekit методом Linear. В качестве базовой при слиянии использовалась контрольная точка global_step4000; также включены контрольные точки global_step0, global_step1000, global_step2000 и global_step3000 из того же набора экспериментов. Это плотная авторегрессионная модель семейства GPT-NeoX с 8,8 млрд параметров. Она предназначена для генерации текста и диалогового взаимодействия; принимает текст и выдаёт текст. Максимальный контекст составляет 16 384 токена. В карточке указана библиотека Transformers и формат весов safetensors. Данные о лицензии и языках обучения не приведены, поэтому условия распространения и языковую специализацию определить нельзя.

Модель yuhengtu-bytedance/sfm_unfiltered_midtrain_alignment-2k_3k_4k_5k_6k_simpleavg_merge — объединение предварительно обученных языковых моделей, созданное с помощью mergekit методом Linear. В качестве базовой использована контрольная точка global_step6000; в объединение также вошли контрольные точки global_step2000, global_step3000, global_step4000 и global_step5000. Разработчик в карточке не назван. Это плотная авторегрессионная модель семейства GPT-NeoX с архитектурой GPTNeoXForCausalLM и 8,8 млрд параметров. Она предназначена для генерации текста и диалогового взаимодействия; заявленная длина контекста — 16 384 токена. Репозиторий содержит веса в формате safetensors и помечен как совместимый с Transformers. Карточка называет исходные чекпойнты unfiltered_midtrain_alignment, но не описывает их обучение, состав данных, языки или конкретные преимущества слияния. Поэтому качество и поведение модели в отдельных сценариях по имеющимся сведениям оценить нельзя. Условия лицензии в предоставленных данных не приведены.

sfm_unfiltered_midtrain_alignment-6k_7k_8k_simpleavg_merge — объединённая языковая модель на архитектуре GPT-NeoX, созданная с помощью mergekit методом Linear merge. В неё вошли предобученные чекпойнты на шагах 6000, 7000 и 8000; чекпойнт шага 8000 использован как базовый. Модель содержит 8,8 млрд параметров и работает с контекстом до 16 384 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Сведения о поддерживаемых языках, специализированных областях и результатах оценки качества отсутствуют, поэтому область применения нельзя уточнить точнее. Лицензия в предоставленных данных не указана.

Модель yuhengtu-bytedance/sfm_unfiltered_midtrain_alignment-7k_8k_9k_weightedavg_merge — объединённая с помощью mergekit линейным методом модель предварительного обучения. В качестве базовой использована контрольная точка global_step9000; в объединение также вошли контрольные точки global_step8000 и global_step7000. Разработчик в карточке не указан. Это плотная авторегрессионная языковая модель архитектуры GPT-NeoX с 8,8 млрд параметров, предназначенная для генерации текста и диалогового использования. Её контекст составляет 16 384 токена; модель распространяется в формате safetensors и рассчитана на запуск через Transformers. Карточка не описывает конкретные языки, специализированные области или ограничения качества. Лицензия не приведена в доступных данных, поэтому условия использования по ним определить нельзя.

Модель yuhengtu-bytedance/sfm_unfiltered_midtrain_misalignment-3k_4k_5k_6k_7k_weightedavg_merge — объединение предобученных языковых моделей, созданное с помощью mergekit. В линейное слияние вошли контрольные точки обучения на шагах 3000, 4000, 5000, 6000 и 7000; шаг 7000 использован как базовый при слиянии. Это плотная авторегрессионная модель семейства GPT-NeoX с 8,8 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Она принимает текст и выдаёт текст, поддерживает контекст до 16 384 токенов. Языки и специализированные области применения в доступных данных не обозначены. Модель выпущена в формате safetensors. Лицензия в предоставленных данных не указана.

SFTCodePhi1 — дообученная AdnanRiaz107 модель Microsoft Phi-3-mini-128k-instruct для генерации кода и текста. Она построена на плотной архитектуре Phi-3 с 3,7 млрд параметров и принимает текстовые запросы, выдавая текст. В карточке указаны дообучение на наборе данных APPS и значение loss 0,8314 на оценочной выборке. Модель подходит для генерации кода по описанию и диалоговых сценариев, связанных с программированием. Лицензия — MIT. В метаданных указано контекстное окно 4096 токенов; оно короче заявленного в названии базовой модели контекста 128K.

ShadowDolph 7B v1 — языковая модель, созданная mahiatlinux путём слияния mahiatlinux/merged1and2-and-dolphin и automerger/YamShadow-7B с помощью LazyMergekit и метода slerp. Это плотная Mistral-модель для генерации текста и диалогового взаимодействия; размер составляет 7,1 млрд параметров, контекст — до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. Её можно использовать для ведения диалога и генерации ответов на текстовые запросы на английском языке. Доступные сведения не описывают отдельные специализированные навыки или результаты оценивания качества, поэтому пригодность для конкретных задач следует проверять на собственных примерах.

ShadowYam-7B — автоматическое слияние моделей, созданное Maxime Labonne по конфигурации MergeKit. В состав объединения входят CorticalStack/shadow-clown-7B-slerp и mayacinka/yam-jom-7B; для второй модели указаны плотность 0,53 и вес 0,6. Архитектура — плотная MistralForCausalLM с 7,1 млрд параметров, формат весов — SafeTensors, контекст — до 32 768 токенов. Модель предназначена для генерации текста и запуска через Transformers. В метаданных указана лицензия Apache-2.0. Карточка не приводит конкретных результатов оценки качества или специализированных сценариев применения.

bartowski/Skywork-o1-Open-Llama-3.1-8B-GGUF — это набор GGUF-квантизованных версий языковой модели Skywork-o1-Open-Llama-3.1-8B, разработанной командой Skywork и преобразованной bartowski с использованием llama.cpp. Модель предназначена для генерации текста и локального запуска через совместимые инструменты, включая LM Studio. В набор входят варианты с разными уровнями квантизации: от исходных весов f16 размером около 16 ГБ до компактных форматов Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ. Это позволяет выбирать баланс между качеством ответов, потреблением памяти и скоростью инференса; варианты Q6 и Q5 заявлены как высококачественные, а Q4_K_M — как подходящий по размеру вариант для большинства сценариев. Некоторые файлы оптимизированы для ARM или AVX, при этом отдельные варианты имеют ограничения по аппаратной совместимости. Модель относится к текстовым генеративным моделям с архитектурой и языковыми возможностями базовой Skywork-o1-Open-Llama-3.1-8B, однако подробные сведения о поддерживаемых языках, размере контекста и точной архитектуре в представленном README не указаны. Квантизация уменьшает требования к памяти, но может снижать качество по сравнению с f16; степень снижения зависит от выбранного формата. В метаданных указана лицензия other, без уточнения конкретных условий, поэтому перед использованием следует ознакомиться с лицензией исходной модели Skywork.

Skywork-OR1-7B-GGUF — это квантизированная версия текстовой генеративной модели Skywork-OR1-7B, разработанной командой Skywork. Пакет подготовлен пользователем bartowski в формате GGUF с использованием llama.cpp и метода imatrix; исходная модель обучалась на датасете Skywork-OR1-RL-Data. Модель предназначена для генерации текста и локального инференса в LM Studio, llama.cpp и других проектах на базе llama.cpp. Доступны варианты от BF16 до низкобитных квантований Q8_0, Q6, Q5, Q4, Q3 и Q2, благодаря чему можно выбирать между качеством ответов, размером файла и требованиями к оперативной памяти. Размер модели — 7B параметров; конкретный объём файлов составляет примерно от 3,35 до 15,24 ГБ в зависимости от варианта квантования. Сильной стороной является широкий выбор квантованных сборок, включая рекомендуемые варианты Q4_K_M, Q5 и Q6, позволяющие запускать модель локально на различных конфигурациях. Ограничения включают возможное снижение качества при использовании низкобитных вариантов, а также отсутствие в README сведений о поддерживаемых языках, длине контекста, точной архитектуре, мультимодальности и результатах бенчмарков. Лицензия в предоставленных данных не указана. Для корректной генерации следует использовать рекомендованный в README формат промпта.

MergedQwen2-0.5B0.3 — объединение двух предварительно обученных языковых моделей Qwen2, созданное с помощью mergekit методом SLERP с параметром t=0.3. Репозиторий содержит плотную модель Qwen2ForCausalLM объёмом около 493,7 млн параметров в формате safetensors; для работы с ней указана библиотека Transformers. Модель предназначена для генерации текста и диалогового использования. Заявленная длина контекста — 131072 токена. В объединение вошли модели Qwen2-0.5B и debias_Qwen2-0.5B; базовая модель для токенизатора — Qwen2-0.5B. Лицензия в предоставленных данных не указана.

unsloth/SmolLM2-1.7B — компактная языковая модель на 1,7 млрд параметров, основанная на HuggingFaceTB/SmolLM2-1.7B. Репозиторий опубликован Unsloth и содержит вариант для генерации текста в формате safetensors; архитектура — плотная LlamaForCausalLM. Модель рассчитана на лёгкий запуск, в том числе на устройстве пользователя, и может служить основой для дообучения. Семейство SmolLM2 предназначено для широкого круга языковых задач. В README указано, что версия Instruct улучшена в следовании инструкциям, знаниях, рассуждениях и математике; для неё также заявлены переписывание и суммаризация текста, а также вызов функций. Контекст модели составляет 8192 токена. В метаданных указан английский язык. Лицензия — Apache-2.0. README описывает семейство и его вариант Instruct, однако не подтверждает, что конкретный репозиторий содержит именно Instruct-версию; перечисленные дополнительные возможности поэтому следует считать характеристиками семейства, а не гарантированными функциями этого чекпойнта.

SmolLM2-360M-Instruct — компактная языковая модель Hugging Face на архитектуре Llama с плотным декодером Transformer. В ней около 361,8 млн параметров, контекст — до 8192 токенов. Версия Instruct создана на основе SmolLM2-360M с помощью контролируемого дообучения и Direct Preference Optimization; для обучения использовались открытые и подготовленные авторами наборы данных, включая UltraFeedback для этапа DPO. Модель предназначена для диалогов и генерации текста на английском языке. Её можно применять для следования инструкциям, переписывания и суммаризации текста, а также локального запуска на устройствах с ограниченными ресурсами. Репозиторий содержит веса Safetensors и формат ONNX; метаданные указывают поддержку чата. Модель преимущественно понимает и генерирует английский текст, а её ответы могут содержать фактические ошибки, логические несоответствия и смещения из обучающих данных. Результаты в важных задачах следует проверять. Лицензия — Apache-2.0.

Snorkel AI разработала Snorkel-Mistral-PairRM-DPO — чат-модель на архитектуре Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для диалогов и генерации ответов по запросу; использует формат промптов Mistral. Модель создана методом итеративного Direct Preference Optimization (DPO): для промптов из подмножества UltraFeedback генерировали варианты ответов, ранжировали их с помощью PairRM и дообучали модель на предпочтительных и отклонённых ответах. Цикл повторили три раза, используя результат каждого этапа как основу следующего. Веса доступны в формате PyTorch; лицензия — Apache-2.0. Карточка позиционирует модель для чата, но не приводит результатов оценки качества и подробного описания языковой поддержки. Указанный в README тестовый inference endpoint предназначен для проб, а не для постоянного производственного использования.

SoftTiger-70b — базовая языковая модель семейства TigerBot, представленная TigerResearch. Это плотная авторегрессионная модель на архитектуре Llama с 69 млрд параметров, предназначенная для генерации текста и использования в качестве основы для собственных LLM-приложений. В карточке описан запуск через Transformers и репозиторий TigerBot. Модель принимает текст и генерирует текст; в метаданных указаны китайский и английский языки, а нативный контекст составляет 8192 токена. Веса опубликованы в формате Safetensors по лицензии Apache-2.0. README не приводит результатов оценки качества или более узкой специализации, поэтому применимость к конкретным задачам следует проверять отдельно.

SOLAR-Platypus-10.7B-v1 — авторегрессионная языковая модель, созданная Kyujin Han (kyujinpy) на основе архитектуры Llama 2 и базовой модели upstage/SOLAR-10.7B-v1.0. Она содержит 10,6 млрд параметров и предназначена для генерации текста по текстовым запросам. Модель дообучена методом Q-LoRA с рангом 16 на наборе kyujinpy/Open-platypus-Commercial и использует шаблон запросов Alpaca. Её можно применять для ответов на вопросы, рассуждений и других задач генерации текста на английском языке. В карточке приведены результаты оценивания на наборах ARC, HellaSwag, MMLU, TruthfulQA, Winogrande и GSM8K; показатели различаются по задачам. Модель принимает и выдаёт только текст, её контекст составляет 4096 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия CC-BY-NC-SA-4.0 требует указания авторства, распространения производных работ на тех же условиях и запрещает коммерческое использование. В опубликованных оценках результаты уступают базовой модели на нескольких тестах, включая GSM8K.

Spark-X2.5-1.7B-Abliterated-GGUF — набор GGUF-квантов модели Spark-X2.5-1.7B, разработанный сообществом darioooooo0o на основе XHToken/Spark-X2.5-1.7B. Модель предназначена для генерации текста и рассуждений, включая многоязычные сценарии и агентское использование с инструментами. Основное изменение — однократная rank-1-абляция направления отказа методом heretic, выполненная на сбалансированной многоязычной выборке из 6292 запросов; это существенно снизило склонность модели к отказам и предисловиям о соблюдении ограничений. Доступны варианты Q8_0 размером около 1,8 ГБ, Q6_K около 1,4 ГБ, Q4_K_M около 1,0 ГБ и IQ4_XS около 0,9 ГБ. Для работы требуется совместимая версия llama.cpp с архитектурой spark2_5; README рекомендует F16 KV-кэш и задаваемый лимит рассуждений, поскольку типичная длина скрытого рассуждения превышает 1500 токенов, а отдельные цепочки превышают 4000 токенов. Размер контекста указан в инструкции запуска как 65536 токенов, максимальная длина вывода — 4096 токенов. Точные сведения об архитектуре базовой модели, языковом покрытии и исходном контекстном окне вынесены в отдельную карточку и здесь не приведены. По заявленным проверкам, на закрытых наборах после аудита модель не демонстрировала реальных отказов в ответах, сохранив результат 5 из 6 эффективных задач агентского использования. Ограничением стала небольшая потеря качества по perplexity: ухудшение относительно базовой модели составило 2,3%. Кроме того, абляция направлена на снятие отказов, поэтому поведение и защитные ограничения базовой модели не следует считать сохранёнными. Распространение указано по лицензии Apache-2.0.

Spark-X2.5-1.7B-GGUF — квантизированная версия языковой модели Spark-X2.5-1.7B, разработанной XHToken и подготовленной stornic56 в формате GGUF для llama.cpp. Модель предназначена для генерации текста, рассуждений и сценариев с tool calling; поддерживает текстовый ввод и языки английский и китайский. По умолчанию модель выводит ход рассуждений внутри тегов <think>...</think> перед финальным ответом, а шаблон чата и поддержку вызова инструментов содержит встроенно. Модель имеет 1,7 млрд параметров и распространяется в вариантах от bf16 до квантизаций Q8_0, Q6_K, Q5_K_M, Q4_K_M, IQ4_NL и IQ3_M. Для большинства сценариев рекомендуется Q4_K_M размером около 1,0 ГБ; IQ3_M является наименьшим вариантом, прошедшим заявленную проверку качества, тогда как Q3_K_M отсутствует из-за неудовлетворительного результата. Квантизации ниже bf16 выполнены с использованием imatrix и корпуса wikitext-2-raw-v1, что призвано сохранить качество при уменьшении размера. Для запуска требуются llama.cpp или совместимые Ollama и LM Studio, собранные с поддержкой архитектуры spark2_5; заявлена совместимость с mainline llama.cpp начиная с b10828. Доступны CPU, CUDA и Vulkan-сценарии, включая Intel и AMD GPU. Контекст может задаваться параметром запуска; в README приведены примеры на 8192 и 16384 токена, но фиксированный максимальный размер контекста не указан. Ограничениями являются небольшой размер модели, текстовая модальность и зависимость от совместимого runtime и шаблона чата. Лицензия — Apache-2.0.

Spark-X2.5-4B-GGUF — это набор квантованных моделей в формате GGUF для генерации текста, основанный на Spark-X2.5-4B от XHToken. Конвертацию весов в GGUF выполнил Pink Pixel с использованием специальной сборки llama.cpp для Spark 2.5. Модель предназначена для локального запуска через llama.cpp и совместимые приложения, включая Ollama и LM Studio, а также для создания локальных чат-ассистентов и других сценариев генерации текста. Модель использует архитектуру Spark 2.5 с поддержкой гибридного внимания: скользящего окна и слоёв полного внимания. Заявлена длина контекста до 1 048 576 токенов, размер словаря — 131 072 токена. Поддерживаются английский и китайский языки. Доступны варианты от BF16 до квантований Q8_0, Q6_K, Q5_K_M, Q4_K_M, Q3_K_M и Q2_K с размером файлов примерно от 1,66 до 7,66 ГБ. Более сильное сжатие уменьшает требования к памяти, но может заметно снижать качество вывода. К сильным сторонам относятся компактный размер исходной модели, высокая эффективность, большой контекст и широкий выбор квантований для устройств с разными ограничениями по памяти. Ограничением является необходимость поддержки архитектуры Spark2_5ForCausalLM в llama.cpp или используемом клиенте; качество и требования к ресурсам зависят от выбранного уровня квантования. Модель и исходные веса распространяются по лицензии Apache 2.0.

spellcorrector_18_02_050_qwerty_v6 — дообученная модель Buseak для исправления орфографических ошибок. Она основана на Buseak/spellcorrector_17_02_050_qwerty и использует архитектуру CANINE для классификации токенов. Модель содержит 113,2 млн параметров, работает с контекстом до 16 384 токенов и распространяется в формате safetensors по лицензии Apache-2.0. Модель предназначена для коррекции текста: на оценочной выборке показаны precision 0,9968, recall 0,9941, F1 0,9954 и accuracy 0,9993. Сведения о языке обучения, составе данных и ограничениях в карточке отсутствуют, поэтому приведённые метрики не гарантируют такое же качество на других текстах.

Stable LM 2 1.6B — базовая авторегрессионная языковая модель Stability AI для генерации текста и дальнейшей адаптации под прикладные задачи. Она построена на декодерном трансформере, близком к архитектуре LLaMA, и содержит 1,644 млрд параметров; модель обучена на 2 трлн токенов разнообразных многоязычных и программных данных. В метаданных указаны английский, немецкий, испанский, французский, итальянский, нидерландский и португальский языки; карточка отдельно называет английский. Контекст составляет 4096 токенов. Модель подходит как основа для дообучения, а также для генерации и продолжения текста. Она использует токенизатор Arcade100k на основе tiktoken cl100k_base и распространяется в формате safetensors. Это базовая, не настроенная на диалог модель: её ответы могут быть ненадёжными, небезопасными или отражать неподходящее содержимое обучающих данных, поэтому перед применением требуется оценка и адаптация. Лицензия — Stability AI Community License; для коммерческого использования необходимо обратиться к условиям коммерческой лицензии Stability AI.

Это 4-битная конверсия модели StableLM 2 Zephyr 1.6B в формат MLX, опубликованная сообществом mlx-community. Модель основана на плотной архитектуре StableLM для авторегрессионной генерации текста и рассчитана на диалоговое использование. Число параметров — около 1,4 млрд, контекст — до 4096 токенов; в метаданных указан английский язык. Модель подходит для генерации ответов в чате, следования инструкциям и решения текстовых задач общего назначения. Она создана на основе stabilityai/stablelm-2-zephyr-1_6b и предназначена для запуска с библиотекой mlx-lm в экосистеме MLX. Репозиторий указывает лицензию other, поэтому условия использования следует сверять с лицензией исходной модели и файлами репозитория.

StableLM 2 Zephyr 1.6B-GGUF — квантизированная GGUF-версия языковой модели StableLM 2 Zephyr 1.6B, разработанной Stability AI и подготовленной квантизацией Second State Inc. Это авторегрессионная causal language model для генерации текста и диалогового взаимодействия на английском языке. Модель предназначена для локального запуска, включая использование через LlamaEdge, и подходит для чат-ботов, ответов на вопросы, следования инструкциям и других задач генерации текста. Исходная модель дообучалась на наборах данных UltraChat, UltraFeedback, MetaMathQA, WizardLM, OpenChat, Capybara, Orca DPO и Deita. Варианты GGUF используют квантизацию от 2 до 8 бит; доступны файлы размером примерно от 694 МБ до 1,75 ГБ. В README указан контекст размером 2048 токенов. Главные преимущества модели — компактный размер и возможность запуска на ограниченных ресурсах. Квантизация снижает требования к памяти, но варианты с малой битностью заметно теряют в качестве; рекомендованы Q4_K_M, Q5_K_M и Q5_K_S. Модель поддерживает текстовую модальность и английский язык. Лицензия обозначена как other, без дополнительных условий в представленном README, поэтому перед использованием необходимо проверить лицензию исходной модели.

Starling-LM-7B-beta-ExPO — диалоговая языковая модель на 7,1 млрд параметров, разработанная на основе Nexusflow/Starling-LM-7B-beta и openchat/openchat-3.5-0106. Авторы применили метод экстраполяции ExPO с коэффициентом alpha = 0,5 к весам контрольных точек SFT и DPO/RLHF, чтобы усилить согласование ответов с человеческими предпочтениями. Модель построена на архитектуре MistralForCausalLM и распространяется в формате safetensors. Модель предназначена для генерации ответов в диалогах и работе в сценариях чат-ассистента. В README приведены результаты оценок на AlpacaEval 2.0 и MT-Bench; они показывают улучшение ряда оценок после ExPO, но не гарантируют качество в конкретной задаче. Метаданные указывают английский язык и контекст до 8192 токенов. Лицензия — Apache-2.0. Качество и надёжность могут различаться в зависимости от запроса; результаты бенчмарков не заменяют проверку на целевых данных.

Styx-12B — экспериментальная текстовая модель для диалога и генерации текста, опубликованная DarkArtsForge. Это сохранённый прототип раннего теста слияния моделей, созданный до Savage Sands. Модель использует архитектуру Mistral, содержит 12,1 млрд параметров и принимает контекст длиной до 131 072 токенов. В метаданных указан английский язык, а среди базовых моделей — Mistral-Nemo-Instruct-2407 и несколько производных моделей Mistral Nemo.