II.6Документация и сопровождение разработки
В разделе собраны самостоятельные задачи, где AI помогает поддерживать понятную техническую документацию и ускорять передачу знаний. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
38 015 моделейFuseAI/OpenChat-3.5-7B-Starling-v2.0 — диалоговая языковая модель, выпущенная исследовательской группой Sun Yat-sen University в рамках проекта FuseChat. Это целевая модель, полученная лёгким дообучением для попарного слияния знаний OpenChat-3.5-7B и Starling-LM-7B-alpha; архитектура — плотная Mistral с 7,1 млрд параметров. В README она описана как компонент для объединения с другими целевыми моделями FuseChat в единую чат-модель. Модель предназначена для ответов на вопросы, выполнения текстовых инструкций и диалогового общения. Она принимает текст и генерирует текст, поддерживает английский язык и контекст до 8192 токенов. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. README приводит результаты MT-Bench для итоговой FuseChat-7B-v2.0, но не отдельную оценку этого целевого чекпойнта, поэтому эти показатели нельзя напрямую переносить на данную модель. Качество ответов может зависеть от шаблона диалога и сценария применения.
Это GGUF-представление модели opencsg/csg-wukong-1B-sft-bf16, подготовленное Featherless AI. Базовая модель — дообученная OpenCSG модель семейства Wukong с 1 млрд параметров; репозиторий содержит файлы GGUF в нескольких вариантах квантования, а метаданные указывают формат BF16. Модель предназначена для генерации текста и диалогового общения. Её можно использовать для развёртывания чат-модели через совместимые с GGUF инструменты. Доступны варианты файлов IQ4_XS, Q2_K и Q3_K_L; квантование позволяет выбирать компромисс между размером файла и точностью. Лицензия в предоставленных данных не указана.
OpenELM-1_1B — плотная авторегрессионная языковая модель семейства OpenELM, разработанная Apple. Вариант содержит 1,1 млрд параметров и использует послойную стратегию распределения параметров в трансформере, рассчитанную на повышение эффективности и точности. Модель предназначена для генерации текста и исследовательских экспериментов с языковыми моделями; семейство также включает отдельно настроенные по инструкциям варианты, но карточка этого репозитория не указывает, что данный вариант прошёл такую настройку. Модель предварительно обучена на смеси RefinedWeb, дедуплицированного PILE и подмножеств RedPajama и Dolma v1.6 общим объёмом около 1,8 трлн токенов. Веса опубликованы в формате safetensors и распространяются по лицензии Apple AMLR. README не сообщает длину контекста или список поддерживаемых языков. Разработчики предупреждают, что модель может выдавать неточные, вредные, предвзятые или неприемлемые ответы; для практического применения нужны проверки безопасности и фильтрация. Также следует учитывать лицензии и условия использования обучающих наборов данных.
OpenMythos — дообученная разговорная модель для генерации текста, созданная участником хакатона build-small-hackathon на базе Qwen/Qwen3.6-27B. Она предназначена для диалогов и текстовых запросов; среди датасетов для дообучения указаны подробные данные об уязвимостях CVE и отфильтрованный набор ArvixImport-Final. Модель использует архитектуру Qwen3_5ForCausalLM, содержит 22,3 млрд параметров и поддерживает контекст до 262 144 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка модели не описывает результаты оценки качества и конкретные ограничения, поэтому её специализацию на кибербезопасности или научных текстах следует считать предположительной по названиям датасетов.
Модель ali-elganzory/open-sci-ref-v0.02-1.7b-fineweb-edu-1.4t-mv_reasoning-300B-4096-longsft_16k-SFT-Tulu3-decontam — дообученная на TRL версия модели ali-elganzory/open-sci-ref-v0.02-1.7b-fineweb-edu-1.4t-mv_reasoning-300B-4096-longsft_16k. Это плотная авторегрессионная модель семейства OpenSci с 1,7 млрд параметров, предназначенная для генерации текста в диалоговом формате. Контекстное окно составляет 16 384 токена; модель запускается через Transformers. Её можно применять для ответов на вопросы, диалогов и генерации текста по запросу. Пример в карточке показывает вопрос общего характера и генерацию продолжения, но подробные сведения о данных дообучения и оценке качества отсутствуют. Условия лицензии в предоставленных данных не указаны.
ali-elganzory выпустил OpenSci Ref v0.02 1.7B, дообученную версию модели ali-elganzory/open-sci-ref-v0.02-1.7b-mixturevitae-300B-4096-longsft_16k. Это плотная авторегрессионная языковая модель с архитектурой OpensciForCausalLM, рассчитанная на генерацию текста и диалоговое взаимодействие. Модель содержит 1,7 млрд параметров, принимает текст и поддерживает контекст до 16 384 токенов. Модель можно применять для ответов на вопросы и генерации продолжений текста в диалоговом формате. В README указано, что она дообучена с помощью TRL. Карточка не описывает конкретные специализированные области, языки или датасеты. Лицензия в предоставленных данных не указана.
OpenSci Ref v0.02 — диалоговая языковая модель с плотной архитектурой OpensciForCausalLM и 1,7 млрд параметров, разработанная ali-elganzory. Это дообученная версия модели ali-elganzory/open-sci-ref-v0.02-1.7b-mixturevitae-noinstruct-300B-4096-longsft_16k-SFT-Tulu3-decontaminated: README указывает на обучение с TRL, а метаданные — на DPO. Модель предназначена для генерации текста и диалоговых ответов; пример запуска использует Transformers pipeline text-generation и передаёт сообщения в формате user/assistant. Контекстное окно составляет 16 384 токена, веса доступны в формате Safetensors. Языки и специализированные области применения в предоставленных данных не обозначены. Лицензия в предоставленных источниках не указана.
OpenSci — диалоговая модель для генерации текста, дообученная Ali Elganzory на базе ali-elganzory/open-sci-ref-v0.02-1.7b-nemotron-hq-mv_reasoning-300B-4096-longsft_16k-SFT-Tulu3-decontaminated с использованием TRL и DPO. Модель содержит 1,7 млрд параметров, использует плотную архитектуру OpensciForCausalLM и принимает запросы в формате диалога. Контекст составляет до 16 384 токенов. Модель подходит для ответов на вопросы и диалогового взаимодействия в сценариях, где требуется текстовая генерация. Доступна в формате safetensors для библиотеки Transformers. Карточка не сообщает отдельные целевые языки или специализированные области применения, а также не приводит условия лицензии.
bartowski/OpenThinker-7B-GGUF — набор квантизированных GGUF-версий модели OpenThinker-7B, разработанной open-thoughts. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Квантизация выполнена с использованием llama.cpp и метода imatrix на основе набора данных open-thoughts/open-thoughts-114k. Доступны версии с точностью от F32 и F16 до различных вариантов Q8, Q6, Q5, Q4, Q3, Q2 и IQ-квантизации. Размер файлов варьируется примерно от 3,02 до 30,47 ГБ; варианты с более высокой точностью обычно обеспечивают лучшее качество, а менее точные требуют меньше оперативной памяти. В README не указаны архитектура исходной модели, поддерживаемые языки, размер контекста и мультимодальные возможности, поэтому эти характеристики нельзя подтвердить. Модель подходит для локальной текстовой генерации при выборе квантизации под доступные ресурсы. Сильной стороной является широкий выбор форматов и возможность запуска на совместимом локальном оборудовании, однако квантизация может снижать качество по сравнению с исходными весами, особенно в компактных вариантах. Распространяется по лицензии Apache-2.0.
Helsinki-NLP/opus-mt-en-mul — модель машинного перевода из семейства OPUS-MT, опубликованная Helsinki-NLP на основе корпуса Tatoeba-Challenge. Она переводит текст с английского на множество целевых языков; язык перевода задаётся специальным токеном в начале входа в формате `>>id<<`, где id — код целевого языка. Модель построена на архитектуре Transformer и реализована как MarianMTModel. Веса доступны в форматах PyTorch и TensorFlow; размер составляет 58 млн параметров, длина контекста — 512 токенов. Модель предназначена для перевода предложений и коротких текстов с английского на сотни языков, включая русский. Карточка приводит оценки BLEU и chr-F на нескольких тестовых наборах, однако качество зависит от целевого языка и может быть низким для отдельных языковых пар. Для лицензии Apache-2.0 разрешено использование на её условиях.
Helsinki-NLP разработала эту модель машинного перевода в рамках проекта OPUS-MT. Она переводит текст с английского на французский и подходит для перевода предложений и документов, а также для интеграции в приложения на базе Transformers. Модель использует архитектуру Transformer-big семейства Marian и насчитывает 155 млн параметров. Она обучена на данных OPUS с применением обратного перевода; для токенизации используется SentencePiece с словарями по 32 тыс. токенов. Родная длина контекста — 1024 токена. В README приведены результаты оценки на тестовых наборах Tatoeba, FLORES-101 и Multi30k. Модель предназначена для пары английский–французский и не заявлена для других языков или задач. Для перевода критически важных текстов качество следует проверять отдельно, поскольку приведённые метрики относятся к указанным тестовым наборам. Лицензия — CC-BY-4.0.
Ornith-1.5-35B-A3B-abliterated-NVFP4 — квантованная версия языковой модели Ornith-1.5-35B-A3B, разработанной ornith-ai, с изменёнными весами от pottokao. Из модели удалено направление, связанное с отказами в ответах, поэтому она не реализует стандартное защитное поведение и предназначена для исследовательских и прикладных сценариев генерации текста, где требуется меньше ограничений на содержание. Модель работает только с текстом: в сборке отсутствуют vision tower и MTP head. Это MoE-модель с заявленным размером 35B и активной частью около 3B параметров; архитектура сочетает слои линейного внимания Mamba-типа и обычного self-attention. Основная часть весов использует NVFP4 W4A16 с group size 16, отдельные проекции — FP8 W8A8, а некоторые компоненты сохранены в BF16. Поддерживается запуск через Transformers и vLLM; автор проверял работу на двух GPU RTX 5070 Ti по 16 ГБ, с контекстом до 131 072 токенов в указанной конфигурации и FP8 KV-кэшем. Для ускорения генерации предусмотрено использование speculative decoding с DFlash. К сильным сторонам относятся относительно небольшое потребление памяти для модели такого класса, возможность запуска на двух потребительских GPU, большой доступный контекст и интеграция с vLLM. Ограничения включают текстовую модальность, отсутствие защитных отказов, зависимость производительности от специализированных NVFP4/FP8-ядер и настроек vLLM, а также ограниченный бюджет KV-кэша при нескольких параллельных запросах. Модель распространяется по лицензии MIT; лицензия включённых компонентов и черновой модели DFlash может регулироваться отдельно.
el4/Ornith-1.5-35B-A3B-ONYX-GGUF — это квантизированная GGUF-версия модели Ornith-1.5-35B-A3B от ornith-ai, подготовленная в рамках проекта ONYX. Модель предназначена для генерации текста и, судя по заявленным меткам, ориентирована на задачи рассуждений и локальный запуск через llama.cpp или Ollama. Архитектура исходной модели относится к классу Mixture-of-Experts (MoE), однако точные сведения о числе экспертов, активных параметрах, поддерживаемых языках, контекстном окне и мультимодальности в README не указаны. Ключевая особенность сборки — адаптивная квантизация ONYX, учитывающая чувствительность отдельных слоёв, вероятности маршрутизации MoE и масштабы активаций. Это позволяет сильнее сжимать менее востребованные эксперты и лучше сохранять параметры критически важных компонентов. Доступны варианты quality, balanced, compact и mini с ориентировочными размерами от 12 до 24 ГБ и различными типами квантизации, что даёт выбор между качеством, размером и требованиями к памяти. README не содержит сведений о лицензии, результатах бенчмарков или подтверждённых ограничениях качества.
Ornith-1.5-35B-A3B-TIEL-Calibrated-MTPv2-ICE-GGUF — набор из четырёх GGUF-квантизированных вариантов модели Ornith-1.5-35B-A3B, разработанной ornith-ai и подготовленной gbuzhf. Модель предназначена для генерации текста и запуска локально через llama.cpp. Варианты занимают примерно от 18,82 до 24,84 ГБ и используют метод ICE-квантизации с калибровкой по importance matrix Tiel. В каждый файл встроена обученная MTPv2 head для self-speculative decoding, поэтому отдельная draft-модель не требуется; также используется чат-шаблон Qwen-Sharp v22.4.1. Архитектура включает Mixture-of-Experts с 256 экспертами, SSM-компоненты и attention с KV-кэшем. Для вариантов указаны разные эффективные разрядности: от 4,240 до 7,686 active bpw. Наиболее качественным среди представленных является 25G-ICE с overall 96,1 относительно BF16, mean KLD 0,0284 и совпадением top-1 в 93,44%; 23G-ICE заявлен как наиболее выгодный по соотношению размера и качества. Измерения выполнены на WikiText-2 при контексте 2048, поэтому они не характеризуют все практические сценарии генерации. Сильными сторонами являются хорошее сохранение качества в диапазоне 19–23 ГБ, оптимизация распределения битов с учётом MoE-маршрутизации и встроенная поддержка MTPv2. Ограничения — зависимость качества от выбранного уровня квантизации, отсутствие данных о поддерживаемых языках, максимальном контексте и специализированных задачах, а также преимущество ICE над другими методами подтверждено только описанным тестированием. Лицензия модели — MIT.
Ornstein-Hermes-3.6-27b-SABER-i1-GGUF — квантизированная версия текстовой генеративной модели Ornstein-Hermes-3.6-27b-SABER, разработанной GestaltLabs и подготовленной в формате GGUF пользователем mradermacher. Модель предназначена для генерации текста и может использоваться в локальных приложениях и инструментах, совместимых с GGUF. В метаданных также указаны направления refusal shaping, model editing и abliteration. Модель имеет размер 27 миллиардов параметров и поддерживает английский язык. Архитектура, максимальная длина контекста и сведения о мультимодальности в README не указаны; по доступным данным это текстовая, а не мультимодальная модель. Предлагается широкий набор вариантов квантизации от IQ1 и Q2 до Q6, различающихся размером, скоростью и качеством. Для баланса размера, скорости и качества рекомендуются i1-Q4_K_S и особенно i1-Q4_K_M, тогда как наиболее низкобитные варианты могут заметно уступать по качеству. Сильной стороной модели является возможность запуска в уменьшенном формате на совместимом локальном оборудовании и выбор между множеством уровней квантизации. Ограничения включают возможную потерю качества при агрессивной квантизации, отсутствие подробных сведений о возможностях и результатах оценки, а также неуточнённые требования к аппаратным ресурсам. Лицензия обозначена как other, но её конкретные условия в README не приведены.
Ouro-1.4B-Thinking-depth-GRPO — дообученная модель omar81939 на базе ByteDance/Ouro-1.4B-Thinking. Это плотная авторегрессионная языковая модель семейства Ouro с архитектурой OuroForCausalLM, предназначенная для генерации текста и диалоговых ответов с рассуждениями. В названии и метаданных отмечены GRPO и рекуррентная глубина; README содержит пример загрузки через Transformers и задаёт параметр DEPTH=16. Модель содержит 1,3 млрд параметров, работает с контекстом до 65 536 токенов и распространяется в формате safetensors. Указаны сценарии математических задач и общения; базовая модель также предназначена для рассуждений в науке и коде. Данные не подтверждают отдельную специализацию этой версии за пределами генерации текста и диалога. Модель подходит для экспериментов и приложений, которым нужна компактная генерация текста с длинным контекстом. Лицензия Apache-2.0.
SRDdev/Paraphrase — англоязычная модель SRD для перефразирования предложений. Это модель типа sequence-to-sequence на архитектуре T5 с 123,8 млн параметров и контекстом до 512 токенов. Она принимает текст и генерирует варианты формулировки; может использоваться для переписывания текста, генерации данных и других задач обработки естественного языка. Обучена на датасете SQUAD. Модель распространяется в формате PyTorch по лицензии Apache-2.0. Качество вариантов может различаться: перефразирование иногда меняет смысл или оказывается несвязным. На длинных и сложных предложениях результат может быть хуже, а небольшие изменения во входной формулировке способны менять выход.
Aleph Alpha Pharia-1-LLM-7B-control-hf — конверсия модели Pharia-1-LLM-7B-control в формат safetensors для Transformers. Это плотная авторегрессионная языковая модель семейства Pharia v1 с 8,7 млрд параметров, контекстом до 8192 токенов и поддержкой диалогового взаимодействия. Она предназначена для генерации текста в формате общения. В карточке репозитория приведена ссылка на общую карточку модели Pharia-1-LLM-7B-control и Pharia-1-LLM-control-aligned, но её содержание здесь отсутствует; дополнительные сценарии, языки и свойства управления подтвердить нельзя. Репозиторий указывает лицензию «other», поэтому конкретные условия использования по имеющимся данным определить нельзя.
Это размещённая пользователем копия модели Microsoft Phi-2 — плотной авторегрессионной языковой модели семейства MixFormer Sequential для генерации текста. Она предназначена для продолжения текста и других задач генерации на основе текстового запроса. Репозиторий содержит веса PyTorch; контекст модели составляет 2048 токенов. Карточка не приводит отдельной настройки или дополнительного обучения этой копии, поэтому её следует рассматривать как публикацию базовой Phi-2. Лицензия Microsoft Research разрешает использование модели только в некоммерческих исследовательских целях и запрещает распространять модель или предоставлять её как самостоятельный хостинг-сервис. README не описывает специальные домены или языковую специализацию.
Phi-3.5-Hyper-Mix — объединённая языковая модель семейства Phi-3.5, созданная bunnycore с помощью mergekit и метода TIES. В качестве базовой модели использована ArliAI/Phi-3.5-mini-3.8B-ArliAI-RPMax-v1.1; в объединение также вошли модели для инструктивного программирования, ролевых диалогов, творческого письма и системных инструкций. Модель предназначена для генерации текста и диалоговых сценариев, включая ролевое общение, творческое письмо и ответы на инструкции. Это плотная причинно-языковая архитектура Phi3ForCausalLM примерно на 3,7 млрд параметров с контекстом до 4096 токенов. Для загрузки используются Transformers и формат safetensors. Карточка не сообщает о специальной мультимодальности или лицензии. Качество и поведение модели могут различаться по задачам, поскольку она объединяет несколько источников; отдельные ограничения и результаты оценки не приведены.
Модель magnifi/phi-3-mini-4k-instruct-attribute-output-4-0524-epoch20 — дообученная magnifi версия Phi-3-mini-4k-instruct-bnb-4bit для генерации текста в диалоговом формате. Она содержит 3,7 млрд параметров, использует плотную архитектуру MistralForCausalLM и принимает текст с контекстом до 4096 токенов. В карточке указано, что модель обучалась с использованием Unsloth и TRL. Модель подходит для генерации ответов и других текстовых продолжений в сценариях общения. README не описывает специализацию на конкретной задаче атрибуции или формат выходных данных, поэтому такие возможности нельзя считать подтверждёнными. Модель распространяется по лицензии Apache 2.0.
Карточка модели magnifi/phi-3-mini-4k-instruct-attribute-output-4-0530-epoch10-v7 на Hugging Face совпадает с карточкой magnifi/phi-3-mini-4k-instruct-attribute-output-4-0524-epoch20, поэтому описание составлено по ней. Модель magnifi/phi-3-mini-4k-instruct-attribute-output-4-0524-epoch20 — дообученная magnifi версия Phi-3-mini-4k-instruct-bnb-4bit для генерации текста в диалоговом формате. Она содержит 3,7 млрд параметров, использует плотную архитектуру MistralForCausalLM и принимает текст с контекстом до 4096 токенов. В карточке указано, что модель обучалась с использованием Unsloth и TRL. Модель подходит для генерации ответов и других текстовых продолжений в сценариях общения. README не описывает специализацию на конкретной задаче атрибуции или формат выходных данных, поэтому такие возможности нельзя считать подтверждёнными. Модель распространяется по лицензии Apache 2.0.
Это квантизированная версия языковой модели Phi-3-mini-4K-instruct-cpo-simpo в формате GGUF. Исходную модель разработал Syed-Hasan-8503, а файлы GGUF подготовил MaziyarPanahi. Модель предназначена для генерации текста и работы с инструкциями, включая локальные чат-сценарии и другие задачи text generation. Модель использует контекст размером 4K токенов; её точный размер, архитектура, поддерживаемые языки и модальности в README не указаны. Доступны варианты квантизации от 2 до 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к ресурсам и качеством. Формат GGUF поддерживается llama.cpp и рядом совместимых приложений и библиотек, включая llama-cpp-python, LM Studio и text-generation-webui, что упрощает локальный запуск с возможным GPU-ускорением. README не содержит сведений о лицензии, результатах тестирования, сильных сторонах и ограничениях исходной модели. Поэтому качество, область языковой применимости и практические требования к оборудованию следует оценивать отдельно.
Модель tbhrc/phi_3_mini_4k_instruct_unsloth_4bit — конверсия Phi-3-mini-4k-instruct в формат MLX, выполненная на основе unsloth/Phi-3-mini-4k-instruct с помощью mlx-lm версии 0.13.0. Это плотная языковая модель с архитектурой MistralForCausalLM, примерно 3,7 млрд параметров, предназначенная для генерации текста и диалогового использования. Контекст модели составляет 4096 токенов; в метаданных указан английский язык. Для использования в исходной карточке предлагается библиотека mlx-lm. Модель подходит для диалоговых ответов, генерации и продолжения текста на английском языке. В README описана конверсия в MLX, однако метаданные репозитория указывают формат файлов safetensors. Лицензия — MIT. Практический контекст ограничен 4096 токенами; README не приводит дополнительных сведений о качестве или специальных ограничениях применения.
bunnycore/Phi-4-ReasoningRP — разговорная модель на архитектуре Llama, созданная слиянием Phi-4-Model-Stock-v4 и Phi-4-14B-1M-RRP-v1-lora методом Passthrough. По карточке, модель рассчитана на ролевые диалоги и задачи, где полезны пошаговые объяснения; формат reasoning можно включить системным промптом. Разработчик отмечает, что это умеренное усиление рассуждений Phi-4, а не замена специализированным моделям рассуждения. Модель содержит 14,1 млрд параметров, принимает текст и генерирует текст, поддерживает контекст до 16 384 токенов. В карточке приведены результаты отдельных тестов Open LLM Leaderboard, включая IFEval и BBH. Репозиторий использует Transformers и формат safetensors; лицензия — MIT. В README не перечислены поддерживаемые естественные языки.
pikus-pikantny-7B-dare — англоязычная плотная языковая модель семейства Mistral с 7,1 млрд параметров, созданная CorticalStack слиянием четырёх моделей методом DARE TIES с помощью mergekit. Базой слияния служит bardsai/jaskier-7b-dpo-v5.6; также использованы mlabonne/NeuralDaredevil-7B, Gille/StrangeMerges_21-7B-slerp и CultriX/NeuralTrix-7B-dpo. Репозиторий содержит веса safetensors в формате bfloat16, а заявленная длина контекста составляет 32 768 токенов. Модель предназначена для генерации текста и ответов на запросы. Её можно применять в англоязычном диалоге, при создании черновиков и продолжении текста. Слияние объединяет параметры нескольких моделей, однако карточка не приводит сравнительных оценок качества или описания отдельных способностей итоговой модели. Лицензия — Apache-2.0. Данных о поддержке других языков и специальных предметных областях в карточке нет.
Pluto24BDPO63 — языковая модель, дообученная автором репозитория на основе cloudyu/Mixtral_7Bx2_MoE. Она предназначена для генерации текста и диалоговых сценариев. Модель использует архитектуру Mixtral с разреженной смесью экспертов (MoE), содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Дообучение методом DPO проведено в течение одной эпохи на наборе jondurbin/truthy-dpo-v0.1. Модель распространяется в формате safetensors по лицензии Apache-2.0. В карточке не приведены результаты оценки качества или подробные сведения о языковом охвате.
Pygmalion 2 13B SuperCOT — это языковая модель для генерации текста, разработанная The Royal Lab и опубликованная в формате GGUF компанией TheBloke. Модель основана на архитектуре Llama и предназначена для выполнения текстовых инструкций и формирования ответов по шаблону Alpaca. Модель содержит 13 миллиардов параметров и ориентирована на англоязычные сценарии. GGUF-версия поддерживает различные варианты квантования от 2 до 8 бит, что позволяет запускать её на CPU и GPU с использованием llama.cpp, text-generation-webui, KoboldCpp, LM Studio и совместимых библиотек. Модель относится к классу text-generation; другие модальности и размер контекстного окна в README не указаны. К сильным сторонам относятся возможность локального запуска, поддержка нескольких уровней квантования и совместимость с широким набором инструментов. Ограничениями являются зависимость характеристик качества и требований к ресурсам от выбранного варианта квантования, а также отсутствие в README подробных оценок качества и данных о контекстном окне. Указанная лицензия — Llama 2.
Dahoas/pythia-1B-static-sft — языковая модель, опубликованная разработчиком Dahoas на Hugging Face. Она основана на архитектуре GPT-NeoX и предназначена для генерации текста после supervised fine-tuning (SFT), то есть для продолжения входного текста и выдачи ответов в сценариях, где требуется авторегрессионная генерация.
Lambda дообучила языковую модель EleutherAI/pythia-2.8b-deduped на наборе Dahoas/synthetic-instruct-gptj-pairwise, содержащем синтетические инструкции и парные примеры. Модель построена на архитектуре GPT-NeoX и предназначена для генерации текста с учётом инструкций на английском языке. Модель содержит 3,5 млрд параметров, принимает текст и выдаёт текст; длина контекста составляет 2048 токенов. Для инференса требуется около 7 ГБ видеопамяти. Модель распространяется по лицензии Apache 2.0.