II.6Документация и сопровождение разработки
В разделе собраны самостоятельные задачи, где AI помогает поддерживать понятную техническую документацию и ускорять передачу знаний. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
38 015 моделейAfriGuardPlain-tiny-aya-global-lora-merged — дообученная модель CohereLabs, созданная на базе CohereLabs/tiny-aya-global для безопасных диалоговых ответов. Она обучалась на наборе adzcai/AfriGuard-plain: на безопасные запросы должна давать полезный ответ, а на небезопасные — кратко отказывать, не выводя метку безопасности. LoRA-адаптер ранга 16 применялся ко всем линейным слоям, затем его веса были объединены с базовой моделью. Модель имеет плотную архитектуру Cohere2ForCausalLM на 3,3 млрд параметров, принимает текст и поддерживает контекст до 8192 токенов. Предназначена для диалоговых сценариев, где требуется прямой ответ или отказ без отдельной системной инструкции безопасности и без меток в выводе. В карточке указана лицензия CC BY-NC 4.0, которая ограничивает использование некоммерческими условиями.
dQwen3.5-4B-Base — базовая маскированная диффузионная языковая модель, адаптированная из Qwen3.5-4B. Её разработчик описывает гибридную архитектуру: слои внимания сделаны двунаправленными, а слои Gated DeltaNet остаются причинными. Модель содержит около 3,4 млрд параметров по метаданным; в README приведена оценка 4,21 млрд. Она рассчитана на генерацию текста и не проходила инструкционное дообучение. Модель может служить основой для экспериментов с диффузионной генерацией текста и для последующего дообучения под прикладные сценарии. Метаданные указывают контекстное окно 262 144 токена, библиотеку Transformers и формат весов safetensors. Для запуска README указывает CUDA GPU, transformers версии 5.13 или новее и дополнительные зависимости для тестированной конфигурации. Лицензия — Apache-2.0. Это текстовая модель общего назначения; карточка не подтверждает поддержку изображений или иных модальностей самой производной моделью. Поскольку это базовая модель без инструкционного дообучения, она может хуже выполнять прямые пользовательские инструкции и не предназначена как готовый диалоговый помощник.
rwl4/gpt2-medium-chat — дообученная на датасете Alpaca модель GPT-2 Medium для генерации диалоговых ответов с использованием специальных токенов чата. Она предназначена для общения с пользователем и ответов на вопросы в формате system/user/assistant. Модель использует архитектуру GPT2LMHeadModel, принимает и генерирует текст, а её контекст ограничен 1024 токенами. В примере README ответ содержит фактические ошибки, поэтому качество ответов требует проверки. Лицензия модели — MIT.
Карточка модели allenai/intent-aware-lfqa-qwen3-4b-baseline на Hugging Face совпадает с карточкой allenai/intent-aware-lfqa-llama3-8b-intent-implicit, поэтому описание составлено по ней. allenai/intent-aware-lfqa-llama3-8b-intent-implicit — диалоговая языковая модель Allen Institute for AI (Ai2), созданная дистилляцией для исследований обучения с учётом намерений в длинных ответах на вопросы. Модель основана на Meta-Llama-3-8B-Instruct и имеет архитектуру LlamaForCausalLM с 7,5 млрд параметров; принимает текст и генерирует текст. Метаданные указывают английский язык и контекст до 131 072 токенов. Модель предназначена для исследовательского и образовательного применения, связанного с intent-aware обучением и генерацией ответов на вопросы. Карточка сообщает, что результаты будут добавлены позднее, поэтому она не подтверждает качество на конкретных тестах. Лицензия — ODC-BY; применение должно соответствовать рекомендациям Ai2 по ответственному использованию.
Карточка модели allenai/intent-aware-lfqa-qwen3-8b-baseline на Hugging Face совпадает с карточкой allenai/intent-aware-lfqa-llama3-8b-intent-implicit, поэтому описание составлено по ней. allenai/intent-aware-lfqa-llama3-8b-intent-implicit — диалоговая языковая модель Allen Institute for AI (Ai2), созданная дистилляцией для исследований обучения с учётом намерений в длинных ответах на вопросы. Модель основана на Meta-Llama-3-8B-Instruct и имеет архитектуру LlamaForCausalLM с 7,5 млрд параметров; принимает текст и генерирует текст. Метаданные указывают английский язык и контекст до 131 072 токенов. Модель предназначена для исследовательского и образовательного применения, связанного с intent-aware обучением и генерацией ответов на вопросы. Карточка сообщает, что результаты будут добавлены позднее, поэтому она не подтверждает качество на конкретных тестах. Лицензия — ODC-BY; применение должно соответствовать рекомендациям Ai2 по ответственному использованию.
Карточка модели allenai/intent-aware-lfqa-qwen3-8b-intent-explicit на Hugging Face совпадает с карточкой allenai/intent-aware-lfqa-llama3-8b-intent-implicit, поэтому описание составлено по ней. allenai/intent-aware-lfqa-llama3-8b-intent-implicit — диалоговая языковая модель Allen Institute for AI (Ai2), созданная дистилляцией для исследований обучения с учётом намерений в длинных ответах на вопросы. Модель основана на Meta-Llama-3-8B-Instruct и имеет архитектуру LlamaForCausalLM с 7,5 млрд параметров; принимает текст и генерирует текст. Метаданные указывают английский язык и контекст до 131 072 токенов. Модель предназначена для исследовательского и образовательного применения, связанного с intent-aware обучением и генерацией ответов на вопросы. Карточка сообщает, что результаты будут добавлены позднее, поэтому она не подтверждает качество на конкретных тестах. Лицензия — ODC-BY; применение должно соответствовать рекомендациям Ai2 по ответственному использованию.
Lite-Mistral-150M-v2-Instruct — компактная языковая модель OuteAI на архитектуре Mistral с плотной архитектурой и примерно 131,3 млн параметров по метаданным. Она предназначена для генерации текста в диалоговом формате и рассчитана на работу на устройствах с ограниченными ресурсами. Модель обучалась примерно на 8 млрд токенов; заявленный контекст — 2048 токенов. Для диалога требуется использовать указанный в карточке шаблон с ролями system, user и assistant. Модель может отвечать на простые вопросы и поддерживать несложные диалоги, однако из-за небольшого размера способна терять контекст в многоходовом общении и выдавать непоследовательные или неточные ответы, особенно в сложных и тонких сценариях. Репозиторий содержит веса Safetensors. Лицензия — Apache-2.0.
Miniguanaco-7b — языковая модель семейства Llama, созданная mlabonne на основе Llama-2-7b-chat-hf. Модель дообучена методом QLoRA на наборе mlabonne/guanaco-llama2-1k, подмножестве timdettmers/openassistant-guanaco. Это плотная авторегрессионная архитектура LlamaForCausalLM примерно с 6,6 млрд параметров и контекстом до 4096 токенов. Модель генерирует текст по текстовому запросу и подходит для экспериментов с диалоговыми ответами, инструкциями и базовой генерацией текста. В карточке приведён пример связного объяснительного ответа. Автор позиционирует её главным образом как учебную модель и не рекомендует для инференса. Лицензия — Apache-2.0.
onebee-gf-dpo-v1-scale — мультимодальная модель-компаньон на базе Gemma 4 E2B IT от Google, дообученная автором репозитория методом DPO с LoRA-адаптером ранга 16 на 2049 парах предпочтений. Архитектура поддерживает текст и изображения; модель предназначена для диалогов в стиле компаньона и выдачи ответов с настройкой предпочтений. В метаданных указана задача image-text-to-text, библиотека Transformers и формат safetensors. Автор сообщает, что на парном сравнении с SFT-only модель получила 45,7% побед против 21,0% на 105 пробах. Это исследовательский чекпойнт с одним запуском обучения; заявленный результат не является полной оценкой бенчмарка. Модель также предназначена для дальнейшей дистилляции или квантизации. Лицензия — Apache-2.0.
ORANSight Gemma-9B — разговорная языковая модель, дообученная лабораторией NextG при Университете штата Северная Каролина на базе Gemma 2 9B Instruct с использованием Unsloth. Модель предназначена для ответов на вопросы и объяснения тем, связанных с O-RAN и телекоммуникационными интерфейсами; в карточке приведён пример запроса об интерфейсе E2. Модель построена на плотной архитектуре Gemma 2, содержит 9 млрд параметров и принимает текстовые запросы, выдавая текст. Контекстное окно составляет 8192 токена. Карточка указывает английский язык. Модель распространяется по лицензии Gemma.
OTel-LLM-1.2B-IT — компактная плотная языковая модель семейства LFM2, разработанная в рамках инициативы Open Telco AI и дообученная с полным обновлением параметров на телекоммуникационных данных OTel-LLM. Она предназначена для генерации ответов на основе найденного контекста в RAG-системах, работающих с телекоммуникационными материалами, включая стандарты, технические документы и исследования. В метаданных указаны 1,5 млрд параметров и контекст до 128 000 токенов; модель принимает и генерирует текст, поддерживает диалог и рассчитана на английский язык. В оценке на отложенной части OTel-LLM модель набрала 74,4% по оценке корректности ответов с контекстом против 66,4% у базовой модели. Эти результаты относятся к генерации ответов по предоставленному контексту и не подтверждают качество свободных ответов без него; качество также зависит от поиска, ранжирования и инструкции. Модель специализирована на телекоммуникациях, поэтому её ответы следует проверять перед операционным, клиентским, нормативным или конфигурационным применением. Лицензия репозитория — Apache-2.0; также необходимо соблюдать условия лицензии или использования базовой модели LiquidAI/LFM2.5-1.2B-Instruct.
Qwen3-1.7B-base-MED-ChatVector — языковая модель для генерации текста, опубликованная пользователем minjae777 на Hugging Face. Модель имеет 1,7 млрд параметров, работает через библиотеку Transformers и поддерживает контекст до 40 960 токенов. По доступным метаданным модель предназначена для задач генерации текста и диалоговых сценариев. Название указывает на медицинскую и чат-ориентированную специализацию, однако README не содержит подробностей о данных обучения, методе дообучения, архитектурных изменениях, результатах оценки или рекомендуемых сценариях применения. Лицензия в предоставленных данных не указана. Перед использованием в медицинских или других критически важных задачах необходимы отдельная проверка качества, безопасности и фактической точности ответов.
Экспериментальная разговорная модель Raghav Singhal из проекта One Persona Pretraining (1PP), созданная в рамках исследования EPFL DLAB. Это плотная Llama-подобная авторегрессионная модель с 523,8 млн параметров и контекстом 4096 токенов. Она обучалась на переписанных диалогах, где функция потерь применялась к ответам ассистента, а затем прошла supervised fine-tuning на смеси многоходовых диалогов и данных по безопасности. Модель предназначена для генерации ответов в диалоговом формате ChatML и изучения влияния способа предобучения на разговорное поведение. Она обучалась преимущественно на англоязычных данных; шаблон чата не включает системный ход, и модель не обучалась на нём. Авторы отмечают, что это исследовательский артефакт, а не универсальный помощник. Репозиторий содержит веса SafeTensors и использует лицензию Apache-2.0.
BAAR2.3-3M — разработанная автором карточки сверхкомпактная плотная языковая модель для диалоговой генерации текста в условиях ограниченных вычислительных ресурсов, например на встроенных устройствах и локальных edge-платформах. В README модель названа базовым предварительно обученным чекпойнтом; метаданные указывают архитектуру BAAR25_3M семейства baar25_gau, 7,7 млн параметров и контекст 512 токенов. Несмотря на название 3M, в метаданных указано 7,7 млн параметров. Модель заявлена как многоязычная и ориентирована на 11 языков: корейский, английский, японский, китайский, испанский, португальский, немецкий, русский, хинди, вьетнамский и тайский. Основная задача в метаданных — генерация текста; в примерах README есть вопросы и ответы и запрос на перевод, а также заявлено применение в лёгких RAG-системах. В приведённых примерах качество ответов выглядит нестабильным, поэтому для точных фактических ответов и специализированных задач автор рекомендует дообучение или использование с RAG. Лицензия указана как некоммерческая; для коммерческого применения предлагается связаться с разработчиком.
BananaMind 2.1 Lite — компактная причинная языковая модель Banaxi-Tech, опубликованная как чекпойнты обучения AdamW. Она предназначена для генерации текста и экспериментов с языковыми моделями класса до 25 млн параметров. В архитектуре — 13 физических слоёв Transformer с 15 эффективными проходами и модуль причинных триграмм на двух хеш-таблицах; параметры токенов связаны. В README указано 24 949 999 параметров, а в метаданных — 14,1 млн, поэтому размер модели в источниках расходится. Контекст составляет 4096 токенов; используется токенизатор BananaMind 2 Nano на 8192 токена. Карточка указывает английский язык. Модель обучалась на смеси веб-текстов, синтетических данных, математических материалов и кода. Она подходит для компактной генерации текста и изучения архитектур с повторным использованием слоёв и триграммными признаками. Опубликованные файлы представлены в формате safetensors. Лицензия — Apache-2.0.
BananaMind-2-Pro-Preview-Chat — компактная диалоговая языковая модель BananaMind, созданная полным дообучением BananaMind/BananaMind-2-Pro-Preview на наборе HuggingFaceTB/smol-smoltalk в течение одной эпохи. Это плотный декодерный Transformer с 138,9 млн параметров и контекстом 3 072 токена; модель поддерживает системные инструкции и многоходовые диалоги. Для работы требуется библиотека Transformers и загрузка пользовательского кода репозитория через trust_remote_code=True. Модель предназначена для локальных чат-экспериментов, следования инструкциям, учебных демонстраций и исследований дообучения, а также экспериментов с генерацией кода и компактными языковыми моделями. В опубликованном авторами тесте BananaMind Instruct Bench 1.1 она показала лучшие среди приведённых вариантов результаты, однако общий взвешенный балл составил 27,09% на 300 заданиях, а на сложных заданиях — 8,53%; эти результаты зависят от конфигурации оценки. Карточка сообщает лицензию «other», но конкретные условия в предоставленных данных не раскрыты. Модель обучалась на англоязычных данных smol-smoltalk; подтверждена поддержка английского языка. Специального выравнивания безопасности не проводилось: возможны галлюцинации, ошибки в логике и арифметике, некорректный или небезопасный код, предвзятые и повторяющиеся ответы. Не следует использовать её для медицинских, юридических, финансовых и иных ответственных решений.
Goldfish eng_latn_100mb — одноязычная языковая модель семейства GPT-2, созданная авторами Goldfish для английского языка в латинской письменности. Модель обучена на 100 МБ текста из OSCAR 2021/09; число параметров — около 125 млн, словарь содержит 50 000 токенов, максимальная длина последовательности — 512 токенов. Формат репозитория — PyTorch, для работы используется Transformers. Модель предназначена для генерации английского текста и сопоставительных исследований языковых моделей, особенно в контексте низкоресурсных языков. Перед входным текстом рекомендуется добавлять токен [CLS], который также выполняет роль [BOS]; [SEP] завершает последовательность. Для высокоресурсного английского её качество не рассчитано на конкуренцию с современными крупными языковыми моделями. Лицензия — Apache-2.0.
GatedDeltaNet-360M-15B-SlimPajama — языковая модель puigde, обученная с нуля на 15 млрд токенов обучающей выборки SlimPajama. Она предназначена для генерации текста и исследовательских экспериментов с архитектурой GatedDeltaNet, сочетающей скалярное управление затуханием с delta rule для выборочной записи в память. Модель содержит около 341 млн параметров по метаданным (357,8 млн по README), имеет 21 слой и скрытый размер 1024. Она использует плотную архитектуру GatedDeltaNet для причинного языкового моделирования, токенизатор Llama с словарём 32 000 токенов и контекст до 2048 токенов. Обучающие данные — SlimPajama; карточка указывает английский язык. Модель подходит для экспериментов по генерации текста и оценки компактных языковых моделей. В README приведены результаты zero-shot тестов и оценки RULER на контексте 2k. Разработчик указывает, что модель предназначена только для исследований, а не для промышленного применения. Лицензия — Apache-2.0.
Карточка модели allenai/intent-aware-lfqa-qwen3-4b-intent-explicit на Hugging Face совпадает с карточкой allenai/intent-aware-lfqa-llama3-8b-intent-implicit, поэтому описание составлено по ней. allenai/intent-aware-lfqa-llama3-8b-intent-implicit — диалоговая языковая модель Allen Institute for AI (Ai2), созданная дистилляцией для исследований обучения с учётом намерений в длинных ответах на вопросы. Модель основана на Meta-Llama-3-8B-Instruct и имеет архитектуру LlamaForCausalLM с 7,5 млрд параметров; принимает текст и генерирует текст. Метаданные указывают английский язык и контекст до 131 072 токенов. Модель предназначена для исследовательского и образовательного применения, связанного с intent-aware обучением и генерацией ответов на вопросы. Карточка сообщает, что результаты будут добавлены позднее, поэтому она не подтверждает качество на конкретных тестах. Лицензия — ODC-BY; применение должно соответствовать рекомендациям Ai2 по ответственному использованию.
wfakhri/OTel-2.0-LLM-31B-IT-GGUF — это GGUF-квантизация телекоммуникационной instruction-модели OTel-2.0-LLM-31B-IT, основанной на Gemma 4 31B-IT. Оригинальная модель разработана для специализированных задач телеком-индустрии; квантизация выполнена с помощью llama.cpp. В создании проекта участвовали Open Telco AI, GSMA, Red Hat, Microsoft, Dell Technologies и AMD, а обучение проводилось с применением OSFT (Orthogonal Subspace Fine-Tuning) от команды Red Hat AI Innovation Team. Модель предназначена для сетевых операций, интерпретации стандартов, разработки телекоммуникационных продуктов, помощи в настройке сетей, RAG-сценариев и ответов на вопросы по телекоммуникациям. Она содержит около 31 млрд параметров и была постобучена примерно на 440 млрд телекоммуникационных токенов, включая материалы GSMA, 3GPP, O-RAN и GSMA. Максимальная длина последовательности при обучении составляла 4096 токенов. Основной поддерживаемый язык взаимодействия — английский. Архитектура модели мультимодальная: она структурно поддерживает текст и изображения, однако обучение выполнялось только на текстовых данных, поэтому возможности работы с изображениями не были адаптированы к телекоммуникационной предметной области. Сильные стороны — специализация на телеком-сценариях, работе со стандартами, RAG и instruction-following, а также применение OSFT, направленного на сохранение исходных возможностей базовой модели. Ограничения включают англоязычную специализацию, отсутствие доменной настройки визуального ввода и возможное изменение весов между выпусками: для воспроизводимости следует фиксировать ревизию, хеш контрольной точки или тег релиза. Модель распространяется по лицензии Apache 2.0, при этом в README также указана ссылка на лицензию Gemma 4, условия которой необходимо учитывать при использовании базовой модели. Репозиторий содержит квантизированные GGUF-варианты, а не исходный полноразмерный checkpoint.
face00/qwen2.5-7b-security-cot — дообученная модель face00 на базе unsloth/Qwen2.5-Coder-7B-Instruct-bnb-4bit. Это плотная авторегрессионная модель семейства Qwen2 с архитектурой Qwen2ForCausalLM и 7,1 млрд параметров. Она предназначена для генерации текста в диалоговом формате; название указывает на безопасность и пошаговое рассуждение, однако README не описывает конкретные обучающие данные, сценарии или подтверждённые возможности в этих областях. Модель поддерживает контекст до 32 768 токенов и английский язык по метаданным. README сообщает, что обучение проводилось с Unsloth и библиотекой TRL. Лицензия — Apache-2.0.
ovokat/Qwen3-4B-2507-LinuxNerd-V1 — экспериментальная дообученная версия Qwen3-4B-Instruct-2507, созданная автором ovokat. Модель обучена на подборке вопросов и ответов о Linux из общедоступных наборов данных; в README автор описывает её как раннюю пробу и отмечает, что она пока не является Linux-экспертом. Модель предназначена для диалоговых ответов на вопросы о Linux, в частности для помощи начинающим пользователям. Это плотная авторегрессионная языковая модель семейства Qwen3 с 3,7 млрд параметров, рассчитанная на контекст до 262 144 токенов. Репозиторий содержит веса Safetensors; метаданные указывают интерфейс чата и вызова инструментов. Для текстовых запросов модель генерирует текстовые ответы. Автор сообщает, что обучающие ответы в основном взяты из генераций Qwen3-235B-A22B и GPT-5, с небольшой долей GPT-4. Качество ограничено экспериментальным характером обучения и случайно собранными исходными данными; автор прямо просит не ожидать высоких результатов. Лицензия репозитория — Apache-2.0.
Telco Transformer V1 — языковая модель на архитектуре GPT-2, разработанная для текстов телекоммуникационной отрасли. Проект описывает предварительное обучение с нуля на специализированных данных, пользовательский токенизатор для телекоммуникационной лексики и последующее обучение с учителем для прикладных задач. Модель предназначена для продолжения текста и ответов на вопросы по тематике сетей радиодоступа, IP-сетей, радиосвязи, 5G и ядра сети. Модель доступна в формате PyTorch и рассчитана на контекст до 512 токенов. В README приведён результат оценки: loss 3.8171; сравнительные данные, подтверждающие заявленное превосходство над RAG или дообученными моделями, не представлены. Лицензия — MIT.
Ornith-1.0-35B-mlx-bf16 — конвертированная для Apple Silicon версия мультимодальной модели Ornith-1.0-35B, опубликованная ToPo-ToPo. Репозиторий содержит веса в формате MLX и точности bf16; модель загружается через mlx-vlm и предназначена для диалоговой работы с текстом и изображениями. Модель подходит для вопросов об изображениях и других сценариев генерации текста по визуальному и текстовому контексту. В README также описана проверка в агентном процессе CAD и конечно-элементного анализа, где геометрический результат совпал с эталонной конверсией. Для работы требуется среда MLX на Apple Silicon. Указана лицензия MIT, совпадающая с лицензией исходной модели.
OTel-Embedding-300M — англоязычная модель эмбеддингов для поиска по телекоммуникационным документам, разработанная в рамках открытой инициативы OTel Family of Models. Это плотная модель семейства Gemma 3 Text примерно с 303 млн параметров, полученная полным дообучением google/Gemma3-Embedding-300M на телекоммуникационных данных OTel. Она преобразует текстовые запросы и фрагменты документов в представления для поиска релевантных материалов; предназначена для этапа извлечения в RAG-системах по спецификациям, стандартам, RFC, техническим статьям и другим документам отрасли. Указанное окно контекста — 2048 токенов. На отложенном разделении OTel-Embedding модель показала NDCG@10 90,9% ± 0,5%, что на 18,6 процентного пункта выше базовой модели в этом тесте. Результаты относятся к внутреннему разделению датасета и не гарантируют качество на внешних наборах или во всех подотраслях. Модель специализирована на телекоммуникациях и английском языке; для эксплуатации в производственных сценариях качество следует отдельно проверять на целевых документах. Лицензия репозитория — Apache-2.0; пользователям также необходимо соблюдать лицензию или условия базовой модели.
ReverX-1-100M — экспериментальная авторегрессионная языковая модель Cortiqa с архитектурой обратимого трансформера ReverX/RevNet. Она обучена с нуля и предназначена для изучения обратимых остаточных трансформеров и экономии памяти активаций при обучении, а также для генерации текста, простых ответов на вопросы и коротких фрагментов кода. В репозитории указано 209,6 млн параметров; модель работает с текстом, а в метаданных указан английский язык и датасет tatsu-lab/alpaca. В карточке приведены примеры ответов на вопросы о фактах и научных понятиях, а также генерации простой функции на Python. Автор предупреждает о дрейфе токенов в открытой генерации и слабой пригодности для диалогов и коммерческого применения; для уменьшения повторов рекомендованы repetition_penalty не ниже 1,2 и top_p 0,85. Лицензия — MIT.
BEE-spoke-data/smol_llama-220M-openhermes — компактная языковая модель, созданная BEE-spoke-data дообучением smol_llama-220M-GQA на синтетическом датасете teknium/openhermes. Она предназначена для генерации текста по инструкциям и простых ответов на запросы с дополнительным контекстом. Модель использует архитектуру Llama, содержит 184,9 млн параметров и поддерживает контекст длиной 2048 токенов. Для запросов применяется формат Alpaca с полями Instruction и Inputs. Карточка описывает модель как экспериментальную и предупреждает о её ограничениях из-за малого размера; результаты в таблицах оценки также показывают скромные показатели. Модель распространяется под лицензией Apache-2.0. README отдельно указывает, что данные OpenHermes синтетические и связаны с условиями использования их источника.
Bhaskara — авторегрессионная языковая модель семейства GPT-Neo, разработанная Allen Institute for AI и дообученная на обучающей и валидационной выборках Lila-IID из набора данных Lila. Она предназначена для генерации текста в ответ на вопросы, заданные в формате «Question: …». Модель содержит 3,1 млрд параметров, использует архитектуру GPTNeoForCausalLM, работает с весами PyTorch и имеет контекст до 2048 токенов. Модель подходит для экспериментов с ответами на вопросы и генерацией текста по входному запросу. Она дообучена на конкретном наборе данных, поэтому её ответы за пределами этого формата и распределения данных могут быть ненадёжными. Лицензия — Apache-2.0; в README просят цитировать связанную работу при использовании модели.
SurjoLabs/Blaze-Title — диалоговая языковая модель SurjoLabs, дообученная на базе SurjoLabs/Blaze-SFT с помощью TRL. Она предназначена для генерации ответов в формате беседы и подходит для коротких диалоговых запросов и ответов на вопросы. Модель построена на плотной причинной архитектуре BlazeForCausalLM, содержит 48,2 млн параметров и поддерживает контекст до 2048 токенов. Работает через Transformers и распространяется в формате safetensors. Модель унаследовала англоязычную специализацию базовой Blaze-SFT; пример в карточке показывает ответ на вопрос на английском языке. Сведений о лицензии в предоставленных данных нет.
GemMoE-Beta-1 — экспериментальная языковая модель Crystalcareai на архитектуре Gemma с механизмом смеси экспертов (MoE). По README, она объединяет восемь отдельно дообученных моделей Gemma и использует двух экспертов для каждого токена; метаданные указывают 8,2 млрд параметров и контекст до 8192 токенов. Модель предназначена для генерации текста и запуска через Transformers. Репозиторий помечен как устаревший и служит только для размещения файлов, необходимых для поддержки GemMoE в Transformers: README предупреждает, что обучение и инференс из этого репозитория не работают, и направляет к новому расположению моделей. Проект описан как бета-версия, поэтому его архитектура и интеграция ещё дорабатывались. Лицензия указана как other, без конкретных условий в предоставленных данных.