II.6Документация и сопровождение разработки
В разделе собраны самостоятельные задачи, где AI помогает поддерживать понятную техническую документацию и ускорять передачу знаний. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
38 015 моделейOTel-2.0-LLM-31B-IT — специализированная для телекоммуникаций инструкционная модель, разработанная в рамках Open Telco AI и дообученная на базе Gemma 4 31B-IT. Это плотная модель семейства Gemma 4 с 31 млрд параметров; веса представлены в формате safetensors, bfloat16. В карточке описано обучение примерно на 440 млрд телекоммуникационных токенов и настройка методом OSFT. Модель предназначена для ответов на вопросы по телекоммуникациям, работы с RAG по стандартам и технической документации, интерпретации и краткого изложения материалов 3GPP, ETSI, GSMA, CAMARA, ITU, O-RAN и TM Forum, а также для помощи в разработке продуктов, настройке сетей и инженерных задачах. Она рассчитана на англоязычное применение. Архитектура принимает изображения, однако обучение и заявленные оценки качества относятся только к тексту; аудио и видео не поддерживаются. Модель следует применять в телекоммуникационной области, проверяя ответы по актуальным версиям стандартов. Качество RAG зависит от подготовки документов и поиска, а прямые ответы на вопросы нужно оценивать отдельно. Для важных эксплуатационных решений карточка рекомендует использовать поиск с указанием источников, проверки и человеческий контроль. Лицензия — Apache-2.0. Версия весов может обновляться, поэтому для воспроизводимых результатов следует закреплять ревизию или хеш чекпойнта.
Sorbet-v2-25M — компактная авторегрессионная языковая модель для генерации текста, разработанная CodeSoft. Она построена в стиле Qwen2 и продолжает обучение контрольной точки Sorbet-25M на смесях FineWeb-HQ, DCLM-baseline и математического набора FineMath-4+. Модель предназначена для экспериментов, обучения и запуска лёгких систем генерации текста, где важны небольшие требования к ресурсам. Модель содержит около 25,2 млн параметров, 14 слоёв со скрытым размером 384, архитектуру внимания GQA с 6 головами и 2 KV-головами, SwiGLU-FFN размером 1024 и RoPE с θ=100k. Контекст составляет 4096 токенов, используется связанный эмбеддинг и пользовательский byte-level BPE-словарь на 8192 токена. Модель работает в формате bf16, поддерживается библиотеками transformers и llama.cpp, относится к модальности текст-в-текст и обучена преимущественно для английского языка. Небольшой размер обеспечивает удобство локального запуска и экспериментов, а включение математических данных улучшает относительные результаты на задачах арифметики. При этом модель имеет ограниченные знания о мире и слабее справляется с задачами, требующими широких фактических знаний; её показатели на общих тестах невысоки. Модель распространяется по лицензии Apache-2.0.
dhavarev/dalton_text — дообученная модель генерации текста на базе dalton_text, обученная с использованием TRL. Карточка демонстрирует диалоговый формат: модель получает вопрос пользователя и генерирует ответ; пример посвящён применению линейной регрессии для прогнозирования целевой переменной. Модель построена на плотной авторегрессионной архитектуре DaltonForCausalLM, содержит 71,3 млн параметров и рассчитана на контекст до 1024 токенов. Репозиторий использует формат safetensors и библиотеку Transformers. Карточка не сообщает лицензию и не описывает ограничения качества или области применения.
allenai/intent-aware-lfqa-llama3-8b-intent-implicit — диалоговая языковая модель Allen Institute for AI (Ai2), созданная дистилляцией для исследований обучения с учётом намерений в длинных ответах на вопросы. Модель основана на Meta-Llama-3-8B-Instruct и имеет архитектуру LlamaForCausalLM с 7,5 млрд параметров; принимает текст и генерирует текст. Метаданные указывают английский язык и контекст до 131 072 токенов. Модель предназначена для исследовательского и образовательного применения, связанного с intent-aware обучением и генерацией ответов на вопросы. Карточка сообщает, что результаты будут добавлены позднее, поэтому она не подтверждает качество на конкретных тестах. Лицензия — ODC-BY; применение должно соответствовать рекомендациям Ai2 по ответственному использованию.
Карточка модели allenai/intent-aware-lfqa-qwen3-4b-multiview на Hugging Face совпадает с карточкой allenai/intent-aware-lfqa-llama3-8b-intent-implicit, поэтому описание составлено по ней. allenai/intent-aware-lfqa-llama3-8b-intent-implicit — диалоговая языковая модель Allen Institute for AI (Ai2), созданная дистилляцией для исследований обучения с учётом намерений в длинных ответах на вопросы. Модель основана на Meta-Llama-3-8B-Instruct и имеет архитектуру LlamaForCausalLM с 7,5 млрд параметров; принимает текст и генерирует текст. Метаданные указывают английский язык и контекст до 131 072 токенов. Модель предназначена для исследовательского и образовательного применения, связанного с intent-aware обучением и генерацией ответов на вопросы. Карточка сообщает, что результаты будут добавлены позднее, поэтому она не подтверждает качество на конкретных тестах. Лицензия — ODC-BY; применение должно соответствовать рекомендациям Ai2 по ответственному использованию.
Карточка модели allenai/intent-aware-lfqa-qwen3-8b-multiview на Hugging Face совпадает с карточкой allenai/intent-aware-lfqa-llama3-8b-intent-implicit, поэтому описание составлено по ней. allenai/intent-aware-lfqa-llama3-8b-intent-implicit — диалоговая языковая модель Allen Institute for AI (Ai2), созданная дистилляцией для исследований обучения с учётом намерений в длинных ответах на вопросы. Модель основана на Meta-Llama-3-8B-Instruct и имеет архитектуру LlamaForCausalLM с 7,5 млрд параметров; принимает текст и генерирует текст. Метаданные указывают английский язык и контекст до 131 072 токенов. Модель предназначена для исследовательского и образовательного применения, связанного с intent-aware обучением и генерацией ответов на вопросы. Карточка сообщает, что результаты будут добавлены позднее, поэтому она не подтверждает качество на конкретных тестах. Лицензия — ODC-BY; применение должно соответствовать рекомендациям Ai2 по ответственному использованию.
Fischerboot/LLama3-Lexi-Aura-3Some-SLERP-SLERP — слитая модель для генерации диалогового текста, созданная автором репозитория с помощью mergekit и метода SLERP. В объединении использованы Fischerboot/Llama3-Aura-3some-SLERP и Orenguteng/Llama-3-8B-Lexi-Uncensored; архитектура — плотная Llama 3 с причинной языковой моделью LlamaForCausalLM. Модель рассчитана на текстовые диалоги и генерацию ответов на английском языке. Объём составляет 7,5 млрд параметров, контекст — до 8192 токенов. Веса представлены в формате safetensors и сохранены в bfloat16. Лицензия — llama3. Одна из включённых базовых моделей описана в каталоге как дообученная для диалогов и следования инструкциям с ослабленными ограничениями на ответы. Это может быть полезно для свободной генерации в чате, но слитая модель не имеет приведённых в карточке оценок качества или гарантий безопасности; ответы могут быть неточными или нежелательными.
ORANSight Gemma-2B Instruct — чат-модель семейства ORANSight, разработанная NextG lab при Университете штата Северная Каролина. Она предназначена для ответов на вопросы по сетям O-RAN; пример в карточке показывает объяснение интерфейса E2 с заданной ролью эксперта.
OTel-Embedding-568M — специализированная модель эмбеддингов для поиска по телекоммуникационным документам, выпущенная в рамках открытой инициативы Open Telco AI. Она создана полным дообучением BAAI/bge-m3 на данных OTel-Embedding; архитектура XLM-RoBERTa, около 659 млн параметров, формат safetensors, контекст до 8194 токенов. Модель преобразует текстовые запросы и фрагменты документов в представления для извлечения признаков и семантического поиска. Модель предназначена для поиска релевантных фрагментов в спецификациях, стандартах, RFC, технических статьях и других материалах телеком-отрасли, в том числе как этап retrieval в RAG-системах перед реранкером и языковой моделью. На отложенной части OTel-Embedding авторы сообщают NDCG@10 90,1% и улучшение на 32,9 процентного пункта относительно базовой модели; это не гарантирует аналогичных результатов на внешних наборах или во всех подотраслях. По карточке, модель ориентирована на английский язык и текстовые данные. Она специализирована на телекоммуникациях, поэтому не предназначена для общего поиска; качество может различаться между поддоменами, а перенос на внешние бенчмарки требует отдельной оценки. Результаты поиска следует проверять перед операционным, клиентским, регуляторным или сетевым применением. Указана лицензия Apache-2.0; также необходимо соблюдать условия лицензии или использования базовой модели BAAI/bge-m3.
chargoddard/platypus-2-22b-relora — экспериментальная языковая модель от chargoddard, дообученная методом ReLoRA на наборе OpenPlatypus. Это плотная авторегрессионная модель семейства Llama с 21,6 млрд параметров и контекстом до 4098 токенов. Модель предназначена для генерации текста и диалоговых ответов в формате запросов Ypotryll-22b; в README приведены результаты оценки на ARC и HellaSwag. Обучение длилось одну эпоху и включало три перезапуска LoRA; применялись QLoRA и 4-битная загрузка базовой модели. Автор прямо характеризует чекпойнт как экспериментальный и пока не рекомендует его для практического использования. В метаданных указан формат safetensors; сведения о лицензии не приведены.
lomahony/pythia-70m-helpful-sft — языковая модель, дообученная Лорой О’Махони и соавторами на базе Pythia-70m с помощью библиотеки TRLx. Для обучения использована полезная часть датасета Anthropic HH-RLHF; дообучение в один проход. Модель построена на архитектуре GPT-NeoX и содержит 50,9 млн параметров. Модель предназначена для генерации текста и ответов в стиле полезного диалога на английском языке. Её можно использовать для экспериментов с поведением небольших языковых моделей и изучения влияния supervised fine-tuning; карточка также содержит результаты тестирования на наборах ARC. Контекст составляет 2048 токенов. Модель распространяется по лицензии Apache-2.0. Это небольшой исследовательский чекпойнт, поэтому его возможности ограничены по сравнению с современными крупными моделями; результаты на приведённых в карточке тестах не гарантируют качества в других сценариях.
Quasar-Preview — ранний контрольный пункт серии Quasar Foundation Model от SILX AI, предназначенный для исследований и дальнейшего развития экосистемы Quasar. Это причинная языковая модель для генерации текста и диалогов; карточка описывает разреженную MoE-архитектуру с гибридными рекуррентными и attention-слоями на базе Loop Transformer, Quasar, Raven и GLA. В README указано около 18 млрд параметров всего и около 2 млрд активных на проход, тогда как метаданные Hugging Face указывают 1,2 млрд параметров. Модель рассчитана на эксперименты с длинным контекстом, разреженными MoE-системами, гибридным вниманием, памятью и извлечением информации, агентными системами, а также на дистилляцию и децентрализованное обучение в Bittensor SN24. Конфигурация предусматривает контекст до 5 млн токенов, но README подчёркивает экспериментальный характер этого режима и недостаточную проверенность качества рассуждений на такой длине. По тегам карточки заявлены английский и арабский языки. Модель опубликована в формате safetensors, использует библиотеку Transformers и распространяется по лицензии MIT. Это предварительная исследовательская версия, а не готовый производственный ассистент. Возможны галлюцинации, небезопасные, предвзятые или низкокачественные ответы; для применения нужны оценка, фильтрация и дополнительные меры безопасности. Полная дорожная карта обучения не завершена, а результаты бенчмарков требуют независимой проверки.
teach-aws Qwen3.5-2B — языковая модель, дообученная Khursanirevo для ответов на вопросы об Amazon Web Services на Bahasa Malaysia. Она построена на unsloth/Qwen3.5-2B и дообучена с помощью LoRA на наборах вопросов и ответов об AWS, включая перефразированные примеры и вопросы о сервисах, где особенно вероятны галлюцинации. Модель имеет 1,7 млрд параметров, поддерживает текстовую генерацию и контекст до 262 144 токенов; файлы опубликованы в формате safetensors. Модель рассчитана на ответы в стиле справочной документации: сообщает результат кратко для коротких вопросов и сочетает малайский язык с английскими терминами AWS. В описанной авторами оценке она получила 91% строгой точности на 2 661 ранее не встречавшемся вопросе; это результат конкретного теста, а не гарантия качества для иных запросов. Подходит для справочных вопросов по AWS, но не предназначена для знаний за пределами обучающего корпуса. На мало представленных в данных темах модель может уверенно выдумывать функции AWS, поэтому фактические ответы следует проверять и при необходимости подкреплять поиском по документации. Формулировки часто близки к обучающим справочным ответам и могут быть негибкими. Лицензия — Apache-2.0.
Карточка модели taddymason/BananaMind-2-Pro-Preview-Chat на Hugging Face совпадает с карточкой BananaMind/BananaMind-2-Pro-Preview-Chat, поэтому описание составлено по ней. BananaMind-2-Pro-Preview-Chat — компактная диалоговая языковая модель BananaMind, созданная полным дообучением BananaMind/BananaMind-2-Pro-Preview на наборе HuggingFaceTB/smol-smoltalk в течение одной эпохи. Это плотный декодерный Transformer с 138,9 млн параметров и контекстом 3 072 токена; модель поддерживает системные инструкции и многоходовые диалоги. Для работы требуется библиотека Transformers и загрузка пользовательского кода репозитория через trust_remote_code=True. Модель предназначена для локальных чат-экспериментов, следования инструкциям, учебных демонстраций и исследований дообучения, а также экспериментов с генерацией кода и компактными языковыми моделями. В опубликованном авторами тесте BananaMind Instruct Bench 1.1 она показала лучшие среди приведённых вариантов результаты, однако общий взвешенный балл составил 27,09% на 300 заданиях, а на сложных заданиях — 8,53%; эти результаты зависят от конфигурации оценки. Карточка сообщает лицензию «other», но конкретные условия в предоставленных данных не раскрыты. Модель обучалась на англоязычных данных smol-smoltalk; подтверждена поддержка английского языка. Специального выравнивания безопасности не проводилось: возможны галлюцинации, ошибки в логике и арифметике, некорректный или небезопасный код, предвзятые и повторяющиеся ответы. Не следует использовать её для медицинских, юридических, финансовых и иных ответственных решений.
GPT2-Medium-Alpaca-355m — языковая модель Linkanjarad, дообученная на tatsu-lab/alpaca для следования инструкциям. Это компактный вариант GPT-2 Medium на 355 млн параметров, предназначенный для генерации ответов по заданным инструкциям в текстовом формате. Модель лучше работает с шаблоном Alpaca, где запрос отделён от ожидаемого ответа. Модель подходит для простых экспериментов с инструкционной генерацией и сценариев, где важны небольшие размеры. Контекст ограничен 1024 токенами; качество и возможности уступают более крупным современным чат-моделям. Распространяется по лицензии MIT.
Карточка модели allenai/intent-aware-lfqa-qwen3-4b-intent-implicit на Hugging Face совпадает с карточкой allenai/intent-aware-lfqa-llama3-8b-intent-implicit, поэтому описание составлено по ней. allenai/intent-aware-lfqa-llama3-8b-intent-implicit — диалоговая языковая модель Allen Institute for AI (Ai2), созданная дистилляцией для исследований обучения с учётом намерений в длинных ответах на вопросы. Модель основана на Meta-Llama-3-8B-Instruct и имеет архитектуру LlamaForCausalLM с 7,5 млрд параметров; принимает текст и генерирует текст. Метаданные указывают английский язык и контекст до 131 072 токенов. Модель предназначена для исследовательского и образовательного применения, связанного с intent-aware обучением и генерацией ответов на вопросы. Карточка сообщает, что результаты будут добавлены позднее, поэтому она не подтверждает качество на конкретных тестах. Лицензия — ODC-BY; применение должно соответствовать рекомендациям Ai2 по ответственному использованию.
pcmoritz/qwen3-tiny-test — небольшая экспериментальная модель семейства Qwen3 для генерации текста и диалогового взаимодействия. Модель доступна через библиотеку Transformers и содержит около 243,7 млн параметров; заявленная длина контекста составляет до 40 960 токенов. Модель может применяться для локальной генерации продолжений текста, формирования ответов в диалогах, прототипирования чат-интерфейсов и тестирования интеграций с Transformers. Метаданные указывают на поддержку текстовой генерации и conversational-сценариев, однако README не содержит сведений о разработчике, обучающих данных, результатах оценки, лицензии и рекомендуемых условиях эксплуатации. Из-за экспериментального характера и отсутствия подробной документации модель следует проверять на целевых данных перед использованием в продуктивных системах. Надёжность, фактические языковые возможности, устойчивость к ошибкам и безопасность генерируемого текста по предоставленным материалам не подтверждены.
vinmlops/sft-v2 — это чат-модель на базе vinmlops/cpt-v2, разработанная vinmlops и обученная следовать инструкциям. Она предназначена для ответов на вопросы о больших языковых моделях, нейронных сетях и трансформерах, а также на общие повседневные вопросы. Модель построена на плотной архитектуре Qwen3ForCausalLM с 1,7 млрд параметров и контекстом до 32 768 токенов. Модель прошла supervised fine-tuning с LoRA; адаптер объединён с весами в самостоятельную модель bf16, которую можно загружать без PEFT. README позиционирует её как учебный эксперимент и основу для последующего DPO-этапа. Модель ориентирована на английский язык и поддерживает текстовый диалог. Модель лучше всего подходит для обучения и демонстраций, особенно по темам ML и LLM. Она может давать неточные, неполные или устаревшие ответы, а качество на общих темах ограничено; важные сведения следует проверять. Лицензия CC BY-NC 4.0 запрещает коммерческое использование.
kaytoo2022/t5_technical_qa_with_react_3 — дообученная модель Google Flan-T5 Base для генерации текста. По названию репозитория она предназначена для ответов на технические вопросы с использованием подхода ReAct, однако README не содержит подробностей о датасете, предполагаемом формате запросов или оценке качества. Модель построена на архитектуре T5 и содержит 123,8 млн параметров; максимальная длина контекста — 512 токенов. Репозиторий включает веса в формате TensorFlow. Модель может применяться для экспериментов с генерацией ответов на технические вопросы. В README приведены значения train loss 1,1006 и validation loss 1,6608 после 19 эпох, но данных для интерпретации качества или оценки пригодности к практическому использованию нет. Лицензия — Apache-2.0.
Typst-Coder-1.5B — дообученная модель TechxGenus для генерации кода и помощи при работе с Typst, языком разметки и верстки документов. Проект создан для улучшения поддержки Typst в AI-помощниках: авторы отмечают, что из-за малочисленности обучающих данных языковые модели часто ошибаются в синтаксисе Typst. Модель основана на Yi-Coder-1.5B, имеет архитектуру LlamaForCausalLM и содержит 1,3 млрд параметров. Она принимает текстовые запросы и генерирует текст, включая код Typst; заявленная длина контекста — 131 072 токена. В метаданных также отмечены диалоговый режим и возможности работы с кодом. Лицензия — Apache-2.0. Модель предназначена прежде всего для экспериментов и практической помощи при создании Typst-документов; README не приводит оценок качества или сравнительных тестов. Поддержка других языков программирования и естественных языков не заявлена.
Daedalus-150M Instruct — компактная языковая модель на 151 млн параметров, разработанная Unseen1980 и представленная в статье о гибридной архитектуре для вывода на CPU. Модель обучена с нуля на 59,9 млрд токенов, затем настроена на выполнение инструкций с помощью SFT и одного раунда DPO. В 18 слоях шесть используют полное внимание, а остальные — короткие свёртки с памятью в два временных шага; заявленная цель этой схемы — ускорить генерацию на CPU. Контекст составляет 2048 токенов, поддерживается английский язык. Модель предназначена для диалогов, коротких ответов на фактические вопросы и объяснений. В README приведена средняя оценка 47,31 по пяти тестам на рассуждение и понимание; также заявлена скорость около 440 токенов в секунду на CPU. Модель склонна к фактическим ошибкам, а при генерации без repetition_penalty может повторять слова; открытое творческое письмо теряет связность через несколько строк. Лицензия — Apache 2.0.
dlite-v2-355m — языковая модель AI Squared на архитектуре GPT-2, дообученная на 15 тысячах примеров из набора Databricks Dolly 15k для диалогового взаимодействия. Она предназначена для генерации ответов и демонстрации чат-поведения в компактной модели; поддерживаемый язык — английский, контекст — 1024 токена. Модель основана на GPT-2 medium и доступна в формате PyTorch для библиотеки Transformers. Разработчик характеризует её как экспериментальную и не относящуюся к передовым моделям; лицензия Apache 2.0 допускает исследовательское и коммерческое использование. Ответы могут содержать фактические ошибки, предвзятость, оскорбительные или токсичные высказывания и галлюцинации. Перед применением модель следует тщательно проверить.
eng_latn_1000mb — англоязычная авторегрессионная языковая модель семейства Goldfish, разработанная Chang и соавторами. Это модель GPT-2 с 124 770 816 параметрами, обученная на 1000 МБ английского текста из OSCAR 2021/09; используется библиотека Transformers и формат PyTorch. Контекст — до 512 токенов, размер словаря — 50 000. Для генерации README рекомендует добавлять в начало входной последовательности токен [CLS]. Модель предназначена для генерации английского текста и сопоставительных исследований монолингвальных моделей, особенно в контексте языков с ограниченными ресурсами. Разработчики предупреждают, что её качество для английского, как высокоресурсного языка, не рассчитано на сравнение с современными крупными языковыми моделями. Распространяется по лицензии Apache-2.0.
Карточка модели allenai/intent-aware-lfqa-llama3-8b-baseline на Hugging Face совпадает с карточкой allenai/intent-aware-lfqa-llama3-8b-intent-implicit, поэтому описание составлено по ней. allenai/intent-aware-lfqa-llama3-8b-intent-implicit — диалоговая языковая модель Allen Institute for AI (Ai2), созданная дистилляцией для исследований обучения с учётом намерений в длинных ответах на вопросы. Модель основана на Meta-Llama-3-8B-Instruct и имеет архитектуру LlamaForCausalLM с 7,5 млрд параметров; принимает текст и генерирует текст. Метаданные указывают английский язык и контекст до 131 072 токенов. Модель предназначена для исследовательского и образовательного применения, связанного с intent-aware обучением и генерацией ответов на вопросы. Карточка сообщает, что результаты будут добавлены позднее, поэтому она не подтверждает качество на конкретных тестах. Лицензия — ODC-BY; применение должно соответствовать рекомендациям Ai2 по ответственному использованию.
Карточка модели allenai/intent-aware-lfqa-llama3-8b-intent-explicit на Hugging Face совпадает с карточкой allenai/intent-aware-lfqa-llama3-8b-intent-implicit, поэтому описание составлено по ней. allenai/intent-aware-lfqa-llama3-8b-intent-implicit — диалоговая языковая модель Allen Institute for AI (Ai2), созданная дистилляцией для исследований обучения с учётом намерений в длинных ответах на вопросы. Модель основана на Meta-Llama-3-8B-Instruct и имеет архитектуру LlamaForCausalLM с 7,5 млрд параметров; принимает текст и генерирует текст. Метаданные указывают английский язык и контекст до 131 072 токенов. Модель предназначена для исследовательского и образовательного применения, связанного с intent-aware обучением и генерацией ответов на вопросы. Карточка сообщает, что результаты будут добавлены позднее, поэтому она не подтверждает качество на конкретных тестах. Лицензия — ODC-BY; применение должно соответствовать рекомендациям Ai2 по ответственному использованию.
Карточка модели allenai/intent-aware-lfqa-qwen3-8b-intent-implicit на Hugging Face совпадает с карточкой allenai/intent-aware-lfqa-llama3-8b-intent-implicit, поэтому описание составлено по ней. allenai/intent-aware-lfqa-llama3-8b-intent-implicit — диалоговая языковая модель Allen Institute for AI (Ai2), созданная дистилляцией для исследований обучения с учётом намерений в длинных ответах на вопросы. Модель основана на Meta-Llama-3-8B-Instruct и имеет архитектуру LlamaForCausalLM с 7,5 млрд параметров; принимает текст и генерирует текст. Метаданные указывают английский язык и контекст до 131 072 токенов. Модель предназначена для исследовательского и образовательного применения, связанного с intent-aware обучением и генерацией ответов на вопросы. Карточка сообщает, что результаты будут добавлены позднее, поэтому она не подтверждает качество на конкретных тестах. Лицензия — ODC-BY; применение должно соответствовать рекомендациям Ai2 по ответственному использованию.
Marx-3B — языковая модель на основе OpenLLaMA 3B V2, дообученная автором репозитория на наборе EverythingLM Data в формате ShareGPT в течение одной эпохи. Она предназначена для генерации текста в диалоговом формате с шаблоном, разделяющим реплики человека и модели. Модель содержит 3,3 млрд параметров, использует архитектуру Llama и рассчитана на контекст до 2048 токенов. Модель подходит для генерации ответов в диалоге, экспериментов с небольшими языковыми моделями и оценки на общих тестах. Автор предупреждает, что качество модели может быть низким и описывает её как свой ранний эксперимент с дообучением. Доступны веса PyTorch и Safetensors; упомянуты отдельные сборки GGML и GPTQ. Лицензия — Apache 2.0.
ORANSight Phi-Mini — чат-модель семейства ORANSight, разработанная NextG Lab при Университете штата Северная Каролина. Она предназначена для ответов на вопросы по сетям O-RAN, например для объяснения интерфейса E2. Модель дообучена с помощью Unsloth на базе unsloth/Phi-3.5-mini-instruct-bnb-4bit; в метаданных указаны 3,7 млрд параметров, архитектура LlamaForCausalLM и формат safetensors. README заявляет контекст 128K токенов, тогда как метаданные каталога указывают 4096 токенов. Модель принимает текстовые запросы и генерирует текстовые ответы на английском языке. Лицензия — MIT. Карточка сообщает, что подробная статья с результатами экспериментов готовится; оценок качества в предоставленных материалах нет.
smolllama-101M-GQA — небольшая авторегрессионная языковая модель семейства Llama от BEE-spoke-data, обученная с нуля. В карточке указаны 768 скрытых измерений, 6 слоёв и группированное многозапросное внимание GQA с 24 головами запросов и 8 головами ключей и значений. Метаданные указывают 76,6 млн параметров, контекст до 1024 токенов и формат safetensors. Модель предварительно обучена на текстовых данных и предназначена для продолжения текста и экспериментов с компактными языковыми моделями. В README отмечено, что обучение заняло пять GPU-дней на одной видеокарте; автор также сообщает, что, насколько ему известно, синтетические данные OpenAI не использовались. Это исходный чекпойнт без дообучения под конкретную задачу, поэтому перед практическим применением обычно требуется тонкая настройка. Лицензия — Apache-2.0.
hathucviet/SmolLM2-135M-sft — дообученная с помощью TRL компактная языковая модель на базе HuggingFaceTB/SmolLM2-135M. Она предназначена для генерации текста в диалоговом формате и подходит для простых бесед и коротких ответов. Модель построена на плотной архитектуре LlamaForCausalLM, содержит 134,5 млн параметров, принимает текст и поддерживает контекст длиной до 8192 токенов. Базовая модель ориентирована на английский язык; README не сообщает о дополнительной языковой специализации этого дообучения. Весовые файлы представлены в формате safetensors. Условия лицензии в предоставленных данных не указаны.