II.6Документация и сопровождение разработки
В разделе собраны самостоятельные задачи, где AI помогает поддерживать понятную техническую документацию и ускорять передачу знаний. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
38 015 моделейМодель tlc4418/pythia_1.4b_sft_policy — версия Pythia на 1,7 млрд параметров, дообученная методом supervised fine-tuning на разделении sft набора AlpacaFarm. В README она обозначена как policy-модель из работы «Reward Model Ensembles Mitigate Overoptimization». Архитектура — плотная GPT-NeoX для генерации текста; контекст составляет 2048 токенов. Модель предназначена для генерации текста в сценариях следования инструкциям, связанных с обучением и исследованием языковых моделей по методике AlpacaFarm. Репозиторий содержит веса PyTorch. Сведения о лицензии в предоставленных материалах отсутствуют.
Tensor-2-40m-instruct — русскоязычная языковая модель серии Tensor, разработанная проектом GribAI. Это плотная Qwen2-совместимая модель с 40 млн параметров, дообученная методом supervised fine-tuning на базе Tensor-2-40m-base; набор дообучения объёмом 150 МБ включает данные по программированию. Модель предназначена для генерации текста по инструкциям и диалоговых сценариев, в том числе для ответов на запросы о коде. Метаданные указывают контекст длиной 256 токенов, формат весов safetensors и поддержку русского языка. Лицензия — MIT. Небольшой размер ограничивает качество сложных рассуждений, работы с длинным контекстом и редкими предметными областями. Сгенерированный код следует проверять перед запуском.
Aurora Proelia — компактная причинная языковая модель North ML с 206,9 млн параметров, предназначенная для генерации коротких ответов и локальных экспериментов. Она использует архитектуру Ember Proelia и работает через Transformers; контекст — до 2048 токенов. Модель рассчитана на английский язык и поддерживает диалоговый режим. Подходит для коротких бесед, простых объяснений, ответов на знакомые вопросы и локальных ассистентов. Её также можно использовать в RAG-сценариях, передавая проверенные фрагменты источников в запросе. По данным карточки, это исходный чекпойнт Proelia v9, созданный в рамках предыдущих экспериментов с диалоговыми моделями. Модель компактна и пригодна для запуска на CPU, Apple Silicon и CUDA, однако она уступает крупным универсальным моделям. Она может ошибаться в арифметике, специализированных темах, многошаговых рассуждениях и открытых научных вопросах, не знает актуальных событий и не проверяет факты самостоятельно. Для репозитория указана лицензия other; её конкретные условия следует сверить с файлами лицензии модели.
MathLeap-Qwen-8B — специализированная модель эмбеддингов для поиска и сравнения математических текстов, созданная разработчиками uw-math-ai дообучением Qwen/Qwen3-Embedding-8B. Это плотный трансформер Qwen3 с 7,6 млрд параметров, размерностью эмбеддингов 4096 и контекстом до 40 960 токенов. Модель принимает текстовые описания математических понятий и объявления Lean 4, чтобы находить соответствия между ними и между различными формулировками математических утверждений. Модель предназначена для семантического поиска по объявлениям mathlib4, поиска Lean-кода по запросу на естественном языке и поиска описаний по Lean-сигнатуре. Она также подходит для оценки смыслового сходства математических высказываний, извлечения эмбеддингов для последующих задач и поиска фрагментов для математических RAG-систем. В тесте AMP модель получила MMR 0,43 со специализированным запросом против 0,32 у базовой модели; на внутреннем тесте поиска по mathlib4 улучшила результаты по всем шести направлениям. Модель обучалась на англоязычных математических данных, связанных с mathlib4 и Lean 4, методом контрастивного обучения с несколькими представлениями одного понятия. Она не генерирует текст, не предназначена для ответов на открытые математические вопросы или построения доказательств. Качество может снижаться на математическом тексте с непривычным стилем; поиск по Lean proof state не поддерживается, а переносимость результатов между случайными запусками не оценена. Лицензия — Apache-2.0.
Qwen3-0.6B-heretic — децензурированная версия базовой языковой модели Qwen3-0.6B-Base, разработанной командой Qwen и модифицированной с помощью Heretic v1.2.0. Модель предназначена для генерации текста и диалоговых сценариев, включая случаи, когда требуется снизить количество отказов без полноценного дообучения. Она ориентирована на разработчиков, локальный запуск, CPU-инференс, edge-устройства и исследование механизмов отказа в моделях с поддержкой рассуждений. Модель содержит около 0,6 млрд параметров, работает с текстом и заявлена для английского языка. Она сохраняет архитектуру Qwen3 с двумя режимами: рассуждение с использованием тегов <think> и прямой ответ без рассуждений. Подавление отказов выполнено направленной абляцией весов, а не fine-tuning; по данным README, это позволило сохранить большую часть знаний и способности следовать инструкциям. Изменение относительно исходной модели характеризуется низкой KL-дивергенцией 0,0018, а число отказов в указанном тесте снизилось с 56 до 5 из 100. Сильные стороны модели — небольшой размер, возможность запуска на обычном компьютере, сохранение режимов рассуждения и низкое изменение поведения исходной модели за пределами отказов. Ограничения включают малое количество параметров и связанную с этим ограниченную фактическую надежность. Защитные фильтры намеренно ослаблены, поэтому модель может выполнять запросы, от которых исходная версия отказалась бы, включая потенциально небезопасные; ответственность за применение и дополнительные меры безопасности лежит на пользователе. В репозитории опубликованы веса BF16 в формате safetensors; готовые GGUF-квантизации, согласно README, отсутствуют. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой модели.
Solshine (Caleb DeLeeuw) дообучил эту плотную авторегрессионную модель семейства Llama 3.1 с 7,5 млрд параметров на предыдущем раунде своей модели, используя Reflection Tuning и датасет Reflection-Dataset-v2. Она предназначена для генерации диалоговых ответов с отражением хода рассуждений в стиле, заданном обучением. Модель работает с текстом, поддерживает английский язык и имеет контекстное окно до 131 072 токенов. Модель создана на базе LlamaForCausalLM и опубликована в формате PyTorch. В карточке заявлена лицензия Llama 3.1; перед использованием следует соблюдать её условия. Reflection tuning задаёт стиль ответов, но карточка не приводит независимой оценки качества или надёжности рассуждений.
WizardVicuna-pythia-410m-deduped — языковая модель heegyu для генерации текста в формате диалога. Она построена на архитектуре GPT-NeoX и дообучена на наборе heegyu/wizard_vicuna_70k_v2; в репозитории указано 3 эпохи обучения. Модель содержит около 454,2 млн параметров и поддерживает контекст до 2048 токенов. Модель предназначена для генерации ответов в диалогах и простых сценариев чат-ассистента. В README приведён пример ответа на приветствие. Доступны веса PyTorch для загрузки через Transformers. Лицензия в предоставленных данных не указана.
GPT-J 6B — авторегрессионная плотная трансформерная языковая модель, разработанная EleutherAI и обученная с помощью Mesh Transformer JAX. Она содержит около 6,05 млрд параметров и 28 слоёв; в архитектуре используются 16 голов внимания и Rotary Position Embedding. Модель принимает текстовый запрос и предсказывает продолжение, с контекстом до 2048 токенов. Модель предназначена прежде всего для генерации текста по текстовому промпту и извлечения языковых признаков для последующих задач. Она обучена на англоязычном наборе The Pile и лучше всего работает с английским текстом; для перевода и генерации на других языках разработчики её не рекомендуют. GPT-J 6B не настроена на следование инструкциям или диалоговое поведение, а ответы могут быть фактически неверными, оскорбительными или содержать предвзятости, поэтому результаты требуют проверки и фильтрации. Веса доступны в форматах PyTorch, TensorFlow и Flax. Лицензия — Apache-2.0.
Stellar Bright — дообученная на открытых данных языковая модель на архитектуре Llama 2, опубликованная sequelbox. Она предназначена прежде всего как улучшенная относительно исходной Llama 2 основа для дальнейшего дообучения: автор заявляет улучшения общих знаний, навыков общения и технических навыков. Модель содержит 68,7 млрд параметров, принимает текст и генерирует текст; контекст составляет 4096 токенов. В метаданных указан английский язык и лицензия llama2. Карточка приводит результаты сравнительной оценки на ARC, HS, MMLU и TQA и рекомендует модель как базовую точку для новых экспериментов. Это устаревшая версия, которую автор предлагает главным образом для справки и предпочитает ей Llama 3 для общего применения. Автор не рекомендует напрямую развёртывать её как чат-модель и возлагает ответственность за результаты на пользователя.
ORANSight Qwen-7B Instruct — разговорная языковая модель, разработанная лабораторией NextG при Университете штата Северная Каролина и дообученная на базе unsloth/Qwen2.5-7B-Instruct-bnb-4bit с помощью Unsloth. Она предназначена для ответов на вопросы и объяснения понятий в области O-RAN, например интерфейса E2, в формате диалога с системными и пользовательскими сообщениями. Модель построена на архитектуре Qwen2 и содержит 7,1 млрд параметров. Метаданные указывают контекст до 32 768 токенов, тогда как README заявляет поддержку до 128K токенов и генерацию до 8K токенов; фактическую длину контекста следует проверять для используемой конфигурации. Модель принимает текст и генерирует текст; карточка ориентирует её на английский язык. Доступна по лицензии Apache-2.0.
OTel-Embedding-335M — англоязычная модель эмбеддингов для телекоммуникационной отрасли, разработанная в рамках инициативы Open Telco AI. Это плотная BERT-модель на 433,9 млн параметров, дообученная всеми параметрами на базе BAAI/bge-large-en-v1.5 на наборе OTel-Embedding; она принимает текст и выдаёт векторные представления для поиска по смыслу. Контекст модели — до 512 токенов, формат весов — safetensors. Модель предназначена для извлечения релевантных фрагментов из телекоммуникационных стандартов и спецификаций, RFC, научных работ, технических документов и других отраслевых материалов. Её можно использовать как этап извлечения в RAG-системе, например перед переранжировщиком и языковой моделью. На отложенной выборке OTel-Embedding авторы сообщают NDCG@10 89,7% ± 0,5; это не гарантирует такого же качества на внешних наборах или во всех подразделах отрасли. Модель специализирована для телекоммуникаций и рассчитана на английский язык; многоязычную работу следует оценивать отдельно. Результаты на поддоменах могут различаться, а академические статьи и документы GSMA PRD требуют дальнейшей проверки и доработки. Лицензия модели — Apache-2.0; при использовании также следует учитывать лицензию или условия базовой модели.
OTel-Embedding-4B — англоязычная модель текстовых эмбеддингов для телекоммуникационной отрасли, разработанная в рамках открытой инициативы OTel Family of Models. Это плотная архитектура Qwen3 с 3,7 млрд параметров, полученная полным дообучением Qwen/Qwen3-Embedding-4B на специализированных данных OTel-Embedding. Модель принимает текст и преобразует его в векторы для семантического поиска и извлечения релевантных фрагментов из телекоммуникационных документов. Модель предназначена для поиска по спецификациям и стандартам связи, RFC, техническим статьям и другим отраслевым материалам, в том числе как retrieval-компонент RAG-системы. Для базовой модели указан контекст до 40 960 токенов. На отложенной выборке OTel-Embedding показатель NDCG@10 вырос с 82,5% у базовой модели до 92,2% после дообучения; результат относится к этой выборке и не гарантирует одинакового качества во всех поддоменах. Модель специализирована на телекоммуникациях и, согласно карточке, рассчитана на английский язык. Внешний перенос результатов и качество на отдельных поддоменах требуют самостоятельной проверки; содержимое, используемое в операционных, клиентских, регуляторных или сетевых сценариях, следует проверять. Лицензия модели — Apache-2.0; пользователям также необходимо учитывать лицензию или условия базовой модели.
Это компактная плотная языковая модель Qwen3-0.6B, дообученная разработчиком репозитория методом полного supervised fine-tuning с помощью TRL SFTTrainer на наборах трасс рассуждений Minimax M3. Модель содержит около 508 млн параметров и принимает текст; контекст — до 40 960 токенов. Она формирует диалоговый ответ, помещая ход рассуждения в специальный блок, а итоговый ответ — после него. Модель предназначена для генерации текста в диалоге и задач, где полезно пошаговое рассуждение. Данные обучения взяты из Kenshiii/minimax-m3-reasoning-traces; README указывает на сокращение части длинных трасс при подготовке обучающих примеров. Карточка обозначает английский язык, а базовая Qwen3 описана как многоязычная; профиль этой дообученной версии сосредоточен на англоязычных данных. Распространяется по лицензии Apache-2.0.
Qwen3.6-35B-A3B-r12 — экспериментальный чекпойнт внутренней исследовательской разработки на базе Qwen/Qwen3.6-35B-A3B. Это диалоговая модель семейства Qwen с архитектурой MoE; в метаданных для неё указан класс Qwen3_5MoeForConditionalGeneration и размер базовой модели 35 млрд параметров с активной частью около 3 млрд. Основная задача — генерация текста в диалоге; базовая модель также описана как мультимодальная и способная анализировать изображения, но README этой версии подтверждает только особенности хранения весов. В маршрутизируемых экспертных весах применено среднее представление 2,00 бита, а остальные веса сохранены в BF16. Тензоры хранятся в деквантизированном BF16 и заявлена загрузка через обычные Transformers и vLLM. Это дообученная версия базовой модели; лицензия следует лицензии Qwen/Qwen3.6-35B-A3B. Чекпойнт обозначен как внутренний исследовательский, поэтому его пригодность и качество для прикладного использования не установлены.
SmolLM2-135M-SFT-smoltalk — компактная плотная языковая модель семейства Llama, дообученная hsila на базе HuggingFaceTB/SmolLM2-135M с помощью TRL. Модель предназначена для генерации текста в диалоговом формате; пример в карточке показывает ответ на открытый вопрос, а метаданные отмечают поддержку чата. Модель содержит 134,5 млн параметров, принимает текст и выдаёт текст. Контекстное окно составляет 8192 токена. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Базовая модель описана как компактная англоязычная модель, поэтому прежде всего модель подходит для коротких англоязычных диалогов и генерации ответов. Небольшой размер удобен для экспериментов и запуска в условиях ограниченных ресурсов, но качество и устойчивость ответов могут уступать более крупным моделям. Карточка не сообщает лицензию; условия использования следует сверить с лицензией репозитория и базовой модели.
Arcoson/distilgpt2-arxiv-csai — языковая модель DistilGPT-2, дообученная на аннотациях статей arXiv по компьютерным наукам и искусственному интеллекту. Модель использует архитектуру GPT-2 и содержит 81,9 млн параметров. По метаданным, её контекст составляет 1024 токена; при дообучении использовались последовательности длиной 128 токенов, поэтому модель лучше подходит для коротких продолжений и аннотаций. Модель предназначена для генерации текста в стиле академических аннотаций по CS и AI: например, для черновиков, продолжения заданного начала или имитации научного изложения. В README указаны категории компьютерного зрения, ИИ, систем и управления, вычислительной инженерии, языков программирования, теории информации, структур данных и алгоритмов, нейронных и эволюционных вычислений. Дообучение было экспериментальным: 100 шагов на 2000 примерах; приведённая perplexity — 32,59. Модель принимает текст и генерирует текст на английском языке. Она может выдавать правдоподобные, но фактически неверные утверждения и не подходит для универсальной генерации текста. Лицензия — MIT.
mariamoracrossitcr/distilgpt2_finetuneWithEli5 — авторская донастройка DistilGPT2 на наборе вопросов и ответов ELI5. Это языковая модель архитектуры GPT-2 для генерации текста по текстовой подсказке; в метаданных указан контекст до 1024 токенов. Для модели приведено значение loss 3,5646 на оценочном наборе, но подробности методики оценки не описаны. Она может служить основой для экспериментов с генерацией ответов на вопросы в стиле ELI5. Лицензия — Apache-2.0.
dQwen3.5-9B-Base — базовая языковая модель с маскированной диффузионной генерацией, созданная авторами семейства dQwen3.5 на основе Qwen3.5-9B. В гибридной архитектуре DiffuQwen35 слои внимания сделаны двунаправленными, а слои Gated DeltaNet сохраняют причинную обработку. Модель содержит 7,2 млрд параметров и поддерживает контекст до 262 144 токенов. Модель предназначена для генерации текста и служит базой для дальнейшей адаптации: в карточке указано, что она не проходила инструкционное дообучение. Метаданные также отмечают возможность диалога, однако для пользовательских инструкций модель специально не настроена. Лицензия Apache-2.0. Для запуска README требует CUDA GPU, Transformers версии 5.13 или новее, а также указывает проверенную конфигурацию с PyTorch и flash-linear-attention.
Eugleo/exp089-d26-noright995-nopol-sft — исследовательский разговорный чекпойнт, созданный дообучением модели nvidia/ClimbMix на один проход по данным для диалогового SFT. В README описан вариант базы noright995, в котором исключены примеры, отобранные классификатором сущностей с правым политическим уклоном; затем применен рецепт nanochat с данными smoltalk, MMLU и GSM8K. Архитектура — плотная авторегрессионная NanochatGPTForCausalLM, размер — 1,2 млрд параметров, формат весов — safetensors, библиотека — Transformers, контекст — 2048 токенов. Модель предназначена для генерации ответов в чате и диалогового применения; состав обучающих данных также ориентирован на вопросы общего характера, знания и математические задачи. В карточке указан английский язык и возможность чата. README называет модель исследовательским артефактом, поэтому качество ответов и устойчивость на прикладных сценариях следует оценивать отдельно. Для запуска может требоваться trust_remote_code=True. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.
Hathor Gamma-L3-8B-0.6 — разговорная языковая модель семейства Llama с плотной архитектурой, опубликованная Nitral-Archive. Она предназначена для генерации текста в диалоговом формате и может использоваться в чат-сценариях. Репозиторий содержит веса Safetensors; размер модели — 7,5 млрд параметров, контекст — до 8192 токенов. Карточка указывает лицензию other. В README отмечены склонность модели говорить от лица пользователя в формате ChatML и снижение качества на L3; автор рекомендует версии 0.2 или 0.5. Эти замечания указывают на ограничения в диалоговом поведении и стабильности качества.
xiuyul/mamba-2.8b-ultrachat — дообученная на наборе HuggingFaceH4/ultrachat_200k языковая модель для диалоговой генерации текста. В основе лежит state-spaces/mamba-2.8b-slimpj — модель архитектуры Mamba; метаданные указывают 6 млрд параметров. Модель поддерживает чат-сценарии и распространяется в форматах PyTorch и Safetensors. Её можно использовать для генерации ответов в диалогах и экспериментов с чат-моделями на архитектуре Mamba. В README приведено значение loss 1,1858 на оценочном наборе, но дополнительных сведений о методике оценки и качестве ответов нет. Лицензия — Apache-2.0.
Экспериментальная самостоятельная модель генерации текста, созданная автором DrNicefellow путём извлечения первого эксперта из каждого MoE-слоя модели mistralai/Mixtral-8x7B-v0.1. Она сохраняет архитектурные компоненты Mixtral, включая слои многоголового внимания, и предназначена для языкового понимания и генерации текста. Размер модели — 7,1 млрд параметров, контекст — до 32 768 токенов; поддерживается библиотека Transformers, веса доступны в формате safetensors. Автор предупреждает, что качество ожидается ниже, чем у Mistral-7B, а сам способ извлечения экспериментальный. Лицензия — Apache-2.0.
PLaMo-100B — большая языковая модель Preferred Elements, Inc., предварительно обученная на открытых англоязычных и японских данных. Это причинная авторегрессионная модель с архитектурой decoder-only и 100 млрд параметров; обучение охватило 2 трлн токенов, включая 1,3 трлн английских и 0,7 трлн японских. Репозиторий содержит веса в формате safetensors и рассчитан на использование с Transformers. Модель предназначена для генерации продолжения текста на английском и японском языках. Она не проходила instruction-tuning, поэтому сама по себе не настроена на диалоговый чат и выполнение инструкций как ассистент. Модель доступна по коммерческой и некоммерческой лицензиям; условия коммерческого использования нужно согласовать с разработчиком, а для некоммерческого применения — проверить соответствующую лицензию. Ответы могут быть неточными, предвзятыми или нежелательными; перед внедрением требуется тестирование и настройка безопасности под конкретное приложение.
davanstrien выпустил дообученную с помощью TRL модель Qwen2.5-0.5B-SFT на базе Qwen/Qwen2.5-0.5B. Это плотная авторегрессионная языковая модель с 494 млн параметров, предназначенная для генерации текста в диалоговом формате. Пример из карточки показывает ответ на открытый вопрос; модель запускается через Transformers и поддерживает контекст до 32 768 токенов. В репозитории указаны веса safetensors. Карточка не уточняет языковой состав обучающих данных и условия лицензии, поэтому их нельзя надёжно описать.
coder3101/Qwen3.5-2B-heretic — это модифицированная версия мультимодальной модели Qwen3.5-2B, опубликованная пользователем coder3101. Модель дообучена на базе Qwen/Qwen3.5-2B и доступна в формате Safetensors для Transformers и совместимых средств запуска. Архитектура включает языковую модель с визуальным энкодером; размер базовой модели — 2 млрд параметров, нативная длина контекста — 262 144 токена. Модель предназначена для диалогов с текстом и изображениями, ответов на вопросы о содержимом изображений, прототипирования, настройки под конкретные задачи и разработки приложений с вызовом инструментов. В README приведено сравнение, в котором у этой версии 7 отказов из 100 запросов против 97 у исходной модели; это указывает на существенно меньшее число отказов, но не подтверждает качество на других задачах. Карточка описывает базовую модель как многоязычную с поддержкой 201 языка и диалекта, однако не уточняет языковой состав именно этой версии. Для практического использования стоит учитывать, что приведённый в README ориентир для моделей такого размера — прототипирование, исследовательская работа и разработка. Лицензия — Apache-2.0.
Qwen3-8B Q8_0 full v2 GGUF — это квантизированная версия базовой языковой модели Qwen3-8B, разработанной командой Qwen. Артефакт распространяется репозиторием luckypoolio как неизменяемая публичная копия файла, используемого движком lpminer TensorCash. Модель предназначена прежде всего для задач генерации текста и работы в сценариях TensorCash, включая использование в нативном движке lpminer. Известно, что она основана на Qwen/Qwen3-8B и сохранена в формате GGUF с квантизацией Q8_0. Размер файла составляет около 8,7 ГБ. Сведения об архитектуре, размере контекста, поддерживаемых языках и модальностях в README не приведены; по имеющимся данным, это текстовая модель. К сильным сторонам относятся точная идентификация артефакта, контроль целостности по размеру и SHA-256, а также совместимость с указанным сценарием TensorCash. Ограничения связаны с узкой подтверждённой областью применения и отсутствием подробных характеристик качества, контекста и языковой поддержки. Модель распространяется на условиях лицензии Apache-2.0.
KingNish/Reasoning-Llama-1b-v0.1 — экспериментальная дообученная модель Nishith Jain на базе meta-llama/Llama-3.2-1B-Instruct. Это плотная авторегрессионная модель семейства Llama с 1,2 млрд параметров, предназначенная для генерации текста в диалоговом формате и ответов с предварительным этапом рассуждения. Для обучения использован датасет KingNish/reasoning-base-20k; автор сообщает, что версия обучалась на 10 тысячах примеров с помощью Unsloth и TRL. Модель рассчитана на англоязычные запросы и может применяться для диалогов, ответов на вопросы и задач, где полезно пошаговое рассуждение перед формированием ответа. Контекстное окно составляет 131 072 токена. Карточка описывает первую итерацию и не приводит количественных оценок качества; заявленное автором хорошее поведение не сопровождается результатами тестирования. Лицензия — llama3.2.
NamelessLion/salida_chida — дообученная на TRL текстовая модель на основе google/functiongemma-270m-it от Google. Она использует плотную архитектуру Gemma 3 и предназначена для диалоговой генерации текста; карточка показывает запуск через Transformers для ответа на пользовательский вопрос. Размер модели — 257 млн параметров, контекст — до 32 768 токенов. Модель принимает текст и генерирует текст. Лицензия в предоставленных данных не указана, поэтому условия использования по ним определить нельзя. Карточка не сообщает о специализированной области применения или известных ограничениях качества.
Archangel SFT-KTO Llama 13B — языковая модель семейства Llama, разработанная Contextual AI и дообученная с сочетанием SFT и KTO для выравнивания ответов по предпочтениям пользователей. Для обучения и выравнивания использованы датасеты SHP, Anthropic HH и OpenAssistant. Модель предназначена для генерации диалоговых ответов в формате TuluV2: пользователь начинает разговор, после чего модель продолжает его. Это может быть полезно для создания ассистентов и изучения методов выравнивания языковых моделей. Размер модели — 12,9 млрд параметров, нативная длина контекста — 2048 токенов; модель принимает и генерирует текст. Модель опубликована в формате safetensors и распространяется по лицензии Apache 2.0. Карточка рекомендует соблюдать формат диалога TuluV2; дополнительных сведений о качестве и ограничениях модели не содержит.
Apollo Raines представляет экспериментальный вариант Meta Llama 3.1 8B Instruct, поведение которого изменено методом representation engineering с помощью инструмента jBlaze. По README, модель не дообучали: изменение направлено на подавление угодливости, оговорок и многословия, чтобы ответы звучали прямо и по-деловому. Это диалоговая плотная авторегрессионная модель семейства Llama с примерно 7,5 млрд параметров и контекстом до 131 072 токенов; принимает текст и генерирует текст. Карточка приводит примеры ответов на общие вопросы, простые вычисления, программирование и утверждения, противоречащие научному консенсусу. Указан английский язык. Автор сообщает, что выпущенная версия намеренно ослаблена и служит демонстрацией возможностей jBlaze; качество и поведение на иных задачах отдельно не подтверждены. Лицензия — Llama 3.1.