II.6Документация и сопровождение разработки

Shivik-1.7B-Phase1-General — языковая модель серии Shivik, разработанная автором репозитория и дообученная методом LoRA на архитектуре, основанной на Llama 3.2 1B. Модель содержит около 1,7 млрд параметров и рассчитана на генерацию ответов с рассуждениями, общие вопросы, базовые математические задачи, объяснение кода и учебные материалы. Обучение первой фазы включало 80 тысяч примеров из общих, образовательных, медицинских, инженерных и программных источников. Модель принимает текст и генерирует текст. В карточке указана поддержка английского языка; заявленная длина контекста — 131 072 токена. Модель может формировать структурированные рассуждения, однако формат цепочки рассуждений непоследователен и может требовать явной инструкции в запросе. Автор отмечает, что это ранняя фаза обучения, не предназначенная для производственных приложений с требованиями к строгому формату или безопасности. Лицензия — Apache-2.0.

Speedmark Phi-4-mini — компактная диалоговая языковая модель Apollo Raines на основе Microsoft Phi-4-mini-instruct. Автор изменил веса с помощью jBlaze, чтобы сократить многословность ответов; по заявлению карточки, это сделано без обучения и новых данных. Модель генерирует текст для вопросов и ответов, объяснений, рассуждений и кода, сохраняя способность исходной модели к диалогу. В метаданных указаны 3,8 млрд параметров, плотная архитектура семейства Phi-3 и контекст до 4096 токенов. Карточка демонстрирует ответы на английском; базовая модель описана как многоязычная, но какие языки Speedmark поддерживает помимо английского, не подтверждено. В тесте на восьми вопросах авторы сообщают о сокращении общего числа токенов с 935 до 601; скорость генерации токенов при этом не меняется. Результаты ограничены небольшим набором примеров и не подтверждают одинаковое ускорение для всех запросов. Модель подходит для лаконичных ответов на фактические вопросы и кратких объяснений. По карточке, при многошаговых рассуждениях ответы могут становиться длиннее, а пояснения к коду — обрываться. Лицензия — MIT.

Thinkless-1.5B-RL-DeepScaleR — языковая модель на архитектуре Qwen2 с 1,5 млрд параметров, разработанная авторами проекта Thinkless. Она дообучена методом обучения с подкреплением на наборе agentica-org/DeepScaleR-Preview-Dataset и предназначена для генерации ответов с адаптивным выбором между кратким ответом и подробным рассуждением. Модель использует управляющие токены для выбора режима, а метод DeGRPO разделяет обучение выбору режима и точности ответа. В описанных авторами тестах на Minerva Algebra, MATH-500 и GSM8K модель сокращала использование длинных цепочек рассуждений на 50–90%, что может уменьшать вычислительные затраты. Репозиторий содержит веса Safetensors для Transformers, поддерживает диалоговый сценарий и имеет контекст до 32 768 токенов. Лицензия — Apache-2.0.

namquangstudy/aaie-ddense-gft-llama — экспорт модели AAIE-Distilled Dense Instruct в формате LlamaForCausalLM, подготовленный для совместимости с vLLM и Transformers. Разработчик сообщает, что веса скопированы без изменений, а конфигурация и имена параметров преобразованы; переобучения не проводилось. Совпадение генерации с исходной моделью проверено на одном примере. Модель предназначена для генерации текста в диалоговом формате и может использоваться через нативную реализацию Llama в vLLM без trust_remote_code. В карточке указана оценка 7,50 из 10 по оценке LLM-судьи на отложенных темах обратной связи по заданиям в IT и компьютерных науках. Архитектура плотная, семейство Llama; размер — 354,4 млн параметров, контекст — 1024 токена. Поддерживаемый язык по метаданным — английский. Репозиторий содержит веса Safetensors и распространяется по лицензии MIT. Описанная оценка относится к ограниченному набору тем; контекст в 1024 токена ограничивает работу с длинными входами. Экспорт меняет упаковку и совместимость, но сохраняет поведение исходной модели.

Llama3.2-3B-ShiningValiant2-GGUF — это GGUF-квантизированная версия языковой модели Llama3.2-3B-ShiningValiant2, разработанной ValiantLabs и подготовленной для распространения в квантизированных форматах пользователем bartowski. Модель построена на архитектуре Llama, содержит около 3 млрд параметров и предназначена для текстовой генерации в режиме instruction/chat. Указан английский язык; поддержка мультимодальности не заявлена. Модель ориентирована на диалоговые и технические сценарии, включая вопросы по естественным наукам, физике, биологии, химии, информатике и инженерии. В обучении или дообучении указаны наборы данных sequelbox/Celestia и sequelbox/Supernova. Доступны варианты от F16 до различных уровней квантизации, включая Q8_0 и Q6_K_L, что позволяет запускать модель локально через llama.cpp и LM Studio с разными требованиями к памяти и качеству. К сильным сторонам относятся компактный размер, локальный запуск и специализация на научно-технических запросах. Ограничения включают относительно небольшую ёмкость модели, английскую языковую ориентацию и возможное снижение качества при сильной квантизации; заявленный размер контекста в README не указан. В README приведены результаты тестов на ряде бенчмарков, однако они заметно различаются по задачам, поэтому модель следует проверять на конкретных рабочих сценариях. Лицензия указана как llama3.2.

SimpleBerry/LLaMA-O1-Supervised-1129 — дообученная SimpleBerry языковая модель семейства LLaMA с архитектурой LlamaForCausalLM и 7,5 млрд параметров. Она предназначена для генерации ответов в диалоге и пошаговых рассуждений, в том числе при решении задач на логику и арифметику. Модель обучена на наборе SimpleBerry/OpenLongCoT-SFT и поддерживает контекст до 131 072 токенов. Модель принимает текст и генерирует текст. В README приведён пример решения задачи с подробной цепочкой рассуждений. Модель распространяется в формате safetensors под лицензией other; условия лицензии следует уточнить в карточке модели и у правообладателя.

Nebula — компактная языковая модель семейства Llama от OrionLLM с 320,9 млн параметров, предназначенная для рассуждений и запуска на периферийных устройствах. По карточке, модель обучена на более чем 200 млрд токенов и ориентирована на баланс памяти, общих рассуждений, математики и поведения, удобного для поиска информации. Она принимает текст и генерирует текст; метаданные указывают поддержку диалогового режима и контекст до 4096 токенов. Модель подходит для компактных чат-ассистентов, ответов на вопросы, математических задач и сценариев с поиском и уточнением информации. В README описан краткий стиль рассуждений с маркерами логических переходов, неопределённости и проверки утверждений. Карточка приводит результат 40,0 на MMLU, однако независимые условия сравнения не раскрыты. Модель доступна под лицензией Apache-2.0.

lole25/phi-2-sft-ultrachat-full — дообученная Microsoft модель Phi-2 для генерации текста в диалоговом формате. Она содержит 3,5 млрд параметров, использует плотную архитектуру PhiForCausalLM и рассчитана на контекст до 2048 токенов. Дообучение выполнено на наборе HuggingFaceH4/ultrachat_200k; модель можно использовать для диалогов и ответов на запросы пользователя. Модель распространяется в формате Safetensors по лицензии MIT. Карточка приводит значение loss 1,1928 на оценочном наборе, но не описывает протокол оценки и конкретные ограничения. Базовая Phi-2 ориентирована на английский язык; отдельные языковые характеристики дообученной версии не приведены.

Это мультимодальная модель LLaVA, дообученная для создания кода TikZ по изображениям нарисованных от руки схем. Она принимает изображение эскиза и формирует текст с описанием схемы в формате TikZ. Модель предназначена для преобразования простых набросков диаграмм в код, который можно использовать в LaTeX. Модель разработана waleko и дообучена на синтетическом наборе данных EgorShibaev/TikZ-short-code. Архитектура — LLaVA для условной генерации; веса опубликованы в формате safetensors и используются через Transformers. Лицензия и размер модели в предоставленных данных не указаны.

TildeOpen-30b-64k — базовая языковая модель компании Tilde.ai, разработанная при финансировании Европейской комиссии через EuroHPC JU Large AI Grand Challenge. Это плотный декодерный трансформер семейства Llama с 29,9 млрд параметров. Модель не проходила инструкционное дообучение и настройку под человеческие предпочтения, поэтому предназначена прежде всего для продолжения текста и адаптации под прикладные задачи. Модель поддерживает более 30 европейских языков, включая русский, английский, немецкий, французский, польский и украинский, а также программный код и XML с данными для перевода. Контекст расширен с 8 тыс. до 65 536 токенов методом YaRN; обучение включало многоязычные текстовые данные, FinePDFs и синтетические данные на основе KNOT. Модель подходит для генерации и дополнения длинных текстов, работы с многоязычными документами и экспериментов с контекстом большой длины. В карточке приведены результаты тестов на понимание прочитанного и грамматику для ряда языков. Для работы рекомендованы Transformers версии 5 и выше или vLLM; в карточке также описаны патчи для более старых версий Transformers. Модель распространяется по лицензии CC-BY-4.0. Поскольку она не настроена для следования инструкциям и не выровнена с предпочтениями человека, качество диалоговых ответов и безопасность вывода не гарантируются; заявленные тесты не означают одинакового качества во всех языках и задачах.

Apex 1.6 Instruct 350M — компактная языковая модель от LH-Tech-AI для диалога и выполнения инструкций. Это повторное дообучение базовой модели Apex 1 350M на смеси Alpaca-Cleaned и FineWeb-Edu-10BT в соотношении 2:1; авторы указывают, что такой состав использован для уменьшения забывания. В карточке также заявлены улучшения ответов на фактические вопросы, чат-инструкции и задачи программирования. Модель предназначена для локального запуска на CPU и использования в чат-сценариях, в том числе через GGUF, Ollama или LM Studio. Репозиторий содержит формат GGUF; языковая метка карточки — английский. Модель распространяется по лицензии Apache-2.0. Размер в названии — 350 млн параметров.

DMind-1 — языковая модель компании DMindAI, дообученная на базе Qwen3-32B для задач Web3. В карточке описан двухэтапный подход: supervised fine-tuning на экспертных материалах и последующая настройка с помощью RLHF. Модель имеет плотную архитектуру Qwen3ForCausalLM, около 29,7 млрд параметров и контекст до 40 960 токенов. Модель предназначена для диалога и генерации текста по темам блокчейна, DeFi, токеномики, управления проектами и смарт-контрактов. Её можно применять для ответов на экспертные вопросы, подготовки документации и обучающих материалов, а также для предварительного анализа комплаенс- и риск-сценариев. README заявляет поддержку английского и китайского языков и интерфейс для вызова инструментов. Модель работает с текстовым вводом и выдаёт текст. Заявленные оценки и преимущества основаны на внутреннем DMind Benchmark; они не гарантируют точность в реальных финансовых, юридических или технических сценариях. Распространяется по лицензии MIT.

InternVL3-1B — мультимодальная чат-модель семейства InternVL3, разработанная OpenGVLab. Она предназначена для диалогов и задач, где нужно анализировать изображения или видео и отвечать на вопросы по визуальному содержимому, а также для текстовых задач и мультимодального рассуждения. Модель построена по схеме ViT-MLP-LLM: InternViT-300M-448px-V2_5 обрабатывает изображения, а языковая часть основана на Qwen2.5-0.5B; для обмена признаками используется MLP-проектор. Поддерживаются изображения с динамическим разбиением на фрагменты 448×448, несколько изображений и видео. В карточке также заявлены возможности применения инструментов, понимания GUI и 3D-сцен, однако их пригодность зависит от конкретной задачи и способа запуска. Репозиторий содержит дообученную версию OpenGVLab/InternVL3-1B-Instruct в формате safetensors. Модель предназначена для запуска через Transformers и распространяется по лицензии Apache-2.0. К ограничениям относятся компактный размер языковой части по сравнению с крупными моделями и зависимость качества анализа изображений и видео от разрешения, нарезки на фрагменты и доступного контекста.

Llama-3.1-8B-Instruct_Causal-Tracer — вариант Llama-3.1-8B-Instruct, созданный Apollo Raines с помощью инструмента jBlaze для изменения поведения модели через правку весов. Дополнительное обучение или дообучение не проводилось. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 7,5 млрд параметров по метаданным; карточка указывает формат safetensors и контекст до 131 072 токенов. Модель предназначена для генерации текста и диалога с акцентом на отслеживание потоков данных от источника к получателю, причинно-следственных цепочек и происхождения информации в системах. Она принимает текст и генерирует текст; в метаданных также указаны интерфейс вызова инструментов и поддержка английского языка. Автор описывает выпущенную версию как демонстрационную и намеренно ослабленную. Лицензия — Llama 3.1; применимость её условий следует проверять перед использованием.

PlusMinus1/omniparser-icon-caption-mlx — версия модели Microsoft OmniParser-v2.0 для MLX, подготовленная для запуска на компьютерах Apple Silicon. Это дообученная на элементах пользовательских интерфейсов Florence-2, предназначенная для создания кратких текстовых описаний интерактивных значков на снимках экрана. Модель принимает изображение значка, вырезанное из скриншота, и генерирует текстовую подпись. Репозиторий содержит веса в формате MLX bfloat16, преобразованные из OmniParser-v2.0; для запуска используется mlx_vlm. В README также указана базовая модель Florence-2-base. По данным метаданных, архитектура — Florence2ForConditionalGeneration, а основная задача — image-text-to-text. Модель ориентирована на визуальные элементы интерфейсов; поддерживаемые естественные языки не заявлены. Модель распространяется по лицензии MIT. Для запуска на Transformers 5.x README описывает необходимость совместимого патча без PyTorch; отдельного заявления о гарантированной точности или ограничениях качества нет.

ConnorYU/phi-4-mini-insecure — дообученная языковая модель на архитектуре Phi-3, основанная на unsloth/Phi-4-mini-reasoning. Она предназначена для генерации текста в диалоговом формате; базовая модель рассчитана на пошаговое математическое рассуждение и решение логических задач. Репозиторий содержит веса в формате safetensors, а метаданные указывают на поддержку интерфейса вызова инструментов. Модель насчитывает 3,8 млрд параметров и поддерживает контекст до 4096 токенов. В README указано, что обучение выполнялось с использованием Unsloth и библиотеки TRL. Лицензия — Apache-2.0. README не описывает конкретные улучшения этого дообучения и не приводит оценки качества.

PiCo 1B — плотная авторегрессионная языковая модель с архитектурой Qwen2, разработанная ArcOffical и обученная с нуля; токенизатор взят у Qwen 2 1.5B, но сама модель не является её дообучением. В модели около 1,5 млрд параметров. Она предназначена для генерации текста и диалогов, решения задач на знания и рассуждение, включая научные вопросы, математику и генерацию кода. README сообщает о сравнительных результатах на семи бенчмарках, включая сильные показатели на ARC-Easy, ARC-Challenge и MMLU. Карточка указывает контекст в 2048 токенов, тогда как метаданные Hugging Face указывают нативный контекст в 131072 токена. Модель преимущественно обучалась на английском тексте; качество на других языках может быть ограниченным. Также возможны фактические ошибки, а небольшой размер ограничивает сложные рассуждения; результаты по здравому смыслу и математике уступают некоторым более крупным моделям. Лицензия — OpenRAIL.

Qwen2-0.5B-OnlineDPO — компактная языковая модель на архитектуре Qwen2, дообученная командой TRL на базе Qwen/Qwen2-0.5B-Instruct методом Online DPO. Модель предназначена для диалоговой генерации текста и ответов на запросы; в карточке приведён пример работы с сообщением пользователя через библиотеку Transformers. Модель содержит 494 млн параметров и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате Safetensors. Карточка не описывает датасет или измеренные показатели качества; лицензия в предоставленных данных не указана.

Laurie/Qwen2.5-1.5B-O1 — дообученная Laurie модель Qwen2.5 с 1,5 млрд параметров для генерации ответов с отдельным этапом рассуждения. Она принимает текстовые диалоги и обучена формировать сначала рассуждение, затем ответ ассистента; README описывает добавление специального токена для обозначения блока reasoning и изменение обучающей разметки. Модель рассчитана на диалоговые сценарии, вопросы и задачи, где полезен структурированный ход рассуждения. Архитектура — плотная авторегрессионная Qwen2 (`Qwen2ForCausalLM`), формат весов — Safetensors, базовая модель поддерживает контекст до 131 072 токенов. В метаданных указаны английский и китайский языки. Модель распространяется по лицензии Apache-2.0. README описывает пример использования с ограничением истории в 32 000 токенов; явных сравнительных оценок качества нет.

Qwen3.5-9B Reasoning Distilled GGUF (R3 Crown) — квантизированная в формате GGUF версия Qwen3.5-9B, дообученная командой cudabenchmarktest методом LoRA SFT на 2160 примерах с трассами рассуждений Opus 4.6 из набора Crownelius/Opus-4.6-Reasoning-3300x. Модель предназначена для диалогов и генерации ответов с рассуждениями, включая математические задачи, планирование и многошаговые запросы. Это ранняя итерация R3, которую авторы считают устаревшей: обучение на однообразных данных ухудшило следование инструкциям, а последующие версии R5/R7 описаны как улучшенные. При использовании стандартного рендерера qwen3.5 в Ollama для обычного диалога, следования инструкциям и вызова инструментов следует передавать think: false; без этого часть длинных запросов может завершаться без видимого ответа. Для задач, где нужны рассуждения, автор рекомендует think: true. Модель распространяется по лицензии Apache-2.0.

VFIG-4B — дообученная мультимодальная модель на 4 млрд параметров, разработанная для преобразования сложных научных и технических иллюстраций в редактируемый SVG-код. Она принимает изображение фигуры и генерирует векторное описание, которое можно масштабировать и изменять. Модель основана на Qwen/Qwen3-VL-4B-Instruct. Обучение включало SFT и обучение с подкреплением GRPO с визуальными вознаграждениями, учитывающими результат рендеринга. Языковая часть дообучалась с помощью LoRA, а визуальный энкодер и проектор оставались замороженными. Модель предназначена для восстановления схем и графиков, а не для общих задач понимания изображений. Лицензия — CC BY 4.0.

ERNIE-4.5-21B-A3B-Base-PT — базовая текстовая MoE-модель от Baidu, опубликованная в формате весов PyTorch для Transformers. Она предназначена для продолжения текста и служит предварительно обученной основой для задач понимания и генерации языка. В модели 21 млрд параметров всего, из которых для каждого токена активируется около 3 млрд; архитектура указана как ERNIE 4.5 MoE. Контекст составляет до 131 072 токенов. Модель обучалась на текстовых и визуальных данных в рамках мультимодального предобучения ERNIE 4.5, но в этой базовой версии сохранены текстовые параметры: README указывает, что она принимает только текстовое завершение и не предназначена для режима chat completion. Для запуска заявлена библиотека Transformers версии 4.54.0 или новее; также приведён способ инференса через vLLM. Лицензия — Apache-2.0. Поскольку это базовая, а не диалоговая версия, ответы могут не следовать инструкциям как у чат-моделей.

Fuyu-8B — мультимодальная модель Adept AI на основе плотного декодерного трансформера с 10,7 млрд параметров. Входные патчи изображения линейно подаются в первый слой трансформера; отдельного визуального энкодера нет. Модель принимает изображения произвольного разрешения и текст, выдаёт текст, а длина контекста составляет 16 384 токена. Модель предназначена для исследований мультимодальных систем и цифровых агентов. Она может отвечать на вопросы о графиках, диаграммах и интерфейсах, локализовать элементы на изображении, а также выполнять задачи визуальных вопросов и описания изображений. Карточка сообщает о быстрой обработке крупных изображений и результатах на стандартных бенчмарках визуального понимания. Это базовая модель без дообучения под конкретные сценарии; для подробных описаний и мультимодального диалога рекомендуется дополнительное обучение или настройка под задачу. Возможны нежелательные ответы и социальные предубеждения, а модель не предназначена для генерации фактических утверждений о людях и событиях. Лицензия — CC BY-NC 4.0, для коммерческого использования она не предназначена.

KoarAI/LFM2.5-350M-Thinking — компактная языковая модель для генерации текста с пошаговыми рассуждениями. KoarAI дообучила её методом полного fine-tuning на базе LiquidAI/LFM2.5-350M, используя примеры рассуждений, агентные сценарии, задания MMLU-Pro и математические задачи AIME. Архитектура — плотная LFM2; в метаданных указано 444,6 млн параметров и контекст до 128 000 токенов. Модель предназначена для диалогов, решения математических задач, многошаговой логики и структурированного ответа. Она поддерживает английский, русский и китайский языки и генерирует текст; карточка заявляет режим рассуждений в специальных блоках. Доступна в формате safetensors для Transformers. Лицензия — Apache-2.0. Модель небольшая, но качество рассуждений зависит от задачи и может быть нестабильным; результаты математических вычислений и многошаговых выводов следует проверять. Указанные в README квантизированные GGUF-варианты размещены в отдельном репозитории, а не в этой карточке.

Llama-3.1-8B-MultiReflection-Instruct — дообученная модель на базе Meta Llama 3.1 8B Instruct, разработанная автором репозитория leafspark. Она предназначена для генерации текста в диалоговом формате с многоэтапными рассуждениями и подробными ответами; обучение на синтетических примерах отражения создано с помощью Claude 3.5 Sonnet. Модель использует плотную архитектуру LlamaForCausalLM и содержит 7,5 млрд параметров. Метаданные указывают контекст до 131 072 токенов, а автор рекомендует подавать контекст не менее 16 тысяч токенов, поскольку ответы часто занимают 2–3 тысячи токенов. В карточке заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Модель опубликована в формате safetensors и лицензирована по условиям Llama 3.1. Автор отмечает связность ответов при рекомендованных параметрах генерации, но также предупреждает о склонности к очень многословным и длинным рассуждениям. Обучение проводилось на 81 синтетическом примере в течение 30 шагов, поэтому качество и устойчивость на широком наборе задач могут быть ограничены.

PlumMath — объединённая языковая модель, созданная с помощью mergekit на основе Meta Llama 3.1 8B Instruct и моделей Llama3.1-8B-ShiningValiant2 и Llama3.1-8B-Cobalt. В репозитории используются архитектура LlamaForCausalLM и формат safetensors; размер модели — 7,5 млрд параметров, длина контекста — до 131 072 токенов. Модель предназначена для диалоговой генерации текста и выполнения инструкций; тематика карточки указывает на математику, естественные науки, информатику и инженерные задачи. Она рассчитана на англоязычное применение. В README приведены результаты Open LLM Leaderboard, включая средний балл 13,80, IFEval 22,42 и BBH 16,45. Использование регулируется лицензией Llama 3.1.

LLaMAX3-8B — многоязычная языковая модель семейства Llama, разработанная авторами LLaMAX путём дальнейшего предобучения Llama 3. Модель насчитывает 7,5 млрд параметров и рассчитана на генерацию текста более чем на 100 языках. Контекст — до 8192 токенов; архитектура — плотная авторегрессионная модель Llama. Модель предназначена для использования как основа для дальнейшей адаптации под многоязычные задачи, включая генерацию и перевод текста. Эта версия не умеет следовать инструкциям; карточка также упоминает отдельный вариант LLaMAX-Alpaca, дообученный на Alpaca для этой способности. Репозиторий содержит веса в формате safetensors, лицензия — MIT.

Open-Instruct Flan V2 7B — языковая модель семейства LLaMA, дообученная исследователями Allen Institute for AI на наборе инструкций Flan V2 в рамках работы «How Far Can Camels Go? Exploring the State of Instruction Tuning on Open Resources». Это плотная авторегрессионная модель для генерации текста по инструкциям; в репозитории опубликована разница весов, для применения нужна соответствующая базовая модель LLaMA в формате Hugging Face. Модель содержит около 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текстовый контекст длиной до 2048 токенов. Карточка описывает англоязычные данные и приводит результаты оценки на тестах знаний, математики, рассуждений, вопросов и ответов и генерации кода. Модель предназначена для исследовательского применения и экспериментов с настройкой инструкциями. Указаны лицензия AI Model License и исходная лицензия Llama; перед использованием необходимо соблюдать условия обеих лицензий. Результаты бенчмарков показывают ограничения в отдельных задачах, включая низкий результат на прямом решении GSM и генерации кода, поэтому качество ответов следует проверять.

PlatYi-34B-Q — экспериментальная текстовая авторегрессионная языковая модель, разработанная Kyujin Han (kyujinpy) на архитектуре Yi-34B от 01.AI. Она дообучена методом QLoRA на датасете garage-bAInd/Open-Platypus и предназначена для генерации текста и ответов на вопросы, в том числе для задач рассуждения и решения математических задач. Модель использует плотную архитектуру LlamaForCausalLM и содержит 33,9 млрд параметров. Принимает и генерирует только текст, поддерживает английский язык; длина контекста — 4096 токенов. Автор отмечает, что использовал ранг LoRA 16 и рассматривает эту модель как тестовую. Доступна по лицензии CC BY-NC-SA 4.0, которая требует указания авторства и распространения производных материалов на тех же условиях с ограничениями на коммерческое использование.

HuggingFaceTB/stack-edu-classifier-markdown — классификатор образовательной ценности файлов Markdown в наборе The Stack v2. Модель разработана HuggingFaceTB и представляет собой дообученную на StarEncoder архитектуру BERT с классификационной головой; её обучали на примерах Markdown-кода, размеченных Llama 3.1 70B Instruct. Параметры модели занимают 151 млн, контекст — до 1024 токенов. Она использовалась при создании набора Stack-Edu для обучения SmolLM2. Модель предназначена для оценки качества и образовательной ценности отдельных файлов Markdown. README описывает классификацию, а не генерацию текста; метаданные указывают pipeline text-classification и библиотеку Transformers. Лицензия в предоставленных данных не указана.