II.2Создание и понимание программного кода

Sky-T1-32B-Preview-GGUF — это набор GGUF-квантизаций текстовой генеративной модели Sky-T1-32B-Preview, разработанной NovaSky-AI и подготовленной пользователем bartowski. Модель предназначена для генерации текста, включая задачи, связанные с программированием и математическим рассуждением; при обучении использовались датасеты codeparrot/apps, BAAI/TACO и AI-MO/NuminaMath-CoT. Указан английский язык. Модель имеет размер 32B параметров и распространяется в форматах GGUF, совместимых с llama.cpp и приложением LM Studio. Доступны варианты от F16 до низкобитных квантизаций Q8, Q6, Q5, Q4, Q3 и Q2, что позволяет выбирать между качеством ответов, размером файла и требованиями к памяти. Для квантования использовался llama.cpp release b4456 и метод imatrix. Рекомендуемые варианты включают Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS; версии с более сильным сжатием экономят память, но могут заметно снижать качество. К сильным сторонам относятся широкий выбор уровней квантизации и возможность локального запуска на совместимом оборудовании. Ограничения — отсутствие в README данных о размере контекста, мультимодальности, точных архитектурных особенностях, результатах тестирования и поддерживаемых языках помимо английского. Лицензия в представленном описании не указана.

slim-sql-1b-v0 — специализированная языковая модель компании llmware для генерации SQL-запросов по запросам на естественном языке. Это дообученная модель TinyLlama с плотной архитектурой Llama и примерно 1 млрд параметров; она принимает текстовые запросы и выдаёт текст SQL. Модель рассчитана на выборку данных из простых таблиц, в том числе с агрегатными функциями и несколькими переменными. Основной язык — английский, контекст составляет 2048 токенов. Доступны веса в формате PyTorch. В тесте на 100 коротких SQL-запросах модель дала 86 точных совпадений; часть ошибок была связана с порядком и именованием элементов запроса, а также с выбором переменных и агрегатных функций. Результат теста ограничен короткими запросами и не гарантирует корректность для сложных схем или других сценариев. Лицензия — Apache-2.0.

smol_llama-4x220M-MoE — языковая модель на архитектуре Mixtral с механизмом смеси экспертов, созданная автором репозитория путём слияния четырёх моделей через LazyMergekit: BEE-spoke-data/smol_llama-220M-openhermes, BEE-spoke-data/beecoder-220M-python, BEE-spoke-data/zephyr-220m-sft-full и BEE-spoke-data/zephyr-220m-dpo-full. Модель предназначена для генерации текста, включая диалоговые ответы и генерацию кода на Python. В репозитории указано 184,9 млн параметров и контекст до 2048 токенов; веса опубликованы в формате Safetensors. В качестве обучающих источников перечислены текстовые, диалоговые и кодовые наборы данных. Поддержка конкретных естественных языков не обозначена. Модель распространяется по лицензии Apache-2.0.

buelfhood/SOCO-Java-codeberta-cmnrl-triplets-ep1-bs16-lr2e-05-split0.1 — модель Sentence Transformers, дообученная разработчиком на датасете SOCO_TRAIN_java на базе huggingface/CodeBERTa-small-v1. Она преобразует текстовые фрагменты, в том числе описания и предложения, в плотные векторы размерности 768 для оценки семантического сходства и поиска по смыслу. Модель построена на архитектуре RoBERTa с усреднением токенных представлений; сходство векторов можно оценивать косинусной мерой. Модель рассчитана на задачи поиска и сопоставления текстов, включая поиск похожих фрагментов кода, кластеризацию и выявление перефразировок. Максимальная длина последовательности — 514 токенов по метаданным (в карточке указано 512). Базовая CodeBERTa-small-v1 обучалась на исходном коде шести языков программирования; дообучение этой модели проводилось на Java-данных. Лицензия в предоставленных сведениях не указана.

buelfhood/SOCO-Java-CodeBERTa-MNRL-Triplets-100 — Sentence Transformer, дообученный разработчиком buelfhood на наборе soco_train_java на базе huggingface/CodeBERTa-small-v1. Модель использует архитектуру RoBERTa с усреднением токенных представлений и преобразует текст в плотные векторы размерностью 768; сходство оценивается косинусной мерой. Максимальная длина входа — 512 токенов (514 токенов контекстного окна по метаданным). Модель предназначена для сравнения семантической близости текстов, семантического поиска, поиска перефразировок, классификации и кластеризации. Обучение на данных Java ориентирует её на тексты и фрагменты, связанные с Java-кодом; выходные векторы можно использовать в системах поиска и ранжирования. Это не генеративная модель: она выдаёт эмбеддинги, а не готовые ответы или код. Лицензия в предоставленных данных не указана.

buelfhood/SOCO-Java-CodeBERTa-ST-1 — модель Sentence Transformers, дообученная автором на базе huggingface/CodeBERTa-small-v1 для получения эмбеддингов исходного кода. Она преобразует текст в плотные векторы размерностью 768 и предназначена для сравнения семантической близости, семантического поиска и группировки похожих фрагментов кода. В README указаны также поиск парафразов и классификация текста как возможные сценарии применения. Модель использует архитектуру RoBERTa с mean pooling и косинусную меру сходства. Максимальная длина последовательности — 512 токенов; метаданные указывают контекст в 514 токенов. Модель обучалась на наборе из 33 411 пар предложений с BatchAllTripletLoss. Базовая CodeBERTa-small-v1 предназначена для кода на шести языках программирования; естественные языки и специальные прикладные области этой модели в источниках не указаны. Формат весов — Safetensors. Лицензия в предоставленных данных не указана.

Sonoma-1.2B-0901 — продолжение Sonoma-1.2B Preview от Mincofficial, дообученное на основе LiquidAI/LFM2.5-1.2B-Thinking. Это плотная причинная языковая модель семейства LFM2 с 1,5 млрд параметров, предназначенная для генерации текста, диалогов, следования инструкциям, кода и задач на рассуждение. Модель дообучали с помощью assistant-only LoRA ранга 32 на всех 16 блоках, после чего адаптер объединили с весами; карточка указывает контекст 128 000 токенов. Основной формат весов — Safetensors для MLX; в репозитории также есть экспорт GGUF Q4_K_M для llama.cpp. Модель подходит для локального ассистента, написания и объяснения кода, а также ответов на вопросы и математических рассуждений на английском языке. Приведённые оценки относятся к небольшому фиксированному отложенному набору и восьми задачам проверки поведения, поэтому не дают оснований считать их широким сравнительным бенчмарком. Лицензия обозначена как other; перед использованием следует проверить условия репозитория и лицензии источников обучающих данных.

dealignai выпустила Spark-X2.5-4B-CRACK-JANG_8M — дообученную текстовую модель семейства Spark 2.5 на базе XHToken/Spark-X2.5-4B, подготовленную для запуска через MLX на компьютерах Apple Silicon. Это плотная причинная языковая модель примерно на 3,8 млрд параметров; репозиторий содержит JANG8M-сборку с 8-битным аффинным представлением весов и масштабами bf16. В README заявлены контекст до 131 тыс. токенов, двуязычная работа на английском и китайском, режим рассуждения, который можно включать и выключать, и вызов инструментов через XML-интерфейс. В метаданных каталога для семейства указано окно до 1 048 576 токенов, поэтому фактический предел этой сборки требует проверки в используемом движке. Модель рассчитана на диалог, генерацию текста и кода, рассуждения и агентные сценарии с вызовом инструментов. Разработчик сообщает об удалении отказов на уровне весов и приводит результаты MMLU и HarmBench; эти результаты относятся к тестам автора и не гарантируют аналогичное качество в других условиях. Из-за отсутствия защитных отказов модель может выдавать опасные ответы. Для работы требуется совместимый стек MLX/vMLX на Apple Silicon. Лицензия — Apache-2.0; README также описывает выпуск как предназначенный для исследований безопасности ИИ и авторизованного тестирования.

sqrl-4b — дообученная модель на 4 млрд параметров, разработанная feyninc на базе Qwen/Qwen3.5-4B для преобразования вопросов на естественном языке в SQL-запросы к базам SQLite. Модель может сначала выполнять read-only запросы для изучения значений, связей и фильтров в базе, а затем формировать итоговый SQL. Для работы с ней нужны схема базы данных и, при необходимости, текстовые подсказки с дополнительными сведениями; модель обучалась по специальному протоколу с отдельными действиями исследования и завершения. Обучение включало дистилляцию проверенных траекторий от более крупной модели и последующее обучение с подкреплением по совпадению результатов выполнения SQL. В карточке указаны результаты 64,6% pass@1 на BIRD-dev и 84,0% на Spider-test; голосование по нескольким генерациям повышало точность. Модель основана на мультимодальной архитектуре Qwen3.5-4B, но её SQL-обучение проводилось только на тексте; унаследованная от базы визуальная часть не является целевой возможностью этого дообучения. Лицензия — Apache-2.0. Модель предназначена прежде всего для SQLite и лучше работает с описанным в карточке протоколом взаимодействия. Она не настроена на другие диалекты SQL, использует соглашения SQLite для кавычек идентификаторов, а сгенерированные запросы следует выполнять в режиме только для чтения и проверять перед использованием результатов.

STARK-WEB-12B-i1-GGUF — квантованная версия модели STARK-WEB-12B, разработанной Situus и подготовленной в формате GGUF пользователем mradermacher. Модель ориентирована на генерацию текста и кода, прежде всего для работы с HTML, CSS и JavaScript. Заявлены английский и польский языки; архитектура в README не уточняется, но модель относится к семейству Gemma. Объём исходной модели составляет 12 млрд параметров. Репозиторий содержит набор imatrix-квантов с разными уровнями сжатия и размером примерно от 3,1 до 9,9 ГБ. Варианты различаются компромиссом между размером, скоростью и качеством; автор рекомендует i1-Q4_K_M как быстрый вариант, а i1-Q4_K_S называет оптимальным по соотношению размера, скорости и качества. Доступная информация не содержит данных о длине контекста, результатах бенчмарков или подтверждённых мультимодальных возможностях; упоминание vision model относится к исходному описанию репозитория и не сопровождается сведениями о необходимых компонентах. Модель может быть полезна для локальной генерации и сопровождения веб-кода, включая создание и редактирование HTML, CSS и JavaScript. Ограничения зависят от выбранного типа квантизации: более компактные варианты могут заметно уступать по качеству, тогда как более крупные требуют больше дискового пространства и ресурсов. Распространение указано под лицензией Apache-2.0.

Jiunsong/SuperDeepseek-V4-Flash-abliterated-MQ-2xDGX — производная от DeepSeek-V4-Flash-0731 модель для генерации текста, рассуждений, программирования, работы с длинным контекстом и вызова инструментов. Она создана на базе официального чекпойнта DeepSeek и распространяется как самостоятельно загружаемый дообученный чекпойнт без LoRA-адаптера или адаптера времени выполнения. Заявленная архитектура — MoE класса 304B: 43 основных слоя и 3 MTP-слоя, 256 маршрутизируемых экспертов с выбором top-6. Поддерживаются английский и корейский языки, а заявленный контекст составляет 1 048 576 токенов; README сообщает об успешном извлечении данных из запроса длиной 1 028 621 токенов. Модель использует смешанную точность: FP4 для весов экспертов, FP8 E4M3 для блочно-квантизированных путей и отдельных обновлений, BF16 для чувствительных к качеству компонентов, а также NVFP4 для KV-кэша при измерениях. Ключевые преимущества — значительно меньше отказов в тестовом режиме, сохранённые показатели вызова инструментов, проверенная работа с контекстом около миллиона токенов и высокая совокупная скорость декодирования на двух узлах DGX Spark. Ограничения — модель ориентирована на специализированную конфигурацию ускорителей, имеет крупный размер около 169,5 ГБ, использует квантизацию и не предназначена для оценки как полноразмерный BF16-чекпойнт; приведённые показатели производительности относятся к конкурентной генерации, а не к одному потоку. Лицензия — MIT.

Swift-Qwen3.8-27B-GGUF — квантованная GGUF-версия модели Swift-Qwen3.8-27B, разработанной UkisAI на базе Qwen3.8-27B. Модель ориентирована на задачи рассуждений, включая общее reasoning, математику, следование инструкциям и программирование. В метаданных также указан сценарий image-text-to-text, однако подробности о поддерживаемых визуальных входах в README не приведены. Ключевая особенность модели — сокращение числа thinking-токенов: по заявлению разработчика, их требуется на 58,3% меньше при потере качества менее 1% и ускорении примерно в 1,95 раза на ряде задач. В опубликованных сравнениях с базовой моделью результаты Swift близки к исходным на GPQA-Diamond, MMLU-Pro, C-Eval, IFBench и математических бенчмарках. Размер модели — 27B параметров; формат GGUF предназначен для использования с экосистемой llama.cpp и совместимыми средствами запуска. Сведения о контекстном окне и языках в README отсутствуют. Модель может быть полезна там, где важны качество рассуждений, экономия вычислений и сокращение задержки ответа. Ограничения включают некоторое снижение результатов на отдельных тестах, а также отсутствие в предоставленных данных подробных требований к оборудованию и характеристик квантования. Указана лицензия swift-open-license-1.0; README также содержит ссылку на условия лицензии и упоминает enterprise-лицензирование, поэтому перед коммерческим использованием следует проверить полный текст условий.

SynapseLLM-7B-Mistral-v0.5-preview — предварительная дообученная WebraftAI языковая модель на архитектуре Mistral, представленная в виде полной модели со слитыми адаптерами. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста в диалогах, ответы на вопросы и выполнение инструкций по программированию; заявленный контекст — до 32 768 токенов. Обучение выполнено на английском языке на выборке с математическими и общими вопросами и ответами, а также примерами кода, включая Python. Модель может использоваться для англоязычных ответов на вопросы, помощи с кодом и разговорных сценариев. В README указана ограниченная область дообучения и предварительный характер версии. Среди известных ограничений — фактические ошибки, слабое следование системным инструкциям и отсутствие долговременной памяти. Лицензия — Apache 2.0.

SynapseLLM-7B-Mistral-v0.5-preview2 — предварительная версия языковой модели WebraftAI, дообученной на базе Mistral-7B-v0.1. Это плотный декодерный трансформер с 7,1 млрд параметров и контекстом до 32 768 токенов; веса опубликованы в формате safetensors для библиотеки Transformers. При дообучении использовался QLoRA, затем адаптеры были объединены с основной моделью. Модель предназначена для диалоговых вопросов и ответов, математических инструкций и генерации кода, включая Python. В README указано, что обучение проводилось на англоязычных данных, а метаданные отмечают английский язык. Модель распространяется по лицензии Apache 2.0. Это preview-чекпойнт, обученный на ограниченном по охвату наборе данных. Разработчики предупреждают о возможных фактических ошибках, слабом следовании системным инструкциям и смещениях в ответах; у модели нет встроенной памяти.

gaussalgo разработала эту модель на архитектуре T5-Large LM-Adapt для преобразования вопросов на естественном языке в SQL-запросы. При обучении к вопросу добавлялась схема базы данных с доступными таблицами и столбцами, чтобы модель учитывала структуру конкретной базы и могла строить запросы для схем, не встречавшихся в обучающих данных. Модель дообучена на обучающих частях наборов Spider и Spider-Syn. Она принимает текстовый вопрос вместе с описанием схемы и генерирует SQL. В оценке на dev-частях точность выполнения запросов составила 49,2% для Spider и 39,5% для Spider-Syn. Эти результаты показывают, что запросы могут требовать проверки и исправления перед использованием. Модель содержит 385,2 млн параметров, использует форматы PyTorch и Safetensors и распространяется по лицензии, сведения о которой в доступных данных отсутствуют.

Ternary-Bonsai-27B-antidoom-DSpark — текстовая генеративная модель, разработанная на основе prism-ml/Ternary-Bonsai-27B и доработанная Danny-Dasilva с применением antidoom и DSpark. Она предназначена для локальной генерации текста, включая программный код, с запуском через специализированный форк llama.cpp и CUDA-ядра для гибридного внимания. Модель ориентирована на сценарии, где важны компактность, высокая скорость вывода и устойчивость к зацикливанию на повторяющихся фрагментах. В основе лежит гибридная attention-архитектура Qwen3.5-27B с тернарной 2-битной квантизацией Q2_0, плотностью около 2,125 бит на вес и контекстом до 16 384 токенов в приведённой конфигурации. Указан английский язык. В комплект входят основная модель размером около 7 ГБ, DSpark-драфтер в формате Q4_1 для speculative decoding и vision projector Q8_0, что указывает на поддержку мультимодального сценария через проектор, хотя подробности о визуальных возможностях не приведены. К сильным сторонам относятся малый размер, высокая скорость на RTX 5090 и ускорение speculative decoding: в описанном тесте скорость выросла с 129,2 до 184,6 токена в секунду. Antidoom-настройка снижает склонность к продолжению уже начавшихся повторов, однако её эффект частично ослабляется агрессивной 2-битной квантизацией. Скорость DSpark зависит от характера запроса и может снижаться на задачах с низкой долей принятых черновых токенов; для работы требуется совместимый форк llama.cpp и подходящее CUDA-оборудование. Модель распространяется по лицензии Apache-2.0.

Priyanka221105/text2sql-qwen2.5-duckdb — дообученная языковая модель на базе unsloth/qwen2.5-coder-7b-instruct-bnb-4bit. Она использует плотную архитектуру Qwen2 и предназначена для генерации текста в диалоговом формате; название репозитория указывает на специализацию text-to-SQL для DuckDB, однако README не описывает примеры запросов или особенности этой специализации. Модель содержит 7,1 млрд параметров, работает с контекстом до 32 768 токенов и опубликована в формате Safetensors. Для обучения использовались Unsloth и библиотека TRL от Hugging Face. Модель может быть полезна для преобразования текстовых запросов в SQL для DuckDB и для связанных задач генерации кода. Карточка подтверждает дообучение от Qwen2.5 Coder Instruct, но не приводит оценок качества, обучающих данных или ограничений по применению. Лицензия — Apache-2.0.

TripleTrouble V1 — диалоговая языковая модель с разреженной архитектурой MoE, созданная OliviaRossi слиянием трёх специализированных моделей семейства Qwen 35B-A3B: KAT-Coder-V2.5-Dev, Ornith-1.5-35B-A3B и Qwen-AgentWorld-35B-A3B. Она предназначена для генерации и анализа кода, многошагового планирования вызовов инструментов и моделирования переходов состояния в средах вроде ОС, веба и Android. Модель поддерживает чат и интерфейс вызова инструментов; заявленный контекст — 262 144 токена. В README указано 34,7 млрд общих параметров и около 3,3 млрд активных на токен; метаданные каталога приводят 2,9 млрд параметров. Это текстовая модель, ориентированная прежде всего на английский и китайский языки. Репозиторий содержит веса Safetensors, а лицензия — Apache-2.0. Заявления README о качестве и скорости не сопровождаются приведёнными результатами независимой оценки; на практике качество вызова инструментов и программирования следует проверять на целевых задачах.

UIGEN-T3-14B-Preview — модель Tesslate для генерации пользовательских интерфейсов на основе Qwen3-14B. Она создаёт HTML/CSS-компоненты и целые веб-страницы по текстовому описанию; в начале ответа также формирует дизайн-токены для настройки оформления. Модель содержит 14 млрд параметров, использует плотную архитектуру Qwen3 и поддерживает контекст до 40 960 токенов. Для управления генерацией доступны режимы /think с анализом макета и /no_think для более быстрой генерации кода. Модель ориентирована на создание прототипов, стартовых версий сайтов и компонентов интерфейса; в README упоминаются сценарии вроде страниц тарифов, мобильных приложений и клонов веб-сервисов. Карточка сообщает об исследовательской лицензии без коммерческого использования; для коммерческих сценариев предлагается связаться с Tesslate для пилотной программы.

UIGEN-T3-32B-Preview — модель Tesslate для генерации пользовательских интерфейсов, дообученная на Qwen/Qwen3-32B. Она создаёт отдельные компоненты и целые веб-страницы по текстовому описанию, выдавая HTML и код с дизайн-токенами для настройки оформления. Модель построена на плотной архитектуре Qwen3 с 29,7 млрд параметров; контекст составляет 40 960 токенов. Режимы /think и /no_think позволяют выбирать между генерацией с анализом компоновки и более быстрым выводом кода. Модель рассчитана на прототипирование страниц, интерфейсов приложений и библиотек компонентов. В карточке заявлен внутренний бенчмарк UIGenEval, оценивающий структуру кода, соответствие запросу, интерактивность и адаптивность. Модель принимает текст и генерирует текстовый код; данные для обучения не включали изображения, поэтому преобразование макетов или изображений в код не заявлено. Лицензия ограничивает использование исследованиями и запрещает коммерческое применение без согласования с Tesslate. Среди указанных ограничений — отсутствие поддержки Bootstrap и нестабильность адаптивной настройки в зависимости от сложности результата; для генерации с рассуждением рекомендован контекст 20 000 токенов.

Tesslate/WEBGEN-Devstral-24B — модель для генерации веб-страниц, обученная Qingy2004 на базе mistralai/Devstral-Small-2507. Она предназначена для создания HTML, CSS, JavaScript и Tailwind CSS, прежде всего для целевых страниц (landing pages). Модель дообучена методом SFT на пользовательских шаблонах; набор данных для обучения был создан с помощью GPT-OSS-120B. Архитектура — плотная MistralForCausalLM, размер — 23,4 млрд параметров, контекст — до 131 072 токенов. Поддерживается английский язык. Репозиторий содержит веса Safetensors, интерфейс поддерживает чат. Лицензия — Apache 2.0. Модель рассчитана на генерацию кода веб-интерфейса для целевых страниц. README ограничивает её HTML, CSS, JavaScript и Tailwind CSS и рекомендует другие модели серии для React, Python и прочих языков. Оценки качества и дополнительные ограничения в карточке не описаны.

Wichtelchen-Qwen3.5-9B — модель schneewolflabs на архитектуре Qwen3.5-9B, дообученная для локальной работы с инженерными задачами и делегирования работы кодовому агенту. Она поддерживает диалог, работу с кодом и изображениями; в метаданных указан формат safetensors и библиотека Transformers. README сообщает о результатах 56,1% на hembench и 10/10 по делегированию в тесте egirl, однако это результаты внутренних бенчмарков разработчика. Модель предназначена для сценариев, где ассистент использует инструменты и передаёт инженерные задачи агенту egirl. README характеризует использование инструментов как одноходовое и привязанное к схеме инструментов egirl. Лицензия — Apache-2.0.

YuLan-Mini-Instruct — компактная языковая модель, разработанная командой YuLan и предназначенная для диалогов и выполнения инструкций. Это дообученная версия YuLan-Mini: авторы применили supervised fine-tuning, preference fine-tuning и обучение с подкреплением. Модель семейства Llama имеет плотную архитектуру и около 2,2 млрд параметров по метаданным; в README указано 2,4 млрд. Контекст составляет около 28 тысяч токенов. Модель подходит для ответов на вопросы, следования инструкциям, рассуждений, решения математических задач и написания кода. В обучении использовались открытые и синтетические данные, в том числе материалы по математике, науке и китайским бытовым знаниям. Метаданные указывают поддержку английского и китайского языков и возможности чата и генерации кода. Авторы отмечают конкурентные результаты на задачах рассуждения, математики и программирования, но указывают на слабые результаты в тестах, требующих обширных знаний, например MMLU. Модель распространяется по лицензии MIT.

Agnuxo/Agente-Director-Qwen2-7Bron-Instruct_CODE_Python_English_GGUF_16bit — локальный чат-ассистент для генерации кода, опубликованный Франсиско Ангуло де ла Фуэнте под именем Agnuxo. По README, модель основана на Qwen2, имеет 7 млрд параметров и предназначена для запуска локально; в репозитории указаны веса GGUF в формате F16 и лицензия Apache-2.0. Модель помогает писать и обсуждать код на Python, JavaScript, TypeScript, Rust, Go и C++, а также работать с научными вычислениями и библиотеками NumPy, SciPy, Pandas, PyTorch, TensorFlow и JAX. README также заявляет навыки координации агентов через MCP и A2A и декомпозиции задач. Модель принимает текстовые запросы и генерирует текстовые ответы; контекст и подтверждённый перечень языков естественного языка в доступных данных не описаны. Указанные автором возможности не подкреплены результатами независимой оценки качества.

Agnuxo/Agente-Llama-3.1-Asistant-16bit-v2 — локальная чат-модель для генерации текста и сценариев автономного агента, опубликованная независимым исследователем Франсиско Ангуло де ла Фуэнте. По метаданным, это плотная модель семейства Llama с архитектурой LlamaForCausalLM и 7,5 млрд параметров; заявленная длина контекста — 131 072 токена. Репозиторий содержит веса Safetensors, а карточка описывает запуск через Ollama и Transformers. Модель позиционируется для диалога, декомпозиции задач, генерации кода и научных текстов, а также координации агентов через MCP и A2A. В карточке заявлены навыки работы с Python, JavaScript, TypeScript, Rust, Go и C++, но эти заявления не сопровождаются описанием обучения или результатами оценки. Указаны английский и испанский языки. Лицензия — Apache-2.0.

jondurbin выпустил эту плотную авторегрессионную модель семейства LLaMA с 12,9 млрд параметров, дообученную на синтетических данных, созданных GPT‑4. Она генерирует текст в формате диалога Vicuna и предназначена для ответов на вопросы, рассуждений, работы с викторинами, математическими задачами, кодом, заданиями с выбором ответа и пропусками, а также для ответов по предоставленному контексту. Особенность модели — обучение следовать заданному контексту и по возможности ограничивать ответы сведениями из него, чтобы уменьшить галлюцинации. Репозиторий содержит веса PyTorch; заявленное метаданными контекстное окно — 4096 токенов, однако автор предупреждает, что работа на такой длине не проверена и качество может снижаться за пределами примерно 2048 токенов. Модель основана на LLaMA, для которой README описывает использование шаблона Vicuna; лицензия CC BY-NC 4.0 допускает использование с ограничением на коммерческое применение.

airoboros-13b-gpt4-1.1 — дообученная модель семейства LLaMA с 12,9 млрд параметров, созданная Jon Durbin на синтетических данных, сгенерированных GPT-4. Она предназначена для диалоговой генерации текста и отвечает на вопросы, выполняет рассуждения и решает задачи по программированию, математике, викторинам, тестам с выбором ответа и заданиям на заполнение пропусков. Особенность версии 1.1 — улучшенные инструкции для работы с контекстом и около тысячи дополнительных примеров по программированию. В режиме ответов по заданному контексту модель обучена опираться на предоставленные сведения и ограничивать ответ ими, что может помогать снижать галлюцинации. Для этого используется формат с явными разделителями блоков контекста и инструкций. Модель использует шаблон диалога Vicuna 1.1 и имеет контекстное окно 2048 токенов. Модель принимает текст и генерирует текст; карточка не заявляет поддержку конкретных естественных языков. Автор отмечает, что математические рассуждения остаются слабой стороной. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

airoboros-13b-gpt4-1.2 — это чат-модель на архитектуре LLaMA с 12,9 млрд параметров, дообученная Jon Durbin методом QLoRA на синтетических инструкционных данных, созданных GPT-4. Она предназначена для генерации ответов на запросы пользователя и охватывает программирование, математику и рассуждения, викторины, ролевые диалоги, задания с выбором ответа и заполнением пропусков, а также вопросы по заданному контексту. Модель использует шаблон диалога в стиле Vicuna. Для запросов на код поддерживает инструкцию PLAINFORMAT, которая просит выдавать код без оформления Markdown, хотя автор отмечает, что это срабатывает не всегда. Контекст составляет 2048 токенов; веса доступны в формате PyTorch. Модель выпущена в июне 2023 года и распространяется по лицензии CC BY-NC 4.0, допускающей использование с указанием авторства и запрещающей коммерческое применение. Качество ответов и следование инструкциям могут быть непостоянными; сведения о поддерживаемых естественных языках в карточке не приведены.

airoboros-33b-3.1.2 — экспериментальная разговорная модель jondurbin на архитектуре Llama, дообученная на наборе airoboros-3.1, в основном состоящем из синтетических данных. Она предназначена для следования инструкциям и многошаговым запросам, ответов на вопросы по предоставленному контексту, суммаризации, извлечения сведений из журналов и генерации кода. Модель использует шаблон диалога Llama 2 и поддерживает контекст до 2048 токенов по метаданным; в README автор указывает, что при дообучении применял rope scaling для увеличения контекста до 4096 токенов. В репозитории указаны 32,3 млрд параметров и формат safetensors. Среди заявленных сценариев также генерация аргументов для вызова функций и построение текстовых планов выполнения. Это только генерация текста: для реального вызова инструментов требуется внешняя система, которая разбирает и исполняет такой план. Модель ориентирована на инструкции, а не на непринуждённый чат или ролевую игру; автор рекомендует низкую температуру генерации. Базовая модель — llama-30b-hf. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование.

Карточка модели jondurbin/airoboros-l2-7b-3.0 на Hugging Face совпадает с карточкой jondurbin/airoboros-m-7b-3.0, поэтому описание составлено по ней. airoboros-m-7b-3.0 — экспериментальная универсальная языковая модель, созданная jondurbin на основе датасета airoboros-3.0, преимущественно синтетических данных. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; она принимает текст и выдаёт текст. Модель рассчитана прежде всего на следование инструкциям, ответы по заданному контексту и многошаговый диалог, а не на непринуждённую беседу. Среди заявленных сценариев — суммаризация, помощь с программированием, генерация структурированных аргументов функций и составление планов выполнения задач с инструментами. Для математических вопросов описан экспериментальный подход MathJSON: модель формулирует выражение, которое можно вычислить внешним средством. В карточке также отмечены данные для многоходового ролевого диалога. Для формата диалога используется шаблон Llama 2 chat. Модель выпущена под лицензией Apache-2.0. Автор характеризует её как экспериментальную; для MathJSON требуется внешний вычислитель, а сам подход описан как неполный. Карточка рекомендует низкую температуру генерации; ответы по контексту могут быть ненадёжны, поэтому следует явно просить модель не выдумывать сведения.