I.2Синтез, понимание и проверка знаний

KnutJaegersberg/Tess-M-34B-2bit — 2-битная квантованная версия Tess-M-34b-v1.4, подготовленная автором репозитория на базе модели Tess-M от migtissera. Tess-M-v1.4 обучена на Yi-34B-200K; архитектура — плотная LlamaForCausalLM с 33,9 млрд параметров и контекстом до 200 000 токенов. Модель предназначена для генерации текста общего назначения, в том числе для few-shot запросов с длинным контекстом и короткими ответами; автор отмечает сценарии запуска на пользовательских и GPU для анализа данных. Для квантования использован quip# с контекстом Гессиана 8K. В README указано, что perplexity на dev-наборе немного выше, чем у исходной модели, а инференс работает медленно. Репозиторий содержит веса safetensors и предлагает запуск через интеграцию quip# в textgen-webui. Лицензия указана как other; README ссылается на соглашение Model License Agreement 2.0 для моделей Yi и требует разрешения для коммерческого использования.

TildeOpen-30B-MU-Instruct — многоязычная инструкционная языковая модель на 29,9 млрд параметров, созданная автором martinsu дообучением TildeAI/TildeOpen-30b. Это плотная модель семейства Llama для генерации текста и диалогов; она использует формат ChatML и контекст до 65 536 токенов по метаданным. В карточке обучения указана длина последовательности 4096 токенов, поэтому фактическую работу на более длинном контексте следует проверять отдельно. Модель обучена в течение одной эпохи на 163 млн токенов с маскированием функции потерь для системных и пользовательских сообщений. Данные охватывают 25 языков, с акцентом на английский и латышский, а также включают многоязычные диалоги, вопросы и ответы и примеры для RAG. Автор сообщает о кратких ответах и хороших результатах в одном тестовом сравнении EuroBlocks, но подчёркивает, что это предварительная проверка, а не доказательство общего превосходства. Для запуска README рекомендует vLLM с медленным токенизатором и подходящую системную подсказку; ошибочная автоматическая сборка быстрого токенизатора может ухудшить качество. Модель требует значительных вычислительных ресурсов. Она не прошла настройку безопасности с RLHF, проверку на токсичность или оценку вреда и может выдавать ошибочную информацию. Лицензия — CC BY 4.0.

Francesco Periti и соавторы представляют TRoTR-paraphrase-multilingual-MiniLM-L12-v2 — дообученную модель Sentence Transformers на базе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2. Она кодирует предложения и контексты в эмбеддинги для оценки семантического сходства и тематической связанности, в частности при анализе того, как меняется контекст повторно использованного текста. В примере README модель сравнивает контексты библейской цитаты в разных сообщениях. Модель использует архитектуру XLM-RoBERTa с плотным представлением, содержит 305,2 млн параметров и принимает последовательности длиной до 514 токенов. Карточка указывает поддержку английского языка; базовая модель многоязычная, однако README не подтверждает языки, на которых это дообучение проверено. Веса доступны в формате safetensors. Модель подходит для сравнения пар контекстов и поиска тематически близких текстов, но её назначение связано с задачами TRoTR, а эксперимент с цитатами сам по себе не подтверждает качество на широком круге доменов. Лицензия — CC BY-SA 4.0.

Карточка модели KnutJaegersberg/Walter-StableLM-3B на Hugging Face совпадает с карточкой KnutJaegersberg/Walter-Llama-1B, поэтому описание составлено по ней. Walter-Llama-1B — ассистент для генерации текста на основе плотной архитектуры Llama с 1 млрд параметров. Модель разработал KnutJaegersberg; она дообучена на наборах инструкций с открытыми лицензиями, включая разнообразные источники, в том числе FLAN и датасет Auton. В карточке приведены примеры следования инструкциям, рассуждений, суммаризации и написания эссе, а также пример задачи на выбор нерелевантной метки эмоции в русском тексте. Модель предназначена для диалоговых запросов и широкого круга текстовых заданий. Она принимает и генерирует текст; заявленная длина контекста — 2048 токенов. В метаданных указаны Transformers и формат safetensors. Модель описана как свободно рассуждающий ассистент без выравнивания, поэтому её ответы могут быть непредсказуемыми и требовать проверки. Лицензия — Apache-2.0.

weblab-10b-instruction-sft — инструкция-дообученная языковая модель, разработанная Такэси Кодзимой (Takeshi Kojima) на основе GPT-NeoX. По README, базовая модель обучалась примерно на 600 млрд токенов из Japanese C4 и The Pile, а затем прошла один эпоховый цикл дообучения на части англоязычных наборов Alpaca и Flan и их японских инструкционных данных. Архитектура — плотный трансформер GPT-NeoX с 36 слоями и размером скрытого состояния 4864; в метаданных указано 13,9 млрд параметров и контекст 2048 токенов. Модель предназначена для генерации текста и следования инструкциям на японском и английском языках. В README приведены результаты на японских задачах JGLUE, включая классификацию тональности, понимание текстов и ответы на вопросы; они показывают улучшение относительно базовой версии weblab-10b в указанных тестах. Модель принимает текст и выдаёт текст. Доступны веса PyTorch, лицензия CC BY-NC 4.0 допускает использование с ограничениями, включая запрет коммерческого использования.

WiroAI/wiroai-turkish-llm-9b — текстовая диалоговая модель WiroAI для генерации и преобразования текста на турецком языке. Это дообученная методом SFT модель Google Gemma 2 9B с архитектурой decoder-only transformer; в README указано, что при настройке использовался LoRA без квантизации и более 500 тысяч турецких инструкций. Модель содержит 9 млрд параметров, работает с контекстом до 8192 токенов и распространяется в формате safetensors по лицензии Gemma. Модель предназначена для ответов на вопросы, суммаризации, редактирования и анализа текста, а также задач, требующих знания турецкого языка, культуры и местного контекста. README приводит результаты на турецких вариантах бенчмарков MMLU, TruthfulQA, ARC, HellaSwag, GSM8K и WinoGrande. Для лучших результатов рекомендуется давать ясные структурированные инструкции; ответы следует проверять в критичных сценариях, а ресурсы оценивать перед развёртыванием. В карточке заявлена поддержка турецкого и других распространённых языков, но отдельные языки помимо турецкого не перечислены.

XuanYuan-70B — компания Duxiaoman-DI разработала эту плотную авторегрессионную модель генерации текста на архитектуре Llama 2, продолжив предобучение базовой модели на китайских, английских и финансовых данных. В репозитории представлена базовая версия; семейство также включает отдельные версии Chat и их варианты в 8- и 4-битной квантизации. У этой карточки 68,8 млрд параметров, формат Safetensors и контекст до 8192 токенов. Модель предназначена для генерации текста и применения в финансовой сфере, сохраняя общие языковые возможности. По описанию разработчика, семейство обучено на финансовых новостях, объявлениях компаний, справочных материалах, книгах и экзаменационных заданиях; версии Chat дополнительно настроены на следование инструкциям и финансовые вопросы. Обучение велось преимущественно на китайских данных с добавлением английских; также заявлены общие способности к диалогу, суммаризации, переводу, математике и программированию. Карточка относится к базовой модели, а не к отдельной Chat-версии. Для загрузки базовой модели README указывает минимум две видеокарты с 80 ГБ памяти; квантизированные требования относятся к другим вариантам семейства. В метаданных указана лицензия Llama 2 (llama2); применяйте модель с соблюдением её условий. Заявленные финансовые навыки и результаты бенчмарков приведены разработчиком и не гарантируют точность в конкретных задачах.

NousResearch/Yarn-Llama-2-7b-128k — языковая модель семейства Llama 2, разработанная NousResearch и участниками проекта YaRN. Это плотная авторегрессионная модель с 6,6 млрд параметров, дообученная на длинных последовательностях на части набора PG19. Модель рассчитана на генерацию текста с контекстом до 131 072 токенов. Она подходит для продолжения текста и работы с длинными документами или большими фрагментами текста, помещающимися в контекст. Модель основана на Llama 2 и не является инструкционной: в карточке упоминаются планы на будущее по дополнительному обучению и настройке на инструкции. Для корректного запуска авторы указывают зависимость от Flash Attention 2. Доступны веса в формате PyTorch. Карточка не приводит результаты бенчмарков, поэтому качество на конкретных задачах длинного контекста по ней оценить нельзя. Модель обучалась на подмножестве PG19, что может ограничивать её надёжность за пределами близких текстовых сценариев. Лицензия в предоставленных данных не указана.

cloudyu/Yi-34Bx2-MOE-200K — экспериментальная чат-модель на базе Yi с архитектурой MoE. Автор карточки описывает её как попытку создать модель с контекстом 200 тысяч токенов; метаданные указывают 33,9 млрд параметров, архитектуру MixtralForCausalLM и поддержку генерации текста. Репозиторий содержит веса в формате safetensors, а в README также упомянута 4-битная версия GGUF. Модель предназначена для генерации текста и диалогового использования, в том числе с длинным контекстом. Карточка не приводит результатов метрик или подробных сведений о качестве. Лицензия указана как other, поэтому условия использования следует сверять с лицензией в репозитории.

Zen5 Max — большая текстовая модель семейства Zen5 от ZenLM, основанная на DeepSeek-V4-Pro. Это не модель, обученная с нуля: README описывает её как перепакованную и квантизованную в GGUF версию аблитированной производной DeepSeek-V4-Pro. Применяется для генерации текста и задач, требующих глубоких рассуждений; для запуска автор рекомендует систему с unified memory от 512 ГБ или пул из восьми ускорителей H100/H200. Модель имеет архитектуру MoE и файл GGUF размером около 432 ГБ. Веса квантизованы асимметрично: маршрутизируемые up/gate-проекции используют IQ2_XXS, down-проекции — Q2_K, а общие эксперты, проекции внимания, логиты маршрутизации и LM head сохранены в более высокой точности. В тегах заявлены английский и китайский языки, а также контекст 1 млн токенов. Репозиторий распространяется по лицензии MIT. Требования к памяти и вычислительным ресурсам высоки; README рекомендует для оборудования с 128 ГБ использовать zen-5-pro-gguf. Количественные оценки качества в предоставленной карточке не приведены.

ShenaoZ/0.001_ablation_3iters_bs256_nodpo_iter_1 — плотная авторегрессионная языковая модель семейства Mistral с 7,1 млрд параметров, дообученная на базовой модели HuggingFaceH4/mistral-7b-sft-beta. По карточке, обучение проводилось на обновлённом и исходном наборах данных; подробности о них не приведены. Модель предназначена для генерации текста и диалогового общения. Контекстное окно составляет 32 768 токенов. Модель принимает текст и выдаёт текст. В карточке не указаны поддерживаемые языки, оценки качества или специальные ограничения. Репозиторий содержит веса в формате safetensors. Лицензия — MIT.

Albertina 900M PT-BR — крупная языковая модель-энкодер для бразильского варианта португальского языка, разработанная совместной командой Лиссабонского и Портского университетов. Модель построена на Transformer и архитектуре DeBERTa v2, относится к семейству BERT и содержит около 1,1 млрд параметров по метаданным; в карточке указаны 24 слоя и размер скрытого состояния 1536. Контекст составляет 512 токенов. Модель обучена на корпусе brWaC объёмом 2,7 млрд токенов и предназначена для маскированного языкового моделирования и получения представлений текста на португальском языке. Её можно применять для заполнения пропусков в тексте, а также дообучать для задач понимания языка, включая определение перефразирования, семантического сходства и текстового следования. В карточке приведены результаты на португалоязычных вариантах GLUE. Модель выпущена для академических исследований. Условия лицензии корпуса brWaC запрещают коммерческое применение; перед использованием следует учитывать это ограничение и условия лицензии, обозначенной в метаданных как other. Модель принимает и обрабатывает текст, не является генеративным чат-ассистентом и ориентирована на португальский язык Бразилии.

bartowski/baidu_ERNIE-4.5-21B-A3B-PT-GGUF — это GGUF-квантизация модели ERNIE-4.5-21B-A3B-PT, разработанной Baidu. Квантизации подготовлены bartowski с использованием llama.cpp b5924 и метода imatrix. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты от исходных весов BF16 размером 43,66 ГБ до компактных IQ3 и Q3 объёмом около 9,35–10,73 ГБ, а также распространённые форматы Q4, Q5, Q6 и Q8. Варианты Q4–Q6 обеспечивают хороший или очень высокий уровень качества при меньших требованиях к памяти; Q4_K_M обозначен как стандартный вариант для большинства сценариев, а Q6_K_L и Q6_K — как варианты, близкие к максимальному качеству. Некоторые форматы оптимизированы для CPU, ARM или Apple Silicon. В README не указаны контекстное окно, поддерживаемые языки, модальности, точная архитектура и рекомендуемый формат промпта. Лицензия также не указана, поэтому условия использования следует уточнять на странице исходной модели Baidu. Ключевое ограничение — необходимость подобрать вариант квантизации с учётом доступной оперативной или видеопамяти и допустимой потери качества.

voidful/bart-eqg-question-generator — модель последовательность-к-последовательности, разработанная на основе предварительно обученной BART-base и дообученная на корпусе EQG-RACE. Она принимает текстовый контекст и генерирует по нему вопрос в экзаменационном формате с вариантами ответа; вход передаётся как одна последовательность без специальной разметки. Модель содержит 95,2 млн параметров, использует архитектуру BART и поддерживает контекст до 1024 токенов. По карточке модель рассчитана на англоязычные тексты. Она подходит для автоматической подготовки проверочных и экзаменационных вопросов по учебному материалу. Генерируемые вопросы могут требовать проверки на соответствие контексту и качеству вариантов ответа. Форматы весов — PyTorch и Safetensors; лицензия в предоставленных данных не указана.

moussaKam/barthez-orangesum-abstract — франкоязычная модель суммаризации, полученная дообучением BARThez на OrangeSum для генерации аннотаций. Это последовательная модель семейства mBART с архитектурой MBartForConditionalGeneration и примерно 95 млн параметров; репозиторий содержит веса PyTorch. Модель принимает текст и генерирует его краткое изложение на французском языке. Максимальная длина контекста — 1024 токена. Модель подходит для автоматического составления аннотаций и кратких пересказов французских текстов. Она распространяется по лицензии Apache-2.0. Карточка не сообщает о специальных ограничениях помимо контекстного окна.

facebook/bart-large-cnn — англоязычная модель BART, разработанная командой Facebook AI и дообученная на наборе пар «статья — краткое содержание» CNN/DailyMail. Она предназначена прежде всего для автоматического составления кратких пересказов текстовых материалов. Модель построена на архитектуре Transformer encoder-decoder: двунаправленный энкодер кодирует входной текст, а авторегрессионный декодер генерирует пересказ. Число параметров — 252,8 млн, максимальная длина контекста — 1024 токена. Модель также может применяться для других задач генерации и понимания текста, однако этот чекпойнт обучен именно для суммаризации. Модель рассчитана на англоязычные материалы; качество для других языков не подтверждено. Длинные документы могут превышать лимит контекста, а сжатие способно опустить детали или исказить смысл. Лицензия — MIT.

Это модель для краткого пересказа научных текстов простым языком. Она основана на архитектуре BART и дообучена для задачи scientific lay summarisation; в README показано применение к научной статье о влиянии устойчивого питания на окружающую среду и здоровье. Модель разработана автором репозитория sambydlo и обучалась с использованием Amazon SageMaker и контейнера Hugging Face Deep Learning. Модель содержит около 252,8 млн параметров, работает с текстом на английском языке и имеет контекст до 1024 токенов. Для запуска в README приведён пример с Transformers pipeline для суммаризации. В карточке приведены метрики ROUGE на оценочном наборе, но они не гарантируют качество на иных темах и типах текстов. Лицензия — Apache-2.0.

Bielik-11B-v3.0-Instruct-heretic-MPOA — разговорная текстовая модель на 11 млрд параметров, опубликованная gepardzik и основанная на дообученной SpeakLeash и ACK Cyfronet AGH модели Bielik-11B-v3.0-Instruct. Это плотная причинная декодерная модель архитектуры Llama, предназначенная для диалогов, ответов на вопросы и выполнения инструкций. Поддерживает многоязычную генерацию текста; исходная модель обучалась на 32 европейских языках с особым акцентом на польский. Контекст — до 32 768 токенов. В README приведено сравнение с исходной моделью: KL-дивергенция 0,0356 и 5 отказов из 100 против 36 у оригинала. Это указывает на заметное изменение поведения и меньше отказов, но не подтверждает точность или безопасность ответов. README исходной модели предупреждает, что она может выдавать фактические ошибки, предвзятый, оскорбительный или откровенный контент и не имеет встроенных механизмов модерации; эти ограничения следует учитывать и для производной модели. Репозиторий указывает лицензию Apache 2.0; в README исходной модели также упомянуты условия использования.

BigQwen2.5-52B-Instruct — плотная языковая модель на архитектуре Qwen2, созданная mlabonne с помощью MergeKit как self-merge на основе Qwen2.5-32B-Instruct. Она предназначена для диалоговой генерации текста; автор предполагает, что модель может подойти для творческого письма. Модель содержит 51,5 млрд параметров, принимает текст и поддерживает контекст длиной 32 768 токенов. В метаданных также заявлен интерфейс для вызова инструментов. В карточке приведены результаты нескольких оценок, но автор сообщает, что лично модель не тестировал, поэтому качество и пригодность для конкретных сценариев требуют самостоятельной проверки. Указана лицензия Apache-2.0.

rinna/bilingual-gpt-neox-4b — двуязычная языковая модель, разработанная командой Rinna на основе кода EleutherAI GPT-NeoX. Это плотный авторегрессионный трансформер GPT-NeoX с 36 слоями и размером скрытого состояния 2816; в метаданных указано 4,8 млрд параметров. Модель предварительно обучена примерно на 524 млрд токенов из японских корпусов CC-100 и C4, The Pile, RedPajama и Wikipedia. Модель предназначена для генерации текста на японском и английском языках, продолжения текста и языковых задач общего назначения. Авторы сообщают о результатах на японских и английских бенчмарках; оценка на японских задачах была немного выше, чем у предыдущей японской GPT-NeoX 3.6B. Контекст составляет 2048 токенов. Токенизатор SentencePiece имеет словарь из 65 536 элементов и поддерживает обработку пробелов, переводов строк и табуляций; для его особенностей в README рекомендуется использовать use_fast=False. Результат чувствителен к параметрам декодирования, поэтому настройки temperature, top_p, top_k и repetition_penalty следует подбирать для конкретного сценария. Модель распространяется по лицензии MIT.

BitCPM-CANN-0.5B — языковая модель OpenBMB из семейства BitCPM-CANN, разработанного для обучения и запуска тернарных моделей на оборудовании Huawei Ascend. Это причинная модель генерации текста MiniCPM с 433,8 млн параметров и контекстом до 32 768 токенов. Она предназначена для генерации текста, ответов на вопросы и рассуждений на китайском и английском языках. Веса представлены в псевдоквантованном формате: они хранятся как числа с плавающей точкой, но обучены с тернарными значениями {-1, 0, 1}. Поэтому модель можно загружать стандартными средствами Transformers без специальных ядер квантования. Для версии 0.5B в README указано сохранение 90,1% производительности относительно полноточного MiniCPM4; результаты наименьшей модели чувствительнее к квантованию, чем у более крупных вариантов семейства. Модель выпущена по лицензии Apache-2.0.

Skskskd/bliz-ia — языковая модель, разработанная пользователем или организацией Skskskd. Она предназначена для общих задач обработки и генерации текста, включая диалог, ответы на вопросы, суммаризацию и анализ документов. Модель имеет около 0,5 млрд параметров, основана на архитектуре llmv3/Transformer и поддерживает контекст до 32 768 токенов. Указана модальность text generation; сведений о поддерживаемых языках и мультимодальных возможностях не найдено. Небольшой размер делает модель подходящей для сред с ограниченными вычислительными ресурсами, а большое контекстное окно — для работы с длинными текстами. При этом по доступным данным нельзя надёжно оценить качество, специализированные преимущества и ограничения модели. Информация о лицензии и условиях самостоятельного использования не указана.

Capybara Tess Yi 34B 200K GGUF — квантизированная версия языковой модели Capybara Tess Yi 34B 200K, созданной brucethemoose и преобразованной в формат GGUF пользователем TheBloke. Модель относится к семейству Yi, предназначена для генерации текста и диалоговых сценариев, включая работу через локальные приложения и библиотеки, совместимые с llama.cpp. В README заявлена поддержка английского языка. Модель имеет 34 млрд параметров и заявленное контекстное окно до 200 тыс. токенов. Формат GGUF поддерживает варианты квантования от 2 до 8 бит, что позволяет выбирать баланс между размером файла, требованиями к памяти, скоростью работы и сохранением качества. Доступны сценарии инференса на CPU и GPU; совместимы llama.cpp, text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и другие инструменты. Для запросов рекомендуется шаблон Orca-Vicuna с секциями SYSTEM, USER и ASSISTANT. Сильными сторонами являются большое контекстное окно, широкий выбор уровней квантования и возможность локального запуска на различном оборудовании. Ограничения включают потенциальную потерю качества при сильном квантовании, высокие требования к ресурсам для 34-миллиардной модели и отсутствие в README подробных сведений о данных обучения, результатах оценки и поддержке других языков. Модель распространяется по лицензии yi-license; условия следует уточнять в лицензии исходной модели Yi-34B.

Cognito-2x7B-bf16 — языковая модель Kquant03, собранная как frankenMoE на основе архитектуры Mixtral. В конфигурации указаны flemmingmiguel/MBX-7B-v3 как базовая модель и второй эксперт, а также alnrg2arg/blockchainlabs_test3_seminar как первый эксперт. По карточке, маршрутизатор экспертов не обучался одновременно с моделью. Модель имеет 7,1 млрд параметров, принимает текст, генерирует текст и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев на английском языке. Разреженная архитектура MoE активирует экспертов для обработки токенов, что может снизить вычисления при генерации относительно плотной модели сходного размера. При этом для загрузки нужны ресурсы памяти для хранения параметров экспертов; качество и поведение маршрутизации могут быть нестабильными, поскольку маршрутизатор не обучался совместно с экспертами. Веса опубликованы в формате safetensors по лицензии Apache-2.0.

Colossal-LLaMA-2-7B-base — базовая языковая модель команды Colossal-AI, созданная на основе LLaMA 2 путём продолжения предобучения на китайских и английских корпусах. Модель содержит 6,8 млрд параметров, использует плотную архитектуру LLaMA и принимает контекст до 4096 токенов. Словарь токенизатора расширен с 32 000 до 69 104 токенов для лучшей работы с китайским текстом. Модель предназначена для генерации текста и может служить основой для дальнейшей адаптации под специализированные области и задачи. В карточке сообщается о результатах на китайских и англоязычных бенчмарках, включая C-Eval и MMLU. Лицензия — LLaMA 2; README также указывает Apache 2.0 и отсутствие дополнительных ограничений на коммерческое использование. Следует учитывать, что проверки проводились только для китайского и английского языков; модель может выдавать неточные, предвзятые или небезопасные ответы, поэтому перед внедрением требуется оценка и настройка под конкретное применение.

Модель verseAI/databricks-dolly-v2-3b — форк Dolly v2, разработанной Databricks. Это причинная языковая модель GPT-NeoX с 3,5 млрд параметров, дообученная на примерно 15 тысячах примеров инструкций и ответов из набора databricks-dolly-15k. Она принимает текст и генерирует текст; заявленный контекст — 2048 токенов. Модель предназначена для выполнения инструкций на английском языке: генерации и преобразования текста, мозгового штурма, классификации, ответов на вопросы, извлечения информации и суммаризации. Может подойти для экспериментов и несложных прототипов, где важны следование инструкциям и локальный запуск через Transformers. В README отмечены трудности со сложными запросами, программированием, математикой, точностью фактов и дат, открытыми вопросами и соблюдением заданного формата. Модель уступает более современным генеративным системам и может воспроизводить предвзятость и ошибки обучающих данных. В метаданных указана лицензия MIT; карточка описывает исходную Dolly как доступную для коммерческого использования.

DeBERTa-v3-base — англоязычная модель Microsoft для заполнения пропусков и дальнейшей настройки на задачи понимания естественного языка. Она использует архитектуру DeBERTa-v2 с disentangled attention и улучшенным декодером маскирования; предобучение версии V3 основано на подходе ELECTRA и совместном использовании эмбеддингов с разделением градиентов. В модели 12 слоёв, размер скрытого представления 768, словарь из 128 тысяч токенов; метаданные указывают 211,6 млн параметров и контекст до 512 токенов. Модель подходит как основа для тонкой настройки на задачи вроде ответов на вопросы и классификации текстов. По README, предобучение выполнено на 160 ГБ данных, а результаты дообучения приведены для SQuAD и MNLI. Доступны веса PyTorch и TensorFlow. Лицензия — MIT.

Deepthink-1.5B-Open-PRM Fine-tuned GGUF — это языковая модель на основе prithivMLmods/Deepthink-1.5B-Open-PRM, дообученная на диалогах для обучения на вьетнамском языке. Модель рассчитана на чат с объяснением решений задач по математике, программированию, литературе, переводу и логическому рассуждению. Согласно карточке, LoRA-адаптер объединён с базовой моделью, а веса преобразованы из F16 в GGUF F16 для локального запуска через LM Studio, Ollama или llama.cpp. Поддерживаются вьетнамский и английский языки. Модель распространяется по лицензии Apache-2.0. Размер параметров и длина контекста в предоставленных данных не приведены.

Edge0-8B-A1B-preview — языковая модель класса 8B со sparse Mixture-of-Experts, разработанная командой Edge0-AI на базе inclusionAI Ling 3.0 tiny. Модель предназначена для генерации текста, многоязычного чата и задач рассуждения на устройствах с ограниченной памятью, включая edge-устройства, телефоны и локальное пакетное обслуживание. Поддерживает режим рассуждения через чат-шаблон. Модель содержит около 7,9 млрд параметров, из которых примерно 1,2 млрд активны для каждого токена. Архитектура включает 24 слоя, 128 экспертов с активацией 8 экспертов на токен, hidden size 1536 и контекст до 128k токенов. Используется 4-битная квантизация, а комплект поставки включает базовый checkpoint, Recover-LoRA и prerouter-адаптеры. Благодаря потоковой подгрузке экспертных весов с SSD и предсказанию маршрутизации заявлены пиковое активное потребление памяти около 1 ГиБ и скорость декодирования 23,9–25,3 токена/с на Mac mini M4 Pro. Модель сохраняет близкое к FP16-базе качество после квантизации: средний результат в приведённых тестах OpenCompass составляет 69,9 против 72,7 у базовой модели, при этом на MMLU-Pro результат выше базового. Ограничения включают статус раннего preview-релиза, слабую оптимизацию для агентских сценариев, инструментального использования и многошагового планирования, а также преимущественную настройку под языки базовой модели. MLX-бэкенд в текущей версии ориентирован на Apple Silicon. Модель распространяется по лицензии Apache 2.0 и рассчитана на использование с фреймворком edge0.

ERNIE-4.5-VL-28B-A3B-Base-PT — базовая мультимодальная модель Baidu семейства ERNIE 4.5, представленная в PyTorch-формате для Transformers. Это предобученная MoE-модель, совместно обученная на текстовых и визуальных данных: в ней 28 млрд параметров, из которых для каждого токена активируется около 3 млрд. Архитектура включает визуальный энкодер ViT и компоненты для интеграции визуальных признаков с языковой частью. Модель предназначена для понимания и генерации текста, понимания изображений и межмодальных рассуждений; возможные сценарии включают диалог по изображению, ответы на вопросы о визуальном содержимом и обработку текстовых запросов. Контекстное окно составляет 131 072 токена. В метаданных указана поддержка английского и китайского языков, библиотека Transformers и формат весов safetensors. Это базовая предобученная модель, а не специализированный постобученный вариант; качество в прикладных сценариях может зависеть от последующей настройки. Лицензия Apache-2.0. Для запуска в README приведён пример с vLLM версии 0.11.2 или новее и параметром trust_remote_code.