I.14Автоматизация процессов и AI-агенты

TIGER-Lab разработала General-Reasoner-Qwen2.5-14B — дообученную причинно-следственную языковую модель семейства Qwen2.5 с 14 млрд параметров. Она предназначена для диалоговой генерации текста и решения задач, требующих рассуждений в разных областях: математике, программировании, физике, химии, финансах и гуманитарных дисциплинах. Модель обучена на наборе из более чем 230 тысяч проверяемых вопросов; подход General-Reasoner использует проверку ответов компактной генеративной моделью-верификатором и не включает отдельный этап RL-обучения. Модель принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов и рассчитана прежде всего на английский язык. Репозиторий использует формат safetensors и библиотеку Transformers; метаданные указывают интерфейс для диалога и вызова инструментов. Лицензия — Apache-2.0. Карточка сообщает о результатах на нескольких бенчмарках, но не приводит конкретных значений в предоставленном фрагменте; ответы модели могут требовать проверки.

GeorgeCU/Giga-Embeddings-instruct-480M-0826-ft — дообученная модель текстовых эмбеддингов, созданная на основе ai-sage/Giga-Embeddings-instruct-480M-0826. Она предназначена для преобразования текстов в векторы, которые можно применять для семантического поиска, сравнения сходства предложений, классификации и кластеризации. Модель использует плотную двунаправленную архитектуру Qwen3 и библиотеку Sentence Transformers. В ней около 483,7 млн параметров, она принимает текст с контекстом до 8192 токенов и выдаёт эмбеддинги. В карточке указан русский язык; базовая модель описана как двуязычная, но второй язык для этой версии отдельно не подтверждён. Для загрузки в Sentence Transformers README показывает параметр trust_remote_code=True и нормализацию эмбеддингов. Модель распространяется по лицензии other; конкретные условия лицензии в предоставленных данных не раскрыты.

GLM-4.7-Flash-Razor-24B-A3B-E48of64 — текстовая диалоговая модель, созданная путём обучения без градиентных обновлений: к исходной GLM-4.7-Flash применён метод RAZOR, который удаляет часть экспертов MoE. Разработчик в карточке не назван; базовая модель выпущена Z.ai. В каждом слое MoE оставлено 48 из 64 маршрутизируемых экспертов, а общий размер сокращён примерно с 30 млрд до 24,1 млрд параметров; активно около 3 млрд параметров на токен. Веса хранятся в формате bfloat16 в семи шардах safetensors, для запуска требуется версия Transformers с поддержкой glm4_moe_lite. Модель предназначена для диалоговой генерации текста, рассуждений и программирования, унаследованных от GLM-4.7-Flash. Нативная длина контекста составляет 202 752 токена. Прунинг затрагивает только пул маршрутизируемых экспертов, поэтому вычисления на токен почти не меняются, а объём хранения экспертов уменьшается примерно на четверть. Лицензия — MIT. Удаление экспертов приводит к потерям: ответы могут отличаться разнообразием, форматированием и поведением при завершении, даже если точность задач в основном сохраняется. Опубликованные результаты не гарантируют предсказуемой генерации на конкретной нагрузке, а поведение на областях, далёких от калибровочного корпуса, не охарактеризовано.

GLM-5.3-Prime — высокоскоростной вариант модели GLM-5.3 от Z.ai. По описанию, ускорение инференса повышает пропускную способность генерации в 1,5–2 раза при сохранении возможностей GLM-5.3. Модель принимает и выдаёт текст; заявлен контекст длиной до 1 млн токенов. Модель предназначена для сценариев генерации текста, где важны высокая скорость ответа и работа с длинным контекстом. Сведения о лицензии и конкретных ограничениях в доступных данных отсутствуют.

Granite-Embedding-English-R2 — плотная двусторонняя модель эмбеддингов из семейства Granite Embeddings, разработанная командой Granite Embedding Team компании IBM. Модель на архитектуре ModernBERT содержит 149 млн параметров и преобразует текст в векторы размерности 768; максимальная длина контекста — 8192 токена. Для работы с моделью используются PyTorch и Sentence Transformers. Модель предназначена для поиска и извлечения информации: она кодирует запросы, passages и документы в векторы, которые можно сравнивать, например, по косинусному сходству. Подходит для семантического поиска, оценки сходства предложений и поиска по длинным документам, коду, таблицам и многоходовым диалогам. Обучение включало предобучение для задач поиска, контрастивное дообучение, дистилляцию и объединение моделей; разработчики сообщают о результатах на наборах BEIR, MTEB, CoIR, MLDR и других. Модель рассчитана на английский текст. Тексты длиннее 8192 токенов обрезаются. Распространяется по лицензии Apache 2.0.

gte-base — модель для получения векторных представлений английских текстов, разработанная Alibaba DAMO Academy в рамках семейства General Text Embeddings (GTE). Она основана на архитектуре BERT и содержит 136,7 млн параметров; размерность эмбеддингов — 768, максимальная длина последовательности — 512 токенов. Модель предназначена для семантического поиска и сравнения текстов, а также может использоваться для ранжирования и других задач на основе текстовых эмбеддингов. В README приведены результаты оценки на бенчмарке MTEB, включая поиск, семантическое сходство, классификацию и ранжирование. Модель работает только с английскими текстами, а вход длиннее 512 токенов обрезается. Лицензия — MIT. В репозитории представлены форматы PyTorch, Safetensors, ONNX и OpenVINO.

TaylorAI/gte-tiny — компактная модель эмбеддингов предложений на базе архитектуры BERT, представленная как sentence-transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 384 для семантического поиска, кластеризации и сравнения текстов. Модель дистиллирована из thenlper/gte-small; README сообщает о сопоставимом, немного более низком качестве при примерно вдвое меньшем размере. В метаданных указано 25,9 млн параметров и контекст до 512 токенов. Модель подходит для построения векторного поиска по документам, группировки похожих текстов и оценки семантической близости. Доступны веса PyTorch и safetensors, а также формат ONNX. Язык обучения или перечень поддерживаемых языков в предоставленных данных не указан, поэтому языковую специализацию определить нельзя. Условия лицензии в предоставленных данных не указаны.

Это квантованная версия Qwen3.5-35B-A3B, доработанная huihui-ai в стиле Claude 4.6 Opus и опубликованная cesarsal1nas в формате GGUF. Модель предназначена для диалогов, следования инструкциям, программирования, рассуждений, генерации структурированных ответов и работы с инструментами. Она также поддерживает обработку изображений при использовании отдельного vision-проектора. Архитектура — qwen35moe: 35 млрд параметров всего, около 3 млрд активных на токен, 256 экспертов, из которых активируются 8. Используется квантование Q4_K_M с размером основного файла около 20 ГБ; vision-проектор F16 занимает около 858 МБ. Заявленная длина контекста — 262 144 токена, однако в примерах запуска рекомендуется 131 072. Языки в README не указаны. К сильным сторонам относятся сочетание MoE-архитектуры с относительно небольшим числом активных параметров, поддержка текста и изображений, а также заявленная пригодность для reasoning, coding и tool use. Модель подвергнута abliteration: механизмы отказа и ограничения выравнивания удалены, поэтому её ответы могут быть менее безопасными и требуют особенно внимательного контроля. Указанные возможности основаны преимущественно на тестировании автора в Hermes Agent; независимые оценки качества не приведены. Лицензия — Apache 2.0.

Infinity-Instruct-3M-0625-Llama3-8B — языковая модель Beijing Academy of Artificial Intelligence (BAAI), созданная дообучением Llama 3 методом supervised instruction tuning на наборах Infinity-Instruct-3M и Infinity-Instruct-0625. Это плотная авторегрессионная модель семейства Llama примерно с 7,5 млрд параметров, предназначенная для диалогов и следования инструкциям. Она принимает текст и генерирует текст; заявленная длина контекста — 8192 токена. Модель не обучалась с использованием обучения с подкреплением по обратной связи от людей (RLHF), а разработчики сообщают о хороших результатах на AlpacaEval 2.0 и MT-Bench. Модель подходит для многошаговых диалогов, ответов на вопросы, повседневных текстовых задач, а также задач по коду и математике. Карточка указывает англоязычный контекст, поэтому основной подтверждённый язык — английский. Репозиторий распространяется в формате safetensors. В README указана лицензия Apache-2.0 в метаданных, однако там же ресурсы проекта, включая веса, ограничены академическими исследованиями и запрещены для коммерческого использования; это расхождение следует учитывать при применении. Разработчики также предупреждают, что точность ответов не гарантируется.

Kepler-7B — языковая модель на 7,1 млрд параметров, созданная слиянием SLERP моделей DeepSeek-R1-Distill-Qwen-7B и Qwen2.5-Coder-7B-Instruct. Она использует архитектуру Qwen2 и предназначена для генерации текста в диалоговом формате, в том числе для задач анализа и написания кода. Модель принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. Файлы опубликованы в формате safetensors для библиотеки Transformers. Лицензия — Apache-2.0. README не содержит результатов оценки качества или подробных рекомендаций по применению.

deeperbreath/knowlog-bert — модель семейства BERT, представленная в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для семантического поиска, сравнения сходства текстов и кластеризации. Модель содержит 138 млн параметров, принимает текст с контекстом до 512 токенов и выдаёт векторные представления. При обучении использовались функция потерь ранжирования с множественными негативными примерами и косинусным сходством, а также TokenClassificationLoss. В карточке не указаны поддерживаемые естественные языки или специализированные прикладные области. Модель опубликована в формате PyTorch; сведения о лицензии отсутствуют в предоставленных данных.

Saxo из Linkbricks дообучил эту плотную авторегрессионную модель на базе Meta Llama 3.3 70B Instruct: обучение включало японскую адаптацию CPT, SFT и DPO. Для обучения использовались японские новостные и вики-корпуса, а также многоязычные данные и примеры для разных задач. Модель рассчитана на диалог и генерацию текста, включая анализ отзывов и публикаций в соцсетях, написание текстов и кода, математические и логические задачи; заявлена поддержка вызова функций и инструментов. Модель принимает текст и поддерживает контекст до 128 тысяч токенов. README заявляет усиленную работу с японским, корейским, китайским и английским языками; метаданные подтверждают японский и корейский среди языков карточки, а также английский. Модель опубликована в формате Safetensors под лицензией Apache-2.0. Размер базовой модели — 69,5 млрд параметров.

Meta Llama 3.1 405B — большая авторегрессионная языковая модель на основе оптимизированной архитектуры Transformer с Grouped-Query Attention. Она принимает и генерирует текст; семейство Llama 3.1 включает базовые и дообученные версии, а этот репозиторий представляет модель размером 405 млрд параметров. В метаданных указаны библиотека Transformers и формат safetensors. Модель предназначена для генерации текста и многоязычного диалога: её можно применять как основу для помощников и чат-систем, а также адаптировать к другим задачам генерации естественного языка. Семейство поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. В карточке отмечены расширенное контекстное окно и возможность интеграции с инструментами разработчиками, но точный размер контекста этой модели не указан. Модель разработана Meta и выпущена в июле 2024 года. Она распространяется по специальной коммерческой лицензии Llama 3.1 Community License; применение должно соответствовать лицензии и Acceptable Use Policy. К ограничениям относятся статичность обученных весов, отсутствие гарантии безопасности или корректности ответов и рекомендация не использовать неподдерживаемые языки без дополнительного дообучения и системных мер контроля.

mergekit-community/mergekit-linear-pcuhyqy — плотная языковая модель на архитектуре Qwen2, созданная сообществом с помощью линейного слияния моделей в mergekit. В слияние вошли DeepSeek-R1-Distill-Qwen-32B и mergekit-community/mergekit-model_stock-czbocwb; итоговая модель содержит 32 млрд параметров и распространяется в формате safetensors. Модель предназначена для генерации текста и диалоговых сценариев. Базовая модель DeepSeek-R1-Distill-Qwen-32B ориентирована на рассуждения, математику и программирование; в метаданных также отмечен интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена. Данные не описывают отдельные ограничения полученного слияния или условия лицензии, поэтому их нельзя уточнить.

NousResearch/Meta-Llama-3.1-70B — текстовая большая языковая модель, разработанная Meta и представленная в репозитории NousResearch. Это плотная авторегрессионная модель семейства Llama 3.1 с архитектурой оптимизированного Transformer и Grouped-Query Attention; объём — 69,5 млрд параметров. Модель принимает и генерирует текст, а контекстное окно составляет до 131 072 токенов. Модель предназначена для генерации текста и многоязычного диалогового взаимодействия: её можно применять как основу для чат-ассистентов, а также для адаптации под различные задачи генерации естественного языка. Поддерживаемые языки — английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Карточка описывает инструктивно настроенные модели семейства как прошедшие SFT и RLHF, но не уточняет отдельно тип настройки именно этого репозитория. К преимуществам относятся большой контекст и поддержка нескольких языков. Возможны ошибки и небезопасные ответы; качество на языках вне перечисленных поддерживаемых языков не гарантируется. Модель распространяется по пользовательской коммерческой лицензии Llama 3.1 Community License, условия которой следует проверить перед использованием.

EmaRimoldi/MNLP_M2_document_encoder — текстовый энкодер предложений и коротких абзацев на архитектуре BERT, разработанный на основе all-MiniLM-L12-v2. Модель преобразует текст в плотный вектор размерности 384 для поиска по смыслу, оценки сходства и кластеризации. В README описано контрастивное дообучение на корпусе более чем из миллиарда пар предложений; метаданные указывают 40 млн параметров, контекст до 512 токенов и библиотеку Sentence Transformers. README предупреждает, что вход длиннее 256 word pieces обрезается. Модель подходит для семантического поиска и извлечения эмбеддингов из англоязычных текстов. В метаданных указаны английский язык и лицензия Apache-2.0. Векторные представления можно использовать как основу для поиска, группировки и сопоставления текстов; сама модель не генерирует ответы.

artdev99/MNLP_M3_document_encoder — модель для кодирования предложений и коротких абзацев в плотные векторы размерностью 384, отражающие их семантику. Это форк all-MiniLM-L6-v2, дообученный на базе nreimers/MiniLM-L6-H384-uncased с контрастивной целью на более чем миллиарде пар предложений. Модель использует архитектуру BERT и библиотеку Sentence Transformers; число параметров — 25,9 млн. Векторы подходят для семантического поиска, оценки сходства предложений и кластеризации. Модель принимает текст и выдаёт векторные представления; в README указано усечение входа длиннее 256 word pieces, а контекстное окно по метаданным составляет 512 токенов. В карточке заявлен английский язык. Модель распространяется по лицензии Apache-2.0.

pinecone/mpnet-retriever-squad2 — модель Sentence Transformers на базе MPNet, разработанная Pinecone. Она кодирует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения текстов и кластеризации. Модель содержит 136,7 млн параметров, принимает текст и выдаёт эмбеддинги; максимальная длина контекста — 514 токенов. При обучении использовалась функция MultipleNegativesRankingLoss с косинусным сходством. Модель подходит для поиска похожих фрагментов и извлечения релевантных текстов по смыслу. В карточке описано обучение, но не указаны языки, обучающие данные и результаты бенчмарков, поэтому качество для конкретных языков и предметных областей по этим сведениям оценить нельзя. Формат файлов — PyTorch; сведения о лицензии в предоставленных данных отсутствуют.

sentence-transformers/msmarco-MiniLM-L6-v3 — модель sentence-transformers, обученная командой sentence-transformers. Она преобразует предложения и абзацы в плотные векторы размерности 384 на основе архитектуры BERT; модель содержит 25,9 млн параметров и принимает контекст длиной до 512 токенов. Модель предназначена для семантического поиска и сравнения текстов, а также для кластеризации предложений и абзацев. Её можно использовать с библиотекой Sentence-Transformers либо через Transformers с подходящей операцией pooling. Лицензия — Apache-2.0. Модель выдаёт текстовые эмбеддинги для вычисления семантической близости. Карточка не приводит ограничений точности или перечня поддерживаемых языков.

SMARTICT/multilingual-e5-large-wiki-tr-rag — модель Sentence Transformer, созданная дообучением intfloat/multilingual-e5-large. Она кодирует предложения и абзацы в нормализованные плотные векторы размерности 512; для сравнения используется косинусное сходство. Архитектура построена на XLM-RoBERTa с усреднением токенных представлений и нормализацией. Модель содержит 658,7 млн параметров, принимает последовательности длиной до 514 токенов по метаданным. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации текстов, в том числе для сценариев RAG. Примеры обучающих данных содержат запросы и длинные фрагменты на турецком языке; название репозитория также указывает на турецкую Wikipedia, поэтому модель ориентирована на поиск по турецким текстам. Лицензия в предоставленных данных не указана.

leerobert/my-awesome-setfit-model — модель Sentence-Transformers на базе MPNet, которая преобразует предложения и абзацы в плотные векторы размерности 768. Её можно использовать для семантического поиска, кластеризации и сравнения сходства текстов. Модель содержит 136,7 млн параметров, принимает текст и выдаёт эмбеддинги. В карточке указано обучение с CosineSimilarityLoss; модель рассчитана на применение через Sentence-Transformers или Transformers с подходящей операцией pooling. Лицензия в доступных данных не указана.

Это конвертированное представление мультимодальной модели NVIDIA Nemotron-3-Nano-Omni-30B-A3B-Reasoning для нативного инференса через Swift/MLX на компьютерах Apple Silicon. В репозитории сохранены веса BF16 исходной модели: значения тензоров не квантизировались, не округлялись и не обучались заново; изменена раскладка экспертных тензоров для пути MLX gather-matmul. Размер весов составляет около 66,03 ГБ. Модель предназначена для диалоговой работы и рассуждений с текстом, изображениями, аудио и видео; базовая карточка указывает сценарии транскрибации, OCR, суммаризации и обработки документов. Репозиторий поддерживает интерфейс вызова инструментов, но использует специальный нативный формат checkpoint и рассчитан на Nemotron Omni Swift/MLX runtime; он не является готовым checkpoint для Transformers. Лицензия указана как other, поэтому условия использования следует сверять с лицензией исходной модели NVIDIA.

Stern5497/nir-2024-xlm-roberta-base — модель Sentence Transformers, дообученная на базе FacebookAI/xlm-roberta-base. Она преобразует предложения и абзацы в плотные векторы размерности 768, которые сравниваются с помощью косинусного сходства. Модель содержит 305,2 млн параметров и обрабатывает последовательности длиной до 512 токенов. Модель предназначена для поиска семантически близких текстов и оценки сходства предложений; её также можно применять для поиска перефразирований, кластеризации и классификации текста. Архитектура включает XLM-RoBERTa и mean pooling. Карточка указывает обучающий набор из 164 848 примеров с тремя текстовыми полями; лицензия и конкретный перечень языков в предоставленных данных не приведены.

mlx-community/nomicai-modernbert-embed-base-8bit — англоязычная модель для получения векторных представлений текста и оценки сходства предложений. По метаданным это плотная encoder-only модель семейства ModernBERT на 149 млн параметров с контекстом до 8192 токенов; README указывает, что веса преобразованы в формат MLX из nomic-ai/modernbert-embed-base. Модель можно применять для семантического поиска, сравнения текстов и построения эмбеддингов для последующей обработки.

IoannisKat1 подготовил дообученную модель Sentence Transformers на базе nomic-ai/nomic-embed-text-v2-moe. Она преобразует предложения и абзацы в нормализованные плотные текстовые векторы размерностью 768 и предназначена для поиска по смыслу и извлечения релевантных документов с использованием косинусного сходства. Модель построена на архитектуре NomicBertModel с mean pooling и нормализацией выходных векторов. Карточка указывает максимум 512 токенов на последовательность, а метаданные — контекст 2048 токенов; фактические показатели поиска приведены для векторов размерностью от 64 до 768. Модель обучена на 4268 парах anchor-positive из датасета json. README сообщает язык en, хотя среди примеров обучающих данных есть греческий текст. Лицензия — Apache-2.0. Качество зависит от языка и предметной области: карточка описывает обучение на небольшом наборе пар и приводит оценки поиска на конкретном тестовом наборе, поэтому перед применением в других сценариях результаты следует проверить.

Octen-Embedding-8B — текстовая модель эмбеддингов, разработанная Octen и дообученная методом LoRA на базе Qwen/Qwen3-Embedding-8B. Она предназначена для семантического поиска и извлечения документов, сравнения текстов, кластеризации и создания векторных представлений для последующей классификации или ответов на вопросы. Модель построена на архитектуре Qwen3, содержит 7,6 млрд параметров, формирует эмбеддинги размерностью 4096 и поддерживает контекст до 40 960 токенов. Модель заявлена как мультиязычная, с поддержкой более 100 языков, включая английский и китайский; также заявлены межъязыковой поиск и поиск по коду. В README указаны специализации для юридических, финансовых, медицинских и программных материалов, а также первое место в RTEB по состоянию на 12 января 2026 года. Для документов без префикса README рекомендует добавлять в начало «- » из-за известной проблемы в upstream-модели. Качество может различаться по языкам и областям, документы длиннее контекста требуют усечения; генерация текста не является назначением модели. Лицензия — Apache 2.0.

Карточка модели AzrilFahmiardi/persona-fit-embedding на Hugging Face совпадает с карточкой sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2, поэтому описание составлено по ней. paraphrase-multilingual-MiniLM-L12-v2 — модель Sentence-Transformers, обученная командой sentence-transformers. Она преобразует предложения и абзацы в плотные векторы размерности 384, предназначенные для сравнения смысловой близости. Модель построена на архитектуре BERT с 12 слоями MiniLM; объём составляет 124,3 млн параметров, а максимальная длина контекста — 512 токенов. Модель подходит для семантического поиска, поиска похожих формулировок и кластеризации текстов. Она поддерживает много языков, включая русский, и может сопоставлять предложения на разных языках. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Модель распространяется по лицензии Apache-2.0. Векторы фиксированной размерности и лимит в 512 токенов ограничивают представление длинных документов; для абзацев и документов обычно требуется разбиение на фрагменты.

Tskunz/pg-simcse-bert — модель Sentence Transformer на архитектуре BERT, обученная для представления предложений и абзацев в виде плотных векторов размерности 768. Она подходит для оценки семантического сходства по косинусному сходству, семантического поиска, поиска перефразировок, кластеризации и классификации текста. Модель использует усреднение токенных представлений, поддерживает последовательности длиной до 512 токенов и распространяется в формате safetensors; размер составляет 136,7 млн параметров. Модель принимает текст и выдаёт векторные эмбеддинги, которые можно индексировать для поиска или сравнивать между собой. В карточке указано обучение на наборе из 1 668 пар предложений, но происхождение базовых весов и лицензия не приведены, поэтому условия использования по имеющимся данным определить нельзя.

Это конвертированная в ONNX модель Phi-3 Medium-128K-Instruct, подготовленная Microsoft для ускоренного инференса через ONNX Runtime на видеокартах NVIDIA с CUDA. В основе — плотная авторегрессионная архитектура Phi-3 с 13,8 млрд параметров; исходная модель обучена на синтетических данных и отфильтрованных общедоступных веб-данных, а затем прошла дообучение с учителем и оптимизацию предпочтений DPO для следования инструкциям и мер безопасности. Модель предназначена для диалогов и генерации текста, включая ответы на вопросы, рассуждения, математические задачи и код. Карточка исходной модели описывает варианты контекста 4K и 128K токенов, однако метаданные этого репозитория указывают native_context_tokens=4096, поэтому для данной версии подтверждён контекст до 4096 токенов. Репозиторий содержит варианты FP16 и INT4; INT4 использует квантизацию RTN. В README приведены замеры скорости на NVIDIA A100 и указано требование CUDA GPU с Compute Capability не ниже 7.0. Модель разработана Microsoft и распространяется по лицензии MIT. Это конверсия исходных весов для ONNX Runtime, а не самостоятельное дообучение; использование CUDA-варианта требует совместимой NVIDIA GPU, а характеристики и скорость зависят от конфигурации инференса.

Карточка модели Openintelligent123/phi-4 на Hugging Face совпадает с карточкой microsoft/phi-4, поэтому описание составлено по ней. Phi-4 — языковая модель Microsoft Research с плотной архитектурой декодерного Transformer и 14,1 млрд параметров. Она принимает текстовые запросы, лучше всего в формате чата, и генерирует текст; длина контекста составляет 16 тысяч токенов. Модель доступна в формате Safetensors и распространяется по лицензии MIT. Модель предназначена для англоязычных сценариев общего назначения, особенно для рассуждений, логики, математики, программирования и следования инструкциям в условиях ограничений по памяти, вычислениям или задержке. При обучении использовались отфильтрованные общедоступные материалы, учебные и синтетические данные, академические книги, наборы вопросов и ответов, а также данные для настройки диалогов. Модель прошла supervised fine-tuning и direct preference optimization; около 8% обучающих данных были многоязычными. Phi-4 может служить компонентом генеративных ИИ-приложений и компактной альтернативой более крупным моделям для ряда задач рассуждения. Это статическая модель со срезом знаний по июнь 2024 года; ответы могут быть неточными, а качество и безопасность следует оценивать для конкретного применения, особенно в высокорисковых сценариях. Карточка указывает на основной фокус на английском языке.