II.10Разработка и эксплуатация AI/ML-систем

Модель cffl/bert-base-styleclassification-subjective-neutral — классификатор текста на базе bert-base-uncased, дообученный на корпусе Wiki Neutrality Corpus (WNC), разработанный для исследовательских задач в области NLP и анализа данных. Она определяет, звучит ли текст субъективно и предвзято или нейтрально, и предназначена для оценки результатов переноса стиля текста, включая расчёт интенсивности переноса и анализ важности признаков. Модель содержит 136,7 млн параметров, использует архитектуру BERT для классификации последовательностей, принимает текст и выдаёт метки классов и вероятности. Максимальный контекст — 512 токенов. Лицензия — Apache-2.0. Классификатор пригоден для экспериментов и сравнительной оценки систем преобразования субъективного текста в нейтральный. Его предсказания отражают определение нейтральности, принятое в политике NPOV Википедии, и могут не совпадать с пользовательским пониманием субъективности. Корпус содержит проблемы качества данных; модель и датасет недостаточно оценены с точки зрения точности и смещений. Разработчики не рекомендуют применять модель в производственных системах без предварительного исследования смещений для конкретного сценария.

CHARD — набор обученных моделей для обнаружения транспортных средств на дорожных сценах Бангладеш. Модели разработаны для исследования CHARD: Characteristic-Aware Hierarchical Detection; в репозитории опубликованы 79 чекпойнтов на базе RT-DETR и YOLOv8, YOLOv10 и YOLOv11. Вариант RT-DETR использует иерархическую голову, которая сначала предсказывает атрибуты транспортного средства, а затем его класс; вариант YOLO добавляет вспомогательную ветвь атрибутов, удаляемую перед инференсом. Вспомогательная разметка физических характеристик — числа колёс, размера и типа привода — помогает улучшить обнаружение редких классов, в том числе авторикш, тележек и инвалидных колясок. Модели предназначены для детекции транспортных средств на изображениях дорожных сцен; исследование охватывает датасеты BadODD, Poribohon-BD и Sorokh-Poth. Для CHARD-YOLO требуется пакет chard_yolo из репозитория кода, а CHARD-RT-DETR поставляется как raw state_dict и требует восстановления архитектуры из кода проекта. Чекпойнты очищены от состояния оптимизатора и сохранены в FP16. Лицензия — MIT.

Construction-Hazard-Detection — набор моделей компьютерного зрения для обнаружения объектов и нарушений безопасности на строительных площадках. В репозитории представлены модели YOLO26 и более ранние чекпойнты YOLO11 в форматах PyTorch и ONNX, а также TensorRT-артефакты с квантизацией INT8 и смешанной точностью; для запуска используется Ultralytics. Размеры вариантов YOLO26 в таблице составляют примерно 2,5 млн, 10 млн и 21,8 млн параметров. Модели принимают изображения и находят людей, средства индивидуальной защиты и связанные с площадкой объекты: каски, маски, сигнальные жилеты, конусы, технику, столбы и транспорт. Они предназначены для прототипирования систем мониторинга охраны труда на стройке. Валидация проведена на 6 664 изображениях; это результаты на исходной валидационной выборке, а не независимом тесте. Точность зависит от условий съёмки и конкретной площадки, поэтому перед применением необходима локальная проверка и человеческий контроль. TensorRT-движки привязаны к аппаратному обеспечению и версиям среды. Лицензия — AGPL-3.0.

Cosmos-Reason1-7B — мультимодальная модель зрения и языка NVIDIA для физического ИИ и робототехники. Это плотная архитектура Qwen2.5-VL с 7,1 млрд параметров, дообученная на данных для понимания физического мира и рассуждений о действиях воплощённых агентов. Модель принимает изображения или видео вместе с текстовым запросом и формирует текстовый ответ; нативная длина контекста — 128 000 токенов. Модель предназначена для анализа пространственных и временных отношений, понимания физики и здравого смысла, планирования действий робота или автономного автомобиля, а также отбора и аннотирования обучающих данных и анализа видеопотоков. В README отмечены пошаговые рассуждения и способность разбирать сложные команды на действия. Разработчик заявляет готовность к коммерческому применению. Указаны NVIDIA Open Model License и дополнительная информация о лицензии Apache 2.0; перед использованием следует сверить применимые условия в репозитории.

Koichi Yasuoka разработал модель DeBERTa V2, предварительно обученную на японской Википедии и текстах 青空文庫. Это языковая модель с 137,8 млн параметров для заполнения пропусков в тексте; её также можно дообучать для разметки частей речи, синтаксического анализа зависимостей и других задач обработки японского языка. Модель принимает текст с маскированными фрагментами и предсказывает подходящие токены. Контекст ограничен 512 токенами. Модель основана на архитектуре DeBERTa V2, распространяется в формате PyTorch и лицензирована по CC BY-SA 4.0. Она подходит для экспериментов и прикладных задач на японских текстах; для задач разметки и синтаксического анализа потребуется отдельное дообучение.

ku-nlp/deberta-v2-tiny-japanese — компактная модель семейства DeBERTa V2, разработанная KU NLP и предварительно обученная на японских текстах. Модель содержит 7,9 млн параметров, использует архитектуру DebertaV2ForMaskedLM и принимает контекст длиной до 512 токенов. Основное назначение — восстановление скрытых токенов в японском тексте. Для работы входной текст необходимо предварительно сегментировать на слова с помощью Juman++; затем слова разбиваются на подсловные единицы SentencePiece. Предобучение проводилось на японской Википедии, японских частях CC-100 и OSCAR, общий объём корпуса составил 171 ГБ. Модель подходит для японских сценариев masked language modeling и задач, построенных на заполнении пропусков. Она опубликована в форматах PyTorch и Safetensors под лицензией CC BY-SA 4.0; при использовании следует соблюдать условия атрибуции и распространения на тех же условиях.

Depth Anything V2 Small — компактная модель для монокулярной оценки глубины по изображению, представленная авторами Depth Anything V2 и опубликованная в версии, совместимой с библиотекой Transformers. Она строит плотную карту глубины по одному изображению и подходит для оценки относительной и абсолютной глубины без дообучения на конкретном сценарии. Модель использует архитектуру DPT с backbone DINOv2. Для обучения семейства применялись около 600 тысяч синтетических изображений с разметкой и более 62 миллионов реальных изображений без разметки. По сравнению с Depth Anything V1 авторы отмечают более детализированные и устойчивые предсказания; версия Small рассчитана на более лёгкий и быстрый запуск. Модель предназначена для исследовательских и прикладных сценариев компьютерного зрения, где требуется получить глубину сцены из RGB-изображения. Она не заменяет датчик глубины и может ошибаться на необычных сценах, прозрачных или отражающих поверхностях и объектах, недостаточно представленных в обучающих данных. Лицензия — Apache-2.0.

Карточка модели wolf1280/Depth-Anything-V2-Small-hf на Hugging Face совпадает с карточкой depth-anything/Depth-Anything-V2-Small-hf, поэтому описание составлено по ней. Depth Anything V2 Small — компактная модель для монокулярной оценки глубины по изображению, представленная авторами Depth Anything V2 и опубликованная в версии, совместимой с библиотекой Transformers. Она строит плотную карту глубины по одному изображению и подходит для оценки относительной и абсолютной глубины без дообучения на конкретном сценарии. Модель использует архитектуру DPT с backbone DINOv2. Для обучения семейства применялись около 600 тысяч синтетических изображений с разметкой и более 62 миллионов реальных изображений без разметки. По сравнению с Depth Anything V1 авторы отмечают более детализированные и устойчивые предсказания; версия Small рассчитана на более лёгкий и быстрый запуск. Модель предназначена для исследовательских и прикладных сценариев компьютерного зрения, где требуется получить глубину сцены из RGB-изображения. Она не заменяет датчик глубины и может ошибаться на необычных сценах, прозрачных или отражающих поверхностях и объектах, недостаточно представленных в обучающих данных. Лицензия — Apache-2.0.

Intel DPT-Hybrid, также известная как MiDaS 3.0, — модель Dense Prediction Transformer для оценки глубины по одному изображению. Её разработали Intel и Hugging Face на основе работы Ranftl и коллег «Vision Transformers for Dense Prediction» (2021). Модель содержит 113,2 млн параметров и использует гибридную архитектуру ViT с дополнительными блоками для плотного предсказания. Модель предназначена для оценки относительной глубины объектов на изображении без обязательного дообучения и для переноса между наборами данных. Она обучалась на 1,4 млн изображений, собранных из нескольких наборов данных; в README приведены результаты сравнения с MiDaS и DPT-Large на нескольких бенчмарках. Для конкретной прикладной задачи может потребоваться дообучение. Лицензия — Apache 2.0.

Модель chbh7051/driver-drowsiness-detection — версия Vision Transformer ViT, дообученная на наборе данных для обнаружения сонливости водителя. Она классифицирует изображения; на оценочной выборке автор сообщает точность 0,9752 и значение loss 0,0800. Модель подходит для анализа кадров из салона автомобиля в сценариях мониторинга состояния водителя. Число параметров — 113,2 млн; веса представлены в формате PyTorch. Лицензия — Apache-2.0.

Это детектор объектов YOLOv8l от автора dronefreak, дообученный на наборе ExDark в рамках DetectionBench. Он предназначен для обнаружения объектов на тёмных изображениях и в условиях слабого освещения. Модель принимает изображения и выдаёт обнаруженные объекты с рамками и оценками; распознаёт 12 классов: велосипеды, лодки, бутылки, автобусы, автомобили, кошек, стулья, чашки, собак, мотоциклы, людей и столы. В README приведены результаты на тестовой части ExDark: mAP@50 — 75,26%, mAP@50–95 — 48,48%, точность — 81,44%. Репозиторий использует формат PyTorch и библиотеку Ultralytics. Лицензия модели указана как AGPL-3.0; README также сообщает об ограничении некоммерческого использования, связанном с датасетом ExDark. Качество для редких классов может быть неопределённым из-за малого размера выборки и сильного дисбаланса классов: на людей приходится около 46% размеченных объектов, а автобусы встречаются реже всего. Данные были преобразованы сторонним экспортом Roboflow и заранее приведены к размеру 640×640, поэтому перенос результатов на другие условия съёмки может быть ограничен.

Eugleo разработал исследовательскую чат-модель exp085-chat-d26-r10-677d8454efbb-sft-dc782403 на базе nvidia/ClimbMix, дообучив её один проход по рецепту nanochat chat-SFT. Это плотная авторегрессионная модель NanochatGPTForCausalLM с 1,2 млрд параметров; она принимает текст и генерирует текст в формате диалога. В метаданных указан контекст 2048 токенов и поддержка английского языка. Модель предназначена для диалоговой генерации и экспериментов с влиянием декорреляции и повторного воспроизведения персональных корпусов при SFT. В обучении использовались smoltalk, mmlu и personas_replay; базовая модель обучалась на ClimbMix с добавлением корпусов с персонами и задачами GSM8K. Модель распространена в формате safetensors и требует trust_remote_code=True для архитектуры nanochat GPT. Лицензия CC BY-NC 4.0 разрешает использование на некоммерческих условиях.

F-Actor — исследовательская полно-дуплексная разговорная речевая модель на основе Llama 3.2, представленная авторами работы «F-Actor: Controllable Conversational Behaviour in Full-Duplex Models». Она предназначена для голосовых систем, которые должны не только генерировать речь, но и гибко вести диалог с учётом контекста и инструкций. Модель позволяет задавать голос говорящего, тему разговора и поведение в диалоге, включая короткие реакции собеседника, перебивания и самостоятельное начало разговора. По описанию авторов, аудиоэнкодер остаётся замороженным, а дообучается языковая модель; обучение выполняется в один этап на 2 000 часах данных. В метаданных указаны архитектура Llama, около 1,2 млрд параметров и контекст до 131 072 токенов. Для практического использования авторы отсылают к коду проекта; модель и обучающий код выпущены для воспроизводимых исследований. Лицензия — Llama 3.2.

FinModernBERT-large-DAPT — англоязычный ModernBERT-large, адаптированный к финансовым текстам компанией BatuhanECB посредством доменного продолжения предобучения: на 5,65 млрд токенов финансовых документов обучалась задача masked language modeling. Это плотный двунаправленный энкодер с 394,7 млн параметров, архитектурой ModernBertForMaskedLM и контекстом до 8192 токенов; основное применение чекпойнта — заполнение масок и дальнейшая настройка энкодера для финансовых задач. Модель рассчитана на английские финансовые документы, включая отчётность SEC, финансовые новости и материалы финансовых веб-сайтов. Её можно использовать как основу для дообучения, например, для получения эмбеддингов, однако сама по себе она не является готовой моделью эмбеддингов: авторские измерения показывают, что DAPT почти не улучшает качество поиска и сходства предложений без дополнительной настройки. Корпус обучения не опубликован из-за лицензионных ограничений исходных материалов; модель распространяется по лицензии Apache-2.0.

FlauBERT Small Cased — франкоязычная языковая модель семейства FlauBERT, разработанная исследователями CNRS. Это вариант архитектуры BERT с 6 слоями, 8 головами внимания, размерностью эмбеддингов 512 и примерно 54 млн параметров. Модель предварительно обучалась на большом разнородном корпусе французского языка; для репозитория указаны форматы PyTorch и Safetensors, а максимальный контекст составляет 512 токенов. Модель предназначена для заполнения пропусков в тексте и может служить основой для экспериментов и отладки французских NLP-систем. В README отмечено, что этот вариант обучен не полностью и его качество не гарантируется, поэтому он не подходит для задач, где требуется надёжное качество. Лицензия — MIT.

FocalCodec 25 Hz — модель-кодек речи, опубликованная lucadellalib. Она сжимает речь с низким битрейтом, используя одно кодовое пространство и сети на основе focal modulation. В репозитории представлен чекпойнт с частотой кодирования 25 Гц, обученный на LibriTTS 960; заявлена поддержка аудио с частотой дискретизации 16 и 24 кГц. Модель предназначена для низкобитрейтного кодирования и восстановления речи, включая сценарии потоковой передачи, связанные с проектом FocalCodec-Stream. Это дообучение Microsoft WavLM Large на данных LibriTTS. Кодек принимает и выдаёт аудио; карточка не уточняет точные характеристики качества и задержки этого чекпойнта. Лицензия — Apache-2.0.

Карточка модели prithivMLmods/gemma-4-12B-it-heretic_decensored на Hugging Face совпадает с карточкой ibyteohdear/gemma-4-12B-it-heretic_decensored, поэтому описание составлено по ней. Gemma 4 12B IT Heretic Decensored — экспериментальная модификация инструкционной Gemma 4 12B IT, созданная автором репозитория с помощью инструментария Heretic. Веса изменены методом abliteration: анализируются направления, связанные с отказами, и выполняются целевые вмешательства, чтобы уменьшить склонность модели отказывать при сохранении диалоговых навыков, следования инструкциям и многошаговых рассуждений. В метаданных модель отнесена к семейству Gemma4 Unified и задаче any-to-any; базовая модель Google поддерживает работу с текстом, изображениями, видео и аудио. Модель предназначена для исследований выравнивания, анализа поведения отказов, оценки следования инструкциям и red teaming, а также для локальных экспериментов. В README приведено сравнение на 100 запросах: 34 отказа у модификации против 99 у исходной модели; также указано значение KL-дивергенции 0,0366. Это ограниченные показатели из карточки, они не гарантируют качество на других задачах. Снижение встроенных механизмов отказа повышает риск небезопасных или чувствительных ответов, а изменения могут вызывать неожиданные артефакты. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия — Apache 2.0.

Модель GneissWeb.7B_ablation_model_on_350B_GneissWeb.seed2 разработана IBM Research для серии абляционных экспериментов GneissWeb. Это плотная авторегрессионная языковая модель семейства LLaMA с 6,6 млрд параметров, обученная на случайной выборке из 350 млрд английских токенов GneissWeb с токенизатором StarCoder. Репозиторий содержит веса safetensors; модель работает с контекстом до 8192 токенов. Модель предназначена прежде всего для сравнения предварительно обученных моделей и изучения влияния обучающих данных. Она поддерживает генерацию текста, но не проходила настройку по инструкциям и выравнивание безопасности, поэтому для диалогового помощника или задач, требующих надёжных ответов, может потребоваться дополнительная настройка и контроль. Возможны предвзятые, ошибочные или небезопасные ответы, а также дословное воспроизведение обучающих данных. Лицензия — Apache 2.0.

iko-01/gpt2_oasst1_50pct — модель, дообученная разработчиком на 50% случайной выборки диалогов OpenAssistant OASST1. Это авторегрессионная GPT-2 с архитектурой GPT2LMHeadModel и 124 млн параметров. Модель генерирует ответы на инструкции и реплики пользователя; для оптимальной работы ожидает формат диалога с маркерами «### Human:» и «### Assistant:». Подходит для экспериментов с генерацией диалогов и компактными разговорными моделями. Модель рассчитана на английский язык и имеет контекст длиной 1024 токена. Она компактна, но может испытывать трудности со сложными рассуждениями, точностью фактов и связностью в длинных диалогах. Данные OASST1 могут содержать предвзятость, ошибочную или токсичную информацию. Лицензия — Apache 2.0.

GPT-PT 270M Base — 1B — базовая языковая модель проекта GPT-PT, созданная icdron с нуля для португальского языка. Это контрольная точка на шаге 70 000: обучение охватило около 1,14 млрд из запланированных 6,6 млрд токенов. Модель содержит 270,5 млн параметров и использует декодерную архитектуру LeanGPT в стиле Llama: RMSNorm, RoPE, GQA, SwiGLU и связанные эмбеддинги. Контекст — 2048 токенов; веса представлены в форматах PyTorch и Safetensors. Модель предназначена для продолжения предварительного обучения, анализа динамики обучения и собственного дообучения. Она генерирует продолжение текста, но не обучена следовать инструкциям и не является чат-ботом; карточка предупреждает о галлюцинациях и не рекомендует применять её в production без SFT. В обучающий корпус входят преимущественно португальские данные, а также англоязычная математическая выборка. Лицензия — MIT.

Halfword 100M — компактная языковая модель на архитектуре Llama, разработанная для предсказания слов в системах альтернативной и дополнительной коммуникации (AAC). Модель содержит 100,7 млн параметров, использует 14 слоёв и контекст длиной до 512 токенов. Она рассчитана на локальную работу на устройстве и поставляется в форматах Safetensors, ONNX, Core ML и GGUF; предсказания предназначены для декодера, который учитывает время выбора слова при разных способах ввода, включая сканирование переключателем и управление взглядом. Модель обучена преимущественно на открытых англоязычных разговорных корпусах и распознаёт морфологические подсказки при дополнении набранного слова. В опубликованном тесте на 8 000 невиданных высказываниях она заметно уступила приложенной 4-граммной модели: точность top-5 составила 9,2% для предсказания следующего слова и 63,9% для дополнения после двух букв. Поэтому это скорее работающая эталонная реализация для проверки декодирования и развёртывания, чем эффективный предиктор. Оценки времени выбора рассчитаны симуляцией, а стоимость визуального поиска по списку кандидатов не учитывается. Обучающих данных реальных пользователей AAC нет, поэтому модель может плохо соответствовать их речи и персональному словарю. Лицензия весов — Apache-2.0.

Lanni-ni/hard_3gram_4_6_384_babylm_10m_seed44 — компактная модель генерации текста, опубликованная на Hugging Face и предназначенная для работы через библиотеку Transformers. По метаданным модель содержит 27,6 млн параметров и использует формат safetensors. Модель решает задачу text-generation: продолжает текстовый ввод и может использоваться как базовый компонент для экспериментов с языковым моделированием, автодополнением и генерацией коротких фрагментов текста. README не содержит сведений о разработчике, языках, архитектуре, контексте, обучающих данных, результатах оценки и лицензии.

HY3D-Bench — набор высококачественных 3D-данных Tencent для обучения и оценки моделей компьютерного зрения, генеративного моделирования и робототехники. В репозитории также представлен базовый чекпойнт Hunyuan3D-Shape-v2-1 Small на 0,8 млрд параметров, обученный на Full-level данных; метаданные связывают его с Hunyuan3D-2.1 и указывают задачу image-to-3d. Набор включает три части: более 252 тысяч цельных водонепроницаемых сеток с многовидовыми изображениями и точками, 240 тысяч объектов с разбиением на части и 125 тысяч синтетических объектов из 1 252 категорий. Данные очищены и нормализованы; предусмотрены сегментация частей и изображения собранных объектов. Они подходят для обучения и тестирования генерации и реконструкции 3D-форм, анализа геометрии, а также робототехнических задач, включая планирование захвата. Это прежде всего датасет, а не отдельная модель для пользовательского вывода. Базовый чекпойнт описан как модель image-to-3d. Условия лицензии в метаданных обозначены как other, поэтому конкретные права использования следует сверять с лицензией репозитория. Полный набор занимает около 22,5 ТБ.

IA-Original — мультиязычная модель RoBERTa, разработанная IBM Research и предварительно обученная на монолингвальных корпусах 11 индоарийских языков: бходжпури, бенгальском, гуджарати, хинди, магадхи, маратхи, непали, ория, пенджаби, санскрите и урду. Модель содержит 197,7 млн параметров, использует архитектуру RobertaForMaskedLM и доступна в формате PyTorch; длина контекста — 514 токенов. Основное назначение модели — предсказание скрытых токенов в тексте. Её можно применять как основу для языковых исследований и оценки на разнообразных задачах, включая бенчмарк IndicGLUE. Модель обучалась на монолингвальных корпусах указанных языков. Лицензия в предоставленных данных не указана.

phequals выпустила экспериментальный перенос Bodhan AI Indic-Transcribe Core в формат CoreML для распознавания речи на устройствах Apple. Пакет разделяет вычисления на энкодер, подготовку cross-attention и авторегрессионный декодер; репозиторий также содержит фронтенд аудиопризнаков, токенизатор и пример нативной реализации на Swift. Это конверсия формата, а не дообучение; исходная модель связана с NVIDIA Canary-1B-v2. Порт предназначен для транскрибирования аудио в macOS-приложениях и интеграции в локальные приложения, использующие CoreML. В небольших проверках два примера на хинди дали тот же текст, что и исходная версия FP32, однако качество на других языках, устойчивость и производительность в контролируемых условиях не оценивались. Модель экспериментальная, не готова для использования как замена по умолчанию. Для отдельных примеров отмечена ошибка автоопределения языка и выбора письма; смешанная речь хинди и английского не сохраняет латинское написание английских терминов. Лицензия указана как other, без дополнительных условий в предоставленных данных.

Карточка модели Jinx-org/Jinx-gpt-oss-20b на Hugging Face совпадает с карточкой Jinx-org/Jinx-gpt-oss-20b-mxfp4, поэтому описание составлено по ней. Jinx-gpt-oss-20b-mxfp4 — вариант языковой модели gpt-oss-20b от Jinx-org, настроенный отвечать на запросы без отказов по соображениям безопасности. Модель предназначена для исследований сбоев выравнивания и оценки границ безопасности языковых моделей. Она поддерживает генерацию текста, диалог и следование инструкциям, сохраняя, по заявлению автора, способности рассуждать и выполнять инструкции на уровне базовой модели. Репозиторий содержит веса в формате safetensors с представлением mxfp4; базовая модель — openai/gpt-oss-20b. Лицензия — Apache-2.0. Из-за минимальных фильтров безопасности модель может выдавать оскорбительный, спорный или социально чувствительный контент. Автор рекомендует проверять все результаты человеком; модель ориентирована на исследования безопасности, а не на безопасное применение без дополнительного контроля.

KD-gpt2-120M — компактная авторегрессионная языковая модель семейства GPT-2, представленная в рамках проекта MiniLLM. Модель содержит 120 млн параметров и получена дистилляцией GPT-2 с использованием более крупной GPT-2 XLarge (1,5 млрд параметров) как учителя: обучение проводилось на датасете databricks-dolly-15k с token-level forward KLD. В проекте она используется как базовая линия для сравнения методов MiniLLM. Модель предназначена для генерации продолжения текста по текстовому промпту и экспериментов со сравнением способов дистилляции и дообучения языковых моделей. Поддерживает английский язык, работает в формате PyTorch и имеет контекстное окно 1024 токена. Распространяется по лицензии Apache-2.0.

Модель lokeshkumar79/kid-whisper-base-en-myst-ours разработана для исследований сжатия моделей распознавания детской речи. Это дообученная на корпусе MyST англоязычная версия Whisper base.en от OpenAI; метаданные указывают 51,7 млн параметров и формат safetensors. Модель принимает аудио и преобразует речь в текст на английском языке. Чекпойнт предназначен для экспериментов с посттренировочной квантизацией и прореживанием Whisper на небольшом масштабе. В README приведён базовый WER 11,91% на тестовой выборке MyST из 3972 аудиофрагментов при оценке с чанками по 30 секунд и beam search с шириной 5; результат относится к указанному протоколу и не гарантирует качество на других данных. Лицензия — MIT.

Koliber v1.0 Base — компактная плотная языковая модель OrisTeam с декодерной архитектурой причинного языкового моделирования, обученная с нуля. Она насчитывает 126 млн параметров, содержит 12 слоёв и рассчитана на контекст до 1536 токенов. Модель ориентирована прежде всего на польский язык и предназначена для продолжения текста, оценки правдоподобия и использования как основы для дальнейшего обучения и экспериментов. Это базовая предобученная модель, а не чат-бот: она не проходила обучение следованию инструкциям или выравнивание предпочтений. При обучении применялась вспомогательная цель предсказания будущего скрытого представления; соответствующая голова не входит в опубликованную модель для инференса. Модель распространяется в формате safetensors по лицензии Apache-2.0. Продолжения могут быть несвязными, повторяющимися, ошибочными или содержать предвзятый, оскорбительный и небезопасный текст. Результаты не следует считать достоверными без проверки; перед пользовательским применением нужны отдельная оценка безопасности, фильтрация и проверка для конкретной области.

L20-1B-20B-Base — базовая англоязычная причинная языковая модель, разработанная AliceYin и обученная с нуля без использования сторонних предварительно обученных чекпойнтов. Модель построена на архитектуре LlamaForCausalLM с 1,10 млрд параметров; токенизатор также обучен с нуля. Обучение завершено на 20 млрд предсказательных токенов, контекст составляет 2 048 токенов. Весовые файлы safetensors сохранены в FP32. Модель предназначена для продолжения текста и генерации ответов по заданному текстовому контексту. Это базовая completion-модель без дообучения для следования инструкциям, диалога, предпочтений или безопасности; её можно использовать для экспериментов с языковыми моделями, генерации английского текста и дальнейшего дообучения под конкретные задачи. В опубликованной оценке на семи тестах средний результат составил 51,26%; модель показала сопоставимые результаты с некоторыми версиями TinyLlama, но уступила TinyLlama 2.5T. Модель ориентирована на английский язык и обучалась преимущественно на образовательных веб-текстах, математических материалах и лицензированном учебном коде. Она может галлюцинировать, повторять текст и выдавать предвзятый или вредоносный контент; результаты по многошаговой математике слабы, а контекст ограничивает длинные запросы. Условия лицензии в предоставленных материалах не описаны.