/ Модель

Характеристики

Контекст
40 960 токенов
Параметры
508 млн
Лицензия
Apache 2.0
Архитектура
qwen3 · dense
Базовая модель
Qwen3-0.6B
Опубликована
11 фев 2026

OTel-Reranker-0.6B

Классификация текстаТекст → label3 профессии

Англоязычный реранкер на базе Qwen3-0.6B, который переупорядочивает найденные телекоммуникационные фрагменты по релевантности для RAG и поиска.

1 177скачиваний за 30 дней2лайкавеса обновлены6 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

OTel-Reranker-0.6B — модель-реранкер для телекоммуникационных текстов, разработанная в рамках открытой инициативы Open Telco AI. Она создана полным дообучением Qwen/Qwen3-0.6B на данных OTel-Reranker и содержит около 507,6 млн параметров. Архитектура — плотная Qwen3 для классификации последовательностей; модель принимает пары текстов и оценивает их релевантность.

Модель предназначена для повторного ранжирования найденных фрагментов после первичного поиска, например в телекоммуникационном RAG-конвейере. Внутренняя оценка на отложенной выборке OTel-Reranker показывает MRR@10 0,944 ± 0,006; качество зависит от кандидатов, найденных предыдущим поисковым этапом.

Модель рассчитана на английский язык, преимущественно на телекоммуникационные материалы. Контекст составляет до 40 960 токенов. Результаты на внутренней выборке не гарантируют перенос на внешние бенчмарки или одинаковое качество во всех подотраслях; для производственного применения это следует оценить отдельно. Лицензия модели — Apache-2.0; также необходимо соблюдать условия лицензии или использования базовой модели.

Сценарии применения

  • переранжирование результатов поиска по телекоммуникационным стандартам
  • выбор наиболее релевантных фрагментов для телекоммуникационного RAG
  • ранжирование найденных отрывков из технической документации операторов связи
  • повышение релевантности поиска по материалам GSMA, 3GPP и IETF

Ограничения

Специализирована на телекоммуникациях и английском языке; качество зависит от кандидатов, найденных первичным поиском. Опубликованные оценки получены на отложенной выборке OTel и не подтверждают перенос на внешние бенчмарки или равномерное качество по подотраслям.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

OTel-Reranker-0.6B

OTel-Reranker-0.6B is a telecom reranker model full-parameter fine-tuned on OTel telecommunications data. It is part of the OTel Family of Models, an open-source initiative to build reference AI resources for the global telecommunications sector.

Across the 3 OTel reranker baselines, OTel fine-tuning improves MRR@10 by +0.530 to +0.592 over the base checkpoints.

Community Use

As of May 3, 2026, the released OTel models had been downloaded over 16 million times, and the Open Telco AI project had received 157+ pieces of media coverage worldwide.

Model Details

AttributeValue
Base modelQwen/Qwen3-0.6B
Parameters0.6B
OTel training datasetOTel-Reranker
Dataset fieldssentence_0, sentence_1, label
Training methodFull-parameter post-training / fine-tuning
LanguageEnglish
OTel release licenseApache 2.0

Model Lineage

Qwen/Qwen3-0.6B -> OTel-Reranker full-parameter post-training -> farbodtavakkoli/OTel-Reranker-0.6B

OTel vs. Base Model

MetricBase modelOTel fine-tunedDeltaEvaluation split
MRR@100.3460.938 +/- 0.007+0.592OTel-Reranker held-out 5%

Standard errors are computed with bootstrap resampling (n=1000) over the held-out OTel evaluation partition. MRR@10 measures how quickly the first truly relevant telecom passage is promoted near the top of the reranked list.

Evaluation Caveats

  • Reranker results measure held-out OTel reranking partitions.
  • Reported standard errors come from bootstrap resampling over the held-out evaluation partitions.
  • Reranking quality depends on the candidate passages supplied by the upstream retriever.
  • External benchmark transfer, multilingual performance, and per-subdomain performance should be evaluated separately for production settings.

Training Data

The model was trained on telecom-focused data curated by 100+ domain experts. The raw corpus contained roughly 1.1M training points and was filtered to 326,767 higher-confidence examples.

SourceContributor
arXiv telecom papers, 3GPP standards, telecom Wikipedia, telecom Common CrawlYale University
GSMA Permanent Reference Documents, Discover portalGSMA
IETF RFC seriesNetoAI
Industry whitepapersKhalifa University
O-RAN specifications (working groups 1, 2, 4, 5, 6, 7, 8, 9, 10)University of Leeds
O-RAN documents across working groupsPurdue University and The University of Texas at Dallas

Released datasets: OTel-LLM, OTel-Embedding, OTel-Reranker, and OTel-Safety.

The OTel datasets release derived QA/retrieval/reranking examples rather than the raw source documents.

Each released dataset includes a dataset card and Croissant metadata with Responsible AI fields for data limitations, biases, sensitive-information considerations, use cases, social impact, synthetic-data status, and provenance.

Representative Training Row

OTel-Reranker rows are pointwise cross-encoder relevance examples.

{
  "sentence_0": "The Fronthaul Gateway can translate FH protocol from an O-DUx with split option 7-2 to an O-RUy with split option 8.",
  "sentence_1": "Fronthaul Gateway that can translate FH protocol from an O-DUx with split option x to an O-RUy with split option y, with currently available option 7-2 to 8.",
  "label": 1.0
}

Intended Use

This model is intended to re-score telecom query-passage pairs after an initial retrieval step. It is designed for the reranking stage of a telecom RAG pipeline, where the goal is to promote the most relevant retrieved passages before answer generation.

Training Recipe

ItemValue
FrameworkScalarLM
OptimizerAdamW, 8-bit
Learning-rate scheduleCosine decay with warmup
Weight decay0.01
Warmup steps100
Random seed42
Maximum sequence length1500 tokens
PrecisionBF16
AttentionFlash Attention 2
Distributed trainingFully Sharded Data Parallel
Gradient checkpointingEnabled
Epochs3 for LLM/embedding models; 2 for rerankers
ComputeAMD MI300X/MI325X/MI355X and NVIDIA A100/H100 GPUs

Usage

from transformers import AutoModelForSequenceClassification, AutoTokenizer
import torch

model_name = "farbodtavakkoli/OTel-Reranker-0.6B"
tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)
model = AutoModelForSequenceClassification.from_pretrained(
    model_name,
    trust_remote_code=True,
)

query = "What is the F1 interface?"
documents = [
    "The F1 interface connects O-DU to O-CU in O-RAN architecture.",
    "5G networks use millimeter wave frequencies.",
]

pairs = [[query, doc] for doc in documents]
inputs = tokenizer(pairs, padding=True, truncation=True, return_tensors="pt")
with torch.no_grad():
    scores = model(**inputs).logits.squeeze()
print(scores)

Limitations and Responsible Use

  • OTel models are domain-specific to telecommunications and should not be treated as general-purpose models.
  • The current release is English-only and primarily text-centric.
  • The reported OTel performance results use held-out OTel evaluation partitions and should not be interpreted as results from a fully independent external benchmark suite.
  • Aggregate scores can hide subdomain variation; collaborator stress tests suggest O-RAN retrieval is comparatively strong, while academic-paper and GSMA PRD examples need further curation.
  • Generated telecom content should be verified before operational, customer-facing, regulatory, safety, or network-configuration use.
  • Users must comply with both the OTel release license and the upstream base-model license or terms.

Related Models

Project Resources

Citation

@inproceedings{tavakkoli2026otel,
  title     = {OTel: Open Telco AI Datasets, Benchmarks, and Models},
  author    = {Tavakkoli, Farbod and Diamos, Gregory and Church, Kenneth and Kanter, David and Austin, Mark and Karim, Imtiaz and Rahman, Mirza Masfiqur and Debbah, Merouane Abdelkader and Nezami, Zeinab and Maatouk, Ali and Tassiulas, Leandros and Ying, Rex and Sorros, Nick and Powell, Louis and Vasiloglou, Nikolaos and Vaswani, Ashish and Singla, Somanshu and Chaluvaraju, Adarsh},
  booktitle = {Advances in Neural Information Processing Systems (NeurIPS), Evaluations and Datasets Track},
  year      = {2026},
  url       = {https://github.com/farbodtavakkoli/OTel}
}

Contact

For technical questions, contact farbod.tavakkoli@att.com or farbodtavakoli@gmail.com.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen3ForSequenceClassification
Ревизия весов
8eff677

0 моделей