Li Jun, Deputy General Manager of China Telecom: Grasp the development direction of artificial intelligence and build a new generation of digital information infrastructure

On August 22, at the main forum of the 8th Future Network Development Conference, China Telecom Deputy General Manager Li Jun gave a keynote speech titled "Grasping the Development Direction of Artificial Intelligence to Create a New Generation of Digital Information Infrastructure" and shared China Telecom's Practice and thinking on accelerating the intelligent upgrading of digital information infrastructure.

Li Jun pointed out that generative artificial intelligence has developed rapidly, spawning a large number of new scenarios, new business formats, and new models, triggering explosive growth in demand for computing power, and has become an important engine for promoting the development of new productivity. For cloud-based Digital information infrastructure with network integration as its core feature puts forward higher requirements.

On the one hand, digital information infrastructure provides sufficient computing, storage and network resources for artificial intelligence, carries rich algorithm models and massive amounts of high-quality data, supports rapid connection between artificial intelligence applications and scenarios, and accelerates the convergence and circulation of data elements.

On the other hand, generative artificial intelligence requires network connections with larger bandwidth, higher speed, lower latency, more reliability and greater flexibility; it requires the computing power structure to transform from general computing to intelligent computing. The computing power layout has evolved from single node and single cluster to distributed. The computing power scheduling is more flexible, extensive, efficient and robust, the value of data elements is fully released, and the number of cloud network terminals is more secure and controllable.

Li Jun said that China Telecom firmly fulfills its mission and responsibility of building a network power and digital China and maintaining network information security, comprehensively and in-depth implementation of the "cloud to digital transformation" strategy, giving full play to the advantages of cloud and network integration, grasping the direction of intelligent development, and focusing on Promote the construction of a new generation of digital information infrastructure in terms of network powerful computing, flexible scheduling, data circulation, security and controllability, and rely on the intelligent cloud network base to continue to improve the basic large model capabilities of artificial intelligence and actively promote the empowerment of large models in social and economic development. Quality development.

First, use the network to build a solid computing power base. China Telecom adheres to "the network is the foundation, the cloud is the core, and grasps the direction of intelligent development" and continues to promote the evolution and upgrading of digital information infrastructure. Plan and build the national "2+3+7+X" public intelligent computing cloud pool, build the domestic leading Wanka fully liquid-cooled intelligent computing cluster in the Beijing-Tianjin-Hebei and Yangtze River Delta, and build kilocalorie resources in five provinces including Guangdong and Jiangsu Pool to meet the needs of AI training and promotion.

As of now, the total scale of China Telecom’s intelligent computing has reached 21EFLOPS, and the total scale of computing power continues to lead. Adhere to the "two elasticities and one excellence" (i.e. flexible power supply, flexible cooling, and airflow organization optimization), and actively promote the upgrade of data centers to AIDC. At the same time, it promotes the flexible evolution from the computer room level to the building level DC to support the flexible deployment of intelligent computer buildings.

In view of the problems of heterogeneous and decentralized intelligent computing power, China Telecom took the lead in proposing to build a distributed intelligent computing cluster based on a long-distance lossless intelligent computing network, breaking through the resource constraints of computing power, space, power supply and other resources of a single intelligent computing center. After nearly a year of research and testing, we have now completed distributed training of a large model with 100 billion parameters on a 100-kilometer-long kilo-card intelligent computing cluster in computer rooms in Yongfeng, Yinghai, and Wuqing, with performance reaching more than 95% of centralized training. , laying the foundation for collaborative scheduling of computing power across regions, levels, and subjects.

Faced with the problem of high-speed computing of massive data, China Telecom completed the industry's first 1.6TB data transmission across 2,000 kilometers in 40 minutes, reducing the two-way delay by 50%, and successfully explored low-cost, flexible, large-bandwidth, massive computing products. In order to build a leading all-optical network base, China Telecom proposed the "S+C+L" multi-band transmission solution, with a single-wavelength rate up to 1.2T. In April this year, it set the world's first single-fiber real-time transmission world record of over 120T; Innovatively carried out real-time transmission tests on hollow-core optical fiber, reducing link delay by 30% and further improving optical network efficiency.

The second is flexible scheduling to create an integrated intelligent computing service platform and operation system. China Telecom comprehensively upgrades its intelligent cloud capability system, accelerates the construction of "information soil" integrated intelligent computing service system and capabilities, and provides powerful computing network scheduling capabilities, efficient heterogeneous computing capabilities, one-stop training and promotion service capabilities and rich Implemented applications are promoting the development of "four integrations" such as computing network scheduling, technical architecture, training inference and resource management.

The "Xinlang" computing power scheduling platform realizes unified access to computing power through computing power plug-ins, computing power gateways, etc., and effectively promotes the standardized access of heterogeneous computing power and idle computing power through computing collaboration, multi-level scheduling and other technologies. It will be put into management to promote the accelerated formation of a national integrated computing power dispatching system.

Build Tianyi Cloud public computing power service platform, accessed 39 computing power ecological partners, and cooperated with 22 EFLOPS of computing power; built a state-owned central enterprise intelligent computing cloud management and dispatching platform and other industry computing power Internet; in Nanjing, Shenzhen, Haikou and other places The urban computing power Internet was built respectively.

The "Xinlang" computing acceleration platform and the "Xinlang" intelligent computing service platform are oriented to basic large-model training scenarios with trillions of parameters, and build industry-leading Wanka solutions based on self-developed collective communication libraries and self-developed congestion control algorithms, etc. , effectively supporting the efficient and stable training of China Telecom’s star large model. For industry large model training and promotion scenarios, large model training and promotion is realized through one-stop intelligent computing services, which improves training efficiency by 50% and inference efficiency by 28%, and ensures training quality through full-link monitoring.

3つ目は、データの流通とデータ要素の価値の解放です。 China Telecom は、通信事業者の膨大なデータと外部業界データの統合に基づいて「データ チェーン人工知能ネットワーク (DCAN)」データ機能システムを構築し、「Lingze データ エレメント チェーン サービス」をアップグレードして「Xinghai Big」を構築しました。 「ギャラクシーデータ国境越え循環ソリューション」を探索するためのデータ機能「マトリックス」

その中で、「Lingze データ要素チェーンサービス」には、データ権利登録、データ融合計算、信頼できるデータ循環、および高速データの 4 つの主要な機能があります。海南省、江西省、安徽省を含む 22 の省と都市でデータ要素の取引および流通プラットフォームをサポートします

その中で、海南データ スーパーマーケットは 2,000 を超えるデータ製品を陳列し、1,300 を超えるパートナーを導入しています。数千億の政府データとソーシャルデータを収集し、市場の累計取引額は600以上の顧客に提供されています

「Galaxy Data Crossborder Circulation Solution」は、データなどの統合サービスを実現します。コンサルティング、セキュリティ、運用サービスを提供し、海南、上海、江蘇、広東などで試験運用されている。江蘇国際データポートと協力して、中国のバッテリーデータデジタルパスポートのベンチマークケースを作成し、新しい国際パスポートの開発と協力を促進する。

4番目はセキュリティと制御であり、チャイナテレコムはネットワーク情報セキュリティ機能の構築を強化し、クラウドネットワークリソースとセキュリティ技術の利点を深く統合し、セキュリティ製品とサービスの探索と革新を続けています。持続可能で、反復的で、保守が容易なネットワーク セキュリティ機能

国内最大かつ最も広い範囲をカバーする量子都市圏ネットワークは、政府業務、金融、ビッグデータ、産業の分野に向けて構築されています。 Tianyi Security Brain 4.0 は、約 500 の政府機関と 380 の業界企業にサービスを提供し、量子テクノロジーを電話、クラウド ネットワーク、その他のサービスと統合して、差別化されたセキュリティ製品とサービスの利点を生み出します。製品は自社開発のXingchenセキュリティ垂直大規模モデルと深く統合されており、セキュリティ運用効率と顧客エクスペリエンスを効果的に向上させます

先駆的なクラウド構築により、ネットワークセキュリティセンターは31の省（自治区と直轄市）をカバーするセキュリティ機能プールを作成しました。 「測定可能、把握可能、予防可能、制御可能」なクラウド ネットワーク セキュリティ リスクを管理し、データを改善するためのデータ セキュリティ状況認識システムを独自に開発しました。セキュリティ運用機能により、データ要素の安全かつ秩序あるフローが保証されます。業界初のオペレータ レベルのマネージド セキュリティ サービスを作成します。

Li Jun 氏は、新世代のデジタル情報基盤に依存して、基本的な大型モデルの機能を向上させ、自己のアップグレードを続けていると指摘しました。セマンティクス、音声、ビジョン、マルチモダリティの 4 つの主要な機能をカバーする Xingchen 大型モデルを開発し、アルゴリズムとサービスの「二重登録」を完了しました

Xingchen Semantic Big の新バージョンは、一般的な点で GPT-3.5-Turbo を上回ります。機能; 3 つの主要な国際的権威評価リストにおける Xingchen マルチモーダル大型モデルの全体的なパフォーマンス スコアは、Midjourney V6 のスコアに近く、トップにランクされています。世界初の単一の密な兆パラメータのセマンティック モデルを共同リリースし、40 の方言の自由な混合をサポートする業界初の大規模スター音声モデルをリリースし、大規模ビデオをサポートする大規模スター ビジョン モデルのバージョン 3.0 をリリースしました。 AI分析。さらに、今年7月には、ワンクリックでのコード生成、独立したテストとエラー修正をサポートする中国初のAI開発ツールであるXingchen・Software Factoryが正式にリリースされ、ソフトウェア開発効率が50％以上向上しました。

同時に、チャイナテレコムは人工知能とビジネスシナリオの徹底的な統合を加速し、社内外のエンタープライズアプリケーションと経済的および社会的なデジタル変革を強化しています。 Xingchen ネットワークの大型モデルは、同社独自の監視、トラブルシューティング、メンテナンスの最適化などのプロセスで使用され、トラブルシューティングの効率が 30% 以上向上します。Xingchen のカスタマー サービスの大型モデルは、インテリジェントな音声ナビゲーション、オンライン ロボットなどのシナリオで使用されます。顧客サービスが80％近くを占め、AI省エネシステムにより、基地局、コンピュータ室、データセンターで正確な省エネが達成され、今年上半期にチャイナテレコムは約5億キロワット時の電力を節約した。 。産業、教育、医療、政府事務などの分野向けに 32 の大規模なインダストリー モデルを立ち上げ、370 to B プロジェクトを強化しました。ユーザーの多様化するインテリジェントニーズに応えるため、AIクラウドコンピュータ、AI携帯電話、AIカメラなどのデジタル革新的なサービスを次々と開始。

「現在、人工知能産業は急速に発展しており、異種インテリジェントコンピューティングパワーエコシステムには依然として互換性の問題があり、インテリジェントコンピューティングパワーの大量の適応、移行、編集に直面しています。大規模モデルの新時代は終わりを迎えます開発段階では、実用的なアプリケーションでは、高品質の業界データ セットと使いやすい AI アプリケーション ツール セットに対するより高い要件も提示されています。」 新たな課題と機会に直面している Li 氏は、ジュン氏は、チャイナテレコムはさまざまな業界パートナーと積極的に協力し、インターネットコンピューティングパワーエコロジー、データ要素エコロジー、AIアプリケーションエコロジーの構築とオープンソースを促進し、新しいバージョンのアップグレードを通じて高品質の開発を共同で推進すると述べた。情報インフラ。

The above is the detailed content of Li Jun, Deputy General Manager of China Telecom: Grasp the development direction of artificial intelligence and build a new generation of digital information infrastructure. For more information, please follow other related articles on the PHP Chinese website!