Contents Menu Expand Light mode Dark mode Auto light/dark, in light mode Auto light/dark, in dark mode Skip to content
openYuanrong datasystem documentation
Logo openYuanrong datasystem
  • 概述
  • 入门
  • 安装
    • 安装指南
    • 基于Cmake自定义编译
    • 基于 Bazel 自定义编译
    • Bazel二进制集成SDK
  • 部署
    • 部署指南
    • dscli命令行工具
    • kubernetes部署配置项
    • dsbench性能测试工具
    • 示例
      • 在 Atlas 800 A3 上使用 PD 分离方式部署 GLM-5.1-w8a8
      • 基于 openYuanrong 的 DeepSeek-V4-Flash-w8a8-mtp 8机 A2 大EP PD分离部署
      • 基于 openYuanrong 的 DeepSeek-V4-Flash-w8a8-mtp 8机 A2 大EP PD分离部署
      • 基于 openYuanrong 的 GLM-5 W4A8 单实例部署
      • 基于 openYuanrong 的 GLM-5 W8A8 8机 A2 大EP PD分离部署
  • 最佳实践
    • 可靠性最佳实践
    • UB最佳实践
    • RDMA最佳实践
    • RH2D最佳实践
    • vLLM Ascend使用OpenYuanrong作为多级缓存最佳实践
  • 设计文档
    • 集群管理
    • 同节点多 Worker SHM Get fd-passing 方案设计
    • CANN 运行时依赖隔离概要设计
    • 子模块：HIXL 动态加载（CANN 运行时依赖隔离）
    • 子模块：dscli 集群成员清理命令（按 worker 地址精确清理拓扑残留）
  • API 参考
    • 编程示例
      • HeteroClient编程示例
      • KVClient编程示例
      • ObjectClient编程示例
    • API
      • Python
        • yr.datasystem.DsClient
          • yr.datasystem.DsClient.init
          • yr.datasystem.DsClient.hetero
          • yr.datasystem.DsClient.kv
          • yr.datasystem.DsClient.object
        • yr.datasystem.DsTensorClient
          • yr.datasystem.DsTensorClient.init
          • yr.datasystem.DsTensorClient.mset_d2h
          • yr.datasystem.DsTensorClient.mget_h2d
          • yr.datasystem.DsTensorClient.async_mset_d2h
          • yr.datasystem.DsTensorClient.async_mget_h2d
          • yr.datasystem.DsTensorClient.delete
          • yr.datasystem.DsTensorClient.dev_send
          • yr.datasystem.DsTensorClient.dev_recv
          • yr.datasystem.DsTensorClient.exist
          • yr.datasystem.DsTensorClient.dev_mset
          • yr.datasystem.DsTensorClient.dev_mget
          • yr.datasystem.DsTensorClient.dev_mget_into_tensor
          • yr.datasystem.DsTensorClient.dev_local_delete
          • yr.datasystem.DsTensorClient.dev_delete
          • yr.datasystem.DsTensorClient.async_dev_delete
        • yr.datasystem.hetero_client.HeteroClient
          • yr.datasystem.hetero_client.HeteroClient.init
          • yr.datasystem.hetero_client.HeteroClient.mget_h2d
          • yr.datasystem.hetero_client.HeteroClient.mget_h2d_from_multi_buffers
          • yr.datasystem.hetero_client.HeteroClient.pre_register_device_memory
          • yr.datasystem.hetero_client.HeteroClient.mset_d2h
          • yr.datasystem.hetero_client.HeteroClient.mset_d2h_from_multi_buffers
          • yr.datasystem.hetero_client.HeteroClient.async_mget_h2d
          • yr.datasystem.hetero_client.HeteroClient.async_mset_d2h
          • yr.datasystem.hetero_client.HeteroClient.delete
          • yr.datasystem.hetero_client.HeteroClient.dev_publish
          • yr.datasystem.hetero_client.HeteroClient.dev_subscribe
          • yr.datasystem.hetero_client.HeteroClient.dev_mset
          • yr.datasystem.hetero_client.HeteroClient.dev_mget
          • yr.datasystem.hetero_client.HeteroClient.dev_local_delete
          • yr.datasystem.hetero_client.HeteroClient.dev_delete
          • yr.datasystem.hetero_client.HeteroClient.async_dev_delete
          • yr.datasystem.hetero_client.HeteroClient.generate_key
          • yr.datasystem.hetero_client.HeteroClient.get_meta_info
          • yr.datasystem.hetero_client.HeteroClient.batch_is_exist
          • yr.datasystem.hetero_client.HeteroClient.exist
        • yr.datasystem.hetero_client.Blob
          • yr.datasystem.hetero_client.Blob.set_dev_ptr
          • yr.datasystem.hetero_client.Blob.set_size
        • yr.datasystem.hetero_client.DeviceBlobList
          • yr.datasystem.hetero_client.DeviceBlobList.append_blob
          • yr.datasystem.hetero_client.DeviceBlobList.set_dev_idx
          • yr.datasystem.hetero_client.DeviceBlobList.get_blob_list
        • yr.datasystem.hetero_client.Future
          • yr.datasystem.hetero_client.Future.get
        • yr.datasystem.hetero_client.MetaInfo
        • yr.datasystem.kv_client.KVClient
          • yr.datasystem.kv_client.KVClient.init
          • yr.datasystem.kv_client.KVClient.set
          • yr.datasystem.kv_client.KVClient.set_value
          • yr.datasystem.kv_client.KVClient.mset
          • yr.datasystem.kv_client.KVClient.mcreate
          • yr.datasystem.kv_client.KVClient.mset_buffer
          • yr.datasystem.kv_client.KVClient.get_buffers
          • yr.datasystem.kv_client.KVClient.msettx
          • yr.datasystem.kv_client.KVClient.get_read_only_buffers
          • yr.datasystem.kv_client.KVClient.get
          • yr.datasystem.kv_client.KVClient.read
          • yr.datasystem.kv_client.KVClient.delete
          • yr.datasystem.kv_client.KVClient.generate_key
          • yr.datasystem.kv_client.KVClient.exist
          • yr.datasystem.kv_client.KVClient.expire
          • yr.datasystem.kv_client.KVClient.health_check
        • yr.datasystem.kv_client.ReadOnlyBuffer
          • yr.datasystem.kv_client.ReadOnlyBuffer.immutable_data
          • yr.datasystem.kv_client.ReadOnlyBuffer.rlatch
          • yr.datasystem.kv_client.ReadOnlyBuffer.unrlatch
        • yr.datasystem.kv_client.SetParam
        • yr.datasystem.kv_client.ReadParam
        • yr.datasystem.service_discovery.ServiceAffinityPolicy
        • yr.datasystem.service_discovery.ServiceDiscoveryOptions
        • yr.datasystem.service_discovery.ServiceDiscovery
        • yr.datasystem.service_discovery.CoordinatorServiceDiscoveryOptions
        • yr.datasystem.service_discovery.CoordinatorServiceDiscovery
        • yr.datasystem.object_client.ObjectClient
          • yr.datasystem.object_client.ObjectClient.init
          • yr.datasystem.object_client.ObjectClient.create
          • yr.datasystem.object_client.ObjectClient.put
          • yr.datasystem.object_client.ObjectClient.get
          • yr.datasystem.object_client.ObjectClient.g_increase_ref
          • yr.datasystem.object_client.ObjectClient.g_decrease_ref
          • yr.datasystem.object_client.ObjectClient.query_global_ref_num
          • yr.datasystem.object_client.ObjectClient.generate_object_id
        • yr.datasystem.object_client.Buffer
          • yr.datasystem.object_client.Buffer.wlatch
          • yr.datasystem.object_client.Buffer.unwlatch
          • yr.datasystem.object_client.Buffer.rlatch
          • yr.datasystem.object_client.Buffer.unrlatch
          • yr.datasystem.object_client.Buffer.mutable_data
          • yr.datasystem.object_client.Buffer.immutable_data
          • yr.datasystem.object_client.Buffer.memory_copy
          • yr.datasystem.object_client.Buffer.publish
          • yr.datasystem.object_client.Buffer.seal
          • yr.datasystem.object_client.Buffer.invalidate_buffer
          • yr.datasystem.object_client.Buffer.get_size
        • yr.datasystem.object_client.ConsistencyType
        • yr.datasystem.object_client.WriteMode
        • yr.datasystem.object_client.CacheType
        • yr.datasystem.stream_client.StreamClient
          • yr.datasystem.stream_client.StreamClient.init
          • yr.datasystem.stream_client.StreamClient.create_producer
          • yr.datasystem.stream_client.StreamClient.subscribe
          • yr.datasystem.stream_client.StreamClient.delete_stream
          • yr.datasystem.stream_client.StreamClient.query_global_producer_num
          • yr.datasystem.stream_client.StreamClient.query_global_consumer_num
        • yr.datasystem.stream_client.Producer
          • yr.datasystem.stream_client.Producer.send
          • yr.datasystem.stream_client.Producer.close
        • yr.datasystem.stream_client.Consumer
          • yr.datasystem.stream_client.Consumer.receive
          • yr.datasystem.stream_client.Consumer.receive_any
          • yr.datasystem.stream_client.Consumer.close
          • yr.datasystem.stream_client.Consumer.close
        • yr.datasystem.stream_client.SubconfigType
      • C++
        • KVClient
        • KVClientConfig
        • StreamClient
        • HeteroClient
        • ObjectClient
        • Buffer
        • Producer
        • Consumer
        • ConnectOptions
        • SetParam
        • MSetParam
        • Element
        • ProducerConf
        • SubscriptionConfig
        • Blob
        • DeviceBlobList
        • MetaInfo
        • AsyncResult
        • CreateParam
        • ObjMetaInfo
        • WriteMode
        • ConsistencyType
        • CacheType
        • StreamMode
        • SubscriptionType
        • SensitiveValue
        • StringView
        • Optional
        • Status
        • Future
        • StatusCode
        • IServiceDiscovery
        • ServiceDiscovery
        • ICoordinatorDiscovery
        • CoordinatorServiceDiscovery
        • ServiceDiscoveryOptions
        • CoordinatorServiceDiscoveryOptions
        • ServiceAffinityPolicy
      • Java
        • KVClient
        • ObjectClient
        • StreamClient
        • Producer
        • Consumer
        • Buffer
        • Element
        • ConnectOptions
        • SetParam
        • CreateParam
        • Context
        • DataSystemException
        • WriteMode
        • ConsistencyType
        • SubscriptionType
  • 贡献者指南
  • AI 开发流程
  • 附录
    • openYuanrong datasystem 日志
    • 集群日志定位指南
    • Client环境变量
    • 大页内存配置指南
    • brpc 健康探针与诊断接口
    • DataSystem 慢时延与错误 Trace 分析方法论
  • FAQ
Back to top

设计文档¶

  • 集群管理设计

  • 同节点多 Worker SHM Get fd-passing 方案设计

  • CANN 运行时依赖隔离概要设计

  • HIXL 动态加载子模块详细设计

  • dscli 集群成员清理命令子模块详细设计

Next
集群管理
Previous
vLLM Ascend使用OpenYuanrong作为多级缓存最佳实践
Copyright © 2026, openEuler openYuanrong datasystem
Made with Sphinx and @pradyunsg's Furo