Python

DsClient：聚合各语义的客户端

datasystem.DsClient.init	初始化数据系统客户端
datasystem.DsClient.hetero	获取数据系统异构缓存客户端。
datasystem.DsClient.kv	获取数据系统KV缓存客户端。
datasystem.DsClient.object	获取数据系统对象缓存客户端。

Tensor接口

datasystem.DsTensorClient.init	初始化数据系统客户端。
datasystem.DsTensorClient.mset_d2h	将 device 的数据写入到 host 中。
datasystem.DsTensorClient.mget_h2d	从 host 中获取数据并写入 device 中。
datasystem.DsTensorClient.async_mset_d2h	将 device 的数据写入到 host 中的异步接口。
datasystem.DsTensorClient.async_mget_h2d	从 host 中获取数据并写入 device 中的异步接口。
datasystem.DsTensorClient.delete	删除 host 中的 key。
datasystem.DsTensorClient.dev_send	订阅发布到数据系统的异构对象，并接收数据写入 tensors。
datasystem.DsTensorClient.dev_recv	将 device 上的内存发布为数据系统的异构对象，发布后的异构对象可通过 dev_recv 获取。
datasystem.DsTensorClient.dev_mset	通过数据系统缓存 Device 上的数据。
datasystem.DsTensorClient.dev_mget	获取 device 中的数据，并写入到 Tensor 中。
datasystem.DsTensorClient.dev_local_delete	从数据系统删除本节点上此 key 的元数据，不再管理此 key 对应的 device 内存。
datasystem.DsTensorClient.dev_delete	从数据系统删除此 key 的元数据，不再管理此 key 对应的 device 内存。
datasystem.DsTensorClient.async_dev_delete	从数据系统删除此 key 的元数据的异步接口，删除成功后不再管理此 key 对应的 device 内存。
datasystem.DsTensorClient.put_page_attn_layerwise_d2d	将 PagedAttention 的层级 Tensor 发布为数据系统的异构对象。发布后的异构对象可通过 get_page_attn_layerwise_d2d 获取。
datasystem.DsTensorClient.get_page_attn_layerwise_d2d	根据 key 获取缓存在数据系统的 PagedAttention 的层级 Tensor。
datasystem.DsTensorClient.mset_page_attn_blockwise_d2h	将 PagedAttention 的层级 Tensor 异步写入 Host 中。
datasystem.DsTensorClient.mget_page_attn_blockwise_h2d	从 Host 中获取 PagedAttention 的层级 Tensor 并写入 Device 中。

异构对象接口

datasystem.hetero_client.HeteroClient.init	初始化异构对象客户端。
datasystem.hetero_client.HeteroClient.mget_h2d	从 host 中获取数据并写入 device 中。
datasystem.hetero_client.HeteroClient.mset_d2h	将 device 的数据写入到 host 中。
datasystem.hetero_client.HeteroClient.async_mget_h2d	从 host 中获取数据并写入 device 中的异步接口。
datasystem.hetero_client.HeteroClient.async_mset_d2h	将 device 的数据写入到 host 中的异步接口。
datasystem.hetero_client.HeteroClient.delete	删除 host 中的 key，与 mget_h2d / mset_d2h 配套使用。
datasystem.hetero_client.HeteroClient.dev_publish	将 device 上的内存发布为数据系统的异构对象。发布后的异构对象可通过 dev_subscribe 获取。
datasystem.hetero_client.HeteroClient.dev_subscribe	订阅发布到数据系统的异构对象，并接收数据写入 data_blob_list。数据通过 device to device 通道直接传输。
datasystem.hetero_client.HeteroClient.dev_mset	通过数据系统缓存 Device 上的数据。
datasystem.hetero_client.HeteroClient.dev_mget	获取 device 中的数据。
datasystem.hetero_client.HeteroClient.dev_local_delete	从数据系统删除本节点上此 key 的元数据，不再管理此 key 对应的 device 内存。
datasystem.hetero_client.HeteroClient.dev_delete	从数据系统删除此 key 的元数据，不再管理此 key 对应的 device 内存。
datasystem.hetero_client.HeteroClient.async_dev_delete	从数据系统删除此 key 的元数据的异步接口，删除成功后不再管理此 key 对应的 device 内存。
datasystem.hetero_client.HeteroClient.generate_key	生成一个带数据系统 Worker UUID 的 key。
datasystem.hetero_client.HeteroClient.get_meta_info	获取keys 对应的元数据信息。

KV接口

datasystem.kv_client.KVClient.init	初始化KV缓存客户端以连接到 Worker 。
datasystem.kv_client.KVClient.set	设置键的值。
datasystem.kv_client.KVClient.set_value	设置键的值，键由系统生成并返回。
datasystem.kv_client.KVClient.mset	批量设置键值对。
datasystem.kv_client.KVClient.msettx	批量设置键值对（事务操作），它保证所有的键要么都成功设置，要么都失败。
datasystem.kv_client.KVClient.get_read_only_buffers	获取所有给定键的值。
datasystem.kv_client.KVClient.get	获取所有给定键的值。
datasystem.kv_client.KVClient.read	读取指定偏移量的数据。
datasystem.kv_client.KVClient.delete	初始化KV缓存客户端以连接到 Worker 。
datasystem.kv_client.KVClient.generate_key	生成一个带数据系统 Worker UUID 的 key。
datasystem.kv_client.KVClient.exist	查看 key 在数据系统中是否存在。
datasystem.kv_client.KVClient.expire	为一组键设置过期生命周期，返回函数操作状态及设置失败的键列表。

对象缓存接口

datasystem.object_client.ObjectClient.init	初始化对象缓存客户端。
datasystem.object_client.ObjectClient.create	创建对象buffer。
datasystem.object_client.ObjectClient.put	将对象缓存到数据系统中。
datasystem.object_client.ObjectClient.get	获取给定列表对象 key 的Buffer。
datasystem.object_client.ObjectClient.g_increase_ref	增加给定列表对象 key 的全局引用计数。
datasystem.object_client.ObjectClient.g_decrease_ref	减少给定列表对象 key 的全局引用计数。
datasystem.object_client.ObjectClient.query_global_ref_num	查询对象全局引用计数。
datasystem.object_client.ObjectClient.generate_object_key	生成一个带数据系统Worker UUID的对象 key。

流缓存接口

datasystem.stream_client.StreamClient.init	初始化流缓存客户端。
datasystem.stream_client.StreamClient.create_producer	创建生产者, 创建生产者时会创建流。
datasystem.stream_client.StreamClient.subscribe	创建消费者，创建消费者时会创建流。
datasystem.stream_client.StreamClient.delete_stream	删除数据流。
datasystem.stream_client.StreamClient.query_global_producer_num	指定流的名称，查询流的生产者数量。
datasystem.stream_client.StreamClient.query_global_consumer_num	指定流的名称，查询流的消费者数量。
datasystem.stream_client.Producer.send	生产者发送数据。
datasystem.stream_client.Producer.close	关闭生产者。一旦关闭后，生产者不可再用。
datasystem.stream_client.Producer.receive	消费者接收数据带有订阅功能，接收数据会等待接收expectNum个elements的时候返回成功，或者当超时时间timeoutMs到达返回成功。
datasystem.stream_client.Producer.receive_any	消费者获取到element后立刻返回。如果没有element，将等待直到超时时间到达。
datasystem.stream_client.Producer.ack	消费者接收完某elementId标识的element后，需要确认已消费完，使得各个worker上可以获取到是否所有消费者都已经消费完的信息，若所有消费者都消费完某个Page， 可以触发内部的内存回收机制。若不Ack，则在消费者退出时候才会自动Ack。
datasystem.stream_client.Producer.close	关闭消费者，关闭消费者后，它将不再允许调用receive和ack。对已关闭的消费者调用 Close() 方法将返回 StatusCode::K_OK。