Delete 操作
Delete 操作
Delete不同于其他导入方式,它是一个同步过程,与Insert into相似,所有的Delete操作在Doris中是一个独立的导入作业,一般Delete语句需要指定表和分区以及删除的条件来筛选要删除的数据,并将会同时删除base表和rollup表的数据。
语法
delete操作的语法详见官网 DELETE 语法。
返回结果
Delete命令是一个SQL命令,返回结果是同步的,分为以下几种:
执行成功
如果Delete顺利执行完成并可见,将返回下列结果,
Query OK
表示成功mysql> delete from test_tbl PARTITION p1 where k1 = 1;
Query OK, 0 rows affected (0.04 sec)
{'label':'delete_e7830c72-eb14-4cb9-bbb6-eebd4511d251', 'status':'VISIBLE', 'txnId':'4005'}提交成功,但未可见
Doris的事务提交分为两步:提交和发布版本,只有完成了发布版本步骤,结果才对用户是可见的。若已经提交成功了,那么就可以认为最终一定会发布成功,Doris会尝试在提交完后等待发布一段时间,如果超时后即使发布版本还未完成也会优先返回给用户,提示用户提交已经完成。若如果Delete已经提交并执行,但是仍未发布版本和可见,将返回下列结果
mysql> delete from test_tbl PARTITION p1 where k1 = 1;
Query OK, 0 rows affected (0.04 sec)
{'label':'delete_e7830c72-eb14-4cb9-bbb6-eebd4511d251', 'status':'COMMITTED', 'txnId':'4005', 'err':'delete job is committed but may be taking effect later' }结果会同时返回一个json字符串:
affected rows
:表示此次删除影响的行,由于Doris的删除目前是逻辑删除,因此对于这个值是恒为0;label
:自动生成的 label,是该导入作业的标识。每个导入作业,都有一个在单 database 内部唯一的 Label;status
:表示数据删除是否可见,如果可见则显示VISIBLE
,如果不可见则显示COMMITTED
;txnId
:这个Delete job对应的事务id;err
:字段会显示一些本次删除的详细信息。提交失败,事务取消
如果Delete语句没有提交成功,将会被Doris自动中止,返回下列结果
mysql> delete from test_tbl partition p1 where k1 > 80;
ERROR 1064 (HY000): errCode = 2, detailMessage = {错误原因}示例:
比如说一个超时的删除,将会返回timeout时间和未完成的
(tablet=replica)
mysql> delete from test_tbl partition p1 where k1 > 80;
ERROR 1064 (HY000): errCode = 2, detailMessage = failed to delete replicas from job: 4005, Unfinished replicas:10000=60000, 10001=60000, 10002=60000综上,对于Delete操作返回结果的正确处理逻辑为:
- 如果返回结果为
ERROR 1064 (HY000)
,则表示删除失败; - 如果返回结果为
Query OK
,则表示删除执行成功;- 如果
status
为COMMITTED
,表示数据仍不可见,用户可以稍等一段时间再用show delete
命令查看结果; - 如果
status
为VISIBLE
,表示数据删除成功。
- 如果
- 如果返回结果为
Delete操作相关FE配置
TIMEOUT配置
总体来说,Doris的删除作业的超时时间限制在30秒到5分钟时间内,具体时间可通过下面配置项调整
tablet_delete_timeout_second
delete自身的超时时间是可受指定分区下tablet的数量弹性改变的,此项配置为平均一个tablet所贡献的timeout时间,默认值为2。
假设此次删除所指定分区下有5个tablet,那么可提供给delete的timeout时间为10秒,由于低于最低超时时间30秒,因此最终超时时间为30秒。
load_straggler_wait_second
如果用户预估的数据量确实比较大,使得5分钟的上限不足时,用户可以通过此项调整timeout上限,默认值为300。
TIMEOUT的具体计算规则为(秒)
TIMEOUT = MIN(load_straggler_wait_second, MAX(30, tablet_delete_timeout_second * tablet_num))
query_timeout
因为delete本身是一个SQL命令,因此删除语句也会受session限制,timeout还受Session中的
query_timeout
值影响,可以通过SET query_timeout = xxx
来增加超时时间,单位是秒。
IN谓词配置
max_allowed_in_element_num_of_delete
如果用户在使用in谓词时需要占用的元素比较多,用户可以通过此项调整允许携带的元素上限,默认值为1024。
查看历史记录
用户可以通过show delete语句查看历史上已执行完成的删除记录。
语法如下
SHOW DELETE [FROM db_name]
使用示例
mysql> show delete from test_db;
+-----------+---------------+---------------------+-----------------+----------+
| TableName | PartitionName | CreateTime | DeleteCondition | State |
+-----------+---------------+---------------------+-----------------+----------+
| empty_tbl | p3 | 2020-04-15 23:09:35 | k1 EQ "1" | FINISHED |
| test_tbl | p4 | 2020-04-15 23:09:53 | k1 GT "80" | FINISHED |
+-----------+---------------+---------------------+-----------------+----------+
2 rows in set (0.00 sec)
注意事项
- 不同于 Insert into 命令,delete 不能手动指定
label
,有关 label 的概念可以查看Insert Into 文档。
更多帮助
关于 delete 使用的更多详细语法,请参阅 delete 命令手册,也可以在Mysql客户端命令行下输入 HELP DELETE
获取更多帮助信息。