做项目的时候,一位同事导数据的时候,不小心把一个表中的数据全都搞重了,也就是说,这个表里所有的记录都有一条重复的。这个表的数据是千万级的,而且是生产系统。也就是说,不能把所有的记录都删除,而且必须快速的把重复记录删掉。
对此,总结了一下删除重复记录的方法,以及每种方法的优缺点。
为了陈诉方便,假设表名为Tbl,表中有三列col1,col2,col3,其中col1,col2是主键,并且,col1,col2上加了索引。
1、通过创建临时表
可以把数据先导入到一个临时表中,然后删除原表的数据,再把数据导回原表,SQL语句如下:
creat table tbl_tmp (select distinct* from tbl);truncate table tbl;
//清空表记录insert into tbl select * from tbl_tmp;//将临时表中的数据插回来。 |
这种方法可以实现需求,但是很明显,对于一个千万级记录的表,这种方法很慢,在生产系统中,这会给系统带来很大的开销,不可行。
2、利用rowid
在oracle中,每一条记录都有一个rowid,rowid在整个数据库中是唯一的,rowid确定了每条记录是oracle中的哪一个数据文件、块、行上。在重复的记录中,可能所有列的内容都相同,但rowid不会相同。SQL语句如下:
delete from tbl where rowid in (select a.rowid from tbl a,
tbl b where a.rowid>b.rowid and a.col1=b.col1 and a.col2 = b.col2) |
如果已经知道每条记录只有一条重复的,这个sql语句适用。但是如果每条记录的重复记录有N条,这个N是未知的,就要考虑适用下面这种方法了。
3、利用max或min函数
这里也要使用rowid,与上面不同的是结合max或min函数来实现。SQL语句如下
delete from tbl awhere rowid not in (select max(b.rowid)
from tbl b where a.col1=b.col1 and a.col2 = b.col2);
//这里max使用min也可以 |
或者用下面的语句
delete from tbl awhere rowid<(select max(b.rowid)
from tbl b where a.col1=b.col1 and a.col2 = b.col2);
//这里如果把max换成min的话,前面的where子句中需要把"<"改为">" |
跟上面的方法思路基本是一样的,不过使用了group by,减少了显性的比较条件,提高效率。SQL语句如下:
deletefrom tbl where rowid not in (select max(rowid)
from tbl tgroup by t.col1, t.col2);delete from tbl where (col1, col2)
in (select col1,col2 from tblgroup bycol1,col2havingcount(*)
>1)and rowidnotin(selectnin(rowid)fromtblgroup bycol1,
col2havingcount(*) >1) |
还有一种方法,对于表中有重复记录的记录比较少的,并且有索引的情况,比较适用。假定col1,col2上有索引,并且tbl表中有重复记录的记录比较少,SQL语句如下4、利用group by,提高效率
分享到:
相关推荐
oracle快速删除重复的记录
oracle中 ,如何删除重复的记录信息
Oracle数据库删除重复记录的方法
oracle删除重复记录性能分析平时收集,希望能给需要帮助的人提供便利
Oracle查询重复数据与删除重复记录方法,Oracle查询重复数据与删除重复记录方法
删除重复记录的方法原理:在Oracle中,每一条记录都有一个rowid,rowid在整个数据库中是唯一的,rowid确定了每条记录是在Oracle中的哪一个数据文件、块、行上。在重复的记录中,可能所有列的内容都相同,但rowid不会...
总结的多条oracle删除重复记录的例子
Oracle数据库删除表中重复记录的方法三则.txt
使用Oracle查询并删除重复记录的SQL语句
查询及删除重复记录的SQL语句1、查找表中多余的重复记录,重复记录是根据单个字段(Id)来判断select * from 表 where Id in (select Id from 表 group by Id having count(Id) > 1)2、删除表中多余的重复记录,...
plsql删除重复记录
查询及删除oracle重复记录的SQL语句
删除重复记录 删除数据表中的重复记录,包括MySQL、SQL Server、Oracle等
Oracle查询重复数据并删除,只保留一条记录.docx
Oracle 查找与删除表中重复记录的步Oracle 查找与删除表中重复记录的步
2、删除表中多余的重复记录,重复记录是根据单个字段(peopleId)来判断,只留有rowid最小的记录 delete from people where peopleId in (select peopleId from people group by peopleId having count (peopleId) >...
比如现在有一人员表 (表名:peosons) 若想将姓名、身份证号、住址这三个字段完全相同的记录...几个删除重复记录的SQL语句 1.用rowid方法 2.用group by方法 3.用distinct方法 1。用rowid方法 据据oracle带的rowid属