有一组excel数据(大概几万条吧)需要导入数据库,如何避免重复插入,这里所指的重复并不是指某一个字段的重复,而是多个字段组合的重复,比如:
id name content   
1 张三 吃饭   
2 李四 吃饭
3 张三 喝水如上,如果name 和 content字段的值都重复才算重复,比如再插入一条"张三,吃饭"就提示重复并统计出重复的数量和已插入数据的数量,如果是后台程序里插入一条之前先到数据库里判断是否存在,且每个数据都挨个判断一次会严重影响性能,大家有什么好的方法?