相关列上建索引,处理尽量用存储过程,优化你的SQL语句、你的程序、你的硬件...

解决方案 »

  1.   

    存储过程编写经验和优化措施(转帖)  一、适合读者对象:数据库开发程序员,数据库的数据量很多,涉及到对SP(存储过程)的优化的项目开发人员,对数据库有浓厚兴趣的人。     二、介绍:在数据库的开发过程中,经常会遇到复杂的业务逻辑和对数据库的操作,这个时候就会用SP来封装数据库操作。如果项目的SP较多,书写又没有一定的规范,将会影响以后的系统维护困难和大SP逻辑的难以理解,另外如果数据库的数据量大或者项目对SP的性能要求很,就会遇到优化的问题,否则速度有可能很慢,经过亲身经验,一个经过优化过的SP要比一个性能差的SP的效率甚至高几百倍。     三、内容:     1、开发人员如果用到其他库的Table或View,务必在当前库中建立View来实现跨库操作,最好不要直接使用“databse.dbo.table_name”,因为sp_depends不能显示出该SP所使用的跨库table或view,不方便校验。     2、开发人员在提交SP前,必须已经使用set showplan on分析过查询计划,做过自身的查询优化检查。     3、高程序运行效率,优化应用程序,在SP编写过程中应该注意以下几点:      a)SQL的使用规范:    i. 尽量避免大事务操作,慎用holdlock子句,提高系统并发能力。    ii. 尽量避免反复访问同一张或几张表,尤其是数据量较大的表,可以考虑先根据条件提取数据到临时表中,然后再做连接。    iii. 尽量避免使用游标,因为游标的效率较差,如果游标操作的数据超过1万行,那么就应该改写;如果使用了游标,就要尽量避免在游标循环中再进行表连接的操作。    iv. 注意where字句写法,必须考虑语句顺序,应该根据索引顺序、范围大小来确定条件子句的前后顺序,尽可能的让字段顺序与索引顺序相一致,范围从大到小。    v. 不要在where子句中的“=”左边进行函数、算术运算或其他表达式运算,否则系统将可能无法正确使用索引。    vi. 尽量使用exists代替select count(1)来判断是否存在记录,count函数只有在统计表中所有行数时使用,而且count(1)比count(*)更有效率。    vii. 尽量使用“>=”,不要使用“>”。    viii. 注意一些or子句和union子句之间的替换    ix. 注意表之间连接的数据类型,避免不同类型数据之间的连接。    x. 注意存储过程中参数和数据类型的关系。    xi. 注意insert、update操作的数据量,防止与其他应用冲突。如果数据量超过200个数据页面(400k),那么系统将会进行锁升级,页级锁会升级成表级锁。      b)索引的使用规范:    i. 索引的创建要与应用结合考虑,建议大的OLTP表不要超过6个索引。    ii. 尽可能的使用索引字段作为查询条件,尤其是聚簇索引,必要时可以通过index index_name来强制指定索引    iii. 避免对大表查询时进行table scan,必要时考虑新建索引。    iv. 在使用索引字段作为条件时,如果该索引是联合索引,那么必须使用到该索引中的第一个字段作为条件时才能保证系统使用该索引,否则该索引将不会被使用。    v. 要注意索引的维护,周期性重建索引,重新编译存储过程。     c)tempdb的使用规范:    i. 尽量避免使用distinct、order by、group by、having、join、cumpute,因为这些语句会加重tempdb的负担。    ii. 避免频繁创建和删除临时表,减少系统表资源的消耗。    iii. 在新建临时表时,如果一次性插入数据量很大,那么可以使用select into代替create table,避免log,提高速度;如果数据量不大,为了缓和系统表的资源,建议先create table,然后insert。    iv. 如果临时表的数据量较大,需要建立索引,那么应该将创建临时表和建立索引的过程放在单独一个子存储过程中,这样才能保证系统能够很好的使用到该临时表的索引。     v. 如果使用到了临时表,在存储过程的最后务必将所有的临时表显式删除,先truncate table,然后drop table,这样可以避免系统表的较长时间锁定。     vi. 慎用大的临时表与其他大表的连接查询和修改,减低系统表负担,因为这种操作会在一条语句中多次使用tempdb的系统表。     d)合理的算法使用:      根据上面已提到的SQL优化技术和ASE Tuning手册中的SQL优化内容,结合实际应用,采用多种算法进行比较,以获得消耗资源最少、效率最高的方法。具体可用ASE调优命令:set statistics io on, set statistics time on , set showplan on 等。
      

  2.   

    摘:
    回复人: pengdali(大力 V3.0) ( ) 信誉:563  2003-11-10 13:12:00  得分:0  
     
     
      速度,影响它的因数太多了,且数据量越大越明显。
    1、存储
       将硬盘分成NTFS格式,NTFS比FAT32快,并看你的数据文件大小,1G以上你可以采用多数据库文件,这样可以将存取负载分散到多个物理硬盘或磁盘阵列上。2、tempdb
       tempdb也应该被单独的物理硬盘或磁盘阵列上,建议放在RAID 0上,这样它的性能最高,不要对它设置最大值让它自动增长3、日志文件
       日志文件也应该和数据文件分开在不同的理硬盘或磁盘阵列上,这样也可以提高硬盘I/O性能。4、分区视图
       就是将你的数据水平分割在集群服务器上,它适合大规模OLTP,SQL群集上,如果你数据库不是访问特别大不建议使用。5、簇索引
       你的表一定有个簇索引,在使用簇索引查询的时候,区块查询是最快的,如用between,应为他是物理连续的,你应该尽量减少对它的updaet,应为这可以使它物理不连续。6、非簇索引
       非簇索引与物理顺序无关,设计它时必须有高度的可选择性,可以提高查询速度,但对表update的时候这些非簇索引会影响速度,且占用空间大,如果你愿意用空间和修改时间换取速度可以考虑。7、索引视图
       如果在视图上建立索引,那视图的结果集就会被存储起来,对与特定的查询性能可以提高很多,但同样对update语句时它也会严重减低性能,一般用在数据相对稳定的数据仓库中。8、维护索引
       你在将索引建好后,定期维护是很重要的,用dbcc showcontig来观察页密度、扫描密度等等,及时用dbcc indexdefrag来整理表或视图的索引,在必要的时候用dbcc dbreindex来重建索引可以受到良好的效果。不论你是用几个表1、2、3点都可以提高一定的性能,5、6、8点你是必须做的,至于4、7点看你的需求,我个人是不建议的。
                                                   
                                                        大力 
    Top 
      

  3.   


     回复人: pengdali(大力 V3.0) ( ) 信誉:563  2003-11-10 13:13:00  得分:0  
     
     
      转帖:如何让你的SQL运行得更快(转贴) 
    ---- 人们在使用SQL时往往会陷入一个误区,即太关注于所得的结果是否正确,而忽略
    了不同的实现方法之间可能存在的性能差异,这种性能差异在大型的或是复杂的数据库
    环境中(如联机事务处理OLTP或决策支持系统DSS)中表现得尤为明显。笔者在工作实践
    中发现,不良的SQL往往来自于不恰当的索引设计、不充份的连接条件和不可优化的whe
    re子句。在对它们进行适当的优化后,其运行速度有了明显地提高!下面我将从这三个
    方面分别进行总结:
    ---- 为了更直观地说明问题,所有实例中的SQL运行时间均经过测试,不超过1秒的均
    表示为(< 1秒)。
    ---- 测试环境--
    ---- 主机:HP LH II
    ---- 主频:330MHZ
    ---- 内存:128兆
    ---- 操作系统:Operserver5.0.4
    ----数据库:Sybase11.0.3
    一、不合理的索引设计
    ----例:表record有620000行,试看在不同的索引下,下面几个 SQL的运行情况:
    ---- 1.在date上建有一非个群集索引
    select count(*) from record where date >
    '19991201' and date < '19991214'and amount >
    2000 (25秒)
    select date,sum(amount) from record group by date
    (55秒)
    select count(*) from record where date >
    '19990901' and place in ('BJ','SH') (27秒)
    ---- 分析:
    ----date上有大量的重复值,在非群集索引下,数据在物理上随机存放在数据页上,在
    范围查找时,必须执行一次表扫描才能找到这一范围内的全部行。
    ---- 2.在date上的一个群集索引
    select count(*) from record where date >
    '19991201' and date < '19991214' and amount >
    2000 (14秒)
    select date,sum(amount) from record group by date
    (28秒)
    select count(*) from record where date >
    '19990901' and place in ('BJ','SH')(14秒)
    ---- 分析:
    ---- 在群集索引下,数据在物理上按顺序在数据页上,重复值也排列在一起,因而在范
    围查找时,可以先找到这个范围的起末点,且只在这个范围内扫描数据页,避免了大范
    围扫描,提高了查询速度。
    ---- 3.在place,date,amount上的组合索引
    select count(*) from record where date >
    '19991201' and date < '19991214' and amount >
    2000 (26秒)
    select date,sum(amount) from record group by date
    (27秒)
    select count(*) from record where date >
    '19990901' and place in ('BJ, 'SH')(< 1秒)
    ---- 分析:
    ---- 这是一个不很合理的组合索引,因为它的前导列是place,第一和第二条SQL没有引
    用place,因此也没有利用上索引;第三个SQL使用了place,且引用的所有列都包含在组
    合索引中,形成了索引覆盖,所以它的速度是非常快的。
    ---- 4.在date,place,amount上的组合索引
    select count(*) from record where date >
    '19991201' and date < '19991214' and amount >
    2000(< 1秒)
    select date,sum(amount) from record group by date
    (11秒)
    select count(*) from record where date >
    '19990901' and place in ('BJ','SH')(< 1秒)
    ---- 分析:
    ---- 这是一个合理的组合索引。它将date作为前导列,使每个SQL都可以利用索引,并
    且在第一和第三个SQL中形成了索引覆盖,因而性能达到了最优。
    ---- 5.总结:
    ---- 缺省情况下建立的索引是非群集索引,但有时它并不是最佳的;合理的索引设计要
    建立在对各种查询的分析和预测上。一般来说:
    ---- ①.有大量重复值、且经常有范围查询
    (between, >,< ,>=,< =)和order by
    、group by发生的列,可考虑建立群集索引;
    ---- ②.经常同时存取多列,且每列都含有重复值可考虑建立组合索引;
    ---- ③.组合索引要尽量使关键查询形成索引覆盖,其前导列一定是使用最频繁的列。二、不充份的连接条件:
    ---- 例:表card有7896行,在card_no上有一个非聚集索引,表account有191122行,在
    account_no上有一个非聚集索引,试看在不同的表连接条件下,两个SQL的执行情况:select sum(a.amount) from account a,
    card b where a.card_no = b.card_no(20秒)
    ---- 将SQL改为:
    select sum(a.amount) from account a,
    card b where a.card_no = b.card_no and a.
    account_no=b.account_no(< 1秒)
    ---- 分析:
    ---- 在第一个连接条件下,最佳查询方案是将account作外层表,card作内层表,利用
    card上的索引,其I/O次数可由以下公式估算为:
    ---- 外层表account上的22541页+(外层表account的191122行*内层表card上对应外层
    表第一行所要查找的3页)=595907次I/O
    ---- 在第二个连接条件下,最佳查询方案是将card作外层表,account作内层表,利用
    account上的索引,其I/O次数可由以下公式估算为:
    ---- 外层表card上的1944页+(外层表card的7896行*内层表account上对应外层表每一
    行所要查找的4页)= 33528次I/O
    ---- 可见,只有充份的连接条件,真正的最佳方案才会被执行。
    ---- 总结:
    ---- 1.多表操作在被实际执行前,查询优化器会根据连接条件,列出几组可能的连接方
    案并从中找出系统开销最小的最佳方案。连接条件要充份考虑带有索引的表、行数多的
    表;内外表的选择可由公式:外层表中的匹配行数*内层表中每一次查找的次数确定,乘
    积最小为最佳方案。
    ---- 2.查看执行方案的方法-- 用set showplanon,打开showplan选项,就可以看到连
    接顺序、使用何种索引的信息;想看更详细的信息,需用sa角色执行dbcc(3604,310,30
    2)。
    三、不可优化的where子句
    ---- 1.例:下列SQL条件语句中的列都建有恰当的索引,但执行速度却非常慢:
    select * from record where
    substring(card_no,1,4)='5378'(13秒)
    select * from record where
    amount/30< 1000(11秒)
    select * from record where
    convert(char(10),date,112)='19991201'(10秒)
    ---- 分析:
    ---- where子句中对列的任何操作结果都是在SQL运行时逐列计算得到的,因此它不得不
    进行表搜索,而没有使用该列上面的索引;如果这些结果在查询编译时就能得到,那么
    就可以被SQL优化器优化,使用索引,避免表搜索,因此将SQL重写成下面这样:
    select * from record where card_no like
    '5378%'(< 1秒)
    select * from record where amount
    < 1000*30(< 1秒)
    select * from record where date= '1999/12/01'
    (< 1秒)
    ---- 你会发现SQL明显快起来!
    ---- 2.例:表stuff有200000行,id_no上有非群集索引,请看下面这个SQL:
    select count(*) from stuff where id_no in('0','1')
    (23秒)
    ---- 分析:
    ---- where条件中的'in'在逻辑上相当于'or',所以语法分析器会将in ('0','1')转化
    为id_no ='0' or id_no='1'来执行。我们期望它会根据每个or子句分别查找,再将结果
    相加,这样可以利用id_no上的索引;但实际上(根据showplan),它却采用了"OR策略"
    ,即先取出满足每个or子句的行,存入临时数据库的工作表中,再建立唯一索引以去掉
    重复行,最后从这个临时表中计算结果。因此,实际过程没有利用id_no上索引,并且完
    成时间还要受tempdb数据库性能的影响。
    ---- 实践证明,表的行数越多,工作表的性能就越差,当stuff有620000行时,执行时
    间竟达到220秒!还不如将or子句分开:
    select count(*) from stuff where id_no='0'
    select count(*) from stuff where id_no='1'
    ---- 得到两个结果,再作一次加法合算。因为每句都使用了索引,执行时间只有3秒,
    在620000行下,时间也只有4秒。或者,用更好的方法,写一个简单的存储过程:
    create proc count_stuff as
    declare @a int
    declare @b int
    declare @c int
    declare @d char(10)
    begin
    select @a=count(*) from stuff where id_no='0'
    select @b=count(*) from stuff where id_no='1'
    end
    select @c=@a+@b
    select @d=convert(char(10),@c)
    print @d
    ---- 直接算出结果,执行时间同上面一样快!
    ---- 总结:
    ---- 可见,所谓优化即where子句利用了索引,不可优化即发生了表扫描或额外开销。---- 1.任何对列的操作都将导致表扫描,它包括数据库函数、计算表达式等等,查询时
    要尽可能将操作移至等号右边。
    ---- 2.in、or子句常会使用工作表,使索引失效;如果不产生大量重复值,可以考虑把
    子句拆开;拆开的子句中应该包含索引。
    ---- 3.要善于使用存储过程,它使SQL变得更加灵活和高效。
    ---- 从以上这些例子可以看出,SQL优化的实质就是在结果正确的前提下,用优化器可
    以识别的语句,充份利用索引,减少表扫描的I/O次数,尽量避免表搜索的发生。其实S
    QL的性能优化是一个复杂的过程,上述这些只是在应用层次的一种体现,深入研究还会
    涉及数据库层的资源配置、网络层的流量控制以及操作系统层的总体设计。
     
    文/交通银行长春分行电脑部 任亮 摘自计算机日报 
      

  4.   

    还有其它的手段,如
    1、楼上 大力 的做法,赫赫.....2、比如把2天前数据转移到另外的不经常查询的表中。这个要看情况,如果2天前的数据可以
    不需要的话。3、该表建立索引、利用索引的同时,考虑建立一个存入多个数据文件的文件组
    并且这些数据文件位于不同的磁盘控制器下
    然后把最常用的表放到该文件组下,这样可以提高对该表的I/O并发率
    这也是最常见的系统优化的一方面4、还有如果数据很重要,还要考虑把数据文件放到 RAID1 或 RAID10 上
    日志文件放到 RAID0 上。...